RAG

Retrieval-Augmented Generation

RAG steht für Retrieval-Augmented Generation, auf Deutsch etwa „abrufgestützte Textgenerierung“. Das Verfahren kombiniert ein Sprachmodell (KI) mit einer gezielten Suche in einer eigenen Wissensquelle. Die KI antwortet also nicht nur aus ihrem Trainingswissen, sondern greift auf aktuelle, unternehmensspezifische Informationen zu.

So funktioniert RAG

Frage stellen
Ein Nutzer stellt eine Frage, zum Beispiel zu einem Projekt, einem Vertrag oder einer Prozessvorgabe.
Relevante Inhalte finden (Retrieval)
Das System durchsucht hinterlegte Quellen wie Dokumente, Wissensdatenbanken oder Projektdaten und wählt die passendsten Textstellen aus.
Antwort erzeugen (Generation)
Das Sprachmodell formuliert auf Basis dieser Treffer eine verständliche Antwort, idealerweise mit Quellenangabe.

Vorteile von RAG

Aktuelle Antworten
Das Wissen stammt aus den hinterlegten Daten, nicht nur aus dem Training des Modells.
Weniger „Halluzinationen“
Die Antworten stützen sich auf überprüfbare Quellen.
Nachvollziehbarkeit
Die verwendeten Dokumente lassen sich benennen und prüfen.
Datenschutz und Kontrolle
Das Unternehmen bestimmt, auf welche Daten die KI zugreifen darf. Ein aufwendiges Nachtrainieren des Modells entfällt.

RAG im Unternehmensalltag

Gerade für projektorientierte Dienstleister ist RAG interessant: Informationen aus Projektakten, Angeboten, Verträgen oder Wissensdatenbanken lassen sich per Frage in natürlicher Sprache finden, statt sie mühsam manuell zu suchen. Damit eignet sich RAG für den Einsatz in Business-Software wie ERP- und CRM-Systemen.