Retrieval-Augmented Generation (RAG)
Retrieval-Augmented Generation kombiniert ein Sprachmodell mit einer Suche in einer Wissensquelle: Passende Dokumente werden zuerst abgerufen und dann als Kontext an das Modell übergeben, das darauf gestützt antwortet. Das reduziert Halluzinationen und ermöglicht aktuelle, belegbare Antworten – ohne das Modell neu zu trainieren.
Was Retrieval-Augmented Generation für dein Unternehmen bedeutet
RAG ist für viele Unternehmen der praktischste Weg, KI mit eigenem Wissen arbeiten zu lassen: Handbücher, Produktdaten, Richtlinien oder Serviceberichte bleiben in der eigenen Ablage, das Modell greift bei jeder Frage gezielt darauf zu. Die Qualität hängt stark von der Pflege der Quellen ab. Veraltete oder widersprüchliche Dokumente führen zu veralteten oder widersprüchlichen Antworten.
Beispiel aus der Praxis: Ein Hersteller von Heizungstechnik stellt seinen Servicetechnikern einen Assistenten bereit, der Fragen anhand der aktuellen Montageanleitungen und Fehlercodelisten beantwortet. Jede Antwort verweist auf das Quelldokument. Findet das System nichts Passendes, sagt es das, statt zu raten, und der Techniker ruft den Innendienst an.
Häufige Fragen zu Retrieval-Augmented Generation
Verwandt, aber nicht dasselbe. Beim Hochladen steht das Dokument meist nur für dieses Gespräch zur Verfügung. Ein RAG-System durchsucht dagegen eine dauerhaft gepflegte Wissenssammlung und gibt dem Modell zu jeder Frage nur die passenden Abschnitte mit. Das funktioniert auch bei sehr vielen Dokumenten.
Nicht zwingend. Es gibt Cloud-Dienste und Funktionen in gängiger Unternehmenssoftware, die RAG ohne eigene Infrastruktur ermöglichen. Ein eigener Betrieb kann sinnvoll sein, wenn sehr sensible Daten im Haus bleiben sollen. Entscheidend ist, dass Zugriffsrechte beachtet werden und niemand über die KI Dokumente sieht, die er sonst nicht sehen darf.
Indem du die Quellen pflegst. Lege fest, wer Dokumente einstellt, aktualisiert und alte Fassungen entfernt, und lass das System regelmäßig neu einlesen. Ein kurzer Test mit typischen Fragen nach jeder größeren Änderung zeigt, ob die Antworten noch stimmen.