RAG (Retrieval-Augmented Generation)

RAG (Retrieval-Augmented Generation, „abrufgestützte Generierung“) ist eine Technik, die ein Ein LLM ist ein KI-Modell, das mit riesigen Textmengen trainiert wurde, um Sprache zu verstehen und zu erzeugen. Es ist der Motor hinter Assistenten wie ChatGPT. Mehr im Glossar → mit einer Suche in einer externen Datenquelle verbindet. Vor der Antwort sucht das System die relevanten Abschnitte in Dokumenten, einer Wissensdatenbank oder im Web und übergibt sie dem Modell als Kontext, damit es die Antwort daraus formuliert. Das bewirkt zwei wichtige Dinge: Das Modell kann aktuelle oder private Informationen nutzen, die nicht im Training waren, und Eine Halluzination ist, wenn eine KI erfundene oder falsche Informationen im sicheren Ton als wahr ausgibt. Deshalb solltest du ihre Antworten prüfen. Mehr im Glossar → sinken, weil es sich auf echte Texte stützt, die es zudem belegen kann. Es ist die Grundlage vieler Assistenten, die über die Dokumentation eines Unternehmens oder eine bestimmte Sammlung von Dateien Auskunft geben. Fehler verschwinden nicht ganz, aber die Antworten werden deutlich verlässlicher und überprüfbarer.

Artikel dazu