Halluzination (KI)

In der künstlichen Intelligenz entsteht eine Halluzination, wenn ein Modell falsche, erfundene oder ungenaue Informationen erzeugt und sie mit derselben Sicherheit wie eine korrekte Tatsache präsentiert. Das passiert, weil ein Sprachmodell ✕ Ein LLM ist ein KI-Modell, das mit riesigen Textmengen trainiert wurde, um Sprache zu verstehen und zu erzeugen. Es ist der Motor hinter Assistenten wie ChatGPT. Mehr im Glossar → keine Faktendatenbank abfragt: Es sagt den plausibelsten Text nach seinen Mustern voraus, und manchmal ist das Plausibelste nicht das Wahre. Es kann Zitate, Daten, Quellen oder Produktfunktionen erfinden, die es nicht gibt. Das ist eine der wichtigsten Grenzen generativer KI ✕ Künstliche Intelligenz ist die Fähigkeit eines Computersystems, Aufgaben zu erledigen, die wir mit menschlicher Intelligenz verbinden – etwa Sprache verstehen, Bilder erkennen oder Entscheidungen treffen. Mehr im Glossar → und der Grund, ihre Antworten zu prüfen – besonders bei medizinischen, rechtlichen oder finanziellen Themen. Techniken wie das Anbinden an echte Quellen ( RAG ✕ RAG verbindet ein Sprachmodell mit einer externen Datenquelle, damit es auf Basis echter, aktueller Informationen antwortet statt nur aus dem Gedächtnis. Mehr im Glossar → ) oder die Bitte um Belege verringern das Problem, beseitigen es aber nicht ganz. Die Faustregel ist klar: nützlich als Assistent, nicht als letzte Quelle der Wahrheit.