Kontextfenster

Das Kontextfenster ist die maximale Textmenge – gemessen in Tokens ✕ Ein Token ist die kleinste Texteinheit, mit der ein Sprachmodell arbeitet: meist ein Wort oder Wortteil. Preis und Grenzen werden in Tokens gemessen. Mehr im Glossar → –, die ein Sprachmodell ✕ Ein LLM ist ein KI-Modell, das mit riesigen Textmengen trainiert wurde, um Sprache zu verstehen und zu erzeugen. Es ist der Motor hinter Assistenten wie ChatGPT. Mehr im Glossar → auf einmal berücksichtigen kann, einschließlich deiner Anweisung und seiner eigenen Antwort. Es wirkt wie sein Arbeitsgedächtnis: Alles, was hineinpasst, fließt in die Antwort ein; was darüber hinausgeht, geht verloren. In einem langen Gespräch oder beim Einfügen eines umfangreichen Dokuments beginnt das Modell bei Überschreiten der Grenze, das anfangs Gesagte zu „vergessen“, was zu widersprüchlichen Antworten führen kann. Die Fenster sind stark gewachsen, von wenigen Tausend Tokens bis zu Hunderttausenden bei den fortschrittlichsten Modellen, was das Arbeiten mit ganzen Büchern oder Codebasen erlaubt. Diese Grenze zu kennen hilft, Anfragen gut zu strukturieren und zu verstehen, warum die KI ✕ Künstliche Intelligenz ist die Fähigkeit eines Computersystems, Aufgaben zu erledigen, die wir mit menschlicher Intelligenz verbinden – etwa Sprache verstehen, Bilder erkennen oder Entscheidungen treffen. Mehr im Glossar → manchmal den Faden verliert.