GPT

GPT (Generative Pre-trained Transformer) is de familie grote taalmodellen die door OpenAI is ontwikkeld en achter ChatGPT zit. De naam vat samen hoe het werkt: het is generatief, omdat het nieuwe tekst produceert; het is voorgetraind, omdat het vóór gebruik van enorme hoeveelheden tekst leert; en het gebruikt de Transformer-architectuur, de basis van het merendeel van de huidige taal-AI. In wezen werkt het door telkens de meest waarschijnlijke volgende teksteenheid (een token) te voorspellen en zo samenhangende antwoorden aaneen te rijgen. De verschillende versies (GPT-3, GPT-4 en later) zijn steeds capabeler geworden. Hoewel "GPT" bijna synoniem is geworden met AI-chatbot, is het slechts een van de modelfamilies die bestaan; andere bedrijven bieden alternatieven. Het deelt ook de typische beperkingen van deze modellen, zoals hallucinaties.