Token (IA)

No contexto da IA ✕ A inteligência artificial é a capacidade de um sistema de computador de realizar tarefas que associamos à inteligência humana, como entender linguagem, reconhecer imagens ou tomar decisões. Mais no glossário → , um token é a unidade mínima de texto na qual um modelo de linguagem ✕ Um LLM é um modelo de IA treinado com enormes quantidades de texto para entender e gerar linguagem. É o motor de assistentes como o ChatGPT. Mais no glossário → divide o que lê e escreve. Nem sempre coincide com uma palavra: pode ser uma palavra curta inteira, um pedaço de outra mais longa ou um sinal de pontuação; como regra aproximada, em inglês um token equivale a cerca de quatro letras. Os modelos não veem letras nem palavras como tais, e sim essas peças convertidas em números. O conceito importa na prática por dois motivos: o custo das ferramentas de IA costuma ser calculado por tokens processados, e cada modelo tem um limite máximo de tokens que pode processar de uma só vez (a sua janela de contexto ✕ A janela de contexto é a quantidade de texto que um modelo consegue manter "em mente" de uma vez. Ultrapassá-la faz com que ele esqueça o que foi dito no início. Mais no glossário → ). Por isso, textos muito longos consomem mais e podem não caber por inteiro. Entender os tokens ajuda a estimar custos e a não exceder os limites.