Alucinação (IA)

Em inteligência artificial ✕ A inteligência artificial é a capacidade de um sistema de computador de realizar tarefas que associamos à inteligência humana, como entender linguagem, reconhecer imagens ou tomar decisões. Mais no glossário → , uma alucinação ocorre quando um modelo gera informação falsa, inventada ou imprecisa e a apresenta com a mesma segurança de um dado correto. Isso acontece porque um modelo de linguagem ✕ Um LLM é um modelo de IA treinado com enormes quantidades de texto para entender e gerar linguagem. É o motor de assistentes como o ChatGPT. Mais no glossário → não consulta uma base de fatos: ele prevê o texto mais plausível segundo os seus padrões, e às vezes o mais plausível não é o verdadeiro. Pode inventar citações, datas, fontes ou funcionalidades de um produto que não existem. É uma das limitações mais importantes da IA generativa ✕ A IA generativa cria conteúdo novo — texto, imagens, áudio ou código — a partir de uma instrução, em vez de apenas analisar dados já existentes. Mais no glossário → e a razão pela qual suas respostas devem ser verificadas, sobretudo em temas médicos, jurídicos ou financeiros. Técnicas como conectar o modelo a fontes reais ( RAG ✕ O RAG conecta um modelo de linguagem a uma fonte de dados externa, para que ele responda com base em informação real e atualizada em vez de apenas sua memória. Mais no glossário → ) ou pedir que ele cite reduzem o problema, mas não o eliminam por completo. A regra prática é clara: útil como assistente, não como fonte final da verdade.