Alucinación (IA)

En inteligencia artificial ✕ La inteligencia artificial es la capacidad de un sistema informático de realizar tareas que asociamos a la inteligencia humana, como entender lenguaje, reconocer imágenes o tomar decisiones. Más en el glosario → , una alucinación ocurre cuando un modelo genera información falsa, inventada o inexacta y la presenta con la misma seguridad que un dato correcto. Sucede porque un modelo de lenguaje ✕ Un LLM es un modelo de IA entrenado con enormes cantidades de texto para entender y generar lenguaje. Es el motor de asistentes como ChatGPT. Más en el glosario → no consulta una base de hechos: predice el texto más plausible según sus patrones, y a veces lo más plausible no es lo verdadero. Puede inventar citas, fechas, fuentes o funciones de un producto que no existen. Es una de las limitaciones más importantes de la IA generativa ✕ La IA generativa crea contenido nuevo —texto, imágenes, audio o código— a partir de una instrucción, en vez de solo analizar datos existentes. Más en el glosario → y la razón por la que sus respuestas deben verificarse, sobre todo en temas médicos, legales o financieros. Técnicas como conectar el modelo a fuentes reales ( RAG ✕ RAG conecta un modelo de lenguaje con una fuente de datos externa, para que responda basándose en información real y actualizada en vez de solo su memoria. Más en el glosario → ) o pedirle que cite reducen el problema, pero no lo eliminan del todo. La regla práctica es clara: útil como asistente, no como fuente final de verdad.