Ventana de contexto
La ventana de contexto es la cantidad máxima de texto —medida en tokens Un token es la unidad mínima de texto con la que trabaja un modelo de lenguaje: suele ser una palabra o un fragmento de palabra. El precio y los límites se miden en tokens. Más en el glosario → — que un modelo de lenguaje Un LLM es un modelo de IA entrenado con enormes cantidades de texto para entender y generar lenguaje. Es el motor de asistentes como ChatGPT. Más en el glosario → puede tener en cuenta de una sola vez, incluyendo tanto tu instrucción como su propia respuesta. Funciona como su memoria de trabajo: todo lo que quepa dentro se considera al generar la respuesta; lo que se sale, se pierde. En una conversación larga o al pegar un documento extenso, si se supera el límite el modelo empieza a "olvidar" lo dicho al principio, lo que puede provocar respuestas incoherentes. Las ventanas han crecido mucho, desde unos pocos miles de tokens hasta cientos de miles en los modelos más avanzados, lo que permite trabajar con libros enteros o bases de código. Conocer este límite ayuda a estructurar bien lo que se pide y a entender por qué a veces la IA La inteligencia artificial es la capacidad de un sistema informático de realizar tareas que asociamos a la inteligencia humana, como entender lenguaje, reconocer imágenes o tomar decisiones. Más en el glosario → pierde el hilo.