Transformer
El transformer es una arquitectura de red neuronal Una red neuronal es un modelo de IA inspirado a grandes rasgos en el cerebro, formado por nodos conectados que se ajustan al aprender. Es la base del aprendizaje profundo. Más en el glosario → , presentada por investigadores de Google en 2017, que revolucionó el procesamiento del lenguaje y es la base de los grandes modelos actuales. Su idea clave es el mecanismo de "atención", que permite al modelo sopesar qué palabras de un texto son más relevantes entre sí, sin importar lo lejos que estén, y así captar el contexto mucho mejor que las técnicas anteriores. Además, procesa el texto en paralelo en lugar de palabra por palabra, lo que lo hace mucho más eficiente de entrenar a gran escala. La "T" de GPT GPT es la familia de grandes modelos de lenguaje de OpenAI que hay detrás de ChatGPT. Genera texto prediciendo, palabra a palabra, la continuación más probable. Más en el glosario → significa precisamente "transformer". Aunque nació para el lenguaje, hoy también se usa en imágenes, audio y otros ámbitos. Es, sin exagerar, la pieza técnica que hizo posible la actual ola de IA generativa La IA generativa crea contenido nuevo —texto, imágenes, audio o código— a partir de una instrucción, en vez de solo analizar datos existentes. Más en el glosario → .