👁️ Hacia dónde mira la IA: mecanismo de atención
Para comprender una frase, la IA "mira" palabras relacionadas: este es un mecanismo de atención. Haga clic en una palabra resaltada y vea a qué palabras presta atención el modelo para entender el significado. Ejemplos en inglés: queda más claro con el pronombre "it".
👆 Haz clic en la palabra “eso” y verás a qué se refiere
Thetrophydidn'tfitinthesuitcasebecausewastoobig.
💡 Eso es lo que es "atención"
El mecanismo de atención es el corazón del transformador (la T en GPT). Para cada palabra, el modelo decide qué otras palabras “mirar” para comprender el significado. Así entiende la IA que “eso” es un “trofeo” y no una “maleta”. Miles de conexiones de este tipo al mismo tiempo y comprenderás el idioma.