👁️ Dove sta guardando l'AI: meccanismo di attenzione
Per comprendere una frase, l'intelligenza artificiale "guarda" le parole correlate: questo è un meccanismo di attenzione. Clicca su una parola evidenziata e vedi a quali parole il modello presta attenzione per coglierne il significato. Esempi in inglese: è più chiaro con il pronome "it".
👆 Clicca sulla parola “it” e vedrai a cosa si riferisce
Thetrophydidn'tfitinthesuitcasebecausewastoobig.
💡 Ecco cos'è l'"attenzione".
Il meccanismo dell'attenzione è il cuore del trasformatore (la T in GPT). Per ogni parola, il modello decide quali altre parole “guardare” per comprenderne il significato. È così che l'IA capisce che “esso” è un “trofeo” e non una “valigia”. Migliaia di connessioni simili allo stesso tempo e ottieni una comprensione della lingua.