👁️Yapay zekanın baktığı yer: dikkat mekanizması

Bir cümleyi anlamak için yapay zeka ilgili kelimelere “bakar”; bu bir dikkat mekanizmasıdır. Vurgulanan bir kelimeye tıklayın ve modelin anlamı elde etmek için hangi kelimelere dikkat ettiğini görün. İngilizce örnekler - "it" zamiriyle daha açıktır.

👆 “O” kelimesine tıkladığınızda ne anlama geldiğini göreceksiniz

Thetrophydidn'tfitinthesuitcasebecausewastoobig.

💡 "Dikkat" budur

Dikkat mekanizması dönüştürücünün kalbidir (GPT'deki T). Model, her kelimenin anlamını anlamak için diğer hangi kelimelere "bakılacağına" karar verir. Yapay zeka, "bunun" bir "çanta" değil, "kupa" olduğunu bu şekilde anlıyor. Aynı anda bu tür binlerce bağlantı - ve dili anlıyorsunuz.