👁️ AI가 보고 있는 곳: 주의 메커니즘
문구를 이해하기 위해 AI는 관련 단어를 "봅니다". 이는 주의 메커니즘입니다. 강조 표시된 단어를 클릭하고 모델이 의미를 파악하기 위해 어떤 단어에 주의를 기울이는지 확인하세요. 영어 예 - 대명사 "it"을 사용하면 더 명확합니다.
👆 "it"이라는 단어를 클릭하면 그것이 무엇을 의미하는지 볼 수 있습니다.
Thetrophydidn'tfitinthesuitcasebecausewastoobig.
💡 그게 바로 '관심'이다
주의 메커니즘은 변환기(GPT의 T)의 핵심입니다. 각 단어에 대해 모델은 의미를 이해하기 위해 "볼" 다른 단어를 결정합니다. 이것이 AI가 '그것'이 '여행가방'이 아니라 '트로피'임을 이해하는 방법이다. 동시에 수천 개의 연결이 이루어지며 언어를 이해하게 됩니다.