👁️ AI 着眼点：注意力机制
为了理解一个短语，人工智能会“查看”相关单词——这是一种注意力机制。单击突出显示的单词，查看模型关注哪些单词以获取含义。英语示例——用代词“it”更清楚。
👆 点击“it”这个词，你会看到它指的是什么
Thetrophydidn'tfitinthesuitcasebecausewastoobig.
💡 这就是“关注”
注意力机制是 Transformer 的核心（GPT 中的 T）。对于每个单词，模型都会决定“查看”哪些其他单词以理解其含义。这就是AI如何理解“它”是“奖杯”而不是“手提箱”。同时进行数以千计的此类连接，您就能理解该语言。