语言模型如何工作
LLM 经过大量文本训练来预测下一个单词。这个简单的原则带来了回答、写作和推理的能力。该模型不像人那样“理解”——它根据学习的模式找到合理的延续。
为什么模型肯定是错误的
由于模型生成的是合理性而不是检验真理，因此它可以编造一个事实、一个参考或一个数字，并且在这样做时听起来很自信。这称为幻觉。因此，请务必检查重要事实。
代币、温度、知识前沿
该模型使用令牌（文本片段） - 成本和限制取决于此。温度掌控创造力：越低越稳定，越高越多变。该模型有一个知识边界——一个日期，在此日期之后它不了解世界；新鲜需要外部来源。
这在实践中给出了什么？
了解了这一点，您就可以更聪明地使用模型：您可以清楚地设置任务，检查事实，了解何时需要搜索新数据，并且不会因错误而感到惊讶。了解该工具可以区分受益者和失望者。