让AI说“我不知道”

机制：默认情况下，模型“努力提供帮助”并继续文本，即使没有数据 - 沉默不太可能是它的选择。这意味着必须明确给予不知道的许可。提示技巧：（1）直接指导——“如果不确定，就诚实地说‘我不知道’，不要编造”； （2）来源要求——“只给出你能用来源命名的事实，其余标记为假设”； (3)分离——“将已证实的事实与推测分开。”内部人士：要求模型估计其置信度百分比，并解释它到底不知道什么 - 这大大减少了置信度的捏造，因为任务从“给出答案”变为“评估可靠性”。第二个技巧：在没有内置假设的情况下提出一个问题 - “X 定律存在吗？”而不是“重述X法则”，否则模型将确认一些不存在的东西。一个典型的错误是：相信礼貌的“别弄错了”是有效的——面对无知，我们需要具体的行为规则，而不是要求精确。