AI视觉限制与验证

有视力的人工智能不会“拍摄”真相——它会假设最有可能的情况。在清晰的照片中，这几乎总是正确的，但在模糊、眩光或裁剪的区域中，模型完成了看似合理的事情：它混淆了 3 和 8，读取了不存在的文本，并自信地命名了错误的品牌。而且语气就像正确答案一样自信——这是主要的陷阱。测试技巧：分开阅读和解释。要求人工智能首先逐字重写它所看到的内容（例如，按顺序计数器的每个数字），然后分别进行解释。 “已读”和“已结论”之间的差异是一个危险信号。第二种技巧：直接指示他将无法读取的内容标记为“未知”，而不是猜测，并表明他对每个片段的信心程度。隐藏杠杆：从不同角度或更大角度重新拍摄有争议的区域，并比较两个答案 - 稳定的匹配比自信的匹配更可靠。一个典型的菜鸟错误：把一个流畅、自信的答案当成事实，然后让人工智能用虚构的东西来填补模糊的数字。