LearnAI
Новинки AI · AI-агенты · 7/10
← 前往目录
任务

代理哪里出了问题?

评估任务的风险并提出针对代理错误的保护措施。返回 JSON {"task":"...","riskLevel":"...","riskyPoint":"...","safeguard":"..."}:task - 任务,riskLevel - 以下之一:低、中、高,riskyPoint - 最危险的地方(可能出现发明或不可逆转的行为), safeguard - 你如何检查它。

解锁提交解决方案以供即时 AI 审核的权限。
捕获代理错误
💡 一个理论

特工有可预测的弱点,了解它们就成功了一半。第一:下定决心时要有自信的语气。如果没有足够的事实,代理人仍然会给出一个圆滑的答案——只是一个编造的答案。第二:循环 - 他可以绕圈行走,如果目标模糊,则重复一步。第三:一开始的错误假设,导致一切工作都走错了方向。防御机制基于检查。内幕技巧:要求每个重要陈述都有来源链接,并直接注明不确定性 - “如果你不确定,就写下来。”当附近有链接时,更容易阅读小说。第二种技术是步骤预算和单独的验证步骤:“去做,然后根据这个标准仔细检查结果。”限制步骤可以防止您陷入无限循环。一个常见的错误是因为答案自信的外表和令人信服的细节而相信它。说服力和真理是两个不同的东西。提前评估任务的风险:风险越高,验证越严格,给予代理的自主权就越少。

如何评估·通过 70

  • 1周围没有文本的有效 JSON15%
  • 2必填字段就在那里20%
  • 3riskLevel 是有效值之一15%
  • 4险地已定名,防御真实50%
您的提示Claude ⌄
🔒

解锁提交解决方案以供即时 AI 审核的权限。