Évaluez le risque de la tâche et proposez une protection contre les erreurs des agents. Return JSON {"task":...","riskLevel":...","riskyPoint":...","safeguard": "..."} : task - tâche, riskLevel - l'un des : faible, moyen, élevé, riskyPoint - l'endroit le plus dangereux (où une invention ou une action irréversible est probable), safeguard - comment le vérifier.
Les agents ont des faiblesses prévisibles, et les connaître représente la moitié de la bataille. Premièrement : un ton confiant pour prendre votre décision. S’il n’y a pas suffisamment de faits, l’agent donnera quand même une réponse simple – juste une réponse inventée. Deuxièmement : faire une boucle - il peut marcher en rond, en répétant un pas si la cible est floue. Troisièmement : une hypothèse erronée au départ, qui fait que tout le travail va dans la mauvaise direction. La mécanique de défense est basée sur la mise en échec. Astuce d'initié : exigez un lien vers la source pour chaque déclaration importante et une note directe d'incertitude - "si vous n'êtes pas sûr, écrivez-le". Il est plus facile d'attraper une fiction lorsqu'il y a un lien à proximité. La deuxième technique est un budget d'étapes et une étape de vérification distincte : « faites-le, puis revérifiez le résultat selon ce critère ». Limiter les étapes vous évite d’entrer dans une boucle sans fin. Une erreur courante consiste à se fier à une réponse en raison de son apparence confiante et de ses détails convaincants. La persuasion et la vérité sont deux choses différentes. Évaluez à l’avance le risque de la tâche : plus il est élevé, plus la vérification est stricte et moins vous devez accorder d’autonomie à l’agent.
Débloquez l’accès pour soumettre des solutions pour un examen instantané par l’IA.