タスクのリスクを評価し、エージェントのエラーに対する保護を考え出します。 JSON を返す {"task":"...","riskLevel":"...","riskyPoint":"...","safeguard":"..."}: task - タスク、riskLevel - 低、中、高のいずれか、riskyPoint - 最も危険な場所 (発明または不可逆的な行為が行われる場所)おそらく)、safeguard - どうやって確認しますか。
エージェントには予測可能な弱点があり、それを知ることができれば戦いは半分になります。 1つ目は、決心をするときの自信に満ちた口調です。十分な事実がない場合でも、エージェントは滑らかな答えを返します。つまり、単なるでっちあげの答えです。 2 番目: ループ - ターゲットがぼやけている場合、円を描いて歩き、1 つのステップを繰り返すことができます。 3 つ目は、最初に間違った仮定を立てたため、すべての作業が間違った方向に進んでしまうことです。守備の仕組みはチェックに基づいています。インサイダー トリック: 重要な発言ごとにソースへのリンクと、不確実性についての直接のメモを要求します。「確信がない場合は、その旨を書いてください」。近くにリンクがあると、フィクションを理解しやすくなります。 2 番目の手法は、手順の予算と個別の検証手順です。「実行してから、この基準に従って結果を再確認する」というものです。ステップを制限することで、無限ループに陥るのを防ぎます。よくある間違いは、その自信に満ちた外観と説得力のある詳細のために、答えを信頼してしまうことです。説得力と真実は別物です。タスクのリスクを事前に評価します。リスクが高いほど、検証が厳しくなり、エージェントに与える自律性が低くなります。
アクセスのロックを解除して、AI による即時レビューのためにソリューションを送信します。