制御と許可

エージェントが独立性が高いほど、何を頼まなくてもできるのか、またあなたの許可がなければ何ができないのかを事前に決めることが重要になります。アクションは、可逆的 (下書きの作成、データの収集、計算) と不可逆的 (電子メールの送信、ファイルの削除、支払い、公開) に分けられます。制御の仕組みは単純です。可逆的なものは自動的に解決され、不可逆的なものは確認用に設定されます。インサイダー テクニック「予行演習」: まずエージェントに、これから何をするつもりなのか (誰に宛てた手紙か、どのような文面、金額か) を示し、あなたの「はい」を待ちます。現実の世界で間違いが起こる前に、間違いに気づくことができます。 2 番目の手法は停止ルールです。どのような場合にエージェントが停止して電話をかけなければならないのかを事前に説明します (金額が制限を超えている、データが不十分である、アクションがクライアントに影響を与える)。典型的な間違いは、「速度」を重視して、危険な操作に関してエージェントに完全な自律性を与えてしまうことです。送信または削除で 1 つの間違った手順を実行すると、ロールバックできなくなります。自律性は徐々に強化されます。まず、エージェントが提案を行い、ユーザーが確認し、エラーのコストが小さい場合にのみ自動アクションが拡張されます。