تقييم مخاطر المهمة والتوصل إلى الحماية ضد أخطاء الوكيل. إرجاع JSON {"task":..."،"،riskLevel":..."،"،riskyPoint":..."،"،safeguard":"..."}: task - مهمة، riskLevel - واحد من: منخفض، متوسط، مرتفع، riskyPoint - أخطر مكان (حيث من المحتمل حدوث اختراع أو إجراء لا رجعة فيه)، safeguard - كيف يمكنك التحقق من ذلك.
لدى العملاء نقاط ضعف يمكن التنبؤ بها، ومعرفتها هي نصف المعركة. أولاً: النبرة الواثقة عند اتخاذ قرارك. إذا لم تكن هناك حقائق كافية، فسيظل الوكيل يقدم إجابة سلسة - مجرد إجابة مختلقة. ثانياً: التكرار: يمكنه المشي في دوائر، مع تكرار خطوة واحدة إذا كان الهدف غير واضح. ثالثاً: افتراض خاطئ في البداية، مما يجعل العمل كله يسير في الاتجاه الخاطئ. تعتمد آليات الدفاع على التحقق. خدعة المطلعين: اطلب رابطًا للمصدر لكل عبارة مهمة وملاحظة مباشرة بعدم اليقين - "إذا لم تكن متأكدًا، فاكتب ذلك". من الأسهل التقاط الخيال عندما يكون هناك رابط قريب. أما الأسلوب الثاني فهو عبارة عن ميزانية من الخطوات وخطوة تحقق منفصلة: “افعل ذلك، ثم تحقق مرة أخرى من النتيجة وفقًا لهذا المعيار”. تقييد الخطوات يمنعك من الدخول في حلقة لا نهاية لها. من الأخطاء الشائعة الثقة في الإجابة بسبب مظهرها الواثق وتفاصيلها المقنعة. الإقناع والحقيقة شيئان مختلفان. قم بتقييم مخاطر المهمة مقدمًا: كلما كانت أعلى، كلما كان التحقق أكثر صرامة وقلت الاستقلالية التي يجب أن تمنحها للوكيل.
فتح إمكانية الوصول لإرسال الحلول لمراجعة الذكاء الاصطناعي الفورية.