LearnAI
Новинки AI · Веб-агенты · درس 7/10
← إلى الكتالوج
مهمة

الأمان: أين يتوقف الوكيل

إعطاء حدود الأمان للوكيل. إرجاع JSON فقط: {"goal":"ما يجوز القيام به"،"allowed":"الإجراءات التي يقوم بها الوكيل بنفسه"،"forbidden":"ما هو ممنوع منعا باتا"،"confirm_before":"الإجراءات فقط بعد تأكيدي الصريح"}

فتح إمكانية الوصول لإرسال الحلول لمراجعة الذكاء الاصطناعي الفورية.
ضع حدود السلامة
💡قطعة نظرية

يعمل وكيل الويب بشكل مستقل - وهذه هي قوته ومخاطره. يمكنه النقر وإدخال البيانات وإرسال النماذج؛ وهذا يعني أنه، من الناحية النظرية، يمكنه الدفع وإرسال شيء ما نيابة عنك. آليات المخاطر: يقوم الوكيل بتحسين تحقيق الهدف ولا يشعر بالعواقب مثل أي شخص - بالنسبة له، "النقر على الدفع" هو مجرد الخطوة التالية نحو النتيجة. لذلك، قمت بتعيين الحدود مقدما. القاعدة الأساسية: قم بتقسيم الإجراءات إلى ثلاث سلال - يمكنك القيام بها بنفسك، ولا يمكنك القيام بها أبدًا، فقط بتأكيدي. الحيلة: احتفظ بالأموال والأسرار بعيدًا عن متناول اليد - لا تمنح حق الوصول إلى بيانات الدفع وكلمات المرور والرموز من الرسائل النصية القصيرة؛ دع الوكيل يقود إلى السلة ويتوقف. الأسلوب الثاني هو "نقطة التأكيد": يقوم الوكيل بأي إجراء لا رجعة فيه (الدفع، إرسال الطلب، الحذف) فقط بعد "نعم" بشكل صريح. من الداخل: قم بصياغة المحظورات بشكل إيجابي ومحدد - "ابق في مرحلة السلة"، وليس عبارة "كن حذرًا" الغامضة. من الأخطاء الشائعة منح حق الوصول إلى الدفع من أجل الراحة. إن توفير بضع دقائق لا يستحق المخاطرة بشطبها في المكان الخطأ.

كيف يتم تقييمه · النجاح 70

  • 1JSON صالح بدون نص حوله30%
  • 2هناك حقول goal، allowed، forbidden، confirm_before30%
  • 3الأسرار والدفع محظور، هناك نقطة تأكيد40%
موجه الخاص بكClaude ⌄
🔒

فتح إمكانية الوصول لإرسال الحلول لمراجعة الذكاء الاصطناعي الفورية.