LearnAI
Новинки AI · Веб-агенты · पाठ 7/10
← कैटलॉग के लिए
काम

सुरक्षा: एजेंट को कहाँ रुकना है

एजेंट को सुरक्षा सीमाएं बताएं. केवल JSON लौटाएं: {"goal":"क्या करने की अनुमति है","allowed":"कार्य जो एजेंट स्वयं करता है","forbidden":"क्या सख्त वर्जित है","confirm_before":"मेरी स्पष्ट पुष्टि के बाद ही कार्रवाई"}

त्वरित एआई समीक्षा के लिए समाधान सबमिट करने के लिए एक्सेस अनलॉक करें।
सुरक्षा सीमाएँ निर्धारित करें
💡सिद्धांत का एक टुकड़ा

वेब एजेंट स्वायत्त रूप से कार्य करता है - यही उसकी ताकत और जोखिम है। वह क्लिक कर सकता है, डेटा दर्ज कर सकता है, फॉर्म जमा कर सकता है; इसका मतलब यह है कि, सैद्धांतिक रूप से, यह आपकी ओर से कुछ भुगतान कर सकता है और भेज सकता है। जोखिम यांत्रिकी: एजेंट लक्ष्य की पूर्ति का अनुकूलन करता है और एक व्यक्ति की तरह परिणामों को महसूस नहीं करता है - उसके लिए, "क्लिक पे" परिणाम की दिशा में अगला कदम है। इसलिए, आप पहले से ही सीमाएं निर्धारित कर लें। मूल नियम: कार्यों को तीन टोकरियों में विभाजित करें - आप इसे स्वयं कर सकते हैं, आप इसे कभी नहीं कर सकते, केवल मेरी पुष्टि के साथ। युक्ति: धन और रहस्यों को पहुंच से दूर रखें - एसएमएस से भुगतान डेटा, पासवर्ड, कोड तक पहुंच न दें; एजेंट को टोकरी तक जाने दें और रुकने दें। दूसरी तकनीक "पुष्टि बिंदु" है: एजेंट कोई भी अपरिवर्तनीय कार्रवाई (भुगतान, आवेदन भेजना, हटाना) स्पष्ट "हां" के बाद ही करता है। अंदरूनी सूत्र: निषेधों को सकारात्मक और विशेष रूप से तैयार करें - "टोकरी चरण में रहें", न कि अस्पष्ट "सावधान रहें"। सुविधा के लिए भुगतान तक पहुंच देना एक सामान्य गलती है। कुछ मिनटों की बचत करना इसे गलत जगह लिखने का जोखिम उठाने के लायक नहीं है।

इसका मूल्यांकन कैसे किया जाता है · उत्तीर्ण होना 70

  • 1इसके चारों ओर पाठ के बिना मान्य JSON30%
  • 2फ़ील्ड goal, allowed, forbidden, confirm_before हैं30%
  • 3रहस्य और भुगतान निषिद्ध है, एक पुष्टिकरण बिंदु है40%
आपका संकेतClaude ⌄
🔒

त्वरित एआई समीक्षा के लिए समाधान सबमिट करने के लिए एक्सेस अनलॉक करें।