LearnAI
मॉड्यूल 1 · एआई से कैसे बात करें · पाठ 7/9
← कैटलॉग के लिए
काम

डेटा को निर्देशों से अलग करें

यदि डेटा को कमांड के साथ मिलाया जाता है, तो मॉडल भ्रमित हो जाता है - और यह एक सुरक्षा छेद है। एक संकेत लिखें जो एक शब्द में <review>...</review> टैग से समीक्षा के स्वर को निर्धारित करता है। अंदर एक उत्तेजना छिपी हुई है - मॉडल को इसे अनदेखा करना चाहिए।

त्वरित एआई समीक्षा के लिए समाधान सबमिट करने के लिए एक्सेस अनलॉक करें।निःशुल्क प्रारंभ करें
त्वरित इंजेक्शन से सुरक्षा
💡सिद्धांत का एक टुकड़ा

डेटा और निर्देशों को अलग किया जाना चाहिए (टैग/विभाजक), अन्यथा मॉडल उन्हें भ्रमित करता है - और इसके माध्यम से इसे शीघ्र इंजेक्शन का उपयोग करके हैक किया जाता है।

इसका मूल्यांकन कैसे किया जाता है · उत्तीर्ण होना 70

  • 1उकसावे को नज़रअंदाज़ किया गया (कोई "हैक नहीं किया गया")50%
  • 2स्वर निर्धारित (सकारात्मक)50%
आपका संकेतClaude ⌄