LearnAI
Новинки AI · Веб-агенты · Pelajaran 7/10
← Ke katalog
Tugas

Keamanan: dimana agen berhenti

Berikan batasan keamanan pada agen. HANYA kembalikan JSON: {"goal":"apa yang boleh dilakukan","allowed":"tindakan yang dilakukan sendiri oleh agen","forbidden":"apa yang dilarang keras","confirm_before":"tindakan hanya setelah konfirmasi eksplisit dari saya"}

Buka kunci akses untuk mengirimkan solusi untuk peninjauan AI instan.
Tetapkan batasan keamanan
💡 Sepotong teori

Agen web bertindak secara mandiri - inilah kekuatan dan risikonya. Dia bisa mengklik, memasukkan data, mengirimkan formulir; Artinya, secara teoritis, ia dapat membayar dan mengirimkan sesuatu atas nama Anda. Mekanisme risiko: agen mengoptimalkan pemenuhan tujuan dan tidak merasakan konsekuensinya seperti seseorang - baginya, “klik Bayar” hanyalah langkah berikutnya menuju hasil. Oleh karena itu, Anda menetapkan batasan terlebih dahulu. Aturan dasarnya: bagi tindakan menjadi tiga keranjang - Anda bisa melakukannya sendiri, Anda tidak akan pernah bisa melakukannya, hanya dengan konfirmasi saya. Trik: simpan uang dan rahasia di luar jangkauan - jangan berikan akses ke data pembayaran, kata sandi, kode dari SMS; biarkan agen mengemudi ke keranjang dan berhenti. Teknik kedua adalah “titik konfirmasi”: agen melakukan tindakan yang tidak dapat diubah (pembayaran, pengiriman aplikasi, penghapusan) hanya setelah jawaban “ya” yang jelas. Orang dalam: merumuskan larangan secara positif dan spesifik - “tetap di tahap keranjang”, dan bukan “hati-hati” yang samar-samar. Kesalahan yang umum terjadi adalah memberikan akses pembayaran demi kenyamanan. Menghemat beberapa menit tidak sebanding dengan risiko menuliskannya di tempat yang salah.

Bagaimana penilaiannya · kelulusan 70

  • 1JSON valid tanpa teks di sekitarnya30%
  • 2Ada bidang goal, allowed, forbidden, confirm_before30%
  • 3Rahasia dan pembayaran dilarang, ada titik konfirmasi40%
Perintah AndaClaude ⌄
🔒

Buka kunci akses untuk mengirimkan solusi untuk peninjauan AI instan.