Berikan batasan keamanan pada agen. HANYA kembalikan JSON: {"goal":"apa yang boleh dilakukan","allowed":"tindakan yang dilakukan sendiri oleh agen","forbidden":"apa yang dilarang keras","confirm_before":"tindakan hanya setelah konfirmasi eksplisit dari saya"}
Agen web bertindak secara mandiri - inilah kekuatan dan risikonya. Dia bisa mengklik, memasukkan data, mengirimkan formulir; Artinya, secara teoritis, ia dapat membayar dan mengirimkan sesuatu atas nama Anda. Mekanisme risiko: agen mengoptimalkan pemenuhan tujuan dan tidak merasakan konsekuensinya seperti seseorang - baginya, “klik Bayar” hanyalah langkah berikutnya menuju hasil. Oleh karena itu, Anda menetapkan batasan terlebih dahulu. Aturan dasarnya: bagi tindakan menjadi tiga keranjang - Anda bisa melakukannya sendiri, Anda tidak akan pernah bisa melakukannya, hanya dengan konfirmasi saya. Trik: simpan uang dan rahasia di luar jangkauan - jangan berikan akses ke data pembayaran, kata sandi, kode dari SMS; biarkan agen mengemudi ke keranjang dan berhenti. Teknik kedua adalah “titik konfirmasi”: agen melakukan tindakan yang tidak dapat diubah (pembayaran, pengiriman aplikasi, penghapusan) hanya setelah jawaban “ya” yang jelas. Orang dalam: merumuskan larangan secara positif dan spesifik - “tetap di tahap keranjang”, dan bukan “hati-hati” yang samar-samar. Kesalahan yang umum terjadi adalah memberikan akses pembayaran demi kenyamanan. Menghemat beberapa menit tidak sebanding dengan risiko menuliskannya di tempat yang salah.
Buka kunci akses untuk mengirimkan solusi untuk peninjauan AI instan.