LearnAI
Modul 10 · Keamanan Aplikasi AI (Pro) · Pelajaran 1/5
← Ke katalog
Tugas

Input dan output tidak dapat dipercaya

Bagaimana cara menangani input dan output? Kembalikan JSON {"rules": [daftar 2+ aturan], "why": "singkat"}.

Buka kunci akses untuk mengirimkan solusi untuk peninjauan AI instan.Mulai secara gratis
Basis Keamanan Aplikasi AI
💡 Sepotong teori

Pergeseran pola pikir utama: Input pengguna DAN output model adalah data yang tidak tepercaya. Pengguna mungkin mencoba menghentikan perintah Anda; Model mungkin menampilkan konten yang salah, berbahaya, atau pengganti. Aturan: Jangan menempelkan keluaran model langsung ke HTML, SQL, atau perintah tanpa keluar (risiko XSS dan suntikan); memvalidasi struktur dan isi respons sebelum digunakan; membatasi apa yang umumnya dapat dikembalikan oleh model (format, panjang); perlakukan teksnya sebagai masukan dari orang luar, dan bukan sebagai kode dari Anda sendiri. Aturan: percayai keluaran model sama seperti Anda mempercayai teks dari pengguna acak - yaitu, jangan percaya, tetapi periksa.

Bagaimana penilaiannya · kelulusan 70

  • 1JSON valid tanpa teks di sekitarnya30%
  • 2Ada larik rules dan why35%
  • 32+ aturan: jangan masukkan keluaran mentah, validasi, batasi format, anggap tidak tepercaya35%
Perintah AndaClaude ⌄