LearnAI
Modül 10 · Yapay Zeka Uygulama Güvenliği (Pro) · Ders 1/5
← Kataloğa git
Görev

Giriş ve çıkış güvenilir değil

Giriş ve çıkış nasıl yönetilir? JSON'u döndürün {"rules": [2'den fazla kuralın listesi], "why": "kısa"}.

Anında yapay zeka incelemesi için çözüm gönderme erişiminin kilidini açın.Ücretsiz başlayın
Yapay Zeka Uygulama Güvenliği Tabanı
💡 Bir parça teori

Temel zihniyet değişimi: Hem kullanıcı girişi HEM de model çıkışı güvenilmeyen verilerdir. Kullanıcı isteminizi bozmaya çalışabilir; Model yanlış, zararlı veya değiştirilmiş içerik döndürebilir. Kurallar: Model çıktısını, kaçmadan doğrudan HTML, SQL veya komutlara yapıştırmayın (XSS ve enjeksiyon riski); kullanımdan önce yanıtın yapısını ve içeriğini doğrulamak; modelin genel olarak döndürebileceklerini sınırlandırın (biçim, uzunluk); Metnini kendinizden gelen bir kod olarak değil, dışarıdan gelen bir girdi olarak değerlendirin. Kural: Modelin çıktısına, rastgele bir kullanıcıdan gelen metne güvendiğiniz kadar güvenin; yani güvenmeyin, kontrol edin.

Nasıl değerlendiriliyor · başarılı 70

  • 1Etrafında metin olmayan geçerli JSON30%
  • 2rules ve why dizisi var35%
  • 32'den fazla kural: ham çıktı eklemeyin, doğrulayın, biçimi sınırlayın, güvenilmez olarak değerlendirin35%
İsteminizClaude ⌄