LearnAI
Moduł 10 · Bezpieczeństwo aplikacji AI (Pro) · Lekcja 1/5
← Do katalogu
Zadanie

Dane wejściowe i wyjściowe są niezaufane

Jak obsługiwać wejście i wyjście? Zwróć JSON {"rules": [lista 2+ reguł], "why": "brief"}.

Odblokuj dostęp, aby przesyłać rozwiązania do natychmiastowej oceny AI.Zacznij za darmo
Baza bezpieczeństwa aplikacji AI
💡 Kawałek teorii

Kluczowa zmiana sposobu myślenia: zarówno dane wejściowe użytkownika ORAZ dane wyjściowe modelu są danymi niezaufanymi. Użytkownik może spróbować złamać monit; Model może zwrócić niepoprawną, szkodliwą lub podmienioną treść. Zasady: Nie wklejaj wyników modelu bezpośrednio do HTML, SQL lub poleceń bez ucieczki (ryzyko XSS i zastrzyków); sprawdzić strukturę i treść odpowiedzi przed użyciem; ogranicz to, co model może ogólnie zwrócić (format, długość); traktuj jej tekst jako wkład od osoby z zewnątrz, a nie jako kod od siebie. Reguła: ufaj wynikom modelu dokładnie tak samo, jak ufasz tekstowi przypadkowego użytkownika – czyli nie ufaj, ale sprawdź.

Jak jest oceniane · zaliczenie 70

  • 1Prawidłowy JSON bez tekstu wokół niego30%
  • 2Istnieje tablica rules i why35%
  • 32+ zasady: nie wstawiaj surowych wyników, sprawdzaj poprawność, ograniczaj format, uważaj za niezaufane35%
Twoja zachętaClaude ⌄