LearnAI
Modul 10 · KI-Anwendungssicherheit (Pro) · Lektion 1/5
← Zum Katalog
Aufgabe

Eingabe und Ausgabe sind nicht vertrauenswürdig

Wie gehe ich mit Ein- und Ausgabe um? Geben Sie JSON zurück {"rules": [Liste von 2+ Regeln], "why": "brief"}.

Schalten Sie den Zugriff frei, um Lösungen zur sofortigen KI-Überprüfung einzureichen.Starten Sie kostenlos
KI-Anwendungssicherheitsbasis
💡 Ein Stück Theorie

Wesentliche Änderung der Denkweise: Sowohl Benutzereingaben als auch Modellausgaben sind nicht vertrauenswürdige Daten. Der Benutzer versucht möglicherweise, Ihre Eingabeaufforderung zu unterbrechen. Das Modell gibt möglicherweise falsche, schädliche oder ersetzte Inhalte zurück. Regeln: Fügen Sie die Modellausgabe nicht ohne Escapezeichen direkt in HTML, SQL oder Befehle ein (Risiko von XSS und Injektionen). Validieren Sie die Struktur und den Inhalt der Antwort vor der Verwendung. Begrenzen Sie, was das Modell im Allgemeinen zurückgeben kann (Format, Länge); Behandeln Sie ihren Text als Eingabe eines Außenstehenden und nicht als Code von Ihnen selbst. Regel: Vertrauen Sie der Ausgabe des Modells genauso, wie Sie dem Text eines zufälligen Benutzers vertrauen würden – das heißt, vertrauen Sie nicht, sondern prüfen Sie.

Wie wird es bewertet · bestanden 70

  • 1Gültiges JSON ohne umgebenden Text30%
  • 2Es gibt ein Array rules und why35%
  • 32+ Regeln: Keine Rohausgabe einfügen, validieren, Format begrenzen, als nicht vertrauenswürdig betrachten35%
Ihre AufforderungClaude ⌄