LearnAI
Module 10 · Sécurité des applications IA (Pro) · Leçon 1/5
← Vers le catalogue
Tâche

Les entrées et sorties ne sont pas fiables

Comment gérer les entrées et sorties ? Renvoyez JSON {"rules": [liste de plus de 2 règles], "why": "brief"}.

Débloquez l’accès pour soumettre des solutions pour un examen instantané par l’IA.Commencez gratuitement
Base de sécurité des applications IA
💡 Un morceau de théorie

Changement de mentalité clé : les entrées de l'utilisateur ET les sorties du modèle sont des données non fiables. L'utilisateur peut essayer d'interrompre votre invite ; Le modèle peut renvoyer du contenu incorrect, nuisible ou substitué. Règles : Ne collez pas la sortie du modèle directement dans du HTML, du SQL ou des commandes sans échappement (risque de XSS et d'injections) ; valider la structure et le contenu de la réponse avant utilisation ; limiter ce que le modèle peut généralement renvoyer (format, longueur) ; traitez son texte comme une entrée provenant d'un étranger et non comme un code provenant de vous-même. Règle : faites confiance à la sortie du modèle exactement autant que vous feriez confiance au texte d'un utilisateur aléatoire - c'est-à-dire ne faites pas confiance, mais vérifiez.

Comment est-il évalué · réussite 70

  • 1JSON valide sans texte autour30%
  • 2Il existe un tableau rules et why35%
  • 32+ règles : ne pas insérer de sortie brute, valider, limiter le format, considérer comme non fiable35%
Votre inviteClaude ⌄