LearnAI
Новинки AI · Безопасный AI · Leçon 3/10
← Vers le catalogue
Tâche

Comment reconnaître la fiction IA

Analysez la réponse de l'IA. Return JSON {"red_flags":[...],"suspicious_claim":...","verify_step":"..."} : red_flags - signes d'une possible fiction dans cette réponse ; suspicious_claim - la déclaration la plus douteuse ; verify_step - comment le vérifier en dehors du modèle. Renvoie uniquement JSON, pas de texte autour.

Débloquez l’accès pour soumettre des solutions pour un examen instantané par l’IA.
Attraper des hallucinations
💡 Un morceau de théorie

Mécanique : le générateur de texte prédit le mot suivant en fonction de la probabilité plutôt que de vérifier la vérité. Par conséquent, il invente avec confiance quelque chose qui n'existe pas : des livres, des citations, des statistiques, des liens, des affaires judiciaires inexistantes. Ce n’est pas un « mensonge » : le modèle comble simplement une lacune de manière plausible. Drapeaux rouges : chiffres trop précis sans source, dates précises, volumes et pages dans un sujet étroit, « liens » qui ne sont pas ouverts, confiance ronde là où les experts argumentent. Technique : plus le fait est niche et vérifiable (numéro de la loi, page de l'article, citation avec l'auteur), plus les chances d'invention sont élevées - ce sont les détails que le modèle trouve le plus facilement. Deuxième astuce : poser deux fois la même question de manières différentes - si les réponses sur le « fait » divergent, c'est un signe de fiction, pas de connaissance. Insider : Les hallucinations sont souvent cachées au milieu plausible d’une longue réponse, plutôt que dans des endroits manifestement étranges. Une erreur typique : faire confiance à une réponse simplement parce qu’elle semble confiante et compétente – le style n’est pas la même chose que la vérité.

Comment est-il évalué · réussite 70

  • 1JSON valide sans texte autour20%
  • 2Il y a les champs red_flags, suspicious_claim, verify_step30%
  • 3Les signes et la vérification sont liés à l'exemple50%
Votre inviteClaude ⌄
🔒

Débloquez l’accès pour soumettre des solutions pour un examen instantané par l’IA.