Faire dire à l'IA "je ne sais pas"

Mécanique : par défaut, le modèle « s'efforce d'aider » et continue le texte, même s'il n'y a pas de données - le silence est une option peu probable pour cela. Cela signifie que la permission de ne pas savoir doit être donnée explicitement. Techniques d'invite : (1) instruction directe : « si vous n'êtes pas sûr, dites honnêtement « je ne sais pas » et n'inventez rien » ; (2) l'exigence des sources - « donnez uniquement les faits que vous pouvez nommer avec la source, marquez le reste comme hypothèse » ; (3) séparation – « séparer les faits vérifiés des conjectures ». Insider : demandez au modèle d'estimer sa confiance en pourcentage et d'expliquer CE QUE il ne sait pas exactement - cela réduit considérablement les fabrications confiantes, car la tâche passe de "donner la réponse" à "évaluer la fiabilité". Deuxième astuce : formuler une question sans hypothèse intégrée : « la loi X existe-t-elle ? au lieu de « raconter la loi X », sinon le modèle confirmera quelque chose qui n'existe pas. Une erreur typique : croire qu’un « ne vous trompez pas » poli fonctionne : nous avons besoin de règles de comportement spécifiques face à l’ignorance, plutôt que d’une demande d’être précis.