Y a-t-il un risque de biais et que faire ? Renvoyez JSON {"risk": "oui ou non", "action": "que faire"}.
L'IA n'est pas objective par défaut. Le modèle apprend des textes des gens - et avec la langue, il absorbe nos préjugés : de genre, culturels, sociaux. Si dans les données le médecin est plus souvent « il » et l'infirmière « elle », le modèle reproduira ce stéréotype. Elle n'est pas « méchante » - elle reflète simplement les statistiques des données. Le danger est que la conclusion biaisée semble neutre et faisant autorité. Par conséquent, dans les décisions sensibles (embauche, prêts, évaluation des personnes), vous ne pouvez pas faire aveuglément confiance à l'IA : vérifiez le résultat pour déceler tout biais, fixez des règles d'équité explicites, tenez la personne au courant.