⚖️ Miroir de données
L’IA n’a pas sa propre opinion – elle répète les schémas des textes dont elle a appris. Si « médecin » apparaît plus fréquemment à côté de « il » dans les données, le modèle le prédit. Tournez les curseurs de données et observez comment les prévisions de l'IA changent. Biais entrant - biais sortant.
Données de formation : combien d'exemples disent "il"
Comment ça marche : biais - miroir de données
Le réseau neuronal apprend en comptant les modèles dans des textes volumineux. Si le « docteur » y est à côté de « il » des centaines de fois plus souvent, le modèle assimile cette connexion comme un fait de langage - non pas parce qu'elle est « correcte », mais parce qu'elle l'était dans les données.
Par conséquent, le biais de l’IA est le miroir des données et non la malveillance de la machine. Le même effet apparaît dans les systèmes du monde réel : un outil de recrutement formé sur les décisions passées d'une entreprise répète les préjugés passés ; le générateur d'images dessine le « leader » sous la forme d'un homme, car il y avait plus d'images de ce type lors de la formation.
Ce qu'ils en font : équilibrer les données, tester l'équité du modèle, ajouter des règles. Et il est utile pour vous, en tant qu’utilisateur, de vous rappeler : une réponse confiante de l’IA n’est pas la vérité, mais le modèle le plus courant dans les données. Vérifier et clarifier fait partie de la compétence de l'IA. Vous pouvez pratiquer lors d'un cours gratuit.
Commencez gratuitement