⚖️Dataspiegel
AI heeft geen eigen mening; het herhaalt patronen uit de teksten waarvan het heeft geleerd. Als ‘dokter’ vaker naast ‘hij’ in de gegevens verschijnt, zal het model dit voorspellen. Draai aan de dataschuifregelaars en kijk hoe de AI-voorspelling verandert. Vooroordeel in - vooroordeel uit.
Trainingsgegevens: hoeveel voorbeelden zeggen 'hij'
Hoe het werkt: bias - dataspiegel
Het neurale netwerk leert door patronen in grote teksten te tellen. Als daarin ‘dokter’ honderden keren vaker naast ‘hij’ staat, assimileert het model dit verband als een taalfeit - niet omdat het ‘correct’ is, maar omdat het zo was in de gegevens.
Daarom is AI-bias een spiegel van de data, en niet de boosaardigheid van de machine. Hetzelfde effect treedt op in systemen in de echte wereld: een wervingsinstrument dat is getraind op de beslissingen uit het verleden van een bedrijf herhaalt vooroordelen uit het verleden; de fotogenerator tekent de ‘leider’ als een man, omdat er meer van dergelijke foto’s in de training zaten.
Wat ze ermee doen: de gegevens in evenwicht brengen, het model op eerlijkheid testen, regels toevoegen. En het is handig voor jou als gebruiker om te onthouden: een zelfverzekerd AI-antwoord is niet de waarheid, maar het meest voorkomende patroon in de data. Controleren en verduidelijken is onderdeel van de AI-vaardigheid. Oefenen kan in een gratis les.
Begin gratis