Bestaat er een risico op bias en wat te doen? Retourneer JSON {"risk": "ja of nee", "action": "wat te doen"}.
AI is niet per definitie objectief. Het model leert van de teksten van mensen - en absorbeert samen met de taal onze vooroordelen: gender, cultureel, sociaal. Als in de data de dokter vaker ‘hij’ is en de verpleegkundige ‘zij’, zal het model dit stereotype reproduceren. Ze is niet 'slecht' - ze weerspiegelt eenvoudigweg de statistieken van de gegevens. Het gevaar is dat de bevooroordeelde conclusie neutraal en gezaghebbend overkomt. Daarom kun je bij gevoelige beslissingen (aanwerven, lenen, beoordelen van mensen) niet blindelings op AI vertrouwen: controleer het resultaat op vooringenomenheid, stel expliciete eerlijkheidsregels op, houd de persoon op de hoogte.