Besteht die Gefahr einer Voreingenommenheit und was ist zu tun? Geben Sie JSON zurück {"risk": "ja oder nein", "action": "was zu tun ist"}.
KI ist standardmäßig nicht objektiv. Das Modell lernt aus den Texten der Menschen – und nimmt mit der Sprache auch unsere Vorurteile auf: Geschlecht, Kultur, Soziales. Wenn in den Daten der Arzt häufiger „er“ und die Krankenschwester „sie“ ist, wird das Modell dieses Stereotyp reproduzieren. Sie ist nicht „böse“ – sie spiegelt lediglich die Statistik der Daten wider. Die Gefahr besteht darin, dass die voreingenommene Schlussfolgerung neutral und maßgeblich erscheint. Daher kann man bei sensiblen Entscheidungen (Einstellung, Kredite, Beurteilung von Personen) der KI nicht blind vertrauen: Überprüfen Sie das Ergebnis auf Voreingenommenheit, legen Sie explizite Fairnessregeln fest und halten Sie die Person auf dem Laufenden.