⚖️ Datenspiegel
KI hat keine eigene Meinung – sie wiederholt Muster aus den Texten, aus denen sie gelernt hat. Wenn „Arzt“ in den Daten häufiger neben „er“ erscheint, wird dies vom Modell vorhergesagt. Drehen Sie die Datenschieberegler und beobachten Sie, wie sich die KI-Prognose ändert. Bias rein – Bias raus.
Trainingsdaten: Wie viele Beispiele sagen „er“
So funktioniert es: Bias – Datenspiegel
Das neuronale Netzwerk lernt, indem es Muster in großen Texten zählt. Wenn in ihnen „Arzt“ hunderte Male häufiger neben „er“ steht, assimiliert das Modell diesen Zusammenhang als sprachliche Tatsache – nicht weil er „richtig“ ist, sondern weil er in den Daten so war.
Daher ist die KI-Voreingenommenheit ein Spiegel der Daten und nicht die Bösartigkeit der Maschine. Der gleiche Effekt tritt in realen Systemen auf: Ein Einstellungstool, das auf früheren Entscheidungen eines Unternehmens basiert, wiederholt frühere Vorurteile; Der Bildgenerator zeichnet den „Anführer“ als Mann, da es in der Schulung mehr solcher Bilder gab.
Was sie damit machen: die Daten ausgleichen, das Modell auf Fairness testen, Regeln hinzufügen. Und es ist für Sie als Benutzer nützlich, sich daran zu erinnern: Eine sichere KI-Antwort ist nicht die Wahrheit, sondern das häufigste Muster in den Daten. Prüfen und klären gehört zur KI-Kompetenz. Sie können in einer kostenlosen Lektion üben.
Starten Sie kostenlos