⚖️ Lustro danych
AI nie ma własnego zdania – powtarza wzorce z tekstów, z których się nauczyła. Jeśli w danych „lekarz” pojawia się częściej obok „on”, model to przewiduje. Przekręć suwaki danych i obserwuj, jak zmienia się prognoza AI. Odchylenie na wejściu - odchylenie na zewnątrz.
Dane treningowe: ile przykładów mówi „on”
Jak to działa: stronniczość – lustro danych
Sieć neuronowa uczy się, licząc wzorce w ogromnych tekstach. Jeśli w nich „lekarz” stoi obok „on” setki razy częściej, model asymiluje to połączenie jako fakt językowy – nie dlatego, że jest „poprawne”, ale dlatego, że tak było w danych.
Dlatego stronniczość sztucznej inteligencji jest lustrem danych, a nie złośliwością maszyny. Ten sam efekt pojawia się w systemach w świecie rzeczywistym: narzędzie do rekrutacji wytrenowane na podstawie wcześniejszych decyzji firmy powtarza uprzedzenia z przeszłości; generator obrazków rysuje „lidera” jako mężczyznę, bo takich obrazków na szkoleniu było więcej.
Co z tym robią: bilansują dane, testują model pod kątem uczciwości, dodają reguły. Ty, jako użytkownik, warto pamiętać: pewna odpowiedź AI nie jest prawdą, ale najczęstszym wzorcem w danych. Sprawdzanie i wyjaśnianie jest częścią umiejętności sztucznej inteligencji. Możesz ćwiczyć na bezpłatnej lekcji.
Zacznij za darmo