Czy istnieje ryzyko stronniczości i co robić? Zwróć JSON {"risk": "tak lub nie", "action": "co robić"}.
Sztuczna inteligencja domyślnie nie jest obiektywna. Model uczy się z tekstów ludzi – i wraz z językiem wchłania nasze uprzedzenia: płciowe, kulturowe, społeczne. Jeśli w danych częściej lekarz jest „on”, a pielęgniarka „ona”, model powieli ten stereotyp. Nie jest „zła” – ona po prostu odzwierciedla statystyki danych. Niebezpieczeństwo polega na tym, że stronniczy wniosek będzie wydawał się neutralny i autorytatywny. Dlatego przy delikatnych decyzjach (zatrudnianie, pożyczki, ocena ludzi) nie można ślepo ufać sztucznej inteligencji: sprawdź wynik pod kątem stronniczości, ustal jasne zasady uczciwości, informuj osobę na bieżąco.