Esiste il rischio di parzialità e cosa fare? Restituisce JSON {"risk": "sì o no", "action": "cosa fare"}.
L’intelligenza artificiale non è obiettiva per impostazione predefinita. Il modello impara dai testi delle persone e, insieme alla lingua, assorbe i nostri pregiudizi: di genere, culturali, sociali. Se nei dati il medico è più spesso “lui” e l’infermiera “lei”, il modello riprodurrà questo stereotipo. Non è "malvagia": riflette semplicemente le statistiche dei dati. Il pericolo è che la conclusione parziale appaia neutrale e autorevole. Pertanto, nelle decisioni delicate (assunzioni, prestiti, valutazione delle persone), non ci si può fidare ciecamente dell’intelligenza artificiale: controllare che il risultato non sia distorto, stabilire regole esplicite di equità, tenere la persona informata.