⚖️ Specchio dei dati
L'intelligenza artificiale non ha una propria opinione: ripete gli schemi dei testi da cui ha imparato. Se “dottore” appare più frequentemente accanto a “lui” nei dati, il modello lo prevederà. Ruota i cursori dei dati e osserva come cambiano le previsioni dell'IA. Bias in entrata - bias in uscita.
Dati formativi: quanti esempi dicono "lui"
Come funziona: bias - mirroring dei dati
La rete neurale impara contando modelli in testi di grandi dimensioni. Se in essi il "dottore" sta accanto a "lui" centinaia di volte più spesso, il modello assimila questa connessione come un fatto linguistico - non perché sia "corretto", ma perché lo era nei dati.
Pertanto, la parzialità dell’intelligenza artificiale è uno specchio dei dati, non della malizia della macchina. Lo stesso effetto si manifesta nei sistemi del mondo reale: uno strumento di assunzione addestrato sulle decisioni passate di un'azienda ripete i pregiudizi del passato; il generatore di immagini disegna il "leader" come un uomo, perché durante la formazione c'erano più immagini simili.
Cosa ne fanno: bilanciare i dati, testare l’equità del modello, aggiungere regole. Ed è utile per te, come utente, ricordare: una risposta sicura dell’IA non è la verità, ma lo schema più comune nei dati. Controllare e chiarire fa parte dell'abilità dell'IA. Puoi esercitarti in una lezione gratuita.
Inizia gratuitamente