⚖️ Cermin data
AI tidak memiliki pendapatnya sendiri - AI mengulangi pola dari teks yang dipelajarinya. Jika “dokter” lebih sering muncul di samping “dia” dalam data, model akan memperkirakan hal tersebut. Putar penggeser data dan lihat bagaimana perkiraan AI berubah. Bias masuk - bias keluar.
Data pelatihan: berapa banyak contoh yang mengatakan "dia"
Cara kerjanya: bias - cermin data
Jaringan saraf belajar dengan menghitung pola dalam teks berukuran besar. Jika di dalamnya “dokter” berdiri di samping “dia” ratusan kali lebih sering, model tersebut mengasimilasi hubungan ini sebagai fakta bahasa - bukan karena “benar”, tetapi karena memang demikian dalam data.
Oleh karena itu, bias AI adalah cerminan data, bukan kejahatan mesin. Efek yang sama juga muncul dalam sistem dunia nyata: alat perekrutan yang dilatih berdasarkan keputusan perusahaan di masa lalu mengulangi bias di masa lalu; generator gambar menggambar “pemimpin” sebagai laki-laki, karena ada lebih banyak gambar seperti itu dalam pelatihan.
Apa yang mereka lakukan dengan data tersebut: menyeimbangkan data, menguji keadilan model, menambahkan aturan. Dan ada gunanya bagi Anda, sebagai pengguna, untuk mengingat: jawaban AI yang percaya diri bukanlah kebenaran, tetapi pola paling umum dalam data. Memeriksa dan mengklarifikasi adalah bagian dari keterampilan AI. Anda dapat berlatih dalam pelajaran gratis.
Mulai secara gratis