Apakah ada risiko bias dan apa yang harus dilakukan? Kembalikan JSON {"risk": "ya atau tidak", "action": "apa yang harus dilakukan"}.
AI tidak objektif secara default. Model ini belajar dari teks masyarakat - dan seiring dengan bahasanya, model ini menyerap prasangka kita: gender, budaya, sosial. Jika dalam data dokter lebih sering “dia” dan perawat “dia”, model akan mereproduksi stereotip ini. Dia tidak "jahat" - dia hanya mencerminkan statistik data. Bahayanya adalah kesimpulan yang bias tersebut tampak netral dan berwibawa. Oleh karena itu, dalam pengambilan keputusan yang sensitif (perekrutan, pinjaman, evaluasi orang), Anda tidak bisa begitu saja mempercayai AI: periksa hasil untuk melihat adanya bias, tetapkan aturan keadilan yang eksplisit, dan terus beri tahu orang tersebut.