Önyargı riski var mı ve ne yapmalı? JSON'u döndürün {"risk": "evet veya hayır", "action": "ne yapmalı"}.
Yapay zeka varsayılan olarak nesnel değildir. Model, insanların metinlerinden öğreniyor ve dilin yanı sıra cinsiyet, kültürel, sosyal önyargılarımızı da absorbe ediyor. Verilerde doktor çoğunlukla "o" ve hemşire "kadın" ise, model bu stereotipi yeniden üretecektir. O "kötü" değil - sadece verilerin istatistiklerini yansıtıyor. Tehlike, önyargılı sonucun tarafsız ve otoriter görünmesidir. Bu nedenle, hassas kararlarda (işe alma, kredi verme, insanları değerlendirme) yapay zekaya körü körüne güvenemezsiniz: sonuçları önyargı açısından kontrol edin, açık adalet kuralları belirleyin, kişiyi döngünün içinde tutun.