⚖️ Veri aynası
Yapay zekanın kendi görüşü yoktur; öğrendiği metinlerdeki kalıpları tekrarlar. Verilerde "doktor", "o"nun yanında daha sık görünüyorsa model bunu tahmin edecektir. Veri kaydırıcılarını çevirin ve AI tahmininin nasıl değiştiğini izleyin. Önyargı içeri - önyargı dışarı.
Eğitim verileri: kaç örnekte "o" yazıyor
Nasıl çalışır: önyargı - veri aynası
Sinir ağı, büyük metinlerdeki kalıpları sayarak öğrenir. Bunlarda "doktor" "o"nun yanında yüzlerce kez daha sık yer alıyorsa, model bu bağlantıyı bir dil olgusu olarak özümser - "doğru" olduğu için değil, verilerde böyle olduğu için.
Bu nedenle yapay zeka önyargısı, makinenin kötülüğü değil, verilerin bir aynasıdır. Aynı etki gerçek dünyadaki sistemlerde de ortaya çıkıyor: Bir şirketin geçmiş kararları üzerine eğitilmiş bir işe alma aracı, geçmiş önyargıları tekrarlıyor; resim oluşturucu "lideri" bir erkek olarak çiziyor çünkü eğitimde buna benzer daha çok resim vardı.
Bununla yaptıkları şey: verileri dengelemek, modeli adalet açısından test etmek, kurallar eklemek. Bir kullanıcı olarak şunu hatırlamanızda fayda var: Kendinden emin bir yapay zeka yanıtı gerçek değil, verilerdeki en yaygın kalıptır. Kontrol etmek ve netleştirmek yapay zeka becerisinin bir parçasıdır. Ücretsiz derste pratik yapabilirsiniz.
Ücretsiz başlayın