⚖️ डेटा मिरर
एआई की अपनी राय नहीं है - यह उन पाठों से पैटर्न दोहराता है जिनसे उसने सीखा है। यदि डेटा में "वह" के बगल में "डॉक्टर" अधिक बार दिखाई देता है, तो मॉडल इसकी भविष्यवाणी करेगा। डेटा स्लाइडर्स को घुमाएँ और देखें कि AI पूर्वानुमान कैसे बदलता है। अंदर का पूर्वाग्रह - बाहर का पूर्वाग्रह।
प्रशिक्षण डेटा: कितने उदाहरण कहते हैं "वह"
यह कैसे काम करता है: पूर्वाग्रह - डेटा मिरर
तंत्रिका नेटवर्क विशाल पाठों में पैटर्न की गिनती करके सीखता है। यदि उनमें "डॉक्टर" सैकड़ों गुना अधिक बार "वह" के बगल में खड़ा होता है, तो मॉडल इस संबंध को भाषा के एक तथ्य के रूप में आत्मसात करता है - इसलिए नहीं कि यह "सही" है, बल्कि इसलिए कि डेटा में ऐसा था।
इसलिए, एआई पूर्वाग्रह डेटा का दर्पण है, मशीन का द्वेष नहीं। वास्तविक दुनिया प्रणालियों में भी यही प्रभाव सामने आता है: कंपनी के पिछले निर्णयों पर प्रशिक्षित एक नियुक्ति उपकरण पिछले पूर्वाग्रहों को दोहराता है; चित्र जनरेटर "नेता" को एक आदमी के रूप में खींचता है, क्योंकि प्रशिक्षण में ऐसी और भी तस्वीरें थीं।
वे इसके साथ क्या करते हैं: डेटा को संतुलित करना, निष्पक्षता के लिए मॉडल का परीक्षण करना, नियम जोड़ना। और एक उपयोगकर्ता के रूप में, यह याद रखना आपके लिए उपयोगी है: एक आश्वस्त AI उत्तर सत्य नहीं है, बल्कि डेटा में सबसे सामान्य पैटर्न है। जाँचना और स्पष्ट करना AI कौशल का हिस्सा है। आप निःशुल्क पाठ में अभ्यास कर सकते हैं।
निःशुल्क प्रारंभ करें