⚖️ مرآة البيانات

كيف يعمل: التحيز - مرآة البيانات

تتعلم الشبكة العصبية من خلال حساب الأنماط في النصوص الضخمة. إذا كان "الطبيب" يقف بجانب "هو" مئات المرات في كثير من الأحيان، فإن النموذج يستوعب هذا الارتباط كحقيقة لغة - ليس لأنه "صحيح"، ولكن لأنه كان كذلك في البيانات.

ولذلك، فإن تحيز الذكاء الاصطناعي هو مرآة للبيانات، وليس خبث الآلة. ويظهر التأثير نفسه في أنظمة العالم الحقيقي: أداة التوظيف المدربة على القرارات السابقة للشركة تكرر التحيزات السابقة؛ يرسم منشئ الصور "القائد" كرجل، لأنه كان هناك المزيد من هذه الصور في التدريب.

ماذا يفعلون بها: موازنة البيانات، واختبار النموذج من أجل العدالة، وإضافة القواعد. ومن المفيد لك، كمستخدم، أن تتذكر: إجابة الذكاء الاصطناعي الواثقة ليست الحقيقة، ولكنها النمط الأكثر شيوعًا في البيانات. يعد الفحص والتوضيح جزءًا من مهارة الذكاء الاصطناعي. يمكنك التدرب في درس مجاني.