هل هناك خطر التحيز وماذا تفعل؟ إرجاع JSON {"risk": "نعم أو لا"، "action": "ما يجب فعله"}.
الذكاء الاصطناعي ليس موضوعيًا بشكل افتراضي. يتعلم النموذج من نصوص الأشخاص - ويمتص، جنبًا إلى جنب مع اللغة، تحيزاتنا: الجنس والثقافة والاجتماعية. إذا كان الطبيب في كثير من الأحيان "هو" والممرضة "هي" في البيانات، فسيقوم النموذج بإعادة إنتاج هذه الصورة النمطية. إنها ليست "شريرة" - إنها ببساطة تعكس إحصائيات البيانات. ويكمن الخطر في أن الاستنتاج المتحيز يبدو محايدا وموثوقا. لذلك، في القرارات الحساسة (التوظيف، والقروض، وتقييم الأشخاص)، لا يمكنك أن تثق بشكل أعمى في الذكاء الاصطناعي: تحقق من النتيجة للتأكد من عدم وجود تحيز، وضع قواعد واضحة للعدالة، وأبق الشخص على اطلاع.