¿Existe riesgo de sesgo y qué hacer? Devuelve JSON {"risk": "sí o no", "action": "qué hacer"}.
La IA no es objetiva por defecto. El modelo aprende de los textos de las personas y, junto con el lenguaje, absorbe nuestros prejuicios: de género, culturales y sociales. Si en los datos el médico suele ser “él” y la enfermera “ella”, el modelo reproducirá este estereotipo. Ella no es "malvada", simplemente refleja las estadísticas de los datos. El peligro es que la conclusión sesgada parezca neutral y autorizada. Por lo tanto, en decisiones delicadas (contratación, préstamos, evaluación de personas), no se puede confiar ciegamente en la IA: verificar si el resultado está sesgado, establecer reglas explícitas de equidad, mantener a la persona informada.