⚖️ Espejo de datos
La IA no tiene opinión propia: repite patrones de los textos de los que aprendió. Si "doctor" aparece con más frecuencia junto a "él" en los datos, el modelo lo predecirá. Gire los controles deslizantes de datos y observe cómo cambia el pronóstico de la IA. Sesgo hacia adentro - sesgo hacia afuera.
Datos de entrenamiento: cuántos ejemplos dicen "él"
Cómo funciona: sesgo - espejo de datos
La red neuronal aprende contando patrones en textos enormes. Si en ellos "doctor" aparece cientos de veces más al lado de "él", el modelo asimila esta conexión como un hecho del lenguaje, no porque sea "correcta", sino porque así lo era en los datos.
Por lo tanto, el sesgo de la IA es un espejo de los datos, no la malicia de la máquina. El mismo efecto aparece en los sistemas del mundo real: una herramienta de contratación entrenada en las decisiones pasadas de una empresa repite sesgos pasados; el generador de imágenes dibuja al “líder” como un hombre, porque en el entrenamiento había más imágenes de este tipo.
Qué hacen con ellos: equilibrar los datos, probar la equidad del modelo, agregar reglas. Y es útil que usted, como usuario, recuerde: una respuesta segura de la IA no es la verdad, sino el patrón más común en los datos. Verificar y aclarar es parte de la habilidad de la IA. Puedes practicar en una lección gratuita.
Empieza gratis