Предвзятость AI

AI не объективен по умолчанию. Модель учится на текстах людей — и вместе с языком впитывает наши предубеждения: гендерные, культурные, социальные. Если в данных врач чаще «он», а медсестра «она», модель воспроизведёт этот стереотип. Она не «злая» — просто отражает статистику данных. Опасность в том, что предвзятый вывод выглядит нейтрально и авторитетно. Поэтому в чувствительных решениях (найм, кредиты, оценка людей) нельзя слепо доверять AI: проверяй результат на предвзятость, задавай явные правила справедливости, держи человека в контуре.