⚖️ Дзеркало даних
В ІІ немає своєї думки — він повторює закономірності з текстів, на яких навчався. Якщо в даних "лікар" частіше стоїть поряд з "він", модель так і передбачить. Покрути повзунки даних та дивись, як змінюється прогноз ІІ. Bias in - bias out.
Дані навчання: скільки прикладів кажуть «він»
Як це працює: bias - дзеркало даних
Нейросеть навчається, вважаючи закономірності у великих текстах. Якщо в них «лікар» у сотні разів частіше стоїть поруч із «він», модель засвоює цей зв'язок як факт мови — не тому, що так «правильно», а тому, що так було в даних.
Тому упередженість ІІ - це дзеркало даних, а не злий намір машини. Той самий ефект спливає у реальних системах: інструмент найму, навчений попередніх рішеннях компанії, повторює минулі перекоси; генератор картинок малює «керівника» чоловіком, тому що таких картинок у навчанні було більше.
Що із цим роблять: балансують дані, тестують модель на справедливість, додають правила. А тобі як користувачеві корисно пам'ятати: впевнена відповідь ІІ – це не істина, а найчастіший патерн із даних. Перевіряти та уточнювати – частина навички роботи з AI. Потренуватися можна на безкоштовному уроці.
Почати безкоштовно