⚖️ 데이터 미러

작동 방식: 편향 - 데이터 미러

신경망은 거대한 텍스트의 패턴을 세어 학습합니다. "의사"가 "그" 옆에 수백 배 더 자주 서 있으면 모델은 이 연결을 언어의 사실로 동화합니다. 그것이 "정확"하기 때문이 아니라 데이터에 있었기 때문입니다.

따라서 AI 편향은 기계의 악의가 아닌 데이터의 거울입니다. 실제 시스템에서도 동일한 효과가 나타납니다. 회사의 과거 결정에 대해 훈련된 채용 도구는 과거 편견을 반복합니다. 그림 생성기는 훈련에 그러한 그림이 더 많았기 때문에 "리더"를 남자로 그립니다.

사용하는 작업: 데이터 균형 조정, 모델의 공정성 테스트, 규칙 추가. 그리고 사용자로서 기억하는 것이 유용합니다. 자신 있는 AI 답변은 진실이 아니라 데이터에서 가장 일반적인 패턴이라는 것입니다. 확인하고 명확하게 하는 것은 AI 기술의 일부입니다. 무료강의로 연습하실 수 있습니다.