⚖️数据镜像

工作原理：偏差 - 数据镜像

神经网络通过计算大量文本中的模式来学习。如果其中“医生”站在“他”旁边的次数比“他”多数百倍，则该模型会将这种联系视为语言事实 - 不是因为它是“正确的”，而是因为它在数据中是如此。

因此，AI偏见是数据的一面镜子，而不是机器的恶意。在现实世界的系统中也会出现同样的效果：根据公司过去的决策训练的招聘工具会重复过去的偏见；图片生成器将“领导”绘制为男性，因为训练中此类图片较多。

他们用它做什么：平衡数据、测试模型的公平性、添加规则。作为用户，记住：自信的人工智能答案并不是事实，而是数据中最常见的模式。检查和澄清是AI技能的一部分。您可以在免费课程中进行练习。