⚖️ Phản chiếu dữ liệu
AI không có quan điểm riêng - nó lặp lại các mẫu từ các văn bản mà nó đã học được. Nếu “bác sĩ” xuất hiện thường xuyên hơn bên cạnh “anh ấy” trong dữ liệu thì mô hình sẽ dự đoán như vậy. Xoay thanh trượt dữ liệu và xem dự báo AI thay đổi như thế nào. Thiên vị vào - thiên vị ra ngoài.
Dữ liệu huấn luyện: có bao nhiêu ví dụ nói "he"
Cách thức hoạt động: thiên vị - nhân bản dữ liệu
Mạng lưới thần kinh học bằng cách đếm các mẫu trong văn bản lớn. Nếu ở họ, “bác sĩ” đứng cạnh “anh ấy” thường xuyên hơn hàng trăm lần, thì mô hình sẽ đồng hóa mối liên hệ này như một thực tế của ngôn ngữ - không phải vì nó “đúng”, mà vì nó đúng trong dữ liệu.
Do đó, sự thiên vị của AI là tấm gương phản ánh dữ liệu chứ không phải ác ý của máy. Hiệu ứng tương tự cũng xuất hiện trong các hệ thống trong thế giới thực: một công cụ tuyển dụng được đào tạo dựa trên các quyết định trong quá khứ của công ty sẽ lặp lại những thành kiến trong quá khứ; Trình tạo hình ảnh thu hút “người lãnh đạo” là một người đàn ông, bởi vì có nhiều hình ảnh như vậy hơn trong quá trình đào tạo.
Họ làm gì với nó: cân bằng dữ liệu, kiểm tra tính công bằng của mô hình, thêm quy tắc. Và điều hữu ích là bạn, với tư cách là người dùng, hãy nhớ: câu trả lời AI đáng tin cậy không phải là sự thật mà là mẫu phổ biến nhất trong dữ liệu. Kiểm tra và làm rõ là một phần của kỹ năng AI. Bạn có thể thực hành trong một bài học miễn phí.
Bắt đầu miễn phí