Có nguy cơ thiên vị không và phải làm gì? Trả về JSON {"risk": "có hoặc không", "action": "phải làm gì"}.
AI mặc định không mang tính khách quan. Mô hình học từ văn bản của mọi người - và cùng với ngôn ngữ, nó tiếp thu những định kiến của chúng ta: giới tính, văn hóa, xã hội. Nếu trong dữ liệu, bác sĩ thường là “anh ấy” và y tá là “cô ấy” thì mô hình sẽ tái tạo khuôn mẫu này. Cô ấy không phải là "ác quỷ" - cô ấy chỉ phản ánh số liệu thống kê của dữ liệu. Điều nguy hiểm là kết luận thiên vị có vẻ trung lập và có thẩm quyền. Do đó, trong các quyết định nhạy cảm (tuyển dụng, cho vay, đánh giá con người), bạn không thể tin tưởng AI một cách mù quáng: kiểm tra kết quả xem có sai lệch không, đặt ra các quy tắc công bằng rõ ràng, luôn cập nhật về người đó.