Khiến AI phải nói "Tôi không biết"

Cơ học: theo mặc định, mô hình “cố gắng trợ giúp” và tiếp tục văn bản, ngay cả khi không có dữ liệu - im lặng là một lựa chọn khó có thể xảy ra đối với nó. Điều này có nghĩa là quyền không biết phải được đưa ra một cách rõ ràng. Kỹ thuật nhắc nhở: (1) hướng dẫn trực tiếp - “nếu không chắc chắn, hãy thành thật nói ‘Tôi không biết’ và đừng bịa đặt”; (2) yêu cầu về nguồn - “chỉ đưa ra những sự thật mà bạn có thể nêu tên theo nguồn, đánh dấu phần còn lại là giả định”; (3) tách biệt—“tách các sự kiện đã được xác minh khỏi phỏng đoán.” Người trong cuộc: yêu cầu mô hình ước tính độ tin cậy của nó theo tỷ lệ phần trăm và giải thích chính xác NHỮNG GÌ nó không biết - điều này làm giảm đáng kể sự bịa đặt tự tin, bởi vì nhiệm vụ thay đổi từ “đưa ra câu trả lời” thành “đánh giá độ tin cậy”. Thủ thuật thứ hai: đặt câu hỏi mà không có giả định sẵn có - “luật X có tồn tại không?” thay vì “kể lại Luật X”, nếu không mô hình sẽ xác nhận điều gì đó không tồn tại. Một sai lầm điển hình: tin rằng câu nói “đừng nhầm” lịch sự sẽ có hiệu quả - chúng ta cần những quy tắc cụ thể cho hành vi khi đối mặt với sự thiếu hiểu biết, thay vì một yêu cầu chính xác.