Đầu vào và đầu ra không đáng tin cậy

Sự thay đổi tư duy quan trọng: Cả đầu vào VÀ đầu ra của mô hình của người dùng đều là dữ liệu không đáng tin cậy. Người dùng có thể cố gắng phá vỡ lời nhắc của bạn; Mô hình có thể trả về nội dung không chính xác, có hại hoặc bị thay thế. Quy tắc: Không dán trực tiếp đầu ra của mô hình vào HTML, SQL hoặc các lệnh mà không thoát (nguy cơ XSS và tiêm nhiễm); xác thực cấu trúc và nội dung phản hồi trước khi sử dụng; giới hạn những gì mô hình thường có thể trả về (định dạng, độ dài); coi văn bản của cô ấy là đầu vào từ người ngoài chứ không phải là mã từ chính bạn. Quy tắc: tin cậy chính xác đầu ra của mô hình giống như bạn tin tưởng văn bản từ một người dùng ngẫu nhiên - nghĩa là không tin cậy mà hãy kiểm tra.