Thử nghiệm an toàn và trước khi ra mắt

Hai kỹ năng mà dự án không thể phát hành là bảo mật và xác minh. Hãy bắt đầu với vấn đề bảo mật: mã mà AI viết đôi khi yêu cầu mật khẩu, khóa và quyền truy cập. Không bao giờ chèn mật khẩu thực và dữ liệu cá nhân vào một yêu cầu - hãy viết sơ khai như YOUR_PASSWORD và tự chèn giá trị thực, nơi AI sẽ hiển thị cho bạn; Hãy coi mọi thứ bạn gửi trong yêu cầu đều nằm ngoài tầm kiểm soát. Bây giờ hãy kiểm tra. Kết quả cuối cùng không phải là kết quả “có vẻ sẵn sàng”, mà là kết quả đã vượt qua bài kiểm tra. Lập danh sách ngắn các bước kiểm tra và thực hiện chúng theo cách thủ công: nhập dữ liệu bình thường, sau đó nhập dữ liệu không rõ ràng (trống, chữ cái thay vì số, số rất lớn). Mô tả cách bạn xử lý các bí mật, đưa ra danh sách các bài kiểm tra và nêu tên các dấu hiệu cảnh báo (yêu cầu quyền truy cập không cần thiết; đề xuất tắt tính năng bảo vệ). Kiểm tra dữ liệu hư cấu, không phải dữ liệu thực - bạn không ngại phá vỡ nó. Và hỏi AI: “điều gì có thể xảy ra ở đây và làm cách nào để kiểm tra nó?” — bản thân mô hình sẽ cho bạn biết những điểm yếu. Một lỗi phổ biến là tin tưởng vào mã chỉ vì nó “chạy”: chạy không có nghĩa là nó tính toán chính xác.