安全性と発射前テスト

プロジェクトをリリースするには、セキュリティと検証という 2 つのスキルがなければプロジェクトをリリースできません。セキュリティから始めましょう。AI が作成するコードには、パスワード、キー、アクセスが必要になる場合があります。リクエストに実際のパスワードや個人データを決して挿入しないでください。YOUR_PASSWORD のようなスタブを作成し、AI が表示する実際の値を自分で挿入してください。リクエストで送信したものはすべて制御不能であると考えてください。確認してください。完成した結果は、「準備ができているように見える」ものではなく、テストに合格したものです。チェック手順の短いリストを作成し、手動で実行します。通常のデータを入力し、次に明らかに不正なデータ (空、数字の代わりに文字、巨大な数字) を入力します。シークレットの取り扱い方法を説明し、テストのリストを示し、警告サインに名前を付けます (必須ではないアクセスを要求し、保護を無効にすることを提案します)。本物のデータではなく、架空のデータでテストします。壊れてもかまいません。そして AI に「ここで何が問題になる可能性がありますか? どうすればそれを確認できるでしょうか?」と尋ねます。 — モデル自体が弱点を教えてくれます。よくある間違いは、コードが「実行された」という理由だけでコードを信頼することです。実行されているからといって、コードが正しく計算されるわけではありません。