入力と出力をどのように処理するか? JSON {"rules": [2 つ以上のルールのリスト], "why": "brief"} を返します。
重要な考え方の変化: ユーザー入力とモデル出力の両方が信頼できないデータです。ユーザーはプロンプトを破ろうとする可能性があります。モデルは、不正確なコンテンツ、有害なコンテンツ、または置換されたコンテンツを返す可能性があります。ルール: モデル出力をエスケープせずに HTML、SQL、またはコマンドに直接貼り付けないでください (XSS およびインジェクションのリスク)。使用前に応答の構造と内容を検証します。モデルが一般に返すことができるもの (形式、長さ) を制限します。彼女のテキストを、あなた自身からのコードとしてではなく、外部からの入力として扱います。ルール: ランダムなユーザーからのテキストを信頼するのと同じくらいモデルの出力を信頼します。つまり、信頼するのではなく、確認します。