コンテキスト ウィンドウについて知っておくべき重要なことは何ですか? JSON {"facts": [2 つ以上の事実のリスト]、"why": "簡単に"} を返します。
モデルのコンテキスト ウィンドウは限られており、システム プロンプト、履歴、ドキュメント、応答など、一度に表示されるテキスト (トークン) の量が制限されています。重要な事実: 枠は有限です - 無限の歴史は収まらず、古いものは追い出されます。ウィンドウ内の各トークンには、リクエストごとに費用と時間がかかります。モデルは現在ウィンドウ内にあるものだけを「記憶」します。モデル自体は過去のチャットを保存しません。限界に近づくと、品質と細部へのこだわりが低下します。したがって、アプリケーションでは、ウィンドウに何を配置するかを自分で決定します。ルール: コンテキスト ウィンドウはモデルのデスクトップであり、モデルの長期記憶ではありません。制限があり、有料なので、必要なものだけをそこに置きます。