Kontextfenster

Das Modell verfügt über ein begrenztes Kontextfenster – wie viel Text (in Tokens) es gleichzeitig sieht: die Systemeingabeaufforderung, den Verlauf, Dokumente und die Antwort. Wichtige Fakten: Das Fenster ist endlich – endlose Geschichte passt nicht hinein, das Alte wird verdrängt; Jeder Token im Fenster kostet bei jeder Anfrage Geld und Zeit. Das Modell „merkt“ sich nur, was sich gerade im Fenster befindet – es selbst speichert keine vergangenen Chats; Näher an die Grenze, nehmen Qualität und Liebe zum Detail ab. Daher entscheiden Sie in der Anwendung selbst, was Sie in das Fenster einfügen. Regel: Das Kontextfenster ist der Desktop des Modells, nicht sein Langzeitgedächtnis; Es ist begrenzt und kostenpflichtig. Legen Sie dort nur das ab, was Sie benötigen.