Qu'est-ce qu'il est important de savoir sur la fenêtre contextuelle ? Renvoie JSON {"facts": [liste de plus de 2 faits], "why": "brièvement"}.
Le modèle a une fenêtre contextuelle limitée : la quantité de texte (en jetons) qu'il voit à la fois : l'invite du système, l'historique, les documents et la réponse. Faits clés : la fenêtre est limitée – l’histoire sans fin n’y rentre pas, l’ancien est expulsé ; chaque jeton dans la fenêtre coûte de l'argent et du temps à chaque demande ; le modèle « se souvient » uniquement de ce qui se trouve actuellement dans la fenêtre - il ne stocke pas lui-même les discussions passées ; plus on se rapproche de la limite, plus la qualité et le souci du détail diminuent. Par conséquent, dans l’application, vous décidez vous-même quoi mettre dans la fenêtre. Règle : la fenêtre contextuelle est le bureau du modèle, pas sa mémoire à long terme ; c'est limité et payant, mettez-y seulement ce dont vous avez besoin.