Как сжимать историю диалога? Верни JSON {"how": [список из 2+ приёмов], "why": "кратко"}.
Много смысла — мало токеновКогда диалог длинный, старую часть сжимают в резюме, чтобы сохранить смысл при малом объёме. Как делать: периодически просить модель кратко подытожить прошедшее (решения, факты, договорённости) и дальше нести это резюме вместо сырых сообщений; хранить резюме плюс несколько последних реплик дословно (свежее — точно, старое — сжато); обновлять резюме по мере разговора; беречь важные детали (числа, имена), которые нельзя терять при сжатии. Так контекст остаётся маленьким, но связным. Правило: сжимай старое в резюме, храни свежее дословно — это удерживает смысл длинного диалога в ограниченном окне.