컨텍스트 창에 대해 알아야 할 중요한 사항은 무엇입니까? JSON {"facts": [2개 이상의 사실 목록], "why": "간단히"}를 반환합니다.
모델에는 한 번에 표시되는 텍스트(토큰 단위)의 양(시스템 프롬프트, 기록, 문서 및 응답)이 제한된 컨텍스트 창이 있습니다. 주요 사실: 창은 유한합니다. 끝없는 역사는 적합하지 않으며 오래된 것은 강제로 밀려납니다. 창에 있는 각 토큰은 각 요청에 대해 비용과 시간을 소비합니다. 모델은 현재 창에 있는 내용만 "기억"합니다. 모델 자체는 과거 채팅을 저장하지 않습니다. 한계에 가까워지면 품질과 세부 사항에 대한 관심이 감소합니다. 따라서 응용 프로그램에서 창에 무엇을 넣을지 스스로 결정합니다. 규칙: 컨텍스트 창은 모델의 장기 메모리가 아니라 모델의 데스크탑입니다. 제한되어 있고 유료이므로 필요한 것만 넣으십시오.