Điều quan trọng cần biết về cửa sổ ngữ cảnh là gì? Trả về JSON {"facts": [danh sách hơn 2 sự kiện], "why": "ngắn gọn"}.
Mô hình này có một cửa sổ ngữ cảnh giới hạn - nó nhìn thấy bao nhiêu văn bản (bằng mã thông báo) tại một thời điểm: lời nhắc hệ thống, lịch sử, tài liệu và phản hồi. Sự thật chính: cánh cửa là hữu hạn - lịch sử vô tận không lọt vào, cái cũ bị đẩy ra ngoài; mỗi mã thông báo trong cửa sổ đều tốn tiền và thời gian cho mỗi yêu cầu; mô hình chỉ “ghi nhớ” những gì hiện có trong cửa sổ - bản thân nó không lưu trữ các cuộc trò chuyện trong quá khứ; càng tiến gần đến giới hạn, chất lượng và sự chú ý đến chi tiết càng giảm sút. Do đó, trong ứng dụng, bạn tự quyết định nên đặt gì vào cửa sổ. Quy tắc: cửa sổ ngữ cảnh là màn hình nền của mô hình, không phải bộ nhớ dài hạn của mô hình; nó bị giới hạn và phải trả phí, chỉ đặt những gì bạn cần vào đó.