संदर्भ विंडो के बारे में क्या जानना महत्वपूर्ण है? रिटर्न JSON {"facts": [2+ तथ्यों की सूची], "why": "संक्षेप में"}।
मॉडल में एक सीमित संदर्भ विंडो है - यह एक समय में कितना पाठ (टोकन में) देखता है: सिस्टम प्रॉम्प्ट, इतिहास, दस्तावेज़ और प्रतिक्रिया। मुख्य तथ्य: खिड़की सीमित है - अंतहीन इतिहास इसमें फिट नहीं बैठता, पुराना बाहर धकेल दिया जाता है; विंडो में प्रत्येक टोकन पर प्रत्येक अनुरोध पर पैसा और समय खर्च होता है; मॉडल केवल वही "याद रखता है" जो वर्तमान में विंडो में है - यह स्वयं पिछली चैट को संग्रहीत नहीं करता है; सीमा के करीब, गुणवत्ता और विस्तार पर ध्यान में गिरावट। इसलिए, एप्लिकेशन में आप स्वयं निर्णय लें कि विंडो में क्या रखना है। नियम: संदर्भ विंडो मॉडल का डेस्कटॉप है, न कि उसकी दीर्घकालिक मेमोरी; यह सीमित और सशुल्क है, केवल वही डालें जो आपको चाहिए।