Apa yang penting untuk diketahui tentang jendela konteks? Kembalikan JSON {"facts": [daftar 2+ fakta], "why": "singkat"}.
Model ini memiliki jendela konteks terbatas - berapa banyak teks (dalam token) yang dilihatnya dalam satu waktu: perintah sistem, riwayat, dokumen, dan respons. Fakta-fakta kunci: jendelanya terbatas - sejarah tanpa akhir tidak cocok, yang lama dipaksa keluar; setiap token di jendela membutuhkan uang dan waktu untuk setiap permintaan; model "mengingat" hanya apa yang saat ini ada di jendela - model itu sendiri tidak menyimpan obrolan sebelumnya; mendekati batas, kualitas dan perhatian terhadap detail menurun. Oleh karena itu, dalam aplikasi Anda memutuskan sendiri apa yang akan dimasukkan ke dalam jendela. Aturan: jendela konteks adalah desktop model, bukan memori jangka panjangnya; itu terbatas dan berbayar, masukkan hanya apa yang Anda butuhkan di sana.