🧠Cửa sổ bộ nhớ

Cách thức hoạt động: cửa sổ ngữ cảnh

AI không nhớ toàn bộ cuộc trò chuyện - tại một thời điểm, nó nhìn thấy một “cửa sổ” giới hạn các tin nhắn gần đây (ngữ cảnh). Trong các mô hình hiện đại, cửa sổ lớn nhưng vẫn hữu hạn: khi cuộc trò chuyện dài hơn cửa sổ, các tin nhắn cũ nhất sẽ bị loại ra và mô hình thực sự không nhận chúng làm đầu vào.

Vì vậy, AI “quên” phần mở đầu của một cuộc trò chuyện dài, làm mất chi tiết từ một tài liệu lớn và có thể mâu thuẫn với những gì nó đã nói trước đó. Anh ấy không lười biếng - những lời này đơn giản là không có trong tác phẩm được đưa cho anh ấy. Trong trò chơi của chúng tôi, cửa sổ được cố tình nhỏ (6 tin nhắn) để có thể nhìn thấy hiệu ứng sau một phút.

Phải làm gì với điều này trong thực tế: giữ những điều quan trọng gần hơn với thông điệp hiện tại, định kỳ lặp lại các chi tiết chính và đừng mong đợi rằng mô hình sẽ ghi nhớ mọi thứ ngay từ đầu. Khả năng đưa nội dung chính vào cửa sổ ngữ cảnh là một phần của kỹ năng nhắc nhở. Bạn có thể thực hành trong một bài học miễn phí.