📅 Що AI знає, а що ні
Нейросеть не всезнаюча - вона знає тільки те, що було в її навчальних даних до певного моменту (дата відсічки, cutoff). Все, що сталося пізніше, для неї не існує. Посувай повзунок «дата навчання» і подивися, про що модель зможе розповісти, а про що ні.
Про події після дати відсічення модель або чесно скаже «не знаю», або що гірше вигадає правдоподібну відповідь. Тому для нових новин, цін і фактів нейромережі підключають пошук в інтернеті (це називають RAG). Ніколи не покладайтеся на нейромережу в тому, що трапилося нещодавно без перевірки.
Як це працює: дата відсічення знань
Модель вчать раз на величезному зрізі текстів, зібраному до певної дати. Після цього її знання «заморожуються»: вона не читає новини у реальному часі та не пам'ятає вчорашній день. Тому кожна модель має дату відсічки (knowledge cutoff), за якою для неї — порожнеча.
Небезпека в тому, що модель не завжди чесно визнається у незнанні. Запитайте її про подію після відсічення — і вона може впевнено вигадати правдоподібну, але хибну відповідь (це називають галюцинацією). Зовні таку відповідь не відрізнити від сьогодення, тому свіжі факти, цифри і дати завжди потрібно перевіряти ще раз.
Щоб дати моделі нові дані, до неї підключають пошук в інтернеті або базу документів і підкладають знайдене прямо в запит - цей прийом називають RAG (retrieval-augmented generation). Звідси практичний висновок: для актуального просіть модель з доступом до пошуку, а важливе звіряйте з першоджерелом. Розуміти межі AI є частиною навички роботи з ним, і його можна потренувати на безкоштовному уроці.
Почати безкоштовно