📅 Co AI wie, a czego nie
Sieć neuronowa nie jest wszechwiedząca – wie jedynie, co znajdowało się w jej danych treningowych do pewnego momentu (data graniczna). Wszystko, co wydarzyło się później, wydaje się dla niej nie istnieć. Przesuń suwak „data szkolenia” i zobacz, co model może Ci powiedzieć, a czego nie.
W przypadku wydarzeń po dacie granicznej model albo szczerze powie „nie wiem”, albo, co gorsza, wymyśli wiarygodną odpowiedź. Dlatego w celu uzyskania najświeższych wiadomości, cen i faktów sieci neuronowe łączą się z wyszukiwarką internetową (nazywa się to RAG). Nigdy nie polegaj na sieci neuronowej, aby dowiedzieć się, co się ostatnio wydarzyło, bez sprawdzenia.
Jak to działa: data graniczna wiedzy
Modelu uczy się jednorazowo na ogromnym przekroju tekstów zebranych przed określoną datą. Po tym jej wiedza zostaje „zamrożona”: nie czyta wiadomości w czasie rzeczywistym i nie pamięta wczoraj. Dlatego każdy model ma datę odcięcia (odcięcia wiedzy), po przekroczeniu której następuje dla niego pustka.
Niebezpieczeństwo polega na tym, że model nie zawsze szczerze przyznaje się do niewiedzy. Zapytaj ją o wydarzenie po przerwie, a ona z pewnością udzieli wiarygodnej, ale fałszywej odpowiedzi (nazywa się to halucynacją). Zewnętrznie takiej odpowiedzi nie da się odróżnić od prawdziwej, dlatego zawsze należy dokładnie sprawdzić nowe fakty, liczby i daty.
Aby zapewnić modelowi świeże dane, podłączają go do wyszukiwarki internetowej lub bazy dokumentów i umieszczają znalezione informacje bezpośrednio w zapytaniu – technika ta nazywa się RAG (generowanie wspomagane pobieraniem). Stąd praktyczny wniosek: w przypadku faktycznym poproś o model z dostępem do wyszukiwania, a w przypadku ważnych sprawdź w oryginalnym źródle. Zrozumienie ograniczeń sztucznej inteligencji jest częścią umiejętności sztucznej inteligencji i można je ćwiczyć podczas bezpłatnej lekcji.
Zacznij za darmo