📅 Wat AI weet en wat niet
Het neurale netwerk is niet alwetend: het weet alleen wat er tot een bepaald punt (de afsluitdatum) in de trainingsgegevens stond. Alles wat later gebeurde, lijkt voor haar niet te bestaan. Verplaats de schuifregelaar 'Trainingsdatum' en kijk waar het model u over kan vertellen en wat niet.
Voor gebeurtenissen na de afsluitdatum zal het model óf eerlijk zeggen: ‘Ik weet het niet’, óf, erger nog, met een plausibel antwoord komen. Voor het laatste nieuws, prijzen en feiten verbinden neurale netwerken daarom een zoekopdracht op internet (dit wordt RAG genoemd). Vertrouw nooit op een neuraal netwerk om erachter te komen wat er onlangs is gebeurd zonder dit te controleren.
Hoe het werkt: uiterste datum kennis
Het model wordt één keer aangeleerd op een grote dwarsdoorsnede van teksten die vóór een bepaalde datum zijn verzameld. Hierna wordt haar kennis “bevroren”: ze leest het nieuws niet in realtime en herinnert zich gisteren niet. Daarom heeft elk model een uiterste datum (kennisgrens), waarna er een leegte voor ontstaat.
Het gevaar is dat het model niet altijd eerlijk onwetendheid toegeeft. Vraag haar naar een gebeurtenis na de afsluiting, en ze kan vol vertrouwen met een plausibel maar vals antwoord komen (dit wordt een hallucinatie genoemd). Uiterlijk kan een dergelijk antwoord niet van het echte worden onderscheiden, dus nieuwe feiten, cijfers en data moeten altijd dubbel worden gecontroleerd.
Om het model van nieuwe gegevens te voorzien, verbinden ze het met een internetzoekopdracht of een documentendatabase en plaatsen wat ze vinden direct in de zoekopdracht - deze techniek wordt RAG (retrieval-augmentedgeneration) genoemd. Vandaar de praktische conclusie: vraag voor de feitelijke informatie om een model met zoekmogelijkheden, en voor de belangrijke informatie raadpleegt u de originele bron. Het begrijpen van de grenzen van AI is onderdeel van de AI-vaardigheid en kan in een gratis les worden geoefend.
Begin gratis