Hoe het taalmodel werkt
LLM is getraind op een enorme hoeveelheid tekst om het volgende woord te voorspellen. Uit dit eenvoudige principe komt het vermogen voort om te antwoorden, te schrijven en te redeneren. Het model 'begrijpt' niet als een persoon - het vindt een plausibele voortzetting op basis van aangeleerde patronen.
Waarom het model zeker ongelijk heeft
Omdat het model plausibiliteit genereert in plaats van de waarheid te testen, kan het een feit, een referentie of een cijfer verzinnen – en daarbij zelfverzekerd overkomen. Dit wordt een hallucinatie genoemd. Controleer daarom altijd belangrijke feiten.
Tokens, temperatuur, kennisgrens
Het model werkt met tokens (stukjes tekst) - de kosten en limieten zijn hiervan afhankelijk. Temperatuur controleert de creativiteit: lager is stabieler, hoger is gevarieerder. En het model heeft een kennisgrens – een datum waarna het niets meer weet over de wereld; vers vereist een externe bron.
Wat levert dit in de praktijk op?
Als u dit weet, gebruikt u het model slimmer: u stelt de taak duidelijk, controleert de feiten, begrijpt wanneer u naar nieuwe gegevens moet zoeken en wordt niet verrast door fouten. Het begrijpen van de tool maakt het verschil tussen degenen die profiteren en degenen die teleurgesteld zijn.