Waar de agent ongelijk heeft en hoe u hem kunt controleren

De agent is geen alwetend orakel, maar een performer die soms op drie manieren fouten maakt: het nemen van verouderde gegevens (een oude cache - een opgeslagen oude kopie van de pagina), het verwarren van vergelijkbare opties (de verkeerde kaart), of het ‘verzinnen’ van een ontbrekend feit, omdat het model de neiging heeft de gaten op te vullen met een plausibel feit. Hallucinatiemechanica (wanneer het model een plausibel maar onwaar feit oplevert): als iets niet op de pagina staat, kan het model een typische waarde vervangen in plaats van een eerlijk “niet gevonden”. Vandaar de regel: vertrouw geen cijfers zonder bron. Techniek: vraagbewijs - “geef voor elke prijs een directe link en een exacte offerte van de pagina.” Een agent kan een verifieerbaar feit nauwelijks vervalsen, maar een fictief feit wordt onmiddellijk aan het licht gebracht. De tweede techniek is om de versheid te controleren: “geef de datum/tijd aan waarop de gegevens zijn ontvangen” en “open de huidige pagina, niet een opgeslagen kopie.” Insider: vraag om kritische feiten (prijs, beschikbaarheid, deadline) letterlijk weer te geven - met een offerte, geen parafrase. Navertellen is de plek waar fouten worden geboren. Een veel voorkomende beginnersfout is dat de zelfverzekerde toon van de agent wordt aangezien voor de waarheid. Modelvertrouwen is niet hetzelfde als nauwkeurigheid; vertrouw alleen op wat wordt ondersteund door een referentie.