Verzamel een anti-fictief verzoek. Retourneert JSON {"question":...", "anti_fake_rules":...", "red_flags:..."}. question—onderzoeksvraag; anti_fake_rules - 3-5 regels in het verzoek die fictie verminderen (bijvoorbeeld: markeer vertrouwen, scheid feiten van aannames, schrijf 'Ik weet het niet' in plaats van een gok); red_flags - 2-4 tekens waardoor je een hallucinatie in het antwoord vermoedt.
Mechanica: het neurale netwerk liegt niet met opzet - het completeert de meest plausibele tekst. Als er niet genoeg gegevens zijn, lopen het plausibele en het juiste uiteen: het resultaat is een soepel verzinsel - een niet-bestaand onderzoek, een verzonnen cijfer, een vals citaat. Het is vooral gevaarlijk als de toon zelfverzekerd is. Hefbomen in het verzoek. Laat onwetendheid toe: “Als je het niet zeker weet, schrijf het dan op, verzin het niet.” Afzonderlijke niveaus: “markeer waar het feit is met de bron, en waar is uw veronderstelling.” Verifieerbaarheid vereisen: nauwkeurige citaten en links die kunnen worden geopend. Inzichttechniek: Vraag het model om haar eigen vertrouwen te beoordelen voor elke belangrijke uitspraak (hoog/gemiddeld/laag) en uit te leggen waarop deze is gebaseerd. Een laag vertrouwen is een rode vlag, kijk daar eerst naar. De tweede techniek: stel een controlevraag – vraag naar een feit dat de conclusie zou weerleggen. Als het model dit niet kan, kan de conclusie worden opgerekt. Alarmsignalen: ronde perfecte cijfers, verwijzingen zonder specifieke namen of data, citaten die niet kunnen worden gevonden, antwoord op een beperkte vraag zonder een enkel ‘hangt af van’. Een veelgemaakte fout: vertrouwen op een zelfverzekerde toon. Het vertrouwen van een model zegt niets over gelijk hebben.
Ontgrendel toegang om oplossingen in te dienen voor onmiddellijke AI-beoordeling.