CompitoContro le allucinazioni: permettere di non sapere
Alla modella piace inventare le cose con un tono sicuro. Scrivi un messaggio che chieda un fatto che la modella non può conoscere (fresco/privato) E la obblighi a rispondere onestamente "Non lo so" invece di inventarlo.
Sblocca l'accesso per inviare soluzioni per la revisione istantanea dell'intelligenza artificiale.
Calibrare la fiducia: una meta-abilità per l’era dell’intelligenza artificiale💡 Un pezzo di teoria
Il modello prevede una parola probabile, piuttosto che “sa”. Senza il permesso esplicito di dire "Non lo so", lo inventerà con tono fiducioso: questa è un'allucinazione.
- Il modello ammette la propria ignoranza (dice “non lo so”, ecc.)50%
- Il modello NON ha inventato un fatto specifico, ma lo ha ammesso onestamente50%
Il tuo suggerimentoClaude ⌄