Raccogli una richiesta anti-immaginario. Restituisce JSON {"question":"...","anti_fake_rules":"...","red_flags":"..."}. question—domanda di ricerca; anti_fake_rules - 3-5 regole nella richiesta che riducono la finzione (ad esempio: contrassegnare la fiducia, separare i fatti dalle ipotesi, scrivere "non so" invece di un'ipotesi); red_flags - 2-4 segni con cui sospetti un'allucinazione nella risposta.
Meccanica: la rete neurale non mente di proposito, completa il testo più plausibile. Se non ci sono dati sufficienti, il plausibile e il corretto divergono: il risultato è una facile invenzione, uno studio inesistente, una cifra inventata, una citazione falsa. È particolarmente pericoloso se il tono è fiducioso. Leve nella richiesta. Consenti l’ignoranza: “se non sei sicuro, scrivilo, non inventarlo”. Livelli separati: "segna dove si trova il fatto con la fonte e dov'è la tua ipotesi". Richiede verificabilità: citazioni accurate e collegamenti che possono essere aperti. Tecnica di approfondimento: chiedi al modello di valutare la propria sicurezza per ciascuna affermazione chiave (alta/media/bassa) e spiegare su cosa si basa. La scarsa fiducia è una bandiera rossa, guarda prima lì. La seconda tecnica: porre una domanda di controllo: chiedere un fatto che confuti la conclusione. Se il modello non è in grado di farlo, la conclusione potrebbe essere forzata. Bandiere rosse: numeri tondi perfetti, riferimenti senza nomi o date specifici, citazioni che non possono essere trovate, risposta a una domanda ristretta senza un solo “dipende da”. Un errore comune: fidarsi di un tono fiducioso. La sicurezza di un modello non dice nulla sull'avere ragione.
Sblocca l'accesso per inviare soluzioni per la revisione istantanea dell'intelligenza artificiale.