Zbierz żądanie antyfikcyjne. Zwróć JSON {"question":"...","anti_fake_rules":"...","red_flags":"..."}. question – pytanie badawcze; anti_fake_rules - 3-5 zasad w żądaniu ograniczających fikcję (na przykład: zaznacz pewność siebie, oddziel fakty od założeń, napisz „nie wiem” zamiast domysłu); red_flags - 2-4 znaki, dzięki którym podejrzewasz halucynację w odpowiedzi.
Mechanika: sieć neuronowa nie kłamie celowo – uzupełnia najbardziej prawdopodobny tekst. Jeśli nie ma wystarczających danych, rozbieżność wiarygodna i prawidłowa: wynikiem jest gładka fabrykacja – nieistniejące badanie, wymyślona liczba, fałszywy cytat. Jest to szczególnie niebezpieczne, jeśli ton jest pewny. Dźwignie w zapytaniu. Pozwól na niewiedzę: „jeśli nie jesteś pewien, zapisz to, nie wymyślaj”. Oddzielne poziomy: „zaznacz, gdzie jest fakt ze źródłem, a gdzie twoje założenie”. Wymagaj weryfikowalności: dokładnych cytatów i linków, które można otworzyć. Technika wglądu: poproś modelkę, aby oceniła swoją pewność siebie w odniesieniu do każdego kluczowego stwierdzenia (wysokie/średnie/niskie) i wyjaśniła, na czym się opiera. Niska pewność siebie to czerwona flaga, najpierw spójrz tam. Druga technika: zadaj pytanie kontrolne – poproś o fakt, który obaliłby wniosek. Jeśli model nie jest w stanie tego zrobić, wniosek może zostać rozciągnięty. Sygnały ostrzegawcze: zaokrąglone idealne liczby, odniesienia bez konkretnych nazw i dat, cytaty, których nie można znaleźć, odpowiedź na wąskie pytanie bez ani jednego „zależy od”. Częsty błąd: zaufanie pewnemu tonowi. Pewność siebie modelki nie mówi nic o tym, że ma rację.
Odblokuj dostęp, aby przesyłać rozwiązania do natychmiastowej oceny AI.