Spraw, aby sztuczna inteligencja powiedziała „nie wiem”

Mechanika: domyślnie model „stara się pomóc” i kontynuuje tekst, nawet jeśli nie ma danych - milczenie jest w tym przypadku mało prawdopodobne. Oznacza to, że pozwolenie na niewiedzenie musi zostać wydane wyraźnie. Techniki szybkiego reagowania: (1) bezpośrednie instrukcje – „jeśli nie jesteś pewien, szczerze powiedz «nie wiem» i nie zmyślaj”; (2) wymóg źródeł – „podawaj tylko fakty, które możesz powiązać ze źródłem, resztę oznacz jako przypuszczenia”; (3) separacja – „oddziel sprawdzone fakty od przypuszczeń”. Insider: poproś model, aby oszacował swoją pewność w procentach i wyjaśnił, CZEGO dokładnie nie wie - to znacznie ogranicza pewne fabrykacje, ponieważ zadanie zmienia się z „podać odpowiedź” na „ocenić wiarygodność”. Drugi trik: sformułuj pytanie bez wbudowanego założenia – „czy prawo X istnieje?” zamiast „powiedzieć ponownie Prawo X”, w przeciwnym razie model potwierdzi coś, co nie istnieje. Typowy błąd: przekonanie, że grzeczne „nie daj się zwieść” działa – potrzebujemy konkretnych zasad postępowania w obliczu niewiedzy, a nie prośby o precyzję.