Złóż wniosek o weryfikację do widzącej sztucznej inteligencji, aby wychwycić możliwą fabrykację. Zwróć JSON {"prompt":"...""verification_step":"...""risky_assumptions":"..."}: prompt - zadanie, verification_step - technika, która oddzieli uczciwe czytanie od spekulacji, risky_assumptions - co dokładnie AI może wymyślić w tej ramce i jak to wyłapać.
Widząca sztuczna inteligencja nie „fotografuje” prawdy – zakłada najbardziej prawdopodobną. Na wyraźnej fotografii jest to prawie zawsze prawdą, ale na rozmytym, odblaskowym lub przyciętym obszarze model uzupełnia to, co prawdopodobne: myli 3 z 8, czyta tekst, którego nie ma i pewnie podaje niewłaściwą markę. A ton jest tak pewny, jak w przypadku prawidłowej odpowiedzi - to główna pułapka. Technika badania: oddzielny odczyt i interpretacja. Poproś AI, aby najpierw dosłownie przepisał to, co widzi (na przykład każdą cyfrę licznika w kolejności), a ODDZIELNIE - interpretację. Rozbieżność między słowami „przeczytane” i „zakończone” jest sygnałem ostrzegawczym. Druga technika: bezpośrednio poinstruowano go, aby oznaczał to, co nieczytelne, jako „nieznane”, zamiast zgadywać, i wskazywał, na ile jest pewny każdego fragmentu. Ukryta dźwignia: sfotografuj ponownie sporny obszar pod innym lub większym kątem i porównaj dwie odpowiedzi - stabilne dopasowanie jest bardziej niezawodne niż jedno pewne. Typowy błąd nowicjusza: przyjęcie gładkiej, pewnej odpowiedzi jako faktu i pozwolenie sztucznej inteligencji na wypełnienie fikcji ukrytych liczb.
Odblokuj dostęp, aby przesyłać rozwiązania do natychmiastowej oceny AI.