Oceń ryzyko zadania i wymyśl zabezpieczenie przed błędami agenta. Zwróć JSON {"task":"...""riskLevel":"...""riskyPoint":"...""safeguard":"..."}: task - zadanie, riskLevel - jedno z: niskie, średnie, wysokie, riskyPoint - miejsce najbardziej niebezpieczne (w którym prawdopodobny jest wynalazek lub nieodwracalne działanie), safeguard - jak sprawdzić to.
Agenci mają przewidywalne słabości, a znajomość ich to połowa sukcesu. Po pierwsze: pewny ton, gdy podejmujesz decyzję. Jeśli faktów będzie mało, agent i tak udzieli gładkiej odpowiedzi – tylko zmyślonej. Po drugie: pętla - może chodzić w kółko, powtarzając jeden krok, jeśli cel jest zamazany. Po trzecie: błędne założenie na początku, które powoduje, że cała praca idzie w złym kierunku. Mechanika obrony opiera się na czekaniu. Sztuczka dla wtajemniczonych: wymagaj linku do źródła każdego ważnego stwierdzenia i bezpośredniej notatki o niepewności – „jeśli nie jesteś pewien, napisz to”. Łatwiej złapać fikcję, gdy w pobliżu znajduje się link. Druga technika to budżet kroków i oddzielny etap weryfikacji: „zrób to, a następnie dwukrotnie sprawdź wynik według tego kryterium”. Ograniczenie kroków zapobiega wpadnięciu w nieskończoną pętlę. Częstym błędem jest zaufanie odpowiedzi ze względu na jej pewny wygląd i przekonujące szczegóły. Perswazja i prawda to dwie różne rzeczy. Oceń ryzyko zadania z wyprzedzeniem: im wyższe, tym bardziej rygorystyczna weryfikacja i tym mniejszą autonomię powinieneś dać agentowi.
Odblokuj dostęp, aby przesyłać rozwiązania do natychmiastowej oceny AI.