Avalie o risco da tarefa e crie proteção contra erros do agente. Return JSON {"task":"...","riskLevel":"...","riskyPoint":"...","safeguard":"..."}: task - tarefa, riskLevel - um de: baixo, médio, alto, riskyPoint - o lugar mais perigoso (onde uma invenção ou ação irreversível é provável), safeguard - como você verifica.
Os agentes têm fraquezas previsíveis e conhecê-las é metade da batalha. Primeiro: um tom confiante ao se decidir. Se não houver fatos suficientes, o agente ainda dará uma resposta suave - apenas uma resposta inventada. Segundo: looping - ele pode andar em círculos, repetindo um passo se o alvo estiver desfocado. Terceiro: uma suposição errada no início, que faz com que todo o trabalho vá na direção errada. A mecânica de defesa é baseada em verificação. Truque interno: exija um link para a fonte de cada declaração importante e uma nota direta de incerteza - “se você não tiver certeza, escreva”. É mais fácil captar uma ficção quando há um link por perto. A segunda técnica é um orçamento de etapas e uma etapa de verificação separada: “faça e depois verifique novamente o resultado de acordo com este critério”. Limitar etapas evita que você entre em um loop infinito. Um erro comum é confiar em uma resposta por causa de sua aparência confiante e detalhes convincentes. Persuasão e verdade são duas coisas diferentes. Avalie antecipadamente o risco da tarefa: quanto maior for, mais rigorosa será a verificação e menos autonomia deverá dar ao agente.
Desbloqueie o acesso para enviar soluções para análise instantânea de IA.