Beoordeel het risico van de taak en bedenk bescherming tegen agentfouten. Retourneer JSON {"task":...", "riskLevel"...", "riskyPoint"...", "safeguard": task - taak, riskLevel - een van: laag, gemiddeld, hoog, riskyPoint - de gevaarlijkste plaats (waar een uitvinding of onomkeerbare actie waarschijnlijk is), safeguard - hoe controleer je dit.
Agenten hebben voorspelbare zwakke punten, en het kennen ervan is het halve werk. Ten eerste: een zelfverzekerde toon bij het nemen van een besluit. Als er niet genoeg feiten zijn, zal de agent toch een vlot antwoord geven – alleen een verzonnen antwoord. Ten tweede: looping - hij kan in cirkels lopen en één stap herhalen als het doelwit wazig is. Ten derde: een verkeerde aanname in het begin, waardoor al het werk de verkeerde kant op gaat. Het verdedigingsmechanisme is gebaseerd op controle. Insider-truc: eis voor elke belangrijke verklaring een link naar de bron en een directe opmerking over onzekerheid - "als je het niet zeker weet, schrijf dat dan op." Het is gemakkelijker om een fictie te vangen als er een link in de buurt is. De tweede techniek is een stappenbegroting en een aparte verificatiestap: “doe het en controleer vervolgens het resultaat nogmaals volgens dit criterium.” Door stappen te beperken, voorkom je dat je in een eindeloze lus terechtkomt. Een veelgemaakte fout is het vertrouwen op een antwoord vanwege de zelfverzekerde uitstraling en overtuigende details. Overtuigingskracht en waarheid zijn twee verschillende dingen. Beoordeel vooraf het risico van de taak: hoe hoger deze is, hoe strenger de verificatie en hoe minder autonomie u de agent moet geven.
Ontgrendel toegang om oplossingen in te dienen voor onmiddellijke AI-beoordeling.