Controle en machtigingen

Hoe onafhankelijker een agent is, hoe belangrijker het is om vooraf te beslissen wat hij kan doen zonder te vragen, en wat hij alleen kan doen met jouw toestemming. Acties zijn onderverdeeld in omkeerbaar (een concept opstellen, gegevens verzamelen, berekenen) en onomkeerbaar (een e-mail sturen, een bestand verwijderen, betalen, publiceren). Het controlemechanisme is eenvoudig: we lossen omkeerbare zaken automatisch op en stellen onomkeerbare zaken vast ter bevestiging. Insider-techniek ‘dry run’: laat de agent eerst laten zien wat hij precies gaat doen (aan wie de brief is, welke tekst, welk bedrag), en wacht op jouw ‘ja’. Je ontdekt een fout voordat deze in de echte wereld gebeurt. De tweede techniek is de stopregel: beschrijf vooraf in welke gevallen de agent verplicht is om te stoppen en u te bellen (het bedrag ligt boven de limiet, er zijn niet genoeg gegevens, de actie heeft gevolgen voor de klant). Een typische fout is om de agent volledige autonomie te geven bij risicovolle handelingen omwille van de “snelheid”: een verkeerde stap bij het verzenden of verwijderen kan niet worden teruggedraaid. De autonomie wordt geleidelijk vergroot: eerst doet de agent een suggestie, u bevestigt deze, en automatische acties worden alleen uitgebreid als de kosten van een fout klein zijn.