Beschreiben Sie die Rechte des Agenten für die Mail-Aufgabe. Geben Sie JSON zurück {"task":"...","autoAllowed":"...","needConfirm":"...","stopRule":"..."}: task - Aufgabe, autoAllowed - umkehrbare Aktionen ohne Aufforderung, needConfirm - irreversible Aktionen nur mit Bestätigung, stopRule - wenn der Agent anhalten und Sie anrufen muss.
Je unabhängiger ein Agent ist, desto wichtiger ist es, im Voraus zu entscheiden, was er tun kann, ohne zu fragen, und was er nur mit Ihrer Erlaubnis tun darf. Aktionen werden in umkehrbare (Entwurf verfassen, Daten sammeln, berechnen) und irreversible (E-Mail senden, Datei löschen, bezahlen, veröffentlichen) unterteilt. Die Kontrollmechanismen sind einfach: Wir lösen reversible Dinge automatisch auf und legen irreversible Dinge zur Bestätigung fest. Insider-Technik „Probelauf“: Lassen Sie den Agenten zunächst zeigen, was genau er tun wird (an wen ist der Brief, welcher Text, welcher Betrag) und warten Sie auf Ihr „Ja“. Man erkennt einen Fehler, bevor er in der realen Welt passiert. Die zweite Technik ist die Stoppregel: Beschreiben Sie im Voraus, in welchen Fällen der Agent verpflichtet ist, anzuhalten und Sie anzurufen (der Betrag liegt über dem Limit, es liegen nicht genügend Daten vor, die Aktion wirkt sich auf den Kunden aus). Ein typischer Fehler besteht darin, dem Agenten aus Gründen der „Geschwindigkeit“ völlige Autonomie bei riskanten Vorgängen zu geben: Ein falscher Schritt beim Senden oder Löschen kann nicht rückgängig gemacht werden. Die Autonomie wird schrittweise erhöht: Zuerst macht der Agent einen Vorschlag, Sie bestätigen ihn und automatische Aktionen werden nur dann ausgeweitet, wenn die Kosten eines Fehlers gering sind.
Schalten Sie den Zugriff frei, um Lösungen zur sofortigen KI-Überprüfung einzureichen.