Contrôle et autorisations

Plus un agent est indépendant, plus il est important de décider à l’avance ce qu’il peut faire sans rien demander, et ce qu’il ne peut faire qu’avec votre permission. Les actions sont divisées en réversibles (rédiger un brouillon, collecter des données, calculer) et irréversibles (envoyer un email, supprimer un fichier, payer, publier). Les mécanismes de contrôle sont simples : nous résolvons automatiquement les éléments réversibles et définissons les éléments irréversibles pour confirmation. Technique d'initié « essai à sec » : laissez l'agent vous montrer d'abord ce qu'il va faire exactement (à qui est la lettre, quel texte, quel montant), et attendez votre « oui ». Vous détectez une erreur avant qu’elle ne se produise dans le monde réel. La deuxième technique est la règle d'arrêt : décrivez à l'avance dans quels cas l'agent est obligé de s'arrêter et de vous appeler (le montant est supérieur à la limite, il n'y a pas assez de données, l'action affecte le client). Une erreur typique est de donner à l'agent une autonomie totale sur les opérations à risque au nom de la « rapidité » : une mauvaise étape lors de l'envoi ou de la suppression ne peut pas être annulée. L'autonomie augmente progressivement : d'abord, l'agent fait une suggestion, vous confirmez, et les actions automatiques ne sont étendues que là où le coût d'une erreur est faible.