Humain dans la boucle : le seul modèle d'automatisation par IA auquel nous confions de l'argent

Il existe exactement un modèle que nous accepterons de placer près de l'argent d'un client, et c'est celui avec un humain posté dans la boucle. Tout le reste n'est qu'une démo qui attend de devenir un incident.

Cela tient à trois contrôles. Un point de validation, pour que tout ce qui touche à l'argent ou atteint un client attende qu'une personne dise oui. Un journal d'actions, pour que chaque décision prise par l'agent soit enregistrée avec son raisonnement et vérifiable après coup. Et un plafond strict, pour que la pire journée possible soit bornée à l'avance — un chiffre que vous avez choisi, pas un chiffre que vous découvrez.

Fait ainsi, l'agent rédige et propose ; l'humain approuve et déclenche. Le volume s'effondre tout de même — une personne qui examine 28 décisions préparées fait une fraction du travail que représente la prise de 28 décisions à partir de zéro — mais le jugement, et la responsabilité, restent là où ils doivent être.

Nous dormons tranquilles parce que le système est conçu pour rendre un emballement impossible plutôt qu'improbable. C'est toute la différence entre une automatisation sur laquelle on peut faire tourner une entreprise et une automatisation qu'on peut mettre dans un argumentaire.