Ce que vous approuvez est ce qui s'exécute

Il y a un moment qui détermine si vous osez vraiment confier à un agent IA un travail qui compte. Pas le moment où il rédige une belle proposition. Le moment d'après : vous l'avez lue, vous cliquez sur approuver, et elle disparaît de votre vue. Ce qui se passe dans les secondes qui suivent, il faut vous contenter de le croire.

Avec Stilops, vous n'avez pas à le croire. Ce n'est pas parce que nos intentions seraient meilleures que celles des autres, mais parce que nous avons fait de ce moment unique le cœur du système, plutôt qu'un réglage autour. Ce texte explique ce que cela signifie concrètement — y compris la partie qui n'était pas juste chez nous, et ce que nous avons fait pour y remédier.

La question derrière la question

« Un humain doit donner son accord » figure désormais sur pratiquement toutes les pages produit d'agents IA. C'est une bonne nouvelle : l'idée qu'un logiciel ne doit pas agir en votre nom sans qu'on le lui demande a gagné. Mais cela rend aussi la question importante plus facile à esquiver. Cette question n'est pas de savoir si l'on demande une autorisation. C'est de savoir si ce pour quoi vous avez donné votre autorisation est bien ce qui est exécuté ensuite.

C'est moins évident qu'il n'y paraît. Dans la configuration courante, l'aperçu et l'exécution sont deux chemins distincts. L'aperçu s'exécute de façon restreinte et en lecture seule, et produit un plan — c'est ce que vous lisez. Si vous approuvez, la tâche d'origine est relancée, cette fois avec tous les droits. L'agent repart donc de zéro, et le plan que vous avez examiné ne mène nulle part. Rien n'échoue, rien ne se remarque, et le plus souvent il aboutit au même résultat. Mais la garantie que ce qui s'exécute est ce que vous avez vu n'existe pas.

Nous le savons si précisément parce que cela fonctionnait ainsi chez nous aussi. Un utilisateur a mis le doigt sur la plaie : un test ne mérite la confiance que s'il touche les mêmes règles, les mêmes droits et les mêmes données que l'exécution, et deux chemins séparés finissent inévitablement par diverger. En vérifiant, il s'est avéré que c'était plus grave que ce qu'il avait formulé avec prudence. Les deux chemins ne pouvaient pas seulement diverger — ils faisaient autre chose. Vous approuviez un plan, et c'est une tâche qui s'exécutait.

Une approbation liée à ce que vous avez vu

La solution est moins spectaculaire que le problème, et c'est très bien ainsi. Au moment où une proposition apparaît sur votre écran, une empreinte est calculée sur précisément cela : la tâche et le plan qui en est sorti. Les deux, car ne couvrir que la tâche laisserait passer un plan modifié sans que personne ne le remarque, et inversement. Cette empreinte voyage avec votre clic et est recalculée sur le serveur à partir de ce qui existe réellement à cet instant. Si elles diffèrent, quelque chose a changé entre l'affichage et le clic — et l'approbation n'est pas validée.

Si l'empreinte est absente, elle n'est pas validée non plus. C'est un choix délibéré : ici, il s'agit de savoir si quelqu'un a bien approuvé ce qu'il pensait approuver. Un tel contrôle doit se fermer quand il ne peut pas fonctionner, pas s'ouvrir.

Et la seconde moitié, qui compte au moins autant : le plan approuvé voyage désormais jusqu'à l'exécution. Non comme information de fond, mais comme la tâche elle-même, avec une règle explicite en plus. Si la situation s'avère si différente que le plan ne tient plus, l'agent ne doit pas la résoudre quand même à sa manière. Il explique ce qui diffère et ce qu'il propose maintenant, afin que vous examiniez à nouveau. Votre approbation vaut pour ce plan, pas pour la tâche en général.

Même quand vous approuvez dix propositions à la fois — surtout alors. Un lot reçoit sa propre empreinte sur toutes les propositions qu'il contient, indépendamment de l'ordre. Si une proposition change, ou qu'une s'ajoute ou disparaît entre l'affichage et le clic, tout le lot n'est pas validé. Un clic qui approuve la plupart des choses d'un coup est précisément l'endroit où un contrôle ne doit pas manquer.

Ce que cela vous apporte

1. Vous n'avez pas à vous fier aux bonnes intentions. Ce que vous avez lu est ce qui s'exécute, ou rien ne se fait — c'est un contrôle mécanique, pas une promesse.
2. Hésiter ne vous coûte rien. Une proposition que vous rejetez, c'est comme si rien ne s'était passé : les tests rejetés et ceux encore en attente ne comptent pas dans votre quota mensuel, jusqu'à trois fois le nombre de tâches incluses par mois. Dire non tranquillement de temps en temps est gratuit.
3. Après votre accord, l'agent vérifie d'abord que le travail n'a pas déjà été fait par une autre voie — par un collègue, par vous, en dehors de Stilops. Si c'est le cas, il s'arrête là au lieu de le faire en double.
4. Après coup, tout peut se raconter. Chaque proposition, chaque test et chaque décision figure dans un journal qui n'a aucun bouton de modification ni de suppression, car cette fonction n'existe tout simplement nulle part dans le système.

Pris ensemble, cela change la conversation que vous avez en interne sur l'IA. Plus « avons-nous le droit d'activer ça et que peut-il mal tourner », mais simplement : qui y jette un œil et quand. C'est la différence entre un outil que vous gardez prudemment en lisière de votre travail et un collègue que vous osez placer en plein cœur.

Pourquoi vous ne pouvez pas désactiver l'approbation

Chaque tâche que vous confiez à un agent Stilops démarre comme une proposition. Non parce que c'est le réglage par défaut, mais parce que le serveur la crée ainsi et qu'il n'existe aucune autre voie. Il y a eu autrefois une case à cocher avec laquelle un client pouvait sauter le test. Cette case a disparu, et elle ne reviendra pas — ni comme option avancée, ni comme exception pour de grands clients qui n'en ont « vraiment pas besoin ».

C'est aussi ainsi que nous voyons l'AI Act. Chez nous, la supervision humaine n'est pas un chapitre d'un document de politique qui vit à côté du produit, mais une ligne de code à l'endroit où naissent les tâches. Il en va de même pour le reste : les documents et brouillons de messages qu'un agent rédige sont marqués comme générés par IA par le système lui-même, et non parce que nous l'avons gentiment demandé à l'agent. Une conformité qui dépend d'une consigne est une conformité qui fait défaut un mauvais jour.

Cela nous coûte aussi quelque chose, et cela mérite d'être dit honnêtement. Nous ne pouvons pas prétendre que nos agents font votre travail de façon entièrement autonome pendant que vous dormez. C'est le marché : vous échangez le fantasme de l'autonomie complète contre la certitude qu'il ne se passe rien que vous n'ayez vu. Nous pensons que la forme gagnante de l'IA de travail n'est pas la plus autonome, mais la plus digne de confiance.

Ce qui n'est pas encore terminé

L'empreinte comble l'écart entre ce que vous voyez et ce qui s'exécute. Ce qui reste ouvert, c'est le point d'origine du signalement dans toute sa portée : l'aperçu et l'exécution sont toujours deux voies aux droits différents. Les fusionner en une seule voie, avec un interrupteur qui désactive les effets de bord, est l'étape suivante. Le test ne sera alors plus une bonne approximation de l'exécution, mais littéralement la même exécution, débranchée.

Nous le mentionnons ici parce qu'un fournisseur qui n'énumère que ses points forts ne vous aide pas à l'évaluer. Un point ouvert sur lequel vous pouvez poser des questions vaut plus qu'une affirmation qu'il faut accepter telle quelle.

L'alternative sereine

La crainte autour de l'IA sur le lieu de travail ne porte que rarement sur son intelligence. Elle porte sur l'e-mail parti sans que personne ne le voie, le montant qui a bougé, le client qui a reçu un message que personne n'aurait voulu envoyer. C'est précisément ce silence qui pose problème — et c'est précisément là que nous avons opposé notre propre silence : un agent qui ne se manifeste pas tant qu'il n'y a rien qui mérite votre regard, puis qui demande une fois, clairement, votre attention.

Déléguer le travail sans déléguer le contrôle n'est pas un compromis entre les deux. C'est ce qui reste quand on prend le moment de l'approbation assez au sérieux pour ne pas pouvoir le désactiver. Engagez un agent, confiez-lui une tâche, et regardez ce qui apparaît sur votre écran. Rien ne se passe avant que vous ne l'approuviez — et ce que vous approuvez est ce qui s'exécute.