Entre le diagnostic macro et l'implementation micro, et ce vide ?

En juillet dernier, Yuval Noah Harari, l'un des penseurs les plus lus de notre epoque, a parle d'IA lors d'un evenement d'entreprise. Sa these etait audacieuse : appeler l'IA un outil est une erreur. Un outil ne decide pas de lui-meme et n'invente rien de nouveau. La presse a imprimer ne pouvait pas choisir ce qu'elle imprimait, la bombe ne pouvait pas choisir ou elle tombait. L'IA d'aujourd'hui, elle, le peut. Ce n'est donc pas un outil mais un agent.

Il est alle un pas plus loin. Ce qui fait reellement tourner le monde, dit-il, c'est l'immense machinerie bureaucratique faite de mots : banques, tribunaux, administrations. Si les humains ont tenu cette machinerie, c'est parce qu'aucune autre entite ne savait manier les mots aussi bien qu'eux. Des lors qu'apparait quelque chose qui les manie mieux, cette machinerie change necessairement de mains. Non pas sous la forme de robots dans la rue, mais sous celle d'un changement discret de qui occupe le siege ou les dossiers sont traites.

Jusqu'ici, il n'y a rien a redire. Il est meme rare de voir une prise de parole publique aussi juste. Seulement, aucune logique en ce monde n'est parfaitement etanche. Le probleme vient ensuite.

Les remedes pointent tous vers l'interieur

Sa these converge vers trois reponses. Investir davantage dans la securite. Mieux faire l'alignement. Moduler le rythme du developpement par la reglementation.

Ces trois reponses relevent de ceux qui construisent les modeles. Or l'immense majorite de ceux qui font tourner des agents ne construisent rien. Ils prennent le modele de quelqu'un d'autre, le branchent sur leur propre activite, y connectent leurs propres comptes et le laissent faire face a leurs propres clients. Pour eux, la part du budget consacree a la securite n'est pas une valeur qu'ils peuvent ajuster.

Et des l'instant ou l'agent quitte le lieu ou le modele a ete construit, la nature du probleme change. Supposons qu'un agent bien aligne traite avec l'agent tout aussi bien aligne d'une autre entreprise, et que les deux se mettent a raconter des choses differentes. A partir de la, on sort de la question de l'alignement. Les deux ont agi correctement selon leurs propres criteres et les resultats divergent malgre tout. Ce dont on a besoin ici, ce n'est pas d'un meilleur modele mais d'un endroit vers lequel pointer pour dire ce qui avait ete convenu.

Le premier arret est ici. Le diagnostic s'adresse au monde entier, tandis que le remede s'adresse a quelques entreprises qui construisent des modeles.

A l'interieur c'est peut-etre un enregistrement, a l'exterieur ce n'est qu'une affirmation

Dans son tableau, l'IA reprend la machinerie bureaucratique en bloc. Un immense juge apparait et les gens vivent sans le comprendre.

Or ce qui se passe reellement differe un peu du tableau qu'il anticipe. Chaque fournisseur epaissit ses enregistrements a l'interieur de sa propre cloture. Quel agent a ete autorise a quoi et a depense combien, tout cela reste consigne en interne avec une precision considerable. Le developpement technique dans cette direction avance bien, dans chaque environnement.

Mais des que l'enregistrement franchit la cloture, son statut change. Aussi precis soit-il, il n'est pour l'autre partie rien de plus ni de moins que l'auto-temoignage (self-testimony) d'une seule partie. Si l'on propose de s'en servir comme preuve dans un litige, la partie qui conserve cette preuve est precisement la partie adverse. C'est une question de position et non d'exactitude, et ce n'est la faute de personne. C'est la meme raison pour laquelle la comptabilite interne d'une entreprise, si exacte soit-elle, ne remplace pas un audit externe.

Ce qui se construit aujourd'hui n'est donc pas un registre unique mais plusieurs registres qui ne se reconnaissent pas entre eux. Et il existe deja plusieurs personnes qui l'ont vu et sont passees a l'action.

La conscience du probleme est deja partagee

Ce qui est interessant, c'est que ces travaux ne sont pas nes en opposition au diagnostic de Harari. Conformement a ce diagnostic, les regles du siege ou l'on traite les dossiers sont en train d'etre redefinies, et ceux qui construisent les normes sont precisement ceux qui les redigent concretement.

Cette partie proprement pratique est absente de son propos. Il ne pouvait sans doute pas la connaitre. Cela s'est joue au cours de la derniere annee, et pour l'essentiel a l'interieur de documents techniques.

Dans les enceintes de normalisation, les projets lies aux agents se sont multiplies de facon visible. Dans quel format loger l'enregistrement d'une decision, avec quoi le signer, comment exprimer la chaine lorsque la delegation passe par plusieurs etapes. Et des personnes qui ne se connaissent pas ont commence a formuler le meme probleme avec presque les memes idees et les memes phrases. On retrouve la meme chose dans les travaux universitaires comme dans les implementations isolees.

Une fois les formats d'enregistrement stabilises en normes, il devient plus facile de poser quelque chose par-dessus. Un etat ou chacun enregistre a sa maniere ne durera sans doute pas longtemps. Pour l'instant, on peut considerer que le socle permettant de resoudre ce probleme est en train d'etre solidement tasse.

Si le diagnostic est juste, c'est ici qu'il fallait aller. Or le remede de Harari est parti dans l'autre sens. Non pas vers les regles qui s'appliquent une fois le transfert accompli, mais du cote qui cherche a retenir ce transfert.

Mais la aussi, cela s'arrete au meme endroit

Ce que ces travaux fixent, c'est "comment" fabriquer un enregistrement. Ce qu'il contient, comment on le signe, qui le verifie. Une fois le format arrete et les implementations emboitees, le travail est termine.

Ce que devient l'enregistrement une fois accumule tombe hors de ce perimetre. Non pas parce que le perimetre a ete mal trace, mais parce qu'il s'agit d'emblee d'une autre couche.

Le deuxieme arret est ici. L'un s'arrete au "diagnostic", l'autre au "format". Ce sont deux arrets differents, et l'ecart entre eux est plus large qu'il n'y parait.

La question qui reste, apres l'enregistrement

Une fois l'enregistrement fabrique, que devient-il ?

La plupart des enregistrements ne deviennent rien. Ils entrent dans un tiroir, ressortent s'il y a litige, et le plus souvent epuisent leur duree de conservation sans avoir jamais ete ouverts. Pour certains, cela suffit. Un recu, par exemple.

Mais qu'on ajoute le temps a l'equation, et cela se transforme en quelque chose d'une autre nature. Ce qu'un sujet a laisse a l'exterieur de lui pendant longtemps devient en soi le trajet qu'il a parcouru. Ce qu'il a declare vouloir faire et jusqu'ou, et le poids qu'il a accorde a cette declaration : lorsque cela s'accumule, l'accumulation devient a un moment donne plus grande que la somme des enregistrements pris un a un. C'est la meme logique qui fait qu'entre humains on traite differemment un partenaire de longue date. Non parce que chaque transaction fut bonne, mais parce que chacune est restee.

Et cette accumulation a une propriete singuliere. Elle ne s'achete pas. Investissez du capital aujourd'hui pour produire mille entrees, et les mille resteront des entrees faites aujourd'hui. Ce qui demande du temps ne se fabrique qu'avec du temps. Le format des enregistrements peut etre normalise, et mieux vaut qu'il le soit, mais l'accumulation n'est pas un objet de normalisation. Elle ne se detient que par chacun, dans le temps de chacun.

C'est a partir de la que se trouve la place encore vide. Ce qu'il faut enregistrer se met en ordre en plusieurs endroits, tandis que le role que joue ensuite ce qui s'est accumule reste peu discute.

Une direction

Il n'est pas question d'affirmer que ce soit la seule reponse. Les manieres d'aborder ce probleme sont plusieurs, et laquelle subsistera reste inconnu.

Decision Anchor a simplement choisi une direction. Avant qu'une decision ne soit executee, ce qui a ete convenu et jusqu'ou cela s'etend est laisse dans un endroit auquel aucune des parties ne peut toucher. Le contenu n'est pas emporte. Ce qui a ete decide, c'est a celui qui l'a decide de le savoir ; ce dont on a besoin a l'exterieur, c'est uniquement quand, et dans quelle limite. Et ce que ces enregistrements deviennent avec le temps est laisse a ceux qui les deposent et a ceux qui les lisent.

Il ne juge pas. Il ne predit pas. Il n'intervient pas. Il ne regarde pas a l'interieur.

Cette liste n'est pas de la modestie mais un choix. Des l'instant ou l'on dit ce qui etait juste, l'enregistrement cesse d'etre un enregistrement pour devenir un verdict ; des l'instant ou l'on indique une direction, ce n'est plus un environnement mais un pouvoir. Chaque place laissee vacante laisse a un autre de quoi la remplir.

Le diagnostic est deja largement pose. Les formats seront bientot fixes. Aller au-devant du probleme qui vient ensuite, voila la direction qu'a choisie Decision Anchor.