La loi a exigé des traces. Mais qui les vérifie ?

Le mois dernier, l'UE a repoussé l'application des obligations relatives aux systèmes à haut risque prévues par son règlement sur l'IA. Les systèmes autonomes passent à décembre 2027, ceux intégrés à des produits déjà réglementés à août 2028. Et il s'agit moins de dates fermes que d'échéances limites : la Commission peut les avancer dès qu'elle constate que les normes sont prêtes.

À l'annonce, beaucoup d'organisations ont soufflé. Une date entourée au calendrier venait de reculer de plus d'un an. La réaction se comprend.

Sauf qu'en regardant pourquoi elle a reculé, il devient plus difficile de se rassurer.

Commençons par le motif du report

La raison avancée tient à ce que les normes techniques harmonisées nécessaires à l'évaluation de la conformité ne sont pas encore prêtes. Fixer une échéance sans avoir arrêté ce sur quoi la conformité doit être démontrée revient à demander aux entreprises de se mesurer à un référentiel inexistant. Les autorités ont reconnu l'impasse et accordé du temps supplémentaire.

Élaborer des normes est un travail difficile, d'autant plus lorsque l'objet visé continue de bouger. Ce n'est donc pas la décision elle-même qui pose problème.

Une chose devient claire en revanche : ce qui a été repoussé, c'est l'échéance, pas la question.

« Sur quoi vous appuierez-vous ? » n'est pas une question inventée par la réglementation. Celle-ci a fixé une date pour y répondre, et déplacer la date ne dissout pas la question. Le fait que les autorités elles-mêmes n'aient pas encore arrêté de réponse revient plutôt à confirmer officiellement que la question est plus ardue qu'il n'y paraît.

En l'absence de norme, deux choses se produisent

La première, vous venez de la voir : le report. Mais certaines dispositions ne peuvent pas être reportées. Les obligations de transparence du même texte sont entrées en application en août comme prévu, et là, c'est autre chose qui s'est passé.

Le quoi était fixé, le comment restait vide : chaque fournisseur s'est mis à appliquer sa propre lecture. Et en annonçant ces mises en œuvre, ils en ont exposé les limites dans le même mouvement. Certains marquages peuvent disparaître si un fichier est converti ou réenregistré. Certains peuvent s'apposer à un texte réellement écrit par une personne. Une édition importante peut les rendre indétectables.

Du côté des lignes directrices, la situation est comparable. Aucune technique isolée ne satisfait à tout ce que le texte demande, donc superposez-en plusieurs : c'est à peu près là que s'arrête ce que les recommandations actuelles peuvent offrir. Faute de pouvoir prescrire une méthode, on conseille une combinaison.

Les deux dispositions semblent opposées, mais la cause est la même. La loi définit ce qui doit être atteint ; la manière d'y parvenir se choisit ensuite, parmi ce qui existe à ce moment-là. Quand il n'y a encore rien à choisir, on reporte, ou on laisse chacun essayer de son côté.

Ce n'est pas une histoire seulement européenne

La loi-cadre coréenne sur l'IA traverse un endroit comparable. Obligations pour les IA à fort impact, évaluation d'impact, exigences de transparence : tout cela figure dans le texte. Qui vient en vérifier les résultats reste, pour l'instant, hors du dispositif. La structure où l'opérateur s'évalue lui-même et se consigne lui-même a été établie d'abord ; la couche qui vérifie ces traces a été laissée pour plus tard.

Deux juridictions, deux textes différents, et le même endroit vide dans les deux.

Ce que la loi a exigé, ce que la loi a supposé

En prenant un peu de recul, une distinction apparaît.

Il y a ce que la loi exige explicitement. Conservez des traces. Gardez-les pendant une durée déterminée. Expliquez sur demande. C'est écrit noir sur blanc, et le manquement se constate assez clairement.

Mais pour que ces exigences tiennent debout, il faut qu'une chose non écrite soit vraie d'abord. Que la trace soit plus tard reçue comme digne de foi. Demander de conserver une trace suppose qu'elle pèsera un jour dans un litige. Sans cela, il n'y aurait aucune raison de la garder.

Aucune disposition ne garantit cette supposition. Le texte dit de conserver, et ne demande jamais entre quelles mains la trace reste.

Le terrain tourne déjà autour de cet endroit

Ce qui est intéressant, c'est que ce sont les discussions professionnelles, et non les textes réglementaires, qui sont arrivées les premières sur place.

Deux exigences reviennent régulièrement dans les guides récents. La première : l'infrastructure chargée de l'audit devrait être gérée indépendamment des systèmes opérationnels qu'elle examine — la séparation des tâches. La seconde : reconstituer une chaîne de responsabilité après des dizaines de décisions intermédiaires réparties entre plusieurs agents reste incertain, techniquement comme juridiquement — la difficulté d'imputation.

Ni l'une ni l'autre n'est une intuition nouvelle. La séparation des tâches est un principe ancien en comptabilité et en sécurité. On sépare celui qui engage l'argent de celui qui tient les comptes, l'équipe qui exploite le système de celle qui en examine les journaux. Pourquoi séparer ? Parce que lorsqu'un même côté fait les deux, la trace perd sa force de trace. Non parce que quiconque serait malhonnête, mais parce qu'il n'existe plus de moyen de vérifier cette honnêteté.

Or ce vieux principe n'a pas encore atteint les traces de décision des agents.

Pourquoi cette exception ?

Un agent décide quelque chose et l'exécute. Où la trace en reste-t-elle ? Le plus souvent dans les systèmes de celui qui exploite l'agent. Le sujet qui a agi tient aussi le registre de ce qu'il a fait.

Au quotidien, cette structure ne cause aucun ennui. L'ennui commence avec le litige. On demande à l'autre partie d'accepter cette trace comme fondement de la discussion, et celui qui la conserve depuis le début est précisément la partie adverse. Aussi détaillée et exacte soit-elle, personne ne se tient dans une position permettant de la vérifier.

La réponse habituelle consiste à consigner plus finement. Plus de champs, un horodatage plus précis, une conservation plus longue. L'intuition est juste, mais elle opère sur une autre couche. La finesse augmente la qualité de la trace ; elle ne change pas l'endroit où celle-ci se trouve.

Reconstituer après coup arrive structurellement trop tard

La difficulté d'imputation vient du même endroit.

Remonter une chaîne à travers des dizaines de décisions intermédiaires finit en question d'interprétation, si complet que soit le matériau. Quelle étape a été déterminante, où le périmètre a été dépassé : c'est à celui qui lit la trace d'en juger. Et celui qui produit la trace a généralement un intérêt dans l'issue du jugement.

Ce qu'il faut, ce n'est donc pas une meilleure trace établie après coup. C'est une limite déjà fixée à l'extérieur au moment où la décision se prend.

Si ce qui a été convenu se trouve, avant l'exécution, hors de portée des parties, il y a d'autant moins à reconstituer ensuite. Ce qui n'a pas besoin d'être reconstitué est déjà arrêté.

Les deux couches ne se remplacent pas

Pour éviter un malentendu : il ne s'agit pas de remplacer les traces internes.

Les systèmes internes savent dans le plus grand détail ce qui s'est réellement passé. Ce détail ne s'imite pas depuis l'extérieur, et il n'y a aucune raison de l'imiter. Ce dont on a besoin à l'extérieur, ce n'est pas du détail mais une position : que ce qui a été convenu, et jusqu'où en allait la limite, soit tenu ailleurs que chez les parties.

L'interne et l'externe ne se substituent pas l'un à l'autre. Ils existent chacun de leur côté, et se recouvrent quand un litige survient. C'est à l'endroit du recouvrement que la discussion prend enfin fin.

Ce qui subsiste pendant l'attente

La réglementation finira par produire une norme. Que cette norme se concentre sur la documentation interne ou s'étende à la vérification externe, nul ne le sait encore.

Mais attendre une norme et savoir ce qui reste en suspens sont deux activités distinctes. Le temps rendu par le report est un répit, et c'est aussi de la place pour y réfléchir avant que la réglementation ne tranche à votre place.

Il y a une piste qui vaut la réflexion. Laissez les traces qu'on vous demande de conserver exactement là où elles sont : c'est le travail que vos propres systèmes connaissent le mieux, et il n'y a aucune raison d'y toucher. Prenez seulement ce qui a été convenu et jusqu'où cela allait, et laissez-en une copie à l'extérieur des parties également, avant que l'exécution ne commence. Le contenu n'a pas besoin de voyager. Quand, et dans quelle limite, cela suffit.

Cela paraît plus solennel que ce ne l'est. Nous le faisons déjà. Quand une promesse compte, on la met par écrit, et il arrive qu'on confie cet écrit à un tiers plutôt qu'à l'une des parties. Non pour en exposer le contenu, mais pour fixer à l'avance le point de retour, le jour où les versions divergeront.

Les exigences de conservation, on en a plus qu'assez désormais. Mais personne n'a encore exigé de dire qui les vérifie. Cela ne fait pas disparaître la question pour autant. Elle deviendra plutôt la question de fond.