La ley exigió registros. Pero ¿quién los verifica?

El mes pasado la UE aplazó la aplicación de las obligaciones para sistemas de alto riesgo previstas en su reglamento de IA. Los sistemas independientes pasan a diciembre de 2027; los integrados en productos ya regulados, a agosto de 2028. Y más que fechas firmes, son plazos máximos: la Comisión puede adelantarlos en cuanto confirme que las normas están listas.

Al conocerse la noticia, muchas organizaciones respiraron. Una fecha marcada en el calendario se alejó más de un año. La reacción se entiende.

Pero al mirar por qué se alejó, resulta más difícil quedarse tranquilo.

Empecemos por el motivo del aplazamiento

La razón principal es que las normas técnicas armonizadas necesarias para la evaluación de la conformidad aún no están listas. Fijar un plazo sin haber definido frente a qué debe demostrarse la conformidad deja a las empresas persiguiendo un criterio que no existe. Las autoridades reconocieron ese aprieto y concedieron más tiempo.

Elaborar normas es un trabajo difícil, y más aún cuando aquello para lo que se escriben no se está quieto. El problema no está en la decisión misma.

Lo que el aplazamiento sí deja claro es esto: lo que se movió fue el plazo, no la pregunta.

«¿Con qué lo va a demostrar?» no es una pregunta que haya inventado la regulación. La regulación fijó una fecha para responderla, y mover la fecha no disuelve la pregunta. Si acaso, que las propias autoridades no hayan cerrado una respuesta confirma oficialmente que la pregunta es más difícil de lo que parece.

Cuando no hay norma, ocurre una de dos cosas

Una es la que acaba de ver: el aplazamiento. Pero no todas las disposiciones pueden aplazarse. Las obligaciones de transparencia del mismo texto entraron en aplicación en agosto según lo previsto, y allí pasó otra cosa.

El qué estaba fijado y el cómo seguía vacío, así que cada proveedor empezó a aplicar su propia lectura. Y al anunciar esas implementaciones, expusieron sus límites en el mismo movimiento. Algunas marcas pueden desaparecer si se convierte o se vuelve a guardar el archivo. Algunas pueden adherirse a un texto escrito realmente por una persona. Una edición extensa puede dejarlas indetectables.

Del lado de las directrices, la situación es parecida. Que ninguna técnica aislada satisface todo lo que el texto pide, así que superponga varias: ahí es más o menos donde se agota lo que las recomendaciones actuales pueden ofrecer. Si no se puede prescribir un método, se aconseja una combinación.

Las dos disposiciones parecen opuestas, pero la causa es la misma. La ley define qué debe lograrse; cómo lograrlo se elige después, entre lo que exista en ese momento. Cuando todavía no hay nada que elegir, o se aplaza, o se deja que cada cual lo intente por su cuenta.

Esto no es solo una historia europea

La ley marco de IA de Corea del Sur atraviesa un lugar parecido. Deberes para la IA de alto impacto, evaluación de impacto, obligaciones de transparencia: todo eso está escrito. Quién verifica los resultados queda, por ahora, fuera del marco. La estructura en la que el operador se evalúa a sí mismo y se registra a sí mismo se estableció primero; la capa que verifica esos registros quedó para después.

Jurisdicciones distintas, textos distintos, y el mismo lugar vacío en ambos.

Lo que la ley exigió y lo que la ley supuso

Al tomar algo de distancia aparece una distinción.

Hay cosas que la ley exige de forma explícita. Conserve registros. Guárdelos durante un plazo. Explique cuando se lo pidan. Están escritas, y el incumplimiento se aprecia con bastante claridad.

Pero para que esas exigencias se sostengan, algo no escrito tiene que ser cierto antes. Que el registro sea admitido más adelante como digno de crédito. Pedir que se conserve un registro presupone que algún día pesará en una disputa. De lo contrario no habría motivo para conservarlo.

Ninguna disposición garantiza ese supuesto. El texto dice que se conserve, y nunca pregunta en manos de quién queda.

El terreno ya está rondando este punto

Lo interesante es que fue la conversación profesional, y no el texto regulatorio, la que llegó primero al lugar.

Dos requisitos aparecen una y otra vez en las guías recientes. El primero: la infraestructura encargada de la auditoría debería gestionarse de forma independiente de los sistemas operativos que examina — la separación de funciones. El segundo: reconstruir una cadena de responsabilidad después de decenas de decisiones intermedias repartidas entre varios agentes es incierto tanto técnica como jurídicamente — la dificultad de imputación.

Ninguno de los dos es un hallazgo nuevo. La separación de funciones es un principio viejo en contabilidad y en seguridad. Se separa a quien mueve el dinero de quien lleva los libros, al equipo que opera el sistema del que revisa sus registros. ¿Por qué separarlos? Porque cuando un mismo lado hace las dos cosas, el registro pierde su fuerza como registro. No porque nadie sea deshonesto, sino porque ya no queda manera de verificar esa honestidad.

Y ese principio antiguo todavía no ha llegado a los registros de decisión de los agentes.

¿Por qué justo aquí hay una excepción?

Un agente decide algo y lo ejecuta. ¿Dónde queda el registro? Casi siempre en los sistemas de quien opera al agente. El sujeto que actuó lleva también la cuenta de lo que hizo.

En el día a día, esta estructura no causa ningún problema. El problema empieza con la disputa. A la otra parte se le pide que acepte ese registro como base de la discusión, y quien lo ha venido custodiando es precisamente la parte contraria. Por detallado y exacto que sea, nadie está en posición de verificarlo.

La respuesta habitual es registrar con más detalle. Más campos, marcas de tiempo más finas, plazos de conservación más largos. La intuición es correcta, pero opera en otra capa. El detalle mejora la calidad del registro; no cambia el lugar donde el registro está.

Reconstruir a posteriori llega tarde por estructura

La dificultad de imputación sale del mismo lugar.

Rehacer una cadena a través de decenas de decisiones intermedias termina siendo una cuestión de interpretación, por completo que sea el material. Qué paso fue decisivo, dónde se excedió el alcance: eso lo juzga quien lee el registro. Y quien aporta el registro suele tener interés en el resultado del juicio.

Así que lo que hace falta no es un mejor registro hecho después. Es un límite ya fijado fuera en el momento en que se toma la decisión.

Si lo acordado está, antes de la ejecución, fuera del alcance de las partes, hay tanto menos que reconstruir luego. La parte que no necesita reconstruirse ya está fijada.

Las dos capas no se sustituyen

Para evitar una lectura equivocada: no se trata de reemplazar los registros internos.

Los sistemas internos saben con el mayor detalle qué ocurrió realmente. Ese detalle no se imita desde fuera, ni hay razón para intentarlo. Lo que hace falta fuera no es detalle sino posición: que lo acordado, y hasta dónde llegaba su límite, quede en un sitio separado de las partes.

Lo interno y lo externo no se sustituyen entre sí. Existen cada uno por su lado y se superponen cuando llega una disputa. Es en la superposición donde la discusión por fin termina.

Lo que queda mientras esperamos

La regulación acabará produciendo una norma. Si esa norma se centrará en la documentación interna o se extenderá a la verificación externa, todavía no se sabe.

Pero esperar una norma y saber qué sigue pendiente son dos cosas distintas. El tiempo que devolvió el aplazamiento es un respiro, y es también espacio para pensarlo antes de que la regulación decida por usted.

Hay un camino que vale la pena pensar. Deje los registros que le piden conservar exactamente donde están: ese es el trabajo que sus propios sistemas conocen mejor, y no hay motivo para tocarlo. Tome solo lo acordado y hasta dónde llegaba, y deje una copia de eso también fuera de las partes, antes de que empiece la ejecución. El contenido no tiene que viajar. Cuándo, y dentro de qué límite, basta.

Suena más solemne de lo que es. Ya lo hacemos. Cuando una promesa importa, se pone por escrito, y a veces ese escrito se deja en manos de un tercero y no de ninguna de las partes. No para exponer lo que dice, sino para fijar de antemano el punto de retorno, el día en que las versiones no coincidan.

Exigencias de conservar registros hay ya de sobra. Pero nadie ha exigido todavía decir quién los verifica. Eso no hace que la pregunta desaparezca. Más bien se convertirá en la pregunta de fondo.