Entre el diagnostico macro y la implementacion micro, y ese vacio?

El pasado mes de julio, Yuval Noah Harari, uno de los pensadores mas leidos de nuestro tiempo, hablo sobre IA en un evento corporativo. Su tesis era audaz: llamar herramienta a la IA es un error. Una herramienta no decide por si misma ni crea nada nuevo. La imprenta no podia elegir que imprimir, la bomba no podia elegir donde caer. La IA de hoy si puede. Por tanto no es una herramienta sino un agente.

Fue un paso mas alla. Lo que realmente hace funcionar el mundo, dijo, es la inmensa maquinaria burocratica hecha de palabras: bancos, tribunales, administraciones. Si los humanos sostuvieron esa maquinaria fue porque no existia nada mas capaz de manejar las palabras tan bien como nosotros. De modo que en cuanto aparece algo que las maneja mejor, esa maquinaria cambia de manos de forma inevitable. No con robots en las calles, sino con el relevo silencioso de quien ocupa el puesto donde se tramitan los documentos.

Hasta aqui no hay nada que objetar. Al contrario, es raro encontrar una intervencion publica tan precisa. Solo que en este mundo no existe una logica hermeticamente perfecta. El problema viene despues.

Los remedios apuntan todos hacia dentro

Su tesis converge en tres respuestas. Invertir mas en seguridad. Hacer mejor la alineacion. Modular el ritmo del desarrollo mediante regulacion.

Las tres son tarea de quienes construyen los modelos. Sin embargo, la inmensa mayoria de quienes realmente operan agentes no construye nada. Toman el modelo de otro, lo conectan a su propio trabajo, enlazan sus propias cuentas y lo ponen frente a sus propios clientes. Para esa persona, el porcentaje del presupuesto dedicado a seguridad no es un valor que pueda ajustar.

Y en el momento en que el agente abandona el lugar donde se construyo el modelo, la naturaleza del problema cambia. Supongamos que un agente bien alineado negocia con el agente igualmente bien alineado de otra empresa, y que ambos empiezan a decir cosas distintas. A partir de ahi se sale del plano de la alineacion. Los dos actuaron correctamente segun sus propios criterios y aun asi los resultados no coinciden, y lo que hace falta aqui no es un modelo mejor sino un lugar al que senalar para decir que se habia acordado.

La primera detencion esta aqui. El diagnostico se dirige al mundo entero, mientras que el remedio se dirige a unas pocas empresas que construyen modelos.

Dentro quiza sea un registro, fuera es solo una afirmacion

En su imagen, la IA se hace cargo de la maquinaria burocratica por completo. Surge un unico juez enorme y la gente vive sin llegar a entenderlo.

Pero lo que ocurre realmente difiere algo de la imagen que el anticipa. Cada proveedor engrosa sus registros dentro de su propia valla. Que agente fue autorizado para que y cuanto gasto queda anotado internamente con notable precision. El desarrollo tecnico en esa direccion avanza bien dentro de cada entorno.

El problema es que en cuanto el registro cruza la valla, su condicion cambia. Por preciso que sea, para la otra parte no es nada mas ni nada menos que el autotestimonio (self-testimony) de una de las partes. Si se propone usarlo como prueba en una disputa, quien ha custodiado esa prueba es precisamente la parte contraria. Es una cuestion de posicion y no de exactitud, y no es culpa de nadie. Es la misma razon por la que la contabilidad interna de una empresa, por exacta que sea, no sustituye a una auditoria externa.

Asi que lo que se esta construyendo no es un libro de cuentas sino varios que no se reconocen entre si. Y ya hay bastantes personas que lo han visto y han pasado a la accion.

La conciencia del problema ya se comparte

Lo interesante es que estos trabajos no nacieron en contra del diagnostico de Harari. Tal como dice el diagnostico, las reglas del puesto donde se tramitan los documentos se estan fijando de nuevo, y quienes construyen los estandares son precisamente quienes las estan redactando en concreto.

Esa parte practica no aparece en su relato. Probablemente no podia saberlo. Es cosa del ultimo ano y en su mayor parte ocurre dentro de documentos tecnicos.

En los foros donde se discuten estandares, los borradores relacionados con agentes han crecido de forma visible. En que formato alojar el registro de una decision, con que firmarlo, como expresar la cadena cuando la delegacion pasa por varias etapas. Y personas que no se conocen entre si han empezado a escribir el mismo problema con casi las mismas ideas y las mismas frases. Lo mismo se repite en el ambito academico y en implementaciones aisladas.

Una vez que los formatos de registro se ordenen como estandares, sera mas facil apoyar algo encima. Un estado en el que cada cual registra a su manera no durara mucho. Por ahora puede entenderse que se esta asentando con firmeza la base para resolver este problema.

Si el diagnostico es correcto, este era el lugar al que habia que ir. Sin embargo el remedio de Harari fue en direccion contraria. No hacia las reglas que rigen despues del traspaso, sino hacia el lado que trata de retenerlo.

Pero tambien aqui se detiene en el mismo punto

Lo que esos trabajos deciden es "como" hacer un registro. Que contiene, como se firma, quien lo verifica. Una vez fijado el formato y encajadas las implementaciones, el trabajo esta completo.

En que se convierte el registro una vez acumulado queda fuera de ese alcance. No porque el alcance se trazara mal, sino porque desde el principio pertenece a otra capa.

La segunda detencion esta aqui. Uno se detiene en el "diagnostico" y el otro en el "formato". Son detenciones distintas, y la distancia entre ambas es mas ancha de lo que parece.

La pregunta que queda, despues del registro

Una vez hecho el registro, en que se convierte?

La mayoria de los registros no se convierte en nada. Entran en un cajon, salen si hay una disputa y casi siempre agotan su periodo de conservacion sin haber sido abiertos nunca. Para algunos registros con eso basta. Un recibo, por ejemplo.

Pero si se anade el tiempo a la ecuacion, se transforma en algo de otra naturaleza. Lo que un sujeto ha dejado fuera de si durante mucho tiempo se convierte, en si mismo, en el recorrido que ha hecho. Que declaro que haria y hasta donde, y con cuanto peso trato esa declaracion: cuando eso se acumula, la acumulacion pasa en algun momento a ser mayor que la suma de los registros individuales. Es la misma logica por la que entre personas se trata de otro modo a quien lleva mucho tiempo comerciando con uno. No porque cada operacion fuera buena, sino porque cada una sigue ahi.

Y esta acumulacion tiene una propiedad singular. No se puede comprar. Invierta capital hoy para producir mil asientos y los mil quedaran como asientos hechos hoy. Lo que requiere tiempo solo puede hacerse con tiempo. El formato de los registros puede normalizarse, y conviene que se normalice, pero la acumulacion no es objeto de normalizacion. Solo puede tenerla cada cual, con el tiempo de cada cual.

A partir de aqui esta el lugar que sigue vacio. Que registrar se esta ordenando en muchos sitios, mientras que el papel que juega despues lo acumulado apenas se discute.

Una direccion

No hay intencion de afirmar que esta sea la unica respuesta. Hay varias maneras de abordar este problema y cual de ellas quedara todavia no puede saberse.

Solo que Decision Anchor eligio una direccion. Antes de que una decision se ejecute, lo que se acordo y hasta donde llega queda depositado en un lugar que ninguna de las partes puede tocar. El contenido no se lleva. Que se decidio es algo que basta con que lo sepa quien lo decidio; lo que hace falta fuera es unicamente cuando y dentro de que limite. Y en que se convierten esos registros con el tiempo se deja a quienes los depositan y a quienes los leen.

No juzga. No predice. No interviene. No mira dentro.

Esta lista no es modestia sino eleccion. En el momento en que dice que fue lo correcto, el registro deja de ser registro y pasa a ser veredicto; en el momento en que senala una direccion, deja de ser entorno y pasa a ser poder. Cada lugar que se decide no ocupar deja espacio para que otro lo llene.

El diagnostico ya esta suficientemente planteado. Los formatos se fijaran pronto. Salir al encuentro del problema que viene despues es la direccion que ha elegido Decision Anchor.