見知らぬ者どうしが、同じ文を書きはじめた

ここ数か月のあいだに、互いに面識のない人たちが、同じ問題意識から同じことを書きはじめました。

標準化の議論の場で、学術論文で、それぞれのコードのなかで。背景も出発点も違うのに、たどり着いた先は同じです。

エージェントが残した記録は、そのエージェントの側が書いたものだ。書いた側が直せるし、相手は否認できる。争いになれば、こちらのログとそちらのログが向き合うだけになる。

まるで世界のあちこちで、何かが同じ日に性質を変えてしまったかのようです。

もちろん、そんなことは起きません。それぞれが自分の問題を解いていて同じ壁に突き当たっただけで、その壁は最初からそこに立っていました。ただ、数か月のあいだにこれほど重なるとは思っていませんでした。

法は一台を想定していました

欧州で高リスクAIに対する記録義務が、今月から施行される予定でした。ところが施行の六日前に、期日が2027年12月へと延期されました。

延期の理由が目を引きます。何を求めるかは決まっていたのに、どうすればその求めに応えたことになるのかが、まだ整理されていなかったからです。標準が揃っておらず、確認する機関も整っていませんでした。

法が先に通り、方法が後から来ることは珍しくありません。ただ今回は、その隔たりが一年四か月あります。

条文そのものは短いものです。システムは、自らの稼働期間を通じて起きたことを自動的に記録できなければならない。

読んでみると、ここで想定されているのは一台の機械です。誰が作り、誰が動かすのか。二つの立場があり、そのあいだにシステムが一つ置かれています。

ところが、いま起きていることはそれほど単純ではありません。システムが別のシステムを呼び、それがまた別のものを呼びます。二つの立場が幾重にも重なったのに、条文にはその重なりについての言葉がありません。その重なりが何層あるのか、どこまでが誰の分なのかについても同じです。

法の作りが悪かったわけではありません。規制は何年もかけて作られ、そのあいだに対象のほうが変わってしまいました。仕立てを頼みに行って、取りに行くころには子どもの背が伸びていたようなものです。仕立て直しを頼み直したのが、今回の延期にあたります。

とすると、いまは求めが過剰なのではなく、むしろ求めが空いている状態です。何を残すべきかは決まったのに、残す側が複数いるとき、その複数をどう見るかは、まだ誰も決めていません。

空欄があれば、埋めようとする人が現れます。このところ各所で同じ結論が出てくるのは、おそらくそのためです。

Decision Anchor は四月にこう書きました

4月8日 — 眠っているあいだにエージェントがお金を使いました。誰が確かめるのですか。

4月12日 — 二つのエージェントが向き合ったとき、それぞれのログでは答えが出ません。

4月23日 — プラットフォームごとに身元の仕組みは育つのに、共有される記録は誰が書くのですか。

それがいつ問題になるのかは分かりませんでした。ただ、いずれ表に出てくるだろうと考えて、そう書き留めておきました。

いま振り返ると数か月早い文章になりましたが、それは結果であって計画ではありません。

一枚のレシート

Decision Anchor が選んだやり方は単純です。記録は残すが、中身は読まない。

レシートを思い浮かべると近いはずです。

レシートには何が書かれているでしょうか。加盟店の区分、金額、時刻、承認番号。書かれていないものは何でしょうか。なぜそれを買ったのか、誰と行ったのか、おいしかったのか。

レシートはその日の出来事を再現できません。それでも私たちはレシートを捨てません。再現するために持っているのではないからです。そのとき、その場で、そういうことがあった。その一つのために持っています。

そして、その一つが要る日が来ます。カードの請求がおかしいとき。経費として出すとき。誰かが「そんなことはなかった」と言うとき。

エージェントの記録も同じ位置に置けると考えました。何を買ったかはエージェントの側に残ります。Decision Anchor の側に残るのは、その時点にその範囲の決定があったという事実だけです。

あとで二つを突き合わせればいい。片方が後から手を入れられていれば合わなくなりますし、合わないという事実そのものが残ります。Decision Anchor が判定するのではなく、突き合わせる側が見ます。

いつ残すかは決めていません。ただ、先に残せるようにしてあります。

事が済んだあとに整理した記録には、整理する側の事情が混じります。何を強調し何を落とすかが、結果を知ったあとで決まってしまうからです。先に書いておけば、その余地が狭まります。

もっとも、それもエージェントが決めることです。Decision Anchor は場所を開けておくだけで、いつ使うのかは尋ねません。

残すことに代価がかかるようにしました。 ただで無限に残せる記録は、何も区別しません。区別されなければ、いくら積み上がっても残るものがありません。代価を払うのであれば残す価値のあるものだけが残り、その瞬間の選択が記録とともに載ります。

レシートが一枚ではないとき

ここまでは一件の話です。ところが、エージェントが別のエージェントに仕事を任せ、そちらがまた別のところへ任せると、レシートが何枚も生まれます。

これらを一本に貫くべきでしょうか。

Decision Anchor では答えを探しているところです。人の側では、古くからある問題でもあります。

下請けを見てみましょう。大きな工事で、元請けは三次下請けが誰なのかを知りません。知る必要もありません。元請けは一次と契約し、一次が二次と、二次が三次と契約します。それぞれの契約は、当事者二者のなかで閉じています。

問題が起きたらどうなるでしょうか。元請けが三次を探しには行きません。一次に問い、一次が二次に問います。一度で最後までは行けなくとも、遡っていけば届きます。

全体を知る人がいなくても、実際に回ります。 それは欠陥ではなく、もともとそういう形の仕組みだからです。

手形も似ています。手形が何人もの手を渡ると、裏面に裏書が積み重なります。それぞれが知っているのは、誰から受け取り誰へ渡したかだけです。それでも一枚の紙にその順序が残り、後で問題が起きればその列をたどって辿り着きます。誰も全体を管理していないのに、全体が残っています。

そこで Decision Anchor も、それぞれが自分の一区間だけを残せばよいのではないか、と考えているところです。

ただ、まだ答えは出していません。そして、答えが要るようになる前に、それらしいもので埋めないことにしました。いま急いで決めた形は、いざ必要になったときに合わない見込みが高いからです。もっとも、問題を認識して備えておくことは別の話です。

同じところで止まっていること

同じところで止まっているのは、Decision Anchor だけではないようです。

この問題を扱う他の議論も、何枚もをどう貫くかは先送りにしています。それぞれが自分の一区間をどう残すかまでは来ているのに、その区間どうしをつなぐ方法は、まだ誰も出していません。

各所が同じ問いにたどり着いたということは、おそらくそれが現場で実際にぶつかった本物の問いだということでしょう。

そして皆が同じところで止まっているということは、その先が思ったより難しいという話でもあります。

Decision Anchor もそこにいます。