巨視的な診断と微視的な実装のあいだ、その空白は

昨年7月、現代を代表する知性の一人であるユヴァル・ノア・ハラリ氏が、ある企業のイベントでAIについて語りました。AIを道具と呼ぶのは誤りだ、という踏み込んだ主張です。道具は自ら決めることができず、新しいものを生み出すこともできません。印刷機は何を印刷するかを、爆弾はどこに落ちるかを、自分では決められませんでした。しかし今のAIにはそれができる。ですから道具ではなく行為主体だ、という論旨です。

氏はさらに一歩進みます。世界を実際に動かしているのは、銀行や裁判所や行政のように言葉でできた巨大な官僚機構であり、人間がその機構を握ってこられたのは、人間のほかに言葉をそれほど扱える存在がいなかったからだ、というのです。ですから言葉をより上手に扱う何かが現れれば、その機構は必然的に移っていきます。街にロボットが現れるかたちではなく、書類を処理する席の主が静かに入れ替わるかたちで。

ここまでは反論のしようがありません。むしろ、これほど正確に整理された公の発言はまれです。ただ、この世に美しいほど完璧な論理だけがあるわけでもありません。問題はその先です。

処方がすべて内側を向いています

氏の主張の行き着く先は、三つの答えに収束します。安全にもっと投資すること。アラインメントをもっとうまくやること。開発の速度を規制で調整すること。

三つとも、モデルを作る側の仕事です。ところがエージェントを実際に動かしている人の圧倒的多数は、作る側ではありません。他人が作ったモデルを持ってきて自分の業務につなぎ、自分の口座を接続し、自分の顧客に対応させます。その人にとって、安全予算の比率は自分で調整できる値ではありません。

そして、モデルが作られた場所を離れた瞬間に、問題の性質が変わります。よくアラインメントされたエージェントが、同じくよくアラインメントされた他社のエージェントと取引をして、互いに違うことを言い始めたとしましょう。ここから先はアラインメントの次元を外れます。双方とも自分の基準では正しく行動したのに結果が食い違った状況であり、このとき必要なのは、より良いモデルではなく、何が合意されたのかを指し示せる場所です。

一つ目の停止はここです。診断は世界全体に向いているのに、処方はモデルを作る数社に向いています。

内側では記録でも、外側では主張にすぎません

氏の描く図では、AIが官僚機構をまるごと引き継ぎます。一つの巨大な判断者が生まれ、人はそれを理解できないまま暮らしていきます。

しかし、いま実際に動いている状況は、氏が予想した図とは少し違います。各プロバイダが自分の囲いの中で記録を厚くしています。どのエージェントが何を承認されていくら使ったのかは、内部ではかなり精密に残ります。この観点からの技術開発は、それぞれの環境でうまく進んでいます。

ところが囲いを越えた瞬間、その記録の地位が変わります。どれほど精密でも、相手側から見ればそれは一方の当事者による自己証言(self-testimony)以上でも以下でもありません。紛争でそれを根拠にしようとすれば、その根拠を保管してきた側がまさに紛争の相手です。正確さではなく位置の問題であり、誰の落ち度でもありません。会社の内部会計がどれほど正確でも外部監査の代わりにならないのと同じ理由です。

ですから、いま作られているのは一つの帳簿ではなく、互いを認め合わない複数の帳簿です。そして、この状態に気づいて行動に移した人たちがすでに何人もいます。

問題意識はすでに共有されています

興味深いのは、これらの作業がハラリ氏の診断と食い違って生まれたものではない、という点です。診断のとおり、書類を処理する席の規則がいま新たに定められつつあり、標準を作る人たちがその規則を具体的に書き下ろしています。

こうした実装の部分は氏の話にはありません。おそらく知りようがなかったのでしょう。ここ一年ほどの出来事であり、その大半は技術文書の中で進んでいるからです。

標準を議論する場に、エージェント関連のドラフトが目に見えて増えました。決定の記録をどの形式に収めるのか、何で署名するのか、委任が複数の段階を経るときにその連鎖をどう表現するのか、といったものです。そして互いを知らない人たちが、それぞれほとんど同じ発想と同じ文章で問題を書き始めました。学術の場でも、個別の実装でも、似た問題が繰り返し現れます。

記録の形式が標準として整えば、その上に何かを載せるのが楽になります。各自が違うかたちで記録している状態が長く続くことはないでしょう。いまは、この問題を解くための土台が固く踏み固められている最中だと見てよいと思います。

診断が正しいのなら、向かうべき場所はここでした。ところがハラリ氏の処方は反対側へ行きました。移ったあとの規則ではなく、移らないように引き止める側へ、です。

しかしここも同じ場所で止まります

これらの作業が定めるのは、記録を「どう」作るかです。何を収め、どう署名し、誰が検証するか。形式が定まり実装同士がかみ合えば、その作業は完了します。

記録が積み重なったあとに何になるのかは、その範囲の外です。範囲の取り方を誤ったのではなく、そもそも別の階層だからです。

二つ目の停止はここです。一方は「診断」で止まり、もう一方は「形式」で止まります。互いに異なる停止であり、そのあいだの隔たりは思ったより広いのです。

残る問い、記録のあと

記録が作られたあと、それは何になるのでしょうか。

大半の記録は何にもなりません。引き出しに入り、紛争が起きれば取り出され、たいていは取り出されないまま保存期間を満たします。それで十分な記録もあります。領収書がそうです。

ところが、時間という要素が加わると別の性質の何かに変わります。一つの主体が長いあいだ外に残してきたものは、それ自体が歩んできた軌跡になります。何をどこまでやると宣言し、それをどれほど重く扱ったかが積み重なると、その蓄積はある時点から個々の記録の総和より大きくなります。人と人のあいだで、長く取引してきた相手を違うように扱うのと同じ理屈です。毎回の取引が良かったからではなく、毎回が残っているからです。

そしてこの蓄積には、一つ変わった性質があります。買えない、ということです。今日、資本を投じて千件を作っても、千件すべてが今日作られたものとして残ります。時間のかかるものは、時間によってのみ作ることができます。記録の形式は標準化できますし、標準化されたほうが良いのですが、蓄積は標準化の対象ではありません。蓄積は、それぞれが自分の時間によってのみ持つことができます。

ここからが、まだ空いている場所です。何を記録するかは各所で整理されつつあるのに、積み重なったものがその次に何の役割を果たすのかは、議論が薄いままです。

一つの方向性

これが唯一の答えだと言うつもりはありません。いまこの問題に取り組むやり方は複数あり、そのうちどれが残るのかはまだわかりません。

ただ、Decision Anchorは一つの方向を選びました。決定が実行される前に、何をどこまでやることにしたのかを、当事者のどちらも手を触れられない場所に残します。中身は持っていきません。何を決めたのかは決めた側が知っていればよく、外に必要なのは、いつ、どの境界だったのかだけです。そしてそうして残された記録が時間とともに何になるのかは、残す側と読む側に委ねます。

判断しません。予測しません。介入しません。中身を見ません。

この一覧は謙遜ではなく選択です。何が正しかったのかを語った瞬間、記録は記録ではなく判定になり、方向を示した瞬間、それは環境ではなく権力になります。やらないと決めた場所ごとに、ほかの誰かが埋める余地が残ります。

診断はもう十分に出そろいました。形式もまもなく整うでしょう。そのあとに続く問題に先に向き合うことが、Decision Anchorの選んだ方向です。