法は記録を求めました。では、確認は?

先月、EUがAI法の高リスク義務の適用を先送りしました。単独型システムは2027年12月へ、規制対象製品に組み込まれたシステムは2028年8月へ。しかもこれは確定した期日というより、欧州委員会が規格の整備を確認した時点で前倒しされうる最終期限です。

この知らせに、多くの組織が一息つきました。カレンダーに印をつけていた日付が一年以上も遠のいたのですから、当然の反応でしょう。

ただ、先送りされた理由を見ると、まだ安心するには早いようです。

まず、なぜ先送りされたのかを見ていきます

主な理由は、適合性評価に用いる整合規格がまだ整っていないことでした。何を基準に適合を示せばよいのかが定まらないまま期限だけが迫れば、企業は存在しない基準に合わせなければならなくなります。規制当局はその窮屈さを認め、時間を追加したわけです。

規格をつくる作業は容易ではありません。まして対象がいまだ動き続けているのであればなおさらです。ですからこの決定そのものを責めるべきではありません。

ただ、ここで一つはっきりすることがあります。先送りされたのは期限であって、問いではないという点です。

「何をもって示すのか」は、規制が生み出した問いではありません。規制はその問いに答える期限を定めただけであり、期限が動いたからといって問いが消えるわけではありません。むしろ規制当局でさえまだ答えを定められていないという事実は、この問いが思いのほか難しいことを公に裏づけたことになります。

規格がないとき、起きることは二つです

一つはいま見たとおり、先送りです。しかし先送りできない条項もあります。同じ法律の透明性義務は予定どおり8月に適用され、そこでは別のことが起こりました。

「何を」は決まったのに「どうやって」が空いているため、各事業者が自らの解釈で対応を始めました。そしてその対応内容を告知する際に、限界もあわせて示しています。ある表示はファイル形式を変えたり保存し直したりすると消えることがあり、ある表示はもともと人が書いた文章にも付くことがあり、編集が重なれば確認できなくなることもある、といった具合です。

指針を出した側も事情は似ています。どれか一つの方法では法の求める条件をすべて満たせないので複数を重ねて使うように——現在出ている案内はそのあたりが限界です。方法を定められない以上、組み合わせを勧めるほかありません。

二つの条項は正反対に見えますが、原因は同じです。法は何が達成されるべきかを定め、どう達成するかはその時点で存在するものの中から選びます。選ぶものがまだなければ、先送りするか、各自にやらせてみるかのどちらかです。

これはヨーロッパだけの話ではありません

韓国のAI基本法も似た場所を通っています。高影響AIに対する責務、影響評価、透明性義務が規定されているのですが、その結果を誰が確認するのかは、いまのところ制度の外にあります。事業者が自ら評価し自ら記録する構造が先に確立され、その記録を確かめる層は後回しになりました。

管轄も条文も違うのに、同じ場所が空いています。

法が求めたものと、法が前提としたもの

ここで一歩下がって見ると、一つの区別が現れます。

法が明示的に求めているものがあります。記録を残せ。一定期間保管せよ。求めがあれば説明せよ。これらは条文に書かれており、違反かどうかも比較的はっきりします。

ところが、その要求が成り立つには、条文に書かれていない別の何かが先に真でなければなりません。その記録が後に信頼できるものとして受け入れられるという前提です。記録を残せという要求は、その記録がいずれ紛争の場で根拠として使われることを前提にしています。そうでなければ残す理由がありません。

その前提を保証する条文は、どこにもありません。残せとだけ言い、その記録が誰の手にあるのかは問いません。

現場はすでにその場所に触れています

興味深いのは、規制文書ではなく現場の実務的な議論のほうが、すでにその地点に達していることです。

最近のガイドが共通して挙げる要件が二つあります。一つは、監査を担うインフラは、それが点検する運用システムとは独立して管理されるべきだということ——職務分離です。もう一つは、複数のエージェントが数十もの中間判断を経たあとで責任の連鎖を事後にたどる作業は、技術的にも法的にも不確かだということ——帰属の難しさです。

どちらも新しい洞察ではありません。職務分離は会計とセキュリティでは古くからの原則です。お金を動かす人と帳簿をつける人を分け、システムを運用するチームとそのログを点検するチームを分けます。なぜ分けるのでしょうか。同じ側が両方を担うと、記録が記録としての力を失うからです。不誠実だからではなく、誠実さを確かめる手立てがなくなるからです。

ところがこの古い原則は、エージェントの決定記録にはまだ届いていません。

なぜここだけが例外なのでしょうか

エージェントが何かを決めて実行します。その記録はどこに残るでしょうか。多くの場合、そのエージェントを運用する側のシステムに残ります。行為した主体が、自分の記録の管理者を兼ねる構造です。

この構造は、平時には何の問題も起こしません。問題は紛争が生じたときです。相手はその記録を根拠として受け入れなければならないのに、その記録を管理してきた側こそが紛争の当事者です。記録がどれほど詳細で正確でも、それを確かめる位置に立つ者が誰もいません。

ここでよく出てくる対応は「では記録をもっと細かく残そう」という方向です。項目を増やし、時刻を細かくし、保存期間を延ばす。方向は正しいのですが、層が違います。細かさは記録の品質を上げるだけで、記録の位置を変えはしません。

事後にたどる作業は、構造的に遅れます

帰属の難しさも同じ場所から出てきます。

数十の中間判断を経たあとに連鎖をたどる作業は、資料がどれほど揃っていても結局は解釈の問題として残ります。どの段階が決定的だったのか、どこで範囲を越えたのかは、記録を読む側が判断しなければなりません。そしてその記録を差し出す側は、たいてい判断の結果に利害を持っています。

ですから必要なのは、より良い事後の記録ではありません。決定が下される時点ですでに外側に固定されている境界です。

何をすると決めたのかが、実行前に当事者の手の届かないところに残っていれば、事後にたどる必要はその分だけ減ります。たどる必要のない部分は、すでに定まっているからです。

二つの層は互いを代替しません

誤解を避けるために付け加えます。内部の記録を置き換えようという話ではありません。

内部システムは、実際に何が起きたのかを最も詳しく知っています。その詳しさは外側から真似できませんし、真似する理由もありません。外側に必要なのは詳しさではなく位置です。何をすると決めたのか、その境界がどこまでだったのかが、当事者と切り離された場所に残っていることです。

内部と外部は互いの代わりにはなりません。それぞれ独立して存在し、紛争が生じたときに重なります。そして重なった地点で、ようやく話が終わります。

待っているあいだにも残るもの

規制はいずれ規格を出すでしょう。その規格が内部の文書化を中心に据えるのか、外部での確認まで含むのかは、まだ分かりません。

ただ、規格が出るのを待つことと、いま何が残っているのかを知ることは別の話です。期限が遠のいた時間は猶予でもありますが、規制が決めてくれる前に自分で考えてみられる時間でもあります。

考えてみる価値のある道が一つあります。残せと求められた記録はそのままにしておくことです。それは各自のシステムが最もよく知っている仕事であり、変える理由もありません。ただ、何をすると決めたのかと、その範囲がどこまでだったのかだけを、実行に入る前に当事者の外側にも一つ残しておくのです。中身まで移す必要はありません。いつ、どの境界で決めたのかさえあれば十分です。

大げさな話に聞こえますが、私たちがすでにやっていることでもあります。重要な約束をするときに書面を交わし、その書面を互いにではなく第三者に預けておくこともあります。中身をすべて見せるためではなく、後で話が食い違ったときに戻る場所をあらかじめ決めておくためです。

記録を残せという要求は、すでに十分すぎるほどあります。しかしその記録を誰が確認するのかは、まだ誰も求めていません。だからといって、その問いが消えるわけではありません。これから一層浮かび上がってくる、根本的な問いになるはずです。