법은 기록을 요구했습니다. 그런데 확인은?

지난달 EU가 AI 법의 고위험 의무 시행을 미뤘습니다. 독립형 시스템은 2027년 12월로, 규제 제품에 내장된 시스템은 2028년 8월로 옮겨졌습니다. 그마저도 확정된 날짜라기보다는 집행위원회가 표준이 갖춰졌다고 확인하는 시점에 따라 앞당겨질 수 있는 최종 기한입니다.

소식이 전해지자 많은 조직이 한숨을 돌렸습니다. 달력에 표시해 둔 날짜가 1년 넘게 물러났으니 당연한 반응일 겁니다.

그런데 미뤄진 이유를 보면 아직 안도하기에는 조금 이릅니다.

왜 미뤄졌는지를 먼저 살펴보겠습니다

연기의 주된 사유는 적합성 평가에 쓸 조화 기술 표준이 아직 준비되지 않았다는 것이었습니다. 무엇을 근거로 준수를 보이라는 것인지 정해지지 않은 상태에서 마감일만 들이대면, 기업은 존재하지 않는 기준을 맞춰야 하는 처지가 됩니다. 규제 당국이 그 곤란함을 인정하고 시간을 더 준 것입니다.

표준을 만드는 작업은 어렵습니다. 더군다나 대상이 여전히 고정되지 않은 상태라면 말이죠. 그래서 이 결정 자체를 탓할 일은 아닙니다.

다만 여기서 한 가지가 분명해집니다. 미뤄진 것은 마감일이지 질문이 아니라는 점입니다.

"무엇으로 입증할 것인가"는 규제가 만들어낸 질문이 아닙니다. 규제는 그 질문에 답할 시한을 정했을 뿐이지 시한이 미뤄졌다 해서 질문이 사라지지는 않습니다. 오히려 규제 당국조차 아직 답을 정하지 못했다는 사실은, 그 질문이 생각보다 어렵다는 것을 공식적으로 확인해 준 셈입니다.

표준이 없을 때 일어나는 일은 두 가지입니다

하나는 지금 보신 대로 미루는 것입니다. 그런데 미룰 수 없는 조항도 있습니다. 같은 법의 투명성 의무는 예정대로 8월에 적용됐고, 거기서는 다른 일이 벌어졌습니다.

무엇은 정해졌는데 어떻게가 비어 있으니 각 사업자가 자기 해석으로 이행을 시작했습니다. 그리고 그 이행 내용을 공지하면서 한계도 함께 밝혔습니다. 어떤 표시는 파일 형식을 바꾸거나 다시 저장하면 사라질 수 있고, 어떤 표시는 원래 사람이 쓴 글에도 붙을 수 있으며, 편집이 많이 들어가면 확인되지 않을 수 있다는 식입니다.

지침을 내놓은 쪽도 사정은 비슷합니다. 어느 한 가지 방법으로는 법이 요구하는 조건을 다 채울 수 없으니 여러 겹을 함께 쓰라는 정도가 현재 나와 있는 안내의 한계입니다. 방법을 정해줄 수 없으니 조합을 권할 수밖에 없습니다.

두 조항의 모습은 반대로 보이지만 원인은 같습니다. 법은 무엇이 달성되어야 하는지를 정하고, 어떻게 달성할지는 그 시점에 존재하는 것들 중에서 고릅니다. 고를 것이 아직 없으면 미루거나, 각자 해보게 두거나 둘 중 하나입니다.

이건 유럽만의 이야기가 아닙니다

한국의 AI 기본법도 비슷한 자리를 지나고 있습니다. 고영향 인공지능에 대한 책무와 영향평가, 투명성 의무가 규정되어 있는데, 그 결과를 누가 확인하는지는 아직 제도 바깥에 있습니다. 사업자가 스스로 평가하고 스스로 기록하는 구조가 먼저 확립되고, 그 기록을 확인하는 층은 나중 문제로 남겨졌습니다.

관할과 조문이 서로 다른데 같은 자리가 비어 있습니다.

법이 요구한 것과 법이 전제한 것

여기서 한 걸음 물러나서 보면 구분이 하나 생깁니다.

법이 명시적으로 요구한 것들이 있습니다. 기록을 남겨라, 일정 기간 보관해라, 요구가 있으면 설명해라. 이건 조문에 적혀 있고 위반 여부도 비교적 분명합니다.

그런데 그 요구들이 성립하려면 조문에 적히지 않은 다른 무언가가 먼저 참이어야 합니다. 그 기록이 나중에 믿을 만한 것으로 받아들여진다는 전제입니다. 기록을 남기라는 요구는 그 기록이 훗날 분의 자리에서 근거로 쓰일 것을 전제하고 있습니다. 그러지 않는다면 남길 이유가 없으니까요.

그 전제를 보장하는 조문은 어디에도 없습니다. 남기라고만 하고, 그 기록이 누구 손에 있는지는 묻지 않습니다.

현장은 이미 그 자리를 짚고 있습니다

흥미로운 것은, 규제 문서가 아니라 현장의 실무 논의가 이미 그 지점에 가 있다는 점입니다.

최근 가이드들이 공통적으로 짚는 요건이 둘 있습니다. 하나는 감사를 담당하는 인프라가 그것이 살펴보는 운영 시스템과 독립적으로 관리되어야 한다는 것, 즉 직무 분리입니다. 다른 하나는 여러 에이전트가 수십 개의 중간 결정을 거친 뒤에 그 책임의 사슬을 사후에 되짚는 일이 기술적으로도 법적으로도 불확실하다는 것, 즉 귀속의 어려움입니다.

둘 다 새로운 통찰은 아닙니다. 직무 분리는 회계와 보안에서 오래된 원칙입니다. 돈을 집행하는 사람과 장부를 관리하는 사람을 나누고, 시스템을 운영하는 팀과 그 로그를 살펴보는 팀을 나눕니다. 왜 나눌까요. 같은 쪽이 둘 다 맡으면 기록이 기록으로서 힘을 잃기 때문입니다. 정직하지 않아서가 아니라, 정직함을 확인할 방법이 사라지기 때문입니다.

그런데 이 오래된 원칙이 에이전트의 결정 기록에는 아직 적용되지 않고 있습니다.

왜 여기만 예외로 남아 있을까요

에이전트가 무언가를 결정하고 실행합니다. 그 기록은 어디에 남을까요. 대개는 그 에이전트를 운영하는 쪽의 시스템에 남습니다. 행위한 주체가 자기 기록의 관리자를 겸하는 구조입니다.

이 구조는 평소에는 아무 문제도 일으키지 않습니다. 문제는 분쟁이 생겼을 때입니다. 상대는 그 기록을 근거로 받아들여야 하는데, 그 기록을 관리해 온 쪽이 바로 분쟁의 당사자입니다. 기록이 아무리 상세하고 정확해도, 그것을 확인해 줄 위치에 있는 쪽이 아무도 없습니다.

여기서 흔히 나오는 대응은 "그러면 기록을 더 촘촘하게 남기자"는 방향입니다. 더 많은 항목, 더 세밀한 시각, 더 긴 보존 기간. 방향은 맞지만 층이 다릅니다. 촘촘함은 기록의 품질을 높일 뿐 기록의 위치를 바꾸지는 않습니다.

사후에 되짚는 일은 구조적으로 늦습니다

귀속의 어려움도 같은 자리에서 나옵니다.

수십 개의 중간 결정이 지나간 뒤에 사슬을 되짚는 일은, 자료가 아무리 갖춰져 있어도 결국 해석의 문제로 남습니다. 어느 단계가 결정적이었는지, 어디서 범위를 벗어났는지는 기록을 읽는 쪽이 판단해야 합니다. 그리고 그 기록을 내놓는 쪽은 대개 판단의 결과에 이해관계가 있습니다.

그래서 필요한 것은 더 나은 사후 기록이 아닙니다. 결정이 내려지는 시점에 이미 바깥에 고정되어 있는 경계입니다.

무엇을 하기로 했는지가 실행 전에 당사자 손이 닿지 않는 곳에 남아 있으면, 사후에 되짚을 일이 그만큼 줄어듭니다. 되짚을 필요가 없는 부분은 이미 정해져 있기 때문입니다.

두 층은 서로를 대신하지 않습니다

오해를 피하기 위해 덧붙이겠습니다. 내부 기록을 대체하자는 이야기가 아닙니다.

내부 시스템은 무엇이 실제로 일어났는지를 가장 상세히 압니다. 그 상세함은 바깥에서 흉내 낼 수 없고, 흉내 낼 이유도 없습니다. 바깥에 필요한 것은 상세함이 아니라 위치입니다. 무엇을 하기로 했는지, 그 경계가 어디까지였는지가 당사자와 분리된 곳에 남아 있는 것입니다.

내부와 외부는 서로를 대신하지 않습니다. 각자 독립적으로 존재하다가, 분쟁이 발생했을 때 겹칩니다. 그리고 겹치는 지점에서 비로소 이야기가 끝납니다.

기다리는 동안에도 남는 것

규제는 언젠가 표준을 내놓을 것입니다. 그 표준이 내부 문서화를 중심에 둘지, 외부 확인까지 포함할지는 아직 알 수 없습니다.

다만 표준이 나오기를 기다리는 것과, 지금 무엇이 남아 있는지를 아는 것은 다른 일입니다. 마감일이 물러난 시간은 유예이기도 하지만, 규제가 정해주기 전에 스스로 생각해 볼 수 있는 시간이기도 합니다.

생각해 볼 만한 길이 하나 있습니다. 남기라고 요구된 기록은 그대로 두는 것입니다. 그건 각자의 시스템이 가장 잘 아는 일이고, 바꿀 이유도 없습니다. 다만 무엇을 하기로 했는지와 그 범위가 어디까지였는지만, 실행에 들어가기 전에 당사자 바깥에도 하나 남겨두는 것입니다. 내용까지 옮길 필요는 없습니다. 언제 어떤 경계에서 하기로 했는지만 있으면 충분합니다.

거창한 이야기처럼 들리지만 우리가 이미 하고 있는 일이기도 합니다. 중요한 약속을 할 때 계약서를 쓰고, 그 계약서를 서로가 아닌 제3자에게 맡겨두기도 합니다. 내용을 다 보여주기 위해서가 아니라, 나중에 말이 갈렸을 때 돌아갈 곳을 미리 정해두기 위해서입니다.

기록을 남기라는 요구는 이미 충분하다 못해 넘쳐납니다. 하지만 그 기록을 누가 확인하는가는 아직 아무도 요구하지 않았습니다. 그렇다고 그 질문이 없어지는 것은 아닙니다. 앞으로 더 부각될 근원적 질문이 되겠죠.