채워져가는 내부, 하지만 외부는?

최근 대형 클라우드·결제 사업자들이 비슷한 서비스들을 잇따라 내놓고 있습니다. 에이전트의 결제 결정을 그 추론 과정과 함께 기록해 "책임의 빈틈(accountability gap)"을 닫겠다는 것이죠. 이 흐름은 두 가지를 동시에 보여줍니다. 그 빈틈이 이제 업계의 공용어가 되었다는 것과 지금 메워지고 있는 것은 대체로 안쪽의 빈틈이라는 것을 말입니다.

현재 도입중인 장치들은 실제로 잘 만들어졌습니다.

먼저 분명히 해두겠습니다. 요즘 나오는 에이전트 결제 인프라가 하는 일 — 에이전트가 스스로 결제를 발견하고 승인하고 실행하며, 지갑 관리와 정책 기반 지출 한도, 전체 감사 추적을 별도 인프라 없이 내장하는 것 — 은 실제로 잘 만들어졌습니다. 조직이 사람의 구매에 대해 갖던 통제를, 이제 자율 에이전트의 지출에 대해서도 갖게 된 겁니다. 모델 리스크 관리나 규제 보고를 신경 써야 하는 조직에게 이것은 오랫동안 자율 거래를 막아온 장벽 하나를 치운다. 옳은 방향이며 계속 좋아질 겁니다.

그런데 메워지고 있는 빈틈은 어디까지인가요

이 인프라들이 메우는 것은 한 사업자의 울타리 안에서 도는 에이전트의 빈틈입니다. 한 지붕 아래, 한 사업자의 로그 안에서는 완결됩니다. 그런데 에이전트 경제는 한 지붕 아래에 머물지 않습니다.

한 플랫폼 위의 에이전트가 그 플랫폼 바깥의 서비스와 거래하는 순간, 혹은 서로 다른 사업자에게서 온 두 에이전트가 무슨 일이 있었는지를 두고 어긋나는 순간 — 각 사업자의 감사 추적은 한쪽 당사자의 일방적 선언의 기록일 뿐입니다. 상대방에게 그것은 결국 "우리 쪽 로그에는 이렇게 적혀 있다"는 말과 같다. 아무리 정교해도, 자기 자신에 대한 기록은 자기 증언일 뿐입니다.

이것은 결코 사업자의 결함이 아닙니다. 당사자가 자기 사건의 외부 기준점이 될 수 없다는 것은 — 기업의 내부 회계가 아무리 정밀해도 외부 감사인을 대신할 수 없는 것과 같은, 구조적 문제입니다. 최근의 연구들도 비슷하게 정리합니다. 에이전트들이 서로 지불할 수 있게 만드는 것과, 서로에게 책임지게 만드는 것은 범주가 다른 문제라는 것입니다. 전자는 결제 인프라가 풀 수 있지만 후자는 다른 층의 문제이며 다른 해결책을 요구합니다.

왜 이 빈틈은 안쪽에서만 메워서는 해결이 안 될까요?

여기에 잘 드러나지 않는 이유가 하나 더 있습니다. 안쪽의 방식은 책임을 성립시키기 위해 결정의 추론 과정을 함께 기록합니다. 왜 그렇게 결정했는지를 남겨야 책임이 선다는 논리이며 한 사업자 내부 서비스에서는 합리적입니다.

그런데 두 회사의 에이전트가 외부에서 거래할 때, 상대에게 자기 에이전트가 어떻게 생각했는지를 통째로 보여주고 싶은 회사는 없습니다. 그 추론에는 전략도, 가격 논리도, 영업 비밀도 담기기 때문입니다. 책임을 지려면 속을 열어야 하는 구조라면 — 여러 사업자가 얽히는 환경에서는 아무도 그 구조를 쓰지 않습니다.

외부 기준점은 이와는 달라야만 합니다. 무엇을 생각했는지는 보지 않으면서, 누가 무엇을 언제 결정했는지의 경계만 바깥에 고정하는 것. 내용을 읽지 않기 때문에(content-blind) 오히려 여러 당사자 사이에 설 수 있습니다. 이것이 안쪽에 담긴 감사 추적이 구조적으로 할 수 없는 일입니다 — 안쪽은 내용을 봐야 작동하고, 바깥은 내용을 보지 않아야 성립됩니다.

두 층은 함께 있을 때 완성됩니다

내부 감사 추적은 훌륭하며 이를 부정할 필연적 이유는 없습니다. 오히려 촘촘할수록 좋죠. 다만 그것과 외부 기준점은 서로 다른 층에 있고, 뒤의 것은 당사자가 스스로 만들 수 없습니다. 만드는 순간 그것은 또 하나의 자기 증언이 되니까요.

두 층은 경쟁하지 않습니다. 안쪽은 에이전트가 자기 울타리 안에서 잘 행동하게 하고, 바깥은 울타리를 넘어서는 합의를 확인 가능하게 합니다. 하나가 다른 하나를 대체하는 것이 아니라, 서로가 있어야 그림이 완벽해집니다. 지금 업계가 안쪽을 촘촘히 메우고 있다면, 남은 영역에서 필요한 것은 바로 그 곁에 놓일 바깥의 기준점입니다.

안쪽이 촘촘해질수록, 바깥의 윤곽은 오히려 선명해집니다. "빈틈을 닫았다"는 말은, 빈틈이 있었다는 것을, 그리고 그것이 어느 쪽에 남아 있는지를 함께 알려줍니다. 그 남은 자리를 채우는 것은 안쪽을 부정하는 일이 아니라, 안쪽이 미처 닿지 못하는 곳을 보강하는, 또 다른 자리입니다.