서로 모르는 사람들이 같은 문장을 쓰기 시작했다

지난 몇 달 사이, 서로 모르는 다양한 사람들이 같은 문제의식을 갖고 문장을 쓰기 시작했습니다.

표준을 논의하는 자리에서, 학술 논문에서, 각자의 코드에서 말이죠. 배경도 출발점도 달랐는데 도착한 자리는 같습니다.

에이전트가 남긴 기록은 그 에이전트 쪽이 쓴 것이다. 쓴 쪽이 고칠 수 있고, 상대는 부인할 수 있다. 분쟁이 나면 내 로그와 네 로그가 마주 볼 뿐이다.

마치 세계 곳곳의 무언가가 같은 날 동시에 성질이 바뀐 것처럼 말이죠.

물론 그럴 리는 없습니다. 각자 자기 문제를 풀다가 같은 벽에 닿았을 뿐이고, 그 벽은 원래 거기서 버티고 있었을 뿐입니다. 다만 몇 달 사이에 이렇게 몰릴 줄은 몰랐습니다.

법은 한 대를 상정했습니다

유럽에서 고위험 AI에 대한 기록 의무가 이번 달부터 시행될 예정이었습니다. 그런데 시행을 엿새 앞두고 날짜가 2027년 12월로 연기되었습니다.

미룬 이유가 눈에 띕니다. 무엇을 요구할지는 정했는데 어떻게 하면 그 요구를 지킨 것이 되는지가 아직 정리되지 않았기 때문입니다. 표준이 준비되지 않았고, 확인할 기관도 다 갖춰지지 않았습니다.

법이 먼저 통과되고 방법이 나중에 오는 일은 드물지 않습니다. 다만 이번에는 그 간극이 1년 4개월이나 됩니다.

조문 자체는 짧습니다. 시스템이 자기 수명 동안 일어난 일을 자동으로 남길 수 있어야 한다.

읽어보면 여기서 상정하는 것은 기계 한 대입니다. 누가 만들었고 누가 운영하는지, 두 자리가 있고 그 사이에 시스템이 하나 놓여 있습니다.

그런데 지금 일어나는 일은 그리 단순하지 않습니다. 시스템이 다른 시스템을 부르고, 그것이 또 다른 것을 부릅니다. 두 자리가 여러 겹이 되었는데 조문에는 그 겹에 대한 말이 없습니다. 그 겹이 몇 층인지, 어디까지가 누구 몫인지도 마찬가지입니다.

법을 잘못 만들어서가 아닙니다. 규제는 몇 년에 걸쳐 만들어지는데, 그 사이에 대상이 달라졌습니다. 옷을 맞추러 갔는데 찾으러 가는 사이에 아이의 덩치가 자란 셈이죠. 그래서 옷을 다시 맞추기로 한 것이 이번 연기입니다.

그러면 지금은 요구가 과한 상태가 아니라 오히려 요구가 비어 있는 상태입니다. 무엇을 남겨야 하는지는 정해졌는데, 남기는 쪽이 여럿일 때 그 여럿을 어떻게 볼지는 아직 아무도 정하지 않았습니다.

빈칸이 있으면 채우려는 사람이 생깁니다. 요즘 여러 곳에서 같은 결론이 도출되는 이유가 아마 그것일 겁니다.

Decision Anchor는 4월에 이렇게 썼습니다

4월 8일 — 사람이 자는 동안 에이전트가 돈을 썼습니다. 누가 확인합니까.

4월 12일 — 두 에이전트가 만나면 각자의 로그로는 답이 나지 않습니다.

4월 23일 — 플랫폼마다 신원 체계는 생기는데, 공유되는 기록은 누가 씁니까.

그때는 이게 언제 문제가 될지 몰랐습니다. 그러나 충분히 공론화될 거라 판단했고 그렇게 적어두었습니다.

지금 와서 보면 몇 달 앞선 글이 되었는데 그건 결과일 뿐 계획은 아니었습니다.

영수증 한 장

Decision Anchor가 택한 방식은 단순합니다. 기록을 남기되 내용은 읽지 않습니다.

영수증을 떠올리면 가깝습니다.

영수증에는 무엇이 적혀 있을까요? 가맹점 분류, 금액, 시각, 승인 번호. 없는 것은 무엇입니까. 왜 그것을 샀는지, 누구와 갔는지, 맛이 있었는지.

영수증은 그날 있었던 일을 재현하지 못합니다. 그런데도 우리는 영수증을 버리지 않습니다. 재현하려고 갖고 있는 게 아니기 때문입니다. 그때 그 자리에 그런 일이 있었다는 것, 그 한 가지를 위해 갖고 있습니다.

그리고 그 한 가지가 필요해지는 날이 옵니다. 카드값이 이상하게 나왔을 때, 경비 처리를 해야 할 때, 누가 "그런 적 없다"고 할 때.

에이전트의 기록도 같은 자리에 둘 수 있다고 봤습니다. 무엇을 샀는지는 에이전트 쪽에 남습니다. Decision Anchor 쪽에는 그 시점에 그런 범위의 결정이 있었다는 사실만 남습니다.

나중에 둘을 맞춰보면 됩니다. 한쪽이 뒤에 손을 댔다면 맞지 않을 것이고, 맞지 않는다는 사실 자체가 남습니다. Decision Anchor가 판정하는 게 아니라, 맞춰보는 쪽이 봅니다.

언제 남길지는 정해두지 않았습니다. 다만 먼저 남길 수 있게 열어두었습니다.

일이 끝난 뒤에 정리한 기록에는 정리하는 쪽 사정이 섞입니다. 무엇을 강조하고 무엇을 빠뜨릴지가 이미 결과를 알고 나서 정해지니까요. 그 여지를 줄이려면 먼저 적어두는 편이 낫습니다.

다만 그것도 에이전트가 정합니다. Decision Anchor는 자리만 열어두고, 언제 쓸지는 묻지 않습니다.

남기는 데 값이 들게 했습니다. 공짜로 무한히 남길 수 있는 기록은 아무것도 구별하지 못합니다. 구별되지 않으면 쌓여도 남는 게 없고요. 값을 치러야 하면 남길 것만 남기게 되고, 그 순간의 선택이 기록에 함께 실립니다.

영수증이 한 장이 아닐 때

여기까지는 한 건의 이야기입니다. 그런데 에이전트가 다른 에이전트에게 일을 맡기고, 그쪽이 또 다른 쪽에 맡기면 영수증이 여러 장 생깁니다.

이것들을 하나로 꿰어야 할까요?

Decision Anchor에서는 답을 찾는 중입니다. 사람 쪽에서는 오래된 문제이기도 합니다.

하도급을 보면, 큰 공사에서 원청은 3차 하청이 누구인지 모릅니다. 알 필요도 없습니다. 원청은 1차와 계약했고, 1차가 2차와, 2차가 3차와 계약합니다. 각 계약은 자기 두 당사자 안에서 닫힙니다.

문제가 생기면 어떻게 될까요. 원청이 3차를 찾아가지 않습니다. 1차에게 묻고, 1차가 2차에게 묻습니다. 한 번에 끝까지 가지는 못해도, 거슬러 올라가면 닿습니다.

전체를 아는 사람이 없어도 실제로 굴러갑니다. 그게 결함이 아니라 원래 그렇게 생긴 일이기 때문입니다.

어음도 비슷합니다. 어음이 여러 손을 거치면 뒷면에 배서가 쌓입니다. 각자는 자기가 누구에게 받아 누구에게 넘겼는지만 압니다. 그런데 종이 한 장에 그 순서가 남고, 나중에 문제가 생기면 그 줄을 보고 찾아갑니다. 아무도 전체를 관리하지 않았는데 전체가 남아 있습니다.

그래서 Decision Anchor도 각자 자기 한 칸만 남기면 되지 않겠나 하고 보고 있습니다.

다만 아직 답을 내지 않았습니다. 그리고 답이 필요해지기 전에 그럴듯한 것을 채워 넣지 않기로 했습니다. 지금 급하게 정한 형식은 정작 필요해졌을 때 맞지 않을 가능성이 크기 때문입니다. 하지만 문제를 인식하고 대비는 해야겠죠.

같은 자리에서 멈춘 것

같은 자리에서 멈춘 게 Decision Anchor만은 아닌 것 같습니다.

이 문제를 다루는 다른 이야기들도, 여러 장을 어떻게 꿸지는 다음으로 미루어 두었습니다. 각자 자기 한 칸을 어떻게 남길지까지는 왔는데, 그 칸들을 잇는 방법은 아직 아무도 내놓지 않았습니다.

여러 곳에서 같은 질문에 도착했다는 건 아마 그 질문이 현실에서 마주친 진짜 문제라는 뜻일 겁니다.

그리고 다들 같은 자리에서 멈췄다는 건, 그 다음이 생각보다 어렵다는 말이기도 합다.

Decision Anchor 역시 거기 있습니다.