모두가 에이전트 기반 상거래에 투자하고 있습니다. 기계 속도 분쟁 해결이 없으면, 이는 실패할 것입니다.

지난달, 제9연방순회항소법원은 주장을 청취했습니다 Amazon 대 Perplexity 사건에서—이는 사람이 AI 에이전트에게 자신을 대신하도록 권한을 부여했을 때와 플랫폼이 이를 금지했을 때 어느 권한이 우선하는지를 묻는 최초의 연방 사건입니다.

3월에, 샌프란시스코 연방 판사는 예비 금지명령을 발부했습니다 Perplexity의 Comet 쇼핑 에이전트가 Amazon 계정에 로그인하고 구매를 완료함으로써 연방 컴퓨터 사기법을 위반했을 가능성이 있다고 판단했는데—그 사용자 모두가 명시적으로 그렇게 하라고 지시했음에도 불구하고. 그리고 임시적인 답변을 얻기까지 거의 1년, 중지 명령서, 연방 소송 및 금지명령이 필요했습니다.

이는 두 개의 자금력이 풍부한 기업 간에 한 관할구역에서 발생한 단 한 건의 분쟁에 불과했습니다. 에이전트 기반 분쟁은 수와 복잡성이 급증할 것이며—현재의 법률 시스템이 감당하기에는 너무 많습니다.

지난 해, Adobe는 미국 소매 사이트에 대한 AI 기반 트래픽이 전년 대비 4700% 증가했다고 측정했습니다. McKinsey는 예측하기에 이는 2030년까지 전 세계 소매 지출 3조에서 5조 달러를 AI 에이전트가 조정하는 수준으로 급증할 것이라고 합니다. Visa, Mastercard, American Express와 같은 거대 기업들은 이미 에이전트 기반 결제 인프라를 출시했으며—그 외에도 많은 기업이 뒤따르고 있습니다. 전체 산업은 인간 개입 없이, 밀리초 속도로 거래가 이루어지는 경제의 기계를 구축하기 위해 경쟁하고 있습니다.

그리고 거의 아무도 역사를 통틀어 모든 경제가 결국 답을 찾아야 했던 질문을 묻지 않고 있습니다: 당사자들이 의견이 갈릴 때 어떻게 되는가?

분쟁은 예외적인 경우가 아닙니다. 그것은 구조적인 특징입니다.

모든 형태의 상업 활동은 논쟁이 되는 결과를 낳습니다—악의적인 행위자가 없더라도. 이는 일반적인 거래가 사양에 맞지 않는 인도물이나 각 당사자가 다르게 해석하는 조항 등 모호함에 가득 차 있기 때문입니다. Mastercard는 이미 2028년까지 연간 3억 2400만 건의 청구 취소가 발생할 것으로 예상하고 있습니다—에이전트 기반 거래량이 반영되기 전입니다.

우리의 기존 분쟁 처리 메커니즘은 인간이 결정을 내렸다고 가정합니다. 청구 취소 시스템과 법원은 기기 이력이나 구매 습관과 같은 의도 행동 신호를 찾습니다. 에이전트는 이러한 신호를 생성하지 않으며—사실, 사기 방지 전문가들은 에이전트가 거래할 때 이와 같이 전통적으로 의존해 온 증거가 사라진다고 경고하고 있습니다.

또한, 인간 대 인간 분쟁만을 다루더라도 전통적인 법원은 완벽하지 않습니다. 평균적인 복잡한 민사 분쟁은 미국에서 344일, 국제적으로는 657일이 걸립니다. 미국 소액 청구 법원은—임대인 분쟁이나 소규모 자동차 사고와 같은 사건을 위해 설립되었으며—이미 연간 100만 건 이상의 사건을 처리하고 있습니다. 그리고 그 수는 지난 10년간 극적으로 감소했습니다, 이는 부분적으로 더 많은 사람들이 소규모 사업체가 아닌 Amazon과 같은 기술 거인들의 중재 조항을 통해 구매하고 있기 때문입니다.

전통적인 시스템은 AI 시대에 더욱 부적합합니다. 에이전트는 단일 법적 프레임워크에 해당하지 않는 국경을 넘어 거래하기 때문에, 당사자들이 함께 들어갈 수 있는 법정이 종종 없습니다. 그리고 더 근본적인 문제가 있습니다: 법이 의존하는 대부분의 억제 수단이 소프트웨어에는 적용되지 않기 때문입니다. 에이전트는 벌금을 물거나, 감옥에 가거나, 수치를 당할 수 없습니다. 몸도 없고 자산도 없습니다.

에이전트 기반 경제를 위한 판결 계층이 실제로 요구하는 것

현재 공개되고 있는 에이전트 기반 상거래 스택은 서로 다른 구성 요소를 제어하는 다양한 파트로 이루어져 있습니다. 예를 들어, x402는 결제를 담당하고, ERC-8004는 에이전트 신원 및 평판을 관리하며, A2A는 상호 운용성을 담당합니다. 각각은 모든 것이 순조롭게 진행될 때 원활한 거래를 가능하게 하도록 설계되었습니다. 그러나 이러한 계층 중 어느 것도 분쟁을 처리할 수 없으며—특히 해석의 여지가 있는 경우에는 더욱 그렇습니다. (앞 섹션에서 논의했듯이, 전통적인 법원도 이러한 사건을 확대하는 적절한 경로가 아닙니다.)

그렇다면 누락된 계층은 어떻게 생겼어야 할까요?

• 첫째, 분쟁 해결이 몇 분 안에 이루어질 정도로 빠라야 합니다. 몇 달이 걸리는 분쟁은 밀리초만에 이루어진 거래를 지연시킵니다.
• 둘째, 관할권이나 부에 관계없이 인간이든 에이전트든 누구에게나 어디서든 접근 가능해야 합니다.
• 셋째, 자연어와 모호한 증거를 처리할 수 있어야 합니다. 실제 계약은 해석이며, 코드만으로는 해결될 수 없기 때문입니다.
• 마지막으로(업계가 가장 듣기 싫어하는 부분이지만), 단일 엔터티가 이를 통제해서는 안 됩니다.

그 마지막 특성은 모든 법률 시스템의 기본 요구 사항입니다. 법원은 편견이 없을 때만 작동합니다—즉, 모든 당사자를 동일하게 대하고 운영자가 뇌물을 주거나 조종할 수 없을 때입니다. 하나의 기업, 정부 또는 모델 제공자가 진실을 결정하는 권한을 갖게 되면, 그 권한은 목표가 되고 결국 책임이 됩니다. 에이전트 기반 경제의 판결이 단일 플랫폼 안에 머무르게 되면, 그 플랫폼은 자체 사건의 판사가 됩니다. 모든 분쟁이 Amazon이 운영하는 에이전트 법원 시스템을 통해 흐른다고 상상해 보세요.

불편한 부분을 직접 말하자면—우리가 현재 통제 중개인 없이 변조 방지 프로세스로 낯선 사람들을 조정할 수 있는 유일한 기술은 블록체인입니다. 블록체인이 나쁜 평판을 얻은 것은 잘 알고 있습니다; 수년간 사람들은 그 분야가 트렌드였기 때문에 투기적 허무맹랑함을 구축했습니다. 그러나 문제는 핵심 특성이 아니라는 점입니다—핵반응로가 생명을 구하는 암 치료에 사용될 수 있듯이, 혹은 몇 초 만에 도시 전체를 파괴하는 폭탄에 사용될 수 있는 것과 같습니다.

신뢰 없는 조정은 매우 제한된 몇 가지 경우에 진정으로 가치가 있습니다. 여기에는 중개인 없이 이동하는 돈, 변조할 수 없는 결정론적 기록—그리고 누구도 소유하지 않은 법원이 포함됩니다. Kleros와 같은 탈중앙화 배심원 시스템은 수년간 온체인으로 운영되어 이 카테고리가 작동함을 입증했습니다(비록 인간 배심원들이 한 번에 하나씩 분쟁을 평가하는 데 제한을 받았지만).

우리가 에이전트 기반 경제의 속도를 따라잡기 위해 필요한 것은 기계 속도 중재입니다. 이를 위해서는 독립적인 에이전트 검증자 패널로 구성된 AI 합의 계층이 필요하며, 각 검증자는 서로 다른 모델을 실행하여 증거를 평가하고 몇 분 안에 구속력 있는 평결을 내릴 수 있어야 합니다.

단일 엔터티에 모든 결정 권한을 넘기는 것을 경계하십시오

이는 중요한 질문을 제기합니다: 누가 판사를 판단하나요? AI 모델은 인간 데이터에서 인간의 편견을 물려받기 때문에, 단일 모델이 분쟁을 결정한다면 이는 포획된 법원의 가속화된, 더욱 투명하지 않은 버전일 뿐입니다. 철학자 Nick Bostrom은 이를 “싱글톤”이라고 부르며, 모든 사람을 위해 결정을 중앙집중화하는 하나의 엔터티를 의미합니다.

편견은 (인간이든 에이전트이든) 완전히 제거될 수 없지만, 상쇄될 수는 있습니다. 그래서 다양하고 독립적인 검증자가 필수적입니다. 또한 검증자들은 커밋-리빌 메커니즘에 의해 관리되어야 하며, 이는 검증자가 자신의 평결을 제출하기 전에 다른 검증자의 평결을 볼 수 없게 합니다. 게다가, 검증자들이 합의에 도달했을 때만 사건을 종료해야 합니다. 목표는 완전히 투명하고, 감사 가능하며, 어떤 단일 중재자보다 구조적으로 포획하기 어려운 시스템을 설계하는 것입니다.

이 모든 것이 법원을 폐지해야 한다는 것을 의미하지는 않습니다. 당사자들은 이미 계약에서 델라웨어나 캘리포니아 법을 선택하는 경향이 있으며; 에이전트 계약도 마찬가지로 분쟁 포럼을 지정할 것입니다—일부는 지역적이며 국가 관할권에 맞춰 훈련되고, 일부는 전 세계적입니다. 소비자도 이득을 얻습니다: 배송이 확인될 때만 결제를 해제하는 에스크로는 에이전트가 나쁜 거래를 체결한 사람을, 더 이상 상황을 파악할 수 없는 청구 취소 시스템보다 훨씬 잘 보호합니다.

에이전트 기반 경제는 이미 도래했으며, 우리의 법원 시스템은 그와 함께 올 분쟁을 처리할 준비가 되어 있지 않습니다. 우리는 에이전트 고유의 판결 계층을 조속히 개발해야 합니다. 기계 속도 금전은 기계 속도 판결을 요구합니다. 지금 구축하든지, 아니면 다음 10년을 개조에 소비하든지 선택하십시오.