인공지능

자율 금융에 문제가 생기면 누가 책임질까?

Daniel Martin
Securities.io를 Google의 선호 소스에 추가
핵심 포인트책임은 개별적인 비난이 불분명하게 남아 있는 경우에도 배포 전에 부여될 수 있다.
더 보기
  • 책임은 개별적인 비난이 불분명하게 남아 있는 경우에도 배포 전에 부여될 수 있다.
  • 검토자가 개입하기 전에 거래가 정산되면 인간의 감독은 실패한다.
  • 보상 약속은 이를 뒷받침하는 준비금이나 보험이 없으면 거의 의미가 없다.

AI 스마트 계약이 확산되려면 책임 체계가 필요하다

AI 에이전트가 시장 데이터를 해석한 뒤 자금을 이동한다. 스마트 계약은 지시받은 대로 거래를 정확히 실행한다. 기술은 제대로 작동했지만, 지시가 잘못되어 고객은 자금을 잃는다. 누가 손실을 부담할까?

이 질문에 대한 답은 자율 금융이 신뢰할 수 있는 인프라로 자리 잡을지, 아니면 고객이 조심스럽게 접근하는 실험에 머물지를 좌우할 수 있다. 더 빠른 실행은 가치를 창출하지만, 기관이 이를 도입하려면 명확한 권한과 효과적인 안전장치, 손실을 처리할 신뢰할 수 있는 절차도 필요하다.

Kwok Tung Cheung과 Sridhar Ramamoorti가 집필해 AI and Ethics에 발표한 개념 연구는 에이전트형 AI가 스마트 계약과 상호작용할 때의 책임 문제를 살펴본다.1 이 연구의 핵심 주장은 건설적인 방향을 제시한다. 실패 후 개인의 책임을 규명하기 어려운 경우에도 조직은 시스템을 도입하기 전에 책임 체계를 마련할 수 있다.

에이전트형 AI가 스마트 계약의 위험을 바꾸는 이유

일반적인 스마트 계약은 프로그래밍된 조건을 실행한다. AI 에이전트는 여기에 해석 기능을 더한다. 정보를 평가하고, 도구를 선택하며, 목표를 달성하기 위한 거래를 시작할 수 있다. 실제로 모델은 블록체인 밖에서 작동하면서 자신의 결정을 실행하는 계약을 호출할 수도 있다.

이로 인해 서로 다른 두 가지 질문이 생긴다. 계약은 올바르게 실행되었는가? 그리고 에이전트가 해당 조치를 요청할 권한과 정당한 이유를 갖고 있었는가? 기술적으로 유효한 거래도 운영상의 실패일 수 있다.

이 논문은 가상의 탈중앙화 대출 사례를 통해 이를 설명한다. 외부 가격 데이터를 제공하는 서비스인 오라클과 예상치 못한 상호작용이 발생해 AI 모니터링 시스템이 부적절한 담보 청산을 촉발한다. 그 결과 발생한 손실은 데이터 제공, 모델 동작, 프로토콜 설정, 실행이라는 여러 경계를 넘나든다.

자금을 이동하는 AI 에이전트에 관심을 두고 있는 독자라면, 이것이 다음으로 마주할 거버넌스 과제다. 거래 권한은 소프트웨어가 무엇을 할 수 있는지 정한다. 책임 체계는 그 권한으로 피해가 발생했을 때 어떤 참여자가 해명하고 책임져야 하는지를 결정한다.

AI 책임 연구가 제안하는 내용

저자들은 행위 귀속 가능성, 해명 책임, 책무성을 구분한다. 대체로 이는 행위의 주체가 누구인지, 그 이유를 설명하는 일, 그리고 결과가 뒤따르는 제도적 절차의 적용을 받는 일을 가리킨다.

저자들의 주장은 나머지 두 요소가 불확실하더라도 책무성은 유지될 수 있다는 것이다. 기업은 특정 직원이 모든 결과를 예측했음을 입증하지 않고도 시스템을 도입하는 데 따르는 명확한 의무를 받아들일 수 있다. 이러한 의무는 손실이 발생한 뒤 임의로 부과하는 것이 아니라 공정하게 정해져야 한다.

다음 조건은 개인의 과실을 입증하지 않고도 정당한 책임을 물을 수 있도록 논문이 제안하는 근거를 요약한 것이다.

조건 논문이 요구하는 사항
명확히 정해진 역할 책임은 사전에 명시되고 자발적으로 맡은 역할에 부여된다.
이익과 부담 이익을 얻는 참여자는 그에 따른 손실도 부담한다.
위험에 대한 영향력 책임을 지는 당사자는 관련 위험에 영향을 미치고 이를 완화할 수 있다.
사전 고지 책임 배분 방식은 시스템 도입 전에 참여자 모두에게 알려져 있다.

이 구분은 일반 사용자에게 중요하다. 약관에 동의한다고 해서 차입자가 모델 설계나 오라클 선정에 관여할 수 있는 것은 아니다. 따라서 저자들은 상당한 의무를 상류 단계에 있는 주체들에게 부과한다. 이는 제안된 체계이지, 해당 책임 배분이 이미 여러 관할권에서 적용되고 있다는 뜻은 아니다.

사람이 통제하려면 시간과 권한이 필요하다

논문은 사람이 주도하는 접근 방식을 제안한다. 사람이 목표와 허용 가능한 동작, 개입 권한, 도입에 대한 책임을 정하는 방식이다. 거래가 완료되기 전에 검토자가 대응할 수 없다면, 활동을 지켜보는 것만으로는 충분하지 않다.

논문에서 예시로 든 대출 안전장치에는 25만 달러의 청산 검토 기준, 15분 이상 평균을 낸 가격 피드, 그리고 조건을 충족하는 청산에 적용되는 최소 60분의 이의 제기 기간이 포함된다. 이는 제안된 설계 매개변수이지, 측정된 안전성 기준은 아니다.

이러한 단서는 중요한 상업적 절충점을 드러낸다. 청산을 늦추면 차입자를 잘못된 데이터로부터 보호할 수 있지만, 담보 가치가 실제로 급락할 경우 대출 기관의 위험 부담은 커질 수 있다. 자산과 시장이 다르면 필요한 통제 방식도 다르다. 모든 경우에 적용되는 단일 대기 기간을 정당화하기는 어렵다.

따라서 실용적인 구현 방식은 정책에 관한 사람의 결정과 자동화된 집행을 결합하는 것이다. 허용된 소액 거래는 즉시 진행하고, 이례적인 거래는 일시 중지하며, 긴급 상황에는 사전에 정한 제한을 적용할 수 있다.

  • 에이전트가 접근할 수 있는 자산, 수취처, 금액을 정한다.
  • 일련의 거래 전반에서 누적 위험 노출을 모니터링한다.
  • 개입 권한을 부여하고 압박을 받는 상황에서도 제대로 작동하는지 시험한다.

책임성은 금융 인프라의 일부다

상업적 측면에서 더 넓게 보면, 자율 금융은 거래 비용뿐 아니라 실패에 따른 비용도 관리해야 한다. 결제 비용이 낮아져도 고객이 비싼 분쟁 처리나 복구 작업, 예상치 못한 손실을 부담해야 한다면 절감 효과는 제한적일 수 있다.

100달러 미만의 결제를 할 수 있도록 허용된 에이전트를 가정해 보자. 각각은 규정을 준수하는 결제라도 수백 건이 누적되면 고객이 의도한 예산을 초과할 수 있다. 따라서 중요한 통제 기준은 거래 금액만이 아니라 작업이나 일정 기간에 걸친 누적 지출이다.

통제 장치는 모델의 재량권 밖에도 마련해야 한다. 에이전트에게 예산을 지키라고 요청하는 것과 독립된 소프트웨어가 승인되지 않은 지출을 거부하도록 하는 것은 다르다. 이렇게 하면 에이전트가 행동을 제안하는 능력과 시스템이 이를 실행할 권한을 분리할 수 있다.

기계 간 결제가 소프트웨어가 구매할 수 있는 서비스의 범위를 넓힐수록, 이러한 분리는 더욱 중요해진다. 데이터를 구매한 뒤 이를 바탕으로 거래하는 에이전트는 서로 연결된 일련의 의사결정을 만들어 낸다. 운영자는 전체 작업 흐름을 파악해야 한다.

보상 재원도 뒷받침돼야 한다

논문에서 제시한 역할 분담을 넘어서는 또 다른 시사점은, 책임을 지는 주체가 의무를 이행할 자원을 갖춰야 한다는 것이다. 여러 고객이 동시에 손실을 입었을 때 자본이 부족한 운영 주체를 명시해 두는 것만으로는 보호 효과가 제한적이다.

활동의 성격에 따라 준비금, 보험 또는 계약상 보증을 통해 신뢰할 수 있는 손실 복구 체계를 뒷받침할 수 있다. 각각 비용과 한계가 따른다. 예를 들어 보험 면책 조항은 익숙하지 않은 에이전트의 행동으로 손실이 발생하는 바로 그 상황에서 보장 공백을 남길 수 있다.

투자자는 안전장치와 손실 복구 의무를 반영한 뒤의 경제성을 평가해야 한다. 플랫폼의 거래 증가세는 전체 상황의 일부만 보여 준다. 지속 가능한 마진은 안전한 운영에 드는 비용과 대차대조표에 남는 손실에 달려 있다.

Coinbase, AI 에이전트와 금융 거래 실행을 연결하다

Coinbase는 이러한 역량을 구축하는 기업에 대한 공개 시장 투자 기회를 제공한다. Coinbase의 에이전트형 지갑 출시에서는 프로그래밍 가능한 세션 한도, 개별 거래 한도, 개인 키 격리, 거래 심사 기능을 소개한다. 이러한 기능은 인프라 수준에서 금융 접근을 어떻게 제한할 수 있는지 보여 준다.

COIN 가격 차트

2026년 9월 22일 발표에서 Coinbase for Agents에 주식 및 x402 결제 기능이 추가돼 에이전트 기반 거래와 데이터 및 모델 서비스 결제를 연결했다. Coinbase는 설정 가능한 자산 접근 권한, 지출 한도, 작업별 승인 기능을 설명했다.

같은 발표에 따르면 사용자가 에이전트의 활동을 지휘하고 거래 위험을 부담한다. 이는 모델 및 프로토콜 위험에 영향을 미칠 수 있는 참여자에게 그 위험을 배분하자는 연구의 제안과 뚜렷한 대조를 이룬다. 제품에 내장된 안전장치와 계약상 책임성은 문제의 서로 다른 측면을 다룬다.

Coinbase의 도구만으로 회사가 논문의 체계를 적용한다고 단정할 수는 없다. 투자 측면의 연관성은 더 넓다. 에이전트 도입이 늘면 지갑, 결제 및 거래 실행 서비스에 대한 수요가 증가할 수 있다. 그 수요가 실질적인 수익으로 이어질지는 이용량, 수익화 방식, 경쟁, 운영 비용에 달려 있다. Coinbase는 더 넓은 암호화폐 시장의 영향에도 계속 노출돼 있다.

Coinbase(COIN) 최신 뉴스와 동향

자율 금융에서 투자자가 주목해야 할 점

이 연구는 거버넌스의 근거를 제시하지만, 제안한 안전장치를 실험으로 검증하지는 않는다. 가명으로 운영되는 조직에 대한 규제 집행은 여전히 어렵고, 가상의 청산 시나리오만으로는 실제 시장 위기에서 통제가 어떻게 작동하는지 확인할 수 없다.

그럼에도 이 연구는 진전을 평가하는 데 유용한 방향을 제시한다. 투자자는 권한 경계가 명확한지, 개입 장치가 시험을 거쳤는지, 손실 배분이 투명한지, 고객이 이러한 보호 조치를 가치 있게 여긴다는 근거가 있는지 살펴볼 수 있다.

가장 경쟁력 있는 기업은 자율성을 반복 구매할 만큼 신뢰할 수 있는 서비스로 만드는 기업일 수 있다. 책임성이 명확하면 더 빠른 금융 거래 실행을 기관과 개인이 기꺼이 신뢰하는 서비스로 발전시키는 데 도움이 될 수 있다.

참고 문헌:

1 Cheung, K. T., 및 Ramamoorti, S. (2026). 스마트 계약과 에이전트형 AI의 책임성: 책임 공백을 해소하고 의미 있는 인간의 통제를 유지하는 방법은 무엇인가? AI and Ethics, 6, 논문 585. https://doi.org/10.1007/s43681-026-01434-3

다니엘은 전통적인 금융을 뒤엎을 블록체인의 잠재력을 강력히 주장하는 사람입니다. 그는 기술에 대한 깊은 열정을 가지고 있으며 항상 최신의 혁신과 가젯을 탐색합니다.