Daniel Wagner, Q2 제품 및 엔지니어링 디렉터 – 인터뷰 시리즈

Daniel Wagner, Q2 제품 및 엔지니어링 디렉터,는 인공지능, 머신러닝, 데이터 플랫폼, 디지털 뱅킹 및 엔터프라이즈 소프트웨어 제공 분야에 걸친 배경을 가진 경험 많은 기술 및 제품 리더입니다. Sensibill 인수를 통해 Q2에 합류하기 전, Wagner는 Sensibill에서 10년 이상 근무하며 Delivery Manager, Delivery Director, Director of Engineering, VP of Engineering 등 다양한 리더십 역할을 수행했습니다. 그는 데이터 및 AI 팀을 이끌어 머신러닝 프로젝트를 개발하고, 주요 금융 기관을 위한 모바일 솔루션을 감독했으며, 최근에는 데이터 강화 및 인사이트에 중점을 둔 고객 데이터 플랫폼의 엔지니어링을 이끌었습니다. 경력 초기에 Wagner는 Itelios의 브라질 사업을 공동 설립하고 CEO로 재직했으며, 이 회사는 이후 Capgemini에 인수되었습니다. 그는 소프트웨어 엔지니어로 경력을 시작했습니다. Q2는 2022년에 Sensibill을 인수하여 금융 기관을 위한 데이터 및 머신러닝 역량을 강화했습니다.

Q2는 은행, 신용조합, 핀테크 기업 및 대체 금융 제공자를 위해 디지털 뱅킹 및 대출 솔루션을 제공하는 금융 기술 회사입니다. 그 플랫폼은 소비자, 소기업 및 상업 은행을 아우르며 디지털 온보딩, 임베디드 파이낸스, 관계 기반 가격 책정, 위험 및 사기 관리, 데이터 기반 개인화를 포함합니다. Q2는 AI를 자사 제품 포트폴리오 전반에 점점 더 통합하고 있으며, 여기에는 은행 직원 생산성을 향상시키고, 사기 활동을 감지하며, 계좌 보유자 경험을 개인화하고, 금융 기관이 더 빠르고 데이터 기반 의사 결정을 내릴 수 있도록 돕는 도구가 포함됩니다. 이 회사는 전체 포트폴리오에서 1,000개 이상의 금융 기관에 서비스를 제공하며, 기술을 디지털 서비스를 현대화하고 확장하려는 금융 기관을 위한 인프라 계층으로 포지셔닝하고 있습니다.

Q2에서 귀하의 업무는 사이버 복원력과 조직이 보안 사고에 대비하고 복구하는 방법에 초점을 맞추고 있습니다. 금융 기관이 정보를 단순히 분석하는 것이 아니라 행동을 취할 수 있는 AI 에이전트를 배치하기 시작하면서, 가장 우려되는 새로운 보안 위험은 무엇입니까?

사이버 보안과 사기 방지는 문제의 서로 다른 부분을 다룹니다. 사이버 보안은 계정 접근을 보호하고 기본 소프트웨어가 안전하도록 ‘경계를 확보’하는 역할을 담당합니다. 제 업무는 누군가 이미 그 경계를 넘어왔을 때 시작되며, 그들이 주장하는 사람인지 여부를 판단하는 데 초점을 맞춥니다.

AI 에이전트가 등장함에 따라, 그 문을 통과하는 사람은 다른 사람의 권한으로 행동하는 위임된 에이전트입니다. 제가 가장 우려하는 위험은 프롬프트 인젝션입니다. 이는 사기꾼이 정당한 사용자의 에이전트를 조작해 사용자가 전혀 승인하지 않은 행동을 수행하게 하는 것으로, 사용자의 이익에 부합하지 않습니다. 이는 감지하기 어려운 새로운 사기 영역입니다.

은행은 전통적으로 사람, 애플리케이션 및 서비스 계정을 중심으로 신원 및 접근 관리 시스템을 구축해 왔습니다. 이제 AI 에이전트를 별개의 고유 신원으로 취급해야 할까요? 실제로는 어떻게 적용될까요?

가장 명확한 비유는 비즈니스 뱅킹에서 찾을 수 있는데, 여기서는 위임된 접근이 이미 성숙한 관행입니다. 기업은 직원에게 특정 작업을 수행하도록 제한된 접근 권한을 부여하는데, 예를 들어 잔액을 조회하는 등 계좌 소유자의 전체 권한을 부여하지 않습니다.

금융 기관은 동일한 프레임워크를 AI 에이전트에 적용해야 합니다. 에이전트는 기업이 인간 보조자를 대하듯, 제한된 역할을 가진 별개의 신원으로 취급되어야 합니다. 이는 처음부터 좁은 범위의 에이전트 권한을 기반으로 신원 및 접근 관리를 구축한다는 의미이며, 에이전트에게 계좌 소유자와 동일한 지위를 부여하지 않는다는 것을 뜻합니다.

AI 에이전트가 직원이나 고객을 대신해 행동할 때, 은행은 에이전트가 정확히 어떤 데이터에 접근할 수 있고, 어떤 계좌와 상호작용할 수 있으며, 어떤 금융 행동을 수행하도록 허용할지를 어떻게 결정해야 할까요?

기본값을 읽기 전용 접근으로 설정하십시오. 은행은 이미 이러한 수준의 세분화를 지원하는 인프라를 갖추고 있으며, 이는 비즈니스 뱅킹이 수년간 요구해 온 것이기 때문입니다. 금융 기관은 에이전트가 볼 수 있고 할 수 있는 것을 매우 정확하게 정의할 수 있습니다.

거래 시작과 승인은 별개의 권한으로 취급될 수 있으며, 두 권한 모두 금액이나 거래 유형에 따라 추가로 제한될 수 있습니다. 많은 기관이 이미 비즈니스 계좌에 대해 2인 승인 절차를 사용하고 있으며, 동일한 워크플로우를 에이전트에도 자연스럽게 적용할 수 있습니다. 에이전트가 행동을 시작할 수는 있지만, 최종 승인은 계좌 소유자에게 남겨두어 정보 조회를 넘어서는 모든 작업에 사람을 개입시키는 것이 좋습니다.

최소 권한 접근은 에이전트가 작업을 완료하기 위해 여러 시스템에서 수십 단계의 절차를 수행해야 할 때 더욱 복잡해집니다. 금융 기관은 에이전트에게 충분히 유용한 권한을 부여하면서 과도한 권한을 부여하지 않으려면 어떻게 해야 할까요?

에이전트가 유용하려면 반드시 돈을 이동시킬 필요는 없습니다. 에이전트가 제공하는 대부분의 가치는 잔액 확인, 지출 추적, 트렌드 파악 등 정보를 검색하고 정리하는 데서 옵니다. 이는 높은 권한을 요구하지 않으며, 사람들이 계좌에 로그인하는 주된 이유이기도 합니다. 돈을 이동하거나 계좌 세부 정보를 변경하는 등 그 이상의 행동은 별도의, 보다 엄격히 제어되는 권한 계층에 속합니다.

사기 시스템은 비정상적인 로그인이나 거래 패턴과 같은 의심스러운 인간 행동을 식별하도록 설계되었습니다. 정당한 AI 에이전트가 기계 속도로 작동하고 인간 사용자에게 비정상적으로 보이는 행동을 보일 때, 사기 탐지는 어떻게 진화해야 할까요?

일부 기존 제어는 거래 속도를 신호로 크게 의존합니다. 이러한 신호는 정당한 에이전트도 빠르게 움직일 수 있는 세상에 맞게 재조정되어야 합니다. 그렇지만, 우리 대부분의 행동 신호는 특정 사용자와 특정 수취인에 대한 정상적인 패턴을 기준으로 하며, 사기를 포착하는 데 여전히 유효합니다. 금융 기관은 행동을 평가하는 동시에 신원을 확인할 수 있습니다.

향후 금융 기관은 상황에 따라 탐지 민감도를 높이거나 낮출 수 있는 기능과, 정당한 사용자의 에이전트와 사기꾼이 조작한 에이전트를 구별할 수 있는 권한 및 로깅 체계를 갖추어야 합니다.

공격자가 AI 에이전트를 탈취하거나 명령을 조작하거나 무단 행동을 하도록 속이면 어떻게 될까요? 금융 기관이 정당한 자율 행동과 침해된 행동을 구분하는 데 도움이 될 수 있는 신호는 무엇입니까?

이 시나리오에서는 사용자가 전혀 요청하지 않은 행동을 에이전트가 수행하게 되며, 이는 종종 프롬프트 인젝션 공격의 결과입니다. 그러나 탐지 접근 방식은 근본적으로 변하지 않습니다. 우리는 여전히 행동을 관찰합니다. 사용자의 기존 패턴을 벗어나는 행동은 인간이든 에이전트든 관계없이 플래그를 달아야 할 신호입니다.

자금 이동은 특히 높은 위험이 수반되는 사용 사례입니다. 은행은 어디에서 필수적인 인간 승인을 유지해야 하며, 어떤 거래 유형이나 금액 기준에서 자율 에이전트가 독립적으로 행동하지 못하도록 해야 한다고 생각하십니까?

네, 제한은 필요합니다. 앞서 언급했듯이 비즈니스 뱅킹은 AI 에이전트에 쉽게 적용할 수 있는 선례를 제공합니다. 임시 승인을 통해 에이전트가 행동을 시작하도록 허용하되, 최종 승인은 인간이 검토하고 승인해야 합니다.

실제로는 개별 이체 금액과 에이전트가 일정 기간 내에 시작할 수 있는 이체 횟수 모두에 대한 임계값을 설정하는 것을 의미합니다. 필수 인간 승인은 자금 이동에만 국한되지 않아야 합니다. 예를 들어, 신뢰할 수 있는 기존 수취인에 대한 결제 상세 정보를 변경하는 것도 자금 이동만큼 위험할 수 있습니다.

AI 에이전트가 핀테크, 공급업체, 고객 또는 다른 금융 기관이 운영하는 다른 에이전트와 상호작용할 가능성이 높아지고 있습니다. 이는 제3자 위험을 어떻게 확대시키며, 은행이 금융 워크플로에 참여하는 모든 에이전트를 통제하지 못할 때 신뢰를 어떻게 구축할 수 있을까요?

여기에는 두 가지 시나리오가 있습니다. 첫 번째는 사용자가 에이전트에게 계좌 접근 권한을 부여하는 경우입니다. 이 에이전트는 사용자를 대신해 행동하며, 해당 사용자의 권한 하에 작동합니다. 사용자가 에이전트가 다른 에이전트와 상호작용하는 Agent-to-Agent 프로토콜을 허용한다면, 그 위험은 사용자가 감수하는 것입니다. 모든 것이 사용자의 승인 하에 이루어지며, 은행은 그 책임을 확대하려 하지 않습니다.

기관이 자체적인 독점 에이전트를 구축하거나 운영할 때 위험 프로파일이 변합니다. 이 경우 기관은 해당 에이전트의 행동에 직접적인 책임을 지게 되며, 이는 타사의 위임 접근과는 다릅니다. 금융 기관은 워크플로에 허용되는 모든 제3자 에이전트에 대해 실사를 해야 하지만, 그 책임의 일부는 최종 사용자에게 되돌아갑니다. 고객의 ‘통제 범위’가 기관의 의무 범위를 정의합니다.

권한이 부여된 AI 에이전트가 잘못된 결정을 내려 재정 손실, 데이터 노출 또는 사기 거래가 발생한 경우, 작업을 위임한 직원, 금융 기관, 기술 제공업체 및 에이전트의 기본 모델 사이에 책임을 어떻게 분배해야 할까요?

Reg E는 전자 거래에 대한 소비자 보호를 규정하는 연방 규칙으로, 여기에도 여전히 적용됩니다. 이는 사기 책임 한도와 은행이 따라야 하는 조사 요구사항을 설정합니다. Reg E 때문에 금융 기관이 분쟁 거래를 조사할 의무는 사라지지 않습니다.

변경되는 것은 근본적인 책임 문제입니다. 사용자가 의도적으로 에이전트에 접근 권한을 부여했으며 그 에이전트가 잘못된 결정을 내린 경우, 기관이 사용자를 손실에 대해 보상해야 하는 의무는 무단 제3자 사기와는 다르게 보입니다.

실질적으로, 권한을 위임한다는 것은 사용자가 그에 따른 일부 위험을 수용한다는 의미입니다. 기관은 소프트웨어가 사람보다 실수했기 때문에 계좌 소유자에게 귀속되는 책임을 떠맡지 않을 것입니다.

앞으로 나아가면서, 은행과 신용조합이 민감한 데이터, 고객 계좌 및 금융 거래에 대한 AI 에이전트의 자율성을 확대하기 전에 오늘 마련해야 할 보안 및 거버넌스 기반은 무엇입니까?

가장 큰 기회는 비즈니스 뱅킹에 이미 존재하는 거버넌스 모델을 개인 뱅킹으로 가져오는 것입니다. 비즈니스 계좌는 세분화된 권한, 위임된 접근 및 승인 워크플로에 대한 수년간의 선례를 가지고 있습니다.

에이전트 거버넌스를 위한 완전히 새로운 프레임워크를 구축하기보다는, 은행과 신용조합은 비즈니스 측면에서 이미 검증된 방식을 살펴보고 동일한 제어, 권한 단계 및 승인 구조를 개인 계좌에 적용하도록 조정해야 합니다.

훌륭한 인터뷰에 감사드립니다. 더 알고 싶은 독자는 Q2를 방문하십시오.