기업들은 AI에 관해 잘못된 질문을 놓고 논쟁하고 있다

Bill Gates는 AI를 통제하지 않고 방치하면 “10억 명이 사망할” 수 있다며 AI 안전장치를 마련해야 한다고 촉구했다. 이는 Anthropic의 수석 연구원이 향후 10년 안에 AI가 “모든 인류를 죽일 수 있다”고 믿으며 그럴 가능성이 10%를 넘는다고 말한 데 뒤이어 나온 발언이다. 하지만 각국 정부와 철학자들, 소수의 주요 AI 개발사들이 안전장치를 논의하는 동안, AI를 사용하는 기업은 헤드라인을 장식하는 사안에만 집중하다 보면 AI 시대에 실제로 기업이 직면한 가장 큰 위험을 놓칠 수 있다는 점을 인식해야 한다.

AI 봇이 인간을 압도할 수 있다는 우려뿐 아니라, 기업용 AI를 둘러싼 논의의 상당 부분은 통제 불능 에이전트의 위험성, 치솟는 토큰 비용, 비교적 자율적인 최첨단 AI 모델, 비주권형 AI 같은 문제에 집중돼 있다.

AI 우려를 둘러싼 논의에서 이런 위협이 지나치게 큰 비중을 차지하고 있지만, 실제 비즈니스 위험이 아닌 이런 추세에 초점을 맞추면 피할 수 있었던 부실한 결과로 이어질 수 있다. 나는 수십 곳의 기업이 기술적 성과보다 사업 성과에 훨씬 더 집중해 AI 위험을 크게 줄이는 모습을 지켜봤다. 기업이 어떻게 그렇게 할 수 있는지, 또 왜 그래야 하는지 살펴보자.

AI 모델이 아니라 사업성에 집중하라

기업은 투자수익률을 크게 높이기 위해 최신 AI 모델을 사용하거나 모든 직원을 시민 개발자로 만들기 위해 천문학적인 토큰 비용을 지출할 필요가 없다는 점을 이해해야 한다.

기업이 해야 할 일은 재정 지출이나 시간 투입을 줄일 수 있는 구체적인 영역을 면밀히 살펴보고, 에이전트형 AI뿐 아니라 생성형 AI, 솔버, 머신러닝, 규칙 기반 프로그램까지 활용 가능한 모든 도구를 동원해 해당 문제를 해결할 계획을 세우는 것이다. 그래야 각 업무에 적합한 도구를 선택할 수 있다.

McKinsey의 보고서에 따르면 AI 기반 예측 모델은 인력 수요 예측에서 90%를 넘는 정확도를 달성할 수 있다. 나는 최근 Nike와 Amazon 같은 글로벌 대기업을 위해 수천 곳의 사업장에 수만 명의 경비원을 배치하는 보안 업체에서 이를 직접 경험했다. 노동 집약적이고 교대 근무를 하는 다른 많은 기업처럼, 이 업체도 수요가 급증할 때 초과근무 수당과 값비싼 외주 비용이 치솟는 문제를 겪고 있었다.

이 회사의 투자수익률을 높이는 데 최첨단 모델은 필요하지 않았으며, 특정 AI 공급업체나 기술에 종속될 필요도 없었다. 보안 업체는 우선 당면한 가장 큰 사업 문제 중 하나를 해결하기로 했고, 도구는 그 구체적인 과제를 얼마나 잘 해결하는지를 기준으로 선정했다. 효과적인 최적화 솔버를 활용하면 인력 배치를 최적화해 초과근무 비용을 줄이고, 채용 수요를 더 잘 예측해 값비싼 외주를 피할 수 있다. 이 사례에서는 생성형 AI와 다른 도구를 함께 사용해 이직률을 낮추고 계획 수립을 개선했으며, 고객과 직원 모두에게 더 적합한 근무 일정을 마련하는 데 도움을 줬다. 예를 들어 장거리 통근이 필요한 교대 근무 횟수를 줄이는 방법을 제안하고, 근무가 없는 주말을 고르게 배분했다. 이와 같은 권고를 실행한 결과 초과근무 비용이 30% 줄었고 외주 비용도 감소했다. 인력 계획을 세우는 데 걸리는 시간도 단축됐으며 계획의 품질과 지속성도 향상됐다. 보안 업체가 AI의 권고를 실행하자 EBITDA가 200베이시스포인트 증가했다. 이익률이 악명 높을 만큼 낮은 업계에서 이는 큰 성과였다. 사업 문제가 크다고 해서 AI 솔루션까지 위험할 필요는 없다.

재고 배분 개선, 수금 내역 대사 최적화, 은행 계정 대사 속도 향상, 예측 정확도 제고, 송장 대조 자동화, 소비자 질문에 답하기 위한 카탈로그 검색 등 구체적인 사업 과제가 이미 최소한의 개입만으로 작동하는 AI 도구를 통해 해결되고 있다. 이런 도구는 인류를 멸종시킬 위험을 감수하지 않고도, 최첨단 모델이나 통제되지 않는 에이전트를 사용할 필요 없이 순이익을 크게 높인다.

주의: ROI에서 벗어나면 AI 과열에 따른 비용을 치를 수 있다

구체적인 사업 목표를 고수하면 통제 불능 AI의 발생 가능성을 낮출 수 있을 뿐 아니라, 우리 회사가 전 세계 상장사 275곳의 주가와 연례 보고서를 분석해 발견한 AI 과열에 따른 비용을 기업이 치르는 일도 막을 수 있다.

2026년 AI 바로미터에 따르면, 전 세계 최대 상장 기업들의 주가는 AI에 대규모 투자를 하는 것과 더 높은 주가 상승률 사이에 강한 상관관계를 보였다. 그러나 그 상관관계는 기업들이 구체적인 조치와 명확한 목표를 공개한 경우에만 유지됐다. 주가 분석을 토대로 볼 때 가장 중요한 교훈은 AI 전환에 대한 포괄적인 선언만으로는 투자자를 설득하기에 충분하지 않다는 점이다.

그렇다면 실제로 효과가 있었던 것은 무엇일까? 보고서에 따르면 AI를 도입하기 위해 구체적으로 어떤 조치를 취할지, 그리고 그 결과 효율성이나 매출이 어떻게 개선될지를 명확히 밝힌 기업은 주가 성과에서 큰 우위를 보였다. 이런 기업은 재무 보고서에서 AI를 막연하게 언급한 기업보다 이듬해 주가 성과가 14%포인트 더 좋았다.

가장 효율적이고 위험이 낮은 AI 도구를 활용해 구체적인 매출 및 생산성 목표를 달성하는 데 집중하면 기업이 헤드라인을 장식하는 파국적 결과를 대부분 피하고, 대신 수익성을 높이는 사업 성과를 더 키울 수 있다는 점을 저는 직접 확인했습니다. 이런 도구는 최신의 화려한 AI 모델이 아니라, IT 환경에 내장된 미니 애플리케이션 형태로 작동하는 경우가 많습니다.