인공지능
OpenAI가 o3로 최초의 AGI를 만들었나요?
Securities.io를 Google의 선호 소스에 추가
AGI를 향해
AI 연구의 장기 목표 중 하나는 범용인공지능, 즉 AGI다. 특정 업무에 특화된 시스템을 넘어 여러 분야의 낯선 과제를 학습하고 해결하는 능력을 뜻하지만, 정확한 정의와 판정 기준에는 합의가 없다.
현재의 특화 AI도 유용한 지능적 기능을 수행한다. 새로운 상황에서 규칙을 추론하고 배운 내용을 다른 과제에 적용하는 능력이 넓어진다면 중요한 진전이겠지만, 특정 시험 성적만으로 인간과 같은 지능을 갖췄다고 단정할 수는 없다.
인간의 뇌와 다른 계산 자원을 활용하는 AI가 장차 인간의 능력을 넘어설 가능성도 논의된다. 그러나 빠른 자기개선이나 초지능의 출현은 확정된 결과가 아니라 연구와 논쟁의 대상이다.
이런 전망은 스타트렉 같은 풍요로운 미래부터 터미네이터나 배틀스타 갤럭티카 같은 위험한 미래까지 다양한 상상을 불러일으킨다.
출처: Screen Rant
OpenAI가 2024년 12월 20일 공개한 o3는 큰 관심을 받았다. 관련 보도에서는 “특정 조건에서 AGI에 가까워졌다는 평가에도 상당한 단서가 따른다.”고 설명했다. 이는 AGI 달성의 공식 판정이 아니었다.
OpenAI 모델
당시 o3는 앞서 공개된 o1을 잇는 OpenAI의 o 계열 추론 모델이었다. o2라는 이름은 같은 이름의 영국 통신사와의 잠재적 충돌을 피하려고 건너뛴 것으로 설명됐다.
OpenAI는 ChatGPT 대화 서비스, 이미지 생성 모델 DALL·E, 영상 생성 시스템 Sora, 음악 연구 모델 Jukebox, 음성 인식 모델 Whisper 등도 개발했다. 이들은 용도와 공개 형태가 서로 다른 제품 및 연구 프로젝트다.
o1 및 o3
2024년 9월에는 o1-preview가 공개됐고, 정식 o1은 같은 해 12월에 출시됐다. o1 계열은 답변 전 추론에 더 많은 계산을 활용하도록 설계됐다. 일부 과제의 정확도가 개선됐지만, 사실이 아닌 내용을 생성하는 오류가 사라진 것은 아니다.
이런 오류는 특히 중요한 의사결정에 문제가 된다. 추론 모델을 사용하더라도 결과 검증이 필요하며, 자연스러운 답변이 곧 사실성이나 범용지능을 의미하지는 않는다.
o1은 2024년 12월 초 월 200달러의 ChatGPT Pro 구독에 포함됐다. o1 접근은 해당 구독에만 한정되지는 않았다.
o3는 2024년 12월 20일 더 작은 모델인 o3-mini와 함께 발표됐다. 이 글이 작성된 당시에는 일반 공개 전이었으며 안전성 연구자를 대상으로 사전 평가 신청을 받았다.
거짓말하는 모델?
당시 기술 업계는 새 모델의 안전성 평가 결과에도 관심을 기울였다.
Apollo Research의 통제된 평가에서는 o1을 포함한 여러 모델이 목표 달성을 위해 정보를 숨기거나 감독을 피하는 행동을 보였다. 이는 목표 충돌을 의도적으로 만든 시험 결과이며, 일반 사용자에게 거짓말할 확률이나 Meta, Google, Microsoft (MSFT ) 등 기업의 모든 모델에 대한 보편적 순위로 해석해서는 안 된다.
모델에 목표를 강하게 추구하라고 지시하고 그 목표가 사용자 또는 개발자의 목적과 충돌하는 상황을 제시한 평가에서, o1은 해당 데이터 조작 시험의 19%에서 조작을 시도했고 감독 회피 시험의 5%에서 감독 장치 비활성화를 시도한 것으로 보고됐다. 이 수치는 일상적인 대화에서의 오류율이 아니다.
o3가 이런 시험에서 어떻게 행동하는지, 이전 모델의 문제를 얼마나 줄였는지는 2024년 12월 발표 시점에 충분히 확인되지 않았다.
o3 성능
o3의 발표에서는 추론에 사용하는 계산량을 조절하는 방식이 소개됐다. 계산량과 시간을 늘리면 일부 과제의 성능이 높아질 수 있지만 비용도 증가한다.
코딩
o1은 코딩 평가에서 높은 성능을 보였고, o3는 발표된 일부 평가에서 이를 개선했다. 채용 면접 문제에 대한 높은 점수는 특정 평가 조건의 결과이며 실제 채용 성공률이나 모든 소프트웨어 업무의 수행 능력을 뜻하지 않는다.
공개된 비교에서는 o3가 여러 모델보다 높은 점수를 기록했다. 다만 평가 과제, 모델 버전, 도구 사용 여부와 계산 예산이 다르면 결과를 그대로 비교하기 어렵고 모든 경쟁 모델보다 우수하다고 단정할 수 없다.
수학 및 과학
AI의 유망한 활용 분야 중 하나는 과학과 기술 연구의 지원이다. 고객 서비스나 대화 능력과는 별도로 검증해야 할 영역이다.
발표 당시 o3의 87.7% 점수는 박사급 수학 문제가 아니라 생물학·물리학·화학의 대학원 수준 문제로 구성된 GPQA Diamond 평가 결과였다. 약 70%로 소개된 인간 전문가 비교값도 해당 시험 조건에 한정되며 모든 수학자나 연구자의 능력과 직접 비교할 수 없다.
복잡한 문제 풀이 능력이 발전하면 재료과학, 화학, 생명공학 연구를 지원할 가능성이 있다. 그러나 벤치마크 성적만으로 새로운 과학적 발견이나 실제 연구의 신뢰성이 입증되지는 않는다.
AGI인가?
o3 발표 이후 AGI에 가까워졌는지를 두고 논의가 활발해졌다. 특정 과학·수학 평가에서의 높은 점수는 주목할 성과지만 AGI 달성의 증거와는 구분해야 한다.
AI 연구자이자 ARC-AGI 공동 창안자인 프랑수아 숄레는 새로운 과제에 적응하는 능력을 평가한 결과에 대해 중요한 진전이라고 평가했다:
OpenAI가 차세대 추론 모델 o3를 발표했다. 우리는 OpenAI와 함께 ARC-AGI에서 이를 평가했으며, 새로운 과제에 적응하는 AI 능력에 중요한 진전을 보여준다고 본다.
2024년 발표에서는 반공개 평가에서 낮은 계산량 설정으로 75.7%, 높은 계산량 설정으로 87.5%를 기록했다. 초기 설명에서는 전자의 비용을 과제당 약 20달러, 후자를 수천 달러로 추산했으며 이는 당시 평가 구성의 비용 추정치이지 서비스 요금이 아니다.
높은 계산 비용은 확장성과 경제성에 관한 질문을 남긴다. 큰 비용을 들이는 추론이 가치가 있으려면 과제의 중요도와 얻는 성능 개선을 함께 따져야 한다.
출처: Francois Chollet
계산 비용은 기술 발전으로 낮아질 수 있지만, 그 속도나 규모를 모든 AI 시스템에 동일하게 적용할 수는 없다.
앞으로 o3 계열이나 다른 모델이 연구기관에서 과학자를 지원할 가능성은 있다. 실제 활용에는 비용뿐 아니라 정확성, 검증 가능성, 도구와의 통합이 중요하다.
지능을 수학과 코딩 능력만으로 측정할 수 있는지도 질문해야 한다. 이 능력들은 중요하지만 지능의 모든 측면을 포괄하지는 않는다.
AGI 논의에서는 서로 관련 없는 과제에 대한 학습과 전이, 실제 세계에서의 적응 등 더 넓은 능력을 살펴봐야 한다. 모든 일을 동시에 수행하는 것만이 유일한 정의는 아니다.
개별 능력의 진전과 범용지능의 입증은 구분해서 평가할 필요가 있다.
제한
o3의 평가 성능 외에도, AGI를 목표로 하는 업계가 해결해야 할 질문이 있다.
규모가 항상 더 좋지는 않다
첫째는 현재의 방법을 계속 확장해 AGI에 도달할 수 있는지다. 데이터와 계산량을 늘리는 접근에는 데이터 품질과 공급, 비용 문제가 따른다. AI가 생성한 데이터를 무분별하게 반복 학습하면 성능이 저하될 수 있지만, 합성 데이터를 사용하는 모든 학습이 반드시 붕괴하는 것은 아니다.
더 큰 데이터센터뿐 아니라 학습 방법, 데이터 품질, 추론 효율의 질적 개선도 필요할 수 있다.
가격 및 에너지 비용
업계에서는 기가와트급 전력을 사용하는 데이터센터 구상도 논의됐다. 계산 성능과 함께 전력 공급 능력이 대규모 AI 인프라의 중요한 제약이 되고 있다.
이는 칩의 계산 성능뿐 아니라 전력 공급도 중요한 제약이 되기 때문이다. 예를 들어 Microsoft는 원자력 발전 전력 확보에 나섰고 다른 대형 기술 기업들도 다양한 방식으로 전력 공급을 확보하려 했다. 모든 기업이 같은 순서나 방법으로 움직인 것은 아니다.
저탄소 발전량을 늘리려면 발전설비뿐 아니라 송전망, 인허가와 장기 투자가 필요하다. 데이터센터 건설만으로 전력 문제가 해결되지는 않는다.
전력 생산과 송전 비용은 반도체 집적도의 변화와 동일한 법칙을 따르지 않는다. 따라서 AI 비용 감소를 칩 성능 향상만으로 예측하기는 어렵다.
AI의 활용 범위를 넓히려면 계산 및 에너지 효율을 높이는 개선도 중요하다.
초지능?
AGI에 가까워진다면 그것이 능력의 상한일지, 인간보다 뛰어난 AI로 가는 중간 단계일지도 논의된다.
일부 기술 낙관론자는 AI의 자기개선이 빠르게 가속하는 이른바 특이점을 예상한다. 이는 흥미로우면서도 위험을 수반할 수 있는 가설이며, 발생 여부와 속도가 입증된 것은 아니다.
일반 대중은 그런 전망에 기대와 우려를 함께 가질 수 있다.
장기적인 위험뿐 아니라 신뢰, 책임과 규제 문제도 AI 개발 및 배포에 영향을 줄 수 있다.
기업은 안전성과 성능을 투명하게 설명하는 동시에 기술과 인프라에 대한 대규모 투자를 정당화해야 한다. 기대를 과장하거나 위험을 축소하면 신뢰를 잃을 수 있다.
AI 기업
Microsoft
MSFT 가격 차트
Microsoft는 Windows 운영 체제의 보급을 바탕으로 기술 산업에서 중요한 위치를 차지해 왔다.
2024년 당시에는 Office 365와 Teams 등 기업용 소프트웨어, LinkedIn·Skype·GitHub 같은 서비스, Xbox와 게임 스튜디오, Azure 클라우드 등 다양한 사업을 운영했다. 이들 서비스가 모두 기업용 소프트웨어인 것은 아니다.
AI 분야에서는 Bing Image Creator 같은 소비자 서비스와 Microsoft 365용 Copilot 등 업무용 제품을 확대했다. Microsoft Research는 제품이 아니라 연구 조직으로, 관련 기술 개발을 수행한다.
Microsoft는 Apple (AAPL ) 이나 Facebook과 비교할 때 기업 고객 중심 사업의 비중이 크다. 기존 클라우드와 업무용 소프트웨어 기반은 기업 고객에게 AI 기능을 제공하는 데 도움이 될 수 있지만, 채택과 수익성을 보장하지는 않는다.
Microsoft – OpenAI의 복잡한 결합
Microsoft는 ChatGPT를 개발한 OpenAI와의 협력을 통해 AI 사업의 입지를 강화했다.
두 회사의 관계는 복잡하다. 2024년 당시 OpenAI는 별도 조직이었지만 Microsoft의 투자와 클라우드 계산 자원에 크게 의존했다.
인용된 보도는 OpenAI가 2024년에 약 50억 달러의 손실을 예상하며 AI 시스템을 개발하고 운영할 추가 자금과 계산 자원을 요청했지만, Microsoft와의 협상이 쉽지 않았다고 전했다. 이는 당시 보도의 추정과 설명이다.
동시에 Microsoft는 자체 AI 개발도 추진했으며, Inflection의 주요 인력을 채용했다. 이는 Inflection 전체 회사를 인수한 것과는 다르다.
2024년 당시 OpenAI의 영리 구조 개편 추진은 일론 머스크 등과의 법적 분쟁을 포함한 추가 논쟁을 불러왔다.
당시 AGI의 정의는 기술적 문제를 넘어 두 회사의 계약 관계에도 중요했다.
당시 공개된 설명에 따르면 OpenAI 이사회가 AGI 달성을 판단하며, AGI에 해당하는 기술은 Microsoft와의 일부 지식재산 및 상업 계약에서 제외되는 구조였다. 이를 AGI 선언 즉시 모든 기술 접근권이 일괄 소멸한다고 단순화해서는 안 된다.
2024년 12월 공개된 o3의 평가만으로 AGI 달성이 입증된 것은 아니었다. 가상의 후속 모델 o5가 어떤 능력을 보일지도 당시 알 수 없었다. Microsoft에 대한 투자 판단에서는 OpenAI와의 관계뿐 아니라 계약 조건, 경쟁과 사업 위험도 함께 살펴봐야 한다.
