AI가 잠재력을 실현하려면 에너지 수요를 해결해야 합니다

인공지능(AI)은 에너지 수요와 함께 4차 산업혁명을 지속적으로 주도하고 있습니다. 오늘날 누구나 고급 AI 도구에 접근하여 시스템에 통합함으로써 효율성을 높이고 작업량을 줄일 수 있습니다. 이러한 알고리즘을 구동하는 데 필요한 에너지는 AI 애플리케이션에 대한 수요가 증가함에 따라 늘어나고 있습니다. 따라서 환경운동가들은 이미 이 기술과 관련된 지속 가능성 문제를 지적하고 있습니다. 다행히도 연구팀이 매우 효율적인 대안을 만들었습니다. 알아야 할 내용은 다음과 같습니다.

AI 에너지 수요 증가가 에너지 위기를 초래하다

새로운 AI 시스템이 점점 더 자주 출시되고 있습니다. 최신 전 세계 에너지 사용 전망에 따르면 AI 에너지 소비량이 2022년 460 테라와트시(TWh)에서 2026년에는 1,000 TWh로 두 배가 될 것으로 예측됩니다. 이러한 프로토콜에는 추천 시스템, 대형 언어 모델(LLM), 이미지 및 비디오 처리 및 생성, Web3 서비스 및 기타가 포함됩니다.

연구자의 연구에 따르면 AI 시스템은 데이터 전송에 있어 “오프칩 메인 메모리에서 64비트 소스 피연산자 3개를 읽고 64비트 목적 피연산자 1개를 쓰는 경우의 계산에 사용되는 에너지의 200배에 해당“에 해당합니다. 따라서 인공지능(AI) 컴퓨팅 애플리케이션의 에너지 소비를 줄이는 것은 대규모 채택을 달성하고 기술을 성숙시키기 위해 이 장애물을 극복해야 하는 개발자들에게 주요 관심사입니다.

다행히도 미네소타 대학교의 혁신적인 엔지니어 그룹이 AI 프로토콜의 전력 소비를 수십 배 감소시킬 수 있는 가능한 해결책을 제시했습니다. 이를 위해 연구진은 오늘날 대부분의 칩에 적용되는 폰 노이만 아키텍처를 개선한 새로운 칩 설계를 도입했습니다.

폰 노이만 아키텍처

존 폰 노이만은 1945년에 논리와 메모리 유닛을 분리하여 당시 보다 효율적인 컴퓨팅을 가능하게 함으로써 컴퓨터 분야에 혁신을 일으켰습니다. 이 구조에서는 논리와 데이터가 서로 다른 물리적 위치에 저장됩니다. 그의 발명은 두 요소에 동시에 접근할 수 있게 함으로써 성능을 향상시켰습니다.

출처 – University of Minnesota Twin Cities

RAM

오늘날 대부분의 컴퓨터는 여전히 폰 노이만 구조를 사용하며, 하드 디스크(HDD)는 프로그램을 저장하고 랜덤 액세스 메모리(RAM)는 프로그래밍 명령과 임시 데이터를 보관합니다. 현재의 RAM은 DRAM처럼 커패시터를 활용하거나 SRAM처럼 여러 회로를 사용하는 등 다양한 방식을 통해 이 작업을 수행합니다.
특히, 이 구조는 수십 년 동안 훌륭하게 작동했습니다. 그러나 논리와 메모리 사이의 지속적인 데이터 전송은 많은 에너지를 필요로 합니다. 데이터 요구량과 계산 부하가 증가함에 따라 이 에너지 전송도 증가합니다. 따라서 이는 컴퓨팅 파워가 증가함에 따라 효율성을 제한하는 성능 병목 현상을 초래합니다.

에너지 수요 개선 시도

수년간 폰 노이만 아키텍처를 개선하려는 많은 시도가 이루어졌으며, 이러한 시도는 두 작업을 물리적으로 더 가깝게 만들기 위한 다양한 메모리 프로세스 변형을 낳았습니다. 현재 주요 세 가지 변형은 다음과 같습니다.

근접 메모리 처리

이 업그레이드는 논리를 물리적으로 메모리와 더 가깝게 이동시킵니다. 이는 3D 적층 인프라를 사용하여 구현되었습니다. 논리를 더 가깝게 배치함으로써 데이터 전송 거리와 에너지가 감소하여 계산에 필요한 전력이 줄어들었습니다. 이 아키텍처는 효율성을 향상시켰습니다.

인메모리 컴퓨팅

또 다른 현재의 컴퓨팅 아키텍처 개선 방법은 인메모리 컴퓨팅입니다. 특히 이 스타일의 칩에는 두 가지 변형이 있습니다. 원래 방식은 단일 칩에 논리 클러스터를 메모리 옆에 통합합니다. 이 배치는 이전 세대에서 사용되던 트랜지스터를 제거할 수 있게 합니다. 그러나 많은 사람들은 이 방법이 여전히 별도의 메모리 위치를 가지고 있어 데이터 전송으로 인한 초기 성능 문제가 남아 있기 때문에 인메모리 구조에 ‘진정한’이라고 보지 않습니다. 다만 이러한 문제는 규모가 작아졌습니다.

진정한 인메모리

마지막 칩 아키텍처 유형은 ‘진정한 인메모리’입니다. 이 유형으로 인정받기 위해서는 메모리가 직접 계산을 수행해야 합니다. 이 구조는 논리 연산에 필요한 데이터가 그 위치에 머무르기 때문에 기능과 성능을 향상시킵니다. 연구진이 최신 버전으로 제시한 진정한 인메모리 아키텍처는 CRAM입니다.

(CRAM)

컴퓨테이셔널 랜덤 액세스 메모리(CRAM)는 데이터가 동일한 배열 내에서 처리되면서 진정한 인메모리 계산을 가능하게 합니다. 연구진은 표준 1T1M STT-MRAM 아키텍처를 수정하여 CRAM을 구현했습니다. CRAM 레이아웃은 각 셀에 마이크로 트랜지스터를 통합하고 자기 터널 접합 기반 CPU 위에 구축됩니다.
이 접근 방식은 제어와 성능을 향상시킵니다. 팀은 각 셀에 추가 트랜지스터, 논리 라인(LL) 및 논리 비트 라인(LBL)을 적층하여 동일한 메모리 뱅크 내에서 실시간 계산을 가능하게 했습니다.

CRAM의 역사

오늘날 AI 시스템은 지속 가능한 문제를 감소시키면서도 계산 요구를 충족시킬 새로운 구조가 필요합니다. 이러한 수요를 인식한 엔지니어들은 처음으로 CRAM의 가능성을 깊이 탐구하기로 했습니다. 그 결과는 NPJ 과학 저널에 “자기 터널 접합 기반 컴퓨테이셔널 랜덤 액세스 메모리의 실험적 시연“이라는 보고서로 발표되었습니다.

첫 번째 CRAM은 MTJ 장치 구조를 활용했습니다. 이러한 스핀트로닉 장치는 트랜지스터 대신 전자 스핀을 이용해 데이터를 전송하고 저장함으로써 기존 저장 방식보다 향상되었습니다. 이 방법은 두 개의 강자성(FM) 층 사이에 얇은 터널 장벽을 사용합니다. 작은 전압이 가해지면 전자들이 여기에서 흥분되어 층 사이를 이동합니다.

이 전송은 전류를 생성합니다. 또한 메모리를 읽고 쓰는 효율적인 방법을 제공합니다. 최신 CRAM 업그레이드는 이 개념을 더욱 발전시켜 고성능 결과를 제공하면서 에너지 요구를 감소시킵니다.

CRAM 연구

CRAM 개념은 수년간 개발되어 왔지만, 그 능력에 대한 심층 테스트는 지금까지 거의 이루어지지 않았습니다. 특히 이 연구는 팀과 그 전임자들이 개발한 다양한 특허 기술을 활용했습니다. 예를 들어 오늘날 스마트워치, 센서 및 마이크로컨트롤러에 필수적인 자기 랜덤 액세스 메모리(MRAM)는 수정된 MTJ 장치와 함께 사용되어 성능을 향상시켰습니다.

CRAM 테스트

테스트 단계에서는 연구원들이 논리 실행 중 칩의 성능을 측정해야 했습니다. 연구팀은 스칼라 덧셈, 곱셈 및 행렬 곱셈을 포함한 다양한 전략을 사용하여 가능한 한 깊은 통찰을 얻었습니다.
첫 번째 단계는 기본 메모리 작업에서의 활동을 측정하는 것이었습니다. 그 후 팀은 2, 3, 5 입력 논리 연산을 사용하여 계산을 확장했습니다. 이 단계 뒤에 두 가지 다른 설계의 1비트 전가산기가 도입되어 재시험되었습니다. 최종 테스트는 1 × 7 배열을 포함했으며 흥미로운 결과를 도출했습니다.

CRAM 테스트 결과는 낮은 에너지 요구를 보여준다

테스트 결과는 새로운 개념 증명 프로세스가 현재 모델에 비해 얼마나 효율적인지를 보여주었습니다. 데이터는 계산 중 평균 1000배 적은 전력 소비를 나타냈습니다. 다른 전력 절감 방법과 결합될 경우, 이 접근 방식은 기존 방법에 비해 2,500배 및 1,700배 적은 에너지를 절감함을 입증했습니다.

추가 기능

또 다른 흥미로운 발견은 CRAM이 데이터와 피연산자의 동시 랜덤 액세스를 가능하게 한다는 점입니다. 이 이점은 병렬 계산 능력을 크게 향상시켜 향후 보다 안전하고 안정적인 프로토콜을 구현할 수 있게 합니다.

CRAM이 시장에 제공하는 이점

CRAM이 제공하는 이점을 살펴보면, 이것이 왜 게임 체인징 혁신이며 곧 일반인의 일상에 즉각적인 영향을 미칠 수 있는지 더 잘 이해할 수 있습니다. CRAM은 개발자와 제조업체가 주요 작업에 최적화된 하드웨어를 설계하도록 하여 에너지 요구를 줄이고 성능을 향상시킵니다.

AI – 초점

인공지능은 이미 많은 변화를 일으키고 있습니다. 이러한 시스템은 높은 수요를 보이지만 올바르게 작동하려면 특정 하드웨어와 소프트웨어가 필요합니다. CRAM은 제조업체가 데이터 집약적, 메모리 중심, 전력 민감 애플리케이션을 지원하도록 설계된 하드웨어를 처음부터 만들 수 있게 합니다.
앞으로 CRAM은 생물정보학, 신호 처리, 신경망, 엣지 컴퓨팅 및 가장 진보된 군사 하드웨어와 같은 고급 AI 알고리즘에 전력을 공급할 것입니다. CRAM 배열은 개발자가 커뮤니티의 요구를 충족시킬 수 있는 유연성을 갖춘 더 높은 성능의 머신러닝 애플리케이션을 만들 수 있게 합니다.

검증된 구조 사용

CRAM이 현명한 선택이 되는 또 다른 주요 이점은 검증된 하드웨어 시스템을 사용한다는 점입니다. 특히 CRAM은 일반적이고 성숙한 기술을 활용하여 소비자 신뢰를 높이며, 하드웨어 문제를 최소화합니다.

유연함

CRAM은 개발자에게 진정한 유연성을 제공합니다. 프로그래머는 다양한 인기 논리 연산을 사용하여 메모리 배열 내 어디서든 데이터를 계산할 수 있습니다. 구체적으로 CRAM은 AND, OR, NAND, NOR 및 MAJ를 지원하여 다재다능함을 더합니다.

더 빠름

속도는 간과할 수 없는 또 다른 이점입니다. 데이터가 논리와 메모리 저장 위치 사이를 전송하는 데 시간이 소요됩니다. 이 시간은 짧은 순간일지라도 누적되어 사용자 경험(UX)을 저하시킬 수 있습니다. CRAM은 동일한 메모리가 이러한 작업을 담당하도록 함으로써 느리고 에너지 집약적인 데이터 전송이 필요 없게 합니다.

병렬성

병렬성은 동일한 코드를 동시에 병렬로 실행할 수 있는 능력입니다. 이는 많은 제조, 안전 및 산업 운영의 핵심 요소입니다. CRAM 구조 덕분에 동일한 메모리 배열에서 동일한 논리를 동시에 병렬로 실행할 수 있습니다.

제조 비용

CRAM은 고급 장치의 제조 비용도 낮출 것입니다. 논리와 데이터를 동일한 메모리를 사용함으로써 제조업체는 부품 수를 줄인 칩을 만들 수 있습니다. 이 구조는 비용을 절감하고 신뢰성과 성능을 향상시킵니다.

연구원

이 연구는 미네소타 대학교의 테마가 주도했으며, 주요 연구원으로는 제안-핑 왕(McKnight 교수)과 로버트 F. 하트만이 포함되었습니다. 또한 울야 카르푸즈쿠, 로버트 블룸, 후스레프 실라순, 로버트와 마조리 헨리, 사친 사파트네카, 브랜든 진크, 잠셰드 초두리, 살로닉 레시가 연구에 중요한 역할을 했습니다. 애리조나 대학교 팀도 프라빈 카날, 알리 하비보글루, 위강 왕 교수 등이 참여했습니다.
이 연구는 미국 방위 고등 연구 계획국(DARPA), 국가표준기술연구소(NIST), 국립 과학 재단(NSF) 및 시스코(Cisco Inc.)의 지원금으로 가능했습니다. 또한 프로젝트는 미네소타 나노 센터와 미네소타 대학교 슈퍼컴퓨팅 연구소에서 테스트와 연구를 수행했습니다.

AI 에너지 수요 감소로 혜택을 받을 수 있는 두 기업

CRAM 옵션을 통합함으로써 추가 수익을 확보하거나 제품 라인을 개선할 수 있는 제조업체가 많이 있습니다. 이 기업들은 시장에서 강력한 위치를 차지하고 있으며 새로운 기술을 통합하여 제품을 크게 향상시킬 수 있는 능력을 가지고 있습니다.

Microsoft

MSFT 가격 차트

Microsoft는 AI 및 컴퓨팅 시장의 주요 기업입니다. 이 회사는 오랫동안 이 분야의 선구자 역할을 해왔으며, 현재 AI 분야에 큰 지분을 보유하고 앞으로도 경쟁력을 유지하려 하고 있습니다.
Microsoft (MSFT ) AI 서비스는 전 세계적으로 가장 많이 사용되는 운영 체제를 기반으로 한다는 큰 장점을 가지고 있습니다. 따라서 Microsoft AI 시스템은 방대한 사용자와 데이터에 접근할 수 있습니다. 이 데이터는 Microsoft가 최신 Windows 운영 체제의 핵심이 될 강력한 새로운 AI 알고리즘을 만드는 데 도움을 주었습니다.

Arm Holdings

ARM 가격 차트

Arm Holdings는 1990년에 시장에 진입했습니다. 소피 윌슨과 스티브 퍼버가 설립했으며, 원래는 Advanced RISC Machines(ARM) Ltd.라는 이름이었고 1998년에 Arm Holdings로 브랜드를 변경했습니다. 2000년대 초반, Arm Holdings는 GPU 및 기타 제품을 시장에 제공하는 고품질 제조업체로 명성을 얻었습니다.
오늘날에도 여전히 선도적인 IP 제공업체이자 반도체 제조업체로 자리 잡고 있습니다. 이 기업은 2016년에 소프트뱅크에 의해 320억 달러에 인수되었으며 그 이후 크게 성장했습니다. CRAM을 현재 제품에 통합하면 환경 발자국을 크게 줄이고 성능과 수익을 향상시킬 수 있습니다.

AI의 미래는 에너지 수요에 달려 있다

AI 채택을 제한하는 주요 요인은 에너지 수요입니다. 이러한 요구는 성능을 제한하는 병목 현상을 해결하기 위해 사람들에게 새로운 사고를 요구합니다. 이번 최신 연구는 AI 서비스가 전체 커뮤니티에 힘을 실어줄 저전력 솔루션에 접근할 수 있는 밝은 미래의 문을 열었습니다.

다른 멋진 인공지능 프로젝트에 대해 지금 알아보세요.