Yapay Zekânın Potansiyelini Gerçekleştirebilmesi İçin Enerji Talepleri Ele Alınmalı

Yapay zekâ (AI), artan enerji gereksinimleriyle birlikte dördüncü sanayi devrimini şekillendirmeyi sürdürüyor. Gelişmiş yapay zekâ araçları, verimliliği artırmak ve iş yükünü azaltmak için sistemlere entegre edilebiliyor. Ancak bu uygulamalara talep arttıkça onları çalıştırmak için gereken enerji de artıyor. Bu durum sürdürülebilirlik konusunda kaygı yaratıyor. Bir araştırma ekibi, hesaplamaları daha verimli hâle getirebilecek bir yaklaşım geliştirdi. İşte temel ayrıntılar.

Yapay zekânın artan enerji gereksinimleri

Yeni yapay zekâ sistemleri giderek daha sık kullanıma sunuluyor. 2024 yılında yayımlanan küresel elektrik tüketimi öngörüsü veri merkezleri, yapay zekâ ve kripto paraların toplam elektrik tüketiminin 2022’de yaklaşık 460 teravatsaatten (TWh), bazı senaryolarda 2026’da 1.000 TWh’nin üzerine çıkabileceğini belirtiyordu. Bu toplam yalnızca yapay zekâyı kapsamıyor. İlgili uygulamalar arasında öneri sistemleri, büyük dil modelleri (LLM), görüntü ve video işleme ve üretimi ile Web3 hizmetleri gibi alanlar bulunuyor.

Araştırmacıların çalışmasına göre, belirli hesaplama koşullarında veri aktarımının enerji maliyeti oldukça yüksek olabiliyor: “Yonga dışındaki ana bellekten üç adet 64 bit kaynak işlenenini okumak ve bir adet 64 bit hedef işlenenini belleğe yazmak, hesaplamanın kendisinden yaklaşık 200 kat fazla enerji gerektirebilir.” Bu nedenle yapay zekâ hesaplamalarında enerji tüketimini azaltmak, teknolojinin yaygınlaşması ve gelişmesi açısından önemli bir araştırma konusu.

Minnesota Üniversitesindeki mühendisler, yapay zekâ hesaplamalarının enerji gereksinimini önemli ölçüde azaltabilecek bir yaklaşım geliştirdi. Araştırmacılar, günümüzde yaygın olarak kullanılan von Neumann mimarisinin veri aktarımından kaynaklanan sınırlamalarını aşmayı amaçlayan bir yonga tasarımı sundu.

Von Neumann Mimarisi

John von Neumann’ın 1945’te tanımladığı mimari, program komutları ile verilerin bellekte saklanmasına dayanır. İşlem birimi ve bellek ayrı bileşenlerdir. Bu düzen bilgisayarların gelişiminde temel bir rol oynadı; ancak işlem yapmak için verilerin bellek ile işlem birimi arasında taşınması gerekir.

Kaynak – University of Minnesota Twin Cities

RAM

Günümüzde çoğu bilgisayar hâlâ von Neumann mimarisinin özelliklerini taşır. Programlar kalıcı depolamada tutulur; çalıştırılacak komutlar ve geçici veriler RAM’e yüklenir. RAM türleri arasında verileri kapasitörlerde saklayan DRAM ve transistör devrelerini kullanan SRAM bulunur.

Bu mimari onlarca yıl boyunca etkili oldu. Ancak işlem birimiyle bellek arasındaki sürekli veri aktarımı enerji tüketir. Veri miktarı ve hesaplama yükü arttıkça bu aktarımın maliyeti de yükselir. Sonuçta verimliliği ve performansı sınırlayan bir darboğaz oluşur.

Enerji gereksinimini azaltma yaklaşımları

Yıllar içinde von Neumann mimarisini geliştirmek için çeşitli yaklaşımlar önerildi. Ortak amaç, işlem ve bellek bileşenlerini birbirine yaklaştırarak veri aktarımını azaltmaktır. Başlıca üç yaklaşım aşağıda açıklanıyor.

Belleğe Yakın İşleme

Bu yaklaşımda işlem birimi, örneğin üç boyutlu yığın yapıları kullanılarak belleğe fiziksel olarak yaklaştırılır. Verilerin taşınacağı mesafenin kısalması, hesaplama için gereken aktarım enerjisini azaltabilir ve verimliliği artırabilir.

Bellek İçinde Hesaplama

Bir başka yaklaşım, işlem devrelerini bellekle aynı yongada veya bellek dizisinin yakınında birleştirmektir. Veri aktarımı azalır; ancak işlem ve veri saklama hâlâ ayrı bölgelerde gerçekleşiyorsa aktarım darboğazı tamamen ortadan kalkmaz. Bu nedenle bu tür tasarımlar, doğrudan bellek hücrelerinde hesaplamadan ayrılır.

Doğrudan bellek hücrelerinde hesaplama

Bu yaklaşımda bellek hücreleri hesaplamaları doğrudan gerçekleştirir. Mantık işlemleri sırasında verilerin bellekten ayrılmasına gerek kalmadığı için performans ve enerji verimliliği iyileşebilir. Araştırmacıların incelediği CRAM, bu yaklaşımın bir örneğidir.

(CRAM)

Hesaplama yapabilen rastgele erişimli bellek (CRAM), verileri aynı bellek dizisi içinde işleyerek doğrudan bellekte hesaplamaya olanak tanır. Araştırmacılar, manyetik tünel bağlantılarına (MTJ) dayalı bellek hücrelerini kullanarak geleneksel STT-MRAM yapısını bu amaçla değiştirdi.

Bu düzen, bellek hücrelerinde mantık işlemleri yapılmasını sağlar. Ekip her hücreye ek bir transistör, mantık hattı (LL) ve mantık bit hattı (LBL) ekleyerek aynı bellek dizisi içinde hesaplamayı mümkün kıldı.

CRAM Tarihi

Yapay zekâ sistemlerinin artan hesaplama gereksinimleri, enerji açısından daha sürdürülebilir mimarilere olan ihtiyacı artırıyor. Araştırmacılar bu amaçla CRAM’in deneysel özelliklerini inceledi. Sonuçları npj Unconventional Computing dergisinde şu başlıkla yayımlandı: “Experimental demonstration of magnetic tunnel junction-based computational random-access memory.”

CRAM tasarımı, elektronların spin özelliklerinden yararlanan manyetik tünel bağlantılarını kullanır. MTJ’de iki ferromanyetik katman arasında ince bir tünelleme bariyeri bulunur. Elektronların bu bariyerden tünellemesi ve katmanların göreli mıknatıslanma yönleri, bağlantının elektriksel direncini belirler.

Bu yapı, bellek durumunun okunması ve yazılması için kullanılabilir. Yeni CRAM yaklaşımı, aynı hücrelerin mantık işlemlerini de gerçekleştirmesine olanak tanıyarak veri aktarımından kaynaklanan enerji tüketimini azaltmayı amaçlar.

CRAM Çalışması

CRAM kavramı yıllardır geliştiriliyor. Önceki sayısal çalışmalar enerji ve performans avantajlarına işaret etse de hesaplama doğruluğunun deneysel olarak değerlendirilmesi gerekiyordu. Çalışmada, manyetik rastgele erişimli bellek (MRAM) ve değiştirilmiş MTJ aygıtlarından yararlanıldı. MRAM, akıllı saatler, sensörler ve mikrodenetleyiciler gibi ürünlerde de kullanılıyor.

CRAM Testleri

Deneylerde bellek hücrelerinin temel işlevleri ve mantık işlemleri incelendi. Deney sonuçlarına dayanan modellerle, skaler toplama, çarpma ve matris çarpımı gibi işlemlerin doğruluğu değerlendirildi.

İlk olarak temel bellek işlemleri ölçüldü. Daha sonra iki, üç ve beş girişli mantık işlemleri incelendi. Ardından iki farklı tasarıma sahip bir bitlik tam toplayıcı denendi. Çalışmada 1 × 7 boyutunda bir CRAM dizisi kullanıldı.

CRAM Test Sonuçları Daha Düşük Enerji Taleplerini Gösteriyor

Kavram kanıtı niteliğindeki deneyler, CRAM’in hesaplama doğruluğunun değerlendirilebilmesini sağladı. Çalışma ve önceki modellemeler, belirli görevlerde geleneksel yaklaşımlara kıyasla önemli enerji tasarrufu potansiyeline işaret ediyor. Makalede aktarılan yaklaşık 1.000, 2.500 ve 1.700 katlık karşılaştırmalar tüm yapay zekâ sistemlerinde ölçülmüş genel sonuçlar olarak yorumlanmamalı; kullanılan görev, tasarım ve karşılaştırma koşullarına bağlıdır.

Ek Özellikler

CRAM, verilere ve işlenenlere bellek dizisi içinde erişilmesini ve işlemlerin paralel yürütülmesini destekler. Bu özellik hesaplama kapasitesini artırabilir; ancak tek başına daha güvenli veya daha kararlı yazılım anlamına gelmez.

CRAM’in olası faydaları

CRAM’in olası yararları, yaklaşımın neden ilgi çektiğini açıklıyor. Geliştiriciler ve üreticiler, belirli görevlere uygun donanımlar tasarlayarak enerji gereksinimini azaltmayı ve performansı artırmayı hedefleyebilir. Yaygın ürünlere geçiş ise ek geliştirme gerektirir.

Yapay zekâ uygulamalarına odaklanma

Yapay zekâ uygulamalarına talep yüksek olsa da bunları çalıştırmak için uygun donanım ve yazılım gerekir. CRAM, yoğun veri kullanan, bellek merkezli veya enerji tüketiminin kritik olduğu uygulamalar için donanım geliştirmeye yardımcı olabilir.

CRAM’in gelecekte biyoinformatik, sinyal işleme, sinir ağları, uç bilişim ve savunma uygulamalarında kullanılması mümkün olabilir. Bellek dizisinin esnekliği, farklı gereksinimlere uygun makine öğrenmesi uygulamalarının geliştirilmesini destekleyebilir.

Kanıtlanmış Bir Yapı Kullanıyor

CRAM’in bir diğer avantajı, geliştirilmiş manyetik bellek teknolojilerinden yararlanmasıdır. Bununla birlikte araştırma prototipinin bulunması, tüm donanım sorunlarının çözüldüğü veya ticari sistemlerin hazır olduğu anlamına gelmez.

Esnek

CRAM, bellek dizisi içinde farklı noktalarda çeşitli mantık işlemleri yapılmasına olanak tanır. Desteklenen işlemler arasında AND, OR, NAND, NOR ve çoğunluk işlevi MAJ bulunur. Bu çeşitlilik, tasarımın esnekliğini artırır.

Daha Hızlı

Hız da önemli bir olası avantajdır. İşlem birimi ile bellek arasındaki veri aktarımı zaman alır; çok sayıda aktarımın toplam etkisi performansı düşürebilir. CRAM, belleğin hesaplama yapmasını sağlayarak bu yavaş ve enerji tüketen aktarımları azaltmayı amaçlar.

Paralellik

Paralellik, birden çok işlemin aynı anda yürütülmesidir. Bu özellik üretim, güvenlik ve endüstriyel sistemlerde önem taşır. CRAM’in yapısı, aynı mantık işleminin bellek dizisinin farklı hücrelerinde eş zamanlı gerçekleştirilmesini destekler.

Üretim Maliyetleri

Veri saklama ve mantık işlemlerini aynı bellek hücrelerinde birleştirmek, bazı donanım bileşenlerine ve veri aktarım bağlantılarına duyulan ihtiyacı azaltabilir. Bu durum üretim maliyetlerini etkileyebilir; ancak ticari ölçekte maliyet, güvenilirlik ve performans avantajları ayrıca doğrulanmalıdır.

Araştırmacılar

Araştırma, Minnesota Üniversitesindeki bir ekip tarafından yürütüldü. Yazarlar arasında Jian-Ping Wang, Ulya Karpuzcu, Robert P. Bloom, Hüsrev Cılasun, Sachin S. Sapatnekar, Brandon R. Zink, Zamshed Chowdhury, Salonik Resch ve Yang Lv bulunuyor. Arizona Üniversitesinden Pravin Khanal, Ali Habiboglu ve Weigang Wang da çalışmaya katkı sağladı.

Araştırma; ABD Savunma İleri Araştırma Projeleri Ajansı (DARPA), Ulusal Standartlar ve Teknoloji Enstitüsü (NIST), Ulusal Bilim Vakfı (NSF) ve Cisco’nun desteğiyle gerçekleştirildi. Deney ve incelemelerde Minnesota Üniversitesindeki Minnesota Nano Center ile Minnesota Supercomputing Institute olanaklarından da yararlanıldı.

Yapay zekânın azalan enerji gereksiniminden yararlanabilecek iki şirket

CRAM gibi yaklaşımlar, çeşitli şirketlere ürünlerini geliştirme veya yeni gelir kaynakları oluşturma fırsatı sunabilir. Aşağıdaki şirketlerin ilgili pazarlarda önemli faaliyetleri bulunuyor; ancak çalışma, bu şirketlerin CRAM’i benimsediğini göstermiyor.

Microsoft

MSFT Fiyat Grafiği

Microsoft (MSFT ), yapay zekâ ve bilişim pazarlarının önemli oyuncularından biridir. Şirket, onlarca yıldır yazılım ve bilgi işlem teknolojilerine katkı sağlıyor. Yapay zekâ alanındaki yatırımlarıyla rekabetçi konumunu sürdürmeyi amaçlıyor.

Microsoft’un Windows işletim sistemi ve diğer yazılım ürünleri, şirkete geniş bir kullanıcı tabanı sağlıyor. Yapay zekâ hizmetlerini bu ürünlere entegre etmesi dağıtım açısından avantaj yaratabilir. Ancak Microsoft’un kendisi bir işletim sistemi değildir ve geniş kullanıcı tabanı, tüm kullanıcı verilerine sınırsız erişim anlamına gelmez.

Arm Holdings

ARM Fiyat Grafiği

Arm’ın kökleri, Acorn’da Sophie Wilson ve Steve Furber gibi mühendislerin geliştirdiği işlemci mimarisine dayanır. Şirket 1990’da Advanced RISC Machines adıyla kuruldu ve daha sonra Arm Holdings adını aldı. Arm, işlemci ve grafik işlemci tasarımları gibi yarı iletken fikrî mülkiyetlerini lisanslamasıyla tanınır.

Arm, doğrudan yonga üreten bir fabrika işletmecisinden çok, yarı iletken tasarımları ve fikrî mülkiyetleri sağlayan bir şirkettir. SoftBank, şirketi 2016’da yaklaşık 32 milyar dolara satın aldı. CRAM gibi enerji verimli mimariler, gelecekte Arm tabanlı sistemler için de araştırma konusu olabilir; bunun performans ve gelir üzerindeki etkisi henüz garanti edilemez.

Yapay zekânın geleceğinde enerji gereksiniminin rolü

Enerji gereksinimi, yapay zekânın yaygınlaşmasını sınırlayan önemli etkenlerden biridir. Veri aktarımı darboğazlarını azaltan yeni mimariler, daha verimli sistemlerin geliştirilmesine yardımcı olabilir. Bu çalışma, düşük enerji tüketimli hesaplama için umut verici bir araştırma yönü sunuyor.

Diğer ilginç yapay zeka projelerini şimdi öğrenin.