Yapay Zeka Verimlilikle Buluşuyor: Yeni Bir Çip LLM Güç Kullanımını %50 Azaltıyor

Yapay zeka (YZ) alanında yaşanan gelişmeler, veri merkezlerinde büyük bir artışa yol açıyor ve bu da içlerindeki sunucuları çalıştırmak ve soğutmak için gereken güce olan talebi artırıyor.

Dünya genelinde 8,000'den fazla veri merkezi bulunuyor ve bunların çoğu ABD'de bulunuyor. Bu sayının önümüzdeki yıllarda önemli ölçüde artacağı öngörülüyor. 

Boston Consulting Group'un tahminine göre, veri merkezlerine olan talep 15'a kadar her yıl %20 ila %2030 artacak. Şirket bu noktada, veri merkezlerinin ABD'deki toplam güç tüketiminin %16'sını oluşturmasını bekliyor. Bu oran, OpenAI'nin 2.5'de ChatGPT'yi piyasaya sürmesinden önce yalnızca %2022'ti.

Bu arada, özel Enerji ve Yapay Zeka raporu Uluslararası Enerji Ajansı'nın (IEA) bu yıl yayınladığı rapora göre, bu on yılın sonunda dünya çapındaki veri merkezlerinden gelen elektrik talebinin en az iki katına çıkarak yaklaşık 945 TWh'ye ulaşması bekleniyor. Bu, Japonya'nın bugün tükettiği miktara neredeyse eşit. 

Paris merkezli özerk hükümetlerarası örgüt, bu artışın arkasındaki en büyük itici gücün yapay zeka olduğunu, yapay zeka ile optimize edilmiş veri merkezlerindeki elektrik talebinin 2030 yılına kadar dört katından fazla artacağının tahmin edildiğini bildirdi.

Özellikle ABD'de, veri merkezlerinin güç tüketimi, 2030 yılına kadar elektrik talebindeki büyümenin yaklaşık yarısını oluşturacak gibi görünüyor. Rapora göre, yapay zeka kullanımının da etkisiyle ABD ekonomisi, o noktada verileri işlemek için tüm enerji yoğun malların üretiminden daha fazla elektrik tüketecek.

Enerjiye olan bu doymak bilmez açlık, AI'nın ilerlemesi ve benimsenmesinde büyük bir sorun teşkil ediyor. Ancak olumlu tarafı, AI'nın güç kullanımını azaltmak ve onu daha enerji verimli hale getirmek için çalışan araştırmacı ve şirketlerin sayısının artmasıdır.

Bu çabaların ilginç yanı, birçoğunun kendi enerji zorluklarını çözmek için yapay zekayı kullanmasıdır.

Daha bu ay, bir araştırmacı ekibi yapay zekayı kullanarak büyük dil modelleri (LLM) programlarının enerji ayak izini %50 oranında küçülten yeni bir çipi tanıttı ve LLM programlarının maliyet açısından daha uygun ve sürdürülebilir hale getirilmesinde önemli bir gelişmeye imza attı.

Yeni Çip, LLM'nin Enerji Tüketimini Azaltmak İçin Yapay Zekadan Yararlanıyor

Oregon Eyalet Üniversitesi Mühendislik Fakültesi'nden araştırmacılar, OpenAI'nin GPT-4 ve Google'ın Gemini gibi LLM yapay zeka uygulamalarının büyük elektrik tüketim sorununu çözmek için yeni ve verimli bir yapay zeka çipi geliştirdiler.

Bir tür makine öğrenimi (ML) modeli olan büyük dil modeli (LLM), metin oluşturma, özetleme, basitleştirme, metin muhakemesi, dil çevirisi ve daha fazlası gibi doğal dil işleme (NLP) görevlerini gerçekleştirmek için çok miktarda veri üzerinde önceden eğitilir.

Günümüzde en popüler ve yaygın olarak kullanılan sohbet robotları arasında OpenAI'nin GPT-4o, o3 ve o1, Google'ın Gemini ve Gemma'sı, Meta'nın Llama'sı, DeepSeek'in R1 ve V3'ü, Anthropic'in Claude'u, Amazon'un Nova'sı, Microsoft'un Phi'si ve xAI'nin Grok'u yer alıyor.

Son birkaç yıldır, LLM'ler makinelerin insan benzeri metinleri daha büyük bir doğrulukla anlamasını ve üretmesini sağlayarak AI alanını tamamen dönüştürdü. Ancak, LLM'lerin bu evrimi, boyutlarında üstel bir artışa neden oldu.  

Bir LLM'nin parametre sayısıyla ölçülen büyüklüğü, enerji tüketiminin ana etkenidir. Bu, model ne kadar büyükse, eğitim ve çıkarım için o kadar fazla hesaplama gücüne ihtiyaç duyacağı anlamına gelir. 

Örneğin, ChatGPT-1'in yaklaşık 120 milyon parametresi varken, bu sayı GPT-175 ile 3 milyara, ardından da GPT-1.8 ile yaklaşık 4 trilyon parametreye çıktı.

Hukuk alanındaki lisans programlarının (LLM) büyüklüğündeki ve kapasitesindeki bu muazzam artış, enerji tüketimlerinin de benzeri görülmemiş bir ölçekte arttığı anlamına geliyor. Modelin boyutunun yanı sıra, bu LLM'leri eğitmek için kullanılan donanım türü, eğitim sürecinin süresi, altyapı (veri merkezleri), veri işleme, model optimizasyonu ve algoritma verimliliği gibi faktörler de LLM'lerin enerji tüketimini etkiliyor.

Bu nedenle, OSU araştırmacılarından yeni çip. OSU'da elektrik mühendisliği doçenti ve aynı zamanda Üniversite'deki Karma Sinyal Devreleri ve Sistemler Laboratuvarı'nı yöneten Tejasvi Anand'a göre:

"Sorun, tek bir biti iletmek için gereken enerjinin, veri oranı talebi arttıkça aynı oranda azaltılmamasıdır. Veri merkezlerinin bu kadar fazla güç kullanmasına neden olan şey budur."

Bu sorunu aşmak için ekip, geleneksel tasarımlara kıyasla yalnızca yarı yarıya daha az enerji tüketen yeni bir çip tasarlayıp geliştirdi.

Anand ve doktora öğrencisi Ramin Javad, geçen ay Boston'da düzenlenen IEEE Özel Entegre Devreler (CIC) Konferansı'nda bu yeni teknolojiyi sundular. Forumlara, panellere, sergilere ve sözlü sunumlara ev sahipliği yapan konferans, kompakt ve verimli bir pakette işlevsellik ve işlem gücü sağlayarak modern elektronik sistemlerin yapı taşı görevi gören IC'nin geliştirilmesine adanmıştır.

En son teknoloji, Center for Ubiquitous Connectivity (CUbiC), Semiconductor Research Corporation (SRC) ve Defense Advanced Research Projects Agency (DARPA) desteğiyle oluşturuldu. Ayrıca Javadi'ye konferansta En İyi Öğrenci Makalesi Ödülü'nü kazandırdı.

Javadi'nin belirttiğine göre araştırmacılar yeni çip için sinyal işleme için elektrik kullanımını azaltan yapay zeka prensiplerinden yararlandılar.

Açıkladığı gibi, LLM'ler veri merkezlerindeki bakır tabanlı iletişim bağlantıları olan kablolu bağlantılar üzerinden çok sayıda veri gönderip alırlar. Tüm bu süreç önemli miktarda enerji gerektirir, bu nedenle olası bir "çözüm, daha verimli kablolu iletişim çipleri geliştirmektir."

Javadi ayrıca yüksek hızlarda gönderildiğinde, verilerin aslında alıcının sonunda bozulduğunu ve bunun sonucunda temizlenmesi gerektiğini belirtti. Bu amaçla, mevcut kablolu iletişim sistemlerinin çoğu, çok fazla güç tüketen bir ekolayzır kullanır.

"Verileri daha akıllı ve daha verimli bir şekilde kurtarmak için bu yapay zeka prensiplerini çip üzerinde kullanıyoruz; böylece çip üzerindeki sınıflandırıcıyı hataları tanıması ve düzeltmesi için eğitiyoruz."

– Cevadi

Büyük bir gelişme olsa da bu, çipin yalnızca ilk sürümüdür. Bir sonraki yinelemesi, enerji verimliliğini daha da artırmak için şu anda üzerinde çalışılıyor.

Genel olarak, bu devam eden araştırma, AI altyapısının ve veri merkezi operasyonlarının geleceği için geniş kapsamlı çıkarımlara sahip olma konusunda büyük bir potansiyel gösteriyor. Ancak elbette, bu, teknolojinin ölçekte başarılı bir şekilde uygulanmasını gerektirir ki bu asla kolay bir iş değildir.

Yapay zekanın mikroçip mühendisliğini nasıl altüst ettiğini öğrenmek için buraya tıklayın.

Katmanlar Arası Atılımlarla Yapay Zekanın Enerji İştahını Evcilleştirmek

Bu son çip geliştirme, yapay zekanın enerji tüketimi sorununu ele alan birçok araştırma projesinden sadece biri. O halde, araştırmacıların bu sorunu ele aldığı yenilikçi yollara kısaca bir göz atalım.

Yapay Zeka Enerji Verimliliği için Işığın Kullanımı 

Bu yılın başlarında, USST bilim insanları gelişmiş¹ toz zerresinden veya bir tuz tanesinden daha küçük, ışığı kullanarak fiber optik kablolardan gelen verileri işleyen mikroskobik bir AI çipi. Bu, daha az enerji tüketimiyle daha hızlı hesaplamalar vaat ediyor.

Çip, geleneksel bilgisayarların yaptığı gibi ışık sinyallerini yorumlamak yerine, hesaplamaları anında gerçekleştirmek için ışığı manipüle eder. Bunun için, birlikte istiflenmiş, desenlendirilmiş, 3D yazdırılmış bileşen katmanlarını kullanan "tamamen optik kırınımlı derin sinir ağı" teknolojisini kullanır. Çığır açıcı olsa da, endoskopik görüntüleme, kuantum hesaplama ve veri merkezlerinde "benzeri görülmemiş işlevler" elde edebilmesi için göreve özgü tasarım, kusurlara karşı hassasiyet ve büyük ölçekte üretim zorluğu gibi zorlukların üstesinden gelinmesi gerekir.

Bundan birkaç ay önce, MIT bilim insanları da bir çip üzerindeki sinir ağının temel işlemlerini ışık kullanarak gerçekleştirmiş ve %92 doğruluk ve muazzam bir enerji verimliliğiyle ultra hızlı yapay zeka hesaplamaları (yarım nanosaniyede) yapılmasını sağlamıştı.

"Bu çalışma, özünde girdilerin çıktılara eşlenmesi olan bilişimin, hesaplama ile çaba arasında temelde farklı bir ölçekleme yasası sağlayan doğrusal ve doğrusal olmayan fiziğin yeni mimarilerine derlenebileceğini göstermektedir."

– Kıdemli yazar Dirk Englund

Bilim adamları fotonik çip geliştirildi², optik sinir ağı oluşturan birbirine bağlı modüllerden oluşur. Özellikle, üretimi için ticari dökümhane süreçlerinin kullanılması, elektroniklere ölçeklenebileceği ve entegre edilebileceği anlamına gelir. Ayrıca, bilim insanları elektronik ve optiği birleştiren doğrusal olmayan optik fonksiyon birimleri (NOFU'lar) tasarlayarak optikteki doğrusal olmama zorluğunun üstesinden geldiler.

Ultra düşük güç kullanarak gerçek zamanlı öğrenen yeni beyinden ilham alan yapay zeka hakkında bilgi edinmek için buraya tıklayın.

Yapay Zeka Eğitimi için Bir Yazılım Aracı ve Veri Merkezleri için Bir Soğutma Sistemi

Bu arada Michigan Üniversitesi araştırmacıları, enerji israfını hedef aldı Yapay zeka eğitimi sırasında, daha spesifik olarak, büyük veri kümelerinin işlenmesi için gerekli olan GPU'lar arasında eşitsiz bir şekilde bölündüğünde yaratılır. 

Bu nedenle, tamamlanması en uzun zaman alacak alt görevleri belirleyen ve daha sonra bu 'kritik yol' üzerinde olmayan işlemcilerin hızını düşürerek hepsinin görevlerini eş zamanlı olarak tamamlamasını sağlayan ve gereksiz güç kullanımını ortadan kaldıran Perseus adında bir yazılım aracı geliştirdiler.

Bu açık kaynaklı araç, yapay zeka enerji tüketimini ölçmek ve optimize etmek için kullanılan bir araç olan Zeus'un bir parçası olarak kullanılabilir.

Bu arada Missouri Üniversitesi'ndeki araştırmacılar, yeni nesil bir soğutma sistemi tasarlamak veri merkezlerinin daha enerji verimli hale gelmesine yardımcı olmak için. Ayrıca sunucu raflarında kolay bağlantı ve bağlantı kesme için bir soğutma sistemi üretiyorlar.

"Soğutma ve çip üretimi el ele gider. Uygun soğutma olmadan, bileşenler aşırı ısınır ve bozulur. Enerji açısından verimli veri merkezleri, yapay zeka bilişiminin geleceği için anahtar olacaktır."

- Mizzou Mühendislik Koleji'nde makine ve havacılık mühendisliği profesörü olan Chanwoo Park

DOE'nin COOLERCHIPS girişiminin 1.5 milyon dolarlık fon desteğiyle ekip, faz değişimi yoluyla sunucu yongalarından ısıyı dağıtan iki fazlı bir soğutma sistemi geliştirdi. Daha az soğutma için ihtiyaç duyulduğunda herhangi bir enerji kullanmadan pasif olarak çalışabilmesinin yanı sıra, aktif moddayken bile sistem çok az miktarda kullanır.

CRAM Donanımı Yapay Zekanın Enerji Kullanımını 1000 Kat Azaltabilir

Geçtiğimiz yaz, Minnesota Üniversitesi Twin Cities'deki mühendisler gelişmiş bir donanım aygıtı geliştirdi³ Bu, yapay zekanın enerji tüketimini yaklaşık 1,000 kat azaltabilir.

Bu yeni modele hesaplamalı rastgele erişimli bellek (CRAM) adı veriliyor ve burada veriler hiçbir zaman belleği terk etmiyor; bunun yerine tamamen bellek dizisi içinde işleniyor, böylece enerji yoğun ve yavaş veri transferlerine gerek kalmıyor.

Yirmi yıllık bir çalışmanın ürünü olan bu çalışma, kıdemli yazar Jian-Ping Wang'ın Manyetik Tünel Kavşakları (MTJ) cihazları üzerine patentli araştırmasını temel alarak ekibin çabalarının bir parçasıdır. Bu nanoyapılı cihazlar, sensörleri, sabit diskleri ve Manyetik Rastgele Erişimli Bellek (MRAM) gibi diğer mikroelektronik sistemleri geliştirmek için kullanılır.

"Son derece enerji tasarruflu bir dijital tabanlı bellek içi hesaplama alt yapısı olarak CRAM, hesaplamanın bellek dizisindeki herhangi bir konumda gerçekleştirilebilmesi açısından oldukça esnektir," diye belirtti ortak yazar Ulya Karpuzcu, Elektrik ve Bilgisayar Mühendisliği Bölümü'nde Doçent. Ayrıca, farklı algoritmaların performans ihtiyaçlarına en iyi şekilde uyacak şekilde yeniden yapılandırılabilir.

Beyinden Esinlenen Yapay Zeka: İnsan Verimliliğini Taklit Ederek Güç Kullanımını Azaltmak

Yani, gördüğümüz gibi, araştırmacılar enerji sorunlarını ele almak için AI'nın farklı yönlerine bakıyorlar. İlginç bir şekilde, ilham almak için insan beynine de yöneliyorlar. Bu mantıklı, sonuçta, AI makineler tarafından insan zekası süreçlerinin simülasyonu olsa da, insan düşüncesi ve muhakemesine yakın bile değil varyasyonlar arasında genelleme yapma yeteneğinin “insan bilişinden önemli ölçüde daha zayıf” olması nedeniyle.

Beyinden ilham alan enerji azaltma araştırması, Üniversitenin Sidney AI Merkezi'ndeki Doçent Chang Xu'nun çalışmalarını da içeriyor. Kendisi, basit görevler için bile olsa kaynakları tam kapasitede kullanan LLM'lerin işleri yapmanın doğru yolu olmadığını belirtti. Şöyle açıkladı:

"Sağlıklı bir insan beynini düşündüğünüzde, tüm nöronları aynı anda ateşlemez veya tüm beyin gücünü aynı anda kullanmaz. Yaklaşık 20 milyar nörona sahip olmasına rağmen inanılmaz bir enerji verimliliğiyle çalışır; sadece 100 Watt güç tüketir ve bu nöronları beynin farklı yarımkürelerinden seçici olarak kullanarak farklı görevler veya düşünceler gerçekleştirir." 

Bu nedenle, ihtiyaç duyulmayan gereksiz hesaplamaları atlayan ve otomatik olarak yüksek vitese geçmeyen algoritmalar geliştiriyorlar.

Diğer durumlarda, araştırma beynin nöromodülasyonundan ilham aldı ve ' adı verilen bir algoritma oluşturdu.saklama sistemi'Beyin hücresinin kendi kendini onarma fonksiyonu, herhangi bir doğruluk bozulması olmaksızın enerjiyi %37 oranında azaltmak için donanım aygıtları için astrositlerve nöromorfik (beyinden esinlenen) bir hesaplama biçimi (memristörler) elde etti birlikte çalışmak Sinir ağlarının çeşitli alt gruplarında.

Yapay Zekaya Yatırım

Küresel bir yarı iletken şirketi, AMD (AMD ) yüksek performanslı bilgi işlem, grafik ve görselleştirme teknolojileriyle tanınır. Yapay zekanın gözdesi ile doğrudan rekabet halindeyken NVIDIA (NVDA ), veri merkezi ve AI hızlandırıcı pazarlarında hızla yer ediniyor. MI300 Serisi özellikle nesil AI iş yüklerini ve HPC uygulamalarını hedefliyor.

Veri merkezi CPU alanında lider konumu, güçlü Ar-Ge odağı, gelir büyümesi, müşteri portföyü ve satın almalar AMD'yi sektörde güçlü bir oyuncu haline getiriyor.

Advanced Micro Devices (AMD )

AMD, 2022'de Xilinx'i satın alarak 50 milyar dolar değerinde rekor bir çip sektörü anlaşması yaptı ve sektörün yüksek performanslı ve uyarlanabilir bilgi işlem lideri oldu. Ve en son olarak, 500'de 2028 milyar dolarlık veri merkezi AI hızlandırıcı fırsatını ele almak için ZT Systems'ı satın almayı tamamladı.

AMD'nin piyasa performansı da gümrük vergisi türbülansından etkilenmesinin ardından bu yıl toparlanıyor. Yazım tarihi itibarıyla AMD hisseleri 120 dolardan işlem görüyor, YTD'de %6.9 düşüş var ancak Mart 47'teki zirvesinden yalnızca yaklaşık %2024 aşağıda. Bununla birlikte, piyasa değeri 182.34 milyar dolar, EPS (TTM) 1.36 ve P/E (TTM) 82.44.

Şirketin finansallarına gelince, AMD, 36'in 7.4. çeyreğinde gelirinin yıllık bazda %1 artarak 2025 milyar dolara ulaştığını bildirdi. CEO Dr. Lisa Su, bunu "dinamik makro ve düzenleyici ortama rağmen" yılın "olağanüstü bir başlangıcı" olarak nitelendirdi. Bu büyümenin "genişleyen veri merkezi ve yapay zeka ivmesi" tarafından yönlendirildiğini ekledi.

Bu dönemde AMD'nin faaliyet geliri 806 milyon dolar, net geliri 709 milyon dolar ve hisse başına seyreltilmiş kazanç 0.44 dolar oldu. 2'in 2025. çeyreği için yaklaşık 7.4 milyar dolar gelir öngörüyor. 

Şirketin gerçekleştirdiği bazı önemli gelişmeler arasında stratejik ortaklıkların genişletilmesi de yer alıyor. Meta Platformlar, Inc. (META ) (Lama), Alphabet Inc. (GOOGL ) (Gemma), Oracle Corporation (ORCL ), Çekirdek42, Dell Teknolojileri (DELL )ve diğerleri. AMD, Nokia ile birlikte, Cisco Systems, Inc (CSCO )ve Jio, verimliliği, güvenliği ve yetenekleri artırmak için yapay zeka odaklı çözümler sunan yeni bir Açık Telekom Yapay Zeka Platformu duyurdu.

AMD ve Nvidia bu hafta, Suudi Arabistan Kamu Yatırım Fonu'nun yapay zeka odaklı yan kuruluşu Humain ile 500 MW kapasiteye sahip olması beklenen büyük ölçekli bir veri merkezi projesi için yarı iletken tedarik etmek üzere ortaklık kurdu.

En iyi silikon dışı bilişim şirketlerinin listesi için buraya tıklayın.

En Son Gelişmiş Mikro Cihazlar (AMD) Trendleri ve Gelişmeleri

Sonuç

Son birkaç yıldır, AI çılgınlığı patlayıcı bir büyüme gördü ve bunun iyi nedenleri var. Sonuçta bu teknoloji, sağlık, üretim ve malzeme biliminden finans, eğlence, eğitim, perakende ve siber güvenliğe kadar çok çeşitli endüstrileri dönüştürme konusunda büyük bir potansiyele sahip.

Ancak, teknolojik ilerleme, artan benimsenme ve bu LLM'lerin ardından genişleme, sera gazı (GHG) emisyonlarına ve iklim değişikliğine katkıda bulunan, ekonomik maliyeti artıran ve teknolojinin sürdürülebilirliğini etkileyen önemli bir enerji talebine yol açmıştır.

Bu, AI için büyük bir zorluk teşkil ediyor. Azaltılmış maliyetler, artan üretkenlik ve ölçekte iyileştirilmiş karar alma anlamında gerçek potansiyelini tam olarak gerçekleştirmek istiyorsak, modeller maliyet etkinliği ve sürdürülebilirlik sağlamalıdır.

Ancak iyi olan şey, dünyanın dört bir yanındaki araştırmacıların yapay zekayı enerji açısından verimli hale getirmek için şimdiden sıkı bir şekilde çalışıyor olması. Bunu Oregon Eyalet Üniversitesi'nin yapay zeka destekli çipinden de görebiliyoruz. Bu da inovasyonu sürdürülebilirlikle uyumlu hale getirmenin güçlü bir ihtimal olduğunu gösteriyor.

Elbette, önerilen teknolojilerin gerçek dünyada etki yaratma yolundaki en büyük engelleri olan ölçeklenebilirliği aşmaları gerekiyor. Yine de bir şey açık: daha yeşil AI geleceği mümkün ve geliyor!

Yapay zekaya yatırım hakkında her şeyi öğrenmek için buraya tıklayın.

Atıf Yapılan Çalışmalar:

1. Yu, H., Huang, Z., Lamon, S., Wu, J., Zhao, Z., Lin, D., Zhao, H., Zhang, J., Lu, C., Liu, H., Zhang, X., & Zhang, C. (2025). Distal fasette minyatürleştirilmiş kırınımlı sinir ağı kullanan çok modlu bir fiber üzerinden tüm optik görüntü iletimi. Nature Photonics, 19, 486–493. https://doi.org/10.1038/s41566-025-01621-4
2. Bandyopadhyay, S., Sludds, A., Krastanov, S., Youssry, A., Zhang, L., Lian, C., Yu, S., Desiatov, B., Burek, MJ, Lukin, MD ve Lončar, M. (2024). Yalnızca ileri eğitimli tek çipli fotonik derin sinir ağı. Nature Photonics, 18, 1335–1343. https://doi.org/10.1038/s41566-024-01567-z
3. Lv, Y., Zink, BR, Bloom, RP, Roy, A., Vaddi, K., Shang, L. ve Manipatruni, S. (2024). Manyetik tünel bağlantısına dayalı hesaplamalı rastgele erişimli belleğin deneysel gösterimi. npj Geleneksel Olmayan Hesaplama, 1, 3. https://doi.org/10.1038/s44335-024-00003-3