Kontrolsüz Enerji Tüketimi – AI’ı Geliştirmek İçin AI Kullanımı

Hızla büyüyen yapay zeka (AI) pazarı tahmin ediliyor bu on yılın sonuna kadar 1,8 trilyon dolara ulaşacak. 

AI çılgınlığı 2021’de erken bir ivme kazanmaya başladı, sadece geçen yıl AI gerçekten bir sıçrama yakaladı. Aslında, büyümesi o kadar büyük ki AI ile ilgili her şey, çözümlerden kullanıma kadar, hızla yükseldi ve jeneratif AI’ye yapılan yatırımlar çatıya çıktı. 

ChatGPT gibi jeneratif AI sistemleri yeni yetenekler gösterdiğinde, herkes bu hızla büyüyen pastadan bir dilim istedi. Ayrıca, bu özel yatırımların çoğu ABD’de gerçekleşiyor.

Bu popüler araçların temelinde, OpenAI’nin ChatGPT’si örneğinde GPT-4 gibi temel modeller bulunur. Bu büyük çok amaçlı modeller, eğitim için devasa veri setleri ve büyük kaynaklar gerektirir. Temel modeller, yeni uygulamaları maliyet etkin ve daha hızlı bir şekilde güçlendiren makine öğrenimi (ML) modelleri geliştirmek için bir başlangıç noktası sağlar.

Teknoloji devi Google, yayınladı birkaç temel model; Imagen, Muse ve Parti metin-görsel modelleridir, MedLM sağlık sektörü için, Codey adlı kodlama modeli ve evrensel ses modeli Chirp.

Bu modeller, çalıştıkları gerçek dünya verilerini depolamak ve geri getirmek için çok daha fazla bellek dahil, benzeri görülmemiş miktarda bellek tüketir. Örneğin, GPT-3 yaklaşık 500 milyar kelime üzerinde eğitilmiş ve 175 milyar parametre kullanır. Bu, AI’nın enerji talebinin yükselmesine yol açtı.

Son birkaç yılda, AI’nın çevresel etkisi geniş çapta rapor edildi. Geçen yılın sonlarında, hakemli bir analiz bu talebi nicelleştirmeye çalıştı. 

Büyük enerji maliyetleri kripto para madenciliği üzerine tartışıldıktan sonra, Hollanda Merkez Bankası’nda veri bilimcisi ve Vrije University Amsterdam’da doktora adayı Alex de Vries, en son teknoloji trendine, AI benimsenmesine odaklandı. En son değerlendirmesine göre, NVIDIA (NVDA ) 2027 yılına kadar yılda 1,5 milyon AI sunucu birimi gönderecek. Tam kapasite çalıştıklarında, bu sunucular yılda en az 85,4 teravat-saat elektrik tüketmesi bekleniyor. 

De Vries, AI’nın Bitcoin gibi Proof-of-Work (PoW) ağlarından daha kötü olabileceğini tahmin ediyor. Ancak bunlar sadece tahminler; uzmanlar bu rakamların eksik ve koşullu olduğunu belirtiyor.

Geçen Aralık’ta, AI firması Hugging Face’ten Sasha Luccioni ve firmadan ve Carnegie Mellon Üniversitesi’nden meslektaşları 88 farklı model üzerinde testler yaptı. Görevi 1.000 kez çalıştırdılar ve buldu ki çoğu görev, metin üretmek için 0,047 kWh gibi az bir enerji kullanıyor. Ancak, görüntü üretim modelleri için bu rakamlar çok daha yüksek çıktı; ortalama 1.000 çıkarım başına 2,907 kWh kullanıldı. Bağlam için, ortalama bir akıllı telefonun şarj olması 0,012 kWh tüketiyor diye belirttiler.

Bu arada, yakın tarihli bir makale büyük dil modellerinin yaklaşık 1.300 megavat saat elektrik kullandığını, bu da ABD’de 130 evin yıllık tüketimine eşdeğer olduğunu tahmin etti.

Uluslararası Enerji Ajansı da bu yılın başlarında raporunda AI ve kripto talebinin yakın gelecekte veri merkezlerinin elektrik kullanımını önemli ölçüde artıracağını belirtti. Artışın 2022’de 460 teravat saatten 2026’da 620 ile 1.050 TWh arasında olacağı öngörülüyor.

Bu, düzenleyicilerin dikkatini çekti ve artık AI’nın artan maliyeti konusunda uyarıyorlar. Massachusetts Senatörü Edward Markey (D):

“Gelecek nesil AI araçlarının geliştirilmesi, gezegenimizin sağlığı pahasına gerçekleşemez.” 

Bu, kendisi ve diğer senatörler ve temsilcilerle birlikte, federal hükümetin AI’nın çevresel ayak izini değerlendirmesini ve gelecekteki etkileri raporlamak için standart bir sistem geliştirmesini zorunlu kılan bir yasa tasarısı sunduktan sonra geldi. Avrupa’da, AI Yasası zaten kabul edildi; bu, güçlü temel modellerin kaynak kullanımı, enerji tüketimi ve diğer etkileri rapor etmesini gerektiriyor.

Tüm bunların ortasında, Uluslararası Standardizasyon Örgütü bu yılın ilerleyen zamanlarında “sürdürülebilir AI” için malzeme kullanımı, su tüketimi ve enerji verimliliğini ölçmek üzere kriterler yayınlayacak. 

AI’ı Daha Verimli Hale Getirmek 

Büyük ölçeklerde sürdürülebilir olabilmek için AI modelleri daha enerji verimli olmalı ve veri merkezlerinden çok daha az güç tüketen enerji kısıtlı cihazlarda çalışabilir olmalıdır. 

Bu veri merkezleri, bilgisayarları çalışır durumda tutmak için büyük miktarda güç gerektirir; bu güç büyük ölçüde fosil yakıtlardan sağlanır. Bu da önemli CO2e emisyonlarına yol açar. Bununla mücadele etmek için araştırmacılar ve kuruluşlar AI’yı daha verimli hâle getirmek üzerinde çalışıyor. 

Bu soruna çözüm bulmada önemli ilerleme kaydeden önde gelen bir firma, Londra merkezli kod optimizasyonu uzmanı TurinTech’tir. TurinTech, derin öğrenme ve evrimsel algoritmaların bir karışımını kullanarak ilerleme kaydediyor. Bu sistem, mevcut bir modeli sıfırdan yeniden üretmek yerine yeni bilgilerle sürekli olarak uyarlıyor. 

Ernst and Young UK’den Harvey Lewis’e göre, evrimsel ya da genetik algoritmalar ve Bayes istatistik yöntemleri derin öğrenmeyi daha verimli hâle getirebilir ve uzman donanım maliyetini azaltabilir.

Başka bir önerilen yöntem, veri odaklı AI’yı uygulama alanının bilimsel ya da insan girdileriyle birleştirmektir. CITRIS’te stratejik girişimler direktörü Pushkar P. Apte ve CITRIS’te direktör Costas J. Spanos, dört yol hakkında yazdı:

• AI’ı bilimsel yasalarla sinerji yaratmak.
• Verileri uzman insan içgörüleriyle artırmak.
• AI kararlarını açıklamak için cihazlar kullanmak.
• Davranışı tahmin etmek için diğer modelleri kullanmak.

EnCharge adlı startup, AI modellerinin tahmin yaparken enerji tüketimini büyük ölçüde iyileştirebilecek bir AI atılımı gerçekleştirdi. Şirket, DARPA fonunu kullanarak bazı işleri analog bellek devresinde yaparak bellek kullanımını azalttı; bu devre, matris çarpım toplama işlemlerini paralel olarak düşük enerjiyle gerçekleştirebilir, geleneksel transistörlerin yerine.

“İşte veri hareketi sorununu böyle çözersiniz.” 

– Naveen Verma, EnCharge AI CEO’su ve Princeton Elektrik Mühendisliği Bölümü’nde profesör 

Verma, bireysel bitleri iletmek yerine, azaltılmış sonucun çok sayıda paralel çarpımın birikimi şeklinde iletildiğini ekledi.

EnCharge AI, watt başına saniyede 150 trilyon işlem gerçekleştirebildi. Ancak, analog bilişim elde edilmesi son derece zor ve önceki girişimler başarılı olamadı.

Bu arada, araştırma, UCPH Bilgisayar Bilimleri Bölümü’nden tenure-track yardımcı doçent Raghavendra Selvan tarafından geçen yıl yürütüldü ve ML’nin karbon ayak izini azaltmanın farklı yollarını inceledi. Mikro düzeyde, algoritmalar daha hızlı ve daha verimli hâle getirilebilir, bu da kaynak kullanımını azaltır. Selvan, bunun, hesaplamalar için kullanılan bit sayısını ve gereksiz hesaplamaları azaltmaya bakarak yapılabileceğini belirtti.

Selvan, ayrıca tüm depolanmış verilerin gerekliliğini değerlendirmeyi önerdi. Böylece makro düzeyde, hesaplamaların (çoğu zaman kritik olmayan) ne zaman ve nerede yapıldığını göz önünde bulundurarak, eğitim AI sistemleri için yoğun olmayan saatler seçilebilir; bu da eğitim oturumlarının maliyetini ve karbon ayak izini azaltır.

AI’ı Daha İyi Hale Getirmek İçin AI Kullanmak 

Şimdi, Selvan, AI modellerinin performansını etkilemeden çok daha az enerji tüketmesini sağlayacak bir benchmark oluşturdu. Ancak, bu, kullanılan enerji miktarı ve karbon ayak izinin bu AI modellerini tasarlarken ve eğitirken standart olarak alınmasını gerektiriyor.

Bunun için, 429.000 AI alt tip modeli incelendi. Bu konvolüsyonel sinir ağları, dil çevirisi, yüz tanıma, nesne tespiti ve tıbbi görüntü analizi için kullanılıyor ve sadece eğitmek için 263.000 kWh enerji gerektirdiği tahmin ediliyor. 

Bir paralel çizmek gerekirse, 263.000 kWh, ortalama bir Danimarkalı vatandaşın dört on yılı aşkın bir sürede tükettiği enerjiye eşdeğerdir. Bir bilgisayarın bu eğitimi tamamlaması bir yüzyıl sürecektir. 

Bu devasa enerji kullanımı, endüstriyi iklim dostu hâle getirmek için çalışmaya itti; ancak enerji verimli AI modellerinin geliştirilmesi henüz gerçeklik kazanmamış durumda. Selvan’a göre, AI’nın karbon ayak izini azaltma olasılıklarını araştırırken:

“Bugün, geliştiriciler sonuçların doğruluğu açısından etkili AI modelleri inşa etmeye dar bir odaklanma gösteriyorlar.” 

Bunu bir arabaya benzetti; bir arabayı sadece hızlı bir şekilde varış noktasına götürdüğü için iyi kabul ederken yakıt tüketimini düşünmez. Ayrıca ekledi:

“Sonuç olarak, AI modelleri enerji tüketimi açısından genellikle verimsizdir.” 

Onun yeni çalışması, CS öğrencisi Pedram Bakhtiarifard ile birlikte yapılmış, CO2e’yi büyük ölçüde azaltırken bir AI modelinin doğruluğunu korumanın mümkün olduğunu göstererek bu durumu değiştirmeyi amaçlıyor.

Bunu başarmak için, UCPH araştırmacıları, baştan enerji verimli bir modele ihtiyacımız olduğunu belirtti. Bu, tasarım aşamasında ve AI modellerinin enerji yoğun eğitim sürecinde iklim maliyetlerini göz önünde bulundurmak anlamına geliyor. Selvan, bu sayede karbon ayak izinin modelin ‘yaşam döngüsü’nün her aşamasında, yani eğitim ve dağıtımda azaltılabileceğini söyledi.

Araştırmacılar, yüz binlerce bu AI modelini eğitmek için gereken enerjiyi hesapladı. İlginç bir şekilde, UCPH araştırmacıları modelleri eğitmediler; bunun yerine başka bir AI modeli kullanarak tahmin yaptılar. Böylece, aksi takdirde harcanacak enerjinin %99’unu tasarruf ettiler.

Şimdi, hesaplamalarına dayanarak, ekip aynı seviyede performans gösteren ancak bir görevi tamamlamak için daha az enerji kullanan bir AI model benchmark koleksiyonu sundu.

Çalışmaya göre, modelleri ayarlamak ya da başka model türleri kullanmak, eğitim ve uygulama aşamalarında enerjinin %80’ine kadar tasarruf sağlayabilir. Performans açısından ise çok az ya da hiç bir ödün verilmemiştir (sadece %1 ya da daha az). Bu rakamlar araştırmacılara göre temkinli bir tahmindir.

“Sonuçlarımızı AI profesyonelleri için bir tarif kitabı olarak düşünün. Tarifler sadece farklı algoritmaların performansını değil, aynı zamanda ne kadar enerji verimli olduklarını da açıklar.” 

– Bakhtiarifard

Bakhtiarifard, model tasarımındaki bir bileşeni başka bir bileşenle değiştirerek “aynı sonucu sık sık elde edebileceğimizi” belirtti. Bu, her modeli önce eğitmek zorunda kalmadan, sadece performans ve enerji tüketimine göre birini seçebileceğimiz anlamına geliyor.

Birçok model, belirli bir görev için en uygun seçeneği bulmak amacıyla eğitildiğinden, AI geliştirme “son derece enerji yoğun” oluyor. Bakhtiarifard, “Doğru modeli baştan seçmek, enerji açısından daha iklim dostu olur” ve ayrıca eğitim aşamasında önemli güç tüketmeyen bir modeli seçmek gerektiğini söyledi.

Otonom araçlar ve tıp gibi alanlarda model doğruluğu güvenlik için kritik olduğundan performanstan ödün verilemez, araştırmacılar belirtiyor ki bu, diğer alanlarda yüksek enerji verimliliği elde etmeye çalışmamızı engellememeli.

Çalışma, enerji verimliliğinin AI model geliştirmede bir standart haline getirilmesiyle daha iyi bir denge bulunabileceğini gösteriyor, tıpkı birçok sektörde olduğu gibi. Selvan’a göre:

“AI harika bir potansiyele sahip. Ancak sürdürülebilir ve sorumlu AI geliştirmeyi sağlamak için sadece model performansını değil, iklim etkisini de göz önünde bulunduran daha bütünsel bir yaklaşıma ihtiyacımız var.” 

EC-NAS adlı benchmark açık kaynaklıdır ve diğer bilim insanları ve şirketler tarafından sinir mimarisi araması (NAS) araştırmalarını ilerletmek için kullanılabilir. Çalışma, çok amaçlı optimizasyon algoritmalarının enerji kullanımı ve doğruluk arasında denge kurduğunu belirtti. “Çeşitli metrikleriyle EC-NAS, enerji verimli ve çevresel olarak sürdürülebilir modellerin geliştirilmesine yönelik daha fazla araştırmayı teşvik ediyor,” diye belirtiyor.

AI Tabanlı Enerji Çözümleri

Şimdi, teknoloji kullanarak enerji sektörüne yönelen ve aktif olarak AI tabanlı enerji çözümleri sunan şirketlere bir göz atalım:

#1. GE Renewable Energy

Şirket, ev içinde geliştirilen AI/ML teknolojisini kullanarak rüzgar türbini lojistiği sürecindeki maliyetleri doğru bir şekilde tahmin ediyor ve süreçleri optimize ediyor. Bu yıl, GE, sürdürülebilirliği sağlarken kârlılığı maksimize etmeye yardımcı olmak için Proficy’i üreticilere sundu. Ayrıca raporlama doğruluğunu artırmak için AI destekli CERius’u devreye aldı.

Bu ayın başında, General Electric (GE.TO ) üç ayrı şirkete bölündü; havacılık, enerji ve sağlık hizmetlerine odaklanarak ve NYSE’de ayrı varlıklar olarak işlem görmeye başladı. Böylece enerji kolu artık GE Vernova (GEV ) (GEV) olarak adlandırılıyor ve piyasa değeri 36 milyar dolar; hisse senetleri 131,75’te işlem görüyor. 2023’te şirket güvence altına aldı en büyük siparişini, ABD’de bir rüzgar projesini desteklemek için 2,4 GW sağlayacak şekilde. Goldman Sachs (GS ), şirketin 2026’ya kadar 4 milyar dolar EBITDA elde edeceğini öngörüyor.

#2. Schneider Electric

$34,2 milyar değerindeki Fransız merkezli şirket, AI’ı verimlilik ve üretkenliği artırmak ve iklim değişikliği sorununu ele almak için kullanıyor. Schneider Electric’ (SND.DE ) in AI kullanımı veri görselleştirme ve mühendislik, optimizasyon ve simülasyon, ve güvenilirlik modellemesi etrafında dönüyor. 

Şirket, 2023 mali yılı için 36 milyar € gelir kaydetti; bu %13 artış. Schneider Electric ayrıca 4 milyar € net gelir ve 4,6 milyar € serbest nakit akışı bildirdi.

Sonuç

AI, bu on yılın teknolojik devrimi. AI entegrasyonunun şirketlerin maliyetlerini düşürdüğü ve gelirlerini artırdığı, çalışanların verimliliğini yükselttiği gösterildiğinden, bu sadece bir moda sözcüğü olmaktan çok daha fazlası. AI sistemleri, bir dizi görevde insanları geride bırakıyor, ancak karmaşık bilişsel görevlerde hâlâ bizden daha iyiler.

Bununla birlikte, gizlilik, algoritmik önyargılar ve yukarıda tartıştığımız gibi olumsuz çevresel etkiler gibi kendi risklerini de beraberinde getiriyor. AI’ye yönelik küresel bir anket, insanların bu yeni teknoloji konusunda endişeli olduğunu gösteriyor; ancak çoğunluk, önümüzdeki yıllarda günlük yaşamlarını değiştireceğini düşünüyor. Daha genç nesil AI konusunda daha iyimser.

AI hayatımızın büyük bir parçası olmaya devam ederken, hükümetler, bilim insanları ve şirketler risklerini ele almak için bir araya geliyor. Düzenleyiciler zaten sektöre yönelmeye başladı; son yedi yılda 30’dan fazla ülke en az bir AI ile ilgili yasa çıkardı. Daha fazla teknolojik ilerleme gerçekleştiğinde, AI’nın daha verimli hâle gelerek dünyamızı dönüştüreceğini göreceğiz.

Yapay zekaya yatırım hakkında her şeyi öğrenmek için buraya tıklayın.