Bilişim
Bilgisayarları Daha Hızlı Hale Getiren Çığır Açan Simultaneous ve Heterojen Çoklu İş Parçacığı Teknolojisi
Apple ve Google gibi teknoloji devlerinin tüm yeni cihazları, tek haneli pil ömrü artışı, üreticiler için hâlâ optimal verim sağlamayan bir nanometre daha küçük işlemci, ya da birkaç ekstra megapiksel gibi artımlı iyileştirmeler sunsa da: Soru ortaya çıkıyor: Bu kadar mütevazı iyileştirmeler gerçekten yeterli mi? Daha fazla donanım eklemek çözüm mü?
Kaliforniya Üniversitesi, Riverside (UCR) Elektrik ve Bilgisayar Mühendisliği Bölümü’nden Doçent Öğretim Üyesi Hung-Wei Tseng’e göre bu doğru değil. Kendisi şöyle diyor:
“Yeni işlemcilere ihtiyacınız yok çünkü zaten sahip olduğunuz işlemciler var.”
Prof. Tseng ve bir araştırmacı ekibi, paralel işlem için yeni bir yazılım çerçevesi geliştirdi; bu çerçeve Simultaneous and Heterogeneous Multi-threading (SHMT) olarak adlandırılıyor. İlk sonuçlara göre, SHMT mevcut kişisel bilgisayarlar, cep telefonları ve diğer cihazlardaki işlemcilerin gizli yeteneklerini kullanarak işlem hızını önemli ölçüde artırıp enerji tüketimini azaltmaya hazırlanıyor.
Teknoloji topluluğu tarafından “çığır açıcı” olarak nitelendirilen SHMT, veri akışı darboğazlarını ortadan kaldırmayı ve birçok işlem biriminin sorunsuz iş birliğini sağlamayı hedefliyor. Bu atılım yalnızca kişisel elektronik cihazları değil, veri merkezlerini ve diğer büyük ölçekli paralel bilişim türlerini de etkileyebilir.
Darboğazı Çözümlemek
Simultaneous ve heterogeneous çoklu iş parçacığı ile neler başarılabileceğinin tam ihtişamını keşfetmeye başlamadan önce, mevcut bilişim sistemlerinin sınırlamalarını anlamamız gerekir.
Çoğu cihazda, merkezi işlem birimi (CPU), grafik işlem birimi (GPU) ve tensör işlem birimi (TPU) gibi çeşitli bileşenler bilgiyi ayrı ayrı işler. Veri bir işlem biriminden diğerine aktarılır ve bu genellikle bütün sistem performansını engelleyen “darboğazlara” yol açar.
Bu durum, genellikle görevleri tek bir işlemci tipine devreden geleneksel programlama modelleri tarafından daha da kötüleştiriliyor; bu da diğer kaynakların boş ve yetersiz kullanılmasına neden oluyor. Bu gözlemleri yansıtan Kuan-Chieh Hsu ve Hung-Wei Tseng’in ‘Simultaneous and Heterogeneous Multi-threading’ adlı araştırma makalesi şu ifadeyi kullanıyor:
“Yerleşik programlama modelleri, her kod bölgesi için yalnızca en verimli işlem birimlerini kullanmaya odaklanır ve heterojen bilgisayarlardaki işlem gücünü yeterince kullanmaz.”
SHMT, bir bilişim sistemindeki birden fazla bileşenin çeşitliliğinden yararlanarak bu yaklaşımdan sapar. Bu kavram heterojenlik olarak bilinir. Hesaplama fonksiyonlarını bölerek ve mevcut işlem birimlerine dağıtarak SHMT gerçek paralel işlemeyi mümkün kılar.
Bu yaklaşım, hesaplama fonksiyonlarını bölüp birkaç işlem birimi arasında dağıtarak mevcut kaynakların kullanımını en üst düzeye çıkarır, performansı artırır ve enerji tasarrufu sağlar. Araştırma makalesi, geleneksel programlama modellerinin “bir kod bölgesini yalnızca tek bir işlemci türüne devredebildiğini, diğer bilişim kaynaklarını boş bırakarak mevcut fonksiyona katkı sağlamadığını” belirterek bu eksiklikleri daha da ayrıntılı inceliyor.
SHMT ise, her işlem biriminin özgün yeteneklerini ve ortak bir kod bölgesi üzerindeki iş birliğini kullanarak bu kısıtlamalardan kurtulmayı hedefliyor. Yazarlar ayrıca, tüm bilişim platformlarının birden çok işlem birimi ve donanım hızlandırıcılarını birleştirdiği için modern bilişim teknolojisinin tartışmasız bir şekilde heterojen olduğunu vurguluyor. Bu da bu çeşitli bileşenlerin gücünden etkili bir şekilde yararlanabilecek bir programlama modeline ihtiyaç duyulduğunu gösteriyor (tam da SHMT’nin hedefi bu).
Dolayısıyla, SHMT mevcut geleneksel bilişimdeki darboğazları ele alarak daha hızlı ve daha verimli bilişime yol açıyor.
Simultaneous ve Heterojen Çoklu İş Parçacığı Teknolojisi Nasıl Çalışır?
Görüldüğü gibi, bilişim faaliyetlerini farklı donanım bileşenleri arasında verimli bir şekilde yönetmek ve dağıtmak, SHMT’nin temel prensibidir.
Çerçeve, bir CPU uygulamasından bir sanal donanım cihazına görevlerin aktarımını kolaylaştırmak için bir dizi sanal işlem (VOP) içerir. Çalışmaya göre, “Sanal işlemler (VOP) kümesi, bir CPU programının bir işlevi sanal bir donanım cihazına ‘aktar’masına olanak tanır.” Bu VOP’lar, program ile donanım arasında bir bariyer oluşturarak iletişimi ve iş dağıtımını yönetir.
Bir çalışma zamanı sistemi, uygulama çalıştırılırken her donanım kaynağının yeteneklerini değerlendirerek ve akıllı zamanlama kararları alarak performansı optimize eder. Çalışmaya göre, “Program yürütülürken, bir çalışma zamanı sistemi, simultaneous ve heterogeneous çoklu iş parçacığının sanal donanımını yönlendirir ve donanım kaynağının zamanlama kararları verme yeteneğini ölçer.” Kaynak verimliliğini en üst düzeye çıkarmak ve işin özel ihtiyaçlarına uyum sağlamak için SHMT, donanım yeteneklerini dinamik olarak değerlendirir.
Çalışma zamanı sistemi, VOP’ları yüksek seviyeli işlemlere (HLOP) bölerek çeşitli donanım görev kuyruklarına dağıtır. Çalışmaya göre, “Çalışma zamanı sistemi, VOP’ları bir veya daha fazla yüksek seviyeli işleme (HLOP) bölerek birden çok donanım kaynağını aynı anda kullanır.” VOP’ların HLOP’lara ayrılması, iş tahsisinde ayrıntılı kontrol ve her işlem biriminin maksimum kullanımını sağlar.
SHMT zamanlama politikası, verimli kaynak kullanımı ve çeşitli iş yüklerini sağlamak için kalite farkındalıklı iş çalma (QAWS) yaklaşımını kullanır. Çalışmaya göre, “SHMT, kaynakları tekelleştirmeyen, ancak kalite kontrolü ve iş yükü dengesini korumaya yardımcı olan kalite farkındalıklı iş çalma (QAWS) zamanlama politikasını kullanır.” Bu yaklaşım, sistemi etkili bir şekilde iş dağıtmanın yanı sıra hiçbir işlem biriminin kaynakları tekelleştirmesini engeller.
SHMT, performansı maksimize ederken kaliteyi feda etmemek istiyorsa QAWS zamanlama politikasına ihtiyaç duyar. Çalışma, “SHMT, önemli bir ek yük oluşturmadan sonucu güvence altına almalıdır” diyor. Heterojen işlem birimlerinden çıkan çıktının doğru ve tutarlı olmasını sağlamak için SHMT, zamanlamaya kalite kontrol tekniklerini entegre eder.
SHMT’nin her donanım parçasının özgün yeteneklerinden yararlanma becerisi büyük bir avantajdır. Çalışma şöyle belirtiyor: “SHMT, aynı fonksiyondan gelen hesaplamayı birden çok türde bilişim kaynağına bölerek aynı anda heterojen paralellik türlerinden faydalanabilir.” SHMT, heterojen sistemlerdeki paralelliği kullanarak işleri birkaç işlem birimi üzerinde aynı anda çalıştırdığı için performansı büyük ölçüde artırır.
SHMT’nin esnek ve uyumlu olması beklenen bir diğer yönü de çalışma zamanı sistemidir. Çalışmaya göre, “HLOP’lar donanım bağımsız olduğundan, çalışma zamanı sistemi görev atamasını gerektiği gibi ayarlayabilir.” Bu uyarlanabilirlik sayesinde SHMT, donanım kullanılabilirliğindeki veya iş yükündeki değişikliklere anında yanıt vererek sistemi en yüksek verimlilik ve performansta çalıştırır.
Genel olarak, çalışma SHMT’nin nasıl çalıştığını anlamak için gerekli tüm adımları ortaya koyar, heterojen bilişim ortamlarında olağanüstü verimlilik ve etkililik elde etmesini sağlayan kritik parçalar ve süreçlere dikkat çeker. VOP’lar, HLOP’lar ve QAWS zamanlama stratejisini kullanarak paralel işlemeyi devrim niteliğinde değiştiren SHMT sayesinde, verimli ve güçlü bir bilişim çağının eşiğindeyiz.
Prototipin İlk Testlerinden Olumlu Bulgular
SHMT’nin çalıştığını kanıtlamak için UCR araştırmacıları, çağdaş cep telefonlarında standart olan parçaları kullanarak veri merkezi yeteneklerini taklit eden bir prototip sistem üzerinde titiz testler yürüttü. Prototip, sistemin M.2 Key E yuvası aracılığıyla entegre edilen bir Google Edge TPU, dört çekirdekli ARM Cortex-A57 işlemcili bir NVIDIA Jetson Nano modülü ve 128 Maxwell mimarili GPU çekirdeği içeriyordu.
SHMT çerçevesinin farklı iş yükü koşulları altındaki performansını değerlendirmek için araştırmacılar prototipi bir dizi benchmark programıyla test etti. Sonuç etkileyiciydi: en iyi performans gösteren QAWS stratejisi, enerji tüketimini %51 azaltmakla kalmayıp, temel tekniğe kıyasla işlem performansını 1,95 kat artırdı.
Sonuçlar, SHMT’nin geniş bir cihaz ve yazılım uygulama yelpazesinde işlem performansını ve enerji verimliliğini büyük ölçüde artırma potansiyelini vurguluyor. SHMT, yeni donanım için büyük harcamalar yapmadan mevcut kurulumunuzun tüm kaynaklarını daha iyi kullanarak en iyi verimi almanın mümkün olduğunu gösterdi.
Daha hızlı ve daha verimli bilişime olan artan ihtiyaçla birlikte, simultaneous ve heterogeneous çoklu iş parçacığı gibi atılımlar, teknolojinin gelecekteki yönünü şekillendirmede giderek daha kritik hale gelecek. UCR araştırma ekibinin çalışması, dijital dünyamızın dinamik taleplerine uyum sağlayabilen uzun vadeli, yüksek performanslı bilişim çözümleri bulmanın, UCR ekibinin çalışmaları sayesinde hiç olmadığı kadar kolay olduğunu ortaya koyuyor.
Simultaneous ve Heterojen Çoklu İş Parçacığının Etkileri ve Gelecek Yönleri
SHMT’nin yaratılması ve test edilmesi, bilişimin geleceğinde derin bir değişimi temsil ediyor. Mevcut donanımla önemli performans artışı ve enerji tasarrufu sunarak, çeşitli uygulamalarda bilişim cihazı tasarımını ve kullanımını devrim niteliğinde değiştirme potansiyeline sahip.
SHMT daha geniş bir benimseme kazandıkça, tüketiciler pahalı donanım güncellemelerinden kaçınabilir ve daha hızlı, daha duyarlı mobil cihazlar, tabletler, dizüstü ve masaüstü bilgisayarların keyfini çıkarabilir. Bu sayede daha fazla insan yüksek performanslı bilgisayarlara erişebilecek, dijital uçurumu kapatmaya yardımcı olacaktır.
Veri merkezleri ve diğer büyük ölçekli bilişim sistemleri de performanstan ödün vermeden maliyetleri ve enerji tüketimini azaltmak için SHMT’yi vazgeçilmez bir araç olarak görebilir. Ayrıca, SHMT gibi enerji verimliliği ve sürdürülebilirliği teşvik eden yenilikler, teknolojinin çevresel etkileri konusundaki endişeler arttıkça daha da önem kazanacaktır.
En iyi çabalarına rağmen, UCR araştırma ekibi hâlâ aşılması gereken engeller ve gelecekte daha fazla araştırma ve ilerleme fırsatları olduğunu kabul ediyor. Yazılım mühendisleri ve donanım üreticileri, SHMT’yi büyük ölçekte uygulamak için yakın iş birliği yapmalıdır. Bu, teknolojinin tüm cihaz ve platformlarda sorunsuz çalışmasını sağlayacaktır. Bununla birlikte, bu devrim niteliğindeki teknolojiyi hangi uygulama ve iş yüklerinin en iyi şekilde kullanabileceğini belirlemek için daha fazla araştırma gereklidir.
Bu engellere rağmen, akademisyenler ve işletmeler SHMT’nin umut vaat eden erken sonuçlarını fark etti. Bu çığır açıcı teknolojinin bilgisayar endüstrisini dönüştürme olasılığı, çalışmalar ilerledikçe ve iş birlikleri kurulduğunda giderek daha çekici hale geliyor.
Diğer birçok parlak fikir gibi, simultaneous ve heterogeneous çoklu iş parçacığı da sağduyunun bir ürünü gibi görünüyor, ancak işin belası ayrıntılarda. CPU’lar ve GPU’lar arasında paylaşımlı bir önbellek fikri ilgi çekici olsa da, muhtemelen donanım mimarisinin tamamen yeniden tasarlanmasını gerektirecek.
Bu, mevcut x86-64 mimarisinden uzaklaşmayı gerektirecek ve böyle bir tasarım, paylaşımlı L3 veya L4 önbelleğe sahip yeni bir işlemci mimarisi geliştirilmesini zorunlu kılacaktır. Bu da CPU’nun karmaşıklığını artıracak ve paylaşımlı önbellekten elde edilen faydaları ortadan kaldırabilir.
Bunun yanı sıra, önbellek belleği genellikle sistem RAM’ine göre çok daha küçüktür ve yüksek bant genişliğine sahip büyük miktarda bellek gerektiren GPU uygulamaları için uygun değildir. Ancak, evrensel bellek bu endişeleri giderebilir. SHMT üzerine araştırmalar devam ettikçe, bu yenilikçi teknolojinin nasıl evrileceğini ve paralel işlem ve heterojen bilişimin geleceğini nasıl etkileyeceğini görmek heyecan verici olacak.
