Computing
Rebolusyonaryong Sabay at Heterogeneous Multi-Threading na Teknolohiya upang Pabilisin ang Pagkokompyut
Idagdag ang Securities.io sa mga gusto mong mapagkunan sa Google
Bagaman ang lahat ng bagong aparato mula sa mga higanteng teknolohiya tulad ng Apple (AAPL ) at Google ay nagtatampok ng mga paunti‑unting pagbuti—isang digit na pagtaas sa buhay ng baterya, isang nanometer na mas maliit para sa processor, na hindi pa nakakamit ang pinakamainam na ani para sa mga gumagawa, o ilang karagdagang megapixels—lumilitaw ang tanong: Sapat na ba ang ganitong mga banayad na pagpapabuti? Ang pagdagdag ba ng mas maraming hardware ang solusyon?
Hindi ayon kay Associate Professor Hung-Wei Tseng mula sa Department of Electrical and Computer Engineering sa University of California, Riverside (UCR). Sinasabi niya:
“Hindi mo na kailangang magdagdag ng bagong processor dahil mayroon ka na nito.”
Si Professor Tseng, kasama ang isang pangkat ng mga mananaliksik, nag-develop ng bagong software framework para sa parallel processing na tinatawag na Simultaneous and Heterogeneous Multi-threading (SHMT). Ayon sa mga paunang resulta, ang SHMT ay handang lubos na mapabuti ang bilis ng pagproseso at bawasan ang konsumo ng enerhiya sa pamamagitan ng paggamit sa nakatagong kakayahan ng kasalukuyang mga processor sa mga personal na computer, cellphone, at iba pang aparato.
Itinuturing na “ground-breaking” ng komunidad ng teknolohiya, layunin ng SHMT na alisin ang mga bottleneck sa daloy ng data at pasiglahin ang walang patid na pakikipagtulungan ng maraming processing unit. Ang pag-usbong na ito ay maaaring makaapekto hindi lamang sa personal na elektronik kundi pati na rin sa mga data center at iba pang uri ng malawakang parallel computing.
Pag-unawa sa Bottleneck
Bago natin tuklasin ang buong galing ng maaaring makamit gamit ang simultaneous at heterogeneous multi-threading, unawain muna natin ang mga limitasyon ng kasalukuyang mga sistema ng kompyutasyon.
Sa karamihan ng mga aparato, iba’t ibang bahagi tulad ng central processing unit (CPU), graphics processing unit (GPU), at tensor processing unit (TPU) ay nagpoproseso ng impormasyon nang hiwalay. Ang data ay inililipat mula sa isang processing unit patungo sa isa pa, na madalas nagreresulta sa mga “bottleneck” na humahadlang sa kabuuang pagganap ng sistema.
Lalo pang pinalalala ito ng tradisyonal na mga programming model, na karaniwang nag-aassign ng mga gawain sa iisang uri ng processor, kaya’t ang ibang mga mapagkukunan ay nananatiling walang ginagawa at hindi nagagamit nang husto. Ayon sa mga obserbasyong ito, sinasabi ng pananaliksik na ‘Simultaneous and Heterogeneous Multi-threading’ nina Kuan-Chieh Hsu at Hung-Wei Tseng:
“Ang mga nakaugat na programming model ay nakatuon lamang sa paggamit ng pinakaepektibong processing unit para sa bawat code region, na nag-iiwan ng hindi nagagamit na kapangyarihan ng pagproseso sa loob ng heterogeneous na mga computer.”
Ang SHMT ay lumilihis mula sa pamamaraang ito sa pamamagitan ng pagsasamantala sa pagkakaiba-iba ng maraming komponent sa loob ng isang computing system. Ang konseptong ito ay kilala bilang heterogeneity. Sa pamamagitan ng paghahati ng mga computational function at pamamahagi nito sa mga magagamit na processing unit, pinapadali ng SHMT ang tunay na parallel processing.
Ang pamamaraang ito ng paghahati ng mga computational function at pamamahagi nito sa ilang processing unit ay nagpapalaki ng paggamit ng magagamit na mga mapagkukunan upang mapabuti ang pagganap at makatipid ng enerhiya. Ang pananaliksik ay higit pang sinusuri ang mga kakulangan ng tradisyonal na programming model sa pamamagitan ng pagsasabing maaari lamang nilang i-assign ang isang code region nang eksklusibo sa isang uri ng processor, na nag-iiwan ng ibang mga mapagkukunan ng kompyutasyon na walang ginagawa at hindi nakakatulong sa kasalukuyang function.
Sa kabilang banda, layunin ng SHMT na makalaya mula sa mga limitasyong ito sa pamamagitan ng paggamit ng natatanging kakayahan ng bawat processing unit at ang kanilang pagtutulungan sa isang pinagsamang code region. Binibigyang-diin din ng mga may-akda na ang makabagong teknolohiya ng kompyutasyon ay hindi maikakaila na heterogeneous, dahil lahat ng platform ng kompyutasyon ay nag-iintegrate ng maraming uri ng processing unit at hardware accelerator. Ito ay nangangailangan ng programming model na epektibong magagamit ang kapangyarihan ng mga iba’t ibang komponent (na eksaktong layunin ng SHMT).
Samakatuwid, binubuksan ng SHMT ang daan para sa mas mabilis at mas epektibong kompyutasyon sa pamamagitan ng pag-aayos ng mga bottleneck sa kasalukuyang tradisyonal na kompyutasyon.
Paano Gumagana ang Simultaneous at Heterogeneous Multi-Threading na Teknolohiya?
Tulad ng nakikita, ang mahusay na pamamahala at pamamahagi ng mga gawain sa kompyutasyon sa pagitan ng iba’t ibang hardware component ay ang pangunahing prinsipyo sa likod ng SHMT.
Ang framework ay naglalaman ng koleksyon ng mga virtual operation (VOP) upang mapadali ang pag-offload ng mga gawain mula sa isang CPU application papunta sa virtual hardware device. Ayon sa pag-aaral, “Ang isang hanay ng mga virtual operation (VOP) ay nagpapahintulot sa isang CPU program na ‘i-offload’ ang isang function sa isang virtual hardware device.” Ang mga VOP na ito ay namamagitan sa komunikasyon at pag-delegate ng trabaho sa pamamagitan ng paglikha ng hadlang sa pagitan ng programa at hardware.
Ang runtime system ay nag-ooptimize ng pagganap sa pamamagitan ng pagsusuri sa kakayahan ng bawat hardware resource at paggawa ng matalinong desisyon sa pag-schedule habang pinapatakbo ang aplikasyon. Ayon sa pag-aaral, “Sa panahon ng pagtakbo ng programa, ang runtime system ay nagpapatakbo ng virtual hardware ng simultaneous at heterogeneous multi-threading, sinusuri ang kakayahan ng hardware resource para gumawa ng mga desisyon sa pag-schedule.” Upang mapakinabangan ang kahusayan ng mga mapagkukunan at umangkop sa mga pangangailangan ng partikular na trabaho, dinamiko na sinusuri ng SHMT ang kakayahan ng hardware.
Hinahati ng runtime system ang mga VOP sa mga high-level operation (HLOP) upang ipamahagi ang mga ito sa iba’t ibang hardware task queue. Ayon sa pag-aaral, “Hinahati ng runtime system ang mga VOP sa isa o higit pang high-level operation (HLOP) upang sabay-sabay na magamit ang maraming hardware resource.” Ang paghahati ng VOP sa HLOP ay nagbibigay ng detalyadong kontrol sa alokasyon ng trabaho at pinakamataas na paggamit ng bawat processing unit.
Ang patakaran sa pag-schedule ng SHMT ay gumagamit ng quality-aware work-stealing (QAWS) approach, na tinitiyak ang mahusay na paggamit ng mga mapagkukunan at iba’t ibang workload. Ayon sa pag-aaral, “Gumagamit ang SHMT ng quality-aware work-stealing (QAWS) scheduling policy na hindi nagmamalabis sa mga mapagkukunan, ngunit tumutulong sa pagpapanatili ng kontrol sa kalidad at balanse ng workload.” Bukod sa epektibong pamamahagi ng trabaho sa buong sistema, pinipigilan din ng pamamaraang ito ang anumang processing unit na mag-imbak ng labis na mapagkukunan.
Kung nais ng SHMT na mapalaki ang pagganap nang hindi isinasakripisyo ang kalidad, kailangan nito ang QAWS scheduling policy. Ayon sa pag-aaral, “Dapat matiyak ng SHMT ang kinalabasan nang hindi nagdudulot ng malaking overhead.” Upang matiyak na ang output mula sa heterogeneous processing units ay tama at pare-pareho, isinasama ng SHMT ang mga teknik sa kontrol ng kalidad sa pag-schedule.
Ang kakayahan ng SHMT na magamit ang mga tiyak na kakayahan ng bawat piraso ng hardware ay isang malaking kalamangan. Ayon sa pag-aaral, “Maaaring hatiin ng SHMT ang computation mula sa parehong function sa maraming uri ng computing resources at sinasamantala ang heterogeneous na uri ng parallelism kasabay nito.” Malaki ang naiaambag ng SHMT sa pagtaas ng pagganap dahil ginagamit nito ang parallelism sa heterogeneous na mga sistema upang sabay-sabay na patakbuhin ang mga trabaho sa ilang processor unit.
Isa pang aspeto ng SHMT na sinasabing flexible at adaptive ay ang runtime system. At ayon sa pag-aaral, “Dahil ang HLOP ay hindi nakadepende sa hardware, maaaring i-adjust ng runtime system ang pag-aassign ng gawain ayon sa pangangailangan.” Dahil sa pagiging adaptable nito, maaaring mag-react ang SHMT on the fly sa mga pagbabago sa availability ng hardware o pangangailangan ng workload, na pinananatiling tumatakbo ang sistema sa pinakamataas na kahusayan at pagganap.
Sa pangkalahatan, inilatag ng pag-aaral ang lahat ng kinakailangang hakbang upang maunawaan kung paano gumagana ang SHMT, itinutok ang pansin sa mga kritikal na bahagi at proseso na nagpapahintulot nitong makamit ang kahanga-hangang kahusayan at bisa sa heterogeneous computing environments. Salamat sa SHMT, na gumagamit ng VOP, HLOP, at QAWS scheduling strategy upang baguhin ang parallel processing, isang bagong panahon ng epektibo at makapangyarihang kompyutasyon ang paparating.
Positibong Natuklasan mula sa Paunang Pagsusuri ng Prototype
Upang patunayan na gumagana ang SHMT, nagsagawa ang mga mananaliksik sa UCR ng masusing pagsubok sa isang prototype system na ginaya ang kakayahan ng data center sa pamamagitan ng paggamit ng mga bahagi na karaniwan sa makabagong mga cellphone. Ang prototype ay kinabibilangan ng Google Edge TPU na isinama sa pamamagitan ng M.2 Key E slot ng system, isang NVIDIA (NVDA ) Jetson Nano module na may quad-core ARM Cortex-A57 processor, at 128 Maxwell architecture GPU cores.
Upang suriin ang pagganap ng SHMT framework sa ilalim ng iba’t ibang workload na sitwasyon, pinatakbo ng mga mananaliksik ang prototype sa isang hanay ng benchmark programs. Ang resulta ay kahanga-hanga: ang nangungunang QAWS strategy ay hindi lamang nagbawas ng konsumo ng enerhiya ng 51% kundi nagpaangat din ng pagganap ng pagproseso ng 1.95X kumpara sa baseline technique.
Pinapakita ng mga resulta ang potensyal ng SHMT na lubos na mapabuti ang pagganap ng pagproseso at kahusayan sa enerhiya sa malawak na hanay ng mga aparato at software application. Ipinakita ng SHMT na posible na makuha ang pinakamataas na benepisyo mula sa kasalukuyang setup sa pamamagitan ng mas mahusay na paggamit ng lahat ng mga mapagkukunan nito nang hindi kailangang gumastos nang malaki sa bagong hardware.
Sa patuloy na pagtaas ng pangangailangan para sa mas mabilis at mas epektibong kompyutasyon, ang mga breakthrough tulad ng simultaneous at heterogeneous multi-threading ay magiging lalong mahalaga sa paghubog ng hinaharap na direksyon ng teknolohiya. Ang gawain ng pangkat ng pananaliksik ng UCR ay nagpapakita na ang paghahanap ng pangmatagalan, mataas na pagganap na solusyon sa kompyutasyon na kayang umangkop sa dinamiko na pangangailangan ng ating digital na mundo ay hindi kailanman naging mas madali kaysa sa gawa ng pangkat ng pananaliksik ng UCR.
Mga Implikasyon at Hinaharap na Direksyon ng Simultaneous at Heterogeneous Multi-Threading
Ang paglikha at pagsubok ng SHMT ay kumakatawan sa isang malalim na pagbabago sa hinaharap ng kompyutasyon. May potensyal itong baguhin ang disenyo at paggamit ng mga kompyutasyon na aparato sa iba’t ibang aplikasyon sa pamamagitan ng pagbibigay ng makabuluhang pagtaas sa pagganap at pagtitipid sa enerhiya gamit ang kasalukuyang hardware.
Habang lumalawak ang pag-aampon ng SHMT, maaaring maiwasan ng mga consumer ang magastos na pag-upgrade ng hardware at makaranas ng mas mabilis, mas tumutugon na mga mobile device, tablet, laptop, at desktop. Dahil dito, mas maraming tao ang magkakaroon ng access sa mataas na pagganap na mga kompyuter, na tumutulong na isara ang digital divide.
Ang mga data center at iba pang malakihang sistema ng kompyutasyon ay maaari ring makita ang SHMT bilang isang mahalagang kasangkapan para bawasan ang gastos at paggamit ng enerhiya nang hindi isinasakripisyo ang pagganap. Bukod pa rito, ang mga inobasyon na nagtataguyod ng kahusayan sa enerhiya at sustainability, tulad ng SHMT, ay magiging mas mahalaga habang tumataas ang mga alalahanin tungkol sa epekto ng teknolohiya sa kapaligiran.
Sa kabila ng kanilang pinakamainam na pagsisikap, kinikilala ng pangkat ng pananaliksik ng UCR na may mga hamon pa rin na dapat pagtagumpayan at may mga oportunidad para sa karagdagang pagsisiyasat at pag-unlad sa hinaharap. Kailangan magtulungan nang malapitan ang mga software engineer at hardware maker upang ipatupad ang SHMT sa malawak na saklaw. Titiyakin nito na ang teknolohiya ay mahusay na gumagana sa lahat ng aparato at platform. Gayunpaman, kinakailangan pa ng karagdagang pananaliksik upang matukoy kung aling mga aplikasyon at workload ang pinakaangkop sa paggamit ng makabagong teknolohiyang ito.
Sa kabila ng mga hamong ito, napansin ng mga akademiko at negosyo ang magagandang unang resulta ng SHMT. Ang posibilidad na ang makabagong teknolohiyang ito ay magbago sa industriya ng kompyuter ay nagiging lalong kaakit-akit habang umuusad ang mga pag-aaral at nabubuo ang mga kolaborasyon.
Tulad ng maraming iba pang matatalinong ideya, ang simultaneous at heterogeneous multi-threading ay tila produkto ng common sense, ngunit ang detalye ang nagtatakda ng kahalagahan. Habang kaakit-akit ang ideya ng isang shared cache sa pagitan ng CPU at GPU, malamang na mangangailangan ito ng ganap na pag-restructure ng hardware architecture.
Ito ay magrerequire ng paglayo mula sa kasalukuyang x86-64 architecture, at ang disenyo na ito ay mangangailangan ng pag-develop ng bagong processor architecture na may shared L3 o L4 cache. Ito ay magpapataas ng komplikasyon ng CPU at posibleng magpawalang-bisa sa anumang benepisyo na nakuha mula sa shared cache.
Bukod pa rito, ang cache memory ay karaniwang mas maliit kumpara sa system RAM at hindi angkop para sa mga GPU application na nangangailangan ng malaking dami ng high-bandwidth memory. Gayunpaman, ang mga pag-unlad tulad ng universal memory ay maaaring tugunan ang mga alalahaning ito. Habang nagpapatuloy ang pananaliksik sa SHMT, magiging kapanapanabik na makita kung paano umuunlad ang makabagong teknolohiyang ito at kung paano ito makaaapekto sa hinaharap ng parallel processing at heterogeneous computing.
