Laskenta
Mullistava samanaikainen ja heterogeeninen monisäikeistysteknologia, joka nopeuttaa tietojenkäsittelyä
Lisää Securities.io suosikkilähteisiisi Google-palvelussa
Vaikka kaikki uudet laitteet teknologiajättien, kuten Applen ja Googlen, valikoimassa sisältävät inkrementaalisia parannuksia – yksinumeroisen parannuksen akunkestossa, yhden nanometrin pienemmän prosessorin, jonka valmistuskyky ei vielä ole optimaalinen, tai muutaman ylimääräisen megapikselin – herää kysymys: Ovatko tällaiset maltilliset parannukset todella riittäviä? Onko lisälaitteiden lisääminen ratkaisu?
Ei sen mukaan, mitä Yliopisto Kalifornian Riverside (UCR) -yliopiston sähkö- ja tietokonetekniikan osaston apulaisprofessori Hung-Wei Tseng sanoo:
“Sinun ei tarvitse lisätä uusia prosessoreita, koska sinulla on ne jo.”
Professori Tseng yhdessä tutkijatiiminsä kanssa kehitti uuden ohjelmistokehikon rinnakkaisprosessointiin, nimeltään Simultaneous and Heterogeneous Multi-threading (SHMT). Alkuperäisten tulosten mukaan SHMT on valmis merkittävästi parantamaan prosessointinopeutta ja vähentämään energiankulutusta hyödyntämällä nykyisten prosessorien piileviä kykyjä henkilökohtaisissa tietokoneissa, matkapuhelimissa ja muissa laitteissa.
Teknologiayhteisön ylistämä “mullistavana” SHMT pyrkii poistamaan tietovirran pullonkaulat ja mahdollistamaan monien prosessointiyksiköiden saumattoman yhteistyön. Tämä läpimurto voi vaikuttaa paitsi henkilökohtaisiin elektroniikkalaitteisiin myös datakeskuksiin ja muihin massiivisen rinnakkaisen laskennan muotoihin.
Pullonkaulojen purkaminen
Ennen kuin aloitamme tutkimaan, mitä kaikkea on saavutettavissa samanaikaisella ja heterogeenisella monisäikeistysmenetelmällä, meidän on ensin ymmärrettävä nykyisten tietojärjestelmien rajoitukset.
Useimmissa laitteissa eri komponentit, kuten keskusyksikkö (CPU), grafiikkaprosessori (GPU) ja tensoriyksikkö (TPU), käsittelevät tietoa erikseen. Data siirtyy yhdestä prosessointiyksiköstä toiseen, mikä usein aiheuttaa “pullonkauloja”, jotka haittaavat koko järjestelmän suorituskykyä.
Tätä pahentaa perinteiset ohjelmointimallit, jotka tyypillisesti delegoivat tehtävät yhdelle prosessorityypille, jättäen muut resurssit käyttämättömiksi ja alihyödynnetyiksi. Nämä havainnot heijastuvat tutkimuspaperissa ‘Simultaneous and Heterogeneous Multi-threading’ kirjoittajina Kuan-Chieh Hsu ja Hung-Wei Tseng, jossa todetaan:
“Vakiintuneet ohjelmointimallit keskittyvät käyttämään vain tehokkaimpia prosessointiyksiköitä kullekin koodialueelle, alihyödyntäen heterogeenisten tietokoneiden laskentatehoa.”
SHMT poikkeaa tästä lähestymistavasta hyödyntämällä useiden komponenttien monimuotoisuutta tietojärjestelmässä. Tätä käsitettä kutsutaan heterogeenisuudeksi. Pilkkomalla laskennalliset funktiot ja jakamalla ne käytettävissä oleviin prosessointiyksiköihin, SHMT mahdollistaa todellisen rinnakkaisprosessoinnin.
Tämä tapa hajottaa laskennalliset funktiot ja jakaa ne useiden prosessointiyksiköiden kesken maksimoi käytettävissä olevien resurssien hyödyntämisen suorituskyvyn parantamiseksi ja energian säästämiseksi. Tutkimuspaperi tarkastelee edelleen perinteisten ohjelmointimallien puutteita väittäen, että ne “voivat delegoida koodialueen ainoastaan yhdelle prosessorityypille, jättäen muut laskentaresurssit käyttämättömiksi ilman, että ne vaikuttavat nykyiseen funktioon.”
SHMT puolestaan pyrkii vapautumaan näistä rajoitteista hyödyntämällä jokaisen prosessointiyksikön omia vahvuuksia ja niiden yhteistyötä jaetulla koodialueella. Kirjoittajat korostavat myös, että nykyaikainen tietotekniikka on kiistatta heterogeenista, sillä kaikki tietokonealustat sisältävät useita prosessointiyksiköitä ja laitteistokiihdyttimiä. Tämä edellyttää ohjelmointimallia, joka pystyy tehokkaasti hyödyntämään näiden monimuotoisten komponenttien voimaa (juuri tätä SHMT pyrkii saavuttamaan).
Näin ollen SHMT raivaa tietä nopeammalle ja tehokkaammalle laskennalle käsittelemällä perinteisen tietojenkäsittelyn pullonkauloja.
Kuinka samanaikainen ja heterogeeninen monisäikeistysteknologia toimii?
Kuten on selvää, tietojenkäsittelyn toimintojen tehokas hallinta ja jakaminen eri laitteistokomponenttien välillä on SHMT:n perusperiaate.
Kehys sisältää kokoelman virtuaalisia operaatioita (VOPs) helpottamaan tehtävien siirtämistä CPU-sovelluksesta virtuaaliseen laitteistolaitteeseen. Tutkimuksen mukaan “Virtuaalisten operaatioiden (VOPs) joukko mahdollistaa CPU-ohjelman ‘offload’-toiminnon virtuaaliseen laitteistolaitteeseen.” Nämä VOP:t välittävät viestintää ja tehtävien delegointia luomalla esteen ohjelman ja laitteiston välille.
Suoritusaikajärjestelmä optimoi suorituskykyä arvioimalla kunkin laitteistoresurssin kyvyt ja tekemällä älykkäitä ajoituspäätöksiä sovelluksen suorituksen aikana. Tutkimuksen mukaan “Ohjelman suorituksen aikana suoritusaikajärjestelmä ohjaa samanaikaisen ja heterogeenisen monisäikeistysteknologian virtuaalilaitteistoa, mittaamalla laitteistoresurssin kykyä tehdä ajoituspäätöksiä.” Resurssitehokkuuden maksimoimiseksi ja työkohtaisiin tarpeisiin sopeutumiseksi SHMT arvioi dynaamisesti laitteistokyvyt.
Suoritusaikajärjestelmä pilkkoo VOP:t korkean tason operaatioiksi (HLOPs) jakaakseen ne eri laitteistotehtäväjonoihin. Tutkimuksen mukaan “Suoritusaikajärjestelmä jakaa VOP:t yhdeksi tai useammaksi korkean tason operaatioiksi (HLOPs) käyttääksesi samanaikaisesti useita laitteistoresursseja.” VOP:ien hajottaminen HLOP:iksi mahdollistaa tarkemman hallinnan tehtävien jakautumisessa ja maksimaalisen jokaisen prosessointiyksikön hyödyntämisen.
SHMT:n ajoituspolitiikka hyödyntää laadun huomioivaa työvarastointimenetelmää (QAWS), varmistaen tehokkaan resurssien käytön ja monipuoliset työkuormat. Tutkimuksen mukaan “SHMT käyttää laadun huomioivaa työvarastointimenetelmää (QAWS), joka ei ahnaile resursseja, vaan auttaa ylläpitämään laadunvalvontaa ja työkuorman tasapainoa.” Tämä lähestymistapa ei ainoastaan jaa työtä tehokkaasti järjestelmän sisällä, vaan estää myös minkä tahansa prosessointiyksikön resurssien ahneuden.
Jos SHMT haluaa maksimoida suorituskyvyn tinkimättä laadusta, se tarvitsee QAWS-ajoituspolitiikan. Tutkimus toteaa, että “SHMT:n on varmistettava tulos aiheuttamatta merkittävää ylimääräistä kuormitusta.” Varmistaakseen, että heterogeenisten prosessointiyksiköiden tuotos on tarkka ja johdonmukainen, SHMT integroi laadunvalvontatekniikat ajoitukseen.
SHMT:n kyky hyödyntää kunkin laitteiston erityisominaisuuksia on merkittävä etu. Kuten tutkimus huomauttaa, “SHMT voi jakaa laskennan samasta funktiosta useisiin erilaisiin laskentaresursseihin ja hyödyntää samalla heterogeenisia rinnakkaisuustyyppejä.” SHMT parantaa suorituskykyä huomattavasti, koska se käyttää heterogeenisten järjestelmien rinnakkaisuutta suorittaakseen tehtäviä samanaikaisesti useiden prosessoriyksiköiden välillä.
Toinen SHMT:n joustavuuteen ja mukautuvuuteen liittyvä osa on suoritusaikajärjestelmä. Tutkimuksen mukaan “Koska HLOP:t ovat laitteistoriippumattomia, suoritusaikajärjestelmä voi säätää tehtävien jakamista tarpeen mukaan.” Mukautuvuutensa ansiosta SHMT voi reagoida lennossa laitteiston saatavuuden tai työkuorman muutoksiin, pitäen järjestelmän toiminnassa huipputehokkuudessa ja -suorituskyvyssä.
Kaiken kaikkiaan tutkimus esittelee kaikki tarvittavat vaiheet SHMT:n toiminnan ymmärtämiseksi, korostaen kriittisiä osia ja prosesseja, jotka mahdollistavat poikkeuksellisen tehokkuuden ja vaikuttavuuden heterogeenisissa laskenta-ympäristöissä. Kiitos SHMT:n, joka käyttää VOP:eja, HLOP:eja ja QAWS-ajoitusstrategiaa rinnakkaisprosessoinnin mullistamiseen, on käynnistymässä uusi aikakausi tehokkaaseen ja voimakkaaseen laskentaan.
Positiiviset havainnot prototyypin alkuperäistestauksesta
Vahvistaakseen SHMT:n toimivuuden UCR:n tutkijat suorittivat tiukkoja testejä prototyyppijärjestelmällä, joka jäljitteli datakeskuksen kykyjä käyttämällä nykyaikaisissa matkapuhelimissa vakiintuneita komponentteja. Prototyyppi sisälsi Google Edge TPU:n, joka oli integroitu järjestelmän M.2 Key E -paikkaan, NVIDIA (NVDA ) Jetson Nano -moduulin neliytimisellä ARM Cortex-A57 -prosessorilla sekä 128 Maxwell-arkkitehtuurin GPU-ydintä.
Arvioidakseen SHMT-kehyksen suorituskykyä erilaisissa työkuormissa tutkijat ajettiin prototyyppi läpi joukon vertailuohjelmia. Tulokset olivat vaikuttavia: huippusuorituskykyinen QAWS-strategia vähensi energian kulutusta 51 % ja paransi prosessointisuorituskykyä 1,95‑kertaiseksi perusmenetelmään verrattuna.
Tulokset korostavat SHMT:n potentiaalia parantaa merkittävästi prosessointisuorituskykyä ja energiatehokkuutta laajalla laite- ja ohjelmistosovellusten valikoimalla. SHMT osoitti, että nykyisestä kokoonpanosta voidaan saada paras mahdollinen hyöty hyödyntämällä kaikkia sen resursseja paremmin ilman, että täytyy käyttää suuria summia uuteen laitteistoon.
Kun tarve nopeammalle ja tehokkaammalle laskennalle kasvaa jatkuvasti, läpimurrot kuten samanaikainen ja heterogeeninen monisäikeistys tulevat yhä tärkeämmiksi teknologian tulevaisuuden suuntaamisen kannalta. UCR:n tutkimusryhmän työ tekee selväksi, että pitkän aikavälin, korkean suorituskyvyn laskentaratkaisujen löytäminen, jotka pystyvät mukautumaan digitaalisen maailman dynaamisiin vaatimuksiin, ei ole koskaan ollut helpompaa kuin UCR:n tutkimusryhmän työssä.
Seuraukset ja tulevaisuuden suuntaukset samanaikaisessa ja heterogeenisessa monisäikeistyksessä
SHMT:n luominen ja testaaminen edustavat syvällistä muutosta tietojenkäsittelyn tulevaisuudessa. Se voi mullistaa tietokoneiden laitteiden suunnittelun ja käytön useissa sovelluksissa tarjoamalla merkittäviä suorituskyvyn parannuksia ja energiansäästöjä olemassa olevalla laitteistolla.
Kun SHMT:n käyttö yleistyy, kuluttajat voivat välttää kalliita laitteistopäivityksiä ja nauttia nopeammista, reagoivammista mobiililaitteista, tableteista, kannettavista ja pöytäkoneista. Tämän seurauksena yhä useammat ihmiset voivat hankkia ja käyttää korkean suorituskyvyn tietokoneita, mikä auttaa kaventamaan digitaalista kuilua.
Datakeskukset ja muut laajamittaiset laskentajärjestelmät voivat myös nähdä SHMT:n korvaamattomana työkaluna kustannusten ja energiankulutuksen vähentämiseksi tinkimättä suorituskyvystä. Lisäksi innovaatiot, jotka edistävät energiatehokkuutta ja kestävyyttä, kuten SHMT, saavat merkitystä, kun teknologian ympäristövaikutuksiin liittyvät huolenaiheet kasvavat.
Kaikista ponnisteluistaan huolimatta UCR:n tutkimusryhmä tunnustaa, että edelleen on voitettavia esteitä ja tulevaisuudessa tehtävää lisätutkimusta ja kehitystä. Ohjelmistosuunnittelijoiden ja laitteistovalmistajien on tehtävä tiivistä yhteistyötä SHMT:n laajamittaisessa käyttöönotossa. Tämä takaa, että teknologia toimii hyvin kaikilla laitteilla ja alustoilla. Kuitenkin lisätutkimusta tarvitaan selvittämään, mitkä sovellukset ja työkuormat sopivat parhaiten tähän mullistavaan teknologiaan.
Näistä esteistä huolimatta sekä akateemikot että yritykset ovat huomanneet SHMT:n lupaavat alkutulokset. Mahdollisuus, että tämä mullistava teknologia voi muuttaa tietokoneteollisuutta, on yhä houkuttelevampi tutkimusten edetessä ja yhteistyön kehittyessä.
Kuten monet muutkin loistavat ideat, samanaikainen ja heterogeeninen monisäikeistys vaikuttaa olevan tervanomainen, mutta yksityiskohdissa piilee haasteet. Vaikka jaetun välimuistin idea CPU:iden ja GPU:iden välillä on kiehtova, se todennäköisesti vaatii laitteistoarkkitehtuurin täydellisen uudistuksen.
Se edellyttäisi siirtymistä nykyisestä x86-64-arkkitehtuurista, ja tällainen suunnittelu vaatisi uuden prosessoriarkkitehtuurin kehittämistä, jossa on jaettu L3- tai L4-välimuisti. Tämä puolestaan lisäisi CPU:n monimutkaisuutta ja saattaisi kumota mahdolliset jaetun välimuistin tuomat hyödyt.
Lisäksi välimuisti on yleensä paljon pienempi kuin järjestelmämuisti (RAM) eikä sovellu hyvin GPU-sovelluksiin, jotka vaativat suuria määriä suuritehoista muistia. Kuitenkin kehitykset, kuten universaali muisti, voivat vastata näihin huoliin. Kun SHMT:n tutkimus etenee, on jännittävää nähdä, miten tämä innovatiivinen teknologia kehittyy ja vaikuttaa rinnakkaisprosessoinnin ja heterogeenisen laskennan tulevaisuuteen.
