Computing
Przełomowa, jednoczesna i heterogeniczna technologia wielowątkowości przyspieszająca przetwarzanie
Securities.io utrzymuje rygorystyczne standardy redakcyjne i może otrzymywać wynagrodzenie z przeglądanych linków. Nie jesteśmy zarejestrowanym doradcą inwestycyjnym i nie jest to porada inwestycyjna. Zapoznaj się z naszymi ujawnienie informacji o stowarzyszeniu.
Chociaż wszystkie nowe urządzenia gigantów technologicznych, takich jak Apple i Google, charakteryzują się stopniowymi ulepszeniami – jednocyfrowym wzrostem żywotności baterii, o jeden nanometr mniej w procesorze, który nie zapewnia jeszcze optymalnej wydajności dla producentów, czy kilkoma dodatkowymi megapikselami – pytanie powstaje: Czy takie skromne ulepszenia są naprawdę wystarczające? Czy dodanie większej ilości sprzętu jest rozwiązaniem?
Według profesora nadzwyczajnego Hung-Wei Tsenga z Wydziału Inżynierii Elektrycznej i Komputerowej Uniwersytetu Kalifornijskiego w Riverside (UCR) nie. On mówi:
„Nie musisz dodawać nowych procesorów, bo już je masz”.
Profesor Tseng wraz z zespołem badaczy opracował nową platformę oprogramowania do przetwarzania równoległego zwaną jednoczesną i heterogeniczną wielowątkowością (SHMT). Według wstępnych wyników SHMT może znacząco zwiększyć prędkość przetwarzania i zmniejszyć zużycie energii poprzez wykorzystanie ukrytych możliwości obecnych procesorów w komputerach osobistych, telefonach komórkowych i innych urządzeniach.
Reklamowany przez społeczność technologiczną jako „przełomowy”, SHMT ma na celu usunięcie wąskich gardeł w przepływie danych i ułatwienie bezproblemowej współpracy wielu jednostek przetwarzających. Ten przełom może dotyczyć nie tylko elektroniki osobistej, ale także centrów danych i innych rodzajów przetwarzania masowo równoległego.
Przełamanie wąskiego gardła
Zanim zaczniemy odkrywać pełną chwałę tego, co można osiągnąć dzięki jednoczesnej i heterogenicznej wielowątkowości, najpierw zrozummy ograniczenia obecnych systemów komputerowych.
W większości urządzeń różne komponenty, takie jak jednostka centralna (CPU), jednostka przetwarzania grafiki (GPU) i jednostka przetwarzania tensorowego (TPU), przetwarzają informacje oddzielnie. Dane są przesyłane z jednej jednostki przetwarzającej do drugiej, co często skutkuje „wąskimi gardłami”, które utrudniają ogólną wydajność systemu.
Sytuację tę dodatkowo pogarszają tradycyjne modele programowania, które zazwyczaj delegują zadania do jednego typu procesora, pozostawiając tym samym inne zasoby bezczynne i niewykorzystane. W artykule badawczym „Simultaneous and Heterogeneous Multi-threading” autorstwa Kuan-Chieh Hsu i Hung-Wei Tseng, który potwierdza te obserwacje, czytamy:
„Zakorzenione modele programowania skupiają się na używaniu tylko najbardziej wydajnych jednostek przetwarzania dla każdego regionu kodu, nie wykorzystując mocy obliczeniowej komputerów heterogenicznych”.
SHMT odchodzi od tego podejścia, wykorzystując różnorodność wielu komponentów w systemie komputerowym. Pojęcie to znane jest jako heterogeniczność. Rozbijając funkcje obliczeniowe i rozdzielając je pomiędzy dostępne jednostki przetwarzające, SHMT ułatwia prawdziwe przetwarzanie równoległe.
Takie podejście polegające na rozkładaniu funkcji obliczeniowych i rozdzielaniu ich pomiędzy kilka jednostek przetwarzających maksymalizuje wykorzystanie dostępnych zasobów w celu poprawy wydajności i oszczędzania energii. W artykule badawczym szczegółowo analizujemy niedociągnięcia tradycyjnych modeli programowania, stwierdzając, że „mogą one delegować obszar kodu wyłącznie do jednego rodzaju procesora, pozostawiając inne zasoby obliczeniowe bezczynne bez wnoszenia wkładu w bieżącą funkcję”.
Z drugiej strony, SHMT dąży do uwolnienia się od tych ograniczeń poprzez wykorzystanie odrębnych umiejętności każdej jednostki przetwarzania i ich współpracy nad wspólnym obszarem kodu. Autorzy zwracają również uwagę, że współczesna technologia obliczeniowa jest niewątpliwie heterogeniczna, ponieważ wszystkie platformy komputerowe integrują wiele typów jednostek przetwarzania i akceleratorów sprzętowych. Wymaga to modelu programowania, który może efektywnie wykorzystać moc tych różnorodnych komponentów (co właśnie jest celem SHMT).
Dlatego SHMT toruje drogę do szybszych i wydajniejszych obliczeń, eliminując wąskie gardła w obecnie tradycyjnym przetwarzaniu.
Jak działa jednoczesna i heterogeniczna technologia wielowątkowości?
Jak widać, podstawową zasadą stojącą za SHMT jest efektywne zarządzanie i dystrybucja działań obliczeniowych pomiędzy różnymi komponentami sprzętowymi.
Struktura zawiera zbiór operacji wirtualnych (VOP), które ułatwiają przenoszenie zadań z aplikacji CPU do aplikacji wirtualne urządzenie sprzętoweWedług badania „Zestaw operacji wirtualnych (VOP) pozwala programowi CPU „przenieść” funkcję na wirtualne urządzenie sprzętowe”. VOP-y pośredniczą w komunikacji i delegowaniu zadań, tworząc barierę między programem a sprzętem.
System wykonawczy optymalizuje wydajność, oceniając możliwości każdego zasobu sprzętowego i podejmując inteligentne decyzje dotyczące harmonogramowania podczas wykonywania aplikacji. Według badania: „Podczas wykonywania programu system wykonawczy steruje wirtualnym sprzętem jednoczesnej i heterogenicznej wielowątkowości, oceniając zdolność zasobu sprzętowego do podejmowania decyzji dotyczących harmonogramowania”. Aby zmaksymalizować efektywność wykorzystania zasobów i dostosować się do specyficznych potrzeb zadania, SHMT dynamicznie ocenia możliwości sprzętu.
System wykonawczy dzieli VOP na operacje wysokiego poziomu (HLOP), aby rozdzielić je do różnych kolejek zadań sprzętowych. Według badania „system wykonawczy dzieli VOP na jedną lub więcej operacji wysokiego poziomu (HLOP), aby jednocześnie korzystać z wielu zasobów sprzętowych”. Rozbicie VOP na HLOP pozwala uzyskać szczegółową kontrolę nad przydziałem zadań i maksymalnym wykorzystaniem każdej jednostki przetwarzającej.
Polityka harmonogramowania SHMT wykorzystuje podejście oparte na kradzieży pracy z uwzględnieniem jakości (QAWS), zapewniając efektywne wykorzystanie zasobów i zróżnicowane obciążenia pracą. Według badania „SHMT wykorzystuje politykę harmonogramowania opartą na kradzieży pracy z uwzględnieniem jakości (QAWS), która nie pochłania zasobów, ale pomaga utrzymać kontrolę jakości i równowagę obciążenia pracą”. Oprócz efektywnego rozłożenia pracy w systemie, takie podejście zapobiega gromadzeniu zasobów przez jednostki przetwarzające.
Jeśli SHMT chce zmaksymalizować wydajność bez poświęcania jakości, potrzebuje polityki planowania QAWS. W badaniu stwierdzono, że „SHMT musi zapewnić wynik bez ponoszenia znacznych kosztów ogólnych”. Aby zagwarantować, że dane wyjściowe z heterogenicznych jednostek przetwarzających są dokładne i spójne, SHMT integruje techniki kontroli jakości z harmonogramem.
Zdolność SHMT do wykorzystania specyficznych możliwości każdego elementu sprzętu jest głównym plusem. Jak zauważono w badaniu, „SHMT może podzielić obliczenia z tej samej funkcji na wiele typów zasobów obliczeniowych i w międzyczasie wykorzystać heterogeniczne typy równoległości”. SHMT znacznie zwiększa wydajność, ponieważ wykorzystuje równoległość w systemach heterogenicznych do jednoczesnego wykonywania zadań na kilku jednostkach procesorowych.
Kolejnym aspektem SHMT, który powinien być elastyczny i adaptacyjny, jest system wykonawczy. Jak wynika z badania: „Ponieważ HLOP są niezależne od sprzętu, system wykonawczy może dostosować przydział zadań zgodnie z wymaganiami”. Dzięki swoim możliwościom adaptacji SHMT może na bieżąco reagować na zmiany w dostępności sprzętu lub wymaganiach dotyczących obciążenia, utrzymując system działający z najwyższą wydajnością i wydajnością.
Ogólnie rzecz biorąc, w badaniu przedstawiono wszystkie kroki niezbędne do zrozumienia sposobu działania SHMT, zwracając uwagę na krytyczne części i procesy, które pozwalają mu osiągnąć niezwykłą wydajność i skuteczność w heterogenicznych środowiskach komputerowych. Dzięki SHMT, który wykorzystuje VOP, HLOP i strategię planowania QAWS, aby zrewolucjonizować przetwarzanie równoległe, wkrótce nadejdzie nowa era wydajnego i wydajnego przetwarzania.
Pozytywne wyniki wstępnych testów prototypu
Aby udowodnić skuteczność technologii SHMT, naukowcy z UCR przeprowadzili rygorystyczne testy prototypowego systemu, który naśladował możliwości centrum danych, wykorzystując części standardowe dla współczesnych telefonów komórkowych. Prototyp zawierał procesor TPU Google Edge zintegrowany z gniazdem M.2 Key E, moduł NVIDIA Jetson Nano z czterordzeniowym procesorem ARM Cortex-A57 oraz 128 rdzeni GPU w architekturze Maxwell.
Aby ocenić wydajność frameworka SHMT w różnych warunkach obciążenia, naukowcy przeprowadzili prototyp za pomocą szeregu programów testowych. Rezultat był imponujący: najskuteczniejsza strategia QAWS nie tylko zmniejszyła zużycie energii o 51%, ale także zwiększyła wydajność przetwarzania o 1.95x w porównaniu z techniką bazową.
Wyniki podkreślają potencjał SHMT w zakresie znacznej poprawy wydajności przetwarzania i efektywności energetycznej w szerokim spektrum urządzeń i aplikacji. SHMT udowodniło, że możliwe jest maksymalne wykorzystanie obecnej konfiguracji poprzez lepsze wykorzystanie wszystkich jej zasobów bez konieczności wydawania fortuny na nowy sprzęt.
Wraz ze stale rosnącym zapotrzebowaniem na szybsze i wydajniejsze obliczenia, przełomowe osiągnięcia, takie jak jednoczesna i heterogeniczna wielowątkowość, będą coraz bardziej istotne w kształtowaniu przyszłej trajektorii technologii. Praca zespołu badawczego UCR jasno pokazuje, że znalezienie długoterminowych, wysokowydajnych rozwiązań obliczeniowych, które będą w stanie dostosować się do dynamicznych wymagań naszego cyfrowego świata, nigdy nie było łatwiejsze niż w przypadku pracy zespołu badawczego UCR.
Implikacje i przyszłe kierunki jednoczesnej i heterogenicznej wielowątkowości
Stworzenie i testowanie SHMT oznacza głęboką zmianę w przyszłości informatyki. Może zrewolucjonizować projektowanie i użytkowanie urządzeń komputerowych w wielu zastosowaniach, oferując znaczny wzrost wydajności i oszczędność energii w przypadku istniejącego sprzętu.
W miarę upowszechniania się SHMT konsumenci będą mogli uniknąć kosztownych aktualizacji sprzętu i cieszyć się szybszymi, bardziej responsywnymi urządzeniami mobilnymi, tabletami, laptopami i komputerami stacjonarnymi. Dzięki temu więcej osób będzie wkrótce mogło kupić komputery o wysokiej wydajności i uzyskać do nich dostęp, co pomoże w zmniejszeniu przepaści cyfrowej.
Centra danych i inne systemy obliczeniowe dużej skali również mogą uznać SHMT za niezbędne narzędzie do obniżania kosztów i zużycia energii bez utraty wydajności. Co więcej, innowacje promujące efektywność energetyczną i zrównoważony rozwój, takie jak SHMT, zyskają na znaczeniu w miarę narastania obaw o wpływ technologii na środowisko.
Pomimo dołożenia wszelkich starań zespół badawczy UCR zdaje sobie sprawę, że nadal istnieją przeszkody do pokonania oraz możliwości dalszych badań i postępu w przyszłości. Inżynierowie oprogramowania i producenci sprzętu będą musieli ściśle współpracować, aby wdrożyć SHMT na dużą skalę. Zagwarantuje to, że technologia będzie dobrze działać na wszystkich urządzeniach i platformach. Konieczne są jednak dalsze badania, aby określić, które aplikacje i obciążenia najlepiej nadają się do korzystania z tej rewolucyjnej technologii.
Pomimo tych przeszkód, zarówno naukowcy, jak i przedsiębiorcy zwrócili uwagę na obiecujące, wczesne wyniki SHMT. Możliwość, że ta przełomowa technologia może zrewolucjonizować branżę komputerową, staje się coraz bardziej atrakcyjna w miarę postępu badań i nawiązywania współpracy.
Podobnie jak wiele innych genialnych pomysłów, jednoczesna i heterogeniczna wielowątkowość wydaje się być produktem zdrowego rozsądku, ale diabeł tkwi w szczegółach. Chociaż pomysł współdzielenia pamięci podręcznej pomiędzy procesorami i procesorami graficznymi jest intrygujący, prawdopodobnie będzie wymagał całkowitej zmiany architektury sprzętowej.
Uzasadniałoby to odejście od dotychczasowej architektury x86-64, a taki projekt wymagałby opracowania nowej architektury procesora ze współdzieloną pamięcią podręczną L3 lub L4. To z kolei zwiększyłoby złożoność procesora i potencjalnie zniweczyłoby wszelkie korzyści uzyskane ze współdzielonej pamięci podręcznej.
Co więcej, pamięć podręczna jest zwykle znacznie mniejsza w porównaniu z systemową pamięcią RAM i nie nadaje się dobrze do zastosowań GPU, które wymagają dużych ilości pamięci o dużej przepustowości. Jednak rozwój taki jak pamięć uniwersalna może rozwiać te obawy. W miarę kontynuacji badań nad SHMT ekscytujące będzie obserwowanie, jak ta innowacyjna technologia ewoluuje i wpłynie na przyszłość przetwarzania równoległego i obliczeń heterogenicznych.
