Υπολογιστική
Επαναστατική Τεχνολογία Simultaneous and Heterogeneous Multi-Threading για Ταχύτερη Υπολογιστική
Προσθέστε το Securities.io στις προτιμώμενες πηγές σας στο Google
Παρόλο που όλες οι νέες συσκευές από τεχνολογικούς γίγαντες όπως η Apple (AAPL ) και η Google διαθέτουν βήμα‑βήμα βελτιώσεις — μια μονοψήφια αύξηση στη διάρκεια μπαταρίας, ένα νανόμετρο λιγότερο για τον επεξεργαστή, το οποίο δεν έχει ακόμη αποδώσει βέλτιστη απόδοση για τους κατασκευαστές, ή μερικά επιπλέον megapixels — προκύπτει το ερώτημα: Είναι αυτές οι μετριοπαθείς βελτιώσεις πραγματικά αρκετές; Είναι η προσθήκη περισσότερου υλικού η λύση;
Όχι, σύμφωνα με τον Αναπληρωτή Καθηγητή Hung-Wei Tseng από το Τμήμα Ηλεκτρικής και Μηχανικής Υπολογιστών του Πανεπιστημίου της Καλιφόρνια, Riverside (UCR). Λέει:
«Δεν χρειάζεται να προσθέσετε νέους επεξεργαστές επειδή τους έχετε ήδη.»
Ο καθηγητής Tseng, μαζί με μια ομάδα ερευνητών, ανέπτυξε ένα νέο λογισμικό πλαίσιο για παράλληλη επεξεργασία που ονομάζεται Simultaneous and Heterogeneous Multi-threading (SHMT). Σύμφωνα με τα αρχικά αποτελέσματα, το SHMT είναι έτοιμο να ενισχύσει σημαντικά την ταχύτητα επεξεργασίας και να μειώσει την κατανάλωση ενέργειας αξιοποιώντας τις κρυφές δυνατότητες των τρεχόντων επεξεργαστών σε προσωπικούς υπολογιστές, κινητά τηλέφωνα και άλλες συσκευές.
Αξιολογημένο ως «επαναστατικό» από την τεχνολογική κοινότητα, το SHMT στοχεύει στην εξάλειψη των στενών σημείων ροής δεδομένων και στη διευκόλυνση της αδιάκοπης συνεργασίας πολλών μονάδων επεξεργασίας. Αυτή η πρόοδος μπορεί να επηρεάσει όχι μόνο τα προσωπικά ηλεκτρονικά, αλλά και τα κέντρα δεδομένων και άλλες μορφές μαζικής παράλληλης υπολογιστικής.
Ανάλυση του Στενού Σημείου
Πριν ξεκινήσουμε την εξερεύνηση της πλήρους δυναμικής που είναι εφικτή με το simultaneous and heterogeneous multi-threading, ας κατανοήσουμε πρώτα τους περιορισμούς των τρεχουσών υπολογιστικών συστημάτων.
Στις περισσότερες συσκευές, διάφορα εξαρτήματα, όπως η κεντρική μονάδα επεξεργασίας (CPU), η μονάδα γραφικών (GPU) και η μονάδα επεξεργασίας τανυστών (TPU), διαχειρίζονται τις πληροφορίες ξεχωριστά. Τα δεδομένα μεταφέρονται από τη μία μονάδα στην άλλη, συχνά δημιουργώντας «στένωση» που εμποδίζει τη συνολική απόδοση του συστήματος.
Αυτό επιδεινώνεται περαιτέρω από τα παραδοσιακά μοντέλα προγραμματισμού, τα οποία συνήθως αναθέτουν εργασίες σε έναν μόνο τύπο επεξεργαστή, αφήνοντας έτσι άλλους πόρους αδρανείς και υποχρησιμοποιημένους. Αντανακλώντας αυτές τις παρατηρήσεις, το ερευνητικό άρθρο «Simultaneous and Heterogeneous Multi-threading» των Kuan-Chieh Hsu και Hung-Wei Tseng δηλώνει:
«Τα εδραιωμένα μοντέλα προγραμματισμού εστιάζουν στη χρήση μόνο των πιο αποδοτικών μονάδων επεξεργασίας για κάθε περιοχή κώδικα, υποχρησιμοποιώντας τη δύναμη επεξεργασίας εντός ετερογενών υπολογιστών.»
Το SHMT απομακρύνεται από αυτήν την προσέγγιση εκμεταλλευόμενο την ποικιλομορφία πολλαπλών στοιχείων μέσα σε ένα υπολογιστικό σύστημα. Αυτή η έννοια είναι γνωστή ως ετερογένεια. Με το να διασπά τις υπολογιστικές λειτουργίες και τις διανέμει μεταξύ των διαθέσιμων μονάδων επεξεργασίας, το SHMT διευκολύνει την πραγματική παράλληλη επεξεργασία.
Αυτή η προσέγγιση της αποσύνθεσης των υπολογιστικών λειτουργιών και της διανομής τους μεταξύ πολλαπλών μονάδων επεξεργασίας μεγιστοποιεί τη χρήση των διαθέσιμων πόρων για βελτίωση της απόδοσης και εξοικονόμηση ενέργειας. Το ερευνητικό άρθρο επιπλέον αναλύει τα ελαττώματα των παραδοσιακών μοντέλων προγραμματισμού, δηλώνοντας ότι «μπορούν να αναθέσουν μια περιοχή κώδικα αποκλειστικά σε έναν τύπο επεξεργαστή, αφήνοντας άλλους πόρους υπολογισμού αδρανείς χωρίς να συμβάλλουν στη συγκεκριμένη λειτουργία.»
Από την άλλη πλευρά, το SHMT στοχεύει να ξεφύγει από αυτούς τους περιορισμούς αξιοποιώντας τις μοναδικές ικανότητες κάθε μονάδας επεξεργασίας και τη συνεργατική τους εργασία σε μια κοινή περιοχή κώδικα. Οι συγγραφείς επίσης επισημαίνουν ότι η σύγχρονη τεχνολογία υπολογιστών είναι αδιαμφισβήτητη ετερογενής, καθώς όλες οι πλατφόρμες υπολογιστών ενσωματώνουν πολλούς τύπους μονάδων επεξεργασίας και υλικών επιταχυντών. Αυτό απαιτεί ένα μοντέλο προγραμματισμού που μπορεί να αξιοποιήσει αποτελεσματικά τη δύναμη αυτών των διαφορετικών στοιχείων (ακριβώς αυτό που επιδιώκει το SHMT).
Έτσι, το SHMT ανοίγει το δρόμο για ταχύτερη και πιο αποδοτική υπολογιστική, αντιμετωπίζοντας τα στενά σημεία της παραδοσιακής υπολογιστικής.
Πώς Λειτουργεί η Τεχνολογία Simultaneous and Heterogeneous Multi-Threading;
Όπως φαίνεται, η διαχείριση και η κατανομή των υπολογιστικών δραστηριοτήτων αποδοτικά μεταξύ διαφορετικών υλικών εξαρτημάτων είναι η βασική αρχή πίσω από το SHMT.
Το πλαίσιο περιλαμβάνει μια συλλογή εικονικών λειτουργιών (VOPs) για τη διευκόλυνση της εκφόρτωσης εργασιών από μια εφαρμογή CPU σε μια εικονική συσκευή υλικού. Σύμφωνα με τη μελέτη, «Ένα σύνολο εικονικών λειτουργιών (VOPs) επιτρέπει σε ένα πρόγραμμα CPU να «εκφορτώσει» μια λειτουργία σε μια εικονική συσκευή υλικού». Αυτές οι VOPs μεσολαβούν στην επικοινωνία και την ανάθεση εργασιών δημιουργώντας ένα φράγμα μεταξύ του προγράμματος και του υλικού.
Ένα σύστημα χρόνου εκτέλεσης βελτιστοποιεί την απόδοση αξιολογώντας τις δυνατότητες κάθε υλικού πόρου και λαμβάνοντας έξυπνες αποφάσεις χρονοπρογραμματισμού κατά την εκτέλεση της εφαρμογής. Σύμφωνα με τη μελέτη, «Κατά την εκτέλεση του προγράμματος, ένα σύστημα χρόνου εκτέλεσης διαχειρίζεται το εικονικό υλικό του simultaneous and heterogeneous multi-threading, αξιολογώντας την ικανότητα του υλικού πόρου να λαμβάνει αποφάσεις χρονοπρογραμματισμού». Για τη μεγιστοποίηση της αποδοτικότητας των πόρων και την προσαρμογή στις ανάγκες της εργασίας, το SHMT αξιολογεί δυναμικά τις δυνατότητες του υλικού.
Το σύστημα χρόνου εκτέλεσης διασπά τις VOPs σε λειτουργίες υψηλού επιπέδου (HLOPs) για να τις διανείμει σε διάφορες ουρές εργασιών υλικού. Σύμφωνα με τη μελέτη, «Το σύστημα χρόνου εκτέλεσης διαιρεί τις VOPs σε μία ή περισσότερες λειτουργίες υψηλού επιπέδου (HLOPs) για να χρησιμοποιήσει ταυτόχρονα πολλαπλούς υλικούς πόρους». Η αποσύνθεση των VOPs σε HLOPs επιτυγχάνει λεπτομερή έλεγχο της κατανομής εργασιών και μέγιστη αξιοποίηση κάθε μονάδας επεξεργασίας.
Η πολιτική χρονοπρογραμματισμού του SHMT χρησιμοποιεί μια προσέγγιση quality-aware work-stealing (QAWS), εξασφαλίζοντας αποδοτική χρήση πόρων και ποικίλα φορτία εργασίας. Σύμφωνα με τη μελέτη, «Το SHMT χρησιμοποιεί μια πολιτική χρονοπρογραμματισμού quality-aware work-stealing (QAWS) που δεν καταστέλλει πόρους, αλλά βοηθά στη διατήρηση του ελέγχου ποιότητας και της ισορροπίας φορτίου εργασίας». Εκτός από την αποτελεσματική κατανομή εργασίας σε όλο το σύστημα, αυτή η προσέγγιση εμποδίζει οποιαδήποτε μονάδα επεξεργασίας να καταστέλλει πόρους.
Αν το SHMT θέλει να μεγιστοποιήσει την απόδοση χωρίς να θυσιάσει την ποιότητα, χρειάζεται την πολιτική χρονοπρογραμματισμού QAWS. Η μελέτη δηλώνει ότι «Το SHMT πρέπει να διασφαλίσει το αποτέλεσμα χωρίς να προκαλέσει σημαντικό κόστος». Για να εγγυηθεί ότι η έξοδος από τις ετερογενείς μονάδες επεξεργασίας είναι ακριβής και συνεπής, το SHMT ενσωματώνει τεχνικές ελέγχου ποιότητας στον χρονοπρογραμματισμό.
Η ικανότητα του SHMT να αξιοποιεί τις συγκεκριμένες δυνατότητες κάθε τμήματος υλικού αποτελεί σημαντικό πλεονέκτημα. Όπως σημειώνει η μελέτη, «Το SHMT μπορεί να διασπά τον υπολογισμό από την ίδια λειτουργία σε πολλαπλούς τύπους υπολογιστικών πόρων και εκμεταλλεύεται ταυτόχρονα ετερογενείς τύπους παράλληλου υπολογισμού». Το SHMT βελτιώνει σημαντικά την απόδοση επειδή εκμεταλλεύεται την παράλληλη επεξεργασία σε ετερογενή συστήματα για να εκτελεί εργασίες ταυτόχρονα σε πολλές μονάδες επεξεργασίας.
Ένα ακόμη χαρακτηριστικό του SHMT που θεωρείται ευέλικτο και προσαρμοστικό είναι το σύστημα χρόνου εκτέλεσης. Και σύμφωνα με τη μελέτη, «Καθώς οι HLOPs είναι ανεξάρτητες από το υλικό, το σύστημα χρόνου εκτέλεσης μπορεί να προσαρμόσει την ανάθεση εργασιών όπως απαιτείται». Λόγω της προσαρμοστικότητάς του, το SHMT μπορεί να ανταποκριθεί άμεσα σε αλλαγές στη διαθεσιμότητα του υλικού ή στις απαιτήσεις φορτίου εργασίας, διατηρώντας το σύστημα σε μέγιστη αποδοτικότητα και απόδοση.
Συνολικά, η μελέτη παρουσιάζει όλα τα απαραίτητα βήματα για την κατανόηση του τρόπου λειτουργίας του SHMT, εστιάζοντας στα κρίσιμα μέρη και διαδικασίες που του επιτρέπουν να επιτύχει αξιοσημείωτη αποδοτικότητα και αποτελεσματικότητα σε ετερογενή περιβάλλοντα υπολογιστών. Χάρη στο SHMT, που χρησιμοποιεί VOPs, HLOPs και τη στρατηγική χρονοπρογραμματισμού QAWS για να επαναστατήσει την παράλληλη επεξεργασία, μια νέα εποχή αποδοτικής και ισχυρής υπολογιστικής έρχεται να ξεκινήσει.
Θετικά Αποτελέσματα από τις Αρχικές Δοκιμές του Πρωτοτύπου
Για να αποδείξουν ότι το SHMT λειτουργεί, οι ερευνητές του UCR πραγματοποίησαν αυστηρές δοκιμές σε ένα σύστημα πρωτοτύπου που μιμούσε τις δυνατότητες κέντρου δεδομένων χρησιμοποιώντας εξαρτήματα τυπικά στα σύγχρονα κινητά τηλέφωνα. Το πρωτότυπο περιελάμβανε ένα Google Edge TPU ενσωματωμένο μέσω της θύρας M.2 Key E του συστήματος, μια μονάδα NVIDIA (NVDA ) Jetson Nano με τετραπύρηνο επεξεργαστή ARM Cortex-A57 και 128 πυρήνες GPU αρχιτεκτονικής Maxwell.
Για να αξιολογήσουν την απόδοση του πλαισίου SHMT υπό διαφορετικές συνθήκες φορτίου εργασίας, οι ερευνητές έτρεξαν το πρωτότυπο μέσω μιας σειράς προγραμμάτων benchmark. Το αποτέλεσμα ήταν εντυπωσιακό: η κορυφαία στρατηγική QAWS όχι μόνο μείωσε την κατανάλωση ενέργειας κατά 51% αλλά και βελτίωσε την απόδοση επεξεργασίας κατά 1,95X σε σύγκριση με την βασική τεχνική.
Τα αποτελέσματα υπογραμμίζουν το δυναμικό του SHMT να βελτιώσει σημαντικά την απόδοση επεξεργασίας και την ενεργειακή αποδοτικότητα σε ένα ευρύ φάσμα συσκευών και λογισμικών εφαρμογών. Το SHMT έδειξε ότι είναι δυνατόν να αξιοποιηθεί στο έπακρο η τρέχουσα διαμόρφωση, κάνοντας καλύτερη χρήση όλων των πόρων του χωρίς να χρειάζεται να ξοδέψετε μια περιουσία για νέο υλικό.
Με την συνεχώς αυξανόμενη ανάγκη για ταχύτερη και πιο αποδοτική υπολογιστική, οι επαναστατικές λύσεις όπως το simultaneous and heterogeneous multi-threading θα γίνουν όλο και πιο κρίσιμες στη διαμόρφωση του μελλοντικού δρόμου της τεχνολογίας. Η εργασία της ερευνητικής ομάδας του UCR καθιστά σαφές ότι η εύρεση μακροπρόθεσμων, υψηλής απόδοσης υπολογιστικών λύσεων που μπορούν να προσαρμοστούν στις δυναμικές απαιτήσεις του ψηφιακού μας κόσμου δεν ήταν ποτέ πιο εύκολη από ό,τι με τη δουλειά της ομάδας του UCR.
Συνεπακόλουθα και Μελλοντικές Κατευθύνσεις του Simultaneous and Heterogeneous Multi-Threading
Η δημιουργία και η δοκιμή του SHMT αντιπροσωπεύουν μια βαθιά αλλαγή στο μέλλον της υπολογιστικής. Έχει τη δυνατότητα να επαναστατήσει το σχεδιασμό και τη χρήση υπολογιστικών συσκευών σε πολλές εφαρμογές, προσφέροντας σημαντικές αυξήσεις απόδοσης και εξοικονόμηση ενέργειας με το υπάρχον υλικό.
Καθώς το SHMT κερδίζει ευρύτερη υιοθέτηση, οι καταναλωτές ενδέχεται να μπορούν να αποφύγουν ακριβές ενημερώσεις υλικού και να απολαύσουν πιο γρήγορες, πιο ανταποκριτικές κινητές συσκευές, tablet, φορητούς και επιτραπέζιους υπολογιστές. Λόγω αυτού, περισσότεροι άνθρωποι σύντομα θα μπορούν να αγοράσουν και να έχουν πρόσβαση σε υπολογιστές υψηλής απόδοσης, βοηθώντας στη μείωση του ψηφιακού χάσματος.
Τα κέντρα δεδομένων και άλλα μεγάλης κλίμακας υπολογιστικά συστήματα, επίσης, μπορεί να θεωρήσουν το SHMT ένα απαραίτητο εργαλείο για τη μείωση του κόστους και της κατανάλωσης ενέργειας χωρίς να θυσιάζουν την απόδοση. Επιπλέον, καινοτομίες που προωθούν την ενεργειακή αποδοτικότητα και τη βιωσιμότητα, όπως το SHMT, θα αποκτήσουν σημασία καθώς αυξάνονται οι ανησυχίες για τις περιβαλλοντικές επιπτώσεις της τεχνολογίας.
Παρά τις καλύτερες προσπάθειές τους, η ερευνητική ομάδα του UCR αναγνωρίζει ότι υπάρχουν ακόμη εμπόδια που πρέπει να ξεπεραστούν και ευκαιρίες για περαιτέρω έρευνα και πρόοδο στο μέλλον. Οι μηχανικοί λογισμικού και οι κατασκευαστές υλικού θα πρέπει να συνεργαστούν στενά για την υλοποίηση του SHMT σε μεγάλη κλίμακα. Αυτό θα εγγυηθεί ότι η τεχνολογία λειτουργεί καλά σε όλες τις συσκευές και πλατφόρμες. Ωστόσο, απαιτείται περαιτέρω έρευνα για να προσδιοριστεί ποιες εφαρμογές και φορτία εργασίας είναι πιο κατάλληλα για τη χρήση αυτής της επαναστατικής τεχνολογίας.
Παρά τα εμπόδια αυτά, τόσο οι ακαδημαϊκοί όσο και οι επιχειρήσεις έχουν παρατηρήσει τα υποσχόμενα αρχικά αποτελέσματα του SHMT. Η δυνατότητα να μεταμορφώσει αυτή η επαναστατική τεχνολογία τη βιομηχανία υπολογιστών γίνεται όλο και πιο ελκυστική καθώς προχωρούν οι μελέτες και δημιουργούνται συνεργασίες.
Όπως πολλές άλλες λαμπρές ιδέες, το simultaneous and heterogeneous multi-threading φαίνεται να είναι προϊόν του κοινόλογου, αλλά ο διάβολος βρίσκεται στις λεπτομέρειες. Ενώ η ιδέα μιας κοινόχρηστης κρυφής μνήμης μεταξύ CPU και GPU είναι ενδιαφέρουσα, είναι πιθανό να απαιτήσει πλήρη ανασχεδιασμό της αρχιτεκτονικής υλικού.
Θα απαιτούσε την απομάκρυνση από την τρέχουσα αρχιτεκτονική x86-64, και τέτοιος σχεδιασμός θα απαιτούσε την ανάπτυξη μιας νέας αρχιτεκτονικής επεξεργαστή με κοινόχρηστη κρυφή μνήμη L3 ή L4. Αυτό, με τη σειρά του, θα αυξήσει την πολυπλοκότητα του CPU και ενδεχομένως να αναιρέσει τυχόν οφέλη που προέρχονται από την κοινόχρηστη κρυφή μνήμη.
Επιπλέον, η κρυφή μνήμη είναι συνήθως πολύ μικρότερη σε σύγκριση με τη μνήμη RAM του συστήματος και δεν είναι κατάλληλη για εφαρμογές GPU, που απαιτούν μεγάλες ποσότητες μνήμης υψηλού εύρους ζώνης. Ωστόσο, εξελίξεις όπως η universal memory ενδέχεται να αντιμετωπίσουν αυτές τις ανησυχίες. Καθώς η έρευνα στο SHMT συνεχίζεται, θα είναι συναρπαστικό να δούμε πώς αυτή η καινοτόμος τεχνολογία εξελίσσεται και επηρεάζει το μέλλον της παράλληλης επεξεργασίας και της ετερογενούς υπολογιστικής.
