Για να πραγματοποιήσει η τεχνητή νοημοσύνη το δυναμικό της, πρέπει να αντιμετωπιστούν οι ενεργειακές απαιτήσεις

Artificial Intelligence (AI) continues to power the 4th industrial revolution, alongside its energy demands. Today, anyone can access advanced AI tools and integrate them into their systems to improve efficiency and reduce workload. The energy required to power these algorithms increases as the demand for AI applications increases. As such, environmentalists are already pointing out sustainability concerns surrounding the tech. Thankfully, a team of researchers has created a highly efficient alternative. here’s what you need to know.

Αυξανόμενες ενεργειακές απαιτήσεις AI που δημιουργούν ενεργειακή κρίση

New AI systems continue to launch at an increasing frequency. Η πιο πρόσφατη πρόβλεψη παγκόσμιας ενεργειακής χρήσης προβλέπει ότι η κατανάλωση ενέργειας από AI θα διπλασιαστεί από 460 τεραβατ-ώρες (TWh) το 2022 σε 1.000 TWh μέχρι το 2026. Αυτά τα πρωτόκολλα περιλαμβάνουν συστήματα σύστασης, μεγάλα μοντέλα γλώσσας (LLMs), επεξεργασία και δημιουργία εικόνων και βίντεο, υπηρεσίες Web3 και άλλα.

Σύμφωνα με τη μελέτη του ερευνητή, τα συστήματα AI απαιτούν μεταφορά δεδομένων που ισοδυναμεί με “200 φορές την ενέργεια που χρησιμοποιείται για υπολογισμούς όταν διαβάζονται τρία 64-bit πηγαία λειτουργικά τελεστές και γράφεται ένας 64-bit προορισμός σε κύρια μνήμη εκτός τσιπ.” Ως εκ τούτου, η μείωση της κατανάλωσης ενέργειας για εφαρμογές υπολογισμού τεχνητής νοημοσύνης (AI) αποτελεί κύρια ανησυχία για τους προγραμματιστές που θα πρέπει να ξεπεράσουν αυτό το εμπόδιο για να επιτύχουν ευρεία υιοθέτηση και ωρίμανση της τεχνολογίας.

Ευτυχώς, μια ομάδα καινοτόμων μηχανικών από το Πανεπιστήμιο του Μινεσότα ανέλαβε την πρόταση μιας πιθανής λύσης που θα μπορούσε να μειώσει την κατανάλωση ενέργειας των πρωτοκόλλων AI κατά τάξεις μεγέθους. Για να επιτύχουν αυτό, οι ερευνητές παρουσιάζουν ένα νέο σχεδιασμό τσιπ που βελτιώνει την αρχιτεκτονική Von Neumann που βρίσκεται στα περισσότερα τσιπ σήμερα.

Αρχιτεκτονική Von Neumann

Ο John von Neumann επαναπροσδιόρισε τον τομέα των υπολογιστών το 1945 όταν διαχώρισε τις μονάδες λογικής και μνήμης, επιτρέποντας πιο αποδοτικούς υπολογισμούς εκείνη την εποχή. Σε αυτή τη διάταξη, η λογική και τα δεδομένα αποθηκεύονται σε διαφορετικές φυσικές θέσεις. Η εφεύρεσή του βελτίωσε την απόδοση επειδή επέτρεψε την ταυτόχρονη πρόσβαση και στα δύο.

Πηγή – Πανεπιστήμιο του Μινεσότα, Δίδυμες Πόλεις

RAM

Σήμερα, οι περισσότεροι υπολογιστές εξακολουθούν να χρησιμοποιούν τη δομή Von Neumann, με τον σκληρό δίσκο (HD) να αποθηκεύει τα προγράμματα και τη μνήμη τυχαίας πρόσβασης (RAM) να φιλοξενεί τις οδηγίες προγραμματισμού και τα προσωρινά δεδομένα. Η σημερινή RAM εκτελεί αυτή τη λειτουργία χρησιμοποιώντας διάφορες μεθόδους, όπως η DRAM που αξιοποιεί πυκνωτές, και η SRAM που διαθέτει πολλαπλά κυκλώματα.
Αξίζει να σημειωθεί ότι αυτή η δομή λειτούργησε άψογα για δεκαετίες. Ωστόσο, η συνεχής μεταφορά δεδομένων μεταξύ λογικής και μνήμης απαιτεί πολλή ενέργεια. Η ενέργεια αυτή αυξάνεται καθώς αυξάνονται οι απαιτήσεις δεδομένων και το υπολογιστικό φορτίο. Έτσι, δημιουργείται ένα στενό σημείο απόδοσης που περιορίζει την αποδοτικότητα καθώς αυξάνεται η υπολογιστική ισχύς.

Προσπάθειες βελτίωσης των ενεργειακών απαιτήσεων

Με τα χρόνια, έγιναν πολλές προσπάθειες για τη βελτίωση της αρχιτεκτονικής Von Neumann. Αυτές οι προσπάθειες δημιούργησαν διαφορετικές παραλλαγές της διαδικασίας μνήμης με στόχο τη φυσική προσέγγιση των δύο ενεργειών. Προς το παρόν, οι τρεις κύριες παραλλαγές είναι:

Επεξεργασία κοντά στη μνήμη

Αυτή η αναβάθμιση μετακινεί τη λογική φυσικά πιο κοντά στη μνήμη. Αυτό επιτεύχθηκε χρησιμοποιώντας μια υποδομή 3D-στοιβαγμένης αρχιτεκτονικής. Η μείωση της απόστασης μείωσε την ενέργεια που απαιτείται για τη μεταφορά των δεδομένων που τροφοδοτούν τους υπολογισμούς. Η αρχιτεκτονική αυτή παρείχε βελτιωμένη αποδοτικότητα.

Υπολογισμός εντός μνήμης

Μια άλλη τρέχουσα μέθοδος βελτίωσης της υπολογιστικής αρχιτεκτονικής είναι ο υπολογισμός εντός μνήμης. Σημειωτέον, υπάρχουν δύο παραλλαγές αυτού του τύπου τσιπ. Η αρχική ενσωματώνει ομάδες λογικής δίπλα στη μνήμη σε ένα μόνο τσιπ. Αυτή η υλοποίηση επιτρέπει την εξάλειψη των τρανζίστορ που χρησιμοποιούνταν σε προηγούμενα μοντέλα. Ωστόσο, πολλοί θεωρούν αυτή τη μέθοδο μη “αληθινή” για την εντός-μνήμη δομή, επειδή εξακολουθεί να έχει ξεχωριστές θέσεις μνήμης, πράγμα που σημαίνει ότι τα αρχικά προβλήματα απόδοσης που προκλήθηκαν από τη μεταφορά δεδομένων παραμένουν, αν και σε μικρότερη κλίμακα.

Αληθινή εντός-μνήμη

Ο τελικός τύπος αρχιτεκτονικής τσιπ είναι η “αληθινή εντός-μνήμη”. Για να θεωρηθεί έτσι, η μνήμη πρέπει να εκτελεί υπολογισμούς άμεσα. Αυτή η δομή ενισχύει τις δυνατότητες και την απόδοση επειδή τα δεδομένα για τις λογικές λειτουργίες παραμένουν στη θέση τους. Η πιο πρόσφατη έκδοση της αληθινής εντός-μνήμης αρχιτεκτονικής από τους ερευνητές είναι η CRAM.

(CRAM)

Η υπολογιστική μνήμη τυχαίας πρόσβασης (CRAM) επιτρέπει αληθινές εντός-μνήμη υπολογισμούς καθώς τα δεδομένα επεξεργάζονται εντός του ίδιου πίνακα. Οι ερευνητές τροποποίησαν μια τυπική αρχιτεκτονική 1T1M STT-MRAM για να καταστήσουν δυνατή τη CRAM. Η διάταξη CRAM ενσωματώνει μικροτρανζίστορ σε κάθε κελί και βασίζεται σε CPUs με μαγγαντικό τούνελ-σύνδεσμο.
Αυτή η προσέγγιση παρέχει καλύτερο έλεγχο και απόδοση. Η ομάδα στη συνέχεια πρόσθεσε ένα επιπλέον τρανζίστορ, γραμμή λογικής (LL) και γραμμή λογικού bit (LBL) σε κάθε κελί, επιτρέποντας πραγματικούς υπολογισμούς σε πραγματικό χρόνο εντός της ίδιας μνήμης.

Ιστορία της CRAM

Τα σημερινά συστήματα AI απαιτούν μια νέα δομή που μπορεί να καλύψει τις υπολογιστικές τους απαιτήσεις χωρίς να μειώνει τις ανησυχίες για τη βιωσιμότητα. Αναγνωρίζοντας αυτή τη ζήτηση, οι μηχανικοί αποφάσισαν να ερευνήσουν σε βάθος τις δυνατότητες της CRAM για πρώτη φορά. Τα αποτελέσματά τους δημοσιεύτηκαν στο επιστημονικό περιοδικό NPJ υπό τον τίτλο “Experimental demonstration of magnetic tunnel junction-based computational random-access memory.”
Το πρώτο CRAM αξιοποίησε μια δομή συσκευής MTJ. Αυτές οι σπιντρονικές συσκευές βελτίωσαν τις προηγούμενες μεθόδους αποθήκευσης χρησιμοποιώντας το σπιντάρισμα των ηλεκτρονίων αντί των τρανζίστορ για τη μεταφορά και αποθήκευση δεδομένων με τη μέθοδο MTJ. Αυτή η μέθοδος χρησιμοποιεί μια λεπτή φραγή τούνελ που βρίσκεται μεταξύ δύο στρωμάτων φερρομαγνητικού (FM). Μια μικρή τάση προκαλεί την εξάπλωση των ηλεκτρονίων και τη μεταφορά τους μεταξύ των στρωμάτων.
Αυτή η μεταφορά δημιουργεί ρεύμα. Παρέχει επίσης έναν αποδοτικό τρόπο ανάγνωσης και εγγραφής μνήμης. Η πιο πρόσφατη αναβάθμιση της CRAM προχωρά περαιτέρω, προσφέροντας υψηλές επιδόσεις ενώ μειώνει τις ενεργειακές απαιτήσεις.

Μελέτη CRAM

Η έννοια της CRAM βρίσκεται υπό ανάπτυξη εδώ και χρόνια. Ωστόσο, δεν υπήρξε πολύ εκτεταμένη δοκιμή των δυνατοτήτων της μέχρι τώρα. Σημειωτέον, η μελέτη αξιοποίησε μια ποικιλία κατοχυρωμένων εννοιών που αναπτύχθηκαν από την ομάδα και τους προκάτοχούς της. Για παράδειγμα, η Μαγνητική Μνήμη Τυχαίας Πρόσβασης (MRAM), η οποία αποτελεί ζωτικό στοιχείο των σύγχρονων έξυπνων ρολογιών, αισθητήρων και μικροελεγκτών, χρησιμοποιήθηκε μαζί με τροποποιημένες συσκευές MTJ για τη βελτίωση της απόδοσης.

Δοκιμές CRAM

Το στάδιο των δοκιμών απαιτούσε από τους ερευνητές να μετρήσουν την απόδοση των τσιπ κατά την εκτέλεση λογικής. Οι ερευνητές χρησιμοποίησαν μια ποικιλία στρατηγικών για να αποκτήσουν τη βαθύτερη δυνατή κατανόηση, συμπεριλαμβανομένης της πρόσθεσης κλιμακωτών, του πολλαπλασιασμού και του πολλαπλασιασμού πινάκων.
Το πρώτο βήμα της διαδικασίας ήταν η μέτρηση της δραστηριότητας υπό βασικές λειτουργίες μνήμης. Από εκεί, η ομάδα προχώρησε σε υπολογισμούς χρησιμοποιώντας λογικές λειτουργίες 2-, 3- και 5-εισόδων. Μετά από αυτό το στάδιο, εισήχθη ένας πλήρης αθροιστής 1-bit με δύο διαφορετικά σχέδια και επαναδοκιμάστηκε. Οι τελικές δοκιμές περιελάμβαναν έναν πίνακα 1 × 7, ο οποίος έδωσε ενδιαφέροντα αποτελέσματα.

Τα αποτελέσματα των δοκιμών CRAM δείχνουν χαμηλότερες ενεργειακές απαιτήσεις

Τα αποτελέσματα των δοκιμών έδειξαν πόσο αποδοτική είναι η νέα διαδικασία απόδειξης της έννοιας σε σύγκριση με τα σημερινά μοντέλα. Τα δεδομένα έδειξαν μέσο όρο 1000X λιγότερης κατανάλωσης ενέργειας κατά τη διάρκεια των υπολογισμών. Όταν συνδυάστηκε με άλλες μεθόδους εξοικονόμησης ενέργειας, η προσέγγιση έδειξε εξοικονόμηση ενέργειας 2.500 και 1.700 φορές λιγότερο σε σύγκριση με τις παραδοσιακές μεθόδους.

Πρόσθετα χαρακτηριστικά

Μια άλλη ενδιαφέρουσα ανακάλυψη ήταν ότι η CRAM επέτρεψε τη ταυτόχρονη τυχαία πρόσβαση σε δεδομένα και τελεστές. Αυτό το πλεονέκτημα βελτιώνει σημαντικά τις παράλληλες υπολογιστικές δυνατότητες, κάτι που μπορεί να οδηγήσει σε πιο ασφαλή και σταθερά πρωτόκολλα στο μέλλον.

Οφέλη που φέρνει η CRAM στην αγορά

Η εξέταση των ωφελειών που φέρνει η CRAM θα σας βοηθήσει να κατανοήσετε καλύτερα γιατί αυτή αποτελεί μια επαναστατική πρόοδο που θα μπορούσε να έχει άμεση επίδραση στις καθημερινές δραστηριότητες του μέσου ανθρώπου σύντομα. Η CRAM επιτρέπει σε προγραμματιστές και κατασκευαστές να δημιουργούν υλικό που είναι διαμορφωμένο τέλεια για την κύρια λειτουργία του, μειώνοντας τις ενεργειακές απαιτήσεις και βελτιώνοντας την απόδοση.

AI – Εστίαση

Η τεχνητή νοημοσύνη ήδη αλλάζει πολλά. Αυτά τα συστήματα είναι σε υψηλή ζήτηση αλλά απαιτούν συγκεκριμένο υλικό και λογισμικό για σωστή λειτουργία. Η CRAM προσφέρει στους κατασκευαστές τη δυνατότητα δημιουργίας υλικού από την πρώτη μέρα σχεδιασμένου να υποστηρίζει εφαρμογές με έντονη χρήση δεδομένων, κεντρική μνήμη ή ευαίσθητες σε ενέργεια εφαρμογές.
Στο μέλλον, η CRAM θα τροφοδοτήσει προχωρημένους αλγόριθμους AI όπως η βιοπληροφορική, η επεξεργασία σήματος, τα νευρωνικά δίκτυα, η υπολογιστική στην άκρη (edge computing) και το πιο προηγμένο στρατιωτικό υλικό. Ο πίνακας CRAM θα επιτρέψει στους προγραμματιστές να δημιουργούν εφαρμογές μηχανικής μάθησης με καλύτερη απόδοση, που είναι αρκετά ευέλικτες ώστε να καλύψουν τις ανάγκες της κοινότητας.

Χρησιμοποιεί αποδεδειγμένη δομή

Ένα ακόμη σημαντικό όφελος που καθιστά τη CRAM μια έξυπνη επιλογή είναι η χρήση αποδεδειγμένων συστημάτων υλικού. Σημειωτέον, η CRAM χρησιμοποιεί κοινή και ώριμη τεχνολογία, κάτι που ενισχύει την εμπιστοσύνη των καταναλωτών. Επίσης, διασφαλίζει ότι τα προβλήματα υλικού είναι ελάχιστα ανησυχητικά για τους χρήστες.

Ευέλικτη

Η CRAM παρέχει αληθινή ευελιξία στους προγραμματιστές. Οι προγραμματιστές μπορούν να υπολογίζουν δεδομένα οπουδήποτε μέσα στον πίνακα μνήμης χρησιμοποιώντας μια ποικιλία δημοφιλών λογικών λειτουργιών. Συγκεκριμένα, η CRAM υποστηρίζει AND, OR, NAND, NOR και MAJ, προσθέτοντας στην πολυπλοκότητά της.

Ταχύτερη

Η ταχύτητα είναι ένα ακόμη όφελος που δεν μπορεί να παραβλεφθεί. Χρειάζεται χρόνος για τη μεταφορά δεδομένων μεταξύ λογικής και αποθήκευσης μνήμης. Ενώ αυτός ο χρόνος μπορεί να είναι μόνο ένα κλάσμα του δευτερολέπτου, μπορεί να συσσωρευτεί και να οδηγήσει σε μειωμένη εμπειρία χρήστη (UX). Η CRAM εξαλείφει την ανάγκη για αργές και ενεργοβόρες μεταφορές δεδομένων κάνοντας τη μνήμη ίδια υπεύθυνη για αυτές τις εργασίες.

Παραλληλισμός

Ο παραλληλισμός είναι η δυνατότητα εκτέλεσης του ίδιου κώδικα παράλληλα ταυτόχρονα. Είναι ένα ζωτικό στοιχείο πολλών βιομηχανικών, ασφαλιστικών και βιομηχανικών λειτουργιών. Λόγω της δομής της CRAM, μπορεί να εκτελεί την ίδια λογική παράλληλα σε όλο τον πίνακα μνήμης ταυτόχρονα.

Κόστος κατασκευής

Η CRAM θα μειώσει επίσης το κόστος κατασκευής για συσκευές υψηλής τεχνολογίας μειώνοντας τον αριθμό των εξαρτημάτων που απαιτούνται για την κατασκευή ενός προϊόντος. Η CRAM χρησιμοποιεί την ίδια μνήμη για λογική και δεδομένα, πράγμα που σημαίνει ότι οι κατασκευαστές μπορούν να δημιουργήσουν τσιπ με λιγότερα μέρη. Αυτή η δομή μειώνει το κόστος και βελτιώνει την αξιοπιστία και την απόδοση.

Ερευνητές

Αυτή η έρευνα καθοδηγήθηκε από τον Tema από το Πανεπιστήμιο του Μινεσότα. Οι κύριοι ερευνητές περιλάμβαναν τον Jian-Ping Wang, Καθηγητή McKnight, και τον Robert F. Hartmann. Επιπλέον, η Ulya Karpuzcu, ο Robert Bloom, ο Husrev Cilasun, ο Robert και η Marjorie Henle, ο Sachin Sapatnekar, ο Brandon Zink, ο Zamshed Chowdhury, και η Salonik Resch έπαιξαν ζωτικό ρόλο στη μελέτη. Μια ομάδα από το Πανεπιστήμιο της Αριζόνα επίσης βοήθησε, συμπεριλαμβανομένων των Pravin Khanal, Ali Habiboglu, και του Καθηγητή Weigang Wang.
Η έρευνα πραγματοποιήθηκε χάρη σε χρηματοδοτήσεις από το Υπουργείο Άμυνας των ΗΠΑ (DARPA), το Εθνικό Ινστιτούτο Προτύπων και Τεχνολογίας (NIST), το Εθνικό Ίδρυμα Επιστημών (NSF) και την Cisco Inc. Το έργο διεξήγαγε επίσης δοκιμές και μελέτες στο Minnesota Nano Center και στο Minnesota Supercomputing Institute του Πανεπιστημίου του Μινεσότα.

Δύο εταιρείες που θα μπορούσαν να ωφεληθούν από τη μείωση των ενεργειακών απαιτήσεων AI

Υπάρχουν πολλοί κατασκευαστές που θα μπορούσαν να εξασφαλίσουν επιπλέον έσοδα ή να βελτιώσουν τη σειρά προϊόντων τους απλώς ενσωματώνοντας επιλογές CRAM. Αυτές οι εταιρείες κατέχουν ισχυρές θέσεις στην αγορά και έχουν τη δυνατότητα να ενσωματώσουν νέες τεχνολογίες με τρόπο που θα βελτιώσει σημαντικά τις προσφορές τους.

Microsoft

MSFT Διάγραμμα τιμής

Η Microsoft (MSFT ) είναι ένας σημαντικός παίκτης στις αγορές AI και υπολογιστών. Η εταιρεία παραμένει πρωτοπόρος στον κλάδο και έχει συμβάλει σημαντικά στην τεχνολογία για πάνω από μια δεκαετία. Σήμερα, η Microsoft έχει σημαντικό μερίδιο στην αγορά AI και επιδιώκει να παραμείνει ανταγωνιστική στο μέλλον.
Οι υπηρεσίες AI της Microsoft έχουν σημαντικό πλεονέκτημα έναντι των ανταγωνιστών τους, καθώς παραμένουν το κύριο λειτουργικό σύστημα που χρησιμοποιείται παγκοσμίως. Ως εκ τούτου, τα συστήματα AI της Microsoft διαθέτουν τεράστιο κοινό χρηστών και δεδομένα που είναι προσβάσιμα. Αυτά τα δεδομένα έχουν βοηθήσει τη Microsoft να δημιουργήσει ισχυρούς νέους αλγόριθμους AI που κάποια μέρα θα αποτελέσουν τον πυρήνα των τελευταίων λειτουργικών συστημάτων Windows.

Arm Holdings

ARM Διάγραμμα τιμής

Η Arm Holdings εισήλθε στην αγορά το 1990. Ιδρύθηκε από τη Sophie Wilson και τον Steve Furber. Αρχικά, η εταιρεία ονομαζόταν Advanced RISC Machines (ARM) Ltd. πριν επαναπροσαρμοστεί σε Arm Holdings το 1998. Στις αρχές της δεκαετίας του 2000, η Arm Holdings κέρδισε φήμη ως κατασκευαστής υψηλής ποιότητας προσφέροντας GPU και άλλα προϊόντα στην αγορά.
Σήμερα, παραμένει κορυφαίος πάροχος IP και κατασκευαστής ημιαγωγών. Η εταιρεία αγοράστηκε το 2016 από τη Softbank για 32 δισεκατομμύρια δολάρια και έχει δει σημαντική ανάπτυξη από τότε. Ο κατασκευαστής θα μπορούσε να μειώσει σημαντικά το περιβαλλοντικό του αποτύπωμα ενώ βελτιώνει την απόδοση και τα έσοδα ενσωματώνοντας τη CRAM στις τρέχουσες προσφορές του.

Το μέλλον της AI θα εξαρτηθεί από τις ενεργειακές της απαιτήσεις

Ο κύριος παράγοντας που περιορίζει την υιοθέτηση της AI είναι οι ενεργειακές της απαιτήσεις. Αυτές οι απαιτήσεις απαιτούν από τους ανθρώπους να σκέφτονται έξω από τα συνηθισμένα για να δημιουργήσουν λύσεις στα στενά σημεία που περιορίζουν την απόδοση. Αυτή η πρόσφατη μελέτη ανοίγει το δρόμο για ένα φωτεινότερο μέλλον όπου οι υπηρεσίες AI θα έχουν πρόσβαση σε λύσεις χαμηλής κατανάλωσης ενέργειας που θα ενδυναμώνουν ολόκληρη την κοινότητα.

Μάθετε για άλλα ενδιαφέροντα έργα τεχνητής νοημοσύνης τώρα.