Επένδυση σε Υλικό AI: Από CPUs έως XPUs

Επένδυση σε Υλικό AI: Προσέγγιση με Σκαριά και Τσάπα

AI είναι υποσχόμενη να είναι η πιο σημαντική αλλαγή στην οικονομία μας, στα παραγωγικά συστήματα και στην κοινωνία τις τελευταίες δεκαετίες, ενδεχομένως καθιστώντας ακόμη και τις ριζικές αλλαγές που έφερε το Διαδίκτυο ασήμαντες σε σύγκριση.

Μπορεί να εξαφανίσει ολόκληρη κατηγορία εργασιών, όπως οδηγοί, μεταφραστές, εξυπηρέτηση πελατών, σχεδιαστές ιστοσελίδων κ.λπ. Άλλες δουλειές μπορεί να δουν ριζική μείωση της ζήτησης, όπως προγραμματιστές, νεαροί δικηγόροι, διαγνωστές κ.λπ.

Θα πρέπει επίσης να δημιουργήσει πολύ πρόσθετη αξία και παραγωγικότητα για πολλές άλλες εργασίες, με τις κυρίαρχες εταιρείες λογισμικού AI πιθανότατα να είναι οι πρώτες που θα φτάσουν σε κεφαλαιοποιήσεις αγοράς που προηγουμένως ήταν αδιανόητες.

Για όλους αυτούς τους λόγους, οι κεφαλαιαγορές και οι επενδυτές έχουν μαγευτεί από την AI και δίνουν μεγάλη προσοχή στην πρόοδο των πολλών τεχνολογικών γιγάντων στην AI, καθώς και στον ισχυρό ανταγωνισμό που προέρχεται από τους κινέζιους τεχνολογικούς γιγάντες όπως η Alibaba και νεοσύστατες εταιρείες όπως η DeepSeek.

Ένας άλλος τρόπος να επωφεληθεί κανείς από το κύμα AI είναι να ακολουθήσει τη στρατηγική που λειτουργεί σε κάθε χρυσή κυνηγεσία: μην ψάχνετε για χρυσό, αλλά πουλήστε τα σκαριά και τις τσάπες. Αυτό σίγουρα λειτούργησε για τις εταιρείες που βρέθηκαν στην καλύτερη θέση για να πουλήσουν βελτιστοποιημένο υλικό AI, με την Nvidia (NVDA ) να έχει μετατρέψει τις κάρτες γραφικών παιχνιδιών της σε τσιπ εκπαίδευσης AI, καθιστώντας την την πιο πολύτιμη εταιρεία στον κόσμο, αφού ξεπέρασε την εντυπωσιακή κεφαλαιοποίηση $4 τρισεκατομμυρίων (ακολουθήστε το σύνδεσμο για πλήρη αναφορά στην Nvidia).

Επειδή η AI απαιτεί πολύ εξειδικευμένο υλικό, κυρίως διαφορετικό από άλλες προηγούμενες μορφές υπολογιστικών εργασιών, και αποτελεί μια τεράστια επιχειρηματική ευκαιρία, η βιομηχανία ημιαγωγών βρίσκεται τώρα σε αγώνα για την ανάπτυξη νέων μορφών υλικού σχεδιασμένων ειδικά για την εκπαίδευση και λειτουργία προγραμμάτων AI.

Ενώ η Nvidia πιθανότατα θα παραμείνει μία από τις κορυφαίες εταιρείες στον τομέα, εναλλακτικές λύσεις εμφανίζονται τώρα και θα μπορούσαν να προσφέρουν ενδιαφέρουσες ευκαιρίες για επενδυτές που δίνουν προσοχή νωρίς.

Γιατί η AI Χρειάζεται Εξειδικευμένο Υλικό

Πολλοί Μικροί Υπολογισμοί

Οι αρχικές προσπάθειες στην AI χρησιμοποίησαν την ίδια υπολογιστική ισχύ με άλλα προγράμματα, εστιάζοντας κυρίως σε επεξεργαστές (Κεντρική Μονάδα Επεξεργασίας – CPUs). Οι CPUs παραμένουν σημαντικές, αλλά γρήγορα εμφανίστηκε ότι δεν είναι βέλτιστες για τις περισσότερες μεθόδους που χρησιμοποιούνται σήμερα για την ανάπτυξη AI.

Τα νευρωνικά δίκτυα και άλλες παρόμοιες μέθοδοι απαιτούν πολλούς σχετικά απλούς υπολογισμούς, αντί για έναν πολύ σύνθετο υπολογισμό. Έτσι, πολλαπλά μικρότερα τσιπ που λειτουργούν παράλληλα είναι γενικά καλύτερα από τις τεράστιες και ισχυρές CPUs.

Αυτός είναι σε μεγάλο μέρος ο λόγος που οι GPUs γρήγορα έγιναν πιο δημοφιλείς, καθώς οι κάρτες γραφικών σχεδιάζονται εγγενώς για την εκτέλεση χιλιάδων μικρότερων υπολογισμών παράλληλα.

Η σημερινή εκπαίδευση AI βασίζεται κυρίως σε νευρωνικά δίκτυα, μια έννοια που κέρδισε το Βραβείο Νόμπελ Φυσικής το 2024, βραβείο που καλύψαμε λεπτομερώς σε αφιερωμένο άρθρο εκείνη τη στιγμή.

Πηγή: Nobel Prize

Μια δεύτερη επανάσταση στην τεχνολογία AI ήρθε με τα «transformers». Λύνουν την αδυναμία των παραδοσιακών νευρωνικών δικτύων να επεξεργάζονται αποδοτικά μεγάλες ακολουθίες δεδομένων, ένα κοινό χαρακτηριστικό κάθε φυσικής γλώσσας.

Πρώτη φορά παρουσιάστηκε το 2017 από ερευνητές της Google, είναι η ριζική αιτία της τρέχουσας έκρηξης στην ικανότητα της AI. Τα transformers είναι στον πυρήνα προϊόντων AI όπως τα LLMs (Μεγάλα Μοντέλα Γλώσσας), συμπεριλαμβανομένου του ChatGPT.

Διαφορετικές Απαιτήσεις

Μία σημαντική διάκριση στις ροές εργασίας AI είναι η διαφορά μεταξύ fine-tuning και inference, οι οποίες έχουν διαφορετικές απαιτήσεις υλικού.

• Fine-tuning περιλαμβάνει την εκπαίδευση ενός μοντέλου σε δεδομένα συγκεκριμένου τομέα, απαιτώντας σημαντική υπολογιστική ισχύ και μνήμη. Είναι μια πολύ τεχνική εργασία, συχνά στην άκρη της επιστήμης AI.
• Inference εστιάζει στη χρήση ενός ήδη εκπαιδευμένου μοντέλου για την παραγωγή αποτελεσμάτων, απαιτώντας λιγότερη υπολογιστική ισχύ αλλά μεγαλύτερη έμφαση σε χαμηλή καθυστέρηση και αποδοτικότητα κόστους.
  • Αυτό γίνεται πιο συχνά από ειδικούς AI που αναπτύσσουν προϋπάρχοντα μοντέλα για την επίλυση προβλημάτων στην πραγματική ζωή.

Έτσι, ενώ τα κόστη είναι προφανώς ανησυχία τόσο για το fine-tuning/εκπαίδευση όσο και για το inference/χρήση της AI, η εκπαίδευση συχνά θα απαιτήσει το καλύτερο δυνατό υλικό, ενώ οι εργασίες χρήσης θα εστιάσουν περισσότερο στο κόστος του υλικού και στην κατανάλωση ενέργειας όταν επιλέγεται η καλύτερη επιλογή υλικού.

CPUs έναντι GPUs

Κεντρικές Μονάδες Επεξεργασίας (CPUs):

Οι CPUs είναι γενικού σκοπού και δεν είναι ειδικό υλικό AI. Ωστόσο, παραμένουν απαραίτητες για την εκτέλεση εντολών και την πραγματοποίηση βασικών υπολογισμών σε συστήματα AI.

Το μεγαλύτερο μέρος του λογισμικού που διαχειρίζεται τη διεπαφή με τους τελικούς χρήστες ενός συστήματος AI θα είναι επίσης κεντρικό στην CPU, είτε πρόκειται για ατομικούς υπολογιστές είτε για λογισμικό στο cloud.

Πηγή: AnandTech

Οι CPUs μπορούν επίσης να χρησιμοποιηθούν για πολύ απλές AI, όπου το εξειδικευμένο υλικό δεν απαιτείται πραγματικά. Αυτό ισχύει ιδιαίτερα όταν η έξοδος δεν είναι επείγουσα, και η σχετικά πιο αργή επεξεργασία AI από τις CPUs δεν αποτελεί πρόβλημα.

Έτσι, μικρά μοντέλα με μικρές παρτίδες δεδομένων και υπολογισμών μπορούν να αποδώσουν καλά στις CPUs. Η πανταχού παρουσία των CPUs σε κανονικούς υπολογιστές τα καθιστά επίσης καλή επιλογή για έναν μέσο χρήστη που δεν επιθυμεί να επενδύσει σε εξειδικευμένο υλικό AI.

Οι CPUs είναι επίσης πολύ αξιόπιστες και σταθερές, καθιστώντας τες καλή επιλογή για κρίσιμες εργασίες όπου το σφάλμα δεν είναι αποδεκτό.

Τέλος, οι CPUs είναι χρήσιμες για ορισμένες εργασίες στην εκπαίδευση AI, γενικά σε συνεργασία με άλλους τύπους υλικού, όπως η φόρτωση δεδομένων, η μορφοποίηση, το φιλτράρισμα και η οπτικοποίηση.

Μονάδες Επεξεργασίας Γραφικών (GPUs):

Αρχικά σχεδιασμένα για απόδοση γραφικών, οι GPUs είναι σχεδιασμένοι για παράλληλη επεξεργασία, καθιστώντας τους ιδανικούς για την εκπαίδευση μοντέλων AI που απαιτούν διαχείριση μεγάλων συνόλων δεδομένων. Η μετάβαση από CPUs σε GPUs έχει μειώσει τους χρόνους εκπαίδευσης από εβδομάδες σε ώρες.

Λόγω της ευρείας διαθεσιμότητάς τους και της εμπειρίας των ειδικών IT στη χρήση τους, οι GPUs ήταν ο πρώτος τύπος υπολογιστικού υλικού που εγκαταστάθηκε σε σειρά για την κλιμάκωση της έρευνας AI.

Πηγή: Aorus

Επίσης καθοριστικός για την επιτυχία των GPUs ήταν η ανάπτυξη του CUDA από τη Nvidia, μια γενικού σκοπού διεπαφή προγραμματισμού για τις GPUs της NVIDIA, ανοίγοντας το δρόμο για άλλες χρήσεις εκτός του gaming. Αυτό έγινε επειδή ορισμένοι ερευνητές χρησιμοποιούσαν ήδη GPUs για την εκτέλεση υπολογισμών αντί των συνήθων υπερυπολογιστών.

“Οι ερευνητές συνειδητοποίησαν ότι αγοράζοντας αυτήν την κάρτα gaming που ονομάζεται GeForce, την προσθέτετε στον υπολογιστή σας, και ουσιαστικά έχετε έναν προσωπικό υπερυπολογιστή.

Δυναμική μορίων, σεισμική επεξεργασία, ανακατασκευή CT, επεξεργασία εικόνας—μια σειρά διαφορετικών πραγμάτων.

Jensen Huang, σε συνέντευξη με τη Sequoia

Σήμερα, οι GPUs εξακολουθούν να είναι ανάμεσα στους πιο περιζήτητους τύπους υλικού AI, με τη Nvidia να δυσκολεύεται να παράγει αρκετό για να ικανοποιήσει τη ζήτηση των τεχνολογικών γιγάντων που χτίζουν κέντρα δεδομένων AI κλίμακας gigawatt.

Είναι επίσης η αρχή της «εποχής super GPU», με την πρόσφατη κυκλοφορία από τη Nvidia του GB200 NVL72.

Αυτό το υλικό σχεδιάστηκε για να λειτουργεί ως μία ενιαία τεράστια GPU απευθείας από το εργοστάσιο, αντί να χρειάζεται η σύνδεση πολλών μικρών. Το καθιστά πολύ πιο ισχυρό ακόμη και από το προηγούμενο ρεκόρ-σπαστικό μοντέλο H100.

Πηγή: Nvidia

Αυτό θα πρέπει επίσης να είναι πολύ πιο ενεργειακά αποδοτικό, ένα κρίσιμο σημείο καθώς η βιομηχανία AI μπορεί να αντιμετωπίσει έλλειψη ενέργειας πριν εξαντληθούν τα τσιπ, με την ταχύτητα που χτίζονται τα κέντρα δεδομένων AI. Και η μεγαλύτερη υπολογιστική & ενεργειακή αποδοτικότητα σημαίνει λιγότερη απώλεια θερμότητας, που προσωρινά λύνει το πρόβλημα υπερθέρμανσης.

Η Άνοδος των ASICs και του Υλικού AI

Τα Ενσωματωμένα Κυκλώματα Ειδικής Εφαρμογής (ASICs) είναι υπολογιστικό υλικό σχεδιασμένο ειδικά για μια συγκεκριμένη υπολογιστική εργασία, καθιστώντας τα ακόμη πιο εξειδικευμένα από τα ακόμη σχετικά γενικά GPUs.

Έτσι, είναι λιγότερο ευέλικτα και προγραμματιζόμενα από το γενικού σκοπού υλικό.

Κατά κανόνα, τείνουν να είναι πιο πολύπλοκα. Επίσης είναι γενικά πιο ακριβά, τόσο λόγω έλλειψης οικονομίας κλίμακας στην παραγωγή τους όσο και του κόστους προσαρμοσμένων σχεδίων.

Ωστόσο, είναι πολύ πιο αποδοτικά στην συγκεκριμένη εργασία τους, συνήθως παράγουν έξοδο πιο γρήγορα με πολύ λιγότερη σπατάλη υπολογιστικής ισχύος και ενέργειας.

Τα ASICs και άλλα εξειδικευμένα υλικά AI αυξάνουν τη χρήση τους, καθώς ο τομέας παρατηρεί σταδιακά ότι ορισμένοι υπολογισμοί δεν γίνονται ιδανικά σε GPUs αλλά απαιτούν πιο εξειδικευμένο εξοπλισμό.

Μονάδες Επεξεργασίας Τανυστών (TPUs)

Οι TPUs αναπτύχθηκαν από τη Google (GOOGL ) ειδικά για την εκτέλεση υπολογισμών τανυστών (σχετιζόμενων με υπολογισμούς βάσει transformers). Είναι βελτιστοποιημένες για υψηλή διαμεταγωγή, χαμηλής ακρίβειας αριθμητική.

Πηγή: C#Corner

Αυτό παρέχει στις TPUs υψηλή απόδοση, αποδοτικότητα και κλιμακωσιμότητα για την εκπαίδευση μεγάλων νευρωνικών δικτύων.

Οι TPUs διαθέτουν εξειδικευμένα χαρακτηριστικά, όπως η μονάδα πολλαπλασιασμού πινάκων (MXU) και η ιδιόκτητη τοπολογία διασύνδεσης, που τις καθιστούν ιδανικές για την επιτάχυνση της εκπαίδευσης και του inference AI.

Οι TPUs τροφοδοτούν το Gemini και όλες τις εφαρμογές AI της Google όπως το Search, το Photos και το Maps, εξυπηρετώντας πάνω από 1 δισεκατομμύριο χρήστες.

Αυτός ο τύπος υλικού μπορεί να επιταχύνει σημαντικά την ανάπτυξη και τη λειτουργία των νευρωνικών δικτύων, όπου το περιστασιακό σφάλμα είναι λιγότερο σημαντικό, καθώς αυτά τα μοντέλα εξαρτώνται σε μεγάλο βαθμό από στατιστικές και μεγάλο αριθμό υπολογισμών.

Ανάμεσα στις εργασίες των τελικών χρηστών, οι πιο κατάλληλες για TPUs είναι η βαθιά μάθηση, η αναγνώριση ομιλίας και η ταξινόμηση εικόνων.

Επεξεργαστές Νευρωνικών Δικτύων (NNPs):

Σχετιζόμενα επίσης με τις Μονάδες Νευρωνικής Επεξεργασίας (NPUs) και αποκαλούμενα νευρομορφικά τσιπ, τα NPPs είναι εξειδικευμένα στην υπολογιστική νευρωνικών δικτύων, σχεδιασμένα να μιμούνται τις νευρωνικές συνδέσεις στον ανθρώπινο εγκέφαλο. Μερικές φορές αποκαλούνται επίσης επιταχυντές AI, αν και ο όρος αυτός είναι λιγότερο σαφής.

Μια NPU ενσωματώνει επίσης αποθήκευση και υπολογισμό μέσω συνάπτων βαρών. Έτσι μπορεί να προσαρμόζεται ή να «μαθαίνει» με την πάροδο του χρόνου, οδηγώντας σε βελτιωμένη λειτουργική αποδοτικότητα.

Μια NPU περιλαμβάνει συγκεκριμένα μοντέλα για πολλαπλασιασμό και πρόσθεση, λειτουργίες ενεργοποίησης, λειτουργίες 2D δεδομένων και αποσυμπίεση.

Το εξειδικευμένο μοντέλο πολλαπλασιασμού και πρόσθεσης χρησιμοποιείται για την εκτέλεση λειτουργιών σχετικών με την επεξεργασία εφαρμογών νευρωνικών δικτύων, όπως ο υπολογισμός πολλαπλασιασμού και πρόσθεσης πινάκων, η συνέλιξη, το εσωτερικό γινόμενο και άλλες λειτουργίες.

Η εξειδίκευση μπορεί να βοηθήσει μια NPU να ολοκληρώσει μια λειτουργία με μόνο έναν υπολογισμό αντί για χιλιάδες με γενικό υλικό. Για παράδειγμα, η IBM ισχυρίζεται ότι η NPU μπορεί να βελτιώσει ριζικά την αποδοτικότητα των υπολογισμών AI σε σύγκριση με τις GPUs.

«Οι δοκιμές έχουν δείξει ότι η απόδοση ορισμένων NPU είναι πάνω από 100 φορές καλύτερη από μια συγκρίσιμη GPU, με την ίδια κατανάλωση ενέργειας.»

Λόγω αυτής της ενεργειακής αποδοτικότητας, οι NPUs είναι δημοφιλείς στους κατασκευαστές για εγκατάσταση σε συσκευές χρηστών, όπου μπορούν να βοηθήσουν στην τοπική εκτέλεση εργασιών για εφαρμογές γενετικής AI, ένα παράδειγμα «edge computing». (δείτε παρακάτω για περισσότερα σχετικά).

Πολλές μέθοδοι εξετάζονται αυτή τη στιγμή για το πώς να δημιουργηθούν νευρομορφικά τσιπ:

• Εκμετάλλευση της αρχικής φεροηλεκτρικότητας, ένα ακόμη ανεπαρκώς κατανοητό φαινόμενο.
• Ενεργό υπόστρωμα που χρησιμοποιεί βανάδιο ή τιτάνιο.
• Χρήση memristors, ένας νέος τύπος ηλεκτρονικού στοιχείου, που μπορεί να εκτελεί εργασίες AI με 1/800^thτης κανονικής κατανάλωσης ενέργειας.

Βοηθητική Μονάδα Επεξεργασίας  (XPUs)

Το XPU συγχωνεύει μαζί CPU (επεξεργαστής), GPU (κάρτα γραφικών / παράλληλοι επεξεργαστές) και μνήμη στην ίδια ηλεκτρονική συσκευή.

Πηγή: Broadcom

Τα XPUs είναι ένας ευρύς όρος, που περιλαμβάνει πολλές παραλλαγές αυτού του concept του ενσωμάτωσης όλου του υλικού σε αυτοσυντηρούμενες μονάδες, συμπεριλαμβανομένων των Μονάδων Επεξεργασίας Δεδομένων (DPUs), Μονάδων Επεξεργασίας Υποδομής (IPUs), και Κάρτες Επιταχυντών Λειτουργίας (FACs).

Τα XPUs θεωρούνται λύση σε ένα αυξανόμενο πρόβλημα των κέντρων δεδομένων AI, το οποίο είναι η αυξανόμενη ανάγκη για συνδεσιμότητα μεταξύ των υπομονάδων, στο σημείο που η καθυστέρηση δεδομένων γίνεται σημαντικός παράγοντας που επιβραδύνει την υπολογιστική ισχύ, περισσότερο από τη διαθέσιμη υπολογιστική ισχύ.

Βασικά, τα τσιπ (GPUs, TPUs, NPPs κ.λπ.) περιμένουν τα δεδομένα όσο και όταν εργάζονται πραγματικά.

Ένας ηγέτης αυτής της τεχνολογίας είναι η Broadcom (AVGO ), η οποία συζητήσαμε λεπτομερώς σε μια αφιερωμένη επενδυτική αναφορά.

Προγραμματιζόμενα Πύλες Πίνακες (FPGAs):

Τα FPGAs είναι προγραμματιζόμενοι επεξεργαστές, καθιστώντας τα σημαντικά πιο ευέλικτα και επαναρυθμιζόμενα από τα πιο άκαμπτα ASICs. Τα FPGAs μπορούν να προσαρμοστούν για συγκεκριμένους αλγόριθμους AI, προσφέροντας ενδεχομένως υψηλότερη απόδοση και ενεργειακή αποδοτικότητα.

Πηγή: Microcontrollers Labs

Η ευελιξία έχει το κόστος της, καθώς τα FPGAs είναι γενικά πιο πολύπλοκα, ακριβά και καταναλώνουν περισσότερη ηλεκτρική ενέργεια. Ωστόσο, μπορούν ακόμη να είναι πιο αποδοτικά από το γενικό υλικό.

Αυτό τα καθιστά κάπως προϊόν εξειδικευμένης αγοράς, όπου η ευελιξία τους αντισταθμίζει τα μειονεκτήματα. Για παράδειγμα, η μηχανική μάθηση, η υπολογιστική όραση και η επεξεργασία φυσικής γλώσσας μπορούν να ωφεληθούν από την πολυμορφία των FPGAs.

Μνήμη Υψηλού Πλάτους Ζώνης (HBM):

Οι πιο σημαντικές εξελίξεις στο προσαρμοσμένο υλικό AI-κεντρικό έχουν γίνει στον τομέα της υπολογιστικής ισχύος, για μεγάλο χρονικό διάστημα το σημείο συμφόρησης στην κατασκευή περισσότερης υπολογιστικής χωρητικότητας για την εκπαίδευση νέων AI.

Ωστόσο, αυτά τα συστήματα χρειάζονται επίσης συστήματα υποστήριξης υψηλής αποδοτικότητας, εκ των οποίων η μνήμη είναι σημαντική. Η HBM παρέχει, όπως υποδεικνύει το όνομά της, μεγαλύτερο εύρος ζώνης από τη συμβατική DRAM.

Το επιτυγχάνεται με την κατακόρυφη στοίβαξη πολλαπλών DRAM dies και τη σύνδεσή τους μέσω διατρυπτικών διαδρόμων (TSVs). Η πρώτη γενιά της HBM αναπτύχθηκε το 2013.

Η κατακόρυφη στοίβαξη εξοικονομεί χώρο και μειώνει την φυσική απόσταση που πρέπει να διανύσουν τα δεδομένα, επιταχύνοντας τη μεταφορά δεδομένων, κάτι απαραίτητο στην υπολογιστική AI.

Οι HBM είναι πιο πολύπλοκες στην κατασκευή και ακριβότερες από τη DRAM, αλλά τα οφέλη απόδοσης και ενεργειακής αποδοτικότητας συχνά δικαιολογούν το υψηλότερο κόστος για εφαρμογές AI.

Υποδομή Κέντρων Δεδομένων AI: Ενέργεια, Ψύξη & Συνδεσιμότητα

Εκτός από τη μνήμη και την υπολογιστική ισχύ, τα βοηθητικά συστήματα των κέντρων δεδομένων AI είναι επίσης σημαντικά. Χωρίς αυτά, τα δεδομένα δεν μπορούν να κυκλοφορούν αρκετά γρήγορα, τα τσιπ θα υπερθερμαίνονται ή η διαθέσιμη ενέργεια θα είναι ανεπαρκής.

Αυτό σημαίνει ότι, για παράδειγμα, το υλικό συνδεσιμότητας της Broadcom ωφελείται επίσης σημαντικά από την ανάπτυξη κέντρων δεδομένων AI, όπως και εξειδικευμένες λύσεις όπως προμηθευτές εξοπλισμού ψύξης, π.χ., Vertiv (VRT ) ή Schneider Electric (SU.PA).

Η παροχή ενέργειας μπορεί επίσης να γίνει πρόβλημα, και αρκετοί τεχνολογικοί γίγαντες προσπαθούν να το αντιμετωπίσουν επενδύοντας στην πυρηνική ενέργεια, με την πρώτη κίνηση από τη Microsoft το 2024, ακολουθούμενη από πολλούς άλλους από τότε.

Σε συνδυασμό με τη δέσμευση των τεχνολογικών εταιρειών να μειώσουν το αποτύπωμα άνθρακα της AI, αυτό θα ωφελήσει σημαντικά τις εταιρείες στον πυρηνικό ή ανανεώσιμο τομέα ενέργειας, όπως η Cameco (CCJ ), GE Vernova (GEV ), First Solar (FSLR ), NextEra (NEE ), ή Brookfield Energy Partners (BEP ) (ακολουθήστε τους συνδέσμους για μια αναφορά για κάθε εταιρεία).

Αναδυόμενες Τεχνολογίες Υπολογισμού AI

Κβαντική Υπολογιστική

Επειδή η AI είναι τόσο πεινασμένη για υπολογιστική ισχύ, είναι πιθανό το μέλλον του υλικού του τομέα να μην είναι ακόμη με τις τρέχουσες διαθέσιμες πυριτιδικές λύσεις.

Μία πιθανότητα είναι ότι η κβαντική υπολογιστική θα μπορούσε να χρησιμοποιηθεί για την ανίχνευση προτύπων πολύ πιο αποδοτικά από ό,τι μπορεί η κλασική υπολογιστική, κάτι που ήδη έχουν εξερευνήσει οι ερευνητές.

Η κβαντική υπολογιστική συνολικά θα μπορούσε να χρησιμοποιηθεί για την επίλυση ορισμένων συγκεκριμένων υπολογισμών που είναι σχεδόν αδύνατοι με τη δυαδική υπολογιστική. Αυτό πιθανότατα θα εφαρμοστεί τελικά στην AI, αλλά οι πρώτοι εμπορικοί κβαντικοί υπολογιστές είναι ακόμη λίγα χρόνια μακριά, και ένα μεγάλο κβαντικό δίκτυο ακόμη πιο μακριά.

Φωτονική

Χρησιμοποιώντας φως αντί για ηλεκτρόνια για τη μεταφορά δεδομένων, η φωτονική θα μπορούσε να είναι πολύ πιο γρήγορη από τις ηλεκτρονικές συσκευές.

Επειδή οι κβαντικοί υπολογιστές συνήθως μεταφέρουν κβαντικά δεδομένα με διεμπλεγμένα φωτόνια, υπάρχει επίσης μεγάλη επικάλυψη μεταξύ κβαντικής υπολογιστικής και φωτονικής, και το πρώτο διπλό κβαντικό-φωτονικό τσιπ έχει ήδη ανακοινωθεί.

Οργανίδια

Καθώς η πλειονότητα της AI αντιγράφει σε υπολογιστές τη λειτουργία των νευρωνικών δικτύων του εγκεφάλου, ορισμένοι ερευνητές αναρωτιούνται αν δεν θα μπορούσαμε αντίθετα να χρησιμοποιήσουμε … πραγματικά νευρωνικά κύτταρα.

Αυτή είναι μια ενδιαφέρουσα ιδέα, ειδικά καθώς ορισμένες έρευνες θα μπορούσαν να υποδείξουν ότι ο εγκέφαλος είναι στην πραγματικότητα ένας οργανικός κβαντικός υπολογιστής.

Αυτός ο τύπος «υπολογιστή» ονομάζεται οργανίδια, και ουσιαστικά αποτελείται από νευρώνες που καλλιεργούνται σε εργαστήριο πάνω σε τσιπ υπολογιστή. Οι νευρώνες στη συνέχεια αυτοοργανώνονται τα νήματα και τις συνδέσεις τους ως αντίδραση στο ερέθισμα του τσιπ.

Αυτή η τεχνολογία είναι ακόμη νέα και βασίζεται στην βιο-3Δ εκτύπωση.

Άλλα

Εξερευνήσαμε άλλες εναλλακτικές λύσεις στην πυριτιδική υπολογιστική στο «Top 10 Non-Silicon Computing Companies», όπως το βανάδιο οξείδιο, το γραφένιο, η ερυθρό-οξειδωτική πύλη ή οργανικά υλικά.

Κάθε μία υπόσχεται είτε να είναι πολύ πιο γρήγορη είτε πολύ λιγότερο ενεργοβόρα από την κλασική υπολογιστική βασισμένη σε πυρίτιο. Ωστόσο, είναι ακόμη σχετικά νέες και απίθανο να επαναστατικοποιήσουν τον τομέα της AI σε εμπορική κλίμακα, τουλάχιστον για τα επόμενα 5-10 χρόνια.

Cloud AI και Edge AI: Τάσεις Προσβασιμότητας

Cloud AI

Καθώς τα πιο ισχυρά συστήματα AI δημιουργούνται από μεγάλες τεχνολογικές εταιρείες, είναι κυρίως προσβάσιμα μέσω του cloud. Το ίδιο ισχύει και για την πρόσβαση στο εξειδικευμένο υλικό AI.

Ο ηγέτης αυτής της τάσης είναι η Coreweave (CRCW ), μια εταιρεία που μεταφέρθηκε από πάροχο cloud σε εξόρυξη κρυπτονομισμάτων χρησιμοποιώντας GPUs, και σήμερα παρέχει υπολογιστική AI κατά απαίτηση.

Αυτό έκανε την CoreWeave βασικό συνεργάτη των ανερχόμενων νεοσύστατων AI που προσπαθούν να ανταγωνιστούν τους τεχνολογικούς γιγάντες, όπως η  Inflection AI και το GPU cluster των $1,3 δισ. , χρηματοδοτημένο από μια νέα γύρο χρηματοδότησης.

“Δύο μήνες πριν, μια εταιρεία ίσως δεν υπήρχε, και τώρα μπορεί να έχει $500 εκατομμύρια χρηματοδότηση venture capital.

Και το πιο σημαντικό για αυτήν είναι να εξασφαλίσει πρόσβαση σε υπολογιστική ισχύ· δεν μπορεί να λανσάρει το προϊόν της ή την επιχείρησή της μέχρι να το έχει,”

Brian Venturo – CoreWeave CTO

Καθώς ο καθαρός παίκτης στο υλικό AI γίνεται επιφυλακτικός για το ότι οι μεγάλες τεχνολογίες παράγουν τα δικά τους GPUs, TPUs, XPUs κ.λπ. και μεταβαίνουν από πελάτες σε ανταγωνιστές, είναι πιθανό ότι εταιρείες όπως η CoreWeave θα έχουν προτεραιότητα πρόσβασης στην τελευταία κυκλοφορία υλικού από τη Nvidia και άλλους.

Αυτό το επιχειρηματικό μοντέλο θα είναι πιθανώς ιδιαίτερα σημαντικό για την εκπαίδευση AI, η οποία απαιτεί πολύ μεγαλύτερη υπολογιστική χωρητικότητα από τη χρήση ήδη εκπαιδευμένων AI.

Edge Computing & AI PCs

Ένα άλλο παράδειγμα υπολογισμού AI που εξελίσσεται γρήγορα είναι η ανάγκη να γίνεται η επεξεργασία των συστημάτων AI επί τόπου, όσο πιο κοντά γίνεται σε πραγματικές καταστάσεις.

Αυτό είναι απαραίτητο για συστήματα που δεν μπορούν να αντέξουν την αποσύνδεση από την AI εάν αποτύχει η σύνδεση, ή όταν η καθυστέρηση της ανταλλαγής δεδομένων με το cloud είναι πολύ αργή.

Ένα καλό παράδειγμα είναι τα αυτόνομα οχήματα, τα οποία αναμένεται να κατανοούν το περιβάλλον τους εκτός σύνδεσης.

Αυτός ο τύπος υπολογισμού ονομάζεται edge computing και ωφελείται σημαντικά από πιο αποδοτικό και λιγότερο ενεργοβόρο υλικό.

Μπορεί να αυξήσει την αξιοπιστία της AI, και καθώς τα μοντέλα γίνονται πιο αποδοτικά, όπως δείχνει η πρόοδος της DeepSeek, μπορεί να γίνει ένα πιο διαδεδομένο μοντέλο διάθεσης AI στο μέλλον.

Για τον ίδιο λόγο, τα AI PCs όπως αυτό που κυκλοφόρησε πρόσφατα η Nvidia, ενδέχεται μακροπρόθεσμα να είναι επαρκή για την εκτέλεση πολλών εφαρμογών AI τοπικά, αυξάνοντας την ιδιωτικότητα και την ασφάλεια σε σύγκριση με τις AI που είναι πάντα συνδεδεμένες στο cloud.

Συμπέρασμα

Το υλικό AI ήταν για κάποιο διάστημα σχεδόν συνώνυμο με τις GPUs, καθώς οι κάρτες γραφικών ήταν πολύ πιο αποδοτικές στην εκπαίδευση AI από άλλους τύπους υλικού όπως οι CPUs. Αυτό δημιούργησε την περιουσία της Nvidia και πολλών από τους πρώτους μετόχους της.

Οι GPUs, ειδικά οι AI-εστιασμένες «super GPUs», είναι πιθανό να παραμείνουν σημαντικές στην κατασκευή κέντρων δεδομένων AI. Αλλά θα εξελιχθούν ώστε να γίνουν μόνο ένα από τα συστατικά όλο και πιο σύνθετων και εξειδικευμένων συστημάτων.

Οι λειτουργίες των transformers θα αποστέλλονται στις TPUs, τα νευρωνικά δίκτυα στις NPP, οι επαναλαμβανόμενες εργασίες σε εξειδικευμένα ASIC ή επαναρυθμιζόμενα FPGAs.

Εν τω μεταξύ, η μνήμη υψηλού εύρους ζώνης, οι προηγμένοι τηλεπικοινωνιακοί συνδέσμοι και η εξαιρετικά αποδοτική ψύξη θα διατηρούν όλες τις βοηθητικές λειτουργίες γύρω από τον πυρήνα υπολογισμού σε λειτουργ