Επένδυση σε υλικό τεχνητής νοημοσύνης: Από CPU έως XPU

Επένδυση σε υλικό τεχνητής νοημοσύνης: Η προσέγγιση "επιλογές και φτυάρια"

Η Τεχνητή Νοημοσύνη υπόσχεται να αποτελέσει την πιο σημαντική αλλαγή στην οικονομία μας, τα παραγωγικά συστήματα και την κοινωνία μας τις τελευταίες δεκαετίες, καθιστώντας ενδεχομένως ακόμη και τις ριζικές αλλαγές που έφερε το Διαδίκτυο ασήμαντες σε σύγκριση.

Θα μπορούσε να εξαφανίσει μια ολόκληρη κατηγορία θέσεων εργασίας, συμπεριλαμβανομένων των οδηγών, των μεταφραστών, της υποστήριξης πελατών, των σχεδιαστών ιστοσελίδων κ.λπ. Άλλες θέσεις εργασίας ενδέχεται να παρουσιάσουν ριζική μείωση της ζήτησης, όπως οι προγραμματιστές, οι δικηγόροι εισαγωγικού επιπέδου, οι διαγνώστες κ.λπ.

Θα πρέπει επίσης να δημιουργήσει μεγάλη πρόσθετη αξία και παραγωγικότητα για πολλές άλλες εργασίες, με τις κυρίαρχες εταιρείες λογισμικού τεχνητής νοημοσύνης να είναι πιθανώς οι πρώτες που θα φτάσουν σε κεφαλαιοποιήσεις αγοράς που προηγουμένως ήταν αδιανόητες.

Για όλους αυτούς τους λόγους, οι κεφαλαιαγορές και οι επενδυτές έχουν γοητευτεί από την Τεχνητή Νοημοσύνη και δίνουν μεγάλη προσοχή στην πρόοδο των πολλών τεχνολογικών γιγάντων στον τομέα της, καθώς και στον έντονο ανταγωνισμό που προκύπτει από κινεζικούς τεχνολογικούς γίγαντες όπως... Alibaba και νεοσύστατες επιχειρήσεις όπως DeepSeek.

Ένας άλλος τρόπος για να αξιοποιήσετε την άνθηση της τεχνητής νοημοσύνης είναι να ακολουθήσετε τη στρατηγική που είναι γνωστό ότι λειτουργεί σε κάθε χρυσοθήρα: μην ψάχνετε για χρυσό, αλλά πουλήστε τις αξίνες και τα φτυάρια. Αυτό σίγουρα έχει λειτουργήσει για τις εταιρείες που τυχαίνει να βρίσκονται στην καλύτερη θέση για να πουλήσουν υλικό βελτιστοποιημένο για τεχνητή νοημοσύνη, με Nvidia (NVDA + 4.47%) έχοντας μετατρέψει τις κάρτες γραφικών παιχνιδιών σε τσιπ εκπαίδευσης τεχνητής νοημοσύνης, καθιστώντας την την πιο πολύτιμη εταιρεία στον κόσμο, έχοντας ξεπεράσει την εκπληκτική κεφαλαιοποίηση αγοράς των 4 τρισεκατομμυρίων δολαρίων (Ακολουθήστε τον σύνδεσμο για μια πλήρη αναφορά σχετικά με την Nvidia).

Επειδή η Τεχνητή Νοημοσύνη απαιτεί πολύ συγκεκριμένο υλικό, κυρίως διαφορετικό από άλλες προηγούμενες μορφές υπολογιστικών εργασιών, και αποτελεί μια τόσο τεράστια επιχειρηματική ευκαιρία, η βιομηχανία ημιαγωγών βρίσκεται τώρα σε έναν αγώνα δρόμου για την ανάπτυξη νέων μορφών υλικού σχεδιασμένων ειδικά για την εκπαίδευση και την εκτέλεση προγραμμάτων Τεχνητής Νοημοσύνης.

Ενώ η Nvidia είναι πιθανό να παραμείνει μία από τις κορυφαίες εταιρείες στον κλάδο, τώρα αναδύονται εναλλακτικές λύσεις που θα μπορούσαν να προσφέρουν ενδιαφέρουσες ευκαιρίες σε επενδυτές που θα δώσουν προσοχή νωρίς.

Γιατί η Τεχνητή Νοημοσύνη Χρειάζεται Εξειδικευμένο Υλικό

Πολλοί μικροί υπολογισμοί

Οι αρχικές προσπάθειες στην Τεχνητή Νοημοσύνη χρησιμοποίησαν την ίδια υπολογιστική χωρητικότητα με άλλα προγράμματα, εστιάζοντας κυρίως σε επεξεργαστές (Κεντρική Μονάδα Επεξεργασίας – CPU). Οι CPU εξακολουθούν να είναι σημαντικές, αλλά γρήγορα φάνηκε ότι δεν είναι βέλτιστες για τις περισσότερες από τις μεθόδους που χρησιμοποιούνται σήμερα για την ανάπτυξη τεχνολογιών τεχνητής νοημοσύνης.

Τα νευρωνικά δίκτυα και άλλες παρόμοιες μέθοδοι απαιτούν πολλούς σχετικά απλούς υπολογισμούς, αντί για έναν πολύ περίπλοκο υπολογισμό. Η παράλληλη λειτουργία πολλών μικρότερων τσιπ είναι γενικά καλύτερη από ό,τι σε τεράστιες και ισχυρές CPU.

Αυτός είναι σε μεγάλο βαθμό ο λόγος για τον οποίο οι GPU έγιναν γρήγορα πιο δημοφιλείς, καθώς οι κάρτες γραφικών είναι εγγενώς σχεδιασμένες να εκτελούν χιλιάδες μικρότερους υπολογισμούς παράλληλα.

Η σημερινή εκπαίδευση στην Τεχνητή Νοημοσύνη βασίζεται σε μεγάλο βαθμό σε νευρωνικά δίκτυα, μια έννοια που κέρδισε το βραβείο Νόμπελ Φυσικής το 2024, μια ανταμοιβή που καλύψαμε λεπτομερώς σε ένα ειδικό άρθρο εκείνη την εποχή.

Πηγή: βραβείο Νόμπελ

Μια δεύτερη επανάσταση στην τεχνολογία τεχνητής νοημοσύνης ήρθε με τους «μετασχηματιστές». Λύνουν τα προβλήματα των παραδοσιακών νευρωνικών δικτύων. αδυναμία αποτελεσματικής επεξεργασίας μεγάλων ακολουθιών δεδομένων, ένα κοινό χαρακτηριστικό οποιασδήποτε φυσικής γλώσσας.

Παρουσιάστηκε για πρώτη φορά το 2017 από ερευνητές της Google και αποτελεί τη βασική αιτία της τρέχουσας έκρηξης στην ικανότητα της Τεχνητής Νοημοσύνης. Οι μετασχηματιστές βρίσκονται στον πυρήνα προϊόντων Τεχνητής Νοημοσύνης, όπως τα LLM (Large Language Models), συμπεριλαμβανομένου του ChatGPT.

Διαφορετικές απαιτήσεις

Μια σημαντική διάκριση στις ροές εργασίας της Τεχνητής Νοημοσύνης είναι η διαφορά μεταξύ τελειοποίηση και συμπερασματολογία, τα οποία και τα δύο έχουν ξεχωριστές απαιτήσεις υλικού.

• Βελτιστοποίηση περιλαμβάνει την εκπαίδευση ενός μοντέλου σε δεδομένα που αφορούν συγκεκριμένα πεδία, απαιτώντας σημαντική υπολογιστική ισχύ και μνήμη. Είναι ένα πολύ τεχνικό έργο, συχνά στην αιχμή της επιστήμης της Τεχνητής Νοημοσύνης.
• Συμπέρασμα εστιάζει στη χρήση ενός ήδη εκπαιδευμένου μοντέλου για την παραγωγή αποτελεσμάτων, απαιτώντας λιγότερη υπολογιστική ισχύ αλλά με μεγαλύτερη έμφαση στη χαμηλή καθυστέρηση και την οικονομική αποδοτικότητα.
  • Αυτό γίνεται πιο συστηματικά από ειδικούς στην Τεχνητή Νοημοσύνη που αναπτύσσουν προϋπάρχοντα μοντέλα για την επίλυση προβλημάτων της πραγματικής ζωής.

Έτσι, ενώ το κόστος αποτελεί προφανώς μια ανησυχία τόσο για την τελειοποίηση/εκπαίδευση όσο και για την εξαγωγή συμπερασμάτων/χρήση της Τεχνητής Νοημοσύνης, η εκπαίδευση συχνά απαιτεί το καλύτερο δυνατό υλικό, ενώ οι εργασίες χρήσης θα επικεντρωθούν περισσότερο στο κόστος του υλικού και την κατανάλωση ενέργειας κατά την επιλογή της καλύτερης επιλογής υλικού.

CPU έναντι GPU

Κεντρικές Μονάδες Επεξεργασίας (CPU):

Οι CPU είναι γενικής χρήσης και όχι ειδικά υλικό τεχνητής νοημοσύνης. Ωστόσο, εξακολουθούν να είναι απαραίτητες για την εκτέλεση εντολών και βασικών υπολογισμών σε συστήματα τεχνητής νοημοσύνης.

Το μεγαλύτερο μέρος του λογισμικού που χειρίζεται τη διεπαφή με τους τελικούς χρήστες ενός συστήματος Τεχνητής Νοημοσύνης θα είναι επίσης επικεντρωμένο στην CPU, είτε πρόκειται για μεμονωμένους υπολογιστές είτε για λογισμικό που βασίζεται στο cloud.

Πηγή: AnandTech

Οι CPU μπορούν επίσης να χρησιμοποιηθούν για πολύ απλές AI, όπου δεν απαιτείται στην πραγματικότητα ειδικό υλικό. Αυτό ισχύει ιδιαίτερα όταν η έξοδος δεν είναι ιδιαίτερα επείγουσα και η σχετικά πιο αργή επεξεργασία AI των CPU δεν αποτελεί πρόβλημα.

Έτσι, τα μικρά μοντέλα με μικρές ποσότητες δεδομένων και υπολογισμών μπορούν να αποδώσουν καλά σε CPU. Η πανταχού παρουσία CPU σε κανονικούς υπολογιστές το καθιστά επίσης μια καλή επιλογή για έναν μέσο χρήστη που δεν είναι διατεθειμένος να επενδύσει σε υλικό ειδικά για τεχνητή νοημοσύνη.

Οι CPU είναι επίσης πολύ αξιόπιστες και σταθερές, καθιστώντας τες μια καλή επιλογή για κρίσιμες εργασίες όπου η απουσία σφάλματος είναι σημαντικό κριτήριο.

Τέλος, οι CPU είναι χρήσιμες για ορισμένες από τις εργασίες στην εκπαίδευση στην Τεχνητή Νοημοσύνη, γενικά σε συνεργασία με άλλους τύπους υλικού, όπως η φόρτωση δεδομένων, η μορφοποίηση, το φιλτράρισμα και η οπτικοποίηση.

Μονάδες Επεξεργασίας Γραφικών (GPU):

Αρχικά σχεδιασμένες για απόδοση γραφικών, οι GPU έχουν σχεδιαστεί για παράλληλη επεξεργασία, γεγονός που τις καθιστά ιδανικές για την εκπαίδευση μοντέλων τεχνητής νοημοσύνης που απαιτούν χειρισμό μεγάλων συνόλων δεδομένων. Η μετάβαση από CPU σε GPU έχει μειώσει τους χρόνους εκπαίδευσης από εβδομάδες σε ώρες.

Λόγω της ευρείας διαθεσιμότητάς τους και της εμπειρίας των ειδικών πληροφορικής που συνεργάστηκαν μαζί τους, οι GPU ήταν ο πρώτος τύπος υπολογιστικού υλικού που εγκαταστάθηκε σε σειρά για την κλιμάκωση της έρευνας για την Τεχνητή Νοημοσύνη.

Πηγή: Aorus

Επίσης, καθοριστική ήταν η ανάπτυξη του CUDA από την Nvidia, μιας διεπαφής προγραμματισμού γενικής χρήσης για τις GPU της NVIDIA, ανοίγοντας την πόρτα για άλλες χρήσεις εκτός από τα παιχνίδια. Αυτό έγινε επειδή ορισμένοι ερευνητές χρησιμοποιούσαν ήδη GPU για την εκτέλεση υπολογισμών αντί των συνηθισμένων υπερυπολογιστών.

«Οι ερευνητές συνειδητοποίησαν ότι αγοράζοντας αυτήν την κάρτα γραφικών που ονομάζεται GeForce, την προσθέτετε στον υπολογιστή σας και ουσιαστικά αποκτάτε έναν προσωπικό υπερυπολογιστή.»

Μοριακή δυναμική, σεισμική επεξεργασία, αξονική τομογραφία, επεξεργασία εικόνας - ένα σωρό διαφορετικά πράγματα.

Ο Jensen Huang, σε συνέντευξή του στο Sequoia

Σήμερα, οι GPU εξακολουθούν να συγκαταλέγονται στους πιο περιζήτητους τύπους υλικού τεχνητής νοημοσύνης, με την Nvidia να καταφέρνει μετά βίας να παράγει αρκετά για να ικανοποιήσει τη ζήτηση των τεχνολογικών γιγάντων που κατασκευάζουν κέντρα δεδομένων τεχνητής νοημοσύνης κλίμακας γιγαβάτ.

Είναι επίσης η αρχή της «εποχής των super GPU», με την πρόσφατη κυκλοφορία από την Nvidia του το GB200 NVL72.

Αυτό το υλικό έχει σχεδιαστεί για να λειτουργεί ως μία ενιαία, τεράστια GPU απευθείας από το εργοστάσιο, αντί να χρειάζεται να δικτυώνει πολλές μικρές. Αυτό το καθιστά πολύ πιο ισχυρό ακόμη και από το προηγούμενο ρεκόρ μοντέλο H100.

Πηγή: Nvidia

Αυτό θα πρέπει επίσης να είναι πολύ πιο ενεργειακά αποδοτικό, ένα κρίσιμο σημείο, καθώς η βιομηχανία τεχνητής νοημοσύνης ενδέχεται να παρουσιάσει έλλειψη ενέργειας πριν από την έλλειψη τσιπ με την ταχύτητα με την οποία κατασκευάζονται τα κέντρα δεδομένων τεχνητής νοημοσύνης. Και περισσότερη πληροφορική και ενεργειακή απόδοση σημαίνουν λιγότερη σπατάλη θερμότητας, η οποία λύνει προσωρινά και το πρόβλημα της υπερθέρμανσης.

Η άνοδος των ASIC και του υλικού τεχνητής νοημοσύνης

Τα ολοκληρωμένα κυκλώματα ειδικής εφαρμογής (ASIC) είναι υλικό υπολογιστών που έχει σχεδιαστεί ειδικά για μια δεδομένη υπολογιστική εργασία, καθιστώντας τα ακόμη πιο εξειδικευμένα από τις σχετικά γενικευμένες GPU.

Έτσι, είναι λιγότερο ευέλικτα και προγραμματιζόμενα από το υλικό γενικής χρήσης.

Κατά κανόνα, τείνουν να είναι πιο περίπλοκα. Είναι επίσης γενικά πιο δαπανηρά, τόσο λόγω έλλειψης οικονομιών κλίμακας για την παραγωγή τους όσο και λόγω του κόστους των προσαρμοσμένων σχεδίων.

Είναι, ωστόσο, πολύ πιο αποτελεσματικά στην εργασία τους, συνήθως παράγουν αποτελέσματα πιο γρήγορα με πολύ λιγότερη σπατάλη υπολογιστικής ισχύος και ενέργειας.

Τα ASIC και άλλο υλικό ειδικά για τεχνητή νοημοσύνη (AI) παρουσιάζουν αυξανόμενη χρήση, καθώς ο τομέας παρατηρεί σταδιακά ότι ορισμένοι υπολογισμοί δεν γίνονται ιδανικά σε GPU, αλλά απαιτούν πιο εξειδικευμένο εξοπλισμό.

Μονάδες επεξεργασίας τανυστή (TPU)

Οι TPU αναπτύχθηκαν από την Google (GOOGL + 4.03%) ειδικά για την εκτέλεση υπολογισμών τανυστών (συνδεδεμένων με λογισμό που βασίζεται σε μετασχηματιστές). Είναι βελτιστοποιημένα για αριθμητική υψηλής απόδοσης και χαμηλής ακρίβειας.

Πηγή: C#Γωνία

Αυτό δίνει στις TPU υψηλή απόδοση, αποδοτικότητα και επεκτασιμότητα για την εκπαίδευση μεγάλων νευρωνικών δικτύων.

Οι TPU διαθέτουν εξειδικευμένα χαρακτηριστικά, όπως η μονάδα πολλαπλασιασμού μήτρας (MXU) και η ιδιόκτητη τοπολογία διασύνδεσης, που τις καθιστούν ιδανικές για την επιτάχυνση της εκπαίδευσης και της συμπερασματολογίας με τεχνητή νοημοσύνη.

Οι TPU τροφοδοτούν το Gemini και όλες τις εφαρμογές της Google με τεχνητή νοημοσύνη, όπως η Αναζήτηση, οι Φωτογραφίες και οι Χάρτες, εξυπηρετώντας πάνω από 1 δισεκατομμύριο χρήστες.

Αυτός ο τύπος υλικού μπορεί να επιταχύνει σημαντικά την ανάπτυξη και τη λειτουργία των νευρωνικών δικτύων, όπου τα περιστασιακά σφάλματα είναι λιγότερο σημαντικά, καθώς αυτά τα μοντέλα εξαρτώνται σε μεγάλο βαθμό από στατιστικά στοιχεία και από έναν μεγάλο αριθμό υπολογισμών εξαρχής.

Μεταξύ των εργασιών τελικού χρήστη, οι πιο κατάλληλες για TPU είναι η βαθιά μάθηση, η αναγνώριση ομιλίας και η ταξινόμηση εικόνων.

Επεξεργαστές Νευρωνικών Δικτύων (NNP):

Συνδεδεμένες επίσης με Μονάδες Νευρωνικής Επεξεργασίας (NPUs) και ονομαζόμενες νευρομορφικά τσιπ, οι NPPs ειδικεύονται στον υπολογισμό νευρωνικών δικτύων, σχεδιασμένες να μιμούνται τις νευρωνικές συνδέσεις στον ανθρώπινο εγκέφαλο. Μερικές φορές ονομάζονται επίσης επιταχυντές τεχνητής νοημοσύνης, αν και αυτός ο όρος είναι λιγότερο σαφώς ορισμένος.

Μια NPU θα ενσωματώνει επίσης την αποθήκευση και τον υπολογισμό μέσω συναπτικών βαρών. Έτσι, μπορεί να προσαρμόζεται ή να «μαθαίνει» με την πάροδο του χρόνου, οδηγώντας σε βελτιωμένη λειτουργική αποδοτικότητα.

Μια NPU περιλαμβάνει συγκεκριμένες ενότητες για πολλαπλασιασμό και πρόσθεση, συναρτήσεις ενεργοποίησης, λειτουργίες δισδιάστατων δεδομένων και αποσυμπίεση.

Η εξειδικευμένη ενότητα πολλαπλασιασμού και πρόσθεσης χρησιμοποιείται για την εκτέλεση λειτουργιών σχετικών με την επεξεργασία εφαρμογών νευρωνικών δικτύων, όπως ο υπολογισμός πολλαπλασιασμού και πρόσθεσης πινάκων, η συνέλιξη, το τελικό γινόμενο και άλλες συναρτήσεις.

Η εξειδίκευση μπορεί να βοηθήσει μια NPU να ολοκληρώσει μια λειτουργία με έναν μόνο υπολογισμό αντί για αρκετές χιλιάδες με ένα γενικό υλικό. Για παράδειγμα, Η IBM ισχυρίζεται ότι η NPU μπορεί να βελτιώσει ριζικά την απόδοση των υπολογισμών με τεχνητή νοημοσύνη σε σύγκριση με τις GPU.

«Οι δοκιμές έχουν δείξει ότι η απόδοση ορισμένων NPU είναι πάνω από 100 φορές καλύτερη από μια συγκρίσιμη GPU, με την ίδια κατανάλωση ενέργειας.»

Λόγω αυτής της ενεργειακής απόδοσης, οι μονάδες NPU είναι δημοφιλείς στους κατασκευαστές για εγκατάσταση σε συσκευές χρηστών, όπου μπορούν να βοηθήσουν στην εκτέλεση τοπικών εργασιών για εφαρμογές γενετικής τεχνητής νοημοσύνης, ένα παράδειγμα «edge computing». (δείτε παρακάτω για περισσότερες πληροφορίες σχετικά με αυτό το θέμα).

Πολλές μέθοδοι διερευνώνται επί του παρόντος για τον τρόπο δημιουργίας νευρομορφικών τσιπ:

• Μόχλευση αρχικού σιδηροηλεκτρισμού, ένα ακόμα ελάχιστα κατανοητό φαινόμενο.
• Ενεργό υπόστρωμα με χρήση βαναδίου ή τιτανίου.
• Χρήση memristors, ένα νέο είδος ηλεκτρονικού εξαρτήματος, το οποίο μπορεί εκτελέστε εργασίες AI στο 1/800^thτης κανονικής κατανάλωσης ενέργειας.

Aβοηθητικός Pεπεξεργασία Uκόνιδα ψείρας (XPU)

Το XPU συγχωνεύει την CPU (επεξεργαστή), την GPU (κάρτα γραφικών / παράλληλους επεξεργαστές) και τη μνήμη στην ίδια ηλεκτρονική συσκευή.

Πηγή: Broadcom

Οι XPU είναι ένας ευρύς όρος, που περιλαμβάνει πολλές παραλλαγές αυτής της έννοιας της ενσωμάτωσης όλου του υλικού σε αυτόνομες μονάδες, συμπεριλαμβανομένων Μονάδες επεξεργασίας δεδομένων (DPU), Μονάδες Επεξεργασίας Υποδομών (IPU), και Κάρτες Επιτάχυνσης Λειτουργιών (FAC).

Οι μονάδες XPU θεωρούνται ότι λύνουν ένα αυξανόμενο πρόβλημα των κέντρων δεδομένων τεχνητής νοημοσύνης, το οποίο είναι η αυξανόμενη ανάγκη για συνδεσιμότητα μεταξύ των υπομονάδων, σε σημείο που η καθυστέρηση δεδομένων καθίσταται σημαντικός παράγοντας επιβράδυνσης της υπολογιστικής ισχύος, περισσότερο από την διαθέσιμη υπολογιστική ισχύ.

Ουσιαστικά, τα τσιπ (GPU, TPU, NPP, κ.λπ.) περιμένουν τα δεδομένα όσο κι αν λειτουργούν στην πραγματικότητα.

Ένας ηγέτης αυτής της τεχνολογίας είναι η Broadcom. (AVGO + 4.24%), Το οποίο συζητήσαμε λεπτομερώς σε μια ειδική έκθεση επενδύσεων.

Συστοιχίες πυλών με προγραμματισμό πεδίου (FPGA):

Τα FPGA είναι προγραμματιζόμενοι επεξεργαστές, γεγονός που τα καθιστά σημαντικά πιο ευέλικτα και αναδιαμορφώσιμα από τα πιο άκαμπτα ASIC. Τα FPGA μπορούν να προσαρμοστούν για συγκεκριμένους αλγόριθμους τεχνητής νοημοσύνης, προσφέροντας δυνητικά υψηλότερη απόδοση και ενεργειακή απόδοση.

Πηγή: Εργαστήρια μικροελεγκτών

Η ευελιξία έχει ένα κόστος, καθώς τα FPGA είναι γενικά πιο πολύπλοκα, ακριβά και καταναλώνουν περισσότερη ηλεκτρική ενέργεια. Ωστόσο, μπορούν να είναι πιο αποτελεσματικά από το γενικό υλικό.

Αυτό τα καθιστά κάπως ένα εξειδικευμένο προϊόν, όπου η ευελιξία τους αντισταθμίζει τα μειονεκτήματα. Για παράδειγμα, η μηχανική μάθηση, η υπολογιστική όραση και η επεξεργασία φυσικής γλώσσας μπορούν να επωφεληθούν από την ευελιξία των FPGA.

Μνήμη υψηλού εύρους ζώνης (HBM):

Οι σημαντικότερες εξελίξεις στο προσαρμοσμένο υλικό με επίκεντρο την Τεχνητή Νοημοσύνη αφορούν τον τομέα της υπολογιστικής ισχύος, ο οποίος για μεγάλο χρονικό διάστημα αποτελούσε το κρίσιμο σημείο στην ανάπτυξη περισσότερης υπολογιστικής ικανότητας για την εκπαίδευση νέων Τεχνητών Νοημοσύνης.

Ωστόσο, αυτά τα συστήματα χρειάζονται και συστήματα υποστήριξης υψηλής απόδοσης, εκ των οποίων η μνήμη είναι σημαντική. Η HBM παρέχει, όπως υποδηλώνει και το όνομά της, υψηλότερο εύρος ζώνης από την παραδοσιακή DRAM.

Αυτό επιτυγχάνεται στοιβάζοντας πολλαπλές μήτρες DRAM κάθετα και συνδέοντάς τες με οπές διέλευσης πυριτίου (TSV). Η πρώτη γενιά HBM αναπτύχθηκε το 2013.

Η κάθετη στοίβαξη εξοικονομεί χώρο και μειώνει τη φυσική απόσταση που πρέπει να διανύσουν τα δεδομένα, επιταχύνοντας τη μεταφορά τους, κάτι που είναι απαραίτητο στην υπολογιστική με τεχνητή νοημοσύνη.

Τα HBM είναι πιο περίπλοκα στην κατασκευή και ακριβότερα από τα DRAM, αλλά τα οφέλη από την απόδοση και την ενεργειακή αποδοτικότητα συχνά δικαιολογούν το υψηλότερο κόστος για εφαρμογές τεχνητής νοημοσύνης.

Υποδομή Κέντρου Δεδομένων Τεχνητής Νοημοσύνης: Ισχύς, Ψύξη & Συνδεσιμότητα

Εκτός από τη μνήμη και την υπολογιστική ισχύ, σημαντικά είναι και τα βοηθητικά συστήματα των κέντρων δεδομένων τεχνητής νοημοσύνης. Χωρίς αυτά, τα δεδομένα δεν μπορούν να κυκλοφορήσουν αρκετά γρήγορα, τα τσιπ θα υπερθερμανθούν ή η διαθέσιμη ισχύς θα είναι ανεπαρκής.

Αυτό σημαίνει ότι, για παράδειγμα, το υλικό συνδεσιμότητας της Broadcom επωφελείται επίσης σε μεγάλο βαθμό από την ανάπτυξη κέντρων δεδομένων με τεχνητή νοημοσύνη, όπως και εξειδικευμένες λύσεις όπως οι προμηθευτές εξοπλισμού ψύξης, για παράδειγμα η Vertiv. (VRT + 6.15%) ή Schneider Electric (SU.PA).

Η παροχή ηλεκτρικού ρεύματος ενδέχεται επίσης να αποτελέσει πρόβλημα και αρκετοί τεχνολογικοί γίγαντες προσπαθούν να αντιμετωπίσουν το πρόβλημα ποντάροντας στην πυρηνική ενέργεια, με την πρώτη κίνηση της Microsoft το 2024, ακολουθούμενο από πολλούς άλλους έκτοτε.

Σε συνδυασμό με τη δέσμευση των εταιρειών τεχνολογίας για μείωση του αποτυπώματος άνθρακα της τεχνητής νοημοσύνης, αυτό θα πρέπει να ωφελήσει σε μεγάλο βαθμό τις εταιρείες στον πυρηνικό ή ανανεώσιμο τομέα ενέργειας, όπως Κάμεκο (CCJ + 4.16%), GE Vernova (GEV + 5.44%), Πρώτη ηλιακή ενέργεια (FSLR + 5.6%), Επόμενη Εποχή (NEE + 0.21%)Το HIFU, ή Υψηλής Έντασης Εστιασμένος Υπέρηχος, στοχεύει επίσης στο πρόσωπο και τον λαιμό. Προσφέρει θεραπεία σε γρήγορες εκπομπές, γεγονός που κάνει τις συνεδρίες θεραπείας συντομότερες. Brookfield Energy Partners (BEP + 1.57%) (ακολουθήστε τους συνδέσμους για μια αναφορά για κάθε εταιρεία).

Αναδυόμενες τεχνολογίες υπολογιστικής τεχνητής νοημοσύνης

Quantum Computing

Επειδή η Τεχνητή Νοημοσύνη διψά τόσο για υπολογιστική ισχύ, είναι πιθανό το μέλλον του υλικού του τομέα να μην είναι καν με τις διαθέσιμες λύσεις πυριτίου.

Μια πιθανότητα είναι ότι η κβαντική υπολογιστική θα μπορούσε να χρησιμοποιηθεί για την ανίχνευση μοτίβων πολύ πιο αποτελεσματικά από ό,τι θα μπορούσε ποτέ η κλασική υπολογιστική, κάτι που έχουν ήδη διερευνήσει οι ερευνητές.

Η κβαντική υπολογιστική στο σύνολό της θα μπορούσε να χρησιμοποιηθεί για την επίλυση ορισμένων συγκεκριμένων υπολογισμών που είναι σχεδόν αδύνατοι με τη δυαδική υπολογιστική. Αυτό πιθανότατα θα εφαρμοστεί τελικά στην Τεχνητή Νοημοσύνη, αλλά οι πρώτοι εμπορικοί κβαντικοί υπολογιστές απέχουν ακόμη λίγα χρόνια, και ένα μεγάλο κβαντικό δίκτυο ακόμη πιο μακριά.

φωτονική

Χρησιμοποιώντας φως αντί για ηλεκτρόνια για τη μεταφορά δεδομένων, η φωτονική θα μπορούσε να είναι πολύ ταχύτερη από τις ηλεκτρονικές συσκευές.

Επειδή οι κβαντικοί υπολογιστές συνήθως μεταφέρουν κβαντικά δεδομένα με πεπλεγμένα φωτόνια, υπάρχει επίσης μεγάλη επικάλυψη μεταξύ της κβαντικής υπολογιστικής και της φωτονικής, και Το πρώτο διπλό κβαντοφωτονικό τσιπ έχει ήδη ανακοινωθεί.

Οργανοειδή

Καθώς οι περισσότερες τεχνολογίες τεχνητής νοημοσύνης αναπαράγουν σε υπολογιστές τη λειτουργία των νευρωνικών δικτύων του εγκεφάλου, ορισμένοι ερευνητές αναρωτιούνται αν θα μπορούσαμε αντ' αυτού να χρησιμοποιήσουμε... πραγματικά εγκεφαλικά κύτταρα.

Αυτή είναι μια ενδιαφέρουσα ιδέα, ειδικά επειδή Κάποια έρευνα θα μπορούσε να υποδείξει ότι ο εγκέφαλος είναι στην πραγματικότητα ένας οργανικός κβαντικός υπολογιστής.

Αυτός ο τύπος «υπολογιστή» ονομάζεται οργανοειδής και ουσιαστικά αποτελείται από νευρώνες που αναπτύσσονται σε εργαστήριο σε ένα τσιπ υπολογιστή. Οι νευρώνες στη συνέχεια αυτοοργανώνουν τους δενδρίτες και τις συνδέσεις τους σε απόκριση στο ερέθισμα του τσιπ.

Αυτή η τεχνολογία είναι ακόμα νέα και βασίζεται σε βιο-3D εκτύπωση.

Άλλα

Εξερευνήσαμε άλλες εναλλακτικές λύσεις για την υπολογιστική πυριτίου στο "Οι 10 κορυφαίες εταιρείες υπολογιστών χωρίς πυρίτιο", όπως διοξείδιο του βαναδίου, γραφένιο, οξειδοαναγωγική πύλη ή οργανικά υλικά.

Κάθε ένα υπόσχεται είτε να είναι πολύ πιο γρήγορο είτε πολύ λιγότερο ενεργοβόρο από την κλασική πληροφορική που βασίζεται στο πυρίτιο. Ωστόσο, είναι ακόμη σχετικά καινούργια και είναι απίθανο να φέρουν επανάσταση στον τομέα της Τεχνητής Νοημοσύνης σε εμπορική κλίμακα, τουλάχιστον για τα επόμενα 5-10 χρόνια.

Τεχνητή Νοημοσύνη στο Cloud και Τεχνητή Νοημοσύνη στο Edge: Τάσεις Προσβασιμότητας

Cloud AI

Καθώς τα πιο ισχυρά συστήματα τεχνητής νοημοσύνης κατασκευάζονται από μεγάλες εταιρείες τεχνολογίας, είναι ως επί το πλείστον προσβάσιμα μέσω του cloud. Το ίδιο ισχύει και για την πρόσβαση σε υλικό εξειδικευμένο στην τεχνητή νοημοσύνη.

Ο ηγέτης αυτής της τάσης είναι Coreweave (CRCW -4.17%), μια εταιρεία που μεταπήδησε από πάροχο cloud στην εξόρυξη κρυπτονομισμάτων χρησιμοποιώντας GPU, και σήμερα παρέχει υπολογιστική Τεχνητή Νοημοσύνη κατ' απαίτηση.

Αυτό κατέστησε την CoreWeave βασικό συνεργάτη των ανερχόμενων νεοσύστατων επιχειρήσεων τεχνητής νοημοσύνης που προσπαθούν να ανταγωνιστούν τους τεχνολογικούς γίγαντες, όπως Inflection AI και της Σύμπλεγμα GPU αξίας 1.3 δισεκατομμυρίων δολαρίων, χρηματοδοτούμενο από νέο γύρο χρηματοδότησης.

«Πριν από δύο μήνες, μια εταιρεία μπορεί να μην υπήρχε και τώρα μπορεί να έχει χρηματοδότηση επιχειρηματικών κεφαλαίων ύψους 500 εκατομμυρίων δολαρίων.»

Και το πιο σημαντικό πράγμα που πρέπει να κάνουν είναι η ασφαλής πρόσβαση στους υπολογιστές. Δεν μπορούν να λανσάρουν το προϊόν τους ή να ξεκινήσουν την επιχείρησή τους μέχρι να το αποκτήσουν.

Brian Venturo – CoreWeave CTO

Καθώς ο καθαρός παίκτης στο υλικό τεχνητής νοημοσύνης γίνεται επιφυλακτικός απέναντι στις μεγάλες τεχνολογίες που παράγουν τις δικές τους GPU, TPU, XPU κ.λπ. και εξελίσσονται από πελάτες σε ανταγωνιστές, είναι πιθανό εταιρείες όπως η CoreWeave να αποκτήσουν προτεραιότητα στην τελευταία έκδοση υλικού από την Nvidia και άλλους.

Αυτό το επιχειρηματικό μοντέλο πιθανότατα θα είναι ιδιαίτερα σημαντικό για την εκπαίδευση στην Τεχνητή Νοημοσύνη, η οποία είναι πολύ πιο απαιτητική σε υπολογιστική ικανότητα από τη χρήση απλώς των ήδη εκπαιδευμένων Τεχνητών Νοημοσύνης.

Υπολογιστική Edge & Υπολογιστές Τεχνητής Νοημοσύνης

Μια άλλη περίπτωση υπολογιστικής Τεχνητής Νοημοσύνης που εξελίσσεται ταχέως είναι η ανάγκη η υπολογιστική των συστημάτων Τεχνητής Νοημοσύνης να γίνεται επί τόπου, όσο το δυνατόν πιο κοντά σε πραγματικές καταστάσεις.

Αυτό είναι απαραίτητο για συστήματα που ενδέχεται να μην ανεχθούν την αποσύνδεση από την Τεχνητή Νοημοσύνη εάν η σύνδεση αποτύχει ή όταν η καθυστέρηση της ανταλλαγής πληροφοριών με το cloud είναι πολύ αργή.

Ένα καλό παράδειγμα είναι τα αυτόνομα αυτοκίνητα, τα οποία αναμένεται να κατανοούν το περιβάλλον τους εκτός σύνδεσης.

Αυτός ο τύπος υπολογισμού ονομάζεται edge computing και επωφελείται σε μεγάλο βαθμό από πιο αποδοτικό και λιγότερο ενεργοβόρο υλικό.

Μπορεί να αυξήσει την αξιοπιστία της Τεχνητής Νοημοσύνης και, καθώς τα μοντέλα γίνονται πιο αποτελεσματικά, όπως φαίνεται από το άλμα προς τα εμπρός του DeepSeek, θα μπορούσε να γίνει ένα πιο διαδεδομένο μοντέλο ανάπτυξης Τεχνητής Νοημοσύνης στο μέλλον.

Για τον ίδιο λόγο, οι υπολογιστές με τεχνητή νοημοσύνη όπως αυτό που κυκλοφόρησε πρόσφατα η Nvidia, μπορεί μακροπρόθεσμα να είναι αρκετό για την εκτέλεση πολλών εφαρμογών τεχνητής νοημοσύνης τοπικά, αυξάνοντας το απόρρητο και την ασφάλεια σε σύγκριση με την μόνιμη σύνδεση με τις τεχνητές νοημοσύνης στο cloud.

Συμπέρασμα

Το υλικό τεχνητής νοημοσύνης ήταν, για κάποιο διάστημα, κάπως συνώνυμο με τις GPU, καθώς οι κάρτες γραφικών ήταν πολύ πιο αποτελεσματικές στην εκπαίδευση τεχνητής νοημοσύνης από άλλους τύπους υλικού, όπως οι CPU. Αυτό δημιούργησε την περιουσία της Nvidia και πολλών από τους πρώτους μετόχους της.

Οι GPU, ειδικά οι «σούπερ GPU» που επικεντρώνονται στην τεχνητή νοημοσύνη, πιθανότατα θα παραμείνουν σημαντικές στην κατασκευή κέντρων δεδομένων τεχνητής νοημοσύνης. Αλλά πρόκειται να εξελιχθούν σε ένα μόνο από τα συστατικά ολοένα και πιο πολύπλοκων και εξειδικευμένων συστημάτων.

Οι λειτουργίες του μετασχηματιστή θα αποστέλλονται σε TPU, νευρωνικά δίκτυα που έχουν ανατεθεί στο NPP, επαναλαμβανόμενες εργασίες σε αποκλειστικά ASIC ή αναδιαμορφωμένα FPGA.

Εν τω μεταξύ, η μνήμη υψηλού εύρους ζώνης, οι προηγμένες τηλεπικοινωνιακές υποδοχές και η εξαιρετικά αποδοτική ψύξη θα διατηρήσουν σε λειτουργία όλες τις βοηθητικές λειτουργίες γύρω από τον πυρήνα του υπολογιστή.

Για την υπολογιστική αιχμής και μικρότερες Τεχνητές Νοημοσύνης από τα τεράστια LLM, η τοπική υπολογιστική, ίσως με την υποστήριξη all-in-one XPU, πιθανότατα θα χρησιμοποιηθεί από επιστήμονες, αυτοκίνητα χωρίς οδηγό και χρήστες που ενδιαφέρονται για την προστασία της ιδιωτικής ζωής ή τη λογοκρισία, ενδεχομένως με μοντέλα τεχνητής νοημοσύνης ανοιχτού κώδικα.

Αυτό που είναι σίγουρο είναι ότι τα κέρδη από την πώληση των «αξόνων και των φτυαριών» υλικού Τεχνητής Νοημοσύνης κατά τη διάρκεια της χρυσής περιόδου της Τεχνητής Νοημοσύνης δεν έχουν τελειώσει.

Μετά από μια περίοδο κυριαρχίας της Nvidia, οι επενδυτές ίσως θελήσουν να διαφοροποιήσουν τους κινδύνους επεκτείνοντας το χαρτοφυλάκιο υλικού IA σε άλλα σχέδια, και ίσως ακόμη και σε εταιρείες κοινής ωφέλειας που θα παρέχουν τα πολύτιμα γιγαβάτ για τη λειτουργία των ολοένα και μεγαλύτερων και πολυάριθμων κέντρων δεδομένων AI στον κόσμο.