Investitionen in KI-Hardware: Von CPUs bis zu XPUs

Investitionen in KI-Hardware: Picks-and-Shovels-Ansatz

AI ist vielversprechend, die wichtigste Veränderung in unserer Wirtschaft, unseren produktiven Systemen und der Gesellschaft der letzten Jahrzehnte zu werden und könnte selbst die radikalen Veränderungen, die das Internet mit sich brachte, im Vergleich trivial erscheinen lassen.

Sie könnte eine ganze Kategorie von Berufen zum Verschwinden bringen, darunter Fahrer, Übersetzer, Kundendienstmitarbeiter, Webdesigner usw. Andere Berufe könnten eine radikale Reduktion der Nachfrage erleben, wie Programmierer, Junior‑Anwälte, Diagnostiker usw.

Sie sollte zudem für viele andere Aufgaben zusätzlichen Wert und Produktivität schaffen, wobei die dominierenden KI‑Softwareunternehmen wahrscheinlich die ersten sein werden, die zuvor unvorstellbare Marktkapitalisierungen erreichen.

Aus all diesen Gründen sind die Kapitalmärkte und Investoren von KI fasziniert und schenken dem Fortschritt der vielen Tech‑Giganten im KI‑Bereich sowie der starken Konkurrenz chinesischer Tech‑Giganten wie Alibaba und Start‑Ups wie DeepSeek große Aufmerksamkeit.

Eine weitere Möglichkeit, vom KI‑Boom zu profitieren, besteht darin, die in jedem Goldrausch funktionierende Strategie zu verfolgen: nicht nach Gold zu suchen, sondern die Spitzhacken und Schaufeln zu verkaufen. Das hat sicherlich für die Unternehmen funktioniert, die zufällig am besten positioniert waren, KI‑optimierte Hardware zu verkaufen, wobei Nvidia (NVDA ) ihre Gaming‑Grafikkarten in KI‑Trainingschips umgewandelt hat und damit das wertvollste Unternehmen der Welt wurde, mit einer erstaunlichen Marktkapitalisierung von über $4T (folgen Sie dem Link für einen vollständigen Bericht über Nvidia).

Da KI sehr spezifische Hardware erfordert, die sich größtenteils von früheren Rechenaufgaben unterscheidet, und ein so enormes Geschäftspotenzial darstellt, befindet sich die Halbleiterindustrie jetzt im Wettlauf, neue Hardwareformen zu entwickeln, die speziell für das Training und den Betrieb von KI‑Programmen konzipiert sind.

Während Nvidia wahrscheinlich eines der Top‑Unternehmen im Sektor bleiben wird, tauchen nun Alternativen auf, die interessanten Investoren, die früh aufmerksam sind, Chancen bieten könnten.

Warum KI spezialisierte Hardware benötigt

Viele kleine Berechnungen

Initiale KI‑Versuche nutzten dieselbe Rechenkapazität wie andere Programme und konzentrierten sich hauptsächlich auf Prozessoren (Central Processing Unit – CPUs). CPUs sind nach wie vor wichtig, aber es zeigte sich schnell, dass sie für die meisten derzeit zur Entwicklung von KIs verwendeten Methoden nicht optimal sind.

Neuronale Netze und ähnliche Methoden erfordern viele relativ einfache Berechnungen statt einer sehr komplexen Berechnung. Daher ist der parallele Einsatz vieler kleiner Chips im Allgemeinen besser als massive und leistungsstarke CPUs.

Das ist zu einem großen Teil der Grund, warum GPUs schnell populärer wurden, da Grafikkarten von Natur aus dafür ausgelegt sind, tausende kleiner Berechnungen parallel auszuführen.

Das heutige KI‑Training basiert weitgehend auf neuronalen Netzen, einem Konzept, das 2024 den Nobelpreis für Physik gewann – eine Auszeichnung, die wir damals in einem eigenen Artikel ausführlich behandelt haben.

Quelle: Nobel Prize

Eine zweite Revolution in der KI‑Technologie kam mit den „Transformern“. Sie lösen das Unvermögen traditioneller neuronaler Netze, lange Datensequenzen effizient zu verarbeiten – ein häufiges Merkmal jeder natürlichen Sprache.

Erstmals 2017 von Google‑Forschern vorgestellt, ist es die Ursache für die aktuelle Explosion der KI‑Kapazität. Transformer stehen im Kern von KI‑Produkten wie LLMs (Large Language Models), einschließlich ChatGPT.

Unterschiedliche Anforderungen

Eine wichtige Unterscheidung in KI‑Workflows ist der Unterschied zwischen Fine‑Tuning und Inference , die beide unterschiedliche Hardwareanforderungen haben.

• Fine‑Tuning beinhaltet das Training eines Modells mit domänenspezifischen Daten und erfordert erhebliche Rechenleistung und Speicher. Es ist eine sehr technische Aufgabe, oft an der Spitze der KI‑Wissenschaft.
• Inference konzentriert sich darauf, ein bereits trainiertes Modell zur Generierung von Ausgaben zu nutzen, wobei weniger Rechenleistung benötigt wird, aber ein stärkerer Fokus auf niedrige Latenz und Kosteneffizienz liegt.
  • Dies wird routinemäßig von KI‑Experten durchgeführt, die vorhandene Modelle einsetzen, um reale Probleme zu lösen.

Daher sind Kosten zwar für sowohl Fine‑Tuning/Training als auch für Inference/Nutzung von KI offensichtlich ein Thema; das Training erfordert häufig die bestmögliche Hardware, während bei Nutzungsaufgaben eher die Kosten der Hardware und der Energieverbrauch bei der Auswahl der besten Option im Vordergrund stehen.

CPUs vs. GPUs

Zentrale Verarbeitungseinheiten (CPUs):

CPUs sind universell einsetzbar und keine speziell für KI konzipierte Hardware. Sie sind jedoch nach wie vor unverzichtbar für die Ausführung von Anweisungen und die Durchführung grundlegender Berechnungen in KI‑Systemen.

Die meisten Softwarekomponenten, die die Schnittstelle zu den Endnutzern eines KI‑Systems steuern, sind ebenfalls CPU‑zentriert, sei es auf einzelnen Rechnern oder in cloud‑basierten Anwendungen.

Quelle: AnandTech

CPUs können auch für sehr einfache KIs eingesetzt werden, bei denen spezialisierte Hardware nicht wirklich nötig ist. Das gilt besonders, wenn die Ausgabe nicht besonders dringend ist und die relativ langsamere KI‑Verarbeitung durch CPUs kein Problem darstellt.

Kleine Modelle mit geringen Daten- und Berechnungsbatches können auf CPUs gut funktionieren. Die Allgegenwart von CPUs in normalen Computern macht sie zudem zu einer guten Option für durchschnittliche Nutzer, die nicht in KI‑spezifische Hardware investieren möchten.

CPUs sind zudem sehr zuverlässig und stabil, was sie zu einer guten Wahl für kritische Aufgaben macht, bei denen Fehlerfreiheit ein wichtiges Kriterium ist.

Schließlich sind CPUs für einige Aufgaben im KI‑Training nützlich, meist in Zusammenarbeit mit anderer Hardware, etwa beim Laden, Formatieren, Filtern und Visualisieren von Daten.

Grafikverarbeitungseinheiten (GPUs):

Ursprünglich für die Grafikdarstellung konzipiert, sind GPUs für parallele Verarbeitung ausgelegt und eignen sich ideal zum Training von KI‑Modellen, die große Datensätze verarbeiten müssen. Der Umstieg von CPUs auf GPUs hat die Trainingszeiten von Wochen auf Stunden reduziert.

Aufgrund ihrer breiten Verfügbarkeit und der Erfahrung von IT‑Spezialisten im Umgang mit ihnen waren GPUs die erste Art von Rechenhardware, die in Serie installiert wurde, um die KI‑Forschung zu skalieren.

Quelle: Aorus

Ein weiterer Erfolgsfaktor von GPUs war die Entwicklung von CUDA durch Nvidia, einer universellen Programmierschnittstelle für NVIDIA‑GPUs, die die Tür zu anderen Einsatzmöglichkeiten als Gaming öffnete. Dies geschah, weil einige Forscher bereits GPUs für Berechnungen anstelle der üblichen Supercomputer nutzten.

“Forscher erkannten, dass man durch den Kauf dieser Gaming‑Karte namens GeForce, sie in den Computer einbaut und im Wesentlichen einen persönlichen Supercomputer besitzt.

Molekulardynamik, seismische Verarbeitung, CT‑Rekonstruktion, Bildverarbeitung – eine ganze Reihe verschiedener Anwendungen.

Jensen Huang, in einem Interview mit Sequoia

Heute gehören GPUs immer noch zu den begehrtesten KI‑Hardwaretypen, wobei Nvidia kaum genug produzieren kann, um die Nachfrage der Technologieriesen zu befriedigen, die KI‑Rechenzentren im Gigawatt‑Maßstab aufbauen.

Es ist zudem der Beginn der „Super‑GPU‑Ära“, mit der jüngsten Veröffentlichung von Nvidia des GB200 NVL72.

Diese Hardware ist dafür konzipiert, als einzelner massiver GPU direkt aus der Fabrik zu fungieren, anstatt viele kleine zu vernetzen. Sie ist damit deutlich leistungsfähiger als das zuvor rekordbrechende H100‑Modell.

Quelle: Nvidia

Dies sollte zudem deutlich energieeffizienter sein, ein entscheidender Punkt, da die KI‑Industrie möglicherweise eher an Energie als an Chips mangelt, angesichts der Geschwindigkeit, mit der KI‑Rechenzentren gebaut werden. Mehr Rechen‑ und Energieeffizienz bedeutet weniger Abwärme, was das Überhitzungsproblem vorübergehend löst.

Der Aufstieg von ASICs und KI‑Hardware

Application‑Specific Integrated Circuits (ASICs) sind Rechenhardware, die speziell für eine bestimmte Rechenaufgabe entwickelt wurde und damit noch spezialisierter ist als noch relativ generische GPUs.

Sie sind also weniger flexibel und programmierbar als universelle Hardware.

In der Regel sind sie komplexer. Sie sind zudem im Allgemeinen teurer, sowohl wegen fehlender Skaleneffekte bei der Produktion als auch wegen der Kosten für kundenspezifische Designs.

Sie sind jedoch bei ihrer jeweiligen Aufgabe deutlich effizienter, erzeugen normalerweise schneller ein Ergebnis bei deutlich geringerem Energie‑ und Rechenaufwand.

ASICs und andere KI‑spezifische Hardware gewinnen an Nutzung, da das Feld zunehmend erkennt, dass einige Berechnungen nicht ideal auf GPUs ausgeführt werden können, sondern spezialisiertere Geräte erfordern.

Tensor‑Processing‑Units (TPUs)

TPUs wurden von Google (GOOGL ) speziell für die Durchführung von Tensor‑Berechnungen (im Zusammenhang mit transformer‑basierten Berechnungen) entwickelt. Sie sind für Hochdurchsatz‑ und Niedrigpräzisionsarithmetik optimiert.

Quelle: C#Corner

Dies verleiht TPUs hohe Leistung, Effizienz und Skalierbarkeit für das Training großer neuronaler Netze.

TPUs besitzen spezialisierte Funktionen, wie die Matrix‑Multiplikationseinheit (MXU) und eine proprietäre Interconnect‑Topologie, die sie ideal für die Beschleunigung von KI‑Training und Inference machen.

TPUs betreiben Gemini und alle KI‑gestützten Anwendungen von Google wie Search, Photos und Maps und bedienen über 1 Milliarde Nutzer.

Dieser Hardwaretyp kann die Entwicklung und Funktionsweise neuronaler Netze erheblich beschleunigen, wobei gelegentliche Fehler weniger bedeutend sind, da diese Modelle stark von Statistik und einer großen Anzahl von Berechnungen abhängen.

Zu den Endnutzeraufgaben, die am besten zu TPUs passen, gehören Deep Learning, Spracherkennung und Bildklassifizierung.

Neuronale Netzwerk‑Prozessoren (NNPs):

Auch mit Neural Processing Units (NPUs) verbunden und als neuromorphe Chips bezeichnet, sind NPPs auf die Berechnung neuronaler Netze spezialisiert und darauf ausgelegt, die neuronalen Verbindungen im menschlichen Gehirn nachzuahmen. Sie werden manchmal auch als KI‑Accelerator bezeichnet, obwohl dieser Begriff weniger klar definiert ist.

Ein NPU integriert zudem Speicher und Berechnung über synaptische Gewichte. So kann er sich im Laufe der Zeit anpassen oder „lernen“, was zu einer verbesserten Betriebseffizienz führt.

Ein NPU enthält spezifische Module für Multiplikation und Addition, Aktivierungsfunktionen, 2D‑Datenoperationen und Dekompression.

Das spezialisierte Multiplikations‑ und Additionsmodul wird verwendet, um Operationen auszuführen, die für die Verarbeitung von neuronalen Netzwerk‑Anwendungen relevant sind, wie Matrix‑Multiplikation und -Addition, Faltung, Skalarprodukt und andere Funktionen.

Die Spezialisierung kann einem NPU ermöglichen, eine Operation mit nur einer Berechnung abzuschließen, anstatt mehrere Tausende mit generischer Hardware. Zum Beispiel behauptet IBM, dass NPU die Effizienz von KI‑Berechnungen im Vergleich zu GPUs radikal verbessern kann.

„Tests haben gezeigt, dass die Leistung einiger NPUs mehr als 100‑mal besser ist als die einer vergleichbaren GPU bei gleichem Stromverbrauch.“

Aufgrund dieser Energieeffizienz sind NPUs bei Herstellern beliebt, um sie in Endgeräten zu installieren, wo sie lokale Aufgaben für generative KI‑Apps übernehmen können – ein Beispiel für „Edge Computing“ (siehe unten für weitere Informationen).

Viele Methoden werden derzeit erforscht, wie man neuromorphe Chips erstellt:

• Nutzung von entstehender Ferroelektrizität, ein noch wenig verstandenes Phänomen.
• Aktives Substrat mit Vanadium oder Titan.
• Verwendung von Memristoren, ein neuer Typ von elektronischen Bauelementen, der KI‑Aufgaben mit 1/800^thdes normalen Stromverbrauchs ausführen kann.

Hilfs‑Verarbeitungseinheit (XPUs)

XPU vereint CPU (Prozessor), GPU (Grafikkarte / Parallelprozessoren) und Speicher in einem einzigen elektronischen Gerät.

Quelle: Broadcom

XPUs ist ein breiter Begriff, der viele Varianten dieses Konzepts umfasst, bei dem sämtliche Hardware in eigenständige Einheiten integriert wird, einschließlich Data Processing Units (DPUs), Infrastructure Processing Units (IPUs) und Function Accelerator Cards (FACs).

XPUs werden als Lösung für ein wachsendes Problem von KI‑Rechenzentren gesehen, nämlich den steigenden Bedarf an Konnektivität zwischen den Sub‑Einheiten, sodass Datenverzögerungen zu einem wichtigeren Faktor für die Verlangsamung der Berechnungen werden als die verfügbare Rechenleistung.

Im Wesentlichen warten die Chips (GPUs, TPUs, NPPs usw.) genauso lange auf Daten, wie sie tatsächlich arbeiten.

Ein führendes Unternehmen dieser Technologie ist Broadcom (AVGO ), über das wir in einem eigenen Investitionsbericht ausführlich berichtet haben.

Field‑Programmable Gate Arrays (FPGAs):

FPGAs sind programmierbare Prozessoren, die sie deutlich flexibler und rekonfigurierbarer machen als die starreren ASICs. FPGAs können für spezifische KI‑Algorithmen angepasst werden und bieten potenziell höhere Leistung und Energieeffizienz.

Quelle: Microcontrollers Labs

Diese Flexibilität hat ihren Preis, da FPGAs im Allgemeinen komplexer, teurer und stromintensiver sind. Sie können jedoch immer noch effizienter sein als generische Hardware.

Damit sind sie ein Nischenprodukt, bei dem ihre Flexibilität die Nachteile ausgleicht. Beispielsweise können maschinelles Lernen, Computer Vision und Natural‑Language‑Processing von der Vielseitigkeit der FPGAs profitieren.

High‑Bandwidth‑Memory (HBM):

Die wichtigsten Entwicklungen bei maßgeschneiderter KI‑zentrierter Hardware lagen im Bereich der Rechenleistung, die lange Zeit der Engpass beim Aufbau größerer Rechenkapazitäten für das Training neuer KIs war.

Dennoch benötigen diese Systeme ebenfalls hocheffiziente Unterstützungssysteme, wobei der Speicher ein wichtiger Bestandteil ist. HBM bietet, wie der Name schon sagt, eine höhere Bandbreite als herkömmlicher DRAM.

Dies wird erreicht, indem mehrere DRAM‑Dies vertikal gestapelt und mittels Through‑Silicon‑Vias (TSVs) verbunden werden. Die erste Generation von HBM wurde 2013 entwickelt.

Das vertikale Stapeln spart Platz und reduziert die physische Entfernung, die Daten zurücklegen müssen, wodurch der Datentransfer beschleunigt wird – ein Muss im KI‑Rechnen.

HBMs sind komplexer herzustellen und teurer als DRAM, aber die Leistungs‑ und Energieeffizienzvorteile rechtfertigen häufig die höheren Kosten für KI‑Anwendungen.

KI‑Rechenzentrums‑Infrastruktur: Strom, Kühlung & Konnektivität

Neben Speicher und Rechenleistung sind auch die Hilfssysteme von KI‑Rechenzentren wichtig. Ohne sie kann die Daten nicht schnell genug zirkulieren, die Chips würden überhitzen oder die verfügbare Stromversorgung wäre unzureichend.

Das bedeutet, dass beispielsweise Broadcom‑Konnektivitätshardware stark vom Ausbau von KI‑Rechenzentren profitiert, ebenso wie spezialisierte Lösungen wie Kühlungsgeräteanbieter, zum Beispiel Vertiv (VRT ) oder Schneider Electric (SU.PA).

Die Stromversorgung könnte ebenfalls ein Problem darstellen, und mehrere Technologieriesen versuchen, dieses Problem durch Investitionen in Kernenergie zu lösen, wobei Microsoft 2024 den ersten Schritt unternahm, gefolgt von vielen anderen seitdem.

In Kombination mit dem Engagement der Technologieunternehmen, den CO₂‑Fußabdruck von KI zu reduzieren, sollte dies Unternehmen im Kernenergie‑ oder Erneuerbare‑Energie‑Sektor stark zugutekommen, wie Cameco (CCJ ), GE Vernova (GEV ), First Solar (FSLR ), NextEra (NEE ) oder Brookfield Energy Partners (BEP ) (den Links folgen für einen Bericht zu jedem Unternehmen).

Aufkommende KI‑Rechen‑Technologien

Quantencomputing

Da KI einen enormen Bedarf an Rechenleistung hat, ist es möglich, dass die Zukunft der Hardware des Feldes nicht mehr in den derzeit verfügbaren Silizium‑Lösungen liegt.

Eine Möglichkeit besteht darin, dass Quantencomputing Muster viel effizienter erkennen könnte als klassische Computer, ein Ansatz, der bereits von Forschern untersucht wurde.

Quantencomputing insgesamt könnte zur Lösung bestimmter Berechnungen eingesetzt werden, die mit binärer Berechnung fast unmöglich sind. Dies wird wahrscheinlich letztlich auf KI angewendet werden, doch die ersten kommerziellen Quantencomputer sind noch einige Jahre entfernt, ein großes Quanten‑Netzwerk liegt noch weiter in der Zukunft.

Photonik

Durch die Verwendung von Licht anstelle von Elektronen zur Datenübertragung könnte die Photonik deutlich schneller sein als elektronische Geräte.

Da Quantencomputer normalerweise Quanten‑Daten mit verschränkten Photonen übertragen, gibt es zudem viele Überschneidungen zwischen Quantencomputing und Photonik, und der erste duale Quanten‑Photonik‑Chip wurde bereits angekündigt.

Organoide

Da die meisten KI‑Systeme in Computern die Funktionsweise der neuronalen Netzwerke des Gehirns nachahmen, fragen sich einige Forscher, ob wir stattdessen nicht … echte Gehirnzellen verwenden könnten.

Dies ist eine faszinierende Idee, besonders da einige Forschungen darauf hindeuten, dass das Gehirn tatsächlich ein organischer Quantencomputer ist.

Diese Art von „Computer“ wird Organoide genannt und besteht im Wesentlichen aus im Labor auf einem Computerchip gezüchteten Neuronen. Die Neuronen organisieren dann ihre Dendriten und Verbindungen selbstständig als Reaktion auf den Chip‑Stimulus.

Diese Technologie ist noch neu und basiert auf Bio‑3D‑Druck.

Weitere

Wir haben weitere Alternativen zum Silizium‑Computing in „Top 10 Non‑Silicon Computing Companies“ untersucht, wie Vanadiumdioxid, Graphen, Redox‑Gating oder organische Materialien.

Jede verspricht, entweder deutlich schneller oder viel energieeffizienter als klassisches Silizium‑Computing zu sein. Sie sind jedoch noch relativ neu und wahrscheinlich nicht in der Lage, das KI‑Feld im kommerziellen Maßstab in den nächsten 5–10 Jahren zu revolutionieren.

Cloud‑KI und Edge‑KI: Zugänglichkeitstrends

Cloud‑KI

Da die leistungsstärksten KI‑Systeme von großen Technologieunternehmen entwickelt werden, sind sie hauptsächlich über die Cloud zugänglich. Das Gleiche gilt zunehmend für den Zugang zu KI‑spezialisierter Hardware selbst.

Der Vorreiter dieses Trends ist Coreweave, ein Unternehmen, das vom Cloud‑Provider zum Kryptowährungs‑Mining mit GPUs wechselte und heute bedarfsgerechnete KI‑Rechenleistung anbietet.

Dies machte CoreWeave zu einem Schlüsselpartner aufstrebender KI‑Start‑Ups, die versuchen, mit den Technologieriesen zu konkurrieren, wie Inflection AI und dessen $1,3 Mrd. GPU‑Cluster, finanziert durch eine neue Finanzierungsrunde.

„Vor zwei Monaten existierte das Unternehmen vielleicht noch nicht, und jetzt haben sie $500 Millionen an Risikokapital.

Und das Wichtigste für sie ist, Zugang zu Rechenleistung zu sichern; sie können ihr Produkt nicht auf den Markt bringen oder ihr Geschäft nicht starten, bevor sie das haben,“

Brian Venturo – CoreWeave CTO

Da der reine Akteur im KI‑Hardware‑Bereich vorsichtig gegenüber großen Tech‑Unternehmen wird, die eigene GPUs, TPUs, XPUs usw. produzieren und von Kunden zu Konkurrenten werden, ist es wahrscheinlich, dass Unternehmen wie CoreWeave vorrangigen Zugang zu den neuesten Hardware‑Veröffentlichungen von Nvidia und anderen erhalten.

Dieses Geschäftsmodell wird voraussichtlich besonders wichtig für das KI‑Training sein, das einen deutlich höheren Rechenkapazitätsbedarf hat als die Nutzung bereits trainierter KIs.

Edge‑Computing & KI‑PCs

Ein weiteres, sich schnell entwickelndes Anwendungsfeld des KI‑Computings ist die Notwendigkeit, die Berechnungen von KI‑Systemen vor Ort und so nah wie möglich an realen Situationen durchzuführen.

Dies ist zwingend erforderlich für Systeme, die es nicht zulassen, von der KI getrennt zu werden, wenn die Verbindung ausfällt, oder wenn die Latenz beim Hin‑ und Rückweg zur Cloud zu langsam ist.

Ein gutes Beispiel sind selbstfahrende Autos, die das Verstehen ihrer Umgebung offline durchführen sollen.

Diese Art der Berechnung wird Edge‑Computing genannt und profitiert stark von effizienterer und weniger stromhungriger Hardware.

Sie kann die KI‑Zuverlässigkeit erhöhen, und da Modelle effizienter werden, wie der Sprung von DeepSeek zeigt, könnte sie zukünftig ein verbreiteteres Modell für den KI‑Einsatz werden.

Aus demselben Grund könnten KI‑PCs, wie das kürzlich von Nvidia eingeführte Modell, langfristig ausreichen, um viele KI‑Anwendungen lokal auszuführen, was im Vergleich zu ständig mit der Cloud verbundenen KIs die Privatsphäre und Sicherheit erhöht.

Fazit

KI‑Hardware war lange Zeit fast gleichbedeutend mit GPUs, da Grafikkarten beim KI‑Training deutlich effizienter waren als andere Hardwaretypen wie CPUs. Das machte Nvidia und vielen seiner frühen Aktionäre reich.

GPUs, insbesondere KI‑fokussierte „Super‑GPUs“, werden voraussichtlich weiterhin wichtig beim Aufbau von KI‑Rechenzentren sein. Sie werden jedoch zu nur einem Bauteil immer komplexerer und spezialisierter Systeme werden.

Transformer‑Operationen werden an TPUs, neuronale Netze an NPPs und wiederkehrende Aufgaben an dedizierte ASICs oder rekonfigurierte FPGAs delegiert.

In der Zwischenzeit werden High‑Bandwidth‑Memory, fortschrittliche Telekommunikations‑Connectoren und ultra‑effiziente Kühlung alle Hilfsfunktionen rund um den Rechenkern am Laufen halten.

Für Edge‑Computing und kleinere KIs als die massiven LLMs wird lokale Berechnung, möglicherweise angetrieben von All‑in‑One‑XPUs, wahrscheinlich von Wissenschaftlern, selbstfahrenden Autos und Nutzern, die Wert auf Datenschutz oder Zensurfreiheit legen, eingesetzt werden, möglicherweise mit Open‑Source‑KI‑Modellen.

Sicher ist, dass die Gewinne aus dem Verkauf der „Spitzhacken und Schaufeln“ der KI‑Hardware im KI‑Goldrausch noch lange nicht vorbei sind.

Nach einer Phase der Dominanz von Nvidia könnten Investoren das Risiko streuen, indem sie ihr KI‑Hardware‑Portfolio auf andere Designs ausdehnen und vielleicht sogar die Energieversorgungsunternehmen einbeziehen, die die wertvollen Gigawatt bereitstellen, um die immer größer werdenden und zahlreicheren KI‑Rechenzentren weltweit zu betreiben.