Damit KI ihr Potenzial verwirklichen kann, müssen die Energieanforderungen adressiert werden

Artificial Intelligence (AI) continues to power the 4th industrial revolution, alongside its energy demands. Today, anyone can access advanced AI tools and integrate them into their systems to improve efficiency and reduce workload. The energy required to power these algorithms increases as the demand for AI applications increases. As such, environmentalists are already pointing out sustainability concerns surrounding the tech. Thankfully, a team of researchers has created a highly efficient alternative. here’s what you need to know.

Wachsende KI‑Energiebedarfe schaffen eine Energiekrise

New AI systems continue to launch at an increasing frequency. Die jüngste globale Energieverbrauchsprognose sagt voraus, dass der KI‑Energieverbrauch von 460 Terawattstunden (TWh) im Jahr 2022 auf 1.000 TWh bis 2026 verdoppeln wird. Zu diesen Protokollen gehören Empfehlungsdienste, große Sprachmodelle (LLMs), Bild‑ und Videobearbeitung sowie -erstellung, Web3‑Dienste und mehr.

Laut der Studie der Forscher benötigen KI‑Systeme Datenübertragungen, die dem “200‑fachen Energieverbrauch für Berechnungen entsprechen, wenn drei 64‑Bit‑Quelloperanden gelesen und ein 64‑Bit‑Zieloperand in einen Off‑Chip‑Hauptspeicher geschrieben werden.” Daher ist die Reduzierung des Energieverbrauchs für KI‑Rechenanwendungen ein zentrales Anliegen für Entwickler, die dieses Hindernis überwinden müssen, um eine großflächige Einführung zu ermöglichen und die Technologie zu reifen.

Glücklicherweise hat ein Team innovativer Ingenieure der University of Minnesota eine mögliche Lösung präsentiert, die den Stromverbrauch von KI‑Protokollen um Größenordnungen senken könnte. Um dies zu erreichen, stellen die Forscher ein neues Chip‑Design vor, das die in den meisten heutigen Chips verwendete Von‑Neumann‑Architektur verbessert.

Von‑Neumann‑Architektur

John von Neumann revolutionierte 1945 den Computerbereich, indem er Logik‑ und Speichereinheiten trennte, was damals effizienteres Rechnen ermöglichte. In dieser Anordnung werden Logik und Daten an unterschiedlichen physischen Orten gespeichert. Seine Erfindung steigerte die Leistung, weil beide gleichzeitig zugänglich waren.

Quelle – University of Minnesota Twin Cities

RAM

Heute verwenden die meisten Computer noch die Von‑Neumann‑Struktur, wobei Ihre Festplatte (HD) Ihre Programme speichert und der Arbeitsspeicher (RAM) Programm‑Anweisungen und temporäre Daten beherbergt. Der heutige RAM erledigt diese Aufgabe mit verschiedenen Verfahren, darunter DRAM, das Kondensatoren nutzt, und SRAM, das aus mehreren Schaltkreisen besteht.

Bemerkenswerterweise funktionierte diese Struktur jahrzehntelang hervorragend. Allerdings erfordert der ständige Datentransfer zwischen Logik und Speicher viel Energie. Dieser Energieverbrauch steigt mit wachsenden Datenanforderungen und Rechenlast. Dadurch entsteht ein Leistungsengpass, der die Effizienz einschränkt, wenn die Rechenleistung zunimmt.

Versuchte Verbesserungen der Energieanforderungen

Im Laufe der Jahre wurden zahlreiche Versuche unternommen, die Von‑Neumann‑Architektur zu verbessern. Diese Versuche führten zu verschiedenen Varianten des Speicherprozesses, mit dem Ziel, die beiden Vorgänge physisch näher zusammenzubringen. Derzeit umfassen die drei Hauptvarianten:

Near‑Memory‑Processing

Dieses Upgrade bringt die Logik physisch näher zum Speicher. Dies wurde mithilfe einer 3D‑gestapelten Infrastruktur realisiert. Durch die Annäherung der Logik wurde die Distanz und der Energieaufwand für den Datentransfer, der für Berechnungen benötigt wird, reduziert. Diese Architektur bot eine verbesserte Effizienz.

In‑Memory‑Computing

Eine weitere aktuelle Methode zur Verbesserung der Rechenarchitektur ist das In‑Memory‑Computing. Dabei gibt es zwei Varianten dieses Chip‑Stils. Die ursprüngliche integriert Logik‑Cluster neben dem Speicher auf einem einzigen Chip. Diese Umsetzung ermöglicht die Eliminierung von Transistoren, die in Vorgängern verwendet wurden. Dennoch betrachten viele diese Methode nicht als „wirklich“ in‑Memory, da sie weiterhin separate Speicherorte besitzt, was bedeutet, dass die anfänglichen Leistungsprobleme, die durch den Datentransfer entstanden sind, weiterhin bestehen, wenn auch in kleinerem Umfang.

True In‑Memory

Der letzte Chip‑Architekturtyp ist das „true in‑Memory“. Damit diese Architektur als solche gilt, muss der Speicher Berechnungen direkt ausführen. Diese Struktur erweitert Fähigkeiten und Leistung, weil die Daten für logische Operationen an ihrem Ort verbleiben. Die neueste Version der Forscher für true in‑Memory‑Architektur heißt CRAM.

(CRAM)

Computational Random‑Access‑Memory (CRAM) ermöglicht echte In‑Memory‑Berechnungen, da die Daten innerhalb desselben Arrays verarbeitet werden. Die Forscher modifizierten eine Standard‑1T1M‑STT‑MRAM‑Architektur, um CRAM zu ermöglichen. Das CRAM‑Layout integriert Mikro‑Transistoren in jede Zelle und baut auf CPU‑Architekturen mit magnetischen Tunnel‑Junctions auf.

Dieser Ansatz bietet bessere Kontrolle und Leistung. Das Team fügte jeder Zelle einen zusätzlichen Transistor, eine Logik‑Leitung (LL) und eine Logik‑Bit‑Leitung (LBL) hinzu, wodurch Echtzeit‑Berechnungen innerhalb desselben Speicherbanks ermöglicht werden.

Geschichte von CRAM

Die heutigen KI‑Systeme benötigen eine neue Struktur, die ihre Rechenanforderungen erfüllen kann, ohne die Nachhaltigkeitsbedenken zu verschärfen. Angesichts dieses Bedarfs beschlossen die Ingenieure, die Fähigkeiten von CRAM erstmals eingehend zu untersuchen. Ihre Ergebnisse wurden im NPJ‑Wissenschaftsjournal unter dem Bericht „Experimental demonstration of magnetic tunnel junction-based computational random-access memory.“ veröffentlicht.

Das erste CRAM nutzte eine MTJ‑Gerätestruktur. Diese spintronischen Geräte verbesserten frühere Speichermethoden, indem sie den Elektronenspin anstelle von Transistoren zum Übertragen und Speichern von Daten mittels MTJ‑Verfahren einsetzten. Dieses Verfahren verwendet eine dünne Tunnelbarriere, die zwischen zwei ferromagnetischen (FM) Schichten liegt. Eine geringe Spannung regt diese Elektronen an und lässt sie zwischen den Schichten übertragen.

Dieser Transfer erzeugt Strom. Er bietet zudem eine effiziente Methode zum Lesen und Schreiben des Speichers. Das neueste CRAM‑Upgrade führt dieses Konzept weiter und liefert Hochleistungsergebnisse bei gleichzeitig reduziertem Energiebedarf.

CRAM‑Studie

Das CRAM‑Konzept wird seit Jahren entwickelt. Allerdings gab es bisher kaum tiefgehende Tests seiner Fähigkeiten. Besonders hervorzuheben ist, dass die Studie eine Vielzahl patentierter Konzepte nutzte, die vom Team und seinen Vorgängern entwickelt wurden. Beispielsweise wurde Magnetischer Random‑Access‑Memory (MRAM), ein wesentlicher Bestandteil heutiger Smartwatches, Sensoren und Mikrocontroller, zusammen mit modifizierten MTJ‑Geräten eingesetzt, um die Leistung zu steigern.

CRAM‑Tests

Die Testphase erforderte, dass die Forscher die Leistung der Chips während der Logikausführung maßen. Die Forscher setzten verschiedene Strategien ein, um möglichst tiefe Einblicke zu erhalten, darunter skalare Addition, Multiplikation und Matrixmultiplikation.

Der erste Schritt des Prozesses bestand darin, die Aktivität bei grundlegenden Speicheroperationen zu messen. Anschließend steigerte das Team die Berechnungen mithilfe von 2‑, 3‑ und 5‑Eingangs‑Logikoperationen. Nach diesem Abschnitt wurde ein 1‑Bit‑Volladdierer mit zwei unterschiedlichen Designs eingeführt und erneut getestet. Der abschließende Test umfasste ein 1 × 7‑Array, das interessante Ergebnisse lieferte.

CRAM‑Testergebnisse zeigen geringeren Energiebedarf

Die Testergebnisse zeigten, wie effizient der neue Proof‑of‑Concept‑Prozess im Vergleich zu heutigen Modellen ist. Die Daten wiesen einen durchschnittlichen Stromverbrauch von 1000‑fach weniger während der Berechnung auf. In Kombination mit anderen Energiesparmethoden zeigte der Ansatz Energieeinsparungen von 2.500‑ bzw. 1.700‑fach im Vergleich zu herkömmlichen Verfahren.

Zusätzliche Funktionen

Eine weitere interessante Entdeckung war, dass CRAM den gleichzeitigen Random‑Access von Daten und Operanden ermöglicht. Dieser Vorteil verbessert die parallelen Rechenfähigkeiten erheblich, was in Zukunft zu sichereren und stabileren Protokollen führen kann.

Vorteile, die CRAM auf den Markt bringt

Die Untersuchung der Vorteile, die CRAM bietet, hilft Ihnen, besser zu verstehen, warum dies ein bahnbrechender Durchbruch ist, der bald unmittelbare Auswirkungen auf die täglichen Aktivitäten der durchschnittlichen Person haben könnte. CRAM ermöglicht Entwicklern und Herstellern, Hardware zu schaffen, die perfekt für ihre Hauptaufgabe konfiguriert ist, wodurch der Energiebedarf gesenkt und die Leistung verbessert wird.

KI – Fokus

Künstliche Intelligenz verändert bereits vieles. Diese Systeme sind stark nachgefragt, benötigen jedoch spezielle Hardware und Software, um korrekt zu funktionieren. CRAM bietet Herstellern die Möglichkeit, von Anfang an Hardware zu entwickeln, die datenintensive, speicherzentrierte oder energieempfindliche Anwendungen unterstützt.

In Zukunft wird CRAM fortschrittliche KI‑Algorithmen wie Bioinformatik, Signalverarbeitung, neuronale Netze, Edge‑Computing und die modernste Militärhardware antreiben. Das CRAM‑Array ermöglicht Entwicklern, leistungsfähigere Machine‑Learning‑Anwendungen zu erstellen, die flexibel genug sind, um den Bedürfnissen der Gemeinschaft gerecht zu werden.

Verwendet eine bewährte Struktur

Ein weiterer großer Vorteil, der CRAM zu einer klugen Wahl macht, ist die Nutzung bewährter Hardwaresysteme. Insbesondere verwendet CRAM gängige und ausgereifte Technologie, was das Vertrauen der Verbraucher stärkt. Zudem wird sichergestellt, dass Hardware‑Probleme für die Nutzer ein Minimum darstellen.

Flexibel

CRAM bietet Entwicklern echte Flexibilität. Programmierer können Daten überall im Speicherarray mit einer Vielzahl gängiger Logikoperationen berechnen. Konkret unterstützt CRAM AND, OR, NAND, NOR und MAJ, was seine Vielseitigkeit erhöht.

Schneller

Geschwindigkeit ist ein weiterer Vorteil, der nicht übersehen werden darf. Der Datentransfer zwischen Logik‑ und Speicherorten benötigt Zeit. Auch wenn diese Zeit nur einen Bruchteil einer Sekunde ausmacht, kann sie sich summieren und zu einer schlechteren Benutzererfahrung führen. CRAM eliminiert die Notwendigkeit langsamer und energieintensiver Datenübertragungen, indem derselbe Speicher diese Aufgaben übernimmt.

Parallelität

Parallelität ist die Fähigkeit, denselben Code gleichzeitig parallel auszuführen. Sie ist ein wesentlicher Bestandteil vieler Fertigungs‑, Sicherheits‑ und Industrieprozesse. Aufgrund der CRAM‑Struktur kann dieselbe Logik gleichzeitig über das gesamte Speicherarray parallel laufen.

Herstellungskosten

CRAM wird zudem die Herstellungskosten für High‑End‑Geräte senken, indem die Anzahl der für ein Produkt benötigten Bauteile reduziert wird. CRAM nutzt denselben Speicher für Logik und Daten, sodass Hersteller Chips mit weniger Komponenten herstellen können. Diese Struktur senkt die Kosten und verbessert Zuverlässigkeit sowie Leistung.

Forscher

Diese Forschung wurde von Tema von der University of Minnesota geleitet. Zu den leitenden Forschern gehörten Jian‑Ping Wang, McKnight‑Professor, und Robert F. Hartmann. Zusätzlich spielten Ulya Karpuzcu, Robert Bloom, Husrev Cilasun, Robert und Marjorie Henle, Sachin Sapatnekar, Brandon Zink, Zamshed Chowdhury und Salonik Resch eine wesentliche Rolle in der Studie. Ein Team der Arizona University unterstützte ebenfalls, darunter Pravin Khanal, Ali Habiboglu und Professor Weigang Wang.

Die Forschung wurde durch Fördermittel der U.S. Defense Advanced Research Projects Agency (DARPA), des National Institute of Standards and Technology (NIST), der National Science Foundation (NSF) und Cisco Inc. ermöglicht. Das Projekt führte zudem Tests und Studien im Minnesota Nano Center und am Minnesota Supercomputing Institute der University of Minnesota durch.

Zwei Unternehmen, die von reduziertem KI‑Energiebedarf profitieren könnten

Es gibt zahlreiche Hersteller, die durch die Integration von CRAM‑Optionen zusätzlichen Umsatz sichern oder ihr Produktportfolio verbessern könnten. Diese Unternehmen besitzen starke Marktpositionen und die Fähigkeit, neue Technologien so zu integrieren, dass ihre Angebote erheblich verbessert werden.

Microsoft

MSFT Preisdiagramm

Microsoft (MSFT ) ist ein bedeutender Akteur auf den KI‑ und Computermärkten. Das Unternehmen bleibt ein Vorreiter in diesem Sektor und ist seit über einem Jahrzehnt ein wichtiger Beitragender zur Technologie. Heute hält Microsoft einen großen Anteil am KI‑Sektor und strebt an, auch künftig ein wettbewerbsfähiger Akteur zu bleiben.

Microsoft‑KI‑Dienste haben gegenüber ihren Konkurrenten einen großen Vorteil, da sie das weltweit am meisten genutzte Betriebssystem bleiben. Dadurch verfügen Microsoft‑KI‑Systeme über ein riesiges Nutzer‑ und Datenpublikum. Diese Daten haben Microsoft dabei unterstützt, leistungsstarke neue KI‑Algorithmen zu entwickeln, die eines Tages das Kernstück der neuesten Windows‑Betriebssysteme bilden werden.

Arm Holdings

ARM Preisdiagramm

Arm Holdings trat 1990 in den Markt ein. Das Unternehmen wurde von Sophie Wilson und Steve Furber gegründet. Ursprünglich hieß das Unternehmen Advanced RISC Machines (ARM) Ltd., bevor es 1998 in Arm Holdings umbenannt wurde. Anfang der 2000er Jahre erwarb Arm Holdings einen Ruf als Qualitätshersteller, der GPUs und weitere Produkte anbietet.

Heute ist es weiterhin ein führender IP‑Anbieter und Halbleiterhersteller. Das Unternehmen wurde 2016 von Softbank für 32 Mrd. $ übernommen und hat seitdem ein beträchtliches Wachstum verzeichnet. Der Hersteller könnte seinen ökologischen Fußabdruck erheblich reduzieren und gleichzeitig Leistung und Umsatz steigern, indem er CRAM in sein aktuelles Angebot integriert.

Die Zukunft der KI wird von ihrem Energiebedarf abhängen

Der Hauptfaktor, der die Einführung von KI begrenzt, ist ihr Energiebedarf. Diese Anforderungen zwingen die Menschen, über den Tellerrand hinauszudenken, um Lösungen für Engpässe zu schaffen, die die Leistung einschränken. Diese neueste Studie eröffnet die Tür zu einer helleren Zukunft, in der KI‑Dienste auf energiearme Lösungen zugreifen können, die die gesamte Gemeinschaft stärken.

Erfahren Sie jetzt mehr über andere coole Projekte im Bereich künstliche Intelligenz jetzt.