Agar AI dapat Mewujudkan Potensinya, Permintaan Energi Harus Diatasi

Artificial Intelligence (AI) terus menjadi penggerak revolusi industri ke-4, bersamaan dengan permintaan energinya. Saat ini, siapa pun dapat mengakses alat AI canggih dan mengintegrasikannya ke dalam sistem mereka untuk meningkatkan efisiensi dan mengurangi beban kerja. Energi yang diperlukan untuk menjalankan algoritma ini meningkat seiring dengan meningkatnya permintaan aplikasi AI. Oleh karena itu, para aktivis lingkungan sudah menyoroti kekhawatiran keberlanjutan terkait teknologi ini. Untungnya, sekelompok peneliti telah menciptakan alternatif yang sangat efisien. Berikut yang perlu Anda ketahui.

Meningkatnya Permintaan Energi AI Menimbulkan Krisis Energi

New AI systems continue to launch at an increasing frequency. Perkiraan penggunaan energi global ramalan penggunaan energi global memprediksi bahwa konsumsi energi AI akan dua kali lipat dari 460 terawatt-jam (TWh) pada 2022 menjadi 1.000 TWh pada 2026. Protokol ini mencakup rekomendasi, model bahasa besar (LLM), pemrosesan dan pembuatan gambar serta video, layanan Web3, dan lainnya.

Menurut studi peneliti, sistem AI memerlukan transfer data yang setara dengan “200 kali energi yang digunakan untuk komputasi saat membaca tiga operand sumber 64-bit dan menulis satu operand tujuan 64-bit ke memori utama di luar chip.” Oleh karena itu, mengurangi konsumsi energi untuk aplikasi komputasi kecerdasan buatan (AI) menjadi perhatian utama bagi pengembang yang harus mengatasi hambatan ini untuk mencapai adopsi skala besar dan mematangkan teknologi.

Untungnya, sekelompok insinyur inovatif dari Universitas Minnesota telah mengajukan solusi yang berpotensi mengurangi konsumsi daya protokol AI secara signifikan. Untuk mencapai hal ini, para peneliti memperkenalkan desain chip baru yang meningkatkan Arsitektur Von Neumann yang ada pada kebanyakan chip saat ini.

Arsitektur Von Neumann

John von Neumann merevolusi sektor komputer pada tahun 1945 ketika ia memisahkan unit logika dan memori, memungkinkan komputasi yang lebih efisien pada masa itu. Dalam susunan ini, logika dan data disimpan di lokasi fisik yang berbeda. Penemuannya meningkatkan kinerja karena memungkinkan keduanya diakses secara bersamaan.

Sumber – Universitas Minnesota Twin Cities

RAM

Saat ini, sebagian besar komputer masih menggunakan struktur Von Neumann dengan hard disk Anda menyimpan program dan memori akses acak (RAM) menyimpan instruksi pemrograman serta data sementara. RAM modern melakukan tugas ini dengan berbagai metode termasuk DRAM yang memanfaatkan kapasitor, dan SRAM yang memiliki beberapa sirkuit.
Secara signifikan, struktur ini berfungsi dengan baik selama beberapa dekade. Namun, transfer data yang konstan antara logika dan memori membutuhkan banyak energi. Transfer energi ini meningkat seiring dengan peningkatan kebutuhan data dan beban komputasi. Akibatnya, muncul bottleneck kinerja yang membatasi efisiensi seiring peningkatan daya komputasi.

Upaya Peningkatan pada Permintaan Energi

Selama bertahun-tahun, banyak upaya telah dilakukan untuk meningkatkan arsitektur Von Neumann. Upaya-upaya ini menciptakan variasi proses memori dengan tujuan mendekatkan kedua tindakan secara fisik. Saat ini, tiga variasi utama meliputi.

Pemrosesan Near-memory

Peningkatan ini memindahkan logika secara fisik lebih dekat ke memori. Hal ini dicapai dengan infrastruktur bertumpuk 3D. Memindahkan logika lebih dekat mengurangi jarak dan energi yang dibutuhkan untuk mentransfer data yang diperlukan dalam komputasi. Arsitektur ini memberikan efisiensi yang lebih baik.

Komputasi In-memory

Metode lain saat ini untuk meningkatkan arsitektur komputasi adalah komputasi in-memory. Secara khusus, terdapat dua variasi gaya chip ini. Versi asli mengintegrasikan klaster logika di samping memori pada satu chip. Penyebaran ini memungkinkan penghapusan transistor yang digunakan pada pendahulu. Namun, banyak yang menganggap metode ini tidak “sejati” terhadap struktur in-memory karena masih memiliki lokasi memori terpisah, yang berarti masalah kinerja awal yang dihasilkan dari transfer data masih ada, meskipun pada skala yang lebih kecil.

In-memory Sejati

Jenis arsitektur chip terakhir adalah “in-memory sejati”. Untuk memenuhi kriteria ini, memori harus melakukan komputasi secara langsung. Struktur ini meningkatkan kemampuan dan kinerja karena data untuk operasi logika tetap berada di tempatnya. Versi terbaru arsitektur in-memory sejati dari peneliti adalah CRAM.

(CRAM)

Memori akses acak komputasional (CRAM) memungkinkan komputasi in-memory sejati karena data diproses dalam array yang sama. Para peneliti memodifikasi arsitektur STT-MRAM 1T1M standar untuk mewujudkan CRAM. Tata letak CRAM mengintegrasikan mikrotransistor ke setiap sel dan dibangun di atas CPU berbasis junction magnetik tunnel.
Pendekatan ini memberikan kontrol dan kinerja yang lebih baik. Tim kemudian menumpuk transistor tambahan, jalur logika (LL), dan jalur bit logika (LBL) di setiap sel, memungkinkan komputasi waktu nyata dalam bank memori yang sama.

Sejarah CRAM

Sistem AI saat ini memerlukan struktur baru yang dapat memenuhi tuntutan komputasinya tanpa mengurangi kepedulian keberlanjutan. Menyadari permintaan ini, insinyur memutuskan untuk menyelami kemampuan CRAM untuk pertama kalinya. Hasil mereka dipublikasikan dalam jurnal ilmiah NPJ dengan laporan “Experimental demonstration of magnetic tunnel junction-based computational random-access memory.”

CRAM pertama memanfaatkan struktur perangkat MTJ. Perangkat spintronic ini meningkatkan metode penyimpanan sebelumnya dengan menggunakan spin elektron alih-alih transistor untuk mentransfer dan menyimpan data menggunakan metode MTJ. Metode ini menggunakan lapisan penghalang tipis yang berada di antara dua lapisan ferromagnetik (FM). Tegangan kecil menyebabkan elektron ini terangsang dan berpindah antar lapisan.

Transfer ini menghasilkan arus. Ini juga menyediakan cara efisien untuk membaca dan menulis memori. Peningkatan CRAM terbaru membawa konsep ini lebih jauh, memberikan hasil kinerja tinggi sambil mengurangi permintaan energi.

Studi CRAM

Konsep CRAM telah dikembangkan selama bertahun-tahun. Namun, belum banyak pengujian mendalam terhadap kemampuannya sampai sekarang. Secara khusus, studi ini memanfaatkan berbagai konsep paten yang dikembangkan oleh tim dan pendahulunya sepanjang perjalanan. Misalnya, Memori Akses Acak Magnetik (MRAM), yang merupakan komponen penting pada smartwatch, sensor, dan mikrokontroler modern, digunakan bersama perangkat MTJ yang dimodifikasi untuk meningkatkan kinerja.

Uji CRAM

Tahap pengujian mengharuskan peneliti mengukur kinerja chip selama eksekusi logika. Peneliti menggunakan berbagai strategi untuk memperoleh wawasan terdalam termasuk penjumlahan skalar, perkalian, dan perkalian matriks.
Langkah pertama proses adalah mengukur aktivitas pada operasi memori dasar. Dari sana tim meningkatkan komputasi menggunakan operasi logika 2-, 3-, dan 5-input. Setelah tahap ini, sebuah penjumlah penuh 1-bit dengan dua desain berbeda diperkenalkan dan diuji kembali. Pengujian akhir mencakup array 1 × 7, yang menghasilkan hasil menarik.

Hasil Pengujian CRAM Menunjukkan Permintaan Energi Lebih Rendah

Hasil pengujian menunjukkan betapa efisien proses bukti konsep baru dibandingkan model saat ini. Data menunjukkan rata-rata konsumsi daya 1000X lebih rendah selama komputasi. Ketika digabungkan dengan metode penghematan daya lainnya, pendekatan ini menunjukkan penghematan energi sebesar 2.500 dan 1.700 kali lebih sedikit dibandingkan metode tradisional.

Fitur Tambahan

Penemuan menarik lainnya adalah bahwa CRAM memungkinkan akses acak simultan data dan operand. Manfaat ini secara signifikan meningkatkan kemampuan komputasi paralel, yang dapat menghasilkan protokol yang lebih aman dan stabil di masa depan.

Manfaat yang Dibawa CRAM ke Pasar

Mengamati manfaat yang dibawa CRAM akan membantu Anda lebih memahami mengapa terobosan ini dapat mengubah permainan dan memiliki dampak langsung pada aktivitas harian orang rata-rata dalam waktu dekat. CRAM memungkinkan pengembang dan produsen menciptakan perangkat keras yang dikonfigurasi secara sempurna untuk tugas utamanya, mengurangi permintaan energi dan meningkatkan kinerja.

AI – Fokus

Kecerdasan Buatan sudah mengubah banyak hal. Sistem ini sangat diminati namun memerlukan perangkat keras dan perangkat lunak khusus untuk beroperasi dengan benar. CRAM menawarkan produsen kemampuan menciptakan perangkat keras sejak hari pertama yang dirancang untuk mendukung aplikasi intensif data, berpusat pada memori, atau sensitif terhadap daya.
Di masa depan, CRAM akan mendukung algoritma AI canggih seperti bioinformatika, pemrosesan sinyal, jaringan saraf, komputasi edge, dan perangkat keras militer paling maju. Array CRAM akan memungkinkan pengembang menciptakan aplikasi pembelajaran mesin dengan kinerja lebih baik yang cukup fleksibel untuk memenuhi kebutuhan komunitas.

Menggunakan Struktur Terbukti

Manfaat utama lain yang menjadikan CRAM pilihan cerdas adalah penggunaan sistem perangkat keras yang terbukti. Secara khusus, CRAM menggunakan teknologi umum dan matang yang menambah kepercayaan konsumen. Ini juga memastikan masalah perangkat keras menjadi kekhawatiran minimal bagi pengguna.

Fleksibel

CRAM memberikan fleksibilitas sejati bagi pengembang. Programmer dapat menghitung data di mana saja dalam array memori menggunakan berbagai operasi logika populer. Secara khusus, CRAM mendukung AND, OR, NAND, NOR, dan MAJ, menambah keanekaragaman fungsinya.

Lebih Cepat

Kecepatan adalah manfaat lain yang tidak dapat diabaikan. Dibutuhkan waktu bagi data untuk berpindah antara lokasi logika dan penyimpanan memori. Meskipun waktu ini hanya sebagian detik, ia dapat terakumulasi dan menurunkan pengalaman pengguna. CRAM menghilangkan kebutuhan transfer data yang lambat dan intensif energi dengan menjadikan memori yang sama bertanggung jawab atas tugas tersebut.

Paralelisme

Paralelisme adalah kemampuan menjalankan kode yang sama secara paralel pada waktu bersamaan. Ini merupakan komponen penting dalam banyak operasi manufaktur, keselamatan, dan industri. Karena struktur CRAM, ia dapat menjalankan logika yang sama secara paralel di seluruh array memori secara simultan.

Biaya Manufaktur

CRAM juga akan menurunkan biaya manufaktur perangkat kelas atas dengan mengurangi jumlah komponen yang diperlukan untuk membangun produk. CRAM menggunakan memori yang sama untuk logika dan data, yang berarti produsen dapat membuat chip dengan lebih sedikit bagian. Struktur ini mengurangi biaya serta meningkatkan keandalan dan kinerja.

Peneliti

Penelitian ini dipimpin oleh Tema dari Universitas Minnesota. Peneliti utama termasuk Jian-Ping Wang, Profesor McKnight, dan Robert F. Hartmann. Selain itu, Ulya Karpuzcu, Robert Bloom, Husrev Cilasun, Robert dan Marjorie Henle, Sachin Sapatnekar, Brandon Zink, Zamshed Chowdhury, dan Salonik Resch memainkan peran penting dalam studi ini. Tim dari Universitas Arizona juga membantu, termasuk Pravin Khanal, Ali Habiboglu, dan Profesor Weigang Wang.
Penelitian ini dimungkinkan berkat hibah dari U.S. Defense Advanced Research Projects Agency (DARPA), National Institute of Standards and Technology (NIST), National Science Foundation (NSF), dan Cisco Inc. Proyek ini juga melakukan pengujian dan studi di Minnesota Nano Center serta Minnesota Supercomputing Institute di Universitas Minnesota.

Dua Perusahaan yang Dapat Mendapat Manfaat dari Pengurangan Permintaan Energi AI

Ada banyak produsen yang dapat memperoleh pendapatan tambahan atau meningkatkan lini produk mereka hanya dengan mengintegrasikan opsi CRAM. Perusahaan-perusahaan ini memiliki posisi kuat di pasar dan kemampuan untuk mengintegrasikan teknologi baru dengan cara yang akan sangat meningkatkan penawaran mereka.

Microsoft

MSFT Grafik Harga

Microsoft (MSFT ) adalah pemain utama di pasar AI dan komputasi. Perusahaan ini tetap menjadi pelopor di sektor tersebut dan telah menjadi kontributor utama bagi teknologi selama lebih dari satu dekade. Saat ini, Microsoft memiliki kepemilikan signifikan di sektor AI dan berupaya tetap menjadi pesaing yang layak ke depan.
Layanan AI Microsoft memiliki keunggulan besar dibandingkan pesaingnya karena tetap menjadi sistem operasi utama yang digunakan secara global. Oleh karena itu, sistem AI Microsoft memiliki audiens pengguna dan data yang sangat besar. Data ini membantu Microsoft menciptakan algoritma AI kuat baru yang suatu hari nanti akan menjadi inti sistem operasi Windows terbaru.

Arm Holdings

ARM Grafik Harga

Arm Holdings memasuki pasar pada tahun 1990. Perusahaan ini didirikan oleh Sophie Wilson dan Steve Furber. Awalnya, perusahaan bernama Advanced RISC Machines (ARM) Ltd. sebelum berganti nama menjadi Arm Holdings pada tahun 1998. Pada awal 2000-an, Arm Holdings memperoleh reputasi sebagai produsen berkualitas yang menawarkan GPU dan produk lainnya ke pasar.
Saat ini, ia tetap menjadi penyedia IP terkemuka dan produsen semikonduktor. Perusahaan ini dibeli pada tahun 2016 oleh Softbank seharga $32 miliar dan telah mengalami pertumbuhan signifikan sejak itu. Produsen dapat secara signifikan mengurangi jejak lingkungan mereka sambil meningkatkan kinerja dan pendapatan dengan mengintegrasikan CRAM ke dalam penawaran mereka saat ini.

Masa Depan AI akan Bergantung pada Permintaan Energinya

Faktor utama yang membatasi adopsi AI adalah permintaan energinya. Permintaan ini mengharuskan orang berpikir di luar kotak untuk menciptakan solusi bagi bottleneck yang membatasi kinerja. Studi terbaru ini membuka pintu bagi masa depan yang lebih cerah di mana layanan AI akan mengakses solusi berdaya rendah yang memberdayakan seluruh komunitas.

Pelajari proyek kecerdasan buatan keren lainnya sekarang.