Kecerdasan buatan
AI Bertemu Efisiensi: Chip Baru Mengurangi Penggunaan Daya LLM sebesar 50%
Tambahkan Securities.io ke sumber pilihan Anda di Google
Ledakan kecerdasan buatan (AI) yang sedang berlangsung menyebabkan lonjakan pusat data, yang memicu permintaan energi yang sangat besar untuk menjalankan dan mendinginkan server di dalamnya.
Meskipun ada lebih dari 8.000 pusat data di seluruh dunia, kebanyakan berada di AS, jumlah ini akan meningkat secara signifikan dalam beberapa tahun mendatang.
Menurut perkiraan Boston Consulting Group, permintaan akan pusat data akan meningkat 15% hingga 20% setiap tahun hingga 2030. Pada saat itu, perusahaan memperkirakan mereka akan menyumbang 16% dari total konsumsi listrik AS, naik dari hanya 2,5% sebelum peluncuran ChatGPT oleh OpenAI pada 2022.
Sementara itu, laporan khusus Energi dan AI dari Badan Energi Internasional (IEA) yang dirilis tahun ini, memperkirakan permintaan listrik dari pusat data di seluruh dunia akan setidaknya dua kali lipat pada akhir dekade ini menjadi sekitar 945 TWh. Ini hampir setara dengan konsumsi Jepang saat ini.
Organisasi antar‑pemerintah otonom yang berbasis di Paris melaporkan AI sebagai pendorong terbesar di balik lonjakan ini, dengan permintaan listrik dari pusat data yang dioptimalkan AI diproyeksikan akan lebih dari empat kali lipat pada 2030.
Di AS khususnya, konsumsi listrik oleh pusat data sudah diperkirakan akan menyumbang sekitar setengah pertumbuhan permintaan listrik antara sekarang dan 2030. Dipicu oleh penggunaan AI, ekonomi AS, menurut laporan tersebut, akan mengonsumsi lebih banyak listrik untuk memproses data pada saat itu daripada untuk memproduksi semua barang yang intensif energi secara bersamaan.
Kebutuhan energi yang tak terpuaskan ini menimbulkan masalah besar dalam pengembangan dan adopsi AI. Namun, sisi positifnya adalah semakin banyak peneliti dan perusahaan yang bekerja untuk mengurangi penggunaan daya AI dan menjadikannya lebih efisien secara energi.
Hal menarik dari upaya ini adalah banyak di antaranya memanfaatkan AI untuk mengatasi tantangan energi mereka sendiri.
Baru bulan ini, sebuah tim peneliti memperlihatkan chip baru yang menggunakan AI untuk mengurangi jejak energi model bahasa besar (LLM) sebesar 50%, menandai perkembangan penting dalam membuat LLM lebih hemat biaya dan lebih berkelanjutan untuk dijalankan.
Chip Baru Memanfaatkan AI untuk Mengurangi Konsumsi Energi LLM
Peneliti dari College of Engineering Universitas Negeri Oregon mengembangkan chip AI efisien baru untuk menyelesaikan masalah konsumsi listrik besar pada aplikasi AI LLM seperti GPT-4 milik OpenAI dan Gemini milik Google.
Sebagai jenis model pembelajaran mesin (ML), model bahasa besar (LLM) dilatih sebelumnya pada sejumlah besar data untuk melakukan tugas pemrosesan bahasa alami (NLP) seperti menghasilkan teks, merangkum, menyederhanakan, penalaran teks, penerjemahan bahasa, dan lainnya.
Chatbot paling populer dan banyak digunakan saat ini meliputi GPT-4o, o3, dan o1 milik OpenAI, Gemini dan Gemma dari Google, Llama dari Meta, R1 dan V3 dari DeepSeek, Claude dari Anthropic, Nova dari Amazon (AMZN ), Phi dari Microsoft (MSFT ), dan Grok dari xAI.
Dalam beberapa tahun terakhir, LLM telah sepenuhnya mengubah bidang AI dengan memungkinkan mesin memahami dan menghasilkan teks mirip manusia dengan akurasi lebih tinggi. Namun, evolusi LLM ini menghasilkan peningkatan eksponensial dalam ukuran mereka.
Ukuran LLM, yang diukur dari jumlah parameternya, merupakan faktor utama konsumsi energinya. Artinya, semakin besar model, semakin besar kebutuhan daya komputasi untuk pelatihan dan inferensi.
Sebagai contoh, ChatGPT-1 memiliki kurang dari 120 juta parameter, yang meningkat menjadi 175 miliar parameter pada GPT-3, dan kemudian sekitar 1,8 triliun parameter pada GPT-4.
Lonjakan besar dalam ukuran dan kemampuan LLM berarti konsumsi energi mereka juga meningkat pada skala yang belum pernah terjadi sebelumnya. Selain ukuran model, faktor seperti jenis perangkat keras yang digunakan untuk melatih LLM ini, durasi proses pelatihan, infrastruktur, yaitu pusat data, pemrosesan data, optimisasi model, dan efisiensi algoritma memengaruhi konsumsi energi LLM.
Inilah chip baru dari peneliti OSU. Menurut Tejasvi Anand, profesor associate teknik elektro di OSU yang juga memimpin Mixed Signal Circuits and Systems Lab di universitas tersebut:
“Masalahnya adalah energi yang diperlukan untuk mentransmisikan satu bit tidak berkurang pada tingkat yang sama dengan meningkatnya permintaan laju data. Itulah yang menyebabkan pusat data menggunakan begitu banyak daya.”
Untuk mengatasi masalah ini, tim merancang dan mengembangkan chip baru yang hanya mengonsumsi setengah energi dibandingkan desain konvensional.
Anand dan mahasiswa doktoral Ramin Javad mempersembahkan teknologi baru ini pada Konferensi IEEE Custom Integrated Circuits (CIC) yang diadakan di Boston bulan lalu. Konferensi yang menyelenggarakan forum, panel, pameran, dan presentasi lisan ini didedikasikan untuk pengembangan IC, yang menjadi blok bangunan sistem elektronik modern dengan menyediakan fungsionalitas dan daya pemrosesan dalam paket yang kompak dan efisien.
Teknologi terbaru ini dibangun dengan dukungan Center for Ubiquitous Connectivity (CUbiC), Semiconductor Research Corporation (SRC), dan Defense Advanced Research Projects Agency (DARPA). Teknologi ini juga membuat Javadi menerima Best Student Paper Award pada konferensi tersebut.
Untuk chip baru ini, para peneliti sebenarnya memanfaatkan prinsip AI yang, menurut Javadi, mengurangi penggunaan listrik untuk pemrosesan sinyal.
Seperti yang dijelaskannya, LLM mengirim dan menerima banyak data melalui koneksi kabel, yang merupakan tautan komunikasi berbasis tembaga di pusat data. Seluruh proses ini membutuhkan energi signifikan, sehingga satu “solusi” potensial adalah mengembangkan chip komunikasi kabel yang lebih efisien.
Javadi lebih lanjut mencatat bahwa ketika dikirim dengan kecepatan tinggi, data sebenarnya menjadi rusak di ujung penerima, sehingga perlu dibersihkan. Untuk tujuan ini, mayoritas sistem komunikasi kabel yang ada menggunakan equalizer, yang mengonsumsi banyak daya.
“Kami menggunakan prinsip AI tersebut pada chip untuk memulihkan data dengan cara yang lebih cerdas dan efisien dengan melatih classifier pada chip untuk mengenali dan memperbaiki kesalahan.”
– Javadi
Meskipun merupakan perkembangan besar, ini hanyalah versi awal chip tersebut. Iterasi berikutnya sedang dikembangkan untuk lebih meningkatkan efisiensi energinya.
Secara keseluruhan, penelitian yang sedang berlangsung ini menunjukkan potensi besar untuk memberikan dampak luas pada masa depan infrastruktur AI dan operasi pusat data. Namun tentu saja, hal itu memerlukan penerapan teknologi secara skala besar, yang tidak pernah mudah.
Klik di sini untuk mempelajari bagaimana AI mengubah rekayasa mikrochip.
Menaklukkan Nafsu Energi AI dengan Terobosan di Berbagai Lapisan
Pengembangan chip terbaru ini hanyalah salah satu dari banyak proyek penelitian yang menangani masalah konsumsi energi AI. Jadi, mari kita lihat sekilas cara inovatif yang telah dilakukan peneliti.
Menggunakan Cahaya untuk Efisiensi Energi AI
Awal tahun ini, ilmuwan USST mengembangkan1 sebuah chip AI mikroskopik, lebih kecil dari butir debu atau sebutir garam, yang menggunakan cahaya untuk memproses data dari kabel serat optik. Ini menjanjikan komputasi lebih cepat dengan konsumsi energi lebih rendah.
Chip ini memanipulasi cahaya untuk melakukan perhitungan secara instan alih‑alih menginterpretasikan sinyal cahaya seperti komputer tradisional. Untuk itu, chip menggunakan “jaringan saraf dalam difraktif seluruh‑optik,” teknologi yang memanfaatkan lapisan komponen berpolanya yang dicetak 3D dan ditumpuk bersama. Meskipun terobosan, tantangan seperti desain khusus tugas, sensitivitas terhadap ketidaksempurnaan, dan kesulitan produksi dalam skala besar harus diatasi agar dapat mencapai “fungsionalitas yang belum pernah ada sebelumnya” dalam pencitraan endoskopi, komputasi kuantum, dan pusat data.
Beberapa bulan sebelumnya, ilmuwan MIT juga menggunakan cahaya untuk melakukan operasi kunci jaringan saraf pada sebuah chip, memungkinkan komputasi AI ultracepat (setengah nanodetik) dengan akurasi 92% dan efisiensi energi yang luar biasa.
“Pekerjaan ini menunjukkan bahwa komputasi — pada intinya, pemetaan input ke output — dapat dikompilasi ke arsitektur baru fisika linear dan non‑linear yang memungkinkan hukum skala komputasi yang secara fundamental berbeda dibandingkan upaya yang dibutuhkan.”
– Penulis senior Dirk Englund
Para ilmuwan mengembangkan chip fotonik2, yang terdiri dari modul‑modul terhubung yang membentuk jaringan saraf optik. Yang penting, penggunaan proses foundry komersial untuk fabrikasinya berarti dapat diskalakan dan diintegrasikan ke dalam elektronik. Selain itu, ilmuwan mengatasi tantangan non‑linearitas dalam optik dengan merancang unit fungsi optik non‑linear (NOFUs) yang menggabungkan elektronik dan optik.
Alat Perangkat Lunak untuk Pelatihan AI & Sistem Pendinginan untuk Pusat Data
Para peneliti Universitas Michigan, sementara itu, menargetkan pemborosan energi yang terjadi saat pelatihan AI, khususnya ketika dibagi secara tidak merata antara GPU, yang diperlukan untuk memproses dataset besar.
Jadi, mereka mengembangkan alat perangkat lunak bernama Perseus yang mengidentifikasi subtugas yang akan memakan waktu paling lama untuk diselesaikan dan kemudian mengurangi kecepatan prosesor yang tidak berada pada ‘jalur kritis’ tersebut agar semua dapat menyelesaikan tugasnya secara bersamaan, menghilangkan penggunaan daya yang tidak perlu.
Alat sumber terbuka ini tersedia sebagai bagian dari Zeus, sebuah alat untuk mengukur dan mengoptimalkan konsumsi energi AI.
Sementara itu, peneliti dari Universitas Missouri beralih ke merancang sistem pendinginan generasi berikutnya untuk membantu pusat data menjadi lebih efisien energi. Mereka juga sedang memproduksi sistem pendinginan yang mudah dipasang dan dilepas dalam rak server.
“Pendinginan dan pembuatan chip berjalan beriringan. Tanpa pendinginan yang tepat, komponen akan terlalu panas dan gagal. Pusat data yang hemat energi akan menjadi kunci masa depan komputasi AI.”
– Chanwoo Park, profesor teknik mesin dan dirgantara di Mizzou College of Engineering
Dengan dukungan dana $1,5 juta dari inisiatif COOLERCHIPS DOE, tim mengembangkan sistem pendinginan dua fase yang menyebarkan panas dari chip server melalui perubahan fase. Tidak hanya dapat beroperasi pasif tanpa menggunakan energi ketika diperlukan pendinginan minimal, tetapi bahkan dalam mode aktif, sistem ini menggunakan sangat sedikit energi.
Perangkat Keras CRAM Dapat Mengurangi Penggunaan Energi AI hingga 1000 Kali
Musim panas lalu, insinyur di University of Minnesota Twin Cities mengembangkan perangkat keras canggih3 yang dapat mengurangi konsumsi energi AI sekitar 1.000 kali lipat.
Model baru ini disebut computational random‑access memory (CRAM), dan di dalamnya, data tidak pernah keluar dari memori; melainkan diproses sepenuhnya di dalam array memori, sehingga menghilangkan kebutuhan akan transfer data yang intensif energi dan lambat.
Dua dekade dalam proses, studi ini merupakan bagian dari upaya tim untuk mengembangkan penelitian paten senior author Jian‑Ping Wang tentang perangkat Magnetic Tunnel Junctions (MTJ). Perangkat nanostruktur ini digunakan untuk meningkatkan sensor, hard drive, dan sistem mikroelektronik lainnya seperti Magnetic Random Access Memory (MRAM).
“Sebagai substrat komputasi digital berbasis memori yang sangat efisien energi, CRAM sangat fleksibel karena komputasi dapat dilakukan di lokasi mana pun dalam array memori,” catat co‑author Ulya Karpuzcu, Associate Professor di Departemen Teknik Elektro dan Komputer. Selain itu, CRAM dapat dikonfigurasi ulang untuk menyesuaikan kebutuhan kinerja algoritma yang berbeda.
AI Berbasis Otak: Mengurangi Penggunaan Daya dengan Meniru Efisiensi Manusia
Jadi, seperti yang kita lihat, peneliti meneliti berbagai aspek AI untuk mengatasi masalah energinya. Menariknya, mereka juga mengambil inspirasi dari otak manusia. Hal ini masuk akal, karena AI adalah simulasi proses kecerdasan manusia oleh mesin, meskipun masih jauh dari pemikiran dan penalaran manusia karena kemampuannya untuk menggeneralisasi variasi yang “jauh lebih lemah dibandingkan kognisi manusia.”
Penelitian pengurangan energi berbasis otak mencakup karya Associate Professor Chang Xu di Sydney AI Centre universitas, yang mencatat bahwa LLM yang memanfaatkan sumber daya secara penuh, bahkan untuk tugas sederhana, bukanlah cara yang tepat. Ia menjelaskan:
“Ketika Anda memikirkan otak manusia yang sehat – ia tidak menyalakan semua neuron atau menggunakan seluruh daya otaknya sekaligus. Ia beroperasi dengan efisiensi energi yang luar biasa, hanya 20 Watt daya meskipun memiliki sekitar 100 miliar neuron, yang secara selektif digunakan dari berbagai belahan otak untuk melakukan tugas atau pemikiran yang berbeda.”
Dengan demikian, mereka mengembangkan algoritma yang melewati komputasi berlebih yang tidak diperlukan dan tidak secara otomatis masuk ke mode tinggi.
Dalam contoh lain, penelitian mengambil inspirasi dari neuromodulasi otak dan menciptakan algoritma yang disebut ‘sistem penyimpanan’ untuk mengurangi energi sebesar 37% tanpa penurunan akurasi, fungsi perbaikan diri sel otak yang disebut astrocyte untuk perangkat keras, dan memperoleh bentuk komputasi neuromorfik (berbasis otak) (memristor) untuk bekerja sama dalam beberapa sub‑kelompok jaringan saraf.
Berinvestasi dalam Kecerdasan Buatan
Perusahaan semikonduktor global, AMD (AMD ) dikenal karena teknologi komputasi berkinerja tinggi, grafis, dan visualisasi. Meskipun bersaing langsung dengan bintang AI NVIDIA (NVDA ), perusahaan ini dengan cepat memperoleh pangsa pasar di pusat data dan pasar akselerator AI. Seri MI300‑nya secara khusus menargetkan beban kerja AI generasi dan aplikasi HPC.
Kehadirannya yang kuat di ruang CPU pusat data, fokus R&D yang kuat, pertumbuhan pendapatan, basis klien, dan akuisisi menjadikan AMD pemain kuat di sektor ini.
Advanced Micro Devices (AMD )
Pada tahun 2022, AMD melakukan kesepakatan industri chip terbesar senilai $50 miliar dengan akuisisi Xilinx untuk menjadi pemimpin komputasi berkinerja tinggi dan adaptif. Dan baru‑baru ini, perusahaan menyelesaikan akuisisi ZT Systems untuk menangani peluang akselerator AI pusat data senilai $500 miliar pada 2028.
Kinerja pasar AMD juga mengalami pemulihan tahun ini setelah terdampak gejolak tarif. Pada saat penulisan, saham AMD diperdagangkan pada $120, turun 6,9% YTD namun hanya sekitar 47% dari puncaknya pada Maret 2024. Dengan itu, kapitalisasi pasar sebesar $182,34 miliar dengan EPS (TTM) 1,36 dan P/E (TTM) 82,44.
Mengenai keuangan perusahaan, AMD melaporkan peningkatan pendapatan sebesar 36% YoY menjadi $7,4 miliar untuk Q1 2025, yang disebut CEO Dr. Lisa Su sebagai “awal yang luar biasa” untuk tahun ini, “meskipun lingkungan makro dan regulasi yang dinamis.” Pertumbuhan ini didorong oleh “momentum pusat data dan AI yang berkembang,” tambahnya.
Selama periode ini, pendapatan operasional AMD mencapai $806 juta, laba bersih $709 juta, dan laba per saham terdilusi $0,44. Untuk Q2 2025, diproyeksikan pendapatan sekitar $7,4 miliar.
Beberapa perkembangan penting yang dilakukan perusahaan meliputi perluasan kemitraan strategis dengan Meta Platforms, Inc. (META ) (Llama), Alphabet Inc. (GOOG ) (GOOGL ) (Gemma), Oracle Corporation (ORCL ), Core42, Dell Technologies (DELL ), dan lainnya. AMD, bersama Nokia, Cisco Systems, Inc. (CSCO ), dan Jio, juga mengumumkan Open Telecom AI Platform baru untuk menawarkan solusi berbasis AI guna meningkatkan efisiensi, keamanan, dan kapabilitas.
Minggu ini, AMD dan Nvidia bermitra dengan Humain, anak perusahaan yang berfokus pada AI dari Public Investment Fund Saudi Arabia untuk memasok semikonduktor bagi proyek pusat data berskala besar yang diperkirakan memiliki kapasitas 500MW.
Klik di sini untuk daftar perusahaan komputasi non‑silicon teratas.
Tren dan Perkembangan Terbaru Advanced Micro Devices (AMD)
Kesimpulan
Selama beberapa tahun terakhir, kegilaan AI telah mengalami pertumbuhan eksplosif, dan dengan alasan yang kuat. Teknologi ini, pada akhirnya, memiliki potensi besar untuk mengubah berbagai industri mulai dari perawatan kesehatan, manufaktur, dan ilmu material hingga keuangan, hiburan, pendidikan, ritel, dan keamanan siber.
Namun, kemajuan teknologi, adopsi yang meningkat, dan ekspansi LLM ini telah menghasilkan permintaan energi yang signifikan, yang berkontribusi pada emisi gas rumah kaca (GHG) dan perubahan iklim, meningkatkan biaya ekonomi, dan memengaruhi keberlanjutan teknologi.
Hal ini menjadi tantangan besar bagi AI. Jika kita ingin mewujudkan potensi sesungguhnya dalam hal pengurangan biaya, peningkatan produktivitas, dan pengambilan keputusan yang lebih baik secara skala besar, model harus mencapai efisiensi biaya dan keberlanjutan.
Hal baiknya, peneliti di seluruh dunia sudah bekerja keras untuk membuat AI lebih efisien energi, seperti yang terlihat dari chip berbasis AI Oregon State, yang menunjukkan kemungkinan kuat untuk menyelaraskan inovasi dengan keberlanjutan.
Tentu saja, teknologi yang diusulkan harus mengatasi hambatan terbesar mereka dalam mencapai dampak dunia nyata, yaitu skalabilitas. Namun, satu hal jelas: masa depan AI yang lebih hijau dapat diwujudkan, dan itu akan datang!
Klik di sini untuk mempelajari semua tentang berinvestasi dalam kecerdasan buatan.
Studi yang Dirujuk:
1. Yu, H., Huang, Z., Lamon, S., Wu, J., Zhao, Z., Lin, D., Zhao, H., Zhang, J., Lu, C., Liu, H., Zhang, X., & Zhang, C. (2025). Transportasi gambar seluruh‑optik melalui serat multimode menggunakan jaringan saraf difraktif miniatur pada sisi distal. Nature Photonics, 19, 486–493. https://doi.org/10.1038/s41566-025-01621-4
2. Bandyopadhyay, S., Sludds, A., Krastanov, S., Youssry, A., Zhang, L., Lian, C., Yu, S., Desiatov, B., Burek, M. J., Lukin, M. D., & Lončar, M. (2024). Jaringan saraf dalam fotonik satu‑chip dengan pelatihan hanya maju. Nature Photonics, 18, 1335–1343. https://doi.org/10.1038/s41566-024-01567-z
3. Lv, Y., Zink, B. R., Bloom, R. P., Roy, A., Vaddi, K., Shang, L., & Manipatruni, S. (2024). Demonstrasi eksperimental memori acak komputasional berbasis junction magnetik tunnel. npj Unconventional Computing, 1, 3. https://doi.org/10.1038/s44335-024-00003-3
