Kecerdasan buatan

Teknologi Pendinginan Baru Menangani Permintaan Energi AI yang Meningkat Tajam

mm
Tambahkan Securities.io ke sumber pilihan Anda di Google
Smarter Cooling Solutions

Sebuah teknologi pendinginan baru telah dikembangkan oleh insinyur di University of California, San Diego yang dapat secara drastis meningkatkan efisiensi energi pusat data, yang penting untuk pengembangan dan penerapan AI.

Pusat data adalah fasilitas yang menampung infrastruktur yang diperlukan untuk melatih dan menerapkan model AI. Ini mencakup arsitektur komputasi, jaringan, dan penyimpanan canggih serta kemampuan energi dan pendinginan untuk menangani permintaan pemrosesan data yang masif dari beban kerja AI.

Sementara pusat data tradisional memiliki banyak komponen yang sama dengan pusat data AI, termasuk server, sistem penyimpanan, dan peralatan jaringan, daya komputasinya sangat bervariasi. Hal ini disebabkan oleh permintaan luar biasa dari beban kerja AI berintensitas tinggi, yang memerlukan unit pemrosesan grafis (GPU) berperforma tinggi.

Tidak hanya jumlah GPU yang sangat besar yang diperlukan untuk kasus penggunaan AI membutuhkan ruang yang jauh lebih luas, tetapi mereka juga memerlukan kemampuan energi dan pendinginan yang canggih.

Faktanya, penggunaan AI yang meledak dan terus berkembang menyebabkan permintaan pemrosesan data melambung tinggi.

Pusat data diproyeksikan menjadi salah satu konsumen energi terbesar secara global. Perkiraan menunjukkan bahwa konsumsi energi pusat data dapat tumbuh hingga 160% menjadi lebih dari 1.000 terawatt-jam (TWh), menyumbang 3% hingga 4% dari konsumsi listrik dunia, pada tahun 2030.

Lonjakan ini dipicu oleh peningkatan kebutuhan komputasi dari aplikasi AI canggih, yang menghasilkan panas signifikan dan memerlukan solusi pendinginan yang efektif.

Faktanya, 40% dari total penggunaan energi sebuah pusat data digunakan hanya untuk pendinginan perangkat keras komputasi berperforma tinggi, khususnya GPU dan akselerator.

Komponen ini menghasilkan panas jauh lebih banyak dibandingkan CPU tradisional, terutama selama pelatihan AI dan pemrosesan model bahasa besar. Selain itu, kepadatan daya komputasi yang meningkat pada server AI modern juga menyebabkan konsentrasi panas yang lebih tinggi, memerlukan solusi pendinginan yang lebih efisien.

“Biaya pendinginan merupakan biaya overhead signifikan yang harus dihadapi operator,” kata Rithika Thomas, analis senior untuk teknologi berkelanjutan di ABI Research, yang dalam laporan ‘Chilling Out: Cooling Systems for Data Centres’ menyerukan operator untuk mengadopsi strategi efektif guna mempertahankan kinerja, stabilitas, dan umur peralatan.

Jika tren ini berlanjut, penggunaan energi global untuk pendinginan dapat lebih dari dua kali lipat pada akhir dekade ini, menjadikannya krusial untuk menemukan solusi atas masalah ini.

“Strategi pendinginan yang efektif membutuhkan pendekatan holistik yang tidak bergantung pada teknologi untuk mengoptimalkan Power Usage Effectiveness (PUE), Water Usage Effectiveness (WUE), dan manajemen termal serta mengurangi biaya operasional.”

– Thomas

Kebutuhan Panas Tak Terpuaskan AI Membutuhkan Solusi Pendinginan yang Lebih Cerdas

Kebutuhan Panas Tak Terpuaskan AI Membutuhkan Solusi Pendinginan yang Lebih Cerdas

Masalahnya adalah metode pendinginan berbasis udara tradisional semakin tidak memadai untuk mengelola beban panas server modern. Metode ini sudah mengonsumsi hingga 45% dari total energi pusat data.

Mengenai fluks panas maksimum dari chip CPU dan GPU canggih, saat ini berada jauh di atas 50 W/cm². Fluks panas atau fluks termal hanyalah laju energi yang dipindahkan dari satu tempat ke tempat lain dalam bentuk panas.

Sebagai contoh, Hopper milik NVIDIA, sebuah GPU microarchitecture yang dirancang khusus untuk pusat data guna mempercepat beban kerja AI dan komputasi berperforma tinggi (HPC), memiliki daya desain termal (TDP) sebesar 700 W pada ukuran chip 814 mm² (fluks panas 86 W/cm²) untuk aplikasi AI.

Hopper adalah penerus arsitektur Ampere milik NVIDIA dan dibangun dengan lebih dari 80 miliar transistor menggunakan proses TSMC 4N.

Selanjutnya, miniaturisasi transistor dapat menghasilkan kepadatan transistor sekitar sepuluh kali lebih tinggi pada node 1 nm pada tahun 2030. Hal ini dapat menghasilkan fluks panas lebih dari 200 W/cm², tingkat yang tidak dapat dihilangkan secara efisien dan biaya-efektif dengan pendinginan udara. Oleh karena itu, diperlukan pendinginan cair.

Teknologi pendinginan cair bukan hal baru. Industri telah mengadopsinya untuk sistem generasi berikutnya guna meningkatkan manajemen termal dan efisiensi energi.

Metode pendinginan ini sebenarnya mentransfer panas dari server lebih efektif dibandingkan sistem berbasis udara, yang pada gilirannya mengurangi biaya pendinginan dan pemborosan energi.

Teknik pendinginan cair canggih meliputi cold plate mikrokanal dan pendinginan imersi dengan cairan dielektrik. Teknik pendinginan tradisional, seperti transfer panas fase tunggal atau mendidih, biasanya terbatas pada fluks panas dalam kisaran 100 W/cm².

Jadi, yang kita butuhkan adalah strategi disipasi panas berperforma tinggi. Mereka harus bersifat pasif, terutama karena tidak memerlukan daya tambahan. Meskipun diinginkan, strategi ini masih sulit dicapai.

Selain itu, pendinginan penting tidak hanya untuk perangkat CPU dan GPU yang digunakan untuk komputasi dan AI, tetapi juga untuk elektronik daya termasuk chip LED, frekuensi radio (RF) berdaya tinggi, transistor mobilitas elektron tinggi (HEMT) berbasis gallium nitride (GaN), dan laser pompa.

Banyak elektronik ini memiliki disipasi daya lebih dari 100 W/cm². Di sini, transfer panas evaporasi menawarkan teknologi menjanjikan untuk pendinginan elektronik berdaya tinggi, dengan beberapa keunggulan signifikan dibandingkan metode pendinginan tradisional.

Dibandingkan dengan sistem pendinginan fase tunggal, panas laten besar dari perubahan fase cair-ke-uap memungkinkan penghilangan panas yang efisien sekaligus menawarkan stabilitas lebih baik dan tanpa histeresis (ketergantungan keadaan sistem pada sejarahnya). Selain itu, kebutuhan daya pompa berkurang ketika menggunakan aliran pasif yang digerakkan oleh kapiler.

Sistem berbasis evaporasi sebenarnya menyediakan mekanisme transfer panas yang efisien dan lebih terkontrol, terutama untuk aplikasi berdaya tinggi, berbeda dengan mendidih.

Mengingat manajemen termal yang hemat energi sangat penting bagi pusat data, evaporasi film tipis yang digerakkan oleh kapiler dalam membran dengan pori-pori sangat kecil menawarkan pendekatan menjanjikan untuk menghilangkan fluks panas tinggi.

Klik di sini untuk mempelajari bagaimana AI dapat membantu mengendalikan peningkatan permintaan energi di antara pusat data AI.

Teknologi Pendinginan Baru untuk Menahan Peningkatan Permintaan Energi

Dengan kebutuhan strategi pendinginan canggih yang kritis untuk menahan tren peningkatan konsumsi energi yang cepat dalam pendinginan pusat data, mengurangi biaya operasional, dan mendukung tujuan pengurangan karbon, para insinyur telah mengembangkan teknologi pendinginan evaporatif baru untuk pusat data dan elektronik berdaya tinggi.

Didukung oleh National Science Foundation, teknik baru ini menawarkan alternatif menjanjikan untuk sistem pendinginan tradisional, seperti kipas, pompa cair, dan heat sink, seperti detailed1 dalam jurnal Joule. Hal ini juga dapat mengurangi penggunaan air dari banyak sistem pendinginan saat ini.

Teknologi baru ini menampilkan membran serat yang dirancang khusus yang secara pasif menghilangkan panas melalui evaporasi. Membran filtrasi rendah yang digunakan di sini melibatkan jaringan pori-pori kecil yang saling terhubung yang menggunakan aksi kapiler untuk menarik cairan pendingin melintasi permukaannya.

Saat cairan menguap, panas secara efisien dihilangkan dari elektronik di bawahnya tanpa memerlukan energi tambahan. Membran diletakkan di atas mikrokanal di atas elektronik, menarik cairan yang mengalir melalui kanal dan secara efisien menyebarkan panas.

“Dibandingkan dengan pendinginan udara atau cair tradisional, evaporasi dapat menghilangkan fluks panas yang lebih tinggi sambil menggunakan lebih sedikit energi.”

Evaporasi untuk pendinginan bukan hal baru, karena banyak aplikasi seperti evaporator dalam pendingin udara dan pipa panas dalam laptop saat ini menggunakannya. Namun menerapkan metode ini pada elektronik berdaya tinggi menjadi tantangan.

Upaya menggunakan membran berpori belum berhasil. Membran berpori memiliki area permukaan tinggi yang ideal untuk evaporasi, tetapi upaya sebelumnya memiliki pori yang terlalu kecil sehingga menyumbat, atau terlalu besar yang memicu mendidih yang tidak diinginkan, sehingga gagal.

“Di sini, kami menggunakan membran serat berpori dengan pori-pori yang saling terhubung berukuran tepat,” kata Chen. Dengan cara ini, insinyur dapat mencapai evaporasi efisien tanpa kelemahan tersebut.

Setelah menguji teknologi ini pada berbagai fluks panas, peneliti menemukan bahwa membran mereka berfungsi dan mencapai kinerja yang memecahkan rekor.

Membran tersebut menangani fluks panas yang melebihi 800 watt per sentimeter persegi (W/cm²). Ini merupakan salah satu tingkat tertinggi yang tercatat untuk jenis sistem pendinginan ini. Tidak hanya itu, membran juga terbukti stabil selama beberapa jam operasi, menyoroti pendekatan yang dapat diskalakan dan hemat energi untuk pendinginan elektronik generasi berikutnya.

“Keberhasilan ini menunjukkan potensi membayangkan kembali material untuk aplikasi yang sepenuhnya baru.”

– Chen

Dia menjelaskan bahwa awalnya, serat tersebut dirancang untuk filtrasi. “Tidak ada yang sebelumnya mengeksplorasi penggunaannya dalam evaporasi,” tambahnya. Namun, tim mengenali fitur struktural yang unik, yaitu pori-pori yang saling terhubung berukuran tepat, yang membuatnya sempurna untuk pendinginan evaporatif yang efisien. Chen menyatakan:

“Yang mengejutkan kami adalah bahwa, dengan penguatan mekanik yang tepat, mereka tidak hanya tahan terhadap fluks panas tinggi. Mereka berperformasi sangat baik di bawahnya.”

Selain kinerja termalnya, membran serat ini hemat biaya, dapat diskalakan untuk produksi, dan menunjukkan fleksibilitas serta kekuatan mekanik, menyoroti potensinya untuk evaporasi film tipis dan menunjukkan kegunaannya untuk dimasukkan ke dalam sistem pendinginan elektronik berfluks tinggi, sehingga menawarkan solusi kuat untuk manajemen termal generasi berikutnya.

Hasilnya memang menjanjikan, tetapi teknologi ini masih beroperasi jauh di bawah batas teoritisnya. Tim kini sedang bekerja memperbaiki membran dan mengoptimalkan kinerjanya.

Pada fase berikutnya, tim akan mengintegrasikan teknologi mereka ke dalam prototipe cold plate, komponen datar yang dipasang pada GPU dan CPU untuk menyebarkan panas. Untuk komersialisasi teknologi ini, tim akan meluncurkan startup untuk membawanya ke pasar. Regents of the University of California juga telah mengajukan paten terkait pekerjaan ini.

Klik di sini untuk mempelajari tentang chip baru yang akan mengurangi penggunaan daya LLM sebesar 50%.

Inovasi Pendinginan Generasi Berikutnya

Inovasi Pendinginan Generasi Berikutnya untuk Pusat Data AI

Mengingat penggunaan AI yang luas, yang diproyeksikan menyumbang triliunan dolar bagi ekonomi dunia, kini ada fokus yang meningkat untuk mengurangi penggunaan energinya melalui berbagai cara.

Pada Mei 2025, raksasa teknologi Microsoft (MSFT ) merilis sebuah paper yang mengukur konsumsi energi dan air, serta emisi gas rumah kaca (GHG) yang dihasilkan oleh teknik pendinginan pusat data sepanjang siklus hidupnya.

Penilaian siklus hidup ini menilai tidak hanya sumber daya yang dikonsumsi selama operasi pusat data tetapi juga menyelami sumber daya yang diperlukan untuk memproduksi semua mesin virtual, server, chip, pendinginan, dan peralatan lainnya. Data ini, menurut Microsoft, dapat membantu perusahaan merancang pusat data yang menggunakan lebih sedikit air, energi, dan karbon.

“Kami menganjurkan dalam makalah ini penggunaan alat penilaian siklus hidup untuk membimbing keputusan rekayasa sejak awal serta berbagi alat tersebut dengan industri untuk mempermudah adopsi.”

Berbicara tentang tujuan studi, Alissa berkata:

“Apa yang kami coba lakukan di sini adalah memberi tahu industri, ‘Inilah cara Anda membangun penilaian siklus hidup end-to-end yang memperhitungkan pendinginan. Dan inilah alat untuk Anda yang dapat disesuaikan dengan kebutuhan spesifik Anda sehingga dapat membuat keputusan.’”

Studi mereka sebenarnya memakan waktu dua tahun, selama itu mereka mengevaluasi empat teknologi pendinginan, yaitu cold plate, pendinginan udara, imersi satu fase, dan imersi dua fase untuk server.

Tim memperkirakan pendekatan cair akan tampil lebih baik dibandingkan pendinginan udara, yang menjadi standar industri, dalam hal emisi karbon, serta konsumsi energi dan air.

Sementara Microsoft telah memasang cold plate di pusat datanya, mereka juga mengeksplorasi teknik pendinginan lain, seperti teknik pendinginan cold plate skala rak yang memanfaatkan unit penukar panas. Raksasa teknologi ini juga mengembangkan teknologi baru, yang dikatakan dapat mengurangi konsumsi air sebesar 30% hingga 50% dan menurunkan permintaan energi serta emisi GHG sekitar 15% selama seluruh siklus hidup pusat data.

Baru-baru ini, MIT Lincoln Laboratory juga developed chip khusus untuk menilai opsi pendinginan bagi tumpukan chip terpaket. Chip unik ini menghilangkan daya sangat tinggi untuk menghasilkan panas melalui lapisan silikon dan pada titik panas tertentu. Selanjutnya, teknologi pendinginan diterapkan pada tumpukan, di mana chip mengukur perubahan suhu.

Ketika dimasukkan ke dalam tumpukan, hal ini memungkinkan peneliti memeriksa bagaimana panas bergerak melalui lapisan tumpukan dan kemudian mengukur kemajuan untuk menjaga mereka tetap dingin.

“Jika Anda hanya memiliki satu chip, Anda dapat mendinginkannya dari atas atau bawah. Tetapi jika Anda mulai menumpuk beberapa chip di atas satu sama lain, panas tidak memiliki tempat untuk keluar. Tidak ada metode pendinginan saat ini yang memungkinkan industri menumpuk beberapa chip berperforma sangat tinggi ini.”

– Pemimpin studi, Chenson Chen dari Kelompok Material dan Mikrosistem Lanjutan laboratorium

Berinvestasi di Sektor AI

Pemimpin global dalam GPU yang berfokus pada AI, Nvidia (NVDA ) adalah perusahaan infrastruktur komputasi full-stack yang beroperasi melalui segmen Compute & Networking dan Graphics.

Nvidia telah bermitra dengan pemain kunci dalam semikonduktor, manufaktur server, penyimpanan data, dan perangkat lunak perusahaan untuk mempercepat penerapan aplikasi AI. Pembuat chip ini juga sangat terlibat dalam pendanaan startup, terutama perusahaan AI seperti OpenAI, xAI, Inflection, Mistral AI, Perplexity, Lambda, Scale AI, dan lainnya untuk membantu memajukan sektor.

NVIDIA Corporation (NVDA )

Mengenai kinerja pasar Nvidia, sahamnya merupakan salah satu yang berkinerja terbaik, mencatat kenaikan luar biasa sebesar 1.350% dalam lima tahun terakhir. Pada saat penulisan, saham perusahaan terbesar ke-2 di dunia dengan kapitalisasi pasar $3,5 triliun, diperdagangkan di atas $145, naik 8,33% YTD dan hanya 3% dari puncaknya hampir $150 yang tercapai pada Nov. 2024.

NVDA Grafik Harga

Ia memiliki EPS (TTM) sebesar 3,10, P/E (TTM) sebesar 46,86, dan ROE (TTM) sebesar 115,46% sambil menawarkan dividend yield sebesar 0,03%.

Pada Mei 2025, Nvidia melaporkan hasil keuangan untuk kuartal pertama tahun fiskal 2026, di mana pendapatannya sebesar $44,1 miliar.

Di bidang pusat data, pendapatan perusahaan sebesar $39,1 miliar. Untuk sektor ini, Nvidia mengumumkan pembangunan pabrik di AS, memperkenalkan Blackwell Ultra dan Dynamo untuk memperluas model penalaran AI, dan berencana mempercepat transisi infrastruktur TI ke pabrik AI perusahaan dengan RTX PRO™ Servers. Di antara beberapa inisiatif lainnya, NVIDIA AI Data Platform juga diperkenalkan sebagai desain referensi yang dapat disesuaikan untuk beban kerja inferensi AI.

Pengembangan besar lainnya melibatkan penggunaan 100.000 chip Nvidia untuk membangun pusat data AI baru di UAE, yang akan beroperasi tahun depan.

Dalam berita menarik lainnya, Nvidia dilaporkan bekerja sama dengan Foxconn Taiwan untuk menempatkan robot humanoid di pabrik Foxconn baru yang akan memproduksi server AI Nvidia. Diharapkan selesai dalam beberapa bulan mendatang, penempatan ini akan menjadi tonggak dalam adopsi robot mirip manusia untuk mengubah proses manufaktur.

Berita dan Perkembangan Saham NVIDIA Corporation (NVDA) Terbaru

Pemikiran Akhir tentang Inovasi Pendinginan AI

Seiring AI terus mengubah industri, kebutuhan komputasinya yang besar mendorong konsumsi energi dan generasi panas yang belum pernah terjadi sebelumnya. Di sini, penelitian menjanjikan tentang evaporasi film tipis yang digerakkan oleh kapiler merupakan langkah penting menuju pembangunan infrastruktur AI yang lebih hemat energi, berkelanjutan, dan dapat diskalakan untuk masa depan.

Dengan fluks panas kritis (CHF) teoretis yang tinggi, evaporasi film tipis yang digerakkan oleh kapiler dalam membran nanopori menawarkan strategi manajemen termal yang menjanjikan untuk perangkat elektronik berdaya tinggi. Studi terbaru menemukan bahwa membran serat memiliki pori terbuka yang saling terhubung, berfungsi sebagai evaporator efisien, memfasilitasi transportasi cairan yang cepat dan seragam melalui banyak jalur sekaligus berhasil mengurangi penyumbatan dan memastikan pembasahan merata di seluruh permukaan.

Dengan menunjukkan stabilitas jangka panjang, evaporator membran serat 3D menawarkan solusi yang sangat menjanjikan untuk manajemen termal lanjutan, menyediakan solusi pendinginan efisien untuk memenuhi kebutuhan sistem elektronik modern.

Klik di sini untuk mempelajari semua tentang berinvestasi dalam kecerdasan buatan.

Studi yang Dirujuk:

1. Feng, T.; Pei, Y.; Zhang, H.; Asai, B.; Dong, G.; Joshi, A.; Saha, A.; Cai, S.; Chen, R. Evaporasi Film Tipis Berfluks Tinggi dan Stabil dari Membran Serat dengan Pori yang Saling Terhubung. Joule 2025, 9 (6), 101975. https://doi.org/10.1016/j.joule.2025.101975

Gaurav memulai perdagangan cryptocurrency pada 2017 dan telah jatuh cinta dengan ruang crypto sejak saat itu. Minatnya pada semua hal crypto menjadikannya seorang penulis yang berspesialisasi dalam cryptocurrency dan blockchain. Tak lama kemudian, dia menemukan dirinya bekerja dengan perusahaan crypto dan outlet media. Dia juga seorang penggemar besar Batman.