Kemajuan yang Diilhami NVIDIA Mengurangi Kebutuhan Daya Pelatihan AI 100 Kali Lipat

Kecerdasan buatan (AI) telah menguasai seluruh dunia, dan tidak ada sektor yang tidak tersentuh oleh keajaiban kemajuan teknologi ini. Saat ini, 77% perangkat mengintegrasikan teknologi AI, meskipun hanya sepertiga konsumen yang berpikir bahwa mereka menggunakan platform AI. 

Semakin banyak organisasi juga semakin mengadopsi AI untuk pertumbuhan bisnis, dengan 9 dari 10 perusahaan mendukung teknologi ini untuk keunggulan kompetitif. Penggunaan ini diproyeksikan akan menghilangkan 85 juta pekerjaan tetapi pada saat yang sama menciptakan 97 juta pekerjaan baru.

Angka-angka ini mencerminkan perkiraan bahwa pasar AI akan menyumbang $15,7 triliun ke ekonomi global pada tahun 2030. Ukuran pasar AI juga diperkirakan akan tumbuh setidaknya 120% tahun ke tahun.

Namun, seiring adopsi AI meningkat, permintaan energi untuk menggerakkan pusat data juga meningkat, yang sangat intensif energi. Menjalankan dan mendinginkan ribuan server sepanjang waktu memerlukan sejumlah besar energi. Saat ini, energi tersebut diambil dari jaringan listrik, yang menyebabkan masalah selama puncak permintaan dan membebani sistem. Menurut Chevron (CVX ) CEO Mike Wirth:

“Pertumbuhan dan permintaan daya dapat membebani jaringan yang sudah tertekan. Hal ini dapat menambah biaya bagi konsumen. Gas alam akan membantu mendukung pertumbuhan cepat kecerdasan buatan dengan permintaan tak terpuaskannya akan listrik yang dapat diandalkan.”

Sebagai respons terhadap permintaan ini, Chevron baru-baru ini mengumumkan bahwa mereka akan bekerja sama dengan GE (GE ) Verona dan Engine No. 1 untuk menghasilkan listrik bagi AI dengan membangun pembangkit listrik tenaga gas alam yang terhubung langsung ke pusat data.

Saat ini, pusat data menyumbang sekitar 1% dari konsumsi listrik global, menurut laporan International Energy Agency (IEA). 

Namun ini baru permulaan karena perusahaan menghabiskan miliaran dolar untuk membangun lebih banyak pusat data. 

Microsoft (MSFT ) berencana menginvestasikan $80 miliar dalam pusat data yang didukung AI, dengan setengahnya dialokasikan ke AS. Menurut Blackstone (BX ) memperkirakan, lebih dari $1 triliun akan diinvestasikan dalam pusat data AS hingga 2030, dengan Google (GOOGL ), Meta (META ), dan Amazon (AMZN ) termasuk di antara raksasa teknologi yang membangun pusat data di seluruh negeri.

Jadi, konsumsi energi sektor ini hanya akan semakin meningkat dari sini. Goldman Sachs (GS ) memperkirakan permintaan daya pusat data akan tumbuh 160% dalam lima tahun ke depan, yang secara alami akan mendorong pertumbuhan penggunaan listrik yang belum pernah terjadi sebelumnya.

Menurut perkiraan Electric Power Research Institute (EPRI), konsumsi energi oleh fasilitas ini di AS dapat menghabiskan antara 4,6% dan 9,1% dari total pembangkit listrik pada akhir dekade ini. 

Sementara itu, di Eropa, khususnya Jerman, pusat data mengonsumsi sekitar 16 miliar kWh energi pada tahun 2020 untuk komputasi, penyimpanan, dan transmisi, angka yang diperkirakan akan naik menjadi 22 miliar kWh pada tahun 2025.

Akibatnya, peneliti terus mencari cara untuk mengurangi kebutuhan daya AI. 

Mengurangi Konsumsi Energi AI

Teknologi AI memainkan peran kunci dalam meningkatkan efisiensi energi di berbagai sektor dengan mengoptimalkan konsumsi energi, memprediksi permintaan, dan memungkinkan manajemen jaringan pintar, yang pada akhirnya mengurangi pemborosan energi dan menurunkan emisi karbon. 

Misalnya, Vodafone UK menggunakan AI untuk menurunkan penggunaan daya harian unit radio 5G (RUs) dengan menggunakan solusi perangkat lunak canggih berbasis AI dan pembelajaran mesin dari Ericsson. Mereka telah berhasil menurunkannya sebesar 33% di situs terpilih di London.

Vodafone UK menerapkan tiga fitur penghematan energi utama sebagai bagian dari percobaan. 

Ini mencakup Radio Power Efficiency Heatmap, yang menggunakan ML untuk mengidentifikasi dan memberi peringkat situs yang kurang optimal untuk perbaikan efisiensi yang ditargetkan dengan membuat representasi visual semua sel jaringan. Selanjutnya ada 4G Cell Sleep Mode Orchestration, yang mengembangkan model perilaku sel jaringan untuk menyetel parameter tidur secara halus guna menciptakan keseimbangan antara penghematan energi dan kinerja. Sementara itu, 5G Deep Sleep menggunakan algoritma prediktif berbasis AI, mengurangi penggunaan daya sebesar 70% selama jam off-peak.

Tapi bagaimana dengan konsumsi energi AI? Nah, peneliti dan perusahaan telah menargetkan banyak area berbeda untuk mengurangi konsumsi energi teknologi yang berkembang pesat ini.

Ini mencakup mengoptimalkan model AI, menggunakan perangkat keras hemat energi, dan mengadopsi praktik berkelanjutan seperti energi terbarukan serta pendinginan efisien di pusat data.

Dalam mengoptimalkan model AI, berbagai pendekatan dapat diambil seperti pruning, quantization, dan distillation. Pada model pruning, parameter dan koneksi yang tidak diperlukan dihapus dari model tanpa memengaruhi akurasi. Quantization mengurangi presisi parameter model untuk menurunkan kebutuhan komputasi dan konsumsi energi. Pada distillation, model yang lebih kecil dilatih untuk meniru perilaku model yang lebih besar dan kompleks, yang menghasilkan model yang lebih hemat energi dengan performa serupa. 

Seperti yang dicatat oleh MIT Technology Review dalam publikasi tahun ini, model yang lebih kecil merupakan salah satu terobosan teknologi yang akan mendefinisikan era berikutnya. Model ini dilatih pada dataset yang lebih terfokus dan dapat menawarkan presisi khusus domain, efisiensi biaya, serta keamanan data yang lebih baik dibandingkan model bahasa besar (LLM). 

GPT-4o mini dari OpenAI, Phi dari Microsoft, Gemini Nano dari Google DeepMind, dan Haiku dari Claude 3 milik Anthropic adalah beberapa contoh versi lebih kecil dari model AI besar milik raksasa teknologi.

Berkenaan dengan perangkat keras, fokusnya adalah pada penggunaan GPU dan prosesor AI khusus lainnya yang dirancang khusus untuk beban kerja berkinerja tinggi. 

Selanjutnya, ada server dan prosesor hemat energi yang menyesuaikan penggunaan daya berdasarkan permintaan beban kerja, virtualisasi untuk pemanfaatan sumber daya yang lebih baik dengan menjalankan beberapa proses pada mesin fisik yang lebih sedikit, serta teknologi pendinginan canggih untuk mengurangi kebutuhan sistem pendingin yang mengkonsumsi banyak daya.

Seperti yang kami bagikan bulan lalu, peneliti dari Universitas Tohoku, Japan Atomic Energy Agency, dan National Institute for Materials Science berhasil menciptakan perangkat keras AI yang sangat efisien dan hemat energi. Para peneliti menggunakan perangkat spintronik untuk chip AI berdaya rendah dan menunjukkan perangkat spin-orbit torque (SOT) yang diprogram arus yang membuka pintu bagi generasi baru perangkat keras AI.

Cara lain untuk mengurangi konsumsi energi AI adalah melalui praktik berkelanjutan. Pusat data dapat memanfaatkan sumber energi terbarukan, menerapkan sistem pendinginan hemat energi, dan merancang tata letak yang efisien untuk mengurangi konsumsi energi.

Perusahaan secara aktif membuat komitmen terhadap hal ini, dengan Google membuat kemajuan menggunakan energi panas bumi. Microsoft juga, yang berencana membuka kembali pembangkit nuklir Three Mile Island untuk menjadi netral karbon pada tahun 2030.

Menariknya, AI juga digunakan untuk meningkatkan efisiensi energi AI itu sendiri. Teknologi ini digunakan untuk mengoptimalkan konsumsi energi di gedung dan industri, memprediksi kapan peralatan membutuhkan pemeliharaan, dan mengurangi permintaan puncak dengan memanfaatkan kondisi jaringan secara real-time.

Di tengah semua ini, peneliti dari Technical University of Munich (TUM) telah mengembangkan metode baru yang melatih jaringan saraf hingga 100 kali lebih cepat, secara signifikan mengurangi konsumsi energi yang terkait dengan aplikasi AI.

Untuk ini, para peneliti menghitung parameter secara langsung berdasarkan probabilitas alih-alih menggunakan pendekatan iteratif, namun hasilnya sejauh ini sebanding dalam kualitas dengan metode iteratif yang ada.

Cara Baru untuk Mengurangi Konsumsi Energi AI Secara Signifikan 

Selain peningkatan penggunaan AI, peluncuran aplikasi AI yang lebih kompleks dalam beberapa tahun mendatang akan menghasilkan lonjakan signifikan dalam permintaan kapasitas pusat data. 

Aplikasi ini akan menggunakan sejumlah besar energi untuk pelatihan jaringan saraf. Jadi, studi baru ini berfokus pada pengurangan daya besar yang diperlukan untuk melatih jaringan saraf bagi AI. 

Jaringan saraf digunakan dalam AI untuk mengenali gambar dan memproses bahasa serta tugas lainnya. Cara kerja jaringan ini terinspirasi dari cara otak manusia berfungsi.

Jaringan saraf terdiri dari node yang saling terhubung yang disebut neuron buatan. Di sini, sinyal input diberi bobot dengan parameter tertentu sebelum dijumlahkan, dan jika batas yang ditentukan terlampaui, sinyal diteruskan ke node berikutnya.

Sekarang, untuk melatih jaringan, pemilihan awal nilai parameter biasanya diacak dan kemudian secara bertahap disesuaikan untuk meningkatkan prediksi jaringan secara progresif.

Pendekatan ini, tentu saja, memerlukan banyak iterasi, yang membuat pelatihan sangat menuntut, sehingga mengakibatkan konsumsi listrik yang besar.

Jadi, tim peneliti yang dipimpin oleh Felix Dietrich, seorang profesor Machine Learning yang diperkaya dengan Fisika, mengembangkan metode baru. Dietrich adalah anggota inti Munich Data Science Institute (MDSI) dan anggota asosiasi Munich Center for Machine Learning (MCML).

Apa yang dilakukan teknik baru ini adalah menggunakan probabilitas alih-alih menentukan parameter antar node secara berulang. Metode probabilistik baru ini menggunakan nilai secara terarah pada lokasi kritis dalam data pelatihan. Lokasi-lokasi ini adalah tempat terjadinya perubahan nilai yang besar dan cepat. 

Dengan pendekatan ini, studi bertujuan memperoleh sistem dinamis yang menghemat energi dari data. Sistem dinamis semacam itu berubah seiring waktu sesuai aturan. Sistem ini dapat ditemukan di pasar keuangan dan model iklim.

“Metode kami memungkinkan penentuan parameter yang diperlukan dengan daya komputasi minimal. Ini dapat membuat pelatihan jaringan saraf jauh lebih cepat dan, sebagai hasilnya, lebih hemat energi. Selain itu, kami telah melihat bahwa akurasi metode baru ini sebanding dengan jaringan yang dilatih secara iteratif.”

– Dietrich

Kemajuan ini berpotensi secara signifikan mengurangi dampak lingkungan AI dengan menurunkan energi yang diperlukan untuk melatih jaringan saraf. Kita dapat melihat industri yang menerapkan model AI skala besar mengadopsi metode ini dalam 1 hingga 3 tahun ke depan, menghasilkan solusi AI yang lebih berkelanjutan dan hemat biaya.

Perusahaan Inovatif

NVIDIA Corporation

Pemimpin dalam komputasi AI, NVIDIA (NVDA ) mengembangkan GPU dan akselerator AI yang hemat energi, terus berinovasi untuk meningkatkan kinerja sekaligus mengurangi konsumsi daya.​

Tahun lalu di AI Summit DC, perusahaan melaporkan bahwa penggunaan energi GPU mereka mengalami pengurangan sebesar 2.000 kali dalam pelatihan selama dekade terakhir. Selama periode ini, mereka juga mengalami pengurangan energi sebesar 100.000 kali dalam menghasilkan token. Peningkatan efisiensi telah mencapai 2.000 kali sementara peningkatan kinerja komputasi tercatat sebesar 4.000 kali dalam sepuluh tahun terakhir.

Menurut Bob Pette, VP platform perusahaan Nvidia pada saat itu:

“Jika mobil meningkatkan efisiensinya sebanyak yang kami tingkatkan kinerja inferensi, Anda dapat mengemudi lebih dari 300 tahun dengan satu tangki bensin. Pada inti komputasi terakselerasi adalah komputasi berkelanjutan.”

Blackwell milik Nvidia adalah arsitektur GPU flagship baru mereka, yang menggantikan Hopper dan dirancang untuk meningkatkan kinerja AI “dengan cara yang signifikan.” Platform ini dilengkapi dengan chip paling kuat di dunia, mesin transformer generasi kedua, dan NVLink generasi kelima sekaligus sangat hemat energi untuk inferensi dan pelatihan.

NVIDIA Corporation sebenarnya adalah perusahaan infrastruktur komputasi full-stack dengan segmen-segmennya meliputi Compute & Networking serta Graphics.

Compute & Networking mencakup solusi pusat data, jaringan, kendaraan otonom dan listrik, layanan komputasi cloud DGX, serta Jetson, sementara segmen Graphics mencakup GPU GeForce, GeForce NOW, perangkat lunak GPU virtual, GPU NVIDIA RTX, dan perangkat lunak Omniverse Enterprise.

Dengan kapitalisasi pasar $2,96 triliun, saham NVIDIA, pada saat penulisan ini, diperdagangkan pada $121,50, turun 9,4% YTD. Perusahaan memiliki EPS (TTM) sebesar 2,94 dan P/E (TTM) sebesar 41,40, sementara hasil dividen berada pada 0,03%.

Meskipun penurunan harga saham NVIDIA belakangan ini, yang tidak eksklusif bagi pembuat chip, perusahaan terus menarik investor. Bagaimanapun, nilai sahamnya telah melambung lebih dari 1.800% sejak 2020, menjadikannya salah satu perusahaan paling berharga di dunia.

Minat terhadap NVIDIA terutama di kalangan investor muda karena mengalahkan Tesla (TSLA ) sebagai saham paling banyak dimiliki di Robinhood . Sebagian besar (75%) akun yang didanai pada platform investasi tanpa komisi ini dimiliki oleh Milenial dan Gen Z. 

CEO Robinhood Vlad Tenev juga percaya Nvidia akan menjadi lebih penting dari sebelumnya, berkat AI.

“Saya pikir AI akan membuat investasi menjadi lebih penting karena jika kontrol atas teknologi akan terpusat di perusahaan teknologi, maka Anda harus menjadi investor di perusahaan-perusahaan tersebut untuk mendapatkan manfaat.”

– Tenev

Berkenaan dengan keuangan perusahaan, Nvidia melaporkan Q4 yang berakhir pada 26 Januari 2025, mengungkapkan pendapatan sebesar $39,3 miliar, meningkat 12% dan 78% dibandingkan kuartal sebelumnya dan setahun yang lalu, masing-masing. 

Dalam segmen pusat data, pendapatan kuartal keempat perusahaan mencapai rekor $35,6 miliar. Selama periode ini, NVIDIA dipilih menjadi mitra teknologi utama untuk Proyek Stargate senilai $500 miliar.

Pengembangan lain termasuk penyedia layanan cloud AWS, CoreWeave (CRWV ), Google Cloud Platform (GCP), Microsoft Azure, dan Oracle (ORCL ) Cloud Infrastructure (OCI) yang menggunakan sistem NVIDIA® GB200 untuk memenuhi permintaan AI yang meningkat, menjadikan platform komputasi AI NVIDIA DGX™ Cloud dan microservices NVIDIA NIM™ tersedia melalui AWS Marketplace, Cisco mengintegrasikan NVIDIA Spectrum-X™ ke dalam portofolio jaringan mereka, berkolaborasi dengan Verizon untuk mengintegrasikan NVIDIA AI Enterprise, serta bermitra dengan IQVIA (IQV ), Mayo Clinic, Illumina, dan Arc Institute untuk memajukan penemuan obat, genomik, dan perawatan kesehatan.

Pendapatan dari Gaming dan AI PC turun menjadi $2,5 miliar sementara NVIDIA mengumumkan kartu grafis GeForce RTX™ 50 Series dan laptop yang didukung arsitektur Blackwell, meluncurkan kartu grafis GeForce RTX 5090 dan 5080 serta memperkenalkan DLSS 4. 

Selain itu, pendapatan dari Visualisasi profesional sebesar $511 juta dan $570 juta berasal dari divisi Otomotif dan Robotik.

Selama kuartal ini, laba GAAP per saham terdilusi perusahaan sebesar $0,89, naik 14% dari kuartal sebelumnya dan naik 82% dari setahun yang lalu. Sementara itu, laba non-GAAP per saham terdilusi adalah $0,89.

Untuk tahun fiskal 2025, pendapatan sebesar $130,5 miliar, meningkat sebesar 114% yang besar dibandingkan setahun yang lalu. Laba GAAP per saham terdilusi untuk periode tersebut adalah $2,94 dan laba non-GAAP per saham terdilusi adalah $2,99. 

“Permintaan untuk Blackwell luar biasa karena AI penalaran menambahkan hukum skala lain — meningkatkan komputasi untuk pelatihan membuat model lebih pintar dan meningkatkan komputasi untuk pemikiran jangka panjang membuat jawabannya lebih pintarr.“ 

– CEO dan pendiri Jensen Huang

Jadi, perusahaan telah meningkatkan produksi superkomputer AI Blackwell, mencapai penjualan miliaran dolar.

Untuk kuartal pertama tahun fiskal 2026, perusahaan memperkirakan pendapatan sebesar $43 miliar, biaya operasional GAAP sebesar $5,2 miliar, dan pendapatan lain non-GAAP sekitar $400 juta.

“AI berkembang dengan kecepatan cahaya karena AI agenik dan AI fisik menyiapkan panggung untuk gelombang AI berikutnya yang akan merevolusi industri terbesar.”

– Huang

Terbaru tentang NVIDIA Corporation

Kesimpulan

AI siap merevolusi bisnis di semua sektor, tetapi itu berarti peningkatan permintaan energi yang belum pernah terjadi sebelumnya. Permintaan ini menjadi tantangan besar, yang sedang diupayakan oleh banyak peneliti untuk diatasi. 

Pengembangan metode pelatihan probabilistik baru menandai terobosan signifikan dalam AI hemat energi dengan mengurangi kebutuhan daya hingga 100 kali lipat. Dengan perkiraan konsumsi energi terkait AI akan melonjak seiring perluasan pusat data, kemajuan ini dapat secara signifikan menurunkan biaya operasional dan dampak lingkungan. 

Bersama dengan fokus Nvidia pada GPU dan akselerator AI yang hemat energi, inovasi ini dapat membantu mempercepat adopsi AI dan meningkatkan produktivitas.

Klik di sini untuk mempelajari semua tentang berinvestasi dalam kecerdasan buatan.