marketinginsight.id – Pertumbuhan pesat teknologi kecerdasan buatan (AI) kini berhadapan langsung dengan tantangan besar di sektor infrastruktur data center: lonjakan konsumsi daya dan biaya operasional.
Bagi para pengambil keputusan di industri digital dan enterprise, kemampuan melakukan ekspansi beban kerja AI tanpa membebani penggunaan energi menjadi kunci utama dalam menjaga efisiensi bisnis serta daya saing pasar.
Menjawab tantangan tersebut, inovasi teknologi tidak lagi hanya berfokus pada kecepatan komputasi semata, melainkan pada optimalisasi efisiensi energi skala besar.
Langkah ini sangat krusial untuk menekan Total Cost of Ownership (TCO) sekaligus memastikan operasional pusat data tetap berkelanjutan (sustainable) di tengah tingginya permintaan pasar terhadap pemrosesan data berbasis AI.
Sebagai salah satu pemain utama di industri silikon global, AMD melaporkan kemajuan signifikan dalam peta jalan efisiensi energi untuk infrastruktur AI.
Melalui pendekatan terpadu lintas perangkat keras dan perangkat lunak, langkah strategis ini memberikan gambaran jelas mengenai arah efisiensi komputasi AI dalam beberapa tahun ke depan.
AMD telah mencapai estimasi peningkatan efisiensi energi AI sebesar 4x hingga pertengahan 2026. Pencapaian ini melampaui target proyeksi 3x untuk tahap ini dan lebih dari dua kali lipat tren historis pada titik yang sama.
Kemajuan ini menunjukkan bahwa AMD sedang membangun momentum menuju target 2030 untuk menghadirkan peningkatan efisiensi energi skala rak sebesar 20x untuk pelatihan dan inferensi AI. Langkah tersebut mencerminkan upaya perusahaan di seluruh silikon, sistem, dan software untuk membantu pelanggan menskalakan beban kerja AI dengan lebih efisien.
Komputasi AI berkembang pesat sehingga meningkatkan tuntutan terhadap apa yang harus dihadirkan oleh infrastruktur data center. Memenuhi kebutuhan tersebut memerlukan inovasi di seluruh stack seperti CPU, GPU, jaringan, software, daya, dan pendinginan yang bekerja bersama secara efisien.
Peningkatan efisiensi energi dapat membantu menghadirkan performa AI lebih tinggi tanpa meningkatkan daya. Langkah ini turut memperbaiki total cost of ownership dan membantu pelanggan melakukan penskalaan lebih cepat.
“Gelombang efisiensi AI berikutnya akan bergantung pada co-optimization yang lebih erat di seluruh silikon komputasi, memori, interkoneksi, software, dan desain sistem skala rak,” ujar Senior Vice President and Corporate Fellow AMD, Sam Naffziger. “Estimasi peningkatan 4x hingga 2026 mencerminkan kekuatan pendekatan kami dan kemajuan yang dicapai di seluruh sistem,” lanjut Senior Vice President and Corporate Fellow AMD tersebut.
Senior Vice President and Corporate Fellow AMD menambahkan bahwa pencapaian ini menempatkan perusahaan di depan laju proyeksi menuju target 2030. Berdasarkan beban kerja pelatihan AI yang representatif, proyeksi peningkatan efisiensi energi skala rak AMD diperkirakan akan menghasilkan salah satu dari dua manfaat saling terkait pada 2030.
Manfaat pertama adalah komputasi sama dengan sumber daya lebih sedikit. Sekitar dua rak AMD pada 2030 diperkirakan dapat menghadirkan komputasi yang sama dengan 570 rak pada 2024, memungkinkan pengurangan penggunaan listrik pada fase penggunaan sebesar 20x dan intensitas karbon sebesar 28x.
Manfaat kedua adalah komputasi lebih banyak dengan energi sama. Peningkatan efisiensi diperkirakan memungkinkan komputasi 20x lebih banyak, yang diukur dalam floating point operations per second (FLOPs) per watt, dengan menggunakan jumlah energi sama.
Perusahaan berupaya meningkatkan efisiensi di seluruh stack AI melalui kemajuan arsitektur komputasi, teknologi proses, bandwidth memori, perpindahan data, interkoneksi, software, dan co-design tingkat sistem. Tujuannya adalah menghadirkan performa komputasi jauh lebih tinggi tanpa mengharuskan konsumsi energi tumbuh dengan laju yang sama.
Seiring infrastruktur AI berkembang dari node individual menjadi rak penuh, efisiensi semakin bergantung pada keterpaduan komponen sistem. Tim ahli menerapkan co-design tingkat sistem lintas kategori produk untuk membantu mengurangi bottleneck, memindahkan data lebih efisien, dan meningkatkan performa per watt.
Selain pengoptimalan software, tiga faktor utama mendorong performa sistem AI yaitu kemampuan komputasi, bandwidth memori, dan bandwidth interkoneksi. Teknologi proses canggih dan peningkatan arsitektur membantu meningkatkan performa komputasi floating-point per watt.
Arsitektur canggih dan integrasi memori meningkatkan bandwidth, sementara interkoneksi berkecepatan tinggi meningkatkan bandwidth jaringan. Secara keseluruhan, inovasi ini diperkirakan akan menghadirkan performa AI per watt 20x lebih tinggi pada 2030 dibandingkan 2024.
Beban kerja AI modern sangat bergantung pada perpindahan data dalam jumlah besar secara efisien. Peningkatan bandwidth memori, kepadatan bandwidth, dan bandwidth per watt membantu memastikan mesin komputasi terus mendapat pasokan data sekaligus mengurangi pemborosan daya.
High-bandwidth memory, cache lebih besar, dan integrasi erat antara memori dan komputasi dapat mengurangi perpindahan data yang tidak perlu. Langkah ini secara langsung menekan penggunaan energi yang berlebihan.
Teknologi interkoneksi telah menjadi bagian penting dari infrastruktur AI yang efisien. Hal ini terjadi karena model dan beban kerja yang lebih besar semakin bergantung pada kolaborasi efisien antar komponen sistem.
Interkoneksi scale-up berkecepatan tinggi membantu sistem lebih besar mengurangi bottleneck. Mekanisme ini membuat proses berbagi data berjalan jauh lebih efisien.
Hardware menyediakan fondasi utama, tetapi software membantu membuka peningkatan efisiensi yang berkelanjutan. Stack software AMD ROCm™, standar terbuka, dan kolaborasi erat membantu developer menerapkan beban kerja AI lebih efisien.
Ekosistem terbuka ini juga mendukung optimasi lebih luas di seluruh penerapan AI dan high-performance computing (HPC). Pengoptimalan tersebut meningkatkan beban kerja pelatihan dan inferensi AI berskala besar.
Peningkatan throughput dan pengurangan energi per token menjadi semakin penting seiring perkembangan aplikasi AI. Pelanggan membutuhkan lebih banyak komputasi berguna dari energi yang tersedia.
Proyeksi peningkatan efisiensi skala rak memungkinkan pelanggan memperoleh manfaat pada tingkat data center dari infrastruktur daya dan pendinginan. Efisiensi energi yang lebih baik dapat membantu mengurangi penggunaan listrik operasional, memperbaiki total cost of ownership, serta mendukung pertumbuhan AI yang lebih berkelanjutan.
Redaksi
