marketinginsight.id – Infrastruktur AI baru memadukan komputasi unggulan, jaringan, dan open software untuk menghadirkan performa skala rak bagi AI dalam skala besar.
Di Advancing AI 2026, AMD meluncurkan solusi rackscale AMD Helios™, infrastruktur AI skala rak baru yang dirancang untuk frontier AI, inferensi skala besar, dan pelatihan foundation model.
AMD Helios memadukan GPU AMD Instinct™ MI455X, CPU server AMD EPYC™ Generasi Keenam, software AMD ROCm™, dan jaringan AMD Pensando™ ke dalam arsitektur skala rak terpadu yang menghadirkan performa AI kelas exaflop, kapasitas dan bandwidth memori tinggi, serta skalabilitas luar biasa.
Seiring meningkatnya permintaan untuk AI factory dan frontier AI, pelanggan membutuhkan infrastruktur yang dapat diskalakan secara efisien dari satu rak hingga klaster AI skala gigawatt, sekaligus memaksimalkan performa, performa per watt, dan biaya per token.
Selain itu, AMD Helios menghadirkan building block skala rak terintegrasi yang menyederhanakan penerapan sekaligus menyediakan fondasi komputasi, jaringan, dan perangkat lunak terbuka yang dibutuhkan untuk infrastruktur AI generasi berikutnya.
Solusi AI rackscale AMD Helios menawarkan performa throughput token tertinggi pada tingkat interaktivitas rendah, sedang, dan tinggi, serta dirancang dengan arsitektur terbuka sejak awal.
Dibandingkan solusi kompetitif, AMD Helios menghadirkan performa puncak FP4 15% lebih tinggi, kapasitas high-bandwidth memory (HBM) 50% lebih besar, bandwidth HBM 6% lebih tinggi, dan bandwidth scale-out 50% lebih besar.
Bahkan, solusi ini juga menghadirkan hingga 30% lebih banyak token per dolar dibandingkan solusi kompetitif, sehingga pelanggan memperoleh output lebih besar dari setiap rak yang diterapkan.
“Infrastruktur frontier AI berkembang dengan cepat, dan pelanggan membutuhkan platform yang dapat menghadirkan performa luar biasa sekaligus diskalakan secara efisien seiring pertumbuhan beban kerja. Oleh karena itu, AMD Helios memadukan komputasi unggulan, jaringan berperforma tinggi, dan perangkat lunak terbuka dalam satu platform skala rak terpadu. Bersama-sama, teknologi ini memberi pelanggan fleksibilitas untuk mempercepat inferensi skala besar, pelatihan frontier model, dan infrastruktur AI generasi berikutnya,” kata Vamsi Boppana, Senior Vice President AI AMD.
Selanjutnya, AMD Helios memperluas portofolio AI AMD dengan menghadirkan arsitektur skala rak terbuka yang dirancang untuk mendukung inferensi skala besar, pelatihan frontier model, dan fine-tuning mulai dari satu rak hingga klaster multirak.
Di samping itu, AMD menghadirkan AMD Helios pada saat AI membentuk ulang infrastruktur komputasi modern, yang memerlukan platform terintegrasi erat dengan komputasi berperforma tinggi, arsitektur skala rak, dan open software.
Sebagai platform yang dibangun untuk frontier AI, AMD Helios adalah platform infrastruktur AI skala rak AMD yang dirancang untuk penerapan frontier AI dan AI factory.
Lebih lanjut, platform ini menyediakan fondasi yang dapat diskalakan untuk inferensi ber-volume tinggi, pelatihan frontier model, dan fine-tuning dengan memadukan GPU AMD Instinct Generasi Kelima, CPU server AMD EPYC Generasi Keenam, jaringan AMD Pensando, dan software AMD ROCm ke dalam platform terpadu berbasis standar terbuka.
Mengenai performa rak terdepan, AMD Helios menghadirkan performa AI kelas exaflop dalam arsitektur terpadu yang dioptimalkan untuk inferensi skala besar dan pengembangan frontier model.
Dalam hal ini, satu rak menyediakan hingga 2,9 exaflop puncak FP4, 1,4 exaflop puncak FP8, memori HBM4 sebesar 31 terabyte, dan bandwidth memori 1,7 petabyte/detik.
Untuk aspek AI yang skalabel, AMD Helios dirancang untuk diskalakan dari satu rak hingga klaster AI skala gigawatt.
Kemudian, setiap rak mengintegrasikan 18 tray komputasi 4-GPU yang selaras dengan Open Rack Wide (total 72 GPU), sehingga menyediakan building block yang konsisten untuk penerapan dan perluasan klaster.
Pada skala klaster, AMD Pensando™ Vulcano 800 AI NIC menyediakan konektivitas berbandwidth tinggi dan latensi rendah. Konektivitas ini sangat dibutuhkan untuk inferensi terdistribusi, pelatihan frontier model, dan pertumbuhan hyperscale yang cepat.
Sementara itu pada infrastruktur terbuka, AMD Helios memadukan UALink™ over Ethernet (UALoE) untuk scale-up berperforma tinggi dengan Ethernet berbasis standar yang selaras dengan Ultra Ethernet Consortium untuk scale-out.
Hal tersebut memungkinkan pelanggan membangun infrastruktur AI menggunakan teknologi terbuka berbasis standar.
Di samping itu, platform ini juga mengintegrasikan fitur keamanan skala rak berlapis (defense-in-depth). Akhirnya, software AMD ROCm™ memungkinkan inferensi ber-throughput tinggi dan pelatihan terdistribusi terpadu pada penerapan skala rak dan klaster.
Redaksi
