Akamai Rilis Layanan Inferensi dan Sandbox AI

Must Read

marketinginsight.id – Transformasi digital berbasis kecerdasan buatan menuntut kesiapan infrastruktur komputasi yang handal hingga ke tingkat edge jaringan.

Ketika sistem cerdas mulai diterapkan dalam skala operasional penuh, aspek tata kelola data, pengaturan rute, dan batasan eksekusi kode menjadi penentu utama keberhasilan.

Kebutuhan akan lingkungan terpadu yang mampu menjembatani performa tinggi dan keamanan ketat kini menjadi prioritas utama bagi para pelaku industri teknologi.

Akamai memperkenalkan dua produk inti dalam ekosistem kecerdasan buatan miliknya, yakni Akamai Inference dan Akamai Agent Sandbox. Kedua solusi tersebut menghadirkan penyajian model terkelola sekaligus lingkungan kerja terisolasi bagi agen AI di dalam jaringan Akamai Cloud.

Melalui solusi terintegrasi ini, perusahaan dapat membangun, menyempurnakan, serta mengamankan model open-weight maupun model hosted secara mandiri. Seluruh proses tersebut terhubung langsung dengan data internal perusahaan dalam satu platform cloud berkinerja tinggi.

Inovasi tersebut menjadi bagian dari strategi global perusahaan untuk menghadirkan infrastruktur tepercaya di dekat pengguna akhir. Langkah ini melengkapi fondasi komputasi terkelola yang telah menyumbang kontrak multi-tahunan dengan nilai kumulatif melebihi US$14 miliar.

Pencapaian tersebut membuktikan bahwa kombinasi CPU, GPU, penyimpanan cloud, serta jaringan edge menjadi pondasi kuat bagi operasional AI skala besar.

Ketika menerapkan AI ke tahap produksi, perusahaan membutuhkan lebih dari sekadar model dasar. Pengatur rute, akses data internal, tata kelola, hingga batasan eksekusi kode menjadi komponen vital yang wajib terpenuhi.

Sebagian besar tim pengembang sebelumnya harus merakit komponen-komponent tersebut dari berbagai penyedia terpisah. Kini Akamai Cloud menghadirkan lingkungan terhubung yang membentang dari klaster GPU/CPU berkepadatan tinggi hingga lebih dari 4.350 lokasi edge.

Chief Operating Officer sekaligus GM Akamai Cloud, Adam Karon, menegaskan bahwa inferensi AI akan menjadi area investasi terbesar bagi industri. Keyakinan tersebut mendorong pengembangan platform yang mampu menjalankan sekaligus melindungi ekosistem kecerdasan buatan dalam satu tempat.

Adam Karon menambahkan bahwa ekosistem ini menambah lapisan eksekusi yang melengkapi infrastruktur inti perusahaan. Skala global yang dimiliki diklaim berada pada posisi unik untuk menjawab tantangan penskalaan inference real-time.

Sementara itu, Akamai Inference memberikan akses terkelola ke model open-weight dan model kustom melalui API yang kompatibel dengan OpenAI. Pelanggan dapat memilih opsi serverless pay-per-use maupun skema penerapan khusus.

Katalog awal layanan ini mencakup 12 model open-weight berkapasitas 8 miliar hingga 2,8 triliun parameter, termasuk NVIDIA Nemotron 3 Ultra, OpenAI gpt-oss-120b, dan Google Gemma 4.

Platform ini juga menyediakan akses langsung ke basis data terkelola serta penyimpanan objek di private maupun public cloud. Jaringan global yang digunakan bertugas mengoptimalkan rute permintaan guna memangkas latensi serta menjaga konsistensi performa.

Di sisi lain, Akamai Agent Sandbox hadir sebagai lingkungan operasional aman bagi agen AI yang bertugas menulis atau menjalankan kode. Eksekusi kode dijalankan dalam ruang terisolasi menggunakan teknologi WebAssembly agar tidak mengganggu sistem utama.

Pengembang dapat menentukan batasan memori, komputasi, serta koneksi keluar secara penuh. Fleksibilitas ini memberi kepastian bagi perusahaan terkait batasan akses sumber daya sistem.

Isolasi agen saat ini mendukung beberapa model arsitektur, mulai dari microVM, kontainer berbasis kebijakan, hingga fungsi tanpa server di jaringan edge. Fitur tata kelola akses lanjutan juga disiapkan untuk memperketat kontrol keamanan pengguna.

Pengembangan lini hardware turut diperkuat dengan penambahan klaster GPU NVIDIA Blackwell Ultra serta persiapan platform NVIDIA Vera Rubin. Klaster GPU ini dirancang khusus untuk menangani beban kerja penalaran kompleks serta pemrosesan konteks panjang.

Setiap node Blackwell Ultra dibekali memori HBM3e sebesar 2,3 TB yang sanggup menampung model AI kelas frontier. Infrastruktur ini berjalan tanpa batasan laju pemakaian maupun antrean akibat berbagi sumber daya dengan pengguna lain.

Senior Vice President Cloud Technology Akamai, Jon Alexander, menyatakan bahwa perusahaan tidak seharusnya mengorbankan kecepatan demi sebuah kontrol keamanan. Pilihan antara platform terkelola maupun GPU khusus kini tersedia lengkap dalam satu platform tepercaya.

Saat ini, Akamai Agent Sandbox dan Akamai Inference telah dapat diakses melalui versi beta. Adapun ketersediaan klaster GPU NVIDIA B300 dapat dikonfirmasi langsung melalui tim penjualan resmi.

Redaksi

- Advertisement -spot_img

LEAVE A REPLY

Please enter your comment!
Please enter your name here

- Advertisement -spot_img
TODAY'S PICK

RUCI Art Space Kembali Gelar Pameran Seni RAW Vol 2

marketinginsight.id – Dinamika seni rupa kontemporer di Indonesia terus berkembang seiring lahirnya para perupa muda yang membawa gagasan, eksperimen medium,...
- Advertisement -spot_img

More Articles Like This

- Advertisement -spot_img