marketinginsight.id – Red Hat baru-baru ini mengumumkan langkah inovatif yang signifikan pada portofolio Red Hat AI. Langkah ini diambil untuk membantu menjembatani kesenjangan antara eksperimen AI dan kendali operasional di tingkat produksi.
Dengan menghadirkan platform terpadu dari level hardware hingga agen, Red Hat AI 3.4 menyederhanakan pengembangan alur kerja agentic. Platform ini memungkinkan organisasi beralih dari proyek percontohan menuju implementasi AI yang terskalakan di seluruh infrastruktur mereka.
Melalui penyediaan kerangka kerja yang konsisten bagi para pengembang maupun operator, perusahaan menghadirkan fondasi untuk menskalakan sistem otonom. Sistem ini tetap mempertahankan kendali, kapabilitas keamanan, dan efisiensi hardware yang dibutuhkan oleh enterprise modern.
Sebagai penjelasan, Red Hat AI 3.4 merupakan platform komprehensif yang menyediakan fondasi arsitektural dan instrumen operasional. Instrumen esensial ini berfungsi untuk menskalakan model serta alur kerja agentic di seluruh lingkungan hybrid cloud.
Pada intinya, rilis ini menyediakan Model-as-a-Service (MaaS) yang menawarkan interface tunggal dan terkelola bagi para pengembang. Fasilitas tersebut sekaligus memungkinkan administrator melacak konsumsi data dan menegakkan kebijakan tata kelola.
Di samping itu, kapabilitas ini dibangun di atas fondasi inferensi terdistribusi berkinerja tinggi yang ditenagai oleh vLLM dan llm-d. Perpaduan tersebut berguna untuk mempertahankan model serving yang optimal dan efisien di berbagai lingkungan.
Ketika agen AI memicu lonjakan permintaan inferensi, Red Hat AI membekali organisasi dengan kapabilitas skala besar. Kemampuan ini tetap berjalan optimal terlepas dari framework agen yang digunakan oleh perusahaan.
Untuk mendukung hal tersebut, perangkat AgentOps yang baru diperkenalkan ini mengelola siklus hidup agen dari tahap pengembangan hingga produksi. Pengelolaan dilakukan dengan kemampuan tracing terintegrasi, observability, identitas kriptografis, dan manajemen siklus hidup.
Selanjutnya, Red Hat AI 3.4 memperkenalkan prompt management yang memperlakukan prompt sebagai aset data utama. Platform ini juga menghadirkan evaluation hub untuk menilai akurasi, kualitas, dan keamanan model maupun agen.
Kapabilitas tersebut didukung oleh MLflow yang menyediakan pelacakan eksperimen terintegrasi. Fitur ini juga mencakup manajemen artefak untuk skenario pemanfaatan AI generatif maupun AI prediktif.
Lebih jauh lagi, platform ini memungkinkan pengguna memvalidasi keamanan model melalui pengujian otomatis dan red-teaming. Pengujian menggunakan teknologi dari Chatterbox Labs dan proyek Garak untuk menyediakan jalur aman menuju siap produksi.
Terkait urgensinya, transisi dari chatbot eksperimental menuju sistem otonom memerlukan perubahan mendasar dalam kolaborasi tim IT. Banyak organisasi kini menyadari perlunya bertransformasi dari sekadar konsumen token menjadi penyedia token.
Langkah transformasi ini dilakukan guna mengelola biaya dengan lebih baik. Selain itu, strategi tersebut dapat memperkuat skenario penggunaan AI yang privat dan berdaulat.
Namun, kesenjangan antara pengembang infrastruktur dan administrator infrastruktur tetap menjadi salah satu hambatan utama. Pendekatan terpadu sangat dibutuhkan untuk menyelaraskan kedua peran penting tersebut.
Tanpa penyelarasan, hambatan akses terhadap infrastruktur akan memperlambat inovasi di dalam perusahaan. Di sisi lain, jalan pintas melalui shadow AI berisiko memunculkan ancaman dan biaya yang tidak terprediksi.
Oleh karena itu, Red Hat AI 3.4 membantu menjembatani kesenjangan ini dengan menyediakan fondasi enterprise yang kuat. Platform ini menghadirkan transparansi dan kendali yang diperlukan untuk memenuhi standar risiko yang ketat.
Mengingat agen AI beroperasi mandiri, kurangnya visibilitas terhadap proses keputusan dapat menimbulkan risiko keamanan besar. Red Hat AI menjawab tantangan ini dengan menyediakan infrastruktur untuk menelusuri tindakan dan tahapan penalaran.
Melalui integrasi manajemen identitas kriptografis, platform ini mengaitkan setiap tindakan dengan identitas terverifikasi. Langkah ini membantu mengidentifikasi entitas mana yang melakukan tugas operasional tersebut.
Secara keseluruhan, kapabilitas ini membawa organisasi melampaui proyek-proyek percontohan yang terisolasi. Tujuannya adalah memperlakukan AI sebagai utilitas enterprise yang terskala, dapat diprediksi, dan dapat dipertanggungjawabkan.
Dari sisi manajemen, Era agentic merepresentasikan evolusi platform dari aplikasi tradisional menjadi penggerak sistem otonom cerdas. Pernyataan tersebut disampaikan oleh Joe Fernandes, Vice President dan General Manager, AI Business Unit, Red Hat.
Joe Fernandes menambahkan bahwa Red Hat mendefinisikan standar terbuka tentang bagaimana enterprise mengeksekusi AI. Melalui fondasi yang diperkuat, perusahaan memberikan kepastian operasional yang dibutuhkan organisasi untuk berinovasi.
Sejalan dengan hal itu, Urvashi Chowdhary dari CoreWeave menyatakan kolaborasi ini didasarkan pada komitmen keterbukaan. Kerja sama ini menyediakan fondasi inferensi berkinerja tinggi untuk menskalakan beban kerja AI yang kompleks.
Bersama-sama, mereka telah menghadirkan cetak biru penerapan Red Hat AI Inference di CoreWeave Kubernetes Service. Solusi ini menjalankan stack inferensi yang sama secara on-prem maupun di cloud.
Dampaknya, tim AI enterprise di industri yang diawasi ketat dapat fokus pada tugas utama membangun AI. Mereka tidak perlu lagi merombak berbagai teknologi untuk setiap lingkungan baru.
Menambahkan hal tersebut, John Fanelli selaku Vice President Enterprise Software NVIDIA ikut memberikan tanggapan. Agen otonom yang beroperasi dalam durasi panjang menuntut tingkat kendali infrastruktur dan keamanan baru.
John Fanelli menegaskan Red Hat AI Factory dengan NVIDIA menyediakan fondasi terpadu berbasis open source. Fondasi ini memberikan tata kelola dan rasa percaya diri yang dibutuhkan pengembang serta operator.
Secara teknis, Red Hat AI Inference menambahkan penentuan prioritas permintaan ke dalam kapabilitas inferensi terdistribusinya. Hal ini memungkinkan lalu lintas interaktif dan latar belakang untuk berbagi endpoint yang sama.
Dampaknya, permintaan yang sensitif terhadap latensi akan diproses terlebih dahulu saat terjadi lonjakan beban kerja. Selain itu, cakupan layanan kini diperluas melampaui Red Hat OpenShift ke layanan Kubernetes tambahan.
Ekspansi ini mencakup CoreWeave dan Azure untuk memberikan konsistensi stack inferensi di berbagai lingkungan. Dukungan speculative decoding yang tersedia umum juga meningkatkan kecepatan respons hingga 2–3 kali lipat.
Sementara itu, fitur MaaS memungkinkan platform engineer menyediakan model terkurasi melalui endpoint API yang aman. Fitur ini menggunakan antarmuka standar yang kompatibel dengan OpenAI.
Hal tersebut memungkinkan tata kelola terpadu untuk model internal maupun API eksternal. Sistem ini juga sudah terintegrasi dengan autentikasi berbasis identity provider.
Mengenai data, platform ini menyediakan tools terpadu untuk membangun dan mengelola prompt sebagai aset utama. Penyimpanan input dalam registry terpusat menciptakan satu sumber kebenaran bagi pengembang dan administrator.
Di sisi evaluasi, Red Hat AI 3.4 memperkenalkan evaluation hub sebagai control plane yang bersifat framework-agnostic. Fitur ini menggantikan metode fragmentasi dengan pendekatan terpadu untuk benchmarking kualitas.
Untuk keamanan, pemindaian adversarial otomatis kini terintegrasi langsung ke dalam siklus hidup pengembangan. Platform ini menggunakan Garak untuk menyaring risiko jailbreak dipadu dengan NVIDIA NeMo Guardrails.
Dari aspek pantauan, integrasi MLflow memberikan visibilitas end-to-end terhadap panggilan LLM dan tahapan penalaran. Hal ini menciptakan jejak audit yang transparan untuk mendukung proses debugging.
Terkait tata kelola, penggunaan manajemen identitas kriptografis memungkinkan penggantian kunci statis dengan token berdurasi pendek. Langkah ini mendukung prinsip least-privilege operation untuk agen otonom di seluruh stack.
Untuk otomatisasi, tools seperti AutoRAG dan AutoML mengotomatiskan tugas-tugas AI yang kompleks. Otomatisasi ini berjalan mulai dari pemilihan strategi retrieval hingga optimalisasi model prediktif tradisional.
Sebagai pelengkap, Red Hat AI 3.4 menghadirkan dukungan day-zero untuk arsitektur NVIDIA Blackwell dan AMD MI325X. Platform terpadu ini juga dirancang agar berjalan secara native di cloud pihak ketiga.
Redaksi
