marketinginsight.id – AI kini semakin canggih dan personal. Maka dari itu, keamanan dan perlindungan data para pengguna tools AI menjadi semakin penting.
Saat model AI menjadi semakin cerdas, sistem keamanannya juga harus semakin canggih dan bisa berkembang dari waktu ke waktu.
Merespons kebutuhan tersebut, Meta hadir dengan Advanced AI Scaling Framework, Safety & Preparedness Report untuk Muse Spark yang akan segera dirilis, serta fundamental keamanan yang lebih baik pada model AI miliknya. Meta ingin kemampuan AI yang terus meningkat, diimbangi dengan sistem keamanan yang adaptif.
Advanced AI Scaling Framework
Advanced AI Scaling Framework adalah versi yang lebih lengkap dari kerangka kerja terdahulu dari Meta, yaitu Frontier AI Framework.
Advanced AI Scaling Framework meliputi evaluasi risiko dan proses pengambilan keputusan yang lebih menyeluruh dalam meluncurkan model AI.
Advanced AI Scaling Framework menjelaskan bagaimana Meta menghadapi risiko-risiko serius seperti risiko di bidang kimia, biologi, dan keamanan siber.
Di sini, Meta juga mengevaluasi perilaku model AI saat diberi otonomi yang lebih tinggi untuk memastikan fungsi kontrol tetap berjalan sebagaimana mestinya.
Kerangka kerja ini berlaku untuk seluruh model AI dari Meta, baik yang bersifat terbuka, berbasis API terbatas, maupun model tertutup.
Pada praktiknya, pendekatan ini mencakup pemetaan risiko serta evaluasi model sebelum dan setelah penerapan sistem pengamanan.
Kerangka kerja ini juga mendorong Meta untuk memastikan model AI hanya dirilis jika telah memenuhi standar yang ditetapkan.
Ini berarti, pengguna Meta AI bisa menggunakan model AI yang sudah melewati proses pengujian secara menyeluruh terhadap berbagai potensi risiko.
Selain itu, Safety & Preparedness Reports juga hadir membawa paradigma baru. Laporan ini memuat hasil evaluasi risiko, dasar pengambilan keputusan dalam meluncurkan model AI, serta peningkatan berkelanjutan di berbagai sisi.
Transparansi ini memungkinkan publik memahami berbagai temuan Meta, bagaimana Meta menguji mode AI, apa saja perbaikan yang perlu dilakukan, hingga bagaimana Meta menutup celah keamanan.
Safety & Preparedness Report
Untuk Muse Spark, Meta melakukan evaluasi keamanan secara menyeluruh sebelum meluncurkan model AI. Dengan kemampuan penalaran yang lebih baik, model AI diuji sebelum dan setelah sistem keamanan diterapkan.
Pengujian mempertimbangkan berbagai risiko serius seperti keamanan siber serta ancaman kimia dan biologis, sekaligus memastikan kepatuhan terhadap kebijakan seputar keamanan yang telah lama Meta terapkan, termasuk pencegahan kekerasan dan tindak kriminal, perlindungan anak, serta perspektif saat model AI merespons.
Meta melakukan evaluasi secara berlapis sejak model AI belum dirilis. Meta menguji ribuan skenario yang dirancang khusus untuk menemukan kelemahan serta mengukur seberapa besar sistem dapat bobol sembari menekannya seminimal mungkin.
Karena tidak ada evaluasi yang sepenuhnya menyeluruh, Meta juga memantau penggunaan secara langsung melalui sistem otomatis untuk mendeteksi potensi masalah baru dengan cepat.
Hasilnya, sistem perlindungan bekerja dengan baik di seluruh kategori risiko yang diuji. Selain itu, Muse Spark juga menunjukkan kemampuan unggul dalam meminimalkan bias ideologis dalam responsnya.
Meta juga mengevaluasi apakah model AI dapat bertindak secara otonom dalam cara yang sulit dikendalikan.
Hasilnya menunjukkan bahwa model ini belum memiliki tingkat otonomi yang dapat menimbulkan risiko tersebut. Laporan Safety & Preparedness yang akan segera dirilis akan menjelaskan secara rinci proses evaluasi ini beserta hasil lengkapnya.
Keamanan yang Ikut Berkembang Bersama Model AI
Sistem keamanan Meta dibangun di setiap tahap pengembangan model AI, mulai dari penyaringan data hingga pelatihan terhadap berbagai skenario, sehingga perlindungan dapat dilakukan sampai produknya bisa dinikmati konsumen.
Mengingat kompleksitas model AI terus meningkat, pendekatan ini akan terus berkembang mengikuti progres teknologi dari waktu ke waktu.
Muse Spark, misalnya, memiliki kemampuan yang lebih baik dibandingkan dengan generasi sebelumnya. Peningkatan kapabilitas memungkinkan pendekatan baru dalam menjaga keamanan model AI.
Sebelumnya, model AI dilatih untuk menangani skenario tertentu satu per satu, misalnya menolak untuk menjawab atau mengarahkan pengguna ke sumber yang lebih tepercaya. Pendekatan ini efektif, tetapi sulit untuk dilakukan dalam skala besar.
Kini, dengan kemampuan penalaran yang lebih baik, Meta mengubah pendekatan tersebut. Pedoman keamanan Meta terkait konten, percakapan, kualitas respons, dan keberagaman perspektif diterjemahkan menjadi prinsip yang jelas dan dapat diuji.
Model AI tidak hanya diajarkan aturan, tetapi juga alasan di balik aturan tersebut. Dengan begitu, model dapat lebih adaptif dalam menghadapi situasi baru yang belum pernah ditemui sebelumnya.
Jangan lupa, pendekatan ini tidak menggantikan pengawasan manusia, melainkan memperkuat peran kita dalam memantau model AI.
Insan-insan Meta tetap merancang fundamental sistem keamanan, melakukan pengujian secara ketat berdasarkan skenario yang sering dijumpai, serta memperkuat lapisan keamanan.
Hasilnya, sistem keamanan Meta menjadi lebih konsisten, menyeluruh, dan dapat terus berkembang seiring meningkatnya kemampuan model AI.
Menjaga Transparansi
Sejalan dengan upaya berkelanjutan Meta dalam mengembangkan Meta AI dan menghadirkan model AI yang semakin canggih, Safety & Preparedness Reports akan menjadi wadah bagi publik untuk melihat bagaimana Meta mengevaluasi dan mengelola risiko keamanan di setiap tahap pengembangan model AI.
Meta akan terus fokus dalam mengembangkan sistem keamanan melalui uji coba yang ketat dan riset yang mendalam agar pengguna dapat merasakan pengalaman menggunakan AI yang lebih aman dan andal berkat perlindungan secara built-in.
Redaksi
