marketinginsight.id – Meta berkomitmen memastikan para remaja mendapatkan pengalaman yang sesuai dengan usia mereka saat berinteraksi dengan AI. Pihak manajemen juga berupaya memastikan para orang tua terinformasi jika sistem mendeteksi remaja mereka mengalami tekanan emosional.
Terkait hal tersebut, Meta mengumumkan langkah perlindungan tambahan untuk memastikan pemberian respons yang tepat dalam percakapan sensitif terkait bunuh diri dan tindakan melukai diri sendiri.
Langkah ini dilakukan dengan memvalidasi perasaan para remaja sekaligus membantu mereka mendapatkan dukungan yang dibutuhkan dari orang tua hingga layanan darurat.
Saat seorang remaja terindikasi terpikir untuk bunuh diri atau melukai diri sendiri, Meta AI secara otomatis akan mengarahkan mereka ke layanan bantuan krisis.
Pengguna muda tersebut juga didorong untuk bercerita kepada orang tua atau orang dewasa yang dapat dipercaya seperti konselor.
Kini, berdasarkan indikator yang dikembangkan bersama para ahli, Meta juga akan secara proaktif memberikan peringatan kepada orang tua jika chat anak mereka menunjukkan risiko perilaku tersebut.
Selain itu, pihak perusahaan juga membagikan berbagai panduan dari para ahli untuk membantu orang tua memulai percakapan sensitif ini dengan remaja mereka.
Dalam proses pengembangannya, Meta bekerja sama dengan para orang tua dan ahli untuk memahami percakapan AI mana saja yang perlu ditindaklanjuti dengan peringatan.
Salah satu fokus utamanya adalah ketika seorang remaja menunjukkan indikasi kuat bahwa ia ingin melukai diri sendiri, termasuk secara tersirat.
Berdasarkan masukan berharga tersebut, tim teknis kemudian membangun sistem AI khusus untuk mengidentifikasi percakapan-percakapan sensitif ini.
Manajemen memahami betapa khawatirnya perasaan orang tua saat menerima notifikasi peringatan darurat seperti ini.
Oleh karena itu, seiring upaya meningkatkan sistem deteksi, semua obrolan yang ditandai oleh AI akan ditinjau secara manual terlebih dahulu sebelum peringatan dikirimkan.
Jika maksud dari remaja tersebut masih samar, sistem akan memilih untuk mengutamakan tindakan pencegahan dan tetap memberi tahu orang tua.
Meskipun langkah ini berarti notifikasi terkadang terkirim saat tidak ada yang perlu dikhawatirkan, Meta menilai ini adalah tindakan awal yang tepat.
Evaluasi berkala juga akan terus dilakukan untuk memastikan bahwa pendekatan keamanan yang diterapkan sudah benar.
Mendukung kebijakan tersebut, CEO dan Co-Founder ConnectSafely Larry Magid menyatakan percaya bahwa remaja tetap berhak atas privasi mereka.
Namun, Larry Magid juga menegaskan bahwa orang tua perlu diberi tahu apabila ada indikasi anak remaja mereka berisiko menyakiti diri sendiri.
Karena alasan itulah, Larry Magid mendukung pendekatan ini dan mengapresiasi keputusan Meta untuk memberikan notifikasi langsung kepada orang tua.
Melalui penerapan sistem ini, Meta dinilai telah berhasil menemukan keseimbangan yang tepat antara melindungi privasi remaja dan pemenuhan informasi orang tua.
Peringatan keamanan ini kini telah aktif bagi orang tua yang menggunakan fitur pengawasan di Instagram di Amerika Serikat, Inggris, Australia, dan Kanada. Selanjutnya, fitur proteksi tersebut dijadwalkan akan tersedia bagi orang tua di seluruh dunia pada akhir tahun ini.
Kehadiran fitur baru ini melengkapi sistem peringatan lama yang sudah berjalan di platform Instagram. Pada sistem sebelumnya, orang tua akan diberi tahu jika remaja mereka berulang kali mencari kata kunci terkait melukai diri sendiri dalam jangka waktu singkat.
Di samping itu, Meta sedang mengembangkan kemampuan untuk menghubungi layanan darurat jika ada risiko bunuh diri dalam percakapan dengan Meta AI. Langkah respons cepat ini akan berlaku untuk pengguna dari kategori dewasa maupun remaja.
Upaya terbaru tersebut sekaligus melengkapi sistem penanganan yang telah dilakukan sebelumnya di Facebook dan Instagram.
Sebagai bukti nyata, tahun lalu perusahaan telah mengirimkan lebih dari 19.000 rujukan serupa di seluruh dunia untuk membantu petugas penyelamat.
Selain melakukan konsultasi dengan AI Wellbeing Expert Council dan kelompok penasihat internal, Meta juga meminta masukan dari lebih dari 75 ahli kesehatan mental. Para ahli kesehatan mental remaja ini bertugas meninjau respons AI terhadap ratusan prompt sensitif yang masuk.
Masukan dari para spesialis tersebut dimanfaatkan untuk terus meningkatkan cara Meta AI berinteraksi dengan remaja terkait topik sensitif.
Sebagai contoh, tim memastikan Meta AI senantiasa memvalidasi perasaan para remaja tanpa mengakhiri percakapan secara tiba-tiba.
Menanggapi ketelitian tersebut, Psikolog Berlisensi dan Profesor Psikologi Konseling di Hankuk University of Foreign Studies Dr. Ji-yeon Lee mengaku sangat terkesan.
Proses peninjauan klinis oleh Meta dinilai tidak hanya mengevaluasi respons instan, tetapi juga memperhatikan konteks percakapan yang lebih luas.
Dr. Ji-yeon Lee menambahkan bahwa penyempurnaan berbasis skenario seperti ini sangat penting untuk menghadirkan pengalaman berinteraksi dengan AI yang lebih aman. Langkah aman ini diwujudkan pula melalui peluncuran batasan konten yang lebih ketat dalam percakapan Meta AI.
Melalui kebijakan baru, Akun Remaja secara otomatis akan menerapkan pengaturan konten untuk usia 13 tahun ke atas. Melalui pengaturan bawaan ini, Meta AI dilatih untuk tidak terlibat dalam percakapan romantis maupun seksual dengan remaja.
Pada Oktober lalu, Meta juga telah meluncurkan fitur Limited Content sebagai opsi pengaturan yang lebih ketat di Instagram. Sekarang, pengaturan proteksi tersebut juga akan berlaku otomatis untuk pengalaman menggunakan Meta AI.
Dengan demikian, saat orang tua mengaktifkan fitur Limited Content, sistem akan membatasi jenis percakapan secara otomatis.
Dalam mode ketat ini, Meta AI akan menolak memberikan respons terhadap kategori prompt yang lebih luas demi meminimalkan percakapan kurang pantas.
Redaksi
