Ringkasan Berita
- Meta memperkuat sistem keamanan remaja dengan menambahkan notifikasi otomatis ke orang tua jika percakapan anak dengan Meta AI mengarah ke risiko menyakiti diri sendiri.
- Notifikasi akan dikirim setelah AI mendeteksi risiko dan percakapan ditinjau oleh tim manusia untuk mengurangi kesalahan, tetapi peringatan tetap bisa dikirim jika indikasi berbahaya terdeteksi.
- Fitur ini sudah tersedia di Instagram dengan pengawasan keluarga di AS, Inggris, Australia, dan Kanada, dengan target penerapan global sebelum akhir 2026.
- Meta juga mengembangkan kemampuan untuk menghubungkan pengguna ke layanan darurat jika percakapan menunjukkan risiko keselamatan yang serius.
- Perusahaan memperluas pengaturan Limited Content ke interaksi dengan Meta AI, sehingga aturan pembatasan konten sensitif yang diterapkan orang tua juga berlaku untuk percakapan AI anak.
BANGSAONLINE.com - Meta memperbarui fitur perlindungan bagi pengguna remaja dengan menambahkan sistem notifikasi kepada orang tua apabila percakapan anak dengan Meta AI mengarah pada tindakan menyakiti diri sendiri.
Menurut laporan Endgaget, fitur ini memperkuat pengawasan keluarga setelah sebelumnya Meta membuka akses orang tua terhadap topik percakapan remaja dengan kecerdasan buatan.
Jika pengguna di bawah umur membahas hal yang berisiko, Meta AI akan mengarahkan mereka ke layanan bantuan relevan dan mendorong mencari pertolongan dari orang dewasa terpercaya.
Mulai saat ini, sistem juga akan mengirimkan pemberitahuan kepada orang tua atau wali yang terhubung melalui fitur pengawasan keluarga. Meta menyediakan panduan langkah penanganan agar orang tua dapat membantu anak mereka.
Untuk menjalankan fitur tersebut, Meta mengembangkan sistem AI khusus yang mendeteksi percakapan berisiko. Sebelum notifikasi dikirim, percakapan ditinjau tim manusia guna mengurangi kesalahan dan kepanikan.
Kendati demikian, Meta tetap dapat mengirimkan peringatan jika terdapat indikasi tindakan berbahaya. Fitur ini sudah tersedia bagi pengguna Instagram dengan pengawasan orang tua di Amerika Serikat, Inggris, Australia, dan Kanada.
Meta menargetkan penerapan global sebelum akhir 2026. Selain itu, perusahaan sedang mengembangkan kemampuan menghubungi layanan darurat jika percakapan menunjukkan risiko keselamatan serius.
Meta juga memperluas pengaturan Limited Content ke interaksi dengan Meta AI. Dengan demikian, jika orang tua mengaktifkan pembatasan konten sensitif di Instagram, percakapan AI anak mereka akan mengikuti aturan serupa. (rom)
