BANGSAONLINE.com - Meta memperbarui fitur perlindungan bagi pengguna remaja dengan menambahkan sistem notifikasi kepada orang tua apabila percakapan anak dengan Meta AI mengarah pada tindakan menyakiti diri sendiri.
Menurut laporan Endgaget, fitur ini memperkuat pengawasan keluarga setelah sebelumnya Meta membuka akses orang tua terhadap topik percakapan remaja dengan kecerdasan buatan.
Jika pengguna di bawah umur membahas hal yang berisiko, Meta AI akan mengarahkan mereka ke layanan bantuan relevan dan mendorong mencari pertolongan dari orang dewasa terpercaya.
Mulai saat ini, sistem juga akan mengirimkan pemberitahuan kepada orang tua atau wali yang terhubung melalui fitur pengawasan keluarga. Meta menyediakan panduan langkah penanganan agar orang tua dapat membantu anak mereka.
Untuk menjalankan fitur tersebut, Meta mengembangkan sistem AI khusus yang mendeteksi percakapan berisiko. Sebelum notifikasi dikirim, percakapan ditinjau tim manusia guna mengurangi kesalahan dan kepanikan.
Kendati demikian, Meta tetap dapat mengirimkan peringatan jika terdapat indikasi tindakan berbahaya. Fitur ini sudah tersedia bagi pengguna Instagram dengan pengawasan orang tua di Amerika Serikat, Inggris, Australia, dan Kanada.
Meta menargetkan penerapan global sebelum akhir 2026. Selain itu, perusahaan sedang mengembangkan kemampuan menghubungi layanan darurat jika percakapan menunjukkan risiko keselamatan serius.
Meta juga memperluas pengaturan Limited Content ke interaksi dengan Meta AI. Dengan demikian, jika orang tua mengaktifkan pembatasan konten sensitif di Instagram, percakapan AI anak mereka akan mengikuti aturan serupa. (rom)
