Ilustrasi.
JAKARTA, BANGSAONLINE.com - Malaysia memblokir akses Grok AI di X akibat dari konten Deepfake. Regulator Malaysia memerintahkan pembatasan sementara terhadap chatbot milik xAI itu pada hari Minggu menyusul kegagalan berulang X Corp dalam menangani risiko konten terkait dengan tool AI tersebut.
Keputusan ini diambil berselang satu hari setelah Indonesia memblokir akses sementara ke Grok, karena kekhawatiran serupa dan meminta petinggi X memberikan klarifikasi terkait masalah ini.
Tindakan negara-negara Asia Tenggara ini dilakukan, setelah terungkap sejumlah pengguna Grok membuat gambar eksplisit tanpa izin dan deepfake, termasuk gambar anak di bawah umur dengan pakaian minim.
Merespon adanya pemblokiran fitur AI tersebut, X baru-baru ini memperbarui fitur Grok Imagine, yang memudahkan pembuatan gambar dari perintah berbasis teks di platform tersebut. xAI mengumumkan akan membatasi fitur pembuatan dan pengeditan gambar hanya bagi pelanggan berbayar, sebagai upaya untuk meminimalisir pembuatan konten bernuansa seksual.
Namun sepertinya, tindakan X gagal memuaskan kekhawatiran regulator di Indonesia dan Malaysia, serta negara lain yang telah meluncurkan penyelidikan. Komisi Komunikasi dan Multimedia Malaysia (MCMC) menyatakan jawaban X dinilai tidak memadai.
"Karena itu, pembatasan ini diberlakukan sebagai langkah preventif dan proporsional selama proses hukum dan regulasi berlangsung. Akses ke Grok akan tetap dibatasi hingga pengaman yang efektif diterapkan, terutama untuk mencegah konten yang melibatkan perempuan dan anak-anak," jelasnya.
Baik Indonesia maupun Malaysia menerapkan UU anti pornografi ketat, yang melarang penyebaran konten cabul dan seksual secara online secara lebih luas.
Adapun Menteri Komunikasi dan Digital Indonesia, Meutya Hafid, menyebut pemerintah Indonesia memandang deepfake seksual non-konsensual adalah pelanggaran serius HAM, martabat, dan keamanan warga negara di ruang digital. Meutya juga mengkategorikan penyalahgunaan AI untuk membuat pornografi palsu sebagai bentuk kekerasan berbasis digital.
Otoritas di area lain, termasuk Uni Eropa, Inggris, Brasil, dan India, juga telah menyerukan penyelidikan terhadap peran Grok dalam memfasilitasi deepfake cabul dan tanpa izin.
Sementara itu, beberapa anggota parlemen Partai Demokrat di Washington DC telah merekomendasikan agar toko aplikasi menangguhkan tool AI tersebut, setidaknya sampai Musk menerapkan perubahan besar. (rif)
