Jakarta,IntiJayaNews.com – Untuk melindungi perempuan, anak-anak, serta masyarakat luas dari potensi penyebaran konten pornografi palsu berbasis kecerdasan buatan (AI), aplikasi Grok diblokir Kementerian Komunikasi dan Digital (Komdigi) melakukan blokir sementara.
“Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, dan keamanan warga negara di ruang digital,” ujar Menkomdigi Meutya Hafid dalam keterangannya, Sabtu (10/1/2026).
Menurut Meutya, pemanfaatan teknologi AI untuk menciptakan dan menyebarkan konten pornografi palsu tanpa persetujuan korban termasuk kekerasan berbasis digital yang dapat menimbulkan dampak psikologis, sosial, hingga hukum.
Pemutusan akses ini dilakukan berdasarkan Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat.
Dalam regulasi tersebut, khususnya Pasal 9, setiap PSE diwajibkan memastikan sistem elektronik yang dikelolanya tidak memuat, memfasilitasi, atau menyebarkan konten yang dilarang oleh peraturan perundang-undangan.
Selain itu, Komdigi juga telah meminta Platform X sebagai pihak terkait untuk segera memberikan klarifikasi.
Klarifikasi tersebut dibutuhkan untuk menjelaskan dampak negatif penggunaan Grok serta langkah-langkah mitigasi yang akan diterapkan agar penyalahgunaan teknologi serupa tidak terulang.
“Kementerian Komunikasi dan Digital telah meminta Platform X untuk hadir dan memberikan penjelasan terkait dampak negatif penggunaan Grok,” kata Meutya.
Seperti diketahui, Grok menuai kritik dari berbagai negara karena dinilai memungkinkan pembuatan gambar berbau pornografi.
Dalam pernyataannya, pihak Grok menyebut hanya pelanggan berbayar di Platform X yang dapat membuat dan mengedit gambar.
Namun, sejumlah pihak menilai fitur tersebut tetap bisa diakses oleh pengguna non-berbayar.
Negara-negara seperti Inggris, Uni Eropa, dan India pun secara terbuka mengecam X dan Grok atas potensi penyalahgunaan teknologi tersebut.(Ftnews)
