Indonesia Jadi Negara Pertama Memblokir Grok AI Milik Elon Musk

LANGIT7.ID-, Jakarta - - Pemerintah Indonesia mengambil langkah tegas dengan memutus akses sementara terhadap chatbot berbasis kecerdasan artifisial (AI), Grok, yang ada di platform X milik Elon Musk. Keputusan ini menjadikan Indonesia negara pertama di dunia yang bertindak.

Melalui Kementerian Komunikasi dan Digital (Kemkomdigi), Indonesia melakukan pemutusan akses Grok demi menjaga ruang digital yang aman dan beretika.

Menteri Komunikasi dan Digital (Menkomdigi) Meutya Hafid melalui siaran pers menegaskan bahwa praktik deepfake bermuatan seksual tanpa persetujuan, merupakan pelanggaran serius terhadap hak asasi manusia dan martabat warga negara.

"Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, Pemerintah melakukan pemutusan akses sementara terhadap aplikasi Grok," ujar Menkomdigi Meutya mengutip siaran pers dari laman Kemkomdigi, Senin (12/1/2025).

Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital.

Baca juga: Menteri Komdigi Sampaikan Tiga Jurus Transformasi Kebijakan Digital Nasional

Dasar hukum atas tindakan pemutusan akses tersebut diatur dalam Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat, khususnya Pasal 9, yang mewajibkan setiap Penyelenggara Sistem Elektronik (PSE) memastikan sistem elektronik yang dikelolanya tidak memuat, memfasilitasi, atau menyebarluaskan informasi elektronik dan/atau dokumen elektronik yang dilarang.

Kebijakan tersebut diambil menyusul temuan penyalahgunaan teknologi tersebut untuk memproduksi dan menyebarkan konten pornografi palsu berbasis deepfake, dan sebagai bagian dari upaya perlindungan masyarakat khususnya perempuan dan anak, dari risiko eksploitasi seksual di ruang digital.

Tak hanya memutus akses, Kementerian Komunikasi dan Digital juga juga telah meminta Platform X untuk segera hadir guna memberikan klarifikasi terkait dampak negatif penggunaan Grok.

Baca juga: Komdigi Bekukan TikTok di Indonesia karena Data Tak Lengkap dan Dugaan Judi Online

Grok merupakan sebuah fiturr di platform X milik Elon Musk yang memungkinkan pengguna untuk menghasilkan gambar. Namun, dalam beberapa minggu terakhir, fitur ini telah digunakan untuk mengedit gambar orang sungguhan untuk menampilkan mereka dalam pakaian yang terbuka.