Setelah Indonesia, Malaysia Ikut Memblokir Grok AI

LANGIT7.ID-, Malaysia - Malaysia mengikuti langkah Indonesia dengan melakukan tindakan tegas memblokir chatbot berbasis kecerdasan artifisial (AI), Grok, yang ada di platform X milik Elon Musk. Alasannya, karena kemampuan bot tersebut menghasilkan konten seksual eksplisit.

Grok, sebuah fitur di platform X milik Musk, memungkinkan pengguna untuk menghasilkan gambar. Namun, dalam beberapa minggu terakhir, fitur ini telah digunakan untuk mengedit gambar orang sungguhan untuk menampilkan mereka dalam pakaian yang terbuka.

Negara-negara Asia Tenggara mengatakan Grok dapat digunakan untuk menghasilkan gambar pornografi dan gambar tanpa persetujuan yang melibatkan perempuan dan anak-anak. Mereka adalah negara pertama di dunia yang melarang fitur AI tersebut.

Belum ada tanggapan resmi dari pihak Grok, namun Elon Musk sebelumnya mengatakan bahwa para kritikus platformnya sedang mencari "alasan apa pun untuk melakukan sensor".

Grok, dan perusahaan induknya X, juga menghadapi tekanan di Inggris, setelah Menteri Teknologi Liz Kendall mendukung seruan untuk memblokir akses ke platform media sosial tersebut karena gagal mematuhi undang-undang keselamatan daring.

Kementerian komunikasi Indonesia dan Malaysia mengumumkan langkah mereka terhadap Grok dalam pernyataan terpisah pada akhir pekan lalu.

Baca juga: Indonesia Jadi Negara Pertama Memblokir Aplikasi AI Grok Milik Elon Musk

Komisi Komunikasi dan Multimedia Malaysia mengatakan pada hari Minggu bahwa mereka telah mengeluarkan pemberitahuan kepada X awal tahun ini untuk meminta tindakan yang lebih ketat, setelah menemukan "penyalahgunaan berulang" Grok yang menghasilkan konten berbahaya.

Namun dalam tanggapannya, X gagal mengatasi risiko inheren dari desain platformnya dan terutama berfokus pada proses pelaporan bagi pengguna, kata regulator tersebut.

Pemblokiran diberlakukan sampai perlindungan yang efektif diterapkan dan mendesak masyarakat untuk melaporkan konten daring yang berbahaya.

Penggunaan Grok untuk menghasilkan konten seksual eksplisit merupakan pelanggaran hak asasi manusia, martabat, dan keamanan daring, kata Meutya Hafid, Menteri Komunikasi dan Digital Indonesia, dalam sebuah unggahan di Instagram.

Kementerian Komdigi RI juga telah meminta X milik Musk untuk memberikan klarifikasi mengenai penggunaan Grok. Pihak berwenang Indonesia telah menindak tegas sumber-sumber daring materi pornografi lainnya dalam beberapa tahun terakhir, dengan platform seperti OnlyFans dan Pornhub.

Pengguna X di Indonesia yang menemukan foto mereka yang telah dimanipulasi di platform tersebut mengatakan mereka merasa marah karena hal ini dibiarkan terjadi.

Baca juga: Saat Elon Musk, Bill Gates, dan Zuckerberg Umumkan Akhir Era Ponsel Cerdas, CEO Apple Punya Pandangan yang Sangat Berbeda

Kirana Ayuningtyas, seorang pengguna kursi roda yang memposting tentang pengalaman sehari-harinya secara daring, menemukan bahwa seorang asing telah mengomentari fotonya dengan permintaan agar Grok menggambarkan dirinya mengenakan bikini.

Ayuningtyas mengatakan dia telah menyesuaikan pengaturan privasinya dan menghubungi platform tersebut untuk meminta penghapusan gambar agar pengguna dapat mengedit fotonya.

"Sayangnya, semua itu tidak berhasil," katanya, melansir BBC, Senin (12/1/2026). Ia menambahkan bahwa sulit untuk mengetahui apakah ada orang di luar sana yang masih menyimpan gambar-gambar tersebut.

Dia meminta teman-temannya untuk melaporkan akun-akun yang menerbitkan gambar-gambar palsunya, tetapi melakukan hal itu justru membuat lebih banyak orang melihat gambar-gambar yang diedit, yang sangat memalukan baginya.

Regulator media Inggris, Ofcom, diperkirakan akan segera memutuskan apa yang akan dilakukan terhadap Grok.

Penggunaan Grok untuk menghasilkan gambar-gambar yang berbau seksual telah dikutuk oleh para pemimpin di seluruh dunia, termasuk Perdana Menteri Inggris Keir Starmer, yang menyebutnya "memalukan" dan "menjijikkan".