Gambaran Betapa Berbahayanya Grok AI Bagi Perempuan dan Anak-anak di Ruang Digital

LANGIT7.ID-, Inggris - Gambaran mengenai betapa berbahayanya Grok AI, fitur yang ada di platform X terhadap banyak orang khususnya perempuan dan anak-anak, dijelaskan secara nyata oleh Zoe Kleinman, seorang Editor Teknologi di Inggris.

Kleinman yang juga berprofesi sebagai jurnalis dan presenter itu memberi contoh tiga foto dirinya yang berbeda. Dari tiga foto itu, hanya satu yang asli dan dua lainnya merupakan hasil "olahan" Grok AI.

(Foto Zoe Kleinman. sumber: bbc.com)

"(Terlihat) sangat meyakinkan. Saya tidak pernah kenakan setelan baju ski warna kuning atau jaket merah-biru. Foto yang di tengah adalah foto yang asli tapi saya tidak tahu bagaimana saya bisa membuktikan itu asli jika diperlukan, sebab dua foto lainnya (tampak nyata)," kata Kleinman melansir bbc.com, Kamis (15/1/2026).

Namun di sini, lanjut dia, Grok dihujani kecaman karena menampilkan gambar wanita yang telanjang, bukan mengenakan pakaian kembali dan melakukannya tanpa persetujuan mereka.

Grok membuat gambar orang-orang berbikini, atau lebih buruk lagi, atas permintaan orang lain. Dan membagikan hasilnya secara publik di jejaring sosial X.

Ada juga bukti bahwa Grok telah menghasilkan gambar-gambar seksualisasi anak-anak.

Hal ini mengundang kemarahan dan kecaman publik hingga akhirnya Otoritas Independen Keamanan Daring di Inggris Raya, Ofcom, mengatakan sedang menyelidiki secara mendesak apakah Grok telah melanggar undang-undang keamanan daring Inggris. Pemerintah pun ingin Ofcom segera bertindak secepatnya.

Sementara itu, baru saja diumumkan bahwa X telah menerapkan langkah-langkah teknologi untuk mencegah akun Grok mengizinkan pengeditan gambar orang sungguhan dalam pakaian terbuka seperti bikini, demikian bunyi pengumuman di X, yang mengoperasikan fitur Grok.

Baca juga: Banyak Kecaman, X Bakal Stop Grok AI Tak Bisa Lagi Edit Gambar Berbau Seksual

Pihak X menegaskan bahwa pembatasan ini berlaku untuk semua pengguna, termasuk pelanggan berbayar.

Perubahan tersebut diumumkan beberapa jam setelah jaksa penuntut umum California mengatakan bahwa negara bagian tersebut sedang menyelidiki penyebaran deepfake AI yang berbau seksual.

Apakah akan stop sampai di situ? Tak ada hukuman bagi Grok AI?

Jawabannya, tidak. Sebab jika sebuah alat digunakan secara pribadi oleh pengguna individu, mereka menemukan cara untuk mengakali peraturan dan konten yang dihasilkan hanya dibagikan kepada mereka yang ingin melihatnya. Lantas bagaimana hal itu akan terungkap?

Ditegaskan, jika X terbukti melanggar hukum, maka Ofcom dapat menjatuhkan denda hingga 10% dari pendapatan globalnya atau £18 juta, mana pun yang lebih besar.

Bahkan langkah paling ekstrem bakal diambil, yaitu memblokir Grok AI atau bahkan platform X di Inggris.

Baca juga: Dianggap Berbahaya, Kini Giliran Inggris Bersiap Blokir Grok AI

Kleinman membagikan pengalamannya saat duduk di KTT AI di Paris tahun lalu dan menyaksikan Wakil Presiden JD Vance berteriak bahwa pemerintahan AS "sudah lelah" dengan negara-negara asing yang mencoba mengatur perusahaan teknologi mereka.

Para hadirin, yang termasuk sejumlah besar pemimpin dunia, duduk dalam keheningan.

Namun, perusahaan-perusahaan teknologi memiliki banyak pengaruh di Gedung Putih dan beberapa di antaranya juga telah menginvestasikan miliaran dolar dalam infrastruktur AI di Inggris.

Lalu Kleinman mempertanyakan apakah negaranya yakni Inggris bisa membiarkan dirinya berselisih dengan mereka?