Marak Konten Seksual Berbasis AI, Pakar Minta Publik Lebih Kritis

LANGIT7.ID, Jakarta,- - Praktik manipulasi konten seksual berupa foto dan video lewat fitur kecerdasan buatan atau artificial intelligent (AI) menimbulkan keresahan publik.

Penyalahgunaan teknologi ini justru menempatkan perempuan dan anak-anak sebagai korban utama eksploitasi visual.

Laporan 2024 mencatat Indonesia menempati peringkat ketiga dunia dengan 1.450.403 kasus. Posisi ini menempatkan Indonesia sebagai salah satu negara dengan jumlah kasus pornografi daring terbesar.

Baca juga: Konten Digital Negatif Berlebih Ancam Kesehatan Mental Anak

Akademisi pemerhati gender dari Sekolah Pascasarjana UGM, Ratna Noviani Ph.D, menegaskan bahwa kecanggihan fitur kecerdasan buatan bukan sekadar kemajuan teknologi, melainkan alat baru untuk melanggengkan kekerasan berbasis gender yang sistemik.

Ratna mengatakan, ruang digital yang kerap diglofirikasi sebagai ruang kebebasan malah berujung sebagai medan baru reproduksi kekerasan berbasis gender, termasuk kekerasan seksual yang menyasar perempuan.

“Ini bukan hanya melanggengkan kekerasan lama, tetapi juga menjadi ruang bentuk-bentuk kekerasan baru, seperti kekerasan berbasis gender online yang bersifat masif, anonim, dan cenderung sulit dihentikan.” jelasnya seperti dikutip dari laman resmi UGM, Sabtu (10/1/2026).

Ia menyoroti ruang digital yang bekerja seperti pisau bermata dua yang dapat menimbulkan ketidaknyamanan bagi perempuan.

Di satu sisi, kata Ratna, media sosial membuka ruang bagi perempuan untuk tampil, bersuara, dan menghadirkan diri.

"Terdapat sense of freedom bagi perempuan untuk leluasa membangun visibilitas dan menunjukkan agensi. Namun pada saat yang sama, eksistensi visual tersebut juga rentan dijadikan “bahan baku” kekerasan seksual digital," jelasnya.

Baca juga: Maraknya Kasus Pelecehan Seksual, Ini Kata Kriminolog

Ratna melihat kontradiksi mendasar, di mana perempuan didorong untuk hadir dan visible di ruang digital, tetapi visibilitas itu justru membuat tubuh dan citra mereka menjadi objek untuk dikontrol, dieksploitasi, dan diserang.

Soal penggunaan AI dengan manipulasi konten yang semakin marak, Ratna menilai hal ini sebagai evolusi budaya mengintip. Ia mengamati adanya relasi kuasa berbasis gender yang timpang.

Menurut Ratna, sejak dulu perempuan diposisikan dengan logika male gaze atau sebagai objek tatapan, objek seksual, dan objek tontonan untuk kesenangan laki-laki.

"Praktik morphing tidak mengubah logika male gaze ini, ia memperhalus dan melanggengkannya dalam bentuk visual digital yang semakin rapi, realistis, dan invasif.” jelasnya.

Lebih lanjut, Ketua Program Magister Kajian Budaya dan Media Sekolah Pascasarjana UGM ini memaparkan temuannya bahwa teknologi digital dan AI sendiri tidak netral.

Teknologi dibangun dari data, desain, dan imajinasi sosial yang juga bias maskulin. Bahkan dalam praktik sehari-hari, AI assistant sering digenderisasi sebagai feminin, dengan nama, suara, dan karakter yang merepresentasikan kepatuhan dan pelayanan.

Baca juga: Tiga Tips Ajarkan Anak Agar Terhindar dari Kekerasan Seksual

"Hal ini menunjukkan bahwa logika teknologi itu sendiri telah lama mereproduksi posisi perempuan sebagai objek. Oleh karena itu, kekerasan visual digital seperti morphing tidak sekadar evolusi dari voyeurisme, tetapi kelanjutan dari problem struktural yang sama.” jelasnya.

Demi memutus mata rantai ini, Ratna mengemukakan solusi agar pengguna di media digital dapat membangun kesadaran kolektif.

Ia mengatakan bahwa masyarakat harus menyadari bahwa tindakan menyukai, mengomentari, atau membagikan konten manipulasi AI dapat menjadikan seseorang sebagai pelaku sekunder.

Ratna meminta masyarakat agar lebih kritis dan cerdas untuk tidak menyebarkan informasi palsu tersebut.

“Membangun kesadaran kolektif berarti menggeser posisi kita, dari penonton pasif menjadi bagian aktif dari solusi. Kita perlu bersama-sama menjadi pengguna teknologi digital dan AI yang kritis, yang sadar bahwa setiap klik, like, dan share punya konsekuensi etis dan politis,” pungkasnya.