AI Jadi Senjata Baru Tindakan Pelecehan terhadap Muslimah India
Riset Khan tiba di kesimpulan yang serupa dari sudut pandang berbeda. “Dalam banyak budaya Asia Selatan, perempuan digambarkan sebagai kehormatan keluarga,” katanya. “Jadi, menyerang perempuan Muslim secara visual menjadi cara untuk menggambarkan umat Muslim sebagai pihak yang inferior.”
Khan sendiri merasa penelitian ini sangat memengaruhi dirinya. “Sebagai seorang perempuan Muslim dan peneliti, hal ini berdampak mendalam bagi saya,” ujarnya.
“Saya ingat merasa sangat ngeri ketika melihat gambar seorang perempuan berkerudung direpresentasikan sebagai pornografi ringan. Sebagai seorang perempuan, Anda sudah menghadapi perilaku misoginis setiap hari. Ini adalah lapisan beban lain yang ditambahkan pada identitas Anda.”
Menanggapi kekhawatiran ini, Atif Rasheed, seorang politisi BJP, mengatakan bahwa AI “dapat digunakan secara positif maupun negatif” dan menyerukan regulasi yang lebih kuat untuk mencegah penyalahgunaannya. Ia menyebut konten deepfake dan eksplisit secara seksual sebagai hal yang “sangat mengecewakan” dan menyatakan harus ada tindakan tegas terhadap para pelaku.
Namun, ia menolak melihat masalah ini melalui lensa agama, dengan mengatakan bahwa BJP “menghormati perempuan dari semua agama” dan kasus “Sulli Deals” serta “Bulli Bai” telah ditangani sesuai dengan hukum yang berlaku.
Pola Lama yang Diperkuat oleh AI
Peristiwa Sulli Deals dan Bulli Bai, yang terjadi pada tahun 2021 dan 2022, menggunakan gambar yang direkayasa secara manual. Kedua kasus tersebut memicu kemarahan luas dan penyelidikan polisi.
Otoritas India menangkap Aumkareshwar Thakur, yang dituduh membuat akun “Sulli Deals”, dan Niraj Bishnoi, yang diidentifikasi sebagai pencipta “Bulli Bai”, pada Januari 2022. Baik Thakur maupun Bishnoi kemudian diberikan penangguhan penahanan (jaminan) oleh pengadilan New Delhi atas “alasan kemanusiaan” dua bulan kemudian.
Para peneliti meyakini bahwa kebangkitan AI generatif telah memperluas skala dan kecepatan pelecehan terhadap perempuan Muslim secara daring secara dramatis. Aplikasi baru memungkinkan pengguna untuk mengunggah foto dan secara otomatis menghasilkan gambar seksual. Alat-alat semacam itu tersedia secara luas di internet, sering kali gratis, dan tidak memerlukan keahlian teknis.
“Ada sejarah yang sangat panjang tentang teknologi yang digunakan untuk membidik dan melecehkan perempuan, terutama perempuan minoritas,” kata Eviane Leidig, direktur penelitian dan jangkauan di CSOH. “Yang berbeda sekarang adalah tingkat pelanggaran dan skala bahaya yang dimungkinkan oleh alat-alat AI.”
Bagi mereka yang sudah hidup dengan pelecehan yang berkepanjangan, kemunculan citra buatan AI telah menambah dimensi ketakutan baru.
Afreen Fatima (27), seorang peneliti dan aktivis yang menghadapi pelecehan daring sejak menyuarakan penolakan terhadap Undang-Undang Amandemen Kewarganegaraan (Citizenship Amendment Act) India pada tahun 2019, merupakan salah satu dari puluhan perempuan Muslim yang fotonya diunggah dan “dilelang” di Sulli Deals.
