AI Jadi Senjata Baru Tindakan Pelecehan terhadap Muslimah India

New Delhi, India (Suaraislam.id)— Ketika Samreen Ayoub pertama kali melihat video tersebut, ia tercengang. Model lepas asal Kashmir wilayah administrasi India itu sedang menggulir ponselnya tahun lalu ketika seorang teman mengirimkan sebuah cuplikan video yang beredar di Instagram. Video tersebut tampak menceritakan kisah hidupnya di New Delhi, lengkap dengan suara narator, teks berjalan, dan tajuk berita utama layaknya segmen berita televisi. Namun, semuanya sepenuhnya rekayasa. "Itu benar-benar penguntitan," kata Ayoub (24). "Mereka telah mengikuti kehidupan saya dari semester pertama hingga terakhir di universitas." Video tersebut menggabungkan foto-foto masa kuliah Ayoub di Universitas Jamia Millia Islamia, New Delhi—gambar-gambar yang diambil dari momen sehari-hari di kampus, termasuk proyek kelompok, acara perpisahan, dan swafoto bersama teman-teman sekelasnya. Sulih suara yang dihasilkan menggunakan kecerdasan buatan secara dusta mengklaim bahwa ia adalah seorang perempuan Muslim yang "menjual tubuhnya" kepada pria Hindu. Video tersebut salah mengidentifikasi orang-orang dalam foto dan melabeli saudara kandungnya sendiri sebagai "guncik" (pimp). "Itu tampak sangat nyata, bahkan jika orang tua saya melihat video tersebut, mereka akan mengira itu nyata," kata Ayoub. Ia adalah satu dari beberapa perempuan Muslim yang mengalami apa yang digambarkan oleh para peneliti sebagai pola yang kian nyata: penggunaan AI untuk menghasilkan citra seksual dan propaganda. Al Jazeera telah menghubungi beberapa perempuan Muslim yang menjadi sasaran. Mereka menolak untuk berbicara secara resmi karena merasa malu dan menghindari risiko trauma berulang. 'Mengubah Fantasi Seksual Menjadi Citra Nyata' Tren menseksualisasikan gambar dan video perempuan Muslim ini berkembang bersamaan dengan meningkatnya keterlibatan India dalam dialog global mengenai tata kelola AI, termasuk KTT Dampak AI tingkat tinggi yang diadakan awal tahun ini di New Delhi yang berfokus pada inovasi dan kerangka regulasi. Sebuah studi oleh Center for the Study of Organized Hate (CSOH) yang berbasis di Washington, DC, menganalisis 1.326 gambar dan video hasil buatan AI yang tersedia untuk publik dari 297 akun publik di X, Facebook, dan Instagram sejak Mei 2023 hingga Mei 2025. Para peneliti menemukan bahwa penggambaran seksual perempuan Muslim menghasilkan keterlibatan (engagement) tertinggi—lebih dari 6,7 juta interaksi di seluruh platform tersebut. "AI generatif telah memungkinkan perubahan fantasi seksual menjadi citra nyata dengan cepat dan tanpa biaya," kata Zenith Khan, salah satu penulis studi dan analis riset digital di CSOH. "Generator gambar dan deepfake memungkinkan individu mengubah narasi permusuhan menjadi materi visual yang sangat realistis dengan keahlian teknis yang minimal." Para peneliti bukan satu-satunya pihak yang memantau tren ini. Meri Trustline, sebuah saluran bantuan keamanan daring yang dikelola oleh RATI Foundation yang berbasis di Mumbai, juga melihat peningkatan volume kasus semacam itu. Laporan saluran bantuan tahun 2024 mengungkapkan pola yang mengkhawatirkan: Ketika perhatian media cenderung berfokus pada selebritas dan politisi, perempuan yang bukan tokoh publik juga menjadi sasaran melalui gambar yang, meskipun dihasilkan secara buatan, memiliki kemampuan untuk menimbulkan bahaya di dunia nyata. Konselor lini depan di saluran bantuan tersebut, termasuk Salman Mujawar, yang pekerjaannya bersama para penyintas menjadi dasar dari sebagian besar bukti publikasi organisasi, mengatakan mereka telah mendokumentasikan lonjakan jumlah kasus tersebut. Sejak didirikan pada tahun 2022, Meri Trustline telah menangani lebih dari 482 kasus, sekitar 10 persen di antaranya melibatkan materi yang dimanipulasi secara digital—sebuah proporsi yang terus meningkat seiring dengan semakin mudahnya akses ke alat-alat AI. "Pelanggaran-pelanggaran ini tersamarkan oleh rasa malu, takut, dan trauma," kata Mujawar. "Insiden jarang diungkapkan bahkan kepada anggota keluarga dekat, apalagi ditampilkan dalam wacana publik yang lebih luas." 'Pornifikasi Politik' Video Ayoub menyebar ke berbagai akun media sosial dalam hitungan jam. Komentar kasar, panggilan telepon bernada ancaman, dan tuduhan terhadap karakternya menyusul dengan cepat. "Rasanya seperti penghakiman massal secara digital (digital lynching)," katanya. "Bukan hanya satu, tetapi lebih dari selusin akun mengunggah video itu di mana-mana, dan ratusan akun lainnya membagikannya kembali." Kumpulan data yang dihimpun oleh CSOH mencakup meme buatan AI yang menggambarkan perempuan Muslim berpakaian keagamaan dalam skenario sugestif seksual, serta citra pornografi buatan yang menargetkan jurnalis dan aktivis. Di berbagai gambar ini, para peneliti mengamati pola visual yang berulang: seorang "perempuan bersandi Muslim" yang dipasangkan dengan "pria bersandi Hindu". "Dalam narasi ini, pria Muslim sering kali digambarkan sebagai sosok yang keras atau rusak secara moral," kata Khan. "Sementara itu, perempuan Muslim digambarkan sebagai sosok yang tunduk atau 'diselamatkan' oleh pria dari komunitas mayoritas." Citra ini, menurut para peneliti, bukanlah kebetulan dalam wacana politik—melainkan bagian darinya. Sahana Udupa, seorang antropolog media di Universitas Ludwig Maximilian Munich, menggambarkan fenomena ini sebagai bagian dari "pornifikasi politik" yang lebih luas yang menargetkan perempuan dan komunitas minoritas. Budaya digital sayap kanan, katanya, memadukan humor, meme, dan citra seksual untuk menormalisasi pelecehan. "Praktik-praktik ini membentuk sebuah ekosistem," kata Udupa. "Mereka tumbuh subur dari perayaan kelompok dan agresi kolektif." Ekosistem tersebut, catat para akademisi, memiliki akar ideologis yang lebih dalam daripada sekadar kebencian terhadap perempuan (misogyny). Menulis di South Asia Multidisciplinary Academic Journal, peneliti Soma Basu berpendapat bahwa apa yang sedang terjadi adalah politisasi dari aspek seksual itu sendiri. Tubuh perempuan Muslim telah menjadi medan pertempuran demi dominasi komunal—sebuah dinamika yang menemukan ekspresi paling nyatanya dalam kontroversi "Sulli Deals" dan "Bulli Bai", platform lelang palsu yang menargetkan perempuan Muslim di India. Basu mengaitkan hal ini dengan dukungan formal dari pejabat Partai Bharatiya Janata (BJP) yang berkuasa maupun dukungan informal dari sukarelawan digital partai tersebut. Riset Khan tiba di kesimpulan yang serupa dari sudut pandang berbeda. "Dalam banyak budaya Asia Selatan, perempuan digambarkan sebagai kehormatan keluarga," katanya. "Jadi, menyerang perempuan Muslim secara visual menjadi cara untuk menggambarkan umat Muslim sebagai pihak yang inferior." Khan sendiri merasa penelitian ini sangat memengaruhi dirinya. "Sebagai seorang perempuan Muslim dan peneliti, hal ini berdampak mendalam bagi saya," ujarnya. "Saya ingat merasa sangat ngeri ketika melihat gambar seorang perempuan berkerudung direpresentasikan sebagai pornografi ringan. Sebagai seorang perempuan, Anda sudah menghadapi perilaku misoginis setiap hari. Ini adalah lapisan beban lain yang ditambahkan pada identitas Anda." Menanggapi kekhawatiran ini, Atif Rasheed, seorang politisi BJP, mengatakan bahwa AI "dapat digunakan secara positif maupun negatif" dan menyerukan regulasi yang lebih kuat untuk mencegah penyalahgunaannya. Ia menyebut konten deepfake dan eksplisit secara seksual sebagai hal yang "sangat mengecewakan" dan menyatakan harus ada tindakan tegas terhadap para pelaku. Namun, ia menolak melihat masalah ini melalui lensa agama, dengan mengatakan bahwa BJP "menghormati perempuan dari semua agama" dan kasus "Sulli Deals" serta "Bulli Bai" telah ditangani sesuai dengan hukum yang berlaku. Pola Lama yang Diperkuat oleh AI Peristiwa Sulli Deals dan Bulli Bai, yang terjadi pada tahun 2021 dan 2022, menggunakan gambar yang direkayasa secara manual. Kedua kasus tersebut memicu kemarahan luas dan penyelidikan polisi. Otoritas India menangkap Aumkareshwar Thakur, yang dituduh membuat akun "Sulli Deals", dan Niraj Bishnoi, yang diidentifikasi sebagai pencipta "Bulli Bai", pada Januari 2022. Baik Thakur maupun Bishnoi kemudian diberikan penangguhan penahanan (jaminan) oleh pengadilan New Delhi atas "alasan kemanusiaan" dua bulan kemudian. Para peneliti meyakini bahwa kebangkitan AI generatif telah memperluas skala dan kecepatan pelecehan terhadap perempuan Muslim secara daring secara dramatis. Aplikasi baru memungkinkan pengguna untuk mengunggah foto dan secara otomatis menghasilkan gambar seksual. Alat-alat semacam itu tersedia secara luas di internet, sering kali gratis, dan tidak memerlukan keahlian teknis. "Ada sejarah yang sangat panjang tentang teknologi yang digunakan untuk membidik dan melecehkan perempuan, terutama perempuan minoritas," kata Eviane Leidig, direktur penelitian dan jangkauan di CSOH. "Yang berbeda sekarang adalah tingkat pelanggaran dan skala bahaya yang dimungkinkan oleh alat-alat AI." Bagi mereka yang sudah hidup dengan pelecehan yang berkepanjangan, kemunculan citra buatan AI telah menambah dimensi ketakutan baru. Afreen Fatima (27), seorang peneliti dan aktivis yang menghadapi pelecehan daring sejak menyuarakan penolakan terhadap Undang-Undang Amandemen Kewarganegaraan (Citizenship Amendment Act) India pada tahun 2019, merupakan salah satu dari puluhan perempuan Muslim yang fotonya diunggah dan "dilelang" di Sulli Deals. Undang-undang tersebut, yang dinyatakan oleh Perserikatan Bangsa-Bangsa (PBB) sebagai aturan yang "mendasarinya diskriminatif" terhadap Muslim, bertujuan untuk mempercepat kewarganegaraan India bagi minoritas non-Muslim yang tiba di India dari negara-negara tetangga yang mayoritas Muslim sebelum tahun 2025. Empat tahun setelah kontroversi Sulli Deals, pelecehan tersebut hampir tidak mereda. Akun-akun anonim, yang sering kali menggunakan nama-nama Hindu pada umumnya, terus mencarinya dengan pesan-pesan kasar, ancaman pemerkosaan, dan pelecehan yang ditargetkan pada pekerjaannya, meskipun ia membatasi kehadiran di media sosial. "Setiap beberapa hari sekali, ada pesan dari beberapa akun acak yang berisi ancaman pemerkosaan atau ancaman pembunuhan," katanya. Prospek citra seksual buatan AI telah mengintensifkan ketakutan tersebut. "Ketika saya membaca tentang gambar-gambar ini, rasanya sangat personal. Hal itu menciptakan psikosis ketakutan (fear psychosis)." Fatima mengatakan kebencian di dunia maya juga membentuk caranya beraktivitas di ruang publik. "Saya merasa tidak nyaman bepergian sendirian," katanya. "Ketika Anda melihat fantasi semacam ini beredar di internet tentang perempuan Muslim, Anda mulai bertanya-tanya apakah seseorang mungkin akan menyerang Anda di kehidupan nyata." 'Saya Merasa Tidak Aman' Setelah video itu menjadi viral, peluang profesional Ayoub mulai lenyap. "Sebagai seorang model, reputasi Anda sangat penting," katanya. "Jika komentar negatif muncul di profil Anda, merek-merek akan berhenti mendekati Anda." Selama empat atau lima bulan, akun-akun palsu membanjiri profilnya dengan komentar-komentar kasar, yang menakuti calon klien. Pelecehan tersebut juga mengubah hubungannya dengan media sosial. "Instagram dulunya adalah ruang yang aman bagi saya," katanya. "Sekarang saya tidak merasa aman di sana, dan saya membatasi apa serta bagaimana saya mengunggah sesuatu." Ayoub melaporkan insiden tersebut ke unit kejahatan siber kepolisian di New Delhi dengan mengajukan pengaduan tertulis. "Tidak ada yang terjadi," katanya, seraya menambahkan bahwa sebagian besar konten pelecehan dihapus hanya karena teman-temannya melaporkan (report) akun-akun tersebut secara massal. Para pakar hukum mengatakan undang-undang India yang ada saat ini kesulitan mengimbangi konten buatan AI. "Bahayanya nyata bahkan ketika gambar itu sendiri adalah rekayasa," kata Apar Gupta, pengacara dan direktur pendiri Internet Freedom Foundation. Di bawah Pasal 66E Undang-Undang Teknologi Informasi India, hukuman pidana berlaku untuk tindakan mengambil atau mempublikasikan gambar area pribadi seseorang tanpa persetujuan. Namun, jika tubuh korban tidak pernah benar-benar direkam—dengan kata lain, jika gambar tersebut sepenuhnya dihasilkan oleh AI—ketentuan tersebut mungkin tidak dapat diterapkan. "Bahkan jika gambar itu palsu, hal itu menciptakan cap buruk permanen (scarlet letter) bagi perempuan," kata Gupta. Sementara itu, platform digital menikmati perlindungan hukum (safe harbour) selama mereka menghapus materi ilegal setelah diberitahu. Namun, Gupta mengatakan banyak korban kesulitan untuk melangkah sejauh itu. "Platform tidak memudahkan Anda untuk melaporkan bahwa 'ini adalah gambar saya, ini adalah deepfake, Anda perlu menghapusnya'," katanya. Tanpa perubahan struktural pada desain platform, prioritas algoritmik, dan kerangka hukum, pelecehan berbasis AI akan terus menyebar lebih cepat daripada kemampuan sistem hukum apa pun untuk meresponsnya, ia memperingatkan. Dalam skenario seperti itu, akuntabilitas tetap sulit digapai bagi perempuan Muslim yang menjadi sasaran. "Yang paling saya inginkan adalah menemukan orang-orang di balik akun-akun tersebut," kata Ayoub. "Mereka menghancurkan reputasi saya tanpa bahkan mengenal saya." [] Sumber: Al Jazeera

SHARE:

Artikel Terkait

Ilusi Pakar di Era ‘Scroll’: Membaca Ulang ‘The Death of Expertise’

Hijrah Harus Menyentuh Perilaku dan Sistem Hidup

AI dan Pertanyaan Lama tentang Pendidikan: Sebuah Refleksi

Universitas Tidak Boleh Jadi Rantai Pasok bagi AI

Era AI: Jurnalis Tak Akan Digantikan, Justru Semakin Dibutuhkan

Menjaga Jati Diri Pesantren di Tengah Gempuran AI