Yogyakarta (beritajatim.com)- Penyalahgunaan kecerdasan buatan (AI) untuk memanipulasi foto dan video bernuansa seksual kian memicu kekhawatiran publik. Teknologi yang sejatinya diciptakan untuk memudahkan kehidupan manusia justru dimanfaatkan untuk menciptakan konten seksual palsu secara cepat, masif, dan sulit dilacak. Dampaknya, perempuan dan anak-anak menjadi kelompok paling rentan mengalami eksploitasi visual di ruang digital.
Fenomena manipulasi visual berbasis AI, termasuk praktik morphing, membuat siapa pun dapat “ditempelkan” ke tubuh lain tanpa persetujuan. Praktik ini tidak hanya merusak reputasi korban, tetapi juga memperparah objektifikasi tubuh perempuan. Ancaman terhadap anak-anak pun semakin serius. Sepanjang 2024, laporan internasional mencatat Indonesia berada di peringkat ketiga dunia dengan lebih dari 1,4 juta kasus pornografi daring, sebuah angka yang menunjukkan kondisi darurat perlindungan di ruang digital.
Akademisi dan pemerhati gender dari Sekolah Pascasarjana Universitas Gadjah Mada (UGM), Ratna Noviani, menilai maraknya manipulasi konten seksual berbasis AI bukan sekadar persoalan teknologi. Menurutnya, ruang digital telah berubah menjadi arena baru reproduksi kekerasan berbasis gender.
“Ruang digital yang sering dipersepsikan sebagai ruang kebebasan ternyata juga menjadi ladang kekerasan seksual baru. Kekerasan ini bersifat masif, anonim, dan sulit dihentikan karena teknologi memungkinkan penyebarannya terjadi dalam hitungan detik,” ujar Ratna kemarin.
Ratna menjelaskan, kehadiran perempuan di ruang digital berada dalam situasi paradoks. Media sosial memberi ruang bagi perempuan untuk bersuara, tampil, dan membangun identitas. Namun pada saat yang sama, visibilitas tersebut justru membuka celah terjadinya kekerasan seksual berbasis visual.
“Perempuan didorong untuk hadir dan terlihat, tetapi kehadiran itu sering kali berujung pada kontrol, eksploitasi, bahkan serangan seksual digital. Ini menunjukkan kontradiksi mendasar dalam ekosistem digital kita,” jelasnya.
Ia juga menyoroti bahwa praktik manipulasi visual berbasis AI merupakan kelanjutan dari budaya lama, yakni male gaze. Dalam logika ini, perempuan diposisikan sebagai objek tatapan dan objek seksual. Teknologi AI, menurut Ratna, justru memperhalus praktik tersebut dengan visual yang semakin realistis dan invasif.
“Teknologi ini tidak menghapus relasi kuasa yang timpang. Sebaliknya, ia melanggengkan logika lama dalam bentuk baru yang lebih rapi dan sulit dibantah,” tambahnya.
Lebih jauh, Ratna menegaskan bahwa teknologi digital dan AI tidak pernah benar-benar netral. Data, desain, hingga imajinasi sosial di balik teknologi sering kali sarat bias maskulin. Bahkan, banyak asisten AI didesain dengan identitas feminin yang merepresentasikan kepatuhan dan pelayanan.
“Ini menunjukkan bahwa sejak awal, teknologi telah mereproduksi posisi perempuan sebagai objek. Kekerasan visual digital bukan fenomena baru, melainkan kelanjutan dari masalah struktural yang belum selesai,” katanya.
Untuk memutus rantai kekerasan ini, Ratna menekankan pentingnya membangun kesadaran kolektif di masyarakat digital. Ia mengingatkan bahwa tindakan sederhana seperti menyukai, mengomentari, atau membagikan konten manipulasi AI dapat menjadikan seseorang sebagai pelaku kekerasan sekunder.
“Masyarakat perlu bergeser dari posisi penonton pasif menjadi bagian dari solusi. Setiap klik, like, dan share memiliki konsekuensi etis. Menjadi pengguna AI yang kritis adalah langkah awal melawan kekerasan seksual digital,” pungkasnya. [aje]
