Komisi Nasional Anti Kekerasan terhadap Perempuan (Komnas Perempuan) memberikan sorotan tajam terhadap maraknya penyalahgunaan teknologi kecerdasan buatan atau artificial intelligence (AI). Fenomena pembuatan konten pornografi melalui teknik deepfake dianggap sebagai bukti nyata dari rendahnya etika masyarakat dalam memanfaatkan teknologi digital.
Komisioner Komnas Perempuan, Chatarina Pancer Istiyani, menjelaskan bahwa pada dasarnya teknologi merupakan sebuah alat yang bersifat netral. Persoalan serius baru akan muncul ketika teknologi tersebut dioperasikan oleh individu yang tidak bertanggung jawab serta mengabaikan dampak buruk bagi orang lain.
Menurut Chatarina, teknologi secara fundamental tidak memiliki sisi moralitas karena nilai moral sepenuhnya berada pada manusia yang mengendalikannya. Pernyataan ini ia sampaikan sebagai tanggapan atas dugaan kasus konten vulgar berbasis deepfake yang baru-baru ini menimpa seorang mahasiswi di Universitas Tanjungpura.
Chatarina menambahkan bahwa praktik pelecehan digital semacam ini bukan hanya terjadi di satu institusi pendidikan saja. Kasus serupa dilaporkan mulai muncul di berbagai lokasi lain di Indonesia dan menjadi ancaman serius bagi ruang digital.
Ia memaparkan bahwa konten pornografi deepfake biasanya diproduksi dengan cara mengambil foto wajah asli seseorang secara ilegal. Wajah tersebut kemudian dimanipulasi dan digabungkan ke tubuh pemeran konten porno menggunakan teknologi AI seperti fitur pemindah wajah atau face swap.
Hasil manipulasi digital tersebut selanjutnya disebarkan melalui berbagai platform media sosial maupun aplikasi komunikasi lainnya. Tindakan ini sering kali dilakukan oleh pelaku dengan alasan yang sangat dangkal dan tidak masuk akal.
Chatarina mengungkapkan bahwa banyak pelaku menganggap perbuatan mereka hanyalah bentuk candaan atau sekadar iseng semata. Namun, ia dengan tegas menyatakan bahwa tindakan tersebut telah masuk ke dalam ranah tindak pidana karena dilakukan tanpa persetujuan korban.
Meski dianggap sebagai keisengan oleh pelakunya, Komnas Perempuan menilai tindakan ini merupakan bentuk nyata dari kekerasan seksual digital. Faktor utama yang menjadikannya tindak pidana adalah ketiadaan konsensus atau persetujuan dari orang yang wajahnya digunakan.
Poin penting mengenai pandangan Komnas Perempuan terhadap isu deepfake:
- Teknologi deepfake bukan sekadar masalah kemajuan teknis, melainkan cerminan krisis budaya dan etika sosial di ruang siber.
- Kurangnya kesadaran masyarakat mengenai batasan penggunaan AI memicu eksploitasi yang merendahkan martabat perempuan.
- Konten manipulatif sering digunakan sebagai alat untuk mempermalukan dan menghancurkan reputasi seseorang secara sengaja.
- Dampak psikologis yang dialami oleh korban deepfake setara dengan kerugian akibat kekerasan fisik secara langsung.
Penjelasan di atas menunjukkan bahwa Komnas Perempuan melihat adanya keterkaitan erat antara rendahnya literasi digital dengan perilaku menyimpang di internet. Chatarina menekankan bahwa dampak yang dirasakan oleh para korban tidak boleh dipandang sebelah mata oleh masyarakat maupun aparat hukum.
Korban deepfake sering kali mengalami trauma psikologis yang mendalam serta kehilangan rasa aman dalam kehidupan sehari-hari. Selain itu, reputasi mereka di lingkungan sosial maupun profesional bisa hancur seketika akibat penyebaran konten tersebut.
Komnas Perempuan terus mendorong penegakan hukum yang lebih kuat melalui Undang-Undang Tindak Pidana Kekerasan Seksual (UU TPKS). Selain aspek hukum, penguatan edukasi mengenai etika penggunaan AI juga dinilai sangat mendesak untuk dilakukan sejak dini.
Sasaran utama edukasi ini adalah kalangan generasi muda dan pengguna aktif media sosial yang setiap hari berinteraksi dengan teknologi. Literasi digital tidak boleh hanya sebatas pemahaman cara mengoperasikan perangkat, tetapi juga harus mencakup tanggung jawab moral.
Chatarina berpendapat bahwa kemajuan teknologi saat ini sering kali melaju lebih cepat dibandingkan kesiapan mental dan moral penggunanya. Oleh karena itu, diperlukan sinergi antara berbagai pihak untuk menciptakan ekosistem digital yang lebih sehat dan aman.
Di sisi lain, Komnas Perempuan juga mengajak kalangan akademisi dan peneliti teknologi untuk proaktif menciptakan solusi teknis. Pengembangan sistem yang mampu mendeteksi atau mencegah pembuatan konten deepfake sangat diperlukan untuk melindungi publik.
Pihak Komnas Perempuan pun telah memulai langkah nyata dengan berdiskusi bersama peneliti dari Universitas Indonesia (UI). Fokus diskusi tersebut adalah mencari peluang pengembangan teknologi yang mampu memitigasi risiko penyebaran konten pornografi buatan AI.
Data dan informasi terkini terkait perkembangan isu deepfake di Indonesia:
| Kategori Isu | Detail Perkembangan |
|---|---|
| Tindakan Pemerintah | Pemblokiran sementara terhadap Grok AI karena risiko konten pornografi non-konsensual. |
| Respon Legislatif | DPR mendesak penutupan platform jika gagal mengendalikan penyalahgunaan fitur deepfake. |
| Langkah Hukum | Bareskrim Polri mulai menyelidiki kasus manipulasi foto cabul berbasis kecerdasan buatan. |
| Dampak Sosial | Munculnya desakan reformasi kebijakan di institusi pendidikan untuk melindungi mahasiswa. |
Tabel tersebut merangkum berbagai respons yang muncul dari berbagai sektor sebagai reaksi atas meningkatnya ancaman kejahatan berbasis AI. Kesadaran kolektif mengenai pentingnya etika dalam berteknologi menjadi kunci utama dalam menghadapi tantangan ini di masa depan.
Sebagai penutup, Chatarina kembali mengingatkan bahwa penguasaan teknologi tanpa dibarengi kesadaran moral hanya akan menciptakan kerusakan. Ia berharap semua pemangku kepentingan dapat bekerja sama untuk membendung penyalahgunaan AI yang merugikan kaum perempuan.
