Deepfake adalah teknologi rekayasa atau teknik sintetis citra manusia yang didasari pada kecerdasan buatan atau artificial intelligence (“AI”). Kemudian, Marissa Koopman (et.al) menjelaskan deepfake sebagai berikut:
The deepfake algorithm allows a user to switch the face of one actor in a video with the face of a different actor in a photorealistic manner.
Artinya, deepfake adalah istilah yang diberikan pada algoritma, dimana algoritma tersebut memungkinkan penggunanya untuk mengubah wajah dari satu aktor menjadi wajah dari aktor lain dalam video yang berbentuk photorealistic yakni meniru objek visual yang nyata. Selain dalam bentuk video, teknologi deepfake juga dapat digunakan untuk merekayasa gambar. Kemudian, teknologi deepfake sering kali disalahgunakan sehingga dapat menimbulkan kejahatan seperti penggunaan teknologi deepfake dalam menyebarkan konten pornografi. Hal ini dikenal dengan deepfake porn.
- Deepfake Porn sebagai Kekerasan Gender Berbasis Online
Pada dasarnya, deepfake porn termasuk dalam Kekerasan Gender Berbasis Online (“KGBO”). Menurut Ellen Kusuma dan Nenden Sekar Arum, berikut adalah dampak yang mungkin dialami para korban dan penyintas KBGO, dalam hal ini deepfake porn, antara lain:
- kerugian psikologis;
- keterasingan sosial;
- kerugian ekonomi;
- mobiltas terbatas; dan
- sensor diri, yaitu hilangnya kepercayaan terhadap keamanan menggunakan teknologi digital.
Lebih lanjut, pelaku deepfake porn dalam melakukan aksinya akan mencuri otoritas tubuh korban dengan merekayasa korban melakukan sesuatu yang pelaku inginkan tanpa izin dan bahkan sepengetahuan korban. Pelaku bertindak seolah ia memiliki kuasa sepenuhnya akan korban yang berada dalam dunia maya. Hal ini termasuk dalam perbuatan kriminal, dimana pelakunya melakukan beberapa kejahatan sekaligus ketika membuat deepfake porn, sebagai contoh mencuri data pribadi, menyebarkan informasi dengan muatan yang melanggar kesusilaan, dan juga manipulasi/pemalsuan data.
Berdasarkan jenis-jenis kejahatan tersebut, maka kami akan merujuk pada ketentuan dalam UU ITE dan perubahannya, UU Perlindungan Data Pribadi, UU Pornografi, atau UU 1/2023 tentang KUHP baru. Berikut masing-masing ulasannya.
- Deepfake Porn Menurut UU ITE
Berdasarkan penelusuran kami, saat ini Indonesia belum memiliki pengaturan khusus mengenai teknologi kecerdasan buatan atau AI. Namun menurut hemat kami, teknologi kecerdasan buatan memiliki kemiripan karakteristik dengan “agen elektronik” yang diatur dalam UU ITE dan perubahannya. Pasal 1 angka 8 UU 19/2016 menyatakan bahwa agen elektronik adalah perangkat dari suatu sistem elektronik yang dibuat untuk melakukan suatu tindakan terhadap suatu informasi elektronik tertentu secara otomatis yang diselenggarakan oleh orang.
Kata “otomatis” pada pasal tersebut berarti bekerja sendiri. Selain itu, teknologi kecerdasan buatan dapat didefinisikan sebagai sistem pengolahan berbasis komputer yang bisa berpikir sendiri dan membuat keputusan sendiri. Maka, karakteristik teknologi kecerdasan buatan dapat disamakan dengan karakteristik dari agen elektronik itu sendiri.
Dengan demikian, deepfake porn sebagai penyalahgunaan terhadap AI adalah salah satu perbuatan yang dilarang berdasarkan Pasal 27 ayat (1) UU ITE yang berbunyi:
Setiap orang dengan sengaja dan tanpa hak mendistribusikan dan/atau mentransmisikan dan/atau membuat dapat diaksesnya informasi elektronik dan/atau dokumen elektronik yang memiliki muatan yang melanggar kesusilaan.
Kemudian, orang yang melanggar ketentuan Pasal 27 ayat (1) UU ITE diancam dengan pidana penjara paling lama 6 tahun dan/atau denda paling banyak Rp1 miliar, sebagaimana diatur dalam Pasal 45 ayat (1) UU 19/2016.
- Deepfake Menurut UU PDP
Sebagaimana telah kami uraikan, teknologi deepfake digunakan untuk merekayasa gambar atau video menggunakan wajah orang lain dalam pembuatannya. Sebagai informasi, gambar wajah termasuk dalam data biometrik yang bersifat spesifik.
Berdasarkan UU PDP, ketentuan deepfake terdapat dalam Pasal 66 UU PDP, yaitu setiap orang dilarang membuat data pribadi palsu atau memalsukan data pribadi dengan maksud untuk menguntungkan diri sendiri atau orang lain yang dapat mengakibatkan kerugian bagi orang lain. Lalu, orang yang melanggar ketentuan tersebut dapat dipidana dengan pidana penjara paling lama 6 tahun dan/atau pidana denda paling banyak Rp6 miliar.
- Deepfake Porn Menurut UU Pornografi
Apabila mengacu pada UU Pornografi, penyalahgunaan deepfake porn termasuk dalam unsur-unsur yang diatur di Pasal 1 angka 1 UU Pornografi sebagai berikut:
Pornografi adalah gambar, sketsa, ilustrasi, foto, tulisan, suara, bunyi, gambar bergerak, animasi, kartun, percakapan, gerak tubuh, atau bentuk pesan lainnya melalui berbagai bentuk media komunikasi dan/atau pertunjukan di muka umum, yang memuat kecabulan atau eksploitasi seksual yang melanggar norma kesusilaan dalam masyarakat.
Di dalam Pasal 4 ayat (1) UU Pornografi melarang setiap orang memproduksi, membuat, memperbanyak, menggandakan, menyebarluaskan, menyiarkan, mengimpor, mengekspor, menawarkan, memperjualbelikan, menyewakan, atau menyediakan pornografi yang secara eksplisit memuat:
- persenggamaan, termasuk persenggamaan yang menyimpang;
- kekerasan seksual;
- masturbasi atau onani;
- ketelanjangan atau tampilan yang mengesankan ketelanjangan;
- alat kelamin; atau
- pornografi anak.
Kemudian, pelaku yang melanggar larangan dalam Pasal 4 ayat (1) UU Pornografi dapat dipidana dengan pidana penjara paling singkat 6 bulan dan paling lama 12 tahun dan/atau pidana denda paling sedikit Rp250 juta dan paling banyak Rp6 miliar, sebagaimana diatur dalam Pasal 29 UU Pornografi.
- Deepfake Porn Menurut UU 1/2023
Selain diatur dalam beberapa undang-undang di atas, deepfake bermuatan pornografi juga diatur dalam Pasal 407 UU 1/2023 tentang KUHP baru yang mulai berlaku 3 tahun terhitung sejak tanggal diundangkan, yakni pada tahun 2026 bahwa setiap orang yang memproduksi, membuat, memperbanyak, menggandakan, menyebarluaskan, menyiarkan, mengimpor, mengekspor, menawarkan, memperjualbelikan, menyewakan, atau menyediakan pornografi, dipidana dengan pidana penjara paling singkat 6 bulan dan pidana penjara paling lama 10 tahun atau pidana denda paling sedikit kategori IV, yaitu Rp200 juta dan pidana denda paling banyak kategori VI, yaitu Rp2 miliar. Namun, penting untuk diketahui bahwa pada saat KUHP baru mulai berlaku, Pasal 27 ayat (1) UU ITE jo. Pasal 45 ayat (1) UU 19/2016 dicabut dan dinyatakan tidak berlaku.
Kesimpulannya, saat ini di Indonesia belum terdapat aturan yang secara spesifik dan komprehensif mengatur mengenai penyalahgunaan AI berupa deepfake porn. Akan tetapi, karena kejahatan deepfake porn dilakukan melalui kecerdasan buatan, memiliki muatan pornografi, dan pelaku menggunakan wajah orang lain dalam pembuatan deepfake porn, maka kita dapat merujuk pada UU ITE dan perubahannya, UU PDP, UU Pornografi, atau UU 1/2023 tentang KUHP baru.
Dasar Hukum:
Undang-Undang Nomor 44 Tahun 2008 tentang Pornografi;
Undang-Undang Nomor 11 Tahun 2008 tentang Informasi dan Transaksi Elektronik sebagaimana diubah dengan Undang-Undang Nomor 19 Tahun 2016 tentang Perubahan atas Undang-Undang Nomor 11 Tahun 2008 tentang Informasi dan Transaksi Elektronik;
Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi;
Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana.
Referensi:
Ellen Kusuma dan Nenden Sekar Arum. Memahami dan Menyikapi Kekerasan Gender Berbasis Online: Sebuah Panduan. Southeast Asia Freedom of Expression Network, 2019;
Eva Istia Utawi dan Neni Ruhaeni. Penegakan Hukum Terhadap Tindak Pidana Pornografi Menurut Peraturan Perundang-Undangan Tentang Pornografi Melalui Media Sosial. Bandung Conference Studies: Law Studies, Vol. 3, No. 1, 2023;
Itsna Hidayatul Khusna dan Sri Pangestuti. Deepfake, Tantangan Baru Untuk Netizen. Jurnal Promedia, Vol. 5, No. 2, 2019;
Ivana Dewi Kasita. Deepfake Pornografi: Tren Kekerasan Gender Berbasis Online (KGBO) Di Era Pandemi Covid-19. Jurnal Wanita dan Keluarga, Vol. 3, No. 1, 2022;
Lysy C. Moleong (et.al). Implementasi Cluster Computing Untuk Render Animasi. E-Jurnal Teknik Elektro dan Komputer, Vol. 2, No. 3, 2013;
Marissa Koopman (et.al). Detection of Deepfake Video Manipulation. Proceedings of the 20th Irish Machine Vision and Image Processing Conference, University of Amsterdam & Netherlands Forensic Institute, 2018;
Muhammad Faqih Faathurrahman dan Enni Soerjati Priowirjanto. Pengaturan Pertanggungjawaban Pelaku Penyalahgunaan Deepfakes dalam Teknologi Kecerdasan Buatan pada Konten Pornografi Berdasarkan Hukum Positif Indonesia. Jurnal JIST, Vol. 3, No. 11, 2022.
Kantor Hukum Jogjalawkarta adalah kantor pengacara yang telah menangani berbagai perkara hukum baik dalam perkara pidana maupun perkara perdata sejak tahun 2018 seperti pendampingan perkara perdata, cerai talak, gugat cerai, permohonan dispensasi kawin, gugatan hak asuh anak, permohonan penetapan ahli waris, sengketa wanprestasi/perbuatan melawan hukum, pendampingan perkara pidana, mediasi, negosiasi, dan masih banyak lagi. Selain itu Kantor Hukum Jogjalawkarta telah membantu berbagai industri dan bisnis dalam memberikan solusi hukum terbaik yang berkaitan dengan peraturan-peraturan di Indonesia.
Untuk informasi lebih lengkapnya anda dapat menghubungi kami via:
WhatsApp : (0812-1080-4902)
Instagram : @jogjalawkarta
Facebook : Jogjalawkarta
Tinggalkan Balasan