Perkembangan
teknologi Artificial Intelligence (AI) dalam beberapa tahun terakhir
membawa perubahan besar dalam kehidupan masyarakat digital. Berbagai aktivitas
yang sebelumnya dilakukan secara konvensional kini semakin bergantung pada
teknologi berbasis kecerdasan buatan, mulai dari komunikasi, pendidikan,
industri kreatif, hingga transaksi ekonomi digital. Di tengah perkembangan
tersebut, muncul teknologi deepfake dan
voice cloning yang mampu meniru wajah serta suara seseorang secara
realistis melalui pengolahan data digital.
Pada awalnya, teknologi tersebut
dikembangkan untuk kebutuhan hiburan dan produksi media. Dalam industri
perfilman misalnya, AI digunakan untuk memperbaiki kualitas visual, membuat
efek digital, serta membantu proses pengisian suara. Namun dalam
perkembangannya, teknologi tersebut mulai disalahgunakan untuk tujuan yang
melanggar hukum, terutama dalam bentuk penipuan, manipulasi informasi
elektronik, dan penyebaran konten palsu.
Deepfake merupakan teknologi yang
digunakan untuk membuat video manipulatif sehingga seseorang tampak melakukan
atau mengucapkan sesuatu yang sebenarnya tidak pernah terjadi. Sementara itu,voice cloning digunakan untuk meniru
suara seseorang dengan tingkat kemiripan sangat tinggi. Perkembangan AI
generatif menyebabkan hasil manipulasi tersebut semakin sulit dibedakan dari
rekaman asli, khususnya oleh masyarakat umum yang tidak memiliki kemampuan
forensik digital.
Baca Juga: Deepfake Dilema: Tantangan Hukum Pidana di Era Artificial Intelligence
Ancaman penyalahgunaan
identitas digital semakin relevan di Indonesia seiring meningkatnya penggunaan
internet dan media sosial. Berdasarkan Survei Penetrasi Internet Indonesia
Tahun 2024 yang dirilis oleh Asosiasi Penyelenggara Jasa Internet Indonesia
(APJII), jumlah pengguna internet di Indonesia mencapai lebih dari 221 juta
jiwa atau sekitar 79,5 persen dari total populasi nasional. Tingginya aktivitas
digital masyarakat menyebabkan penyebaran konten manipulatif berbasis AI
menjadi semakin mudah dilakukan melalui berbagai platform daring.
Penyalahgunaan teknologi
ini mulai terlihat dalam berbagai bentuk penipuan digital. Salah satu kasus
yang sempat menjadi perhatian publik terjadi ketika Kepolisian Daerah Jawa
Timur mengungkap dugaan penipuan yang mencatut nama Gubernur Jawa Timur,
Khofifah Indar Parawansa. Pelaku diduga menggunakan video manipulatif
menyerupai gubernur untuk menawarkan program penjualan sepeda motor murah
melalui media sosial. Korban kemudian diminta mentransfer sejumlah uang dengan
alasan biaya administrasi. Kasus tersebut menunjukkan bahwa manipulasi digital
dapat digunakan untuk membangun tipu muslihat yang tampak meyakinkan bagi
masyarakat.
Kasus serupa juga terjadi
di tingkat internasional. Pada tahun 2024, perusahaan engineering asal Inggris,
Arup Group, menjadi korban penipuan berbasis deepfake. Seorang pegawai bagian keuangan di kantor Hong Kong
mengikuti rapat virtual yang tampak dihadiri sejumlah eksekutif perusahaan.
Setelah rapat tersebut, pegawai tersebut melakukan transfer dana perusahaan
sekitar HK$200 juta atau setara kurang lebih US$25 juta kepada pelaku.
Belakangan diketahui bahwa peserta rapat tersebut merupakan hasil manipulasi AI
berupa video dan suara palsu. Peristiwa ini memperlihatkan bahwa teknologi AI
dapat digunakan untuk menembus sistem verifikasi korporasi modern.
Dalam perspektif hukum
Indonesia, hingga saat ini belum terdapat aturan yang secara khusus dan
eksplisit mengatur kriminalisasi deepfake
dan voice cloning. Meskipun
demikian, beberapa ketentuan hukum positif tetap dapat digunakan terhadap
pelaku. Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum
Pidana dapat diterapkan terhadap tindak pidana penipuan, pemalsuan, maupun
penyebaran informasi bohong. Selain itu, Undang-Undang Nomor 1 Tahun 2024
tentang Perubahan Kedua atas Undang-Undang Informasi dan Transaksi Elektronik
juga memberikan dasar hukum terhadap manipulasi dan distribusi informasi
elektronik yang merugikan pihak lain.
Di sisi lain, Undang-Undang
Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi memberikan perlindungan
terhadap data biometrik seseorang. Wajah dan suara pada prinsipnya dapat
dikualifikasikan sebagai data biometrik yang termasuk kategori data pribadi
spesifik sehingga penggunaannya wajib memperoleh persetujuan dari pemilik data.
Oleh karena itu, penggunaan teknologi AI untuk meniru identitas seseorang tanpa
izin dapat dipandang sebagai pelanggaran terhadap hak privasi dan
penyalahgunaan data pribadi.
Permasalahan terbesar dalam
penyalahgunaan teknologi AI terletak pada aspek pembuktian digital. Video dan
audio hasil deepfake sering kali
sulit dibedakan dari rekaman asli tanpa pemeriksaan forensik digital. Kondisi
tersebut berpotensi menimbulkan fitnah digital, manipulasi alat bukti
elektronik, hingga kesalahan identifikasi dalam proses penegakan hukum. Dalam
situasi seperti ini, kemampuan forensik digital menjadi sangat penting untuk
memastikan keaslian suatu rekaman elektronik.
Perkembangan teknologi AI
menunjukkan bahwa hukum harus mampu menyesuaikan diri dengan perubahan zaman.
Regulasi mengenai deepfake,
autentikasi digital, serta penguatan sistem forensik siber menjadi penting agar
perkembangan teknologi tetap memberikan manfaat tanpa mengancam keamanan dan
kepastian hukum masyarakat digital.
Daftar Pustaka
Undang-Undang Dasar Negara
Republik Indonesia Tahun 1945.
Undang-Undang Nomor 1 Tahun
2023 tentang Kitab Undang-Undang Hukum Pidana.
Undang-Undang Nomor 1 Tahun
2024 tentang Perubahan Kedua atas Undang-Undang Informasi dan Transaksi
Elektronik.
Undang-Undang Nomor 27
Tahun 2022 tentang Pelindungan Data Pribadi.
Asosiasi Penyelenggara Jasa
Internet Indonesia (APJII), Survei Penetrasi Internet Indonesia Tahun 2024.
Robert Chesney dan Danielle
Citron, Deep Fakes: A Looming Challenge for Privacy, Democracy, and National
Security, California Law Review, 2019.
Baca Juga: Aset Digital, Objek Eksekusi Putusan Perdata dalam Sistem Hukum Perdata Indonesia
Todd Helmus, Artificial
Intelligence, Deepfakes, and
Disinformation: A Primer, RAND Corporation, 2022.
Felipe Romero-Moreno, Deepfake Detection in Generative AI: A Legal Framework Proposal to Protect Human Rights, Computer Law & Security Review, 2025.
Untuk Mendapatkan Berita Terbaru Dandapala Follow Channel WhatsApp : Info Badilum MA RI
