PosKaltim.id Informatif dan Mencerdaskan
Perkembangan teknologi Artificial Intelligence (AI) yang pesat telah melahirkan teknologi deepfake , yaitu kemampuan AI untuk mengubah gambar, suara, dan video secara sangat realistis hingga sulit dibedakan dari yang asli.
Di Indonesia, penyebaran konten deepfake telah menimbulkan berbagai masalah hukum dan sosial yang serius karena dapat merusak reputasi, privasi, serta nama baik seseorang. Selain aspek hukum, deepfake juga menimbulkan dampak psikologis yang signifikan bagi korban.
Banyak korban mengalami tekanan sosial, stigma negatif, serta gangguan mental seperti kecemasan dan depresi akibat identitas digital mereka dimanipulasi dan disebarkan tanpa izin.
Kondisi ini diperparah oleh lemahnya pengawasan terhadap penggunaan teknologi AI serta keterbatasan kemampuan aparat hukum dalam mendeteksi dan menindak pelaku kejahatan digital.
Kasus penangkapan pelaku deepfake yang memalsukan wajah Presiden Prabowo Subianto, Wakil Presiden Gibran Rakabuming Raka, dan Menteri Keuangan Sri Mulyani menjadi bukti nyata teknologi AI telah disalahgunakan untuk tujuan kriminal, khususnya penipuan. Video deepfake tersebut digunakan untuk menipu masyarakat dengan mengaku sebagai pejabat negara yang menawarkan bantuan pemerintah palsu dan meminta transfer uang. Fenomena ini menunjukkan bahwa kemajuan teknologi dapat dimanfaatkan secara negatif ketika tidak diimbangi oleh regulasi yang jelas dan kesadaran masyarakat digital yang rendah.
Hingga kini, Indonesia belum memiliki aturan khusus yang mengatur pembuatan dan penyebaran deepfake sehingga penanganan kasus semacam ini masih bergantung pada pasal-pasal umum dari UU ITE dan KUHP. Hal ini membuktikan bahwa konseptualisasi deepfake telah berkembang dari sekedar potensi ancaman menjadi permasalahan hukum dan sosial yang nyata di era digital saat ini.
Tantangan utama dalam proses penegakan hukum meliputi kesulitan membuktikan niat sengaja pelaku, koordinasi antar negara karena server dan pembuat konten sering kali berada di luar wilayah Indonesia, serta keterbatasan kemampuan teknologi forensik digital yang dimiliki oleh instansi penegak hukum.
Selain itu, penyebaran konten deepfake bisa merusak reputasi seseorang, melanggar privasi, dan memicu kekacauan sosial karena masyarakat kini semakin bergantung pada informasi digital dan lembaga sosial. Rendahnya kesadaran masyarakat terhadap bahaya deepfake juga memperparah situasi, karena banyak orang belum bisa membedakan antara konten asli dan yang dimanipulasi, sehingga rentan menjadi korban penyebaran informasi palsu.
Oleh karena itu, masalah deepfake membutuhkan kebijakan yang menyeluruh, Untuk mengatasi masalah deepfake, diperlukan kebijakan terpadu yang mencakup empat langkah utama. Pertama, pemerintah perlu segera menetapkan peraturan khusus yang mengatur pembuatan, penyebaran, dan penggunaan deepfake, lengkap dengan definisi dan sanksi yang jelas agar penegakan hukumnya memiliki dasar yang kuat.
Kedua, peningkatan kapasitas aparat penegak hukum menjadi penting melalui penggunaan teknologi deteksi canggih dan pelatihan tentang kejahatan berbasis AI. Ketiga, literasi masyarakat digital harus diperkuat agar masyarakat lebih kritis dalam mengenali dan menyikapi konten palsu.
Terakhir, platform digital perlu diwajibkan memiliki sistem deteksi dan penghapusan konten deepfake untuk menciptakan ruang digital yang aman dan etis.(Ditulis oleh Nisrina Hana Zharifah, Mahasiswa Program Studi Administrasi Publik Universitas Mulawarman)
