JNEWS – Bagai pisau bermata dua. Satu sisi perkembangan dan kecanggihan AI bisa bermanfaat bagi banyak hal, namun sisi lain juga bisa menjadi celah bagi terjadinya tindak kejahatan digital yang semakin canggih pula.
Seperti, misalnya dengan kecerdasan artifisial (AI) maka mampu meniru wajah dan suara seseorang dengan semakin meyakinkan yang rentan disalah gunakan untuk tindak penipuan dan kejahatan siber lainnya.
Untuk itu, Wakil Menteri Komunikasi dan Digital (Wamen Komdigi) Nezar Patria menyoroti pentingnya jejak keaslian atau provenance and authenticity agar manipulasi konten dapat dikenali, sekaligus menilai perlunya peran platform digital dan pengembang AI dalam mendeteksi deepfake.
“Saat ini diperlukan perhatian serius terhadap ancaman deepfake karena konten palsu yang tampak meyakinkan berpotensi menyesatkan berbagai kelompok masyarakat, termasuk mereka yang rentan terhadap penipuan berbasis teknologi AI. Video-video palsu yang dibuat dengan teknologi deepfake AI itu berhasil menipu banyak sekali masyarakat kita, terutama mereka yang cukup rentan, mereka yang di usia lanjut dan anak-anak. Bahkan mereka yang terpelajar juga banyak menjadi korban,” ungkap Wamen Nezar dalam acara IT Governance, Risk Management, Assurance, and Cybersecurity Summit 2026 di Jakarta Selatan, baru-baru ini.
Ia mengambil contoh dari beberapa insiden tahun lalu yang mencatut sejumlah nama gubernur dalam video deepfake untuk menipu masyarakat agar mendepositokan uang mereka ke rekening tertentu.
“Tidak tanggung-tanggung, pembuatan video deepfake misalnya, itu mencatut nama-nama orang yang cukup terkenal, bahkan presiden sekalipun dicatut. Sejumlah gubernur, tahun lalu, menjadi korban karena digunakan dalam video-video yang beredar untuk menganjurkan masyarakat mendepositokan uang yang mengakibatkan kerugian,” imbuh Wamen Nezar.
Baca juga: Artificial Intelligence: Pengertian, Manfaat, dan Tips Penerapannya
Maka dari itu, ia menekankan agar tanggung jawab pendeteksian deepfake harus dibebankan kepada para pengembang AI serta platform-platform penyedia konten tersebut. “Tanggung jawab untuk pendeteksian deepfake harus pertama-tama dibebankan kepada platform yang menyediakan konten-konten seperti ini dan para pengembang AI. Jadi, harus ada yang namanya jejak otentisitas dari satu konten yang dihasilkan,” tegasnya.
Pendekatan provenance and authenticity atau jejak keaslian dinilai penting untuk diterapkan agar hasil manipulasi menggunakan AI dapat diidentifikasi sehingga masyarakat dapat membedakan konten asli dan konten yang telah dimanipulasi.
Selain penguatan teknologi untuk menelusuri keaslian konten, Wamen Nezar menekankan pentingnya meningkatkan kecakapan digital masyarakat agar mampu mengenali konten hasil manipulasi AI dan mengambil langkah yang tepat ketika menemukan indikasi kejahatan siber seperti melapor ke pihak berwajib. *