Penipuan AI dan Deepfake Kian Marak, Komdigi: Kerugian Capai Rp9 T

Harianjogja.com, JAKARTA—Penyalahgunaan kecerdasan buatan atau artificial intelligence (AI) untuk penipuan digital dan pembuatan konten deepfake menjadi ancaman yang semakin serius di Indonesia. Kementerian Komunikasi dan Digital (Komdigi) mencatat teknologi AI kini kerap dimanfaatkan pelaku kejahatan siber untuk menjalankan berbagai modus penipuan yang sulit dikenali masyarakat.

Wakil Menteri Komunikasi dan Digital, Nezar Patria, mengungkapkan kerugian akibat berbagai bentuk penipuan digital yang memanfaatkan teknologi AI pada tahun ini diperkirakan mencapai sekitar Rp9 triliun. Salah satu modus yang paling banyak digunakan adalah pemanfaatan teknologi deepfake yang mampu meniru wajah, suara, maupun video seseorang secara sangat meyakinkan.

Nezar menjelaskan perkembangan AI saat ini berlangsung sangat cepat. Teknologi tersebut bahkan telah berkembang dari generative AI menuju agentic AI dan diperkirakan akan memasuki fase berikutnya berupa physical AI hingga quantum AI dalam beberapa tahun ke depan.

Menurutnya, kemajuan AI memang membuka banyak peluang bagi berbagai sektor. Namun, di sisi lain, perkembangan teknologi tersebut juga menghadirkan tantangan baru yang berkaitan dengan keamanan digital dan aspek etika.

“Kita juga melihat bagaimana AI digunakan oleh pelaku kejahatan siber untuk berbagai bentuk penipuan atau scam. Kerugian yang dicatat oleh OJK pada tahun ini sekitar Rp9 triliun, dan banyak di antaranya yang menggunakan deepfake,” ujarnya dalam Indonesia Ethical AI Summit, Rabu (17/6/2026).

Deepfake AI Ciptakan Realitas Sintetis yang Sulit Dibedakan

Nezar menilai teknologi deepfake menjadi salah satu bentuk penyalahgunaan AI yang paling mengkhawatirkan saat ini. Melalui teknologi tersebut, pelaku dapat memanipulasi suara, foto, hingga video seseorang sehingga tampak asli dan sulit dibedakan dari kondisi nyata.

Kemampuan AI dalam menciptakan konten sintetis yang menyerupai realitas tersebut melahirkan fenomena baru yang dikenal sebagai synthetic reality atau realitas sintetis. Fenomena ini membuat batas antara konten asli dan hasil rekayasa digital menjadi semakin kabur.

“Sekarang suara kita bisa ditiru, gambar wajah kita juga bisa dihidupkan, dan dikonfigurasi dalam bentuk deepfake video yang dihasilkan oleh AI dengan kualitas yang sangat mulus yang disebut synthetic reality,” katanya.

Menurut Nezar, masyarakat yang belum memahami perkembangan AI secara memadai menjadi kelompok yang paling rentan menjadi korban. Pelaku kejahatan siber dapat memanfaatkan teknologi tersebut untuk membangun skenario penipuan yang jauh lebih meyakinkan dibandingkan metode konvensional.

Komdigi Dorong Penerapan Etika AI Sejak Tahap Pengembangan

Untuk menekan risiko penyalahgunaan AI, Komdigi menekankan pentingnya penerapan prinsip etika dalam pengembangan dan penggunaan teknologi kecerdasan buatan.

Nezar menjelaskan bahwa aspek transparansi, akuntabilitas, dan keamanan harus menjadi bagian yang melekat sejak awal proses pengembangan teknologi atau dikenal dengan konsep ethics by design.

“Jadi apa yang kita sebut sebagai transparency, accountability, safety, itu harus ada di dalam implementasi, di dalam pengembangan suatu produk AI,” ujarnya.

Ia menegaskan pembahasan mengenai etika AI tidak boleh berhenti pada tataran konsep semata. Pengembang teknologi, regulator, hingga pengguna harus memastikan prinsip-prinsip tersebut diterapkan secara nyata agar risiko penipuan AI, penyalahgunaan deepfake, dan berbagai bentuk kejahatan digital lainnya dapat diminimalkan.

Seiring perkembangan AI yang diperkirakan akan terus bergerak menuju era physical AI dan quantum AI, penguatan literasi digital serta penerapan etika AI menjadi langkah penting untuk melindungi masyarakat dari ancaman penipuan berbasis teknologi yang semakin canggih dan sulit terdeteksi.

Cek Berita dan Artikel yang lain di Harian Jogja, dan edisi cetak versi elektronik kami hadir di Epaper Harian Jogja.