Marak Konten Palsu, Wamen Komdigi Ingatkan Ancaman Penipuan Digital: AI Deepfake Mengancam Keamanan Siber

Teknozip – 25 Juni 2026 | Marak Konten Palsu, Wamen Komdigi Ingatkan Ancaman Penipuan Digital dalam sambutan di Indonesia Ethical AI Summit, menegaskan bahwa kecanggihan AI kini dapat menghasilkan suara, wajah, hingga video deepfake yang sangat meyakinkan, menimbulkan risiko penipuan digital yang meluas.

Latar Belakang Perkembangan AI

Pada Rabu (17/6), Wakil Menteri Komunikasi dan Digital, Nezar Patria, menyoroti evolusi cepat teknologi AI. Ia menyatakan bahwa AI telah melewati fase generative AI dan kini memasuki era agentic AI serta teknologi baru yang menjanjikan manfaat besar bagi sektor industri, kesehatan, dan pendidikan. Namun, bersamaan dengan peluang tersebut, muncul pula ancaman baru yang belum sepenuhnya dipahami.

Risiko Konten Palsu dalam Penipuan Digital

Menurut Nezar, manipulasi berbasis AI kini telah menembus apa yang disebutnya “synthetic reality” – realitas sintetik yang membuat masyarakat sulit membedakan antara konten asli dan hasil rekayasa. Suara yang dapat ditiru, wajah yang disintesis, hingga video deepfake yang mulus menjadi senjata utama pelaku kejahatan siber untuk melakukan scam. “Marak Konten Palsu, Wamen Komdigi Ingatkan Ancaman Penipuan Digital” menjadi peringatan penting bahwa penipuan kini tidak hanya mengandalkan teks, melainkan juga media visual yang tampak kredibel.

Contoh Kasus dan Dampaknya

• Penipuan investasi dengan video CEO perusahaan yang ternyata dipalsukan.
• Skema phishing yang menyertakan audio rekaman panggilan resmi pemerintah.
• Penyebaran berita palsu yang memicu kepanikan pasar saham.

Upaya Pemerintah dan Rekomendasi Etika AI

Nezar menekankan pentingnya penerapan prinsip human in the loop (HITL) dalam pengembangan agentic AI. Dengan menempatkan manusia pada tahap pelatihan, pengawasan, dan validasi, risiko keputusan otomatis yang merugikan dapat diminimalisir. Ia juga mengingatkan bahwa etika AI tidak lagi dapat bersifat sukarela; perlu dibangun protokol ketat, transparansi, akuntabilitas, dan keamanan melalui pendekatan ethics by design.

Pemerintah mengajak pengembang, industri, akademisi, dan komunitas pengguna AI untuk memperkuat tata kelola serta mitigasi risiko sejak tahap perencanaan. Forum Indonesia Ethical AI Summit dijadikan momentum untuk merumuskan kebijakan AI yang etis, sehingga ekosistem AI Indonesia dapat berkembang inovatif sekaligus bertanggung jawab.

Langkah Konkret yang Direkomendasikan

1. Implementasi HITL pada semua sistem AI kritis, khususnya yang menghasilkan konten multimedia.
2. Pengembangan standar verifikasi digital, seperti watermark pada video dan audio sintetis.
3. Peningkatan literasi digital masyarakat melalui kampanye edukasi tentang deepfake.
4. Penegakan regulasi yang mengatur penyalahgunaan AI dalam penipuan digital.

Dengan langkah-langkah tersebut, diharapkan fenomena Marak Konten Palsu, Wamen Komdigi Ingatkan Ancaman Penipuan Digital dapat ditangani secara proaktif, melindungi konsumen, serta menjaga kepercayaan publik terhadap teknologi AI.

Kesadaran bersama antara pemerintah, pelaku industri, dan masyarakat menjadi kunci untuk menahan gelombang konten palsu yang semakin canggih. Hanya dengan kolaborasi lintas sektor, Indonesia dapat memanfaatkan potensi AI secara maksimal tanpa mengorbankan keamanan dan etika.