JAKARTA, DigiTVNews.com -- Konten palsu buatan kecerdasan artifisial (AI) kian sulit dibedakan dari aslinya, dan pemerintah mulai menyiapkan pendekatan yang lebih tegas. Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) Nezar Patria mendorong penerapan jejak keaslian atau provenance and authenticity agar manipulasi konten dapat dikenali. Hal itu disampaikannya dalam GRACS 2026 Digital Trust in Motion di Jakarta, Rabu (14/10/2026).
Menurut Nezar, pemerintah sedang memikirkan agar tanggung jawab deteksi deepfake dibebankan lebih dulu kepada platform penyedia konten dan para pengembang AI. Ia menilai kualitas deepfake terus meningkat, sehingga dibutuhkan mekanisme untuk menelusuri keaslian konten yang dihasilkan maupun yang dimanipulasi menggunakan AI. Karena itu, katanya, harus ada “jejak otentisitas dari satu konten yang dihasilkan.”
Mekanisme tersebut bekerja dengan menelusuri asal-usul dan riwayat perubahan konten digital. Dengan pendekatan ini, jejak konten diharapkan tetap bisa diperiksa meski sebuah foto kemudian dimodifikasi menggunakan AI. Masyarakat pun lebih mudah membedakan konten asli dari hasil rekayasa.
Urgensinya terkait modus penipuan yang kian beragam. Pendeteksian dan penelusuran keaslian konten dinilai perlu untuk mencegah penipuan yang mencatut wajah dan suara pejabat publik. Kemampuan AI meniru wajah dan suara, menurut Nezar, membuat orang semakin sulit memastikan mana informasi yang benar.
Selain pendekatan teknis, ia menyinggung sisi regulasi. Nezar menilai perkembangan deepfake perlu direspons dengan langkah konkret, termasuk penyempurnaan aturan agar menjangkau berbagai bentuk konten sintetis hasil AI. Ia juga menyoroti pentingnya tata kelola dan manajemen risiko di setiap organisasi untuk menghadapi perkembangan teknologi AI.
Di sisi masyarakat, Nezar menekankan peningkatan literasi. Kecakapan digital perlu diperkuat agar warga mampu mengenali konten hasil manipulasi AI dan mengambil langkah tepat saat menemukan indikasi kejahatan siber. Ia juga menekankan pentingnya keberanian masyarakat melaporkan dugaan kejahatan siber.
Desakan agar platform ikut bertanggung jawab bukan hal baru. Pada September 2025, Nezar meminta platform digital global menghadirkan fitur pengecekan konten buatan AI yang sebaiknya dapat digunakan publik secara gratis, sambil mengutip data Sensity AI tentang kenaikan konten deepfake sebesar 550 persen dalam lima tahun. Sebulan sebelum forum terbaru, ia juga mengingatkan bahwa AI membuat produksi misinformasi dan disinformasi semakin masif, termasuk lewat deepfake yang sulit dibedakan dari kenyataan.
Hingga kini, pembebanan tanggung jawab deteksi kepada platform dan pengembang AI masih berupa gagasan yang sedang dikaji. Belum ada rincian aturan, sanksi, maupun jadwal penerapan yang diumumkan dalam keterangan yang dipublikasikan. Meski begitu, arah kebijakannya jelas, yakni menggabungkan kewajiban di sisi penyedia teknologi, penyempurnaan regulasi, dan penguatan kewaspadaan publik untuk membendung penipuan deepfake.
Belum ada komentar yang ditayangkan.