Komdigi Siapkan Aturan Label Konten AI, Deepfake Makin Sulit Dibedakan dari Asli

Wamenkomdigi Nezar Patria menyebut pemerintah tengah mengkaji aturan yang mewajibkan pengembang AI memberikan penanda autentisitas pada video dan produk media digital hasil kecerdasan artifisial. (Foto: Komdigi)

GEBRAK.ID,JAKARTA — Kementerian Komunikasi dan Digital (Komdigi) tengah menyiapkan aturan mengenai pelabelan konten yang dibuat atau dimanipulasi menggunakan kecerdasan artifisial (AI). Kebijakan ini disiapkan untuk membantu masyarakat membedakan konten sintetis dengan materi digital yang benar-benar berasal dari manusia atau kejadian nyata.

Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) Nezar Patria mengatakan pemerintah sedang mengkaji penyusunan peraturan menteri yang mengatur penanda autentisitas produk yang dihasilkan teknologi AI. Menurut Nezar, penanda tersebut penting karena perkembangan AI membuat video, gambar, maupun produk media digital semakin sulit dibedakan dari konten asli.

“Di Indonesia, Komdigi sedang mengkaji itu untuk membuat peraturan menteri agar setiap perusahaan-perusahaan pengembang AI itu bisa memberikan label tentang autentisitas dari keaslian produk video yang dibuat atau produk digital media yang dihasilkan,” kata Nezar, dikutip dari laman resmi Komdigi, Senin (19/10/2026).

Deepfake Jadi Ancaman Baru

Kemajuan AI generatif membuat manipulasi wajah, suara, gambar dan video dapat dilakukan dengan tingkat kemiripan yang semakin tinggi. Kondisi tersebut meningkatkan risiko deepfake, yakni konten yang dibuat atau dimanipulasi sehingga seseorang dapat menganggapnya sebagai kejadian nyata.

Komdigi sebelumnya menyoroti pentingnya provenance and authenticity atau jejak asal-usul dan keaslian konten untuk menghadapi persoalan tersebut. Nezar mengatakan masyarakat membutuhkan cara untuk memeriksa apakah sebuah konten benar-benar autentik. Menurut dia, pengembang AI dan platform digital juga memiliki peran dalam membantu mendeteksi serta memberikan konteks terhadap konten yang telah dimanipulasi.

Risikonya bukan hanya penyebaran informasi palsu. Konten deepfake yang tampak meyakinkan juga dapat dimanfaatkan untuk penipuan, penyamaran identitas, manipulasi informasi hingga menyesatkan masyarakat. Karena itu, sistem penanda diharapkan dapat menjadi salah satu lapisan perlindungan agar pengguna tidak langsung menganggap sebuah video, foto atau materi digital sebagai fakta hanya karena tampilannya terlihat meyakinkan.

Bukan Sekadar Tulisan “Dibuat AI”

Pelabelan konten AI tidak selalu harus berbentuk tulisan yang terlihat oleh pengguna. Dalam perkembangan tata kelola AI global, penanda juga dapat dibuat dalam bentuk metadata atau tanda yang dapat dibaca mesin, sehingga asal-usul konten bisa diperiksa oleh sistem.

Pendekatan semacam ini telah diterapkan dalam kerangka regulasi Uni Eropa. Melalui AI Act, Uni Eropa mulai memberlakukan kewajiban transparansi tertentu sejak 2 Agustus 2026. Penyedia AI generatif diwajibkan menerapkan penanda yang dapat dibaca mesin pada konten sintetis sehingga keberadaan konten yang dibuat atau dimanipulasi AI dapat dideteksi.

Untuk deepfake, pengguna juga harus memperoleh pemberitahuan yang jelas dan mudah dikenali. Aturan tersebut mencakup konten berupa gambar, audio maupun video yang dibuat atau dimanipulasi AI sehingga dapat secara keliru dianggap autentik.

Indonesia Mulai Membangun Tata Kelola AI

Rencana pelabelan konten AI merupakan bagian dari agenda pemerintah dalam membangun tata kelola kecerdasan artifisial di Indonesia. Komdigi sebelumnya menyatakan pendekatan regulasi AI tidak dapat dibuat secara reaktif karena teknologi berkembang sangat cepat.

Pemerintah ingin membangun tata kelola yang dapat mengikuti perkembangan teknologi sekaligus tetap memberikan perlindungan terhadap masyarakat. Pada Agustus 2026, Nezar juga menyampaikan bahwa pemerintah akan mendorong transparansi, termasuk pengungkapan model AI, pemberitahuan kepada pengguna serta pelabelan yang jelas terhadap konten yang dihasilkan AI.

Dengan demikian, aturan yang kini dikaji tidak hanya berkaitan dengan bagaimana masyarakat mengetahui sebuah konten dibuat menggunakan AI. Pemerintah juga perlu memastikan terdapat mekanisme yang memungkinkan asal-usul dan perubahan sebuah konten ditelusuri.

Tantangan Penerapan di Indonesia

Penerapan aturan pelabelan AI nantinya akan menghadapi sejumlah tantangan, terutama karena konten digital dapat dibuat, diedit dan disebarluaskan melalui berbagai platform. Konten yang dibuat menggunakan AI juga dapat mengalami perubahan setelah keluar dari sistem pembuatnya. Misalnya, video dapat dipotong, diberi filter, diunggah ulang atau dikombinasikan dengan materi lain.

Karena itu, efektivitas pelabelan tidak hanya bergantung pada keberadaan tulisan “AI-generated”, tetapi juga pada standar teknis, mekanisme autentikasi, kemampuan platform mendeteksi penanda, serta kesadaran pengguna.

Pengalaman Uni Eropa menunjukkan bahwa pelabelan visual dan penanda yang dapat dibaca mesin dapat digunakan secara bersamaan. Uni Eropa bahkan menyediakan ikon khusus untuk membantu masyarakat mengenali konten yang sepenuhnya dibuat AI maupun konten manusia yang telah dimodifikasi menggunakan AI.

Bagi Indonesia, kebijakan tersebut menjadi semakin relevan seiring meningkatnya penggunaan AI generatif untuk membuat foto, video, audio dan berbagai bentuk konten digital. Jika aturan tersebut nantinya diterapkan, masyarakat diharapkan memiliki petunjuk tambahan sebelum mempercayai atau menyebarkan sebuah konten, terutama konten yang menyangkut tokoh publik, peristiwa penting, informasi politik, kesehatan, keuangan maupun isu yang berpotensi menimbulkan kepanikan.

(Dinar K/ Komdigi)