JAKARTA, MyInfo.ID – Kementerian Komunikasi dan Digital (Kemkomdigi) mengambil langkah serius menyusul munculnya dugaan penyalahgunaan fitur kecerdasan buatan Grok AI pada platform X. Teknologi tersebut diduga dimanfaatkan untuk memproduksi dan menyebarluaskan konten asusila, termasuk manipulasi foto pribadi yang bersifat sensitif tanpa persetujuan pemiliknya.
Temuan ini menempatkan isu kecerdasan buatan bukan lagi sekadar persoalan inovasi teknologi, melainkan menyentuh langsung aspek hak privasi, perlindungan identitas visual, dan keamanan digital warga negara.
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, mengungkapkan bahwa penelusuran awal menunjukkan belum adanya pengaturan yang tegas dan memadai pada Grok AI untuk mencegah produksi maupun distribusi konten pornografi berbasis foto nyata, khususnya yang melibatkan warga Indonesia.
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” ujar Alexander di Jakarta, Rabu (07/01/2026).
Kemkomdigi menilai praktik manipulasi digital terhadap foto pribadi tidak bisa dipandang semata sebagai pelanggaran kesusilaan. Lebih dari itu, tindakan tersebut merupakan bentuk perampasan kendali individu atas identitas visualnya, yang berpotensi menimbulkan dampak psikologis, sosial, hingga kerusakan reputasi jangka panjang bagi korban.
Merespons temuan tersebut, Kemkomdigi saat ini intensif berkoordinasi dengan para Penyelenggara Sistem Elektronik (PSE) guna memastikan tersedianya sistem perlindungan yang efektif. Langkah yang didorong mencakup penguatan moderasi konten, pencegahan produksi deepfake asusila, serta mekanisme penanganan cepat atas laporan pelanggaran privasi dan hak citra diri.
