Langkah pemutusan akses ini dilakukan berdasarkan kewenangan Kemkomdigi sebagaimana diatur dalam Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat. Khususnya Pasal 9, yang mewajibkan setiap Penyelenggara Sistem Elektronik (PSE) memastikan sistem yang dikelolanya tidak memuat, memfasilitasi, maupun menyebarkan informasi atau dokumen elektronik yang dilarang.
Kemkomdigi menegaskan bahwa setiap platform digital yang beroperasi di Indonesia memiliki tanggung jawab hukum dan etis untuk melindungi pengguna dari potensi penyalahgunaan teknologi.
Sebelumnya, Kemkomdigi telah melakukan penelusuran awal terkait dugaan penyalahgunaan fitur Grok AI. Hasil sementara menunjukkan adanya celah pengaturan yang memungkinkan teknologi tersebut digunakan untuk memanipulasi foto pribadi menjadi konten asusila tanpa persetujuan pemilik gambar.
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, mengungkapkan bahwa sistem pengamanan Grok AI dinilai belum memiliki pembatasan yang cukup kuat untuk mencegah praktik tersebut, khususnya yang melibatkan foto warga Indonesia.
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” ujar Alexander di Jakarta, Rabu (7/1/2026).
Kemkomdigi menekankan bahwa manipulasi digital terhadap foto pribadi bukan sekadar pelanggaran kesusilaan. Lebih jauh, tindakan tersebut merupakan bentuk perampasan kendali individu atas identitas visualnya sendiri.
Praktik semacam ini berpotensi menimbulkan dampak psikologis mendalam bagi korban, termasuk trauma, tekanan sosial, hingga kerusakan reputasi yang bersifat jangka panjang. Oleh karena itu, negara dipandang perlu hadir secara tegas untuk mencegah ruang digital menjadi arena kekerasan berbasis teknologi.
