“Setiap PSE wajib memastikan bahwa teknologi yang mereka sediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat seseorang,” tegasnya.
Kemkomdigi juga mengingatkan bahwa seluruh PSE yang beroperasi di Indonesia terikat kewajiban mematuhi regulasi nasional. Apabila ditemukan ketidakpatuhan atau sikap tidak kooperatif, pemerintah memiliki kewenangan menjatuhkan sanksi administratif hingga pemutusan akses layanan, termasuk terhadap Grok AI dan platform X.
Penegasan ini sejalan dengan kerangka hukum yang berlaku. Kemkomdigi menekankan bahwa baik penyedia layanan kecerdasan buatan maupun pengguna yang terbukti memproduksi dan/atau menyebarkan konten pornografi atau manipulasi citra pribadi tanpa hak dapat dikenai sanksi administratif dan/atau pidana.
Sejak berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) pada 2 Januari 2026, pengaturan terkait pornografi semakin diperjelas. Pasal 172 mendefinisikan pornografi sebagai media yang memuat kecabulan atau eksploitasi seksual yang melanggar norma kesusilaan. Sementara Pasal 407 mengatur ancaman pidana penjara paling singkat enam bulan dan paling lama sepuluh tahun, atau pidana denda sesuai ketentuan peraturan perundang-undangan.
Alexander menambahkan, masyarakat yang menjadi korban manipulasi foto, deepfake asusila, maupun pelanggaran hak citra diri memiliki jalur hukum yang dapat ditempuh, baik melalui pelaporan kepada aparat penegak hukum maupun pengaduan langsung ke Kemkomdigi.
“Kami mengimbau seluruh pihak untuk menggunakan teknologi akal imitasi secara bertanggung jawab. Ruang digital bukan ruang tanpa hukum, ada privasi dan hak atas citra diri setiap warga yang harus dihormati dan dilindungi,” ujar Alexander.
Kasus ini menjadi pengingat bahwa percepatan adopsi kecerdasan buatan harus diimbangi dengan tata kelola yang ketat, perlindungan hak asasi digital, serta tanggung jawab bersama antara penyedia platform, pengguna, dan negara demi menjaga ruang digital yang aman dan bermartabat.
