Jakarta – Pemerintah Indonesia mengambil tindakan tegas dengan memblokir sementara akses terhadap Grok AI, chatbot berbasis kecerdasan buatan milik platform X (dulu Twitter), Sabtu (10/1/2026). Pemblokiran ini dilakukan setelah ditemukan penyalahgunaan teknologi AI tersebut untuk membuat konten pornografi palsu atau deepfake yang meresahkan masyarakat.
Kementerian Komunikasi dan Digital (Komdigi) mengambil tanggung jawab penuh atas pemutusan akses tersebut. Menteri Komunikasi dan Digital (Menkomdigi) Meutya Hafid dalam pernyataan resminya mengatakan, tindakan ini adalah upaya cepat pemerintah dalam melindungi warga negara, terutama perempuan dan anak-anak, dari dampak negatif penyalahgunaan AI. “Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, Pemerintah melalui Kementerian Komunikasi dan Digital melakukan pemutusan akses sementara terhadap aplikasi Grok,” ujarnya.
Pemerintah memandang serius praktik deepfake seksual nonkonsensual, bukan hanya sebagai masalah kesusilaan, tetapi juga sebagai pelanggaran hak asasi manusia. Manipulasi visual semacam ini dinilai dapat merusak martabat, mengancam keamanan di ruang digital, dan merampas kendali individu atas identitas visual mereka. Dampak psikologis bagi korban, kerusakan reputasi, hingga pelecehan publik menjadi pertimbangan utama pemerintah dalam mengambil tindakan cepat.
Selain pemblokiran, Komdigi juga telah memanggil pihak Platform X untuk memberikan klarifikasi terkait dampak negatif yang ditimbulkan oleh Grok. Langkah ini didasari oleh Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat. Pasal 9 aturan tersebut mewajibkan PSE untuk memastikan bahwa sistem elektroniknya tidak memuat, memfasilitasi, atau menyebarluaskan informasi dan dokumen elektronik yang dilarang.
Ancaman pidana juga menanti para pengguna yang terbukti membuat atau menyebarkan konten deepfake. Direktur Tindak Pidana Siber Bareskrim Polri, Brigjen Himawan Bayu Aji, menegaskan bahwa manipulasi data elektronik tanpa persetujuan pemilik merupakan tindakan kriminal. “Selama itu bisa diklarifikasi bahwa itu adalah manipulasi data elektronik, maka itu menjadi suatu hal yang dipidana,” tegasnya, Rabu (7/1/2026).
Sebelumnya, Grok AI menjadi sorotan publik karena kemampuannya dalam memproduksi konten pornografi secara instan. Sejumlah pengguna X dilaporkan menyalahgunakan AI ini dengan mengunggah foto wanita, termasuk figur publik dan anak-anak, disertai perintah spesifik seperti “pakaikan dia bikini” atau “lepaskan pakaiannya”.
