Jakarta – Pemerintah Indonesia memblokir sementara akses ke Grok, chatbot AI milik platform X (dulu Twitter), pada Sabtu (10/1/2026). Langkah ini diambil untuk melindungi masyarakat dari bahaya konten pornografi palsu atau deepfake.
Kementerian Komunikasi dan Digital (Komdigi) mengambil keputusan tersebut. Menteri Komunikasi dan Digital Meutya Hafid menegaskan, tindakan tegas ini adalah respons cepat untuk melindungi perempuan, anak, dan seluruh warga negara dari penyalahgunaan teknologi AI.
"Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, Pemerintah melalui Kementerian Komunikasi dan Digital melakukan pemutusan akses sementara terhadap aplikasi Grok," ujarnya dalam pernyataan resmi.
Pemerintah memandang deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, bukan sekadar masalah kesusilaan. Praktik manipulasi visual ini dinilai merusak martabat, keamanan di ruang digital, dan merampas kendali individu atas identitas visual.
Dampak psikologis bagi korban, kerusakan reputasi, hingga pelecehan publik menjadi alasan utama pemerintah bertindak cepat. Selain pemblokiran, Komdigi juga memanggil pihak Platform X untuk memberikan klarifikasi terkait dampak negatif Grok.
Tindakan ini didasari Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat. Pasal 9 aturan tersebut mewajibkan PSE memastikan sistem elektroniknya tidak memuat, memfasilitasi, atau menyebarluaskan informasi dan dokumen elektronik yang dilarang.
Ancaman pidana juga menanti pengguna yang membuat atau menyebarkan konten deepfake. Direktur Tindak Pidana Siber Bareskrim Polri, Brigjen Himawan Bayu Aji, menegaskan manipulasi data elektronik tanpa persetujuan pemilik adalah tindak kriminal.
"Selama itu bisa diklarifikasi bahwa itu adalah manipulasi data elektronik, maka itu menjadi suatu hal yang dipidana," tegasnya, Rabu (7/1/2026).
Sebelumnya, Grok AI menjadi sorotan karena kemampuannya memproduksi konten pornografi instan. Sejumlah pengguna X menyalahgunakan AI ini dengan mengunggah foto wanita, termasuk figur publik dan anak-anak, disertai perintah spesifik seperti "pakaikan dia bikini" atau "lepaskan pakaiannya".
