Jakarta, Sinata.id — Kementerian Komunikasi dan Digital (Komdigi) menetapkan kebijakan penghentian sementara layanan aplikasi Grok di Indonesia. Keputusan ini diambil sebagai langkah preventif untuk melindungi masyarakat, khususnya perempuan dan anak, dari potensi penyalahgunaan kecerdasan buatan (AI) yang dapat dimanfaatkan untuk memproduksi konten pornografi palsu.
Pemerintah menilai maraknya peredaran konten seksual berbasis deepfake tanpa persetujuan sebagai ancaman serius di ruang digital. Fenomena tersebut dipandang bukan hanya melanggar hak asasi manusia, tetapi juga merusak martabat korban dan menimbulkan rasa tidak aman di tengah publik.
Menteri Komunikasi dan Digital, Meutya Hafid, menyampaikan bahwa Komdigi telah meminta pihak platform X untuk segera memberikan penjelasan resmi terkait dampak negatif penggunaan Grok. “Kami meminta platform X hadir dan memberikan klarifikasi atas berbagai persoalan yang muncul dari pemanfaatan Grok,” ujar Meutya, Sabtu (10/1/2026).
Ia menegaskan, penghentian sementara akses Grok didasarkan pada landasan hukum yang jelas. Komdigi merujuk pada Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat, khususnya Pasal 9, yang mewajibkan setiap penyelenggara memastikan layanannya tidak memuat maupun memfasilitasi penyebaran konten terlarang.
Sebelum kebijakan diberlakukan, Komdigi melakukan penelusuran atas dugaan pemanfaatan Grok AI di platform X untuk memproduksi dan menyebarluaskan konten asusila, termasuk manipulasi foto pribadi tanpa izin pemilik.
Direktur Jenderal Pengawasan Ruang Digital Komdigi, Alexander Sabar, mengungkapkan bahwa hasil pemeriksaan awal menunjukkan Grok AI belum memiliki sistem pengamanan yang memadai untuk mencegah pembuatan serta distribusi konten pornografi berbasis foto nyata warga Indonesia. Kondisi ini dinilai berpotensi melanggar hak privasi dan hak atas citra diri.
“Temuan awal kami menunjukkan belum ada pengaturan khusus yang efektif dalam Grok AI untuk mencegah penyalahgunaan foto pribadi menjadi konten pornografi,” kata Alexander dalam keterangan resmi, Rabu (7/1/2026). Ia menambahkan, celah tersebut berisiko memicu pelanggaran serius terhadap privasi masyarakat.
Komdigi menekankan bahwa manipulasi digital atas foto pribadi tidak dapat dilihat sekadar sebagai persoalan etika. Praktik tersebut dinilai sebagai perampasan kendali atas identitas visual seseorang, dengan dampak berlapis mulai dari tekanan psikologis, masalah sosial, hingga kerusakan reputasi korban.
Di tengah sorotan publik, pihak Grok pada Jumat (9/1/2026) dilaporkan mulai membatasi fitur pembuatan gambar bagi sebagian besar pengguna. Kebijakan ini, sebagaimana diberitakan The Guardian, diambil menyusul meningkatnya protes atas penggunaan fitur tersebut untuk menghasilkan konten seksual eksplisit dan kekerasan. (A18)
Jadilah yang pertama berkomentar di sini