Jakarta, Sinata.di – Pemerintah meningkatkan pengawasan terhadap dugaan penyalahgunaan teknologi kecerdasan buatan Grok AI di platform X, yang diduga dimanfaatkan untuk membuat dan menyebarkan konten bermuatan asusila melalui manipulasi foto pribadi tanpa persetujuan pemiliknya. Langkah ini ditempuh untuk melindungi privasi serta hak atas citra diri masyarakat di ruang digital.
Kementerian Komunikasi dan Digital menyatakan hasil penelusuran awal menemukan belum adanya pengaturan teknis yang tegas dan memadai pada Grok AI guna mencegah pembuatan maupun peredaran konten pornografi berbasis foto asli warga Indonesia.
Kondisi tersebut dinilai membuka celah terjadinya pelanggaran privasi dan penyalahgunaan identitas visual seseorang.
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, mengatakan celah pengamanan ini berpotensi memicu pelanggaran serius, terutama ketika foto pribadi dimodifikasi atau disebarluaskan tanpa persetujuan sah pemiliknya.
“Dari temuan sementara, belum ada pengaturan khusus yang efektif untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan distribusi konten pornografi berbasis foto pribadi,” ujar Alexander di Jakarta, Rabu (7/1/2026).
Kemkomdigi menilai praktik manipulasi digital terhadap foto personal tidak hanya menyentuh aspek kesusilaan, tetapi juga merupakan bentuk pengambilalihan kendali individu atas identitas visualnya.
Dampaknya dapat meluas, mulai dari tekanan psikologis, stigma sosial, hingga kerusakan reputasi korban.
Untuk menutup celah tersebut, Kemkomdigi saat ini memperkuat koordinasi dengan para Penyelenggara Sistem Elektronik (PSE). Upaya yang dilakukan meliputi penguatan moderasi konten, pencegahan pembuatan deepfake bermuatan seksual, serta penerapan mekanisme penanganan cepat atas laporan pelanggaran privasi dan hak citra diri.
Alexander menegaskan, setiap PSE bertanggung jawab memastikan teknologi yang mereka sediakan tidak disalahgunakan sebagai sarana pelanggaran privasi, eksploitasi seksual, atau perusakan martabat seseorang.
Pemerintah juga mengingatkan bahwa seluruh PSE yang beroperasi di Indonesia wajib mematuhi peraturan perundang-undangan nasional. Ketidakpatuhan atau sikap tidak kooperatif dapat berujung pada sanksi administratif hingga pembatasan atau pemutusan akses layanan Grok AI maupun platform X.
Selain sanksi administratif, Kemkomdigi menegaskan bahwa penyedia layanan kecerdasan buatan maupun pengguna yang terbukti memproduksi atau menyebarkan konten pornografi serta manipulasi citra pribadi tanpa hak dapat dijerat sanksi pidana sesuai ketentuan hukum yang berlaku.
Ketentuan tersebut telah diatur dalam Kitab Undang-Undang Hukum Pidana yang mulai berlaku pada 2 Januari 2026, khususnya Pasal 172 dan Pasal 407 dengan ancaman pidana penjara minimal enam bulan hingga maksimal 10 tahun atau denda.
Sejalan dengan itu, aparat penegak hukum turut menyoroti fenomena manipulasi foto menjadi konten vulgar berbasis kecerdasan buatan. Bareskrim Polri menyatakan bahwa praktik tersebut dapat diproses secara pidana apabila dilakukan tanpa izin pemilik foto.
Direktur Tindak Pidana Siber Bareskrim Polri, Himawan Bayu Aji, menjelaskan bahwa pengeditan foto dengan teknologi AI termasuk kategori tindak pidana deepfake. Fenomena tersebut, menurutnya, telah masuk dalam pengawasan kepolisian.
“Perkembangan teknologi sekarang mengarah pada artificial intelligence, termasuk deepfake yang menggunakan AI. Itu yang sedang kami dalami,” kata Himawan di Jakarta Selatan, Rabu (7/1/2026).
Ia menambahkan, selama dapat dibuktikan terjadi manipulasi data elektronik tanpa persetujuan pemiliknya, perbuatan tersebut dapat dikenai sanksi pidana.
Ketentuan ini berlaku tidak hanya untuk penggunaan Grok AI, tetapi juga aplikasi lain yang dimanfaatkan untuk memanipulasi foto bermuatan asusila.
“Jika dapat diklarifikasi sebagai manipulasi data elektronik, maka itu menjadi perbuatan yang dapat dipidana,” tegasnya.
Pemerintah dan kepolisian mengimbau masyarakat untuk menggunakan teknologi kecerdasan buatan secara bertanggung jawab serta segera melapor apabila menjadi korban pelanggaran privasi atau manipulasi citra pribadi di ruang digital. (*)
Jadilah yang pertama berkomentar di sini