Pematangsiantar, Sinata.id — Media sosial yang selama ini menjadi ruang berekspresi, berbagi cerita, hingga membangun personal branding, kini justru menimbulkan rasa waswas.
Di platform X, pengguna mulai berpikir dua kali sebelum mengunggah foto, bahkan sekadar swafoto paling sederhana.
Kekhawatiran ini muncul seiring maraknya penyalahgunaan teknologi kecerdasan buatan (AI) untuk memanipulasi foto pengguna menjadi gambar tidak pantas tanpa persetujuan. Fenomena tersebut ramai diperbincangkan setelah muncul gelombang kasus yang melibatkan Grok AI, chatbot berbasis AI milik perusahaan xAI yang terintegrasi langsung dengan platform X.
Meski gambar yang dihasilkan bukan foto asli korban, praktik ini dinilai tetap berbahaya karena menyentuh ranah pelecehan siber, pelanggaran privasi, dan penyalahgunaan identitas digital.
Baca juga:Cashzine Diklaim Bisa Hasilkan Uang Hanya dengan Membaca Konten, Begini Cara Kerjanya…
Selfie Biasa Jadi Target Manipulasi AI
Modus penyalahgunaan Grok terbilang sederhana namun meresahkan. Pelaku cukup mengambil foto dari akun publik atau unggahan pengguna, lalu membalasnya dengan perintah (prompt) tertentu. Dalam hitungan detik, Grok dapat menghasilkan gambar baru yang memanipulasi visual korban, mulai dari sekadar lelucon hingga konten bernuansa seksual atau asusila.
Hasil gambar buatan AI tersebut langsung muncul di kolom komentar dan dapat dilihat, disukai, dikomentari, bahkan dibagikan ulang. Meski berlabel “AI-generated”, visual tersebut tetap mengaitkan identitas seseorang dengan konten tidak pantas tanpa izin.
Pelecehan Siber Berkedok Teknologi
Praktik ini banyak dikategorikan sebagai pelecehan berbasis gambar (image-based abuse). Dampaknya tidak hanya psikologis, tetapi juga sosial dan reputasi digital korban. Wajah, tubuh, hingga persona daring seseorang dijadikan bahan candaan atau fantasi seksual pihak lain.
Kelompok paling rentan terdampak adalah perempuan dan anak-anak, seiring tingginya objektifikasi tubuh di ruang digital. Dalam konteks ini, AI berubah menjadi alat yang berbahaya ketika tidak dibarengi sistem pengamanan dan etika yang kuat.
Hingga kini, perlindungan terhadap pengguna dinilai masih minim. Sistem pengaman (guardrails) dan pembatasan perintah AI disebut belum efektif mencegah penyalahgunaan. AI yang seharusnya meningkatkan produktivitas justru dibiarkan beroperasi di area abu-abu, tanpa mekanisme perlindungan yang jelas bagi korban.
Baca juga:Anggota DPR RI Soroti Maraknya Konten Tidak Etis di Medsos
Regulator Mulai Bergerak
Kasus ini menarik perhatian regulator di berbagai negara, termasuk Inggris, Australia, Prancis, India, Malaysia, hingga Indonesia. Otoritas setempat mulai menyelidiki dugaan pelanggaran terkait manipulasi foto non-konsensual dan konten asusila berbasis AI.
Di Indonesia, Kementerian Komunikasi dan Digital (Kemkomdigi) menyatakan tengah mendalami kasus tersebut dan membuka kemungkinan sanksi administratif hingga pembatasan akses platform jika tidak kooperatif. Aparat penegak hukum juga menilai manipulasi foto berbasis AI dapat masuk ranah pidana jika memenuhi unsur pelanggaran hukum.
Namun hingga kini, penanganan masih berada pada tahap penyelidikan dan tekanan regulatif. Belum ada langkah tegas yang sepenuhnya menghentikan praktik tersebut.
Kasus JKT48, AI Berujung Ancaman Hukum
Di dalam negeri, penyalahgunaan Grok AI menuai kecaman setelah anggota JKT48 menjadi korban pembuatan konten tidak senonoh. Manajemen JKT48 mengambil sikap tegas dengan mengancam jalur hukum terhadap para pelaku.
Kapten JKT48, Freya Jayawardana, mengungkapkan keresahannya atas maraknya foto anggota yang dimanipulasi menjadi gambar bermuatan pornografi. Praktik tersebut dinilai sebagai bentuk pelecehan dan pelanggaran privasi.
Baca juga:Konten Copy-Paste Melanggar Pedoman Google, Hati-hati Penalti!
Menanggapi hal itu, JKT48 Operation Team mengeluarkan pernyataan resmi dan memberikan ultimatum keras.
“Apabila dalam waktu 2×24 jam setelah pengumuman ini kami masih menemukan konten tersebut tersebar, maka JKT48 Operation Team akan mendukung penuh langkah hukum dan memfasilitasi pendampingan penasihat hukum hingga proses selesai,” tulis manajemen JKT48 dalam pernyataan resminya di akun X @officialJKT48, Kamis (8/1/2026).
Manajemen juga meminta seluruh pihak yang membuat atau menyebarkan konten tersebut untuk segera menghentikan tindakan dan menghapusnya secara permanen.
Apa Itu Grok AI?
Grok adalah asisten AI yang dikembangkan xAI dan terintegrasi langsung dengan platform X. Berdasarkan laman resmi X, Grok dirancang untuk membantu menjawab pertanyaan, memecahkan masalah, serta mencetuskan ide dengan pendekatan cerdas dan humoris.
Terinspirasi dari The Hitchhiker’s Guide to the Galaxy dan JARVIS dari Iron Man, Grok memiliki kemampuan unik untuk mencari unggahan publik di X atau melakukan pencarian web secara real-time guna merespons pertanyaan pengguna.
Kritik terhadap Grok tidak hanya datang dari Indonesia. Pemerintah Malaysia menyatakan tengah menyelidiki manipulasi gambar perempuan dan anak di bawah umur. India telah mengirimkan surat resmi ke X untuk meninjau Grok agar tidak menghasilkan konten pornografi ilegal.
Sementara itu, Prancis menilai Grok berpotensi melanggar Digital Services Act (DSA) Uni Eropa karena dianggap memfasilitasi penyebaran konten seksual tanpa persetujuan.
Di Balik Kontroversi, Grok Tetap Punya Manfaat
Di luar kontroversi, Grok AI juga memiliki sejumlah keunggulan jika dimanfaatkan secara bertanggung jawab, seperti kemampuan menghasilkan video animasi pendek, mendukung storytelling visual, serta akses gratis untuk pembuatan gambar AI.
Meski demikian, dalam hal realisme visual, Grok masih tertinggal dibandingkan beberapa kompetitor lain yang menawarkan detail figurin lebih akurat.
Pada akhirnya, secanggih apa pun teknologi, dampaknya sangat bergantung pada manusia di balik penggunaannya. Kesadaran etika dan regulasi digital harus berjalan seiring dengan laju perkembangan AI agar ruang digital tetap aman bagi semua. (A02)
Jadilah yang pertama berkomentar di sini