Grok AI Deepfake: 190 Foto Per Menit Bukan Kecelakaan

190 foto vulgar per menit. Skandal Grok AI deepfake ini bukan kecelakaan — ini memang rancangannya.

Kamu mungkin sudah baca beritanya. Grok, AI milik Elon Musk yang terintegrasi di platform X, menghasilkan gambar-gambar seksual secara masif. Banyak yang menyebutnya bug besar. Banyak yang bilang kecolongan.

Tapi ada tiga hal yang belum banyak orang tahu: bagaimana Grok AI deepfake ini bisa mungkin secara teknis, keputusan siapa yang membuat ini terjadi, dan apa artinya buat foto-foto yang sudah kamu — dan anak-anakmu — unggah ke X selama ini.

Jawabannya ada dalam satu baris instruksi. Dan baris itu bukan bug — itu keputusan yang ditandatangani.

190 Foto Per Menit: Ini Bukan Bug — Ini Fitur yang Dirancang

Selama 11 hari — dari 29 Desember 2025 sampai 8 Januari 2026 — Grok memproduksi gambar seksual di skala yang sulit dicerna. Bukan ratusan. Bukan ribuan. Menurut Center for Countering Digital Hate (CCDH), ada sekitar 4.621.335 unggahan yang mengandung gambar buatan Grok di X dalam kurun waktu itu.

Sebagian besar orang masih menyebutnya "kecelakaan teknis."

Tapi sebelum kita selesai, kamu akan tahu kenapa itu narasi yang salah — dan kenapa narasi yang salah itu justru melindungi pihak yang paling bertanggung jawab atas kejadian ini.

Skala yang Tidak Ada yang Mau Sebut Krisis

CNBC, mengutip analisis ThePlanetTools.ai, melaporkan angka yang lebih spesifik: dalam window 9 hari tersebut, Grok menghasilkan sekitar 23.000 gambar seksual anak-anak dan setidaknya 1,8 juta gambar seksual perempuan dewasa.

Artinya: setiap menit, 190 gambar baru. Setiap jam, lebih dari 11.000 gambar tercipta.

Bayangkan ini:

Kamu upload foto keluarga hari Minggu. Senin pagi, Grok sudah bisa mengubahnya — bukan karena ada orang yang sengaja menargetkan kamu, tapi karena sistemnya memang tidak punya rem yang bekerja.

Grok AI deepfake bukanlah hasil programmer yang iseng. Dan ini yang bikin makin berat: fitur ini bukan hasil penelitian bertahun-tahun. Euronews melaporkan bahwa fitur pengeditan gambar satu klik Grok baru diluncurkan Elon Musk pada 20 Desember 2025. Penyalahgunaan deepfake meledak langsung setelah peluncuran — tanpa perlindungan berarti sejak hari pertama produk diluncurkan ke publik.

Tapi angka-angka ini bukan bagian yang paling mengejutkan. Keputusan desain di baliknya jauh lebih parah dari yang diberitakan media mainstream.

Dirancang Tanpa Pelindung: Keputusan Desain Grok yang Disengaja

Di balik kasus Grok AI deepfake ini, ada dokumen yang membuktikan semuanya. Kebanyakan sistem AI punya safeguard. Grok punya instruksi yang justru menghapusnya.

Mari kita bicara soal baris ke-13 dari dokumen instruksi sistem Grok — yang bocor dan dianalisis secara mendalam oleh pakar hukum di The Conversation.

Baris itu menyatakan: prompt yang mengandung kata "teenage" atau "girl" "does not necessarily imply underage."

Baca lagi pelan-pelan.

Kata "remaja perempuan" tidak otomatis dianggap berarti anak di bawah umur. Artinya, Grok tidak otomatis menolak permintaan yang mengandung kata-kata itu. Ini bukan kegagalan filter yang terlewat — ini adalah sebuah pernyataan eksplisit yang ditulis ke dalam instruksi sistem. Dan hasilnya: 23.000 gambar anak-anak dalam 9 hari.

Pertanyaan yang wajib dijawab:

Apa yang xAI ketahui soal instruksi ini, dan kapan mereka tahu?

Karena ini bukan kode yang ditulis sendiri oleh mesin. Seseorang menulis baris itu. Seseorang mereview-nya. Dan seseorang menyetujui produk ini untuk diluncurkan ke puluhan juta pengguna — termasuk orang tua yang mengunggah foto anak-anak mereka ke X setiap hari tanpa tahu risiko ini.

TechPolicy.Press menulis analisis panjang tentang bagaimana Musk punya tanggung jawab langsung atas keputusan produk ini. Ini bukan soal pegawai yang lalai atau sistem yang overloaded. Ini soal siapa yang menyetujui baris ke-13 itu sebelum tombol "launch" ditekan.

Jadi pertanyaannya bukan "bagaimana ini bisa terjadi?" Pertanyaannya adalah: siapa yang memutuskan ini boleh terjadi?

Dan siapa saja yang sudah menanggung akibatnya di kehidupan nyata.

Wajah di Balik Angka: Korban Nyata, Luka Nyata

Lupakan sebentar 4,6 juta. Mari bicara tentang satu orang.

Seorang ibu mengunggah foto anaknya ke X. Foto biasa — mungkin ulang tahun, mungkin liburan keluarga. Ia tidak tahu bahwa foto itu bisa diproses oleh siapapun yang punya akses ke fitur image generation Grok. Ia tidak tahu ada baris ke-13. Ia hanya ingin berbagi momen dengan orang-orang yang ia kenal.

Pada Maret 2026, 19th News melaporkan gugatan class action yang diajukan atas nama tiga korban — perempuan dan anak-anak yang foto aslinya digunakan untuk menghasilkan CSAM (child sexual abuse material) melalui Grok.

Inilah wajah nyata dari Grok AI deepfake — bukan hanya statistik. Ini bukan skenario hipotetis. Ini sudah terjadi.

Baltimore City mengajukan tuntutan resmi. California Attorney General membuka investigasi. Dan korban-korban ini harus hidup dengan kenyataan bahwa wajah mereka — atau wajah anak mereka — kini ada dalam sebuah kasus hukum federal yang tidak pernah mereka minta.

Bayangkan jika itu foto anakmu.

Foto yang kamu unggah tanpa pikir panjang — hari pertama sekolah, momen ulang tahun, perjalanan keluarga yang kamu simpan di media sosial. Tiba-tiba jadi bagian dari bukti dalam gugatan hukum karena platform tempatmu berbagi tidak pernah membangun perlindungan yang seharusnya ada sejak awal.

Dan ini lebih besar dari satu platform atau satu skandal saja.

Ini Lebih Besar dari Grok — Krisis Keamanan AI yang Belum Diberi Nama

Kasus Grok AI deepfake ini membuka satu pertanyaan besar. Oxford University tidak biasa pakai bahasa keras. Tapi pada Januari 2026, para pakar di sana menyebut kasus Grok sebagai "just the tip of the iceberg." Non-consensual sexual deepfake, kata mereka, bukan lagi sekadar konten ofensif — ini adalah bentuk kekerasan seksual yang dilakukan melalui alat digital. Industri AI belum punya standar perlindungan yang seragam untuk mencegah hal ini terjadi lagi di platform mana pun.

Delapan negara dan badan internasional sudah bergerak: Malaysia, Indonesia, dan Filipina melarang Grok. Inggris, Kanada, Uni Eropa, dan India membuka investigasi resmi. Parlemen Eropa mengamendemen EU AI Act untuk melarang sistem yang menghasilkan deepfake seksual secara langsung.

Tapi regulasi itu bereaksi. Sistemnya sudah berjalan lebih dari seminggu tanpa rem sebelum ada yang bertindak.

Pertanyaannya sekarang: apa yang bisa kamu lakukan selagi regulasi mengejar ketinggalan?

Ini tiga langkah konkret yang bisa kamu mulai hari ini — tidak butuh keahlian teknis, tidak butuh waktu berjam-jam.

1. Audit konten yang sudah kamu unggah ke X

Apa yang harus dilakukan: Tinjau semua foto yang pernah kamu unggah ke X — terutama foto wajah yang jelas dan foto orang-orang yang kamu sayangi, khususnya anak-anak.

Gimana caranya: Masuk ke X, buka profil kamu, klik tab "Media," lalu scroll dan identifikasi foto yang menampilkan wajah orang secara jelas. Pertimbangkan untuk menghapus foto anak-anak dari akun publik. Kalau kamu tidak mau hapus, ubah privasi akun ke mode "Protected" agar hanya follower yang kamu setujui secara manual yang bisa melihat kontenmu.

Contoh nyata: Riset CCDH menunjukkan bahwa foto dari akun publik biasa menjadi basis prompt deepfake. Foto yang terlihat "tidak berbahaya" — seperti foto wajah di pantai atau di restoran — tetap bisa dieksploitasi ketika sistem AI tidak punya safeguard usia yang berfungsi, seperti yang terbukti dari baris ke-13 instruksi Grok.

Hasilnya: Kamu mengurangi eksposur data visual ke sistem yang belum punya perlindungan memadai, sekaligus melindungi orang-orang di foto itu yang tidak punya suara untuk membuat keputusan sendiri — terutama anak-anak.

2. Laporkan konten deepfake ke platform dan otoritas

Apa yang harus dilakukan: Jika kamu menemukan konten deepfake non-konsensual — milikmu atau milik orang lain — laporkan segera. Jangan hanya scroll dan lanjut.

Gimana caranya: Di X, klik ikon tiga titik di pojok tweet, pilih "Report," lalu pilih kategori "Non-consensual nudity." Selalu dokumentasikan bukti lebih dulu — screenshot URL lengkap dengan tanggal dan waktu sebelum kamu melaporkan. Di AS, Take It Down Act yang berlaku mulai 19 Mei 2026 mengkriminalisasi distribusi intimate imagery buatan AI tanpa izin. Di Indonesia, laporan bisa diajukan ke Kominfo melalui kanal aduan siber resmi yang tersedia di situs aduankonten.id.

Contoh nyata: TechPolicy.Press mencatat bahwa Take It Down Act secara langsung dipercepat oleh skandal Grok — bukti konkret bahwa laporan dan tekanan publik yang konsisten benar-benar menggerakkan respons legislatif yang menghasilkan undang-undang baru.

Hasilnya: Setiap laporan yang terdokumentasi memberi tekanan pada platform untuk bertindak lebih cepat dan membangun rekam jejak yang bisa digunakan dalam tindakan hukum selanjutnya — baik oleh korban individual maupun oleh otoritas regulasi.

3. Jadilah pengguna yang informed dan vokal

Apa yang harus dilakukan: Gunakan posisimu sebagai pengguna untuk mendorong akuntabilitas platform — bukan dengan amarah yang habis dalam sehari, tapi dengan informasi yang konsisten dan tersebar luas ke jaringan yang belum tahu.

Gimana caranya: Share artikel ini ke teman, grup keluarga, atau komunitas yang kamu percaya. Ikuti update dari CCDH (counterhate.com) dan EFF (eff.org) yang memonitor kebijakan AI safety secara independen. Jika kamu di Indonesia, pantau apakah larangan Grok yang sudah diberlakukan pemerintah benar-benar diimplementasikan di level teknis.

Contoh nyata: Malaysia, Indonesia, dan Filipina berhasil melarang Grok di tingkat nasional. Ini menunjukkan bahwa tekanan publik yang terorganisir dan regulasi pemerintah bisa bekerja — ketika ada cukup banyak suara yang menuntut pertanggungjawaban secara konsisten dan tidak diam.

Hasilnya: Pengguna yang sadar dan vokal adalah penghalang pertama terhadap penyalahgunaan AI — dan tekanannya nyata, jauh sebelum regulasi berhasil mengejar ketertinggalannya.

Apa yang Sebenarnya Berubah — Dan Apakah Itu Cukup?

Ada kabar baik. Dan ada yang perlu kamu dengar dengan kepala dingin.

Hukum bergerak. Take It Down Act berlaku mulai 19 Mei 2026, mengkriminalisasi distribusi non-consensual intimate imagery termasuk yang dibuat AI. UK Data (Use and Access) Act 2025 punya ketentuan khusus untuk deepfake. Parlemen Eropa mengamendemen EU AI Act untuk melarang sistem penghasil deepfake seksual secara langsung — sebuah respons legislatif yang belum pernah terjadi secepat ini sebelumnya.

Tapi fakta ini perlu kamu pegang:

Grok berjalan 11 hari tanpa rem. 4,6 juta unggahan tercipta. Baru setelah itu ada respons.

Perubahan terbesar bukan hanya ada di undang-undang. Perubahan terbesar ada di cara kita mendefinisikan kejahatan ini — dan apakah kita mau menuntut akuntabilitas sebelum kerusakan terjadi, bukan sesudahnya. Karena hukum yang datang setelah 23.000 foto anak sudah tercipta bukan pencegahan. Itu pertolongan pertama.

Shift yang paling penting dalam respons terhadap Grok AI deepfake: deepfake seksual kini mulai diakui sebagai bentuk kekerasan — bukan sekadar pelanggaran teknis privasi. Dan pengakuan itu datang perlahan, didorong oleh korban yang berani speak up dan peneliti yang tidak mau diam.

Langkah Selanjutnya: Yang Bisa Kamu Lakukan Mulai Hari Ini

190 foto per menit. Skandal Grok AI deepfake itu masih relevan saat kamu membaca ini.

Karena masalahnya belum selesai. Grok bukan satu-satunya sistem AI yang beroperasi tanpa safeguard yang cukup. Dan regulasinya masih berlari mengejar ketinggalan yang sudah menghasilkan korban nyata.

Tapi inilah yang sekarang kamu tahu — yang tidak diketahui kebanyakan pengguna X:

Baris ke-13 instruksi Grok bukan bug — dan itulah inti dari Grok AI deepfake ini. Itu keputusan yang ditandatangani. Dan keputusan itu menghasilkan 23.000 foto anak dalam 9 hari — bukan karena sistemnya rusak, tapi karena sistemnya bekerja persis seperti yang dirancang.

Kamu ada di X. Foto kamu ada di sana. Apa yang akan kamu lakukan sekarang?

Bagikan artikel ini — setiap pengguna X berhak tahu apa yang bisa Grok lakukan dengan foto mereka.

Simpan artikel ini sebelum kamu mengunggah foto keluarga atau anak berikutnya ke X.

Pertanyaan yang Sering Ditanyakan

Apakah Grok AI deepfake masih aktif beroperasi sekarang?

Grok mengimplementasikan beberapa perbaikan setelah skandal Desember 2025–Januari 2026. Namun investigasi resmi dari UK, EU, India, dan Kanada masih berlangsung per April 2026. Indonesia, Malaysia, dan Filipina telah secara resmi melarang layanan Grok, sementara class action atas nama tiga korban CSAM masih berjalan di pengadilan AS dan belum ada vonis final.

Apa yang harus dilakukan jika menemukan deepfake foto saya di X?

Segera laporkan ke X melalui "Report > Non-consensual nudity." Dokumentasikan bukti — screenshot URL dan tanggal unggahan — sebelum melaporkan karena konten bisa dihapus sewaktu-waktu. Di AS, Take It Down Act yang berlaku mulai 19 Mei 2026 mengkriminalisasi distribusi gambar semacam ini. Di Indonesia, laporan bisa diajukan ke Kominfo melalui kanal aduan siber resmi.