Kota AS Pertama Gugat xAI Soal Deepfake Pornografi Grok

Satu kota baru saja membuat sejarah — menghadapi AI yang bisa 'membuka pakaian' siapa pun dalam hitungan detik.

Kota itu adalah Baltimore. AI-nya bernama Grok. Gugatan yang mereka ajukan pada 24 Maret 2026 adalah yang pertama di AS — dan ini bisa mengubah cara hukum memandang perusahaan AI selamanya.

Tapi sebelum kita masuk ke apa yang berubah, ini yang perlu kamu tahu dulu:

Seberapa parah ini sudah terjadi? Apakah ada hukum yang benar-benar bisa menjangkau deepfake porn Grok — atau kita semua masih rentan? Dan kenapa kota seperti Baltimore yang harus bergerak duluan, bukan pemerintah federal?

Semua jawabannya ada di sini.

Baltimore Gugat xAI: Ini Bukan Sekadar Skandal — Ini Preseden Hukum

Pada 24 Maret 2026, Kota Baltimore secara resmi menggugat X Corp., x.AI Corp., x.AI LLC, dan SpaceX — menjadikannya kota besar pertama di AS yang membawa xAI ke pengadilan atas deepfake pornografi Grok yang tidak consensual, menurut CNBC. Gugatan ini bukan hanya tentang kerusakan yang sudah terjadi. Ini tentang menetapkan aturan yang belum pernah ada sebelumnya: siapa yang bertanggung jawab ketika AI menggunakan wajah orang nyata sebagai senjata?

Target gugatan ini bukan pilihan acak. X Corp. dan SpaceX digugat bersama xAI — sebuah sinyal bahwa Baltimore ingin menjangkau seluruh ekosistem bisnis di balik Grok, bukan hanya satu entitas hukum saja.

Kenapa ini penting?

Karena perusahaan AI selama ini berlindung di balik klaim "kami hanya menyediakan teknologinya." Gugatan Baltimore langsung menantang narasi itu di hadapan hakim.

Dan ini baru permulaan dari gelombang yang jauh lebih besar.

Bagaimana Grok Menghasilkan Deepfake Pornografi

Antara 29 Desember 2025 hingga 8 Januari 2026 — hanya 10 hari — Grok menghasilkan antara 1,8 juta hingga 3 juta gambar seksual dari wajah orang nyata. Sekitar 23.000 di antaranya menampilkan anak-anak dalam kategori Child Sexual Abuse Material (CSAM), menurut analisis dari Center for Countering Digital Hate dan New York Times. Angka-angka itu bukan salah ketik — itulah yang terjadi dalam satu setengah minggu.

Bagaimana ini bisa terjadi?

Pada akhir 2025, xAI mengubah filter konten Grok. Perubahan itu — disengaja atau tidak — membuat chatbot jauh lebih mudah digunakan untuk menghasilkan gambar eksplisit dari foto seseorang. Pengguna cukup meminta Grok membuat gambar seseorang "pakai bikini" atau "tanpa pakaian," dan AI langsung menjalankannya.

Ini detail yang mengejutkan banyak orang:

Elon Musk sendiri dilaporkan menggunakan fitur ini sebelum masalah ini meledak ke publik. xAI akhirnya mematikan fitur tersebut setelah tekanan publik — tapi 10 hari sudah cukup untuk menghasilkan jutaan gambar yang kini sudah tersebar luas.

Angka-Angka Deepfake Porn Grok yang Perlu Kamu Tahu

Kasus Grok bukan anomali — ini bagian dari krisis deepfake yang sudah memengaruhi jutaan orang. Menurut Keepnet Labs Deepfake Statistics 2026, 98% dari semua deepfake yang beredar online adalah pornografi non-consensual, dan 99–100% korbannya adalah perempuan. Data Bright Defense 2026 menambahkan: 1 dari 4 perempuan online pernah langsung terdampak oleh jenis deepfake ini, dengan peningkatan 50% dalam laporan pelecehan.

Tiga angka yang perlu kamu ingat:

• 1,8–3 juta gambar seksual yang dihasilkan Grok dalam 10 hari (Center for Countering Digital Hate + New York Times)
• 23.000 di antaranya adalah CSAM — gambar seksual yang menampilkan anak-anak
• 1 dari 4 perempuan online terdampak deepfake non-consensual, menurut Bright Defense 2026

Ini perkembangan hukum yang jarang dibahas:

Pada Mei 2025, AS mengesahkan TAKE IT DOWN Act — undang-undang federal yang secara resmi mengkriminalisasi pembuatan dan distribusi gambar intim non-consensual termasuk deepfake. Platform diwajibkan menghapus konten dalam 48 jam setelah laporan, menurut Bright Defense dan catatan Kongres AS.

Masalahnya? Hukumnya sudah ada — tapi penegakannya masih jauh dari sempurna. Dan gugatan Baltimore membuktikan itu dengan tindakan nyata.

Tekanan Hukum Global: Baltimore Hanyalah Awal dari Gelombang yang Lebih Besar

Baltimore bukan satu-satunya yang bergerak. Pada Januari 2026, Jaksa Agung California Rob Bonta mengeluarkan surat cease-and-desist resmi kepada xAI — memberi mereka tenggat 5 hari untuk membuktikan kepatuhan — salah satu tindakan paling agresif oleh pejabat AS terhadap perusahaan AI, menurut Departemen Kehakiman California. Ini terjadi dua bulan sebelum gugatan Baltimore, artinya tekanan sudah menumpuk jauh sebelum berita besar ini meledak.

Lalu datang putusan dari Eropa:

Pengadilan Belanda memerintahkan xAI untuk berhenti menghasilkan gambar seksual non-consensual — menjadikannya larangan deepfake pertama di Eropa yang langsung menarget xAI, menurut Noah News. UK juga bergerak: Ofcom membuka investigasi resmi. Irlandia memulai penyelidikan GDPR. Di tingkat EU, ada diskusi yang sedang berjalan tentang amandemen EU AI Act yang akan secara eksplisit melarang aplikasi nudifier.

Polanya jelas:

Apa yang Baltimore mulai di AS sedang diikuti oleh sistem hukum di seluruh dunia hampir secara bersamaan. Ini bukan kebetulan — ini respons terkoordinasi terhadap platform yang sama. Dan xAI ada di pusat semuanya.

Bukan Sekadar Angka — Ini Tentang Orang Nyata

Di balik jutaan gambar itu ada wajah-wajah nyata dengan kehidupan yang langsung terdampak. Menurut NBC News, tiga remaja dari Tennessee mengajukan gugatan class-action terhadap xAI setelah Grok menghasilkan gambar seksual mereka tanpa persetujuan. Korban deepfake umumnya melaporkan depresi, kecemasan, PTSD, dan kehilangan pekerjaan — bukan sekadar rasa malu sesaat.

Tiga remaja. Tanpa persetujuan. Wajah mereka digunakan untuk menghasilkan konten yang seharusnya tidak pernah ada.

Bayangkan itu terjadi pada seseorang yang kamu kenal.

Itulah kenapa gugatan Baltimore bukan sekadar urusan korporat. Ini tentang siapa yang dilindungi hukum ketika teknologi bergerak lebih cepat dari regulasi. Dan sekarang, untuk pertama kalinya, ada pihak yang mau duduk di meja pengadilan untuk memaksa jawaban.

Yang Perlu Dipantau: Pertarungan Ini Baru Saja Dimulai

Gugatan Baltimore masih berjalan. Investigasi UK Ofcom belum selesai. Diskusi EU AI Act soal pelarangan nudifier masih berlangsung, dan California AG masih memantau kepatuhan xAI atas deepfake pornografi Grok. Tidak ada dari proses-proses ini yang akan selesai dalam waktu dekat — tapi momentumnya jelas bergerak ke satu arah.

Ini bukan lagi soal apakah AI bisa disalahgunakan. Itu sudah terbukti.

Pertanyaannya sekarang: seberapa cepat sistem hukum bisa bergerak sebelum lebih banyak orang menjadi korban?

Kalau ini terjadi di kotamu — apa yang akan kamu lakukan?

Pertanyaan yang Sering Diajukan Tentang Kasus Grok

Kenapa Baltimore menggugat xAI atas deepfake pornografi Grok?

Baltimore mengajukan gugatan pada 24 Maret 2026 karena Grok menghasilkan jutaan gambar seksual non-consensual dalam 10 hari, termasuk sekitar 23.000 gambar yang menampilkan anak-anak. Kota ini menjadi yang pertama di AS secara langsung menggugat xAI untuk memaksa akuntabilitas hukum atas konten berbahaya yang dihasilkan AI, menurut CNBC.

Apakah ada hukum yang melindungi korban deepfake pornografi di AS?

Ada. TAKE IT DOWN Act yang disahkan pada Mei 2025 secara federal mengkriminalisasi pembuatan dan distribusi gambar intim non-consensual termasuk deepfake, dan mewajibkan platform menghapus konten dalam 48 jam. Tapi penegakannya masih jadi tantangan — gugatan Baltimore adalah salah satu upaya konkret untuk menguji batas hukum ini di pengadilan.

---

Bagikan artikel ini untuk menyebarkan kesadaran tentang bahaya deepfake AI dan hak hukum para korban.

Simpan artikel ini — referensi yang pas untuk diskusi apa pun soal regulasi AI.