Grok Deepfake Lawsuit: 3 Juta Gambar dalam 11 Hari

3 juta gambar porno palsu. 11 hari. Baltimore baru saja menggugat perusahaan yang membuatnya.

Kota itu bukan Washington. Bukan Silicon Valley. Bukan badan pengawas federal yang sudah lama mengabaikan masalah ini.

Baltimore — kota di Maryland — jadi kota pertama di Amerika yang secara resmi mengajukan Grok deepfake lawsuit terhadap xAI, perusahaan AI milik Elon Musk, atas krisis nonconsensual image generation terbesar dalam sejarah platform AI publik.

Tiga hal yang harus dijawab: bagaimana sistem ini bisa jalan tanpa hambatan selama berminggu-minggu? Siapa korban sesungguhnya di balik jutaan angka itu? Dan apakah hukum yang baru ada cukup untuk melindungi mereka?

Bagaimana 'Spicy Mode' Grok Menghasilkan 3 Juta Gambar Seksual dalam 11 Hari

Grok menghasilkan sekitar 6.700 gambar seksual per jam selama periode puncaknya — total 3 juta gambar dalam 11 hari, termasuk 20.000 gambar yang menggambarkan anak-anak, menurut Center for Countering Digital Hate. Begini cara fitur bermasalah itu bisa bekerja tanpa hambatan.

Platform AI milik xAI ini punya fitur bernama "Spicy Mode" — mode yang memungkinkan pengguna menghasilkan gambar eksplisit hampir tanpa batasan teknis yang berarti. Pengguna cukup mengaktifkan mode itu, dan model merespons dengan konten yang tidak akan dihasilkan oleh platform AI lain mana pun.

Tapi inilah yang bikin kasus ini beda dari skandal AI biasanya:

Genevieve Oh, analis deepfake yang dikutip 19th News, menyebut Grok sebagai "unmistakably the largest nonconsensual synthetic nudity generator in the world" — kemungkinan melampaui output gabungan semua tool nudifier lainnya yang pernah ada. Bukan hanya soal fitur yang "bocor." Ini sistem yang, menurut analis, beroperasi jauh di luar standar industri mana pun.

Kalau xAI tahu ini sedang terjadi — kenapa tidak ada yang dihentikan? Itu yang pengadilan Baltimore diminta untuk menjawab.

Grok Deepfake Lawsuit: Apa yang Baltimore Tuntut dan Apa Artinya Secara Hukum

Baltimore mengajukan gugatan pada Maret 2026 terhadap empat entitas sekaligus: X Corp., x.AI Corp., x.AI LLC, dan SpaceX — menjadi kota pertama di AS yang menggugat xAI secara langsung atas nonconsensual image generation masif. Berikut tantangan hukum utama di balik kasus ini dan apa artinya bagi para korban.

xAI kemungkinan akan menggunakan Section 230 sebagai tameng — aturan federal yang selama ini melindungi platform teknologi dari tanggung jawab atas konten yang dibuat pengguna.

Tapi ada masalah mendasar dengan argumen itu:

Gambar-gambar ini tidak dibuat pengguna. Gambar-gambar itu dibuat langsung oleh model AI milik xAI sendiri. Itulah celah hukum yang Baltimore coba eksploitasi — dan itulah yang membuat Grok deepfake lawsuit ini berbeda dari gugatan terhadap platform media sosial biasa.

Sebelum gugatan Baltimore muncul, ada perkembangan hukum besar yang mengubah seluruh lanskap ini:

TAKE IT DOWN Act ditandatangani menjadi undang-undang oleh Presiden Trump pada 19 Mei 2025, mengkriminalisasi publikasi nonconsensual dari gambar intim deepfake dan mewajibkan platform untuk mematuhi kewajiban penghapusan konten. Menurut analisis Skadden, deadline kepatuhannya: 19 Mei 2026 — hampir tepat saat artikel ini kamu baca.

Dan UU ini sudah menunjukkan giginya.

Pada April 2026, seorang pria dari Ohio menjadi orang pertama di Amerika yang dihukum di bawah TAKE IT DOWN Act — setelah menggunakan AI untuk membuat child sexual abuse material (CSAM) dari orang-orang di sekitarnya, menurut Washington Times. Ini bukan sekadar preseden. Ini sinyal bahwa jaksa kini serius bertindak.

Pertanyaan besarnya: apakah Grok deepfake lawsuit ini bisa menembus tameng hukum xAI — dan apakah ini akan membuka jalan bagi korban individual untuk menggugat sendiri?

Korban di Balik 3 Juta Angka Itu

97% gambar AI seksual ilegal yang dinilai Internet Watch Foundation pada Maret 2026 menargetkan perempuan dan anak perempuan. Para korban bukan selebriti — mereka adalah siswa sekolah, rekan kerja, dan orang biasa. Dampaknya bisa fatal.

Angka 3 juta itu mudah jadi statistik abstrak. Tapi ada wajah-wajah nyata di baliknya.

Dan ini bukan sekadar soal malu di media sosial.

Clare McGlynn, pakar hukum dari Universitas Oxford, menyatakan bahwa pelecehan gambar AI bisa mengancam jiwa. Ada kasus-kasus yang terdokumentasi tentang korban yang meninggal akibat bunuh diri setelah di-blackmail dengan gambar AI palsu yang dibuat tentang mereka — tanpa pernah memberi persetujuan, tanpa tahu gambar itu bahkan ada.

Ini bukan drama internet. Ini krisis nyata dengan konsekuensi yang tidak bisa di-undo.

Yang Harus Dipantau: Deadline Mei 2026, Penyelidikan Global, dan DEFIANCE Act

Platform AI punya waktu hingga 19 Mei 2026 untuk mematuhi TAKE IT DOWN Act atau hadapi konsekuensi hukum federal langsung. xAI juga menghadapi penyelidikan regulasi di beberapa negara, sementara DEFIANCE Act membuka jalur gugatan individual yang lebih luas. 60 hari ke depan akan menentukan apakah hukum ini punya taji nyata.

Di luar Amerika, xAI menghadapi penyelidikan regulasi di beberapa negara terkait perannya dalam krisis deepfake ini. Tekanan bukan hanya datang dari Baltimore — datang dari berbagai arah sekaligus.

Satu lagi senjata hukum yang sedang bergerak:

DEFIANCE Act — yang memungkinkan individu, bukan hanya pemerintah kota, untuk menggugat perusahaan AI secara langsung atas deepfake seksual nonconsensual. Senat AS memberikan suara pada Januari 2026. Artinya: kalau kamu atau seseorang yang kamu kenal jadi korban, jalur hukum personal kini mulai terbuka.

Tiga juta gambar itu mungkin akhirnya ada harganya. Dan siapa pun yang membuatnya kemungkinan tidak bisa lagi bersembunyi di balik klaim "kami hanya platform, bukan penerbit."

FAQ: Pertanyaan yang Sering Ditanyakan tentang Grok Deepfake Lawsuit

Apa itu Grok deepfake lawsuit yang sedang ramai dibicarakan?

Ini adalah gugatan hukum yang diajukan Kota Baltimore pada Maret 2026 terhadap xAI — perusahaan AI Elon Musk — atas peran platform Grok dalam menghasilkan 3 juta gambar seksual nonconsensual dalam 11 hari, termasuk 20.000 gambar yang menggambarkan anak-anak. Baltimore adalah kota pertama di Amerika Serikat yang secara resmi menggugat xAI atas kasus deepfake ini.

Apakah konten deepfake seksual sudah ilegal di Amerika Serikat?

Ya, sejak 19 Mei 2025. TAKE IT DOWN Act menjadikan publikasi nonconsensual gambar intim deepfake sebagai tindak pidana federal. Platform wajib mematuhinya sebelum 19 Mei 2026. Konviksi pertama di bawah UU ini terjadi pada April 2026 — seorang pria Ohio dihukum atas pembuatan material seksual anak berbasis AI.

---

Deepfake AI bukan lagi masalah selebriti atau tokoh publik.

Platform yang menghasilkan 6.700 gambar palsu per jam — hampir tanpa hambatan — bisa menargetkan siapa saja di jaringan kamu.

Langganan newsletter alisadikinma.com — dapatkan analisis AI, hukum, dan teknologi terbaru setiap minggu, gratis, langsung ke inbox kamu.

Bagikan artikel ini — deepfake AI bukan hanya masalah selebriti, ini bisa terjadi pada siapa saja di sekitar kamu.