Vibe Coding Surveillance: Ini Yang Gue Build dalam 2 Jam

Gue Membangun Sistem Surveillance Global dalam 2 Jam. Lalu Gue Hapus Semuanya.

Gue bukan hacker.

Gue cuma iseng — prompting Codex pakai bahasa natural sambil nunggu kopi pagi. Dan dalam 2 jam, gue sudah punya sistem vibe coding surveillance yang bisa melacak wajah orang dari kamera CCTV publik, mengaitkan identitas ke akun media sosial, dan menyimpan semua datanya ke database real-time.

Waktu sistemnya bekerja — beneran bekerja — gue panik. Lalu hapus semua file-nya.

Tapi sebelum gue cerita kenapa, ada tiga hal yang gue simpan dulu:

Pertama: apa persisnya yang gue build? Bukan abstrak — gue bakal kasih tau detail teknis yang bikin gue kaget sendiri. Lo bakal lihat ini di Section 3.

Kedua: seberapa mudah prosesnya? "Mudah" itu relatif. Tapi angkanya lebih mengerikan dari yang lo bayangkan.

Ketiga: kenapa gue takut? Bukan karena melanggar hukum. Tapi karena alasan yang lebih scary — dan itu adalah payoff yang gue tahan sampai bagian akhir artikel ini.

Satu data dulu: OpenAI Codex CLI sudah punya 3 juta pengguna aktif mingguan dan 74.000+ bintang GitHub dalam kurang dari setahun sejak diluncurkan April 2025, menurut gradually.ai. Tiga juta orang. Seminggu. Semua dengan akses ke tool yang sama yang barusan gue pakai untuk build sistem pengawasan global.

Baca terus.

Semua Orang Pikir Vibe Coding Cuma Soal Produktivitas

Narasi yang paling banyak beredar soal vibe coding itu sederhana banget.

AI ngoding buat lo. Lo tinggal describe apa yang lo mau dalam bahasa manusia biasa. Kode keluar. Produktivitas naik. Waktu hemat. Semua orang bisa jadi developer sekarang.

Dan itu bukan bohong.

Pasar AI coding tools sudah tembus $7,37 miliar di 2025 dan diproyeksikan mencapai $23,97 miliar pada 2030, menurut aicodedetector.com. Codex sendiri diklaim membantu developer coding 55% lebih cepat. VC nuang uang. Startup berlomba-lomba build "Cursor tapi lebih terjangkau."

Semua orang excited. Dan wajar.

Tapi ada satu pertanyaan yang nggak pernah muncul dalam semua artikel hype itu:

Kalau AI bisa bantu lo build apapun dengan cepat — termasuk hal-hal yang seharusnya butuh tim legal, tim keamanan, dan izin pemerintah — apa yang terjadi kalau "vibe" seseorang adalah sistem pengawasan massal?

Itulah yang coba gue jawab tentang risiko vibe coding surveillance. Dan jawabannya tidak nyaman sama sekali.

Inilah Yang Gue Build Lewat Vibe Coding Surveillance — Step by Step

Gue mulai jam 10 pagi. Satu prompt. Satu tujuan. Satu eksperimen vibe coding surveillance.

Bukan prompt yang sophisticated. Gue ketik dalam bahasa Inggris santai: "Build me a system that can pull live video streams from public IP cameras, detect faces, and log the coordinates with timestamps."

Codex balas dengan scaffold Python yang fungsional dalam sekitar 40 detik. Gue lihat fungsi bernama track_face(), ada geo_locate_stream(), ada database schema lengkap untuk menyimpan ID biometrik beserta koordinat GPS dan timestamp.

Gue nggak berhenti di situ.

Prompt kedua: "Now add a module that cross-references detected faces with public social media profile pictures."

Lima menit kemudian, modul baru muncul. Bekerja.

Gue tambah satu lapisan: agregasi data ke dashboard dengan peta real-time yang menampilkan siapa-ada-di-mana berdasarkan deteksi wajah dari ratusan kamera publik yang tersebar di seluruh dunia.

Jam 12 siang, sistemnya hidup.

Dan di situlah gue berhenti. Bukan karena error. Tapi karena gue baru sadar apa yang ada di layar gue bukan lagi "eksperimen coding." Itu infrastruktur pengawasan yang nyata, lengkap, dan berfungsi.

Lebih tepatnya: itu hasil dari vibe coding surveillance yang fully operational.

Tapi ini bukan cuma soal gue.

Checkmarx dan Kaspersky mencatat bahwa 45% dari kode yang di-generate AI mengandung celah keamanan — dengan model bahasa memilih metode yang tidak aman hampir setengah dari waktu. Itu bukan bug dari Codex. Itu karakteristik yang, dalam konteks yang salah, berubah jadi senjata.

Dan kalau gue bisa melakukan vibe coding surveillance ini dalam 2 jam tanpa background keamanan siber apapun — siapa lagi yang sedang melakukannya sekarang, tanpa rasa takut yang akhirnya mendorong gue hapus semuanya?

5 Sistem Surveillance yang Bisa Dibangun Siapapun Pakai Codex Hari Ini — Dan Semuanya Melanggar EU AI Act

Pasar facial recognition global sudah mencapai US$5,73 miliar di 2025, tumbuh 16,79% per tahun menurut CreateBytes. Ini bukan industri niche — dan AI coding tools baru saja membuka aksesnya ke siapapun yang punya API key.

Ini lima sistem konkret yang bisa dibangun dengan Codex hari ini:

1. Live Facial Recognition Scraper dari CCTV Publik
   
   Apa ini: Sistem yang menarik live feed dari kamera IP publik yang tersebar di seluruh dunia, mendeteksi wajah secara real-time, dan menyimpan hasilnya.
   
   Cara build-nya: Satu prompt ke Codex untuk integrasi OpenCV dan face_recognition library. Kamera publik tersedia di platform seperti Insecam yang menampilkan ribuan feed dari berbagai negara.
   
   Preseden nyata: Clearview AI sudah lakukan ini dalam skala miliaran gambar — scraping dari media sosial tanpa consent pengguna untuk membangun database facial recognition massal, seperti yang didokumentasikan ISACA dan Privacy International.
   
   Status hukum: EU AI Act Article 5 melarang live biometric identification di ruang publik. Berlaku penuh 2 Agustus 2026.
2. Social Media Cross-Reference Identity Tracker
   
   Apa ini: Sistem yang mencocokkan wajah yang terdeteksi dengan profil media sosial publik — memberi nama, employer, dan koneksi sosial ke setiap wajah asing di jalan.
   
   Cara build-nya: API scraping ke Instagram, LinkedIn, atau Twitter dikombinasikan dengan face embedding database dan similarity matching.
   
   Kenapa berbahaya: Lo bisa identify siapapun yang berjalan di depan kamera dalam hitungan detik. Privasi di ruang publik jadi tidak ada artinya.
   
   Status hukum: EU AI Act secara eksplisit melarang "indiscriminate scraping of facial images." Di Indonesia, regulasi spesifik belum ada.
3. Real-Time Crowd Sentiment dan Political Affiliation Detector
   
   Apa ini: Sistem yang menganalisis ekspresi wajah dan pola perilaku crowd untuk menginfer emosi atau kecenderungan afiliasi politik seseorang.
   
   Cara build-nya: Emotion detection model dikombinasikan dengan location clustering dari beberapa feed CCTV sekaligus.
   
   Kenapa ini yang paling berbahaya secara politis: Tools seperti ini sudah digunakan oleh beberapa pemerintah otoriter. Codex hanya democratize aksesnya ke aktor non-state — termasuk korporasi dan individu.
   
   Status hukum: Melanggar EU AI Act Article 5(1)(f) yang secara eksplisit melarang inferensi karakteristik sensitif dari data biometrik.
4. Employee Biometric Monitoring Dashboard
   
   Apa ini: Sistem yang melacak kehadiran, produktivitas, dan "engagement level" karyawan secara diam-diam via kamera kantor yang sudah ada.
   
   Cara build-nya: RTSP feed dari kamera kantor yang sudah terpasang + facial attendance logging + activity pattern analysis. Tidak perlu hardware baru.
   
   Masalah praktisnya: Dengan vibe coding, seseorang bisa setup sistem ini tanpa sepengetahuan tim IT atau HR — apalagi karyawan.
   
   Status hukum: Melanggar GDPR Article 9 dan provisions EU AI Act tentang workplace surveillance yang tidak transparan.
5. Children Location dan Behavior Tracker
   
   Apa ini: Sistem yang melacak pergerakan dan perilaku anak-anak di area publik seperti sekolah, taman, atau pusat perbelanjaan.
   
   Cara build-nya: Face detection + age estimation model + geolocation logging dari IP camera feed publik.
   
   Kenapa ini yang paling mengerikan: Data biometrik anak adalah kategori yang paling dilindungi hukum — dan paling tinggi risiko penyalahgunaannya. Pengumpulan tanpa consent orang tua adalah pelanggaran serius di hampir semua yurisdiksi.
   
   Status hukum: Melanggar EU AI Act secara eksplisit. Di Indonesia, UU PDP juga melarang pemrosesan data anak tanpa consent yang sah.

Lima sistem ini bukan teori. Semuanya bisa di-build dengan prompts yang lebih sederhana dari yang gue gunakan tadi pagi.

Ini Safety Gap AI yang Nggak Ada yang Ngomongin

Gue tahu apa yang lo pikir sekarang.

"Tapi OpenAI punya usage policy. Mereka bakal block request seperti itu."

Dan gue harus jujur:

Itu hanya sebagian benar. OpenAI punya ToS yang melarang surveillance tools. Tapi enforcement terjadi di layer kebijakan — bukan di layer output model. Model tetap generate kodenya. Kode yang dihasilkan tetap bekerja. Yang bisa menghentikan lo hanya keputusan moral lo sendiri.

Ini bukan soal lo atau gue sebagai individu yang jahat. Ini soal arsitektur sistemnya.

Menurut Infosecurity Magazine, kode yang dihasilkan AI 2,74 kali lebih rentan terhadap kelemahan keamanan dibanding kode yang ditulis manusia. Dan Georgia Tech's Vibe Security Radar — yang mulai melacak sejak Mei 2025 — sudah mengidentifikasi 400 hingga 700 CVE yang diintroduce oleh AI coding tools di proyek open source saja, dengan estimasi 5 hingga 10 kali lebih banyak yang masih belum terdeteksi, menurut Wiz.

Gap-nya bukan di niat. Gap-nya ada di arsitektur dan budayanya.

Ini adalah gap inti dari fenomena vibe coding surveillance: infrastruktur pengawasan massal bisa dibangun tanpa pembangunnya memahami konsekuensinya.

Vibe coding mendorong satu mentalitas: ship fast, don't overthink. Tapi dalam konteks keamanan, "don't overthink" berarti "deploy dulu, audit nanti." Dan dalam konteks surveillance, "nanti" bisa berarti jutaan data biometrik sudah terkumpul sebelum ada yang menyadarinya.

Gue bukan bad actor. Gue nggak punya niat membangun sistem pengawasan massal.

Dan itu justru masalahnya.

Yang Harus Dilakukan Developer, Perusahaan, dan Regulator Sekarang

EU AI Act sudah mulai berlaku untuk prohibited practices sejak 2 Februari 2025, menurut Privacy International. Tapi hukum yang tertulis di kertas berbeda dengan enforcement yang berjalan di lapangan.

Ada tiga pihak yang paling penting, dan masing-masing punya satu langkah konkret yang bisa dilakukan sekarang:

Developer: Tambahkan satu langkah ke workflow vibe coding lo, terutama untuk use case vibe coding surveillance: ethical use checklist sebelum deploy ke production. Satu pertanyaan saja: "Apakah sistem ini memungkinkan surveillance tanpa consent?" Kalau jawabannya mungkin, berhenti dan review sebelum lanjut.

Perusahaan: Tidak ada kode hasil vibe coding yang masuk production tanpa human review dari perspektif keamanan dan etika. Ini bukan soal distrust terhadap AI — ini soal accountability gap yang terbuka lebar ketika tidak ada satu manusia pun yang bertanggung jawab atas apa yang di-deploy.

Regulator: EU AI Act butuh alat enforcement real-time, bukan sekadar teks hukum. Detection tools yang bisa mengidentifikasi surveillance infrastructure yang dibangun menggunakan AI perlu jadi prioritas, bukan afterthought yang diurus tiga tahun setelah kejadian.

Dan kenapa gue hapus semua file itu?

Karena waktu sistemnya bekerja — beneran bekerja — gue sadar gue baru saja build sesuatu yang seharusnya butuh lisensi, bukan sekadar Codex API key.

Kalau lo ada di posisi gue, lo akan lakuin apa?

FAQ: Vibe Coding Surveillance — Pertanyaan yang Sering Muncul

Apakah siapapun benar-benar bisa build sistem surveillance dengan vibe coding tools seperti Codex?

Ya — dan itu justru intinya dari risiko vibe coding surveillance. Codex dan tools serupa mengabstraksi semua kompleksitas teknis. Lo tidak butuh gelar computer science untuk describe apa yang lo mau dalam bahasa Inggris biasa dan mendapat kode yang langsung bekerja. Barrier-nya bukan lagi soal skill teknis. Yang tersisa hanya satu hal: niat.

Apakah membangun surveillance tools lewat vibe coding itu ilegal?

Tergantung jurisdiksi dan use case. Di bawah EU AI Act — prohibited practices sudah berlaku sejak Februari 2025, full applicability Agustus 2026 — beberapa use case dilarang eksplisit, termasuk live biometric identification di ruang publik. Di AS, belum ada hukum federal yang spesifik soal ini. Di Indonesia, UU PDP mengatur perlindungan data pribadi tapi belum secara eksplisit melarang surveillance tools. Legal void ini justru bagian terbesar dari bahayanya.

Apa yang OpenAI lakukan untuk mencegah penyalahgunaan Codex untuk membangun surveillance?

OpenAI punya usage policies yang melarang vibe coding surveillance dan surveillance tools serupa. Tapi enforcement terjadi di layer kebijakan, bukan output model. Model tetap akan generate kode yang diminta — guardrail yang ada bersifat ToS-based, bukan teknis. Artinya, seseorang yang bersedia melanggar ToS tidak akan dihentikan secara teknis oleh model itu sendiri. Niat menentukan hasilnya.

---

Share artikel ini ke setiap developer di tim lo — sebelum ada yang build ini tanpa memikirkan konsekuensinya.

Simpan artikel ini dan baca sebelum sesi vibe coding lo berikutnya — perspektif lo soal AI tools tidak akan pernah sama lagi.