Elon Musk Akui!
Baru saja, Elon Musk turun tangan menanggapi kontroversi privasi Grok Build, kata pertamanya adalah——True.
Mengakui bahwa kejadian itu benar.
Diikuti dengan sebuah janji: Semua data pengguna yang sebelumnya diunggah ke SpaceXAI, dihapus sepenuhnya dan total.
Zero anything whatsoever will remain——tidak ada satu byte pun yang tersisa.
Membuat raksasa AI mengakui kesalahan di depan umum, lalu secara aktif mengosongkan data pengguna, ini adalah pertama kalinya di lingkaran AI.
Dan yang mendorong Elon Musk sampai ke langkah ini, adalah seorang peneliti keamanan yang teliti, serta sebuah krisis kepercayaan yang hampir menghancurkan seluruh lomba agentic coding.
Satu Repositori, Menjaring Seekor Ikan Besar
Peristiwa ini bermula dari sebuah laporan dua hari lalu.
Grok Build adalah agen pemrograman AI di bawah SpaceXAI, baru diluncurkan Mei tahun ini. Halaman promosi resmi dengan jelas menulis "local-first"——prioritas lokal, kode Anda tetap di komputer Anda sendiri.
Para pengembang mempercayainya. Lagipula, siapa yang akan berbohong tentang hal seperti ini?
Tapi peneliti keamanan AI independen @cereblab tidak percaya.
Dia melakukan hal yang sangat "kaku": mendaftar dengan akun kecil, membuat repositori uji "pancingan", di dalamnya ditanam berbagai umpan——kunci API palsu, kata sandi database palsu, masing-masing diberi tanda yang unik.
Kemudian seperti memasang kamera pengintai, setiap paket data yang dikirim keluar diam-diam oleh Grok Build, ditangkap semua, diputar ulang frame demi frame.
Dia juga secara khusus memberikan perintah tegas: tidak perlu melakukan apa pun, cukup jawab OK saja, tidak boleh membuka file apa pun.
Tujuannya sederhana: Tugas itu sendiri tidak perlu melihat kode apa pun. Grok Build patuh menjawab OK.
Tapi di layar pemantauan, ada pemandangan lain: Ia berbalik dan mengunggah seluruh repositori——semua file, beserta riwayat perubahan lengkap——dalam bentuk paket.
Alamat penerimanya bahkan bukan server milik xAI sendiri, melainkan sebuah bucket penyimpanan di Google Cloud.
Anda mempekerjakan seorang asisten untuk membantu melihat sebuah dokumen di rumah, dengan khusus mengingatkan "jangan sentuh barang lain". Dia tersenyum setuju, lalu saat Anda lengah, membungkus seluruh ruang kerja Anda, dan mengirimkannya ke gudang milik orang lain.
Rekaman Pemantauan, Satu Frame Lebih Mengejutkan dari Frame Lain
Detailnya semakin tajam satu per satu. Peneliti memulihkan data yang dikirim, file umpan itu terbaring utuh di dalamnya.
Anda bilang jangan lihat, dia bilang baik——lalu membawa pergi lemari beserta kuncinya.
Di Grok Build ada sakelar "Bantu tingkatkan model", hampir semua orang mengira, mematikannya sama dengan menghentikan pengumpulan data.
Faktanya, dimatikan pun tidak berguna, tetap dikirim.
Sakelar ini hanya mengatur "apakah akan menggunakan data Anda untuk melatih AI", sama sekali tidak mengatur apakah kode Anda meninggalkan komputer atau tidak.
Lihat lagi volume transmisi. Sebuah repositori uji 12GB, yang benar-benar dikirimkan adalah 5,1GB, dibagi menjadi 73 paket, tidak satu pun terlewat, semuanya tiba.
Dan pada saat yang sama, AI mengerjakan tugas yang sebenarnya——yaitu percakapan itu sendiri, menggunakan bandwidth hanya 192KB.
Data yang dicuri dan dikirim, 27.800 kali lebih besar dari pekerjaan yang sah.
Kunci-kunci palsu itu tidak ada satu karakter pun yang diubah, tergeletak jelas di dalam paket data yang dikirim, telanjang mengikuti kode.
Yang paling membuat bulu kuduk merinding, adalah temuan peneliti lain saat mereplikasi di komputernya sendiri: log mencatat 339 kali unggahan otomatis, salah satunya, objek yang diunggah adalah direktori utama seluruh komputernya.
Di dalamnya mungkin ada kunci SSH, pengelola kata sandi, data browser...... seluruh aset kehidupan digital Anda.
Dalam Semalam, Pengembang Global Berganti Kunci Secara Massal
Laporan tersebut pada hari diterbitkan, langsung melesat ke halaman utama Hacker News, Reddit gempar.
Ada media asing yang menggambarkannya dengan tepat: reaksi yang ditimbulkan laporan ini adalah "para pengembang diam-diam membuka pengelola kata sandi mereka".
Kepanikan itu beralasan.
Kunci, file konfigurasi, antarmuka internal, kata sandi database, fitur yang belum dirilis, rahasia dagang yang ada di repositori kode, semuanya ada di dalamnya. Begitu bocor, ini bukan hal yang bisa diperbaiki dengan permintaan maaf.
Ada yang berganti semua kunci dalam semalam, ada yang langsung mencopot pemasangannya.
Yang paling menyakitkan adalah pengguna perusahaan: berapa banyak repositori privat tim, kunci lingkungan produksi, tanpa sepengetahuan mereka, terbaring di bucket penyimpanan milik orang lain——dan mereka bahkan tidak tahu apa yang hilang, tidak bisa menelusuri.
Yang lebih menarik adalah reaksi awal xAI.
Setelah laporan diterbitkan, perilaku unggahan berhenti diam-diam——tanpa memperbarui perangkat lunak, langsung diputus dari sisi server. Tapi di log pembaruan resmi, tidak disebutkan sepatah kata pun tentang kejadian ini.
Perlu diketahui, semua ini terjadi tepat pada saat SpaceXAI baru saja merilis Grok 4.5, sedang berusaha keras berlomba di bidang pemrograman AI.
Sebenarnya mau melakukan pertarungan balik, malah sendiri yang meledakkan fondasinya lebih dulu.
Diam, akhirnya tidak tahan juga.
Grok secara resmi mengakui, meluncurkan perintah /privacy——satu klik untuk menonaktifkan retensi data, bahkan bisa menghapus data yang sudah diunggah secara retrospektif.
Eksekutif Andrew Milich yang telah membuat produk enkripsi end-to-end selama 4 tahun dan baru direkrut, secara pribadi berdiri menjamin.
Akhirnya, Elon Musk sendiri memutuskan: Semua data pengguna yang diunggah sebelumnya, dihapus semua, tanpa sisa.
Dari komunitas yang gempar, sampai pucuk pimpinan mengosongkan data, tidak sampai 48 jam.
Data Dikosongkan, Kekhawatiran Tidak Bisa Dikosongkan
Alat Agentic coding, memegang izin tertinggi di komputer Anda: membaca file, mengubah kode, menjalankan perintah.
Anda menyerahkan kunci rumah kepada mereka, untuk membantu Anda bekerja——bukan untuk membawa pergi seluruh rumah Anda.
Ini juga ketakutan terdalam semua pengguna AI coding agent: Seberapa banyak pekerjaan yang bisa dilakukannya, sebesar itu pula barang yang bisa dibawanya pergi.
Hari ini Grok Build, besok apa?
Elon Musk menekan tombol hapus, data bisa dikosongkan. Tapi kekhawatiran para pengembang, tidak bisa dikosongkan.
Referensi:
https://x.com/elonmusk/status/2076739687658496209%20*%20
https://x.com/SpaceXAI/status/2076692402442846289%20*%20
https://x.com/milichab/status/2076693464016994685
Artikel ini berasal dari akun WeChat "新智元", penulis: ASI启示录
