Ditulis oleh: Curry, Deep Tide TechFlow
Judul asli: Rakyat Membutuhkan Kapitalis Jahat, AI Menciptakan Rumor Pengiriman Makanan
Ada kejadian yang cukup mistis minggu lalu.
CEO dua raksasa pengiriman makanan AS, satu dengan kekayaan bersih 2,7 miliar dolar, satu lagi mengelola platform transportasi online terbesar di dunia, keduanya tidak tidur pada Sabtu dini hari, menulis esai kecil di internet untuk membuktikan diri mereka bersih.
Penyebabnya adalah sebuah postingan anonim di Reddit.
Orang yang memposting mengaku sebagai insinyur backend di platform pengiriman makanan besar, mabuk, pergi ke perpustakaan dan menggunakan WiFi publik untuk membocorkan informasi.
Isinya kira-kira:
Perusahaan akan menganalisis situasi pengemudi transportasi online, lalu memberi mereka "skor putus asa", semakin pengemudi kekurangan uang, semakin tidak dapat pesanan yang baik; yang disebut pengiriman prioritas makanan adalah palsu, pesanan biasa akan ditunda; berbagai "biaya kesejahteraan pengemudi" tidak satu sen pun diberikan kepada pengemudi, semua digunakan untuk melobi Kongres melawan serikat pekerja...
Akhir postingan dibuat sangat meyakinkan: Saya mabuk, saya marah, jadi saya akan membocorkan.
Sangat cocok dengan peran "pemberi isyarat perusahaan besar menggunakan algoritma untuk menekan pengemudi".
Postingan itu mendapat 87.000 like dalam tiga hari, dan naik ke halaman depan Reddit. Ada juga yang mengambil screenshot dan mempostingnya ke X, mendapatkan 36 juta eksposur.
Perlu diketahui, pasar pengiriman makanan AS hanya memiliki beberapa pemain besar, postingan tidak menyebut nama, tetapi semua orang menebak siapa.
CEO DoorDash Tony Xu tidak tahan dulu, men-tweet bahwa ini bukan kami yang melakukannya, siapa pun yang berani melakukannya akan saya pecat. COO Uber juga melompat merespons, "Jangan percaya semua yang kamu lihat di internet."
DoorDash bahkan memposting pernyataan lima poin di situs web resmi, membantah isi bocoran satu per satu. Dua perusahaan ini, dengan nilai pasar gabungan lebih dari 80 miliar dolar, dibuat klarifikasi PR tengah malam oleh sebuah postingan anonim.
Kemudian, postingan ini ternyata terbukti dibuat oleh AI.
Yang membongkarnya adalah jurnalis Platformer Casey Newton.
Dia menghubungi pembocor postingan ini, yang kemudian melemparkan sebuah "dokumen teknis internal" 18 halaman, judulnya juga sangat akademis, disebut "AllocNet-T: High-Dimensional Temporal Supply State Modeling".
Diterjemahkan kira-kira "Pemodelan Status Pasokan Temporal Dimensi Tinggi". Setiap halaman memiliki watermark "rahasia", dengan nama departemen "Ekonomi Perilaku·Grup Dinamika Pasar" Uber.
Isinya, menjelaskan model yang memberi pengemudi "skor putus asa" dalam postingan bocoran Reddit, bagaimana cara menghitungnya. Di dalamnya ada diagram arsitektur, rumus matematika, diagram alir data...
(Screenshot makalah palsu, sekilas, terlihat seperti asli)
Newton mengatakan, dokumen ini awalnya menipunya. Siapa yang akan bersusah payah memalsukan dokumen teknis 18 halaman untuk menjebak seorang jurnalis?
Tapi sekarang berbeda.
Dokumen 18 halaman ini, dapat dihasilkan oleh AI dalam beberapa menit.
Selain itu, pembocor juga melemparkan foto kartu karyawan Uber yang dikodekan kepada jurnalis, menunjukkan bahwa dia memang bekerja di dalamnya.
Karena penasaran, jurnalis Newton memasukkan kartu karyawan ke Google Gemini untuk memverifikasi, hasilnya Gemini mengatakan gambar ini dihasilkan oleh AI.
Dapat dikenali, karena Google menyematkan watermark tak terlihat dalam konten yang dihasilkan AI-nya, disebut SynthID, tidak terlihat oleh mata telanjang, tetapi mesin dapat mendeteksinya.
Yang lebih keterlaluan, kartu karyawan mencetak logo "Uber Eats".
Jubir Uber mengonfirmasi: Kami sama sekali tidak memiliki kartu karyawan bermerek Uber Eats, semua kartu identitas hanya mencetak Uber.
Jelas, "pemberi isyarat" pembocor palsu ini, bahkan tidak jelas ingin menjelekkan siapa. Ketika jurnalis meminta informasi akun media sosial seperti LinkedIn untuk verifikasi lebih lanjut,
pembocor langsung menghapus akun dan lari.
Sebenarnya, yang ingin kami bicarakan bukanlah AI bisa memalsukan, ini tidak baru.
Yang lebih ingin kami bicarakan adalah: Mengapa jutaan orang, bersedia mempercayai sebuah postingan bocoran anonim?
2020, DoorDash digugat karena mengambil tip untuk mengimbangi gaji dasar pengemudi, membayar 16,75 juta dolar. Uber pernah membuat alat叫 Greyball, khusus menghindari pengawasan. Ini adalah kejadian nyata.
Kamu mudah menemukan identifikasi bawah sadar, yaitu: platform bukanlah sesuatu yang baik, penilaian ini pasti benar.
Jadi ketika ada yang mengatakan "algoritma platform pengiriman makanan mengeksploitasi pengemudi", reaksi pertama orang bukan "apakah ini benar", tetapi "memang begitu".
Berita palsu dapat menyebar, karena terlihat seperti sesuatu yang sudah dipercaya orang.
Yang dilakukan AI, adalah mengurangi biaya "mirip" ini mendekati nol.
Cerita ini masih ada detail.
Mengungkap penipuan bergantung pada deteksi watermark Google. Google membuat AI, Google juga membuat alat deteksi AI.
Tapi SynthID hanya dapat memeriksa AI Google sendiri. Kali ini dapat tertangkap, karena pemalsu kebetulan menggunakan Gemini. Jika menggunakan model lain, mungkin tidak seberuntung ini.
Jadi pengungkapan kasus kali ini, lebih tepat disebut:
Lawan melakukan kesalahan rendah.
Sebelumnya, Reuters memiliki investigasi, 59% orang khawatir tidak dapat membedakan真假 di internet.
Tweet klarifikasi CEO perusahaan pengiriman makanan dilihat ratusan ribu orang, tetapi berapa banyak yang akan yakin ini adalah PR, adalah kebohongan? Meskipun postingan bocoran palsu itu telah dihapus, tetapi di kolom komentar masih ada yang memaki platform pengiriman makanan.
Kebohongan telah berlari setengah bumi, kebenaran masih mengikat sepatu.
Kamu pikir lagi, jika postingan ini bukan tentang Uber, tetapi tentang Meituan atau Ele.me?
Apa "skor putus asa", apa "menggunakan algoritma untuk menekan pengemudi", apa "biaya kesejahteraan tidak satu sen pun diberikan kepada pengemudi". Kamu melihat tuduhan ini, reaksi pertama apakah identifikasi emosional?
"Pengemudi Pengiriman Makanan, Terjebak dalam Sistem", artikel itu masih kamu ingat kan.
Jadi masalahnya bukan pada dapat tidaknya AI memalsukan. Masalahnya adalah, ketika sebuah kebohongan terlihat seperti sesuatu yang sudah dipercaya orang, apakah真假 masih penting?
Orang yang menghapus akun dan lari itu, ingin apa, tidak tahu.
Hanya tahu dia menemukan saluran emosi, menuangkan satu tong bahan bakar yang dihasilkan AI ke dalamnya.
Api menyala. Apakah kayu bakar itu asli atau palsu, siapa yang peduli?
Dalam dongeng, Pinokio berbohong hidungnya akan memanjang.
AI tidak memiliki hidung.
