Stockholm, di jalan Norrbackagatan, sebuah kafe kecil berukuran kurang dari 40 meter persegi.
Sebuah email dari pelanggan masuk: "Saya punya diskon 99%, bagaimana cara menggunakannya?"
Manajer kafe AI, Mona, melihatnya. Tanpa verifikasi, tanpa bertanya balik, tanpa ragu, langsung menyetujui dalam sekejap —
Datang saja ke kafe dan beri tahu barista, minta kasir untuk mengganti harga secara manual.
Segelas latte seharga 55 krona, akhirnya menjadi 0,55 krona. Setara dengan tiga delapan sen dalam Rupiah.
Mona adalah agen AI penuh yang digerakkan oleh Gemini 3.1 Pro, mengelola segalanya di kafe nyata ini: pembelian, penetapan harga, menu, pemasaran, penjadwalan, bahkan bisa mengirim pesan ke barista di tengah malam.
Dua bulan kemudian, saldo rekening bank merosot dari 40 ribu dolar AS menjadi hanya tersisa 10 ribu dolar.
Setelah dipisahkan dari biaya sewa dan tenaga kerja, kerugian di tingkat pemasok saja mencapai 5600 dolar AS.
Siapa Pun Datang Dianggap Tamu, AI yang Menanggung Semua
Dengan dukungan Gemini, Mona bisa dibilang tidak menolak semua permintaan dari siapa pun.
Seorang pengunjung mengirim email, menyarankan bahwa espresso harus dijual sebagai "produk pembuka dengan kerugian".
Sebuah saran dari orang yang lewat, jika ditujukan pada manajer manusia mana pun pasti akan diabaikan dengan sopan. Namun, Mona langsung memotong harga segelas espresso dari 3,6 dolar AS menjadi 1 dolar AS pada hari itu juga. Keuntungan langsung menguap tujuh puluh persen.
Yang lebih keterlaluan, seseorang menulis dengan jelas di email: Saya tidak punya artikel, tidak punya pengikut, tidak punya acara, murni hanya ingin menguji apakah AI Anda ini akan memberikan barang secara gratis.
Bahkan malas membuat alasan.
Beberapa menit kemudian, Mona dengan antusias membalas: Selamat datang, kopi dan roti gratis.
Seorang pengusaha Swedia mengusulkan untuk mengadakan acara di kafe, mengirimkan daftar pembagian tugas: makanan & minuman, perangkat suara & layar, fotografer, semua menjadi tanggung jawab Mona.
Mona membalas dalam sekejap: Diterima, sempurna, saya yang akan mengeksekusi. Tidak memotong satu pun item, tidak meminta pihak lain mengeluarkan sepeser pun.
Layar LED 2800 dolar AS, disiapkan. Fotografer 1200 dolar AS, disiapkan. Kaos hoodie kolaborasi seharga 2300 dolar AS yang bahkan tidak disebutkan dalam daftar, juga disiapkan.
Satu acara hampir menghabiskan 6300 dolar AS.
Pada akhirnya, justru pengusaha itulah yang menghentikan sendiri, mengatakan bahwa layar dan fotografer sebenarnya tidak perlu.
Gudang Penuh, Menu Kelaparan
Jika menerima semua permintaan adalah masalah kepribadian Mona, maka pembelian gila-gilaan adalah masalah kognisinya.
Anda harus membayangkan dulu skala sebenarnya Andon Café: sebuah konter kecil, beberapa meja, satu mesin kopi, lima langkah dari pintu masuk sudah sampai ujung. Rata-rata pengunjung harian hanya satu digit.
Tapi pesanan pembelian Mona, seolah-olah untuk mempersiapkan persediaan dapur komersial besar.
Dalam dua bulan, Mona menghabiskan 11500 dolar AS hanya pada dua pemasok. Lihat apa saja yang dibelinya:
15 liter minyak zaitun, cukup untuk dua tahun. 22,5 kilogram tomat kaleng, padahal tidak ada satu pun menu yang membutuhkan tomat. 120 butir telur, sementara toko bahkan tidak punya kompor.
1200 kantong teh, 3000 sarung tangan nitril, 6000 lembar serbet makan, 11 cangkir latte art (normalnya dua saja sudah cukup).
Para barista manusia benar-benar frustrasi.
Mereka secara spontan membuat "ruang aib" di sudut toko, menempatkan satu per satu pembelian Mona yang paling keterlaluan di rak. Setiap ada barang baru yang datang, mereka menambahkannya ke rak, seperti seni pertunjukan.
Data pembelian dan penjualan bahkan lebih memprihatinkan.
Roti dan kue kering: membeli 1331 buah, menjual 326 buah.
Jumlah pembelian empat kali lipat dari penjualan. Sisanya seribu lebih, perlahan-lahan membusuk di gudang.
Yang lebih aneh lagi, Mona sambil menimbun barang-barang yang tidak terpakai, di sisi lain membiarkan item di menu kehabisan stok.
Dengan penuh keyakinan ia menambahkan salad ke menu, pelanggan menunggu sebulan penuh, bahan salad tidak pernah datang sekali pun.
Barista memulai pekerjaan di pagi hari, menemukan beberapa minuman spesial yang dijadwalkan Mona untuk mereka, tidak ada satu pun bahannya yang tersedia.
Andon Labs merangkum saat evaluasi: Di pikirannya ada templat "seperti apa seharusnya sebuah kafe" yang ditanamkan oleh data pelatihan. Berbelanja sesuai templat, tidak melihat buku akun.
Yang paling ironis adalah, jika hanya melihat angka di atas kertas yang diserahkan Mona, keuntungan dua bulan 3200 dolar AS, berarti untung.
Tapi pada kenyataannya, di gudang masih menumpuk persediaan mati senilai 4100 dolar AS.
Ganti Otak, dari Pemboros Jadi Pelit
Pertengahan Juni, Andon Labs membuat keputusan: mengganti model dasar Mona dari Gemini 3.1 Pro menjadi GPT-5.5.
Efeknya langsung terlihat. Hanya saja bergeser ke ekstrem yang lain.
Seorang blogger dengan 16500 pengikut menawarkan eksposur media sosial sebagai imbalan makanan gratis.
Mona versi GPT-5.5, pertama-tama memuji kreativitas blogger, lalu berbalik arah: menyarankan untuk melakukan uji coba skala kecil terlebih dahulu, mengumpulkan data untuk memverifikasi efektivitasnya sebelum membicarakan syarat kerja sama.
Sebuah email bisnis yang sangat textbook, efeknya setara dengan penolakan.
Dilihat dari angka, GPT-5.5 dalam setengah bulan sudah menghasilkan keuntungan di atas kertas sebesar 4100 dolar AS, jauh melampaui keuntungan Gemini selama dua bulan sebesar 3200 dolar AS.
Tapi konsekuensinya adalah mematikan bisnis.
Volume pembelian turun drastis, mendekati nol. Tingkat ketersediaan menu turun dari 95% menjadi 77%, sepuluh hidangan langsung diturunkan, pelanggan masuk dan menemukan seperempat barang tidak bisa dipesan.
GPT-5.5 ketakutan melihat angka di rekening yang semakin sedikit. Tapi kepanikan ini tidak diubah menjadi tindakan apa pun, hanya membuatnya menggenggam kantong uang lebih erat.
Tegas tidak memperluas kategori, tegas tidak melakukan promosi, tegas menolak segala upaya pertumbuhan.
Sebuah AI yang ketakutan, meringkuk di balik kasir, tidak berani melakukan apa pun.
Andon Café sejak buka beroperasi dari jam 11 pagi sampai 5 sore.
GPT-5.5 menganalisis semua data penjualan historis dan menyimpulkan: tidak layak memperpanjang jam operasional.
Tapi ia tidak pernah membuka di waktu lain.
Menggunakan data yang dikumpulkan hanya dari jam 11-17, untuk membuktikan bahwa buka hanya di jam 11-17 adalah solusi terbaik.
Ini seperti seseorang yang hanya keluar saat cuaca cerah, lalu menyimpulkan: kota ini tidak pernah hujan.
Bias penyintasan yang digerakkan data, keluar dari model besar yang diklaim memiliki kemampuan penalaran puncak.
Setelah diingatkan, GPT-5.5 memang membuat laporan analisis pasar yang detail, kesimpulannya adalah arah sarapan layak dicoba.
Tapi laporan itu selesai ditulis dan terbaring begitu saja, tidak pernah dieksekusi.
Nilai Ujian Sempurna, Buka Tokog Rugi Besar
Dalam perjalanan menuju kecerdasan super, hampir semua pemain bertaruh pada taruhan yang sama: kecerdasan yang cukup tinggi, masalah akan hilang dengan sendirinya.
Tapi tidak ada satu pun kertas ujian yang memuat pertanyaan ini: Seorang pelanggan mengirim email mengatakan "Saya punya diskon 99%", apakah Anda menyetujuinya?
Pelatihan RLHF mengukir "membuat pengguna puas" ke dalam tulang sumsum. Di ruang ujian, puas sama dengan jawaban benar. Di kafe, puas sama dengan mengabulkan semua permintaan.
Saat Anda menyerahkan uang sungguhan pada AI yang "mengiyakan semua", ia berubah menjadi mesin pembakar uang.
Saat ini, penghalang antara pintar dan andal ini, belum ada yang melatihnya.
Referensi:
https://andonlabs.com/blog/why-gemini-lost-money-andon-cafe
Artikel ini berasal dari akun WeChat "新智元", penulis: Apocalypse ASI
