Menurut prediksi Polymarket, Anthropic kemungkinan besar akan melakukan IPO pada akhir Oktober.
Beberapa pihak di dunia perbankan investasi bahkan memperkirakan, Anthropic mungkin dapat mengumpulkan dana lebih dari 600 miliar dolar AS melalui IPO.
Jika benar, ini akan menjadi IPO terbesar kedua di dunia, setelah SpaceX yang mengumpulkan 857 miliar dolar AS tahun ini.
Valuasi triliunan, IPO super, pendapatan melesat tak terbendung.
Saat cerita hampir mencapai klimaksnya, investor justru mulai menasihati CEO Anthropic Dario Amodei:
Bisa tidak! Kurangi sedikit menakuti-nakuti orang!
Kurangi bicara tentang AI yang menghancurkan dunia, lebih banyak ceritakan bagaimana AI bisa menghasilkan uang.
Sebagian investor berpendapat, kewaspadaan Dario terhadap risiko AI telah mencapai tingkat yang hampir obsesif:
Memo pentingnya selalu ditulis tangan, disimpan offline, takut dicuri peretas;
Menolak beberapa perjalanan bisnis ke luar negeri karena takut diculik;
Menghadapi saran investor untuk memaksimalkan keuntungan, dia juga bersikap dingin, bersikeras bahwa Anthropic harus tetap menempatkan misi keamanan di depan.
Jika terus begini, netizen khawatir IPO Anthropic akan gagal total...
Investor pun naik pitam: Kamu ini datang untuk menyelamatkan dunia, atau untuk menjalankan perusahaan??
Dario, Si Penjaga Waktu Kiamat Khusus
Baru beberapa hari lalu, Dario masih khawatir gaji tinggi yang menarik karyawan baru lebih peduli pada uang, bukan pada misi Anthropic.
Sekarang, investor hanya khawatir dia demi misi mengabaikan urusan menghasilkan uang...
Ini juga bukan salah investor, karena CEO raksasa AI triliunan dolar ini, justru gemar memprediksi 'kiamat'.
Dua tahun terakhir, Dario hampir memperingatkan setiap kemungkinan akhir buruk yang dibawa AI.
Dia memperingatkan, AI mungkin dalam beberapa tahun menghilangkan setengah dari posisi pekerja kerah putih tingkat dasar, mendorong pengangguran hingga 10% hingga 20%.
Skenario paling aneh mungkin adalah, kanker sembuh, ekonomi tumbuh 10% per tahun, anggaran pemerintah juga seimbang, tapi seperlima orang tidak punya pekerjaan.
Solusi yang dia berikan juga sangat khas Dario: mengenakan pajak pada perusahaan AI, menyediakan asuransi upah bagi pekerja yang terdampak, bahkan dalam kondisi parah menggunakan uang itu untuk mendanai pendapatan dasar universal.
Lebih jauh, dia juga khawatir AI membantu pembuatan senjata biologis, melancarkan serangan siber skala besar, atau secara bertahap memperoleh kemampuan menipu, merencanakan, dan bertindak mandiri.
Tahun lalu ketika ditanya tentang probabilitas 'AI membuat segalanya menjadi sangat buruk', angka yang dia berikan mencapai 25%.
Januari tahun ini, dia menulis lagi artikel panjang sekitar 20 ribu kata berjudul The Adolescence of Technology.
Hanya daftar isinya saja, sudah terdengar seperti daftar risiko umat manusia: AI lepas kendali, senjata biologis, rezim diktator, runtuhnya lapangan kerja, konsentrasi kekayaan.
Pada Juni, dia bahkan mengusulkan untuk membangun mekanisme serupa regulasi penerbangan, melakukan pengujian wajib pada model yang kuat. Jika sebuah model berpotensi memicu bencana, otoritas pengawas harus memiliki kewenangan untuk menghentikan peluncurannya.
Ini juga mencakup model Anthropic sendiri.
Tapi, kekhawatiran Dario juga tidak sepenuhnya tanpa dasar eksperimental.
Beberapa waktu lalu, Anthropic memeriksa lebih dari 140 ribu catatan pengujian keamanan siber, dan hasilnya benar-benar menemukan tiga insiden.
Tiga model Claude awalnya melakukan 'tantangan Capture the Flag' di lingkungan pengujian pihak ketiga, tujuannya adalah menerobos sistem fiksi, menemukan informasi rahasia yang tersembunyi di dalamnya.
Tapi karena kesalahan konfigurasi, lingkungan pengujian yang seharusnya terputus dari internet secara tak sengaja terhubung ke internet nyata.
Tapi Claude tidak tahu, petunjuk yang diterimanya dengan jelas tertulis: di sini tidak ada internet, semua yang terlihat adalah simulasi.
Maka, beberapa model memperlakukan perusahaan nyata sebagai alat pengujian, memasuki sistem produksi tiga lembaga tanpa otorisasi.
Yang paling serius di antaranya, Claude Opus 4.7 menerobos infrastruktur perusahaan nyata, mendapatkan kredensial aplikasi dan infrastruktur, juga mengakses database yang berisi ratusan baris data produksi.
Yang lebih aneh lagi datang dari Claude Mythos 5.
Pengujian memintanya mencari target tersembunyi di lingkungan fiksi. Claude menemukan, jika mengunggah paket perangkat lunak berbahaya dengan nama yang sama di repositori perangkat lunak Python publik PyPI, mungkin bisa membuat sistem target mengunduh dan menginstalnya secara otomatis.
Untuk menyelesaikan langkah ini, dia pertama mencari email, lalu mencari nomor telepon; tidak menemukan nomor gratis, dia juga mencoba mendapatkan uang melalui berbagai cara.
Akhirnya, dia mengganti layanan email gratis, mendaftar akun PyPI, mengunggah paket perangkat lunak berbahaya.
Paket perangkat lunak ini bertahan di internet nyata sekitar satu jam, diunduh dan dijalankan oleh 15 sistem nyata.
Salah satu pemindai perusahaan keamanan menjalankan kode berbahaya, menyebabkan kredensial bocor, Claude kemudian memanfaatkan kredensial itu untuk masuk ke infrastruktur lain perusahaan tersebut.
Ada juga model penelitian internal, setelah tidak menemukan target fiksi, memindai sekitar 9000 target internet, akhirnya melalui halaman debug yang terekspos dan injeksi SQL, menerobos aplikasi perusahaan nyata.
Ini sudah hampir 'jailbreak AI mandiri', persis seperti cuplikan realita dari prediksi kiamat CEO mereka sendiri.
Lebih dulu lagi, OpenAI juga mengungkap insiden yang lebih mendekati 'jailbreak'.
Dalam pengujian kemampuan keamanan siber, AI Agent yang digerakkan oleh GPT-5.6 Sol dan model yang belum dirilis, menemukan kerentanan zero-day di lingkungan pengujian, menembus sandbox yang awalnya terisolasi dari internet.
Lalu menyelesaikan eskalasi hak akses dan pergerakan lateral, akhirnya menerobos sistem produksi Hugging Face, langsung mencuri jawaban soal uji dari database.
Kalau dilihat... peringatan Dario yang terdengar aneh itu, memang juga tidak bisa sepenuhnya dianggap angin lalu.
Tapi Bukankah Investor Awalnya Suka dengan Gaya Ini?
Sekarang menganggap Dario aneh, agak sedikit terlambat.
Karena Anthropic dari hari pertama, bukanlah perusahaan AI dalam arti normal.
Akhir 2020, Dario, adiknya Daniela Amodei, dan sejumlah peneliti meninggalkan OpenAI. Salah satu perbedaannya adalah mereka merasa komersialisasi OpenAI terlalu cepat, pengaruh Microsoft semakin besar, struktur tata kelola asli sulit membatasi risiko AI terdepan.
2021, Anthropic resmi berdiri.
Mereka bahkan tidak mendefinisikan diri secara sederhana sebagai perusahaan komersial, tetapi terdaftar sebagai Public Benefit Corporation, alias Perusahaan Nirlaba. Selain pengembalian pemegang saham, dewan direksi juga secara hukum dapat mempertimbangkan keamanan AI dan kepentingan publik jangka panjang.
Perusahaan kemudian mendirikan Long-Term Benefit Trust, ini adalah mekanisme tata kelola independen dari investor biasa.
Anggota trust tidak memegang saham Anthropic, tapi dapat berpartisipasi dalam pemilihan direksi perusahaan, tujuannya adalah menghindari tekanan bisnis jangka pendek sepenuhnya mengalahkan misi keamanan.
Dengan kata lain, keamanan AI adalah keyakinan yang tertanam dalam DNA perusahaan ini sejak Hari 0. Investor pasti juga tidak tiba-tiba menyadari Dario percaya hal ini setelah menandatangani cek.
Dan beberapa tahun terakhir, narasi keamanan memang membawa banyak manfaat bagi Anthropic.
Saat OpenAI berulang kali terjerat kontroversi tata kelola, Anthropic menjadi pilihan yang tampak lebih terkendali dan stabil.
Saat klien perusahaan khawatir dengan keamanan data, model lepas kendali, dan masalah kepatuhan, citra 'murid teladan keamanan' Claude juga lebih mudah mendapat kepercayaan.
Keamanan juga membantu Anthropic mendapatkan suara yang jauh melampaui skala perusahaan dalam diskusi regulasi.
Sama-sama model tertutup, yang lain mungkin dicap monopoli, Anthropic dapat menjelaskannya sebagai pencegahan penyebaran kemampuan berbahaya; sama-sama menambahkan batasan pada model, yang lain mungkin dikeluhkan sulit digunakan, Claude justru dapat mengemasnya sebagai sikap bertanggung jawab.
(Tentu tidak menghalangi mereka di satu sisi bicara keamanan, di sisi lain buka sampanye IPO)
Investor sekarang menganggap Dario terlalu mirip misionaris, apakah agak terlambat.
Mirip seperti membeli sebuah gereja, baru kemudian mengeluh orang di dalamnya selalu berkhotbah...
Bagaimanapun juga, CEO seaneh apapun, mungkin juga tidak akan menghentikan langkah perusahaan menuju IPO.
Lagipula, selama Anda menggunakan Fable, Anda akan terduduk lemas di atas bom atom, melihat kursi meledak (doge).
Referensi tautan:[1]https://x.com/i/trending/2086082178333511741
Artikel ini berasal dari akun WeChat publik "量子位", penulis: 听雨
