CEO Triliunan Dolar Silicon Valley, Ternyata Seorang 'Guru Kiamat Bermuka Dua'?!
Beberapa hari ini, sebuah artikel panjang yang sangat penting dari The Information hampir mengungkap semua rahasia Dario Amodei.
Selama 42 hari, wartawan Cory Weinberg mewawancarai bawahan, pesaing, dan investor, akhirnya menyusun 'persona bermuka dua' yang sangat dramatis—
Di satu sisi berulang kali memperingatkan bahwa AI mungkin memusnahkan umat manusia, di sisi lain secara pribadi menginjak pedal gas, bertaruh pada percepatan datangnya 'Singularitas'.
Takut pada AI, tetapi berjudi besar pada AI. Dario Amodei, sisi mana yang sebenarnya?
Sisi A: AI Mungkin Memusnahkan Seluruh Umat Manusia
Awal tahun ini, suasana opini publik tentang AI sedang jatuh ke titik terendah, permusuhan dan ketakutan publik terhadap teknologi ini mencapai puncaknya.
Dalam rapat tertutup inti Anthropic, direksi yang hadir menyarankan:
Anthropic harus menggunakan pengaruh industri yang luar biasa, seperti Microsoft, Meta, bahkan Google pada masanya, untuk meluncurkan kampanye hubungan masyarakat yang disebut 'Serangan Pesona' (Charm Offensive).
Misalnya, fokus mempromosikan potensi besar AI dalam menemukan obat kanker baru, mengatasi penyakit langka, dan bidang-bidang yang bermanfaat bagi manusia.
Setelah mendengarnya, Dario yang duduk di ujung meja tidak ragu sama sekali, langsung menolak saran itu—
Orang-orang dulu memang melakukannya seperti itu, tetapi kali ini, yang kita hadapi adalah 'krisis eksistensial' yang nyata.
Arah akhirnya tidak hanya tidak kompromi, malah berjalan ke ekstrem yang lain.
Selama acara Piala Dunia yang sangat dinanti-nantikan, iklan Anthropic tiba-tiba menampilkan serangkaian gambar yang gelap dan menekan: sebarisan nisan yang dingin dan suram muncul di tengah layar.
Anthropic mengisyaratkan, AI mungkin membunuh semua orang!
Takut pada AI, Sudah Sepuluh Tahun
Selama sepuluh tahun terakhir, Dario Amodei secara konsisten sangat fokus pada keamanan.
Sejak 2017, ketika seluruh dunia masih tenggelam dalam internet seluler, Dario Amodei telah memperingatkan tentang krisis keamanan yang mungkin dibawa oleh AGI.
Pada 2018, ketika semua orang bersorak gembira dengan kemampuan model OpenAI yang mulai menunjukkan taringnya, Dario menunjukkan kesadaran berjaga-jaga yang hampir neurotik.
Saat itu, ia mengesampingkan semua pendapat berbeda, dengan kuat menerapkan aturan besi yang tampak tidak selaras:
Semua penelitian inti OpenAI, sebelum dipublikasikan, harus melalui penilaian 'bahaya informasi' yang ketat, untuk mencegah rincian teknis bocor ke pesaing.
Kehati-hatian yang hampir kejam ini, sempat membuat rekan-rekan di OpenAI merasa tercekik.
Pada 2019, Microsoft sedang bersiap untuk menyuntikkan dana 'penyelamat' sebesar 10 miliar dolar ke OpenAI yang kehabisan dana.
Namun, tim keamanan Amodei malah memaksa negosiasi pendanaan yang menentukan hidup-mati ini, untuk diberhentikan sementara selama berbulan-bulan.
Alasannya—khawatir GPT-3 yang belum selesai dilatih akan berevolusi menjadi AGI yang lepas kendali.
Rekan kerja saat itu bahkan diam-diam mengejek, departemen Dario Amodei seperti 'kelas imam yang merasa diri paling benar dan memonopoli kebenaran'.
Komputer Tolak Tersambung Internet, Kirim Surat Secara Fisik
Yang lebih menarik, untuk menjaga kerahasiaan, Dario Amodei menolak semua akses internet eksternal.
Di apartemennya di San Francisco, ia menolak menggunakan komputer yang tersambung ke internet eksternal.
Semua memo inti, diselesaikan di komputer yang benar-benar 'terisolasi secara fisik' (Air-gapped).
Setelah selesai ditulis, tidak diunggah ke cloud, tidak dikirim email, langsung dicetak menjadi dokumen kertas, lalu 'secara fisik' dibawa ke kantor, untuk dibagikan ke tim.
Mentalitas 'Bunker' (Bunker Mentality) yang hampir paranoid ini, mencapai puncaknya pada tahun 2020.
Akhirnya karena perbedaan prinsip, ia membawa timnya keluar dari OpenAI, dan mendirikan Anthropic.
Di mata tim pendiri, Sam Altman yang mengejar komersialisasi dengan cepat sedang membawa umat manusia menuju tebing jurang.
Trauma ini mengendap di dalam Anthropic menjadi semacam daya kohesi yang unik, karyawan bahkan diam-diam menjuluki kewaspadaan ekstrem terhadap mantan majikan ini sebagai 'Sindrom Kegilaan Altman' (Sama Derangement Syndrome).
Sekarang, mentalitas seperti sedang menghadapi musuh berat di dalam Anthropic, membuat orang luar merasa bingung.
Sisi B: Otaknya Berisi 'Singularitas'
Investor Anthropic diam-diam memiliki satu penilaian yang hampir menjadi konsensus: "Dia lebih seperti pemimpin agama, daripada CEO."
Dario sangat jarang mencampuri manajemen sehari-hari. Gaji, struktur organisasi, penyesuaian personel, hampir semuanya diserahkan kepada adik perempuannya, Daniela.
Sedangkan dirinya sendiri, mengubah pandangannya menjadi mercusuar, menyinari setiap sudut perusahaan.
Baru-baru ini, mercusuar itu menyinari tim ekonom internal. Mereka menggunakan model matematika kasar untuk menilai dampak yang mungkin dibawa oleh 'Singularitas':
Singularitas lambat mungkin hanya menyumbang 0,5 poin persen pada pertumbuhan ekonomi AS, lapangan kerja pada dasarnya stabil; Singularitas cepat mungkin menyumbang 4 poin persen, sekaligus secara signifikan meningkatkan pengangguran.
Setelah mendengarkan, Dario hanya berkata satu kalimat: Ini kurang lebih sama dengan yang ada di pikiranku.
Karyawan membicarakan Dario Amodei, seperti membicarakan seorang mistikus. "Dia bisa meramal masa depan," kata seorang karyawan. "Otaknya berisi Singularitas," kata yang lain.
Rapat umum bulanan dua kali sebulan yang dipimpinnya, disebut 'Perjalanan Visi Dario Amodei'. Di rapat, ia akan membuka dokumen dengan cakupan luas, menyampaikan pandangan jujur tentang AI, politik, perang, dan masyarakat.
Di Slack, ia berbicara langsung dan terus terang, 'berdiskusi' dengan status sebagai sesama, mudah didekati, justru memicu loyalitas yang hampir religius.
Cara kepemimpinan seperti ini, hampir merupakan penyimpangan di Silicon Valley. Kebanyakan CEO dilatih menjadi 'mesin pertumbuhan', sedangkan Dario lebih seperti 'dewa' yang menghidupi sendiri doktrin keamanan.
Gaya kepemimpinan yang unik ini, membangun budaya organisasi di dalam Anthropic yang mirip dengan 'Kuil'.
Karyawan jenius datang bekerja di sini, tidak hanya untuk mendapatkan gaji jutaan dolar, tetapi untuk mempraktikkan kepercayaan bersama 'menyelamatkan umat manusia' di dunia yang telah tercemar modal.
Perusahaan komersial mendorong karyawan dengan KPI, sedangkan Kuil hanya menggunakan kepercayaan.
Pendapatan Tahunan 47 Miliar Dolar
Investor Takut Dia Tidak Suka Uang
Dalam perjalanan menuju Singularitas, Anthropic menciptakan keajaiban bisnis yang hampir seperti mitos—
Berdiri hanya 5 tahun, karyawan baru lebih dari 3000 orang, valuasinya sekarang mencapai 9650 miliar dolar.
Dibandingkan dengan valuasi sekitar 4,1 miliar dolar pada Mei 2023, dalam waktu tiga tahun singkat, valuasi melonjak menjadi sekitar 235 kali lipat.
Angka ini telah melampaui raksasa database Oracle yang telah berdiri hampir setengah abad.
Mari lihat satu perbandingan yang sangat dramatis: Hingga akhir Mei 2026, Oracle memiliki sekitar 141.000 karyawan; Sedangkan Anthropic, hanya 2-3% dari jumlah itu.
Sekarang Anthropic, menciptakan kecepatan pertumbuhan pendapatan tercepat sepanjang sejarah.
Namun anehnya, investor top yang sedang bersiap untuk meraup untung besar dalam IPO yang akan datang, wajahnya tidak tampak senang, malah gemetaran ketakutan.
"Yang paling saya takuti, adalah dia sama sekali tidak peduli pada uang".
Seorang investor senior Silicon Valley yang pernah meneliti Anthropic di tahap awal, menulis seperti itu di catatannya.
Manajer dana bersama lain yang bersiap untuk menginvestasikan besar-besaran dalam IPO-nya, setelah bertemu muka hampir memohon dengan sedih: "Tolonglah dia, bisakah dia berhenti menakut-nakuti semua orang?"
Perlu diketahui, yang duduk di hadapan Dario, adalah sekelompok raksasa modal yang memegang dana triliunan dolar, terbiasa mengukur segalanya dengan pertumbuhan, laba, dan valuasi.
Tetapi yang paling Dario gemari untuk didiskusikan dengan mereka, justru bukan rencana bisnis Anthropic, melainkan 'kemungkinan AI memusnahkan umat manusia'.
Menginjak Gas Mencari Rem: Taruhan Besar yang Menyangkut Nasib Seluruh Umat Manusia
Untuk mencegah AI menghancurkan dunia, kita harus turun tangan sendiri menciptakan AI yang paling kuat—
Ini adalah paradoks paling menyeramkan pada diri Dario.
Karena kereta menuju 'Singularitas' sudah tidak bisa dihentikan, ia lebih memilih untuk menggenggam erat kemudi di tangan 'pengikut kiamat' seperti dirinya sendiri, daripada menyerahkannya kepada 'orang gila' yang melaju kencang.
Maka, kita melihat adegan paling terbelah dalam sejarah teknologi: ia sedang mencoba menggunakan cara membangun Kuil, untuk mengendarai mesin pencetak uang yang berputar liar.
Tapi tuntutan utama modal, selamanya adalah pertumbuhan yang tak berujung.
Ketika demam valuasi triliunan dolar dan ASI datang bersamaan, bisakah 'Guru Kiamat' ini masih mengekang raksasa yang ia besarkan sendiri?
Para pengikut sedang berjudi, modal juga sedang berjudi.
Dan kita semua, telah ditariknya ke meja kartu tanpa jalan mundur ini.
Referensi:
https://www.theinformation.com/articles/dario-amodei-spread-anthropics-religion-stirred-silicon-valley
https://www.iheart.com/podcast/1119-listen-to-the-story-84532929/episode/can-anthropic-win-the-ai-race-276045535/
Artikel ini berasal dari akun WeChat publik "Xin Zhi Yuan", penulis: ASI Revelation, editor: David Tao Zi
