Mengenai pendiri Anthropic, Dario Amodei, ada dua cerita yang beredar. Saling bertentangan, tapi keduanya masuk akal.

Satu cerita mengatakan, dialah penjaga malam paling waspada di zamannya. Seluruh dunia menginjak gas menuju jurang kecerdasan super, hanya dia yang bersedia berdiri di pinggir jalan, berteriak berulang kali, di depan ada jurang.

Cerita lainnya mengatakan, dialah salah satu orang paling ambisius di Silicon Valley. Dia memimpin perusahaan AI terkuat di dunia, bekerja siang malam, membangun masa depan yang telah diperingatkan semua orang itu, sedikit demi sedikit, dengan tangannya sendiri.

Seseorang, benar-benar bisa melakukan kedua hal ini sekaligus.

Dia memberi nama untuk dunia yang dibayangkan itu, "Negara Jenius di Pusat Data". Di negara itu ada lima puluh juta jenius, tidak tidur, bekerja dua puluh empat jam sehari, kecepatan berpikir puluhan kali lipat orang biasa, dan bisa mereplikasi diri menjadi banyak jenius yang sama. Negara ini tidak memiliki tanah, tidak memiliki batas, ia berada di barisan pusat data.

Januari 2026, dia menuliskan imajinasi ini dalam sebuah artikel panjang, berjudul "Remaja Teknologi".

Kemudian dia melanjutkan satu langkah ke depan. Bagaimana jika suatu hari, lima puluh juta jenius ini tidak mendengarkan perintah manusia lagi?

Gambaran setelahnya menjadi berbahaya. Senjata biologis, pengangguran massal, kediktatoran, perang, dia menghitung satu per satu. Pada akhirnya, dia berkata, waktu kita tidak banyak lagi.

Tapi di artikel yang sama, dia juga menulis: "AI sudah menulis banyak kode untuk Anthropic, membantu membuat model generasi berikutnya lebih cepat."

Di satu sisi memperingatkan, di sisi lain mempercepat. Dia tidak merasa ada kontradiksi di antara keduanya.

Inilah titik awal seluruh masalah, bukan karena dia jahat, tapi dia benar-benar tidak merasa.

Tentu, dia punya penjelasannya. Anthropic berhenti, OpenAI tidak berhenti, Google tidak berhenti, perusahaan negara lain juga tidak akan berhenti. Tidak ada yang mau melepaskan tangan pertama, yang berhenti paling awal, kemungkinan besar tidak bisa menghentikan apa pun, hanya memberikan buahnya kepada orang lain.

Ucapan ini diterjemahkan berarti, karena semua orang berebut, biarlah "aku" yang berebut pertama. Karena tidak ada yang bisa berhenti, biarlah "aku" yang menentukan kapan berhenti.

Dengan begitu, apakah kecerdasan super harus dibuat, justru tidak terlalu penting. Menurut penilaiannya, cepat atau lambat ia akan dibuat. Yang benar-benar penting adalah, siapa yang membuatnya pertama, dan pada hari itu tiba, siapa yang berhak memegang setir.

Tidak Sampai Waktu

Dario Amodei lahir tahun 1983 di San Francisco. Ayahnya orang Toscana Italia, seumur hidup berbisnis barang kulit; ibunya keturunan Yahudi Chicago, turut berkontribusi dalam perencanaan dan pembangunan Perpustakaan Umum San Francisco.

Dari kecil dia suka matematika dan fisika. Akhir 1990-an, gelembung internet Teluk San Francisco, perusahaan bermunculan satu demi satu, anak muda membuat website, mencari investasi, menghitung berapa uang yang bisa dicairkan saat IPO. Cerita-cerita ini tidak menggugahnya. Bertahun-tahun kemudian dia bilang, waktu itu dia mencari "kebenaran ilmu dasar", dia hanya ingin memahami, mengapa dunia tumbuh seperti ini.

Dia memiliki ketekunan yang hampir membandel terhadap apa yang disebut "masalah penting". Begitu yakin sesuatu cukup penting, dia tidak paham, bagaimana orang masih bisa melambat dengan tenang.

Tahun 2003, AS hendak menyerang Irak, dia kuliah di California Institute of Technology. Banyak yang anti perang di kampus. Saat ngobrol, ada yang bicara khawatir; keesokan harinya, semua tetap kuliah. Dia menulis artikel di koran mahasiswa mengkritik teman-teman, bilang kalau benar-benar takut perang akan membunuh banyak orang, penolakan tidak boleh hanya di mulut, menunggu sampai benar-benar terjadi, baru menyesal sudah terlambat.

Baginya, ragu bukanlah netral. Menunggu, itu sendiri adalah pilihan.

Anak muda dua puluh tahun ini, yang paling tidak bisa ditolerir, adalah menunggu.

Tiga tahun kemudian, dia dua puluh tiga tahun, ayahnya meninggal karena Hepatitis C.

Hepatitis C saat itu hampir tidak ada obatnya. Terapi standarnya adalah suntik interferon selama setahun penuh, tapi menyebabkan demam, rambut rontok, depresi, tingkat kesembuhan kurang dari setengah.

Desember 2013, obat baru disetujui. Masa pengobatan dipersingkat jadi dua belas minggu, tingkat kesembuhan sembilan puluh lima persen.

Ayahnya tidak sempat menunggu.

Hanya selisih tujuh tahun.

Seorang anak yang tidak bisa menyelamatkan ayahnya, dua puluh tahun kemudian, terus mendorong sains lebih cepat, lebih cepat lagi.

Setelah ayahnya meninggal, dia beralih dari fisika teoretis ke biofisika, meneliti sirkuit saraf retina di Princeton. Instrumen saat itu sekali hanya bisa merekam sedikit sinyal saraf, dia anggap lambat, lalu ikut membuat sensor baru.

Kemudian, dia masuk Fakultas Kedokteran Stanford, meneliti kanker dan protein. Semakin dekat dengan penyakit, manusia semakin terlihat kecil. Satu penyakit melibatkan ratusan gen, ribuan protein, dan jalur tak terhitung yang saling terkait. Peneliti menghabiskan bertahun-tahun, mungkin bisa memahami satu bagian, tapi tetap tidak tahu, apa yang terjadi saat dimasukkan kembali ke seluruh tubuh.

Belakangan dia menggambarkan, kompleksitas itu membuatnya hampir putus asa.

AI masuk ke pandangannya saat itu, sebuah alat yang bisa memperbesar skala manusia. Mesin bisa sekaligus membaca banyak makalah, memproses banyak data, mencoba banyak kemungkinan, menggantikan kerja kognitif yang seharusnya dilakukan ratusan, ribuan peneliti bersama.

Dia berangkat dari "manusia terlalu kecil", sampai pada kesimpulan membuat sesuatu yang lebih besar, memampatkan manusia sekali lagi.

Tahun 2014, dia meninggalkan ilmu kehidupan, masuk tim kecerdasan buatan Baidu di Silicon Valley. Tim segera menemukan, model lebih besar sedikit, data lebih banyak sedikit, komputasi ditambah sedikit, hasilnya akan terus meningkat. Beberapa tahun kemudian, pengalaman ini dirangkum jadi "Hukum Skala", kamu belum tentu tahu model generasi berikutnya tiba-tiba belajar apa, tapi bisa kira-kira pastikan, ia pasti lebih kuat dari generasi sebelumnya.

Kecerdasan untuk pertama kalinya terlihat bisa diproduksi seperti barang industri. AI yang kuat, menjadi sesuatu yang cepat atau lambat akan terlahir.

Perbedaan sisanya, hanya berapa banyak data, berapa banyak chip, berapa banyak listrik, dan masih harus menunggu berapa lama.

Orang yang paling benci menunggu itu, dengan tangannya sendiri membuktikan, jalan menuju jawaban yang diinginkannya, itu ada.

Setir

Tahun 2016, Dario Amodei masuk OpenAI.

Beberapa tahun setelahnya, model bahasa cepat membesar. Sampai GPT-3, OpenAI memberikan lebih dari setengah daya komputasi perusahaan kepada Dario, biar dia perbesar skala model seratus kali. Hasilnya lebih mengejutkan dari perkiraan banyak orang, bisa menulis artikel, menerjemahkan, meringkas, juga punya kemampuan yang tidak diajarkan siapa pun, belajar sendiri.

Skala bertambah sedikit, kemampuan bertambah sedikit.

Dia yakin jalan ini menuju kecerdasan umum. Dan begitu menerima model akhirnya mungkin sepintar manusia, keamanan tidak bisa lagi dianggap remeh.

Lalu dia menemukan masalah. Dario bertugas membuat model, tapi pelan-pelan sadar, membuat model, dan memutuskan model mau ke mana, itu dua hal berbeda. Kapan model dirilis, terbuka sampai sejauh mana, kerja sama dengan perusahaan mana, siapa yang punya hak keputusan, hal-hal ini tidak otomatis jadi urusannya karena dia yang bertanggung jawab melatih.

OpenAI internal terbagi dua. Satu kelompok mau cepat mendorong teknologi ke dunia; kelompok lain khawatir, perusahaan dipimpin siapa, bertindak berdasarkan prinsip apa, mungkin lebih penting dari detail teknis tertentu.

Lalu orang seperti apa, yang berhak memimpin perusahaan pembuat kecerdasan kuat?

Jawabannya adalah, pemimpin harus jujur, motivasi harus tulus, juga harus benar-benar ingin dunia jadi lebih baik.

Keamanan teknologi, pelan-pelan berubah jadi penilaian terhadap orang. Penurunan ini berbahaya, tapi juga sangat masuk akal. Bahayanya, ia menyederhanakan semua masalah kompleks, akhirnya jadi apakah orang ini bisa dipercaya. Dan dalam penurunan ini, bagian yang selalu absen, adalah siapa yang menilai apakah orang ini bisa dipercaya.

Sampai tahun 2020, konfliknya dengan pimpinan OpenAI sudah sulit didamaikan lagi. Desember tahun itu, dia membawa adiknya Daniela, Jack Clark, Chris Olah dan beberapa rekan, keluar dari OpenAI. Karena Dario suka panda, lingkaran kecil ini di internal disebut "Kelompok Panda".

Beberapa bulan kemudian, mereka mendirikan Anthropic. Anthropic, artinya dalam kamus adalah "yang berhubungan dengan manusia".

Kali ini, Dario tidak berniat menyerahkan setir kepada orang lain lagi.

Dua Puluh Orang

Tahun 2021, pandemi di San Francisco belum berakhir.

Anthropic baru berdiri belum lama, hanya lima belas sampai dua puluh orang. Kebanyakan waktu, semua rapat via Zoom; setiap minggu pilih satu hari, masing-masing bawa kursi, ketemu di taman. Sambil makan siang, ngobrol model, daya komputasi, penelitian keamanan, juga ngobrol perusahaan ini sebenarnya harus tumbuh seperti apa.

Kurang dari dua puluh orang, duduk di rumput San Francisco, tangan mungkin masih memegang setengah kotak salad belum habis, khawatirkan nasib delapan miliar orang ke depan.

Hukum Skala memberitahu mereka, masa depan pasti datang. Karena pasti datang, harus ada yang siapkan jalan lebih dulu. "Harus ada" empat kata ini, adalah seluruh pembenaran legalitas.

Target yang Anthropic tetapkan untuk diri sendiri, adalah sambil membuat model paling mutakhir, sambil meneliti cara memahami dan mengendalikannya, lalu menjadikan metode keamanan ini standar perusahaan lain.

Dario pernah makan kerugian sekali di OpenAI. Dia paham, hanya berdiri di pinggir teknologi bicara keamanan, pada akhirnya paling banter hanya bisa memberi saran kepada yang benar-benar memegang model. Ucapan sebaik apa pun, cuma berdiri di darat, ngajar orang di air cara berenang.

Harus masuk air sendiri.

Ini membuat Anthropic dari hari pertama berdiri, sudah terlihat janggal. Mau tahu model terkuat punya bahaya apa, harus punya model terkuat dulu; mau pengaruhi regulator, harus punya bobot di industri dulu.

Jadi, Anthropic cepat terseret ke siklus yang semua perusahaan model besar mutakhir hindari, pendanaan, beli daya komputasi, latih model, rilis produk, rebut klien, lalu tukar pendapatan dan valuasi baru dengan lebih banyak daya komputasi.

Dario bilang, membesarkan perusahaan, itu melindungi dunia. Investor juga mau percaya, menginvestasi Anthropic, itu investasi perusahaan AI yang lebih bertanggung jawab.

Keindahan ucapan ini adalah, semakin dia cari uang, semakin tampak bermoral; semakin tinggi valuasi perusahaan, bukti dia "melindungi dunia" semakin banyak.

Kepentingan bisnis dan misi peradaban saling mengangkat.

Arah, Dario yang beri. Dia tulis artikel panjang, bicara peradaban, sains, dan masa depan manusia. Yang menerjemahkan pertimbangan besar ini jadi kenyataan, adiknya Daniela, urus rekrutmen, bangun tim, cari uang.

Titik awal perusahaan, adalah pertimbangan besar yang hampir tidak bisa dibuktikan salah:

AI kuat segera datang, dan dunia butuh perusahaan yang lebih bisa dipercaya, berdiri di paling depan.

"Lebih bisa dipercaya", perusahaan sendiri yang bilang.

Narasi seperti ini memberi Anthropic daya kohesi kuat. Yang bergabung, bukan cuma cari pekerjaan bergaji lebih tinggi. Mereka percaya, yang dikerjakan adalah urusan besar terkait peradaban manusia.

Kondisi perusahaan paling menakutkan, adalah ketika karyawan benar-benar percaya diri sedang menyelamatkan manusia. Karena dari saat itu, semua ekspansi bisnis, otomatis jadi perang suci; semua suara penentang, otomatis jadi pengkhianatan terhadap manusia.

Tahun-tahun awal startup, Anthropic ingin buktikan, perusahaan AI bisa lebih hati-hati, lebih bertanggung jawab dari yang lain. Keinginan ini mungkin tulus.

Tapi ketulusan tidak pernah menjamin kebenaran. Orang tulus berbuat salah, sering lebih merepotkan dari orang munafik, karena mereka tidak pernah berhenti bertanya pada diri sendiri:

Bertanggung jawab, sebenarnya artinya apa?

Satu perusahaan swasta, atas dasar apa menggantikan seluruh dunia mengambil keputusan?

Penggaris

Pelatihan model besar awal, biasanya harus mengandalkan banyak anotator manusia menilai jawaban. Jawaban seperti apa lebih baik, konten seperti apa berbahaya, model harus tolak atau tidak, harus dinilai manusia dulu, baru masukkan preferensi ini ke mesin.

Cara ini efektif tapi berat. Anotator dari berbagai tempat, nilai-nilai juga beda. Aturan ditulis detail, tidak bisa mencakup semua situasi.

Anthropic memikirkan cara lain, daripada manusia berulang kali beri tahu model cara jawab setiap soal, lebih baik beri dia seperangkat prinsip dulu. Tahun 2022, Anthropic usulkan "AI Konstitusional". Cara kerjanya kira-kira, suruh model hasilkan jawaban dulu, lalu suruh dia cari kesalahan jawaban sendiri sesuai prinsip tertulis, temukan masalah, lalu perbaiki lagi.

"Konstitusi" ini semakin panjang. Harus paham kekuasaan, paham konflik kepentingan, paham apa itu dewasa, apa itu bijaksana. Bahkan harus berpikir tentang identitas, situasi, dan kesejahteraannya sendiri, jangan anggap diri sendiri sederhana sebagai alat tanpa nilai intrinsik.

Yang dibentuknya, adalah sebuah kepribadian.

Anthropic tulis di konstitusi, dokumen ini langsung membentuk perilaku Claude, mewakili pandangan perusahaan terhadap nilai dan karakter Claude, juga "otoritas akhir" untuk memahami cara Claude bertindak. Dalam sejarah, yang mengatur hal seperti ini, ada gereja, ada kaisar, ada partai politik. Sekarang sebuah perusahaan swasta.

Tapi saat pengaruh model besar terhadap dunia bukan lagi konsumsi sesekali. Apa yang Claude tolak, apa yang dia dorong, bagaimana dia menggambarkan sebuah negara, perang atau sistem politik, akan memengaruhi produk hilir, menjadi bagian cara orang lain memahami dunia.

Anthropic masih membuat keputusan dengan cara perusahaan, tapi dampak keputusan ini, semakin mirip sistem publik, tanpa menanggung pengawasan sistem publik apa pun.

Setelah tulis konstitusi untuk model, Anthropic mulai desain aturan lalu lintas untuk industri. Tahun 2023, perusahaan luncurkan "Kebijakan Perluasan yang Bertanggung Jawab". Model yang cuma bisa tulis email, dan model yang bisa desain senjata biologis, lakukan serangan siber kompleks, jelas tidak bisa diatur dengan cara sama. Jadi Anthropic bagi model ke tingkat risiko berbeda. Semakin kuat kemampuan, semakin besar kerusakan yang mungkin dibuat, perusahaan harus pakai langkah keamanan lebih ketat.

Sebuah perusahaan swasta, sejak itu sekaligus main beberapa peran. Dia buat model; model jadi, dia yang ukur seberapa berbahaya model ini; apa yang dianggap berbahaya, dia yang tetapkan standar; berbahaya sampai tahap apa harus dihentikan, juga dia yang tentukan batasnya; akhirnya, dia bawa hasil ini, beri tahu regulator cara buat aturan.

Sekaligus pemain, sekaligus wasit.

Anthropic jelas juga memikirkan hal ini. Supaya perusahaan tidak akhirnya habis ditelan kepentingan bisnis, Anthropic desain lagi Perwalian Kepentingan Jangka Panjang. Perwalian ini, terdiri dari beberapa anggota eksternal tidak langsung memegang kepentingan ekonomi perusahaan, tujuannya agar Anthropic selain pengembalian pemegang saham, juga mempertimbangkan kepentingan jangka panjang manusia. Menurut desain awal, perwalian akan pelan-pelan dapatkan kekuasaan memberhentikan dan mengangkat mayoritas direksi, menginjak rem saat perusahaan menyimpang dari misi.

Dari sudut tata kelola perusahaan, pengaturan seperti ini cukup jarang. Kebanyakan perusahaan startup saat pendanaan, sibuk membuktikan ke investor mereka akan tumbuh cepat. Anthropic malah sebaliknya, bangun struktur, jaga-jaga investor dan manajemen masa depan demi cari uang, buang janji keamanan ke samping.

Tidak bisa bilang ini sekadar pura-pura. Anthropic memang lebih serius memikirkan kekuasaan dibanding kebanyakan perusahaan teknologi, juga mau cari repot untuk diri sendiri. Tapi dari awal sampai akhir, yang dipikirkan serius adalah bagaimana menggunakan kekuasaan ini dengan lebih baik, bukan apakah butuh kekuasaan ini.

Perusahaan yang sejak lahir sudah membawa misi, tidak akan pernah tanya "atas dasar apa aku ada". Dia hanya tanya "bagaimana aku bisa ada lebih baik".

Dia tidak jawab "siapa yang kasih kau kuasa", dia hanya berkhotbah, karena kuasa sudah di tangan, dia berencana bagaimana jadi orang baik.

Sampai tahap ini, Dario tidak hanya menjalankan perusahaan. Pandangan keamanannya meresap ke karakter model, meresap ke kebijakan publik. Selanjutnya dia mulai bicara, negara mana yang harus dapat kecerdasan kuat duluan, sistem politik seperti apa pantas dilindungi, urutan dunia mendapatkan kecerdasan, harus ditentukan siapa.

AS Dapat Masa Depan Duluan

Tahun 2024, Dario Amodei menulis "Machines of Loving Grace".

Nama ini diambil dari sebuah puisi. Tahun 1967, penyair Richard Brautigan menulis di California Institute of Technology "All Watched Over by Machines of Loving Grace":

Puisi tentang mesin dan rekonsiliasi segala hal. Dia pinjam judulnya, tulis salah satu ramalan teknologi paling optimistis dalam sejarah manusia.

AI kuat akan jadi tim penelitian terdiri dari ilmuwan top tak terhitung, baca makalah, desain eksperimen siang malam tanpa henti, memampatkan kemajuan sains puluhan tahun jadi hanya beberapa tahun. Kanker, penyakit menular, penyakit genetik, mungkin bisa ditaklukkan secara massal. Manusia mungkin benar-benar paham depresi, kecemasan, kecanduan terjadi bagaimana. Umur bisa diperpanjang, negara miskin bisa melompati industrialisasi.

Dia beri penilaian sangat berani, jika AI kuat berkembang lancar, kemajuan biomedis 50 sampai 100 tahun ke depan, mungkin bisa diselesaikan dalam 5 sampai 10 tahun.

Sulit tidak ingat ayahnya.

Anaknya menunggu tujuh tahun, tunggu obat baru disetujui, bisa selamatkan orang lain, tapi sudah tidak bisa selamatkan dia. Dia harap orang ke depan tidak perlu tunggu lagi.

Di dunia idealnya, dia benar-benar percaya, teknologi ini bisa kurangi penyakit, penderitaan, dan kematian. Dia bahkan bahas khusus, bagaimana agar manfaat AI tidak hanya jatuh ke negara kaya, dia harap AI bisa bantu Global South berkembang, sebarkan keuntungan teknologi ke seluruh dunia.

Tapi saat dia mulai bicara cara capai masa depan ini, urusannya tidak begitu universal lagi.

Menurutnya, saat AI kuat muncul, negara harus kuasai keunggulan. Keunggulan ini, bukan cuma produk perusahaan lebih bagus, atau skor lebih tinggi di papan peringkat. Harus terwujud di chip, daya komputasi, energi, rantai pasok, militer, dan aliansi internasional.

AS dan sekutunya harus dapat lebih banyak semikonduktor canggih, bangun pusat data skala lebih besar, sekaligus halangi pesaing strategis, jangan sampai mereka dapat chip yang dibutuhkan untuk latih model terkuat. Saat AI kuat benar-benar datang, manfaatkan dia perluas keunggulan militer dan ekonomi, bentuk posisi yang tidak mudah digoyang negara lain.

Baru setelah itu, giliran berbagi.

Obat memang akan dibagikan, chip memang akan dihalangi. Janjinya "supaya orang ke depan tidak perlu tunggu lagi", versi sebenarnya adalah "supaya orang yang memenuhi syarat tidak perlu tunggu lagi". Dan siapa yang memenuhi syarat, dia yang tentukan.

Dia bahkan pakai "1991 yang abadi" untuk gambarkan kondisi itu. Tahun 1991, Uni Soviet runtuh, Perang Dingin berakhir, AS dan sekutunya dapat keunggulan telak. Dia harap AI kuat bisa ciptakan lagi momen sejarah seperti itu.

Perhatikan kadar perumpamaan ini. Sebuah teknologi yang mengklaim bermanfaat bagi seluruh umat manusia, blueprint idealnya adalah hegemoni unipolar paling telak dalam sejarah manusia.

Dunia untuk publik, empat kata ditulis indah. Hanya "dunia" milik AS, "untuk publik" milik Anthropic.

Kemudian DeepSeek muncul. Perusahaan China dengan sumber daya relatif terbatas, latih model kompetitif. Menurut Dario, ini justru buktikan China punya peneliti dan kemampuan rekayasa hebat. Begitu dapat cukup chip canggih, perusahaan China mungkin latih model terkuat di dunia.

Jadi, lebih tidak boleh beri chip padanya.

Lawan semakin kuat, semakin buktikan blokade benar; lawan buktikan kemampuan sendiri, malah jadi alasan diblokade. Logika ini selalu bisa diterima, karena dia adalah ular yang menggigit ekornya sendiri.

Dia bagi masa depan jadi dua. Satu dunia bipolar, dua sisi sama-sama bisa latih model sangat kuat, lomba kecerdasan jadi Perang Dingin baru. Lainnya dunia unipolar, AS dan sekutunya kuasai sebagian besar daya komputasi canggih, Barat manfaatkan keunggulan beberapa tahun ini, bentuk keunggulan teknologi, ekonomi, dan militer, lalu pertahankan keunggulan ini.

Dia jelas lebih mengharapkan masa depan kedua. Apa bermanfaat bagi manusia, apa tidak perlu tunggu lagi, apa mesin dan rekonsiliasi segala hal, di hadapan "unipolar abadi", semua hanyalah pendahuluan.

Dia pernah secara terbuka menentang satu narasi, bilang dia tidak suka pendiri perusahaan AI menggambarkan diri sebagai nabi yang memimpin manusia menuju keselamatan, juga waspada beberapa perusahaan memanfaatkan keunggulan teknologi, sepihak membentuk masa depan semua orang.

Dia menentang nabi. Tapi yang dia lakukan, dan yang nabi lakukan, adalah hal yang sama.

Dia Melihat Semua Bahaya, Kecuali Dirinya Sendiri

Kembalikan waktu ke Januari 2026 "Remaja Teknologi".

Di artikel ini, Dario Amodei hampir tulis semua kritik orang terhadapnya dan Anthropic, dia tulis dulu sendiri.

Dia akui, perusahaan AI mutakhir sedang dapat kekuasaan yang jarang dipegang perusahaan swasta dalam sejarah. Dia bahkan buka kaca jendela bilang, perusahaan AI mungkin manfaatkan produk pengaruhi sikap politik pengguna, bahkan "cuci otak" pengguna. Dia serukan publik harus awasi ketat perusahaan AI, pemerintah juga harus waspada perusahaan-perusahaan ini terlalu dekat dengan kekuasaan negara.

Dia juga khawatir, AI akan membuat kekayaan dan kekuasaan politik semakin terkonsentrasi. Beberapa perusahaan genggam kecerdasan, kekayaan, dan informasi, pengaruh warga biasa terhadap ekonomi dan pemerintah, pelan-pelan melemah.

Bahaya-bahaya ini, dia lihat. Tulis jelas, tulis tepat. Jarang orang yang berdiri di pusat kekuasaan, bisa jujur seperti ini bicarakan betapa berbahayanya posisinya.

Justru karena tulisannya terlalu bagus, harus tanya lagi: lalu apa?

Setiap kali dia usulkan solusi, akhirnya akan berputar ke arah sama. Mengikuti solusinya sampai ujung, Anthropic selalu dapat lebih banyak kekuasaan dari sebelumnya. Model semakin berbahaya, semakin butuh Anthropic tetap di garis depan; pemerintah semakin tidak paham teknologi, semakin bergantung pada penilaian Anthropic; publik semakin mudah dipengaruhi model, Anthropic semakin harus tulis nilai untuk model; negara lain semakin tidak bisa dipercaya, AS dan perusahaan AI-nya semakin harus genggam chip dan daya komputasi.

Dia akui setiap penyakit, resep yang dikeluarkan selalu sama, Anthropic.

Dia percaya diri benar-benar percaya, teknologi ini berbahaya sampai tidak bisa diberikan sembarangan ke tangan siapa pun. Dia juga percaya diri lebih awal melihat bahaya ini dibanding banyak orang.

Orang tulus, kadang adalah yang pertama tertipu diri sendiri. Apalagi saat keuntungan menipu diri sendiri begitu besar.

Dia tampaknya benar-benar percaya, teknologi ini berbahaya sampai tidak bisa diberikan sembarangan ke tangan siapa pun. Dia juga benar-benar percaya, dirinya lebih awal melihat bahaya ini dibanding banyak orang.

Dua kalimat ini diletakkan bersama, adalah set lengkap otorisasi diri. Dia tidak perlu umumkan diri pantas jadi wali manusia. Dia hanya perlu terus menyingkirkan orang yang dianggapnya tidak cukup bisa dipercaya, pasar tidak bisa, publik tidak bisa, negara otoriter tidak bisa, perusahaan lain juga tidak cukup hati-hati, setelah semua orang tersingkir, yang paling cocok pegang setir, kebetulan adalah Anthropic.

Titik akhir eliminasi, selalu dirinya sendiri.

Dia tidak percaya siapa pun berhak menggantikan manusia menentukan masa depan.

Jadi, dia putuskan sendiri yang lakukan.

Perusahaan Swasta Terakhir

14 Agustus 2026, satu kalimat keluar dari sebuah podcast.

"Di dalam Anthropic, mereka sangat percaya diri. Beberapa orang yang kupercaya cerita padaku, Dario pernah bilang: Anthropic suatu hari mungkin jadi satu-satunya perusahaan swasta di dunia."

Yang bilang ini namanya Gavin Baker, manajer hedge fund yang pernah invest di SpaceX. Dia tambah satu kalimat, bilang dalam visi itu, hanya Anthropic, lalu pemerintah berbagai negara. Hanya itu.

Dalam satu hari, kalimat ini menyebar di media sosial.

Mantan penasihat urusan AI dan kripto Gedung Putih, ketua bersama Komite Penasihat Teknologi Presiden sekarang David Sacks bilang: "Ini terlalu arogan. Sombongnya agak mirip SBF."

Sore hari berikutnya, Dario posting dua artikel panjang di X untuk tanggapi.

Pertama bicara regulasi. Dia bilang, "antara terpusat atau terdistribusi" adalah pilihan palsu; sistem yang benar-benar bagus, justru bisa desentralisasi kekuasaan:

"Sistem pengadilan formal kadang tampak kuno, elitis, tapi dia lebih bisa lindungi yang lemah daripada pilihan lain -- keadilan massa. Sistem dalam kondisi terbaik, bisa beri kekuasaan pada ide, bukan pada individu."

Kedua bicara penyampaian informasi. Dia bilang, emosi negatif publik terhadap AI adalah krisis kepercayaan. Lalu, dia tulis paragraf paling berat dalam dua artikel panjang:

"Menurutku sejauh ini, kritik paling akurat terhadap perusahaan AI termasuk Anthropic adalah, kami belum penuhi janji besar kami bermanfaat bagi dunia. Ini sepenuhnya salah kami."

"Cara yang benar-benar efektif adalah benar-benar sembuhkan kanker."

Dua artikel panjang, tidak ada satu kalimat yang tanggapi langsung isu itu. Dia pakai satu masalah nyata, hindari masalah nyata lain.

Dia bilang, harus benar-benar sembuhkan kanker. Maksudnya pakai AI dorong seluruh kemajuan kedokteran, biar obat baru datang cukup cepat, lebih cepat dari penyakit apa pun.

Ini kata-kata untuk orang yang mati tahun 2006. Orang itu tunggu satu botol obat, tunggu lama, tidak sempat dapat.

Sejak itu, dia percaya lambat adalah dosa. Seseorang percaya lambat adalah dosa, akan anggap cepat sebagai satu-satunya obat. Obat itu barang bagus. Hanya dia mau semua orang percaya, obat hanya bisa dia yang racik.

Tahun 1986, penulis Inggris Alan Moore terbitkan komik, judulnya "Watchmen", kemudian difilmkan. Film itu ada satu orang, namanya Adrian Veidt, dipanggil Ozymandias, klaim orang paling pintar di dunia.

Dia lebih awal melihat bencana akan datang dibanding semua orang. Perang nuklir, kiamat, manusia hancurkan diri sendiri. Dia persiapkan setengah hidup untuk ini. Lalu dia paham, cuma peringatan tidak ada gunanya.

Jadi dia sendiri yang picu bencana itu. Semalam, beberapa kota hilang dari peta.

Dia rasa hanya biar manusia lihat sendiri wujud kehancuran, dua negara adidaya baru berhenti, dunia baru bisa damai selamanya.

Dia pembunuh, juga juru selamat yang dia tentukan sendiri.

Akhir cerita, semua sesuai harapannya. Dia tanya pada Dr. Manhattan yang biru, hampir mahatahu:

"Akhir? Adrian, tidak ada yang berakhir. Segalanya, tidak akan pernah berakhir."