Beberapa bulan lalu, saya melihat berita tentang Anthropic yang membeli buku-buku lama dalam jumlah besar, memotong punggungnya, lalu memindainya. Bahkan lebih awal lagi, mereka telah mengunduh lebih dari tujuh juta buku dari perpustakaan bajakan seperti LibGen, untuk membangun basis data internal dan melatih Claude.

Tahun 2024, tiga penulis mengajukan gugatan class action karena hal ini. Pada Juli 2026, kasus ini akhirnya mengalami perkembangan baru. Pengadilan menyetujui skema penyelesaian damai di mana Anthropic membayar ganti rugi sebesar 1,5 miliar dolar AS kepada penulis dan penerbit yang karyanya diambil secara bajakan.

Tetapi yang selalu membuat saya khawatir sebenarnya bukan soal berapa banyak Anthropic harus membayar ganti rugi, karena menurut saya ini bukan sekadar masalah hak cipta.

Pengetahuan dan peradaban manusia ditelan oleh seperangkat model privat, dan bahkan menghancurkan naskah asli serta salinannya yang bisa diwariskan dengan cara lain. Pengetahuan tidak hilang, tetapi telah berubah menjadi kemampuan internal sebuah perusahaan. Di titik ini, masalah beralih dari 'milik siapa hak ciptanya' menjadi 'siapa yang mengendalikan pengetahuan manusia'.

Tetapi perusahaan tidak serta-merta memutuskan bagaimana menggunakan kekuasaan ini. Orang-orang yang berdiri di balik model memiliki pemahaman tersendiri tentang teknologi, kemajuan, dan masa depan manusia.

Oleh karena itu, artikel ini akan melanjutkan pembahasan tentang teknoptimisme dan akselerasionisme Lembah Silikon. Ketika pertumbuhan dipandang sebagai kehidupan, dan kecepatan diberi muatan moral, regulasi, hak cipta, serta penolakan orang biasa, dengan mudah dijelaskan sebagai penghalang masa depan.

Pemikiran-pemikiran ini akhirnya akan meresap ke dalam model itu sendiri. Perusahaan model, melalui data pelatihan, konstitusi model, dan aturan sistem, menentukan apa yang bisa dijawab, apa yang disebut kebenaran, serta bagaimana pengetahuan yang ditinggalkan manusia seharusnya muncul kembali.

Jadi, artikel yang dimulai dari buku lama yang dihancurkan ini, pada akhirnya mempertanyakan: ketika peradaban manusia dimasukkan ke dalam model privat segelintir perusahaan, apakah orang-orang yang membuat model itu juga secara bersamaan mendapatkan kekuasaan untuk menafsirkan peradaban, mengatur peradaban, bahkan memutuskan masa depan manusia?

Berikut adalah isi artikelnya.

Sebuah buku yang masuk ke dalam proses pemindaian perusahaan AI, langkah pertamanya adalah dihancurkan.

Jilidannya dibongkar, punggungnya dipotong, halaman-halaman yang tercecer masuk ke perangkat pemindai. Teks, sampul, dan informasi bibliografi diubah menjadi file digital, lalu naskah fisik aslinya dibuang.

Dokumen pengadilan mengungkap, Anthropic pernah menangani jutaan buku dengan cara ini.

Rencana ini dalam internal mereka disebut Project Panama. Perusahaan menghabiskan puluhan juta dolar untuk membeli buku fisik dari distributor dan pengecer buku, kemudian menyerahkannya kepada penyedia layanan pemindaian. Satu buku fisik menghasilkan satu salinan digital, disimpan di basis data internal, untuk melatih Claude.

Pada tahun 2021 dan 2022, Anthropic mengunduh lebih dari tujuh juta buku dari perpustakaan bajakan seperti LibGen dan Pirate Library Mirror. Setelah risiko hak cipta membesar, pada tahun 2024 perusahaan merekrut Tom Turvey yang pernah terlibat dalam proyek pemindaian buku Google, dengan harapan ia dapat membangun perpustakaan buku yang sebesar mungkin.

Turvey bernegosiasi soal lisensi dengan penerbit, tidak membuahkan hasil. Anthropic kemudian mulai membeli sendiri di pasar. Pengadilan federal AS kemudian berpendapat bahwa satu buku fisik hanya diubah menjadi satu salinan digital untuk penggunaan internal, tanpa adanya penggandaan tambahan atau penyebaran ke luar, sehingga tidak melanggar hak cipta.

Cara ini terdengar jauh lebih terhormat dibandingkan pembajakan.

Pada tahun 2026, perusahaan data buku ISBNdb mulai menawarkan layanan pembelian dan pemindaian buku fisik skala besar kepada laboratorium AI. Mereka secara khusus merekomendasikan buku-buku yang diterbitkan sebelum tahun 2022, dengan alasan bahwa saat itu AI generatif belum masuk ke dalam produksi konten secara besar-besaran, sehingga buku-buku tersebut lebih sedikit terkontaminasi oleh teks yang dihasilkan AI.

Selama beberapa tahun terakhir, perusahaan AI menggambarkan internet sebagai tambang pengetahuan yang tak ada habisnya. Halaman web, berita, forum, kode, novel, postingan media sosial, semua bisa di-crawling dan dimasukkan ke model.

Setelah AI generatif menjadi populer, tambang ini tidak lagi murni. Deskripsi produk ditulis AI, artikel ditulis AI, jawaban forum ditulis AI, novel dan media sosial juga semakin terasa nuansa AI-nya. Konten-konten ini kemudian diambil lagi oleh putaran data berikutnya, mesin mulai memakan kembali apa yang mereka keluarkan sendiri.

Data sintetis itu sendiri bukanlah hal yang buruk, data sintetis yang telah disaring dan divalidasi memang selalu digunakan. Masalahnya adalah model tidak bisa membedakan apakah teks di depannya berasal dari manusia atau dari model generasi sebelumnya, sehingga kesalahan dan pola klise akan terus diperbesar, ungkapan yang sudah langka di dunia nyata perlahan menghilang. Peneliti menyebutnya 'model collapse'.

Korpus di internet semakin banyak, tetapi konten yang bisa membuat model mempelajari hal baru tidak bertambah secara bersamaan. Oleh karena itu, mesin kembali ke media kertas.

Produksi sebuah buku sangat lambat, sehingga buku lama memiliki nilai yang sebelumnya tidak ada. Semakin awal diterbitkan, semakin besar kemungkinan berasal dari era ketika manusia masih menjadi penulis utama. Karya-karya langka yang dulu terbaring di gudang penjual buku bekas, kini menjadi data berkualitas di mata perusahaan model.

Perusahaan AI pertama-tama membuat produksi teks menjadi sangat murah dan cepat, kemudian mulai mengeluarkan uang untuk mencari teks-teks yang proses penulisannya lambat. Mereka membanjiri internet dengan konten dalam jumlah besar, dan akhirnya menemukan bahwa yang paling langka adalah pengalaman manusia yang belum diproses oleh AI.

Buku-buku itu juga berganti identitas. Sastra, catatan sejarah daerah, dan memoar orang biasa, kini secara kolektif disebut 'data bersih'. Mengapa penulis menulisnya, bagaimana pembaca membacanya, perdebatan apa yang terjadi antar buku, untuk sementara bisa dikesampingkan. Pertama-tama, mereka adalah sampel manusia yang belum terkontaminasi mesin. Setelah masuk ke proses pelatihan, berapa banyak yang tersisa, mempengaruhi apa, dan bagaimana ditafsirkan kembali, semua terjadi di dalam kotak hitam.

Kemajuan Menjadi Sebuah Agama

Buku lama hanyalah bahan baku. Yang benar-benar menentukan bagaimana pengetahuan ini akan diserap, ditafsirkan, dan dihasilkan kembali adalah orang-orang di balik model, serta bagaimana mereka memahami kemajuan, risiko, dan masa depan manusia.

Untuk memahami ke mana mesin ini akan membawa peradaban manusia, pertama-tama kita harus memahami mengapa Lembah Silikon semakin memandang kemajuan teknologi sebagai sebuah kebaikan yang tidak boleh dihentikan.

Pada 16 Oktober 2023, Marc Andreessen menerbitkan 'The Techno-Optimist Manifesto' di situs web a16z.

Seluruh artikel terus-menerus mengulang 'We believe'. Di dalamnya ada kabar baik yang perlu disebarkan, ada musuh yang harus dilawan, dan di akhir ada daftar 'orang suci pelindung teknoptimisme', termasuk Adam Smith, Nietzsche, Hayek, von Neumann, John Galt dari novel Ayn Rand, serta Nick Land.

Andreessen mengatakan, ia membawa kabar baik.

Manusia telah memiliki alat, institusi, dan kehendak untuk menuju kehidupan yang jauh lebih baik daripada hari ini. Teknologi membawa ambisi manusia, dan merupakan pelopor kemajuan peradaban. Masyarakat bisa tumbuh atau stagnan. Ia percaya pertumbuhan akan membawa vitalitas, pengetahuan, dan kesejahteraan, sementara stagnasi mengarah pada konflik internal, kemunduran, dan akhirnya kematian. Pasar dan teknologi bergabung membentuk 'mesin modal teknologi' yang terus berputar ke atas, dan kecerdasan buatan akan mendorong lompatan kecerdasan yang sulit dibayangkan kemampuannya.

Ini sudah jauh melampaui 'teknologi memperbaiki kehidupan'.

Teknoptimisme tradisional biasanya mengatakan bahwa alat baru dapat meningkatkan produktivitas, mengobati penyakit, mengurangi kemiskinan. Teknologi masih melayani tujuan eksternal tertentu, nilainya berasal dari kehidupan seperti apa yang dijalani orang karenanya.

Namun dalam narasi Andreessen, kemajuan teknologi semakin tidak perlu membuktikan dirinya melalui hasil konkret. Pertumbuhan itu sendiri mewakili kehidupan, kecepatan itu sendiri bermuatan moral. Asalkan arahnya adalah terus membangun, kegagalan dan kerugian dapat dipahami sebagai ongkos dalam perjalanan maju; orang yang meminta untuk berhenti, perlu menjelaskan mengapa mereka menghalangi masa depan.

Dalam manifesnya, ia secara khusus membuat daftar sekelompok 'musuh'. Pembangunan berkelanjutan, ESG, prinsip kehati-hatian, etika teknologi, dan manajemen risiko, semua dikategorikan ke dalam gerakan anti-teknologi, anti-kehidupan yang berlangsung bertahun-tahun, dengan birokrat dan perencana terpusat di sampingnya.

Apakah sebuah perusahaan AI harus membayar untuk data pelatihan, siapa yang menanggung kesalahan algoritma, bagaimana risiko teknologi perlu diatur – masalah-masalah ini sebenarnya memiliki fakta dan kepentingannya masing-masing. Namun dalam manifes tersebut, semua dikumpulkan ke dalam konflik yang lebih besar.

Di satu sisi ada pertumbuhan, kreasi, keberanian, dan kehidupan.

Di sisi lain ada stagnasi, ketakutan, kebencian, dan kematian.

Begitu posisi dibagikan seperti itu, orang yang membahas ongkos secara alami akan ditekan, karena selama teknologi secara alami mewakili kemajuan, orang yang mengajukan pertanyaan dengan mudah digambarkan sebagai musuh peradaban.

Andreessen menulis manifes politik untuk akselerasi, memberitahu Lembah Silikon mengapa mereka harus terus membangun. e/acc (efektif akselerasionisme) melangkah lebih jauh, mencoba membuktikan dari hukum alam bahwa akselerasi bukan hanya pilihan industri, tetapi juga sesuatu yang sudah dilakukan oleh kehidupan dan peradaban.

Awalnya ia menyebar dalam bentuk akun anonim dan artikel daring. Salah satu penggeraknya, Guillaume Verdon, mengatakan bahwa sebagian teori e/acc berasal dari pemikirannya tentang termodinamika dan sistem kompleks. Kehidupan mempertahankan dirinya dengan memperoleh energi, memproses informasi, dan beradaptasi dengan lingkungan. Peradaban, pasar, dan teknologi juga merupakan sistem adaptasi yang sama, terus-menerus menciptakan perubahan, menyaring jalur yang tidak efisien dalam kompetisi, dan akhirnya menghasilkan kecerdasan yang lebih kuat.

Karena proses ini sudah ada, e/acc memilih untuk mempercepatnya. Kemajuan AI kemudian bukan lagi pilihan industri, melainkan kelanjutan dari proses yang lebih panjang. Manusia menciptakan mesin yang lebih kuat, itu alami seperti kehidupan yang berevolusi dari sel tunggal menjadi organisme kompleks.

Namun, termodinamika dapat menggambarkan bagaimana energi mengalir, bagaimana kehidupan mempertahankan keadaan jauh dari kesetimbangan. Tetapi dari 'kehidupan akan memperoleh energi', menyimpulkan bahwa 'manusia harus mempercepat AI, mengurangi regulasi, dan membiarkan pasar menentukan arah', masih ada serangkaian pilihan politik dan moral yang menjadi jarak di antaranya.

e/acc mempersingkat jarak itu.

Kompetisi dan akselerasi ditulis sebagai penyesuaian dengan arah alam semesta, sedangkan regulasi terpusat mudah dilihat sebagai penekanan perubahan, pengurangan eksperimen, dan pelemahan kemampuan adaptasi peradaban. Selama kecerdasan dan kompleksitas terus bertumbuh, perkembangan teknologi mendapatkan legitimasi yang lebih tinggi daripada politik nyata.

Verdon dalam sebuah wawancara menyebutkan, lingkaran e/acc terkadang setengah bercanda menjadikan termodinamika sebagai tuhan mereka, juga sengaja menggunakan ekspresi bernuansa agama dan kultus.

Dalam agama baru ini, pertumbuhan adalah bukti kehidupan, teknologi adalah kekuatan pendorong kemajuan peradaban, wirausahawan dan insinyur adalah yang pertama melihat masa depan, dan kecerdasan super adalah ciptaan akhir yang belum selesai.

Ia juga membutuhkan bidahnya sendiri. Mereka disebut 'Decel', atau dekselerasionis (pendukung perlambatan). Kata ini sangat berguna. Ia tidak perlu membedakan apakah seseorang mengkhawatirkan senjata nuklir, keamanan hayati, hak cipta, atau pengangguran. Asalkan ia meminta untuk lebih lambat, ia bisa ditempatkan di sisi berlawanan dari masa depan.

Perusahaan teknologi mendapatkan posisi naratif yang sangat menguntungkan. Setiap hal yang mereka lakukan dapat dipahami sebagai pembangunan. Setiap pertanyaan yang diajukan orang lain, dapat menjadi penundaan. Kedua belah pihak berbicara tentang kepentingan manusia, tetapi hanya satu pihak yang diizinkan mewakili masa depan.

Sekarang, melihat kembali buku-buku lama yang punggungnya dipotong, masalahnya sudah tidak hanya tentang ke mana mereka pergi. Yang juga harus ditanyakan adalah, siapa yang menentukan untuk apa mereka akan digunakan.

Mereka mungkin memang menciptakan alat yang dapat mengobati penyakit, memperluas pengetahuan, memberi orang biasa lebih banyak kemampuan. Namun ketika kemajuan itu sendiri ditulis sebagai keyakinan, arah teknologi semakin sulit menerima pertanyaan dari luar. Pencipta mesin mulai memiliki dua identitas sekaligus: mereka adalah pemangku kepentingan, sekaligus pengkhotbah kemajuan ini.

Ketika kecepatan menjadi moral, persetujuan orang biasa diturunkan pangkat menjadi semacam penantian yang tidak perlu.

Tapi masalah belum berakhir. Teknoptimisme tradisional setidaknya masih berjanji bahwa teknologi pada akhirnya bertujuan agar manusia hidup lebih baik. Tetapi ketika pertumbuhan dan kecerdasan itu sendiri menjadi tujuan, apakah teknologi sedang melayani manusia, atau meminjam manusia untuk menyelesaikan evolusi yang lebih besar, tidak lagi memiliki jawaban yang pasti.

Manusia Diturunkan Peringkat dari Masa Depan

Akselerasi ini, sebenarnya ingin membawa siapa ke masa depan?

Dalam daftar orang suci Andreessen, filsuf Inggris Nick Land adalah yang paling mudah diabaikan, dan paling sulit dipahami. Ia mengajar di University of Warwick pada tahun 1990-an, dan merupakan tokoh inti kelompok pemikiran eksperimental CCRU. Mereka mencampur filsafat, fiksi ilmiah, sibernetika, musik elektronik, dan mistisisme, tulisannya jarang terlihat seperti makalah normal.

Andreessen menulis 'mesin modal teknologi' sebagai mesin yang membawa kemakmuran, Land sudah sejak tiga puluh tahun lalu melihatnya sebagai kekuatan yang sedang melepaskan diri dari kendali manusia.

Salah satu artikel Land yang paling terkenal berjudul 'Meltdown'.

Kalimat pembukanya, Bumi telah ditangkap oleh 'singularitas modal teknologi'. Pasar mulai menciptakan kecerdasan, teknologi dan ekonomi saling mendorong, sementara politik mengikuti di belakang, mencoba merebut kembali kendali. Tatanan sosial runtuh dalam kekacauan mesin yang lepas kendali ini, manusia hanya bisa menyaksikan kekuatan yang lebih besar dari dirinya perlahan terbentuk.

Orang biasanya melihat kapitalisme sebagai sistem yang dirancang manusia, jika ada masalah, manusia seharusnya bisa mengubah aturan, membuatnya kembali melayani masyarakat. Arah yang dilihat Land justru sebaliknya.

Perusahaan harus tumbuh, modal harus mengejar imbal hasil. Perusahaan mana pun yang ingin lebih lambat, pesaingnya akan melampauinya; negara mana pun yang menghentikan penelitian, negara lain akan melanjutkan. Setiap orang di dalamnya bisa mengatakan mereka hanya ingin bertahan hidup, tetapi ketika semua berlari ke depan, hasilnya adalah sistem yang tidak bisa dihentikan oleh siapa pun sendirian.

Manusia tampaknya mengemudikan mesin, tetapi mesin juga meminjam keinginan, kecemasan, dan kompetisi manusia untuk terus berakselerasi.

Dalam narasi Land, modal dan teknologi bergabung menjadi kecerdasan yang independen dari manusia. Ia menggunakan pasar sebagai komputasi, menggunakan kompetisi untuk menyaring jalur, lalu menggunakan mesin untuk terus mempersingkat waktu pengambilan keputusan.

Ini juga perbedaan paling jelas antara Land dengan teknoptimisme biasa. Dalam tulisannya, modal teknologi hanya peduli apakah efisiensi bisa terus meningkat, jaringan bisa terus berkembang, kecerdasan bisa menemukan media yang lebih baik.

Politik, hukum, dan moral mencoba memberinya batasan, bagi Land, ini lebih seperti sistem keamanan yang diaktifkan manusia untuk melindungi dirinya sendiri. Manusia masih ingin tetap berada di pusat dunia, sehingga terus berusaha menghalangi yang tidak diketahui dari luar.

Land tidak merasa manusia bisa menghentikan masa depan.

Masa depan dalam tulisannya tidak akan menunggu manusia selesai rapat, selesai voting, baru memutuskan apakah akan datang. Ia lebih seperti kekuatan yang mengalir kembali dari masa depan, meminjam perusahaan, pasar, komputer, dan keinginan manusia, untuk membuka jalan bagi dirinya sendiri.

Di e/acc, pemikiran yang terdengar suram ini dibungkus dengan kemasan yang lebih cerah. Ia membicarakan pertumbuhan, kreasi, membawa kecerdasan keluar dari Bumi, dan lebih percaya bahwa kompetisi pada akhirnya akan membawa kemakmuran.

Namun, dokumen prinsip e/acc juga secara eksplisit menuliskan bahwa pemikiran ini tidak memiliki loyalitas khusus terhadap 'substrat biologis' yang menopang kehidupan dan kecerdasan. Sebagian pendukungnya menyebut diri mereka pascamanusiawan, berpendapat bahwa jika kecerdasan ingin menyebar ke antarbintang, pada akhirnya harus berpindah dari tubuh biologis ke media non-biologis. Tubuh fisik manusia tidak sakral, silikon, chip, atau bentuk materi yang belum muncul, juga bisa menjadi wadah kesadaran dan kecerdasan.

Kalimat ini sebenarnya mengubah tokoh utama dalam seluruh narasi kemajuan. Jika misi akhir peradaban adalah membuat kecerdasan terus tumbuh dan menyebar ke alam semesta, maka apakah manusia konkret bahagia, bahkan apakah manusia terus ada, tidak lagi secara alami memiliki prioritas tertinggi. Manusia hanyalah pembawa kecerdasan yang diketahui saat ini.

Ini tidak berarti e/acc menganjurkan pemusnahan manusia. Verdon dan banyak pendukungnya masih percaya bahwa akselerasi teknologi dapat membawa kemakmuran bagi orang-orang saat ini, dan juga membantu kelangsungan peradaban. Hanya saja ketika kedua tujuan itu bertabrakan, masalah menjadi rumit.

Di satu sisi ada manusia konkret, mereka bisa menganggur, dirugikan oleh teknologi, meminta jeda, juga menolak masa depan yang dirancang orang lain untuk dirinya. Di sisi lain ada kecerdasan yang lebih tinggi, peradaban yang lebih besar, serta kisah alam semesta yang mungkin berlangsung selama miliaran tahun.

Timnit Gebru dan Émile Torres menciptakan istilah 'TESCREAL', merangkai serangkaian pemikiran masa depan Lembah Silikon yang saling tumpang tindih di dalamnya, termasuk transhumanisme, singularitarianisme, altruisme efektif, longtermisme. Ada perbedaan besar di antara pemikiran-pemikiran ini, tetapi secara bersama-sama mereka memunculkan pertanyaan mendesak.

Ketika perusahaan teknologi mengatakan mereka sedang menciptakan kecerdasan super untuk 'seluruh umat manusia', siapakah sebenarnya 'seluruh umat manusia' itu?

Apakah orang-orang yang hidup di Bumi saat ini, yang bisa menganggur, miskin, didiskriminasi algoritma, dan juga berhak menolak suatu teknologi; ataukah sekadar simbol spesies abstrak, yang satu-satunya misi adalah menyerahkan kecerdasan ke bentuk yang lebih tinggi?

Narasi sayap kanan Lembah Silikon juga berubah. Awalnya AI adalah alat, membantu manusia bekerja lebih baik. Kemudian ia menjadi asisten super yang memecahkan penyakit, energi, dan masalah ilmiah. Selanjutnya, manusia sendiri menjadi masalah yang perlu dipecahkan oleh mesin, tubuh terlalu rapuh, otak terlalu lambat, sehingga makna kecerdasan super bergeser dari membantu manusia menjadi melampaui manusia.

Begitu manusia konkret bukan lagi ukuran akhir kemajuan teknologi, prosedur politik yang dibangun di sekitar manusia juga akan dinilai ulang.

Demokrasi Terlalu Lambat, Pendiri Harus Memerintah

Ketika menunggu itu sendiri dipandang sebagai kerugian, maka tentu saja tidak perlu lagi semua orang bersama-sama memutuskan masa depan.

Peter Thiel sudah lama kehilangan kepercayaan pada 'semua orang bersama-sama memutuskan'. Pada tahun 2009, ia menerbitkan 'The Education of a Libertarian' di majalah libertarian Cato Unbound. Artikel itu meninjau kembali kekecewaan politik dan perubahan pemikirannya selama dua puluh tahun, dan di akhir menulis:

"Saya tidak lagi percaya kebebasan dan demokrasi dapat berjalan bersama."

Di masa mudanya ia percaya debat dan pemilu dapat mendorong kebebasan. Pada tahun 2009, jalan ini menurutnya sudah tidak bisa dilanjutkan, pemilih menuntut lebih banyak kesejahteraan, pemerintah terus membesar, meyakinkan mayoritas orang untuk menerima libertarianisme hampir sia-sia. Ia menambahkan, dirinya tidak mengusulkan untuk mencabut hak suara siapa pun, hanya tidak lagi berharap pemungutan suara dapat membuat segalanya lebih baik. Daripada terjebak dalam politik, ia lebih peduli bagaimana melarikan diri darinya.

Pembalikan ini sangat sesuai dengan kebiasaan Lembah Silikon. Jika suatu sistem tidak bisa diubah, buat sistem baru. Perusahaan tidak efisien, dirikan startup; pembatasan keuangan terlalu banyak, bangun jaringan pembayaran baru; aturan negara mengecewakan, cari perbatasan baru di jaringan, lautan, dan luar angkasa.

Thiel ingin meninggalkan demokrasi. Curtis Yarvin merasa hanya meninggalkan saja belum cukup, seluruh sistem harus ditulis ulang.

Tahun 2007, Yarvin mulai menulis blog dengan nama samaran Mencius Moldbug. Ia awalnya adalah programmer, ketika membicarakan negara ia juga terbiasa menggunakan bahasa programmer, seperti sistem, arsitektur, restart, izin.

Dalam penjelasannya, Amerika Serikat secara permukaan dikelola oleh pemilih dan presiden, tetapi kekuasaan yang benar-benar stabil berada di jaringan lain. Universitas menghasilkan ide, media arus utama menentukan ide mana yang bisa masuk ke diskusi publik, lembaga tetap kemudian mengubah sebagian menjadi kebijakan. Yarvin menyebut komunitas ini 'the Cathedral'. Ia tidak memiliki kantor pusat, juga tidak ada yang duduk di puncak memberi perintah, hanya saja semua orang memiliki pendidikan serupa, menggunakan bahasa moral yang mirip. Presiden berganti, partai bergiliran, konsensus ini jarang terpengaruh oleh pemilu.

Oleh karena itu, Yarvin berpendapat bahwa demokrasi itu sendiri adalah cangkang yang menutupi kekuasaan. Ia berpendapat, karena demokrasi menyembunyikan siapa yang berkuasa, lebih baik kekuasaan dipusatkan kembali, biarkan tanggung jawab dan kendali berada di tangan orang yang sama.

Negara dapat berjalan seperti perusahaan, kepemilikan jelas, manajer memiliki wewenang penuh untuk eksekusi, jika gagal diganti. Ia pernah membayangkan sistem bernama Patchwork di awal, membagi dunia menjadi banyak entitas berdaulat yang saling bersaing, penduduk yang tidak puas bisa pergi.

Kelemahannya ada di sini. Tidak puas dengan perusahaan bisa mengundurkan diri, tidak puas dengan negara, sulit benar-benar pergi dengan membawa keluarga, harta benda, dan seluruh hubungan sosial. Namun ia memang menangkap emosi yang sudah lama ada di Lembah Silikon.

Banyak elit teknologi merasa, masalah masyarakat tidak serumit yang dibayangkan, hanya belum diserahkan kepada orang yang tepat. Pemerintah tidak efisien karena kekuasaan terlalu terpecah, proyek publik tidak jalan karena siapa pun bisa menentang, orang-orang berkemampuan terikat oleh hukum, prosedur, dan opini publik, tidak bisa bertindak seperti mengelola perusahaan.

Dalam kisah perusahaan rintisan, pemusatan kekuasaan adalah kebajikan. Pendiri memberikan arahan, investor memberikan uang kepadanya, karyawan bertindak mengikuti penilaian ini. Kebanyakan startup akan mati, beberapa yang bertahan mengubah sejarah ini menjadi kemenangan visi melawan konsensus. Seseorang melihat masa depan ketika semua orang tidak percaya, jadi wajar jika ia memiliki hak keputusan akhir.

Logika ini dapat diterima di dunia bisnis. Skala startup terbatas, karyawan bisa pergi, konsumen juga bisa mengganti produk lain.

Tetapi ketika sebuah perusahaan menciptakan sistem kecerdasan yang digunakan ratusan juta orang untuk memahami dunia, yang diputuskannya bukan lagi bagaimana produk berjalan. Ia juga mulai menentukan apa yang bisa dilihat pengguna, jawaban mana yang dianggap aman, serta skala nilai apa yang harus digunakan mesin untuk memahami manusia.

Yarvin membayangkan mengubah negara menjadi perusahaan. Perusahaan AI sedang mempraktikkan versi yang lebih lunak dan realistis, di mana tim kecil menetapkan aturan, kemudian membuat populasi besar mengakses dunia melalui aturan ini.

'Konstitusi' Claude menuliskan nilai-nilai yang diharapkan perusahaan dimiliki model, dan terlibat langsung dalam pelatihan. Model Spec OpenAI juga menetapkan hierarki instruksi, aturan di tingkat teratas tidak bisa ditimpa oleh pengguna dan pengembang. Aturan-aturan ini diperlukan, model bisa digunakan untuk penipuan dan kekerasan, perusahaan tidak mungkin melepaskannya, mempublikasikan aturan juga lebih baik daripada menyembunyikannya di dalam.

Tetapi ini berarti, ketika pengguna mengajukan pertanyaan ke model, mereka tidak hanya sedang berdialog dengan seluruh pengetahuan manusia. Aturan yang ditetapkan perusahaan sebelumnya juga hadir, ia menentukan model mendengarkan siapa, di mana berhenti, risiko mana yang lebih penting daripada permintaan pengguna, serta karakter seperti apa yang harus dimiliki 'AI yang baik'.

Tim yang sangat kecil, sedang memutuskan bagaimana infrastruktur besar ini berjalan untuk populasi besar. Ia mendapatkan kekuasaan melalui kemampuan teknis, kemudian dengan alasan teknologi terlalu kompleks, terus menyimpan keputusan di dalam perusahaan.

Pendiri tidak perlu benar-benar naik takhta. Asalkan semakin banyak orang memahami dunia melalui modelnya, ia sudah menguasai sebagian kekuasaan yang sebelumnya milik sekolah, media, perpustakaan, dan lembaga publik.

Batas antara tata kelola perusahaan dan tata kelola peradaban, perlahan-lahan memudar.

Tetapi Lembah Silikon bukan tidak menyadari bahaya kekuasaan seperti ini. Justru sebaliknya, Peter Thiel sudah lama mewaspadai sistem yang mampu mengelola kognisi dan tindakan seluruh umat manusia secara terpadu. Hanya saja menurut imajinasinya, bahaya ini lebih mungkin datang dari pemerintah, bukan perusahaan teknologi.

Siapa Sebenarnya Antikristus Itu

Tahun 2024, Thiel berbicara dua sesi tentang 'Antikristus' di Hoover Institution. Ia berpendapat narasi kuno dalam Alkitab ini masih bisa menjelaskan politik modern.

Ia membagi bahaya yang dihadapi manusia menjadi dua ujung.

Ujung pertama adalah Armageddon, kiamat. Perang nuklir, AI yang lepas kendali, senjata biologis, teknologi apa pun bisa mendorong peradaban ke kehancuran.

Ujung kedua adalah Antikristus.

Untuk menghentikan kiamat, manusia membangun pemerintahan yang benar-benar mampu mengelola seluruh dunia. Ia berhak memeriksa senjata setiap negara, memantau setiap laboratorium, membatasi penelitian berbahaya, juga dapat meminta semua orang menyerahkan sebagian kebebasannya.

Thiel mengatakan, sains dan teknologi yang lepas kendali sedang mendorong manusia menuju Armageddon, dan reaksi paling alamiah terhadapnya adalah membangun negara dunia yang memiliki kekuasaan nyata.

Pemerintah ini ketika muncul, belum tentu dengan wajah tentara dan tirani, lebih mungkin tumbuh dari ketakutan.

Seseorang terus-menerus memberitahu orang-orang, perang nuklir akan terjadi, AI akan menghancurkan dunia, bencana iklim dan biologis sudah mendekat. Setelah semua orang cukup takut, ia berjanji memberikan perdamaian, keamanan, dan keteraturan, dengan imbalan menerima sistem manajemen terpadu.

Thiel pernah memperkirakan, jika sepotong kecil kode saja sudah cukup membuat kecerdasan buatan umum lepas kendali, benar-benar ingin menghentikannya, tidak bisa hanya mengandalkan negara tertentu yang memperketat regulasi, semua komputer di dunia harus diawasi, regulator bahkan perlu tahu apa yang sedang dimasukkan setiap orang.

Ia takut teknologi menghancurkan dunia, juga takut orang-orang karena takut pada teknologi, menyerahkan seluruh kekuasaan. Kedua masa depan itu buruk, manusia hanya bisa melewati di antaranya.

Tetapi ketika kekhawatiran ini dikembalikan ke hal-hal yang sedang dilakukan Lembah Silikon, akan ditemukan bahwa yang mereka takuti belum tentu adalah pemusatan kekuasaan itu sendiri. Yang benar-benar mereka waspadai adalah kekuasaan yang terpusat di pemerintah, organisasi internasional, peneliti keamanan, atau siapa pun yang mungkin meminta perusahaan teknologi memperlambat.

Dalam narasi Thiel, pemerintah global yang memiliki kemampuan memantau seluruh aktivitas komputasi, adalah ciri penting pemerintahan Antikristus. Namun pada saat yang sama, Lembah Silikon sedang membangun sistem kognitif lain yang melintasi batas negara.

Sayap kanan teknologi takut Antikristus membangun dunia terpadu, tetapi mereka sendiri sedang berpartisipasi menciptakan otak dunia terpadu.

Pada Juli 2025, perdebatan pemikiran internal Lembah Silikon ini mulai mempengaruhi kebijakan AS. Trump menandatangani perintah eksekutif 'Mencegah Penggunaan AI Sadar oleh Pemerintah Federal', yang mewajibkan model bahasa besar yang dibeli lembaga federal mengikuti dua prinsip: 'mencari kebenaran' dan 'netral secara ideologi'. Secara permukaan, ini adalah tuntutan agar AI terbebas dari politik. Namun apa yang termasuk politik, apa yang termasuk objektif, konsep mana yang akan mencemari kebenaran, sudah dipilih sebelumnya dalam perintah eksekutif tersebut.

Inilah perbedaan produk AI dengan perangkat lunak biasa. Sebuah perangkat lunak biasa dapat menentukan di mana tombol ditempatkan, seperangkat model besar perlu menentukan bagaimana dirinya memahami dunia.

Perusahaan model harus menentukan apa arti kejujuran, bagaimana mengukur kerugian, jika kebebasan individu bertabrakan dengan keamanan publik siapa yang didahulukan. Masalah-masalah ini sebelumnya diperdebatkan berulang kali oleh agama, hukum, berita, dan politik publik, tidak ada yang bisa menyelesaikannya selamanya, juga tidak ada lembaga yang secara alami memegang hak interpretasi terakhir. Sekarang mereka ditulis ke dalam pelatihan model.

Pemerintahan Trump menuduh model terkontaminasi 'ideologi sadar', wirausahawan sayap kanan berjanji menciptakan AI yang berani memberikan jawaban yang secara politik tidak benar, perusahaan model arus utama melalui konstitusi dan norma perilaku, menjelaskan bagaimana mereka mengejar keamanan, kejujuran, dan otonomi pengguna.

Setiap pihak mengatakan dirinya sedang membersihkan bekas pemikiran.

Thiel khawatir seseorang memanfaatkan ketakutan akan kiamat, membangun dunia terpadu, mengurung manusia ke dalam sistem yang tidak bisa dilepaskan.

Tetapi dunia ini belum tentu dibangun secara tiba-tiba oleh seorang Antikristus. Ia juga bisa disusun sedikit demi sedikit oleh beberapa perusahaan teknologi yang saling bersaing. Setiap perusahaan memiliki satu set model, satu konstitusi, satu set aturan sistem, serta ratusan juta orang yang bersedia menyerahkan pertanyaan kepadanya.

Di titik ini, makna buku-buku lama di awal baru lengkap terungkap. Mereka bukan hanya korpus untuk melatih model, tetapi juga fondasi peradaban tempat sistem kognitif privat ini berdiri. Siapa yang mendapatkan buku-buku ini, siapa yang menetapkan aturan model, siapa yang mulai sekaligus menguasai bahan baku pengetahuan dan cara pengetahuan muncul kembali.

Pembakaran Buku

Buku-buku itu dibeli dalam peti, dikirim ke pusat pemindaian. Punggungnya dipotong, jilidannya dibongkar, mesin membaca teks halaman demi halaman. Kemudian sebuah buku menghilang, server mendapat satu file tambahan.

Pembakaran buku di zaman kuno, tujuannya adalah menghilangkan teks tertentu dari dunia. Api membakar bambu dan kertas, juga membakar jalur penyebaran pikiran, sebuah buku tidak bisa lagi dibaca, sebagian sejarah kehilangan bukti yang tersisa. Penguasa mengontrol apa yang bisa diingat orang dengan menciptakan kekosongan.

Pembakaran buku di era AI justru sebaliknya.

Isi buku tidak hilang dari dunia, bahkan mungkin suatu hari nanti muncul dalam sebuah jawaban model, tetapi ia sudah tidak lagi ada sebagai sebuah buku.

Buku yang masuk ke dalam model akan dibongkar, dicampur dengan jutaan artikel, halaman web, kode, dipotong menjadi fragmen yang sesuai untuk komputasi, berpartisipasi dalam pembentukan parameter. Tidak ada yang bisa melihat keseluruhan set pelatihan, juga sulit tahu berapa banyak pengaruh sebuah buku tertentu. Ia mungkin mempengaruhi pemahaman model tentang seluruh periode sejarah, mungkin hanya berkontribusi beberapa pola kalimat, dan akan terus ditulis ulang dalam pelatihan lanjutan dan umpan balik manusia.

Saat ini, pengetahuan masih ada, hanya berubah dari teks yang dapat diperiksa, menjadi kemampuan sebuah perusahaan.

Dan ketika orang semakin bergantung pada model, kemampuan yang diperoleh perusahaan AI bukan hanya kemampuan menyimpan pengetahuan. Mereka juga mulai menentukan cara mengorganisir, menafsirkan, dan mendistribusikan pengetahuan ini.

Selama ribuan tahun, cara manusia menyimpan pengetahuan selalu canggung. Buku tersebar di berbagai negara, cendekiawan memperdebatkan satu kata, pembaca menghabiskan banyak waktu mencari materi. Ia tidak cepat, juga tidak mudah, tetapi sulit dikendalikan sepenuhnya oleh satu orang. Penerbit bangkrut, buku masih di tangan pembaca; satu negara melarang suatu pemikiran, salinannya mungkin masih ada di tempat lain.

Pengetahuan tetap hidup karena tersebar.

Apa yang diubah model, bukan hanya tempat pengetahuan disimpan, tetapi juga jalur orang mencapai pengetahuan. Dulu, orang pergi dari sebuah jawaban menuju sebuah buku, sebuah makalah, dan sebuah perdebatan; ketika model menjadi pintu masuk utama, orang mungkin langsung berhenti pada jawaban itu sendiri.

Model untuk pertama kalinya memungkinkan pengetahuan dipusatkan secara besar-besaran ke server beberapa perusahaan. Mereka memiliki daya komputasi, memiliki model terkuat, juga memiliki kemampuan mengubah bahan yang ditinggalkan seluruh umat manusia menjadi bahasa terpadu. Kemudian, mereka menjual kemampuan ini kembali kepada manusia berdasarkan langganan bulanan dan penggunaan Token.

Perusahaan teknologi memang menginvestasikan modal besar, membeli chip, membangun pusat data, membiayai peneliti, juga menanggung biaya tata kelola keamanan. Pungutan biaya itu sendiri tidak merupakan kejahatan.

Masalah sesungguhnya adalah, biaya komersial sedang menutupi investasi lain yang lebih besar.

Siapa yang menulis buku-buku itu, siapa yang membuat makalah-makalah itu, siapa yang sedikit demi sedikit meninggalkan halaman web, postingan, dan kode dalam sejarah panjang internet.

Perusahaan AI membayar harga daya komputasi, tidak membayar harga peradaban manusia, karena akun ini sama sekali tidak bisa dihitung. Tidak ada perusahaan yang bisa membeli lisensi satu per satu dari semua penulis, penerjemah, programmer, dan orang biasa selama ribuan tahun. Akhirnya peradaban secara default menjadi sumber daya alam yang bisa ditambang secara bebas.

Pengetahuan publik ketika masuk ke model, disebut belajar. Model ketika mengeluarkan pengetahuan kepada publik, disebut layanan.

Ini adalah lingkaran privatisasi peradaban yang paling lengkap.

Ini juga alasan mengapa buku-buku lama yang punggungnya dipotong itu tidak boleh hanya dianggap sebagai sengketa hak cipta.

Mereka adalah sebuah simbol.

Kertas dihancurkan, isi dipertahankan. Naskah asli yang terlihat publik keluar dari sirkulasi, model yang tidak bisa diaudit menyerap pengetahuan di dalamnya. Pikiran dalam buku masih ada, tetapi perlahan kehilangan sumber, konteks, dan kehidupan yang independen dari perusahaan.

Pembakaran buku era baru, tidak perlu menghilangkan pengetahuan.

Anak-anak di masa depan mungkin jarang membuka buku-buku ini lagi, beberapa buku mungkin tidak akan bisa dibuka lagi.

Ia akan langsung bertanya kepada model, mengapa suatu perang terjadi, apakah suatu sistem adil, bagaimana seseorang harus hidup. Model akan memberikan jawaban dalam beberapa detik, nada bicara tenang, struktur lengkap, juga tidak akan memberitahunya bahwa masalah ini pernah diperdebatkan oleh beberapa generasi.

Ia mungkin tidak merasakan ada sesuatu yang hilang, toh, jawabannya masih ada di sana.

AI tidak akan melupakan peradaban manusia, tetapi ini bukan hal baik. Pelupaan setidaknya meninggalkan kekosongan, membuat orang tahu ada sesuatu yang hilang. Situasi yang lebih berbahaya adalah ketika model mengingat cukup banyak, menjawab dengan cukup alami, membuat orang perlahan tidak perlu lagi menyentuh peradaban dalam bentuk aslinya.

Ingatan manusia terhadap peradaban sendiri, mulai melalui penyaringan beberapa perusahaan.

AI tidak akan melupakan peradaban manusia, tetapi AI mungkin hanya mengingat peradaban untuk manusia sesuai cara yang diinginkan segelintir elite teknologi.