Singularitas AI, sudah semakin dekat!
Belum lama ini, investor terkenal yang dijuluki "Warren Buffett Silicon Valley", Chamath Palihapitiya, meramalkan peta jalan utama tentang "Singularitas AI" di X.
1. Manusia membangun AGI.
2. AGI menjadi sangat ahli dalam penelitian bidang AI.
3. Ia merancang AI yang lebih cerdas.
4. AI yang lebih cerdas itu, merancang AI yang lebih cerdas lagi.
5. Siklus ini terus berulang, dan kecepatannya semakin meningkat.
Setelah itu, dia juga mengeluarkan kesimpulan yang menggemparkan—
Lihatlah pencapaian dan kemampuan yang diumumkan oleh berbagai laboratorium AI dalam beberapa minggu terakhir, saya berani mengatakan, kita sekarang sudah berada dalam siklus ini.
Dalam 18 bulan ke depan, RSI akan dengan cepat meningkatkan kemampuan AI.
Pada akhirnya, biaya marjinal semua model AI akan mendekati 0!
Bukan hanya investor, seluruh Silicon Valley sekarang sangat percaya pada RSI.
Baru-baru ini, pada sebuah puncak di UC Berkeley, Kepala Strategi Google DeepMind Jasjeet Sekhon mengeluarkan penilaian yang lebih penting:
Investasi gila yang belum pernah terjadi sebelumnya dari kalangan raksasa teknologi ini, pada dasarnya bertaruh pada tiga huruf ini—RSI!
"Taruhan ilmiah terbesar dalam sejarah peradaban manusia" ini, skalanya telah melampaui pendaratan Apollo, proyek Manhattan, bahkan seluruh internet.
Mengapa para raksasa tidak segan mengambil risiko putusnya rantai pendanaan, demi melanjutkan taruhan ini sampai akhir?
Lupakan AGI, RSI adalah Totem Ultimate Silicon Valley
AI saat ini sudah bisa mengoreksi diri sendiri, bisa bekerja berjam-jam tanpa diawasi, bahkan bisa menghasilkan dan mengoptimalkan kode tingkat rendah seperti komponen inti dan kompiler
Tapi menurut Jasjeet Sekhon, ini baru awal dari RSI.
Katanya, jangan berpikir bahwa menggunakan AI untuk merancang AI itu luar biasa, pada masa revolusi industri, manusia juga menggunakan mesin uap generasi pertama untuk membuat mesin uap generasi berikutnya yang lebih kuat.
Lalu, seperti apa bentuk RSI yang sebenarnya?
Seorang peneliti senior mendefinisikannya begini: RSI sejati berarti sebuah model AI dapat sepenuhnya secara mandiri merancang ulang arsitektur dasarnya, bahkan menciptakan model generasi baru dari nol, seluruh proses ini tidak memerlukan campur tangan ilmuwan manusia.
Sekali melewati titik kritis ini, kecepatan evolusi AI akan lepas dari kendali manusia.
Iterasi yang membutuhkan manusia puluhan tahun, mungkin hanya butuh beberapa minggu, bahkan beberapa hari bagi AI.
Saat itulah, siklus singularitas akan benar-benar datang!
"Lubang Udara AI" $200 Triliun, Taruhan Ilmiah Terbesar dalam Sejarah Peradaban Manusia
Memahami potensi RSI, Anda akan mengerti mengapa Silicon Valley menghamburkan uang seperti orang gila.
Tahun ini, hanya pengeluaran modal total Google untuk pusat data AI, chip, dan infrastruktur saja, mencapai angka yang mengejutkan, 1950 hingga 2050 miliar dolar, dan tahun depan akan meningkat drastis!
Pemegang saham Wall Street mulai gelisah, karena dari laporan keuangan, pertumbuhan pendapatan perangkat lunak AI atau layanan cloud, untuk sementara belum dapat menutupi pengeluaran modal dengan skala seperti ini.
Sekhon, yang pernah menjadi profesor statistik Yale, langsung menyingkap bahaya ini.
Kita sedang menghadapi potensi "lubang udara AI" (air pocket, pesawat turun tajam akibat penurunan tekanan udara mendadak, dia menggunakan istilah ini untuk menggambarkan investasi yang meleset), uang dikeluarkan, tapi pendapatan tidak muncul sesuai harapan.
Pusat data dibangun, chip dipasang, listrik ditarik, tapi hal yang benar-benar dapat mewujudkan investasi ini, tak kunjung datang.
Sebenarnya, jauh sebelum Sekhon, Wall Street telah menggunakan istilah air pocket untuk menggambarkan situasi ini: pengeluaran modal berlari di depan pendapatan, investor membeli sebuah istana di udara.
Jika risikonya sebesar ini, mengapa masih berlari dengan mata tertutup?
Jawaban Sekhon adalah: Ini adalah taruhan ilmiah terbesar sepanjang sejarah peradaban manusia.
Katanya, investasi global dalam AI saat ini, sudah membuat Proyek Manhattan, pendaratan Apollo menjadi kecil, bahkan pengembangan internet dulu pun tidak bisa dibandingkan.
Logika penjudi ini sederhana: teknologi yang ada meski belum menjadi RSI sejati, tapi "shorting-nya, jelas tidak bijak".
Karena begitu RSI benar-benar terwujud, seperti disebutkan di atas, biaya marjinal semua model AI akan mendekati nol tanpa batas.
Saat itu, perusahaan yang pertama kali menguasai RSI akan memiliki produktivitas yang hampir seperti dewa, langsung menyerang semua pesaing dengan dimensi yang lebih rendah, memonopoli sumber daya komputasi dan kecerdasan global.
Ini bukan lagi soal untung rugi satu perusahaan, tapi pertaruhan hidup mati "pemenang mengambil semuanya, yang kalah tersingkir".
Untuk tiket menuju era baru ini, 200 miliar dolar, hanyalah hal kecil.
Tumpukan pusat data, TPU, listrik hari ini, jika hanya bisa mengandalkan insinyur manusia melatih model generasi demi generasi secara manual, itu adalah aset tetap yang besar dan akan terus menyusut.
Tapi begitu AI mulai mempercepat pengembangan AI, logika pembukuan akan langsung berubah.
Kekuatan komputasi yang diinvestasikan tidak lagi terpakai secara linear, tapi bisa menghasilkan bunga majemuk: AI generasi ini membantu Anda lebih cepat membuat generasi berikutnya, generasi berikutnya membantu Anda membuat generasi selanjutnya.
Inilah alasan Sekhon mengatakan RSI adalah "bagian kunci dari logika investasi". RSI, adalah prasyarat apakah uang ini bisa kembali atau tidak.
Proses RSI "Tiga Besar"
Google, Anthropic, OpenAI, masing-masing memberikan sebuah contoh.
Pertama lihat Google.
Sistem AlphaEvolve dari DeepMind, khusus menggunakan AI untuk mengoptimalkan algoritma.
Ia mempercepat kernel kunci dalam pelatihan Gemini sebesar 23%, mengurangi waktu pelatihan keseluruhan sebesar 1%; desain sirkuit yang diubahnya, langsung ditulis ke dalam chip TPU generasi berikutnya.
Sekarang ia sudah menjadi alat rutin dalam infrastruktur Google, pekerjaan seperti strategi cache, ia selesaikan dalam dua hari, sesuatu yang dulu butuh berbulan-bulan bagi manusia.
AI membantu membuat chip, membuat AI yang lebih cepat, sudah menjadi kenyataan.
Selanjutnya lihat Anthropic.
April tahun ini, mereka melakukan eksperimen yang lebih radikal: sembilan agen cerdas Claude, dilempar ke dalam tugas penelitian penyelarasan yang terbatas, mengajukan hipotesis sendiri, menjalankan eksperimen sendiri, bertukar penemuan sendiri.
Dua peneliti manusia bekerja seminggu, hanya mengejar 23% dari gap performa; sembilan agen cerdas menghabiskan waktu kumulatif 800 jam, biaya sekitar $18.000, mengejar 97%.
Tampaknya, AI sudah bisa melakukan penelitian secara mandiri?
Jangan buru-buru, dalam laporan yang sama, tersembunyi bukti sebaliknya yang lebih penting: ketika peneliti memindahkan metode "paling efektif" ini ke lingkungan pelatihan produksi nyata Claude, itu tidak membawa perbaikan yang signifikan secara statistik.
Ini menunjukkan, antara "percepatan dalam tugas terbatas" dan "kemampuan merekonstruksi AI secara nyata", masih ada jurang pemisah.
Terakhir adalah OpenAI.
Juli, OpenAI mengungkapkan: GPT-5.6 Sol mereka melalui Codex secara mandiri menulis ulang kernel GPU lingkungan produksi, biaya inferensi ujung ke ujung turun 20%; ia juga menjalankan ratusan eksperimen arsitektur untuk model dekode spekulatifnya sendiri, efisiensi pembangkitan token meningkat lebih dari 15%.
OpenAI bahkan pertama kali dalam materi rilis, mempublikasikan "RSI Index" yang khusus mengevaluasi kemampuan perbaikan diri.
Apakah loop tertutup akan segera berputar?
OpenAI dalam sistem kartunya mengatakan dengan hati-hati, GPT-5.6 Sol belum mencapai ambang batas perbaikan diri "Tinggi" yang didefinisikan perusahaan, ia bisa menyelesaikan sebagian masalah penelitian nyata, tapi belum bisa secara andal merancang dan menjalankan skema pelatihan lanjutan yang lengkap.
Tiga contoh diletakkan bersama, gambaran RSI saat ini menjadi jelas:
Bantuan AI dalam pengembangan AI, benar-benar terjadi; tapi RSI sejati—AI secara mandiri merekonstruksi arsitektur lengkapnya sendiri, melatih dan meluncurkan penerus yang lebih kuat, masih berjarak dengan kita.
Kegelapan Tiba, Saat AI Super Kuat Menjadi Peretas dan Senjata Biologis
Namun, di balik singularitas, ada juga bayangan.
Dalam puncak ini, profesor CS Berkeley Dawn Song yang baru bergabung dengan departemen "superintelligence" Meta, bersama Sekhon, mengalihkan fokus diskusi ke masalah yang dihindari semua orang: risiko ekstrem AI.
Konsensus keduanya adalah: yang paling berbahaya bukan model tiba-tiba menjadi pintar, adalah ketidakseimbangan kecepatan serangan dan pertahanan.
Saat AI memiliki kemampuan RSI, ia bisa menyembuhkan kanker, membantu manusia menjelajahi alam semesta, tapi ia juga bisa menjadi senjata pamungkas yang menghancurkan umat manusia.
Pertama adalah "serangan dimensi rendah" dari dimensi keamanan siber.
Dawn Song memperingatkan, dalam jangka pendek, perkembangan AI akan "lebih menguntungkan penyerang", ini adalah medan pertempuran yang sangat tidak seimbang: peretas hanya perlu menemukan satu kerentanan untuk berhasil, sementara pihak bertahan harus mempertahankan semua kemungkinan serangan.
Saat penyerang jahat menggunakan agen cerdas AI yang pintar untuk meracuni repositori kode sumber terbuka, untuk memindai dan memanfaatkan kerentanan yang ditinggalkan programmer manusia, hari-hari ke depan akan sangat sulit:
Bayangkan, betapa rapuhnya sistem pertahanan kita yang ada: jaringan listrik energi AS, sistem rumah sakit global, jaringan keuangan, di hadapan AI super, mungkin seperti kertas.
Tapi keamanan siber masih dianggap "kecil".
Sekhon lebih khawatir dengan biologi, dia mengeluarkan skenario yang sangat mengerikan dalam pertemuan itu, kita sudah sangat dekat dengan dunia seperti ini, "siapa saja, hanya dengan berbicara bahasa alami dengan model, bisa merancang virus atau protein mematikan."
Dia mengusulkan, masyarakat masa depan harus seperti sekarang melacak pupuk pembuat bom, melakukan perizinan, pengawasan, dan pelacakan yang sangat ketat untuk semua "bahan yang relevan secara biologis".
Saat ini, Google berusaha menerapkan "teknologi watermarking" (SynthID) mereka yang digunakan untuk mengidentifikasi konten yang dihasilkan AI ke bidang biologi.
Ini berarti, jika di masa depan ada perusahaan yang mensintesis urutan DNA untuk perusahaan farmasi, sistem dapat memindai urutan ini, melihat apakah ada "kode berbahaya" yang dihasilkan diam-diam oleh AI yang tersembunyi di dalamnya.
Nanti, apakah pertahanan akan dibangun lebih cepat, atau AI akan berevolusi lebih cepat?
Hitung Mundur Sudah Dimulai, Berapa Banyak Waktu yang Kita Miliki?
Semua ini terdengar seperti fiksi ilmiah, tapi para otak Silicon Valley, sudah memberikan hitung mundur yang tepat.
Chamath berkata: 18 bulan ke depan, dunia akan menjadi gila.
Sekhon menilai: RSI sejati "sangat mungkin muncul dalam beberapa tahun ke depan".
Wakil Presiden Penelitian DeepMind Oriol Vinyals dan salah satu pendiri OpenAI Wojciech Zaremba yang hadir dalam acara yang sama, bahkan menyebutkan tahun spesifik: 2027 atau 2028.
Dalam sejarah manusia, belum ada teknologi yang mungkin mengubah jalur peradaban secara fundamental, dengan hitung mundur yang begitu dekat.
Kali ini, yang diletakkan di atas meja, adalah sebuah taruhan yang berlomba dengan waktu.
Investasi infrastruktur sedang melaju ke depan dengan kecepatan komputasi, chip, listrik, pusat data, dalam beberapa tahun akan tersedia.
Tapi, apakah pendapatan dan RSI yang sesuai bisa mengejar kereta ini?
Di tengah-tengah ruang hampa ini, apakah kita akan kebetulan menabrak "lubang udara" ini?
Tapi setidaknya di sini bagi Sekhon, arah taruhan $200 miliar dolar Google sudah jelas: RSI akan datang.
Mesin uap membuat mesin uap yang lebih baik, manusia menyambut revolusi industri.
Sekarang, AI sedang bersiap untuk membuat AI yang lebih baik, juga mendorong generasi kita, ke sebuah titik pembatas yang tidak diketahui.
Tidak peduli apakah Anda siap atau tidak, deru pusat data tidak akan berhenti, evolusi diri AI tidak akan berhenti.
Hitung mundur sudah dimulai, Anda, siap menyambut singularitas?
Referensi:
https://www.theinformation.com/newsletters/ai-agenda/google-deepmind-exec-says-unprecedented-capex-actually-bet-rsi?rc=epv9gi
https://x.com/kimmonismus/status/2084257726599716882
Artikel ini berasal dari akun WeChat "新智元", penulis: ASI启示录; editor: 元宇 Aeneas
