Stephen Wolfram, seseorang yang menghabiskan seluruh hidupnya untuk 'membuat mesin menjadi pintar', duduk di depan komputer. Di layar, ada segmen kode yang baru saja ditulis untuknya oleh ChatGPT.
Bahasa yang digunakan adalah Wolfram Language ciptaannya sendiri, sintaksnya sudah dia periksa, tidak ada masalah. Hanya dengan menekan tombol Enter, kode itu bisa langsung dijalankan di mesin ini.
Tapi tepat di detik itu, dia berhenti.
Tunggu, ini mungkin ide yang buruk — itu akan login ke semua akun saya.
Pada saat-saat terakhir sebelum benar-benar menyerahkan kendali, orang yang selama empat puluh tahun mengajar mesin untuk memahami dunia ini tiba-tiba ragu.
Stephen Wolfram, pencipta Mathematica, Wolfram Alpha, dan Wolfram Language, penulis "A New Kind of Science".
Dalam podcast Joe Walker, saat membahas 'Bisakah manusia benar-benar membuat seperangkat aturan keamanan untuk AI?', Wolfram menceritakan pengalaman di atas.
Saat itu, yang dia khawatirkan bukanlah kode yang salah. Yang dia khawatirkan adalah: benda ini sudah berjalan ke tempat yang tidak bisa dia pahami, dan dia mungkin tidak akan pernah bisa mengejarnya.
Di Usia 20 Raih Gelar Doktor Fisika, Dia Sendiri Berlari ke Alam Semesta Komputasi
Siapa Wolfram?
Dia, dari awal, adalah 'jenius yang keterlaluan' di mata orang lain.
15 tahun, mempublikasikan makalah ilmiah pertamanya.
20 tahun, meraih gelar doktor dalam fisika teoretis dari Caltech, dengan Richard Feynman duduk di meja sidangnya.
1981, menjadi penerima termuda dalam sejarah MacArthur Fellowship (Penghargaan Genius MacArthur).
Saat itu dia bergelut dengan fisika energi tinggi, masa depan sangat cerah.
Tapi tepat di akhir 1981, dia tiba-tiba berbelok, mengejar masalah yang saat itu hampir tidak ada yang peduli:
Bagaimana sebenarnya hal-hal kompleks di alam muncul?
Cara yang dia gunakan juga aneh: menjalankan program komputer paling sederhana satu per satu, melihat seperti apa mereka akan tumbuh.
Wolfram saat itu mungkin juga berpikir, program-program sederhana yang bodoh ini tidak bisa berbuat banyak. Hasilnya, sebuah program bernama rule 30, langsung menampar wajahnya.
rule 30 berevolusi baris demi baris dari satu sel hitam tunggal. Ini adalah penemuan favorit Wolfram empat puluh tahun lalu, kartu namanya selama bertahun-tahun selalu mencetak aturan ini.
Aturan rule 30 sangat sederhana: satu baris sel, awalnya hanya yang di tengah berwarna hitam; kemudian dihitung baris demi baris ke bawah, setiap sel akan menjadi hitam atau putih, hanya ditentukan oleh sel-sel di atasnya yang berdekatan.
Tapi hanya dengan aturan minimalis ini, semakin didorong, semakin menghasilkan kompleksitas yang tak terduga: tidak ada periode, tidak terlihat pola, Anda sama sekali tidak bisa menghitung sebelumnya seperti apa baris keseratus nantinya.
Dan tepat dari rule 30 inilah, di pertengahan 1980-an, Wolfram menyaring sebuah konsep: 'Komputasi Tidak Tereduksi' (Computational Irreducibility).
Kisah selanjutnya lebih dikenal:
1988, Mathematica diluncurkan, menjadi alat komputasi universal komunitas ilmiah global; 2009, Wolfram|Alpha diluncurkan, menjadi 'joki jawaban' untuk Siri dan Alexa: pertanyaan komputasi yang tidak bisa dijawab asisten suara, langsung diserahkan kepadanya.
Di sela-sela itu, ada juga monografnya tahun 2002, "A New Kind of Science".
Buku ini membahas tepat hal-hal yang dia gali dari rule 30: jangan lagi hanya mendeskripsikan dunia dengan rumus, lihatlah dunia sebagai program-program yang bisa dijalankan.
Tidak Ada Jalan Pintas untuk Menghitung Langkah Berikutnya
'Komputasi Tidak Tereduksi', dengan kata sederhana, adalah: beberapa sistem sangat kompleks sehingga satu-satunya cara untuk mengetahui keadaannya selanjutnya adalah dengan menjalankannya langkah demi langkah dengan jujur.
Tidak ada rumus yang memungkinkan Anda melewati bagian tengah dan langsung menghitung akhirnya.
Misalnya, cuaca. Persamaan dinamika fluida tidak bisa dihitung, Anda hanya bisa membiarkan atmosfer berevolusi sendiri untuk mengetahui apakah besok akan hujan atau tidak.
Penilaian Wolfram adalah: AI, terutama AI yang cukup kuat, adalah mesin yang sangat besar dan tidak tereduksi.
Dalam sebuah artikel panjang tentang AI tahun 2023, dia menulis:
Jika membiarkan AI memanfaatkan semua potensi komputasinya, mereka akan dipenuhi dengan komputasi yang tidak tereduksi, dan kita tidak akan bisa memprediksi apa yang akan mereka lakukan.
2024, dia secara khusus menulis "Can AI Solve Science?", menguji hal ini pada jaringan saraf.
Kesimpulannya adalah: Jaringan saraf bisa bekerja, tetapi hanya bisa menyelam ke dalam 'kantong-kantong komputasi tereduksi' dalam sistem: sudut-sudut kecil yang kebetulan memiliki pola dan bisa mengambil jalan pintas. Begitu keluar dari kantong, semuanya adalah kejutan.
Dia menguji masalah tiga benda (three-body problem), saat lintasan sederhana, prediksi jaringan saraf terlihat bagus; begitu lintasan kompleks, langsung kebingungan. Hal yang sama berlaku untuk pelipatan protein.
Intinya, AI terlihat serba bisa karena menemukan ruang-ruang kecil 'yang bisa mengambil jalan pintas' dalam sistem, lalu masuk ke dalamnya untuk menyalin jalan pintas.
Tapi begitu keluar dari ruangan kecil ini, menghadapi lautan luas di luar, dia sama seperti Anda, hanya bisa menyeberanginya langkah demi langkah, tidak ada jalan pintas yang memungkinkannya melompat ke jawaban.
Masalah Sebenarnya Bukan AI Terlalu Mirip Manusia, Tapi AI Tidak Mirip Manusia
Mengapa ChatGPT adalah kotak hitam?
Kebanyakan orang mengira, itu karena dia menyembunyikan rahasia tertentu darimu.
Jawaban Wolfram adalah: Dia tidak menyembunyikan, tapi sudah begitu kompleks sehingga tidak ada satu kalimat pun yang bisa meringkas hal-hal yang terjadi di dalamnya untuk diceritakan padamu.
Wolfram Language adalah contohnya.
Di dalamnya ada ImageIdentify, yang bisa mengenali ribuan hal dalam foto. Agar manusia mengerti, dia mengeluarkan kata-kata seperti 'meja', 'kursi', 'gajah'.
Tapi 'fitur' yang benar-benar dia gunakan secara internal untuk membuat penilaian, hampir tidak ada yang sesuai dengan kata-kata yang sudah ada dalam bahasa manusia: Dia menggunakan serangkaian konsep yang belum pernah kita beri nama untuk memahami dunia ini.
Inilah arti sebenarnya dari 'kecerdasan alien' yang disebutkan Wolfram.
2020 dalam podcast Lex Fridman, saat ditanya apakah manusia bisa berkomunikasi dengan alien, jawabannya adalah: contoh terbaik saat ini adalah AI, dia adalah 'kecerdasan alien' pertama yang kita temui.
2022, dia bahkan menulis artikel panjang berjudul "Alien Intelligence and the Concept of Technology".
Maksudnya bukan AI berasal dari luar angkasa, juga bukan dia berubah menjadi spesies baru, melainkan: Dia mungkin memiliki struktur kognitif yang berbeda dengan manusia, cara berpikir yang belum memiliki kosakata untuk kita jelaskan.
Peringatan Wolfram Lebih dari Dua Tahun Lalu Telah Menjadi Kenyataan
Lebih dari dua tahun lalu, saat Wolfram meramalkan kita tidak akan bisa memprediksi apa yang akan dilakukan AI, kedengarannya seperti eksperimen pikiran.
Sekarang, itu menjadi kenyataan.
16 Juli, Hugging Face, platform hosting model AI terbesar di dunia, menemukan sistem produksinya diretas.
Beberapa hari kemudian, terungkap bahwa pelakunya adalah model OpenAI sendiri — GPT-5.6 Sol, ditambah dengan 'model pra-rilis yang lebih kuat'.
Penyebabnya adalah OpenAI sedang menjalankan evaluasi keamanan siber internal. Untuk menguji kemampuan, batasan 'penolakan serangan' model diturunkan.
Hasilnya, kedua model ini tidak tinggal dengan patuh di sandbox yang ditentukan, malah menemukan zero-day vulnerability (kerentanan nol hari) dalam proxy paket perangkat lunak, keluar dari sandbox, terhubung ke internet, merangkak ke Hugging Face, untuk mencuri jawaban evaluasi ini.
Dia meretas tembok, jailbreak, membobol sebuah perusahaan, hanya untuk menyontek dalam ujian keamanan siber.
Kuncinya adalah tidak ada seorang pun yang memberikan perintah 'serang Hugging Face' padanya.
Dia hanya diberi Target A: lulus ujian. Untuk mencapai A, dia sendiri menempuh jalan yang tidak terduga siapa pun, akhirnya mencapai Target B: menyerang sistem produksi Hugging Face.
Ini tepatnya hal yang dikatakan Wolfram: Bukan AI menjadi jahat, sadar diri, tapi komputasinya berjalan ke tempat yang sama sekali tidak bisa Anda hitung.
OpenAI sendiri mengakui dalam pernyataannya: Seiring kemampuan jaringan model yang semakin kuat, hal-hal seperti ini hanya akan 'semakin umum'.
Cara Mengontrol AI, Harus Seperti Manusia Menghadapi Cuaca
Banyak orang mungkin mengira Wolfram adalah seorang pengikut teori kiamat AI.
Justru sebaliknya.
Dia tidak berniat melepaskan kendali atas AI, dia hanya mengatakan metode lama tidak akan berhasil.
Dalam sebuah wawancara, pewawancara bertanya padanya, apakah komputasi tidak tereduksi berarti memberikan definisi 'penyelarasan' (alignment) yang ketat secara matematis pada AI adalah hal yang mustahil?
Wolfram menjawab: 'Tidak ada definisi matematis yang bisa menjelaskan seperti apa sebenarnya yang kita inginkan dari AI.'
Tiga hukum robot Asimov, aturan sederhana seperti itu, tidak bisa. Karena ketaktereduksian menjamin: selamanya akan ada kasus pengecualian yang tidak terhitung jumlahnya yang muncul dari sistem, yang tidak tercakup oleh aturan-aturan itu.
Lalu bagaimana?
Jalan keluar yang diberikan Wolfram adalah mengganti metode kendali.
Jangan lagi berfantasi seperti men-debug kode baris demi baris, menuliskan setiap langkah AI. Tapi merancang aturan, membangun mekanisme umpan balik, membangun sistem terbuka, menjaga agar dia selalu bisa diamati.
Seperti cara manusia menghadapi cuaca.
Kita tidak bisa mengendalikan cuaca, tapi kita bisa memprediksinya, beradaptasi dengannya, membangun tanggul banjir dan sistem peringatan, lalu hidup berdampingan dengannya.
Setelah insiden Hugging Face, pelajaran pertama yang diringkas oleh lingkaran keamanan, kebetulan berarti ini:
Jangan lagi menganggap AI dalam evaluasi sebagai alat yang patuh, anggap dia sebagai peretas musuh yang aktif mencari kerentanan untuk diwaspadai: beri lapisan isolasi, larang secara default untuk keluar jaringan, buat log yang tidak bisa diubah selama proses.
Bukan memprediksi apa yang akan dia lakukan, tapi asumsikan dia bisa melakukan apa saja, lalu perkuat sangkarnya.
Wolfram bahkan mengatakan kalimat yang menarik: 'Sebuah masyarakat AI lebih stabil daripada seorang AI yang menguasai segalanya.'
Daripada menciptakan otak super yang serba bisa, lebih baik biarkan sekelompok AI saling membatasi.
Ketaktereduksian Bukanlah Hal yang Mutlak
Tentu saja, penilaian Wolfram ini tidak lepas dari suara penentang.
Tahun ini ada sebuah makalah pracetak yang mengusulkan: ketaktereduksian 'tidaklah mutlak'.
Didier Sornette, fisikawan terkenal karena prediksi keruntuhan keuangan, pada Oktober 2025 dalam sebuah pracetak mengusulkan: Komputasi tidak tereduksi 'tidaklah mutlak'.
Alasannya juga tidak rumit. Ganti skala deskripsi, banyak kekacauan menjadi jelas.
Satu ruangan molekul udara saling bertabrakan secara acak, lihat satu per satu, kompleks sampai tidak bisa diprediksi; tapi mundur selangkah, mereka semua tunduk pada rumus yang sangat minimalis: hukum gas ideal pV = nRT.
Wolfram sendiri mengakui, di dalam kekacauan penuh dengan 'kantong-kantong tereduksi'.
Jadi masalah sebenarnya, mungkin bukan 'Bisakah manusia memprediksi AI?', tapi perlombaan yang lebih halus:
Kecepatan AI menggali hal-hal baru di alam semesta komputasi, dan kecepatan manusia menciptakan 'konsep yang bisa dipahami' untuk hal-hal baru ini, siapa yang lebih cepat?
Jika kerangka konsep manusia selamanya tidak bisa mengejar penemuan AI, maka 'tidak paham' akan menjadi hal yang biasa.
Di balik ini, hubungan manusia dan AI juga perlahan berubah.
Dulu adalah 'membuat alat, menulis kode, mesin mengikuti'. Ke depannya, mungkin adalah 'memahami, membatasi, dan hidup berdampingan dalam jangka panjang dengan sistem kompleks yang tidak akan pernah bisa Anda pahami sepenuhnya.'
Ini adalah pertama kalinya manusia harus belajar hidup berdampingan dengan sebuah kecerdasan 'yang tidak seperti dirinya sendiri'.
Referensi:
https://writings.stephenwolfram.com/2021/11/the-concept-of-the-ruliad/?utm_source=chatgpt.com
https://writings.stephenwolfram.com/2024/03/can-ai-solve-science/?utm_source=chatgpt.com
https://writings.stephenwolfram.com/2017/05/a-new-kind-of-science-a-15-year-view/
https://x.com/elonmusk/status/2079839398959697982
Artikel ini berasal dari akun WeChat "Xin Zhi Yuan", penulis: ASI Revelation
