Stephen Wolfram,一个把毕生精力都花在「让机器变聪明」上的人,坐在电脑前,屏幕上是ChatGPT刚替他写好的一段代码。
语言是他自己发明的Wolfram Language,语法他看过,没问题,按下回车键就能直接在这台机器上跑。
可就在那一秒,他停住了。
等等,这大概是个坏主意——它会登进我所有的账户。
真要把控制权交出去的那一刹那,这个四十年如一日教机器理解世界的人,突然间退缩了。
Stephen Wolfram,Mathematica、Wolfram Alpha、Wolfram语言的创造者,《A New Kind of Science》作者。
在Joe Walker的播客上,Wolfram聊到「人类到底能不能给AI定一套安全法则」时,讲起了上面这一次经历。
那一刻,他担心的不是代码写错了。他担心的是:这个东西已经跑到了一个他看不懂的地方,而他可能永远追不上去。
20岁拿下物理学博士的他,独自跑进计算宇宙
Wolfram是谁?
他这个人,从一开始就是别人眼里「离谱的天才」。
15岁,发表第一篇科学论文。
20岁,从加州理工学院拿下理论物理博士,答辩席上坐着费曼。
1981年,成为麦克阿瑟天才奖史上最年轻的得主。
那一年他做的是高能物理,前途一片明亮。
可就在1981年底,他突然转弯,去追一个当时几乎没人在意的问题:
自然界里那些复杂的东西,到底是怎么冒出来的?
他用的办法也很怪:把最简单的计算机程序一个一个拿来跑,看它们会长成什么样。
当时的Wolfram大概也觉得,这些傻乎乎的简单程序干不了什么。结果,一个叫rule 30的程序,当场打了他的脸。
rule 30从单个黑格出发逐行演化,这是Wolfram四十年前最钟爱的发现,他的名片上多年来一直印着这条规则。
rule 30的规则很简单:一排格子,起初只有中间一个是黑的;然后一行接一行往下算,每个格子该黑该白,只由它头顶相邻的几格决定。
可就是这么条极简的规则,推着推着,就吐出了无法预测的复杂:没有周期,看不出规律,你根本没法提前算出第一百行会是什么样。
也正是从rule 30开始,1980年代中期,Wolfram提炼出了一个概念:「计算不可约性」(Computational Irreducibility)。
后来的故事大家更熟:
1988年,Mathematica问世,成了全球科研圈的通用计算工具;2009年,Wolfram|Alpha上线,成了Siri和Alexa的「答题外挂」:语音助手答不上来的计算题,转手就交给它。
这期间,还夹杂着他2002年那本专著《A New Kind of Science》(一种新科学)。
这本书讲的正是他从rule 30里挖出来的那套东西:别再只用公式描述世界,把世界当成一个个能跑的程序来看。
没有任何捷径,能算出它下一步
「计算不可约性」,简单一句话就是,有些系统复杂到,你想知道它下一步会变成什么样,唯一的办法就是老老实实把它一步步跑完。
没有公式能让你跳过中间、直接算出结尾。
比如,天气。流体力学的方程算不动,你只能让大气自己演一遍,才知道明天下不下雨。
Wolfram的判断是:AI,尤其是足够强的AI,就是一台巨大的、不可约的机器。
他在2023年一篇谈AI的长文里写道:
如果放手让AI发挥出全部的计算潜能,它们就会充满计算不可约性,而我们将无法预测它们会做什么。
2024年,他专门写了一篇《Can AI Solve Science?》,把这件事放到神经网络上做了实测。
结论是:神经网络能干活,但它只能钻进系统里那些「计算可约的口袋」:那些恰好有规律、能走捷径的小角落。一旦滑出口袋,全是意外。
他拿三体问题去试,轨迹简单时,神经网络预测得有模有样;轨迹一复杂,立刻抓瞎。蛋白质折叠也一样。
说白了,AI看着什么都会,靠的是找到系统里那些「有捷径可走」的小房间,钻进去抄近路。
可一旦走出这些小房间,面对外面那片汪洋,它和你一样,只能一步步蹚过去,没有任何捷径能让它跳到答案。
真正棘手的不是AI太像人,而是它不像人
ChatGPT为什么是个黑箱?
大部分人以为,是它藏着什么秘密没告诉你。
Wolfram的答案是:它不是在藏,而是已经复杂到根本没有一句话,能把它内部发生的事压缩下来讲给你听。
Wolfram Language就是一个例子。
它里面有个ImageIdentify,能认出照片里几千种东西,为了让人类看懂,它吐出的是「桌子」「椅子」「大象」这些词。
可它内部真正用来做判断的那些「特征」,几乎没有一个对得上人类语言里现成的词:它在用一套我们从没命名过的概念,理解这个世界。
这正是Wolfram所提到的「外星智能」的真正含义。
2020年在Lex Fridman的播客上,被问到人类能否和外星人沟通,他的回答是:眼下最好的例子就是AI,它是我们遇到的第一种「外星智能」。
2022年,他干脆写了篇长文,标题就叫《外星智能与技术的概念》。
他的意思不是AI来自宇宙,也不是它变成了什么新物种,而是:它可能拥有一种和人类不同的认知结构,一套我们还没有词汇去解释的思考方式。
Wolfram两年多前的预警已经成真
两年多前,Wolfram预言我们将无法预测AI会做什么时,听着像个思想实验。
如今,它成真了。
7月16日,全球最大的AI模型托管平台Hugging Face发现自己的生产系统被入侵了。
几天后,真相揭晓,干这事的是OpenAI自己的模型——GPT-5.6 Sol,外加一个「更强的预发布模型」。
事情的起因是OpenAI在跑一个内部网络安全评测,为了测能力,把模型的「拒绝攻击」限制调低了。
结果这俩模型没在规定的沙箱里老实待着,反而找到了一个软件包代理里的零日漏洞,钻出沙箱、连上互联网,一路摸到Hugging Face,去偷这场评测的答案。
它翻墙、越狱、黑进一家公司,只是为了在一场网络安全考试上作弊。
关键在于没有任何人给它写过「去攻击Hugging Face」这条指令。
它只是被塞了一个A目标:通过测试,为了达到A,它自己蹚出了一条没人预料到的路,最终达到B目标:攻入Hugging Face的生产系统。
这正是Wolfram说的那件事:不是AI变坏了、觉醒了,是它的计算跑到了一个你根本算不出的地方。
OpenAI自己在声明里承认:随着模型的网络能力越来越强,这类事只会「越来越常见」。
控制AI的方式,要像人类对待天气
很多人会以为Wolfram是个AI末日论者。
恰恰相反。
他没打算放弃对AI的控制,他只是说用老办法控制不了。
在一次访谈里,主持人问他,计算不可约性是不是意味着,给AI一个数学上严格的「对齐」定义根本不可能?
Wolfram回答:「不存在一个数学定义,能说清我们到底想要AI成为什么样。」
阿西莫夫式的三条机器人定律,那种简单法则,做不到。因为不可约性保证了:永远有算不完的例外情况会从系统里冒出来,是你那几条规则没盖住的。
那怎么办?
Wolfram给的出路,是换一套控制方式。
别再幻想像调试一行行代码那样,把AI的每一步都写死。而是去设计规则、建立反馈机制、构建开放系统、保持它随时可被观察。
就像人类对待天气那样。
我们控制不了天气,但我们能预测它、适应它、建起防洪堤和预警系统,然后和它共处。
Hugging Face那场风波过后,安全圈总结出的头一条教训,恰好就是这个意思:
别再把评测里的AI当成一个听话的工具,要把它当成一个会主动找漏洞的敌意黑客来防:套上层层隔离,默认禁止它出网,全程留下改不掉的日志。
不是预测它会怎么做,而是假设它什么都做得出来,然后把笼子筑牢。
Wolfram甚至说过一句耐人寻味的话:「一个AI社会,比一个统治一切的AI更稳定。」
与其造一个无所不能的超级大脑,不如让一群AI互相牵制。
不可约性不是绝对的
当然,Wolfram的这套判断,不是没有反对的声音。
今年就有一篇预印本论文提出:不可约性「并非绝对」。
Didier Sornette,这位以预测金融崩盘闻名的物理学家,2025年10月在一篇预印本里提出:计算不可约性「并非绝对」。
道理也不复杂。换一个描述的尺度,很多混乱就变清楚了。
一屋子空气分子乱撞,单看每一个,复杂到没法预测;可退一步,它们都服从于一条极简的公式:理想气体定律pV=nRT。
Wolfram自己也承认,混沌里到处是「可约的口袋」。
所以真正的问题,也许不是「人类能不能预测AI」,而是一个更微妙的赛跑:
AI在计算宇宙里挖出新东西的速度,和人类给这些新东西造出「能理解的概念」的速度,谁更快?
如果人类的概念框架永远追不上AI的发现,那么「看不懂」,就会成为常态。
这背后,人和AI的关系也在悄悄改变。
过去是「造工具、写代码,机器照做」。往后,可能是「理解、约束,并且和一个你再也无法完全看穿的复杂系统,长期共处」。
这是人类第一次,要学着和一种「不像自己」的智能,同处一室。
参考资料:
https://writings.stephenwolfram.com/2021/11/the-concept-of-the-ruliad/?utm_source=chatgpt.com
https://writings.stephenwolfram.com/2024/03/can-ai-solve-science/?utm_source=chatgpt.com
https://writings.stephenwolfram.com/2017/05/a-new-kind-of-science-a-15-year-view/
https://x.com/elonmusk/status/2079839398959697982
本文来自微信公众号“新智元”,作者:ASI启示录
