刚刚,OpenAI首席未来学家Joshua Achiam在X上宣布离职。
这并不是一个普通员工变动。
在OpenAI内部,首席未来学家这个职位夹在AI安全、政策和公司使命之间,负责研究AI继续变强之后,可能给世界带来的风险和机会。
而Joshua Achiam,正是OpenAI这条安全与使命线上的核心人物之一。
9年前的2017,他以实习生身份加入OpenAI。早期,他是一名专注于AI安全的研究科学家,做过深度强化学习里的安全约束研究。
后来,他领导过OpenAI的Mission Alignment(使命对齐)团队,负责维护这家公司最初那句使命:
确保AGI造福全人类。
今年2月,OpenAI解散Mission Alignment团队,Joshua转任公司首席未来学家。
只不过,短短5个月后,Joshua就宣布自己将在7月24日正式离开这家待了9年的公司。
至于离职原因,Joshua并没有透露太多。
他只是表示,自己离开并不是因为某个具体事件,也不是一时兴起,而是已经思考了很长一段时间。
为了安全的AGI
在X长文里,Joshua把这次离开称作“毕业”。
他写道,自己2017年以25岁实习生(毕业于UC伯克利)身份加入OpenAI。那时,计算机还不能真正和人对话,也谈不上思考。
如今,他34岁,已经是2岁孩子的父亲,而计算机已经开始解决前沿科学问题。
Joshua形容,这9年像是“一个发生了几个世纪变化的十年”。
对于未来,他依然保持乐观。
我相信,我们能够创造出一个这样的世界:在那里,“满足每个人的基本需求”不再是个需要解决的问题;相反,我们会觉得,把标准定得这么低,反而是一种耻辱。我相信,我们能够实现一个充满和平、前所未有的繁荣以及各种难以想象的社会与科学可能性的世界。无论我接下来做什么,我都会继续与你们携手努力,让这一愿景成为现实。
最后,他用一句话收尾:
To safe AGI.
这句话也很像他过去9年在OpenAI的位置。
据WIRED消息,OpenAI目前还没有宣布谁会接替Joshua的职位。这个职位位于公司AI安全和政策团队的交汇处,工作包括研究AI崛起可能带来的危害与收益。
此前,Joshua也曾与OpenAI全球事务负责人Chris Lehane等高层合作,推动与OpenAI使命一致的政府监管。
换句话说,他不是一个只做预测的“未来学家”。
更准确地说,他在OpenAI内部做的是另一件事:当模型能力一路往前冲时,给这家公司不断提醒那句老问题。
这条路最后到底要通向哪里?
那个打断马斯克的男人
回顾Joshua的OpenAI生涯,最有戏剧性的一幕,发生在2018年。
今年4-5月,在马斯克与OpenAI那场世界庭审中,Joshua曾出庭作证,回忆马斯克2018年,离开OpenAI前的一次告别演讲:
当时,他曾打断马斯克,指出如果计划在特斯拉开发AGI,可能会以牺牲安全为代价。
据称:马斯克当即骂道:“Joshua是个“蠢驴”(jackass)”。
后来,这件事后来反而成了OpenAI内部的一个“都市传说”。
Dario Amodei,如今的Anthropic CEO,以及David Luan,后来成为亚马逊AGI实验室负责人,还专门送给Achiam一个金色奖杯,上面刻着一句话:
“为了安全,永远不要停止当那个jackass。”
每逢安全大佬出走,OpenAI就?
在Reddit上,有网友很快把这件事放进了OpenAI的“安全负责人离职名单”里。
有人开玩笑说:
Ilya走了,Jan走了,现在Joshua也走了。每次负责对齐的人离开,OpenAI好像都会发生点什么。
这个梗当然有夸张成分。
但过去两年,OpenAI安全线的变化确实不少。
网友提到的Jan是Jan Leike,他曾共同领导OpenAI的Superalignment(超级对齐)团队,研究如何让先进 AI模型保持在人类控制之下。2024年,他离开OpenAI,加入Anthropic。
同年,OpenAI政策研究负责人Miles Brundage,以及曾负责AI模型危险能力研究的Steven Adler,也先后离开,转而创办非营利组织,推动AI实验室遵守更严格的安全和安保标准。
Andrea Vallone曾负责研究ChatGPT如何回应处于心理或情绪困境中的用户。她也在2025年底离开 OpenAI,加入了A社,也就是前同事Jan Leike所在的团队。
Joshua是这条离职链上最新的名字。
与此同时,OpenAI自己也在调整安全、研究和政策之间的关系。
WIRED提到,过去一年里,OpenAI一直试图拉近AI研究团队和政策团队之间的距离,希望制定出更能预判技术发展方向的规则和标准。包括Boaz Barak、Noam Brown、Adrien Ecoffet在内的一些研究员,也开始更多参与政策相关工作。
另一边,前白宫AI顾问Dean Ball本周加入OpenAI,担任公司Strategic Futures负责人。他会与Joshua有一段短暂交接,之后预计也会继续与研究人员和政策负责人合作。
这就让Joshua的离开显得更微妙。
一方面,OpenAI正在把“安全”和“政策”更紧地绑在一起;另一方面,那个曾经领导Mission Alignment、后来出任Chief Futurist的人,却选择在这个时间点走出实验室。
Joshua在离职信里写道:世界已经知道这个秘密(实现AGI)了。如今,在frontier lab的围墙之外继续推动这项使命,也变得可能。
这可能是整件事里最值得琢磨的一句话。
过去十年,AI的发展速度确实令人振奋。OpenAI也早已不只是那个小型研究实验室,而是变成了一个要同时面对产品、资本、政策、法院和公众的新型机构。
但说到底,过去十年,终究只是AI旅途里的一小段,未来的路也许会更加漫长。
漫长到足以把任何歌利亚,都磨成小矮人。
参考链接
[1]https://x.com/jachiam0/status/2074605703281693175
[2]https://www.wired.com/story/openai-chief-futurist-joshua-achiam-is-leaving-the-company/
本文来自微信公众号“量子位”,作者:henry
