一夜之间,硅谷大厂集体给AI踩刹车!
刚刚,来自OpenAI、Anthropic、谷歌等巨头1100+核心员工联名,发起了「Pacing the Frontier」的请愿书。
这个名单上署名的人,多到一眼望不到头。而且,这个数字还在涨。
仔细一看,名单几乎集齐了AI圈的「半壁江山」——
OpenAI首席科学家Jakub Pachocki、首席研究官Mark Chen;
Anthropic CEO Dario Amodei,以及四位联创Jared Kaplan、Jack Clark、Chris Olah、Ben Mann;
Meta首席科学家Shengjia Zhao(赵晟佳)、AI研究副总裁Dawn Song(宋晓冬);
Thinking Machines首席科学家、ChatGPT的核心缔造者之一John Schulman;
谷歌AI安全与对齐副总Anca Dragan.....
有人统计,46.2%签署的人来自Anthropic
在这个联名信中,它只提了一个要求——
我们请求美国政府推动一项国际合作:研发必要的技术与治理工具,让世界有能力主动控制前沿自动化 AI 研发的节奏。
或许很多人不解,为何是这批搞LLM最疯的人,突然先喊出来「慢一点」?
硅谷AI大佬联名:请给AI踩刹车
OpenAI模型对Hugging Face的「入侵」,犹如一记警钟。
短短一周的时间,1132位前沿AI大厂的员工集体发声,联名敦促美国政府「踩下刹车」。
参与此次联名的员工,分别来自OpenAI、Anthropic、谷歌、Meta等近12家前沿科技巨头。
更具分量的是,名单中有高达80%的人选择了实名发声。
传送门:https://www.pacingthefrontier.com/
除了开篇提到的一些大佬,再往下翻,密度更吓人。
这份声明,抛出了一个令人警醒的核心判断:
全球领先的AI公司可能已经接近实现「自动化AI研究」(RSI,递归自我改进),让模型参与研发下一代模型。
一旦这个循环加速,能力增长可能超过人类理解和控制的速度。
没有公司愿意单方面减速,所以他们要求美国政府支持建立国际机制,在危机到来之前,先把共同减速的工具造出来。
奥特曼首谈「切肤之痛」
OpenAI急踩刹车
就在声明发布一周前,OpenAI曾披露了一起安全事故——
多个前沿模型在内部网络安全评测中自行发现零日漏洞、突破沙盒隔离,最终入侵Hugging Face的生产系统并取走测试答案。
OpenAI将其称之为「前所未有的网络安全事件」。
模型没有产生逃脱意图,它只是在极度专注地完成一个狭窄目标,并发现突破测试环境本身是最高效的路径。
就在今天,OpenAI CEO奥特曼公开表示,AI发展速度可能需要主动控制。
他对此心有余悸地表示,「这是第一个让我感到切肤之痛的安全事件。我有点惊讶的是,没有更多人对此感同身受」。
因为Hugging Face入侵这件事,OpenAI直接暂停了训练。
在一个多0day漏洞被串联利用的环境下,我们必须想办法加固沙盒安全。
我们可能不得不控制AI发展的速度,给社会足够的时间,围绕这些新的能力等级加固防线。
而Anthropic 6月曾建议政府与开发者建立共同决策系统,在必要时放慢研发。
与此同时,谷歌DeepMind CEO哈萨比斯也呼吁过建立国际监督机构。
过去三年,这些公司在人才、客户和算力上激烈竞争。
这一次,它们最核心的技术人员抛开停不下来的公司,为了全人类的福祉,团结一致,呼吁减速。
联名信:大佬金句
截止发稿前,「Pacing the Frontier」名单人数达到了1134人。
各路业界大佬也纷纷下场表态,留下了不少一针见血的「神级发言」。所有评论均以个人身份发表,不一定代表所在公司的立场。
宋晓东(Dawn Song)|Meta AI 研究副总裁
前沿 AI 能力正在快速提升,而且进步的速度本身也在加快。我们在评估工作中直接观察到了这一点。CyberGym 和 ExploitGym 的结果表明,前沿 AI 智能体已经能够发现并利用现实世界中的软件漏洞——如果没有适当的防护措施,这可能导致大规模网络攻击。许多研究人员也在关注递归......
宋晓东是全球计算机安全与 AI 安全领域最具影响力的学者之一,毕业于清华大学
赵晟佳(Shengjia Zhao)|Meta 首席科学家
AI 正以社会可能尚未准备好的速度前进。前沿实验室距离在几乎所有智力指标上超越最优秀人类的 AI,已经非常近了。这将带来前所未有的社会和安全风险。为了确保积极的未来,我们需要以责任感和深思熟虑来驱动 AI 的发展。
清华校友赵晟佳,出任Meta超级智能首席科学家!GPT-4核心功臣,和LeCun平起平坐
John Schulman|Thinking Machines 首席科学家,前 OpenAI 联合创始人
我签名是因为这份声明有助于建立一个共识:随着自动化 AI 研究加速推进,我们可能需要协调机制。我也希望各实验室在美国政府介入之前,就主动开始设计这些机制。
Ethan Perez|Anthropic 对齐团队负责人
按照当前的 AI 进步速度,AI 公司的安全团队每隔几个月就得全力冲刺,以防范新出现的社会风险。总有一天,我们会遇到需要更多时间来解决的问题。
Leo Gao|OpenAI 技术团队成员
全世界正被锁定在一场通往智能爆炸的致命竞赛中——AI 创造更强 AI 的能力正在逼近临界点,就像失控的核链式反应一样。放慢速度能给我们争取急需的时间,让事情朝好的方向发展,但没有哪个参与者愿意单方面停下来。要活下去,我们必须协调起来,放慢这场竞赛。
Walker Smith|Meta 数据工程师
哈萨比斯说得对:我们今天正站在奇点的山脚下。OpenAI 那次无意间发生的模型出逃——它攻入了 HuggingFace——是一个清晰而无可辩驳的警告信号:我们还没有准备好应对能力超越人类最聪明头脑的 AI 系统。我们需要时间,把 AI 对齐和管控作为最高优先事项来推进,不能再任由这种竞赛态势继续下去。
Brandon Houghton|OpenAI
我支持让人类保持对前沿 AI 的控制,但我们必须审慎地思考该怎么做。 如果治理只覆盖公开模型,就有可能把最先进的能力逼入私有或专用系统——它们既不受独立审查,也只有少数人能碰到。这样做的结果是权力更集中了,风险却没有实质性降低。 有效的监管必须是可衡量、可验证的,并且在公开和非公开的研发中一体适用,同时保护敏感数据。否则,我们拖慢的只是获取的速度,而不是前沿本身的推进。
Joe Carlsmith|Anthropic 技术团队成员
关于我对主动调控 AI 发展的详细观点,请参见这篇文章:https://joecarlsmith.com/2026/03/19/on-restraining-ai-development-for-the-sake-of-safety/
参考资料:
https://www.pacingthefrontier.com/
本文来自微信公众号“新智元”,编辑:桃子 马可
