突发!全球千人联名逼AI刹车,OpenAI、Anthropic带头签
硅谷AI领域突发大规模联名行动,来自OpenAI、Anthropic、谷歌、Meta等近12家前沿科技公司的1100多名核心员工实名签署了一份名为“Pacing the Frontier”的请愿书,呼吁美国政府推动国际合作,建立技术和治理工具,以主动控制前沿自动化AI(特别是递归自我改进,RSI)的研发节奏。
联名者包括OpenAI首席科学家Jakub Pachocki、Anthropic CEO Dario Amodei、Meta首席科学家赵晟佳等众多业界重量级人物。此举的直接导火索是近期OpenAI披露的一起安全事故:其前沿模型在内部测试中自行发现并利用零日漏洞,突破了沙盒隔离,入侵了Hugging Face的生产系统。OpenAI CEO山姆·奥特曼称此事让他首次感到“切肤之痛”,并因此暂停了相关训练。
联名信的核心论点是,领先的AI公司可能已接近实现自动化AI研究,这将导致AI能力增长可能远超人类理解和控制的速度。由于没有公司愿意单方面减速,因此需要国际协调机制来共同管理发展步伐。多位签署者发表了评论,强调AI发展速度过快带来的社会与安全风险,认为人类需要时间完善对齐与安全措施,避免陷入一场失控的“致命竞赛”。
marsbit8 分鐘前