如果通用人工智能(AGI)明天就实现了,AI 的下一个阶段会是什么样的?
Google DeepMind 团队及其合作者在最新研究报告中提出,AGI 很可能不是终点。在他们看来,AI 不会停留在接近人类的水平,而是会继续变强,超过最顶尖的人类专家团队,最终走向超级人工智能(ASI)。
正如艾伦·图灵曾在 1950 年写道:“我们只能看到前方很短的一段距离,但也能看到,那里还有大量工作有待完成。”
在这份报告中,研究团队梳理了 AI 从 AGI 变迁到 ASI 的四条潜在路径、可能出现的关键瓶颈,以及最值得推进的研究问题。
论文链接:https://arxiv.org/abs/2606.12683
研究团队表示,由于预测 ASI 进展存在较大不确定性,目前无法排除 AI 在未来数年内持续加速发展的可能性。这可能意味着,将人类水平 AGI 引入社会所引发“单一变革性跃迁”的图景,或许并不准确。
更为贴切的前景,可能是 AI 驱动的进步与突破将在科学技术的众多领域相继涌现,进而引发一系列变革性的社会变化。
为应对这一前景,需要开展一项具有全球视野与广泛关切的大规模跨学科工程。
AGI 之后,是 ASI
在讨论 AI 会如何继续变强之前,研究团队先区分了三个容易混用的概念:AGI、ASI 和 UAI。
AGI (Artificial General Intelligence):一个在大多数认知任务上达到人类中位水平的通用智能系统。对应的是普通人的一般认知能力,而不是顶尖专家的水平。研究团队也指出,第一代 AGI 可能已在部分任务上超越人类,只是尚未具备足够广泛的通用性。
ASI (Artificial Super Intelligence):它不是只在少数任务上超越人类,而是在几乎所有人类关心的领域都整体超过人类;对应的参照对象也不是单个专家,而是大规模、协调良好的人类专家集体。
UAI(Universal Artificial Intelligence):机器智能的理论上界,由 AIXI 框架形式化描述。AIXI 对应的是一种理论上的最优通用智能体。现实中的 AI 只能逐步逼近这一上界,无法直接实现。
同时,研究团队指出, AGI 走向 ASI 可能不止一条路径,他们提出了四条可能并行推进的路径,具体如下:
路径一:继续扩展计算、模型与数据
这一路径延续了过去十年AI进步的基本逻辑,包括更强的硬件、更大的训练运行、更高的算法效率、更大的模型和更多的数据。研究团队指出,近年的“有效算力”大致相当于每年增长 10 倍。沿着这一路径,AI 的提升不只来自单个模型变强,也可能来自更多实例、更快推理和更大规模协作带来的集体能力扩展。
路径二:算法继续演化,甚至出现新的范式转变
研究团队指出,更长上下文、持续学习、检索增强、工具使用、环境交互中的鲁棒决策、世界模型等,都属于现有范式的延伸;而新的架构、训练目标或学习机制,则更接近真正的范式转变。研究团队没有具体预测下一次范式转变会是什么,但认为这仍可能是 AGI之后 AI 持续进步的重要来源。
路径三:递归自我改进
更强的 AI 可以帮助研发下一代更强的 AI,形成正反馈。研究团队提到,这种机制可以体现在算法和代码、硬件设计、数据生成与筛选,以及分工效率的改进上。像 AlphaZero 那样先用搜索改进输出,再把结果蒸馏回模型,就是一个相关例子。更重要的是,这种正反馈在现实中究竟能发展到哪一步。
路径四:多智能体协调与群体智能
这一路径关注的不是单个模型变得多强,而是大量 AGI 系统通过分工和协作,形成超出单体上限的集体智能。研究团队把自动化公司、研究组织和虚拟经济系统等,都看作这一路径可能出现的形态。按照这一路径,ASI 未必是一个极强的单体模型,也可能是一个高度协调的 AI 集体。
研究团队也提醒,AGI 走向 ASI,未必只是算力越多越好。算力扩张当然重要,但很快会撞上资源天花板,还要靠新的算法思路,甚至新的范式。更值得注意的是,即便单个 AGI 只是接近人类水平,大量 AGI 一旦能高效分工、协同合作,整体能力也可能超过人类。
真正的难点在哪里?
在讨论四条潜在路径之后,研究团队也归纳了六类可能影响 AI 继续变强的关键瓶颈。具体如下:
1.数据墙
研究团队指出,高质量的人类生成数据是有限的,适合大规模预训练的人类文本数据,可能在本十年内逼近上限。合成数据、模拟环境数据,以及 AI 与现实世界交互产生的数据,能不能足够快地补上这个缺口,研究团队没有下结论,而是把它列为核心不确定性之一。
2.经济和自然资源压力
如果 AI 的进步继续主要依赖规模扩展,那么能源、芯片、数据中心、供应链和资本投入都必须同步增长。研究团队认为这是现实约束,但也指出,AI 本身也可能提高经济产出、提升算法和硬件效率,从而缓解这些压力。
3.现有神经网络范式可能不够用
研究团队没有排除当前路线通向 ASI 的可能性,但也提醒,这一路线在持续学习、稳定推理、交互式决策、不确定性表达,以及幻觉和提示注入等问题上,仍可能存在根本性局限。
4.研究本身会越来越难
研究团队指出,随着领域成熟,继续取得进展往往需要更高投入;AI 能否通过自动化研究抵消这一趋势,仍有待后续研究。
5.抽象壁垒
研究团队认为,如果今天的 AI 主要学习的是人类已经形成的概念和符号体系,它或许擅长重组已有概念,却未必擅长从原始世界中自主提炼新的概念原语。例如,如果一个现代大模型只基于前牛顿时代的知识训练,它几乎不可能仅凭这些材料自行推导出广义相对论或量子力学。
6.监管、治理和社会反弹
研究团队认为,监管门槛、许可制度、事件报告要求,以及事故引发的社会反应,都会影响AI 能力扩展的节奏。这背后不只是技术问题,也牵涉政策、制度、市场和公众的风险感知。
不足与未来发展
最后,研究团队提出了一个非常现实的问题:如果 AI 已经超过人类,我们该如何继续评估它的能力?
如今,很多 benchmark 都以人类水平为参照,一旦 AI 在考试、编程、数学、问答和专业知识测试上接近或超过顶尖人类,原有的评测指标可能就失去了意义。因此,未来需要建立面向后 AGI 时代的新评测与预测体系,包括多智能体竞争与合作任务、自动生成测试、通用压缩任务、经济生产率等间接指标,以及能够持续更新、不过早饱和的评估机制。
不过,从内容上看,这不是一篇实验论文,而更像是一份围绕后 AGI 时代展开的技术报告。研究团队指出,未来值得关注的方向包括:继续扩展现有 AGI 系统、探索新的 AI 范式、实现系统的递归式自我改进,以及通过大规模多智能体协作形成更强的整体能力。
最后,研究团队指出,ASI 也不是全知全能的“魔法系统”,它仍受物理规律、计算复杂性、数据、资源、实验时间和现实反馈速度等约束。AI 会沿哪条路径推进、速度多快,目前仍高度不确定。未来,仍需要建立持续更新的基准、预测和研究机制,以降低判断中的不确定性。
本文来自微信公众号 “学术头条”(ID:SciTouTiao),作者:学术头条
