这一观点并非凭空而来。他看了一堆公开基准,发现 AI 在 AI 研发相关任务上进步非常快。

比如,CORE-Bench 考察 AI 实现他人研究论文的能力,这是 AI 研究中至关重要的一环。

PostTrainBench 则测试强大模型能否自主微调较弱的开源模型以提升性能,这正是 AI 研发任务的一个关键子集。

MLE-Bench 基于真实 Kaggle 竞赛任务,要求构建多样化的机器学习应用程序来解决特定问题。此外,像 SWE-Bench 这样广为人知的编码基准,也展现出类似的进步。

Jack Clark 将这一现象描述为「分形」式的向上向右趋势,即在不同分辨率和尺度上,都能观察到有意义的进展。他认为,AI 正在逐步接近端到端自动化研发的能力,一旦实现,AI 将能够自主构建自己的后继系统,开启自我迭代的循环。

此言论一出,在社交媒体引发不少讨论。

一些人视其为迈向 ASI 和奇点的关键第一步,可能彻底改变科技发展的节奏。

然而,也存在不同声音。

华盛顿大学计算机科学教授 Pedro Domingos 指出,AI 系统早在上世纪 50 年代 LISP 语言发明时就具备了「构建自身」的能力,真正的问题在于能否获得递增回报,而目前还没有明显证据支持这一点。

有网友质疑,从 2027 年到 2028 年,概率一下子增加 30%,这暗示 AI 能力会在 2027 年底前后出现一次突然的重大突破。到底哪一个具体的里程碑或事件,会让 AI 实现递归自我改进的概率在短时间内大幅提升?

还有网友表示,Jack Clark 是 Anthropic 新上任的公关负责人,这正是他们新战略的一部分:我们并非危言耸听者,有大量的论文都印证了我们一直以来警告你们的事情。

Jack Clark 专门在 Import AI 455 这期 newsletter 里写了一篇长文详细阐述。

接下来,我们完整看一下这篇文章。

AI 系统即将开始自我构建,这意味着什么?

Clark 表示,他写下这篇文章,是因为在梳理所有公开可获得的信息后,他不得不形成一个并不轻松的判断:到 2028 年底之前,出现无人类参与的 AI 研发的可能性已经相当高,或许超过 60%。

这里所谓的无人类参与的 AI 研发,指的是一种足够强大的 AI 系统:它不仅能辅助人类做研究,还可能自主完成关键研发流程,甚至构建出自己的下一代系统。

在 Clark 看来,这显然是一件大事。

他坦言,自己也很难完全消化这件事的含义。

之所以称这是一个不情愿的判断,是因为它背后的影响过于巨大,让他感到难以把握。Clark 也不确定,整个社会是否已经准备好迎接 AI 研发自动化所带来的深层变化。

他现在相信,人类可能正生活在一个特殊时间点:AI 研究即将被端到端自动化。如果这一刻真的到来,人类就像跨过了卢比孔河,进入一个几乎无法预测的未来。

Clark 表示,这篇文章的目的,是解释他为什么认为,通向完全自动化 AI 研发的起飞正在发生。

他会讨论这一趋势可能带来的一些后果,但文章的大部分篇幅,都会集中在支撑这一判断的证据上。至于更深层的影响,Clark 计划在今年的大部分时间里继续梳理。

从时间点来看,Clark 并不认为这件事会在 2026 年真正发生。但他认为,未来一两年内,我们可能会看到某种模型端到端训练出自己后继者的案例。至少在非前沿模型层面,出现一个概念验证是很有可能的;至于最前沿模型,难度会更高,因为它们成本极其昂贵,也依赖大量人类研究员的高强度工作。

Clark 的判断主要来自公开信息:包括 arXiv、bioRxiv 和 NBER 上的论文,以及前沿 AI 公司已经部署到现实世界中的产品。基于这些信息,他得出一个结论:自动化生产当下 AI 系统所需的各个环节,尤其是 AI 开发中的工程组件,基本已经具备。

如果 scaling 趋势继续延续,我们就应该开始准备面对这样一种情况:模型会变得足够有创造力,不仅能自动改进已知方法,还可能在提出全新研究方向和原创想法方面替代人类研究员,从而自行推动 AI 前沿继续向前发展。

编码奇点:能力随时间的变化

AI 系统是通过软件实现的,而软件由代码构成。

AI 系统已经彻底改变了代码生产方式。这背后有两个相关趋势:一方面,AI 系统越来越擅长编写复杂的真实世界代码;另一方面,AI 系统也越来越擅长在几乎不依赖人类监督的情况下,把许多线性的编码任务串联起来完成,比如先写代码,再进行测试。

体现这一趋势的两个典型例子,是 SWE-Bench 和 METR time horizons plot。

解决真实世界的软件工程问题

SWE-Bench 是一个被广泛使用的编程测试,用来评估 AI 系统解决真实 GitHub issue 的能力。

当 SWE-Bench 在 2023 年底推出时,当时表现最好的模型是 Claude 2,整体成功率大约只有 2%。而 Claude Mythos Preview 的成绩已经达到 93.9%,基本上接近打满这个 benchmark。

当然,所有 benchmark 本身都会有一定噪声,所以通常会出现这样一个阶段:当分数高到某个程度之后,你碰到的可能不再是方法本身的限制,而是 benchmark 自身的限制。比如在 ImageNet 验证集中,大约 6% 的标签就是错误或存在歧义的。

SWE-Bench 可以被视为衡量通用编程能力,以及 AI 对软件工程影响的一个可靠指标。Clark 表示,他在前沿 AI 实验室和硅谷接触到的大多数人,现在几乎都已经完全通过 AI 系统来写代码,并且越来越多的人开始用 AI 系统来编写测试、检查代码。

换句话说,AI 系统已经足够强,能够自动化 AI 研发中的一个重要组成部分,并显著加速所有参与 AI 研发的人类研究员和工程师。

衡量 AI 系统完成长时任务的能力

METR 制作了一张图,用来衡量 AI 能完成多复杂的任务。这里的复杂度,是按照一个熟练人类完成这些任务大概需要多少小时来计算的。

其中最关键的指标,是 AI 系统在一组任务上达到 50% 可靠性时,对应的大致任务时间跨度。

在这一点上,进展非常惊人:

· 2022 年,GPT-3.5 能完成的任务,大概相当于人类需要 30 秒完成的任务。

· 2023 年,GPT-4 把这个时间提升到了 4 分钟。

· 2024 年,o1 把这个时间提升到了 40 分钟。

· 2025 年,GPT-5.2 High 达到了大约 6 小时。

· 到 2026 年,Opus 4.6 已经把这个时间进一步推高到大约 12 小时。

在 METR 工作、长期关注 AI 预测的 Ajeya Cotra 认为,到 2026 年底,AI 系统能够完成相当于人类需要 100 小时的任务,并不是一个不合理的预期。

AI 系统能够独立工作的时间跨度显著增长,也和 agentic coding 工具的爆发高度相关。所谓 agentic coding 工具,本质上就是把能替人完成工作的 AI 系统产品化:它们可以代表人类行动,并在相当长一段时间内相对独立地推进任务。

这也重新指向 AI 研发本身。仔细观察许多 AI 研究员的日常工作会发现,其中大量任务其实都可以拆解成几个小时级别的工作,比如清洗数据、读取数据、启动实验等等。

而这类工作,如今已经落入现代 AI 系统能够覆盖的时间跨度之内。

AI 系统越熟练,越能独立于人类工作,就越能帮助自动化 AI 研发中的一部分工作。

任务委托的关键因素主要有两个:

· 一是你对被委托者能力的信心;

· 二是你相信对方能够在不依赖你持续监督的情况下,按照你的意图独立完成工作。

当用户在观察 AI 在编程方面的能力时,会发现 AI 系统不仅变得越来越熟练,也越来越能在不需要人类重新校准的情况下,独立工作更长时间。

这也和我们身边正在发生的事情相吻合,工程师和研究员正在把越来越大块的工作交给 AI 系统完成。随着 AI 能力持续提升,被委托给 AI 的工作也变得越来越复杂、越来越重要。

AI 正在掌握 AI 研发所必需的核心科学技能

想想现代科学研究是怎么进行的,其中很大一部分工作,其实就是先确定一个方向,明确自己想获得哪类经验性信息;然后设计并运行实验,生成这些信息;最后再对实验结果进行合理性检查。

随着 AI 编程能力不断提升,再加上大语言模型越来越强的世界建模能力,如今已经出现了一批工具,能够帮助人类科学家提速,并在更广泛的研发场景中部分自动化某些环节。

在这里,我们可以观察 AI 在几项关键科学技能上的进展速度,而这些能力本身也正是 AI 研究不可或缺的一部分:

· 一是复现研究结果;

· 二是把机器学习技术和其他方法串联起来,用来解决技术问题;

· 三是优化 AI 系统自身。

实现整篇科学论文,并完成相关实验

AI 研究中的一项核心工作,是阅读科学论文,并复现其中的结果。在这方面,AI 已经在一系列 benchmark 上取得了显著进展。

一个很好的例子是 CORE-Bench,也就是 Computational Reproducibility Agent Benchmark。

这个 benchmark 要求 AI 系统在给定一篇论文及其代码仓库的情况下,复现论文中的结果。具体来说,Agent 需要安装相关库、软件包和依赖,运行代码;如果代码成功运行,它还需要搜索所有输出结果,并回答任务中的问题。

CORE-Bench 于 2024 年 9 月提出。当时表现最好的系统,是运行在 CORE-Agent scaffold 中的 GPT-4o 模型。在该 benchmark 最困难的一组任务上,它的得分约为 21.5%。

而到了 2025 年 12 月,CORE-Bench 的一位作者宣布,这个 benchmark 已经被解决了:Opus 4.5 模型取得了 95.5% 的成绩。

构建完整的机器学习系统,解决 Kaggle 竞赛问题

MLE-Bench 是 OpenAI 构建的一个 benchmark,用来测试 AI 系统在离线环境中参加 Kaggle 竞赛的能力。

它覆盖了 75 个不同类型的 Kaggle 竞赛,涉及多个领域,包括自然语言处理、计算机视觉和信号处理等。

MLE-Bench 于 2024 年 10 月发布。发布时,表现最好的系统是一个运行在 agent scaffold 中的 o1 模型,得分为 16.9%。

截至 2026 年 2 月,表现最好的系统已经变成了运行在带搜索能力的 agent harness 中的 Gemini 3,得分达到 64.4%。

Kernel 设计

AI 开发中一项更难的任务是 kernel 优化。所谓 kernel 优化,就是编写并改进底层代码,把矩阵乘法这类特定运算更高效地映射到底层硬件上。

Kernel 优化之所以是 AI 开发的核心,是因为它决定了训练和推理的效率:一方面,它影响你在开发 AI 系统时,究竟能有效利用多少算力;另一方面,当模型训练完成后,它也决定你能多高效地把算力转化为推理能力。

近年来,用 AI 做 kernel 设计,已经从一个有趣的小方向,变成了一个竞争激烈的研究领域,并且出现了多个 benchmark。不过,这些 benchmark 目前还没有特别流行,所以我们很难像其他领域那样清晰地建模它的长期进展。另一方面,我们可以通过一些正在进行的研究,感受这个方向的推进速度。

相关工作包括:

· 用 DeepSeek 的模型尝试构建更好的 GPU kernel;

· 自动把 PyTorch 模块转换成 CUDA 代码;

· Meta 用 LLM 自动生成优化后的 Triton kernel,并部署到自己的基础设施中;

· 以及针对 GPU kernel 设计微调开源权重模型,例如 Cuda Agent。

这里需要补充一点:kernel 设计确实具备一些特别适合 AI 驱动研发的属性,比如结果容易验证、奖励信号比较明确。

通过 PostTrainBench 微调语言模型

这类测试的一个更困难版本是 PostTrainBench。它测试的是,不同前沿模型能否接手较小的开源权重模型,并通过微调提升它们在某些 benchmark 上的表现。

这个 benchmark 的一个优点是,它有非常强的人类基线:这些小模型现有的 instruct-tuned 版本。这些版本通常由前沿实验室中优秀的人类 AI 研究员开发,已经经过非常有能力的研究员和工程师打磨,并被部署到真实世界中。因此,它们构成了一个很难超越的人类基准。

截至 2026 年 3 月,AI 系统已经能够对模型进行后训练,并获得大约相当于人类训练结果一半的性能提升。

具体评估分数来自一个加权平均:它会综合多个后训练的大语言模型,包括 Qwen 3 1.7B、Qwen 3 4B、SmolLM3-3B、Gemma 3 4B,以及多个 benchmark,包括 AIME 2025、Arena Hard、BFCL、GPQA Main、GSM8K、HealthBench、HumanEval。

在每次运行中,评测方会要求一个 CLI agent,尽可能提升某个特定基础模型在某个特定 benchmark 上的表现。

截至 2026 年 4 月,得分最高的 AI 系统大约能达到 25% 到 28%,代表模型包括 Opus 4.6 和 GPT 5.4;相比之下,人类得分为 51%。

这已经是一个相当有意义的结果。

优化语言模型训练

过去一年,Anthropic 一直在报告其系统在一项 LLM 训练任务上的表现。这个任务要求模型优化一个仅使用 CPU 的小型语言模型训练实现,让它尽可能快地运行。

评分方式是:相较于未修改的初始代码,模型实现的平均加速倍数。

这项结果进展非常显著:

· 2025 年 5 月,Claude Opus 4 实现了 2.9 倍平均加速;

· 2025 年 11 月,Opus 4.5 提升到 16.5 倍;

· 2026 年 2 月,Opus 4.6 达到 30 倍;

· 2026 年 4 月,Claude Mythos Preview 达到 52 倍。

为了理解这些数字的含义,可以做一个参照:在人类研究员身上,这项任务通常需要 4 到 8 小时工作,才能实现 4 倍加速。

元技能:管理

AI 系统也正在学习如何管理其他 AI 系统。

这一点已经可以在一些广泛部署的产品中看到,比如 Claude Code 或 OpenCode。在这些产品里,一个主 agent 可以监督多个 sub-agent。

这让 AI 系统能够处理更大规模的项目:项目中可能需要多个具备不同专长的智能体并行工作,而它们通常由一个单一的 AI 管理者来协调。这里的管理者本身也是一个 AI 系统。

AI 研究更像发现广义相对论,还是搭乐高?

一个关键问题是:AI 能否发明出新的想法,帮助它改进自身?还是说,这些系统更适合完成研究中那些不那么光鲜、但必须一砖一瓦推进的工作?

这个问题很重要,因为它关系到 AI 系统能在多大程度上端到端自动化 AI 研究本身。

作者的判断是:AI 目前还不能提出真正激进的全新思想。但要实现自身研发自动化,它或许并不一定需要做到这一点。

作为一个领域,AI 的进步很大程度上依赖于越来越大的实验,以及越来越多的输入,比如数据和算力。

偶尔,人类会提出一些改变范式的想法,使整个领域的资源效率大幅提升。Transformer 架构就是一个很好的例子,混合专家模型,也就是 mixture-of-experts,也是另一个例子。

但更多时候,AI 领域的推进方式其实更朴素:人类会拿一个表现良好的系统,扩大其中某个方面,比如训练数据和算力;观察扩大规模后哪里出问题;找到工程上的修复方案,让系统能够继续扩展;然后再次扩大规模。

这个过程里,真正需要洞见的部分其实很少。大量工作更像是不那么耀眼、但非常扎实的基础工程。

类似地,很多 AI 研究其实是在运行现有实验的各种变体,探索不同参数设置会带来什么结果。研究直觉当然能帮助人类挑选最值得尝试的参数,但这件事本身也可以被自动化,让 AI 自己判断哪些参数值得调整。早期的神经架构搜索,就是这类思路的一个版本。

爱迪生曾说:天才是 1% 的灵感,加上 99% 的汗水。即便过去 150 年,这句话依然很贴切。

偶尔,确实会出现彻底改变一个领域的新洞见。但大多数时候,领域进步是靠人类在改进和调试各种系统的艰苦过程中,一点点推进出来的。

而前面提到的公开数据表明,AI 已经非常擅长执行 AI 开发中许多必要的苦活累活。

与此同时,还有一个更大的趋势:基础能力,比如编程能力,正在和不断扩展的任务时间跨度结合起来。这意味着 AI 系统可以把越来越多这类任务串联起来,形成复杂的工作序列。

因此,即便 AI 系统目前相对缺乏创造力,也有理由相信,它们仍然能够推动自身继续向前发展。只是相比能够产生全新洞见的情况,这种推进速度可能会更慢。

但如果继续观察公开数据,会发现另一个令人好奇的信号:AI 系统也许正在展现出某种创造力,而这种创造力可能让它们以更令人惊讶的方式推动自身进步。

推动科学前沿继续向前

目前已经有一些非常初步的迹象表明,通用 AI 系统有能力推动人类科学前沿继续向前发展。不过到目前为止,这种情况只发生在少数几个领域,主要是计算机科学和数学。而且很多时候,并不是 AI 系统单独完成突破,而是以人机协作的方式,与人类研究者共同推进。

尽管如此,这些趋势仍然值得观察:

Erdős 问题:一组数学家与 Gemini 模型合作,测试它在解决一些 Erdős 数学问题上的表现。他们引导系统尝试了大约 700 个问题,最终得到了 13 个解答。在这些解答中,有 1 个被他们认为是有趣的。

研究者写道,他们初步认为,Aletheia(一套基于 Gemini 3 Deep Think 的 AI 系统)对 Erdős-1051 的解答,代表了一个早期案例:一个 AI 系统自主解决了一个略具非平凡性、并且有一定更广泛数学兴趣的开放 Erdős 问题。该问题此前已有一些 closely-related 的相关研究文献。

如果往乐观方向理解,这些案例可以被看作一个信号:AI 系统正在发展出某种能够推动领域前沿的创造性直觉,而这种直觉过去主要属于人类。

但也可以从另一面解释:数学和计算机科学可能本身就是特别适合 AI 驱动发明的领域,因此它们或许只是例外,并不能代表更广泛的科学研究都会被 AI 以同样方式推进。

另一个类似例子是 AlphaGo 的第 37 手。不过 Clark 认为,距离 AlphaGo 那次结果已经过去十年,而第 37 手之后并没有被某个更现代、更惊人的洞见所取代,这本身也可以被视为一个略偏悲观的信号。

AI 已经可以自动化 AI 工程中的大片工作

如果把上面所有证据放在一起,我们可以看到这样一幅图景:

· AI 系统已经能够为几乎任何程序编写代码,而且这些系统已经可以被信任去独立完成一些任务;这些任务如果交给人类,往往需要数十小时的高强度专注劳动。

· AI 系统越来越擅长完成 AI 开发中的核心任务,从模型微调到 kernel 设计,都在被逐步覆盖。

· AI 系统已经能够管理其他 AI 系统,实际上形成一种合成团队:多个 AI 可以分头处理复杂问题,其中一些 AI 扮演负责人、批评者、编辑者的角色,另一些 AI 则扮演工程师的角色。

· AI 系统有时已经能在困难的工程和科学任务上超过人类,尽管目前还很难判断,这究竟是因为它们具备了真正的创造力,还是因为它们已经熟练掌握了大量模式化知识。

在 Clark 看来,这些证据已经非常有说服力地表明:今天的 AI 已经可以自动化 AI 工程中的大片工作,甚至可能覆盖其中的全部环节。

不过,目前还不清楚 AI 能在多大程度上自动化 AI 研究本身。因为研究中的某些部分,可能不同于纯工程技能,仍然依赖更高层次的判断、问题意识和创造性。

但无论如何,一个清晰信号已经出现:今天的 AI 正在大幅加速从事 AI 开发的人类,让这些研究员和工程师可以通过与无数合成同事配对协作,放大自己的工作能力。

最后,AI 行业本身也几乎是在明说:自动化 AI 研发就是它们的目标。

OpenAI 希望在 2026 年 9 月之前构建一个自动化 AI 研究实习生。Anthropic 正在发表关于构建自动化 AI 对齐研究员的工作。DeepMind 在三大实验室中显得最谨慎,但也表示,在可行时应该推进对齐研究自动化。

自动化 AI 研发也已经成为许多创业公司的目标。Recursive Superintelligence 刚刚融资 5 亿美元,目标就是自动化 AI 研究。

换句话说,数千亿美元级别的既有资本和新增资本,正在投入到一批以自动化 AI 研发为目标的机构中。

因此,我们当然应该预期,这个方向至少会取得某种程度的进展。

为什么这很重要

这带来的影响深远,但在大众媒体对 AI 研发的报道中却鲜有讨论。以下这几个方面可以反映出 AI 研发带来的巨大挑战。

1. 我们必须把对齐做好:如今有效的对齐技术可能会在递归式自我改进中失效,因为 AI 系统会变得比监督它们的人员或系统智能得多。这是一个已被广泛研究的领域,所以他只简要概述一些问题:

· 训练人工智能系统不撒谎和作弊是一个出人意料的微妙过程(例如,尽管努力为环境构建良好的测试,但有时人工智能解决问题的最佳方法是作弊,从而教会它作弊是可行的)。

· AI 系统可能通过「假装对齐」来欺骗我们,输出让我们以为它表现良好的分数,但实际上隐藏了它真实的意图。(一般来说,AI 系统已经能够察觉自己何时正在被测试。)

· 随着 AI 系统开始更多地参与自身训练的基础研究议程,我们可能会大幅改变 AI 系统的整体训练方式,却没有良好的直觉或理论基础来理解这意味着什么。

· 当你把某个系统置于递归循环中时,会产生非常基本的「误差累积」问题,这可能会影响上述所有问题及其他问题:除非你的对齐方法「100% 准确」且理论上能够在更聪明的系统中持续保持准确,否则事情可能很快出错。例如,你的技术初始精度是 99.9%,经过 50 代可能降为 95.12%,经过 500 代可能降到 60.5%。

2.AI 涉及的每一件事都会获得巨大的生产力倍增:就像 AI 显著提高软件工程师的生产力一样,我们应该预期 AI 涉及的其他领域也会如此。这带来几个需要应对的问题:

· 获取资源不平等:假设 AI 的需求继续超过计算资源供应,我们必须决定如何分配 AI 以实现社会的最大利益。我对市场激励能够保证我们从有限的 AI 计算中获得最佳社会收益持怀疑态度。确定如何分配 AI 研发带来的加速能力将是一个政治性很强的问题。

· 经济的「阿姆达尔定律」:随着 AI 流入经济,我们会发现某些环节在面对高速增长时会出现瓶颈,需要想办法修复这些链条中的薄弱环节。这在需要协调快速数字世界与缓慢物理世界的领域可能尤为明显,比如新药临床试验。

3. 资本密集型、人力轻型经济的形成:上述所有关于 AI 研发的证据也表明,AI 系统越来越有能力自主运营企业。

这意味着我们可以预期,经济中的一部分将被新一代公司占据,这些公司可能是资本密集型(因为它们拥有大量计算机),或运营开支密集型(因为它们在 AI 服务上花费大量资金并在其基础上创造价值),相比今天的企业,它们对人力的依赖相对较低——因为随着 AI 系统能力持续增强,投入 AI 的边际价值会不断增长。

实际上,这将表现为「机器经济」在更大「人类经济」中逐渐形成,随着时间推移,AI 运营的公司可能会开始相互交易,从而改变经济结构,并引发关于不平等和再分配的各种问题。最终,可能会出现完全由 AI 系统自主运营的公司,这将加剧上述问题,同时带来许多新的治理挑战。

凝视黑洞

基于以上分析,作者认为到 2028 年底,我们看到自动化 AI 研发(即前沿模型能够自主训练其继任版本)的概率约为 60%。为什么不预期它在 2027 年出现?

原因是作者认为 AI 研究仍然需要创造力和异议见解才能前进,到目前为止,AI 系统尚未以变革性和重大方式展示这一点(尽管在加速数学研究上的一些结果有启示)。

如果非要他给出 2027 年的概率,他会说 30%。

如果到 2028 年底还没有出现,我们可能就会揭示当前技术范式中的一些根本性缺陷,需要人类发明推动进一步发展。