AI圈平地一声雷!
Anthropic向全人类发出警告:停止研究AI!
Anthropic内部数据显示,AI正在加速AI的发展,通往递归自我改进的路径或已浮现。
换句话说,AI正在接近「自己造自己」的临界点。
这一进程比Anthropic预想的更快,所以Anthropic呼吁减缓或暂停AI研究。
而与此同时,OpenAI 后训练团队负责人 Yann Dubois 在最新访谈中,给出了一个更微观但同样令人深思的视角:
AI进化不是突然开挂,而是刚过合格线!
在最新访谈中,他揭秘了多项内部视角:
AI能力的增长是线性的、连续的,但用户体验到的「有用性」却是离散的、跳跃的。
因为在达到某个「可靠性阈值」之前,AI只是一个会变戏法的玩具;一旦跨过那个点,它就成了能托付工作的员工,会自我加速。
这个阈值,OpenAI在去年12月左右才跨过了这道坎。
此外,Yann Dubois提出了反直觉的论断:AI构建更像「手艺(Craft)」而非「科学」。
这个洞察极具张力:在这个最强调硬核算力的领域,最终胜出的竟然是类似炼金术的「flare(直觉/灵感)」。
他还提出「最后一公里的AI红利」。
如果现在冻结所有模型,只靠做垂直应用(Harness),我们其实已经能实现AGI了。
瓶颈不在模型大脑,而在「权限、连接和数据」。这直接给正在观望的开发者泼了一盆冷水,同时也指明了金矿所在。
可靠性阈值已过,AI自我加速
过去几周,AI圈热闹不断:GPT5.5发布、Claude Mythos也出来了。
尤其是在网络安全、AI智能体写代码这块,给人的感觉真是日新月异,AI的进展让人感觉像突然「跳了一大格」。
Dubois的说法很不客气:能力提升其实一直挺连续,大家之所以觉得像坐了火箭,是因为中间隔着一道「可靠性门槛」。
门槛没跨过去之前,AI像个聪明但爱闯祸的实习生:能写、能算、能出主意,但你不敢把活彻底交给它。
门槛跨过去之后,你才敢让它「真上岗」。
他判断OpenAI大概是在「去年12月」跨过了这条线,于是才出现了外界感受到的「阶梯式跃迁」。
更刺激的是第二层原因:当模型足够好,它会反过来加速研发本身。
这就是Anthropic最担心的事。
Dubois提到,尤其在编程场景里,研究人员自己天天写代码,模型一变强,等于全员多了个不睡觉的搭档——既能帮研究者把工具链搭起来,也能在训练下一代模型时「以AI养AI」。
加速回路一旦转起来,就会越转越快,最近几个月「越来越猛」并不奇怪。
这也发生在Anthropic内部,到2026年第二季度,人均每个季度贡献的代码,已经是2024年第一季度的8倍。
第三个推动力,来自强化学习(RL)的「转型升级」。
早期像o1这类推理模型,主要在「可验证奖励」的任务上猛刷分——数学题、编程竞赛,因为对错清清楚楚,奖励好定义。
但过去一年,他们把在竞赛里练出来的那套工具,往更真实、更模糊的工作场景迁移:不再只优化「有标准答案的题」,而是优化「用户觉得真有用的东西」。
一句话:从刷题选手,开始往职场打工人进化。
AI工程师不是科学家,AI是「养」出来的
可一旦走进真实世界,麻烦就来了:可靠性怎么提?
Dubois给了个非常直白的「概率模型」:
既然现在很多都是AI智能体(agentic)系统,你可以粗暴地想成「每两分钟就有一定概率犯错」;运行时间越长,最终答案翻车的概率就越高。
所以所谓「提升可靠性」,本质就是不断把这个「每两分钟出错率」压下去。
这是AI智能体固有的硬骨头。
这也解释了为什么Dubois说,AI的构建更像「手艺活」,不像课本里的「科学实验」。
现实流程往往是:先靠经验、直觉、反复试错把东西做出来,甚至带点「炼金术」味道;等它真能跑、真能用,再回头补更科学的解释与方法论。
他还提到一个颇具反转的小插曲——
当年ChatGPT公开说用了RL,他第一反应是「太复杂了吧,用监督微调(SFT)就够了」,这也正是他在Stanford做Alpaca时想验证的思路。
但后来事实显示,一旦模型规模跨过某个水平,RL真的会「突然开始好用」,只是代价不低——采样很多答案、判断哪些对、哪些错,算力和系统工程都很烧钱。
垂直领域Harness已达AGI
说到「把AI拉进现实」,绕不开最近创业圈最爱挂在嘴边的词:Harness(编排系统)。
有人把它当成AI智能体的「外挂骨架」,也有人怀疑它迟早被模型「吃掉」。
Dubois的态度很现实:
短期内,垂直场景的Harness很值,能把可靠性从80%推到85%。
但前提是你得接受:模型在持续变强,Harness也得反复重调。
想做一个长期稳定、放之四海而皆准的「通用Harness」,他认为基本走不通。
甚至他还抛出一句很「挑衅」的判断:如果今天把现有模型「冻住」,只认真打磨Harness并围绕它训练,很多领域的人可能会「明显感到通用人工智能(AGI)的味道」。
最后一公里
但真正让Dubois既兴奋又皱眉的,是「持续学习(continual learning)」这道老大难。
三年前ChatGPT刚火时,他和朋友甚至认真讨论过要不要创业做个性化记忆与持续学习。
当时他们觉得「6个月内OpenAI就会搞定」,于是没做;三年后他人都进OpenAI了,却发现这事仍没真正解决。
现在模型的尴尬在于:第一天空降到公司,可能比多数新员工还顶用(起点高);但之后基本「保持原样」,因为它不会在特定环境里越干越懂你、越干越高效。
人类学习曲线是往上爬的,AI这条线却容易变平。
把AI的曲线从「平的」掰成「持续上升」的,Dubois认为会是接下来最重要的问题之一。
所以,创业公司还有没有空间做垂直应用?
Dubois给的答案很干脆:不但有,而且很大。
因为真正的瓶颈往往不是「模型够不够聪明」,而是最后一公里——权限怎么给、数据怎么接、连接器怎么打通、怎么嵌进具体业务流程。
大模型在天上飞得再高,不落地也只能当烟花;而把它拽到地面、让它拿到该拿的钥匙、打开该开的门,反而是最有含金量的苦活累活。
参考资料:
https://x.com/Potatoloogs/status/2062494654885749126
https://www.youtube.com/watch?v=DhD1zZ8w8Mw&t=3s
本文来自微信公众号“新智元”,作者:ASI启示录
