Anthropic警告的递归AI，田渊栋新公司刚刚走出了「第一步」
近日，Anthropic发布文章披露，其代码库超过80%由AI撰写，并警告AI“递归自我改进”（即AI自主设计、训练后续版本）可能带来风险，呼吁行业建立暂停机制。与此同时，由田渊栋等人联合创立的新公司Recursive Superintelligence结束了隐身状态，发布了其首项公开技术成果——“迈向自动化AI研究的第一步”。
该系统旨在将传统AI研究中“提出想法-编写代码-运行实验-分析结果”的人工闭环自动化。它能够针对给定目标自动生成实验思路、实现代码、运行验证并从中学习，从而自主推进研究进程，并内置了防止“奖励作弊”的机制。
Recursive在三个差异显著的基准测试中取得了领先结果：
1. **小模型训练优化**：在固定计算预算下，将模型验证损失进一步降低，相当于以更少时间达到同等效果。
2. **训练速度竞速**：在社区持续优化两年的基准上，将训练时间从79.7秒缩短至77.5秒，核心改进包括在注意力层使用FP8计算、为优化器添加退火噪声等。
3. **GPU内核优化**：在英伟达的底层计算内核基准测试中，将整体得分提升至0.754，缩小了与硬件理论极限的差距，而这些优化策略并非来自团队的专业知识，而是由系统自主发现。
Recursive团队阵容强大，已获得巨额融资，其目标是构建能够递归提升自身研发能力的AI系统。这与Anthropic的警告形成了微妙对比：一方正在实践AI加速AI研发的路径，另一方则呼吁为可能到来的“递归自我改进”时刻做好风险管控准备。当前成果虽仅是迈向自动化研究的初步尝试，但标志着一个能够自我增强的AI研发新范式已开始运转。
marsbit06/12 04:11
