Anthropic全球警告，OpenAI已跨“可靠性阈值”：AI自我加速启动
AI领域出现重要警告与发展洞察。Anthropic发出全球警告，指出AI递归自我改进进程加速，已接近“自己造自己”的临界点，呼吁减缓研究。
与此同时，OpenAI后训练团队负责人Yann Dubois在访谈中揭示了关键内部视角：
1. **能力提升是连续线性，但实用性感知是跳跃的**。AI能力在达到“可靠性阈值”前如同玩具，跨越后则成为可托付工作的可靠工具。OpenAI被认为在去年12月左右跨过了此阈值。
2. **AI正进入自我加速循环**。模型能力提升后，本身已成为研发的有力工具（如辅助编程），从而加速下一代模型的开发，形成越转越快的正反馈回路。
3. **AI构建更像“手艺”而非纯科学**。在硬核领域，经验、直觉和反复试错（类似“炼金术”）目前扮演关键角色，科学解释常事后补足。
4. **垂直应用（Harness）价值巨大，甚至能触及AGI体验**。Dubois认为，若冻结现有模型，仅通过精心打磨针对特定领域的编排系统，即可在许多场景中实现类似通用人工智能（AGI）的效果。当前瓶颈常在于“最后一公里”——权限、数据连接与业务流程集成，而非模型智能本身。
5. **持续学习仍是核心挑战**。模型难以像人类一样在特定环境中持续学习和优化，其学习曲线容易趋于平缓，这是亟待解决的重要问题。
综上，AI发展已迈过关键可靠性门槛，进入自我加速阶段，同时为垂直领域的深度应用与集成创造了巨大机遇与挑战。
marsbit06/06 23:24
