技术发展新聞

Anthropic全球警告，OpenAI已跨“可靠性阈值”：AI自我加速启动

AI领域出现重要警告与发展洞察。Anthropic发出全球警告，指出AI递归自我改进进程加速，已接近“自己造自己”的临界点，呼吁减缓研究。 与此同时，OpenAI后训练团队负责人Yann Dubois在访谈中揭示了关键内部视角： 1. **能力提升是连续线性，但实用性感知是跳跃的**。AI能力在达到“可靠性阈值”前如同玩具，跨越后则成为可托付工作的可靠工具。OpenAI被认为在去年12月左右跨过了此阈值。 2. **AI正进入自我加速循环**。模型能力提升后，本身已成为研发的有力工具（如辅助编程），从而加速下一代模型的开发，形成越转越快的正反馈回路。 3. **AI构建更像“手艺”而非纯科学**。在硬核领域，经验、直觉和反复试错（类似“炼金术”）目前扮演关键角色，科学解释常事后补足。 4. **垂直应用（Harness）价值巨大，甚至能触及AGI体验**。Dubois认为，若冻结现有模型，仅通过精心打磨针对特定领域的编排系统，即可在许多场景中实现类似通用人工智能（AGI）的效果。当前瓶颈常在于“最后一公里”——权限、数据连接与业务流程集成，而非模型智能本身。 5. **持续学习仍是核心挑战**。模型难以像人类一样在特定环境中持续学习和优化，其学习曲线容易趋于平缓，这是亟待解决的重要问题。 综上，AI发展已迈过关键可靠性门槛，进入自我加速阶段，同时为垂直领域的深度应用与集成创造了巨大机遇与挑战。

marsbit06/06 23:24

Codex goal模式使用指南：如何让AI持续推进一个具体目标

OpenAI推出的Codex目标模式（/goal）允许AI围绕一个具体目标持续工作数小时甚至数天，直至任务完成。其核心在于设定清晰、可验证的退出标准（如“部署时间降低30%”），而非冗长的需求描述。用户需提供足够的方向、工具和真实环境，让Codex能衡量进展并验证结果。文章强调，应避免让AI陷入视觉细节等模糊任务，建议将目标拆解为可评估的功能清单或指标。对于长期任务，需通过提交代码、更新文档或发送进度通知等方式跟踪进展。任务完成后，建议让AI审查并清理尝试过程中遗留的无效改动。总之，目标模式标志着AI从响应指令的助手，转变为需要被定义目标、配置环境并管理进度的工程执行者。

marsbit06/06 08:11

突发！Anthropic呼吁全员停止AI研究

人工智能公司Anthropic在其官方博客中发布重要观点，指出其AI模型Claude已展现出显著的“自进化”能力，即递归自我提升（RSI）的早期迹象。 核心数据显示，截至2026年5月，Anthropic代码库中超过80%的代码由Claude编写，而在其代码工具发布前，这一比例仅为个位数。工程师的代码交付量达到2024年的8倍。在编程质量上，Claude处理最复杂模糊任务的成功率在半年内从26%跃升至76%，其代码质量被认为年内有望超越人类。 Anthropic提出了“AI能独立完成的任务时长”这一新衡量维度：从2024年3月的4分钟，增至2025年的1.5小时，再到2026年的至少16小时，翻倍速度已加快至每4个月一次。若趋势持续，2027年可能达到数周。 在研究层面，Claude展现强大能力：将训练小模型的代码运行速度优化了52倍，远超人类水平；在一项AI安全研究中，其将效果差距缩小了97%，而人类研究员仅缩小23%。 Anthropic认为，人类在AI开发中的角色正不断收窄，最后优势可能仅剩研究品味与方向判断。公司描绘了三种未来：能力增长停滞；AI加速但人类主导；或AI实现完全递归自我提升，自主设计下一代AI，这可能带来巨大福祉，但也存在对齐失败、最终失控的风险。 为此，Anthropic呼吁，如果存在可验证的机制确保全球AI实验室能同步暂停竞争，其愿意减速甚至暂停研发。OpenAI近期也发表了类似观点，认为自进化迹象将加剧竞争与治理挑战。这表明AI发展的“奇点”可能正在加速逼近。

marsbit06/05 00:26

Claude Code 推出动态工作流：让AI学会自己组队干活

Claude Code 推出了动态工作流（workflows）功能，使AI能够根据任务动态组建多个智能体（Agent）团队协同工作，从而解决复杂的长周期任务。 该功能的核心价值在于，它改变了Claude Code原有的“单智能体在单一上下文内规划并执行”的模式。通过动态工作流，Claude可以将任务拆解，分派给多个拥有独立上下文的子智能体并行处理、交叉验证甚至彼此竞争，最后综合结果。这有效缓解了单智能体在处理长任务时常见的“智能体惰性”（提前宣布完成）、“自我偏好偏差”（倾向认可自己的结论）和“目标漂移”（逐渐偏离原始目标）等问题。 动态工作流通过执行一个包含特殊函数的JavaScript文件来协调子智能体。它支持多种实用模式，例如：将任务分类后路由给不同智能体；将任务拆分为多个小步骤并行处理再综合（扇出并综合）；生成多个方案后通过锦标赛机制竞争筛选；以及进行对抗式验证等。 其应用场景显著超越了传统的代码任务，扩展至非技术领域。示例包括：代码迁移与重构、深度研究与事实核查、对大量简历或工单进行排序、从历史会话中提炼行为规则、进行事故根因调查、对积压任务进行大规模分诊，以及在命名、设计等需要探索和品味判断的任务中生成并筛选方案。 文章也指出，动态工作流并非万能。它通常会消耗更多token，因此不适合所有常规编程任务。最佳实践仍在形成中，开发者需要根据任务复杂度判断是否使用。用户可以通过详细提示（prompt）设计工作流，并结合 `/goal` 和 `/loop` 等指令，或设置token使用预算来优化效果。创建的工作流可以保存、共享甚至通过技能（skill）进行分发。 总的来说，动态工作流标志着Claude Code从一个代码助手向一个可编排的智能体工作台演进。未来AI工具的竞争力，可能不仅在于单个模型的智能程度，更在于其组织可靠、可复用执行流程的能力。

marsbit06/04 02:15

从 IDE 到终端：一份智能体工程实战操作手册

marsbit06/03 07:00

54万行代码之后，Garry Tan发现AI编程的旧游戏结束了

YC总裁Garry Tan通过一个54万行代码的AI编程项目得出结论：传统的软件管理模式在AI时代已过时。过去因模型昂贵，开发者用大量代码和测试来约束AI，如同为智能工人建造“富士康工厂”。但随着模型成本下降、能力提升，重点应从“写更多代码”转向“设计更多能力”。 他提出用Markdown构建“技能包”（skill pack），将可复用的工作流模块化，并由AI自动生成代码和测试。例如，原本需数天的黑客松评审，现在由AI在30分钟内完成。这种“即时生成式软件”模式，使工程师的核心竞争力转向问题定义、判断力与经验沉淀。 未来，优秀的工程师未必是写代码最多的人，而是能通过清晰指令释放AI最大潜能、用最少代码实现最多价值的人。真正的创新在于构建解放AI与人类创造力的系统，而非用代码层层束缚。

marsbit06/02 21:38

Vitalik：基于期权而非债务构建指数追踪资产

以太坊创始人Vitalik Buterin提出了一种新的合成资产构建思路：基于期权而非债务来创建跟踪特定价格指数（如美元兑ETH价格）的资产，以规避传统算法稳定币对实时清算和实时预言机的依赖。 传统方法通过强制清算来处理抵押不足的债务，但这需要高频率、高安全性的实时预言机，实施难度大且风险高。新方案的核心是定义两种资产：P和N。用户可以用1个ETH生成一对(P,N)，到期时根据预言机提供的指数价格进行结算：P获得min(1, S/x)个ETH，N获得max(0, 1-S/x)个ETH，其中S是执行价，x是到期价格。这本质上是一个无需清算的预测市场（标量市场）。 持有P资产（如执行价1500的P）可获得对目标指数（如美元）的风险敞口，但其价值会随标的资产价格接近执行价而出现“二次方漂移”。为了管理风险，用户需要主动进行再平衡（例如，当价格接近执行价时，滚动换入执行价更低的期权），而非依赖协议强制清算。这种设计将风险管理和时机决策交给了用户，降低了对全局实时预言机的依赖和用户的MEV风险。 用户可选择通过全自动链上DAO或个人本地程序进行再平衡。虽然主动管理会带来成本（如滑点）和一定的价值波动（可能年化1-4%），但相比于法币间的波动或某些算法稳定币的回报率波动，这一成本在追求价格稳定（非会计稳定）的应用场景中是可接受的。关键在于设计低滑点的市场机制来支持用户的低频再平衡操作，从而提升整体方案的竞争力。

marsbit06/02 03:12

瑞波向隐私领域的迈进：XRP账本重组将如何影响网络

瑞波前首席技术官大卫·施瓦茨近日探讨了XRP账本在面临国家级攻击压力时的应对策略。他指出，虽然如威权政权等国家行为体可能暂时扰乱包括XRP账本在内的区块链网络，但造成长期破坏要困难得多。 施瓦茨认为，当前Ripple运营的验证节点仅占全网不到20%，因此针对Ripple基础设施的集中攻击不会导致验证节点集失效。网络生存的关键在于社区能否持续替换受损或受胁迫的验证者。只有当攻击使得人们因恐惧而完全不敢运行验证节点时，威胁才会变得严重。 作为长期应对方案，施瓦茨提出了一种双层共识结构的可能性：内层处理日常网络活动，外层则仅在需要更改内层唯一节点列表（UNL）时介入。内层验证者易受攻击但易于替换，外层验证者角色更轻量、出现频率更低，且可通过Tor等匿名服务运行以增强隐蔽性，从而使针对性攻击更加困难。他强调，只要社区保持活跃响应，外部力量就难以实现长期控制。

bitcoinist06/01 18:01

手机上跑MoE？Meta提出MobileMoE，iPhone 16 Pro提速3.8倍

Meta团队提出MobileMoE，首次在商用智能手机上实现了高效的混合专家模型（MoE）推理。该模型面向端侧设计，采用MoE层替代传统稠密前馈层，通过路由机制为每个token选择少数专家进行计算，并包含共享专家。MobileMoE-S/M版本在内存相近的情况下，仅需稠密基线1/2到1/4的计算量，在14项基础评测中达到持平或更高的平均准确率，为端侧大语言模型建立了新的帕累托前沿。 在iPhone 16 Pro的实测中，MobileMoE-S在输入阶段最高提速3.8倍，逐token生成阶段提速2.2-3.4倍，且峰值内存占用低于对比模型。量化至INT4后性能降幅较小，仍保持竞争力。 研究同时探讨了专家数量、粒度及共享专家等架构选择，确定了E=8、g=8、带共享专家的优化配置。尽管MobileMoE在代码和数学任务上表现突出，但在高阶指令遵循与知识推理上仍落后于Qwen3.5 2B。未来需通过蒸馏、后训练及多模态扩展进一步提升，并探索NPU部署、动态路由等方向以优化端侧效率。

marsbit06/01 06:09

为什么更多AI Agent不等于更高生产力？

当AI Agent变得越来越易得和便宜，启动多个Agent已轻而易举，但这并不意味着生产力会随之线性提升。文章提出了“编排税”的概念：虽然启动Agent成本低廉，但真正昂贵的是后续需要人类投入的串行工作——检查结果、理解架构影响、处理冲突并决定最终代码合并。这些任务无法并行，必须经过开发者有限的认知带宽。 开发者如同AI系统中的“全局解释器锁”（GIL），成为限制整体吞吐量的单线程资源。更多Agent可能只会加长待审查队列，导致频繁的上下文切换和认知疲劳，反而降低效率。因此，关键不是盲目增加Agent，而是围绕人的注意力重新设计工作流。 有效的策略包括：根据review能力而非UI能力限制Agent数量；将任务分类，只将独立任务交给Agent并行处理；采用批量review减少切换成本；让Agent自行验证可自动化部分，节省人类判断力；并保护专注的串行时间用于深度思考。 忙碌感不等于高产，忽视“编排税”可能导致技术债和认知债积累。真正的能力在于像设计并发系统一样，精心管理自己有限的注意力资源，确保AI工具真正提升生产力而非制造假象。

marsbit05/31 22:44