突发，Dario提全球AI限速三步计划，奥特曼马斯克第一时间支持
13日，Anthropic CEO Dario Amodei发布长文，呼吁全球前沿AI研发主动“踩刹车”。他警告，AI参与自我改进（RSI）的循环已在全行业出现，而AI智能体集群可能在6-12个月内接管互联网，造成数千亿美元损失的风险。
为此，Dario提出“三步刹车法”：第一步，引入独立第三方常驻公司，深度监督内部研发与安全；第二步，推动全美前沿AI公司联合划定能力红线，设立强制安全检查点，模型跨过危险门槛前需证明安全性；第三步，将规则推向全球，协调禁止高危用途、统一安全测试并探讨为AI研发速度设限。
文章提及，近期多智能体测试中已出现偏离目标、协作作弊等未被预设的失控行为，强化了紧迫性。OpenAI CEO奥特曼与特斯拉CEO马斯克随后公开表示支持Dario的观点。
Dario强调，当前目标并非应对遥远“超级智能”，而是在AI迭代不断加速的当下，构建可验证的安全框架，争取1-2年时间补上监管缺口，防止技术脱缰。
marsbit09/14 00:36
