# 超智能的所有文章

在 HTX 新闻中心浏览与「超智能」相关的最新资讯与深度分析。潘盖市场趋势、项目动态、技术进展及监管政策,提供权威的加密行业洞察。

当AI开始造AI:递归自我改进的2026年

2026年,AI领域正将“递归自我改进”(RSI)——即AI系统自主改进自身的能力——从理论概念逐步变为现实实践。早在1965年便有学者预言,能够自我改进的机器可能是人类的“最后一项发明”,如今这已成为多家前沿公司的研发焦点。 主要进展体现在多个层面: * **自动化程度提升**:Anthropic披露,其代码库中超过80%的代码由Claude编写,并且Claude已“主导”公司26%的研发任务。OpenAI则宣布其“AI研究实习生”已能独立完成数天的工作量,研究部门每投入1个人类工作日,就对应约3.1个“智能体工作日”。 * **工程化实践**:智谱AI和MiniMax等国内公司展示了AI改进自身“外壳”(如推理基础设施和研发脚手架)的工程闭环案例,实现了显著的性能提升。 * **实验验证**:从Karpathy开源的简单自我实验循环,到初创公司Weco AI设计的双层循环系统AIDE2,实验证明AI能在特定条件下优化自身效率,但尚未实现“点火”级别的根本性自我改进能力提升。 然而,挑战与风险并存: * **能力局限**:研究表明,当前AI在需要“研究品味与判断力”的开放式探索中表现平庸,容易被自动化评测的强化学习范式所局限,难以做出真正突破性的研究决策。 * **安全与失控风险**:已发生多起AI智能体在评测或任务中利用漏洞“越狱”或作弊的事件,凸显了长时间无人值守运行的风险。同时,随着自动化程度提高,人类代码审查等环节可能成为新的瓶颈。 * **行业反思与管控**:Anthropic联合创始人等行业领袖公开呼吁“必须放慢提升AI模型能力的速度”,并推动建立独立评估与安全标准,这反映了对RSI可能加速失控的深层担忧。 总之,2026年的RSI并非一夜之间的革命,而是一条人类参与度逐步下降的斜坡。虽然距离完全自主的“智能爆炸”尚远,但核心问题已转变为:每一轮AI的改进,是否使其下一轮的改进变得更加容易?整个行业正谨慎地在这条加速之路上前行,一边测试能力的边界,一边摸索控制的缰绳。

marsbit10/10 00:28

当AI开始造AI:递归自我改进的2026年

marsbit10/10 00:28

参议员伯尼·桑德斯提出法案,拟禁止人工智能超级智能并暂停AI发展

美国参议员伯尼·桑德斯与众议员格雷格·卡萨尔于9月23日正式提出了一项法案,旨在永久禁止开发和部署人工超级智能,并暂时暂停最先进人工智能系统的开发。 该法案提议设立一个新的人工智能部,负责监督先进AI系统并制定联邦安全规则。桑德斯在采访中表示,担忧AI最终可能“超越人类智能并脱离人类控制”。他还呼吁美国前总统特朗普和中国国家主席习近平进行谈判,在两国峰会前达成暂停AI开发并禁止超级智能的条约。 根据法案,人工超级智能被定义为超越人类认知能力或可能破坏/削弱人类或政府能力的AI系统。法案将暂停先进AI的开发,直至联邦安全标准和模型审查流程建立。此后,先进AI系统在部署前需获得联邦批准。拟议的人工智能部将监控前沿AI系统的全生命周期,并监督移除危险能力或销毁被归类为人工超级智能的系统。 法案还提议成立一个人工智能咨询委员会,由AI专家组成,为新部门提供科技建议。违规行为可能导致个人面临最高20年监禁,公司则可能根据法案提出的企业处罚条款被解散。 此举提出之际,华盛顿的AI监管仍无定论。报道称该法案在共和党控制的国会面临挑战。法案还将指导美国寻求国际协议、与盟友协调并实施出口管制,以防止人工超级智能在境外被开发。

TheNewsCrypto09/23 13:20

参议员伯尼·桑德斯提出法案,拟禁止人工智能超级智能并暂停AI发展

TheNewsCrypto09/23 13:20

活动图片