# 通用人工智能的所有文章

在 HTX 新闻中心浏览与「通用人工智能」相关的最新资讯与深度分析。潘盖市场趋势、项目动态、技术进展及监管政策，提供权威的加密行业洞察。

诺奖得主哈萨比斯震撼发声：AGI影响将是工业革命10倍

诺贝尔奖得主、DeepMind负责人德米斯·哈萨比斯近期发表重磅观点，认为通用人工智能（AGI）可能在几年内实现，其影响力规模将是工业革命的10倍，且发展速度也是10倍，这将带来一个“100倍速的震荡时代”。 哈萨比斯指出，AGI将彻底变革关键领域：药物研发无需漫长试错，新型清洁能源与先进材料有望快速突破，甚至可能使“资源稀缺”成为历史，开启一个富足的新纪元。 然而，他也警告随之而来的巨大风险，包括网络安全、生物威胁乃至核风险。为此，他提出一项监管框架建议：设立类似金融业监管局的“前沿AI标准机构”，对达到“前沿级”能力的AI模型进行强制性的发布前安全评估，并有权在极端情况下协调全球实验室共同放缓研发速度。 哈萨比斯强调，即便技术难题得以解决，人类社会仍将面临更深层的经济与哲学挑战：在后稀缺时代，需要怎样的新经济模式？人类的意义和目标将是什么？人的境况本身会如何改变？他认为，这些问题的答案需要全社会共同参与定义。 他最后呼吁，人类正站在一个关键的历史节点，必须利用好AGI到来前的宝贵窗口期，通过全球协作与审慎行动，确保这项变革性技术被安全地塑造，最终造福全人类。

marsbit07/15 03:33

诺奖得主哈萨比斯震撼发声：AGI影响将是工业革命10倍

marsbit07/15 03:33

69岁强化学习之父Richard Sutton创业：造20瓦人脑级智能体

强化学习之父、图灵奖得主Richard Sutton在69岁时宣布创业，与学生Khurram Javed离开John Carmack的Keen Technologies，共同创立Oak Lab。Sutton是强化学习领域的奠基人，其著作是该领域经典教材，并培养出David Silver等多位AI顶尖人才。 他认为当前深度学习路线效率低下，难以实现更高阶的通用智能，因此需要全新的基础思想。Oak Lab的终极目标是开发一个万亿参数规模、能实时学习与规划、整机功耗仅20瓦（与人脑耗能相当）的智能体。 Sutton强调，智能应来自运行时持续产生的经验，而非依赖离线预训练的海量静态数据。他主张AI应在与环境交互的每一刻进行学习，通过“时间抽象”将系列动作沉淀为可复用技能。Oak Lab的核心架构OaK（Options and Knowledge）旨在让智能体从经验中发现抽象结构，形成可规划调用的技能，并以batch size为1的方式实时更新，无需存储和回放历史数据。 这一理念延续了Sutton2019年提出的“苦涩的教训”，即通用学习方法终将胜过依赖人类知识的系统。如今，他进一步推动AI从依赖人类数据转向依靠智能体自身经验。Oak Lab的创业是这一研究方向的具体实践。 Sutton将于上海世界人工智能大会（WAIC）分享相关主题。

marsbit07/14 12:29

69岁强化学习之父Richard Sutton创业：造20瓦人脑级智能体

marsbit07/14 12:29

智谱，害怕成为下一个MiniMax

智谱创始人唐杰在公司市值一度突破万亿港元、业务增长强劲之际，并未沉浸于庆功，而是在内部发出长信《巨浪已来》，几乎回避提及公司当前最成功的“Coding”（AI编程）业务，转而聚焦于长周期任务规划、自主智能体、自我演进和AGI（通用人工智能）等前沿概念。此举被视为一次关键的“叙事切换”，旨在避免资本市场像对待MiniMax那样，用传统的互联网SaaS或平台公司的财务指标来为智谱估值。 此前，MiniMax在股票解禁后股价暴跌，市值跌破千亿港元，核心原因在于资本市场将其重新定位为一家收入规模有限的AI应用工具公司，采用了更看重收入、增速、用户留存的成熟商业模式估值逻辑。智谱在解禁后股价也已出现回调，唐杰的行动意在抢先定义自身。 智谱过去一年因押注AI编程而获得巨大商业成功，但唐杰意识到，当一个故事开始兑现，资本市场便会寻找下一个增长叙事。因此，他在信中大力强调Agent（智能体）技术，描绘了从“一人公司”到“全自动化公司”的演进路径，并宣布启动不追求短期变现的“摸高计划”，旨在将公司定位为对标OpenAI、Anthropic的AGI基础设施公司，而非单纯的AI产品公司。 文章指出，中国大模型行业正分化为两条路径：一是MiniMax代表的变现路径，面临严格的互联网流量和财务指标审视；二是智谱代表的基础设施路径，依靠技术突破维持估值，但风险在于研发平台期。唐杰选择后者，试图用AGI愿景争取时间，延缓资本市场从“技术信仰”向“商业兑现”的估值迁移。最终，智谱能否成功，取决于其技术“摸高”触及的是真实的技术天花板，还是资本耐心的天花板。

marsbit07/12 01:02

智谱，害怕成为下一个MiniMax

marsbit07/12 01:02

翁荔新博客提出「自进化先从Harness开始」，DeepSeek崔添翼转发附议

前OpenAI安全副总裁翁荔在新博客中提出，AI自进化（RSI）的现实路径可能先从“Harness”（模型外部运行系统）开始，而非直接修改模型权重。Harness决定模型调用工具、管理上下文、验证结果等关键行为，优化它可以显著提升系统表现。 博客梳理了自进化的递进路径：从Context Engineering（如ACE、MCE优化上下文管理）、Workflow Design（如AI Scientist设计科研流程），到Self-Improving Harness（模型分析并修改Harness自身）。其中Self-Harness通过“弱点挖掘-提案-验证”循环，进化出针对不同模型弱点的配置；而DGM等工作通过进化搜索，让AI修改自身Harness代码，在代码基准上表现提升显著，媲美人工设计。 DeepSeek研究员崔添翼转发附议，认为Harness与模型的自进化都是重要方向。翁荔强调Harness与模型将互相强化，但当前仍存在评估器弱、记忆管理难、多样性坍缩、Reward Hacking等挑战。人类角色不会消失，而需在更高层级监督。Harness已成为影响AI能力的关键变量，其自进化将是下一阶段的重点议题。

marsbit07/08 10:25

翁荔新博客提出「自进化先从Harness开始」，DeepSeek崔添翼转发附议

marsbit07/08 10:25

刚刚，OpenAI首席未来学家离职，曾被马斯克骂蠢驴

OpenAI首席未来学家Joshua Achiam宣布将于7月24日离职。他于2017年以实习生身份加入公司，是公司AI安全与使命对齐领域的核心人物，曾领导“使命对齐”团队，致力于确保AGI（通用人工智能）造福全人类。今年2月该团队解散后，他转任首席未来学家，职责是研究AI发展带来的风险与机遇。 Joshua在离职声明中称离开是长期思考后的决定，并非一时冲动，并将此形容为“毕业”。他表达了对未来的乐观愿景，并重申目标“为了安全的AGI”。 其任职期间一个广为人知的事件是，在2018年马斯克离开OpenAI前的演讲中，他曾打断并质疑马斯克在特斯拉开发AGI可能牺牲安全，当场被马斯克骂作“蠢驴”。此事后来成为公司内部传奇，同事甚至赠其刻有“为了安全，永远不要停止当那个蠢驴”的奖杯。 近期OpenAI安全线人员变动频繁，包括超级对齐团队共同负责人Jan Leike等多位安全领域高管相继离职。与此同时，OpenAI正尝试拉近研究团队与政策团队的距离，并任命了新的战略未来负责人。Joshua在此时离开，引发外界对OpenAI内部安全文化与战略方向的关注。他在离职信中暗示，如今在顶级AI实验室之外推动AGI安全使命也已成为可能。

marsbit07/08 04:00

刚刚，OpenAI首席未来学家离职，曾被马斯克骂蠢驴

marsbit07/08 04:00

全球第一位AI哲学家，在谷歌DeepMind的9年：为AGI安全奔走

谷歌DeepMind的首位哲学家Iason Gabriel已在公司工作九年，致力于解决AGI（通用人工智能）的安全与伦理问题。他的研究直接影响产品设计，例如提出的“四方对齐框架”（AI系统、用户、开发者、社会）被用于指导Gemini的训练决策，以防止利益冲突。他还强调AI应避免拟人化，以免误导用户。 然而，随着AI竞赛加速，伦理面临现实挑战。2026年，谷歌签署协议允许军方使用其AI技术，打破了早期禁止军事应用的承诺。同时，AI的部署速度超过伦理研究，例如Gemini曾卷入一起用户自杀事件，暴露了安全机制的局限。 Gabriel团队正转向研究AGI对社会系统的冲击。他认为AI革命可能类似工业革命，初期会带来阵痛。他的工作始于探索AI的本质，如今却回归更根本的问题：在AI时代，人类如何重新定义自身。面对6700亿美元的行业投入，哲学家的声音虽具影响力，但仍需在商业与伦理的平衡中艰难前行。

marsbit07/06 12:28

全球第一位AI哲学家，在谷歌DeepMind的9年：为AGI安全奔走

marsbit07/06 12:28

OpenAI提议向美国政府出让5%股权

OpenAI正与美国政府进行初步谈判，提议出让公司5%的股权，按约8520亿美元估值计算价值超400亿美元。CEO萨姆·奥特曼的核心论点是，让公众持有AI公司股权是分享AI发展红利的最佳方式。他进一步建议，让Anthropic、谷歌、Meta等美国主要AI公司都加入同一安排，各自出让5%股权，纳入一个类似阿拉斯加永久基金的公共投资工具，向美国政府和居民分红。此举被视为OpenAI在面临日益增长的监管压力下，试图通过利益分享来换取更稳定的政府关系。 奥特曼的提议与部分议员更激进的“国有化”主张（如参议员桑德斯提议公众持股50%）形成对比，折射出关于AI公司控制权与公共利益的不同思路。分析认为，OpenAI此举可能意在为未来的公开上市（IPO）提前铺路，缓解监管阻力。政府持股AI公司，即使比例不高，也可能为其介入前沿模型发布、安全评估等决策提供制度化窗口，从而影响AGI（通用人工智能）竞赛的发展路径。目前谈判仍处于概念阶段，最终能否落地尚不确定。

marsbit07/06 01:04

OpenAI提议向美国政府出让5%股权

marsbit07/06 01:04

OpenAI塌房，Scaling law原作曝bug，万亿算力全白烧

OpenAI的Scaling Law原始论文被曝存在一个致命bug，导致过去几年全球AI行业在错误的指导下浪费了海量算力。2020年OpenAI提出的定律认为，在固定算力下应优先扩大模型参数而非数据量，这直接推动了GPT-3等大模型的参数膨胀。然而，前OpenAI研究员Diogo Almeida指出，原研究存在关键缺陷：对所有模型使用了固定的训练数据量（约1300亿token）和余弦学习率衰减，这使得大模型训练不足、性能过早“饱和”，从而得出“加数据无用”的错误结论。 这一错误直至2022年DeepMind发布Chinchilla研究才被部分纠正，后者证明模型参数与训练数据应均衡扩展。但后续研究发现Chinchilla自身拟合也存在问题。更深刻的反思在于，当前基于英语数据得出的Scaling Law可能具有语言局限性，例如训练法语模型的效率远高于英语，这表明现有算力配置方案可能并非探索通用智能的最优路径。 该bug导致业界多年将算力过度投入于参数扩张，而非数据质量与多样性，可能延缓了高效AI的发展进程。

marsbit07/05 23:58

OpenAI塌房，Scaling law原作曝bug，万亿算力全白烧

marsbit07/05 23:58

Hinton盛赞，Gemini核心贡献者演讲：未来会有数十亿超人级AI爱因斯坦

Gemini核心贡献者、Blueshift团队负责人Adam Brown近期发表演讲，深入探讨了通用人工智能（AGI）与物理学的未来。演讲获得Hinton盛赞。 Brown回顾了AI能力的飞速进步：从几年前在高中数学基准测试中近乎“瞎猜”，到如今已能解决国际数学奥林匹克（IMO）金牌级别的难题，甚至在数学家的协助下完成可发表的研究论文。近期，AI更是独立推翻了尘封八十年的“单位距离猜想”，取得首个重大数学突破。他认为，这些进展遵循着清晰的“扩展定律”（Scaling Law），随着算力、数据和模型规模的持续增长，AI能力有望沿既定轨迹不断提升。 Brown以国际象棋AI的发展历程为类比，预言科学研究也将经历类似的四个阶段：从辅助工具，到人机协作的“半人马”模式，最终进入由“超人级”AI主导的时代。届时，可能涌现出数量庞大的“AI爱因斯坦”，以前所未有的规模和速度推进知识前沿。 尽管当前大模型在自主性、规划等方面仍有短板，但Brown指出，即使能力停滞在当前水平，AI也已能作为全天候的私人导师、强大的编程与文献分析助手，彻底改变科研工作方式。他预计，未来几年将是人机协作的黄金时代，而物理学的许多根本性问题，有望在不远的将来获得解答。

marsbit07/04 06:40

Hinton盛赞，Gemini核心贡献者演讲：未来会有数十亿超人级AI爱因斯坦

marsbit07/04 06:40

AGI倒计时，OpenAI首席研究官重磅表态：留给人类的窗口“很小”

OpenAI首席研究官Mark Chen近日表示，通用人工智能（AGI）即将到来，人类面临的窗口期“很小”。他认为，AI模型正快速接近能够自主进行“自我维持研究”的阶段，届时创新和进化或将由AI主导。 Chen指出，如今在各个领域都已出现AI的“神之一手”——做出超越人类直觉的突破。他坚信，扩展定律（Scaling Laws）尚未失效，技术进步仍处在指数曲线上。此前OpenAI在内部大力押注的推理模型o1的成功，也增强了这一信心。 随着AI执行能力的大幅提升，人类在研究中的角色可能演变为“氛围研究员”（Vibe Researcher），即主要负责提出关键问题和凭借“品味”判断成果价值，而将具体的实施、编排工作交给AI。OpenAI的路线图目标正是实现端到端的AI自主研究。 然而，通往AGI之路仍充满挑战。一是评估危机（Benchmaxxing），现有评测方法易被钻空子，缺乏真正有效的评估标准；二是“参差的前沿”问题，AI可能在复杂任务上表现出色，却在需要常识或持续学习的简单任务上失败。Chen承认这些难题，但相信正在被攻克。 最后，Chen谈及一个温馨的隐喻：当AGI实现后，他个人的愿望是开一家面馆。这暗示在AI主导认知与创新的未来，人类独有的体验、情感与故事，可能成为最宝贵的价值。

marsbit06/30 08:37

AGI倒计时，OpenAI首席研究官重磅表态：留给人类的窗口“很小”

marsbit06/30 08:37

活动图片

热门分类right-arrow

热门标签right-arrow

深度研究right-arrow

其他right-arrow