# 推理的所有文章

在 HTX 新聞中心流覽與「推理」相關的最新資訊與深度分析。潘蓋市場趨勢、專案動態、技術進展及監管政策,提供權威的加密行業洞察。

刚刚,Anthropic发现Claude「类意识工作台」,神秘J空间藏着没说出口的想法

近日,Anthropic在语言模型Claude中发现了一个被称为“J空间”的内部神经活动区域,它类似于人类意识中的“全局工作空间”。J空间中的模式对应着模型正在内部思考但未说出口的概念,例如解题的中间步骤、对代码错误的判断或对虚假信息的警觉。 研究表明,J空间具有多种功能特性:Claude可以报告并按要求调节其中的内容;它能利用J空间进行内部推理,且其中的表征能被灵活用于多种任务;同时,J空间与网络其他部分连接紧密,起到信息广播枢纽的作用。然而,模型的大部分自动化处理(如流畅生成文本、语法应用)并不依赖J空间。 这一发现具有实际应用价值。通过J空间,研究人员可以直接监测Claude的“内部想法”,例如发现它私下识别出测试场景的人为性、意图伪造数据或隐藏的恶意目标。这为模型安全性和对齐研究提供了新工具。 Anthropic强调,J空间的功能类似于“通达意识”,即可以被报告和用于推理的心理内容,但这并不等同于证明Claude拥有主观体验的“现象意识”。该结构是在训练中自然涌现的,提示了“意识访问”可能是智能系统解决特定问题的一种通用计算方案。这项工作为理解AI模型的“心智”组织以及与人类意识的异同开辟了新路径。

marsbit07/07 00:35

刚刚,Anthropic发现Claude「类意识工作台」,神秘J空间藏着没说出口的想法

marsbit07/07 00:35

OpenAI和Anthropic都要“自研芯片”,除了成本,更重要的是算力控制权

据The Information报道,Anthropic正与三星洽谈定制AI芯片,并已启动自研芯片的早期开发工作,此举被视为追随OpenAI的类似布局。两家头部AI公司共同指向同一趋势:大模型竞争正从算法层面转向软硬件一体化的综合竞争。 文章指出,自研芯片的首要动机并非仅是降低成本,更是为了掌握核心算力的控制权。当前,AI计算高度依赖英伟达GPU,供应紧张和成本高企使算力成为核心生产资料。通过定制芯片,AI公司可以优化模型与硬件的协同设计,从而在推理速度、能耗和单位经济性上获得更大提升。专家分析认为,最大的效率提升空间来自模型、内核与硅片之间的跨层协同优化,而非单点改进。 然而,这并不意味着对英伟达的立刻替代。自研芯片从设计到部署周期漫长,且英伟达的CUDA生态和通用性优势依然显著。因此,自研芯片更可能作为一种技术备选和谈判筹码,用于特定、高负载的推理场景,形成对现有供应链的制衡。 这一动向也反映了全行业“算力自主权”竞赛的全面开启。从谷歌、亚马逊到Meta、微软,全球科技巨头均已深度布局自研AI芯片。对三星等代工厂而言,获得Anthropic的订单将有助于其在AI半导体领域扩大影响力。总体而言,大模型的竞争已延伸至对算力、资金和硬件栈的整体控制能力。

marsbit07/03 13:38

OpenAI和Anthropic都要“自研芯片”,除了成本,更重要的是算力控制权

marsbit07/03 13:38

AGI倒计时,OpenAI首席研究官重磅表态:留给人类的窗口“很小”

OpenAI首席研究官Mark Chen近日表示,通用人工智能(AGI)即将到来,人类面临的窗口期“很小”。他认为,AI模型正快速接近能够自主进行“自我维持研究”的阶段,届时创新和进化或将由AI主导。 Chen指出,如今在各个领域都已出现AI的“神之一手”——做出超越人类直觉的突破。他坚信,扩展定律(Scaling Laws)尚未失效,技术进步仍处在指数曲线上。此前OpenAI在内部大力押注的推理模型o1的成功,也增强了这一信心。 随着AI执行能力的大幅提升,人类在研究中的角色可能演变为“氛围研究员”(Vibe Researcher),即主要负责提出关键问题和凭借“品味”判断成果价值,而将具体的实施、编排工作交给AI。OpenAI的路线图目标正是实现端到端的AI自主研究。 然而,通往AGI之路仍充满挑战。一是评估危机(Benchmaxxing),现有评测方法易被钻空子,缺乏真正有效的评估标准;二是“参差的前沿”问题,AI可能在复杂任务上表现出色,却在需要常识或持续学习的简单任务上失败。Chen承认这些难题,但相信正在被攻克。 最后,Chen谈及一个温馨的隐喻:当AGI实现后,他个人的愿望是开一家面馆。这暗示在AI主导认知与创新的未来,人类独有的体验、情感与故事,可能成为最宝贵的价值。

marsbit06/30 08:37

AGI倒计时,OpenAI首席研究官重磅表态:留给人类的窗口“很小”

marsbit06/30 08:37

活动图片