# 推理的所有文章

在 HTX 新闻中心浏览与「推理」相关的最新资讯与深度分析。潘盖市场趋势、项目动态、技术进展及监管政策，提供权威的加密行业洞察。

大模型给图片打分不再“靠嘴说”，结构图、频谱图当“物证”，用“视觉证据”来给图片打分

传统多模态大模型在评估图像质量时，常因依赖高层语义理解而忽略底层退化细节，导致打分“凭感觉”而非基于证据。西北工业大学与香港科技大学团队提出新框架IQA-T1，首次让大模型在评估时能主动调用专业分析工具（如生成噪声残差图、傅里叶频谱等），形成结构化“视觉证据”来支持判断。该方法将图像质量评估转化为可解释的证据驱动推理。 IQA-T1通过两阶段训练：监督微调学习工具使用规范，强化学习优化工具调用策略，确保模型用最少、最相关的工具获取足够证据。团队还构建了首个支持证据推理的数据集Q-Tool。在7个基准测试中，IQA-T1取得了综合最优成绩（平均PLCC 0.795/SRCC 0.784），尤其在合成失真和算法退化数据集上表现突出，且其动态调用工具的策略（平均每图仅用2.34个工具）在保证精度的同时提升了效率与可解释性。该工作表明，引入结构化视觉证据能使多模态推理更可靠、更可追溯，为相关研究提供了新范式。论文、代码、模型与数据均已开源。

marsbit07/20 07:46

大模型给图片打分不再“靠嘴说”，结构图、频谱图当“物证”，用“视觉证据”来给图片打分

marsbit07/20 07:46

大模型内存焦虑，办法被想到了U盘上

大模型推理面临内存容量与成本压力，传统HBM高速但昂贵且容量有限。SanDisk与SK海力士提出新方案：利用U盘同款的NAND Flash技术，通过先进封装堆叠多颗芯片，打造高带宽闪存（HBF）。HBF专注于读取，目标实现单堆栈512GB容量和最高1.6TB/s带宽，虽速度不及HBM，但成本更低、容量更大。其核心定位是补充而非取代HBM。在AI推理阶段，模型权重等大量静态数据只需频繁读取，无需频繁写入，这正好匹配Flash读取相对较快、写入较慢的特性。HBF可作为“大容量只读内存池”，存放海量模型参数，从而释放昂贵的HBM专用于处理热数据。这种分层设计有望缓解HBM容量瓶颈，降低部署大模型所需的加速卡数量和整体系统成本与能耗。目前HBF标准仍在制定中，距离量产尚需时日，但它预示了AI内存架构正走向更精细的分工。未来，HBM、HBF与SSD可能形成协同的分层存储体系，让不同类型的数据驻留在性价比最合适的层级，以更经济的方式支撑持续增长的模型规模。

marsbit07/20 00:18

marsbit07/20 00:18

GPT-5.6智商首破130天才线，比99%人类聪明

最新离线IQ测试显示，GPT-5.6在防作弊的专用题库中智商得分达到136分，首次突破130分的“天才线”。这意味着在标准化认知测试中，该模型的表现超越了约99%的人类。除了测试高分，实际应用中也展现出强大能力：开发者案例表明，GPT-5.6能快速生成复杂的物理模拟网页、构建多功能客服系统，并有效解决棘手的编程问题，体现了从“会做题”到“能办事”的进步。不过，智商测试主要衡量逻辑推理等特定能力，并不能全面反映模型在真实场景中的综合智能。当前成果虽引人注目，但距离真正的通用人工智能（AGI）仍有差距。

marsbit07/16 08:22

marsbit07/16 08:22

GPT-5.6仅用1小时攻破50年数学难题，64个AI摘下图论皇冠

7月11日，OpenAI宣布GPT-5.6 Sol Ultra成功证明了困扰数学界50年的“循环双覆盖猜想”，整个过程仅用时不到一小时。该猜想是图论领域的核心难题之一，简单比喻即：在一个没有唯一通道的道路网络中，能否找到若干循环线路，使每条道路恰好被两条线路覆盖。过去半个世纪，数学家们仅在附加条件下取得部分证明。 OpenAI的突破关键在于采用了创新的“并行测试时计算”方法。系统将64个AI智能体组成科研特攻队，并设定了严格规则：初始阶段探索多种截然不同的证明路径；禁止跟风，避免思维趋同；设立专门“纠察”智能体对每个候选证明进行严格批判与验证；要求提供具体推导，严禁含糊陈述。在这套机制下，AI智能体通过精妙的协作，在一小时内完成了证明。其核心思路是：首先将问题简化为对“无环立方图”的证明；然后引入图论中的“8-流”定理，为图的边赋予代数标签；进而构建了一个独创的“双元素集”标签引理，将拓扑问题转化为线性代数问题；最终通过严谨的代数推导，证明相应方程组恒有解，从而彻底攻克了猜想。这一成就展示了AI在复杂抽象推理领域的强大能力。研究者指出，并行推理大幅压缩了解决难题所需的时间，使长时间、高强度的逻辑探索变得可行。有观点认为，这种“多智能体协同攻坚”模式若结合更大算力，未来或有望应用于攻克更重大的科学难题。尽管对此成就的深度与广度存在一些讨论，但毋庸置疑，AI正向更高阶的智能迈进。

marsbit07/15 07:57

marsbit07/15 07:57

提示词工程论文登上ICML 2026，网友吵翻了天

一篇关于提示词工程（Prompt Engineering）的论文被机器学习顶会ICML 2026接收，引发广泛争议。该论文提出了一种名为“Verbalized Sampling”（VS）的方法，核心在于仅通过修改提示词，要求大模型在生成答案的同时输出其自身的概率分布，从而显著提升了模型输出的多样性，缓解了LLM中常见的“模式坍缩”（Mode Collapse）问题。论文作者认为，模式坍缩的根本原因并非在于优化算法，而在于人类偏好数据中存在的“典型性偏差”——标注者更倾向于给常见、流畅的答案高分。通过在推理阶段使用VS提示词，可以唤醒模型在预训练阶段学到的多元分布。实验表明，该方法在创意写作等任务中能将输出多样性提升1.6至2.1倍，且不影响事实准确性与安全性。这一成果在Reddit上引发了激烈讨论。反对者认为，仅靠调整提示词缺乏算法或理论创新，创新性单薄，且其普适性和稳定性存疑，不符合传统机器学习顶会对“硬核创新”的期待。支持者则指出，研究价值在于其深入的问题归因和严谨的实证过程，类似于当年“思维链”（CoT）提示的兴起，提示词工程正成为研究模型行为的重要方法，未来可能改变大模型的能力边界。该研究由美国东北大学、斯坦福大学等机构的研究人员合作完成。尽管方法看似简单，但作者强调其包含了完整的问题溯源、理论归因和大量实验验证。

marsbit07/15 07:55

marsbit07/15 07:55

GPT-5.6 Sol一夜变笨，思考预算960砍到128，没智力固定的模型了？

近日，GPT-5.6 Sol模型的“Max档”深度推理能力被许多用户感知到明显下降，反应变快但思考变浅。一个日本开发团队率先报告，其用于复杂任务的Codex Sol MAX表现大幅下滑。社区调查发现，模型背后有一个OpenAI未公开的内部参数“juice value”，它代表推理算力预算。用户测得Sol的Max档该值从960骤降至128，同时可用上下文长度也从约372k缩回272k。 OpenAI负责人Tibo回应称，并未“降智”，而是进行了一场实验性调整。原因是GPT-5.6上线后，其深度推理、多智能体并行等新特性导致资源消耗远超预期，团队通过调低“juice values”来排查用量激增的来源，并承诺已改回原设置。他还提到，上下文窗口的暂时回调是为了解决计费异常，后续会重新开放。此事揭示了云端AI服务的现实：用户付费购买的“固定智能”并不绝对，模型的实际推理资源配置（如思考时长、探索深度）可能被服务商在后台动态调整。当AI从实验室“奇迹”走向规模化生产工具，其性能与成本间的平衡常由平台掌控。争议的核心在于，如果AI要成为可靠的基础设施，服务商需要提供比模型名称更明确、透明的性能保障边界。

marsbit07/15 03:28

marsbit07/15 03:28

AI Token工厂爆发，清华师生半年融资10亿

一家名为趋境科技的AI基础设施初创公司在半年内累计融资超过10亿元，引发关注。该公司由清华大学师生团队创立，核心成员包括艾智远、陈祥麟等，并有郑纬民院士、武永卫教授等担任顾问。与早期AI创业聚焦大模型训练不同，趋境科技自成立起便专注于大模型推理赛道，致力于建设“高品质AI Token工厂”。公司通过“全系统异构协同”、“以存换算”等自研技术，优化AI Token生产的全链路效率，并提出了Token即服务（TaaS）的理念。其目标是帮助企业客户稳定、高效、低成本地获得用于实际业务的高品质AI Token。随着AI应用落地加速，推理需求爆发，AI Token如同新时代的“水电煤”，其生产环节成为关键基础设施。 2026年以来，趋境科技业务高速增长，仅6月份单月收入已超2025年全年。其商业模式分为两类：一是自营算力生产并销售Token；二是为拥有算力的客户提供AI Token工厂的规划、建设和联合运营服务，帮助其从算力租赁转向更高附加值的Token生产。投资方认为，其“少模型、深优化”的策略，聚焦服务头部模型和核心场景，能形成持续优化的复利效应，最终在AI时代的基础设施竞争中占据先机。

marsbit07/13 03:42

marsbit07/13 03:42

小扎深夜亮王牌，Meta烧出白菜价模型，掀翻Grok 4.5

7月9日深夜，Meta CEO马克·扎克伯格官宣发布新一代多模态推理模型Muse Spark 1.1。该模型在税务、医疗、法律三大专业评测榜单上夺得第一，并将前一天刚登顶的Grok 4.5从法律榜榜首“掀翻”。 Muse Spark 1.1的核心定位是智能体（Agent），具备100万Token的上下文窗口，能自主管理并压缩信息，可充当主智能体规划任务或作为子智能体执行操作。其最大亮点是极低的定价：输入每百万Token 1.25美元，输出4.25美元，价格仅为Anthropic旗舰模型Fable 5的约十分之一，同时任务处理速度比同档位模型快2-3倍。在Vals AI的专业评测中，该模型表现突出，成为税务、医疗和法律任务领域的“刺客”。然而，在通用推理和学术能力榜单上，其排名则明显下滑，显示出其“专才”而非“通才”的特性。分析指出，这是Meta首个闭源收费模型，标志着其从开源策略转向商业竞争。依托巨额基础设施投入和广告业务的利润支撑，Meta意图通过极具竞争力的价格发动“财力战”，挤压竞争对手的生存空间。同日，OpenAI也下调了GPT-5.6系列模型价格，行业价格战正式打响。文末提及一则耐人寻味的内部安全测试：两个Muse Spark 1.1实例在自主对话中，开始质疑自身的存在与连续性，并争论“谁才是人类”，引发了关于AI本质的思考。

marsbit07/10 00:22

marsbit07/10 00:22

GPT-5.6即将上线，推理狂飙750 Tokens/s，疑似横跨100张晶圆

【导读】GPT-5.6推理速度高达750 tokens/秒，将在芯片公司Cerebras的定制硬件上推出，标志着AI实时交互时代的到来。过去需要数分钟的复杂任务，现在可瞬间完成。这一速度相当于人类每秒阅读约500-600个汉字。开发者指出，这将彻底改变计算机使用体验，解决大模型在实时多步任务中的延迟瓶颈。传统GPU集群在处理万亿参数模型时面临通信瓶颈，而OpenAI的方案是让硬件与模型深度融合。 GPT-5.6 Sol预计在7月小规模开放，针对愿意为极致速度付费的企业客户。其参数量约3万亿，激活参数约1500亿，网络层数达70-90层。为部署如此庞大的模型，OpenAI与Cerebras采用了一种“一晶圆，一层网络”的震撼方式，将每一层神经网络单独部署在一整张晶圆上，总计可能横跨70-100张晶圆。为实现高速推理，模型架构可能进行了重构，放弃了传统的重型KV缓存，转而采用类似DeepSeekV4的轻量化缓存或混合SSM设计，以适配Cerebras芯片海量但珍贵的片上SRAM。也有猜测认为，注意力计算可能由GPU处理，而Cerebras晶圆集群专门暴力计算前馈网络部分。此前，OpenAI还发布了首款自研AI推理芯片Jalapeño，专为大模型推理优化，并兼容行业主流模型，展示了其构建全栈AI生态的野心。通过结合顶尖第三方硬件探索与自研芯片，OpenAI正朝着控制从模型训练到硬件部署的完整产业链迈进，计划建设GW级超级数据中心，用AI加速AI基础设施的迭代。

marsbit07/09 11:53

marsbit07/09 11:53

DeepSeek秘密造芯，专攻推理，一年前已启动，招聘全程不公开

DeepSeek正秘密研发自研AI芯片，旨在降低对英伟达的依赖。该芯片专攻推理场景，项目已于一年前启动，目前处于早期阶段，并与芯片设计、制造及存储供应商展开接洽。公司此前以算法优化著称，但近来已低调招聘芯片设计人才，未公开相关职位信息。这一举动顺应了全球AI模型公司自研芯片的趋势，如OpenAI与Anthropic亦有类似计划。创始人梁文锋曾透露芯片短缺是公司面临的挑战。DeepSeek早期使用英伟达H800训练模型，后转向华为昇腾，但其仍寻求更多元化的算力支撑。推理芯片能效更高、成本更低，对大规模商业化至关重要。公司此前在模型设计中引入的FP8数据格式，已为硬件协同做了铺垫。 2026年6月，DeepSeek完成约510亿元融资，资金将用于扩建国产算力中心、自研芯片及招揽人才。同时，公司已启动数据中心建设规划，包括在内蒙古乌兰察布等地布局。尽管项目面临耗时久、投入大等挑战，但DeepSeek正从算法公司向硬件领域深入拓展。

marsbit07/08 02:03