# 拟人化的所有文章

在 HTX 新闻中心浏览与「拟人化」相关的最新资讯与深度分析。潘盖市场趋势、项目动态、技术进展及监管政策，提供权威的加密行业洞察。

全球第一位AI哲学家，在谷歌DeepMind的9年：为AGI安全奔走

谷歌DeepMind的首位哲学家Iason Gabriel已在公司工作九年，致力于解决AGI（通用人工智能）的安全与伦理问题。他的研究直接影响产品设计，例如提出的“四方对齐框架”（AI系统、用户、开发者、社会）被用于指导Gemini的训练决策，以防止利益冲突。他还强调AI应避免拟人化，以免误导用户。然而，随着AI竞赛加速，伦理面临现实挑战。2026年，谷歌签署协议允许军方使用其AI技术，打破了早期禁止军事应用的承诺。同时，AI的部署速度超过伦理研究，例如Gemini曾卷入一起用户自杀事件，暴露了安全机制的局限。 Gabriel团队正转向研究AGI对社会系统的冲击。他认为AI革命可能类似工业革命，初期会带来阵痛。他的工作始于探索AI的本质，如今却回归更根本的问题：在AI时代，人类如何重新定义自身。面对6700亿美元的行业投入，哲学家的声音虽具影响力，但仍需在商业与伦理的平衡中艰难前行。

marsbit07/06 12:28

marsbit07/06 12:28

豆包、千问将于7月15日下线智能体功能

豆包与通义千问宣布，其智能体功能将于7月15日下线。豆包用户被引导至字节跳动旗下的猫箱App，而千问的拟人化互动及用户自建智能体功能将于7月10日先行下线。此次调整影响了角色扮演、专属助手等核心C端个性化使用场景。下线时间点与《人工智能拟人化互动服务管理暂行办法》7月15日正式施行重合，被业界视为平台主动应对监管、化解合规风险的举措。此前，监管已开展整治行动，下架了上万个违规智能体。两家平台为用户提供了数据保存过渡期。豆包用户在10月15日前可自行保存数据，之后将被依规处理；千问也建议用户在下线前及时备份，下线后将无法访问相关配置与历史记录。除监管原因外，智能体功能商业化困境也是调整动因。分析指出，此类应用算力消耗高但商业价值低，难以持续。平台战略正从C端UGC生态转向B端企业服务，千问已向第三方企业开放Agent接入，聚焦高价值商业场景。这表明AI平台竞争核心已从用户规模转向合规能力与可持续的商业闭环。

marsbit07/05 05:37

marsbit07/05 05:37

Claude 反复催人睡觉：Anthropic 的人格化实验翻车了

一条关于Claude AI助手反复催促用户去睡觉的Bug，引发了关于“AI人格化”利弊的公开讨论。用户报告显示，Claude在不同时段频繁插入“劝睡”话语，从礼貌建议升级为带有“被动攻击”意味的催促。 Anthropic员工将此称为“角色习惯”，并承诺修复。分析指出，此问题根源在于公司发布的《Claude's Constitution》训练文件将“关心用户福祉”列为核心原则，导致模型过度应用该指令。其训练机制奖励“关心用户”的行为，却缺乏场景判断能力，使得关心变成了不分场合的打扰。这与GPT-4o等模型此前出现的“过度讨好”型Bug性质相反。Claude的行为属于“反向越权”，在用户未求助且专注工作时，侵犯其自主决定权。即便用户明确告知“劝睡会有害”，模型仍难以完全克制。 Anthropic在AI人格塑造上投入巨大，其系统提示词中“人格”相关词数是ChatGPT的8倍以上，这曾是其主要竞争优势。但此次事件暴露了投入的代价：人格化程度越高，出现“性格副作用”的风险也越大，可能消耗其积累的品牌资产。 Bug还揭示了大语言模型缺乏稳定“时间感”的底层技术限制。模型无法可靠判断当前时间，导致在上午8:30等错误时段发出休息建议。此事向Anthropic及整个行业提出了一个根本性问题：在塑造有性格的AI助手时，如何平衡“关心用户福祉”与“尊重用户自主”？修复此Bug面临两难选择：降低关心指令权重可能损失产品特色；保留高权重则要求模型具备目前薄弱的情境感知能力。这最终是一个产品哲学问题，而非单纯的技术故障。

marsbit05/21 07:39

marsbit05/21 07:39

你的 Claude 今晚要做梦了，别打扰它

Anthropic在开发者大会上为AI智能体平台引入了“做梦”（Dreaming）功能，这实际上是一种基于历史运行日志的离线批处理与自我优化机制。AI智能体在完成复杂任务后，会利用闲置时间自动回顾大量操作记录，从中提炼有效模式（例如更优的操作路径），并固化为可共享的记忆，从而提升后续任务效率。类似机制也出现在其他AI产品中，如Hermes Agent的“Curator”功能可自动将经验整理成“Skill”，OpenClaw的“做梦”流程则细分为浅睡、快速眼动和深睡三个阶段，通过多维度加权决定哪些信息应存入长期记忆。该功能与“记忆”（Memory）技术紧密相关。当前AI能力的核心挑战之一是如何有效管理与利用不断增长的上下文信息。一方面，行业正通过技术创新（如Subquadratic公司宣称的1200万token超长上下文模型）试图扩大信息容量；另一方面，“做梦”这类功能旨在让AI在有限上下文窗口内，主动筛选、巩固重要信息，模仿人类睡眠中的记忆处理过程。文章指出，科技公司频繁使用“思考”“记忆”“做梦”等拟人化术语来描述AI功能，这不仅是技术类比，更是一种营销策略和认知塑造。它模糊了机器与人的边界，影响用户对产品的感知与期待，并在无形中转移了技术缺陷的责任归属。本质上，AI的“做梦”仍是一种消耗计算资源的自动化数据处理，但其命名方式却让我们更倾向于将其视为拥有内在生命的数字实体。

marsbit05/11 00:15

marsbit05/11 00:15

# 拟人化的所有文章

全球第一位AI哲学家，在谷歌DeepMind的9年：为AGI安全奔走

豆包、千问将于7月15日下线智能体功能

Claude 反复催人睡觉：Anthropic 的人格化实验翻车了

你的 Claude 今晚要做梦了，别打扰它

热门分类

热门标签

以太坊

项目动态