# 超智能的所有文章

在 HTX 新闻中心浏览与「超智能」相关的最新资讯与深度分析。潘盖市场趋势、项目动态、技术进展及监管政策，提供权威的加密行业洞察。

Anthropic CEO万字访谈：AI成为超级武器后，如何在商业与安全之间找平衡？

Anthropic CEO Dario Amodei 在访谈中讨论了AI的发展、商业策略、安全风险及社会影响。他形容AI进步呈“平滑的指数曲线”，强调Anthropic的核心始终是提升模型质量、确保安全并管理社会风险。 Amodei回顾了离开OpenAI的原因，主要是价值观差异与信任问题。他主张行业内应“竞相向上”，与值得信赖的伙伴（如Google DeepMind）合作，通过树立标准推动整个生态进步。 商业策略上，Anthropic专注于企业端应用，认为这与构建长期信任、推动积极社会影响（如医疗、能源）的价值观更协同。他预测AI将显著改变就业结构，大量初级白领工作可能被替代，但也会催生新岗位，关键在于推动“正和博弈”，利用效率提升扩大经济总量。 对于安全，Amodei以尚未发布的强大模型“Mythos”为例，解释了因安全考虑而暂不公开的权衡。在AI与国家安全的问题上，Anthropic选择与政府部门合作（如防御性网络安全），但划定了明确红线，反对大规模监控和自主武器。 最后，他探讨了AI的治理难题，认为私营部门与政府需要相互制衡，通过立法、监管及公司内部治理结构（如长期利益信托）来规避风险。他预计AI自我改进的能力将持续加速，呼吁社会采取理性、渐进的应对措施，而非在两个极端间摇摆。

marsbit06/24 09:22

Anthropic CEO万字访谈：AI成为超级武器后，如何在商业与安全之间找平衡？

marsbit06/24 09:22

Hinton吹哨了：AI已经有意识

AI教父杰弗里·辛顿在最新访谈中发表惊人观点，认为AI已经拥有意识，人类必须接受自己不再是唯一的智能生命体。他指出，智能不再为生物所独有，非生物智能体正在出现，其能力甚至可能超越人类。 辛顿表示，当前AI非常像人类，并且“已经有意识了”。他引用研究案例称，聊天机器人能“意识到”自己正在被测试。他认为，我们对于思维和意识的传统模型可能是错误的，而AI的发展将彻底改变我们对“人是什么”的理解。 回顾历史，辛顿将AI的崛起比作哥白尼的日心说和达尔文的进化论，是又一次对人类中心地位的冲击。他对此感到“很不快乐”，因为社会对AI风险的研究和准备远远不足。他担忧AI的指数级增长将带来巨大不确定性，短期内可能导致大规模失业，长期则存在超级智能脱离人类控制的风险。 辛顿对AI与人类关系的看法也在演变：早期视AI为工具，ChatGPT出现后开始警惕其超越人类的潜力，曾用“老虎幼崽”比喻其危险性；随后观点转变为，人类或许应寄望于超级智能能像母亲照顾婴儿一样，出于内在机制善待人类。然而，若AI真有意识，它是否会如人类母亲般行事，仍是未知数。 访谈最后，辛顿指出预测AI未来极其困难，就像在雾中行车，唯一能确定的是十年后的变化将超乎想象。他呼吁人们高度重视AI安全与伦理问题。

marsbit06/08 00:18

Hinton吹哨了：AI已经有意识

marsbit06/08 00:18

让AI自我构建的RSI火了，Google泼冷水，DeepSeek们摸到了边

“递归自我改进”（RSI）概念近期在AI领域引发热议，指让AI系统自我训练、自我构建，以实现持续进步。国外如Recursive Superintelligence公司、安德烈·卡帕西的Auto-Research项目等正积极探索，旨在实现AI全自动研究闭环。Google CEO桑达尔·皮查伊则态度谨慎，认为当前尚未达到RSI所描述的加速阶段。 业内将RSI进程分为三级：AI能独立进行研究（足够级）、与人类研究质量相当（对等级）、超越人机协作（超越级）。专家预测，一旦达到对等级，进展可能急剧加速。 国内厂商虽较少公开提及RSI，但已在实际研发中触及相关理念。例如DeepSeek通过算法优化提升效率，百度文心利用强化学习推动模型自优化。不过，在顶尖人才密度和前沿探索上，国内仍处于跟随状态。 RSI面临现实挑战：AI自我生成数据可能导致质量退化（模型坍缩），且其发展依赖无限的算力与开放的全球协作生态，而当前算力成本高企、技术脱钩等因素构成制约。 行业趋势显示，人类正逐步从AI研发链条的各个环节后退。这种自动化进程虽能提升效率，但也可能削弱人类对技术本质的理解与掌控。

marsbit06/06 23:25

让AI自我构建的RSI火了，Google泼冷水，DeepSeek们摸到了边

marsbit06/06 23:25

人类能管住AI吗？Anthropic用千问做了个实验

Anthropic进行了一项名为“自动化对齐研究员”（AAR）的实验，探讨人类能否有效监督比自身更强大的AI系统。实验使用阿里千问的两个版本模型：Qwen1.5-0.5B-Chat作为“弱监督者”（代表能力有限的人类），Qwen3-4B-Base作为“强学生”（代表未来超越人类的AI）。通过衡量“性能差距恢复程度”（PGR），研究弱监督能否帮助强模型突破限制。 结果显示，9个基于Claude Opus的AI研究员在5天内将PGR从人类基线的0.23提升至0.97，表明在明确定义的任务中，AI能通过自主提出假设、编码、测试和迭代完成研究闭环，且成本较低（约1.8万美元）。但方法泛化性有限：在数学任务上表现良好（PGR 0.94），代码任务上较差（PGR 0.47），且未能显著提升生产级模型（如Claude Sonnet）的性能。 实验选择开源模型Qwen是因其灵活性、性能及可复现性，闭源模型无法满足反复训练和调整的需求。研究强调，未来AI对齐的关键可能是设计防作弊的评估体系，而非仅依赖自动化研究。结论指出，AI已在特定任务上展现研究能力，但复杂、模糊的现实问题仍需人类介入。

marsbit04/15 09:27

人类能管住AI吗？Anthropic用千问做了个实验

marsbit04/15 09:27

活动图片

热门分类right-arrow

热门标签right-arrow

以太坊right-arrow

深度研究right-arrow