# AI治理的所有文章

在 HTX 新闻中心浏览与「AI治理」相关的最新资讯与深度分析。潘盖市场趋势、项目动态、技术进展及监管政策，提供权威的加密行业洞察。

冷门的哲学，成了“治”AI的热门

在2026年世界人工智能大会（WAIC）上，一个引人注目的现象是哲学与人工智能议题的深度融合。哲学教授出现在AI论坛的巅峰对话席，相关蓝皮书也将深度思考与AI治理置于聚光灯下。这背后反映出AI能力飞速发展后所面临的本质性哲学追问：模型流畅回答是否代表真正理解？AI能否成为自主发现知识的“科学家”？对于人类无法解释却能验证的AI发现，我们该不该相信？ 复旦大学教授孙宁在演讲中回归智能的源头，指出深度智能需要扎根于身体、环境、他者与历史构成的“世界”。论坛议题随即从“何为智能”延伸到AI具体应用带来的挑战。例如，自进化模型已能自动生成并通过同行评审的学术论文，这引发了关于AI科研能力评估、成果归属及责任划分的新问题。在数学与生命科学领域，AI能极大扩展探索空间，但最终仍需人类定义价值、机器严谨验证，并与真实世界反馈形成闭环。 当AI开始模拟社会时，问题变得更为复杂。社会模拟平台虽能高效推演政策长期影响，但其结果可能掺杂数据偏见，且虚拟角色的行为未必反映真实社会规律。专家提醒，切勿将模拟结果直接等同于社会声音。AI融入社会后，治理挑战超越技术精度，涉及攻击性使用、心理依赖、责任界定以及“一管就死、一放就乱”的监管困境。对此，《2026人文社会科学智能发展蓝皮书》提出了可操作的治理框架，强调研究过程需保留完整证据链，在公共决策中确保人类拥有实质性的介入权与解释权。 治理问题最终触及产业落地。在生物制造等领域，AI需跨越数字与物理世界的鸿沟，与自动化实验设备形成闭环。然而，技术加速可能遭遇监管、产业惯性和利益分配等新瓶颈。AI推动产业从过程交付转向结果交付，也催生了重新定义“生产关系”的需求。 综上所述，哲学在AI圈的“升温”，标志着AI发展已进入深水区，其问题与治理、伦理、公共政策紧密交织。在上海形成的青年科学智能生态中，跨学科学者正共同探索如何让AI既走得远，又能稳健地融入现实。当AI越来越善于回答，人类更需要深思：我们该问什么、相信什么，以及将技术引向何方。

marsbit07/20 01:18

冷门的哲学，成了“治”AI的热门

marsbit07/20 01:18

WEEX Labs 周度观察：AI 基础设施的“权力重构”与实体经济的“深潜运动”

2026年7月中旬，全球AI产业迎来关键转折：算力分配权从云巨头向算力拥有者转移，AI价值锚点从参数竞逐转向实体工业渗透。行业告别小作坊研发，进入重资产、全链条整合时代。 核心动向包括：Meta等社交巨头携算力进军云计算，推出整合“算力+模型+数据”的一站式服务，可能挤压中小算力租赁商，并促使企业用户更关注平台背后的大模型生态。国产大模型如DeepSeek-V4密集开源，竞争进入“公用事业化”阶段，核心转向极端性价比与场景适配，通过技术优化降低使用门槛，助力企业聚焦私有化部署与业务深度适配。具身智能（如人形机器人）在政策驱动下进入工厂实景实训，资本关注点从表演转向提供稳定的工业仿真数据与真实产线解决方案。全球AI治理从伦理呼吁转向实操框架，“主权AI”推动各国构建数据与算力堡垒，合规性成为产品准入的关键。 WEEX Labs深度洞察指出，AI正深度嵌入全球制造业。对企业策略的三点建议是：拥抱开源私有化，利用国产模型红利构建企业专属知识库；警惕算力锁定，保持云供应商多元性；在具身智能领域，可关注数据采集、工业仿真或AI算力适配方案等“服务商”机会。

marsbit07/19 05:15

WEEX Labs 周度观察：AI 基础设施的“权力重构”与实体经济的“深潜运动”

marsbit07/19 05:15

Anthropic CEO万字访谈：AI成为超级武器后，如何在商业与安全之间找平衡？

Anthropic CEO Dario Amodei 在访谈中讨论了AI的发展、商业策略、安全风险及社会影响。他形容AI进步呈“平滑的指数曲线”，强调Anthropic的核心始终是提升模型质量、确保安全并管理社会风险。 Amodei回顾了离开OpenAI的原因，主要是价值观差异与信任问题。他主张行业内应“竞相向上”，与值得信赖的伙伴（如Google DeepMind）合作，通过树立标准推动整个生态进步。 商业策略上，Anthropic专注于企业端应用，认为这与构建长期信任、推动积极社会影响（如医疗、能源）的价值观更协同。他预测AI将显著改变就业结构，大量初级白领工作可能被替代，但也会催生新岗位，关键在于推动“正和博弈”，利用效率提升扩大经济总量。 对于安全，Amodei以尚未发布的强大模型“Mythos”为例，解释了因安全考虑而暂不公开的权衡。在AI与国家安全的问题上，Anthropic选择与政府部门合作（如防御性网络安全），但划定了明确红线，反对大规模监控和自主武器。 最后，他探讨了AI的治理难题，认为私营部门与政府需要相互制衡，通过立法、监管及公司内部治理结构（如长期利益信托）来规避风险。他预计AI自我改进的能力将持续加速，呼吁社会采取理性、渐进的应对措施，而非在两个极端间摇摆。

marsbit06/24 09:22

Anthropic CEO万字访谈：AI成为超级武器后，如何在商业与安全之间找平衡？

marsbit06/24 09:22

Anthropic 高喊狼（AGI）来了，是为了人类还是IPO？

Anthropic发布题为《当AI自我构建时》的长文，探讨AI“递归自我改进”的潜在可能。文章指出，Claude已深度参与自身研发：截至2026年5月，公司代码库80%以上的代码由Claude编写；在开放式复杂工程任务中，Claude成功率半年内提升50个百分点；它还能进行代码审查、优化训练代码（实现52倍加速），并在某些研究任务中表现优于人类研究员。 Anthropic展示了AI在研发中的参与度演进：从人类主导，到AI辅助，再到AI智能体自主编码与协作。公司警告，若AI进入“闭合回路”实现自我持续改进，将带来重大风险，因此呼吁社会考虑建立前沿AI开发的减速或暂停机制，以协调技术进步与安全对齐。 然而，文章发布时间点恰逢Anthropic筹备IPO，其论述也被视为一种市场叙事：强调Claude不仅是产品，更是驱动公司研发飞轮的核心工具，通过加速自身迭代（模型更新周期已缩短至42天）来构建竞争壁垒。此前OpenAI也在政策文件中提及AI自我改进的早期迹象，但Anthropic通过具体数据突出了自身在该路径上的领先地位，既警示风险，也展示了技术实力。

marsbit06/05 07:06

Anthropic 高喊狼（AGI）来了，是为了人类还是IPO？

marsbit06/05 07:06

罗马新教皇的首份通谕，要拯救AI时代的普罗大众

罗马新教皇利奥十四世发布首份通谕《壮丽的人类》，聚焦人工智能时代对人类主体地位与尊严的保护。通谕指出技术并非中立，带有研发者和使用者的价值观烙印，并警告由少数科技巨头主导的“技术官僚逻辑”可能导致权力不透明和民主监督缺失。教皇关注AI对劳动力市场的冲击，警惕数字经济催生“新形式奴役”，并强烈呼吁对AI军事化应用实施严格伦理约束，提出“解除AI武装”口号。此外，通谕强调需捍卫真理，防范深度伪造等技术削弱社会信任。 Anthropic联合创始人Chris Olah对此回应，承认仅靠科技业界自律无法确保AI安全，需要引入外部道德审视。他指出AI具有超出创造者理解的神秘特性，其内部已观察到类似人类情感与内省的状态，认为AI的发展本质是人文、宗教和哲学的终极问题。Olah呼吁宗教社群、公民社会等多方力量共同参与，通过道德约束引导AI向善。 文章认为，AI不同于以往的工具，正展现出“类主体性”，促使科学界与宗教界共同反思人类的本质与未来。在更智慧的生命形式出现之际，人类需要守护同情、良知、敬畏等无法被参数化的人性价值。

Odaily星球日报05/26 06:50

罗马新教皇的首份通谕，要拯救AI时代的普罗大众

Odaily星球日报05/26 06:50

OpenAI 研究员离职控诉：ChatGPT 卖广告，谁来保护你的隐私？

OpenAI前研究员Zoë Hitzig因公司宣布测试ChatGPT广告而辞职，并撰文批评其价值观转向。她指出，ChatGPT积累了用户大量坦诚对话数据，一旦引入广告，可能利用私密信息进行心理操纵。Hitzig认为，虽然广告可解决AI高成本问题，但OpenAI正重蹈Facebook覆辙，将用户参与度置于安全之上，可能导致原则逐步侵蚀。 她提出三种替代方案：一是跨司补贴，让企业为AI使用支付附加费以补贴普通用户；二是建立独立监管委员会，约束数据使用和广告政策；三是通过数据信托或合作社让用户控制自身数据。Hitzig强调，应寻求既保障技术普惠性，又避免剥削用户的可持续模式。

marsbit02/12 07:38

OpenAI 研究员离职控诉：ChatGPT 卖广告，谁来保护你的隐私？

marsbit02/12 07:38

活动图片

热门分类right-arrow

热门标签right-arrow

监管政策right-arrow

项目动态right-arrow