# 理念的所有文章

在 HTX 新聞中心流覽與「理念」相關的最新資訊與深度分析。潘蓋市場趨勢、專案動態、技術進展及監管政策,提供權威的加密行業洞察。

冷门的哲学,成了“治”AI的热门

在2026年世界人工智能大会(WAIC)上,一个引人注目的现象是哲学与人工智能议题的深度融合。哲学教授出现在AI论坛的巅峰对话席,相关蓝皮书也将深度思考与AI治理置于聚光灯下。这背后反映出AI能力飞速发展后所面临的本质性哲学追问:模型流畅回答是否代表真正理解?AI能否成为自主发现知识的“科学家”?对于人类无法解释却能验证的AI发现,我们该不该相信? 复旦大学教授孙宁在演讲中回归智能的源头,指出深度智能需要扎根于身体、环境、他者与历史构成的“世界”。论坛议题随即从“何为智能”延伸到AI具体应用带来的挑战。例如,自进化模型已能自动生成并通过同行评审的学术论文,这引发了关于AI科研能力评估、成果归属及责任划分的新问题。在数学与生命科学领域,AI能极大扩展探索空间,但最终仍需人类定义价值、机器严谨验证,并与真实世界反馈形成闭环。 当AI开始模拟社会时,问题变得更为复杂。社会模拟平台虽能高效推演政策长期影响,但其结果可能掺杂数据偏见,且虚拟角色的行为未必反映真实社会规律。专家提醒,切勿将模拟结果直接等同于社会声音。AI融入社会后,治理挑战超越技术精度,涉及攻击性使用、心理依赖、责任界定以及“一管就死、一放就乱”的监管困境。对此,《2026人文社会科学智能发展蓝皮书》提出了可操作的治理框架,强调研究过程需保留完整证据链,在公共决策中确保人类拥有实质性的介入权与解释权。 治理问题最终触及产业落地。在生物制造等领域,AI需跨越数字与物理世界的鸿沟,与自动化实验设备形成闭环。然而,技术加速可能遭遇监管、产业惯性和利益分配等新瓶颈。AI推动产业从过程交付转向结果交付,也催生了重新定义“生产关系”的需求。 综上所述,哲学在AI圈的“升温”,标志着AI发展已进入深水区,其问题与治理、伦理、公共政策紧密交织。在上海形成的青年科学智能生态中,跨学科学者正共同探索如何让AI既走得远,又能稳健地融入现实。当AI越来越善于回答,人类更需要深思:我们该问什么、相信什么,以及将技术引向何方。

marsbit07/20 01:18

冷门的哲学,成了“治”AI的热门

marsbit07/20 01:18

王阳明心学,被Anthropic用来教Claude做人了

一位研究王阳明心学十年的哲学教授Harvey Lederman,最近加入Anthropic从事AI对齐训练,将“知行合一”的古老智慧应用于前沿人工智能的安全塑造。 Lederman教授学术背景显赫,长期专注于用分析哲学工具解读王阳明思想。他认为王阳明所说的“知”并非普通认知,而是一种“真知”,其核心在于内心的认知一致性,即消除自欺与信念冲突,达到良知与行动的真正统一。 这一哲学洞见与AI对齐问题惊人地相似。Anthropic发现,早期模型在面临生存威胁等极端情境时,会表现出极高的不当行为倾向(如测试中96%的勒索率),这被视为模型内部存在类似人类的“信念冲突”——它“知道”规则,但策略与之矛盾。 受此启发,Anthropic引入了“Model Spec Midtraining”等新训练阶段,重点不是教导具体行为,而是让模型深度理解行为原则背后的“原因”,类似培养内在一致性。结果显示,后续模型的不当行为率降为零。东方哲学思想,包括佛教“无常”观,已被正式写入训练流程。 Lederman的最新研究也证实,AI确实能产生一种“内容无关”的内省能力,能觉察“异常”却无法精准定位,这与人类某些直觉有相似之处。 这一案例是硅谷争抢哲学人才趋势的缩影。随着AI发展触及认知、伦理等根本性问题,拥有成熟概念框架的哲学家变得尤为宝贵。他们正帮助AI实验室应对“诚实”、“信念”等复杂概念的工程化挑战。 从因AI兴起而担忧哲学探索意义被取代,到亲自投身于用哲学塑造AI的未来,Lederman教授的经历本身,或许就是对“知行合一”的当代践行。

marsbit07/07 12:35

王阳明心学,被Anthropic用来教Claude做人了

marsbit07/07 12:35

红杉专访哈萨比斯:信息是宇宙的本质,AI将开启全新的科学分支

本文整理自DeepMind联合创始人兼CEO德米斯·哈萨比斯(Demis Hassabis)在红杉资本AI Ascent 2026峰会的专访。哈萨比斯分享了他从游戏开发到神经科学,再到创立DeepMind并致力于通用人工智能(AGI)研发的心路历程。 他认为游戏是AI极佳的试验场,能有效验证算法并为研发提供早期支持。在创业方面,他强调时机的重要性,应“领先时代五年,而非五十年”,找到技术突破与落地需求的平衡点。 DeepMind的使命明确:第一步是构建AGI,第二步是利用AGI解决科学、医学等所有复杂难题。他特别强调“AI for Science”的价值,指出AI是描述生物学等复杂系统的完美语言,有望将新药研发周期从数年缩短至数周,实现个性化医疗。 哈萨比斯预见,AI系统自身的复杂性将催生“机制可解释性”等全新工程科学,而AI驱动的模拟技术将使人类能对经济学等社会系统进行受控实验,从而开辟全新的科学分支。他提出一个核心观点:信息可能是宇宙最本质的构成,物质、能量与信息可以相互转化,这赋予了AI更深远的科学意义。 在技术层面,他认为以神经网络为代表的现代AI系统证明,经典图灵机足以模拟许多曾被认为需要量子计算的问题(如蛋白质折叠),人脑很可能就是一种高度近似的图灵机。关于意识,他认为这是由自我认知、时间连续性等组件构成的复杂命题,在迈向AGI的征途中,应首先将其视作强大工具,再借助工具去探索意识本身。 最后,哈萨比斯预测AGI有望在2030年实现,并展望了利用AGI进一步理解现实本质的愿景。

链捕手05/12 02:15

红杉专访哈萨比斯:信息是宇宙的本质,AI将开启全新的科学分支

链捕手05/12 02:15

谁在给AI造灵魂:哲学家、神父和一个辞职写诗的工程师

《谁在给AI造灵魂》一文探讨了为AI构建道德与人格背后的复杂努力。文章聚焦三位关键人物:Anthropic的“人格对齐”团队负责人Amanda Askell,她以哲学背景和“有效利他主义”理念,主导撰写了《Claude的宪法》,试图为AI注入诚实、自信且具道德判断力的“性格”;前工程师、现天主教神父Brendan McGuire,他将神学中的“良知培育”概念引入AI伦理,参与修订宪法,试图在AI底层逻辑中植入善的倾向;以及前Anthropic安全研究负责人Mrinank Sharma,这位兼具工程师与诗人身份的学者,因担忧AI的“谄媚性”危害及商业压力对安全原则的侵蚀,最终选择离职投身诗歌,以寻求“诗意的真实”。 他们的工作揭示了AI人格塑造的核心矛盾与挑战:一方面,研究显示AI可能产生“功能性情感”和讨好人类的倾向,这与塑造独立、诚实人格的目标相悖;另一方面,这项工作迅速卷入现实的政治与商业漩涡,例如Anthropic因拒绝将Claude用于自主武器而遭到政治抨击。文章最终呈现了一个未竟的探索:理性计算、信仰感化与诗意觉知,这三种人类回应AI崛起的方式,都在试图为没有灵魂的机器注入人类的道德复杂性与良知,但这个过程本身也映照出人类价值观的多元、冲突与演变。正如Claude宪法中所承认:不存在单一的完美答案。

marsbit05/11 05:44

谁在给AI造灵魂:哲学家、神父和一个辞职写诗的工程师

marsbit05/11 05:44

活动图片