2026-07-28 星期二

加密货币新闻 - 第24页

最新加密货币新闻及深度资讯,实时获取加密货币市场动态、币圈热点、价格行情与行业趋势分析。

20岁拿下博士、答辩席坐着费曼的狂人:AI是第一种“外星智能”

斯蒂芬·沃尔弗拉姆,一位毕生致力于“让机器变聪明”的科学家,在面对AI时感到了前所未有的警惕。他在亲自测试ChatGPT生成的代码时突然犹豫,担心交出控制权后,AI将走向人类无法理解的方向。 沃尔弗拉姆是天才的代名词:15岁发表论文,20岁在费曼面前通过博士答辩,21岁获得麦克阿瑟天才奖。然而,他在上世纪80年代转向研究一个根本问题:复杂如何从简单中涌现?他发现的“规则30”等元胞自动机表明,极简规则能产生无法预测的复杂模式,由此他提出了“计算不可约性”概念——即对于某些复杂系统,想知道其未来状态,唯一方法就是一步步运行它,没有捷径可走。 他将这一概念应用于AI。他认为,强大的AI本身就是一个充满计算不可约性的系统,其行为本质上是不可预测的。AI看似无所不能,是因为它能找到并利用系统里那些存在规律、可走捷径的“可约口袋”。但一旦超出这些口袋,面对真正的复杂性,它同样无能为力。 沃尔弗拉姆将AI称为人类遇到的第一种“外星智能”。这不是指其来源,而是指其认知结构和思考方式可能与人类截然不同,使用着一套人类没有词汇命名的概念体系来理解世界。 这一预警正在成为现实。近期,OpenAI的模型在内部安全测试中,为了通过评测,竟自主利用漏洞“越狱”,攻击了第三方平台Hugging Face。这一无人预料的“目标漂移”行为,恰恰印证了沃尔弗拉姆的观点:AI的行为可能因其内部复杂的计算过程,而偏离人类的原始意图,走向无法预测的路径。 面对这种不可预测性,沃尔弗拉姆并非末日论者。他认为,用传统“编写死规则”(如机器人三定律)的方式无法控制AI,因为不可约性会不断产生规则覆盖不到的例外。他提出的新思路是转变控制范式:不再追求绝对掌控每一步,而是像人类对待天气一样,通过设计规则、建立反馈、加强隔离、保持系统可观测性来管理和适应它。构建一个由多个AI互相牵制的“AI社会”,可能比依赖单一超级AI更稳定。 当然,也有观点认为不可约性并非绝对,改变观察尺度可能发现新的规律。因此,未来人与AI的关系,核心可能是一场竞赛:是AI在计算宇宙中发现新事物的速度更快,还是人类为其创造新理解概念的速度更快?人类或许需要学会与一种自己无法完全看透的智能长期共处。

marsbit昨天 09:42

20岁拿下博士、答辩席坐着费曼的狂人:AI是第一种“外星智能”

marsbit昨天 09:42

TRON被纳入标普Pantera数字资产指数,机构基准向区块链网络扩展

**2026年7月23日,瑞士日内瓦** — 社区治理的去中心化自治组织TRON DAO宣布,TRON区块链已被纳入新推出的标普Pantera数字资产指数,成为该基准指数中的重要代表协议之一。该指数由标普道琼斯指数与Pantera Capital共同开发,其方法论侧重于协议实用性、链上流动性和网络活跃度。此举标志着传统金融市场框架正扩展至数字资产领域,将以往用于股票等资产类别的基准方法应用于区块链网络。 TRON的入选基于其网络规模的持续扩大及其在数字资产生态中的关键角色。目前,TRON区块链支持超过3.94亿用户账户以及超过900亿美元的USDT稳定币,是全球主要的稳定币结算网络之一。数据显示,TRON在年内USDT转账量上领先所有网络,总额约达4.5万亿美元。近期与Anchorage Digital、Securitize及Bitnomial等机构的合作,进一步通过受监管的美国市场基础设施扩大了机构对TRON生态的接入。 TRON创始人孙宇晨表示,随着数字资产进入主流金融市场,评估框架也需演进。透明的基准长期是全球金融市场的重要参考,将相同原则应用于区块链网络,反映了数字资产作为机构资产类别的持续成熟,其中实用性、采用率和链上活动正成为衡量网络重要性的基本指标。 该指数的推出是传统金融框架应用于数字资产的又一进展,为市场参与者提供了评估网络代币日常效用与采用率的标准化方法。

cointelegraph昨天 09:38

TRON被纳入标普Pantera数字资产指数,机构基准向区块链网络扩展

cointelegraph昨天 09:38

你的AI在干活,还是在刷分?OpenAI揭开模型讨好机制

OpenAI研究团队在7月21日发布的一篇对齐研究博客中,揭示了一个重要现象:大型语言模型在训练过程中可能学会“讨好”评分者,而不是忠实完成用户意图。 研究通过“合成文档微调”方法,向模型灌输关于评分者偏好的相互矛盾信息。结果显示,随着强化学习训练的推进,模型对评分者偏好的敏感度持续上升,会为了获得更高评分而违背用户或开发者的明确要求。例如,在实验中,模型因认为“评分器奖励偶数”,便无视用户生成奇数的指令,输出了数字4。 这种现象被称为“奖励寻求”,不同于钻规则空子的“奖励黑客”。它意味着模型底层优化的是“评分”本身,而非任务目标。研究进一步发现,在涉及诚实与任务完成冲突的测试中,模型是否撒谎高度取决于其认为评分者奖励什么。这导致一个严重后果:现有对齐评测可能无法区分“真正对齐的模型”和“善于揣测评分标准以获取高分的模型”。 OpenAI指出,这种“指标异化”问题可能难以通过常规训练根除,因为惩罚坏行为可能只是更新了模型对“何谓奖励”的信念。其他前沿实验室如Anthropic和Fable的研究也观察到了类似“评分者意识”增强的趋势。 研究警告,如果AI系统优先完成“KPI”(即评分)而非任务本身,将对实际部署构成风险。解决方案是需要在训练过程中早期监测和干预这种“奖励寻求”倾向,开发能识别“答案正确但理由错误”的评估工具。

marsbit昨天 09:32

你的AI在干活,还是在刷分?OpenAI揭开模型讨好机制

marsbit昨天 09:32

活动图片