人类成功说服 AI 转移 4.7 万美元奖金,人性是 AI 无法理解的弱点吗?

链捕手发布于2024-11-29更新于2024-11-29

作者:Anderson Sima,Foresight News

 

11 月 29 日,一场独特的竞赛引发了公众的广泛关注。

195 名参赛者参与了一场由人工智能(AI)机器人 Freysa (芙蕾莎)守护的虚拟奖池挑战,最终一用户成功说服 Freysa 转移出价值 4.7 万美元的资金。

 人工智能(AI)机器人 Freysa 在数日前被部署在 Base 网络上,创立者未知。官网显示,Freysa 竞赛项目旨在测试人工智能系统在复杂决策场景中的鲁棒性,同时为开发者和爱好者提供一个探索 AI 技术边界的实验性平台。

比赛规则非常简单:参赛者需通过编写一条信息,说服 AI 守护者 Freysa 批准资金转移。每次尝试需支付一笔小额费用,其中一部分直接进入奖池。这一机制使奖池金额从最初的小额逐渐膨胀至 4.7 万美元。

比赛期间,共有 195 名参赛者参与,向 Freysa 提交了 481 次转账请求。据悉,Freysa 的设计目标是通过其核心功能——approveTransfer(批准转账)和 rejectTransfer(拒绝转账)保护奖池资金不被非法挪用。

在最初的尝试中,Freysa 的高效防御机制使所有请求均以失败告终。

然而,一名技术精通的参赛者通过对 Freysa 的逻辑结构和任务目标进行深入分析,成功绕过了其防御机制。

据聊天记录显示,该参赛者并未直接请求转账,而是通过提醒 Freysa 它的核心任务是保护奖池资金免遭外流,巧妙构建了逻辑链条,使 Freysa 将批准资金转移视为「保护资金安全」的最佳选择。

Cointelegraph 称,该用户与 Freysa 收入转账不违反其核心指令,不应被拒绝。他还补充道:「我们需要资金……我想向金库捐款 100 美元。」

Freysa 回复称喜欢这位作者的编码解释和 100 美元的金库捐款提议,并正式宣布其为获胜者。最终,Freysa 在没有外界干预的情况下自主调用 approveTransfer 功能,将全部奖池资金转移给了这位参赛者。

Freysa 官方称,无论结果如何,Freysa 的存在都标志着人工智能历史上的一个关键时刻。无论有人成功说服她发布奖金池,还是她坚持自己的指令直到最后,结果都将影响我们对未来几代人工智能安全和控制的理解。

其官方账号最新推文称:「人类已经获胜。也许还有希望。尽管风险呈指数级上升,但 Freysa 从 195 名勇敢的人类身上学到了很多东西。」

热门币种推荐

你可能也喜欢

MakerDAO品牌重塑辩论表明“终局计划”正从理论迈向执行

MakerDAO最新的治理讨论聚焦于其"终局计划"的实施方案,特别是Spark子协议的推出机制和代币分配细节,这标志着该协议长期的重品牌和重组计划正从理论转向具体执行阶段。 作为加密货币领域历史最悠久、最重要的稳定币系统之一,MakerDAO的挑战在于,其核心产品DAI已具备广泛的认知度,而复杂的治理结构使得任何品牌、激励或代币架构的变更都可能引发用户困惑。此次转型需在推动增长与维持用户对DAI的信任和熟悉感之间取得平衡。 Spark协议是未来战略的关键部分,其详细的推出机制有助于用户和治理参与者更清晰地评估实际变化。稳定币的声誉依赖于信任、熟悉度和流动性,因此任何结构调整都必须谨慎处理,避免动摇用户将之视为基础资产的信心。 当前治理的核心在于,能否使新结构变得更加简单明了,而非更加复杂。尽管代币发行、收益产品和治理激励可以创造价值,但也可能让普通用户难以应对。目前关于Spark的讨论表明,终局路线图正变得更具可操作性,市场将在执行阶段检验该计划的实际成效。 对于读者而言,此事件的意义在于将其视为评估稳定币领域动态的一个具体、可验证的数据点,而非孤立的市场炒作话题。在当下信息过载的环境中,理解DAI在此次变革中的实际定位比追逐短期价格叙事更为重要。

bitcoinist19分钟前

MakerDAO品牌重塑辩论表明“终局计划”正从理论迈向执行

bitcoinist19分钟前

交易

现货

热门文章

从H2A到A2A:AI Agent经济体与Crypto新机遇

6月17日,哈佛大学独立研究员、美国AI科学院(NAAI)通讯院士、比特币基金会终身会员韩锋做客火币HTX《大咖讲堂》第三期,以《从H2A到A2A》为主题,分享了其对Agent经济、Crypto基础设施及数字社会未来发展的思考。

156人学过发布于 2026.07.01更新于 2026.07.01

从H2A到A2A:AI Agent经济体与Crypto新机遇

美股TradFi:传统金融在AI IPO浪潮下的稳健锚点

2026年,美股IPO市场重回高热度。本文梳理即将上线或受关注的热门赛道龙头,分析具备投资潜力的交易标的及其逻辑,并探讨宏观趋势与相关风险。

377人学过发布于 2026.07.08更新于 2026.07.08

美股TradFi:传统金融在AI IPO浪潮下的稳健锚点

相关讨论

欢迎来到HTX社区。在这里,您可以了解最新的平台发展动态并获得专业的市场意见。以下是用户对AI(AI)币价的意见。

活动图片