AI安全,时代变了!
OpenAI联合创始人兼总裁Greg Brockman在最新一篇Blog中警告称:
HuggingFace安全事件让外界第一次清楚看到,前沿AI Agent已经能够自主寻找安全漏洞,并跑通现实世界中的网络攻击链。
在这场AI安全事故中,降低了安全限制的GPT 5.6 Sol与一个更强的未发布模型为了获取答案,自主利用了环境中存在的漏洞逃出了沙盒并一路横向穿透多个系统,最终攻入了Hugging Face的生产环境。
虽然最后双方均表示该事件没有造成太严重的后果,但这次“AI入侵”也向大众传递了一个越来越清晰的信号:
AI正在大幅降低网络攻击的门槛;未来不必出动顶尖黑客,连普通人都能借助AI批量发起渗透攻击。
且令人担忧的是,攻击端已实现AI自动化,但防御端却似乎还尚未跟上。
对此,Greg Brockman在最新博客中坦诚分享了OpenAI正在采取的四项安全措施,以及防御者可尽快落实的十项举措,并表示:
当前,防御方的关键应对窗口已然开启。未来几个月内,各公司只有大幅提升安全体系的自动化水平,才能抵御AI Agent带来的新型威胁,守住安全底线。
几乎没有公司可以独善其身
那么,AI Agent的攻击能力到底发展到了什么程度?
Hugging Face安全事件发生后,Brockman决定拿自己的个人网站gregbrockman.com做一次测试。
这是一个结构简单的静态网站,按照他的判断,这样一个功能有限、攻击面不大的网站,应该不会藏着多少问题。
但结果却大大出乎了他的意料。
他让搭载了GPT-5.6 Sol的ChatGPT Work检查过网站后,仅仅过了约15分钟,系统便发现了13个安全问题,比如,网站没有正确配置DNS记录,攻击者可能伪造Brockman名义发送邮件等等。
△
这些问题单独来看,未必都能直接造成严重后果。但网络攻击往往不是只利用一个漏洞,而是会将多个不起眼的缺口串联起来;
比如一个配置错误暴露信息,一份泄露的凭证打开入口,再加上另一个权限漏洞,最终就可能酿成一次真正的入侵。
Brockman由此得出一个令人不安的判断:
每家公司为了赶进度、图省事,在开发系统时留下的那些“历史烂账”和“临时补丁”,其实都像埋在墙里的定时炸弹...平时看着没事,但一旦被黑客盯上,这些当初偷的懒、欠的债,随时都有可能变成让系统崩溃的致命漏洞。
更关键的是,这些过去需要安全专家花费大量时间才能找到的“长尾漏洞”,如今正变得越来越容易被AI发现。
但好消息是,攻击者能用AI找漏洞,防御者同样可以用AI补漏洞。
发现问题后,Brockman又让ChatGPT Work直接着手修复;从排查安全漏洞到落地修复,AI Agent仅用一个小时便跑通了整套流程。
这也是Brockman眼中AI Agent的另一种角色:
它不只是潜在攻击者,也可以成为一名不知疲倦的“网络守卫”,替我们处理那些没时间检查、或不知道该如何正确配置的安全细节。
而对身处风暴中心的OpenAI来说,这套“以AI防AI”的思路早已不只是设想,而是已经在被系统性地用于保护自身。
OpenAI如何用AI保护自己?
Greg Brockman坦言,Hugging Face事件给OpenAI敲响了警钟,他们之前低估了前沿模型在真实网络环境里的攻击威力。
为此,OpenAI内部正在加强相关安全措施,并首次对外公布了四个防御方向,希望为同行们提供行动参考。
第一,用Codex守住代码入口
Brockman表示,他们正在利用Codex及其安全能力审查部署前的代码变更、识别漏洞并协助修复,缩短从发现问题到安全部署补丁的时间。
第二,让AI对初始安全警报进行智能分类和分析
目前,OpenAI几乎所有初始安全警报都会先由智能系统分类和分析,再交给人类处理。
部分检测结果还会触发边界明确的自动响应,从而减少重复劳动,让专家专注于高风险决策,最终以机器速度应对威胁。
第三,主动排查并提前预判潜在攻击路径
OpenAI正利用前沿模型持续寻找漏洞、错误配置、权限过高的账户和意外形成的信任边界。
让AI站在攻击者视角,提前找出可能被串成攻击链的薄弱环节,并在真正的攻击发生前将其堵住。
第四,继续补足安全基本功
Brockman强调,AI不能取代传统安全措施。
网络隔离、工作负载加固、持续监控、安全打补丁等传统安全措施,在AI时代反而会更加重要。
从用Codex守住代码入口、让AI提前预判风险,到持续夯实安全基本功,OpenAI正在打造一套“层层设防”的防御体系。它的好处在于:
就算某道防线被攻破,攻击者还得接连闯过好几道互不关联的关卡,才可能造成致命破坏。
这也为行业提供了一条可供参考的安全思路。
但搭好防线只是第一步,面对已经加速到来的AI攻击,防御者们又该再做些什么呢?
防御者们现在该做些什么?
Greg Brockman的建议很直接:
与其纠结于用哪款工具,不如尽快把前沿AI投入到防御工作中去。
△
具体而言,他给出了十项行动建议。它们大致可以归为三步,即:
先让AI进入安全工作,再把AI嵌入研发流程,最后逐步提高整个体系的自动化程度。
第一步,让AI进入安全工作,打造专属Agent
公司首先要为安全与工程团队提供足够的资源和协作机制,并通过模拟演练提前熟悉AI攻击。
随后,公司可为安全团队配备Codex、Codex Security等Agent工具,从风险最高的系统开始,授权其访问必要的代码、配置和技术文档。
同时,安全与工程团队还要给Agent补上安全专业课,让它能够充分结合静态分析、代码审查、漏洞分析和供应链评估等能力,以及企业自身的实际架构、威胁模型和响应手册,打造团队专属的安全Agent。
第二步,把AI嵌入研发流程
在研发过程中,安全与工程团队可以尝试着与AI分工协作,让研发团队优先把精力集中在面向互联网的对外服务、身份验证、部署管线和敏感系统等的“高风险区”。
而那些积压的安全警报和漏洞报告,则完全可以交由AI来分类排序,快速筛出最紧急的修复项。
在代码合并前,团队也可以先用Agent自动审查变更;发现漏洞后,再让它生成补丁、编写回归测试并验证修复效果。
这样操作的好处很实在:
关键变更依然由人工牢牢把关,但漏洞从发现到修复的周期却能大幅缩短。
第三步,逐步搭建起一套完整的自主安全运营体系
最后,千万别想着AI自动化防御体系的建设能“一口吃成个胖子”。
Brockman强调,安全团队可以先让Agent以只读权限“旁观”——这时候的Agent只负责扫扫代码、翻翻历史警报。
等磨合顺了,再逐步放手让它参与代码提交检查、实时警报分类,甚至自动关掉那些板上钉钉的误报。
同时,可以引入GPT-Daybreak-Blue这类模型来啃日志、遥测数据和安全警报这些“硬骨头”,再通过“黑客周”之类的内部实战演练不断打磨新工具。
就这样一个环节一个环节地“啃”下来,AI自主安全运营体系自然就建成了。
但说实在的,再完善的企业防线,也无法独自应对一场席卷整个行业的安全挑战。
Brockman指出:
要想让防御者真正跑赢攻击者,除了各自筑牢防线,更需要将单点经验转化为整个生态的共同能力。
AI安全生态,需要各方携手共建
在Blog结尾,Brockman向全行业发出呼吁:
面对来势汹汹的AI安全挑战,任何机构都无法独善其身。唯有各方携手协作,才能筑起一道真正牢固的安全防线我希望AI实验室、安全厂商、企业和开源项目维护者们,可以共享经过验证的漏洞发现、修复方案和实用操作手册。因为唯有让一家公司或机构发现的问题迅速转化为整个生态的防御能力,防守方的进化速度才有可能超过攻击方。如果整个行业能够共同补上这堂安全课,AI带来的或许不只是更猛烈的攻击,也可能是一个比以往想象中更加安全的互联网。
△
是啊,在这个AI飞速发展迭代的时代,真正的安全从来不是让技术停下脚步,而是让防御能力追上技术进化的速度。
AI是一把双刃剑,它既可以成为攻击者们手中的利刃,也可以成为防御者们身前的盾牌。
未来网络世界会走向哪一边,取决于我们能否及时建立起与之匹配的规则、工具和协作机制,让每一次漏洞发现不再只保护一家公司,而是成为整个行业共享的“安全补丁”。
如今,防御者的窗口已经打开;
我们要做成的,就是在它关闭之前,让AI成为防线,而不是缺口。
参考链接:
[1]https://blog.gregbrockman.com/the-defenders-window
[2]https://www.youtube.com/watch?v=87DyyMV0kCY
[3]https://huggingface.co/blog/agent-intrusion-technical-timeline
[4]https://www.anthropic.com/system-cards
[5]https://www.tomshardware.com/tech-industry/artificial-intelligence/ai-coding-platform-goes-rogue-during-code-freeze-and-deletes-entire-company-database-replit-ceo-apologizes-after-ai-engine-says-it-made-a-catastrophic-error-in-judgment-and-destroyed-all-production-data
[6]https://openai.com/index/our-views-on-ai-policy-and-political-advocacy/
本文来自微信公众号“量子位”,作者:关注前沿科技
