AI应用元年，只会yes，无视风险？软件开发的航行日志全面开源
2026年，AI生成代码的速度日益加快，但代码审查却愈发不足。AI不仅补全代码，还能修改配置、安装依赖、生成测试，甚至以Agent形式规划任务。然而，最危险的风险往往潜藏于语法正确、测试通过的“正常”代码中，可能引发数据泄露、权限过度开放或资产损失，如Moonwell cbETH预言机配置错误导致超170万美元损失。
为系统化应对此类风险，北京大学Narwhal-Lab开源了“Narwhal AI Code Risks”项目。该项目整理了分散的案例与线索，将材料分为三层：已证实的真实事件（cases/）、待观察的早期信号（inferred/）以及典型的风险场景（scenarios/）。风险被归纳为七大类：供应链风险、代码级漏洞、云与基础设施配置、Agent风险、垂直领域风险、知识产权与合规风险以及人为因素。
该项目旨在将零散的风险信息转化为可复用的公共知识库，帮助开发者提前识别隐患，为安全研究提供样本，并为工具开发提供基准。在AI深度融入软件工程的当下，这份“航行日志”致力于记录每一次偏航，让后续团队能避免重蹈覆辙，更安全地航行于AI应用元年。
marsbit06/16 04:52
