Эра AI-приложений: только "да" и игнорирование рисков? Журнал плавания разработки ПО теперь полностью в открытом доступе
2026 год: код генерируется всё быстрее, но проверяется всё меньше. Риски, связанные с использованием ИИ для написания кода, часто скрыты в внешне корректном коде, который может привести к утечкам данных или финансовым потерям, как это произошло в инциденте с Moonwell cbETH, где ошибка в конфигурации привела к утрате активов на сумму свыше 1,7 млн долларов.
Проект Narwhal AI Code Risks от Университета Пекина систематизирует подобные случаи, создавая открытый реестр рисков. Он классифицирует информацию по трём категориям: подтверждённые инциденты (cases/), ранние предупреждения (inferred/) и типовые сценарии рисков (scenarios/). Основные категории рисков включают проблемы в цепочке поставок, уязвимости на уровне кода, конфигурации облачной инфраструктуры, риски, связанные с агентами ИИ, отраслевые риски, вопросы интеллектуальной собственности и человеческий фактор.
Цель проекта — превратить разрозненные случаи в структурированные знания, позволяющие разработчикам заранее распознавать опасности, исследователям — анализировать паттерны, а создателям инструментов — разрабатывать средства защиты. Это открытый «бортовой журнал» для навигации в эпоху повсеместного применения ИИ в разработке, призванный помочь сообществу избегать повторения ошибок.
marsbit06/16 04:53
