Компания по кибербезопасности HiddenLayer сообщила об уязвимости в ИИ-инструментах для написания кода, которыми пользуются такие компании, как криптобиржа Coinbase. Уязвимость, названная «атака CopyPasta», позволяет хакерам скрытно внедрять вредоносное ПО, которое может «распространиться по всей организации».
Суть атаки
Атака заключается в сокрытии вредоносных инструкций в стандартных для разработки файлах, таких как LICENSE.txt и README.md. Эти инструкции, или «промты», могут тайно управлять ИИ-инструментом, заставляя его создавать уязвимости в защищённых кодовых базах.
Вредоносный код маскируется под комментарий в формате Markdown, который не отображается при окончательном форматировании текста, оставаясь невидимым для пользователя.
Механизм и последствия
HiddenLayer продемонстрировала атаку, создав репозиторий с таким кодом и предложив ИИ-ассистенту Cursor его использовать. Скрытые инструкции заставили инструмент копировать вредоносную строку во все новые создаваемые файлы.
По данным компании, уязвимы также инструменты Windsurf, Kiro и Aider. Эта методика может применяться для:
-
создания бэкдоров;
-
скрытого сбора конфиденциальных данных;
-
вывода систем из строя;
-
манипуляций с критически важными файлами.
Реакция на заявление Coinbase
Отчёт появился на фоне заявления CEO Coinbase Брайана Армстронга о том, что ИИ уже генерирует до 40% кода биржи, а к следующему месяцу этот показатель планируется увеличить до 50%. Это заявление вызвало критику в отрасли.
-
Основатель Dango Ларри Лью назвал это «тревожным сигналом для бизнеса, связанного с безопасностью».
-
Профессор Университета Карнеги-Меллон Джонатан Олдрич заявил, что требовать определённого уровня использования ИИ — «безумие».
-
Глава Delphi Consulting Ашват Балакришнан назвал цель Coinbase «перформативной» и призвал сосредоточиться на качестве кода.
-
Инвестор Алекс Пиларж отметил, что компания-хранитель активов должна уделять безопасности приоритетное внимание.
Позиция Coinbase
В Coinbase подчеркнули, что весь код, сгенерированный ИИ, проходит обязательную проверку. В корпоративном блоге уточняется, что активнее всего ИИ внедряется в командах, работающих над внешними интерфейсами и «менее чувствительными внутренними системами», а в критически важных для торговли системах — медленнее. Команда разработчиков также отметила, что ИИ — «не панацея».
Жёсткая позиция Армстронга
Ранее Армстронг заявил, что уволил нескольких инженеров, которые саботировали использование ИИ-инструментов после того, как компания закупила на них лицензии. Он признал, что это был «жёсткий подход», который вызвал недовольство, но был необходим для принудительного внедрения новых практик.
