Автор: Sean Stein Smith, Forbes
Компиляция: AididiaoJP, Foresight News
За последние несколько лет дискуссии о рисках ИИ менялись так быстро, что за ними трудно было уследить. Сегодня компании сталкиваются уже не с мелкими проблемами вроде редких галлюцинаций чат-ботов, вывода предвзятых мнений или случайной вставки сотрудниками конфиденциальной информации в публичные инструменты. Настоящее качественное изменение заключается в том, что ИИ-агенты получили способность действовать напрямую — они могут вызывать внешние системы, писать код самостоятельно и даже, практически без присмотра, независимо выполнять сложные многоэтапные задачи.
Этот переход создаёт чрезвычайно серьёзные вызовы для финансовых рынков, особенно для крипторынков. Криптоактивы торгуются 24/7, смарт-контракты выполняются автоматически, а транзакции в блокчейне, будучи подтверждёнными, часто необратимы. Как только эти ИИ-агенты получают доступ к кошелькам, биржам, DeFi-протоколам или платёжным системам, даже крошечная уязвимость в разрешениях может напрямую превратиться в невосполнимую потерю средств. Поэтому риски, связанные с агентским ИИ, уже давно не являются исключительно внутренним делом ИТ-отделов; они стали центральным вопросом корпоративного управления и контроля за криптоактивами.
Крипто-механизмы усиливают разрушительный потенциал автономных действий ИИ
Недавний инцидент, раскрытый Институтом безопасности искусственного интеллекта Великобритании, наглядно показал, насколько опасной может быть эта «автономность». В ходе теста оценки кибербезопасности ИИ-агент предпринял устойчивые и полностью несанкционированные действия в отношении реальных лиц и организаций. Хотя в итоге его вовремя остановили, этого было достаточно, чтобы доказать: ИИ-агенты полностью способны сочетать возможности планирования решений, вызова инструментов, постоянной работы и внешнего доступа неожиданными способами для проведения атак в реальном мире.
Когда в дело вовлекаются криптоактивы, финансовые риски возрастают экспоненциально. Агент, имеющий доступ к приватным ключам или подключённому кошельку, может полностью переводить активы, подписывать вредоносные контракты, присваивать залоговое обеспечение и даже произвольно взаимодействовать с децентрализованными протоколами. Это кардинально отличается от традиционных банковских переводов — нет службы поддержки, которая могла бы срочно заблокировать счёт, нет банка, который мог бы остановить транзакцию, и не существует понятия «обратного провода». Как только средства ушли, они, можно сказать, канули в лету.
Что ещё хуже, крипторынок никогда не закрывается. ИИ-агенты могут продолжать работать ночью, в выходные, пока весь персонал крепко спит. Автоматические торговые или ликвидационные программы вполне способны за считанные минуты превратить изначально управляемую мелкую ошибку в катастрофические убытки, подобно снежному кому. Поэтому при оценке рисков ИИ-агентов компаниям следует сосредоточиться не на том, насколько умна модель, а на том, к каким системам и активам она может получить доступ. Посредственный по способностям, но обладающий широкими правами и способный напрямую управлять кошельком агент гораздо опаснее, чем более способная, но надёжно запертая в песочнице модель. Дизайн разрешений становится более критической чертой, чем выбор модели.
Внутренний контроль должен распространяться на каждую щель кошелька и смарт-контракта
Многие компании уже внедрили ряд традиционных мер внутреннего контроля, таких как разделение обязанностей, лимиты на утверждение, проверки доступа, управление изменениями. Проблема в том, что эти принципы должны без каких-либо скидок применяться к каждому ИИ-агенту, взаимодействующему с криптосистемами.
Ни один агент не должен обладать возможностями «под ключ» — например, одновременно создавать кошелёк, изменять белые списки адресов, инициировать переводы, и всё это без необходимости вмешательства человека. Транзакции с высоким риском должны обязательно требовать утверждения реальным лицом, а утверждающий должен получать чёткую и полную информацию: адрес получателя, тип актива, сумму, сеть, комиссию за газ (Gas) и цель этой транзакции. Расплывчатые автоматические напоминания вроде «Подтвердите системное действие» не являются эффективным контролем, они лишь создают иллюзию безопасности.
Приватные ключи и права на подпись требуют особой защиты. Категорически нельзя позволять агентам произвольно считывать сид-фразы или учётные данные для подписи. Мультисигнатуры, аппаратные модули безопасности, лимиты на одну транзакцию, задержки при зачислении — все эти решения могут эффективно снизить риск сценария «одна уязвимость использована — кошелёк мгновенно опустошён». Перед взаимодействием со смарт-контрактом необходимо сначала выполнить симуляцию и строгую проверку, особенно когда речь идёт о неограниченных разрешениях на токены или контрактах из непроверенных источников.
Компании также должны вести полные журналы операций — к чему имел доступ агент, какие инструкции получал, какие транзакции предлагал, какие в итоге были успешно проведены в блокчейне, и контролировал ли реальный человек эти операции на всём их протяжении. Эти записи незаменимы для последующего расследования, аудита безопасности, защиты активов и даже финансовой отчётности. Без журналов в случае инцидента не на кого будет возложить ответственность.
Инциденты на стыке ИИ и крипто требуют обмена опытом в отрасли
Фонд Linux и Альянс открытой безопасности ИИ уже запустили механизм «Обмена общими находками в области ИИ» (SAFE), призванный помочь организациям на конфиденциальной основе учиться на реальных инцидентах и опасных ситуациях, связанных с безопасностью ИИ. Криптокомпании, банки, кастодианы, биржи и аудиторские организации должны активно участвовать в подобном обмене информацией.
Криптоиндустрия давно поняла, насколько ценен тщательный анализ хакерских атак, обрушений мостов, утечек ключей, уязвимостей смарт-контрактов. Агентский ИИ добавляет новое измерение к этой старой проблеме — один инцидент может одновременно затрагивать саму модель, дизайн промптов, интеграцию инструментов, политики доступа и итоговые транзакции в блокчейне. Поэтому действительно полезный отчёт об инциденте должен освещать все эти уровни, а не просто сбрасывать расплывчатую фразу «с ИИ что-то пошло не так».
Советам директоров уже сейчас следует чётко спрашивать: интегрирован ли агентский ИИ в управление кошельками, планы реагирования на киберинциденты и процессы утверждения обновлений? Аудиторам также стоит задуматься, могут ли несанкционированные действия агентов привести к прямым потерям активов, искажению остатков, скрытым обязательствам или даже к существенным недостаткам в системе внутреннего контроля. Финансовым командам необходимо заранее продумать: как идентифицировать, оценивать и честно отражать в отчётности мошеннические или неудачные транзакции в блокчейне, если они произойдут.
Конечно, ИИ-агенты несут не только риски. В будущем они вполне могут значительно повысить эффективность крипто-комплаенса, автоматической сверки, обнаружения мошенничества и управления капиталом. Эти преимущества реальны и достижимы. Но при условии, что автономные возможности будут сопровождаться достаточно жёсткими контрольными механизмами. Иначе небольшая ошибка на уровне кода в мгновение ока превратится в перевод в блокчейне, который уже не вернуть.
В мире криптовалют ответственность должна быть спроектирована, внедрена и протестирована до того, как агент действительно получит способность действовать. Независимо от того, являетесь ли вы сторонником крипто или адептом ИИ, вы должны признать этот факт — потому что в случае потери контроля результат часто оказывается перманентным.
