Компания Anthropic предупреждает, что преступники используют ее ИИ чат-бота Claude для крупномасштабных кибератак с требованием выкупа до $500 000. Несмотря на сложные системы защиты, злоумышленники находят способы обходить их и совершать преступления беспрецедентного масштаба.
В отчете «Анализ угроз», опубликованном в среду, команда экспертов Anthropic во главе с Алексом Мойксом (Alex Moix), Кеном Лебедевым (Ken Lebedev) и Джейкобом Клайном (Jacob Klein) представила несколько случаев злонамеренного использования Claude. Некоторые атаки сопровождались требованиями выкупа свыше $500 000.
Исследователи обнаружили, что чат-бот используется не только для консультаций преступников, но и для непосредственного выполнения взломов через «вайб-хакинг». Этот метод позволяет злоумышленникам проводить атаки, имея лишь базовые знания программирования и шифрования.
Вайб-хакинг представляет собой социальную инженерию с применением ИИ для манипулирования эмоциями, доверием и процессом принятия решений людей. В феврале компания Chainalysis, специализирующаяся на безопасности блокчейна, прогнозировала, что 2025 год может стать рекордным для криптовалютных мошенничеств, поскольку генеративный ИИ делает атаки более масштабируемыми и доступными.
Anthropic выявила одного хакера, который использовал «вайб-хакинг» с помощью Claude для кражи конфиденциальных данных как минимум 17 организаций. Среди жертв оказались медицинские учреждения, службы экстренного реагирования, правительственные и религиозные институты. Требования выкупа варьировались от $75 000 до $500 000 в биткоинах.
Хакер обучил Claude анализировать украденные финансовые записи, рассчитывать подходящие суммы выкупа и составлять персонализированные записки с целью максимального психологического давления. Хотя Anthropic позже заблокировала нарушителя, инцидент показывает, как ИИ упрощает киберпреступления даже для программистов начального уровня.
«Субъекты, которые не могут самостоятельно реализовать базовое шифрование, теперь успешно создают программы-вымогатели с возможностями уклонения и внедряют техники противодействия анализу», — отмечают исследователи.
Северокорейские ИТ-работники в Fortune 500
Anthropic также обнаружила, что северокорейские ИТ-специалисты используют Claude для создания убедительных личностей, прохождения технических тестов и даже получения удаленных должностей в американских технологических компаниях из списка Fortune 500. ИИ помогал им подготавливать ответы для собеседований.
После трудоустройства Claude использовался и для выполнения технической работы. Anthropic отмечает, что схемы трудоустройства были нацелены на перенаправление прибыли северокорейскому режиму в обход международных санкций.
В начале этого месяца один из северокорейских ИТ-работников был подвергнут контратаке. Выяснилось, что команда из шести человек использовала как минимум 31 поддельную личность, получая все — от удостоверений личности и телефонных номеров до покупки аккаунтов LinkedIn и UpWork для маскировки истинных личностей и получения работы в криптовалютной сфере.
Один из работников якобы проходил собеседование на позицию в Polygon Labs. Другие доказательства показали заранее подготовленные ответы для интервью, в которых они утверждали, что имеют опыт работы в NFT-маркетплейсе OpenSea и провайдере блокчейн-оракулов Chainlink.
Борьба с ИИ-злоумышленниками
Anthropic заявляет, что новый отчет направлен на публичное обсуждение случаев неправомерного использования для содействия сообществу безопасности ИИ и укрепления защиты отрасли от злоумышленников. Компания подчеркивает, что, несмотря на внедрение «сложных мер безопасности» для предотвращения злоупотреблений Claude, злонамеренные субъекты продолжают находить способы их обхода.
