Австралийская технологическая компания Apate развертывает по всему миру огромное количество ИИ-ботов, которые играют роль доверчивых жертв мошенничества, чтобы тратить миллионы часов времени аферистов каждый месяц.
Забавно, что одним из ежемесячных показателей эффективности компании является количество раз, когда раздраженные мошенники ругаются на идиотских «жертв», которые притворяются тупыми и тянут время.
«Думаю, мы единственная компания в мире, которая фактически включает в свои KPI количество нецензурных выражений, которые мошенники им отпускают», — с усмешкой говорит основатель Apate Дали Каафар в интервью Magazine.
У компании есть штат из почти 200 000 ИИ-персонажей, способных вести убедительные телефонные разговоры, общаться в социальных сетях и мессенджерах.
«Могу сказать, что мы, как мы их называем, обслуживаем сотни тысяч звонков в день и практически сотни тысяч бесед на других каналах», — говорит он.
Каждый час времени мошенника, который они тратят впустую, — это еще один час, когда они не обманывают обычного человека. За шесть недель до конца 2025 года боты Apate провели 600 000 мошеннических звонков только для одного телекоммуникационного оператора TPG в Австралии.
«По сути, мы потратили впустую более пятисот дней времени мошенников», — объясняет он. «Это примерно эквивалентно сбережению где-то около тринадцати миллионов долларов».
Другая цель ботов — получить практическую информацию для банков и телекомпаний для борьбы с мошенническими схемами в Австралии, Азии, Африке, Великобритании и Европе.
Боты Apate работают с мошенниками через чат. Источник: Apate
Провокация мошенников в больших масштабах с помощью ИИ-жертв
Каафар говорит, что идея пришла ему, когда он получил мошеннический звонок во время пикника с семьей в Сиднее в ноябре 2021 года.
К досаде жены, но к восторгу детей, он тянул время с мошенником 44 минуты, притворяясь доверчивым простаком, который ведется на аферу.
«Что последовало дальше, было буквально полноценным комедийным шоу для моих детей», — говорит он, добавляя, что во время звонка он также узнал много потенциально полезной информации о механизмах мошенничества и используемых тактиках.
«Когда я повесил трубку, я помню, что очень четко подумал: если я могу делать это просто ради забавы, представьте, что может сделать технология в больших масштабах».
Работая в то время профессором в Университете Маккуори, он обсудил идею с некоторыми из своих докторантов, работающих над ИИ и безопасностью.
«Я сказал: «Ребята, должен быть гораздо лучший способ делать это. Давайте создадим что-то, что действительно автоматизирует весь этот процесс взаимодействия с мошенниками в масштабе, но, что, возможно, важнее всего, извлекает всевозможную информацию из этих разговоров». И вот буквально так все началось».
По теме: ИИ-бот заменяет отсутствующего кандидата на дебатах в Вирджинии
В течение нескольких месяцев они получили финансирование от Управления национальной разведки для исследования идеи, и в 2023 году проект был выделен из университета в компанию Apate. Сейчас компания сотрудничает с большинством крупных банков Австралии, а также с многочисленными банками Великобритании, Южной Африки и Юго-Восточной Азии.
Apate — далеко не единственная компания, занимающаяся провокацией мошенников с помощью ИИ-ботов, хотя они делают это в больших масштабах, чем большинство. Британский телеком-оператор O2 в прошлом году запустил кампанию с ИИ-бабушкой, которая раздражает мошенников, отнимая у них часы времени разговорами о ее 28 кошках. Это была в равной степени рекламная кампания, предупреждающая общественность об опасности мошеннических звонков.
Невероятно забавная ИИ-бабушка от O2. Источник: O2
Создание идеальных ИИ-жертв
Apate начала со 120 различных персонажей разного пола, возраста и типа личности, а сейчас у них 197 000 персонажей с узнаваемыми голосовыми особенностями, акцентами, и они издают те же звуки, что и люди, когда пытаются придумать, что сказать.
«Мы потратили много времени на доработку и создание этих ИИ-ботов, которые звучат точно так же, как вы, я и наши соседи», — говорит он.
Модели ИИ обучались на «сотнях и сотнях» часов записанных разговоров между людьми-провокаторами и мошенниками, чтобы они могли применять контрстратегии.
«Они знают, что разговаривают с плохими парнями, если хотите, и они действительно направляют беседы так, чтобы это звучало очень, очень реалистично для любого мошенника, даже если мошенник скептически настроен».
Ботов отправляют в WhatsApp и Telegram, чтобы они выступали в роли приманки для мошенников. Хотя старый клише, что честного человека не обманешь, не соответствует действительности, все же вполне возможно использовать желание мошенника получить деньги.
«Они — киберпреступники, на самом деле. Я думаю, мы просто очень часто забываем, что они киберпреступники, которые пытаются завладеть сбережениями людей. И вот этот элемент жадности иногда тоже эксплуатируют наши боты».
Боты собирают ценную информацию с каждого мошеннического звонка
В криптоиндустрии Apate работает на «одного из лидеров в анализе блокчейна», которым может быть или не быть Chainalysis. Их интересует не трата времени мошенников — им нужна информация о том, какие кошельки и методы используют мошенники, чтобы отслеживать движение средств.
«Эти боты, общаясь в различных разговорах, извлекают новые адреса криптокошельков сотнями и тысячами», — говорит он. «Эти данные и информация поступают буквально до того, как происходит ущерб».
Мошенничество — это большой бизнес, и кол-центры — «практически корпоративные организации», объясняет Каафар.
«Эти данные очень, очень важны, потому что буквально это новый счет или новый кошелек, к которому действительно нужно проявлять предельное внимание. Потому что именно здесь эти... мошеннические сообщества собирают свои деньги или средства».
«Думайте об этом буквально как об опережении тактики мошенников. И чем больше вы знаете до того, как деньги будут переведены, тем лучше».
В июле боты Apate раскрыли рынок брокеров, предлагающих верифицированные банковские счета в Индии с комиссией до 5%, выплачиваемой в USDT с доходов от мошенничеств, проходящих через эти счета.
Персонал Apate в Сиднее. Источник: Apate
Гонка вооружений ИИ между добрыми и злыми парнями
Мошенники все чаще сами используют ИИ-ботов, и пройдет не так много времени, прежде чем ИИ-мошенники станут такими же распространенными, как спам-письма. Обман людей — это бизнес на $1,24 триллиона, поэтому индустрия может позволить себе вычислительные мощности, необходимые для масштабирования операций.
Исследования Apate показывают, что около 20–30% мошеннических текстовых бесед уже используют ИИ, но Каафар не слишком беспокоится об исходе борьбы антимошеннических ботов с ботами-мошенниками.
Он говорит, что их исследователи считают, что ИИ-боты, играющие в защите, имеют преимущество, согласно теории игр, потому что они пытаются извлечь информацию, в то время как боты-мошенники пытаются заставить другой ИИ выполнить действие.
«Вы также можете математически доказать, что это дает преимущество защищающейся стороне, потому что становится легче извлекать информацию из ИИ-модели атакующего», — говорит он.
«Мы можем представить мир, где мошенники становятся намного более изощренными и развертывают такую технологию. Но это также означает, что если они это сделают, они фактически обречены проиграть в этой игре, и это отличная новость в борьбе с мошенничеством».
Журнал: Агент потратил впустую 14 часов времени мошенников, ИИ-языковые модели «отравлены» Ираном — Глаз ИИ
