Что делать, если ИИ внезапно объявляет вас виновным, и все слепо верят его выводу? Как вы докажете свою невиновность?
Это звучит как сюжет из фильма «Особое мнение», где предсказывают преступления и подставляют невинных, но абстрактность в том, что в реальности уже разыгралась более небрежная версия:
ИИ ошибся с преступником, из-за чего невинная женщина провела полгода в тюрьме, и её жизнь чуть не рухнула.
一、Что значит, что полиция арестовала «Флэша»?
Анджела Липпс из штата Теннесси, США, и есть та самая неудачливая женщина. В июле 2025 года группа вооружённых до зубов полицейских ворвалась в её спокойную жизнь, направила на неё оружие и объявила об аресте.
Она была в замешательстве, ведь не понимала, в чём её вина. Полиция заявила, что она подозревается в причастности к мошенничеству с банком в Северной Дакоте, и, судя по настрою, доказательства были железными, но услышав это, она остолбенела:
«Но я никогда в жизни не была в том штате.»
Если посмотреть на карту, между Теннесси и Северной Дакотой действительно приличное расстояние, а связали её с подозреваемым именно с помощью ИИ.
При аресте полиция проигнорировала её оправдания, и детали дела она узнала только в тюрьме. Полиция города Фарго, Северная Дакота, расследовала дело о мошенничестве, где преступник, используя поддельное удостоверение военного, обманул банк на несколько десятков тысяч долларов. Метод расследования полиции был прост: посмотреть записи с камер, спросить ИИ, а затем арестовать.
Можно подумать, что ИИ выступил в роли Шерлока Холмса, раскрыв дело с помощью строгой логики, но на деле всё было не так «сложно». Полиция использовала систему ИИ для распознавания лиц на скриншотах с камер наблюдения, а затем отфильтровала подозреваемых в базе данных.
На этот раз ИИ облажался, ошибочно сопоставив с фотографией Анджелы Липпс. Затем эту информацию передали в занимающийся делом полицейский участок, где сотрудники накосячили ещё сильнее: вручную проверив её водительские права и соцсети, они решили, что черты лица, телосложение и причёска совпадают, и thus определили её как подозреваемую.
Фото с GoFundMe
Женщина была в шоке: почему бы не проверить другие улики, вдруг это просто похожий человек? Но дальше было ещё хуже: после всей этой цепочки у неё не было возможности доказать свою невиновность.
Согласно местной процедуре, её не повезли прямо в Северную Дакоту для дальнейшего расследования, а заставили ждать в местной тюрьме в Теннесси. Поскольку её признали «межштатным беглецом», у неё не было ни права на залог, ни возможности допроса со стороны полиции. Так её продержали 108 дней, с июля по конец октября. Трудно представить, какое отчаяние она испытывала всё это время.
Анджела Липпс дождалась 30 октября, когда её наконец вывели из тюрьмы для перевода в Северную Дакоту. Тогда ей предъявили多项 обвинений, во время перевозки на ней были не только наручники, но и цепь на талии. По её ощущениям, проход через аэропорт был comparable to публичной поркой.
А это был её первый в жизни перелёт на самолёте.
К её удивлению, в Северной Дакоте пришлось ждать дальше. Только в декабре у неё появилась正规ная возможность объяснить ситуацию. Её адвокат напрямую запросил её банковские записи и сопоставил время: в момент преступления она была в 1900 км от места, в Теннесси, и покупала пиццу. Это означало, что если только она не «Флэш», она не могла совершить преступление в другом месте.
Весь процесс занял 5 минут, адвокат быстро всё прояснил.
К 24 декабря обвинения с неё наконец сняли, но радоваться было нечему, потому что к этому моменту «линия отсечения» была уже по шею.
Свой 50-й день рождения Анджела Липпс встретила в тюрьме. В заключении нельзя было носить зубные протезы, она ела только junk food, психическое давление было огромным, вес резко вырос. В тюрьму она попала в летней одежде, а вышла зимой, без тёплой куртки, не говоря уже о том, чтобы согреться, не было и речи о возвращении домой. Полиция не дала ей денег на дорогу, после освобождения она оказалась в ловушке в Северной Дакоте, застряв в том дне, когда её ложно обвинил ИИ.
К счастью, нашлись добрые люди, которые протянули ей руку помощи.
Её адвокат помог ей устроиться в отеле на время, раздобыл еды, чтобы пережить самые тяжёлые моменты. Местная некоммерческая организация оказала ей помощь и отправила обратно домой в Теннесси.
Но вернувшись домой, начать жизнь заново было невероятно сложно. За время в тюрьме её экономическое положение рухнуло: съёмное жильё пропало, собака пропала, даже её машина и вещи в ней исчезли. Её личные вещи временно хранились на складе, но потом, поскольку она не могла заплатить за аренду, все личные вещи были утилизированы. Даже межличностные отношения оказались под угрозой, потому что соседи видели, как её забрали, и она «исчезла» на полгода, все думали, что она действительно что-то натворила.
Тем временем её невероятная история быстро разлетелась по сети и вызвала бурю насмешек. Многие, например, выражали недоумение: в США некоторые могут заниматься «нулевыми покупками» (грабежами), но стоит only тронуть банк капиталиста, как тебя мгновенно арестуют, даже если это не ты.
Поскольку шум был большой, её бедственное положение вновь изменилось к лучшему, она получила больше помощи. На данный момент она собрала 80 тысяч долларов пожертвований, которых вполне хватит, чтобы начать новую жизнь.
Однако сейчас netizens больше всего надеются, что она найдет команду адвокатов и засудит их до основания, возможно, выиграет дело и получит ещё одну компенсацию.
Потому что это не единичная ошибка полиции, до этого уже были массовые случаи wrongful convictions, и некоторые пережили ещё более страшные истории.
二、Жуткие моменты научной фантастики, вызванные «ошибками» ИИ
Опыт Анджелы Липпс уже повторялся более десяти раз в разных регионах, и даже в других странах.
Например, Роберт Уильямс был одной из最早的 жертв подобных incidents. В 2020 году полиция арестовала его на глазах у жены и дочери, продержала 30 часов, хотя он был на 20 см выше настоящего преступника.
Ещё один top неудачник, Крис Гатлин, был подобран ИИ по blurry кадрам наблюдения как потенциальный подозреваемый в деле об избиении в метро, и так он провёл 17 месяцев под стражей, став самым долго содержавшимся под стражей невиновным человеком. Нелепость в том, что только в конце следователи обнаружили, что есть запись с body cam, которая может быть ключевым доказательством, но подозреваемый на ней совсем на него не похож.
В 2023 году Порча Вудрафф также пережила similar ситуацию: полиция обвинила её в carjacking. Она рассмеялась, подумав, что полиция шутит, потому что на тот момент она была на восьмом месяце беременности и совсем не выглядела способной на такое. Тем не менее, её забрали и продержали около десяти часов, позже она проиграла судебный процесс.
В этом году парень по имени Алви Чоудхури из Великобритании также был арестован по similar причине, его обвинили в «краже со взломом», но судя по доказательствам, это было совершено «дистанционно» —这一幕 в фильме тоже есть. ИИ распознал его фотографию, сделанную при задержании в 2021 году. Полиция, увидев его живьём, тоже рассмеялась, потому что он выглядел как минимум на 10 лет старше подозреваемого.
Кадр из фильма «Телепорт» (Jumper)
В 2022 году индийского бизнесмена Правина Кумара арестовали по пути в Швейцарию: он был в Абу-Даби на пересадке, и ИИ сопоставил его с разыскиваемым преступником. Местные власти его долго допрашивали, в конце концов выяснилось, что он действительно не подозреваемый, и его депортировали обратно в Индию, где в аэропорту его задерживали ещё дважды подряд.
Самый нелепый случай в这类事件х, пожалуй, произошёл с российским учёным Александром Цветковым: ИИ сказал, что он похож на убийцу, и его продержали 10 месяцев.
Этого учёка можно сказать, подвергся двойной клевете со стороны ИИ и человека. В феврале 2023 года он возвращался из научной экспедиции в Россию, и только сошёл с самолёта, как его арестовали. Причина: ИИ показал, что он на 55% похож на фоторобот подозреваемого по делу о серийных убийствах более чем двадцатилетней давности. Кроме того, по этому делу был оговорщик, который дал ложные показания против него, чтобы смягчить приговор. Что хуже всего, полиция не провела тщательного расследования и просто арестовала его.
После задержания он сначала думал, что это small misunderstanding, но расследование затягивалось. Под огромным психическим pressure и проблемами со здоровьем он一度 вынужден был признать вину, затем отказался от признания. К счастью, жена и коллеги из института постоянно хлопотали за него, нашли множество materials, доказывающих, что в год преступления он был в expedition в другом месте. По мере освещения в СМИ дело широко обсуждалось общественностью, и только в декабре ситуация начала меняться к лучшему. Обвинения были officially сняты только в феврале 2024 года.
И такие случаи, как перечисленные выше, с развитием ИИ происходят всё чаще, создаётся впечатление, что ИИ «командует», а некоторые люди превращаются в исполняющие машины.
三、Профессиональная болезнь «как сказал ИИ»
Ощущение «смены ролей» возникает потому, что и ИИ, и человек могут подвести, даже самый сильный ИИ может ошибаться, а человек всегда «полениться».
Взять, к примеру, американскую систему Clearview AI, которая и отправила женщину из начала статьи в тюрьму. Но это отнюдь не какая-то кустарная программа. Clearview AI заявляет, что обладает крупнейшей в мире базой изображений, под штрафами множества стран она бешено собирает десятки миллиардов фотографий. В США её используют более 3000 правоохранительных органов, а в прошлом году она заключила контракт с ICE на 9,2 миллиона долларов.
Проще говоря, Clearview AI — это «поисковик по лицам». При использовании загружается изображение, затем оно сопоставляется с её базой данных, после чего выдаётся набор похожих фотографий, и окончательное решение, тот ли это человек, остаётся за пользователем.
Хотя за эти годы ИИ шагнул далеко вперёд, «точность» по-прежнему вызывает споры, ведь данные экспериментальных tests и реальные условия при поиске по изображениям всегда имеют различные различия.
Например, в большинстве случаев изображения с камер, которые находит полиция, имеют качество «телефона с допотопной камерой», плюс странное освещение, неудобные ракурсы, закрытые лица и другие факторы, которые确实 усложняют распознавание. В базе данных也可能 быть старые фотографии, и результат сопоставления может быть просто случайным сходством двух людей.
А при применении этих погрешностей к конкретному человеку, тому, естественно, приходится несладко.
Это ворона или кошка?
Теоретически, если ИИ only occasionally глючит, это ещё можно пережить, потому что это лишь «зацепки», а «выводы»还需要 делать человеку, но зачастую человек «нелепее» ИИ.
На самом деле, несколько лет назад уже жаловались, что американская полиция идёт на поводу у ИИ, впадая в «психологию автоматизированной предвзятости», то есть чрезмерно依赖甚至 доверяя результатам, выдаваемым ИИ. Стоит ИИ сказать, что эти двое совпадают, как человек верит. Рост не сходится — не моя проблема, алибі есть, но я only负责 арестовать, какие ещё доказательства — рассказывайте всё в тюрьме, пропуская basic шаги расследования и заставляя других «пропускать жизнь».
На самом деле, люди сами прекрасно осведомлены о недостатках ИИ. Американская полиция, заплатив немало денег, во многих регионах установила «противопожарные линии», например, при раскрытии преступлений, помимо зацепок от ИИ, must быть независимые доказательства, а в некоторых местах даже прямо запретили использовать технологии ИИ для раскрытия преступлений.
Но эти ограничения не выдерживают того, что ИИ действительно слишком удобен. Хотя есть вероятность осечки, но очевидно, что успешных случаев больше. Иногда полиция из кожи вон лезет, чтобы найти зацепки, и often это only снимок с камеры качества «дверного глазка», с большой вероятностью хочется попробовать удачу с ИИ. Ещё в 2023 году сообщалось, что американская полиция использовала Clearview AI для миллионов поисков, и даже later, когда openly запретили, использовали тайком, в конце концов, использовали — можно сказать, что не использовали, эту программу запретили — поменяли на другую, locally запретили — попросили другую организацию помочь использовать, просто подсели.
Таким образом, стоит ИИ сначала дать ненадёжную зацепку, а затем человеку полениться пропустить расследование, как комбинация «Ву Лун и Фэн Чу» приводит к судебной ошибке.
Например, бразильская система Smart Sampa в последние годы также сталкивается с similar проблемами. В 2024 году в Сан-Паулу, Бразилия, была запущена крупнейшая в Латинской Америке система полицейского распознавания лиц на основе ИИ, которая, как сообщается, подключена к 40 тысячам камер.
Хорошая новость: эффект действительно мощный, за several лет nearly четыре тысячи преступников были арестованы на месте,还 поймали более three тысяч беглецов, количество ограблений в 2025 году снизилось на nearly 15%, это можно назвать «конвейером по поимке воров».
Плохая новость: по меньшей мере 59 человек были опознаны ошибочно.
Среди них不乏 абстрактные cases, например, психически больного человека в больницы приняли за преступника и увезли, later выяснилось, что его ордер на арест просрочен, и его отпустили.还有一个 парень за 7 месяцев был арестован 4 раза, ИИ перепутал его с разыскиваемым убийцей. Каждый раз его забирали в участок и сразу отпускали, через несколько дней история повторялась, он уже был в шоке.
Раньше, когда обсуждали, какие jobs не могут заменить ИИ, говорили, что ИИ не может сидеть в тюрьме за человека, но мы не думали о другой стороне этого вопроса: теперь он может «посадить» человека.
Раньше это была шутка, но сейчас это уже почти не новость. На самом деле, не only распознавание лиц, ИИ в распознавании предметов occasionally может выдать крутые штуки.
В прошлом году система безопасности на основе ИИ в одной американской старшей школе распознала пачку чипсов в руках парня как «потенциальное оружие», что triggered тревогу. Прибыло 8 полицейских машин, парня мгновенно задержали, обыскали и only в мусорном баке нашли пакет от закуски. Ситуация была очень неловкой, парень уже подумал, что ему конец.
А ведь и правда похоже
Кто бы мог подумать, что чем сильнее становится ИИ, тем больший хаос некоторые им творят. Раньше ИИ был глупым, ошибался в распознавании изображений, и все над ним смеялись. Теперь ИИ стал сильнее, ошибся в человеке — и человек сидит полгода в тюрьме. В будущем не дай бог появятся какие-нибудь абстрактные операции вроде ИИ-судов, ИИ-адвокатов, судов на new energy. В конечном счёте, ИИ — это only инструмент, ключевое — это способности и цели пользователя, или можно сказать, чем сильнее ИИ, тем меньше человеку можно лениться.
В общем, начинаешь немного скучать по тому глупенькому ИИ.
Эта статья из WeChat official account «Лаборатория Крутых Игр» (酷玩实验室), автор: Лаборатория Крутых Игр
