Краудсорсинговая платформа, на которой работа стоила несколько центов за заказ, но она когда-то поддерживала целую эпоху глубокого обучения.
Теперь она закрывается.
Amazon только что объявила, что ее краудсорсинговая платформа Mechanical Turk полностью прекратит работу 30 сентября этого года.
В период расцвета на платформе было более 500 000 человек, выполнявших мелкие задачи в режиме онлайн: просматривали изображения, классифицировали, размечали данные, выполняя вручную все те мелочи, которым компьютер тогда еще не умел учиться.
Позже эта огромная «человеческая вычислительная мощь» напрямую участвовала в создании набора данных ImageNet —
без MTurk ручная разметка десятков миллионов изображений в ImageNet была бы практически невозможна.
Без ImageNet Ли Фэйфэй, возможно, не стала бы знаменитой в одночасье.
Ученики Хинтона не снискали бы славу одним махом, а глубокое обучение, возможно, не пережило бы внезапного возрождения в 2012 году.
Спустя 21 год настоящий ИИ все лучше справляется с этой домашней работой.
А те люди, которые когда-то делали ИИ умнее, вместе с этой платформой получили «Уведомление об отключении».
500 000 человек в режиме онлайн выполняли подработки: MTurk нашел живых людей «на замену»
Mechanical Turk (MTurk) был запущен в 2005 году.
Вообще-то, изначально Amazon даже не думала, что эта штука перепишет какую-то историю ИИ.
Тогда MTurk решал очень конкретную и драматичную проблему: некоторые задачи были адски сложны для компьютера, но до смешного просты для человека...
Тогда Amazon придумала очень прямой способ: раз уж программа не справляется, давайте просто разобьем проблему на части и отдадим ее реальным людям.
Таким образом, эти раздробленные маленькие задания стали называться HIT, то есть Human Intelligence Task (задача, требующая человеческого интеллекта).
Например, если у компании есть 10 000 изображений для классификации, подход MTurk заключается в том, чтобы разбить их на 10 000 независимых задач и одновременно разбросать по платформе.
100 человек могут работать вместе, 1000 человек тоже могут, а если онлайн выйдут десятки тысяч, то будет еще быстрее.
Другими словами, MTurk заставлял не отдельного человека работать быстрее, а превращал работу, которая изначально была лишь монотонным ручным трудом, выполняемым в очередь, в работу, которую можно было «параллельно выполнять по всему миру».
Настоящий человеческий вариант маховика данных...
А само название Mechanical Turk как раз соответствует этой «игре».
В XVIII веке в Европе был знаменитый механический турок — снаружи это была машина, которая сама играла в шахматы, даже могла сыграть с Наполеоном.
Позже выяснилось, что внутри машины все это время прятался живой шахматист! (Я был слишком самоуверен...)
Amazon перенесла эту историю в интернет почти один в один: на поверхности программа как будто бы автоматически обрабатывает данные, но по-настоящему работают живые люди за экранами.
Безос тогда дал этому поразительно точное определение:
Искусственный искусственный интеллект (artificial artificial intelligence).
Как только эта идея заработала, MTurk быстро превратился из внутреннего инструмента Amazon в глобальный краудсорсинговый рынок.
К 2011 году на MTurk уже собралось более 500 000 работников (Worker), охватывая 190 стран.
Чем больше людей, тем больше задач можно было взять: отбор изображений, расшифровка аудио, классификация текста, очистка данных, определение эмоций, модерация контента.
Любое задание, которое «сложно для машины, но человек решает за несколько секунд», можно было скинуть сюда.
И так продолжалось 21 год.
Без MTurk не было бы нынешнего ImageNet и революции в глубоком обучении
Вернемся примерно к 2006 году.
Ли Фэйфэй, недавно начавшая преподавать в Принстоне, решила сделать кое-что, что тогда казалось довольно противоречащим тренду —
создать для машин достаточно большую визуальную энциклопедию.
В то время основные наборы данных для компьютерного зрения обычно содержали лишь от нескольких тысяч до нескольких десятков тысяч изображений. Данных было слишком мало, модели легко становились «натасканными на тесты», запоминая шаблоны в обучающей выборке, но с трудом понимая бесконечно разнообразные объекты реального мира.
Поэтому команда Ли Фэйфэй решила сделать нечто безумное по тем временам: создать для машин «достаточно большой» визуальный мир.
Так родился набор данных ImageNet.
ImageNet взял за основу WordNet, разбил реальный мир на отдельные концепции и поместил под каждую концепцию сотни и тысячи реальных изображений.
Собака, машина, яблоко, стул, птица, рыба... Все, что можно было определить, старались включить.
Но вскоре возникла более практическая проблема —
найти изображения было несложно, Google, Yahoo, Flickr действительно позволяли искать, но настоящая беда была в том, что найденные картинки могли быть неправильными или даже совершенно нерелевантными!!!
Поэтому после того, как поисковая система находила изображения, требовался человек для последнего шага: проверки каждого изображения по отдельности.
Цифра, которая звучит невероятно: масштаб кандидатов в изображения, которые предстояло обработать для ImageNet, превышал 160 миллионов!!! И тут проблема человеческих ресурсов стала настоящим тупиком...
Как раз когда ImageNet был на грани срыва из-за огромного объема ручного отбора изображений, команда Ли Фэйфэй обратила свой взгляд на недавно запущенный Amazon Mechanical Turk.
Команда ImageNet начала разбивать огромный объем работы по отбору изображений на микрозадачи и распределять их среди глобальных работников (Worker) на платформе MTurk.
Таким образом, грандиозная ИИ-инфраструктура была раздроблена на бесчисленное количество самых обычных «кликов мышью».
В статье об ImageNet, опубликованной в 2009 году, говорилось, что на тот момент в наборе данных уже было 5247 концепций и 3,2 миллиона обработанных изображений.
Цифры, которые команда ImageNet привела позже, оглядываясь на весь проект: 49 000 работников MTurk из 167 стран.
Другими словами, за созданием ImageNet на самом деле стояла временная армия разметчиков, охватывающая весь мир.
Вот почему без MTurk ImageNet, вероятно, действительно не был бы создан тогда...
После создания ImageNet история начала ускоряться по-настоящему.
В 2010 году началось соревнование ImageNet Challenge, модели со всего мира стали обучаться на одном и том же наборе данных и соревноваться в одном рейтинге.
Два года спустя на сцену вышла комбинация, которая позже неоднократно войдет в историю ИИ —
Джеффри Хинтон из Университета Торонто и двое его учеников, Алекс Крижевский и Илья Суцкевер.
Трое участвовали в соревновании ImageNet Large Scale Visual Recognition Challenge с глубокой сверточной нейронной сетью.
Им удалось снизить ошибку Top-5 в соревновании ImageNet 2012 года примерно до 15%, сразу оставив далеко позади традиционные методы.
Это также впервые так наглядно показало всему сообществу компьютерного зрения, что сочетание огромных данных, вычислительной мощности GPU и глубоких нейронных сетей может дать скачкообразный прорыв в результатах.
Слева направо: Илья Суцкевер, Джеффри Хинтон и Алекс Крижевский
С тех пор имя Алекса Крижевского навсегда связано с AlexNet.
Илья позже перешел в Google Brain, стал соучредителем OpenAI и занимал должность главного научного сотрудника, а после ухода основал SSI.
Хинтон позже получил премию Тьюринга и стал одним из общепризнанных «отцов-основателей» глубокого обучения.
Ли Фэйфэй вернулась преподавать в Стэнфорд, стала содиректором HAI и благодаря ImageNet утвердила свое место в истории современного компьютерного зрения.
После этого появились VGG, GoogLeNet, ResNet.
Рейтинг ImageNet год за годом обновлялся, глубокое обучение от зрения ринулось в речь, затем в обработку естественного языка и, наконец, пришло к сегодняшней эпохе больших моделей.
Мир действительно удивителен —
Команда Ли Фэйфэй с помощью MTurk создала ImageNet; ImageNet принес Ли Фэйфэй известность; ученики Хинтона благодаря ImageNet снискали славу одним махом; глубокое обучение благодаря этой победе двинулось к возрождению.
Почти 50 000 обычных людей из 167 стран, сидя перед компьютерами, постепенно «кликали» сотни миллионов изображений-кандидатов, превращая их в ImageNet.
ИИ наконец научился работать, но MTurk закрывается первым
Именно поэтому закрытие Mechanical Turk сегодня выглядит особенно символичным завершением эпохи.
Официальное заявление Amazon сдержанно, в нем лишь говорится, что компания постоянно оценивает свои продукты и услуги, и поэтому приняла решение прекратить работу MTurk.
Ранее CNBC со ссылкой на Кристу Павлоски из организации по защите прав работников данных Turkopticon сообщала, что MTurk все эти годы приходил в упадок, Amazon вкладывала в него все меньше, а новые платформы для разметки данных постоянно переманивали работников и клиентов.
Но более прямая причина, проще говоря, заключается в том, что те задачи, за которые когда-то платили больше всего, ИИ теперь все лучше умеет делать сам...
В 2005 году заставить машину определить, есть ли на картинке собака, была серьезной проблемой, но сейчас это стало базовой задачей, с которой многомодальные модели справляются мимоходом.
В то же время потребности индустрии ИИ в «людях» также изменились.
Передовым моделям теперь больше нужны такие профессионалы, как программисты, врачи, юристы, для оценки кода, проверки ответов, тестирования логики и безопасности.
Таким образом, появились новые платформы, такие как Scale AI, Mercor, Prolific, которые начали отбирать и управлять экспертами, предоставляя более профессиональные данные для обучения и оценки.
По сравнению с этим краудсорсинговая модель MTurk «кто угодно может взять задание за несколько центов» все больше отстает от времени...
Что еще более сюрреалистично, сами работники MTurk начали использовать ИИ!!!
Исследование швейцарских ученых 2023 года показало, что среди опрошенных работников MTurk доля тех, кто использовал модели ИИ для выполнения текстовых заданий, могла достигать 46%.
Изначально клиенты платили за суждения реальных людей, но некоторые работники, возможно, беря заказ, затем передавали вопрос для ответа таким моделям, как ChatGPT.
В этом есть некоторая черная ирония...
Судьба MTurk, по сути, является отражением последних 20 лет развития ИИ.
В начале люди прятались за машинами, кликали по изображениям одно за другим, упорно собирая ImageNet и открывая дверь в эпоху глубокого обучения.
Позже ИИ, следуя этим данным, рос и наконец научился сам смотреть на изображения, слушать звуки, писать текст.
Спустя 21 год те, кто когда-то делал ИИ умнее, уходят со сцены.
И тот «механический турок», в котором прятался живой шахматист, наконец может закрыть свою дверцу.
Ссылки:
[1]https://www.cnbc.com/2026/08/25/amazon-service-that-jeff-bezos-called-artificial-ai-is-shutting-down.html
Эта статья из официального аккаунта WeChat «Квантовый бит» (量子位), автор: Мэн Яо
