Эй, слышали?
Хорошие дни для исследователей-людей, по самым оптимистичным подсчётам, остались всего на два года.
Через два года исследования ИИ человеком будут как игра в шахматы сегодня.
Конечно, ты ещё можешь играть, но всем абсолютно всё равно, как ты играешь.
Это последнее громкое заявление от Джерри Творека, бывшего ключевого специалиста по моделям рассуждений (Reasoning Models) в OpenAI.
Он пришёл в OpenAI в 2019 году и проработал там семь лет. Когда методы обучения с подкреплением (RL) никак не масштабировались, именно он упорно проталкивал их вперёд. Поколения моделей-убийц o1 и o3 были созданы под его личным руководством.
«Мы хотим создать ИИО (AGI)». Это была вся дорожная карта, которую Илья дал на общем собрании, когда он только пришёл в OpenAI в 2019 году. Семь лет спустя он ушёл работать на себя.
Что ещё страшнее, это говорит не он один. Сейчас самая популярная внутренняя шутка среди исследователей ИИ звучит так:
У нас осталось всего несколько рабочих дней, пока мы ещё можем работать — давайте работать усердно, а потом все вместе уйдём на пенсию отдыхать.
Все пересказывают это как чёрный юмор. Но каждый, кто произносит эту шутку, прекрасно понимает в глубине души.
Эта шутка, скорее всего, и есть реальность.
И это ещё только разминка. На протяжении всего интервью он сыпал подобными резкими фразами одна за другой:
- Агенты действительно обладают креативностью, но это чрезвычайно низкокачественная, массово штампуемая креативность. Идей много и они разнообразны, но в основном они ужасны.
- Во всём мире людей, которые по-настоящему разбираются в сквозном процессе от обучения до развёртывания передовой модели, возможно, всего от тридцати до пятидесяти. Все остальные работают на них.
- Предположение, что Transformer является оптимальным решением, почти наверняка неверно.
- За те семь лет, что я проработал в OpenAI, мы по-настоящему серьёзно пытались заменить базовую архитектуру всего три или четыре раза.
- Предпосылка, что мир вращается только благодаря нашей работе, изначально неверна.
Ниже приведена структурированная версия. Наслаждайтесь.
Половину работы уже никто не делает
Цифра в два года не связана с результатами тестов (бенчмарками) и не связана с вычислительными мощностями.
Он подсчитывает, сколько работы в процессе исследований всё ещё выполняют люди.
А эта работа уже давно разделилась на две части.
Первая — это генерация идей, понимание, куда двигаться. Вторая — это исполнение, превращение идей в работающий код и получение данных.
И часть с исполнением уже в основном перешла к агентам.
Творек основал в апреле этого года компанию Core Automation с лозунгом о создании самой автоматизированной лаборатории ИИ в мире.
У них полный цикл одного эксперимента сократился с месяца до одного дня. Эффективность выросла в тридцать раз!
Однако часть с генерацией идей агенты пока взять на себя не могут. Причина в том, что —
Они, безусловно, относятся к высококреативным видам.
Но они транжирят свою креативность чрезвычайно низкокачественным, массово штампуемым способом. Идей действительно много и они разнообразны, но идеи в основном ужасны.
Во всём мире всего тридцать-пятьдесят человек
Так слушая, кажется, что часть с генерацией идей ещё под контролем.
Но на самом деле людей, способных генерировать идеи, и так осталось немного.
В интервью ведущий упомянул, что один внутренний исследователь OpenAI признался ему —
Во всём мире людей, которые действительно понимают сквозной процесс того, как обучать и разворачивать передовую модель, возможно, всего от тридцати до пятидесяти.
Все остальные работают на эти несколько десятков мозгов, включая большинство штатных сотрудников в самой крутой компании.
Творек не стал оспаривать.
Он также считает, что так работает любая топовая команда. Несколько человек задают курс, за ними тянется целая грохочущая машина исполнения.
И чтобы понять, насколько востребованы эти несколько десятков человек, достаточно взглянуть на его собственный список найма.
Сооснователь Core Automation Рохан Анил — из Anthropic, а до этого из Google DeepMind.
К ним также переманили Анмола Гулати, который работал над Gemini в DeepMind. Даже бывший руководитель отдела кадров OpenAI Джулия Вильягра последовала за ними.
Все лаборатории ловят рыбу в одном и том же пруду. А в этом пруду всего несколько десятков рыб.
Поэтому цифра в два года не имеет отношения ко всему человечеству.
Речь идёт о том, как долго продержатся эти несколько десятков человек.
За семь лет архитектуру серьёзно меняли всего три-четыре раза
Если людей осталось всего несколько десятков, то что является последней стеной перед ИИ?
Ответ Творека состоит из одного слова: Transformer.
По его мнению, эта штука почти наверняка не является оптимальным решением.
Во-первых, модель не может продолжать учиться после развёртывания. Сколько бы вы с ней ни общались, она не станет сильнее, следующий диалог будет с той же самой моделью. Контекстное окно тоже не выдерживает, он говорит, что при работе с Codex через двадцать минут приходится его сжимать.
Во-вторых, если попытаться компенсировать это непрерывным дообучением (fine-tuning), окажется, что это не только крайне неэффективно, но и приводит к катастрофическому забыванию — выучивается новое и забывается старое.
Поэтому большая часть работы всей индустрии вокруг Transformer за последние годы — фактически сводилась к его удешевлению, а не к тому, чтобы сделать его по-настоящему лучше.
А то, чего на самом деле хочет Творек, даже не в самой архитектуре.
Ему нужны модели, которые могут продолжать учиться во время использования (test-time learning), модели, которые могут расти постоянно, основываясь на взаимодействии с пользователем и его данных. Смена архитектуры — это лишь средство для достижения этой цели.
В отрасли все это понимают. Но почему же спустя столько лет Transformer всё ещё стоит незыблемо?
Причина за этой простотой доходит до абсурда — попыток почти и не было.
За семь лет в OpenAI количество по-настоящему серьёзных попыток заменить базовую архитектуру было всего три или четыре.
Процесс был таким.
Исследователь сначала пишет небольшой проверочный эксперимент, на запуск которого уходит как минимум три месяца. Если результаты выглядят многообещающе, только тогда можно думать о масштабировании.
А под масштабированием подразумевается, что нужно убедить примерно десятерых людей, обладающих правом решающего голоса, а затем эти десять человек должны вложить от трёх до шести месяцев в вашу бездонную яму.
В итоге либо вас раздавит инерция Transformer, который уже давно набрал обороты, как снежный ком, либо ваша идея будет частично поглощена и станет винтиком в его механизме.
Семь лет, три-четыре раза. Такова вся производственная мощность сильнейшей лаборатории ИИ в мире в плане архитектурных инноваций.
«Джар, сожги эти вычислительные мощности»
Он сам однажды столкнулся с точно такой же патовой ситуацией в OpenAI. И открыл её одна фраза.
Тогда в той куче полумёртвых экспериментов проявились небольшие «признаки жизни». Не сказать, что хорошие, но хоть какой-то намёк появился.
И в этот самый момент его нашёл Якуб Пачоцки, который позже занял пост главного научного сотрудника OpenAI.
«Джар, все эти GPU — твои. Посмотри, сможешь ли ты сделать результаты в твоих руках больше и круче».
«Теперь у тебя есть эти GPU». Когда он повторял эти слова, у o1 ещё не было имени.
Эта фраза вытащила его из парадокса —
Сначала ты должен показать результат, чтобы получить право на вычислительные мощности.
Но тебе явно нужны эти мощности, чтобы получить результат.
Творек говорит, что большинство передовых направлений застряли в этом парадоксе. Все скрытые битвы в лабораториях за вычислительные мощности, в конечном счёте, — это поиск выхода.
А выходом иногда становится просто немного... уверенности со стороны руководства.
Достаточно, чтобы кто-то сверху сказал: «Я хочу, чтобы у тебя была приличная квота на вычисления, чтобы как следует этим заняться».
Как только шлюз открывается, остановиться уже невозможно.
Обучение с подкреплением с этого момента перешагнуло через несколько порядков величины.
А затем появился на свет o1, и путь моделей рассуждений, который многие считали мёртвым, был оживлён его усилиями.
Сто тысяч долларов вместо эксперта
И на этот раз ему не нужно ждать, пока кто-то что-то скажет.
Самое дорогое звено во всей цепочке — это перевод абстрактной идеи в реально работающий код. И именно это сегодня агенты делают лучше всего.
Например, Core Automation использовала этот подход, чтобы «прогрызть» ядро GPU.
Конкретно, они отдали ядро QR-разложения программирующему агенту на четыре недели, потратили около ста тысяч долларов на вычислительные затраты, и в итоге ускорили это ядро в шестьдесят раз.
Эта работа относится к низкоуровневой инженерии производительности, она направлена на то, чтобы одна матричная операция работала быстрее на видеокарте, и обычно требует ручной настройки строк за строкой горсткой экспертов.
А таких экспертов во всём мире всего несколько.
Теперь сто тысяч долларов могут заменить одного. Ему не нужно ничего доказывать, и ему не требуется три-шесть месяцев.
Пробка, которая стояла семь лет, была прорвана.
Так что же мы сможем делать потом?
Если даже самая сложная для изменения архитектура сдвинулась с места, то руль в руках этих нескольких десятков человек долго не удержится.
В конце интервью ведущий напрямую спросил его об этом: когда этот день действительно наступит, что останется делать людям?
На это Творек описал две картины.
Первая — это Древняя Греция.
Все встречаются на площади, неторопливо целый день обсуждают философию, затем идут заниматься спортом, едят оливки, пьют вино.
Он сам рассмеялся, только что описав это, признав, что, вероятно, просто проецирует свои собственные желания.
«Мы встречаемся на площади и разговариваем». Его дословное описание повседневной жизни человечества в эпоху после ИИО (AGI), после чего он сам засмеялся.
Вторая картина — это старшая школа или, можно сказать, университет.
Он считает, что люди должны сохранить стремление к самому «совершенству». Продолжать жадно учиться новому, тренировать тело и разум до изнеможения.
Это немного похоже на профессиональный спорт: нет никаких экономических причин, заставляющих вас потеть и страдать, но врождённая гордость человека стремится достичь той вещи, которая называется «величие».
Нам нужно найти различные способы делать это.
Потому что в следующем мире не останется дел, которые «не будут сделаны, если не сделаем мы, и тогда мир рухнет». Мир будет продолжать вращаться самостоятельно на уже построенной нами инфраструктуре.
«Мы должны продолжать учиться». Он говорит об этом как об обязанности, а не как о развлечении.
Затем он спокойно открыл свои карты.
Предпосылка о том, что мы должны работать, чтобы мир функционировал, не обязана быть верной.
«Многие люди черпают свою самооценку из работы». Он признаёт, что это самый сложный барьер, который нужно преодолеть, включая его самого.
Он сам тоже в этом списке
Честно говоря, после прослушивания всего интервью, самое жуткое — не эти два года.
А то, что он сам знает, что нажимает на педаль газа этого обратного отсчёта.
То, что он хочет создать, по определению — это нечто, способное учиться и становиться сильнее самостоятельно, больше не требующее, чтобы кто-то кормил его с ложечки. Если создаст, позиции этих нескольких десятков людей исчезнут ещё быстрее.
И у него есть ещё более жёсткая фраза, первым приговор выносит он себе самому.
Если вы не та лаборатория, у которой самые ужасающие запасы вычислительных мощностей и самый большой масштаб, вам будет очень тяжело умереть.
Когда он говорил это, Core Automation существовала всего четыре месяца, доходы на счетах были нулевыми.
Он говорит, что с момента основания компании почти каждую неделю кто-то подходит к нему и говорит: «Джар, уже слишком поздно, ту лестницу, ведущую на небеса, уже давно убрали».
Его ответ — всего одна фраза, любимое выражение в его компании.
У нас в компании любят говорить: всё сводится к skill issue (проблема с навыками).
В переводе это означает: в конечном счёте не вини обстоятельства, вини себя за то, что ты слишком слаб в техническом плане.
Знаете, в контексте этого интервью эти слова действительно звучат в тему.
Если снова посмотреть на ту популярную шутку в начале.
У нас осталось всего несколько рабочих дней, пока мы ещё можем работать — давайте работать усердно.
Что слышно в этом тоне — возбуждение или тоску? Мы не можем узнать.
Потому что для тех, кто это говорит, эти два чувства — одно и то же.
Творек говорит, что темпы в этой области чрезвычайно изматывают, после стольких лет работы действительно очень-очень устал.
«Но если мы действительно верим, что это самый важный период в нашей профессиональной карьере».
«То, наверное, оно того стоило».
Источники:
https://x.com/MTSlive/status/2092387349623935322
Статья из официального аккаунта WeChat «Новая эра интеллекта» (新智元), автор: ASI启示录, редактор: Моисей
