"Если я захочу сбросить, я сделаю это в любой момент"
Только что Cybordad, также известный как бог ресетов Codex, Tibo, в новом выпуске подкаста с Matthew Berman уверенно заявил~
И самое забавное — для сброса Tibo сделал специальную физическую кнопку.
Как нынешний руководитель Codex, помимо рассказа о том, как он раздаёт подарки народу, Tibo в этом выпуске подкаста подробно вспоминал свою карьеру в Google и раскрыл важные детали о текущей работе в OpenAI.
Можно сказать, это редкий для внешнего мира шанс глубже познакомиться с этим новым руководителем продуктов в OpenAI.
От продуктовой культуры OpenAI, агентов следующего поколения, экстремально быстрого режима GPT (Ultra Fast) до будущего взаимодействия человека и ИИ, приостановки обучения передовых моделей в OpenAI, RSI — они обсудили практически всё и вся......
Ключевые идеи Tibo:
- ChatGPT и Codex в итоге сольются. В будущем не будет двух продуктов — «агента для программирования» и «чатового помощника», а будет один высоко персонализированный ИИГ (AGI), автоматически подстраивающий интерфейс под задачи, способности и привычки каждого человека.
- Ядро агента следующего поколения — не добавление большего количества навыков (Skill), памяти или под-агентов, а их «исчезновение». Пользователям нужен партнёр, который глубоко понимает их самих, их цели, повседневность и контекст команды, а не управление файлами навыков, памятью и сетями агентов.
- Ноутбуки станут новым узким местом для AI-агентов, агенты следующего поколения естественным образом перейдут в облако и к более масштабным вычислительным ресурсам.
- Сегодня одновременный запуск 10–15 агентов — это попытка компенсировать медлительность модели параллелизмом; как только Ultra Fast снизит время отклика до скорости, близкой к скорости человеческого мышления, рабочие процессы вернутся к интерактивности в реальном времени и «состоянию потока», а не к постоянному переключению контекста.
- Конкуренция не в приоритете. Дифференциация OpenAI от Anthropic — не просто в «более сильной модели», а в «предоставлении самых мощных возможностей как можно большему числу людей». OpenAI делает акцент на широком распространении, участии сообщества и снижении порога входа, что и стало важной причиной интеграции Codex в ChatGPT.
- OpenAI уже использует «рекурсивное самоулучшение» на практике. Речь не только о том, что модель изучает модель, но и о том, что самая мощная модель оптимизирует CUDA-ядро, стек вывода и инфраструктуру, создавая цикл «более мощная модель → большая эффективность → больше вычислений → более мощная модель».
(Полное имя Tibo — Thibault Sottiaux, из Бельгии. Бакалавриат окончил в Католическом университете Лёвена (UCLouvain), изучал прикладную математику. В 2015 году присоединился к Google, изначально работал над Google Maps, затем перешёл в Google DeepMind, отвечал за инфраструктуру для исследований ИИ и участвовал в поддержке передовых проектов, включая AlphaGo. В 2024 году присоединился к OpenAI, начал руководить проектом Codex. С ростом волны AI Coding, Codex быстро стал одним из самых быстрорастущих продуктов OpenAI, и Tibo также стал известен в сообществе разработчиков. Поскольку он часто лично отвечает на отзывы пользователей и помогает разработчикам сбрасывать лимиты использования Codex, пользователи сети почтительно называют его «Cybordad».)
Полный текст беседы, скомпилированный:
Опыт работы в Google и DeepMind
Ведущий: Отлично, я очень рад поговорить с тобой. Хочу начать с твоего опыта в Google. Ты тогда работал в команде DeepMind. Ещё до появления ChatGPT у Google была штука под названием LM Chat.
Ты писал, что Google слишком нервничал, чтобы выпустить её; DeepMind тоже блокировали от запуска продуктов, которые могли бы ударить по Google. Я часто об этом думаю. Ты тогда работал над этими продуктами, и это было задолго до того, как ChatGPT действительно изменил мир. О чём ты тогда думал?
Tibo: Это было очень вдохновляющее время. DeepMind — место с огромным творческим потенциалом.
Моя личная специализация — создание инфраструктуры и продуктов для ускорения исследований. Тогда была команда, которая занималась языковыми моделями и их масштабированием.
Позже они достигли довольно хороших результатов, и естественно возникла мысль: можно ли превратить это в продукт, с которым можно общаться и который можно использовать для разных вещей?
Так и родились идеи вроде LM Chat. Сначала это был внутренний проект, а потом у всех появилось видение сделать его инструментом, открытым для публики.
Ведущий: Это был какой год?
Tibo: Примерно за год до появления ChatGPT.
Tibo: Мы также работали над другими проектами, о которых я не буду распространяться. Это действительно было очень креативное место. Просто DeepMind не была организацией, созданной для доставки продуктов;
В этом отношении OpenAI сильно отличается. Сейчас наши исследовательские и продуктовые команды работают очень тесно.
Мы вместе придумываем, вместе проектируем много вещей. Мы очень склонны выпускать продукты и очень склонны давать людям возможность их использовать. Мне это нравится. Это одна из причин, почему я пришёл сюда: миссия, таланты и плотность талантов. В OpenAI так много замечательного.
Ведущий: Когда ты работал над LM Chat, ты уже понимал, что это нечто особенное, или что оно станет особенным в будущем?
Tibo: Оно действительно казалось очень особенным. Такая модель впервые заставляла осознать: она может генерировать связный текст и оказывать некоторую помощь. Сначала это было просто забавно, потом становилось всё полезнее.
Ведущий: Ты сказал, что часто об этом вспоминаешь, я тебя понимаю. Мне кажется, Google во многом сам себе мешал. Какой опыт ты вынес оттуда и принёс в OpenAI?
Tibo: Да, именно поэтому я часто об этом думаю. Я размышляю с точки зрения культуры команды и культуры OpenAI в целом: что хорошее стоит сохранить, чего делать не стоит.
Культура OpenAI очень «снизу вверх» и очень способствует расширению возможностей. Люди могут выдвигать разные идеи, собираться вместе и очень быстро выпускать что-то. Для новых продуктовых идей практически нет никакого сопротивления. Это вдохновляет и интересно; всё ради позитивного влияния на мир. Для меня очень важно сохранить это.
Ещё одна не менее важная вещь — не допустить, чтобы всё превратилось в хаос, верно? Не хочется получить в итоге мешанину: куча новых функций, но без общего направления и согласованности. Поэтому это должно быть уравновешено чувством простоты и гордостью за качество продукта.
Я считаю, что приложение ChatGPT для iOS — одно из лучших приложений на рынке. Мы хотим это сохранить. Мы много вкладываем в удовольствие от использования, производительность, эффективность и простоту. Это общие принципы, при этом по-прежнему давая каждому возможность пробовать новое и быстро доставлять.
Создание культуры OpenAI
Ведущий: Что бы ты посоветовал основателям стартапов для формирования такой культуры? Какие более конкретные элементы или практики внутри OpenAI ты бы порекомендовал перенять?
Tibo: Думаю, нужно иметь сильные убеждения; одновременно найти способ быть ближе к пользователям и быстро итерироваться на основе обратной связи. Кроме того, нужно быть готовым разрушать собственные достижения. Для основателей стартапов это, возможно, не так прямо применимо, но для компании вроде OpenAI — очень.
У нас постоянно появляются новые исследования, новые идеи; умение определять, когда стоит в них погрузиться, даже если это означает возможное перераспределение ресурсов с основного направления, чрезвычайно важно. Это сложно, но действительно важно.
Ведущий: Верно. Именно это ты и описал как то, что Google не смог сделать.
Tibo: Честно говоря, у них были планы, просто всё было частью более грандиозного плана. Для меня это было не то место.
Ведущий: Не становится ли сложнее поддерживать эту культуру быстрой доставки и готовности к саморазрушению по мере взросления OpenAI или любой компании? Особенно когда у тебя уже есть дойная корова, которая постоянно приносит деньги, а с другой стороны есть что-то новое, возможно, крутое и инновационное.
Tibo: Мы очень ориентированы на будущее. Будущее ИИ, его конечный облик, то, как человечество будет от него выигрывать, не остановится и не будет ждать того, что ты построил за следующий месяц или три месяца.
Поэтому, я считаю, очень важно полностью погрузиться, сохранять открытый взгляд на направление его развития, а затем понять, как тебе позиционироваться, чтобы поймать эту волну.
Даже для OpenAI это актуально: мы обучаем модели, и только потом открываем их возможности. Бенчмарки не говорят обо всём.
Мы сами должны много времени проводить за тестированием моделей, чтобы осознать: «О, может, мы раньше не думали, что можно использовать её именно так», или «О, она может делать *это*».
Это меняет наш взгляд на продукт. Например, сейчас мы выпустили новые голосовые функции — они очень приятны и естественны в общении. Они также умеют использовать инструменты.
Это меняет многое. Теперь я провожу больше времени, разговаривая с ним напрямую. Ещё я постоянно делаю голосовой диктант, потому что качество диктовки очень, очень хорошее; это намного эффективнее, чем печатать промпты.
Так что утром я сижу с телефоном и говорю длинный монолог: «Пусть ChatGPT сделает несколько вещей...», и он делает; у него есть доступ ко всем моим инструментам. А до того, как у нас появилась действительно отличная голосовая модель, это было невозможно. Поэтому это внезапно кардинально меняет твоё восприятие продукта.
Будущее AI-агентов
Ведущий: Хорошо, продолжим говорить о новых моделях, новых harness (фреймворках для запуска агентов). Пару недель назад — кстати, я хочу начать с другого твоего отличного поста: «Codex через два-три месяца будет выглядеть примитивно. Мы вот-вот переживём ещё один крупный эволюционный скачок. Моделям следующего поколения нужно нечто большее, чем твой ноутбук». Итак, начнём с harness. По мере того как модели становятся мощнее, в каких аспектах harness ещё остаётся много места для инноваций?
Tibo: Очень много, правда много. Например, голос, о котором я только что говорил. Сейчас, если ты опытный пользователь Codex или другого агента для программирования, ты уже немного привык к ощущению, что всё не совсем гладко, верно?
Нужно управлять файлами навыков (skill files); это способ чему-то его научить, но я думаю, многие также осознают, что поддерживать эти файлы в долгосрочной перспективе довольно сложно. Память — тоже проблема: он не всегда всё помнит; если есть под-агенты, нужно возиться с ними, строить какую-то маленькую сеть. На каждом этапе взаимодействия иллюзия, что «это полноценный партнёр», разрушается.
Что тебе на самом деле нужно, так это нечто, что глубоко понимает тебя, твои цели, твою повседневность и то, чем занимается твоя команда. В идеале оно ещё и реагирует, проявляет инициативу, помогает в повседневности и не разрушает эту иллюзию: оно — твой идеальный помощник рядом. Именно к этому мы и стремимся.
Ещё один момент: когда у тебя есть очень, очень мощная модель, ты понимаешь, что сам ноутбук становится ограничением. Ноутбук рассчитан на то, чтобы вместить объём работы, который может выполнить человек.
Он примерно спроектирован под объём работы, который ты можешь выдать, под скорость твоего печатания и мышления, под количество приложений, которые ты можешь держать открытыми одновременно — всё это человеческие ограничения.
У модели нет таких же ограничений. Например, в будущем модель, возможно, сможет одновременно работать со 100 открытыми приложениями, и это не будет проблемой. Поэтому с точки зрения доступа к ресурсам очевидно, что будущим моделям потребуется больше ресурсов, чем может предоставить ноутбук.
Ведущий: Ты имеешь в виду, полагаю, облачного агента? И как только появится Ultra Fast, о котором мы поговорим позже, со скоростью токенов, которая, как утверждается, в 10–14 раз быстрее Fast, ограничения пропускной способности изменятся. CPU станет узким местом; буквально, вызовы инструментов, сеть, любые инструменты и любые накладные расходы в стеке технологий станут ограничивающим фактором.
Tibo: Хотя ты также можешь компенсировать это, делая много вещей одновременно. Ты можешь одновременно исследовать, писать тесты, компилировать и проверять новую гипотезу. Таким образом, ты постоянно смещаешь узкое место, потому что можешь параллельно обрабатывать больше задач, а модель может думать и продвигаться очень эффективно и очень быстро.
Ведущий: При текущей скорости токенов я обнаруживаю, что запускаю 10–15 агентов параллельно, и это создаёт для меня заметную когнитивную нагрузку: постоянно переключать контекст, постоянно их запускать, и можно ожидать, что задача вернётся через 30–45 минут.
Теперь, с Ultra Fast, этот рабочий процесс значительно изменится; думаю, я больше не буду запускать 10 или 15 агентов одновременно, и это, возможно, хорошо. Возможно, потребуется всего три-четыре за раз. Как, по-твоему, со временем изменится рабочий процесс независимого разработчика?
Tibo: Я считаю, что управление вниманием, создание опыта, ориентированного на твоё внимание, — это то, чему мы уделяем большое внимание.
Как ИИ меняет рабочий процесс разработчика
Tibo: В конце концов, мы создаём продукты для людей. Мы хотим создавать технологии, которые максимально расширяют возможности человека, а это требует проектирования вокруг твоей способности к многозадачности: как ты хочешь управлять вниманием? Что-то должно быть представлено тебе сейчас или лучше через 30 минут?
И когда скорость Ultra Fast сочетается с голосом, ты внезапно чувствуешь: хорошо, эта штука может работать так же быстро, как я, или даже быстрее.
Тогда ты можешь сохранять состояние потока, постоянно генерировать идеи, видеть прототипы, создавать небольшие отчёты в реальном времени — это ощущается действительно здорово. Ты внезапно думаешь: да, тот способ, когда я запускал 10 агентов в многозадачном режиме, мне уже не хочется возвращаться к нему.
Поэтому мы стремимся создать тот очень естественный и одновременно как бы созданный специально для тебя опыт, когда тебе не нужно подстраиваться под технологию, а технология подстраивается под тебя.
Ведущий: За последние месяцы было много обсуждений технологий программирования в стиле агентов. Loops были популярны, до сих пор популярны; сейчас я слышу о graphs. Все эти технологии — чтобы позволить независимым разработчикам управлять вниманием или, как ты сказал, быть более дружелюбными к вниманию? Мне нравится эта формулировка.
Tibo: Я бы разделил проблему на две категории. Первая — создание лучшего персонального ИИГ, или персонального агента: он находится с тобой в состоянии потока, активно предлагает важные новые идеи; как только находит возможность, он очень эффективно выполняет твои намерения.
Будь то технические проблемы, исследования, советы или что-то ещё, он справляется, и делает это с высокой степенью понимания тебя как личности. Это очень важно, и это глубоко укоренено в понимании тебя как человека, как уникальной личности. Мы полностью сосредоточены на решении этой проблемы.
Вторая категория — полная автоматизация: ты скорее строишь интеллектуальные системы, которые берут на себя очень сложный процесс. Возможно, такой процесс требует или раньше требовал интеллекта и выглядит очень сложным.
Например, просмотр логов продакшена и автоматическая оптимизация производительности, или автоматическое исправление регрессии после её обнаружения. В кибербезопасности мы также видим эту тенденцию:
Например, когда сканер обнаруживает уязвимость, можно ли её автоматически исправить и сократить окно её эксплуатации почти до нуля, без участия человека в этих циклах или с минимальным участием; тебе нужно только утверждать высокорисковые действия, а система в основном остаётся автоматизированной. Тогда тебе не нужно так прямо контролировать её.
Ведущий: Понял.
Слияние ChatGPT и Codex
Ведущий: Тогда я хочу немного сменить тему. Последние несколько месяцев ChatGPT и Codex идут по пути слияния.
Сначала хочу спросить: как идут дела? Каково это ощущается внутри? Какой отзыв ты получаешь от пользователей?
Tibo: Это действительно приносит большую пользу. Сначала мы получали отзывы: «Зачем их объединять? Это действительно необходимо?» Но будущие модели требуют объединения.
Поэтому мы так и сделаем, потому что это самый простой и правильный способ построить того высоко персонализированного, сверхспособного агента, который может помогать тебе разными способами.
В основе будет одна и та же технология: один и тот же harness, один и тот же подход. Он высоко мультимодальный, голосовой в приоритете, чрезвычайно эффективный; неважно, программируешь ты или нет. Этот агент может делать всё, и делает это очень эффективно.
А интерфейс, который тебе нужен, должен адаптироваться под твои потребности. Тебе не стоит сначала решать: «Я программист, поэтому мне нужен интерфейс программиста», или «Я не технарь, поэтому мне нужен нетехнический интерфейс».
Люди находятся в непрерывном спектре; такие ярлыки, как «инженер-программист», «дизайнер» и т.д., — это просто человеческие концепции, которые мы создали, чтобы справиться со слишком сложной реальностью.
Потому что в конечном счёте каждый находится в разных точках этого спектра. Поэтому мы строим идеальный интерфейс, который адаптируется для каждого. Независимо от того, разбираешься ты в технологиях или нет, он будет подстраиваться под твою конкретную личность. Вот почему мы это делаем.
Ведущий: Но означает ли это, что в конечном итоге неизбежно появится единый интерфейс? Не будет выпадающего меню для выбора разных продуктов? Действительно невероятно думать, что моя мама может использовать точно такой же интерфейс, как и я.
Конечно, он будет настраиваться под мои нужды. Если я занимаюсь более сложной работой, возможно, потребуется больше информации. Но для тебя, каков конечный вид?
Tibo: Верно, это будет одна и та же вещь. Ты и твоя мама будете использовать одно и то же. Это будут ваши персональные ИИГ. У вас будут совершенно разные задачи, вы будете получать от этого разную пользу, подключать его к разным инструментам в жизни, получать разные идеи и потребности. И он будет постоянно настраиваться, чтобы приносить тебе максимальную пользу. Он будет так же служить твоим друзьям и всем остальным.
Будущее взаимодействия человека и машины
Ведущий: Я хочу вернуться к одному моменту, о котором ты говорил. Ты несколько раз использовал слово «иллюзия», описывая конечное состояние. Для обычного пользователя, что представляет собой эта идеальная «иллюзия»? Если представить себе через несколько лет, как будет выглядеть взаимодействие между ИИ и человеком?
Tibo: Для меня это будет нечто чрезвычайно соответствующее человеческой природе. В этом и успех больших языковых моделей: они используют естественный язык. Естественный язык — это человеческое понятие, верно? Мы привыкли общаться друг с другом. Если завтра ты напишешь мне письмо, я смогу его прочитать. Мы уже довольно хорошо знаем друг друга. Так что, если ты напишешь мне письмо, я смогу уловить немного эмоций, возможно, немного подтекста. Всё это глубоко укоренено в человеческой природе.
Поэтому технология, которую мы строим, укоренена в человеческом, в способах человеческого общения и достижения результатов. Она не должна заставлять тебя говорить: «О, ты меня неправильно понял, потому что не уловил тонкие нюансы в моём тоне или не совсем понял, что я на самом деле имел в виду в тексте».
Именно этого мы и стараемся избежать. Поэтому мы очень стараемся не заставлять тебя адаптироваться к технологии, а делать технологию созданной так, чтобы она стала естественным продолжением того, как люди изначально действуют в мире.
Ведущий: Я думаю о человеческом общении, где много невербального. Например, как я жестикулирую, движения лица. Как ты думаешь, в какой степени ИИ в будущем будет воспринимать или считывать эту информацию через зрение?
Это важно? Потому что то, что ты сейчас описываешь, кажется, только текст. А для нас, выросших в интернете, мы привыкли общаться через текст и добавлять в текст тонкие изменения, чтобы передать тот тон, который мы на самом деле имеем в виду. Но всё же, необходимо ли, чтобы ИИ мог читать наше выражение лица, жесты и т.д.?
Tibo: Я думаю, что да. Когда я думаю о будущем, которое мы строим, оно будет очень контекстуальным и очень естественным.
Например, завтра или позже я пойду в офис, напишу что-то на доске, у меня родится идея; он тоже должен быть там и понимать всё это. Или я скажу ему: «Эй, что ты думаешь по этому поводу?» — и мы будем естественно разговаривать голосом. С тех пор как мы выпустили новые голосовые функции ChatGPT, они действительно быстро распространились. Сейчас количество пользователей, взаимодействующих с ChatGPT только через голос, быстро растёт.
Я думаю, урок здесь в том, что каждый раз, когда ты приближаешься к чему-то более естественному, люди выбирают путь наименьшего сопротивления. Как ты сказал, печатать в маленьком окне может быть естественно для некоторых, но не для всех. И как только появляется способ чуть проще, чуть лучше, люди склонны использовать его.
OpenAI и Anthropic
Ведущий: Хорошо. Прежде всего, поздравляю, я видел твой пост сегодня утром, где говорилось, что Codex достиг 20 миллионов пользователей. Я видел этот график, сначала он был таким, а потом вдруг взлетел вертикально. Поздравляю.
Я хочу поговорить о конкуренции с Anthropic, потому что многие считают OpenAI и Anthropic двумя основными конкурентами в отрасли на данный момент. Было время, когда Anthropic, можно сказать, поглотил всеобщее внимание, верно? Они тогда действительно доминировали, а потом внезапно всё изменилось. Сначала скажи: как ты видишь сегодняшний рынок?
Tibo: Сейчас мы действительно сосредоточены на создании самых способных моделей, создании чрезвычайно эффективных моделей и гордимся созданием продуктов для всех. Я думаю, OpenAI действительно хорошо справляется с одной вещью: заботится о мире и о том, как передать эту невероятно мощную технологию как можно большему числу людей. Это то, что мы сделали, объединив Codex и ChatGPT.
Мы хотим: раз у нас есть такая технология, сделать её более безопасной и более доступной для каждого. Будь ты менеджером по продукту, дизайнером, специалистом по продажам, маркетингу, PR или кем-то ещё, ты должен иметь доступ ко всем её возможностям. Затем мы быстро распространяем её через ChatGPT, потому что там уже много пользователей. Это также стимулирует тот быстрый рост, о котором ты упомянул.
Я обычно не слишком сосредотачиваюсь на конкурентах; я действительно сосредоточен на том, что мы можем делать уникально хорошо, каковы наши ценности и как двигаться в этом направлении как можно быстрее.
Ведущий: Понял. Я хочу немного углубиться. Знаю, ты особо не думаешь об Anthropic, но многие другие думают: какой продукт выбрать? За какой продукт я готов заплатить 2200 долларов? С точки зрения позиционирования OpenAI на рынке, бренда, тона, способа взаимодействия с разработчиками и более широкой аудиторией, как, по-твоему, это соотносится с подходом Anthropic?
Tibo: Ещё раз хочу сказать, что я очень забочусь о построении сообщества для мира, о вовлечении каждого. Думаю, это чувствуется в том, как мы делаем дела: например, мы очень прозрачны во многих вещах, черпаем много идей из сообщества. Честно говоря, это само по себе очень интересно, потому что мы также получаем от этого много энергии.
А технология, которую мы строим, строится не только для нас самих; и не только для ускорения OpenAI. Это очень важно. Миссия очень важна, поэтому именно здесь мы и черпаем энергию. На мой взгляд, это очень практично и интересно; и тогда происходят хорошие вещи.
Ведущий: Тогда давай поговорим об этих хороших вещах, я хочу поговорить о сбросах...
Почему OpenAI продолжает сбрасывать лимиты
Ведущий: Я знаю, что все, кажется, следят за каждым твоим твитом. Возвращаясь к кривой роста Codex: может, вопрос глупый, но насколько эти «сбросы» способствуют маркетингу и росту, а насколько это просто добрая воля по отношению к сообществу разработчиков?
Tibo: Думаю, это может показаться нелогичным, но OpenAI — это место, где можно просто брать и делать дела. Так что изначально, когда мы итерировали, иногда что-то ломали, или какая-то конфигурация не соответствовала ожиданиям, было естественным дать компенсацию.
Тогда мы думали так: спасибо, что пробуешь этот продукт. Мы знаем, что очень усердно работаем над ним; он ещё на ранней стадии. Раз мы случайно сломали его примерно на 30 минут, дадим тебе немного больше лимита использования. Мы понимаем, что это важно, и знаем, что ты от него зависишь; спасибо, что ты пользователь. Так всё и началось.
Я до сих пор так на это смотрю: если мы что-то сломали, или опыт не идеален, и мы ещё не до конца поняли причину, мы компенсируем пользователям. Мы сбросим лимит использования. Позже это, очевидно, превратилось в нечто, привлекающее много внимания — теперь даже есть специальная кнопка сброса.
И за этим на самом деле не стоит много уровней согласования. Это не решение, согласованное с маркетинговой или финансовой командой; я могу нажать на эту кнопку в любой момент, когда захочу. Наш принцип: мы хотим создавать потрясающие вещи; когда что-то идёт не так, мы компенсируем.
Ведущий: Я всё равно думаю, что это действительно накопило много доброй воли в сообществе и, по крайней мере, частично способствовало росту. Важно действительно заботиться о пользователях, верно? Можно говорить, что ты заботишься, а можно и действительно заботиться: если мы облажались, извините; вот как мы это исправляем.
Это напоминает мне политику возвратов Amazon: если тебе что-то не нравится, просто верни. Вы, кажется, создаёте такую же культуру, такое же восприятие для OpenAI: если мы ошиблись, используй токены ещё раз, или вот тебе новая порция токенов.
Tibo: Я благодарен за твои слова. Также бывают моменты, которые стоит отпраздновать, отметить. Мы всегда выпускаем новые функции и выпускаем их как можно шире; но нет лучшего способа поделиться чем-то значимым со всем сообществом, чем сказать: иди и исследуй эту новую функцию. Например, ты ещё не пробовал Ultra Fast — вот тебе дополнительный лимит, попробуй.
Ведущий: Я слышал, что теперь действительно есть физическая кнопка?
Tibo: Да, действительно есть.
Ведущий: Хорошо, потом покажешь.
Tibo: Покажу, она действительно очень крутая.
Ведущий: Но чтобы делать так много сбросов, очевидно, это возможно только при условии, что у вас есть огромное планирование вычислительных мощностей.
Эффективность ИИ и вычислительные мощности
Ведущий: У вас должно быть достаточно мощностей, чтобы поддерживать все эти сбросы. Я хочу воспользоваться этим, чтобы поговорить о самоулучшении: несколько недель назад — думаю, это было несколько недель назад — вы опубликовали статью, где говорилось, что Sol оптимизировал эффективность Luna. Вы снизили цену на Luna на 80%; цена на Terra тоже снизилась. Какая часть снижения цены на Luna была обусловлена реальным повышением эффективности? А какая — тем, что у вас было хорошее планирование мощностей, хорошая маржа, поэтому вы могли снизить цену и позволить большему числу людей использовать? Другими словами, каков вклад прогресса алгоритмов и стратегического планирования?
Tibo: Мы начали планировать вычислительные мощности довольно рано. Оглядываясь на два года назад, думаю, тогда OpenAI подвергали сомнению за такие большие инвестиции в вычислительные мощности.
Ведущий: Это была безумная и блестящая ставка.
Tibo: Да. Сейчас мы рады, что имеем эти мощности. Большая часть мощностей идёт на исследования, инвестиции в наше будущее, в ещё лучшие модели и в эффективность существующих моделей.
И происходит удивительная вещь: когда мы продвигаем границы возможностей самых передовых моделей, мы можем использовать эти модели, чтобы очень быстро понять, как предоставлять сервис, как перепроектировать или переинжинирить весь технологический стек, получая чрезвычайно значительный прирост эффективности или производительности. Мы не только повышаем рентабельность — мы также публикуем эту информацию — но и повышаем эффективность скорости.
Не говоря уже об Ultra Fast, общая скорость значительно выросла. Если построить график, то увидишь, что сейчас скорость примерно на 60% выше, чем три месяца назад. Мы прорабатываем каждую часть технологического стека, обеспечивая его оптимальное проектирование и инжиниринг под нашу рабочую нагрузку. А наши самые мощные модели — ключ к тому, что небольшая команда может выполнять эту работу.
Поэтому каждый раз, когда мы добиваемся очень значительного повышения эффективности, особенно рентабельности, наше обязательство заключается в том, чтобы оставаться на переднем крае как по производительности, так и по стоимости. Мы не просто кладём эту выгоду себе в карман, а делимся ею с клиентами и пользователями; именно это мы и сделали с Luna.
Ведущий: Внутри компании, когда вам нужно распределить мощности между исследованиями новых моделей, повышением эффективности существующих моделей и выводом (inference), как обычно проходят обсуждения? Как выглядит это напряжение?
Tibo: Мы обычно исходим из первых принципов. Мы выделяем часть мощностей на исследования, часть на продукты; внутри продуктов мы делаем разные компромиссы. Но на этот раз компромисс почти не требуется, потому что повышение эффективности уже достигнуто. Поэтому мы, по сути, можем поддерживать очень значительный рост пропускной способности на том же масштабе мощностей.
Рекурсивное самоулучшение
Ведущий: Несколько месяцев назад, до статьи о снижении цен, я видел пост в блоге о том, что одна модель обучает следующую модель или помогает её оптимизировать. Затем я увидел, как Sol анализирует работу Luna и реализует эти улучшения эффективности. На мой взгляд, это похоже на очень раннюю стадию рекурсивного самоулучшения. Как ты думаешь? Это то, что происходит?
Tibo: Да, я считаю, что рекурсивное самоулучшение — очевидно, большая тема сейчас. Чаще всего его используют для исследований, например, когда модель разрабатывает другие модели.
Но где мы видим много успешных примеров, так это в использовании этих моделей для разработки инфраструктуры, которая поддерживает использование моделей и находится на критическом пути; это тоже форма рекурсивного самоулучшения. Они и так являются большой системой, включающей стек вывода, более низкоуровневые и сложные для оптимизации ядра — CUDA-ядра, которые мы используем; а также разработку более эффективных новых продуктов и новых способов взаимодействия с моделями.
Ты упоминал облачных агентов. Если мы действительно решим задачу облачного агента, человек сам мгновенно станет более продуктивным. Считается ли это рекурсивным самоулучшением? Потому что ты становишься более способным извлекать пользу из них. Я думаю, в каком-то смысле да, но это больше связано с инфраструктурой и способностью использовать эту возможность, воздействуя обратно на саму себя.
Конечно, мы это делаем; было бы неразумно не делать этого.
Приостановка обучения передовых ИИ-моделей
Ведущий: Поскольку мы говорим о рекурсивном самоулучшении, я хочу спросить: я помню, как Sam Altman из OpenAI говорил, что в настоящее время приостановлено обучение самых передовых моделей с RL (обучение с подкреплением). Можешь рассказать об этом? Как было принято это решение? Я знаю, мы кратко говорили об инциденте с Hugging Face, но что принималось во внимание при принятии этого решения? Как проходило обсуждение?
Tibo: Это в основном относится к области исследований. OpenAI всегда могла направлять ресурсы на самое важное. По мере роста возможностей моделей очевидно, что важность выравнивания (alignment) и безопасности также возрастает. Поэтому для OpenAI естественно и является твёрдым обязательством вкладывать огромные ресурсы в это направление.
Мы видим значительное увеличение инвестиций в эту область. Приостановка обучения в некоторой степени также необходима: чтобы команды и отдельные люди действительно поняли и укрепили каждую часть системы. Только так мы сможем гарантировать, что, возобновив обучение, мы перезапустим его с полным контролем. Я уверен, что OpenAI продолжит делать это в будущем, если это будет необходимо. Я никогда не видел, чтобы внутри компании мы не могли эффективно принимать такие решения.
Ведущий: Были ли установлены чёткие цели — определённая точка, по достижении которой пауза будет снята? Или вы поймёте, когда увидите?
Tibo: Это находится в ведении команды безопасности. Для них это был полноценный дискурс и процесс продвижения вперёд с исследованием. Но в итоге они действительно сформировали довольно чёткие принципы: когда эти принципы соблюдены, мы находимся в хорошем положении.
Ведущий: Я хочу вернуться к режиму Ultra Fast.
Возможности, которые даёт Ultra Fast
Ведущий: Мне кажется, люди не до конца понимают, какие возможности разблокирует такая скорость. Сначала расскажи: внутри компании какие сценарии использования были невозможны без этой скорости токенов в секунду?
Tibo: Мы видим его широкое использование в сценариях с высоким риском. Например, при возникновении инцидента командир инцидента и группа реагирования получают доступ к Ultra Fast, потому что важна каждая секунда. Поэтому в действительно рискованных ситуациях мы используем Ultra Fast.
Есть ещё интересное наблюдение: команды, которые занимаются чем-то чрезвычайно важным или верят, что занимаются чем-то чрезвычайно важным, также всегда запрашивают Ultra Fast.
Ведущий: Домашние питомцы (Pets) тоже относятся к таким сценариям?
Tibo: Домашние питомцы ещё не так критичны. Но я люблю своего питомца, он всегда у меня на экране. Когда ходишь по офису, видишь питомцев на экранах у людей; когда они подключаются к видеоконференциям, питомцы тоже всегда появляются. Каждый раз, когда я это вижу, это вызывает радость, приносит удовольствие.
Tibo: Но пока питомцы Codex не относятся к критическим. Мы, конечно, поддерживаем их и хорошо заботимся о наших питомцах. Однако, если кто-то работает над новой идеей и говорит: «Я действительно думаю, что это может быть особенным, нужно обязательно попробовать; но нам нужно решить до понедельника, включать ли это в DevDay», — тогда, конечно, можно использовать Ultra Fast.
Ведущий: У всех разные предпочтения: кто-то любит однопоточную работу, кто-то — многозадачность. Для тех, кто любит много многозадачности, выгода от Ultra Fast не так велика; но некоторые не любят постоянно переключать контекст. Где ты находишься в этом спектре?
Tibo: У меня СДВГ, поэтому я постоянно переключаю контекст.
Ведущий: Интересно, у меня тоже СДВГ, но я на самом деле не хочу постоянно переключать контекст; мне это сложно. Я хочу сосредоточиться на двух-трёх вещах, поэтому Ultra Fast меня так и вдохновляет. Интересно, у тебя всё наоборот.
(Примечание: СДВГ (синдром дефицита внимания и гиперактивности) — это нейроразвивающее состояние, связанное с исполнительными функциями мозга, проявляющееся в трудностях с устойчивым вниманием, контролем импульсов или регуляцией уровня активности, что влияет на обучение, работу и повседневную жизнь.)
Tibo: Я чувствую себя как рыба в воде, переключая контекст и принимая множество мелких решений. Но иногда я тоже хочу сосредоточиться на чём-то одном; тогда Ultra Fast очень приятен, потому что он позволяет тебе оставаться в состоянии потока.
Ultra Fast отлично проявляет себя, когда не слишком много вызовов инструментов или когда нужно генерировать большой контекст. Например, если ты хочешь быстро создать прототип сайта или видеоигры, и нужно написать много кода, он сделает это очень быстро — примерно в 10 раз быстрее. Но если много вызовов инструментов, накладные расходы находятся где-то ещё в сети или в другом месте траектории выполнения агента, то ты почувствуешь ускорение только примерно в 3 или 4 раза, а не полные 14 раз.
Ведущий: Я знаю, что у сотрудников OpenAI неограниченные токены; думаю, если бы это был я, я бы всегда выставлял настройки на максимум, выбирал бы GPT-5.6 Sol или любую последнюю модель. Когда стоимость не является для меня фактором, я думаю: хорошо, просто выкручиваю на максимум. И я бы всегда включал Ultra Fast. Внутри компании тоже так?
Tibo: Мы не предоставляем Ultra Fast всем; мы оставляем большую часть мощностей для внешних пользователей и клиентов. Сотрудники OpenAI имеют возможность и мощность потребить все вычислительные ресурсы — поглотить все наши продакшн-GPU, все мощности Ultra Fast; они бы их всё использовали.
Но мы так не делаем. Мы вводим некоторые ограничения, рассматривая, что для нас разумно. Мы также используем это, чтобы понимать продукт, постоянно улучшать его и извлекать выгоду из рекурсивного самоулучшения; но подавляющая часть мощностей остаётся для клиентов.
Ведущий: Хорошо, это хорошо, спасибо. За пределами OpenAI, какие сценарии использования, чувствительные к задержкам, больше всего тебя вдохновляют в плане возможностей, которые разблокирует такая скорость?
Tibo: Это интересно. В целом, одна вещь, которая меня особенно вдохновляет, — это взаимодействие, не связанное с текстом. Например, можно ли работать на общем холсте? Можно ли создавать вещи? Можно ли генерировать идеи, генерировать разные изображения, а затем выбирать одно из них?
То есть опыт в стиле «выбери своё приключение»: быстро получить управляемый прототип макета, а затем в реальном времени направлять его голосом или текстом и сразу видеть результат. Я думаю, такая скорость делает возможным этот творческий процесс.
Как инженер, иногда ты садишься и думаешь: мне нужно спроектировать всю систему, продумать компромиссы и требования; но, возможно, ты можешь сделать её за минуту, посмотреть, как она на самом деле работает, а затем глубже погрузиться в состояние потока, лучше понять её суть. Я думаю, эта скорость действительно может многое изменить.
Ведущий: Тогда, полагаю, цена на Ultra Fast будет значительно выше, чем на обычную скорость.
Станет ли Ultra Fast режимом по умолчанию?
Ведущий: Как ты думаешь, Ultra Fast станет стандартной скоростью или всегда будет премиальным уровнем?
Tibo: Это интересный вопрос. Я думаю, как и обычно развиваются технологии, со временем он будет становиться всё более распространённым и доступным. Скорость, с которой агент выполняет задачи, будет продолжать расти, и мы видим огромные улучшения ежемесячно. Это не только скорость вывода, но и эффективность использования токенов моделью.
Эффективность токенов у Sol значительно выше, чем у Terra; как и можно было ожидать, у следующей модели эффективность токенов будет значительно выше, чем у Sol. Мы постоянно работаем над этим. Поэтому со временем всё будет становиться быстрее. То же самое и с аппаратным обеспечением для вывода — мы постоянно вводим инновации, оно тоже будет становиться быстрее.
Так что я действительно думаю, что, возможно, через год или два, такая скорость станет если не вариантом по умолчанию, то очень близким к нему. Но я также думаю, что всегда будет следующий уровень: ты всегда можешь использовать больше оборудования, делать более дорогостоящие компромиссы и получать некоторые дополнительные возможности.
Ведущий: Tibo, я обычно задаю последний вопрос для более широкой аудитории. Сейчас многие люди нервничают из-за ИИ.
Как успокоить опасения людей по поводу ИИ
Ведущий: Будь то автоматизация работы, воздействие на окружающую среду или то, что происходит и кажется таким чуждым. Что бы ты сказал для ободрения более широкой публики?
Tibo: Да. Мы создаём продукты для всего мира через ChatGPT, и мы очень серьёзно относимся к повышению его эффективности; это напрямую соответствует нашей цели обеспечить широкий доступ и широкую полезность. Чем ниже стоимость обслуживания, тем больше люди могут делать с его помощью, тем больше ценности в повседневной жизни. Он уже стал чрезвычайно эффективным.
Возьмём Luna: это гораздо меньшая модель, но чрезвычайно эффективная; но если вернуться на шесть месяцев назад, она была бы на переднем крае. А посмотрите на стоимость Luna — она невероятно низкая, действительно впечатляет.
Ведущий: Ты только что снова это сделал: сейчас вы раздаёте её бесплатно через Replit.
Tibo: Да, они предоставляют её в этом бесплатном режиме. Ты удивишься: получение невероятного интеллекта станет повсеместным. А это возможно только в том случае, если мы будем и дальше повышать эффективность месяц за месяцем, год за годом. Поэтому я считаю, что всё, что сегодня находится на переднем крае, через шесть месяцев будет стоить значительно дешевле.
Вот мой ответ на этот вопрос: технологии всегда со временем становятся очень, очень эффективными. Мы очень сосредоточены на широком доступе и оптимизируем непосредственно ту пользу, которую пользователи могут из этого извлечь.
Почему каждый должен попробовать ИИ
Ведущий: А что бы ты сказал тем, кто даже колеблется впервые попробовать ИИ? Как бы ты описал будущее, в котором ИИ помогает миру?
Tibo: Думаю, не нужно смотреть далеко: ChatGPT очень персонализированно и глубоко помогает людям. Многие пользователи используют его для помощи в письме, также обращаются к нему за личными советами или медицинскими рекомендациями. Мы выпустили Health и Finance, я и сам часто ими пользуюсь.
Я чувствую, что получаю поддержку, которую иначе было бы трудно получить. Например, он позволяет мне идти к врачу более информированным. Так что не нужно далеко ходить, чтобы увидеть ценность, которую он может предоставить. Я думаю, что общение с другими, вдохновение от того, как они используют и получают пользу, — хороший способ начать думать о том, как ты сам можешь получить выгоду.
Ведущий: Tibo, большое спасибо.
Tibo: Спасибо и тебе за уделенное время.
И ещё кое-что
Только что Tibo объявил, что OpenAI завтра восстановит лимит в 5 часов использования для ChatGPT Plus.
Он сказал, что это должно было быть запущено, но по некоторым причинам было отложено. Так что с завтрашнего дня пользователи Plus не смогут беззаботно кататься.
Конечно, пользователям Pro пока не о чем беспокоиться, тарифы за 100 и 200 долларов в ближайшие несколько месяцев не будут иметь этого ограничения.
Статья из публичного аккаунта WeChat «Qubit», автор: henry
