【Резюме】Скорость рассуждений GPT-5.6 достигла ошеломляющих 750 токенов в секунду! Профессиональные эксперты раскрыли внутреннюю информацию: он будет работать на 100 кремниевых пластинах. ИИ превращается из размышляющего в мгновенный, действительно ли наступает эпоха реального времени интеллекта?
Согласно различным источникам, GPT-5.6 скоро будет открыт для всех.
В последнее время различные предположения об этой модели уже стали популярными на X.
26 июня OpenAI официально объявил о новом семействе GPT-5.6.
И в официальном блоге было сказано: OpenAI планирует выпустить в этом месяце на пользовательском оборудовании от чипового гиганта Cerebras новейшую передовую модель — GPT-5.6 Sol, скорость рассуждений которой достигает пугающих 750 токенов в секунду!
Это означает, что сложные операции с агентами, которые раньше требовали нескольких минут ожидания, теперь можно выполнить в мгновение ока.
Очевидно, OpenAI уже сделал революционный шаг в совместном проектировании аппаратного обеспечения и моделей.
Кроме того, после недавнего первого в истории появления собственного чипа для логического вывода ИИ Jalapeño, мы можем почувствовать, что у OpenAI появились амбиции стать полноценной империей ИИ.
В мире боевых искусств нет ничего важнее скорости: разрушительный удар в 750 токенов/с
Что означает «750 токенов в секунду»?
Для человека это эквивалентно чтению и выводу примерно 500-600 китайских иероглифов в секунду.
Этот текст перед вами GPT-5.6 Sol может сгенерировать менее чем за долю секунды.
На X известный разработчик Калеб Шеперд взволнованно заявил: «Это то, что меня больше всего волнует, GPT-5.6 Sol работает на Cerebras. Не только потому, что написание кода стало быстрее, но и потому, что скорость использования компьютера претерпела качественные изменения. Нам больше не придется ждать две минуты, пока ИИ нажмет кнопку».
Долгое время, хотя большие модели становились умнее, «задержка логического вывода» была главным узким местом для развертывания в задачах многошаговых агентов в реальном времени.
Когда модель становится настолько большой, что имеет триллионы параметров, традиционные кластеры GPU часто сталкиваются с физическими ограничениями в межузловой связи (NVLink).
Ответ OpenAI таков: не заставляйте модель адаптироваться к аппаратному обеспечению, а объедините аппаратное обеспечение и модель в одно целое.
Согласно предварительной информации, раскрытой компанией, GPT-5.6 Sol в июле будет открыт в крайне ограниченном масштабе для определенных клиентов, и его распространение будет постепенно расширяться по мере роста производственных мощностей.
Как все догадываются в интернете, это чрезвычайно дорогая услуга, привилегия, созданная специально для ведущих компаний, готовых платить за скорость.
Как вместить 3-триллионного гиганта параметров в чип?
Когда появилась новость о 750 токенах/с, руководитель LLM Arena Питер Гостев задал вопрос, который волновал всех:
Что происходит с GPT-5.6 Sol на Cerebras? Насколько я знаю, это, кажется, полная та же самая модель (включая визуальные и другие мультимодальные возможности), а не урезанная версия, лишенная зрения и контекста, как раньше GPT-5.3-Codex-Spark.
Но я понимаю, что на одном чипе Cerebras может поместиться модель максимум на 700-900 миллиардов параметров. Итак, модель уменьшилась? Или появился новый тип чипа, о котором я не знаю? Или какая-то новая технология многочиповой кооперации?
Этот вопрос сразу вызвал множество дискуссий среди пользователей.
Кто-то в шутку заметил, что люди занимаются «судебно-медицинским аудитом чипов в полночь», и сказал: «Если это действительно полная версия той же модели, то это похоже на то, как кто-то засунул суперъяхту в стеклянную бутылку, не объясняя, как это сделано».
Вскоре старший технический эксперт Блейс Гудсон представил чрезвычайно убедительный технический анализ —
GPT-5.6 Sol не помещен на один чип, а распределен на 70-100 пластинчатых чипов Cerebras!
Эстетика предельного развертывания: «Одна пластина — один слой сети»
По оценкам отраслевых экспертов, спецификации GPT-5.6 Sol чрезвычайно огромны:
- Общее количество параметров: около 3 триллионов
- Активные параметры: около 150 миллиардов
- Количество слоев сети: около 70-90
Чтобы получить здоровые характеристики службы логического вывода, OpenAI и Cerebras использовали чрезвычайно роскошный и впечатляющий способ развертывания — каждый слой нейронной сети размещается на отдельной целой пластине Cerebras.
Как отметил один пользователь, увеличивая количество конвейерных этапов, теоретически можно масштабироваться до модели любого размера, если у вас достаточно пластин, чтобы связать их вместе. Это не повлияет на скорость генерации токенов, возможно, лишь незначительно повлияет на время до первого токена (TTFT).
Перестройка архитектуры от отчаяния — облегченный кэш KV, рожденный необходимостью
Однако, одних пластин недостаточно. Особенность архитектуры чипов Cerebras — огромное количество встроенной SRAM (статической оперативной памяти), которая очень быстра, но имеет крайне ограниченную емкость.
Если бы OpenAI, как и раньше, использовал традиционный тяжелый кэш ключей и значений (KV Cache) в GPT-5.6 Sol, то пропускная способность этой дорогой SRAM была бы мгновенно исчерпана.
Это приводит к самому важному стратегическому повороту в этом сотрудничестве: рефакторинг модели под конкретное аппаратное обеспечение.
Блейс Гудсон отмечает, что, поскольку OpenAI глубоко участвовал в совместном проектировании оборудования, они, скорее всего, отказались от традиционной схемы кэширования механизма внимания и перешли к более передовому облегченному дизайну.
Наиболее вероятные варианты включают:
Архитектуру, подобную DeepSeekV4: чрезвычайная оптимизация использования кэша.
Гибридный дизайн SSM: объединение моделей с линейной временной сложностью, таких как Mamba, с Transformer, полностью избавляясь от исторического бремени KV Cache.
Кроме того, известный разработчик Джон Лам выдвинул захватывающую гипотезу — разделение внимания и FFN (прямого распространения).
Он предполагает, что OpenAI, возможно, использует традиционные GPU для вычислений внимания, а массивные пластины Cerebras — для мощного выполнения вычислений в части прямого распространения нейронной сети.
Это не беспочвенная догадка. Пользователи быстро раскопали детали развертывания Kimi K2.6, о которых Cerebras ранее писала в блоге:
Cerebras хранит исходные веса Kimi K2.6 в системе CS-3 с 4-битной точностью, одновременно вычисляя с 16-битной плавающей запятой для обеспечения точности. Веса распределены по нескольким пластинам, значения активации передаются потоком между пластинами. Полная взаимосвязь между слоями полностью зависит от сетевой структуры на пластине, ее пропускная способность более чем в 200 раз выше, чем у NVLink на Nvidia NVL72! В сочетании с пользовательскими операторами и спекулятивным декодированием они могут запускать триллионные MoE-модели со скоростью, близкой к 1000 токенов/с.
Официальные спецификации показывают, что революционная система CS-3 не только непревзойденно быстра, но и может легко масштабироваться до модели с 24 триллионами параметров на одном логическом устройстве!
Как воскликнул один из пользователей: «Если это действительно полная версия Sol, работающая на Cerebras, то сегодня ночью потолок размера модели, который все предполагали, был пробит».
Настоящий козырь — собственный чип OpenAI «Jalapeño»
И как раз до этого OpenAI официально выпустил свой первый в истории собственный чип — Jalapeño.
Появление этого чипа напрямую объясняет глубинную логику сотрудничества OpenAI с Cerebras: исследуя стороннее передовое оборудование для логического вывода, OpenAI полностью изучило особенности и ценность специализированной архитектуры логического вывода и превратило их в контролируемую низкоуровневую платформу.
Jalapeño — один из самых мягких по остроте сортов мексиканского перца. Назвав его так, OpenAI явно дает понять: это лишь легкая закуска.
Этот чип — это специализированная ASIC, разработанная для логического вывода больших моделей. С момента создания первой линии каждый его транзистор оптимизирован только для одной цели: запуск больших моделей.
Неожиданно, что Jalapeño не только запускает собственные модели OpenAI, его архитектура также совместима с LLM всей отрасли, демонстрируя огромные амбиции платформы.
И проектирование и производство этого чипа заняли всего 9 месяцев.
За этим стоит чрезвычайно мощный промышленный альянс:
Ведущая архитектура: OpenAI лично руководит проектированием низкоуровневой архитектуры.
Реализация чипа и взаимосвязь: Чиповый гигант Broadcom предоставляет мощные возможности реализации и технологическую поддержку сетевой взаимосвязи.
Системная интеграция: Celestica отвечает за окончательное производство плат и физическую интеграцию на уровне стоек.
Поглощение всей цепочки создания стоимости: амбиции OpenAI по созданию полноценной империи
Модели обучают сами, чипы проектируют сами, логический вывод оптимизируют сами, развертывание контролируют сами.
Очевидно, цель OpenAI — создание огромной полноценной империи ИИ.
Но амбиции OpenAI безумнее, чем у Apple и Google, у них есть беспрецедентное суперколесо: использовать ИИ для ускорения строительства инфраструктуры ИИ, а затем использовать созданную, более мощную инфраструктуру для запуска еще более мощного ИИ.
Согласно грандиозному плану, опубликованному OpenAI, первые суперцентры обработки данных гигаваттного уровня начнут развертываться совместно с ключевыми партнерами, такими как Microsoft, с конца 2026 года.
Вся электроэнергия среднего города будет использоваться для питания стоек логического вывода на чипах Jalapeño и следующего поколения «перцовых» чипов.
Приготовьтесь, скоро мы встретим GPT-5.6 Sol, мчащийся на пластинах Cerebras со скоростью 750 токенов/с, ломающий физические ограничения параметров и скорости логического вывода.
Источники: https://x.com/bleysg/status/2073937651150029084
Эта статья взята с официального аккаунта WeChat «Xin Zhi Yuan», автор: ASI启示录; редактор: Aeneas
