Десять результатов «уровня Филдсовской премии», весь процесс доказательства ИИ полностью обнародован!
Сегодня OpenAI представил «ключевую рукопись» объемом 62 страницы, подробно демонстрируя полный процесс рассуждений GPT.
Официально «подтверждено», что этот поразительный прорыв осуществила именно «следующая поколение основной модели».
Если рассчитывать по стандартам тарификации GPT-5.6 Sol API, стоимость всех израсходованных токенов составила всего 2000 долларов.
После публикации рукописи с доказательствами ИИ интернет снова взорвался.
Все гадают: «Это точно тот самый легендарный GPT-6!». Некоторые восторженно замечают, что 2000 долларов позволили достичь десяти исторических достижений.
GPT решает десять вековых математических проблем всего за 2000 долларов
Два дня назад сотрудники OpenAI опубликовали в блоге пост, прямо заявив, что модель следующего поколения Astra решила десять математических проблем.
Представленный список задач всех потряс.
Охвачены: упаковка сфер в многомерном пространстве, бинарные и сферические коды, теория групп, гипотеза жесткости Конна, нижние границы арифметических схем, квантовая параллельная повторяемость, задача о ближайшем векторе, гипотеза Эрхарта об объемах, многопоточные числа Рамсея, экстремальная теория графов.
Тогда в официальном блоге были размещены сборник статей на 249 страниц и полный набор формальных сертификатов Lean 4.
Но только сегодня официально опубликована 62-страничная рукопись под названием «Как сложились идеи» (How the Ideas Came Together).
Ссылка: https://cdn.openai.com/pdf/reasoning-walkthroughs.pdf
Её «аннотация» состоит всего из одного небольшого абзаца, но содержит колоссальный объём информации:
Эти заметки были полностью написаны моделью ИИ, команда OpenAI не вмешивалась.
ИИ прочитал исходные рассуждения (CoT), а также окончательные математические статьи, а затем для каждой задачи реконструировал четыре аспекта:
Какие идеи изначально указали на жизнеспособный путь;
Какие многообещающие методы столкнулись с реальными препятствиями;
Какая смена перспективы позволила проявить базовую структуру;
Как в итоге решающее прозрение сформировало завершённое доказательство.
Упаковка сфер в многомерном пространстве — горячая тема в сети, 46 лет без прогресса
Из десяти задач наибольшее внимание в сети привлекла задача об упаковке сфер в многомерном пространстве.
Если отбросить сложное название, сама проблема довольно понятна: если в ящик поместить множество одинаковых шаров, насколько плотно их можно упаковать?
Ответ для трёхмерного пространства давно известен — это способ укладки, как «укладка апельсинов» на фруктовом рынке.
Но в пространствах размерности в сотни или тысячи измерений человечество могло дать только «верхнюю границу» — максимум, превысить который невозможно.
Показатель этой верхней границы застрял на значении 0.5991, и с 1978 года, в течение 46 лет, не было существенного прогресса.
Astra же продвинула его до 0.6044005442916776954..., причём верхняя граница плотности записывается как 2^-(0.6044...+o(1))d.
Ключевой вопрос: как это было сделано?
Во-первых, в процессе вывода Astra определила пределы самого метода линейного программирования Кона-Элкиса.
Первоначальный подход ИИ заключался в использовании неравенства Коши-Буняковского для оценки отрицательной массы функции. После долгих усилий удалось достичь только радиуса √d/(2√π).
Застряв, модель дала оценку: препятствие не в плохой оптимизации констант, а в том, что глобальная норма просто не запоминает, где находится отрицательная масса.
Поэтому Astra решила сменить перспективу: перейти к преобразованию Меллина и гармонической мере.
Но почему именно это?
Потому что для радиальных функций преобразование Фурье по сути является преобразованием Ганкеля, чьё ядро зависит только от произведения пространственного радиуса и радиуса частоты.
В терминах Меллина это становится чрезвычайно простой операцией: отражение плюс явная фаза.
Здесь есть ещё одно тонкое место: тот фазовый множитель имеет постоянную абсолютную величину, равную 1 на вещественной оси, и на вещественной оси ничего не видно.
Но при продолжении в комплексную плоскость он несёт именно ту многомерную информацию, которую теряет нормовое неравенство.
В пределе гармоническая мера сходится к логистической плотности, а её логарифмический потенциал точно равен дигамма-функции, интеграл от которой даёт как раз log(π/2).
Порог 1/π появляется именно отсюда.
Одна деталь особенно хорошо показывает, что модель понимает, что делает:
Полная масса гармонической меры равна (1−σ)/2, а не 1. В рукописи специально отмечено: слишком ранняя замена этого ядра на вероятностную плотность изменила бы экспоненциальную константу.
Получив нижнюю границу, нужно ещё построить функцию, которая действительно её достигает.
Гаусс дал правильную симметрию Фурье, но положение седловой точки было неверным.
Решение — умножить на чётную деформацию, чтобы сместить седловую точку, не нарушая симметрии. После максимального использования доступного демпфирования получается «идеальный профиль».
Его интеграл смещения седловой точки, вычисленный с помощью произведения Валлиса, в точности равен −(1/2)log(π/2).
Это число точно переносит гауссовский радиус 1/√(2π) на 1/π.
Здесь сошлись радиус, предсказанный нижней границей, и радиус, построенный для верхней границы.
В рукописи есть ещё одна очень конкретная деталь:
При построении вспомогательной функции вдали нужно добавить положительное демпфирование.
И эта заплатка должна быть добавлена на целый интервал, а не в отдельную точку, потому что добавление в одну точку приведёт к резонансной частоте.
Несофические группы: сложность в «множестве» и «единице»
Вторая горячая тема — это «несофические группы», которые не удавалось построить 27 лет.
Математик Манчестерского университета Томас Блум прямо заявил: «Среди конструктивных результатов это более значимо, чем предыдущий контрпример к гипотезе о единичных расстояниях».
Понятие «софической группы» было введено лауреатом Абелевской премии, российским математиком Михаилом Громовым в 1999 году.
На иврите «софи» означает «конечный».
Простыми словами, вопрос о том, является ли группа софической, звучит так:
Можно ли эту бесконечную, абстрактную структуру приближённо смоделировать с помощью набора «достаточно больших конечных операций перестановки»?
Astra дала явную конструкцию, ответив: существует бесконечная, конечно заданная «несофическая группа».
Самое ценное в рукописи — то, что в ней чётко указано, где именно было основное препятствие —
Теорема Куна даёт множество графов расширений, а теореме Куна-Тома нужен один.
Пропасть между «множеством» и «единицей» является ключевой трудностью всей главы.
ИИ назвал это «ключевым несоответствием» (the crucial mismatch).
Он привёл очень наглядный пример, почему нельзя просто выбрать один произвольно:
На объединении двух совершенно одинаковых Q (Q⊔Q) операция «поменять местами две копии» точно коммутирует с действием K на расширении — но она не сохраняет ни одну из компонент.
То есть те «приближённо центральные элементы» могут перескакивать между компонентами, и их невозможно уловить.
До этого был ещё более ранний ложный путь: попытка напрямую превратить свойство (T) в перемешивание. Для этого требовалось ленивое или антидвудольное усредняющее множество, потому что двудольный граф может иметь спектр около −1, даже если у него есть разрыв Каждана в 1.
Исправленное усреднение действительно решает спектральную проблему, но не решает проблему «какую именно компоненту выбрать».
Для этого Astra сначала опробовала один вариант: взять логарифм размера компонент, разбить по ячейкам на случайно сдвинутой сетке, а затем перейти к ограниченному сравнению медиан.
Но этот путь провалился, и на основе опыта ИИ сделал вывод:
Усреднять нужно всегда ограниченную монотонную функцию от размера компоненты, а никогда не сам неограниченный размер.
Поэтому окончательная версия была переписана с учётом этого «фундаментального принципа».
В каждом компоненте расширения окружения A берётся взвешенная медиана вершин m_A, затем определяется
f(x) = M(x) / (M(x) + m_A)
где M — размер компоненты. Эта f всегда находится между 0 и 1, причём 1/2 является медианой на каждом A.
Преимущество этой f в том, что она превращает неуправляемую величину в управляемую.
Ключевой момент: образующие — это перестановки; они только перемещают позиции, не увеличивая и не уменьшая. Пройдя полный цикл, общее изменение должно быть нулевым; а каждый шаг может изменить значение лишь на очень малую величину, и обе стороны оказываются сжатыми до пренебрежимо малого уровня.
Затем, разрезая по высоте и используя экспансивность для малой стороны, с двух сторон получается ограничение: f почти всюду равна 1/2.
То есть размеры всех блоков в одном и том же диапазоне почти одинаковы, что и позволяет установить взаимно однозначное соответствие.
В самом конце осталась маленькая область.
Обработка Astra была очень контринтуитивной: выбрать максимально возможную плохую область и полностью её отбросить — именно потому, что выбрана наибольшая из них, это доказывает, что она настолько мала, что ею можно пренебречь.
Проблема Громова спустя 27 лет получила ответ.
Процесс доказательства ИИ для остальных восьми задач заинтересованные читатели могут изучить по ссылке: https://cdn.openai.com/pdf/reasoning-walkthroughs.pdf
Приближение «Сингулярности», обратный отсчёт
Сразу после публикации рукописи специалист по обучению с подкреплением OpenAI Mo Bavarian опубликовал длинный пост.
Первая фраза: это действительно «сюрреалистичный» момент.
В 2021 году он и команда OpenAI выпустили набор данных GSM8K — 8500 простых математических задач уровня начальной школы, которые можно решить всего за 2-8 шагов.
Во времена GPT-2/3 ИИ действительно с трудом справлялся даже с простыми школьными задачами, едва хватало на черновики писем.
Однако всего за несколько лет массовое RL стремительно развилось, и казавшиеся непреодолимыми «технические тупики» были один за другим преодолены.
Этот временной промежуток невероятно короток.
Mo Bavarian заявил: «Для меня этот момент больше, чем когда-либо, похож на канун Сингулярности».
Несколько лет назад ИИ спотыкался на школьных задачах.
Сегодня токены стоимостью 2000 долларов могут принести десять ответов, которые, возможно, войдут в историю математики.
«Канун Сингулярности», возможно, не так уж и далёк.
Источники: https://cdn.openai.com/pdf/reasoning-walkthroughs.pdf
Статья из публичного аккаунта WeChat «Синьчжиюань», автор: ASI启示录; редактор: Таоцзы.
