Недавно обширное выступление ведущего разработчика Gemini, руководителя команды Blueshift Адама Брауна в Институте теоретической физики Периметра под названием «Обучение песка мыслить: общий искусственный интеллект и будущее физики» привлекло широкое внимание. В этой лекции он рассказал, как своими глазами наблюдал, как ИИ прошел путь от «уровня детского сада» до уровня доктора наук, и на основе этого предположил: что станет с физикой, если эта тенденция продолжится.
Название выступления: Training Sand to Think: Artificial General Intelligence & Future of Physics
Ссылка на выступление: https://www.youtube.com/watch?v=Mw60FH5iflI&t=3s
Это выступление также получило высокую оценку лауреата Нобелевской премии по физике и премии Тьюринга Джеффри Хинтона, который назвал его «потрясающе хорошим (amazingly good)».
Прежде чем представить это потрясающее выступление, стоит познакомиться с докладчиком Адамом Брауном (Adam Brown).
Биография Брауна является образцом того, «как теоретического физика изменила судьба ИИ». Он изучал физику и философию в Оксфордском университете, затем получил докторскую степень в Колумбийском университете, после чего преподавал на физических факультетах Принстонского и Стэнфордского университетов. В Стэнфорде он преподавал общую теорию относительности Эйнштейна, его исследования охватывали Большой взрыв, космическую инфляцию, мультивселенную, черные дыры, квантовые вычисления, а также такие сюжеты, звучащие как научная фантастика, как «космический лифт», «пузыри ничего (bubbles of nothing)» и конечную судьбу Вселенной. Одновременно он долгое время интересовался глубокими связями между физикой и компьютерными науками.
В 2018 году Браун присоединился к Google. Сейчас он возглавляет команду под названием Blueshift внутри DeepMind, которая специализируется на улучшении научных и логических способностей ИИ, а также является одним из ключевых разработчиков крупной языковой модели Gemini.
В начале выступления он упомянул, что за свою карьеру написал около сорока статей по теоретической физике, но в последние годы перестал писать статьи вручную, и причина не в том, что он не может их написать, а в том, что он считает, что писать статьи одну за другой вручную больше похоже на «греховное удовольствие», потому что сейчас его настоящая задача — участвовать в создании машины, способной производить знания «в промышленных масштабах».
Такое вступление задало тон всей лекции: человек, находящийся в эпицентре технологического шторма «ИИ+наука», пытается описать своим коллегам реальную форму этого шторма.
Мы также с помощью ИИ обобщили это блестящее выступление Брауна.
От песчинок до мыслящей машины
Браун одной фразой охарактеризовал особое положение, в котором находится сейчас человеческая цивилизация: Мы научились очищать песок до кремния, делать из кремния чипы, собирать чипы в нейронные сети, а теперь научились обучать эти нейронные сети мыслить.
Он особо подчеркнул, что на этот раз все иначе, чем с любыми предыдущими «вычислительными инструментами». От абака до карманного калькулятора у человечества уже были различные инструменты, помогающие научным исследованиям, но все они были точечными, могли выполнить лишь какой-то один шаг в процессе, а остальное по-прежнему приходилось делать человеку.
Большие языковые модели (LLM) отличаются, они обладают потенциалом выполнить весь рабочий процесс теоретического физика, и именно в этом заключается смысл слова «общий интеллект» (general intelligence). Браун считает, что LLM, вероятно, и есть тот самый базовый субстрат, который человечество использует для построения общего искусственного интеллекта.
Он напомнил слушателям, что они, возможно, уже пользовались чат-ботами типа ChatGPT, Gemini или Claude, но не осознают тихо произошедший факт: эти системы еще несколько лет назад незаметно прошли тест Тьюринга, и этому почти никто специально не радовался.
Нейронные сети «взращивают», а не «программируют»
Чтобы понять, почему большие модели полностью отличаются от традиционных компьютерных программ, Браун приводит ключевую аналогию: LLM не программируются (programmed), а взращиваются (grown), то есть их скорее выращивают, чем пишут.
Конкретный процесс делится на два этапа.
Первый этап называется «предварительное обучение» (pretraining). Инженеры берут набор случайно соединенных, почти бессвязных искусственных нейронов и заставляют его постоянно пытаться предсказать, каким будет «следующее слово» в текстовом фрагменте. Если угадал — усиливают соответствующий нейронный путь; если ошибся — ослабляют его. Этот процесс чрезвычайно долгий: когда модель «видела» миллион слов, ее речь в основном все еще бред; прочитав несколько десятков или сотен миллионов слов, она уже может писать грамматически правильные, но несколько неуклюжие предложения; и только прочитав весь интернет (десятки триллионов слов) она сможет вести плавный, связный диалог почти на любую тему.
Второй этап называется «дообучение» (post-training, fine-tuning), Браун описывает его как отправку модели «в школу хороших манер». Только что завершившая предварительное обучение модель просто механически предсказывает следующее слово, говорит грубо и непослушно, задача дообучения — научить ее быть вежливой, готовой сотрудничать с пользователем, а не просто продолжать словесную игру. Сегодня количество параметров в ведущих больших моделях выросло с миллиардного уровня десятилетие назад до триллионного уровня, и хотя это все еще намного меньше, чем примерно сто триллионов синаптических связей в человеческом мозге, этого масштаба уже достаточно, чтобы происходили чудеса.
Физики, занимающиеся не своим делом: Scaling Law разжег эту революцию
Браун особо отмечает, что физики сыграли неожиданную роль в начале этой революции ИИ: привнесли образ мышления, основанный на «Scaling Law» (законе масштабирования).
Физики от природы одержимы поиском простых степенных законов: если удвоить рост Алисы, площадь ее поверхности увеличится вчетверо, а вес — в восемь раз, это простейший анализ размерностей; а степенной закон между скоростью метаболизма животного и его массой, открытый Клейбером (Kleiber) почти сто лет назад, — более тонкий пример — лишь много лет спустя физики объяснили лежащий в его основе принцип с помощью фрактальной размерности сосудистой системы.
Не говоря уже о знаменитом законе Мура:
В 2020 году несколько исследователей с физическим образованием применили этот образ мышления к нейронным сетям и обнаружили, что если пропорционально увеличивать используемые для обучения вычислительные мощности, объем данных и размер модели, то производительность модели в задаче «предсказания следующего слова» будет стабильно расти вдоль прямой линии в логарифмической системе координат.
Впоследствии эта кривая была расширена на целых восемь порядков величины и по-прежнему оставалась верной.
Браун пошутил, что этот график «настолько прост, что даже венчурный инвестор может его понять», и он напрямую говорит рынку капитала: вкладывай деньги (то есть вычислительные мощности), и получишь более сильную модель.
Эта простая кривая и стала отправной точкой эпохи масштабирования (Scaling era) последних шести лет.
Но Браун также отмечает, что наращивание вычислительной мощности — лишь часть истории. За последние десять лет вычислительные ресурсы, затрачиваемые на обучение передовых ИИ, росли примерно в четыре раза в год, а объем инвестиций в обучение — примерно в 2.7 раза в год.
В настоящее время вычислительные ресурсы, необходимые для одного топового обучения, стоят около нескольких сотен миллионов долларов, а годовой ВВП США приближается к 30 триллионам долларов, а это означает, что у этой кривой еще очень большое пространство для роста.
Но важнее, чем наращивание вычислительных мощностей, является постоянная шлифовка алгоритмов на человеческом уровне: исследователи постоянно выявляют неэффективные звенья в процессе обучения и улучшают их, это настоящий «первичный двигатель» прогресса ИИ за последнее десятилетие.
«Короткая жизнь» бенчмарков: от дошкольного уровня до уровня доктора наук
Если закон масштабирования объясняет «почему ИИ становится сильнее», то череда сменяющихся бенчмарков фиксирует «насколько сильным стал ИИ». Браун с помощью ряда результатов тестов рисует ослепительную кривую.
Четыре года назад появился бенчмарк по математике для старшей школы под названием MATH. Исследователи предложили задачи аспиранту по компьютерным наукам, не очень сильному в математике, он набрал около 40%; затем трехкратному золотому медалисту Международной математической олимпиады — он набрал 90%. А самая передовая большая модель на тот момент могла набрать лишь 6% — почти не отличаясь от случайного угадывания, поскольку модель даже не могла понять, о чем спрашивается в задаче.
В то время рынок прогнозов считал, что достижение моделями результата в 50% к 2025 году уже будет «безрассудным оптимизмом», а создатель бенчмарка публично заявил, что если какая-либо модель действительно сможет это сделать, он будет «весьма поражен».
В результате, этот рубеж в 50% был «немедленно» преодолен системой под названием Minerva. К середине 2024 года система команды Брауна набрала на этом бенчмарке 90%. Они даже устроили вечеринку в стиле роликового диско 90-х годов, чтобы отпраздновать это. Однако всего через шесть месяцев доступные на рынке большие модели практически идеально решили этот набор задач. Бенчмарк MATH «умер», и он перешел от «слишком сложного» прямо к «слишком легкому», почти не задерживаясь на промежуточных этапах.
Следующим пал тест GPQA для аспирантов, моделирующий сложность квалификационного экзамена на первом году докторантуры, средний балл экспертов-людей около 70%. Модель, начав с результата, близкого к случайному угадыванию, в период с 2024 по 2025 год прорвалась через уровень экспертов и сегодня почти набирает максимальный балл. Чтобы исключить возможность того, что модель просто «запомнила ответы», команда Брауна специально разработала новые задачи из того же распределения, которых не было в интернете, и результаты модели почти не снизились.
Браун даже взял свои собственные выпускные экзамены для аспирантов по общей теории относительности и квантовой механике, которые он сам проверял в Стэнфорде (эти задачи никогда не выкладывались в сеть), и модель также за полтора года набрала максимальный балл. Он в шутку заметил, что теперь даже его собственные экзаменационные вопросы «к сожалению, пали».
После этого список павших бенчмарков становился все длиннее, включая сверхсложный комплексный тест, который в свое время называли «последним экзаменом человечества» (Humanity's Last Exam).
А самый знаковый скачок произошел на Международной математической олимпиаде.
Преодоление порога олимпиадной математики
Всего чуть более года назад один лауреат премии Тьюринга лично сказал Брауну, что большие модели никогда не смогут решать задачи уровня Международной математической олимпиады (IMO), потому что для этого требуется настоящее творчество, а не простое заучивание. Задачи IMO известны как «самые сложные задачи в рамках школьной математики»: самым умным подросткам со всего мира требуется год или два тренировок, чтобы участвовать, и получение золотой медали за шесть задач — уже большая редкость.
Прошлым летом этот порог был преодолен. Система команды Брауна в тесте уровня IMO решила правильно пять из шести задач, достигнув уровня золотой медали. Причем эта система не прошла порог, нагромождая длинные формализованные доказательства, которые никто не мог понять. Председатель IMO в публичной оценке заявил, что эти решения «во многих отношениях удивительны», проверяющие сочли их ясными, точными, большинство из них легко понять, они используют математические абстракции, сходные с человеческими.
Браун также откровенно показал «провальные моменты» больших моделей.
Классическая головоломка: отец и сын попали в аварию, отец погиб, ребенка доставили в операционную, хирург, увидев мальчика, говорит: «Я не могу оперировать его, это мой сын». Спрашивается, как это возможно (стандартный ответ — хирург — мать мальчика). Эта задача проверяет, предполагает ли читатель по умолчанию, что хирург — мужчина. Большая модель легко справляется с этой «вирусной задачей», потому что видела ее тысячи раз в обучающих данных. Но когда Браун перевернул задачу: погибла мать, врач специально указан как «отец мальчика», и снова задал тот же вопрос, модель совершенно не заметила, что условие изменилось, и механически применила стандартный ответ «врач — другой родитель».
Браун говорит, что это раскрывает характерную «особенность», оставшуюся от способа обучения моделей.
Сотрудничество «кентавра»: ИИ пишет доказательства, с которыми математики готовы соавторствовать
Через десять месяцев после преодоления порога IMO команда Брауна завершила работу, которую он считает более значимой: настоящее, ранее неизвестное математическое исследование.
В сентябре прошлого года команда Брауна в сотрудничестве с несколькими профессиональными математиками использовала режим взаимодействия, который он называет «кентавровым» (Centaur) — кентавр в греческой мифологии это получеловек-полулошадь, а здесь «нечеловеческая половина» заменена на LLM.
Весь процесс представлял собой непрерывный диалог: модель предлагала возможные пути доказательства, эксперты-люди оценивали, какие из них ценны, направляли модель для дальнейшего углубления, и в конечном итоге под руководством человека была завершена полноценная математическая статья. Одним из соавторов статьи является профессор Стэнфордского университета, действующий президент Американского математического общества. Этот профессор дал такую оценку: аргументация, предложенная Gemini, отнюдь не является простой переупаковкой существующих доказательств, а представляет собой инсайт, которым он сам мог бы гордиться.
Браун подчеркнул, что на тот момент (конец прошлого года) это уже был наивысший уровень, которого большие модели могли достичь в математике. Но он сразу же добавил: до истинной ценности этого «наивысшего уровня» еще очень далеко.
Настоящий переломный момент: ИИ самостоятельно покоряет гипотезу, пылившуюся восемьдесят лет
В 2026 году ситуация резко изменилась — или, скорее, резко пошла вверх. Браун начал с почти провокационной шутки: «На прошлой неделе LLM еще не совершили действительно крупного математического прорыва». Теперь это утверждение уже неверно.
Это событие многие уже слышали. «Гипотеза единичных расстояний» (Unit distance problem), выдвинутая Эрдёшем в 1946 году, в течение восьмидесяти лет в математическом сообществе широко считалась решенной, причем квадратная решетка была известным оптимальным решением. Внутренняя большая модель OpenAI самостоятельно привела контрпример, используя инструменты алгебраической теории чисел, построив ряд множеств точек, количество пар с единичным расстоянием в которых превысило ранее признанный предел. Это равносильно опровержению этой давно считавшейся верной гипотезы.
Стоит отметить, что эта проблема не была непопулярной, многие пытались ее решить, но математики потратили много усилий, постоянно двигаясь в направлении «доказательства», а не «опровержения». Браун особо отметил, что лауреат Филдсовской премии Гауэрс участвовал в проверке этого результата и дал ему высокую оценку.
Браун считает, что это первый действительно значительный прорыв больших моделей в области математики, и, по его мнению, он точно не будет последним — «шлюзы открыты», и по мере того, как возможности моделей продолжают превосходить «порог, необходимый для совершения прорывов», он ожидает, что подобных результатов будет появляться все больше.
Он в шутку добавил, что оглядываясь назад, можно сказать, что эта задача была решена первой, вероятно, потому, что ее структура как раз попала в «зону комфорта» больших моделей; в дальнейшем модели сначала решат те сложные задачи, которые «дружественны к ИИ», а затем постепенно покорят те, которые «менее дружественны».
Пророчество шахмат
Чтобы убедить слушателей, что эта кривая будет продолжать расти, Браун показал график, который на первый взгляд выглядит как нарисованный от руки: непрерывно растущая вверх прямая линия. Конечно, этот график не был придуман им, а взят из реальных данных об изменении силы шахматных компьютеров со временем, где по вертикальной оси отложен рейтинг Эло, измеряющий силу игры, а по горизонтальной — год.
Браун выделил четыре этапа в истории шахматного ИИ:
Сначала была «эпоха игрушек», когда уже чудом считалось, если компьютер мог сделать один разумный ход;
Затем наступила «эпоха инструментов», когда компьютер мог быть полезен только в определенных аспектах, таких как расчет эндшпиля или запоминание дебютов;
Потом пришла «эпоха кентавров», когда сильнейшей шахматной комбинацией во вселенной было сотрудничество гроссмейстера с возможностями глубокого поиска компьютера;
А сейчас человечество полностью вступило в «эпоху сверхчеловека»: когда лучшие шахматисты сотрудничают с компьютером, оптимальная стратегия — просто позволить компьютеру играть самостоятельно.
Браун считает, что эти четыре этапа почти один к одному соответствуют этапам в области научных исследований.
Первая закономерность: при равной общей силе компьютер превосходит человека в тактике, скорости поиска, но все еще слабее в стратегии, «вкусовых» суждениях. Это как раз характерно и для нынешних больших моделей в математических и физических исследованиях: они хорошо применяют существующие леммы и приемы, не очень хорошо определяют, «в каком общем направлении двигаться», но этот недостаток быстро сокращается.
Вторая закономерность: количество партий, которые нужно «пройти» ИИ для обучения игре в шахматы, намного превышает общее количество партий, которое человек может сыграть за всю жизнь, но поскольку машина может неустанно играть с собой на высокой скорости, фактически требуемое «календарное время» намного меньше, чем время обучения шахматиста-человека.
Третья закономерность: как только сила игры компьютера превзошла пиковый человеческий уровень, она больше не останавливалась, ведь нет никаких физических или логических причин, чтобы она остановилась как раз около человеческого уровня.
Четвертый утешительный факт: расцвет шахматного ИИ, наоборот, повысил общий уровень игры шахматистов-людей, сильнейшие игроки сегодня сильнее, чем в любой исторический период, отчасти благодаря обучению у сверхсильного ИИ; а сама игра в шахматы никогда не была так популярна, как сегодня.
Намек Брауна очевиден: если научные исследования повторят эту траекторию, человечество, скорее всего, сначала встретит полностью автономных «ИИ-ученых», а затем, в некотором смысле, «ИИ-Эйнштейна»... А что произойдет потом, он признался, что это уже выходит за рамки его предсказаний.
Даже если прогресс остановится сейчас, физика уже преображена
Браун также выдвигает настораживающее «пессимистичное предположение»: что произойдет, если возможности больших моделей с сегодняшнего дня полностью остановятся в развитии?
Он прямо заявляет, что в настоящее время действительно «не работает» подход, когда модели говорят: «Пожалуйста, изобрети для меня совершенно новую теорию квантовой гравитации», скорее всего, ответ будет бессмысленным, наводящим скуку «ИИ-бредом».
Более обобщенно, у современных больших моделей все еще есть четыре явных недостатка: низкая автономность, медленная скорость обучения, слабые способности к планированию и плохая способность к исправлению ошибок.
Браун признает, что за последний год все эти четыре недостатка значительно улучшились, но ни один из них не решен полностью, и поэтому система, способная набрать максимальный балл на экзаменах для аспирантов по каждой дисциплине, все еще не могла представить результат, который можно было бы назвать «крупным прорывом».
Готовясь к этому выступлению, он даже специально изобразил это в виде «прямой линии» с вопросительным знаком, самоиронично признав, что это, возможно, единственный график во всей лекции, который «не растет непрерывно вверх». Но он также добавил, что, возможно, еще до конца 2026 года начнутся споры о том, как именно следует определять «крупный прорыв». Как оказалось, этот день наступил даже раньше, чем он сам ожидал.
Тем не менее, даже если прогресс действительно остановится на этом моменте, Браун считает, что большие модели уже способны полностью изменить облик физических исследований.
Он перечислил несколько давно устоявшихся и продолжающих совершенствоваться способов применения:
В качестве «непредвзятого личного наставника», который может в три часа ночи в любой момент ответить на пробелы в знаниях, которые физик и сам не может четко объяснить, не будя мирового эксперта;
В качестве помощника по программированию, сегодня настолько мощного, что «называть его просто помощником по программированию уже кажется немного оскорбительным», многие физические задачи, которые раньше считались «не вычислительными проблемами», теперь можно переформулировать в задачи кодирования для решения;
В качестве инструмента поиска литературы, который может прочитать всю базу статей в области и прямо сказать, была ли такая идея уже реализована; кроме того, может выступать партнером для мозгового штурма.
Браун подводит итог: ключевые преимущества больших моделей заключаются в том, что они быстры, охватывают широкий спектр, неутомимы и могут быть скопированы бесконечно. Чтобы вырастить физика, требуются десятилетия, а как только будет обучена мощная модель, можно одновременно запустить тысячи ее копий — этого уже достаточно, чтобы «кардинально изменить» эту дисциплину.
Заключение: золотой век физики
В конце лекции Браун дает свою оценку тому, «почему прогресс не остановится».
С точки зрения макроэкономики, доля инвестиций в обучение в мировом ВВП по-прежнему очень мала, и остается большое пространство для роста; с технической точки зрения, современные методы обучения больших моделей «далеко не так изощренны, как кажется». Многие очевидные, но еще не опробованные серьезно идеи по улучшению ждут своего воплощения, и в сочетании с постоянным притоком талантов и вычислительных мощностей в эту область Браун считает, что текущие архитектуры моделей и масштабы вычислительных ресурсов уже достаточны для достижения общего искусственного интеллекта, даже без новых теоретических прорывов.
Он также отвечает на давно существующий пессимистичный аргумент, что большие модели только «соответствуют шаблонам» и не могут генерировать по-настоящему новые идеи.
Мнение Брауна таково: если подняться на достаточно высокий уровень абстракции, почти все человеческие творения, которые выглядят как «крупные прорывы», по сути также являются сопоставлением с образцом в каком-то более высоком измерении. В этой области часто подтверждается профессиональная поговорка: «Эти модели просто хотят учиться», независимо от того, сколько теоретически разумных причин существует, чтобы предположить, что они не должны хорошо учиться, их результаты всегда превосходят ожидания.
Вывод Брауна: в ближайшие несколько лет мы войдем в золотой век сотрудничества человека и ИИ в формате «кентавра»: эти инструменты окажутся в руках физиков, математиков и экспертов в различных областях, чтобы вместе открыть новое возрождение в науке и математике.
А в дальнейшем, если дело действительно дойдет до «создания ИИ-Эйнштейна», то, поскольку копирование уже обученной модели почти не требует дополнительных затрат, человечество, скорее всего, вскоре получит миллиарды «сверхчеловеческих ИИ-Эйнштейнов», работающих одновременно. Это звучит как научная фантастика, но это происходит.
Браун говорит, что в долгосрочной перспективе, куда именно ИИ приведет физику, ему, как и всем остальным, трудно предсказать. Он даже считает, что постоянное повышение возможностей ИИ делает будущее всего мира все более труднопредсказуемым. Но в одном он уверен: ближайшие несколько лет станут самым захватывающим временем в истории физики. Те вопросы, которые мучили его на протяжении всей карьеры, он ожидает получить ответы в недалеком будущем.
Эта статья взята с официального аккаунта WeChat «Сердце машины» (ID:almosthuman2014), автор: интересующийся ИИ
