Если кто-то скажет вам, что ИИ общего типа (ИОТ) уже достигнут, как вы определите, говорит ли он правду или хвастается?
В секретном соглашении, раскрытом OpenAI и Microsoft, этой мерой стала финансовая отчётность — ИИ-система, способная приносить не менее 100 млрд долларов прибыли, считается ИОТ. Во рту у Цзэн Жэньсюня этой мерой стало время — обязательно появится в течение пяти лет; Илон Маск неоднократно делал предсказания о «достижении в следующем году».
То, что лидеры отрасли говорят каждый своё, коренится не в том, кто лжёт, а в том, что у самого понятия ИОТ нет общепризнанной мерки. Как сказал в своей статье Беннетт, независимо мыслящий исследователь в области ИОТ, ИОТ из-за спекуляций и домыслов превратился в «тест Роршаха» — каждый видит лишь собственное представление, а не объективный факт; а учёный из Института Санта-Фе Мелани Митчелл считает, что эту дискуссию можно прояснить только путём долгосрочных научных исследований. (Адрес статьи: https://arxiv.org/pdf/2503.23923)
Это самая абсурдная дилемма, с которой сегодня сталкивается индустрия ИИ: мы мчимся на полной скорости, преследуя цель, у которой даже не начерчена финишная черта.
2025: кто заново чертит стартовую линию для ИОТ?
Столкнувшись с таким вакуумом определений, академическое сообщество в 2025 году начало активно «заполнять пробелы». Бенджио и другие учёные подчеркивают «многофункциональность» и «мастерство»; DeepMind предлагает «распределённый ИОТ», пытаясь разрушить миф о едином всемогущем агенте.
Но Майкл Тимоти Беннетт, исследователь из Австралийского национального университета, в статье, загруженной на arXiv в конце марта, дал провокационный и в то же время самый точный ответ.
Он указал, что предыдущие определения, ходя по кругу, всё ещё зациклены на сравнении с «образованным взрослым человеком». Беннетт принимает определение интеллекта учёного Пэй Вана — рассматривая интеллект как способность к адаптации при ограниченных ресурсах — фундаментально выходит за рамки концепции «похожести на человека» и определяет ИОТ как «искусственного учёного».
Он предлагает, что настоящий ИОТ должен быть системой, способной, подобно человеческому учёному, широко, эффективно и научно адаптироваться к новым средам и задачам в рамках реальных ограничений по вычислениям, памяти и энергии.
Скрытый смысл этой фразы таков: стандарт оценки ИОТ должен заключаться не в том, насколько хорошо он имитирует человека, а в том, насколько сильна его способность «открывать новое знание».
Почему срочно нужна новая мерка? Потому что старые мерки — тест Тьюринга и тесты на основе человеческих эталонов — уже сокрушены большими моделями, но мы всё дальше от истинного общего интеллекта.
В 2025 году, если вы спросите у передовой большой модели, «что больше: 9.11 или 9.9», она всё ещё может с уверенностью сказать вам, что 9.11 больше, потому что 11 больше 9. При решении сложных доказательств математических неравенств, даже если большая модель угадает правильный ответ, процесс рассуждений часто оказывается логически несостоятельным.
Беннетт метко указал на причину болезни: текущие большие модели идут по пути «максимизации масштаба для аппроксимации» — используют огромные объёмы данных и вычислительные мощности, чтобы заранее сохранить приблизительные ответы на различные задачи в весах сети. Как только они сталкиваются с проблемой вне распределения обучающих данных, они сразу же выдают себя.
Что ещё более критично, у больших моделей нет «активных способностей». Они не могут активно ставить эксперименты для проверки гипотез, не могут автономно выстраивать причинно-следственные цепочки, и не могут взвешивать компромисс между «продолжением исследования» и «использованием известного».
Возвращаясь к сравнению 9.11 и 9.9 — большая модель не не умеет считать, а просто у неё нет построенной причинно-следственной модели сравнения чисел. Она лишь использует вероятность, чтобы угадать тот фрагмент текста, который она видела и который наиболее похож.
Пропасть между «способностью к имитации» и «способностью к адаптации» — это именно то, что новый стандарт ИОТ хочет измерить.
Новая шкала интеллекта: разбор «искусственного учёного»
Эта система стандартов Беннетта заслуживает внимания потому, что он свел ИОТ с расплывчатой философской проблемы до измеряемой инженерной задачи.
По его мнению, поведение настоящего ИОТ должно идеально соответствовать исследовательской парадигме человеческого учёного:
Во-первых, от «марионетки» до «активного экспериментатора».
Сегодняшний ИИ — абсолютно пассивный ученик, который может только «смотреть» на данные, которые ему скармливает человек. Но учёный — нет. Если учёный окажется запертым в незнакомой комнате, он не будет стоять на месте в ожидании информации, а пойдёт толкать дверь, тянуть ручку, проверять окна — это и есть «активный эксперимент». Настоящий ИОТ должен уметь автономно планировать эксперименты, получая ключевую информацию через активное взаимодействие.
Во-вторых, от «знания, что» к «знанию, почему».
Это самое большое слабое место современного ИИ. Большие модели — крайние «корреляционные ученики». Они знают, что «дождь» часто сопровождается «мокрой землёй», но не знают, что вызывает что. Только понимая причинно-следственные связи, можно понять, что когда ясно и солнечно, но земля мокрая, следует сделать вывод о проезде поливальной машины, а не о приближающемся дожде. Без причинного понимания ИИ всегда будет крутиться только внутри распределения обучающих данных, что не имеет ничего общего с «универсальностью».
В-третьих, хождение по канату между «исследованием» и «использованием».
Если только исследовать, но не использовать, то, сколько бы знаний ни было освоено, они не решат насущную проблему; если только использовать, но не исследовать, то при изменении среды окажешься беспомощным. ИОТ должен динамически балансировать это противоречие в условиях ограниченных ресурсов — знать, чего он не знает, и соответственно распределять вычислительные мощности.
Кроме того, Беннетт добавляет измерение с сильным чувством реальности: ограничение по энергии. Включение «энергии» в определение означает, что он проводит чёткую границу: настоящий интеллект — это не обладание безграничными ресурсами, а элегантная адаптация в условиях ограниченных ресурсов. ИИ, которому для решения новой проблемы требуется потреблять энергию целой атомной электростанции, — это всего лишь дорогой калькулятор, а не ИОТ.
Сброс пути к ИОТ: прощание с единственным Scaling Law
Основываясь на указанной выше структуре, Беннетт разбивает современные мета-методы построения интеллектуальных систем на три категории:
Scale-maxing (максимизация масштаба): Текущий основной путь больших моделей, безудержное наращивание параметров, данных и вычислительной мощности. Но узкое место уже проявляется: крайне низкая эффективность выборок и энергии.
Simp-maxing (максимизация простоты): Стремление к предельной простоте структуры модели, вера в бритву Оккама. Но простота — это свойство формы, а не функции — «наиболее простое» в разных машинах Тьюринга может быть совершенно разным, что затрудняет избежание ловушки субъективности.
W-maxing (максимизация ослабления ограничений): Максимально возможное ослабление функциональных ограничений, позволяя системе самостоятельно находить оптимальное решение. Эксперименты показывают, что один только W-maxing может повысить скорость обобщения на 110%-500% в определённых задачах, но для этого требуется поиск в бесконечном пространстве аппаратных конфигураций, что делает оптимизацию чрезвычайно сложной.
Вывод Беннетта предельно ясен: несмотря на то, что Scale-maxing в настоящее время абсолютно доминирует, ИОТ отнюдь не может быть достигнут грубой силой одного пути; это обязательно будет слияние нескольких мета-методов.
Если определение «искусственного учёного» получит широкое признание, индустрия ИИ столкнется с глубоким сдвигом парадигмы.
Критерии оценки кардинально изменятся. Нам больше не нужно смотреть, на сколько баллов большая модель снова обогнала других в рейтингах человеческих экзаменов, а нужно создать набор «адаптационных тестов»: бросить ИИ в неизведанную физическую среду и посмотреть, сможет ли он обнаружить закономерности при ограниченном взаимодействии; дать ему новую игру и посмотреть, сможет ли он понять правила быстрее человека; или даже заставить его решать реальные научные проблемы, чтобы увидеть, сможет ли он автономно выдвигать гипотезы и разрабатывать эксперименты для их проверки. Ядром станет не «сколько ты знаешь», а «сколько ты можешь открыть».
Технологические пути также сместятся вслед за этим. Один лишь Scaling Law скоро достигнет потолка, потому что пассивно получаемые данные не могут накормить причинность. Поиск и аппроксимация, максимизация масштаба и ослабление ограничений — достижение ИОТ обязательно будет слиянием различных инструментов и мета-методов, а не продолжением единственного пути.
Статья Беннетта важна не потому, что он дал окончательный ответ на вопрос об ИОТ, а потому, что он протёр одно из пятен на этом размытом зеркале под названием «интеллект». Он позволил нам увидеть, что достижение ИОТ — это не линейная итерация больших моделей, а сброс пути.
Каким же в итоге должен быть ИОТ? Ответ не в тех диалогах, которые становятся всё больше похожи на человеческие, а в способности активно задавать вопрос «почему» и собственными силами проверять ответы. Когда ИИ действительно выйдет из тумана «теста Роршаха», он перестанет быть просто имитацией человеческого облика и обретёт дух учёного. (Эта статья впервые была опубликована в приложении TMT Post, автор | Silicon Valley tech news, редактор | Чжао Хунъюй)
