Что будет следующим этапом в развитии искусственного интеллекта, если искусственный общий интеллект (ИОИ) будет создан уже завтра?
Исследовательская группа Google DeepMind и их коллеги в последнем отчёте высказали мнение, что ИОИ, вероятно, не является конечной целью. По их мнению, ИИ не остановится на уровне, близком к человеческому, а продолжит становиться сильнее, превосходя даже лучшие коллективы экспертов-людей, и в конечном итоге двинется в направлении искусственного суперинтеллекта (ИСИ).
Как писал Алан Тьюринг ещё в 1950 году: «Мы можем видеть только на небольшое расстояние вперёд, но видим, что там предстоит выполнить огромный объём работы».
В этом отчёте исследовательская группа систематизирует четыре потенциальных пути перехода ИИ от ИОИ к ИСИ, возможные ключевые узкие места и наиболее перспективные направления для исследований.
Ссылка на статью: https://arxiv.org/abs/2606.12683
Исследовательская группа заявила, что из-за значительной неопределённости в прогнозировании прогресса ИСИ в настоящее время нельзя исключить возможность ускоренного развития ИИ в ближайшие несколько лет. Это может означать, что картина «единственного трансформационного скачка», связанного с внедрением ИОИ человеческого уровня в общество, возможно, не совсем точна.
Более реалистичная перспектива может заключаться в том, что прогресс и прорывы, движимые ИИ, будут появляться последовательно во многих областях науки и техники, вызывая тем самым ряд трансформационных социальных изменений.
Для подготовки к такому сценарию необходимо реализовать крупномасштабный междисциплинарный проект с глобальным видением и широким охватом.
После ИОИ — ИСИ
Прежде чем обсуждать, как ИИ будет становиться сильнее, исследовательская группа сначала разграничила три часто смешиваемых понятия: ИОИ, ИСИ и УИИ (Универсальный ИИ).
ИОИ (Искусственный Общий Интеллект): универсальная интеллектуальная система, достигающая медианного человеческого уровня в большинстве когнитивных задач. Соответствует общим когнитивным способностям обычного человека, а не уровню ведущих экспертов. Исследовательская группа также отметила, что системы первого поколения ИОИ, возможно, уже превосходят человека в некоторых задачах, просто они ещё не обладают достаточной широтой обобщения.
ИСИ (Искусственный Суперинтеллект): Это не система, превосходящая человека лишь в немногих задачах, а интеллект, который в целом превосходит человека почти во всех значимых для человека областях; его референтной точкой является не отдельный эксперт, а крупный, хорошо скоординированный коллектив экспертов-людей.
УИИ (Универсальный Искусственный Интеллект): Теоретический предел машинного интеллекта, формализованный в рамках модели AIXI. AIXI соответствует теоретически оптимальному универсальному агенту. Реальные системы ИИ могут лишь постепенно приближаться к этому пределу, но не достичь его напрямую.
В то же время исследовательская группа указала, что переход от ИОИ к ИСИ может происходить не по одному пути. Они предложили четыре возможных пути, которые могут развиваться параллельно, как показано ниже:
Путь первый: дальнейшее масштабирование вычислений, моделей и данных
Этот путь продолжает базовую логику прогресса ИИ за последнее десятилетие, включая более мощное оборудование, более крупные тренировочные прогоны, более высокую алгоритмическую эффективность, более крупные модели и больше данных. Исследовательская группа отметила, что «эффективная вычислительная мощность» примерно эквивалентна 10-кратному росту в год. Следуя этому пути, улучшение ИИ будет происходить не только за счёт усиления отдельных моделей, но и за счёт расширения коллективных возможностей благодаря большему количеству экземпляров, более быстрому выводу и более масштабному сотрудничеству.
Путь второй: дальнейшая эволюция алгоритмов, возможно, даже новый сдвиг парадигмы
Исследовательская группа указала, что более длинный контекст, непрерывное обучение, усиление поиском, использование инструментов, устойчивое принятие решений в интерактивной среде, модели мира — всё это относится к расширению существующей парадигмы; в то время как новые архитектуры, цели обучения или механизмы обучения ближе к подлинной смене парадигмы. Исследовательская группа не стала конкретно прогнозировать, в чём будет заключаться следующий сдвиг парадигмы, но считает, что он всё же может стать важным источником устойчивого прогресса ИИ после достижения ИОИ.
Путь третий: рекурсивное самоулучшение
Более мощный ИИ может помочь в разработке следующего, ещё более мощного ИИ, создавая положительную обратную связь. Исследовательская группа упомянула, что этот механизм может проявляться в улучшении алгоритмов и кода, проектировании оборудования, генерации и отборе данных, а также в повышении эффективности разделения труда. Примером может служить AlphaZero, где сначала поиском улучшают вывод, а затем результат дистиллируют обратно в модель. Важнее то, до какого уровня эта положительная обратная связь сможет развиться в реальности.
Путь четвёртый: координация множества агентов и коллективный интеллект
Этот путь фокусируется не на том, насколько сильной станет отдельная модель, а на том, как множество систем ИОИ через разделение труда и сотрудничество смогут сформировать коллективный интеллект, превышающий пределы отдельного агента. Исследовательская группа рассматривает такие формы, как автоматизированные компании, исследовательские организации и виртуальные экономические системы, как возможные проявления этого пути. Согласно этому пути, ИСИ может быть не одной сверхсильной моделью, а высококоординированным коллективом ИИ.
Исследовательская группа также предупреждает, что движение от ИОИ к ИСИ не обязательно подразумевает «чем больше вычислительных мощностей, тем лучше». Безусловно, расширение вычислительных мощностей важно, но вскоре оно упрётся в ресурсный потолок, и потребуются новые алгоритмические идеи, даже новая парадигма. Более важно отметить, что даже если отдельные системы ИОИ будут лишь близки к человеческому уровню, большое количество систем ИОИ, способных эффективно разделять задачи и сотрудничать, могут в совокупности превзойти человечество.
В чём же настоящая сложность?
Обсудив четыре потенциальных пути, исследовательская группа также выделила шесть типов ключевых узких мест, которые могут повлиять на дальнейшее усиление ИИ. Конкретно:
1. Стена данных
Исследовательская группа отмечает, что высококачественных данных, генерируемых людьми, ограниченное количество. Данные человеческого текста, подходящие для крупномасштабного предварительного обучения, возможно, приблизятся к своему пределу в текущем десятилетии. Смогут ли синтетические данные, данные симулированных сред, а также данные, генерируемые в результате взаимодействия ИИ с реальным миром, достаточно быстро восполнить этот пробел, исследовательская группа не делает однозначных выводов, а указывает это как одну из ключевых неопределённостей.
2. Экономическое и природно-ресурсное давление
Если прогресс ИИ продолжит в основном зависеть от масштабирования, то должны синхронно расти затраты на энергию, чипы, дата-центры, цепочки поставок и капитальные вложения. Исследовательская группа считает это реальным ограничением, но также указывает, что сам ИИ может повышать экономическую отдачу, улучшать алгоритмическую и аппаратную эффективность, тем самым смягчая это давление.
3. Существующая парадигма нейронных сетей может оказаться недостаточной
Исследовательская группа не исключает возможности движения к ИСИ по текущему пути, но предупреждает, что этот путь может иметь фундаментальные ограничения в таких вопросах, как непрерывное обучение, устойчивый вывод, интерактивное принятие решений, представление неопределённости, а также галлюцинации и инъекции промптов.
4. Сами исследования будут становиться всё сложнее
Исследовательская группа отмечает, что по мере созревания области для продолжения прогресса часто требуются всё большие вложения; сможет ли ИИ за счёт автоматизации исследований компенсировать эту тенденцию, покажет будущее.
5. Барьер абстракции
По мнению исследовательской группы, если современный ИИ в основном изучает понятия и символические системы, уже сформированные человеком, он, возможно, хорошо умеет комбинировать существующие понятия, но не обязательно способен самостоятельно извлекать новые концептуальные примитивы из сырого мира. Например, если современная большая модель обучается только на знаниях до-ньютоновской эпохи, она почти наверняка не сможет самостоятельно вывести общую теорию относительности или квантовую механику, основываясь только на этом материале.
6. Регулирование, управление и общественная реакция
Исследовательская группа считает, что регуляторные пороги, лицензионные требования, требования к отчётам об инцидентах, а также общественная реакция на происшествия будут влиять на темпы расширения возможностей ИИ. За этим стоят не только технические вопросы, но и политика, институты, рынки и восприятие риска общественностью.
Недостатки и будущее развитие
Наконец, исследовательская группа задаёт очень практический вопрос: Если ИИ уже превзошёл человека, как нам дальше оценивать его способности?
Сейчас многие тестовые наборы (бенчмарки) используют человеческий уровень в качестве ориентира. Как только ИИ в таких областях, как экзамены, программирование, математика, вопросы-ответы и тесты профессиональных знаний, приблизится или превзойдёт лучших людей, существующие оценочные показатели могут потерять смысл. Следовательно, в будущем необходимо создать новую систему оценки и прогнозирования для эпохи после ИОИ, включающую такие задачи, как соревнование и кооперация множества агентов, автоматическая генерация тестов, задачи универсального сжатия, экономическая производительность и другие косвенные показатели, а также механизмы оценки, способные постоянно обновляться и не насыщаться преждевременно.
Однако, по содержанию, это не экспериментальная статья, а скорее технический отчёт, посвящённый эпохе после ИОИ. Исследовательская группа указывает, что в будущем стоит обратить внимание на такие направления, как: дальнейшее масштабирование существующих систем ИОИ, исследование новых парадигм ИИ, реализация рекурсивного самоулучшения систем, а также формирование более сильных общих возможностей через крупномасштабное сотрудничество множества агентов.
В заключение исследовательская группа отмечает, что ИСИ также не будет всемогущей «волшебной системой», он всё равно будет ограничен физическими законами, вычислительной сложностью, данными, ресурсами, временем экспериментов и скоростью обратной связи от реальности. По какому пути пойдёт развитие ИИ и с какой скоростью, в настоящее время остаётся крайне неопределённым. В будущем по-прежнему необходимо создавать постоянно обновляемые эталоны, прогнозные и исследовательские механизмы, чтобы снизить неопределённость в оценках.
Эта статья взята с официального аккаунта WeChat «Академический заголовок» (ID: SciTouTiao), автор: Академический заголовок
