AGI не конец: новая работа DeepMind — на пути к ASI, настоящий прогресс ИИ только начинается
Если завтра будет достигнут искусственный общий интеллект (AGI), что дальше? Исследователи из Google DeepMind утверждают, что AGI — не конечная цель. AI продолжит развиваться, превзойдя лучшие коллективы экспертов-людей и двигаясь к искусственному сверхразуму (ASI).
В докладе определены три ключевых понятия: AGI (уровень среднего человека во многих задачах), ASI (превосходство над человечеством практически во всех значимых областях) и теоретический предел UAI.
Предложены четыре возможных пути перехода от AGI к ASI:
1. **Масштабирование**: Увеличение вычислительных мощностей, размеров моделей и объёмов данных.
2. **Эволюция алгоритмов**: Усовершенствование существующих методов (длинный контекст, использование инструментов) или смена парадигмы.
3. **Рекурсивное самоулучшение**: Более мощный AI помогает создавать ещё более мощные следующее поколение систем.
4. **Координация множества агентов**: Коллективный интеллект множества систем AGI, превосходящий возможности одиночных агентов.
Также выделены шесть потенциальных препятствий:
1. **Ограниченность данных**: Исчерпание высококачественных данных, созданных человеком.
2. **Экономические и ресурсные ограничения**: Энергия, чипы, капитал.
3. **Ограниченность парадигмы нейросетей**: Проблемы с постоянным обучением, рассуждениями, "галлюцинациями".
4. **Усложнение исследований**: Прогресс требует всё больше усилий.
5. **Барьер абстракции**: Сложность самостоятельного открытия принципиально новых концепций.
6. **Регулирование и общественная реакция**.
После преодоления человеческого уровня текущие методы оценки (бенчмарки) теряют смысл. Необходимы новые системы тестирования, такие как задачи на взаимодействие множества агентов, автоматическая генерация тестов или косвенные показатели (производительность).
ASI не будет всемогущим — его ограничивают законы физики, вычислительная сложность и доступные ресурсы. Траектория и скорость развития остаются неопределёнными, требуя создания механизмов для постоянного прогнозирования и исследований.
marsbit06/16 12:04
