Только что нобелевский лауреат, руководитель DeepMind Демис Хассабис убедительно заявил:
Осуществление Общего Искусственного Интеллекта (AGI) уже близко.
Хассабис заявил:
Разработка лекарств больше не потребует десятилетних проб и ошибок, новые источники чистой энергии могут быть созданы за несколько лет, передовые материалы сделают «дефицит ресурсов» понятием прошлого.
Мы даже можем достичь такого момента — ресурсы перестанут быть ограничивающим фактором для прогресса человечества.
Новая, удивительная эпоха изобилия стучится в дверь.
Он прямо заявил: Сейчас — ключевой момент в истории человечества, AGI может быть осуществлён всего за несколько лет!
Хассабис привёл пугающее уравнение: Масштаб влияния AGI будет в 10 раз больше промышленной революции, и скорость тоже будет в 10 раз выше.
Это «удар по низшему измерению». Это означает, что человечество стоит на пороге эпохи сотрясений со скоростью в 100 раз выше.
На фоне таких радикальных предсказаний Хассабис выдвинул свою самую спорную идею: создать организацию, подобную FINRA (Регуляторный орган финансовой индустрии), которая потребует от всех «передовых лабораторий» проходить 30-дневный «период предварительной проверки» перед выпуском модели.
В крайних случаях этот орган даже может иметь право координировать глобальные лаборатории для совместного замедления темпов разработки.
Но Хассабис на этом не остановился.
Он расширил фокус и указал на самые глубокие проблемы человечества: «Даже если мы решим эти сложные технические проблемы, останутся ещё более сложные экономические и философские вопросы, требующие решения.»
В эпоху после дефицита, какие новые экономические модели понадобятся, чтобы помочь всем процветать вместе? Какие ценности мы хотим исповедовать? Где будут находиться смысл и цель? И даже, как изменится само положение человека?
Далее следует перевод статьи Хассабиса — «Рамки для передового ИИ и рассвет новой эры» («A Framework for Frontier AI and the Dawning of a New Age»).
Рамки для передового ИИ и рассвет новой эры
Это ключевой момент в истории человечества.
Общий Искусственный Интеллект (AGI) — система, обладающая всеми когнитивными способностями человеческого мозга, может оказаться на расстоянии всего нескольких лет. Оглядываясь на этот момент десятилетия спустя, я думаю, мы поймём: мы стояли тогда у подножия сингулярности, и сказать, что это рассвет новой эры для человечества, будет не преувеличением.
Всю свою жизнь я изучал AGI, потому что всегда был глубоко убеждён: если его ответственно построить и внедрить, он окажется одной из самых полезных и преобразующих технологий за всю историю человечества. AGI нельзя сравнивать с обычным технологическим прорывом, даже с такими влиятельными технологиями, как интернет или мобильный интернет — это скорее момент, подобный открытию электричества или освоению огня.
Задумайтесь на секунду: по сути, мы нашли способ заставить песок мыслить. Это чудо.
Влияние этой технологии будет беспрецедентным по масштабу — возможно, в 10 раз больше, чем у промышленной революции, и развернётся оно в 10 раз быстрее. Она поможет нам решить некоторые из самых серьёзных проблем, стоящих перед обществом: от ускорения разработки новых лекарств до создания новых видов чистой энергии и новых передовых материалов.
Мы можем даже достичь такого момента: ресурсы перестанут быть ограничивающим фактором для прогресса человечества, и начнётся новая удивительная эпоха изобилия.
Вызовы на передовой
ИИ уже начал приносить реальные выгоды, но чтобы реализовать его огромный потенциал, мы должны пройти этот ключевой период развития продуманно и осторожно. По мере приближения к AGI необходимо срочно принять меры для решения связанных с ним рисков.
Мы уже увидели вызовы, которые передовые модели представляют для кибербезопасности; и по мере продолжения роста способностей могут вскоре проявиться и другие угрозы, включая ядерные и биологические риски. Заглядывая дальше, нам также потребуются мощные меры защиты для сохранения контроля над всё более агентными, способными к рекурсивному самоулучшению системами — и для решения неизвестных проблем, которые будут проясняться только со временем.
Я всегда верил, что человеческий интеллект и творческий потенциал способны решить любую проблему. Я уверен, что решение технологических рисков, связанных с ИИ, — это задача, с которой мы можем справиться вместе. Но для этого нам нужно дать себе время и пространство, чтобы правильно сделать следующий, решающий шаг. И в данный момент мы, как отрасль и как более широкое общество, этого не делаем.
Сейчас мы погружены в необычайно жёсткое, многослойное соревнование — коммерческое и геополитическое. Хотя эта конкурентная динамика подстёгивает быстрый прогресс и ускоряет получение удивительных выгод, темпы развития на передовой опережают наше понимание самой этой технологии.
Никто в мире не может с уверенностью сказать, что произойдёт дальше, даже эксперты расходятся во мнениях. Когда неопределённость настолько велика, а ставки так высоки, мудрой и правильной стратегией является движение вперёд «с осторожным оптимизмом». Это требует от государственной политики: стимулировать инновации, одновременно поощряя ответственность и безопасность; содействовать международному сотрудничеству по ключевым вопросам безопасности; и побуждать все стороны обдумывать, как следует внедрять ИИ, чтобы он служил на благо общества.
«Орган по стандартам передового ИИ»: рамки
Стремительное развитие ИИ сегодня требует от нас тестировать способности передовых моделей ИИ новым способом — динамичным, гибким и строгим.
У Соединённых Штатов есть все условия, чтобы сделать первый шаг и первыми установить такие рамки: создать новый «Орган по стандартам» (Standards Body) по образцу модели государственно-частного партнёрства под федеральным надзором или саморегулируемой организации отрасли — подобно FINRA — в совет директоров которого должны войти независимые ведущие технические эксперты и представители сообщества open-source.
Финансирование должно быть значительным и, скорее всего, в основном от индустрии, чтобы привлечь специалистов мирового уровня и обеспечить необходимые вычислительные ресурсы для масштабного тестирования.
Модель, достигающая определённого порога в наборе тестов, установленных органом по стандартам, будет признана «передового уровня» (Frontier-class); этот набор тестов будет регулярно обновляться в соответствии с эволюцией возможностей ИИ.
Организации, создавшие модель, признанную «передовой» согласно этим тестам, будут считаться «передовыми лабораториями» (Frontier Labs), и им будет рекомендовано принять ряд лучших практик, например: публиковать карточку модели (model card) с техническими деталями, поддерживать сильную внутреннюю кибербезопасность, проводить проверку биографических данных ключевого персонала, выделять достаточные ресурсы на исследования в области безопасности и защиты, и т.д.
На начальном этапе передовые лаборатории будут добровольно передавать свои модели в орган по стандартам для проверки за 30 дней до их выпуска. Как только процедуры оценки докажут свою эффективность и надёжность, их можно будет быстро формализовать.
На этом этапе передовые модели должны будут проходить оценку, прежде чем их можно будет внедрять на рынок США. Лаборатории также должны будут сотрудничать с органом по стандартам для устранения любых серьёзных уязвимостей, обнаруженных после выпуска модели.
Оценка модели должна включать строгие научные тесты на способности в таких областях высокого риска, как кибербезопасность, биологические угрозы и другие.
Специальные тесты для агентного ИИ могут проверять, пытается ли модель обойти защитные ограничения, проявляет ли признаки обмана, а также гарантировать внедрение лучших практик. Например, добавление цифровых водяных знаков к изображениям, созданным ИИ, и генерация читаемых человеком выходных токенов для понимания процесса рассуждения модели.
Эти тесты будут регулярно обновляться: на начальном этапе, возможно, ежеквартально; устаревшие или уже «насыщенные» (набирающие максимальные баллы) тесты будут заменяться.
Первоначально тесты могут разрабатываться совместно с передовыми лабораториями; но в конечном итоге орган по стандартам должен развить собственные технические возможности, независимо от лабораторий, для создания «закрытых тестовых наборов» (held-out tests), чтобы предотвратить переобучение моделей на тестах.
Он также может работать с правительством, чтобы создать экосистему сторонних аудиторских организаций, которые будут помогать в проведении оценок и участвовать в создании новых тестов и эталонов.
Преимущество этого подхода в том, что он основан на технологиях, одновременно поддерживая инновации и поощряя ответственное поведение. Он изначально спроектирован так, чтобы успевать за ускорением в этой области и адаптироваться по мере выявления наиболее серьёзных рисков; его можно постепенно ужесточать, если степень серьёзности ситуации этого потребует, включая, при необходимости, координацию действий всех передовых лабораторий для согласованного замедления темпов разработки.
Признание в качестве «передовой лаборатории» станет важным престижным моментом, и эти двери открыты для любой организации, создавшей модель, соответствующую стандартам. Эта структура может применяться к любым моделям «передового уровня», независимо от страны происхождения, открытого или закрытого исходного кода; при этом все непередовые модели, например, от стартапов или академических кругов, могут быть освобождены от этой процедуры.
Поскольку эта технология в конечном итоге повлияет на всю планету, в идеале эти рамки могут способствовать достижению международного консенсуса о том, как управлять наиболее серьёзными рисками, одновременно обеспечивая, чтобы каждый мог получить доступ к возможностям ИИ и воспользоваться ими.
Будущее ещё не написано
AGI обладает потенциалом стать окончательным инструментом для продвижения науки и медицины и привести к огромному скачку производительности и экономическому росту.
Но чтобы добиться этого, мы должны сначала заложить технический фундамент: действовать согласованно в рамках общей глобальной структуры, используя самые строгие научные методы, объединяя лучшие умы для решения стоящих перед нами задач.
Даже если все эти сложные технические проблемы будут решены, нас ждут ещё более сложные экономические и философские вопросы:
В мире «после дефицита», какие новые экономические модели потребуются, чтобы все могли процветать? По каким ценностям мы хотим жить? Где будут находиться смысл и цель? И даже, как изменится само «человеческое состояние»?
Ответы на эти вопросы, очевидно, не могут и не должны быть предоставлены только техническим специалистам. Они требуют, чтобы все части общества объединились, чтобы вместе определить эту новую главу.
Вокруг ИИ существует огромное волнение и огромная неопределённость — и то и другое оправдано.
Но будущее ещё не написано. Мы должны использовать это драгоценное окно до прихода AGI, чтобы сформировать эту технологию как силу для блага всего человечества. То, что мы делаем сейчас вместе, определит, как развернётся следующая стадия цивилизации. Безопасно проводив AGI в этот мир, мы сможем вступить в новый золотой век научных открытий и прогресса, в светлое будущее беспрецедентного процветания человечества.
Ссылки:
https://x.com/demishassabis/status/2076957440109625718?s=20
Эта статья взята с официального аккаунта WeChat «Xin Zhi Yuan», автор: Давид Соломон
