Раз в несколько поколений появляется новая технология, которая меняет всё.
Представьте себе 1920-е годы и электричество, приходящее в удалённый американский городок.
До появления линий электропередачи повседневная жизнь ограничивалась физическими возможностями: ношение воды, ручная стирка, сохранение еды со льдом; после захода солнца большинство занятий прекращалось. Электричество не изменило каждую семью за одну ночь, и его преимущества распределялись неравномерно.
Но по мере распространения электричества обыденная жизнь незаметно менялась. Ночное освещение удлинило день; электрические насосы, бытовые приборы и холодильники облегчили множество тяжёлых повседневных забот; радио принесло новости, музыку и эмоциональную связь из мест, удалённых на сотни миль, в дома и общественные пространства.
Изначальная цель электричества заключалась в удобстве, но его более глубокое воздействие заключалось в новых возможностях, которые люди смогли создавать по мере его доступности. Со временем возникали всё новые возможности — машины и компьютеры резко ускорили прогресс в медицине, инженерии и многих других областях.
К концу XX века средняя продолжительность жизни человека увеличилась более чем на 20 лет, а медианный доход (с поправкой на инфляцию) вырос примерно в три раза.
Эти достижения во многом стали результатом улучшений в медицине, санитарии и уровне жизни, многие из которых были вызваны или ускорены широким распространением электричества и связанных с ним технологических достижений.
ИИ переживает этот феномен заново. ИИ скоро обретёт необычайные способности. Но дело не в самой технологии, а в том, что люди смогут с её помощью делать.
Он может помочь людям разобраться в медицинском счёте, освоить новый навык, открыть небольшой бизнес, ухаживать за престарелыми родителями, понять юридическое или финансовое решение, воплотить идею в реальность или даже совершить научное открытие.
Новизна ночного освещения, возможно, быстро угаснет, но решения людей о том, как использовать этот свет, — нет. И поскольку технологии неизменно оказываются надёжным путём к процветанию, мы считаем, что ИИ должен быть открыт для всех, чтобы каждый мог использовать его по своему усмотрению, в любом месте и любым способом.
Но такое будущее не наступит само по себе.
Трансформационные технологии могут концентрировать власть, а могут её распределять; могут облегчать жизнь немногим, а могут расширять возможности для многих. Наша философия основана на убеждении: ИИ должен служить людям — помогать им достигать своих целей, усиливать их возможности и максимально широко распространять выгоды от этой технологии.
Наше первое обязательство — создавать ИИ для служения человечеству. Это означает, что мы хотим наделять возможностями широкие массы, а не концентрировать власть в руках нескольких компаний, правительств или отдельных лиц.
Мы верим, что более безопасное будущее — это будущее с широко распределённой властью, где больше людей по всему миру могут участвовать в построении устойчивой экосистемы.
Мы настроены оптимистично в отношении ИИ, потому что верим, что он способен расширить человеческие возможности и благополучие.
Но мы также ясно осознаём риски. Мощные системы должны быть безопасными, должны быть согласованы с человеческими намерениями и находиться под человеческим надзором и контролем. Миссия OpenAI — обеспечить, чтобы ИИИ (общий искусственный интеллект) приносил пользу всему человечеству. Это означает создание систем, которые помогают людям делать больше того, что они сами выбирают, а не заменяют людей.
Полная автоматизация всего — это не то будущее, которого мы хотим.
Это было бы ужасно и опасно. ИИ должен помогать людям совершенствоваться, а не заменять их. По мере роста возможностей ИИ-систем роль человека станет ещё важнее: задавать направление, взвешивать компромиссы, применять суждения и привносить в работу ценности, вкус, заботу и ответственность.
В будущем одной из ключевых задач человечества будет решать, что стоит делать.
Мы считаем, что в ближайшие годы ключевым фактором, определяющим скорость прогресса, станет способность ИИ проводить исследования ИИ.
Это крайне важно, потому что «согласование» (alignment) само по себе является сложной исследовательской задачей. Для быстрого и глубокого прогресса нашим исследователям потребуется помощь ИИ-систем для проверки идей, поиска ошибок, изучения альтернатив и совместной итерации с нами.
Однако более быстрый технологический прогресс делает человеческое суждение и общественное взаимодействие более, а не менее важными. Будущее должно формироваться людьми, институтами и обществом в целом, а не только компаниями, создающими самые мощные системы.
По мере развития передовых исследований ИИ мы ожидаем, что координация на национальном и глобальном уровнях будет становиться всё более важной.
Мы давно считаем, что в конечном итоге следует создать международную организацию для координации основных игроков в области ИИ с целью совместного снижения катастрофических рисков.
Сотрудничество и общая безопасность должны стать нормой и важной частью пути вперёд — особенно потому, что проблемы, вызванные коммерческой и государственной конкуренцией, неизбежны.
Одной из целей такой организации должно быть обеспечение возможности для мира предпринимать скоординированные действия, включая, при необходимости, замедление разработок на переднем крае, чтобы устойчивость, безопасность и возможности по согласованию общества поспевали за технологическим прогрессом.
В настоящее время у OpenAI есть три ключевые цели:
Создать автоматизированного исследователя ИИ — систему ИИ, способную ускорять и всё больше автоматизировать сам процесс исследований, оставаясь при этом управляемой, подотчётной и тесно связанной с человеком.
По нашей внутренней оценке, к марту 2028 года значительная часть наших исследований может выполняться системами ИИ совместно с нашими собственными исследователями.
Чтобы добиться достаточного прогресса в исследованиях по согласованию, мы считаем, что нам нужен ИИ для совместной итерации. Это поможет нам совместно пройти переход к «миру после ИИИ» и позволит нам коллективно решать, каким путём идти в будущее.
Ускорить экономическое развитие — за счёт ускорения научного прогресса, повышения производительности и стимулирования экономического роста, одновременно стремясь к тому, чтобы результаты были широко распределены.
У каждого должен быть шанс получить значительную долю в процветании, созданном ИИ.
Предоставить персональный ИИИ каждому человеку на планете — дать каждому возможность извлечь пользу из одной из самых преобразующих технологий человечества тем способом, который он выберет сам.
Чтобы всего этого достичь, мы вступаем в третью фазу OpenAI.
Первая фаза OpenAI была посвящена исследованиям, связанным с ИИИ.
Вторая фаза началась, когда наши исследования начали взаимодействовать с реальным миром, и мы стали продуктовой компанией: внедряли наши системы, учились на том, как люди их используют, и продвигались к ИИИ с учётом безопасности и соответствия миссии.
Сейчас мы переходим в третью фазу.
Экономика трансформируется вокруг ИИ. Ключевой вопрос стал следующим: как сделать передовой ИИ изобильным, доступным по цене, безопасным, практичным и достаточно простым в использовании, чтобы каждый человек и организация могли получить от него пользу.
Передовые возможности — это только часть работы; более масштабная задача — превратить эти возможности в инструменты, которые люди действительно смогут использовать для создания и развития.
Самое главное, мы верим, что широкое распределение власти поможет прийти к лучшему будущему. История человечества показывает, что концентрация власти делает общество хрупким, а широкое разделение власти делает общество более устойчивым, адаптивным к изменениям и свободным.
Именно поэтому так важна повсеместная доступность, а также безопасность, конфиденциальность, доступность по цене, открытая экосистема и общественный надзор.
Прекрасное будущее с ИИ не должно быть будущим, где немногие институты контролируют большую часть возможностей и выгод.
Оно должно быть будущим, где многие люди, множество предприятий, сообщества по всему миру и разные страны могут строить, получать выгоду и обладать властью. Мы верим, что эта трансформация должна принадлежать всем.
Если мы всё сделаем правильно, ИИ может стать краеугольным камнем для повышения производительности, креативности, научного прогресса и экономических возможностей для широких масс, и мы выполним нашу миссию: обеспечить, чтобы ИИИ приносил пользу всему человечеству.
