Автор: Сэм Альтман
Перевод: Deep Tide TechFlow
Введение от Deep Tide: Кто-то бросил зажигательную смесь в дом Сэма Альтмана в 3:45 ночи. Он редко публикует семейные фотографии, но надеется, что это остановит следующего нарушителя. Эта статья — не просто жалоба на нападение; впервые он подробно излагает свои взгляды на ИИ: ИИ должен быть демократизирован, несколько лабораторий не должны решать будущее человечества, а искушение «увидеть ОИИ и не иметь возможности вернуться назад» наполняет эту область шекспировскими драматическими конфликтами.
Это фото моей семьи. Я люблю их больше всего на свете.
Я надеюсь, что изображение обладает силой. Обычно мы сохраняем конфиденциальность, но в этой ситуации я делю фото в надежде, что это может остановить следующего человека от броска зажигательной смеси в наш дом, независимо от того, что они думают обо мне.
Первый человек сделал это прошлой ночью, в 3:45. К счастью, она отскочила от дома, и никто не пострадал.
Слова тоже обладают силой. Несколько дней назад вышла провокационная статья обо мне. Вчера кто-то сказал мне, что, по их мнению, эта статья появилась в момент сильной тревоги людей об ИИ, что сделало мою ситуацию более опасной. Тогда я не придал этому значения.
Сейчас я проснулся среди ночи, разозлённый, и думаю, что недооценил силу слов и нарратива. Кажется, это хорошее время, чтобы поговорить о нескольких вещах.
Во-первых, мои убеждения.
Стремление к процветанию для всех, расширение возможностей каждого, продвижение науки и технологий — для меня это моральный долг.
ИИ станет самым мощным инструментом для расширения человеческих способностей и потенциала. Спрос на этот инструмент практически безграничен, люди будут делать с ним невероятные вещи. Мир должен обладать огромным количеством ИИ, и мы должны понять, как этого достичь.
Не всё пойдет гладко. Страх и тревога по поводу ИИ обоснованы; мы наблюдаем, пожалуй, самые большие изменения в обществе за долгое время, если не за всю историю. Мы должны обеспечить безопасность, и это не просто выравнивание модели — нам срочно нужен общественный ответ на новые угрозы. Это включает новую политику, чтобы помочь пережить сложный экономический переходный период и достичь лучшего будущего.
ИИ должен быть демократизирован; власть не должна быть слишком сосредоточена. Контроль над будущим принадлежит всем людям и их институтам. ИИ должен расширять возможности личности, и нам нужно коллективно решать наше будущее и новые правила. Я не считаю правильным, чтобы несколько лабораторий ИИ принимали самые важные решения о нашей будущей форме.
Способность адаптироваться крайне важна. Мы все очень быстро учимся новому; некоторые наши убеждения окажутся верными, некоторые — ошибочными, и иногда нам нужно быстро менять мнение по мере развития технологий и эволюции общества. Пока никто не понимает последствий сверхразума, но они будут огромными.
Во-вторых, некоторые личные размышления.
Оглядываясь на свою работу в OpenAI за первое десятилетие, я могу указать на многое, чем я горжусь, и на кучу ошибок.
Я думаю о нашем предстоящем суде с Илоном и вспоминаю, как я настаивал на нежелании соглашаться с его желанием получить единоличный контроль над OpenAI. Я горжусь этим, горжусь тем узким путём, который мы тогда прошли, что позволило OpenAI продолжить существование и достичь всех последующих успехов.
Я не горжусь тем, что избегал конфликтов, что причинило огромную боль мне и OpenAI. Я не горжусь тем, как плохо я справился с конфликтом с предыдущим советом директоров, что принесло компании огромный хаос. На безумном пути OpenAI я совершил много других ошибок; я несовершенный человек в центре异常но сложной ситуации, пытаюсь становиться немного лучше каждый год, всегда работая на миссию. Мы начинали, зная, насколько велики риски ИИ, и то, что личные разногласия между доброжелательными людьми будут сильно преувеличены. Но переживать эти激烈ные конфликты и часто быть вынужденным их арбитрировать — это другое дело, цена серьёзная. Мне жаль тех, кого я обидел, и я надеюсь, что смогу учиться быстрее.
Я также очень хорошо понимаю, что OpenAI теперь является основной платформой, а не маленьким стартапом, и нам нужно действовать более предсказуемо. Последние несколько лет были невероятно напряжёнными, хаотичными и полными давления.
Тем не менее, я больше всего горжусь тем, что мы реализуем нашу миссию, что в начале казалось крайне маловероятным. Преодолев все трудности, мы поняли, как построить очень мощный ИИ, поняли, как накопить достаточно капитала для создания инфраструктуры для его поставки, поняли, как создать продуктовую компанию и бизнес, поняли, как предоставлять достаточно безопасные и надёжные услуги в large scale, и многое другое. Многие компании говорят, что изменят мир; мы действительно это сделали.
В-третьих, некоторые мысли об этой отрасли.
Мой личный вывод из последних лет, а также взгляд на то, почему между компаниями в нашей сфере так много шекспировской драмы, сводится к следующему: «Как только ты видишь ОИИ, ты не можешь его не видеть». В этом есть настоящая динамика «Кольца Власти», заставляющая людей делать безумные вещи. Я не говорю, что ОИИ само по себе является кольцом, а скорее тоталитарная философия «быть тем, кто контролирует ОИИ».
Единственное решение, которое я вижу, — это двигаться в направлении широкого распространения технологий среди людей, чтобы никто не владел кольцом. Два очевидных способа сделать это — это расширение возможностей личности и обеспечение контроля демократических систем.
Важно, чтобы демократические процессы оставались сильнее компаний. Законы и нормы будут меняться, но мы должны работать в рамках демократических процессов, даже если они будут грязными и медленнее, чем мы希望. Мы хотим быть голосом и заинтересованной стороной, но не обладать всей властью.
Многие критика нашей отрасли исходит из искренней озабоченности чрезвычайно высокими рисками этой технологии. Это очень разумно, и мы приветствуем доброжелательную критику и дебаты. Я сочувствую антитехнологическим настроениям, очевидно, технологии не всегда хороши для всех. Но в целом я верю, что технологический прогресс может сделать будущее невероятно хорошим, для вашей семьи и моей.
Пока мы ведём эти дебаты, мы должны понижать накал rhetoric и тактики и стараться, чтобы в fewer домах было меньше взрывов, как в переносном, так и в буквальном смысле.
