Только что главный футуролог OpenAI Джошуа Ачиам объявил в X об уходе.
Это не обычная кадровая перестановка.
Внутри OpenAI должность главного футуролога находится на стыке вопросов безопасности ИИ, политики и миссии компании, отвечая за исследование рисков и возможностей, которые могут возникнуть в мире по мере дальнейшего усиления ИИ.
А Джошуа Ачиам был одной из ключевых фигур в этой линии безопасности и миссии OpenAI.
9 лет назад, в 2017 году, он присоединился к OpenAI в качестве стажера. Вначале он был исследователем, сосредоточенным на безопасности ИИ, занимался исследованиями в области безопасных ограничений в глубоком обучении с подкреплением.
Позже он возглавлял команду Mission Alignment (Выравнивание миссии) в OpenAI, отвечая за поддержание первоначальной миссии компании:
Обеспечить, чтобы ИИ (Искусственный Общий Интеллект) приносил пользу всему человечеству.
В феврале этого года OpenAI расформировал команду Mission Alignment, и Джошуа перешел на должность главного футуролога компании.
Однако, всего через 5 месяцев, Джошуа объявил, что официально покинет компанию, в которой проработал 9 лет, 24 июля.
Что касается причин ухода, Джошуа не раскрыл много деталей.
Он лишь сказал, что его уход не связан с каким-то конкретным событием и не является спонтанным решением, а обдумывался в течение длительного времени.
Ради безопасного ИИ
В своем длинном посте в X Джошуа назвал этот уход «выпуском».
Он написал, что в 2017 году он присоединился к OpenAI в 25-летнем возрасте в качестве стажера (выпускника Калифорнийского университета в Беркли). В то время компьютеры еще не могли по-настоящему вести диалог с людьми, не говоря уже о мышлении.
Сейчас ему 34 года, он отец двухлетнего ребенка, а компьютеры уже начали решать передовые научные проблемы.
Джошуа описал эти 9 лет как «десятилетие, в котором произошли изменения, равные нескольким векам».
Что касается будущего, он по-прежнему сохраняет оптимизм.
Я верю, что мы можем создать такой мир, где «удовлетворение основных потребностей каждого» перестанет быть проблемой, которую нужно решать; напротив, мы будем считать позором устанавливать столь низкие стандарты. Я верю, что мы можем достичь мира, полного мира, беспрецедентного процветания и различных невообразимых социальных и научных возможностей. Что бы я ни делал дальше, я продолжу работать вместе с вами, чтобы воплотить это видение в реальность.
В конце он подвел итог одной фразой:
К безопасному ИИ (To safe AGI).
Эта фраза также очень похожа на его позицию в OpenAI за последние 9 лет.
По информации WIRED, OpenAI пока не объявил, кто заменит Джошуа на этой должности. Эта должность находится на пересечении команд по безопасности ИИ и политике компании, и работа включает в себя исследование потенциального вреда и выгод от развития ИИ.
Ранее Джошуа также сотрудничал с такими руководителями, как глава по глобальным вопросам OpenAI Крис Лехейн, продвигая государственное регулирование, согласованное с миссией OpenAI.
Другими словами, он не был просто «футурологом», который только делал прогнозы.
Более точно, внутри OpenAI он занимался другим: когда возможности моделей стремительно росли вперед, он постоянно напоминал компании об этом старом вопросе.
Куда в конце концов ведет этот путь?
Тот, кто прервал Маска
Оглядываясь на карьеру Джошуа в OpenAI, самая драматичная сцена произошла в 2018 году.
В апреле-мае этого года, во время всемирного судебного разбирательства между Маском и OpenAI, Джошуа давал показания в суде, вспоминая прощальную речь Маска в 2018 году, перед его уходом из OpenAI:
Тогда он прервал Маска, указав, что если планировать разработку ИИ в Tesla, это может быть достигнуто ценой безопасности.
По некоторым данным, Маск тут же назвал его: «Джошуа — «осел» (jackass)».
Позже эта история превратилась в своего рода «городскую легенду» внутри OpenAI.
Дарио Амодеи, нынешний генеральный директор Anthropic, и Дэвид Луан, позже ставший главой лаборатории AGI в Amazon, даже подарили Ачиаму золотой трофей с выгравированной надписью:
«Ради безопасности, никогда не переставай быть тем jackass».
Каждый раз, когда уходит ответственный за безопасность, OpenAI…?
На Reddit пользователи быстро добавили это событие в «список уходов руководителей по безопасности OpenAI».
Кто-то пошутил:
Ушел Илья, ушел Ян, теперь ушел Джошуа. Кажется, каждый раз, когда уходит человек, отвечающий за выравнивание, с OpenAI что-то происходит.
Конечно, в этом меме есть доля преувеличения.
Но за последние два года в направлении безопасности OpenAI действительно произошло немало изменений.
Упомянутый пользователями Ян — это Ян Лейке, который ранее совместно руководил командой Superalignment (Сверхвыравнивание) в OpenAI, исследуя, как удержать передовые модели ИИ под контролем человека. В 2024 году он покинул OpenAI и присоединился к Anthropic.
В том же году руководитель исследований политики OpenAI Майлз Брандейдж, а также Стивен Адлер, ранее отвечавший за исследование опасных возможностей моделей ИИ, также покинули компанию, основав некоммерческую организацию для продвижения более строгих стандартов безопасности и защиты в лабораториях ИИ.
Андреа Валлоне, которая отвечала за исследование того, как ChatGPT реагирует на пользователей, находящихся в психологическом или эмоциональном кризисе, также покинула OpenAI в конце 2025 года, присоединившись к «A-компании» (A社), то есть к команде своего бывшего коллеги Яна Лейке.
Джошуа — самое новое имя в этой цепочке уходов.
В то же время OpenAI сам корректирует отношения между безопасностью, исследованиями и политикой.
WIRED отмечает, что в течение последнего года OpenAI пытался сблизить команды исследований ИИ и политики, надеясь разработать правила и стандарты, которые лучше предсказывают направление технологического развития. Некоторые исследователи, включая Боаза Барака, Ноама Брауна и Адриена Экоффе, также начали больше участвовать в работе, связанной с политикой.
С другой стороны, на этой неделе бывший советник Белого дома по ИИ Дин Болл присоединился к OpenAI, заняв должность руководителя по стратегическому будущему (Strategic Futures). У него будет короткий период передачи дел с Джошуа, после чего, как ожидается, он продолжит сотрудничать с исследователями и руководителями по политике.
Это делает уход Джошуа еще более тонким моментом.
С одной стороны, OpenAI все теснее связывает «безопасность» и «политику»; с другой стороны, человек, который ранее руководил Mission Alignment, а затем занял пост Chief Futurist, выбирает именно этот момент, чтобы покинуть лабораторию.
Джошуа написал в письме об уходе: мир уже знает этот секрет (достижения ИИ). Теперь стало возможным продвигать эту миссию и за стенами frontier lab.
Возможно, это самая значимая фраза во всей этой истории.
За последнее десятилетие скорость развития ИИ действительно воодушевляет. OpenAI уже давно не та маленькая исследовательская лаборатория, а превратился в новую структуру, которая одновременно сталкивается с продуктами, капиталом, политикой, судами и общественностью.
Но, в конечном счете, последние десять лет — это лишь небольшой отрезок пути ИИ, и дорога впереди, возможно, будет еще длиннее.
Настолько длинной, что сможет превратить любого Голиафа в лилипута.
Ссылки
[1]https://x.com/jachiam0/status/2074605703281693175
[2]https://www.wired.com/story/openai-chief-futurist-joshua-achiam-is-leaving-the-company/
Эта статья из официального аккаунта WeChat «Квантовый бит» (量子位), автор: henry
