Журналист The Wall Street Journal Кич Хейги опубликовал объемное расследование, в котором на основе многочисленных интервью с нынешними и бывшими сотрудниками обеих компаний, а также с людьми из окружения их руководителей, впервые системно раскрывается личная вражда между основателями Anthropic и OpenAI, длящаяся уже десять лет. Глобальную картину ИИ формирует не только борьба технологических подходов, но и никогда не заживающая личная травма.
Внутренние высказывания Дарио Амодеи в последние месяки были гораздо более резкими, чем его публичные заявления. Он сравнил судебный спор Сэма Олтмана с Илоном Маском с «противостоянием Гитлера и Сталина», назвал пожертвование в 25 миллионов долларов президентом OpenAI Грегом Брокманом суперпакту в пользу Трампа «злом» (evil), а OpenAI и других конкурентов сравнил с «табачными компаниями, которые продавали продукцию, зная о ее вреде».
После обострения спора с Пентагоном он написал в Slack, что OpenAI «лицемерны» (mendacious), добавив: «Эти факты свидетельствуют о модели поведения, которую я не раз наблюдал в Сэме Олтмане».
Внутри Anthropic эту брендовую стратегию называют созданием «здоровой альтернативы» (healthy alternative) конкурентам. Ее публичным проявлением стала реклама во время Супербоула, которая, не называя имен, иронизировала над интеграцией рекламы в чат-бот OpenAI.
История начинается в гостиной съемной квартиры на улице Делано в Сан-Франциско в 2016 году. Здесь жили Дарио и его сестра Даниэла Амодеи. Сооснователь OpenAI Брокман часто заходил в гости благодаря личной дружбе с Даниэлой. Однажды Брокман, Дарио и тогдашний жених Даниэлы, филантроп из движения эффективного альтруизма Холден Карнофски, сидели вместе и спорили о правильном пути развития ИИ: Брокман считал, что нужно рассказывать всем американцам о том, что происходит на передовой ИИ, а Дарио и Карнофски полагали, что чувствительная информация должна сначала сообщаться правительству, а не транслироваться публично. Это разногласие впоследствии стало водоразделом философских подходов двух компаний.
Вдохновившись пулом талантов в OpenAI, Дарио присоединился к компании в середине 2016 года и вместе с Брокманом засиживался допоздна, тренируя ИИ-агентов играть в видеоигры. Но за четыре года совместной работы противоречия вокруг власти и чувства принадлежности только углублялись. В 2017 году тогдашний главный инвестор OpenAI Маск потребовал составить список вклада каждого сотрудника и уволить на его основе; из команды примерно в 60 человек были уволены от 10% до 20% сотрудников по одному. Дарио счел это жестокостью; один из уволенных позже стал сооснователем Anthropic.
В том же году нанятый Дарио этический консультант предложил, чтобы OpenAI выступала в роли координирующего органа между компаниями ИИ и правительством. Брокман вывел из этого идею «продажи ОИИ (AGI) Совету Безопасности ООН ядерным державам». Дарио счел это近乎 изменой и一度 подумывал об уходе.
После ухода Маска в 2018 году руководство принял Олтман. Он и Дарио пришли к согласию: сотрудники не уверены в лидерстве Брокмана и главного ученого Ильи Суцкевера. Дарио остался при условии, что эти двое больше не будут руководить, но вскоре обнаружил, что Олтман одновременно пообещал им двоим право уволить его самого; два обещания противоречили друг другу.
После запуска разработки серии GPT среди высшего руководства вспыхнул самый острый конфликт вокруг того, кто может участвовать в проекте языковой модели. Тогдашний директор по исследованиям Дарио не允许 Брокману вмешиваться. Даниэла, совместно руководившая проектом с Алеком Рэдфордом, пригрозила уйти с поста руководителя, и личные желания Рэдфорда оказались втянуты в войну доверенных лиц среди高管.
Авторитет Дарио рос вместе с успехом GPT-2 и GPT-3, но он чувствовал, что Олтман приуменьшает его вклад. Дарио разозлился, когда Брокман пошел на подкаст говорить об уставе OpenAI, а его, внесшего больший вклад в устав, не пригласили; он также был недоволен, узнав, что Брокман и Олтман собираются встретиться с бывшим президентом Обамой, а его исключили.
Противоречия окончательно обострились во время конфронтации в переговорной комнате. Олтман вызвал兄妹 Амодеи в переговорку и обвинил их в том, что они подстрекали коллег подать негативные отзывы о нем в совет директоров. Они отрицали это. Олтман сказал, что информация поступила от другого руководителя, и Даниэла当场 вызвала того руководителя на очную ставку, но тот сказал, что ничего не знает.
Олтман тут же否认, что говорил такое, и между сторонами завязалась острая перепалка. В начале 2020 года Олтман потребовал от руководителей написать взаимные peer review. Брокман написал резкий отзыв, обвиняя Даниэлу в злоупотреблении властью и использовании бюрократических процедур для устранения инакомыслящих; Олтман, просмотрев его заранее, оценил как «жестко, но справедливо» (tough but fair). Даниэла опровергла все пункты, спор escalated до того, что Брокман一度 предложил забрать свой отзыв.
В конце 2020 года команда во главе с Дарио решила уйти, и Даниэла вела переговоры об уходе с юристами. Олтман лично приехал домой к Дарио, чтобы уговорить его остаться. Дарио выдвинул условие — подчиняться напрямую совету директоров и четко заявил, что не может работать с Брокманом. Перед уходом он написал длинный меморандум, разделив компании ИИ на «рыночные» и «служащие общественным интересам», считая идеальным соотношение 75% на 25% в пользу общественных интересов. Несколько недель спустя Дарио, Даниэла и около дюжины сотрудников покинули OpenAI и основали Anthropic.
Спустя пять лет сегодня капитализация обеих компаний превышает 300 миллиардов долларов, и они соревнуются за первичное публичное размещение акций (IPO). Во время группового фото по окончании саммита по ИИ в Нью-Дели в феврале этого года премьер-министр Индии Моди и присутствовавшие technological лидеры подняли руки, а Амодеи и Олтман chose не участвовать, лишь неловко коснувшись локтями.
