Согласно мониторингу 1M AI News, лауреат Пулитцеровской премии Ронан Фэрроу и журналист The New Yorker Эндрю Маранц опубликовали длинное расследование, основанное на интервью с более чем 100 осведомленными лицами, впервые полностью раскрыв два ключевых документа: примерно 70-страничный секретный документ, составленный бывшим главным научным сотрудником OpenAI Ильей Суцкевером осенью 2023 года, и более 200 страниц внутренних записок, собранных генеральным директором Anthropic Дарио Амодеи во время его работы в OpenAI. Оба документа ранее не публиковались.
Секретный документ Суцкевера содержит сообщения Slack, файлы отдела кадров и скриншоты, сделанные с телефона (предположительно, чтобы избежать мониторинга корпоративных устройств), и начинается со списка: «Сэм демонстрирует устойчивую модель...», первый пункт — «ложь». В документе утверждается, что Altman искажал факты перед руководством и советом директоров и обманывал коллег в вопросах процессов безопасности. Тогда Суцкевер сказал другому директору: «Я не думаю, что Сэм — тот, кто должен иметь доступ к кнопке».
Заметки Амодеи озаглавлены «Мой опыт в OpenAI» (подзаголовок «Частный документ, не для распространения»), они циркулировали среди коллег в Кремниевой долине, но никогда не публиковались. В них говорится: «Проблема OpenAI — это сам Сэм», и утверждается, что Altman во время подписания соглашения об инвестициях в 10 миллиардов долларов с Microsoft лично отрицал существующие в контракте условия, и даже после того, как Амодеи дословно зачитал их, он не признал этого.
В отчете также раскрываются несколько ранее неизвестных фактов:
1. Обещанное Altmanом после восстановления в должности независимое расследование так и не было оформлено в письменный отчет. Юридическая фирма WilmerHale (которая вела расследования по делам Enron и WorldCom) представила отчет только в устной форме двум новым директорам; решение не составлять письменный отчет частично основывалось на рекомендациях личных адвокатов этих двух директоров. Осведомленные лица заявили, что расследование «казалось направленным на ограничение прозрачности», и некоторые нынешние директоры считают, что это дело может привести к «необходимости нового расследования».
2. Фактические вычислительные мощности, полученные группой Superalignment, составили около 1%-2% от публично обещанных 20%, причем большая часть была выделена на «самые старые кластеры с наихудшими чипами». Когда журналисты запросили интервью с исследователями, занимающимися вопросами экзистенциальной безопасности, представитель OpenAI ответил: «Что вы имеете в виду под «экзистенциальной безопасностью»? Такого понятия не существует».
3. Примерно в 2018 году руководство серьезно обсуждало план, внутренне называемый «Национальный план»: позволить крупным странам (включая Китай и Россию) торговаться за покупку технологий ИИ. Тогдашний глава отдела политики Джек Кларк описал его цель как «создание дилеммы заключенного, чтобы все страны были вынуждены предоставлять нам финансирование». План был отложен после угрозы увольнения нескольких сотрудников.
4. Несколько руководителей Microsoft выразили сильное недовольство Altmanом. Один руководитель заявил: «Он искажает, извращает, пересматривает условия, нарушает соглашения», и считает, что «существует небольшая, но реальная вероятность, что в конечном итоге его будут помнить так же, как помнят организатора финансовой пирамиды Берни Мэдоффа или основателя FTX Сэма Бэнкман-Фрида».
Во время разговора с советом директоров после увольнения Altmanу предложили признать свою модель обмана, он repeatedly говорил: «Это абсурд», а затем сказал: «Я не могу изменить свой характер». Один присутствовавший директор истолковал это так: «Эти слова означают: «У меня есть склонность лгать людям, и я не остановлюсь»». Участник первой программы Y Combinator, программист Аарон Шварц, умерший в 2013 году, ранее предупреждал друзей: «Вы должны понимать, что Сэму никогда нельзя доверять. Он социопат, способный на что угодно». В отчете говорится, что не один человек добровольно использовал слово «социопат» во время интервью.
В более чем десятке бесед с журналистами Altman отрицал преднамеренный обман, характеризуя постоянно меняющиеся обещания как «добросовестную адаптацию» к быстро меняющейся среде, а раннюю критику attributed to своей тенденции «избегать конфликтов». На вопрос о том, предъявляет ли управление компанией ИИ более высокие требования к честности, он добавил: «Да, это требует более высокого уровня честности, и я чувствую вес этой ответственности каждый день».
