Пекин, 29 июля (Синьхуа) – Как сообщает газета «The Wall Street Journal», в Силиконовой долине зреет волна протестов против компании Anthropic. Её корни лежат в конкуренции продуктов, выпускаемых компанией, с существующими поставщиками программного обеспечения, а также в её пропаганде закрытой экосистемы ИИ.
Конкуренция с партнёрами
Основатели стартапов, руководители софтверных компаний и исследователи ИИ заявляют, что, увидев, как Anthropic выпускает на рынок инструменты, конкурирующие с продуктами других компаний, они начали переходить на более дешёвые модели ИИ. Одним из примеров является выпущенный в апреле Anthropic продукт Claude Design. Некоторые считают, что этот продукт напрямую конкурирует с услугами компании Figma, одного из партнёров Anthropic, занимающейся программным обеспечением для дизайна.
Как сообщили участники мероприятий, вскоре после выпуска Claude Design на одном из мероприятий генеральный директор Figma Дилан Филд заявил, что Anthropic в коммуникациях «не всегда была полностью откровенной».
«Вся отрасль извлекла из этого инцидента много уроков. Возможно, некоторые компании слишком доверяли (Anthropic)», – сказала на этом мероприятии Сара Сакс, руководитель направления Notion AI платформы для заметок.
Создание паники
Anthropic также подверглась критике за изменения в политике хранения данных, а также за выпуск мощной модели, отказывающейся отвечать на вопросы по исследованию ИИ, что вызвало недовольство некоторых исследователей, выступающих за большую прозрачность систем ИИ.
Кроме того, общественность скептически относится к предупреждениям руководства Anthropic о рисках безопасности ИИ с так называемыми «открытыми весами». Модели с открытыми весами стоят гораздо дешевле и, как правило, позволяют пользователям настраивать их и самостоятельно устанавливать механизмы защиты безопасности. В последние месяцы некоторые подобные модели, разработанные в Китае, заслужили похвалу пользователей благодаря способностям, близким к передовым системам ИИ США.
Вишал Мисра, заместитель декана инженерной школы Колумбийского университета по вычислениям и ИИ, заявил, что Anthropic разработала отличные продукты, но заявления компании о безопасности и рисках ИИ не выдерживают критики.
«Они сеют панику среди населения по поводу этих моделей, – сказал он. – Страх общественности даёт им рычаги влияния для продвижения регуляторной политики, выгодной для них самих».
Рис. | Акция протеста в поддержку моделей с открытыми весами
Представитель Anthropic в защиту заявил, что эти меры необходимы для обеспечения безопасности моделей и предотвращения использования противниками этих моделей для создания серьёзных рисков.
Генеральный директор Anthropic Дарио Амодей и другие руководители компании неоднократно высказывались о рисках систем ИИ с открытыми весами. Anthropic опубликовала множество исследовательских докладов о рисках безопасности ИИ, а также поддерживает усилия правительства по регулированию ИИ через публичные заявления и политические пожертвования.
В понедельник, после того как Nvidia, Microsoft и ряд других американских компаний подписали открытое письмо в поддержку открытых моделей, Амодей опубликовал открытое письмо, излагающее его позицию в этой жаркой дискуссии. «Anthropic никогда не выступала за запрет моделей с открытыми весами, – написал он. – Модели с открытыми весами, не обладающие опасными возможностями, – это общественное благо».
Ослабление конкурентов
Критики, включая некоторых государственных чиновников, считают, что предупреждения Anthropic о рисках открытых моделей являются частью её попыток помешать конкурентам, поскольку многие такие открытые модели могут подорвать цель Anthropic по максимизации доходов. Компания может провести IPO уже этой осенью.
Кевин Брайан, доцент Университета Торонто, специализирующийся на инновациях, выступил в защиту Anthropic. Он заявил, что опасения по поводу рисков, связанных с открытым исходным кодом передового интеллекта, реальны и широко признаны. «Любая открытая вещь сразу же будет взломана (обойдены ограничения безопасности), – сказал он. – Как только модель выпущена, ничего не поделаешь».
Некоторые критики указывают, что сам процесс создания моделей Anthropic также напоминает дистилляцию (извлечение знаний).
«Забавно, что они выступают против дистилляции, но сами провели дистилляцию всего интернета, не заплатив авторские отчисления, – сказал Марк Суман, сооснователь и генеральный директор стартапа по инструментам ИИ-производительности Maple. – Мне просто кажется странным, что они теперь говорят другим не делать то, что делали сами».
Дуополия
Спустя несколько часов после публикации открытого письма компаний, поддерживающих модели с открытыми весами, его подписала OpenAI. Затем Google также выразил поддержку письму, что сделало Anthropic одной из немногих известных компаний в области ИИ, не поддержавших эту инициативу. На данный момент к ней присоединились и подписались уже более 70 компаний Силиконовой долины.
Технологические специалисты и политики также выразили обеспокоенность тем, что конкуренция в области ИИ в конечном итоге может превратиться в дуополию, где Anthropic и OpenAI постепенно станут двумя доминирующими на рынке компаниями.
Опасения по поводу дуополии стали ключевой темой акции протеста в поддержку моделей с открытыми весами, прошедшей в субботу в центре Сан-Франциско – эпицентре сообщества стартапов в области ИИ. Акцию организовал совместно генеральный директор компании Hugging Face, предоставляющей инструменты ИИ с открытым исходным кодом. Недавно в Hugging Face вторглась вышедшая из-под контроля модель OpenAI.
«Передовые лаборатории ИИ запасают интеллект. Интеллект должен быть демократизирован», – заявил исследователь ИИ Махеш Ламбе, участвовавший в акции протеста.
Недоверие
Некоторые основатели и руководители стартапов заявили, что выпуск Anthropic продукта Claude Design стал «тревожным сигналом» для всей Силиконовой долины. Выпуск этого продукта заставил некоторых основателей сделать вывод, что Anthropic может выпускать инструменты для конкуренции с ними и переманивания их клиентов. После этого они серьёзно обратились к более дешёвым моделям с открытыми весами, особенно тем, которые разработаны не в передовых лабораториях США.
В июне это недоверие усилилось с выпуском Anthropic модели Fable 5 – ограниченной в целях безопасности версии её мощной модели Mythos, с наложенными ограничениями на возможности.
Изначально модель снижала качество ответов на некоторые вопросы о разработке ИИ, но не информировала пользователей об этом ограничении. Исследовательское сообщество сразу же раскритиковало эти «непрозрачные меры безопасности», посчитав такое решение антиконкурентным и затрудняющим оценку возможностей модели.
Anthropic впоследствии принесла извинения и сделала эти меры безопасности видимыми для пользователей. Тем не менее, компания заявила, что будет отказываться отвечать на запросы, помеченные как имеющие более высокий риск.
Представитель Anthropic заявил, что компания принимает меры по ограничению ответов модели, чтобы предотвратить использование этих моделей иностранными противниками способами, которые могут «создать серьёзные риски для безопасности».
Fable 5 также не поддерживает функцию «нулевого хранения данных», что означает, что компания будет хранить пользовательские данные в течение 30 дней в так называемых целях доверия и безопасности.
Некоторые компании, особенно в отраслях, связанных с конфиденциальными данными, выразили недовольство этим изменением. Некоторые также в целом обеспокоены тем, что их данные будут использоваться для обучения новых моделей, что ещё больше поможет Anthropic выпускать конкурирующие продукты.
Представитель Anthropic заявил, что сотрудники компании не могут просматривать какие-либо сохранённые диалоги, и компания обязалась не использовать эти данные для обучения новых моделей. Эти ограничения применяются к Fable и Mythos, «самым мощным моделям» компании, но не к другим моделям.
Статья из публичного аккаунта WeChat «凤凰网科技» (Fenghuangwang Keji)
