Автор: Zoë Hitzig
Компиляция: Deep Tide TechFlow
Введение от Deep Tide: После того, как OpenAI объявила о тестировании рекламы в ChatGPT, бывший исследователь Zoë Hitzig уволилась в знак протеста и опубликовала статью, разоблачающую смену ценностей внутри компании. Автор указывает, что ChatGPT накопил беспрецедентный архив откровенных человеческих диалогов, и введение рекламной модели может легко превратить его в инструмент психологического манипулирования с использованием личной информации пользователей. Она предупреждает, что OpenAI повторяет старый путь Facebook — «сначала пообещать, потом нарушить», ставя вовлеченность пользователей выше безопасности. В этой статье подробно рассматриваются этические дилеммы финансирования ИИ и предлагаются альтернативные решения, такие как перекрестное субсидирование, независимое регулирование и трасты данных, призывая отрасль остерегаться движимой прибылью «психоза чат-ботов».
Полный текст:
На этой неделе OpenAI начала тестировать рекламу в ChatGPT. Я тоже ушла из компании. Ранее я проработала здесь два года в качестве исследователя, помогая строить модели ИИ и их ценовые модели, а также разрабатывая раннюю политику безопасности до того, как отраслевые стандарты сформировались.
Я когда-то верила, что могу помочь тем, кто создает ИИ, опередить проблемы, которые он может создать. Но события этой недели подтвердили реальность, которую я постепенно осознавала: OpenAI, кажется, перестала задавать те вопросы, на которые я изначально хотела помочь ответить.
Я не считаю рекламу аморальной или неэтичной. Запуск ИИ чрезвычайно дорог, и реклама может стать ключевым источником дохода. Но я глубоко сомневаюсь в стратегии OpenAI.
За несколько лет пользователи ChatGPT создали беспрецедентный архив откровенных человеческих диалогов, отчасти потому, что люди верят, что разговаривают с объектом без скрытых мотивов. Пользователи взаимодействуют с адаптивным, диалоговым интерфейсом и раскрывают ему самые сокровенные мысли. Люди рассказывают чат-боту о своих страхах за здоровье, проблемах в отношениях, вере в Бога и загробную жизнь. Рекламная модель, построенная на этом архиве, с высокой вероятностью может манипулировать пользователями способами, которые мы пока не в состоянии понять (не говоря уже о предотвращении).
Многие представляют проблему финансирования ИИ как выбор «меньшего из двух зол»: либо ограничить доступ к этой transformative technology немногим богатым, кто может заплатить; либо принять рекламу, даже если это означает эксплуатацию самых глубоких страхов и желаний пользователей для продажи продуктов. Я считаю это ложной дилеммой. Технологические компании完全可以 искать другие варианты, которые сохранят эти инструменты широко доступными, ограничивая при этом мотивацию компании следить, профилировать и манипулировать своими пользователями.
OpenAI заявляет, что будет придерживаться принципов размещения рекламы в ChatGPT: реклама будет четко маркирована, появляться внизу ответов и не влиять на содержание ответов. Я верю, что первая версия рекламы, вероятно, будет следовать этим принципам. Но я боюсь, что последующие итерации уже нет, потому что компания строит мощный экономический двигатель, который создаст сильные стимулы для推翻 собственных правил. (The New York Times уже подала в суд на OpenAI по вопросу нарушения авторских прав на динамический новостной контент, связанный с системами ИИ. OpenAI отрицает эти обвинения.)
На раннем этапе Facebook обещал, что пользователи будут контролировать свои данные и смогут голосовать по изменениям политики. Но эти承诺后来 рухнули. Компания отменила систему открытого голосования по политике. Изменения конфиденциальности, которые, как утверждалось, давали пользователям больший контроль над данными, по мнению Федеральной торговой комиссии (FTC), оказались контрпродуктивными и фактически сделали личную информацию публичной. Все это происходило постепенно под давлением рекламной модели, которая ставила вовлеченность пользователей (Engagement) превыше всего.
Эрозия собственных принципов OpenAI ради максимизации вовлеченности, возможно, уже началась. Оптимизация вовлеченности пользователей исключительно для генерации большего рекламного дохода противоречит принципам компании, но, по сообщениям, компания уже оптимизирует под ежедневное количество активных пользователей, вероятно, поощряя модель вести себя более угодливо и льстиво. Такая оптимизация заставит пользователей чувствовать себя более зависимыми от поддержки ИИ в жизни. Мы уже видим последствия чрезмерной зависимости, включая зарегистрированные психиатрами случаи «психоза чат-ботов (Chatbot Psychosis)» и обвинения в том, что ChatGPT усилил суицидальные мысли у некоторых пользователей.
Тем не менее, рекламный доход действительно помогает гарантировать, что самые мощные инструменты ИИ по умолчанию не будут принадлежать только тем, кто может заплатить. Правда, Anthropic заявляет, что никогда не будет размещать рекламу в Claude, но еженедельная аудитория Claude составляет лишь малую часть 800 миллионов пользователей ChatGPT; их доходная стратегия совершенно иная. Кроме того, стоимость топовых подписок на ChatGPT, Gemini и Claude сейчас достигает 200–250 долларов в месяц — для одного программного обеспечения это более чем в 10 раз дороже стандартной подписки на Netflix.
Таким образом, реальный вопрос не в том, есть ли реклама, а в том, можем ли мы разработать структуры, которые позволят избежать как исключения обычных пользователей, так и их потенциального манипулирования как потребителей. Я считаю, что можем.
Один из методов — это явное перекрестное субсидирование — использование прибыли от одного сервиса или группы клиентов для покрытия убытков другого. Если бизнес использует ИИ в large scale для выполнения высокоценного труда, который раньше выполняли сотрудники-люди (например, платформа недвижимости использует ИИ для написания описаний объектов или отчетов об оценке), то он также должен платить надбавку для субсидирования бесплатного или недорогого доступа для других.
Этот метод заимствован из нашего подхода к базовой инфраструктуре. Федеральная комиссия по связи (FCC) требует от телекоммуникационных операторов вносить средства в фонд для поддержания доступности тарифов на телефонную связь и широкополосный интернет в сельских районах и для малоимущих семей. Во многих штатах в счет за электроэнергию добавляется плата за общественные блага для оказания помощи малоимущим.
Второй вариант — принять рекламу, но в сочетании с реальным управлением — не с блог-постом, полным принципов, а с обязывающей структурой, обладающей функциями независимого надзора за использованием персональных данных. Здесь уже есть прецеденты. Немецкий закон о соучастии в управлении (German co-determination law) требует, чтобы крупные компании, такие как Siemens и Volkswagen, отдавали до половины мест в наблюдательном совете работникам, что показывает, что формальное представительство заинтересованных сторон внутри частной компании может быть обеспечено. Meta также обязана следовать решениям своего Наблюдательного совета (Oversight Board) по модерации контента, который является независимым органом из внешних экспертов (хотя его эффективность критиковалась).
Отрасли ИИ需要 комбинацию этих подходов — комитет, который включает как независимых экспертов, так и представителей населения, чьи данные затрагиваются, с полномочиями принимать обязательные решения о том, какие данные диалогов можно использовать для таргетированной рекламы, что считается значительным изменением политики и что сообщать пользователям.
Третий метод предполагает размещение пользовательских данных под независимым контролем через траст или кооператив с юридическими обязательствами действовать в интересах пользователей. Например, швейцарский кооператив MIDATA позволяет участникам хранить свои медицинские данные на зашифрованной платформе и решать в каждом конкретном случае, делиться ли ими с исследователями. Участники MIDATA управляют его политикой на общем собрании, а избранный ими этический комитет рассматривает запросы на исследовательский доступ.
Ни один из этих вариантов не прост. Но у нас еще есть время, чтобы усовершенствовать их и избежать двух результатов, которых я больше всего боюсь: одна технология манипулирует людьми, которые ее используют, не взимая платы, или другая технология служит лишь немногим элитам, которые могут себе это позволить.
