В Кремниевой долине крупные компании снова не нуждаются в этиках
Единственный штатный специалист по этике OpenAI недавно уволился. Хлоя Бакалар, руководитель отдела этики, покинула компанию в конце июля. В официальном заявлении OpenAI подтвердила её уход и отметила, что не будет назначать единоличного руководителя по этике, так как этические соображения должны быть встроены во все исследовательские команды.
Бакалар, имеющая докторскую степень по политологии, начала свою карьеру в Meta (бывший Facebook) в 2019 году, где возглавляла команду по ответственному искусственному интеллекту (Responsible AI). Она разработала систему этических чек-листов, призванных встроить этические принципы в полный жизненный цикл продукта — от этапа проектирования до развёртывания. Эта система включала оценку множественности ценностей, разграничение «выраженных» и «реальных» предпочтений пользователей, установление границ персонификации ИИ и анализ последствий «бездействия» алгоритмов.
Несмотря на эти усилия, внутри Meta, особенно в условиях «гонки» за разработкой больших языковых моделей, таких как Llama, этические проверки всё чаще стали восприниматься как препятствие для скорости вывода продукта на рынок. В 2023 году её команда была расформирована, а её члены распределены по различным продуктовым подразделениям.
В 2025 году Бакалар перешла в OpenAI, надеясь напрямую влиять на этическую разработку передовых моделей, таких как GPT-5. Однако, проработав там около года, она уволилась. По сообщениям, будучи единственным штатным специалистом по этике, она столкнулась с недостатком организационной поддержки и влияния в условиях интенсивного коммерческого давления.
Её уход является частью более широкой тенденции в Кремниевой долине, где команды, занимающиеся вопросами безопасности, этики и выравнивания ИИ, часто расформировываются или маргинализируются в погоне за быстрым выводом продуктов на рынок. Это подчёркивает пять ключевых напряжённостей в отрасли: конфликт между скоростью коммерциализации и этической осмотрительностью, разрыв между престижем и реальной властью специалистов по этике, размывание ответственности при декларировании «этики для всех», трудности перевода философских ценностей в инженерные метрики и противоречие между академической открытостью и корпоративной закрытостью.
Таким образом, опыт Бакалар показывает, что для реального внедрения этических норм в разработку ИИ недостаточно полагаться на внутренние позиции отдельных экспертов. Требуются либо жёсткое внешнее регулирование, либо фундаментальное изменение роли специалистов по этике на «кросс-функциональных создателей» систем.
marsbit08/13 09:59
