Уволенная из Google за 14-страничную статью: спустя 6 лет её прогнозы об ИИ стали реальностью
В 2020 году ведущий исследователь по этике ИИ в Google Тимнит Гебру была уволена из-за разногласий по поводу научной статьи «Об опасностях стохастических попугаев», которую она соавторила. В статье, написанной ещё до массового распространения ChatGPT, высказывались критические предупреждения о больших языковых моделях. Авторы утверждали, что модели лишь статистически имитируют язык, не понимая смысла, и поэтому усугубляют социальные предрассудки, содержащиеся в обучающих данных, потребляют огромное количество энергии и могут генерировать ложную информацию (так называемые «галлюцинации» ИИ). Они также предупреждали о будущем доминировании контента, созданного ИИ, в интернете и концентрации власти над языком в руках нескольких технологических гигантов.
Увольнение Гебру, за которым последовало увольнение её коллеги Маргарет Митчелл, привело к роспуску команды по этике ИИ в Google и вызвало широкий резонанс в отрасли. Событие высветило конфликт между стремлением к быстрому коммерческому развитию ИИ и необходимостью решения этических и социальных проблем. После ухода из Google Гебру основала Независимый исследовательский институт распределённого ИИ (DAIR), чтобы изучать вопросы, которые крупные компании могут игнорировать.
Шесть лет спустя многие проблемы, описанные в её спорной статье — галлюцинации ИИ, усиление предвзятости, высокие энергозатраты, загрязнение данных и «коллапс модели» — стали насущными вызовами для всей индустрии. История показывает, что её предостережения оказались пророческими.
marsbit06/08 10:31
