因一篇14页论文被谷歌“赶走”,超4000人为其声援,6年后再看:当年她几乎预言了整个AI时代
2020年,谷歌伦理AI团队联合负责人Timnit Gebru因一篇未发表的论文与公司发生冲突并遭解雇,事件引发超4000人联名声援。这篇名为《随机鹦鹉的危险》的论文在当时极具前瞻性,指出大型语言模型本质是复现语言模式而非真正理解,并预警了多个风险:模型会生成看似合理但错误的信息(即如今的“AI幻觉”);会学习并放大训练数据中的偏见;训练大模型将带来巨大的能源消耗与环境影响;训练数据难以审计,可能包含有害内容;AI生成内容充斥互联网将导致“模型崩溃”,并使话语权集中于少数科技巨头。如今,这些预言几乎全部应验,成为AI行业面临的现实挑战。Gebru离开谷歌后创立了分布式AI研究所,专注于研究科技巨头可能回避的伦理与社会问题。六年后再看,她并非反对AI发展,而是更早地看到了其中潜藏的深刻问题。
marsbit42 分鐘前