AI 读了《1984》，决定禁了它
上周，英国曼彻斯特一所中学使用AI审查图书馆藏书，AI将包括《1984》在内的193本书列为下架对象，理由包括“含有酷刑、暴力和性胁迫主题”。图书管理员因拒绝执行AI建议而被校方调查并最终辞职。地方政府认定其违反儿童安全程序，导致其职业生涯受影响。校方事后承认分类由AI生成，但认为“大致准确”。
同一周，维基百科通过新政策，禁止使用AI生成或编辑条目内容，主要因AI生成内容难以审核，且可能污染训练数据，形成错误信息循环。
同时，OpenAI无限期搁置了原计划推出的ChatGPT“成人模式”，因内部担忧用户情感依赖和未成年人绕过验证等问题，并砍掉多个可能引发争议的功能。
这三件事共同凸显AI生成内容的速度远超人类审核能力，导致机构采取“先禁止再说”的粗暴应对方式。AI能力快速迭代，但监管框架缺失，各机构自行划界，未来可能引发更严重问题。
marsbit03/27 05:33
