Bị Google 'sa thải' vì một bài báo 14 trang, hơn 4000 người lên tiếng ủng hộ, 6 năm sau nhìn lại: Khi ấy bà ấy gần như đã dự đoán toàn bộ kỷ nguyên AI
Năm 2020, Timnit Gebru, trưởng nhóm AI đạo đức tại Google, đã bị sa thải sau một cuộc tranh cãi về bài báo học thuật “On the Dangers of Stochastic Parrots” do bà đồng tác giả. Bài báo cảnh báo về những rủi ro của mô hình ngôn ngữ lớn (LLM) vào thời điểm GPT-3 vừa ra mắt, và giờ đây nhiều cảnh báo đó đã thành hiện thực.
Bài báo dài 14 trang đã dự báo chính xác hàng loạt vấn đề mà ngành AI hiện đang đối mặt: “Ảo giác” (Hallucination) khi mô hình tạo ra thông tin sai lệch; việc khuếch đại thành kiến xã hội có sẵn trong dữ liệu huấn luyện; tác động môi trường lớn từ việc tiêu thụ năng lượng; sự thiếu minh bạch về nội dung trong dữ liệu huấn luyện; và nguy cơ “sụp đổ mô hình” (Model Collapse) khi nội dung do AI tạo ra tràn ngập internet và lại trở thành dữ liệu đầu vào cho thế hệ AI tiếp theo.
Vụ việc dẫn đến làn sóng phản đối từ hơn 4000 nhân viên và chuyên gia. Sau khi rời Google, Gebru thành lập Viện Nghiên cứu AI Phân tán (DAIR) để tiếp tục điều tra các vấn đề về công bằng, đạo đức và quyền lực tập trung trong AI. Sáu năm sau, bài báo từng gây tranh cãi của bà được ghi nhận vì đã tiên tri chính xác những thách thức cốt lõi của kỷ nguyên AI ngày nay.
marsbit06/08 10:32
