Nếu quay ngược thời gian về năm 2020, hầu hết các chuyên gia AI lúc bấy giờ vẫn đang bàn luận xem GPT-3 mạnh mẽ đến mức nào.
Lúc đó, AI sáng tạo chưa trở thành tâm điểm toàn cầu, ChatGPT phải hai năm sau mới ra mắt, mô hình lớn cũng chưa tạo nên cơn sốt đầu tư cuồng nhiệt tràn lan khắp thế giới như hiện nay. Thế nhưng ngay trong năm đó, một nhà nghiên cứu AI hàng đầu của Google đã xảy ra xung đột gay gắt với công ty chỉ vì một bài báo nghiên cứu chưa công bố, và cuối cùng mất việc.
Lúc đó nhiều người cho rằng, đây chỉ là một cuộc tranh cãi nữa về quản lý nơi làm việc, công bố học thuật và văn hóa doanh nghiệp ở Thung lũng Silicon; nhưng giờ nhìn lại, người ta mới nhận ra rằng những cảnh báo trong bài báo đó, gần như tất cả đều đã ứng nghiệm trong thế giới thực.
Và nhà nghiên cứu bị sa thải, chính là một trong những nhân vật có ảnh hưởng nhất trong lĩnh vực nghiên cứu đạo đức AI – Timnit Gebru.
Một 'vụ sa thải' chấn động giới AI
Tháng 12 năm 2020, Timnit Gebru đăng tải thông báo trên nền tảng mạng xã hội rằng bà đã bị Google sa thải.
Tin tức nhanh chóng gây chấn động toàn bộ giới nghiên cứu AI. Bởi lúc đó Gebru không phải là một nhà nghiên cứu bình thường, mà là đồng trưởng nhóm Đội ngũ AI Đạo đức (Ethical AI Team) của Google, đồng thời cũng là một trong những học giả nổi tiếng toàn cầu về lĩnh vực nghiên cứu tính công bằng và thiên kiến thuật toán trong AI.
Gebru sinh ra tại Ethiopia, từ lâu đã quan tâm đến các vấn đề thiên kiến chủng tộc, phân biệt giới tính và công bằng xã hội trong AI. Trước khi gia nhập Google, bà từng nghiên cứu tại Đại học Stanford. Năm 2018, một bài báo nghiên cứu về thiên kiến thuật toán mà bà tham gia đã được nhiều người coi là bước ngoặt quan trọng trong nghiên cứu về tính công bằng của AI. Cùng năm đó, Google đã chiêu mộ bà và công khai thể hiện sự coi trọng của công ty đối với 'AI có trách nhiệm (Responsible AI)'.
Tuy nhiên chỉ hai năm sau, hai bên đã đi đến chỗ đổ vỡ.
Lúc đó, phía Google đưa ra cách giải thích đối ngoại là Gebru chủ động từ chức, nhưng bản thân Gebru lại đưa ra một phiên bản hoàn toàn khác: Bà cho biết, mình đã nhận được email của công ty trong thời gian nghỉ phép, thông báo việc nghỉ việc có hiệu lực ngay lập tức, tất cả quyền truy cập hệ thống nội bộ và hộp thư điện tử đồng thời bị đóng.
Theo quan điểm của bà, đây rõ ràng là một cuộc sa thải.
Sau đó, hơn 4000 nhân viên Google và giới chuyên môn ký tên vào thư ngỏ, đặt nghi vấn về cách xử lý của công ty, yêu cầu phục chức cho Gebru – và mồi lửa cho tất cả những điều này, là một bài báo học thuật chỉ dài 14 trang.
Một bài báo 14 trang gây tranh cãi
Bài báo này có tên là On the Dangers of Stochastic Parrots (Mối nguy hiểm của những con Vẹt Ngẫu nhiên), tác giả bao gồm Timnit Gebru, Giáo sư ngôn ngữ học Emily Bender từ Đại học Washington, và hai nhà nghiên cứu khác, số lần được trích dẫn hiện nay đã vượt quá 1.4 vạn lần.
Sau này, cái tên “vẹt ngẫu nhiên” này cũng trở nên phổ biến rộng rãi. (Địa chỉ bài báo: https://s10251.pcdn.co/pdf/2021-bender-parrots.pdf)
Bài báo chỉ ra rằng, bản chất của các mô hình ngôn ngữ lớn là tái hiện mẫu hình ngôn ngữ dựa trên quy luật thống kê: chúng có thể tạo ra văn bản trôi chảy, tự nhiên thậm chí giàu logic, nhưng thực tế không thực sự hiểu ý nghĩa của ngôn ngữ – giống như một con vẹt học nói tiếng người, trông có vẻ thông minh, nhưng thực chất sự bắt chước này chỉ được xây dựng trên nền tảng khối lượng văn bản internet khổng lồ. Mà bản thân internet đầy rẫy những nội dung thiên kiến, phân biệt đối xử và thù hận. Do đó, mô hình lớn rất có khả năng học theo những vấn đề này và tiếp tục khuếch đại chúng khi tạo ra nội dung.
Cần biết rằng, đó là năm 2020, lúc đó GPT-3 vừa ra mắt, ChatGPT chưa ra đời, cơn sốt mô hình lớn cũng chưa bùng nổ, nhưng bài báo này đã dự đoán trước được một trong những vấn đề đau đầu nhất của toàn ngành hiện nay.
Sau khi bài báo được nộp lên hội nghị đạo đức AI hàng đầu, ban quản lý Google lại đưa ra yêu cầu: rút lại bài báo, hoặc xóa tên các nhà nghiên cứu của Google. Và Gebru đã từ chối, bà yêu cầu công ty giải thích cụ thể nguyên nhân, và hy vọng hai bên có thể tiến hành thảo luận thêm.
Đồng thời, bà còn gửi một email với lời lẽ gay gắt tới nhóm nhân viên nội bộ của Google.
Trong email, Gebru chỉ trích Google thiếu hành động thực tế trong việc thúc đẩy tuyển dụng nhân sự thiểu số và giải quyết vấn đề bất bình đẳng nội bộ. Bà viết: “Khi bạn bắt đầu lên tiếng vì những người yếu thế, tình cảnh của bạn sẽ ngày càng tệ hơn. Bạn sẽ khiến các lãnh đạo khác cảm thấy không thoải mái.” Bà còn cho biết: nếu công ty luôn không thể giải thích vì sao phải rút bài báo, thì bà sẽ lựa chọn từ chức vào thời điểm thích hợp.
Sự phát triển của sự việc vượt xa dự liệu của bà. Gebru cho biết, Google sau đó phản hồi rằng sẽ không đáp ứng yêu cầu bà đưa ra, và trực tiếp chấp nhận việc “từ chức” của bà, lập tức hủy bỏ tất cả quyền truy cập của bà.
Lúc đó, sự kiện này nhanh chóng trở thành một trong những chủ đề gây tranh cãi nhất trong lĩnh vực AI toàn cầu.
Quan điểm từng bị cho là cực đoan năm xưa, nay đã thành hiện thực
Điều thực sự khiến sự kiện này tiếp tục được thảo luận cho đến nay, không phải là bản thân việc sa thải, mà là nội dung trong bài báo đó – bởi vì giờ nhìn lại, gần như mỗi một lo ngại được đề cập trong đó, đều đã trở thành vấn đề thực tế mà ngành AI đang phải đối mặt.
(1) Cảnh báo thứ nhất: Mô hình sẽ "nói bậy"
Năm 2020, GPT-3 vừa mới ra mắt. Lúc đó mọi người kinh ngạc trước khả năng tạo văn bản của mô hình, nhưng lại rất ít người nghiêm túc thảo luận về độ tin cậy của nó.
Gebru và Bender chỉ ra rằng: Khi quy mô mô hình ngày càng mở rộng, mọi người sẽ càng dễ nhầm lẫn biểu đạt trôi chảy là sự thấu hiểu thực sự. Mô hình trông có vẻ như đang suy nghĩ, nhưng thực chất chỉ đang dự đoán từ tiếp theo có khả năng xuất hiện cao nhất, do đó, sớm muộn chúng cũng sẽ tạo ra những thông tin trông có vẻ hợp lý nhưng hoàn toàn sai lầm.
Mà ngày nay, vấn đề này đã có một cái tên mà ai cũng quen thuộc: Ảo giác AI (AI Hallucination). Dù là ChatGPT, Gemini, Claude hay các mô hình tiên tiến khác, vấn đề ảo giác cho đến nay vẫn chưa được giải quyết triệt để.
Ở một góc độ nào đó, bài báo này đã dự đoán chính xác nó trước khi “ảo giác” trở thành từ khóa nóng của ngành.
(2) Cảnh báo thứ hai: Thiên kiến sẽ không biến mất, mà bị khuếch đại
Bài báo cũng chỉ ra rằng, bản thân internet không phải là nguồn dữ liệu trung lập, dữ liệu huấn luyện tự nhiên đã chứa đựng đủ loại thiên kiến về chủng tộc, giới tính, văn hóa và khu vực. Mô hình không chỉ học những thiên kiến này, mà còn có thể củng cố chúng hơn nữa do cơ chế tối ưu hóa.
Sau này, các vấn đề thực tế đã xác minh mối lo ngại này:
Amazon từng thử sử dụng AI để sàng lọc hồ sơ xin việc, kết quả hệ thống tự động hạ điểm đánh giá những hồ sơ chứa từ khóa như “women” (phụ nữ).
Hệ thống đánh giá rủi ro y tế được sử dụng tại nhiều bệnh viện lớn ở Mỹ bị phát hiện, lâu nay đã đánh giá thấp nhu cầu y tế của bệnh nhân da màu.
Thẻ tín dụng Apple Card của Apple cũng từng bị giám sát quản lý chú ý vì hạn mức tín dụng mà phụ nữ nhận được thấp hơn xa so với nam giới.
Những trường hợp này đều cho thấy, thuật toán không tự động thực hiện công bằng, ngược lại còn có thể củng cố sự bất bình đẳng trong thế giới thực theo cách thức càng thêm tinh vi.
(3) Cảnh báo thứ ba: Tiêu thụ năng lượng của AI sẽ trở thành vấn đề mới
Vào năm 2020, chi phí tính toán còn chưa được quan tâm nhiều như hiện nay, nhưng bài báo đó đã bắt đầu thảo luận về tác động môi trường do việc huấn luyện các mô hình siêu lớn mang lại. Theo tính toán của các nhà nghiên cứu, lượng khí thải carbon tạo ra khi huấn luyện một mô hình ngôn ngữ lớn, tương đương với tổng lượng phát thải trong toàn bộ vòng đời của năm chiếc ô tô – lúc đó, cách nói này bị không ít người cho là quá bi quan.
Tuy nhiên, khi cuộc chạy đua xây dựng cơ sở hạ tầng AI bước vào giai đoạn chạy đua vũ trang, vấn đề nhanh chóng lộ diện: Theo số liệu công khai của Google, năm 2024 lượng khí thải nhà kính của công ty tăng 48% so với năm 2019; Microsoft cùng kỳ cũng tăng khoảng 29%. Cả hai công ty này đều nêu rõ, trung tâm dữ liệu AI và cơ sở hạ tầng tính toán là nguyên nhân quan trọng.
Có chút mỉa mai là, cách đây vài năm các gã khổng lồ công nghệ này còn đang tuyên truyền rầm rộ về mục tiêu trung hòa carbon.
(4) Cảnh báo thứ tư: Không ai thực sự biết trong dữ liệu huấn luyện có gì
Trong mắt nhiều người, dữ liệu huấn luyện dường như chỉ là một vấn đề kỹ thuật. Nhưng Gebru cho rằng, khi quy mô dữ liệu ngày càng lớn, việc kiểm toán đầy đủ dữ liệu huấn luyện sẽ trở nên gần như bất khả thi.
Quan điểm của bà một lần nữa ứng nghiệm: Năm 2023, các nhà nghiên cứu phát hiện trong bộ dữ liệu LAION-5B được sử dụng rộng rãi để huấn luyện mô hình tạo hình ảnh, tồn tại một lượng lớn ảnh lạm dụng trẻ em, trong đó có nhiều mô hình chủ lưu như Stable Diffusion đều từng sử dụng bộ dữ liệu này.
Không ngoài dự liệu, nhiều nhà phát triển trước đó không biết sự tồn tại của những nội dung này. Tức là, ngay cả bản thân nhà phát triển mô hình, cũng chưa chắc đã thực sự hiểu mô hình đã "ăn" vào những gì – mà đây chính là một trong những vấn đề mà bài báo sớm nhất đã đặt ra.
(5) Cảnh báo thứ năm: Internet sẽ dần bị nội dung AI chiếm lĩnh
Trong góc nhìn của Google, có lẽ đây mới là phần nhạy cảm nhất của toàn bài báo. Gebru và Bender cho rằng, sự phát triển của mô hình lớn cuối cùng sẽ tập trung quyền phát ngôn về ngôn ngữ và văn hóa vào tay một số ít gã khổng lồ công nghệ. Lý do rất đơn giản: Huấn luyện mô hình siêu lớn cần nguồn lực tài chính, tính toán và dữ liệu khổng lồ, số công ty thực sự có khả năng tham gia cạnh tranh chỉ đếm trên đầu ngón tay.
Lâu dần, tiếng nói chủ lưu trên internet sẽ dần tiến hóa thành: Giá trị trung bình thống kê được huấn luyện bởi một số ít công ty, sau đó lại với tư cách "trợ lý trung lập" truyền bá ra toàn thế giới. Đồng thời, những ngôn ngữ và văn hóa chiếm tỷ lệ thấp trong dữ liệu huấn luyện sẽ càng bị đẩy ra rìa.
Nghiêm trọng hơn, khi nội dung do AI tạo ra một lần nữa đi vào internet, và trở thành dữ liệu huấn luyện cho vòng tiếp theo, vấn đề sẽ còn không ngừng tự củng cố – đây chính là điều mà các nhà nghiên cứu hiện nay gọi là: "Sụp đổ mô hình (Model Collapse)".
Một nghiên cứu năm 2024 phát hiện, trong nội dung mới được tăng thêm trên internet tiếng Anh, khoảng 57% đã là do AI tạo ra hoặc được AI hỗ trợ tạo ra; còn nghiên cứu đối với ngôn ngữ tài nguyên thấp phát hiện, do dữ liệu huấn luyện ngày càng nhiều đến từ nội dung do AI tạo ra, chất lượng dịch thuật của một số ngôn ngữ đã xuất hiện suy thoái rõ rệt.
Nói cách khác, bài báo này không chỉ dự đoán được hiện tượng "sụp đổ mô hình", mà thậm chí trước khi khái niệm này chính thức xuất hiện, đã chỉ ra cơ chế hình thành của nó.
Sau khi rời Google, bà chọn tiếp tục nghiên cứu
Sau khi sự việc xảy ra năm đó, nhiều người sau này miêu tả Gebru thành "người chống đối AI". Thực ra không phải vậy, bà chưa từng chủ trương ngừng phát triển AI. Từ đầu đến cuối, bà chất vấn là một việc khác:
Rốt cuộc ai là người quyết định phương hướng phát triển của AI?
Theo quan điểm của bà, những nhà nghiên cứu và quản lý thúc đẩy sự phát triển của mô hình lớn thường có xuất thân tương đồng, phục vụ mục tiêu thương mại tương đồng, và chịu sự thúc đẩy bởi áp lực cạnh tranh giống nhau. Trong cơ chế khích lệ như vậy, việc nhanh chóng phát hành sản phẩm hơn, nhanh chóng mở rộng quy mô người dùng hơn, nhanh chóng giành chiến thắng trong cạnh tranh thị trường hơn, thường có mức độ ưu tiên cao hơn so với các vấn đề an toàn, công bằng và đạo đức.
Mà tất cả những người cố gắng làm chậm tiến trình này, đều có thể bị coi là kẻ cản trở. Trớ trêu thay, chính Gebru đã đưa ra quan điểm này nội bộ Google, và Google thông qua việc sa thải bà, cũng khiến quan điểm này nhận được chú thích thực tế mang tính kịch tính nhất.
Đáng ngậm ngùi hơn, không lâu sau khi sự việc xảy ra, đồng trưởng nhóm Đội ngũ AI Đạo đức khác là Margaret Mitchell cũng bị sa thải – chỉ trong vòng 90 ngày, đội ngũ AI Đạo đức từng là niềm tự hào của Google về cơ bản đã bị giải tán.
Sau khi rời Google, năm 2021 Gebru thành lập Viện Nghiên cứu AI Phân tán (DAIR, Distributed AI Research Institute). Khác với các công ty công nghệ lớn, tổ chức này hy vọng tiến hành nghiên cứu AI ngoài lợi ích thương mại, mục tiêu của nó rất trực tiếp: Nghiên cứu những vấn đề mà các gã khổng lồ công nghệ chưa chắc đã muốn đối mặt. Mấy năm qua, DAIR liên tục quan tâm đến các chủ đề như nguồn gốc dữ liệu, tính công bằng thuật toán, sự đa dạng ngôn ngữ cũng như sự tập trung quyền lực trong ngành công nghiệp AI.
Và cùng với sự phát triển bùng nổ của AI sáng tạo, ngày càng nhiều nhà nghiên cứu cũng bắt đầu quan tâm lại đến bài báo Mối nguy hiểm của những con Vẹt Ngẫu nhiên: bởi vì họ phát hiện, những vấn đề trong bài báo năm xưa bị coi là lo ngại thái quá, giờ đây đã trở thành hiện thực mà ngành hàng ngày đang thảo luận.
Có lẽ, bà chỉ là người nhìn thấy vấn đề sớm hơn những người khác
Sáu năm trôi qua, về những tranh cãi phải trái giữa Timnit Gebru và Google, bên ngoài có lẽ mãi mãi không thể có được một câu trả lời được tất cả mọi người đồng tình.
Google cho rằng, đó là một sự kiện rà soát học thuật bình thường và nghỉ việc; Gebru thì cho rằng, mình bị trấn áp vì kiên trì công bố kết quả nghiên cứu. Nhưng có một điểm ngày càng khó phủ nhận:
Bài báo dẫn đến việc bà rời Google, không hề mất đi ý nghĩa cùng với sự kết thúc của tranh cãi.
Ngược lại, những vấn đề nó thảo luận như ảo giác, thiên kiến, ô nhiễm dữ liệu, chi phí môi trường, sụp đổ mô hình và tập trung quyền lực, giờ đây đã trở thành chủ đề không thể tránh né của toàn bộ ngành công nghiệp AI.
Có lúc, lịch sử sẽ đưa ra đánh giá theo một cách thức ngoài dự liệu.
Năm 2020, nhiều người cảm thấy Timnit Gebru quá bi quan;
Năm 2026, mọi người bắt đầu nhận ra, có lẽ bà chỉ là người nhìn thấy vấn đề sớm hơn những người khác.
Tham khảo: https://www.tumblr.com/dreaminginthedeepsouth/817865966907228160/darren-oconnor-timnit-gebru-was-fired-from
Bài viết từ tài khoản công chúng WeChat "CSDN", biên tập: Trịnh Lệ Viên
