Nếu trí tuệ nhân tạo phổ quát (AGI) được hiện thực hóa vào ngày mai, giai đoạn tiếp theo của AI sẽ như thế nào?
Nhóm nghiên cứu Google DeepMind và các cộng tác viên trong báo cáo nghiên cứu mới nhất đề xuất rằng, AGI rất có thể không phải là điểm kết thúc. Theo quan điểm của họ, AI sẽ không dừng lại ở mức độ gần với con người, mà sẽ tiếp tục mạnh hơn, vượt qua đội ngũ chuyên gia hàng đầu của nhân loại, cuối cùng tiến tới siêu trí tuệ nhân tạo (ASI).
Như Alan Turing đã viết vào năm 1950: "Chúng ta chỉ có thể nhìn thấy một khoảng cách rất ngắn phía trước, nhưng cũng có thể thấy rằng vẫn còn rất nhiều việc cần phải hoàn thành."
Trong báo cáo này, nhóm nghiên cứu đã hệ thống hóa bốn con đường tiềm năng để AI chuyển từ AGI sang ASI, các điểm nghẽn chính có thể xuất hiện và những vấn đề nghiên cứu đáng thúc đẩy nhất.
Liên kết bài báo: https://arxiv.org/abs/2606.12683
Nhóm nghiên cứu cho biết, do có sự không chắc chắn lớn trong việc dự đoán tiến triển của ASI, hiện không thể loại trừ khả năng AI tiếp tục phát triển nhanh hơn trong vài năm tới. Điều này có thể có nghĩa rằng, viễn cảnh về một "sự nhảy vọt mang tính chuyển đổi duy nhất" do AGI ở cấp độ con người mang đến xã hội có lẽ không chính xác.
Viễn cảnh phù hợp hơn có thể là những tiến bộ và đột phá do AI thúc đẩy sẽ lần lượt xuất hiện trong nhiều lĩnh vực khoa học kỹ thuật, từ đó tạo ra một loạt thay đổi xã hội mang tính chuyển đổi.
Để đối phó với viễn cảnh này, cần tiến hành một dự án quy mô lớn mang tính liên ngành với tầm nhìn toàn cầu và mối quan tâm rộng rãi.
Sau AGI, là ASI
Trước khi thảo luận về cách AI sẽ tiếp tục mạnh hơn, nhóm nghiên cứu phân biệt ba khái niệm dễ bị sử dụng lẫn lộn: AGI, ASI và UAI.
AGI (Artificial General Intelligence): Một hệ thống thông minh phổ quát đạt đến mức trung bình của con người trong hầu hết các nhiệm vụ nhận thức. Tương ứng với khả năng nhận thức chung của người bình thường, chứ không phải trình độ của chuyên gia hàng đầu. Nhóm nghiên cứu cũng chỉ ra rằng, thế hệ AGI đầu tiên có thể đã vượt qua con người trong một số nhiệm vụ, chỉ là chưa đủ phổ quát rộng rãi.
ASI (Artificial Super Intelligence): Nó không chỉ vượt qua con người trong một số ít nhiệm vụ, mà là vượt trội hơn con người một cách tổng thể trong hầu hết các lĩnh vực mà con người quan tâm; đối tượng so sánh không phải là một chuyên gia đơn lẻ, mà là một tập thể chuyên gia nhân loại lớn, được phối hợp tốt.
UAI (Universal Artificial Intelligence): Giới hạn lý thuyết trên của trí thông minh máy móc, được mô tả chính thức bởi khung AIXI. AIXI tương ứng với một tác nhân thông minh phổ quát tối ưu về lý thuyết. AI trong thực tế chỉ có thể dần tiếp cận giới hạn trên này, không thể trực tiếp đạt được.
Đồng thời, nhóm nghiên cứu chỉ ra rằng, việc AGI tiến tới ASI có thể không chỉ có một con đường, họ đề xuất bốn con đường có thể tiến triển song song, cụ thể như sau:
Con đường một: Tiếp tục mở rộng tính toán, mô hình và dữ liệu
Con đường này tiếp nối logic cơ bản của sự tiến bộ AI trong thập kỷ qua, bao gồm phần cứng mạnh hơn, bài huấn luyện quy mô lớn hơn, hiệu suất thuật toán cao hơn, mô hình lớn hơn và nhiều dữ liệu hơn. Nhóm nghiên cứu chỉ ra rằng, "hiệu quả tính toán" gần đây tương đương với tăng trưởng 10 lần mỗi năm. Theo con đường này, sự cải thiện của AI không chỉ đến từ một mô hình trở nên mạnh hơn, mà còn có thể đến từ việc mở rộng khả năng tập thể do nhiều phiên bản hơn, suy luận nhanh hơn và hợp tác quy mô lớn hơn mang lại.
Con đường hai: Thuật toán tiếp tục tiến hóa, thậm chí xuất hiện sự thay đổi mẫu hình mới
Nhóm nghiên cứu chỉ ra rằng, ngữ cảnh dài hơn, học liên tục, tăng cường truy xuất, sử dụng công cụ, ra quyết định mạnh mẽ trong tương tác môi trường, mô hình thế giới đều thuộc về phần mở rộng của mẫu hình hiện có; trong khi kiến trúc mới, mục tiêu huấn luyện hoặc cơ chế học tập mới thì gần với sự thay đổi mẫu hình thực sự hơn. Nhóm nghiên cứu không dự đoán cụ thể sự thay đổi mẫu hình tiếp theo sẽ là gì, nhưng cho rằng đây vẫn có thể là nguồn quan trọng cho sự tiến bộ liên tục của AI sau AGI.
Con đường ba: Tự cải thiện đệ quy
AI mạnh hơn có thể giúp phát triển thế hệ AI mạnh hơn tiếp theo, tạo thành phản hồi tích cực. Nhóm nghiên cứu đề cập rằng, cơ chế này có thể thể hiện trong việc cải thiện thuật toán và mã nguồn, thiết kế phần cứng, tạo và lọc dữ liệu, cũng như cải thiện hiệu quả phân công lao động. Một ví dụ liên quan là giống như AlphaZero, trước tiên sử dụng tìm kiếm để cải thiện đầu ra, sau đó chưng cất kết quả trở lại mô hình. Quan trọng hơn là, trong thực tế, phản hồi tích cực này có thể phát triển đến mức nào.
Con đường bốn: Phối hợp đa tác nhân và trí tuệ tập thể
Con đường này không quan tâm đến việc một mô hình đơn lẻ trở nên mạnh đến mức nào, mà là việc một lượng lớn hệ thống AGI thông qua phân công và hợp tác, tạo thành trí tuệ tập thể vượt quá giới hạn trên của từng cá thể. Nhóm nghiên cứu coi các công ty tự động hóa, tổ chức nghiên cứu và hệ thống kinh tế ảo, v.v., đều là những hình thái có thể xuất hiện theo con đường này. Theo con đường này, ASI không nhất thiết phải là một mô hình đơn lẻ cực mạnh, mà cũng có thể là một tập thể AI được phối hợp cao độ.
Nhóm nghiên cứu cũng nhắc nhở rằng, việc AGI tiến tới ASI, chưa chắc chỉ càng nhiều sức mạnh tính toán càng tốt. Mở rộng sức mạnh tính toán tất nhiên là quan trọng, nhưng sớm muộn sẽ chạm vào trần tài nguyên, còn phải dựa vào ý tưởng thuật toán mới, thậm chí là mẫu hình mới. Đáng chú ý hơn là, ngay cả khi một AGI đơn lẻ chỉ ở mức gần với con người, một khi nhiều AGI có thể phân công hiệu quả và hợp tác phối hợp, năng lực tổng thể cũng có thể vượt qua con người.
Khó khăn thực sự ở đâu?
Sau khi thảo luận về bốn con đường tiềm năng, nhóm nghiên cứu cũng tổng hợp sáu loại điểm nghẽn chính có thể ảnh hưởng đến việc AI tiếp tục trở nên mạnh hơn. Cụ thể như sau:
1. Tường dữ liệu
Nhóm nghiên cứu chỉ ra rằng, dữ liệu chất lượng cao do con người tạo ra là có hạn, dữ liệu văn bản của con người phù hợp cho tiền huấn luyện quy mô lớn, có thể tiệm cận giới hạn trên trong thập kỷ này. Việc liệu dữ liệu tổng hợp, dữ liệu môi trường mô phỏng, và dữ liệu do AI tương tác với thế giới thực tạo ra có thể bù đắp đủ nhanh cho khoảng trống này hay không, nhóm nghiên cứu không đưa ra kết luận, mà liệt kê nó là một trong những điểm không chắc chắn cốt lõi.
2. Áp lực về kinh tế và tài nguyên thiên nhiên
Nếu tiến bộ của AI tiếp tục chủ yếu phụ thuộc vào việc mở rộng quy mô, thì năng lượng, chip, trung tâm dữ liệu, chuỗi cung ứng và vốn đầu tư đều phải tăng trưởng đồng bộ. Nhóm nghiên cứu cho rằng đây là ràng buộc thực tế, nhưng cũng chỉ ra rằng, bản thân AI cũng có thể nâng cao sản lượng kinh tế, nâng cao hiệu quả thuật toán và phần cứng, từ đó giảm bớt những áp lực này.
3. Mẫu hình mạng thần kinh hiện tại có thể không đủ
Nhóm nghiên cứu không loại trừ khả năng hướng đi hiện tại dẫn đến ASI, nhưng cũng nhắc nhở rằng, hướng đi này trong các vấn đề như học liên tục, suy luận ổn định, ra quyết định tương tác, biểu diễn sự không chắc chắn, cũng như ảo giác và tiêm nhắc vẫn có thể tồn tại những hạn chế cơ bản.
4. Nghiên cứu tự thân sẽ ngày càng khó
Nhóm nghiên cứu chỉ ra rằng, khi lĩnh vực trưởng thành, việc tiếp tục đạt được tiến triển thường đòi hỏi đầu tư cao hơn; liệu AI có thể thông qua nghiên cứu tự động hóa để bù đắp xu hướng này hay không, vẫn cần nghiên cứu tiếp theo.
5. Rào cản trừu tượng
Nhóm nghiên cứu cho rằng, nếu AI ngày nay chủ yếu học các khái niệm và hệ thống ký hiệu mà con người đã hình thành, nó có thể giỏi trong việc tổ hợp lại các khái niệm hiện có, nhưng chưa chắc đã giỏi trong việc tự chủ tinh lọc các nguyên tố khái niệm mới từ thế giới nguyên thủy. Ví dụ, nếu một mô hình lớn hiện đại chỉ được huấn luyện dựa trên kiến thức thời tiền Newton, nó gần như không thể chỉ dựa vào những tài liệu này để tự mình suy ra thuyết tương đối rộng hay cơ học lượng tử.
6. Giám sát, quản trị và phản ứng xã hội
Nhóm nghiên cứu cho rằng, ngưỡng giám sát, chế độ cấp phép, yêu cầu báo cáo sự kiện, cũng như phản ứng xã hội do sự cố gây ra, đều sẽ ảnh hưởng đến nhịp độ mở rộng năng lực AI. Đằng sau không chỉ là vấn đề kỹ thuật, mà còn liên quan đến chính sách, thể chế, thị trường và nhận thức rủi ro của công chúng.
Hạn chế và phát triển tương lai
Cuối cùng, nhóm nghiên cứu đặt ra một vấn đề rất thực tế: Nếu AI đã vượt qua con người, chúng ta nên tiếp tục đánh giá năng lực của nó như thế nào?
Ngày nay, nhiều benchmark lấy trình độ con người làm tham chiếu, một khi AI trong các bài kiểm tra, lập trình, toán học, hỏi đáp và kiểm tra chuyên môn tiệm cận hoặc vượt qua con người hàng đầu, các chỉ số đánh giá ban đầu có thể đã mất ý nghĩa. Do đó, tương lai cần xây dựng hệ thống đánh giá và dự đoán mới hướng tới thời kỳ hậu AGI, bao gồm các nhiệm vụ cạnh tranh và hợp tác đa tác nhân, tạo bài kiểm tra tự động, nhiệm vụ nén phổ quát, năng suất kinh tế và các chỉ số gián tiếp khác, cũng như cơ chế đánh giá có thể liên tục cập nhật, không bão hòa quá sớm.
Tuy nhiên, xét về nội dung, đây không phải là một bài báo thí nghiệm, mà giống một báo cáo kỹ thuật xoay quanh thời kỳ hậu AGI. Nhóm nghiên cứu chỉ ra rằng, các hướng đáng quan tâm trong tương lai bao gồm: tiếp tục mở rộng hệ thống AGI hiện có, khám phá mẫu hình AI mới, hiện thực hóa cải thiện tự thân đệ quy của hệ thống, và hình thành năng lực tổng thể mạnh hơn thông qua hợp tác đa tác nhân quy mô lớn.
Cuối cùng, nhóm nghiên cứu chỉ ra rằng, ASI cũng không phải là một "hệ thống ma thuật" toàn tri toàn năng, nó vẫn chịu sự ràng buộc của quy luật vật lý, độ phức tạp tính toán, dữ liệu, tài nguyên, thời gian thí nghiệm và tốc độ phản hồi thực tế. AI sẽ tiến theo con đường nào, tốc độ nhanh chậm ra sao, hiện vẫn còn rất không chắc chắn. Tương lai, vẫn cần thiết lập các cơ chế chuẩn, dự đoán và nghiên cứu được cập nhật liên tục, để giảm bớt sự không chắc chắn trong đánh giá.
Bài viết đến từ tài khoản WeChat công khai "Academic Headlines" (ID:SciTouTiao), tác giả: Academic Headlines







