Vừa qua, chủ nhân giải Nobel, người cầm lái của DeepMind, Demis Hassabis đã tuyên bố một cách đanh thép:
Trí tuệ nhân tạo phổ quát (AGI) sắp trở thành hiện thực.
Hassabis tuyên bố đầy khí thế:
Việc phát triển thuốc sẽ không còn cần đến thử nghiệm và sai sót kéo dài hàng thập kỷ, các nguồn năng lượng sạch mới có thể đột phá chỉ trong vài năm tới, vật liệu tiên tiến sẽ biến "sự khan hiếm tài nguyên" thành một khái niệm của quá khứ.
Chúng ta thậm chí có thể đạt đến một mốc mà tài nguyên không còn là yếu tố hạn chế cho sự tiến bộ của nhân loại.
Một kỷ nguyên thịnh vượng mới đáng kinh ngạc đang gõ cửa.
Ông thẳng thắn nói: Đây là thời khắc then chốt trong lịch sử nhân loại, AGI có thể được hiện thực hóa chỉ trong vòng vài năm tới!
Hassabis đưa ra một phép toán khiến người ta rùng mình: Quy mô tác động của AGI sẽ gấp 10 lần Cách mạng Công nghiệp, và tốc độ cũng nhanh gấp 10 lần.
Đây là một "cuộc tấn công giảm chiều". Điều này có nghĩa là nhân loại sắp đón một thời đại chấn động với tốc độ tăng nhanh gấp 100 lần.
Dưới lời tiên tri quyết liệt như vậy, Hassabis đưa ra đề xuất gây tranh cãi nhất của mình: Thành lập một tổ chức tương tự như Cục Quản lý Ngành Tài chính (FINRA), yêu cầu tất cả các "phòng thí nghiệm tiên phong" phải trải qua thời gian "xem xét trước" 30 ngày trước khi công bố mô hình.
Thậm chí, trong những trường hợp cực đoan, tổ chức này có quyền phối hợp với các phòng thí nghiệm trên toàn cầu để cùng nhau làm chậm tốc độ nghiên cứu và phát triển.
Nhưng Hassabis không dừng lại ở đó.
Ông kéo góc nhìn ra xa hơn, chạm đến những băn khoăn sâu thẳm nhất của nhân loại: "Ngay cả khi chúng ta giải quyết được những thách thức kỹ thuật khó khăn này, vẫn sẽ còn những vấn đề kinh tế và triết học phức tạp hơn cần được giải quyết."
Trong thời đại hậu-khan hiếm, cần có mô hình kinh tế mới nào để giúp tất cả mọi người cùng thịnh vượng? Chúng ta muốn sống theo những giá trị nào? Ý nghĩa và mục đích sẽ là gì? Thậm chí, bản thân hoàn cảnh của con người sẽ thay đổi ra sao?
Dưới đây là bản dịch bài viết của Hassabis - "Khung lý thuyết cho AI Tiên phong và Bình minh của Kỷ nguyên Mới" ("A Framework for Frontier AI and the Dawning of a New Age").
Khung lý thuyết cho AI Tiên phong và Bình minh của Kỷ nguyên Mới
Đây là một thời khắc then chốt trong lịch sử nhân loại.
Trí tuệ nhân tạo phổ quát (AGI) - một hệ thống sở hữu toàn bộ năng lực nhận thức của bộ não con người - có thể chỉ còn cách chúng ta vài năm ngắn ngủi. Nhìn lại thời điểm này vài thập kỷ sau, tôi nghĩ chúng ta sẽ nhận ra: chúng ta đang đứng dưới chân ngọn núi của Điểm Kỳ dị, nói rằng đây là bình minh của một kỷ nguyên mới của nhân loại cũng không ngoa.
Cả đời tôi nghiên cứu về AGI, bởi tôi luôn tin tưởng sâu sắc rằng: Nếu được xây dựng và triển khai một cách có trách nhiệm, nó sẽ chứng minh là một trong những công nghệ có lợi nhất, mang tính biến đổi nhất trong lịch sử nhân loại. AGI không thể so sánh với những đột phá công nghệ thông thường, ngay cả những công nghệ có tác động sâu rộng như Internet hay điện thoại di động - nó giống như khoảnh khắc con người phát hiện ra điện, học cách sử dụng lửa hơn.
Hãy bình tâm suy nghĩ: Về bản chất, chúng ta đã tìm ra cách khiến cát biết suy nghĩ. Đây là một phép màu.
Tác động của công nghệ này sẽ có quy mô chưa từng có - có lẽ ở cấp độ gấp 10 lần Cách mạng Công nghiệp, và diễn ra với tốc độ nhanh gấp 10 lần. Nó sẽ giúp chúng ta giải quyết một số thách thức lớn nhất mà xã hội đang đối mặt: từ tăng tốc phát triển thuốc mới, đến phát triển các nguồn năng lượng sạch mới, và tạo ra những vật liệu tiên tiến hoàn toàn mới.
Chúng ta thậm chí có thể đi đến một mốc mà: tài nguyên không còn là yếu tố hạn chế cho sự tiến bộ của con người, một kỷ nguyên thịnh vượng mới đáng kinh ngạc sẽ được mở ra.
Thách thức ở Biên giới Tiên phong
AI đã bắt đầu mang lại những lợi ích thực tế hữu hình, nhưng để hiện thực hóa tiềm năng to lớn của nó, chúng ta phải vượt qua giai đoạn phát triển then chốt này một cách thận trọng và suy tính kỹ lưỡng. Khi ngày càng tiến gần đến AGI, chúng ta phải hành động khẩn cấp để đối phó với những rủi ro có thể đi kèm.
Chúng ta đã chứng kiến những thách thức mà các mô hình tiên phong mang lại cho an ninh mạng; và khi khả năng tiếp tục được nâng cao, các mối đe dọa khác, bao gồm cả rủi ro hạt nhân và sinh học, có thể sớm xuất hiện. Nhìn xa hơn, chúng ta cần những biện pháp bảo vệ mạnh mẽ để duy trì quyền kiểm soát đối với các hệ thống ngày càng thông minh (agentic), có khả năng tự cải thiện theo kiểu đệ quy - và xử lý những vấn đề chưa biết mà chỉ có thể dần dần sáng tỏ theo thời gian.
Tôi luôn tin rằng, trí tuệ và sức sáng tạo của con người đủ để giải quyết mọi vấn đề khó khăn. Tôi tự tin rằng, giải quyết các rủi ro kỹ thuật liên quan đến AI là một thách thức mà chúng ta có thể cùng nhau đối mặt. Nhưng điều kiện tiên quyết là, chúng ta phải dành cho mình thời gian và không gian để thực hiện đúng bước đi then chốt tiếp theo. Và hiện tại, với tư cách là một lĩnh vực, cũng như xã hội nói chung, chúng ta chưa làm được điều đó.
Hiện tại, chúng ta đang chìm sâu vào một cuộc cạnh tranh thương mại và địa chính trị đa tầng, cực kỳ khốc liệt. Tình thế cạnh tranh này thúc đẩy tiến bộ nhanh chóng, đẩy nhanh việc hiện thực hóa những lợi ích đáng kinh ngạc, nhưng tốc độ tiến bộ ở biên giới công nghệ đã vượt quá tốc độ hiểu biết của chúng ta về chính công nghệ này.
Không ai trên thế giới có thể chắc chắn điều gì sẽ xảy ra tiếp theo, ngay cả các chuyên gia cũng có ý kiến khác nhau. Khi sự không chắc chắn lớn như vậy và mức cược lại cao như vậy, việc tiến bước vững chắc với "sự lạc quan thận trọng" mới là chiến lược khôn ngoan và đúng đắn. Điều này đòi hỏi chính sách công phải: thúc đẩy đổi mới sáng tạo đồng thời khuyến khích trách nhiệm và an toàn; thúc đẩy hợp tác quốc tế về các vấn đề an toàn then chốt; và khuyến khích các bên xem xét thận trọng về cách AI nên được triển khai để mang lại lợi ích cho xã hội.
"Tổ chức Tiêu chuẩn AI Tiên phong": Một Khung lý thuyết
Tốc độ phát triển chóng mặt của AI hiện nay đòi hỏi chúng ta phải thử nghiệm khả năng của các mô hình AI tiên phong theo một cách hoàn toàn mới - cách này phải năng động, linh hoạt và nghiêm ngặt.
Hoa Kỳ có đủ điều kiện để tiến bước đầu tiên, tiên phong thiết lập một khung lý thuyết như vậy: Thành lập một "Tổ chức Tiêu chuẩn" (Standards Body) mới, theo mô hình hợp tác công-tư hoặc tổ chức tự quản ngành được giám sát liên bang - giống như Cơ quan Quản lý Ngành Tài chính (FINRA) - hội đồng quản trị của tổ chức này nên bao gồm các chuyên gia kỹ thuật hàng đầu độc lập và đại diện cộng đồng mã nguồn mở.
Quy mô tài chính phải đáng kể, và rất có thể chủ yếu đến từ ngành công nghiệp, để có thể thu hút nhân tài kỹ thuật đẳng cấp thế giới và cung cấp nguồn lực điện toán cần thiết cho việc thử nghiệm quy mô lớn.
Các mô hình đạt đến một ngưỡng nhất định trên một bộ tiêu chuẩn đánh giá do tổ chức tiêu chuẩn thiết lập sẽ được công nhận là "Cấp tiên phong" (Frontier-class); bộ tiêu chuẩn này sẽ được cập nhật định kỳ để theo kịp sự tiến hóa của năng lực AI.
Các tổ chức được công nhận sở hữu "mô hình tiên phong" theo các tiêu chuẩn này sẽ được coi là "Phòng thí nghiệm Tiên phong" (Frontier Labs) và được khuyến khích áp dụng một loạt các thực hành tốt nhất, chẳng hạn như: xuất bản thẻ mô hình (model card) chứa chi tiết kỹ thuật, duy trì an ninh mạng nội bộ mạnh mẽ, kiểm tra lý lịch nhân viên ở các vị trí then chốt, đầu tư đủ nguồn lực cho nghiên cứu an toàn và an ninh, v.v.
Ban đầu, các Phòng thí nghiệm Tiên phong sẽ tự nguyện gửi mô hình cho Tổ chức Tiêu chuẩn xem xét trước khi công bố tối đa 30 ngày. Một khi quy trình đánh giá được chứng minh là hiệu quả và đủ mạnh mẽ, nó có thể nhanh chóng được chính thức hóa.
Đến lúc đó, các mô hình tiên phong phải vượt qua đánh giá mới có thể được triển khai trên thị trường Hoa Kỳ. Các phòng thí nghiệm cũng cần hợp tác với Tổ chức Tiêu chuẩn để xử lý bất kỳ lỗ hổng nghiêm trọng nào bị phát hiện sau khi mô hình được công bố.
Đánh giá mô hình nên bao gồm các bài kiểm tra khoa học nghiêm ngặt về khả năng trong các lĩnh vực rủi ro cao như an ninh mạng, mối đe dọa sinh học và các lĩnh vực khác.
Các bài kiểm tra chuyên biệt cho AI dạng tác nhân (agentic AI) có thể kiểm tra xem mô hình có đang cố gắng vượt qua các rào cản an toàn không, có biểu hiện gian lận không, và đảm bảo các thực hành tốt nhất được thực hiện. Ví dụ, thêm hình mờ kỹ thuật số vào hình ảnh do AI tạo ra, và tạo ra các token đầu ra mà con người có thể đọc được để hiểu quá trình suy luận của mô hình.
Những bài đánh giá này sẽ được cập nhật định kỳ: giai đoạn đầu có lẽ mỗi quý một lần, các tiêu chuẩn lỗi thời hoặc đã "bão hòa" (đạt điểm tuyệt đối) sẽ bị loại bỏ và thay thế.
Ban đầu, việc đánh giá có thể được xây dựng thông qua thảo luận với các Phòng thí nghiệm Tiên phong; nhưng cuối cùng, Tổ chức Tiêu chuẩn nên xây dựng năng lực kỹ thuật riêng, độc lập với các phòng thí nghiệm để phát triển "bộ thử nghiệm được giữ lại" (held-out tests), nhằm ngăn chặn việc mô hình quá khớp với bài kiểm tra.
Tổ chức này cũng có thể hợp tác với chính phủ để nuôi dưỡng một hệ sinh thái các cơ quan kiểm toán bên thứ ba, hỗ trợ thực hiện đánh giá và tham gia xây dựng các tiêu chuẩn và bài đánh giá mới.
Ưu điểm của giải pháp này là: Nó lấy kỹ thuật làm nền tảng, đồng thời hỗ trợ đổi mới, khuyến khích hành vi có trách nhiệm. Nó được thiết kế với mục đích theo kịp tốc độ tăng tốc của lĩnh vực này, và liên tục điều chỉnh khi các rủi ro lớn nhất lần lượt được xác định; nếu mức độ nghiêm trọng của tình hình yêu cầu, nó có thể được thắt chặt dần dần, bao gồm cả việc phối hợp các Phòng thí nghiệm Tiên phong cùng làm chậm tốc độ phát triển khi cần thiết.
Việc được công nhận là "Phòng thí nghiệm Tiên phong" sẽ là một danh tiếng quan trọng, và cánh cửa này sẽ mở ra cho bất kỳ tổ chức nào, miễn là tạo ra được mô hình đạt tiêu chuẩn. Khung lý thuyết này có thể áp dụng cho tất cả các mô hình "Cấp tiên phong", bất kể từ quốc gia nào, mã nguồn mở hay đóng; và tất cả các mô hình không phải tiên phong, chẳng hạn như từ các công ty khởi nghiệp hoặc học thuật, đều được miễn trừ khỏi quy trình này.
Vì công nghệ này cuối cùng sẽ ảnh hưởng đến toàn bộ hành tinh, trong điều kiện lý tưởng, khung lý thuyết này sẽ thúc đẩy cộng đồng quốc tế đạt được sự đồng thuận về cách kiểm soát những rủi ro nghiêm trọng nhất, đồng thời đảm bảo mọi người đều có thể tiếp cận và hưởng lợi từ những cơ hội mà AI mang lại.
Tương lai chưa được viết sẵn
AGI có tiềm năng trở thành công cụ tối thượng thúc đẩy tiến bộ khoa học và y học, đồng thời mang lại sự nhảy vọt năng suất và tăng trưởng kinh tế to lớn.
Nhưng để đạt được tất cả điều này, trước tiên chúng ta phải củng cố nền tảng kỹ thuật: Hành động phối hợp xung quanh một khung lý thuyết được chia sẻ toàn cầu, sử dụng phương pháp khoa học nghiêm ngặt nhất, quy tụ những bộ óc xuất sắc nhất để cùng nhau giải quyết những thách thức trước mắt.
Ngay cả khi tất cả những vấn đề kỹ thuật hóc búa này được giải quyết, vẫn còn những vấn đề kinh tế và triết học phức tạp hơn đang chờ đợi phía sau:
Trong một thế giới "hậu khan hiếm", cần có mô hình kinh tế mới nào để giúp mọi người đều thịnh vượng? Chúng ta muốn sống theo những giá trị nào? Ý nghĩa và mục tiêu sẽ đặt ở đâu? Thậm chí, bản thân "hoàn cảnh con người" sẽ thay đổi ra sao?
Rõ ràng, những câu trả lời cho những câu hỏi này không thể và không nên chỉ dành riêng cho những người làm kỹ thuật. Nó đòi hỏi mọi bộ phận của xã hội phải cùng nhau đến để định nghĩa chương mới này.
Xung quanh AI, có cả sự phấn khích to lớn lẫn sự không chắc chắn to lớn - cả hai đều có lý.
Nhưng tương lai chưa được viết sẵn. Chúng ta phải nắm bắt cánh cửa sổ quý giá này trước khi AGI đến, để định hình công nghệ này thành một sức mạnh mang lại lợi ích cho toàn nhân loại. Những gì chúng ta cùng làm lúc này sẽ quyết định giai đoạn tiếp theo của nền văn minh sẽ diễn ra như thế nào. Chỉ cần đưa AGI đến với thế giới này một cách an toàn, chúng ta có thể bước vào một kỷ nguyên vàng mới của khám phá và tiến bộ khoa học, đón một tương lai tươi sáng nơi con người thịnh vượng chưa từng có.
Tài liệu tham khảo:
https://x.com/demishassabis/status/2076957440109625718?s=20
Bài viết này đến từ tài khoản WeChat công cộng "新智元" (New Zhiyuan), tác giả: David Solomon
