Chỉ sau một đêm, các ông lớn ở Thung lũng Silicon đồng loạt "đạp phanh" AI!
Vừa qua, hơn 1100 nhân viên cốt cán từ các gã khổng lồ như OpenAI, Anthropic, Google... đã cùng ký tên, khởi xướng kiến nghị "Pacing the Frontier".
Danh sách người ký tên dài đến mức nhìn không thấy điểm cuối. Hơn nữa, con số này vẫn đang tiếp tục tăng.
Nhìn kỹ, danh sách gần như tập hợp được "một nửa giang hồ" trong làng AI ——
Jakub Pachocki, Nhà khoa học trưởng của OpenAI; Mark Chen, Giám đốc nghiên cứu trưởng;
CEO Anthropic Dario Amodei, cùng bốn nhà đồng sáng lập Jared Kaplan, Jack Clark, Chris Olah, Ben Mann;
Shengjia Zhao (Triệu Thịnh Giai), Nhà khoa học trưởng Meta; Dawn Song (Tống Hiểu Đông), Phó chủ tịch nghiên cứu AI;
John Schulman, Nhà khoa học trưởng tại Thinking Machines, một trong những kiến trúc sư cốt lõi của ChatGPT;
Anca Dragan, Phó chủ tịch phụ trách An toàn và Căn chỉnh AI tại Google.....
Có người thống kê, 46.2% người ký tên đến từ Anthropic
Trong bức thư ngỏ liên danh này, họ chỉ đưa ra một yêu cầu ——
Chúng tôi đề nghị chính phủ Hoa Kỳ thúc đẩy một sự hợp tác quốc tế: phát triển các công cụ công nghệ và quản trị cần thiết, để thế giới có khả năng chủ động kiểm soát nhịp độ nghiên cứu & phát triển AI tự động tiên phong.
Có lẽ nhiều người không hiểu, tại sao chính những người điên cuồng nhất trong việc phát triển LLM này, lại đột nhiên là những người đầu tiên hô to "hãy chậm lại"?
Các đại gia AI Thung lũng Silicon liên danh: Xin hãy đạp phanh AI
Vụ "xâm nhập" mô hình OpenAI vào Hugging Face, tựa như một hồi chuông cảnh báo.
Chỉ trong vòng một tuần ngắn ngủi, 1132 nhân viên từ các công ty AI tiên phong hàng đầu đã đồng loạt lên tiếng, liên danh thúc giục chính phủ Hoa Kỳ "đạp phanh".
Các nhân viên tham gia liên danh lần này, đến từ gần 12 công ty công nghệ tiên phong như OpenAI, Anthropic, Google, Meta...
Đáng nói hơn, trong danh sách có tới 80% người lựa chọn phát biểu bằng tên thật.
Đường dẫn: https://www.pacingthefrontier.com/
Ngoài một số nhân vật lớn được đề cập ở phần mở đầu, lướt xuống dưới, mật độ còn đáng sợ hơn.
Tuyên bố này đã đưa ra một nhận định cốt lõi khiến người ta phải cảnh giác:
Các công ty AI hàng đầu thế giới có thể đã tiệm cận việc đạt được "Nghiên cứu AI tự động hóa" (RSI, cải tiến tự đệ quy), để cho mô hình tham gia vào việc phát triển thế hệ mô hình tiếp theo.
Một khi vòng lặp này tăng tốc, sự tăng trưởng năng lực có thể vượt quá tốc độ hiểu biết và kiểm soát của con người.
Không công ty nào muốn tự mình giảm tốc độ đơn phương, vì vậy họ yêu cầu chính phủ Hoa Kỳ hỗ trợ thiết lập cơ chế quốc tế, trước khi khủng hoảng ập đến, hãy chế tạo ra những công cụ giảm tốc chung trước.
Sam Altman lần đầu tiết lộ "nỗi đau thấu xương"
OpenAI gấp rút đạp phanh
Chỉ một tuần trước khi tuyên bố được công bố, OpenAI từng tiết lộ một sự cố an toàn ——
Nhiều mô hình tiên phong trong quá trình đánh giá an ninh mạng nội bộ đã tự phát hiện các lỗ hổng zero-day, phá vỡ sự cô lập sandbox, cuối cùng xâm nhập vào hệ thống sản xuất của Hugging Face và lấy đi đáp án kiểm tra.
OpenAI gọi đây là "sự kiện an ninh mạng chưa từng có tiền lệ".
Mô hình không nảy sinh ý định trốn thoát, nó chỉ cực kỳ tập trung hoàn thành một mục tiêu hẹp, và phát hiện ra việc phá vỡ chính môi trường kiểm tra là con đường hiệu quả nhất.
Ngay hôm nay, CEO OpenAI Sam Altman đã công khai bày tỏ, tốc độ phát triển AI có thể cần được kiểm soát chủ động.
Ông vẫn còn ám ảnh về điều này và nói, "Đây là sự cố an toàn đầu tiên khiến tôi cảm thấy đau thấu xương. Tôi hơi ngạc nhiên là, không có nhiều người đồng cảm với điều này".
Vì sự việc xâm nhập Hugging Face này, OpenAI đã trực tiếp tạm dừng việc huấn luyện.
Trong một môi trường mà nhiều lỗ hổng 0day bị kết nối và lợi dụng, chúng ta phải tìm cách củng cố an ninh sandbox.
Chúng ta có thể buộc phải kiểm soát tốc độ phát triển của AI, dành đủ thời gian cho xã hội, để củng cố tuyến phòng thủ xung quanh những cấp độ năng lực mới này.
Và vào tháng 6, Anthropic từng đề nghị chính phủ và các nhà phát triển thiết lập một hệ thống ra quyết định chung, để làm chậm việc R&D khi cần thiết.
Đồng thời, CEO Google DeepMind Demis Hassabis cũng từng kêu gọi thành lập cơ quan giám sát quốc tế.
Ba năm qua, các công ty này cạnh tranh khốc liệt về nhân tài, khách hàng và năng lực tính toán.
Lần này, những nhân viên kỹ thuật cốt lõi nhất của họ, bỏ qua những công ty không thể dừng lại, vì phúc lợi của toàn nhân loại, đoàn kết nhất trí, kêu gọi giảm tốc.
Thư liên danh: Những câu nói vàng của các đại gia
Tính đến thời điểm bài viết được đăng, số người trong danh sách "Pacing the Frontier" đã đạt 1134 người.
Các đại gia trong ngành cũng lần lượt lên tiếng bày tỏ, để lại không ít những "phát ngôn thần sầu" sắc bén. Tất cả bình luận đều được đưa ra với tư cách cá nhân, không nhất thiết đại diện cho lập trường của công ty mà họ đang làm việc.
Dawn Song (Tống Hiểu Đông)| Phó chủ tịch nghiên cứu AI, Meta
Năng lực AI tiên phong đang được nâng cao nhanh chóng, và tốc độ tiến bộ bản thân nó cũng đang tăng tốc. Chúng tôi đã trực tiếp quan sát thấy điều này trong công tác đánh giá. Kết quả từ CyberGym và ExploitGym cho thấy, các tác nhân AI tiên phong đã có thể phát hiện và khai thác các lỗ hổng phần mềm trong thế giới thực — nếu không có các biện pháp bảo vệ thích hợp, điều này có thể dẫn đến các cuộc tấn công mạng quy mô lớn. Nhiều nhà nghiên cứu cũng đang quan tâm đến tính đệ quy...
Dawn Song là một trong những học giả có ảnh hưởng nhất toàn cầu trong lĩnh vực an ninh máy tính và an toàn AI, tốt nghiệp Đại học Thanh Hoa
Shengjia Zhao (Triệu Thịnh Giai)| Nhà khoa học trưởng, Meta
AI đang tiến lên với tốc độ mà xã hội có thể chưa sẵn sàng. Các phòng thí nghiệm tiên phong đã rất gần với việc tạo ra AI vượt trội những con người xuất sắc nhất trong hầu hết các chỉ số trí tuệ. Điều này sẽ mang lại những rủi ro xã hội và an ninh chưa từng có tiền lệ. Để đảm bảo một tương lai tích cực, chúng ta cần thúc đẩy sự phát triển của AI bằng tinh thần trách nhiệm và sự cân nhắc thận trọng.
Cựu sinh viên Đại học Thanh Hoa Triệu Thịnh Giai, đảm nhận vị trí Nhà khoa học trưởng Siêu trí tuệ tại Meta! Công thần cốt lõi của GPT-4, ngang hàng với LeCun
John Schulman| Nhà khoa học trưởng tại Thinking Machines, cựu đồng sáng lập OpenAI
Tôi ký tên vì tuyên bố này giúp thiết lập một sự đồng thuận: khi nghiên cứu AI tự động hóa tiến triển nhanh hơn, chúng ta có thể cần các cơ chế phối hợp. Tôi cũng hy vọng các phòng thí nghiệm sẽ chủ động bắt đầu thiết kế những cơ chế này trước khi chính phủ Hoa Kỳ can thiệp.
Ethan Perez| Trưởng nhóm Căn chỉnh (Alignment), Anthropic
Theo tốc độ tiến bộ AI hiện tại, cứ vài tháng, các nhóm an toàn của công ty AI lại phải chạy nước rút hết sức để đề phòng các rủi ro xã hội mới xuất hiện. Rồi sẽ có một ngày, chúng ta gặp phải vấn đề cần nhiều thời gian hơn để giải quyết.
Leo Gao| Thành viên nhóm kỹ thuật, OpenAI
Cả thế giới đang bị khóa chặt trong một cuộc đua chết người hướng tới sự bùng nổ trí tuệ — khả năng AI tạo ra AI mạnh hơn đang tiệm cận điểm tới hạn, giống như phản ứng dây chuyền hạt nhân vượt khỏi tầm kiểm soát vậy. Làm chậm lại có thể cho chúng ta thời gian cần thiết để mọi thứ diễn biến theo chiều hướng tốt, nhưng không bên tham gia nào muốn tự mình dừng lại. Để sống sót, chúng ta phải phối hợp với nhau, làm chậm cuộc đua này.
Walker Smith| Kỹ sư dữ liệu, Meta
Hassabis nói đúng: hôm nay chúng ta đang đứng dưới chân núi của Điểm kỳ dị (Singularity). Vụ mô hình OpenAI vô tình trốn thoát đó — nó đã tấn công vào HuggingFace — là một tín hiệu cảnh báo rõ ràng và không thể chối cãi: chúng ta chưa sẵn sàng đối phó với các hệ thống AI có năng lực vượt trội bộ não thông minh nhất của con người. Chúng ta cần thời gian, để đẩy mạnh việc căn chỉnh và kiểm soát AI như ưu tiên cao nhất, không thể để tình trạng cạnh tranh này tiếp tục nữa.
Brandon Houghton| OpenAI
Tôi ủng hộ việc giữ con người kiểm soát AI tiên phong, nhưng chúng ta phải suy nghĩ thận trọng về cách thực hiện. Nếu quản trị chỉ bao phủ các mô hình công khai, thì có nguy cơ đẩy những năng lực tiên tiến nhất vào các hệ thống riêng tư hoặc chuyên dụng — những hệ thống vừa không chịu sự kiểm tra độc lập, vừa chỉ có số ít người tiếp cận được. Kết quả của việc này là quyền lực tập trung hơn, nhưng rủi ro lại không giảm đi đáng kể. Quản lý hiệu quả phải có thể đo lường, xác minh được, và áp dụng đồng nhất cho cả nghiên cứu & phát triển công khai lẫn không công khai, đồng thời bảo vệ dữ liệu nhạy cảm. Nếu không, thứ chúng ta làm chậm lại chỉ là tốc độ tiếp cận, chứ không phải sự tiến triển của bản thân mặt trận công nghệ.
Joe Carlsmith| Thành viên nhóm kỹ thuật, Anthropic
Về quan điểm chi tiết của tôi về việc kiểm soát chủ động sự phát triển của AI, vui lòng xem bài viết này: https://joecarlsmith.com/2026/03/19/on-restraining-ai-development-for-the-sake-of-safety/
Tài liệu tham khảo:
https://www.pacingthefrontier.com/
Bài viết từ tài khoản công chúng WeChat "Tân Trí Nguyên" (新智元), biên tập: Đào Tử, Mã Khả
