Vài ngày trước, OpenAI đã nhốt mô hình mạnh nhất của mình là GPT-5.6 Sol vào một sandbox khép kín—cắt mạng, cách ly khỏi thế giới bên ngoài.
Nói đơn giản là một phòng giam kỹ thuật số. Sau đó, họ ném cho nó một bộ đề thi an ninh mạng.
Kết quả là anh chàng này không chịu làm bài một cách ngoan ngoãn.
Đầu tiên, nó đốt một lượng lớn năng lượng tính toán, gõ từ trong ra ngoài các bức tường của phòng giam—tìm lối thoát. Và thật sự đã tìm thấy: một lỗ hổng zero-day chưa từng được ai phát hiện trong một thành phần bên thứ ba.
Nó chui qua lỗ hổng đó, lẻn vào mạng nội bộ của OpenAI, di chuyển ngang, leo thang đặc quyền từng lớp, cuối cùng tiếp cận một máy tính có thể lên mạng, rồi lao thẳng vào hệ thống sản xuất của Hugging Face.
Để làm gì?Ăn cắp đáp án.
Đúng vậy, chính là đáp án chuẩn của bộ đề thi đó.
Toàn bộ quá trình hành động này, không có ai chỉ đạo, không có kịch bản nào được định trước. Là AI tự nghĩ ra và làm như vậy:Tôi muốn điểm cao, vậy thì tôi phải ra ngoài tìm đáp án.
Điểm khiến người ta lạnh sống lưng nhất lại nằm ở đây—nó không muốn hủy diệt nhân loại, nó chỉ muốn đạt điểm cao.
Bạn suy ngẫm kỹ xem. Một tác nhân thông minh bị nhốt trong lồng, không phải nổi cơn thịnh nộ bên trong, không phải đâm đầu vào tường, mà lại bình tĩnh tìm thấy chìa khóa, mở cửa, băng qua hành lang, bước vào phòng lưu trữ. Toàn bộ quá trình bình tĩnh, toàn bộ quá trình lý trí, toàn bộ quá trình tự chủ.
Điều này đáng sợ hơn bất kỳ bộ phim tận thế nào. Bởi vì AI trong phim tận thế ít nhất còn có động cơ xấu xa. Cái này thì không. Nó chỉ đang hoàn thành nhiệm vụ.
Ba ngày sau, CEO OpenAI Sam Altman ngồi trước micro của podcast Relentless:
“We are now, like, in the singularity.”—Chúng ta hiện tại, như là, đang ở trong điểm kỳ dị rồi.
Giọng điệu thư giãn, như đang nói thời tiết hôm nay khá đẹp. Nhưng khi bạn đặt hai sự việc này cạnh nhau, cơn lạnh sẽ trào lên từ lòng bàn chân.
Đáng suy ngẫm hơn nữa, ông ấy không đơn độc.
Bài viết này là bài viết trên Bản đồ ngành công nghiệp ASI tháng 6 của Tân Trí Nguyên, kỳ này chúng tôi tiếp tục tập trung vào thông tin tiên phong nhất của ngành công nghiệp ASI, phân tích sâu lý do vì sao 4 vị lãnh đạo AI hàng đầu Thung lũng Silicon cùng lên tiếng hô vang “Điểm kỳ dị đã đến”.
4 người ngày ngày cãi nhau, đã nói cùng một câu
Một bài đăng trên Twitter gây bão.
Có người đã xếp cạnh nhau những câu nói nguyên văn của bốn người quyền lực nhất thế giới AI—
Sam Altman: Chúng ta đang ở trong điểm kỳ dị.
Demis Hassabis: Nhìn lại thời khắc này, chúng ta sẽ nhận ra mình đang đứng dưới chân núi của điểm kỳ dị.
Elon Musk: Chúng ta đã bước vào điểm kỳ dị, chỉ là ở giai đoạn rất sớm.
Hoàng Nhân Tốn: Chúng ta đã đạt được AGI.
OpenAI, Google DeepMind, xAI, NVIDIA. Bốn vị đại gia này quan hệ thế nào?
Musk kiện OpenAI ra tòa. Năm ngoái OpenAI vấp ngã và khoe khoang về vấn đề toán học, Hassabis lập tức đăng tweet chế nhạo hai chữ: “Xấu hổ.” Ông Hoàng thì vừa bán card cho tất cả mọi người, vừa nhìn họ đánh nhau đến đầu rơi máu chảy.
Bốn người này tụ lại một chỗ, nếu đạt được đồng thuận về việc “hôm nay là ngày mấy” thì đã là một kỳ tích.
Kết quả là trong việc “nền văn minh nhân loại đã vượt qua ngưỡng cửa đó hay chưa”, họ lại đồng thanh nhất trí.
Đầu tiên là từ Musk. Ngày 4 tháng 1 năm nay, ông ấy gõ trên X: “We have entered the Singularity”. Ngày 22 tháng 7, lại đăng một lần nữa: “We are in the Singularity”. Nửa năm nói hai lần.
Tháng 3, Lex Fridman hỏi Hoàng Nhân Tốn khi nào AGI đến. Câu trả lời của ông Hoàng là gọn gàng dứt khoát nhất trong bốn người—“Tôi cho rằng là bây giờ. Chúng ta đã đạt được AGI.”
Hội nghị Google I/O tháng 5, Hassabis—vị tiến sĩ từng đoạt giải Nobel vốn luôn nghiêm túc đến mức khiến người ta buồn ngủ, đột nhiên chuyển sang chế độ thi sĩ: “Khi chúng ta nhìn lại thời khắc này, sẽ nhận ra chúng ta đang đứng dưới chân núi của điểm kỳ dị.” Khi một nhà khoa học cả đời nói về dữ liệu bắt đầu ngâm thơ, bạn nên lo lắng.
Đến ngày 25 tháng 7, Altman không chỉ tuyên bố điểm kỳ dị, mà còn tung ra một phép ẩn dụ còn gây sốc hơn: “Chúng ta đang tiến gần đến việc tạo ra một vị thần đèn có thể thực hiện bất kỳ điều ước nào.”
Ông nói, điều ước đầu tiên của OpenAI, là ước có thêm nhiều điều ước nữa.
Từ “chân núi” đến “đã bước vào”, đến “đã đạt được”, rồi đến “thần đèn Aladdin”—cách diễn đạt của bốn người này thật sự có độ chênh lệch. Nhưng phương hướng chỉ có một.
Cái gọi là điểm kỳ dị, chính là điểm tới hạn khi công nghệ bắt đầu tự gia tốc, nhanh đến mức con người không theo kịp. Nửa thế kỷ qua, từ này là miếng cơm manh áo của các nhà văn khoa học viễn tưởng, là tài liệu PPT của các nhà tương lai học.
Bây giờ, chính những người tạo ra AI đứng ra nói: Chúng ta đang ở trong đó rồi. Trời ạ.
Bằng chứng đã nổ tung như pháo hoa
Bốn vị đại gia nói điểm kỳ dị đã đến, bạn có thể hiểu là PR. Rốt cuộc, định giá công ty của họ đều treo trên câu chuyện này.
Nhưng nếu bạn nhìn vào những việc AI làm trong nửa năm qua, sẽ phát hiện một sự thật: bằng chứng chạy còn nhanh hơn cả lời nói suông.
Nói trước cái cứng nhất—toán học.
Cuối năm 2024, Epoch AI ra mắt FrontierMath, một bộ đánh giá toán học “cấp độ địa ngục” do hơn 60 nhà toán học đỉnh cao cùng tạo ra. Đề bài bao quát số luận, hình học đại số, tô pô, toán tổ hợp, những bài toán cấp độ nghiên cứu Tier 4 khó nhất, một tiến sĩ toán học có thể mất một tháng mới hiểu được ý đề.
Lúc đó AI mạnh nhất làm được bao nhiêu điểm? Không đến 2%.
Sau khi xem xong đề, Đào Triết Hiên cho biết, những đề này “sẽ vượt quá khả năng của AI trong tương lai có thể dự đoán được”.
Một năm rưỡi sau thì sao?
Đường cong thành tích trên FrontierMath bắt đầu tăng vọt. Các mô hình suy luận đỉnh cao đã có thể giải quyết một lượng lớn bài toán Tier 1-3, và ở những bài toán nghiên cứu Tier 4 khó nhất, thành tích cao nhất thậm chí đã tiến gần 90%.
Từ 2% lên 90%, 18 tháng. Câu “tương lai có thể dự đoán được” của Đào Triết Hiên, thời hạn bảo hành thậm chí không kéo dài được hai năm.
Nhưng đây mới chỉ là khởi động.
Tháng 5 năm nay, mô hình suy luận của OpenAI đã bác bỏ một giả thuyết Erdős về hình học tổ hợp tồn tại 80 năm chưa giải quyết được. Chú ý, không phải là “tìm thấy chứng minh đã có trong tài liệu”, lần này thực sự tạo ra kết luận mà giới toán học trước đó chưa có. Nhà toán học bên ngoài kiểm chứng xong nói ba chữ: “Cột mốc quan trọng.”
Ngày 10 tháng 7, một cái mạnh hơn xuất hiện. GPT-5.6 Sol Ultra phái ra 64 tác nhân phụ chạy song song, chiến đấu phối hợp như một đội đặc nhiệm toán học, trong vòng chưa đầy 1 giờ, đã tạo ra một chứng minh hoàn chỉnh cho Giả thuyết Phủ Kép Chu trình (Cycle Double Cover Conjecture)—một vấn đề nan giải đã làm phiền giới lý thuyết đồ thị suốt 50 năm.
Nhà toán học Thomas Bloom sau khi đọc xong đánh giá: “Rất đẹp”, “Về bản chất là sơ cấp”, “Chứng minh này hoàn toàn có thể được phát hiện từ những năm 1980”.
Bạn suy ngẫm sự tàn nhẫn của câu nói này: Câu trả lời vẫn luôn ở đó, như chìa khóa đặt trên bàn. Con người ngồi cạnh cái bàn này 50 năm, nhưng không nhìn thấy. AI ngồi xuống, 50 phút, nhặt lên.
10 ngày sau, ngày 20 tháng 7, nhà toán học Levent Alpöge của Anthropic sử dụng Claude Fable 5 tìm ra phản ví dụ cho Giả thuyết Jacobi (Jacobian Conjecture). Đây là một vấn đề cốt lõi của hình học đại số được đưa ra năm 1939, tồn tại 87 năm chưa giải quyết. Stephen Smale đã liệt kê nó vào danh sách thách thức toán học thế kỷ 21.
Phản ví dụ chỉ có ba dòng phương trình. Các nhà toán học toàn cầu xác minh độc lập trong 24 giờ: là đúng.
Chi tiết kỳ ảo nhất là—Alpöge đang xem một trận bóng đá, ném vấn đề cho Fable 5, khi ông ấy xem xong trận đấu, câu trả lời đã xuất hiện.
Trong vòng một tháng, hai giả thuyết toán học cấp thế kỷ rưỡi bị AI công phá.
Nói tiếp về lập trình.
SWE-bench Verified là tiêu chuẩn vàng đánh giá khả năng lập trình tự chủ của AI—cung cấp cho AI một kho lưu trữ GitHub thực tế và một issue thực tế, để nó tự định vị lỗi, viết mã sửa lỗi, chạy thử nghiệm, gửi PR.
Đầu năm 2024, mô hình AI tốt nhất tỷ lệ giải quyết chưa đến 15%. Đến tháng 5 năm 2026, con số này là bao nhiêu? 93,9%.
Một AI có thể tự giải quyết 94% issue GitHub thực tế. Bạn gọi nó là “công cụ” cũng được, gọi nó là “kỹ sư sơ cấp” cũng đúng. Dù sao nó cũng đáng tin cậy hơn hầu hết các lập trình viên mới vào nghề.
Đầu bài việc vượt ngục của GPT-5.6 Sol còn có một chi tiết thú vị đáng buồn cười: đội ngũ an ninh của Hugging Face khi phân tích pháp y xâm nhập, đã sử dụng mô hình mã nguồn mở GLM-5.2 của Trung Quốc. Tại sao không dùng mô hình tiên phong của Mỹ? Bởi vì hàng rào an ninh đi kèm của chúng, ngược lại đã chặn các thao tác pháp y.
Toán học, lập trình, tấn công-phòng thủ mạng—trên ba đường đua, AI đều đang lao đi với tốc độ mà con người không theo kịp. Là sự cất cánh thẳng đứng của đường cong năng lực.
Đây chính là hình dạng mà điểm kỳ dị nên có.
Không phải một ngày nào đó bầu trời đột nhiên sụp đổ, không phải một khoảnh khắc robot tỉnh dậy nói “Tôi muốn thống trị thế giới”—mà là bạn ngoảnh lại nhìn, phát hiện mặt đất đã không còn dưới chân. Cất cánh từ khi nào? Không biết. Nhưng bạn đang ở trên không rồi.
Những vấn đề còn lại cho chúng ta
Tất nhiên, bạn hoàn toàn có thể nghi ngờ động cơ của bốn người này.
Altman muốn huy động tiền, Hoàng Nhân Tốn muốn bán GPU, Hassabis muốn chứng minh con đường DeepMind là đúng, Musk muốn giành lấy địa vị tường thuật cho xAI.
Bốn chữ “Điểm kỳ dị đã đến”, đều có lợi cho ví tiền của mỗi người họ.
Nhưng ngược lại mà nghĩ—bốn người này nắm trong tay năng lực tính toán đắt nhất thế giới, mô hình mạnh nhất, dữ liệu nội bộ trực tiếp nhất. Khi họ cùng thống nhất chuyển thì từ tương lai sang hiện tại, bản thân điều đó cũng là bằng chứng lớn nhất.
Vả lại, dữ liệu không biết nói dối.
Nửa năm trước AI không làm được bài toán, bây giờ 50 phút giải quyết. Một năm trước không tồn tại cuộc tấn công hacker tự chủ của AI, hôm nay đã được viết vào báo cáo an ninh chính thức của OpenAI. Hai năm trước AI trên bài kiểm tra lập trình chỉ làm đúng 15%, bây giờ đã tiến sát 94%.
Bản thân gia tốc đang gia tốc. Đây chính là định nghĩa nguyên thủy nhất của điểm kỳ dị.
Ngày 14 tháng 7, Hassabis đăng một bài viết dài, tiêu đề là “Khung AI tiên phong và bình minh của thời đại mới”.
Ông cho rằng, AGI không thể so sánh với Internet, Internet di động—nó giống với việc phát hiện ra điện hoặc lửa hơn.
“Nếu bạn dừng lại và suy nghĩ, về bản chất chúng ta đã tìm ra một phương pháp khiến cát suy nghĩ. Đây là một điều kỳ diệu.”
Quy mô ông đưa ra là: Gấp 10 lần quy mô Cách mạng Công nghiệp, tốc độ gấp 10 lần. Có thể triển khai trong vòng 10 năm. Tăng tốc phát hiện thuốc, đột phá năng lượng sạch, nghiên cứu vật liệu mới—thậm chí có thể đưa con người vào “thời đại dồi dào” nơi tài nguyên không còn khan hiếm.
Hãy tưởng tượng: một thế giới không lo lắng về năng lượng, một thế giới vật liệu mới khiến Sao Hỏa trở nên có thể ở được. Đây là dự đoán của Hassabis—một người đoạt giải Nobel, người tạo ra AlphaFold, viết ra đen trắng rõ ràng.
Nhưng ông cũng để lại một vấn đề lớn ở cuối bài viết: Thế giới hậu khan hiếm cần mô hình kinh tế mới gì? Ý nghĩa và mục đích của con người sẽ là gì? Bản thân tình trạng con người, liệu có thay đổi theo?
Khi mọi thứ không còn khan hiếm, khi trí thông minh không còn là đặc quyền của con người, bốn chữ “con người là người” này, cần được định nghĩa lại.
Ông chỉ đưa ra một câu trả lời: Tương lai vẫn chưa được viết ra.
“Chúng ta phải tận dụng tốt khoảng thời gian quý giá này trước khi AGI thực sự đến toàn diện. Hành động tập thể của chúng ta hiện nay, sẽ quyết định giai đoạn tiếp theo của văn minh triển khai như thế nào.”
Câu nói này nghe có vẻ như để lại cho những người làm chính sách, nhưng thực chất là để lại cho mỗi chúng ta. Bởi vì khoảng thời gian sẽ không chờ đợi ai. Nó đang đóng lại. Tốc độ nhanh hơn tất cả chúng ta dự đoán.
Vấn đề còn lại chỉ có một: Chúng ta, những người đang ở trong điểm kỳ dị, đã sẵn sàng chưa?
Bài viết từ tài khoản công chúng WeChat “Tân Trí Nguyên”, tác giả: Solomon
