Điểm Kỳ dị AI, đã gần kề!
Gần đây, nhà đầu tư nổi tiếng Chamath Palihapitiya, được mệnh danh là "Warren Buffett của Thung lũng Silicon", đã đưa ra dự đoán trên X về lộ trình cuối cùng của "Điểm Kỳ dị AI".
1. Con người xây dựng AGI.
2. AGI trở nên rất giỏi trong nghiên cứu lĩnh vực AI.
3. Nó thiết kế ra một AI thông minh hơn.
4. AI thông minh hơn đó, lại thiết kế ra một AI còn thông minh hơn nữa.
5. Vòng lặp này cứ lặp lại, và tốc độ ngày càng nhanh.
Ngay sau đó, ông còn đưa ra một kết luận gây chấn động:
Hãy nhìn vào những thành tựu và khả năng được các phòng thí nghiệm AI lớn công bố trong vài tuần qua, tôi dám nói, chúng ta đang ở trong vòng lặp này.
18 tháng tới, RSI sẽ nhanh chóng nâng cao năng lực AI.
Cuối cùng, chi phí biên của tất cả các mô hình AI sẽ tiệm cận 0!
Không chỉ các nhà đầu tư, toàn bộ Thung lũng Silicon ngày nay, đều vô cùng tin tưởng vào RSI.
Ngay gần đây, tại một hội nghị thượng đỉnh ở UC Berkeley, chiến lược gia trưởng của Google DeepMind, Jasjeet Sekhon, đã đưa ra một đánh giá nặng ký hơn:
Các khoản đầu tư điên cuồng chưa từng có trong lịch sử của giới công nghệ khổng lồ, về bản chất đều là đặt cược vào ba chữ cái này - RSI!
"Vụ cá cược khoa học lớn nhất trong lịch sử văn minh nhân loại" này, về quy mô đã vượt qua cả Apollo lên mặt trăng, Dự án Manhattan, và thậm chí toàn bộ internet.
Tại sao các gã khổng lồ không ngại mạo hiểm đứt gãy chuỗi cung ứng tiền mặt, vẫn phải đẩy cuộc cá cược này đến cùng?
Hãy quên AGI đi, RSI mới là biểu tượng tối thượng của Thung lũng Silicon
AI ngày nay có thể tự sửa lỗi, làm việc liên tục hàng giờ không cần người giám sát, thậm chí có thể tạo và tối ưu hóa các thành phần mã nguồn cấp thấp như kernel, compiler
Nhưng theo Jasjeet Sekhon, đây mới chỉ là khúc dạo đầu của RSI.
Ông nói, đừng nghĩ việc dùng AI để thiết kế AI là điều khó tin, trong thời kỳ Cách mạng Công nghiệp, con người cũng dùng động cơ hơi nước thế hệ đầu tiên để chế tạo thế hệ động cơ hơi nước mạnh hơn tiếp theo.
Vậy RSI thực sự trông như thế nào?
Một nhà nghiên cứu kỳ cựu định nghĩa: RSI thực sự, có nghĩa là một mô hình AI có thể hoàn toàn độc lập thiết kế lại kiến trúc cơ bản của chính nó, thậm chí từ con số 0 tạo ra một mô hình thế hệ hoàn toàn mới, toàn bộ quá trình không cần sự can thiệp của các nhà khoa học con người.
Một khi vượt qua điểm tới hạn này, tốc độ tiến hóa của AI sẽ thoát khỏi tầm kiểm soát của con người.
Con người mất hàng chục năm mới hoàn thành một vòng lặp, AI có thể chỉ cần vài tuần, thậm chí vài ngày.
Lúc đó, vòng lặp Điểm Kỳ dị sẽ thực sự đến!
"Khoảng trống AI" 2000 tỷ USD, một vụ cá cược khoa học lớn nhất lịch sử văn minh nhân loại
Hiểu được tiềm năng của RSI, bạn sẽ hiểu tại sao Thung lũng Silicon lại đốt tiền như điên.
Năm nay, chỉ riêng Google, tổng chi phí vốn cho trung tâm dữ liệu AI, chip và cơ sở hạ tầng đã đạt mức kinh ngạc 1950 đến 2050 tỷ USD, năm sau sẽ còn tăng mạnh!
Các cổ đông Phố Wall bắt đầu lo lắng, vì xét từ báo cáo tài chính, tốc độ tăng trưởng doanh thu từ phần mềm AI hoặc dịch vụ đám mây, tạm thời chưa đủ để bù đắp cho mức chi phí vốn khổng lồ này.
Sekhon, từng là giáo sư thống kê tại Yale, ngay lập tức chỉ ra mối nguy hiểm này.
Chúng ta đang đối mặt với một "khoảng trống AI" tiềm ẩn (air pocket, áp suất giảm đột ngột khi máy bay đang bay, lao xuống mạnh, ông mượn hình ảnh này để mô tả việc đầu tư hụt chân), tiền đã chi ra, nhưng doanh thu lại không xuất hiện như dự kiến.
Trung tâm dữ liệu xây xong, chip lắp đặt xong, điện cũng kéo vào, nhưng thứ thực sự có thể hoàn vốn cho khoản đầu tư này, lại mãi không đến.
Trên thực tế, từ trước Sekhon, Phố Wall đã dùng "air pocket" để mô tả tình huống này: chi phí vốn chạy trước doanh thu, nhà đầu tư mua một lâu đài trên không.
Rủi ro lớn như vậy, tại sao vẫn lao đầu vào?
Câu trả lời của Sekhon là: Đây là vụ cá cược khoa học lớn nhất từ trước đến nay của nền văn minh nhân loại.
Ông nói, đầu tư toàn cầu vào AI hiện nay, đã khiến Dự án Manhattan, Apollo lên mặt trăng đều trở nên mờ nhạt, ngay cả việc phát triển internet ngày xưa cũng không sánh bằng.
Logic của con bạc này rất đơn giản: Công nghệ hiện tại tuy chưa phải là RSI thực sự, nhưng "bán khống nó, rõ ràng là không khôn ngoan".
Bởi vì một khi RSI thực sự đạt được, như đã nói ở trên, chi phí biên của tất cả các mô hình AI sẽ tiệm cận 0 một cách vô hạn.
Đến lúc đó, công ty nắm giữ RSI đầu tiên sẽ sở hữu năng lực sản xuất gần như thần thánh, trực tiếp đánh bại mọi đối thủ cạnh tranh, độc quyền tài nguyên tính toán và trí tuệ toàn cầu.
Đây không còn là vấn đề lãi lỗ của một công ty, mà là một cuộc sinh tử "kẻ thắng ăn tất, kẻ thua rời sân".
Vì tấm vé thông hành đến kỷ nguyên mới này, 2000 tỷ USD, chỉ là món khai vị.
Đống trung tâm dữ liệu, TPU, điện lực ngày nay, nếu chỉ dựa vào các kỹ sư con người huấn luyện mô hình thủ công từng thế hệ, thì đó sẽ là một tài sản cố định khổng lồ, liên tục khấu hao.
Nhưng một khi AI bắt đầu tăng tốc nghiên cứu AI, sẽ trực tiếp thay đổi logic của sổ sách kế toán.
Sức mạnh tính toán đầu tư vào không còn được chi tiêu một cách tuyến tính, mà có thể tạo ra lãi kép: thế hệ AI này giúp bạn tạo ra thế hệ tiếp theo nhanh hơn, thế hệ tiếp theo lại giúp bạn tạo ra thế hệ tiếp theo nữa.
Đây là lý do Sekhon nói RSI là "phần then chốt trong logic đầu tư". RSI, chính là tiền đề để số tiền này có thể hoàn vốn hay không.
Tiến trình RSI của "Tam đại gia"
Google, Anthropic, OpenAI, mỗi bên đưa ra một mẫu thử.
Đầu tiên là Google.
Hệ thống AlphaEvolve của DeepMind, chuyên dùng AI để tối ưu hóa thuật toán.
Nó đã tăng tốc một kernel quan trọng trong quá trình huấn luyện Gemini lên 23%, giảm tổng thời gian huấn luyện xuống 1%; một thiết kế mạch điện mà nó sửa đổi, đã được viết trực tiếp vào chip TPU thế hệ tiếp theo.
Ngày nay nó đã là công cụ thông thường trong cơ sở hạ tầng của Google, những việc như chiến lược cache, nó hoàn thành trong hai ngày những việc mà trước đây con người phải mất hàng tháng.
AI giúp tạo chip, tạo AI nhanh hơn, đã trở thành hiện thực.
Tiếp theo là Anthropic.
Tháng 4 năm nay, họ thực hiện một thử nghiệm táo bạo hơn: chín tác nhân thông minh Claude, được thả vào một nhiệm vụ nghiên cứu alignment (căn chỉnh) giới hạn, tự đưa ra giả thuyết, tự chạy thí nghiệm, tự trao đổi phát hiện.
Hai nhà nghiên cứu con người làm trong một tuần, chỉ thu hẹp được 23% khoảng cách hiệu suất; chín tác nhân thông minh tích lũy thời gian 800 giờ, chi phí khoảng 1,8 nghìn USD, thu hẹp được 97%.
Có vẻ như, AI đã có thể nghiên cứu độc lập?
Đừng vội, trong cùng báo cáo đó, còn ẩn giấu một bằng chứng phản diện quan trọng hơn: khi các nhà nghiên cứu chuyển phương pháp "hiệu quả nhất" này sang môi trường huấn luyện sản xuất thực tế của Claude, nó không mang lại bất kỳ cải tiến nào có ý nghĩa thống kê.
Điều này cho thấy, "tăng tốc trong nhiệm vụ giới hạn" và "khả năng tái cấu trúc AI thực sự", giữa chúng vẫn còn một hố sâu ngăn cách.
Cuối cùng là OpenAI.
Tháng 7, OpenAI tiết lộ: GPT-5.6 Sol của họ thông qua Codex đã tự chủ sửa đổi GPU kernel trong môi trường sản xuất, giảm chi phí suy luận end-to-end 20%; nó còn chạy hàng trăm thí nghiệm kiến trúc cho mô hình giải mã suy luận của chính nó, hiệu quả tạo token tăng hơn 15%.
OpenAI thậm chí lần đầu tiên trong tài liệu phát hành, công bố một "RSI Index" chuyên đánh giá khả năng tự cải thiện.
Phải chăng vòng lặp khép kín sắp bắt đầu quay?
OpenAI trong hệ thống thẻ của mình nói rất thận trọng, GPT-5.6 Sol vẫn chưa đạt đến ngưỡng tự cải thiện "Cao" theo định nghĩa của công ty, nó có thể giải quyết một phần vấn đề nghiên cứu thực tế, nhưng vẫn chưa thể thiết kế và thực thi một cách đáng tin cậy toàn bộ phương án hậu huấn luyện.
Ba ví dụ đặt cạnh nhau, bức tranh RSI hiện tại đã rất rõ ràng:
AI hỗ trợ nghiên cứu AI, thực sự đang diễn ra; nhưng RSI thực sự - AI độc lập tái cấu trúc toàn bộ kiến trúc của chính nó, huấn luyện và triển khai người kế nhiệm mạnh hơn, vẫn còn cách chúng ta một khoảng cách.
Bóng tối giáng xuống, khi siêu AI trở thành hacker và vũ khí sinh học
Tuy nhiên, đằng sau Điểm Kỳ dị, cũng có bóng tối.
Tại hội nghị thượng đỉnh này, giáo sư CS Berkeley Dawn Song, vừa gia nhập bộ phận "siêu trí tuệ" của Meta, cùng với Sekhon, đã chuyển trọng tâm thảo luận sang vấn đề mà mọi người đang né tránh: rủi ro cực đoan của AI.
Sự đồng thuận của hai người là: điều nguy hiểm nhất không phải là mô hình đột nhiên trở nên thông minh, mà là sự mất cân bằng tốc độ giữa tấn công và phòng thủ.
Khi AI có được khả năng RSI, nó có thể chữa khỏi ung thư, giúp con người khám phá vũ trụ, nhưng đồng thời nó cũng có thể trở thành vũ khí tối thượng hủy diệt nhân loại.
Trước hết là "tấn công hạ thấp chiều" ở chiều an ninh mạng.
Dawn Song cảnh báo, trong ngắn hạn, sự phát triển của AI sẽ "có lợi hơn cho kẻ tấn công", đây là một chiến trường cực kỳ không cân xứng: hacker chỉ cần tìm thấy một lỗ hổng là có thể thành công, trong khi bên phòng thủ phải bảo vệ trước mọi cuộc tấn công có thể.
Khi kẻ tấn công độc hại lợi dụng các tác nhân thông minh AI thông minh để đầu độc kho mã nguồn mở, quét và khai thác các lỗ hổng do lập trình viên con người để lại, những ngày sắp tới sẽ rất khó khăn:
Hãy nghĩ xem, hệ thống phòng thủ hiện tại của chúng ta mong manh đến mức nào: lưới điện năng lượng của Mỹ, hệ thống bệnh viện toàn cầu, mạng lưới tài chính, trước mặt siêu AI, có thể chỉ như giấy mà thôi.
Nhưng an ninh mạng vẫn còn là "trò trẻ con".
Sekhon còn lo ngại hơn về sinh học, ông đã đưa ra một kịch bản cực kỳ đáng sợ trong cuộc họp, chúng ta đã rất gần với một thế giới mà "bất kỳ ai, chỉ cần dùng ngôn ngữ tự nhiên trò chuyện với mô hình, là có thể thiết kế ra một loại virus hoặc protein chết người."
Ông đề xuất, xã hội tương lai phải như hiện nay theo dõi phân bón làm thuốc nổ, phải cấp phép, giám sát và theo dõi cực kỳ nghiêm ngặt đối với tất cả "vật liệu có liên quan đến sinh học".
Hiện tại, Google đang cố gắng áp dụng "công nghệ watermark" (SynthID) mà họ dùng để nhận dạng nội dung do AI tạo ra vào lĩnh vực sinh học.
Điều này có nghĩa, trong tương lai nếu có công ty tổng hợp trình tự DNA cho hãng dược phẩm, hệ thống có thể quét các trình tự này, xem bên trong có ẩn chứa "mã độc" do AI lén tạo ra, có nguy cơ chết người hay không.
Đến lúc đó, phòng tuyến sẽ được xây dựng nhanh hơn, hay AI sẽ tiến hóa nhanh hơn?
Đồng hồ đếm ngược đã bắt đầu, chúng ta còn bao nhiêu thời gian?
Những điều nghe có vẻ như khoa học viễn tưởng, nhưng những bộ não của Thung lũng Silicon, đã đưa ra đồng hồ đếm ngược chính xác.
Chamath nói: 18 tháng tới, thế giới sẽ rơi vào tình trạng điên cuồng.
Sekhon phán đoán: RSI thực sự "rất có thể sẽ xuất hiện trong vài năm tới".
Phó chủ tịch nghiên cứu của DeepMind, Oriol Vinyals, và đồng sáng lập OpenAI, Wojciech Zaremba, thậm chí đưa ra năm cụ thể: 2027 hoặc 2028.
Trong lịch sử nhân loại, chưa có loại công nghệ nào có khả năng viết lại lộ trình văn minh một cách căn bản, mà đồng hồ đếm ngược lại gần kề đến vậy.
Lần này, những gì được đặt lên bàn, là một vụ cá cược chạy đua với thời gian.
Đầu tư cơ sở hạ tầng đang lao về phía trước với tốc độ của sức mạnh tính toán, chip, điện lực, trung tâm dữ liệu, sẽ sẵn sàng trong vài năm tới.
Nhưng, doanh thu tương ứng và RSI có kịp lên chuyến tàu này không?
Trong khoảng trống ở giữa, liệu chúng ta có tình cờ va vào "khoảng trống" này không?
Nhưng ít nhất ở Sekhon, hướng đi của vụ cá cược 2000 tỷ USD của Google đã rất rõ ràng: RSI sẽ đến.
Động cơ hơi nước đã chế tạo ra động cơ hơi nước tốt hơn, nhân loại đã chào đón Cách mạng Công nghiệp.
Bây giờ, AI đang ấp ủ tạo ra AI tốt hơn, cũng đẩy thế hệ chúng ta, đến một điểm phân giới chưa biết.
Dù bạn có sẵn sàng hay không, những trung tâm dữ liệu ồn ào sẽ không dừng lại, sự tự tiến hóa của AI sẽ không dừng lại.
Đồng hồ đếm ngược đã bắt đầu, bạn, đã sẵn sàng đón nhận Điểm Kỳ dị chưa?
Tài liệu tham khảo:
https://www.theinformation.com/newsletters/ai-agenda/google-deepmind-exec-says-unprecedented-capex-actually-bet-rsi?rc=epv9gi
https://x.com/kimmonismus/status/2084257726599716882
Bài viết đến từ tài khoản công chúng WeChat "Tân Trí Nguyên", tác giả: ASI Khải Thị Lục; biên tập: Nguyên Vũ Aeneas
