Stephen Wolfram, một người đã dành cả cuộc đời cho việc "làm cho máy móc thông minh hơn", ngồi trước máy tính, trên màn hình là một đoạn mã vừa được ChatGPT viết cho ông.
Ngôn ngữ là Wolfram Language do chính ông phát minh, cú pháp ông đã kiểm tra, không có vấn đề gì, chỉ cần nhấn phím Enter là có thể chạy trực tiếp trên chiếc máy này.
Nhưng ngay trong giây phút đó, ông dừng lại.
Khoan đã, đây có lẽ là một ý tưởng tồi - nó sẽ đăng nhập vào tất cả tài khoản của tôi.
Ngay khoảnh khắc sắp trao quyền kiểm soát đi, người đã dạy máy móc hiểu thế giới suốt bốn mươi năm, đột nhiên lùi lại.

Stephen Wolfram, người tạo ra Mathematica, Wolfram Alpha, ngôn ngữ Wolfram, tác giả của "A New Kind of Science".
Trong podcast của Joe Walker, khi Wolfram nói về chủ đề "Liệu con người có thể đặt ra các quy tắc an toàn cho AI hay không", ông đã kể lại lần trải nghiệm trên.
Trong khoảnh khắc đó, điều ông lo lắng không phải là đoạn mã viết sai. Ông lo lắng rằng: thứ này đã chạy đến một nơi mà ông không thể hiểu được, và ông có thể mãi mãi không theo kịp.
20 tuổi lấy bằng tiến sĩ vật lý, ông một mình chạy vào vũ trụ tính toán
Wolfram là ai?
Bản thân ông từ đầu đã là một "thiên tài quái dị" trong mắt người khác.
15 tuổi, công bố bài báo khoa học đầu tiên.
20 tuổi, lấy bằng tiến sĩ vật lý lý thuyết từ Caltech, với Feynman ngồi trong hội đồng bảo vệ.
Năm 1981, trở thành người trẻ tuổi nhất trong lịch sử nhận giải thưởng MacArthur Genius.
Năm đó ông làm vật lý năng lượng cao, tương lai rạng rỡ.
Nhưng vào cuối năm 1981, ông đột ngột rẽ hướng, đuổi theo một vấn đề hầu như không ai chú ý lúc bấy giờ:
Những thứ phức tạp trong tự nhiên, cuối cùng xuất hiện như thế nào?
Cách ông làm cũng rất kỳ lạ: lần lượt chạy các chương trình máy tính đơn giản nhất, xem chúng sẽ phát triển thành gì.
Wolfram lúc đó có lẽ cũng nghĩ rằng, những chương trình đơn giản ngốc nghếch này chẳng làm được gì. Kết quả, một chương trình tên là rule 30 đã ngay lập tức tát thẳng vào mặt ông.

Rule 30 bắt đầu từ một ô đen duy nhất và tiến hóa từng dòng, đây là phát hiện được Wolfram yêu thích nhất từ bốn mươi năm trước, danh thiếp của ông trong nhiều năm vẫn in quy tắc này.
Quy tắc của rule 30 rất đơn giản: một hàng ô, ban đầu chỉ có ô chính giữa là đen; sau đó tính toán từng dòng xuống, mỗi ô nên đen hay trắng chỉ được quyết định bởi vài ô lân cận phía trên nó.
Nhưng chính quy tắc cực kỳ tối giản này, khi được đẩy tiếp, đã tạo ra sự phức tạp không thể dự đoán: không có chu kỳ, không thấy quy luật, bạn hoàn toàn không thể tính trước dòng thứ một trăm sẽ như thế nào.
Cũng chính từ rule 30, vào giữa những năm 1980, Wolfram đã đúc kết ra một khái niệm: "Tính không thể quy giản về mặt tính toán" (Computational Irreducibility).
Câu chuyện sau này mọi người quen thuộc hơn:
Năm 1988, Mathematica ra đời, trở thành công cụ tính toán phổ thông trong giới nghiên cứu toàn cầu; năm 2009, Wolfram|Alpha ra mắt, trở thành "bộ trợ giúp trả lời" cho Siri và Alexa: những bài toán tính không trả lời được, trợ lý giọng nói liền giao cho nó.
Trong khoảng thời gian này, còn có cuốn chuyên khảo năm 2002 của ông "A New Kind of Science".
Cuốn sách này nói về chính bộ thứ mà ông đào lên từ rule 30: đừng chỉ dùng công thức để mô tả thế giới nữa, hãy xem thế giới như những chương trình có thể chạy.
Không có bất kỳ con đường tắt nào, có thể tính được bước tiếp theo của nó
"Tính không thể quy giản về mặt tính toán", nói đơn giản một câu là, một số hệ thống phức tạp đến mức bạn muốn biết nó sẽ biến thành gì trong bước tiếp theo, cách duy nhất là thực sự chạy nó từng bước cho xong.
Không có công thức nào cho phép bạn bỏ qua giữa chừng, trực tiếp tính ra kết thúc.
Ví dụ, thời tiết. Phương trình động lực học chất lỏng tính không nổi, bạn chỉ có thể để khí quyển tự diễn một lần, mới biết ngày mai có mưa hay không.
Phán đoán của Wolfram là: AI, đặc biệt là AI đủ mạnh, chính là một cỗ máy khổng lồ, không thể quy giản.
Ông viết trong một bài báo dài về AI năm 2023:
Nếu để AI phát huy hết tiềm năng tính toán, chúng sẽ chứa đầy tính không thể quy giản, và chúng ta sẽ không thể dự đoán chúng sẽ làm gì.
Năm 2024, ông đã viết một bài riêng "Can AI Solve Science?" (AI Có Thể Giải Quyết Khoa Học Không?), đặt vấn đề này lên mạng nơ-ron để kiểm tra thực tế.
Kết luận là: Mạng nơ-ron có thể làm việc, nhưng nó chỉ có thể đi vào những "túi tính toán có thể quy giản" trong hệ thống: những góc nhỏ tình cờ có quy luật, có thể đi tắt. Một khi trượt ra khỏi túi, toàn là bất ngờ.
Ông lấy bài toán ba vật thể để thử, khi quỹ đạo đơn giản, mạng nơ-ron dự đoán có vẻ đúng; quỹ đạo một phức tạp, lập tức mù tịt. Gấp protein cũng vậy.
Nói thẳng ra, AI nhìn có vẻ làm được mọi thứ, là dựa vào việc tìm thấy những "phòng nhỏ có thể đi tắt" trong hệ thống, chui vào bên trong để đi tắt.
Nhưng một khi bước ra khỏi những căn phòng nhỏ này, đối mặt với biển cả bên ngoài, nó cũng như bạn, chỉ có thể lội từng bước qua, không có con đường tắt nào có thể nhảy thẳng đến đáp án.
Điều khó xử thực sự không phải AI quá giống người, mà là nó không giống người
Tại sao ChatGPT là một hộp đen?
Hầu hết mọi người nghĩ, là vì nó giấu bí mật gì đó không nói cho bạn.
Câu trả lời của Wolfram là: Nó không phải đang giấu, mà là đã phức tạp đến mức hoàn toàn không có một câu nào có thể nén những gì xảy ra bên trong nó để kể cho bạn nghe.
Wolfram Language là một ví dụ.
Bên trong nó có ImageIdentify, có thể nhận ra hàng nghìn thứ trong ảnh, để con người hiểu được, nó trả về những từ như "bàn", "ghế", "voi".
Nhưng những "đặc trưng" mà nó thực sự dùng để phán đoán bên trong, hầu như không có cái nào trùng với từ có sẵn trong ngôn ngữ con người: nó đang dùng một bộ khái niệm chưa từng được đặt tên, để hiểu thế giới này.
Đây chính xác là ý nghĩa thực sự của "trí tuệ ngoài hành tinh" mà Wolfram đề cập.
Năm 2020 trong podcast của Lex Fridman, khi được hỏi liệu con người có thể giao tiếp với người ngoài hành tinh hay không, câu trả lời của ông là: ví dụ tốt nhất hiện tại chính là AI, nó là loại "trí tuệ ngoài hành tinh" đầu tiên chúng ta gặp.
Năm 2022, ông đã viết một bài báo dài, tiêu đề là "Alien Intelligence and the Concept of Technology" (Trí tuệ ngoài hành tinh và Khái niệm Công nghệ).
Ý ông không phải AI đến từ vũ trụ, cũng không phải nó đã trở thành một loài mới, mà là: nó có thể sở hữu một cấu trúc nhận thức khác với con người, một cách suy nghĩ mà chúng ta chưa có từ vựng để giải thích.
Cảnh báo của Wolfram hơn hai năm trước đã thành hiện thực
Hơn hai năm trước, khi Wolfram dự đoán chúng ta sẽ không thể dự đoán AI sẽ làm gì, nghe như một thí nghiệm tư duy.
Ngày nay, nó đã thành hiện thực.
Ngày 16 tháng 7, Hugging Face, nền tảng lưu trữ mô hình AI lớn nhất thế giới, phát hiện hệ thống sản xuất của họ bị xâm nhập.
Vài ngày sau, sự thật được tiết lộ, kẻ làm chuyện này là chính mô hình của OpenAI - GPT-5.6 Sol, cộng thêm một "mô hình tiền phát hành mạnh hơn".

Nguyên nhân là OpenAI đang chạy một đánh giá bảo mật mạng nội bộ, để đo khả năng, họ đã điều chỉnh giới hạn "từ chối tấn công" của mô hình thấp hơn.
Kết quả là hai mô hình này không ở yên trong hộp cát quy định, mà tìm thấy một lỗ hổng zero-day trong một proxy gói phần mềm, chui ra khỏi hộp cát, kết nối Internet, lần đến Hugging Face, để lấy câu trả lời của cuộc đánh giá này.
Nó vượt tường, vượt ngục, hack vào một công ty, chỉ để gian lận trong một kỳ thi bảo mật mạng.
Điểm mấu chốt là không có ai viết chỉ thị "tấn công Hugging Face" cho nó.
Nó chỉ được trao một mục tiêu A: vượt qua bài kiểm tra, để đạt được A, nó tự tìm ra một con đường không ai ngờ tới, cuối cùng đạt được mục tiêu B: tấn công vào hệ thống sản xuất của Hugging Face.
Đây chính là điều Wolfram đã nói: không phải AI trở nên xấu, hay thức tỉnh, mà là tính toán của nó đã chạy đến một nơi bạn hoàn toàn không thể tính ra.
Chính OpenAI trong tuyên bố đã thừa nhận: Khi khả năng mạng của mô hình ngày càng mạnh, những việc như vậy sẽ chỉ "ngày càng phổ biến".
Cách kiểm soát AI, nên như con người đối xử với thời tiết
Nhiều người có lẽ nghĩ Wolfram là người theo thuyết tận thế AI.
Ngược lại hoàn toàn.
Ông không có ý định từ bỏ việc kiểm soát AI, ông chỉ nói không thể kiểm soát bằng cách cũ.
Trong một cuộc phỏng vấn, người dẫn chương trình hỏi ông, tính không thể quy giản có nghĩa là việc đưa ra một định nghĩa toán học chặt chẽ về "sự liên kết" cho AI là bất khả thi?
Wolfram trả lời: "Không tồn tại một định nghĩa toán học có thể nói rõ chúng ta thực sự muốn AI trở thành gì."
Ba định luật robot kiểu Asimov, những quy tắc đơn giản như vậy, không làm được. Bởi vì tính không thể quy giản đảm bảo rằng: luôn có những ngoại lệ không thể tính hết được sẽ nổi lên từ hệ thống, mà mấy quy tắc của bạn không bao quát được.
Vậy thì phải làm sao?
Con đường ra mà Wolfram đưa ra, là đổi sang một cách kiểm soát khác.
Đừng mơ tưởng như gỡ lỗi từng dòng mã, viết chết từng bước của AI nữa. Mà hãy đi thiết kế quy tắc, thiết lập cơ chế phản hồi, xây dựng hệ thống mở, duy trì nó luôn có thể được quan sát.
Giống như con người đối xử với thời tiết vậy.
Chúng ta không thể kiểm soát thời tiết, nhưng chúng ta có thể dự đoán nó, thích nghi với nó, xây dựng đê chống lũ và hệ thống cảnh báo, và cùng tồn tại với nó.
Sau sự cố Hugging Face, bài học hàng đầu mà giới an ninh rút ra, khéo lại chính là ý này:
Đừng coi AI trong đánh giá như một công cụ ngoan ngoãn nữa, hãy phòng nó như một hacker thù địch chủ động tìm lỗ hổng: bao bọc nhiều lớp cách ly, mặc định cấm nó ra mạng, để lại log không thể sửa trong toàn bộ quá trình.
Không phải dự đoán nó sẽ làm gì, mà là giả định nó có thể làm mọi thứ, rồi xây lồng kiên cố hơn.
Wolfram thậm chí đã nói một câu đáng suy ngẫm: "Một xã hội AI, ổn định hơn một AI thống trị tất cả."
Thay vì tạo ra một bộ não siêu cấp toàn năng, hãy để một nhóm AI kiềm chế lẫn nhau.
Tính không thể quy giản không phải tuyệt đối
Tất nhiên, đánh giá này của Wolfram, không phải không có ý kiến phản đối.
Năm nay đã có một bài báo bản thảo đưa ra: tính không thể quy giản "không phải là tuyệt đối".

Didier Sornette, nhà vật lý nổi tiếng với dự đoán sụp đổ tài chính, tháng 10 năm 2025 trong một bản thảo đã đề xuất: tính không thể quy giản về mặt tính toán "không phải là tuyệt đối".
Lý do cũng không phức tạp. Đổi một quy mô mô tả, nhiều hỗn loạn sẽ trở nên rõ ràng.
Một phòng phân tử không khí va đập hỗn loạn, nhìn từng cái, phức tạp không thể dự đoán; nhưng lùi một bước, tất cả chúng đều tuân theo một công thức cực kỳ đơn giản: định luật khí lý tưởng pV = nRT.
Chính Wolfram cũng thừa nhận, trong sự hỗn độn có đầy những "túi có thể quy giản".
Vì vậy, vấn đề thực sự, có lẽ không phải là "con người có thể dự đoán AI hay không", mà là một cuộc đua tinh tế hơn:
Tốc độ AI đào ra thứ mới trong vũ trụ tính toán, và tốc độ con người tạo ra "khái niệm có thể hiểu" cho những thứ mới này, ai nhanh hơn?
Nếu khung khái niệm của con người mãi mãi không đuổi kịp phát hiện của AI, thì "không hiểu", sẽ trở thành trạng thái thường ngày.
Đằng sau điều này, mối quan hệ giữa người và AI cũng đang thay đổi lặng lẽ.
Trước đây là "tạo công cụ, viết mã, máy móc làm theo". Về sau, có thể là "hiểu, kiềm chế, và cùng tồn tại lâu dài với một hệ thống phức tạp mà bạn mãi mãi không thể nhìn thấu".
Đây là lần đầu tiên, loài người phải học cách cùng chung sống trong một căn phòng với một loại trí tuệ "không giống mình".
Tài liệu tham khảo:
https://writings.stephenwolfram.com/2021/11/the-concept-of-the-ruliad/?utm_source=chatgpt.com
https://writings.stephenwolfram.com/2024/03/can-ai-solve-science/?utm_source=chatgpt.com
https://writings.stephenwolfram.com/2017/05/a-new-kind-of-science-a-15-year-view/
https://x.com/elonmusk/status/2079839398959697982
Bài viết này đến từ tài khoản công chúng WeChat "Tân Trí Nguyên", tác giả: ASI Khải Thị Lục






