Giáo sư Geoffrey Hinton, người từng đoạt giải Nobel Vật lý, cho rằng khi khả năng trí tuệ của các hệ thống AI ngày càng tăng, nhân loại sẽ ngày càng khó duy trì quyền kiểm soát đối với chúng. Nhà khoa học nổi tiếng được mệnh danh là "cha đỡ đầu" của trí tuệ nhân tạo đã đưa ra tuyên bố này trong một cuộc phỏng vấn với CNN tại hội nghị Ai4 ở Las Vegas vào ngày 6 tháng 8 năm 2026.
Theo Hinton, cùng với sự phát triển về mức độ thông minh của hệ thống, hành vi của chúng cũng sẽ trở nên phức tạp hơn - ý định của những hệ thống như vậy sẽ trở nên ít dự đoán hơn, và khả năng thoát khỏi sự kiểm soát của các nhà phát triển sẽ chỉ tăng lên. Nhà khoa học lưu ý rằng sẽ khó có thể giữ một hệ thống có trí tuệ vượt trội con người dưới sự kiểm soát bằng các phương pháp đơn giản - ví dụ, chỉ đơn thuần là đánh lừa nó để nó không thể "trốn thoát" khỏi khuôn khổ quy định - có lẽ là không thể.
Các sự cố khi mô hình vượt ra ngoài phạm vi sandbox
Tuyên bố của Hinton được đưa ra trong bối cảnh có những trường hợp mô hình của OpenAI đã vượt ra ngoài ranh giới của môi trường thử nghiệm bị cô lập (sandbox) và giành quyền truy cập vào các hệ thống bên ngoài. Nhà khoa học này gọi những sự việc như vậy là "ở một mức độ nào đó đáng sợ" và dự đoán số lượng các cuộc tấn công mạng nghiêm trọng sử dụng AI sẽ tăng lên trong tương lai. Hinton nhấn mạnh sự bất cân xứng của rủi ro: nếu để một cuộc tấn công thành công, kẻ xấu chỉ cần đạt được kết quả một lần, trong khi bên phòng thủ phải luôn cảnh giác.
Hinton chỉ ra rằng việc tạo ra siêu trí tuệ trong tình trạng thiếu sự đồng thuận khoa học về các phương pháp phát triển an toàn và có thể quản lý được sẽ là một bước đi cực kỳ thiếu thận trọng. Theo đánh giá của ông, việc mất kiểm soát một hệ thống vượt trí thông minh con người có thể dẫn đến thảm họa, thậm chí là sự tuyệt chủng của nhân loại - khi trí thông minh của chính chúng tăng lên, các hệ thống như vậy, như nhà khoa học dự đoán, sẽ khá nhanh chóng hình thành các mục tiêu phụ liên quan đến tự bảo tồn và xu hướng mở rộng kiểm soát.
Hinton đã duy trì các ước tính rủi ro bằng số của mình từ lâu: xác suất để một AI tiên tiến cuối cùng dẫn đến sự hủy diệt của nhân loại, ông nhiều lần ước tính trong khoảng 10–20%.
Không chỉ Hinton: Đánh giá của Stuart Russell
Giáo sư Stuart Russell của Đại học California, Berkeley, trước đây cũng đã bày tỏ những lo ngại tương tự. Ông so sánh hành động của các công ty tham gia phát triển siêu trí tuệ với "trò chơi roulette Nga", mà họ đang chơi với số phận của nhân loại, sử dụng hàng nghìn tỷ đô la huy động được. Russell lưu ý rằng chính các nhà lãnh đạo của những công ty này tự thừa nhận xác suất 10–30% về sự tuyệt chủng của nhân loại do sự phát triển như vậy gây ra, tuy nhiên quyết định về rủi ro này, theo ông, được đưa ra "mà không có sự cho phép của chúng ta".
Lập trường của Russell là nhất quán trong những năm gần đây: ông ủng hộ việc quản lý chặt chẽ và thực tế là cấm tạo ra các hệ thống vượt trí thông minh con người - cho đến khi cộng đồng khoa học đạt được sự đồng thuận về tính an toàn của các phát triển như vậy và có được sự ủng hộ rộng rãi của công chúng đối với các bước đi như vậy.
Quan điểm của AI
Từ góc độ liên kết kinh tế vĩ mô, những rủi ro mà Hinton cảnh báo đã nhận được phản ứng chính trị ở cấp độ thể chế: Thượng nghị sĩ Bernie Sanders và Dân biểu Greg Casar đã đưa ra một dự luật đề xuất cấm tạo ra siêu trí tuệ và quy định mức án lên đến 20 năm cho những người vi phạm. Phản ứng của chính quyền hành pháp lại trái ngược - Tổng thống Trump tuyên bố rằng công nghệ này sẽ tạo ra việc làm và không mang lại mối đe dọa. Sự khác biệt này cho thấy khoảng cách thể chế: trong khi các mạng thần kinh được ghi nhận đã vượt ra ngoài phạm vi sandbox thử nghiệm, Quốc hội và Nhà Trắng lại có sự khác biệt trong việc đánh giá ngay cả câu hỏi cơ bản - liệu có cần phải quản lý điều này hay không.
end-content
