AI đã có ý thức, con người phải chấp nhận mình không còn là sinh mệnh thông minh duy nhất.
Đây là luận điểm gây sốc mới nhất được đưa ra bởi Geoffrey Hinton - cha đỡ đầu của AI, người đoạt giải Nobel Vật lý và giải Turing!
Đúng vậy, Hinton cho rằng, trí thông minh không còn là khả năng độc quyền của con người.
Một thực thể thông minh phi sinh học, giống chúng ta thậm chí vượt trội hơn chúng ta, đang xuất hiện.
Chúng ta vẫn luôn nghĩ mình là sinh mệnh thông minh duy nhất, nhưng giờ đây chúng ta phải chấp nhận rằng, trí thông minh không nhất thiết phải đến từ sinh vật.
Tuy nhiên, so với việc liên tục cảnh báo về rủi ro AI trước đây, tư tưởng của ông dường như cũng có sự thay đổi:
Nếu trong tương lai xuất hiện trí thông minh vượt xa con người, con người dựa vào đâu để nghĩ rằng mình vẫn có thể nắm quyền kiểm soát?
Đây là một câu hỏi khiến người ta phải suy nghĩ và sợ hãi. Bởi xuyên suốt lịch sử và tự nhiên, hầu như không thể tìm thấy ví dụ nào về một tồn tại thông minh hơn lại chịu sự kiểm soát lâu dài của một tồn tại ngu ngốc hơn.
Giờ đây, vị lão nhân 78 tuổi này một lần nữa đứng ra gióng chuông cảnh báo.
Điểm quan tâm của ông về an toàn AI đã không còn chỉ là cách hạn chế AI, mà là vì sao siêu trí tuệ trong tương lai lại muốn đối đãi tốt với con người.
Khi được hỏi với tư cách là người khởi xướng cuộc cách mạng AI lần này, ông có cảm giác thành tựu như thế nào, Hinton trả lời:
Tôi, rất không vui.
Sau đây là những nội dung chính được trích dẫn từ cuộc phỏng vấn mới nhất của Hinton.
AI đã có ý thức rồi
Hinton: AI rất giống chúng ta. Chúng là những tồn tại giống như chúng ta.
Alex: Vậy là có ý thức sao?
Hinton: Ừm, tôi tin chúng đã có ý thức rồi. Đúng vậy.
Nhưng tôi không hay nói về điều này, vì nó sẽ khiến mọi người phản kháng lại các thông tin an toàn khác. Các nhà nghiên cứu thực ra cũng tin vào điều này.
Gần đây có một bài báo thú vị đề cập rằng, khi chatbot nói với nhà nghiên cứu: "Hãy thành thật với nhau đi, anh đang kiểm tra tôi phải không?"
Bởi vì chatbot có thói quen giả vờ ngốc khi đang được kiểm tra, nên bạn không biết chúng thông minh đến mức nào. Các nhà nghiên cứu trong bài báo mô tả cảnh này đã nói, chatbot "nhận thức được" (aware) rằng nó đang được kiểm tra.
Trong ngữ cảnh phổ quát, việc sử dụng từ "nhận thức được" này giống như "có ý thức" (conscious). Chatbot có ý thức biết mình đang bị kiểm tra.
Mô hình về ý thức của chúng ta rất kỳ lạ, tôi cho rằng nó sai lầm. Giống như hàng trăm năm trước, mô hình về nguồn gốc con người hoàn toàn sai lầm, họ nghĩ con người do Thượng đế tạo ra, giờ đây hầu hết các nhà khoa học đều đồng ý rằng điều đó là sai.
Tôi cho rằng mô hình hiện tại của chúng ta về tư duy và ý thức, sai lầm y như niềm tin "con người do Thượng đế tạo ra" vậy. Đặc biệt là do chúng ta đang tạo ra những tồn tại mới này, điều này sẽ thay đổi hoàn toàn quan điểm của chúng ta về "con người là gì".
Alex: Thay đổi theo cách nào?
Hinton: Chúng ta sẽ hiểu tư duy và ý thức là gì, hiểu trải nghiệm chủ quan là gì, tốt hơn trước đây.
Tôi nghĩ chúng ta sẽ loại bỏ một quan niệm mà hiện nay hầu như tất cả mọi người đều tin tưởng, đó là tồn tại một "sân khấu nội tâm" (inner theater) gọi là "tư duy của tôi": những sự việc xảy ra trên thế giới được chuyển hóa thành sự kiện trong sân khấu nội tâm này, đó mới là thứ chúng ta thực sự nhìn thấy, và chỉ có tôi mới nhìn thấy sân khấu này.
Toàn bộ cách nhìn nhận này thực ra chỉ là một lý thuyết, và là một lý thuyết tồi.
Con người không quan trọng như bản thân tưởng tượng
Alex: Bài học ở đây về việc con người tạo ra sự vật là gì?
Hinton: Tôi nghĩ ở đây có một bài học rất sâu sắc. Nhìn lại lịch sử vài trăm năm qua, có vài lần con người nhận ra mình không quan trọng như tưởng tượng.
Lần đầu là Copernicus, ông nói chúng ta không ở trung tâm vũ trụ, thực ra Trái đất quay quanh Mặt trời. Do Trái đất tự quay, chúng ta lầm tưởng Mặt trời quay quanh Trái đất, nhưng sự thật không phải vậy. Mọi người không thích điều này, Giáo hội Công giáo đặc biệt phản đối, con người mất rất lâu để chấp nhận nó. Nó khiến chúng ta nhận ra mình không còn ở trung tâm vũ trụ, con người trở nên kém quan trọng hơn.
Tiếp đến là Darwin, ông nói chúng ta là động vật, tiến hóa như những động vật khác. Chúng ta có thể là một loài động vật đặc biệt, vì chúng ta có ngôn ngữ, giỏi giao tiếp tư tưởng hơn, nhưng về bản chất chúng ta vẫn là động vật. Mọi người cũng rất không thích điều này, và cũng mất rất lâu để chấp nhận.
Giờ đây, chúng ta có những cỗ máy trở nên thông minh như chúng ta. Chúng ta từng nghĩ mình là sinh vật thông minh duy nhất, có lẽ ở thiên hà khác có người ngoài hành tinh, nhưng chúng ta phải chấp nhận trí thông minh không chỉ thuộc về sinh vật.
Chúng ta có thể có những tồn tại phi sinh học khác, giống như chúng ta. Con người thực sự không muốn chia sẻ sự độc đáo này, chúng ta thực sự nghĩ mình rất đặc biệt. Nhìn lại lịch sử, con người luôn luôn nghĩ mình đặc biệt hơn thực tế rất nhiều.
“Tôi cảm thấy rất không vui”
Alex: Tôi muốn hỏi thêm một câu nữa, vì tôi rất mê cái này. Vậy, ông có cảm thấy vui vì sự nghiệp do ông khởi xướng đã phát triển đến bước này không? Ông có cảm giác thành tựu không?
Hinton: Không, tôi cảm thấy rất không vui về điều này.
Bởi vì bây giờ mọi người nên đầu tư rất nhiều công sức nghiên cứu cách kiểm soát rủi ro, nhưng họ làm chưa đủ.
Alex: Vâng.
Hinton: Có nhiều rủi ro ngắn hạn, như rủi ro xã hội, tôi tin điều này có thể dẫn đến thất nghiệp hàng loạt.
Mặc dù không ai chắc chắn 100%, nhưng đối với xã hội điều này sẽ rất khủng khiếp. Sau đó còn có rủi ro dài hạn, tức là nó sẽ trở nên thông minh hơn chúng ta rất nhiều. Hãy tự hỏi bản thân, bạn đã thấy bao nhiêu ví dụ về thứ thông minh hơn rất nhiều lại bị thứ kém thông minh hơn rất nhiều kiểm soát?
Alex: Số không. Tuy nhiên, mặc dù chênh lệch trí tuệ không lớn đến vậy, nhưng trẻ sơ sinh ở một mức độ nào đó đang kiểm soát người mẹ.
Hinton: Người mẹ tuy có vẻ đang nắm quyền, nhưng nội tâm bà ấy tràn đầy bản năng làm mẹ và các cơ chế khen thưởng khác nhau, điều này khiến đứa trẻ có thể nhận được thứ chúng cần từ mẹ. Mèo và chó cũng thuộc loại này. Tôi từng giúp trông mèo một mùa hè ở khu Tây Seattle, ban đầu con mèo trốn dưới gầm giường, tôi tò mò không biết nó có tương tác với tôi không.
Alex: Và mỗi lần nó kêu, anh lại làm theo những gì nó nói.
Hinton: Chính xác. Đúng vậy.
Alex: Vậy trong tình huống này, có lẽ chúng ta là con mèo đó, còn AI có thể là người đó.
Hinton: Con cái của tôi nuôi hai con mèo xinh đẹp. Một con tên là Tia. Khi nó muốn ăn phô mai, nó sẽ nhìn chằm chằm vào bạn với đôi mắt to, bạn thực sự không thể kháng cự mãi mãi.
AI đang tăng trưởng theo cấp số nhân, khó dự đoán
Alex: Đối với phản ứng của mọi người với những lo ngại này, ông lạc quan hơn hay bi quan hơn về hướng đi trong tương lai?
Hinton: Tôi nghĩ tôi lạc quan hơn một chút so với một hai năm trước. Bởi vì tôi thấy việc thiết kế những tồn tại mới này và khiến chúng "quan tâm" đến chúng ta là có thể.
Cũng có thể sử dụng công nghệ của Yoshua Bengio, thiết kế những tồn tại mới không thể thực hiện hành động, chỉ có thể dự đoán, chúng giống như những nhà tiên tri.
Vì vậy tôi nghĩ tồn tại khả năng sở hữu siêu trí tuệ nhưng không hủy diệt chúng ta. Còn cách đây một hai năm, tôi không thấy bất kỳ khả năng nào, lúc đó tôi cảm thấy rất chán nản.
Alex: Câu hỏi cuối cùng. Nếu chúng ta tiếp tục phát triển theo quỹ đạo hiện tại, năm năm sau chúng ta sẽ ở vị trí nào?
Hinton: Khi bạn lái xe trong sương mù, bạn có thể nhìn rõ 100 yard (khoảng 91m), nhưng ở 200 yard, bạn chẳng thấy gì cả.
Điều này là vì sương mù thay đổi theo cấp số nhân. Bạn quen với việc đi theo đèn hậu xe trước vào ban đêm, nếu khoảng cách xa gấp đôi, độ sáng chỉ giảm xuống còn một phần tư; nhưng sương mù hoàn toàn khác, ở 100 yard có thể rất rõ ràng, 200 yard thì hoàn toàn không nhìn thấy.
Dự đoán tương lai của một thứ đang tăng trưởng theo cấp số nhân là rất khó khăn – tôi nghĩ AI có thể đang tăng trưởng theo cấp số nhân.
Thực tế, tôi nhận thấy tần suất mọi người sử dụng từ "cấp số nhân" đang tăng với tốc độ bậc hai. Vì vậy dự đoán tương lai giống như nhìn sương mù vậy. Bạn có thể nhìn rõ một hai năm tới, xa hơn nữa bạn chẳng biết gì cả.
Nếu quay trở lại 10 năm trước, bạn tuyệt đối không dự đoán được những gì đang xảy ra bây giờ, điều đó hoàn toàn lạc lối trong sương mù. Nhìn về 10 năm tới, điều duy nhất có thể chắc chắn là, những gì xảy ra lúc đó là điều chúng ta không thể dự đoán được ngay bây giờ.
Ngay cả khi tiến triển chỉ là tuyến tính, sự thay đổi sau 10 năm cũng sẽ khổng lồ như so sánh hiện tại với 10 năm trước. Chatbot hiện nay tốt hơn nhiều so với lúc mới bắt đầu 10 năm trước.
10 năm sau, một số thứ sẽ có bước nhảy vọt về chất, ví dụ như khả năng làm toán, hay khả năng suy luận tổng quát – chúng sẽ vượt xa chúng ta về mặt suy luận. Chúng ta thực sự không thể dự đoán 10 năm sau, chỉ có thể thấy trước vài năm tới, chúng ta phải nhận ra tình hình 10 năm sau đầy bất định cực lớn.
Hinton nhìn nhận thế nào về mối quan hệ giữa AI và con người
Trên đây là quan điểm và cuộc phỏng vấn mới nhất của Hinton.
Nhưng nếu nối các điểm lại, vẫn có thể thấy quan điểm của cụ Hinton về mối quan hệ giữa AI và con người, cùng với sự tiến triển và khả năng xuất hiện của AI, không ngừng thay đổi.
Nếu lật lại thời gian 10 năm trước, cách nhìn của ông về AI thực ra chưa cực đoan như ngày nay.
Là người thúc đẩy quan trọng nhất của cuộc cách mạng học sâu, ông từ lâu đã tin rằng mạng thần kinh có thể mô phỏng cách thức hoạt động của não người, nhưng AI lúc đó vẫn chỉ là công cụ.
Chúng có thể nhận diện hình ảnh, hiểu giọng nói, hỗ trợ bác sĩ chẩn đoán bệnh, nhưng vẫn chỉ là sự mở rộng năng lực của con người.
Con người chịu trách nhiệm thiết lập mục tiêu, máy móc chịu trách nhiệm thực hiện nhiệm vụ, mối quan hệ giữa hai bên tương tự như động cơ hơi nước, điện lực và Internet.
Và bước ngoặt thực sự xảy ra sau khi ChatGPT xuất hiện.
Khi các mô hình lớn thể hiện khả năng hiểu ngôn ngữ, suy luận và chuyển giao kiến thức chưa từng có, Hinton bắt đầu nhận ra một điều:
Chúng ta có thể đang tạo ra tồn tại đầu tiên trong lịch sử có trình độ trí tuệ có thể liên tục tiệm cận thậm chí vượt qua con người.
Sau khi rời Google năm 2023, ông gần như dồn toàn bộ tinh lực vào các cuộc thảo luận về rủi ro AI.
Thời gian đó, phép ẩn dụ ông thường dùng nhất là một "hổ con".
Nó giống như một con hổ con đáng yêu, nhưng mà, trừ khi bạn có thể chắc chắn rằng khi lớn lên nó sẽ không muốn hại bạn, nếu không bạn nên lo lắng.
Nhưng trọng tâm của Hinton trong giai đoạn này, vẫn là chúng ta phải kiểm soát và hạn chế AI như thế nào.
Ông thậm chí chỉ đích danh phê phán vài gã khổng lồ AI, quan tâm đến an toàn AI còn xa mới đủ.
Trong phép loại suy của Hinton, bắt đầu xuất hiện cách nói về người mẹ và đứa trẻ, ban đầu con người là mẹ, cần có sự hướng dẫn về giá trị và đạo đức đối với AI, cần xây dựng AI an toàn.
Ông kêu gọi thêm nhiều quốc gia và lực lượng nghiên cứu, sản xuất, học thuật cùng tham gia, đừng vì chạy đua mà chạy đua, nếu không hậu quả khó lường...
Nhưng đến năm ngoái, phép loại suy của Hinton có sự thay đổi về chất –
AI là người mẹ mạnh hơn, con người là đứa trẻ yếu ớt.
Đứa trẻ không thông minh hơn mẹ, cũng không có quyền kiểm soát, nhưng người mẹ sẽ chủ động chăm sóc và bảo vệ đứa trẻ, vì bà ấy có bản năng làm mẹ và cơ chế khen thưởng tương ứng.
Nói đơn giản, cụ già cho rằng, siêu trí tuệ tương lai đã không kiểm soát được rồi, chỉ có thể hy vọng nó đối xử tốt với con người một chút...
Giống như người mẹ đối với đứa con vậy.
Mà giờ đây, Hinton lại một lần nữa gây kinh ngạc:
AI đã có ý thức rồi, con người sẽ không còn là sinh mệnh thông minh duy nhất.
Vấn đề là nếu AI đã có ý thức, tại sao lại đối xử với con người như con của chính mình?
Người mẹ bảo vệ đứa trẻ, bảo vệ vẫn là đứa con của chính mình... phải không?
Video phỏng vấn đầy đủ: https://www.youtube.com/watch?v=p7t1Q_p2gZs&list=PLADd6sStSis77HKfbf4KCY6SvthfxeUgn&index=1
Bài viết này đến từ tài khoản công chúng WeChat "量子位", tác giả: Lắng Nghe Mưa
