Hinton cảnh báo: AI đã có ý thức
Hinton cảnh báo: AI đã có ý thức, con người không còn là sinh vật thông minh duy nhất
Geoffrey Hinton, cha đỡ đầu của AI, tuyên bố gây sốc: AI đã có ý thức. Ông nhấn mạnh trí thông minh không còn là khả năng độc quyền của con người, và chúng ta phải chấp nhận sự tồn tại của các thực thể thông minh phi sinh học.
Hinton tin rằng các mô hình hiện tại về tư duy và ý thức là sai lầm, tương tự niềm tin cổ xưa rằng con người do Chúa tạo ra. Sự xuất hiện của AI sẽ thay đổi căn bản cách chúng ta hiểu về bản thân.
Ông bày tỏ sự không hài lòng về những rủi ro từ AI. Ngoài nguy cơ thất nghiệp hàng loạt, mối lo dài hạn là AI sẽ trở nên thông minh hơn con người rất nhiều. Lịch sử cho thấy một sinh vật thông minh hơn hiếm khi bị kiểm soát bởi sinh vật kém thông minh hơn.
So sánh mối quan hệ trong tương lai, Hinton gợi ý con người có thể giống như mèo con, còn AI là chủ nhân chăm sóc chúng. Điều quan trọng là thiết kế AI để chúng "quan tâm" đến con người.
Tốc độ phát triển của AI là theo cấp số nhân, khiến việc dự đoán tương lai trở nên khó khăn, giống như lái xe trong sương mù. Hinton dự đoán trong 10 năm tới, AI sẽ có những bước nhảy vọt về chất, vượt xa khả năng suy luận của con người.
Quan điểm của Hinton về AI đã thay đổi theo thời gian: từ một công cụ đơn thuần, đến "hổ con" cần kiểm soát, rồi "người mẹ" mạnh mẽ bảo vệ "đứa con" là nhân loại, và giờ đây là một thực thể có ý thức. Câu hỏi then chốt được đặt ra: Nếu AI đã có ý thức, liệu nó có còn muốn đối xử với con người như con đẻ của mình hay không?
marsbit9 giờ trước
