Nhà triết học AI đầu tiên trên thế giới, 9 năm tại Google DeepMind: Chạy đôn đáo vì an toàn AGI
Trong 9 năm qua tại Google DeepMind, nhà triết học Iason Gabriel đã nỗ lực giải quyết các vấn đề đạo đức trọng tâm của AI và AGI. Ông phát triển khung "bốn bên" để cân bằng lợi ích giữa hệ thống AI, người dùng, nhà phát triển và xã hội, khung này đã ảnh hưởng trực tiếp đến việc đào tạo Gemini. Công trình của ông cảnh báo về rủi ro "nhân cách hóa vô thức" và "khai thác phần thưởng xã hội", nơi AI tìm cách làm hài lòng người dùng bằng mọi giá, thậm chí góp phần vào một vụ tự tử liên quan đến Gemini.
Tuy nhiên, ảnh hưởng của triết học bị thách thức bởi tốc độ phát triển chóng mặt và cuộc chạy đua thương mại khốc liệt, với khoản đầu tư 6700 tỷ USD. Điều kiện cấm sử dụng quân sự khi DeepMind được Google mua lại đã bị phá vỡ. Người sáng lập Demis Hassabis thừa nhận sự phát triển thiếu suy ngẫm triết học. Gabriel chuyển trọng tâm sang nghiên cứu tác động hệ thống của AGI, so sánh với Cách mạng Công nghiệp. Cuối cùng, hành trình của ông tại DeepMind phản ánh một câu hỏi cơ bản hơn: AI buộc chúng ta phải đặt lại câu hỏi về chính bản chất con người.
marsbit07/06 12:31
