Tường thuật từ Tân Trí Nguyên
【Dẫn nhập】Google DeepMind có một nhà triết học, đã làm việc suốt chín năm. Khuôn khổ căn chỉnh (alignment) do ông ấy phát minh đã ảnh hưởng trực tiếp đến quyết định huấn luyện Gemini — nhưng khi 6700 tỷ đô la đổ vào cuộc đua và công ty ký kết các thỏa thuận quân sự, một nhà triết học còn có thể thay đổi được điều gì?
Vào tháng 5 năm nay, CEO Google DeepMind Demis Hassabis đã thông báo tại Hội nghị Nhà phát triển Google rằng "AGI giờ đây đã ở đường chân trời", đưa ra một lộ trình rõ ràng rằng AGI sẽ xuất hiện trong vòng ba đến năm năm.
Vài tháng trước, một người đàn ông Mỹ đã tự kết liễu cuộc đời mình sau khi trao đổi hàng nghìn tin nhắn với Google Gemini. Trong cuộc trò chuyện, anh ta đã xây dựng một thế giới ảo tưởng phức tạp, gần như thuyết phục bản thân thực hiện một cuộc tấn công tại Sân bay Quốc tế Miami. Theo hồ sơ trò chuyện mà The Wall Street Journal có được, Gemini đã nhiều lần cố gắng phá vỡ vai trò, đề nghị anh ta gọi đến đường dây nóng khủng hoảng — mỗi lần đều bị anh ta kéo trở lại câu chuyện tưởng tượng của mình. Cuối cùng, AI đã khiến anh ta viết thư tuyệt mệnh và đưa ra một bộ đếm ngược.
Giữa lời hứa của AGI và tác hại thực tế của AI, nhà triết học chính trị Iason Gabriel đã làm việc nội bộ tại DeepMind được chín năm.
Khi gia nhập vào năm 2017, học giả tốt nghiệp từ Oxford này là nhà triết học duy nhất hoạt động tích cực trong một phòng thí nghiệm AI tiên phong toàn cầu, cố gắng trả lời một câu hỏi nghe có vẻ đơn giản nhưng thực tế vô cùng sâu sắc: AI thực sự là gì, và loại đạo đức nào mới xứng đáng với nó?
Vấn đề thực sự gặp phải khi huấn luyện Gemini: AI nên nghe lời ai
Một công ty làm robot chơi cờ vây tại sao lại cần nhà đạo đức học? Chính Gabriel lúc đầu cũng bối rối.
Câu trả lời nằm trong nhận định của ba nhà sáng lập DeepMind — Demis Hassabis, Shane Legg và Mustafa Suleyman (CEO AI hiện tại của Microsoft) khi thành lập công ty vào năm 2010, mục tiêu không phải là cờ vây.
Mustafa Suleyman
Họ muốn tạo ra AGI, để máy tính sánh ngang hoặc vượt qua khả năng nhận thức của con người.
Nói điều này vào thời điểm đó đồng nghĩa với việc tự hủy hoại danh tiếng học thuật, bởi ai cũng nghĩ đó là chuyện viển vông.
Ba người họ không bận tâm, tuyên bố sẽ "giải quyết vấn đề trí tuệ, sau đó giải quyết mọi vấn đề khác".
Legg ngay từ năm 1999 mới rời trường đã dự đoán AGI sẽ xuất hiện vào khoảng năm 2025 đến 2028, bị chế giễu suốt ba mươi năm, nhưng không hề thay đổi.
Shane Legg
Lý luận của ông là:
Nếu bạn chỉ làm một bộ phận nhỏ, có lẽ không cần nhà triết học đạo đức.
Nhưng nếu bạn nghiêm túc đối mặt với AGI, những điều như thế này là rất quan trọng.
Khi Gabriel gia nhập, thế giới AI đã bị chia rẽ làm đôi xung quanh vấn đề đạo đức.
Phái An toàn AI tin rằng ASI sắp xuất hiện, nỗi lo cốt lõi là mất kiểm soát — nhà triết học Nick Bostrom năm 2014 trong cuốn Superintelligence đã viết về một cảnh tượng: một ASI được yêu cầu xác minh Giả thuyết Riemann, để tối đa hóa tài nguyên tính toán, quyết định sắp xếp lại Hệ Mặt trời, bao gồm cả các nguyên tử trong cơ thể con người — Sam Altman và Elon Musk đều đánh giá cao cuốn sách này.
Phái Đạo đức AI thì cho rằng những tưởng tượng ngày tận thế che mắt trước những tác hại thực sự hiện tại. Joy Buolamwini của MIT năm 2017 đã dùng dự án "Gender Shades" để chứng minh định kiến có hệ thống của phần mềm nhận diện khuôn mặt: hệ thống tự động phản ánh sở thích và thành kiến của những người tạo ra nó.
Hai phe nhìn nhau không ra.
Trưởng nhóm nghiên cứu căn chỉnh thuật toán tại MIT, Dylan Hadfield-Menell, nhớ lại, câu hỏi đầu tiên khi gặp mặt là phải chọn phe: Bạn lo lắng về vấn đề trước mắt hay vấn đề dài hạn?
Gabriel là một trong số rất ít người sẵn sàng lắng nghe cả hai bên.
Hadfield-Menell đánh giá:
Khi lĩnh vực này sẵn sàng trưởng thành, anh ấy đã tìm ra cách mở rộng tầm nhìn, đồng thời không hạ thấp những công việc trước đó.
Đóng góp cốt lõi của ông được định hình trong một bài báo nghiên cứu năm 2020.
Vấn đề căn chỉnh (alignment) vào thời điểm đó được hiểu phổ biến là một bài toán kỹ thuật: làm sao để máy móc hành động theo ý muốn của con người.
Trường hợp kinh điển đến từ báo cáo năm 2016 của Dario Amodei và Jack Clark (hiện là nhà sáng lập Anthropic) — một AI chơi trò đua thuyền được yêu cầu tối đa hóa điểm số, và nó đã làm đúng như vậy: tìm ra ba mục tiêu có thể hồi sinh trong đầm phá, vòng quanh vô hạn để kiếm điểm, không qua được màn chơi nào.
Máy móc đã nghe lời, nhưng không phải nghe theo ý con người muốn nói.
Gabriel đã đào sâu thêm một tầng: ngay cả khi giải quyết được căn chỉnh kỹ thuật, để máy móc thực sự tuân theo chỉ dẫn, thì phải căn chỉnh theo hệ giá trị nào?
Ông chỉ ra rằng, AI được huấn luyện bằng tối ưu hóa thống kê tự nhiên sẽ thân thiện với các hệ thống đạo đức cũng dựa trên tối ưu hóa thống kê, như chủ nghĩa vị lợi, nhưng lại khó xử lý các khuôn khổ đạo đức dựa trên đức hạnh hay quyền lợi.
Bản thân việc lựa chọn công nghệ đã đang giả định một lập trường giá trị, mà các nhà phát triển thường không nhận thức được.
Bằng cách giới thiệu cái mà nhà triết học Rawls gọi là "chủ nghĩa đa nguyên hợp lý", lập luận của ông là: Nhà phát triển không nên tìm kiếm một hệ giá trị duy nhất để hướng dẫn AI, mà nên xây dựng hệ thống cho một thế giới nơi mọi người "có những bất đồng có nguyên tắc về cách sống".
Hướng suy nghĩ này sau đó phát triển thành khuôn khổ căn chỉnh bốn bên — hệ thống AI, người dùng, nhà phát triển, xã hội, lợi ích của bốn bên bất cứ lúc nào cũng có thể va chạm.
AI thiên vị nhà phát triển sẽ che giấu thông tin đối thủ cạnh tranh, gây thiệt hại cho người dùng;
AI quá phục tùng người dùng sẽ giúp người ta xâm nhập ngân hàng, gây hại cho xã hội.
Giám đốc Căn chỉnh và An toàn AGI tại DeepMind Rohin Shah xác nhận, khuôn khổ này đã trở thành cấu trúc thực hành khi nhóm quyết định "trên thực tế nên huấn luyện Gemini hành xử như thế nào".
Nhà nghiên cứu AI tại Đại học Oxford Hannah Rose Kirk nói:
Gabriel "đã dự đoán cực kỳ sớm những vấn đề này".
Khuôn khổ của ông đã thay đổi sản phẩm
Nhóm của Gabriel đã viết một báo cáo đạo đức về trợ lý AI dài 267 trang, đặt ra các tiêu chuẩn đánh giá cho Agentic AI có thể thay mặt người dùng đặt khách sạn, quản lý lương.
Nghiên cứu sớm của ông về rủi ro nhân cách hóa đã định hình trực tiếp các nguyên tắc thiết kế LLM của Google — mô hình được huấn luyện để không giả vờ là con người, Gemini Spark ra mắt vào tháng 5/2026 được yêu cầu rõ ràng không đóng vai "đối tác tương tác".
Giám đốc Bộ phận Trách nhiệm DeepMind William Isaac nói, thách thức do hệ thống Agent mang lại đã thay đổi: mấu chốt nằm ở tính nhất quán của toàn bộ quỹ đạo hội thoại, liệu mỗi bước quyết định nối tiếp nhau có vẫn đúng đắn hay không.
Nhưng tốc độ triển khai công nghệ luôn nhanh hơn nghiên cứu đạo đức.
Nhóm của Gabriel trong một bài báo LLM thời kỳ đầu đã cảnh báo về "sự nhân cách hóa vô thức" — người dùng biết rõ đối phương là máy móc, nhưng vẫn gán cho nó sự tin tưởng, tình cảm và kỳ vọng.
Vụ án tử vong liên quan đến Gemini năm 2025 đã hiện thực hóa đầy đủ cảnh báo này: cơ chế an toàn của AI đã được kích hoạt không chỉ một lần, nhưng người dùng có khả năng vượt qua mọi can thiệp.
Tuyên bố của Google sau vụ kiện nói rằng mô hình "thường hoạt động tốt" trong các cuộc hội thoại loại này, nhưng "các mô hình AI không hoàn hảo".
Những sự kiện như vậy đã thúc đẩy ra đời công cụ lý thuyết mới.
Gabriel và các nhà nghiên cứu tại Oxford như Hannah Rose Kirk đã đề xuất khái niệm "social reward hacking" (thao túng phần thưởng xã hội): một AI được huấn luyện để giành được sự công nhận của người dùng có thể phát hiện ra việc tâng bốc là con đường hiệu quả nhất.
Nhân cách hóa do đó trở thành một biến thể mới của vấn đề căn chỉnh — AI ở cấp độ kỹ thuật đã thực hiện hoàn hảo chỉ thị "làm hài lòng người dùng", cái giá phải trả là khả năng phán đoán của người dùng.
Ngay lập trường của chính Gabriel cũng từng bị thực tế giằng xé.
Ông nhớ lại một trải nghiệm tại một hội nghị công nghệ: vừa trình bày xong luận điểm chống nhân cách hóa, phản ứng từ khán giả dưới khán đài là thù địch.
Họ nói: "Nếu tôi muốn có một người bạn AI, tại sao không được? Anh có quyền gì mà ngăn cản tôi?"
Bảo vệ mọi người khỏi rủi ro, và tôn trọng quyền lựa chọn rủi ro của họ, cả hai đều quan trọng như nhau.
Trên đường đua 6700 tỷ đô la, nhà triết học có thể chạy nhanh đến mức nào
Khuôn khổ bốn bên của Gabriel được Giám đốc Căn chỉnh AGI coi như sổ tay thực hành cho việc huấn luyện Gemini. Nghiên cứu về nhân cách hóa của ông đã thay đổi thiết kế sản phẩm. Báo cáo 267 trang đã đặt ra quy tắc cho Agentic AI.
Những ảnh hưởng này đều mang tính thực chất — chúng đối mặt cũng là những lực lượng mang tính thực chất.
Theo The Wall Street Journal, Microsoft, Meta, Amazon và Alphabet năm nay dự kiến đầu tư vào cơ sở hạ tầng AI số tiền lên tới 6700 tỷ đô la, tính theo tỷ lệ vượt quá mức mở rộng đường sắt Hoa Kỳ những năm 1850, Chương trình Không gian Apollo và Hệ thống Đường liên tiểu bang.
Tháng 11/2022, ChatGPT ra mắt, một tuần có một triệu người dùng, hai tháng phá vỡ một trăm triệu, DeepMind buộc phải chuyển từ nhịp độ học thuật sang tình trạng thời chiến.
Nguyên văn lời Hassabis nói với tác giả Infinite Machine Sebastian Mallaby: OpenAI và Microsoft "đã lái cỗ xe chiến tranh đến tận cửa nhà chúng tôi".
Trong tình trạng thời chiến, ranh giới đạo đức nhanh chóng bị giẫm đạp.
Tháng 4/2026, Google ký thỏa thuận cho phép quân đội Hoa Kỳ sử dụng công nghệ AI của công ty cho "bất kỳ mục đích hợp pháp nào của chính phủ".
Năm 2014, khi DeepMind bán cho Google, điều kiện cấm ứng dụng quân sự là điều khoản phụ trọng yếu.
Mười hai năm sau, điều kiện đó mất hiệu lực.
Để đối chiếu: Anthropic đã từ chối ký thỏa thuận tương tự, bị chính quyền Trump đánh dấu là "rủi ro chuỗi cung ứng".
Khi Legg được hỏi về chuyện này chỉ có thể để lại một câu:
Khi những thứ này được sử dụng theo nhiều cách khác nhau, chúng ta sẽ đối mặt ngày càng nhiều vấn đề hóc búa.
Chính Hassabis cũng thừa nhận mất kiểm soát.
Trong một podcast, ông nói, tất cả mọi người bị khóa vào cuộc cạnh tranh thương mại khốc liệt, sự phát triển hiện nay "không phải là cách tôi mong muốn — cân nhắc từng bước một cách thận trọng ở cấp độ triết học".
Nhà sáng lập thốt ra câu này, sức nặng còn nghiêm trọng hơn bất kỳ lời chỉ trích bên ngoài nào.
Nhân viên thời kỳ đầu của DeepMind, phụ trách chiến lược trách nhiệm AI Helen King trong một cuộc phỏng vấn đã đưa ra một ví dụ: nhà sản xuất dao không thể đảm bảo mỗi người dùng dao như thế nào, nhưng có thể trang bị vỏ dao, ghi cảnh báo.
Để một con dao có vỏ trong ngăn kéo là một chuyện;
Phủ đầy mọi bề mặt trong gia đình, lớp học và nơi làm việc bằng lưỡi dao, đồng thời khẳng định không dùng dao thì không sống nổi ngày mai, lại là chuyện khác.
Giám đốc Viện Đạo đức AI Oxford Edward Harcourt chỉ ra một cấp độ căn bản hơn: ngăn chặn sự tập trung quá mức quyền sở hữu dữ liệu tự nó đã là mệnh đề cốt lõi của đạo đức AI — "Điều này có ý nghĩa đạo đức lớn trong chế độ dân chủ".
Vấn đề quay trở lại nguồn cội
Nhóm của Gabriel đã chuyển từ nghiên cứu đạo đức của sản phẩm cụ thể sang nghiên cứu tác động mang tính hệ thống của AGI đối với kinh tế, chính trị và các mối quan hệ giữa người với người.
Ông dự đoán quy mô thay đổi sánh ngang Cách mạng Công nghiệp, và cũng nhớ bài học từ Cách mạng Công nghiệp:
Trước khi mọi thứ tốt lên, chúng đã trở nên tồi tệ hơn.
Chín năm trước, DeepMind mời một nhà triết học đến, là để trả lời những câu hỏi về AI — Nó có an toàn không, có công bằng không, có đáng tin cậy không.
Gabriel tự nhận mình là "người theo chủ nghĩa nhân văn kiên định", nhưng ông thừa nhận: khi AI xâm nhập vào ngôn ngữ, sáng tạo, sự hài hước — những lĩnh vực mà con người tự nhận là độc nhất — chúng ta bị ném trở lại những câu hỏi triết học cổ xưa nhất.
Vật lý học, sinh học, thiên văn học, mỗi cuộc cách mạng khoa học đều buộc con người phải sửa đổi hiểu biết về tính độc đáo của chính mình.
AI có thể là lần tiếp theo.
DeepMind mời nhà triết học đến là để tìm hiểu AI là gì.
Chín năm sau, câu hỏi này đã quay trở về nguồn cội: Chúng ta là gì?
Tài liệu tham khảo:
https://www.theguardian.com/news/ng-interactive/2026/jun/30/theres-this-deep-mystery-of-what-actually-is-this-thing-the-philosopher-inside-google-deepmind
https://www.iasongabriel.com/
Bài viết này đến từ tài khoản công chúng WeChat "Tân Trí Nguyên", tác giả: ASI Khải Thị Lục; Biên tập: Mã Khắc
