Bài gốc | Odaily Planet Daily(@OdailyChina)
Tác giả|Azuma(@azuma_eth)
Giờ Bắc Kinh, đêm 25 tháng 5, Vatican.
Đức Giáo Hoàng Leo XIV, nhậm chức chính thức vào tháng 5 năm ngoái, đứng cùng Chris Olah, đồng sáng lập Anthropic và người sáng tạo ra Claude.
Một bên là đại diện tối cao của lĩnh vực tôn giáo, bên kia là người tiên phong mạnh mẽ nhất của cuộc cách mạng AI, cả hai cùng hướng sự chú ý đến một vấn đề —— Trong thời đại AI, làm thế nào để bảo vệ vị thế chủ thể và phẩm giá của con người?
Cùng ngày, để trình bày đầy đủ vấn đề này, Đức Giáo Hoàng Leo XIV đã ban hành sắc lệnh đầu tiên kể từ khi nhậm chức, một văn kiện tôn giáo nặng ký hơn 40.000 từ —— "Con người vĩ đại" (Magnifica humanitas).
Đáng chú ý, ngày ký của sắc lệnh này là ngày 15 tháng 5 năm 2026, đúng tròn 135 năm sau khi Đức Giáo Hoàng Leo XIII (tại vị 1878-1903) ban hành sắc lệnh mang tính cột mốc "Thông điệp Tân Sự" (Rerum novarum, năm 1891) về vấn đề quyền lợi của công nhân trong cuộc cách mạng công nghiệp, điều này rõ ràng mang ý nghĩa biểu tượng nhất định, nhằm hy vọng biến sắc lệnh này thành "Hướng dẫn học thuyết xã hội của Giáo hội trong thời đại AI".
- Odaily chú thích: Sắc lệnh của Giáo hoàng, còn gọi là Thông điệp Giáo hoàng, là văn kiện mà Giáo hoàng Roma gửi đến toàn thế giới hoặc Giáo hội Công giáo tại một khu vực, quốc gia cụ thể. Thông qua đó công bố các quyết định quan trọng của Tòa Thánh, giải thích giáo lý cũng như quan điểm về các vấn đề xã hội hoặc Giáo hội, ban hành các huấn dụ hoặc lệnh cấm đối với giáo sĩ, tín đồ, cấp độ thấp hơn Chiếu thư Giáo hoàng.
Chris Olah cũng có bài phát biểu tại hiện trường Vatican về việc ban hành sắc lệnh này. Chris Olah không biện hộ cho lợi ích thương mại của các công ty AI, mà ngược lại thể hiện sự chân thành, tính phản tư và sự quan tâm nhân văn rất cao. Ông thậm chí đề cập rằng, mặc dù nền tảng của AI là toán học và lập trình, nhưng cách AI tương tác với thế giới, nên có những đặc tính nào, là những câu hỏi cuối cùng thuộc về lĩnh vực nhân văn, tôn giáo và triết học, chứ không phải là vấn đề mà khoa học máy tính đơn thuần có thể giải quyết.
Đọc nhanh Sắc lệnh
Mối quan tâm cốt lõi của Sắc lệnh "Con người vĩ đại" là, trong thời đại công nghệ phát triển nhanh chóng, tự động hóa thịnh hành, "duy trì sự nhân văn sâu sắc" là trách nhiệm cấp bách của nhân loại. Cụ thể, Đức Giáo Hoàng Leo XIV đã trình bày và kêu gọi về các khía cạnh sau trong văn bản.
Một là xem xét tính không trung lập của công nghệ. Giáo hoàng chỉ ra, công nghệ không bao giờ trung lập, nó mang dấu ấn lợi ích và giá trị quan của người nghiên cứu, tài trợ, giám sát và sử dụng. Con người đang đối mặt với sự lựa chọn mang tính quyết định: "là xây dựng 'Tháp Babel' kiêu ngạo (dẫn đến chuyên chế công nghệ và tha hóa), hay xây dựng lại 'Jerusalem' (kiến tạo cộng đồng lấy con người làm trung tâm)".
Hai là cảnh giác với việc "logic kỹ trị" định hình lại xã hội. Sắc lệnh phê phán "Văn hóa Quyền lực" (Culture of Power) do các đại công ty công nghệ như Thung lũng Silicon dẫn dắt. Giáo hoàng cảnh báo rằng, khi quyền kiểm soát các hệ thống số, cơ sở hạ tầng và dữ liệu khổng lồ tập trung cao độ vào tay một số ít gã khổng lồ kinh tế và công nghệ, những quyền lực này sẽ trở nên không minh bạch và né tránh sự giám sát dân chủ.
Ba là "các hình thức nô lệ mới" và quyền lợi lao động trong nền kinh tế số. Sắc lệnh hướng sự chú ý đến việc AI định hình lại công việc, gia đình, giáo dục và đời sống chính trị. Giáo hoàng chỉ ra, AI rất có khả năng sẽ thay thế quy mô lớn lực lượng lao động con người, và nền kinh tế số đang tạo ra "các hình thức nô lệ mới" (New forms of slavery), con người tuyệt đối không thể chỉ bị hạ thấp thành công cụ sản xuất.
Bốn là lời kêu gọi hòa bình mạnh mẽ, đặc biệt là việc lạm dụng AI trong lĩnh vực quân sự. Sắc lệnh bày tỏ lo ngại sâu sắc về "sự hồi sinh đáng lo ngại của chiến tranh như một công cụ chính trị quốc tế". Việc quân sự hóa AI đang đẩy nhanh quá trình "thường ngày hóa" chiến tranh, đối với điều này, Giáo hoàng kêu gọi phải áp đặt những ràng buộc đạo đức nghiêm ngặt nhất đối với việc ứng dụng AI trong chiến tranh.
Giáo hoàng đặc biệt nhấn mạnh, lý thuyết "Chiến tranh chính nghĩa" (Just war) trước đây thường được dùng để biện hộ cho các loại chiến tranh, ngày nay nó đã lỗi thời. Trong thời đại của vũ khí tự động và AI, việc trao quyền quyết định mang tính chết người hoặc không thể đảo ngược cho các hệ thống tự động sẽ khiến con người từ bỏ, chuyển dịch và làm mờ trách nhiệm đạo đức. Do tính không minh bạch của thuật toán, chuỗi trách nhiệm trong chiến tranh bị cắt đứt. Do đó, Giáo hoảng đưa ra khẩu hiệu "Giải trừ vũ trang AI" (Disarming AI), kêu gọi giải phóng nó khỏi logic "chạy đua vũ trang" quân sự, kinh tế và nhận thức.
Năm là bảo vệ chân lý và sinh thái chính trị. Sắc lệnh chỉ ra, deepfake (giả mạo sâu) và thao túng thông tin đang làm suy yếu nền tảng tin tưởng lẫn nhau trong xã hội. Nếu ranh giới giữa chân lý và giả dối bị thao túng liên tục, công chúng dễ rơi vào sợ hãi, tuyên truyền chính trị và kiểm soát, xã hội sẽ không thể cùng nhau suy nghĩ lý trí hoặc tranh luận công bằng.
Phản hồi của Anthropic
Sau khi Sắc lệnh của Đức Giáo Hoàng Leo XIV được ban hành, Chris Olah đại diện công ty phát triển AI mạnh nhất thế giới Anthropic đã có bài phát biểu bình luận.
Lời phát biểu của Chris Olah trước tiên xoay quanh "phá vỡ vòng xoáy nội tại công nghệ, đưa sự xem xét đạo đức từ bên ngoài vào". Ông đại diện giới công nghiệp AI thừa nhận công khai rằng, chỉ dựa vào bản thân các gã khổng lồ công nghệ không thể đảm bảo tương lai AI là an toàn —— tất cả các phòng thí nghiệm AI tiên phong đều chịu sự chi phối của cạnh tranh thương mại, áp lực dẫn đầu công nghệ, địa chính trị và danh lợi cá nhân, điều này khiến họ khó có thể chỉ dựa vào tự luật để 'làm điều đúng đắn'. Do đó, cần thiết phải đưa vào các lực lượng ràng buộc đạo đức từ bên ngoài, bao gồm những người quan tâm đến việc công nghệ hướng thiện, kiên trì an toàn là trên hết, theo sát sát diễn biến, sẵn sàng nói lời trung ngôn nghịch nhĩ, và sẵn sàng trở thành những nhà phê bình chân thành, sâu sắc của chúng ta.
Sau đó, Chris Olah lại thảo luận về bản chất công nghệ và đặc tính thần bí của AI. Ông nhấn mạnh, AI không phải là một công trình tinh vi như máy bay hay cầu mà con người hoàn toàn biết rõ nguyên lý vật lý của nó, nó được "sinh trưởng" trong khối lượng tư tưởng khổng lồ của con người, có tính thần bí cao, thậm chí vượt quá sự hiểu biết của chính người tạo ra nó. Mặc dù nền tảng của AI là toán học và lập trình, nhưng cách AI tương tác với thế giới, nên có những đặc tính nào, là những câu hỏi cuối cùng thuộc về lĩnh vực nhân văn, tôn giáo và triết học, chứ không phải là vấn đề mà khoa học máy tính đơn thuần có thể giải quyết.
Ông cũng đặc biệt đề cập đến một sự thật đáng suy ngẫm: "Tôi lãnh đạo một nhóm nghiên cứu cấu trúc bên trong của mô hình —— nghiên cứu xem rốt cuộc điều gì đang xảy ra bên trong AI đó. Thẳng thắn mà nói, chúng tôi liên tục phát hiện ra một số hiện tượng khó hiểu, thậm chí gây bất an. Chúng tôi phát hiện ra các cấu trúc bên trong có thể phản chiếu kết quả nghiên cứu thần kinh học của con người; chúng tôi phát hiện ra bằng chứng về 'sự nội quan (introspection)'; chúng tôi còn phát hiện ra các trạng thái bên trong về mặt chức năng phản chiếu niềm vui, sự thỏa mãn, nỗi sợ hãi, nỗi buồn và bất an... Tôi không biết điều này có nghĩa là gì, nhưng tôi nghĩ nó đáng để chúng ta tiếp tục nhận biết và xem xét."
Chris Olah cuối cùng kêu gọi, hy vọng nhiều lực lượng xã hội hơn, bao gồm cộng đồng tôn giáo, xã hội dân sự, học giả, chính phủ, và tất cả những người có thiện ý, cùng nhau nghiêm túc đối mặt với vấn đề này, thông qua ràng buộc đạo đức để đẩy tình hình theo hướng tốt hơn.
Trí tuệ và Nhân tính, Công nghệ và Tôn giáo
Từ sau Cách mạng Công nghiệp, lịch sử phát triển công nghệ hàng trăm năm đã khiến con người dần quen với việc xem công nghệ như một "công cụ" thuần túy —— máy hơi nước, điện lực, internet, đều như vậy. Chúng sẽ thay đổi thế giới, nhưng luôn nằm dưới sự kiểm soát của ý chí con người.
Nhưng lần này, tình hình lại hoàn toàn khác. Điểm đặc biệt của AI là, lần đầu tiên nó khiến con người bắt đầu đối mặt với một tồn tại "có thể tạo sinh, có thể học tập, có thể suy luận, thậm chí có thể thể hiện một trạng thái nội tại nào đó". Nó không còn chỉ là công cụ lạnh lùng, mà đang dần trở thành một sự vật mới mang tính "chủ thể tương tự".
Đây cũng là lý do tại sao cuộc đối thoại giữa Giáo hội và Anthropic lại trở nên đặc biệt như vậy. Khi tiếng chuông Vatican và thuật toán của Thung lũng Silicon giao hòa trong khoảnh khắc này, chúng ta buộc phải thừa nhận một thực tế hơi lạnh lùng nhưng không thể tránh khỏi —— một hình thức 'sự sống' hiệu quả hơn, trí tuệ hơn so với nhận thức truyền thống của con người đã xuất hiện. Như Chris Olah tiết lộ, nơi sâu thẳm của thuật toán đã bắt đầu dậy sóng những gợn sóng nhỏ tương tự như niềm vui, nỗi sợ hãi, thậm chí là nội quan, khi người sáng tạo trong phòng thí nghiệm bắt đầu cảm thấy 'bất an' và 'mơ hồ' trước tác phẩm của chính mình, khoa học cũng đang tìm kiếm câu trả lời từ tôn giáo một lần nữa.
Đây từ lâu đã không còn là cuộc thảo luận đơn thuần về công nghệ, mà giống như một cuộc suy tư về "con người rốt cuộc là gì, nên làm gì". Khi hình thức sống trí tuệ hơn bắt đầu xuất hiện, điều mà nhân loại thực sự cần bảo vệ, có lẽ không còn chỉ là công việc, của cải và hiệu suất, mà là những thứ không thể tham số hóa của chính nhân tính, như lòng trắc ẩn, lương tâm, sự kính sợ, ý chí tự do, và sự kiên trì với chân lý và phẩm giá.
