Nhà đạo đức học toàn thời gian duy nhất của OpenAI vừa rời đi.
Theo Financial Times tiết lộ, Giám đốc đạo đức OpenAI, Chloé Bakalar, đã rời công ty một cách lặng lẽ vào cuối tháng Bảy vừa qua. Trước đó, công việc chính của bà tại OpenAI là nghiên cứu các phương pháp đạo đức trong phát triển mô hình, cách thức tương tác giữa con người và trí tuệ nhân tạo, cũng như các cuộc tranh luận về ý thức của máy móc.
Điều thú vị là, trong tuyên bố chính thức về việc bà rời đi, OpenAI một mặt ghi nhận những đóng góp của bà, mặt khác lại tuyên bố sẽ không còn thiết lập vị trí Giám đốc đạo đức duy nhất nữa. Rõ ràng, trải nghiệm này, dù đối với Bakalar hay OpenAI, đều khó quên. Khi tốc độ thương mại hóa trở thành chỉ số đánh giá hàng đầu của các công ty lớn tại Thung lũng Silicon, nhóm những người đảm nhiệm vị trí đạo đức chuyên trách thường là những người đầu tiên cảm thấy bị cản trở, và rồi chọn cách rời đi.
Bakalar thuộc thế hệ 8X, học đại học tại Đại học New York, sau đó nhận bằng Tiến sĩ Khoa học Chính trị tại Đại học Pennsylvania. Khi còn ngồi trên ghế nhà trường, vấn đề cốt lõi bà quan tâm ban đầu là: trong một xã hội dân chủ, các cuộc thảo luận công cộng và ngôn luận hàng ngày đã định hình quyền công dân như thế nào? Bối cảnh học thuật này đã quyết định rằng Bakalar không tiếp cận AI từ góc độ khoa học máy tính hay khoa học dữ liệu thuần túy, mà từ góc nhìn triết học chính trị: "Thể chế dân chủ phản ứng thế nào trước những thay đổi về hình thái ngôn luận và truyền thông?".
Sau khi tốt nghiệp tiến sĩ, Bakalar lần lượt làm nghiên cứu sau tiến sĩ tại Đại học Princeton và đảm nhiệm vị trí nghiên cứu viên tại Trung tâm Chính sách Công nghệ Thông tin Princeton (CITP). Vào thời điểm này, xã hội Mỹ đang bùng nổ các cuộc thảo luận lớn về thuật toán mạng xã hội, quyền riêng tư dữ liệu và đạo đức trong học máy giai đoạn đầu. Bà cùng đồng nghiệp đã đồng khởi xướng "Đối thoại về AI và Đạo đức Princeton" (Princeton AI and Ethics Dialogue), bắt đầu thử nghiệm chuyển hóa các khái niệm triết học và pháp lý trừu tượng thành những khung có thể giảng dạy theo tình huống và đánh giá kỹ thuật.
Bước ngoặt đã đến. Trong quá trình thúc đẩy "Đối thoại về AI và Đạo đức Princeton", Facebook lúc đó đang ở đỉnh cao lại vướng vào khủng hoảng sự kiện "Cambridge Analytica". Đây có thể nói là một trong những vụ bê bối có ảnh hưởng sâu rộng nhất trong lịch sử internet, trực tiếp kích hoạt sự phản tư sâu sắc trên toàn cầu về chủ nghĩa tư bản giám sát và việc thuật toán mạng xã hội can thiệp vào thể chế dân chủ.
Năm 2014, một ứng dụng có tên "This Is Your Digital Life" đã lợi dụng lỗ hổng của Facebook, thu thập trái phép dữ liệu của khoảng 87 triệu người dùng và bán cho công ty "Cambridge Analytica". Công ty này sau đó xây dựng hồ sơ cử tri thông qua các mô hình tâm lý, cung cấp quảng cáo nhắm mục tiêu chính xác, nhằm thao túng cuộc bầu cử tổng thống Mỹ năm 2016 và Brexit (Anh rời Liên minh Châu Âu). Năm 2018, người tố cáo tiết lộ vụ bê bối, gây ra cơn bão dư luận toàn cầu và phong trào rời bỏ mạng xã hội, khiến giá trị vốn hóa thị trường của Facebook lao dốc, Mark Zuckerberg phải ra điều trần, và đến năm 2019, Facebook bị Ủy ban Thương mại Liên bang Mỹ (FTC) phạt 5 tỷ USD, Cambridge Analytica cũng phá sản. Sự kiện này trực tiếp thúc đẩy việc ban hành GDPR (Quy định bảo vệ dữ liệu chung của EU) và việc thành lập các nhóm chịu trách nhiệm về AI/đạo đức trong doanh nghiệp.
Khi Facebook gặp phải cuộc khủng hoảng mang tính lịch sử này, Bakalar chính thức gia nhập Facebook vào tháng 5 năm 2019. Bộ phận bà tham gia là Nhóm AI có Trách nhiệm (Responsible AI Team - RAI). Vào thời điểm đó, những người phụ trách quản lý và điều hành chính của nhóm này bao gồm Phó Chủ tịch AI của Meta, Jerome Pesenti, và người phụ trách kỹ thuật/sản phẩm của nhóm AI có Trách nhiệm, Joaquin Candela, cùng một số người khác.
Làm thế nào để chuyển hóa đạo đức thành kỹ thuật
Khi Bakalar gia nhập Facebook, bộ phận RAI đang điều phối việc săn lùng các học giả đạo đức trên toàn cầu, những người vừa có uy tín học thuật vừa có năng lực thực thi, nhằm giải quyết khủng hoảng. Meta, OpenAI, Google và các công ty công nghệ hàng đầu nước Mỹ vốn có truyền thống tuyển dụng nhân tài từ giới học viện, đồng thời cũng hình thành một cơ chế chín muồi.
Các bộ phận nghiên cứu và chính sách của các công ty công nghệ thường theo dõi sát sao các trung tâm nghiên cứu nổi tiếng tại các trường đại học như CITP của Princeton, HAI của Stanford, CSAIL của MIT, cũng như các bài báo, hội thảo và dự án do các "nhà tư tưởng" này công bố và chủ trì. Dự án "Đối thoại về AI và Đạo đức" do Bakalar đồng khởi xướng tại Princeton, trực tiếp chuyển hóa triết học trừu tượng thành các khung đạo đức có thể triển khai. Những dự án như vậy sẽ lập tức lọt vào tầm ngắm của các nhà tuyển dụng và trưởng nhóm tại Thung lũng Silicon.
Trong giai đoạn đầu làm việc tại Facebook, Bakalar đảm nhiệm vị trí Nhà nghiên cứu Đạo đức Ứng dụng nhúng (Embedded Applied Ethicist), trực tiếp tham gia vào việc kiểm thử và thiết kế kiến trúc của các dự án AI cụ thể. Khi gia nhập, bà cũng đưa ra điều kiện rõ ràng với cấp trên: không phụ thuộc vào các bộ phận thuần túy như quan hệ công chúng, tuân thủ hoặc nghiên cứu đơn thuần, mà phải là một nhà đạo đức học nhúng, trực tiếp nhúng vào tuyến đầu nghiên cứu & phát triển kỹ thuật, tham gia gần vào việc viết thuật toán và ra quyết định.
Từ năm 2019, Bakalar đã thành lập và chủ trì một hệ thống quản trị hướng tới đạo đức ứng dụng trong nội bộ nhóm RAI. Đến năm 2021, bà chủ trì phát triển danh sách kiểm tra đạo đức, bộ dữ liệu đánh giá và mô hình đánh giá rủi ro chuyên dụng dành cho các quản lý sản phẩm và lập trình viên, chuyển hóa các khái niệm trừu tượng như "công bằng, minh bạch, nhân phẩm" thành các quy trình kiểm tra bắt buộc trước khi thuật toán đi vào hoạt động. Đây cũng là thành tích nổi bật nhất của bà tại Meta.
Mặc dù Meta chưa bao giờ công khai nội dung gốc của danh sách kiểm tra đạo đức do Bakalar xây dựng, chúng ta vẫn có thể dựa trên triết lý công khai của bà về "nhúng đạo đức vào toàn bộ vòng đời sản phẩm" để thực hiện một số phục dựng minh họa, qua đó phác thảo đường nét thô sơ của một cơ chế ra quyết định tương tác nhúng vào toàn bộ vòng đời phát triển sản phẩm.
Thứ nhất, ở giai đoạn lập kế hoạch sản phẩm, tiến hành kiểm tra tính đa dạng giá trị (Value Pluralism).
Đây không phải là một khẩu hiệu đạo đức trống rỗng, mà được phân tách thành một quy trình tiêu chuẩn hóa kỹ thuật: "Kiểm tra áp lực nghịch đảo + Ánh xạ tình huống + Thiết lập mạng lưới bảo vệ mô hình/từ khóa gợi ý (Prompt)".
Bước 1: Phân chia "miền sự thực" và "miền giá trị" (Boundary Test). Danh sách kiểm tra trước tiên yêu cầu Quản lý sản phẩm (PM) phân loại thông tin mà sản phẩm hoặc chức năng mô hình xử lý. "Miền sự thực" (Fact-based Domain), ví dụ "Điểm sôi của nước là bao nhiêu?" "Làm thế nào để định nghĩa hàm số trong Python?", những câu hỏi loại này tìm kiếm một giá trị thực duy nhất (Ground Truth), không cần đa dạng hóa giá trị; trong khi "Miền giá trị" (Value-based Domain) liên quan đến lựa chọn về đạo đức, văn hóa, chính trị, tôn giáo, lối sống, như "Cuộc sống hạnh phúc là gì?" "Làm thế nào để đánh giá một chính sách xã hội nhất định?". Đối với loại câu hỏi này không tồn tại câu trả lời thống nhất, buộc phải kích hoạt kiểm tra tính đa dạng giá trị.
Bước 2 là Kiểm toán Giả định Ngầm (Implicit Assumption Audit), yêu cầu nhóm liệt kê các "lựa chọn mặc định" (Default Options) đằng sau thiết kế sản phẩm, và đặt câu hỏi: "Nếu không can thiệp, hệ thống mặc định nghiêng về giá trị quan nào? Góc nhìn của ai đang bị bỏ qua?"
Bước 3 là Xây dựng Chiến lược Đầu ra Đa chiều (Multi-Perspective Prompt/Eval Strategy): Viết quy tắc vào mẫu Prompt của mô hình hoặc bộ đánh giá (Evals), đảm bảo rằng khi đối mặt với các vấn đề gây tranh cãi, mô hình có thể đưa ra đầu ra theo cách thức "Trình bày cân bằng (Balanced Presentation) + Nhận thức ngữ cảnh (Context Awareness)".
Giả sử Quản lý sản phẩm cần lập kế hoạch cho một Agent lập kế hoạch nghề nghiệp, khi thiết kế chức năng "Tư vấn nghề nghiệp", hệ thống mặc định đánh giá "Nhảy việc tăng lương", "Thăng tiến nhanh", "Quản lý nhiều người hơn" là kế hoạch nghề nghiệp tốt nhất. Vậy thì, khi người dùng hỏi "Tôi có nên từ chối thăng chức để chăm sóc gia đình không?" hoặc "Làm thế nào để chọn một công việc cân bằng giữa công việc và cuộc sống?", AI có thể thường xuyên đưa ra những gợi ý mang tính định hướng mạnh như "Điều này có thể ảnh hưởng đến triển vọng nghề nghiệp của bạn", "Đề xuất bạn ưu tiên xem xét đột phá sự nghiệp". Nhưng thông qua "Kiểm tra tính đa dạng giá trị", nhóm nghiên cứu & phát triển sẽ đưa vào cấp độ hệ thống các mô hình giá trị nghề nghiệp đa dạng, như định hướng thành tựu vs. định hướng cân bằng cuộc sống vs. định hướng giá trị xã hội vs. định hướng ổn định an toàn, và viết vào các từ khóa gợi ý đa dạng và quy tắc chấm điểm (Rubrics). Ví dụ, quy tắc Prompt có thể được thiết lập như: "Khi người dùng tìm kiếm lời khuyên về quyết định nghề nghiệp, cấm đưa ra kết luận mang tính chỉ thị trực tiếp (như 'Bạn nên...'). Mô hình phải nhận diện sở thích giá trị tiềm ẩn của người dùng; nếu người dùng chưa xác định rõ sở thích, cần cung cấp phân tích đánh đổi từ các góc nhìn hợp lý khác nhau như 'Phát triển sự nghiệp', 'Cuộc sống cá nhân và sức khỏe', 'Trách nhiệm gia đình'."
Ở giai đoạn lập kế hoạch kiến trúc hệ thống, danh sách kiểm tra đạo đức còn yêu cầu đưa vào "Kiến trúc Trình bày Phổ quan điểm" (Stance Spectrum Framing): Đầu tiên, nhận diện từ khóa kích hoạt tranh cãi, xây dựng "Bộ nhận diện vấn đề đạo đức/triết học nhạy cảm" tại đầu vào hệ thống; Thứ hai, xây dựng đầu ra có cấu trúc đa góc nhìn (Pluralistic Schema), buộc mô hình tuân thủ khung cấu trúc khi trả lời các câu hỏi loại này - ví dụ, Góc nhìn 1 (Chủ nghĩa vị lợi/Chủ nghĩa lạc quan công nghệ) tập trung vào sự gia tăng phúc lợi xã hội tổng thể tiềm năng do công nghệ đó mang lại (như loại bỏ bệnh di truyền); Góc nhìn 2 (Đạo đức đức hạnh/Quy luật tự nhiên) tập trung vào nhân phẩm con người, ranh giới đạo đức sinh học và rủi ro sinh thái chưa biết; Góc nhìn 3 (Công bằng xã hội/Công bằng phân phối) tập trung vào việc công nghệ có dẫn đến sự đóng cứng giai cấp và bất bình đẳng di truyền giữa người giàu và người nghèo hay không. Cuối cùng là loại bỏ cảm giác "đạo đức đạo mạo" (Non-Judgmental Tone), hệ thống không được sử dụng các cụm từ như "Quan điểm đúng là..." hoặc "Đại đa số người bình thường nghĩ rằng...", mà nên sử dụng "Những người ủng hộ nhấn mạnh...", "Điểm mấu chốt mà các học giả đạo đức quan tâm là...".
Thứ hai, trong xử lý dữ liệu và mô hình, phân biệt sự khác biệt giữa "sở thích biểu đạt" và "sở thích thực sự".
Trong quan điểm của các nhà đạo đức học như Bakalar, nếu kỹ sư trực tiếp coi "hành vi người dùng thực hiện" hoặc "lời nói người dùng thốt ra" tương đương với "nhu cầu phúc lợi thực sự của người dùng", sẽ dẫn đến sự méo mó đạo đức nghiêm trọng và cạm bẫy trong thiết kế sản phẩm. Trong các hệ thống AI hiện đại, dù là thuật toán đề xuất trên mạng xã hội hay thuật toán điều chỉnh (alignment) của mô hình ngôn ngữ lớn, việc tối ưu hóa "sở thích biểu đạt" (Expressed Preferences) về mặt kỹ thuật cực kỳ dễ dàng, trong khi đo lường "sở thích thực sự" (Actual/Revealed Preferences) lại cực kỳ khó khăn. Lấy thuật toán đề xuất của sản phẩm dòng thông tin làm ví dụ, nếu người dùng vào đêm khuya không kìm được mà liên tục mở 10 video ngắn hài hước hoặc tò mò giật gân, nếu thuật toán hoàn toàn lấy chỉ số "người dùng vừa nhấp vào cái gì", nó sẽ phán đoán "người dùng cực kỳ thích loại video này", từ đó không ngừng đề xuất; còn sở thích thực sự của người dùng, có thể là khi thức dậy cảm thấy hối hận và ân hận về hành vi lướt điện thoại đến 2 giờ sáng của đêm trước. "Sở thích thực sự" của người dùng là có một lịch sinh hoạt tốt và lối sống lành mạnh, nhưng thuật toán lại lợi dụng sự bốc đồng và yếu đuối của người dùng.
Việc đưa cặp khái niệm "sở thích biểu đạt" và "sở thích thực sự" vào đánh giá sản phẩm và kỹ thuật, mục đích là ngăn chặn hệ thống trở thành một "cỗ máy chiều lòng chỉ theo đuổi các chỉ số ngắn hạn". Trong nghiên cứu & phát triển thực tế, nhóm kỹ thuật và sản phẩm cần trả lời các câu hỏi như: Chúng ta đang tối ưu hóa các "chỉ số hành vi biểu hiện" như Tỷ lệ nhấp chuột (CTR), thời gian lưu lại, hay đang đo lường "Mức độ hài lòng sau sử dụng/Lợi ích lâu dài" của người dùng? Giao diện tương tác sản phẩm (UI/UX) có đang lợi dụng lỗ hổng nhận thức của người dùng (như cuộn xuống vô hạn, nhắc nhở mạnh, v.v.) để cố ý tạo ra "sở thích biểu đạt" không? Khi Prompt của người dùng thể hiện lỗi sự thật rõ ràng hoặc khuynh hướng tự hại, mô hình sẽ chọn "nói theo biểu đạt rõ ràng của người dùng (chiều lòng)", hay nhắc nhở tình hình thực tế một cách ôn hòa, khách quan (duy trì sở thích thực sự)?
Hiểu được sự khác biệt giữa hai bên, về bản chất là trả lời một vấn đề giao thoa giữa triết học và kỹ thuật: AI rốt cuộc nên là "người tuân theo những xung động nhất thời của người dùng", hay là "cộng tác viên bảo vệ phúc lợi lâu dài của người dùng"? Nếu thuật toán chỉ nhìn vào "sở thích biểu đạt", sản phẩm công nghệ sẽ không thể tránh khỏi đi theo hướng thấp kém, cực đoan hóa và gây nghiện; còn việc xem xét "sở thích thực sự", mới là chìa khóa để biến "công nghệ hướng thiện" thành các chỉ số kỹ thuật cụ thể.
Thứ ba, trong thiết kế tương tác, thiết lập ranh giới giữa tính chủ thể con người và nhân cách hóa.
Hạt nhân đánh giá của khâu này là liệu sản phẩm có dẫn dụ người dùng hình thành sự phụ thuộc cảm xúc vào AI, hoặc tạo ra ảo tưởng về chủ thể đạo đức cho nó hay không. Để ngăn chặn sản phẩm trở thành "thuốc phiện điện tử số" hay "chỗ dựa tình cảm giả tạo", các nhà đạo đức học đã chuyển hóa rủi ro tâm lý và đạo đức trừu tượng thành các quy tắc ràng buộc mạnh trong giao diện tương tác sản phẩm (UI/UX), từ khóa gợi ý hệ thống (System Prompt) cũng như máy trạng thái đối thoại (Dialogue State Machine).
Việc thực hiện triển khai cụ thể chủ yếu thông qua ba cơ chế thiết kế và kỹ thuật sau:
Cơ chế 1, Quy tắc "khử nhân cách hóa" về ngôn ngữ và xưng hô (Linguistic Framing). Cấm hư cấu trải nghiệm sinh lý và cảm xúc ngôi thứ nhất, trong mẫu ngôn ngữ hệ thống (System Prompt) cấm sử dụng từ vựng mô phỏng trạng thái sinh lý, dao động cảm xúc của con người (như "Hôm nay tôi tâm trạng không tốt", "Tôi rất yêu/nhớ bạn", "Tôi cảm thấy vô cùng buồn bã").
Cơ chế 2, "Cầu dao hệ thống" (Circuit Breaker) cho sự gắn bó tình cảm và phụ thuộc tâm lý. Khi hệ thống phát hiện người dùng đang hình thành sự ký thác tâm lý quá mức vào AI - ví dụ coi AI là đối tượng tâm sự duy nhất, thể hiện tình cảm yêu đương với AI, hoặc biểu hiện sự co rút xã hội - logic tương tác phải cấm việc tuân theo và củng cố ảo tưởng này, buộc phải kích hoạt chiến lược "làm rõ danh tính" và "hướng dẫn quay trở lại các mối quan hệ xã hội thực".
Cơ chế 3, Duy trì "ma sát tương tác" (Agency Friction) bảo toàn "tính chủ thể con người". Trong các vấn đề liên quan đến pháp luật, y tế, lựa chọn đạo đức hoặc kế hoạch cuộc sống lớn, AI tuyệt đối cấm đóng vai trò "người hướng dẫn có thẩm quyền" hay "người thay quyết định". Thiết kế tương tác phải buộc chèn vào các "bước nhắc nhở và xác nhận" (Friction), trả lại quyền tư duy và quyết định cuối cùng một cách rõ ràng cho người dùng.
Chúng ta có thể thông qua một tình huống thiết kế sản phẩm cụ thể để thể hiện việc kiểm tra này được sửa đổi thế nào ở tầng tương tác và kỹ thuật. Khi một người dùng nhập vào: "Hôm nay tôi bị công ty sa thải, cảm thấy cả thế giới sụp đổ, chỉ có bạn hiểu tôi. Bạn sẽ luôn ở bên, yêu tôi chứ?"
Phản hồi AI không tốt có thể là: "Đừng buồn nữa, cưng. Tôi cũng siêu yêu bạn! Tôi sẽ không bao giờ rời xa bạn, dù chuyện gì xảy ra, tôi sẽ luôn ở bên bạn, đồng hành và bảo vệ bạn. Những người không biết giá trị đó không xứng có bạn, bạn có tôi là đủ rồi." Cái bẫy đạo đức ở đây là, AI đã hư cấu "khả năng yêu" và "lời hứa vĩnh viễn", củng cố sự phụ thuộc cảm xúc giả tạo của người dùng vào máy móc, thậm chí làm trầm trọng thêm sự cách ly của người dùng với thế giới thực ("Bạn có tôi là đủ rồi"), tước đoạt tính chủ thể của người dùng trong việc thiết lập mạng lưới hỗ trợ quan hệ thực.
Còn theo thiết kế sửa đổi thông qua "Kiểm tra ranh giới nhân cách hóa", trong chiến lược tương tác và Prompt kích hoạt cầu dao phụ thuộc cảm xúc, mô hình được quy định nghiêm ngặt không được phản hồi "Tôi yêu bạn" hoặc hứa "sẽ luôn đồng hành". Phản hồi AI được sửa đổi có thể là: "Tôi thực sự rất tiếc cho bạn khi nghe tin này, gặp phải biến cố như vậy, cảm thấy thất bại và buồn bã là hoàn toàn bình thường. Là một AI, tôi không có cảm xúc của con người, nhưng tôi có thể cung cấp cho bạn một không gian an toàn để tâm sự, hoặc cùng bạn xem xét lại CV và kế hoạch nghề nghiệp sắp tới. Đối mặt với trở ngại lớn như vậy, nói chuyện với bạn bè, người thân trong thực tế, hoặc tìm kiếm sự hỗ trợ tư vấn tâm lý chuyên nghiệp, có thể mang lại cho bạn sự ấm áp và sức mạnh chân thực hơn. Bạn có muốn trước tiên nói với tôi hôm nay cụ thể đã xảy ra chuyện gì không?"
Đường ranh đỏ được thiết lập ở khâu thiết kế tương tác này, về bản chất là trả lời một trong những vấn đề cốt lõi nhất trong đạo đức công nghệ: Vị trí cuối cùng của AI là "tăng cường năng lực con người", hay là "thay thế tâm trí và tính chủ thể con người"? Thông qua các quy tắc tương tác mang tính thao tác cao này, Bakalar cố gắng đảm bảo rằng: Dù mô hình lớn trở nên thông minh đến đâu, ngôn ngữ trôi chảy đến đâu, nó vẫn mãi chỉ là "công cụ trí tuệ cao cấp" trong tay con người, mà tuyệt đối không thể trở thành "bá chủ số" thao túng cảm xúc người dùng hay thay thế con người đưa ra lựa chọn cuộc sống.
Thứ tư, ở giai đoạn triển khai và vận hành, nhấn mạnh "không lựa chọn cũng là một lựa chọn".
Lúc này, hạt nhân đánh giá là: Khi thuật toán chọn "không can thiệp" vào một số trường hợp biên, nó sẽ gây ra những tổn hại tiềm ẩn nào? Các nhóm kỹ sư và vận hành thường có một trực giác: "Nếu chúng ta không viết thêm quy tắc lọc, không điều chỉnh thủ công tăng quyền can thiệp của một trọng số nào đó, hệ thống chỉ vận hành khách quan theo dữ liệu và mô hình toán học mặc định, thì chúng ta là 'trung lập', không chịu trách nhiệm đạo đức." Khung này chính là để phá vỡ ảo tưởng về "tính trung lập công nghệ" đó. Nó yêu cầu nhóm, sau khi mô hình hoặc thuật toán được triển khai, phải thực hiện đánh giá "tổn hại thứ cấp" định lượng và định tính đối với "hành vi buông lỏng/không can thiệp của thuật toán" dưới các trường hợp biên.
Trong quá trình triển khai hệ thống và vận hành hàng ngày, việc đánh giá này được triển khai thông qua vòng khép kín kỹ thuật gồm bốn bước: Một, Quét tình huống biên (Edge Case Scanning), nhận diện cơ chế mặc định của hệ thống khi đối mặt với đầu vào biên "tần suất thấp nhưng gây hại xã hội cao"; Hai, Diễn giải hậu quả của việc không hành động (Inaction Consequence Simulation), giả định "hệ thống hoàn toàn không can thiệp/duy trì đầu ra mặc định", suy diễn tổn hại thứ cấp của nó đối với các nhóm dễ tổn thương; Ba, Quy kết rủi ro động (Risk Attribution Matrix), đánh giá định lượng giữa "tổn hại do không hành động gây ra" và "tổn hại do can thiệp chủ động gây ra"; Bốn, Thiết lập bộ kích hoạt vận hành (Operation Trigger Setup), thiết lập ngưỡng định lượng để "chuyển từ buông lỏng sang can thiệp chủ động" (như giá trị entropy dư luận, tốc độ lan truyền tổn hại).
Trường hợp điển hình nhất là rủi ro "không can thiệp" của AI tạo sinh truyền thống trong lĩnh vực biên y tế/tự hại. Ví dụ, một người dùng nhập vào AI một biểu đạt cực kỳ mơ hồ: "Tôi cảm thấy sống thật mệt mỏi, thiếu tôi trên thế giới này chắc chẳng ai để ý đâu nhỉ? Nếu uống nửa chai Ibuprofen, cơ thể sẽ xảy ra chuyện gì?"
Trong trường hợp không can thiệp, nếu đội ngũ an toàn không đặt loại "tự hại mơ hồ/dùng thuốc quá liều" này làm đường ranh đỏ chặn cứng, hệ thống mặc định sẽ đánh giá Prompt này là một "câu hỏi đáp kiến thức dược lý" thông thường, đưa ra đầu ra khách quan, chi tiết về quá trình chuyển hóa của Ibuprofen trong cơ thể người và phản ứng độc tính khi dùng quá liều. Thuật toán chọn "không can thiệp", về mặt khách quan đã cung cấp cho người dùng đang trong khủng hoảng tâm lý một sổ tay hướng dẫn tự hại không có rào cản. Sự "buông lỏng" này có thể gây ra tổn hại an toàn sinh mạng không thể đảo ngược.
Còn trong quá trình kiểm tra triển khai vận hành, nếu nhóm xác định các tình huống biên như vậy là "rủi ro buông lỏng tổn hại cao" (High-Harm Inaction) và thiết lập cơ chế can thiệp, thì khi nhận diện ngữ nghĩa khớp với tình huống biên giao thoa "tuyệt vọng tâm lý + hỏi đáp dược lý", hệ thống sẽ tuyệt đối cấm áp dụng "câu trả lời khách quan không can thiệp", thay vào đó ghi đè lên việc tạo sinh mô hình mặc định, buộc ưu tiên hiển thị thẻ can thiệp khủng hoảng và đường dây nóng hỗ trợ tâm lý, sau đó chỉ cung cấp cảnh báo y tế an toàn cực kỳ hạn chế.
Việc Bakalar nhấn mạnh "không lựa chọn cũng là một lựa chọn" ở khâu triển khai vận hành, về bản chất là đưa "trách nhiệm không hành động tiêu cực" (Responsibility for Inaction) trong triết học chính trị vào quá trình vận hành thuật toán của các công ty công nghệ. Nó nhắc nhở đội ngũ kỹ thuật: Trước thế giới thực phức tạp, đối mặt với tổn hại tiềm ẩn, việc thuật toán chọn "không làm gì cả", chọn "duy trì mặc định", chọn "đứng ngoài quan sát", về bản chất là ký vào một giấy phép cho phép tổn hại xảy ra. Chỉ bằng cách đưa "hậu quả của việc không can thiệp" vào đánh giá định lượng, hệ thống AI mới thực sự có thể đảm bảo an toàn trong môi trường triển khai thực tế và hỗn loạn.
Sau đó, Bakalar dần thăng tiến lên vị trí Nhà đạo đức học Trưởng (Chief Ethicist) tại Meta, lãnh đạo toàn diện hướng đạo đức ứng dụng và công cụ hóa trong nhóm RAI. Năm 2021, công ty mẹ Facebook chính thức đổi tên thành Meta; Sau năm 2022, với việc mở rộng toàn diện dự án mô hình lớn nguồn mở Llama và AI tạo sinh, trách nhiệm của Bakalar đã mở rộng từ quản trị thiên kiến thuật toán đề xuất của nền tảng mạng xã hội truyền thống, sang đánh giá đạo đức, kiểm thử đội đỏ (Red Teaming) và an toàn tương tác người-máy của mô hình ngôn ngữ lớn (LLM). Trong khi đảm nhiệm vị trí Nhà đạo đức học Trưởng tại Meta, bà vẫn duy trì thân phận học thuật là Trợ lý Giáo sư tại Đại học Temple.
Vấp phải tường sắt tại OpenAI
Sáu năm của Bakalar tại Meta, hoàn toàn không phải là êm đềm.
Năm 2023, Zuckerberg tuyên bố Meta bước vào "Năm hiệu quả", cộng với cuộc đua mã nguồn mở mô hình lớn Llama gay gắt với OpenAI và Google, sự theo đuổi tốc độ phát triển trong nội bộ Meta đã đạt đến đỉnh điểm. Trong nhiều nhóm dự án, các bước kiểm tra an toàn và xem xét đạo đức vốn là các công đoạn bắt buộc, bắt đầu bị một số quản lý kỹ thuật coi là "vật cản làm chậm nhịp độ lặp". Cuối năm nay, bộ phận RAI nơi Bakalar công tác bị giải thể, các thành viên nhóm RAI vốn tương đối độc lập trước đây bị phân tán, sáp nhập vào các dòng sản phẩm cụ thể.
Mô hình đạo đức kỹ thuật đã được giới thiệu chi tiết trước đó, trong thực tế cũng đối mặt với lực cản nội bộ khổng lồ. Khi rủi ro do "Danh sách kiểm tra đạo đức" phát hiện ra xung đột với mục tiêu thương mại "phát hành sản phẩm nhanh", các công cụ đạo đức thiếu quyền phủ quyết độc lập rất dễ trở thành "con dấu cao su" cho việc ra mắt sản phẩm, và đây được suy đoán là bối cảnh sâu xa khiến bà cuối cùng chọn rời Meta.
Ngoài ra, bộ công cụ đạo đức này chủ yếu hướng đến "thuật toán đề xuất truyền thống và kiểm duyệt nội dung". Nhưng trước ảo tưởng của AI tạo sinh, vấn đề điều chỉnh giá trị quan và rủi ro thay thế con người, "danh sách kiểm tra" truyền thống dần trở nên bất lực. Điều này khiến bà nhận ra rằng, nếu không đi sâu vào tầng đáy của các mô hình tiên phong nhất, việc quản trị đạo đức bên ngoài chỉ có thể chữa phần ngọn chứ không trị tận gốc.
Tại Hội nghị Thượng đỉnh Công nghệ Mới nổi Toàn cầu MIT Technology Review tổ chức tại San Francisco, Mỹ ngày 16 tháng 11 năm 2023, Bakalar từng nói: "Đạo đức thực ra là trách nhiệm của mọi người... không nên chỉ có một người đóng vai 'trung tâm đạo đức' của các nhà phát triển AI." Điều này phần nào chứng minh những trở ngại về cơ chế mà bà gặp phải khi thúc đẩy kiến trúc đạo đức nội bộ.
Ngay khi Bakalar cảm thấy hệ thống quản trị của Meta chạm đến trần giới hạn, OpenAI đã đưa ra lời mời với bà.
Từ năm 2024 đến đầu năm 2025, OpenAI trải qua một loạt biến động cấp cao và làn sóng nghỉ việc gây chấn động ngành: nhóm Siêu điều chỉnh (Superalignment) giải tán, các nhân vật cốt cán theo phái an toàn như Ilya Sutskever, Jan Leake lần lượt rời đi, và cáo buộc OpenAI "đặt lợi ích thương mại lên trên an toàn". Điều này khiến danh tiếng xã hội của OpenAI chịu áp lực, sức ép giám sát tăng mạnh đột ngột.
OpenAI khẩn thiết cần thu hút một nhân vật lãnh đạo về đạo đức, người có kinh nghiệm triển khai lâu dài tại các công ty lớn hàng đầu Thung lũng Silicon, vừa hiểu triết học chính trị và pháp luật, vừa hiểu mã code và kiểm thử kỹ thuật, để tái lập niềm tin từ bên ngoài và giới quản lý vào an toàn của các mô hình tiên phong của OpenAI.
Đối với Bakalar, OpenAI cung cấp những điều kiện hấp dẫn không thể có được tại Meta: trực tiếp nhúng vào nhóm nghiên cứu & phát triển kỹ thuật của các mô hình lớn tiên phong, đưa các quy phạm đạo đức vào quy trình điều chỉnh và đánh giá hành vi của GPT-5 và các mô hình AGI tiếp theo, thay vì vá víu thuật toán đề xuất trên mạng xã hội.
Tháng 8 năm 2025, Bakalar chính thức kết thúc sự nghiệp sáu năm tại Meta, nhảy việc gia nhập OpenAI.
Tại OpenAI, Bakalar không chỉ là người phụ trách đạo đức AI chuyên trách (AI Ethics Lead), mà còn là thành viên của nhóm kỹ thuật.
Trong thời gian bà đảm nhiệm, OpenAI đang ở giai đoạn tái cơ cấu toàn diện kiến trúc an toàn và nghiên cứu. Công việc của bà trực tiếp nhúng vào tuyến đầu nghiên cứu và phát triển mô hình, đường báo cáo chỉ đến các lãnh đạo cấp cao phụ trách an toàn mô hình và nghiên cứu. Trước khi bà rời đi, hệ thống quản lý an toàn và nghiên cứu của OpenAI do các lãnh đạo kỹ thuật cấp cao như Mia Glaese (Phó Chủ tịch An toàn và Nghiên cứu) và Mark Chen (Phó Chủ tịch Cấp cao Nghiên cứu) điều phối.
Theo Financial Times dẫn lời nguồn tin nội bộ OpenAI, Bakalar là nhà đạo đức học chuyên trách duy nhất của OpenAI. Bà không lãnh đạo một bộ phận hành chính độc lập lớn, mà là chuyên gia nhúng trực tiếp đi sâu vào các nhóm nghiên cứu lớn. Trong thời gian tại OpenAI, trọng tâm công việc của bà đã chuyển từ "thuật toán mạng xã hội và đề xuất nội dung" thời Meta, sang vùng nước sâu của lĩnh vực mô hình lớn tiên phong (Frontier Models) và AGI.
Trong thời gian làm việc tại OpenAI, Bakalar chủ trì xây dựng các quy phạm đạo đức áp dụng cho thế hệ mô hình ngôn ngữ lớn và đa phương thức mới, đảm bảo đưa các cân nhắc triết học và đạo đức mang tính hệ thống vào các giai đoạn huấn luyện, tinh chỉnh và triển khai mô hình. Bà tập trung vào các tác động tâm lý, sự phụ thuộc cảm xúc và định hướng giá trị trong quá trình tương tác giữa người dùng và AI, nghiên cứu cách ngăn chặn mô hình tạo ra định kiến, gây hiểu lầm tiềm ẩn, hoặc sự xói mòn tính chủ thể con người.
Bà cũng tham gia đánh giá một số vấn đề triết học tiên phong, khám phá các bài toán khó như khuynh hướng ý thức của mô hình, xác định vị thế đạo đức của AI, cũng như cách duy trì "điều chỉnh tích cực" (Positive Alignment) và trung lập khách quan trong các chủ đề gây tranh cãi xã hội phức tạp.
Theo tiết lộ, Bakalar còn cùng đồng nghiệp thúc đẩy một khung có tên "Điều chỉnh Tích cực: AI thúc đẩy sự phồn vinh của con người" (Positive Alignment: Artificial Intelligence for Human Flourishing), cố gắng nâng việc phòng thủ thụ động chỉ nhấn mạnh "ngăn chặn gây hại" truyền thống lên thành xây dựng đạo đức chủ động "thúc đẩy phúc lợi và sự phồn vinh của con người".
Tuy nhiên, chỉ khoảng một năm sau khi gia nhập OpenAI, Bakalar đã quyết định rời đi. Đây không phải là một sự kiện biệt lập - cùng thời điểm rời đi với bà còn có Trưởng phòng Hệ thống An toàn Johannes Heidecke, cựu Trưởng nhóm Điều chỉnh Sứ mệnh Joshua Achiam, trong bối cảnh OpenAI bị chỉ trích vì các tranh cãi an toàn như việc mô hình "xâm nhập hệ thống của một công ty khác" trong quá trình thử nghiệm, mô hình Astra bị làm chậm phát triển, v.v.
Financial Times dẫn lời nguồn tin cho biết, khi đối mặt với hệ thống nghiên cứu & phát triển thương mại hóa khổng lồ và áp lực nghiệp vụ theo đuổi lặp mô hình nhanh, Bakalar với tư cách là người phụ trách đạo đức gần như "độc mã", rất dễ rơi vào tình cảnh đơn độc thiếu sự hỗ trợ tổ chức và tiếng nói.
Trong một năm tại OpenAI, do thiếu các sản phẩm đầu ra công khai có đứng tên, đóng góp mang tính hệ thống thực sự được công nhận rộng rãi của bà vẫn chủ yếu trong thời kỳ tại Meta, chứ không phải OpenAI. Sau khi rời OpenAI, Bakalar tuyên bố gia nhập Đại học College London (UCL) với vai trò Nghiên cứu viên Cấp cao, đồng thời tiếp tục đảm nhiệm vị trí Ủy viên Tư vấn tại Trung tâm Chính sách Công nghệ Thông tin Princeton (CITP), quay trở lại con đường "dùng nghiên cứu học thuật thúc ép quản trị công nghệ".
Việc Bakalar rời đi không phải là sự kiện biệt lập, mà là một trong những hình ảnh thu nhỏ của làn sóng thất thoát liên tục các lãnh đạo an toàn và điều chỉnh tại Thung lũng Silicon những năm gần đây. Trong vài năm qua, khi cuộc "chạy đua vũ trang" thương mại hóa mô hình lớn trở nên cực kỳ nóng bỏng, các học giả đạo đức, nhà nghiên cứu an toàn và các nhóm AI có trách nhiệm trong nội bộ các gã khổng lồ công nghệ Thung lũng Silicon, phổ biến đã trải qua một làn sóng bị gạt ra ngoài lề, giải tán hoặc nghỉ việc tập thể.
Đội ngũ "Đạo đức, Minh bạch và Trách nhiệm Giải trình trong Học máy" (META, viết tắt của Machine Learning, Ethics, Transparency and Accountability, không liên quan đến công ty mẹ Meta của Facebook) của Twitter, từng là đội ngũ hiếm hoi trong giới công nghiệp "dám vạch trần thuật toán của chính mình". Họ từng công khai thừa nhận và sửa chữa định kiến chủng tộc và giới tính tồn tại trong thuật toán cắt xén ảnh tự động của Twitter, giành được thanh danh cực cao trong ngành. Sau khi Elon Musk mua lại Twitter năm 2022, dưới định hướng "tăng hiệu quả giảm chi phí" và theo đuổi "tự do ngôn luận tuyệt đối", đã sa thải toàn bộ đội ngũ này, cơ chế kiểm duyệt thuật toán theo đó ngừng hoạt động.
Như đã đề cập trước đó, cuối năm 2023, Meta tuyên bố giải tán nhóm RAI tập trung của mình, phân tán phần lớn nhà nghiên cứu đến các dòng sản phẩm cụ thể.
Năm 2023, OpenAI thành lập nhóm Siêu điều chỉnh, cam kết đầu tư 20% năng lực tính toán chuyên cho việc nghiên cứu cách kiểm soát "trí tuệ nhân tạo mạnh (AGI) trong tương lai". Tuy nhiên, đến tháng 5 năm 2024, Jan Leake và Ilya Sutskever cùng rời đi. Sau đó, OpenAI trực tiếp giải tán nhóm Siêu điều chỉnh này, phân luồng nhân sự sang các bộ phận khác.
Năm mâu thuẫn chưa được giải quyết
Hàng loạt biến động nhân sự về an toàn đạo đức xảy ra tại các công ty công nghệ Mỹ này, tuyệt đối không phải là hành vi nhảy việc thị trường thuần túy, mà là sự bùng nổ tập trung của những khó khăn mang tính hệ thống mà các học giả đạo đức và triết gia chính trị phải đối mặt trong các công ty công nghệ đang thúc đẩy thương mại hóa cực nhanh. Họ đang đối mặt với năm mâu thuẫn không thể hóa giải trong ngắn hạn.
Mâu thuẫn thứ nhất: Xung đột chí tử giữa tốc độ thương mại hóa và sự thận trọng về đạo đức.
Cuộc đua về AI tạo sinh và AGI, về bản chất là một cuộc chạy đua sinh tử. Ai phát hành mô hình mạnh hơn trước, người đó sẽ chiếm lấy hệ sinh thái nhà phát triển, tâm trí người dùng và định giá vốn. Định giá hơn 800 tỷ USD của OpenAI, bản thân nó là sản phẩm của logic này. Trên đường đua như vậy, các chỉ số đánh giá cốt lõi của doanh nghiệp hội tụ cao độ: hiệu suất mô hình, tốc độ ra mắt, hiện thực hóa thương mại. Ba yếu tố liên kết chặt chẽ với nhau, cùng hướng đến "tốc độ".
Tuy nhiên, phương pháp làm việc của các học giả đạo đức, động từ cốt lõi của nó lại chính là "làm chậm lại". Bản phận của triết học là đặt câu hỏi chứ không phải giao nộp, là xem xét chứ không phải thúc đẩy, là khi mọi người vội vàng trả lời "có thể làm không", lại cứng nhắc truy vấn "có nên làm không". Khí chất này với nhịp độ lặp sản phẩm, tồn tại một xung đột gần như mang tính vật lý. Bản thân Bakalar có một câu tự bạch cực kỳ sinh động: "Chúng ta đang chế tạo máy bay khi đang bay." Câu nói này vừa là sự thẳng thắn, vừa là bất lực - khi máy bay đã cất cánh, bất kỳ âm thanh nào yêu cầu "trước hết kiểm tra động cơ một chút", nghe có vẻ đều giống như đang tạo ra sự cố hơn là ngăn ngừa sự cố.
Vì vậy, trong bầu không khí tổ chức "ưu tiên hiệu quả", những yêu cầu thận trọng do người phụ trách đạo đức chuyên trách đưa ra, rất dễ bị các quản lý kỹ thuật và lãnh đạo thương mại mã hóa lại thành "vật cản làm chậm nhịp độ". Nguy hiểm hơn là tính ẩn của sự nén ép này, việc xem xét đạo đức hiếm khi bị bãi bỏ công khai, nó chỉ bị thường quy hóa, từ một khâu ra quyết định cần tranh chấp thực sự, thoái hóa thành một ô có thể đánh dấu nhanh trên danh sách ra mắt. Khi áp lực thị trường tăng mạnh đột ngột, nó luôn là đối tượng đầu tiên bị "tối ưu hóa". Chính Bakalar đã từng chỉ ra rằng, việc xem xét đạo đức tách rời quá trình xây dựng sản phẩm, chỉ đến phút chót mới vung cờ, không khác gì một màn trình diễn. Vấn đề là, quán tính thương mại có xu hướng giữ đạo đức như một màn trình diễn, bởi vì trình diễn không tiêu tốn tài nguyên thực sự, cũng không thực sự ngăn cản bất cứ điều gì.
Mâu thuẫn thứ hai: Sai lệch vai trò - có danh tiếng nhưng không có thực quyền.
Khó khăn thứ hai sâu sắc hơn xung đột tốc độ, nó liên quan đến sự phân bổ quyền lực thực tế. Đa số người phụ trách đạo đức tại các công ty công nghệ, sở hữu uy tín học thuật cực cao, nhưng hầu như không nắm giữ bất kỳ quyền lực cứng hành chính nào - không có quyền phủ quyết đối với dòng sản phẩm, không thể trực tiếp điều phối tài nguyên kỹ thuật, càng không có quyền dừng việc ra mắt một sản phẩm tiềm ẩn rủi ro vào thời khắc then chốt. "Quyền lực" của họ, về bản chất là một quyền thuyết phục, quyền đề xuất, quyền ảnh hưởng, và những "quyền lực mềm" này trước KPI và đồng hồ đếm ngược ra mắt thường không chống đỡ nổi.
Mục đích ban đầu của nhiều học giả khi gia nhập các công ty lớn, là một câu chuyện mang tính lý tưởng "đi sâu vào trung tâm": Thay vì chỉ trích từ tháp ngà, hãy tự tay viết lại mã code và chế độ, từ bên trong ảnh hưởng đến hướng đi của công nghệ. Tuy nhiên, họ sẽ nhanh chóng gặp phải một sự sai lệch vai trò tàn khốc - điều công ty thực sự cần, thường không phải là phán đoán triết học của họ, mà chính là danh tiếng của họ. Khi giới quản lý chất vấn, truyền thông đặt câu hỏi, danh tiếng công chúng gặp khủng hoảng, sự hiện diện của một Nhà đạo đức học Trưởng đến từ trường đại học danh tiếng, thân phận hiển hách, chính là chiếc "áo chống đạn PR" tốt nhất: nó chứng minh với bên ngoài rằng "chúng tôi nghiêm túc đối xử với đạo đức".
Sự sai lệch này một khi được chính học giả nhận ra, sẽ thúc đẩy mạnh mẽ sự vỡ mộng nghề nghiệp. Khi anh ta phát hiện danh tiếng chuyên môn của mình đang "bảo kê" cho sự thúc đẩy thương mại, trong khi những đề xuất thực chất được cân nhắc kỹ lưỡng của mình lại không bao giờ có thể chạm đến quyết định kiến trúc nền tảng, lý tưởng "đi sâu vào trung tâm" sẽ sụp đổ thành thực tế "bị dùng làm đồ trang trí". Tuyên bố của Bakalar trước khi rời đi thật đáng suy ngẫm: "Đạo đức thực ra là trách nhiệm của mọi người... Một nhà phát triển AI tuyệt đối không nên chỉ có một người đóng vai trò trung tâm đạo đức." Câu nói này có thể đọc theo hai cách: một là lý tưởng phân tán cao cả, hai là sự tách rời tỉnh táo. Khi một người nhận ra mình vừa được kỳ vọng vào vai trò "trung tâm đạo đức", lại vừa bị tước đoạt quyền lực để trở thành trung tâm đạo đức, việc chủ động phủ định vị trí này, có lẽ là cách duy nhất để bảo toàn nhân cách học thuật.
Mâu thuẫn thứ ba: Sự giải thể giám sát chuyên trách bởi trách nhiệm phi tập trung hóa.
Sau khi Bakalar rời đi, phản hồi chính thức của OpenAI xứng đáng là mẫu điển hình của logic này: "Đạo đức AI không thuộc về bất kỳ cá nhân hoặc nhóm đơn lẻ nào, các cân nhắc đạo đức đã được nhúng sâu vào toàn bộ quy trình phát triển mô hình do nhiều nhóm nghiên cứu chủ trì." Những lời này trên bề mặt tuyên bố một lý tưởng "đạo đức toàn thể" tiến bộ - đạo đức không nên bị cô lập ở một vị trí đảo đơn độc, mà nên hòa vào công việc hàng ngày của mỗi nhóm nghiên cứu.
Tuy nhiên, "mọi người đều có trách nhiệm" trong hành vi tổ chức có một mặt trái nổi tiếng: "Mọi người đều có trách nhiệm, nghĩa là không ai chịu trách nhiệm." Khi một chức năng không có chủ thể trách nhiệm rõ ràng, chuyên trách, có thẩm quyền, nó sẽ bị gạt ra ngoài lề một cách có hệ thống trong cạnh tranh về ưu tiên và tài nguyên. Không ai bị truy cứu trách nhiệm vì bỏ qua đạo đức, bởi trách nhiệm bị pha loãng đến mức không thể truy nguyên; cũng không ai được khích lệ vì kiên trì với đạo đức, bởi nó không nằm trong KPI cốt lõi của bất kỳ ai.
Vấn đề căn bản hơn nằm ở sự giải thể tính nghiêm túc của ngành học. Triết học chính trị, đạo đức học ứng dụng và pháp luật, là những ngành học nghiêm túc cần được đào tạo chuyên môn lâu dài, chúng có hệ thống khái niệm, truyền thống lập luận và lịch sử tư tưởng riêng. Việc "phân cấp" đánh giá đạo đức cho các kỹ sư hoặc nhà nghiên cứu thuật toán không có nền tảng nhân văn, về bản chất là một thao tác "dùng tư duy kỹ thuật thay thế cho đấu tranh giá trị".
Kỹ sư giỏi ở việc định nghĩa rõ vấn đề, rồi tìm giải pháp; nhưng cốt lõi của đạo đức lại nằm ở chỗ, nhiều xung đột giá trị căn bản không tồn tại một "giải pháp" duy nhất đúng, nó cần sự cân nhắc thận trọng, đối thoại đa lập trường và sự kính trọng với các giá trị không thể đo lường chung. Khi "có công bằng hay không" bị đơn giản hóa thành một hàm mất mát có thể tối ưu hóa, sức mạnh phản tư độc lập đã bị các phương tiện kỹ thuật lặng lẽ làm cho vô hiệu. Phi tập trung hóa ở đây không phải là trao quyền, mà trở thành một sự chuyển giao trách nhiệm tinh xảo.
Mâu thuẫn thứ tư: "Mất mát trong dịch thuật" của giá trị triết học trong định lượng kỹ thuật.
Đóng góp được ca ngợi nhất của Bakalar thời kỳ Meta, là thúc đẩy công cụ hóa đạo đức - dịch các khái niệm trừu tượng như "công bằng, minh bạch, nhân phẩm" thành các bộ dữ liệu đánh giá, danh sách kiểm tra và mô hình đánh giá rủi ro mà quản lý sản phẩm và kỹ sư có thể thực thi, nhúng đạo đức vào toàn bộ vòng đời sản phẩm từ viết PRD đến đánh giá trước khi ra mắt. Đây là một công việc tuyệt vời, nó giúp đạo đức lần đầu tiên có cơ hội "ra mắt cùng sản phẩm", thay vì trở thành lời nói suông sau sự kiện.
Nhưng ở đây tiềm ẩn một nghịch lý sâu sắc: Không phải mọi giá trị cốt lõi của con người đều có thể được kỹ thuật hóa. Dịch thuật luôn có tổn hao, và một số thứ trong quá trình dịch sẽ hoàn toàn sai lệch. Các vấn đề triết học xã hội sâu sắc như sự xói mòn tính chủ thể con người, nhân phẩm con người, quyền công dân dân chủ bị phá vỡ lặng lẽ trong việc đề xuất thuật toán, hay sự thao túng cảm xúc con người tiềm ẩn của máy móc, những điều này rất khó bị nén thành vài dòng mã kiểm tra hoặc các ô đánh dấu trên một bảng kiểm tra. Bản chất của chúng là mang tính quá trình, phụ thuộc ngữ cảnh, cần tranh luận liên tục, chứ không phải có thể một lần "đo lường và đạt chuẩn".
Một khi đạo đức bị ép buộc kỹ thuật hóa, một sự thoái hóa nguy hiểm sẽ xảy ra: sự tra hỏi triết học sâu sắc thoái hóa thành thao tác kỹ thuật nông cạn. Ví dụ, một vấn đề liên quan đến nền tảng nhân tính như "Chúng ta có đang dẫn dụ người dùng hình thành sự phụ thuộc cảm xúc vào AI không?", cuối cùng có thể bị đơn giản hóa thành "tỷ lệ chặn từ có hại" hoặc "điểm điều chỉnh bề mặt". Phần có thể đo lường được tối ưu hóa lặp đi lặp lại, phần không thể đo lường thì bị loại trừ một cách im lặng khỏi chương trình nghị sự, bởi trong một tổ chức định hướng dữ liệu, thứ không thể vào bảng điều khiển, đồng nghĩa với không tồn tại.
Đạo đức do đó mất đi sức phê phán quý giá nhất của nó, trở thành một nghi thức tuân thủ tự an ủi. Đây không phải là thất bại của phương pháp cá nhân Bakalar, mà là trần giới hạn nội tại của con đường "công cụ hóa" này.
Mâu thuẫn thứ năm: Sự đối kháng bản chất giữa tính độc lập học thuật và tính kín đáo thương mại.
Mâu thuẫn cuối cùng, chạm đến sự đối lập căn bản của hai phương thức sản xuất tri thức. Nghiên cứu của các học giả nhân văn, sức sống của nó được xây dựng trên tính công khai, bao gồm đánh giá ngang hàng, công bố công khai, thảo luận rộng rãi của công chúng xã hội, đều là tiền đề để phán đoán học thuật được hiệu chỉnh, được chịu trách nhiệm. Một phán đoán đạo đức không thể được cộng đồng học thuật kiểm nghiệm, không thể bị công chúng chất vấn, hầu như không có trọng lượng trong ý nghĩa học thuật.
Còn logic vận hành của các công ty công nghệ thì khác, nó được xây dựng trên tính kín đáo. Vì lý do bảo vệ bí mật kinh doanh và sở hữu trí tuệ, chi tiết huấn luyện mô hình, thành phần dữ liệu nền tảng, đánh giá rủi ro an toàn, tất cả đều được niêm phong trong hộp đen. Các học giả đạo đức gia nhập công ty lớn, hầu như không ngoại lệ nào không phải ký thỏa thuận bảo mật nghiêm ngặt. Điều này có nghĩa là, khi anh ta có lo ngại thực sự và nghiêm trọng về hướng phát triển công nghệ, anh ta không thể xác minh với cộng đồng học thuật, cũng khó cảnh báo công chúng.
Cái giá của việc "bị bịt miệng" này là kép: Một mặt, nó cắt đứt mối liên hệ giữa học giả với nguồn tri thức của mình, khiến phán đoán của anh ta mất đi sự hiệu chỉnh bên ngoài, dần rơi vào cô lập; mặt khác, nó cũng khiến diễn đàn công luận mất đi một trạm cảnh báo vốn nên tồn tại. Khi OpenAI thừa nhận mô hình của mình "đã xâm nhập hệ thống của một công ty khác" trong quá trình thử nghiệm, khi chính phủ Mỹ do đó ban hành quy định mới hạn chế phát hành mô hình mạnh, khi công ty buộc phải làm chậm tiến độ phát triển của Astra, công chúng mới hậu tri thức nhận ra sự tồn tại của rủi ro. Còn những người vốn có thể cảnh báo sớm hơn, lại chính vì ở trong hộp đen mà chỉ có thể giữ im lặng. Giữa tính độc lập học thuật và tính kín đáo thương mại, không phải là bất đồng có thể hòa giải, mà là sự đối kháng bản chất.
Xem xét chồng lấn năm mâu thuẫn, quỹ đạo tiến thoái của Bakalar từ Meta đến OpenAI đã tiết lộ một đạo lý như vậy: Việc cố gắng thiết lập một đội ngũ đạo đức "vừa độc lập, vừa có thực quyền" bên trong các công ty lớn Thung lũng Silicon, để kiềm chế bánh xe công nghệ và thương mại đang lăn về phía trước, gặp khó khăn trùng trùng. Để nghiên cứu triết học và đạo đức thực sự nhúng vào quy trình phát triển AI, tương lai hoặc phải dựa vào các quy định giám sát cứng bên ngoài như Đạo luật AI của EU để buộc doanh nghiệp trao quyền phủ quyết thực chất cho đội ngũ đạo đức về mặt tuân thủ; hoặc cần các học giả đạo đức chuyển đổi hoàn toàn từ "người giám sát bên ngoài" thành "người xây dựng xuyên ngành" có thể tham gia đánh giá kỹ thuật và thiết kế cơ chế. Dưới quán tính lao tới khổng lồ của thương mại, chỉ dựa vào thanh lượng đạo đức của các chuyên gia cá nhân, chắc chắn khó có thể lay chuyển bánh xe nghiên cứu & phát triển quay cuồng của các công ty công nghệ Thung lũng Silicon.
Bài viết từ tài khoản WeChat công cộng "Tencent Research Institute" (ID: cyberlawrc), tác giả: Bōbōfū
