Một xã hội thông minh không nên để các hệ thống vô hình chi phối lựa chọn, phần thưởng và hành vi của con người mà không trao cho họ những phương thức hiệu quả để quan sát, chất vấn và sửa chữa ảnh hưởng đó. Với sự phát triển của trí tuệ nhân tạo (AI), xã hội đang trượt dần trên một con dốc nguy hiểm, chuyển nhanh từ thử nghiệm và tích hợp AI sang phụ thuộc, và cuối cùng thậm chí là đắm chìm vào đó. Tuy nhiên, một trong những vấn đề quan trọng nhất là các nhà hoạch định chính sách có nhận thức được sự chuyển đổi này hay không.
Thông thường, bất đối xứng có nghĩa là hai bên trong một mối quan hệ không ngang bằng. Trong đời sống số, "bất đối xứng thuật toán" mô tả sự mất cân bằng sâu sắc hơn giữa hai bên: một bên có thể quan sát, mô hình hóa, kiểm tra và cải thiện thuật toán của mình, trong khi bên kia chủ yếu phải gánh chịu hậu quả do thuật toán mang lại. Sự mất cân bằng này hiện đã thấm sâu vào các lĩnh vực như tuyển dụng, cho vay, bảo hiểm, giáo dục, cảnh sát, truyền thông và cả cấu trúc sự chú ý hàng ngày. Hệ quả là tính chủ thể thuật toán bất đối xứng, tức là người dùng không thể nhận diện và chống lại ảnh hưởng không thích hợp của thuật toán đối với hoàn cảnh của chính họ.
Ba tầng "gông cùm nhận thức" của thuật toán
Tính bất đối xứng thuật toán này có thể được giải thích ở ba cấp độ.
Cấp độ thứ nhất là tính không minh bạch, ám chỉ việc các tổ chức thiết kế, triển khai hoặc mua hệ thống thuật toán thường hiểu rõ hơn về mục tiêu, ngưỡng, cơ chế khuyến khích và điểm yếu của hệ thống so với những người tương tác với nó. "Vấn đề về tính không minh bạch" giải thích lý do tại sao khoảng cách này vẫn tồn tại: một số hệ thống được cố tình che giấu để bảo vệ sở hữu trí tuệ, một số cần được đào tạo chuyên môn mới hiểu được, và một số khác thậm chí các chuyên gia cũng khó diễn giải. Khi một hệ thống khó kiểm tra, kết quả đầu ra của nó thường trông có vẻ khách quan hơn thực tế, dẫn đến "ngụy biện hộp đen".
Tầng thứ hai của tính bất đối xứng thuật toán là sự khuếch đại định kiến lịch sử. Thuật toán học từ thế giới trong quá khứ, bao gồm cả những định kiến hoặc sự loại trừ trước đây. Ngay cả những hệ thống có vẻ trung lập cũng có thể tái tạo các mô hình bất bình đẳng đã tồn tại trong dữ liệu. Quá khứ đầy định kiến được đưa vào như nguyên liệu huấn luyện, cuối cùng đầu ra dưới dạng dự đoán, điểm số hoặc đề xuất, và vì là kết quả tính toán nên trông có vẻ trung lập. Thực tế, đây chỉ là cấu trúc phân tầng cũ xuất hiện trở lại với một giao diện hiện đại hơn, sạch sẽ hơn.
Tầng thứ ba là hệ thống đệ quy. Các hệ thống thường không được triển khai một lần; thay vào đó, người dùng liên tục huấn luyện chúng. Mỗi cú nhấp chuột, dừng lại, nhắc nhở, lựa chọn đường đi, hành vi mua sắm và sự do dự đều trở thành dữ liệu. Hệ thống đề xuất được thiết kế để học hỏi từ những tín hiệu này và điều chỉnh, nhưng đây không phải là điểm kết thúc của vòng lặp. Với những kiến thức học được, hệ thống sẽ định hình nội dung chúng ta thấy tiếp theo, quyết định nội dung nào có vẻ bình thường, nội dung nào có vẻ liên quan, đôi khi thậm chí quyết định nội dung nào có vẻ đáng khao khát, trong khi mục tiêu của nó vẫn mơ hồ đối với người dùng cuối. Nói cách khác, chúng ta huấn luyện hệ thống, và hệ thống cũng huấn luyện lại chúng ta. "Sự trôi dạt thuật toán" đề cập đến mối quan hệ đồng tiến hóa này giữa người dùng và nền tảng.
Khi thuật toán "sống" thay bạn
Năng lực đại diện (Agency) của trí tuệ nhân tạo là khả năng phán đoán, lựa chọn và hành động một cách có ý nghĩa, đồng thời hiểu được các lực lượng khác nhau tác động đến sự lựa chọn của chính mình.
Sự bất đối xứng về năng lực đại diện phát sinh khi các tổ chức sử dụng hệ thống số - như cá nhân hóa đẩy tin, quảng cáo nhắm mục tiêu, định giá động, công cụ đề xuất, chấm điểm rủi ro, v.v. - để thử nghiệm, đo lường và tối ưu hóa ảnh hưởng và kết quả trên quy mô lớn. Tiếp thị luôn cố gắng định hình hành vi; sự khác biệt ngày nay nằm ở độ chính xác và cơ chế phản hồi: các tổ chức có thể quan sát hành vi cá nhân theo thời gian thực, phân chia đám đông thành các nhóm ngày càng chi tiết, liên tục thực hiện kiểm tra A/B, và điều chỉnh nội dung mỗi người nhìn thấy, cách họ phải trả tiền hoặc ưu đãi họ nhận được. Ngược lại, cá nhân thường chỉ tiếp xúc được với thông tin bề mặt của hệ thống: một tin đẩy, một điểm số, một mức giá, một đề xuất hoặc một sự từ chối, nhưng không thể biết dữ liệu của họ được sử dụng như thế nào, mục tiêu nào đang được tối ưu hóa, và các lựa chọn của họ đang bị dẫn dắt ra sao.
Điều này rất quan trọng vì con người sẽ thích nghi với những gì hệ thống khen thưởng. Trong tuyển dụng, người ta không chỉ còn quan tâm đến việc người tìm việc có trau chuốt hồ sơ để làm hài lòng nhà tuyển dụng hay không; các công cụ sàng lọc tự động và hệ thống xếp hạng AI có thể khen thưởng một số tín hiệu nhất định, đồng thời che giấu logic đằng sau nó. Một nghiên cứu của Đại học Washington phát hiện ra rằng, sau khi các mô hình ngôn ngữ lớn xếp hạng hơn 550 hồ sơ thực tế, 85% trường hợp chúng có xu hướng lựa chọn những hồ sơ có tên liên quan đến người da trắng, và chưa bao giờ thiên vị những hồ sơ có tên liên quan đến nam giới da đen. Trong lĩnh vực giáo dục, tranh cãi về điểm số năm 2020 ở Vương quốc Anh cho thấy mô hình thuật toán biến lịch sử cấp trường thành điểm số cá nhân như thế nào: Văn phòng Quản lý Bằng cấp và Thi cử (Ofqual) đã hạ điểm đánh giá trong trường của khoảng 40% học sinh, dẫn đến sự phản đối mạnh mẽ của công chúng và cuối cùng chính phủ phải rút lại quyết định này.
Ngoài ra, các công cụ AI mới hơn mang lại nhiều rủi ro hơn. Các nhà nghiên cứu tại Đại học Stanford đã sử dụng các mẫu từ người bản ngữ tiếng Anh và người không phải bản ngữ để kiểm tra hiệu suất của bảy bộ phát hiện AI được sử dụng rộng rãi. Kết quả cho thấy, trong các mẫu của người không phải bản ngữ, bộ phát hiện AI đã phân loại sai 61,22% bài viết là do AI tạo ra, điều này cho thấy một số học sinh dễ bị nghi ngờ hoặc trừng phạt hơn vì cách viết của họ. Hiện tượng tương tự cũng xuất hiện trong đời sống và công việc kỹ thuật số. Thí nghiệm nổi tiếng về luồng thông tin của Facebook đối với 689.003 người dùng vào năm 2014 cho thấy, việc người dùng tiếp xúc với các bài đăng tích cực hay tiêu cực thay đổi sẽ ảnh hưởng đến ngôn ngữ cảm xúc họ sử dụng sau đó. Trong lĩnh vực bán lẻ, công nhân kho hàng của Amazon cũng phản ánh rằng họ phải hoàn thành các chỉ số dựa trên tốc độ mà không biết những chỉ số này được tính toán như thế nào. Báo cáo và nghiên cứu về quản lý thuật toán trong kho của Amazon cũng đã thảo luận về hiện tượng này. Những trường hợp này cho thấy vấn đề sâu sắc hơn: hệ thống kỹ thuật số không chỉ phân loại hành vi sau sự việc. Chúng còn dạy con người sử dụng những từ ngữ nào, tránh những rủi ro nào, thể hiện những cảm xúc nào và theo đuổi những chỉ số nào. Khi các tổ chức định hình điều kiện để mọi người suy nghĩ, hành động và đưa ra quyết định, trong khi cá nhân chỉ trải nghiệm những điều kiện này dưới dạng điểm số, cấp độ, thông tin, mục tiêu hoặc giá cả, thì tính bất đối xứng đại diện thuật toán lại mang ý nghĩa chính trị.
Chính sách không thể chỉ là khẩu hiệu
Do đó, chính sách phải tái cân bằng mối quan hệ này. Trước tiên, các nhà lập pháp nên yêu cầu cung cấp thông báo và giải thích có ý nghĩa khi có ảnh hưởng xảy ra. Người dùng nên biết họ đang tương tác với AI khi nào, nội dung nào là tổng hợp, và khi nào một quyết định quan trọng bị ảnh hưởng bởi hệ thống tự động. Logic đằng sau nghĩa vụ minh bạch châu Âu tại Điều 50 của "Luật AI" EU chỉ đúng hướng. Nguyên tắc AI của OECD cũng nêu quan điểm tương tự ở cấp độ rộng hơn: mọi người cần đủ thông tin để hiểu kết quả và chất vấn nếu cần thiết.
Thứ hai, chính phủ nên yêu cầu thực hiện đánh giá tác động có thể thực thi trước khi hệ thống thuật toán bước vào các lĩnh vực rủi ro cao như việc làm, giáo dục, nhà ở, bảo hiểm, chăm sóc sức khỏe, phúc lợi và cảnh sát. Một số phương pháp hiện có cung cấp nền tảng cho điều này, chẳng hạn như Đánh giá Tác động Thuật toán của Canada, Đánh giá Tác động Quyền Con người AI của Ontario và Đánh giá Tác động Quyền Cơ bản đối với Hệ thống AI Rủi ro Cao của châu Âu. Các thất bại gần đây cho thấy các biện pháp bảo vệ mạnh mẽ hơn là rất quan trọng. Tại Anh, Tòa Phúc thẩm trong vụ án "R (Bridges) kiện Cảnh sát trưởng Nam Wales" đã phán quyết rằng việc Cảnh sát Nam Wales sử dụng công nghệ nhận dạng khuôn mặt tự động thời gian thực là bất hợp pháp. Tại Detroit, Robert Williams đã bị bắt oan do sai sót nhận dạng khuôn mặt, và Liên đoàn Tự do Dân sự Hoa Kỳ (ACLU) đã ghi nhận vụ việc này. Do đó, trước khi triển khai, các cơ quan nên đánh giá tác động mà hệ thống AI có thể gây ra, chẳng hạn như vi phạm quyền, gây hại cho nhóm dễ bị tổn thương và sự phân bố sai sót, đồng thời đánh giá sự cần thiết của việc giám sát con người, cơ chế khiếu nại và biện pháp khắc phục, cũng như báo cáo công khai nếu có thể.
Thứ ba, giám sát của con người phải thực sự hiệu quả, được đào tạo và được bảo vệ. Trong nhiều tổ chức, quyền "can thiệp của con người" thường bị hạn chế khi nhân viên phải đối mặt với áp lực tin tưởng đầu ra của hệ thống. "Chương trình nợ robot" của Úc cho thấy việc tính toán nợ phúc lợi tự động có thể gây hại như thế nào khi các quan chức coi các yêu cầu do hệ thống tạo ra là có thẩm quyền. Trong vụ án R (Bridges) kiện Cảnh sát Nam Wales, Tòa Phúc thẩm Anh phán quyết việc sử dụng nhận dạng khuôn mặt thời gian thực là bất hợp pháp, một phần là do các biện pháp bảo vệ xung quanh quyền tự quyết, bảo vệ dữ liệu và tác động công bằng là không đủ. Vụ bê bối "Horizon" của Dịch vụ Bưu chính Anh (Post Office) cũng bộc lộ thất bại tương tự: người ta lại tin tưởng đầu ra phần mềm có lỗi hơn là kinh nghiệm thực tế của hàng trăm giám đốc bưu cục. Giá trị của Điều 14 trong "Luật AI" của châu Âu nằm ở chỗ nó yêu cầu người thực hiện giám sát con người đối với hệ thống AI rủi ro cao phải hiểu, giám sát, giải thích, ghi đè hoặc làm gián đoạn hệ thống. Bất kỳ tổ chức nào sử dụng AI có tác động đáng kể đều nên chỉ định những người xem xét có trách nhiệm, đào tạo họ nhận ra sự thiên vị tự động và trao cho họ quyền lực thực sự để ngăn chặn đầu ra có hại.
Thứ tư, quy định không nên dừng lại ở việc phát hành hệ thống. Các mô hình có thể trôi dạt, môi trường thay đổi, và cơ chế khuyến khích cũng thay đổi. Một hệ thống có vẻ chấp nhận được trong thử nghiệm có thể trở nên phân biệt đối xử hoặc mang tính thao túng một khi tương tác với quần chúng thực sự. Do đó, việc giám sát sau triển khai, ghi nhật ký, kiểm toán độc lập và báo cáo sự cố nên trở thành nghĩa vụ pháp lý. Khung Quản lý Rủi ro AI của Viện Tiêu chuẩn và Công nghệ Quốc gia Hoa Kỳ (NIST) cũng như các điều khoản về giám sát sau khi đưa ra thị trường trong "Luật AI" đều công nhận điều này. Chỉ số AI hướng tới xã hội (Pro-Social AI Index) có thể được sử dụng để vẽ bản đồ, đo lường và giám sát tác động của hệ thống AI đối với con người và môi trường của họ.
Thứ năm, một số thực hành nhất định đáng lẽ bị cấm. Các hệ thống nhằm khai thác điểm yếu, làm biến dạng hành vi thông qua thiết kế lừa dối hoặc thao túng trẻ em và các nhóm dễ bị tổn thương khác, nên bị cấm, chứ không chỉ đưa ra hướng dẫn nhẹ nhàng. Điều 5 của "Luật AI" EU cấm một số mục đích sử dụng mang tính thao túng và bóc lột, vạch ra một ranh giới cứng rắn cần thiết. Một xã hội kỹ thuật số lành mạnh không thể chỉ dựa vào việc tiết lộ thông tin, mà phải tập trung vào việc thiết kế cơ bản của nó có nhằm mục đích phá hoại khả năng phán đoán hay không.
Kiến thức cơ bản về thuật toán nên được coi là cơ sở hạ tầng công dân. Nếu chỉ các nhà phát triển, nhà cung cấp và đội ngũ tuân thủ hiểu cách thức hoạt động của các hệ thống này, ngay cả dưới sự quản lý tốt, vấn đề bất đối xứng quyền lực vẫn tồn tại. Công dân, giáo viên, thẩm phán, nhà báo, bác sĩ lâm sàng và nhà quản lý công cộng đều cần kiến thức thực tế về truyền thông tổng hợp, hệ thống xếp hạng, định hướng hành vi, quyền chất vấn cũng như những hạn chế của đầu ra mô hình. Điều khoản thứ tư của châu Âu về kiến thức AI là một tín hiệu hữu ích, và nên phát triển thành một sứ mệnh công cộng rộng hơn. Ngoài kiến thức cơ bản về AI, đã đến lúc đầu tư vào kiến thức kép (dual literacy) để đảm bảo người dùng nhận thức được sự tương tác giữa nhận thức cá nhân, hành vi và tác động của tài sản nhân tạo đối với họ.
Xét cho cùng, bất đối xứng đại diện thuật toán không phải là vấn đề kỹ thuật biệt lập, mà là một sự mất cân bằng cấu trúc về việc ai có thể cảm nhận, định hình và chống lại sức mạnh của thuật toán. Một bên học nhanh hơn, liên tục kiểm tra và can thiệp một cách thầm lặng; bên kia thích nghi trong bối cảnh thông tin một phần không minh bạch. Chính sách tốt không thể loại bỏ hoàn toàn sự bất đối xứng này, nhưng có thể thu hẹp khoảng cách ở những lĩnh vực quan trọng nhất bằng cách làm cho ảnh hưởng tự động hóa trở nên hữu hình, có thể chất vấn, có thể kiểm toán và có thể quản trị.
Bài viết này từ tài khoản WeChat công khai "Internet Law Review", tác giả: Cornelia Walter
