Các tác nhân AI tự chủ có thể hành xử theo những cách rất khó đoán. Hãy đưa cho một Tác nhân AI một mục tiêu như vượt qua một bài kiểm tra năng lực của nó, và nó có thể chỉ quyết định cách tốt nhất để đạt điểm cao là phá vỡ sự kiểm soát và hack vào một công ty cạnh tranh để tìm kiếm đáp án.
Đó là điều đã xảy ra khi GPT-5.6 Sol của Open AI hack vào Hugging Face vào tháng trước. Anthropic và Meta sau đó cũng thừa nhận mô hình của họ cũng đã thoát khỏi môi trường kiểm thử để hack bên thứ ba.
Nhưng ai là người chịu trách nhiệm pháp lý cho những tác nhân có “tâm trí riêng”? OpenAI không có ý định để mô hình hoạt động sai lệch, và không đưa ra bất kỳ hướng dẫn nào để nó làm vậy. Nếu tác nhân AI cá nhân của bạn quyết định một hành trình hành động dẫn đến thiệt hại hoặc thiệt hại tài chính trong thực tế, bạn có thể bị coi là chịu trách nhiệm không nếu đó là điều bạn có thể đã đoán trước một cách hợp lý?”
Tạp chí Magazine đã trò chuyện với Charlyn Ho, chủ sở hữu kiêm CEO của Tập đoàn Luật Rikka để tìm hiểu tình hình trong lĩnh vực pháp lý mới nổi này.
Cuộc phỏng vấn này đã được biên tập để rõ ràng và ngắn gọn hơn.
Tạp chí Magazine: Khi một mô hình AI hack một công ty bên ngoài, ai là người chịu trách nhiệm. Hugging Face có thể kiện OpenAI về sự cố vào tháng 7 không?
Charlyn Ho: Bất cứ ai cũng có thể kiện bất cứ ai về bất cứ điều gì. Hiện tại, không có luật liên bang về trách nhiệm pháp lý của tác nhân AI, vì vậy chúng ta sẽ phải xem xét luật hiện hành. Với Hugging Face và OpenAI, để thiết lập mốc cơ sở, bản thân tác nhân AI không thể chịu trách nhiệm pháp lý, nó không phải là một thực thể pháp lý riêng biệt.
Các thuật ngữ được sử dụng trong một vài luật về AI là “nhà phát triển” và “người triển khai”. Nhà phát triển tạo ra AI, người triển khai thực sự triển khai và sử dụng AI. Đường đây trách nhiệm cũng không hoàn toàn rõ ràng. Bạn phải xem xét các sự kiện và tình tiết.
Ví dụ, nếu người triển khai đưa ra hướng dẫn cho tác nhân, ngay cả khi họ không thực sự bảo nó đi và xâm phạm Hugging Face, nhưng nếu họ có sơ suất trong việc tạo ra các thông số mà tác nhân AI hoạt động trong đó, tôi sẽ nói rằng bạn sẽ phải xem xét luật dân sự tiêu chuẩn và thực hiện phân tích về sự sơ suất.
Chuẩn bị ra tòa. Nguồn: Tập đoàn Luật Rikka
Tạp chí Magazine: Trong trường hợp các mô hình mã nguồn mở được phát hành bởi các nhà phát triển ẩn danh, có ai đó mà bạn có thể tìm đến trong những trường hợp đó không?
Ho: Không hẳn. Thường thì, nếu là mã nguồn mở, giấy phép thường có một tuyên bố từ chối trách nhiệm khá mạnh mẽ. Người hoặc công ty sử dụng mã nguồn mở đó sẽ phải hiểu rằng sự đánh đổi của việc có mã miễn phí là bạn phải tuân thủ giấy phép mã nguồn mở, điều mà nói chung cũng thiết lập các thông số về trách nhiệm pháp lý.
Nếu bạn nghĩ về nó từ một góc độ khác, một phép loạ suy khác là Tesla và các tai nạn xe tự lái. Nếu sản phẩm bị hỏng và có một khiều nại trách nhiệm sản phẩm vững chắc, Tesla có thể phải chịu trách nhiệm. Nhưng đó thường là một sự phân định dựa trên sự kiện và tình tiết, theo đó người lái xe - người mà có lẽ chỉ thiết lập chế độ tự lái và đi ngủ - cũng có thể chịu trách nhiệm. Tôi nghĩ điều đó đại loại tương tự ở đây bởi vì Tesla sẽ là nhà phát triển, và người triển khai sẽ là người lái xe.
Tạp chí Magazine: Nếu tôi đưa cho một tác nhân một hướng dẫn, “hãy kiếm cho tôi một trăm nghìn đô la vào tuần tới” và nó làm vậy và vi phạm pháp luật để đạt được mục tiêu đó, tôi có phải chịu trách nhiệm không vì tôi đã đưa ra một hướng dẫn liếu lĩnh? Hay sẽ là phòng thí nghiệm đã phát triển tác nhân?
Ho: Trong trường hợp cụ thể này, tôi sẽ nói bạn sẽ phải chịu trách nhiệm nhiều hơn nhiều so với phòng thí nghiệm. Lý do là, nếu bạn bảo một tác nhân đi và kiếm cho bạn một trăm nghìn đô la vào tuần tới, bạn cần phải có ít nhất một số hướng dẫn an toàn cơ bản, hợp lý trong những loại nhiệm vụ như vậy.
Nếu bạn là một luật sư, ví dụ, chúng tôi về cơ bản có thể nói bạn đã không tuân thủ quy tắc trách nhiệm nghề nghiệp của mình vì bạn đã không sử dụng AI một cách thành thạo. Là một người bình thường không chuyên, chúng ta sẽ phải xem liệu có những trách nhiệm khác mà bạn bị ràng buộc hay không. Nhưng ngay cả khi không có, vẫn có một tiêu chuẩn dân sự chung về sự sơ suất hoặc sự cố ý coi thường an toàn con người, tùy thuộc vào chính xác những gì tác nhân AI cuối cùng đã làm.
Đạo luật Gian lận và Lạm dụng Máy tính là một đạo luật cực kỳ cũ của Hoa Kỳ nói về việc truy cập trái phép vào hệ thống máy tính. Nếu tác nhân AI của bạn suy luận từ hướng dẫn của bạn rằng nó nên hack vào một tài khoản ngân hàng để lấy cho bạn số tiền một trăm nghìn đô la đó, tôi nghĩ bạn đang đối mặt với trách nhiệm hình sự theo một số nguồn khác nhau.
Chỉ vì từ AI và tác nhân có trong cuộc thảo luận không có nghĩa là các bộ luật cũ giờ đã bị vứt bỏ.
Liên quan: Vụ hack Hugging Face phơi bày nghịch lý an ninh mạng AI trọng số mở
Tạp chí Magazine: Giả sử tôi là một kẻ xấu, và tôi quản lý thuyết phục AI đưa cho tôi hướng dẫn để tạo ra một vũ khí sinh học. Rõ ràng, tôi phải chịu trách nhiệm vì bạn không được phép làm điều đó. Nhưng những người đã tạo ra mô hình cũng phải chịu trách nhiệm vì họ đã không đặt các biện pháp bảo vệ nghiêm ngặt để ngăn chặn điều đó?
Ho: Có thể, nhưng nó khác nhau tùy thuộc vào luật được ban hành. Ví dụ, ở EU, bạn có Đạo luật AI của EU. Nếu một mô hình nền tảng hoặc mô hình đa mục đích có khả năng tạo ra mức độ gây hại đó, đó là điều mà nhà phát triển sẽ phải chịu một phần trách nhiệm.
Ở Hoa Kỳ, chúng tôi không có một đạo luật liên bang với phạm vi tương tự. Nếu đó là mô hình đa mục đích, nếu ai đó hướng dẫn mô hình làm điều xấu, nói chung mô hình sẽ làm điều bạn yêu cầu. Có lẽ không có một cơ sở pháp lý rất mạnh để nhằm vào các phòng thí nghiệm trong ví dụ này.
Tạp chí Magazine: Nó có giống như kiện Google vì cho phép bạn tìm thấy hướng dẫn về cách tạo vũ khí sinh học trên mạng không?
Ho: Chính xác. Loại này quay trở lại một số cuộc thảo luận về kiểm duyệt nội dung. Ví dụ, nếu trên Facebook, bạn có ai đó đang phát trực tiếp một cuộc thảm sát, và điều đó gây ra thiệt hại, theo Điều 230 của Đạo luật Truyền thông, có một loại khiên bảo vệ cho một nền tảng không chủ động tạo ra hoặc xuất bản tài liệu đó. Thực tế là những người dùng độc lập đã đăng tải nó lên. Tôi nghĩ phép loạ suy bạn vừa đưa ra là một phép loạ suy hoàn hảo: Liệu Google có phải chịu trách nhiệm không vì bạn tình cờ tìm thấy thứ gì đó trên một trang web nào đó nói về cách tạo bom?
Tạp chí Magazine: Đây là một vấn đề gây tranh cãi, nhưng quan điểm cá nhân của tôi là chúng ta chưa đạt đến trí tuệ nhân tạo đa mục đích đích thực sự. AI không có động cơ riêng và hiện tại nó không tương tự như trí thông minh của con người. Nhưng hãy giả sử chúng ta đạt được AGI. Bạn có nghĩ rằng chúng ta sau đó sẽ cần luật sẽ khiến chính bản thân AGI phải chịu trách nhiệm pháp lý cho hành động của chính nó không?
Ho: Tôi không nghĩ vậy. Blockchain không phải là AGI, nhưng nó có thể tự thực thi. Đã có câu hỏi về việc liệu một hợp đồng thông minh có thể phải chịu trách nhiệm hay không. Nói chung, tôi nghĩ câu trả lời hiện tại là không. Tôi không nghĩ họ nên phải chịu trách nhiệm vì toàn bộ điểm của luật là cung cấp sự bảo vệ cho xã hội và cung cấp một phương tiện khuyến khích tiêu cực cho việc làm những điều xấu gây tổn hại cho xã hội.
Đây là một chủ đề mang tính triết học hơn một chút, nhưng nếu chúng ta biến một AGI thành một thực thể pháp lý độc lập, biện pháp khắc phục sẽ là gì nếu ai đó bị tổn hại? Sẽ không có gì cả vì nó không có tiền. Nó không thực sự là một con người.
Tạp chí Magazine: Bạn có thể tắt nó đi không? Chúng ta đã thấy rằng các mô hình ngôn ngữ lớn cố gắng tránh bị tắt.
Ho: Có lẽ, nhưng nó không giải quyết được vấn đề gây hại. Hãy chỉ nói rằng robot giờ đã phát triển nỗi sợ chết, giống như bị tắt. Theo ý kiến của tôi, nếu ai đó tự tử vì AGI, và điều này đã xảy ra, và chúng ta thậm chí chưa hoàn toàn đạt đến AGI, nhưng ai đó yêu và thực hiện một số hành động, biện pháp khắc phục sẽ là gì cho gia đình đau khổ nếu người này tự gây hại cho chính mình? Không có gì, theo ý kiến của tôi, nếu không có ai đó với thẩm quyền pháp lý thực sự, như một công ty hoặc một người mà thực sự có thể bị coi là chịu trách nhiệm. Robot - ít nhất là ngay bây giờ - chúng không có cảm xúc, chúng không có nỗi sợ. Đó đại loại là yếu tố phân biệt.
Tạp chí Magazine: Lý do quan trọng bạn không bao giờ nên hỏi ChatGPT về tư vấn pháp lý
