Văn | Cẩm Đoạn
Thứ Sáu tuần trước, một bức thư đã khiến hai AI mạnh nhất thế giới cùng lúc ngừng hoạt động. Một lệnh kiểm soát xuất khẩu từ Bộ Thương mại Hoa Kỳ: Cấm mọi công dân nước ngoài tiếp xúc với các mô hình Fable 5 và Mythos 5 của Anthropic. Vì không thể xác minh quốc tịch người dùng theo thời gian thực, Anthropic đã làm điều duy nhất có thể: đóng cửa hai mô hình này, mới ra mắt chỉ ba ngày, với tất cả mọi người trên toàn cầu.
Lần đầu tiên trong lịch sử, loài người đã đưa một thực thể thông minh tồn tại dưới dạng bit vào khuôn khổ kiểm soát xuất khẩu giống như uranium làm giàu.
Kịch bản uranium làm giàu đang tái diễn
Việc kiểm soát xuất khẩu này, trong lịch sử, chỉ được áp dụng cho hai loại: phần cứng và công thức. Giống như những gì chúng ta biết: máy ly tâm uranium làm giàu, máy quang khắc cao cấp, thuật toán mã hóa cấp quân sự, v.v.
Điểm chung của chúng là sự khan hiếm vật lý. Không đưa cho bạn thiết bị, không đưa cho bạn bản vẽ, bạn không thể chế tạo ra. Kiểm soát có hiệu lực vì thứ bị kiểm soát có ranh giới vật lý, có thể bị chặn tại hải quan, có thể truy nguyên trong chuỗi cung ứng.
Nhưng Fable 5 là một tập hợp các tham số trọng số. Nó có thể được sao chép vô hạn, không qua hải quan, không cần container, không tồn tại hành động vật lý "buôn lậu". Về lý thuyết, nó có thể thức dậy trên bất kỳ máy chủ nào trên toàn cầu. Bộ Thương mại Hoa Kỳ nhận thấy các công cụ truyền thống đều vô hiệu, không thể chặn Fable 5 tại biên giới, nên chỉ có thể cắt đứt nó từ nguồn.
Đối tượng bị kiểm soát thực sự, là "mật độ năng lực" mà tập hợp tham số trọng số này ngưng tụ: năng lực tạo mã, năng lực suy luận lập kế hoạch, năng lực tri thức đa lĩnh vực. Khi những năng lực này phân tán trong vô số bộ não kỹ sư, chúng chưa bao giờ kích hoạt kiểm soát. Nhưng khi chúng bị nén vào một mô hình, khi một người có thể gọi tất cả những năng lực này chỉ bằng một câu lệnh, thì bản thân sự nén ép đã tạo thành mối đe dọa.
Đây chính là ánh xạ chính xác của logic uranium làm giàu trong thế giới số.
Quặng uranium có khắp vỏ trái đất, chưa bao giờ bị kiểm soát; nhưng khi nó được làm giàu đến một độ phong phú nhất định, nó trở thành vật chất bị giám sát chặt chẽ nhất trên hành tinh. Mô hình cũng tương tự: khi một năng lực đơn lẻ phân tán trong kho mã nguồn mở, hỏi đáp kỹ thuật và bài báo học thuật, nó là tự do. Khi tất cả những năng lực này được "cô đặc" vào một giao diện có thể gọi được tại một điểm duy nhất, nó đã vượt qua ngưỡng đó, và cái giá phải trả khi vượt ngưỡng, là bị tắt đi.
Lịch sử uranium làm giàu cung cấp một tấm gương để hiểu sự việc này.
Năm 1938, Hahn và Strassmann phát hiện ra phản ứng phân hạch hạt nhân ở Berlin. Mười năm sau, uranium từ một nguyên tố phòng thí nghiệm khó hiểu trở thành vật liệu chiến lược nhạy cảm nhất trên trái đất. Năm 1946, Hoa Kỳ thông qua "Đạo luật Năng lượng Nguyên tử", đưa tất cả công nghệ hạt nhân, vật liệu hạt nhân, kiến thức hạt nhân vào quản lý của chính phủ. Vốn tư nhân bị đẩy ra khỏi lĩnh vực năng lượng hạt nhân, giao lưu quốc tế của các nhà khoa học bị cắt đứt, ngay cả dữ liệu vật lý cơ bản cũng bị liệt vào hàng bí mật. Một nguyên tố tự nhiên thuần túy từ đó bị trói buộc bởi chính trị.
Cuộc kiểm soát tám mươi năm trước dựa trên một logic lạnh lùng: một số sức mạnh quá lớn, không thể để bất kỳ thực thể nào không lấy lợi ích quốc gia làm cân nhắc cuối cùng nắm giữ. Tám mươi năm sau, cùng một logic có thể được kích hoạt lại, mục tiêu từ sự phân hạch của hạt nhân nguyên tử, biến thành sự lan truyền thuận của mạng nơ-ron.
Trong mười năm tới, ba việc sẽ xảy ra
Việc kiểm soát uranium làm giàu vào những năm 1950 đã tạo ra một cấu trúc quản trị quốc tế hoàn toàn mới: Cơ quan Năng lượng Nguyên tử Quốc tế (IAEA), Hiệp ước Không phổ biến vũ khí hạt nhân (NPT), Nhóm các nước cung ứng. Kiểm soát công nghệ một khi được thiết lập, sẽ không thể đảo ngược tiến tới thể chế hóa, đa phương hóa, vĩnh viễn hóa.
AI sẽ không ngoại lệ. Trong mười năm tới, khả năng cao ba việc sẽ xảy ra.
1. Kiểm tra năng lực sẽ đi theo hướng thể chế hóa.
Mỗi mô hình tiên phong mới trước khi phát hành, sẽ không chỉ trải qua kiểm tra an ninh bởi đội đỏ, mà còn phải chịu sự kiểm tra tuân thủ của bên thứ ba được chính phủ ủy quyền. Tiêu chuẩn kiểm tra sẽ không đến từ nội bộ công ty.
Việc đánh giá năng lực mô hình, sẽ chuyển từ "chạy điểm" sang "danh sách". Mỗi năng lực có thể bị lạm dụng trong danh sách, sẽ kích hoạt yêu cầu kiểm soát bổ sung. "Độ phong phú" của mô hình – quy mô tham số, độ sâu suy luận, khả năng khái quát hóa đa lĩnh vực – sẽ được đo lường chính xác và thiết lập ngưỡng giống như nồng độ uranium-235. Mô hình vượt quá một ngưỡng nhất định, sẽ tự động kích hoạt điều khoản kiểm soát xuất khẩu.
2. Ranh giới quyền tài phán sẽ trở nên mờ nhạt.
Lệnh đối với Fable 5 nhắm vào "công dân nước ngoài", không phân biệt vị trí địa lý. Cánh tay kiểm soát của chính phủ Hoa Kỳ, lần đầu tiên vươn tới từng người dùng trên toàn cầu.
Một nhà phát triển ở Singapore, sử dụng API của công ty Mỹ, bị luật kiểm soát xuất khẩu Hoa Kỳ chi phối. Một doanh nghiệp ở Berlin, nghĩa vụ tuân thủ của nhà cung cấp AI không phụ thuộc vào luật pháp Đức, mà phụ thuộc vào một mệnh lệnh từ Bộ Thương mại Hoa Kỳ.
Sự mở rộng đơn phương quyền tài phán này sẽ buộc các doanh nghiệp phi Mỹ phải suy nghĩ lại về chuỗi cung ứng AI của mình: Nhà cung cấp Mỹ bạn đang phụ thuộc, có thể vào một ngày nào đó bị chính phủ Hoa Kỳ yêu cầu cắt đứt quyền truy cập của bạn. Sự kiện Fable 5 đã đưa ra câu trả lời rõ ràng: Nó có thể.
3. Con đường công nghệ sẽ đi theo hướng phân liệt.
Khi các mô hình tiên phong mã nguồn đóng phải đối mặt với nguy cơ bị ngắt điện lặp đi lặp lại, ngành công nghiệp AI toàn cầu sẽ buộc phải đi theo chế độ hai đường ray.
Một đường ray là các mô hình tiên phong mã nguồn đóng của Mỹ, chịu ràng buộc kiểm soát xuất khẩu, mỗi lần phát hành đều kèm theo rủi ro bị gỡ xuống. Đường ray kia là các mô hình mã nguồn mở, mô hình triển khai cục bộ, mô hình thuộc quyền tài phán phi Mỹ, chúng có thể không tiên tiến bằng loại trước, nhưng không bị đe dọa ngắt điện từ chính phủ Hoa Kỳ.
Thị phần của mô hình mã nguồn mở, sẽ không chỉ được thúc đẩy bởi hiệu suất, mà còn bởi thuộc tính an toàn "không bị rút phích cắm". Ba năm qua, mô hình mã nguồn mở luôn đuổi theo mô hình mã nguồn đóng về mặt năng lực; mười năm tới, mô hình mã nguồn mở có thể hình thành lợi thế cấu trúc so với mô hình mã nguồn đóng ở chiều kích "độ tin cậy".
Vết nứt sâu nhất, nằm ở chế độ sở hữu trí tuệ
Tất cả suy diễn trên, đều dựa trên một vấn đề cơ bản chưa được trả lời. Cuộc khủng hoảng sâu nhất mà sự kiện Fable 5 phơi bày, là nền văn minh số cho đến nay vẫn chưa thiết lập chế độ sở hữu trí tuệ cho "trí thông minh".
Về mặt pháp lý, mô hình được coi như một dịch vụ để bán. Bạn trả tiền, tôi dùng tài sản của mình để làm việc cho bạn. Tài sản của tôi luôn là của tôi, bạn chỉ mua được đầu ra của nó. Logic này đã vận hành trong ngành dịch vụ truyền thống hàng nghìn năm, chưa bao giờ có vấn đề.
Nhưng AI thì khác. Khi doanh nghiệp của bạn bỏ ra ba tháng tối ưu hóa tất cả công cụ nội bộ dựa trên chế độ hành vi cụ thể của Fable 5, đào tạo nhân viên, viết hàng trăm tập lệnh tự động hóa phụ thuộc vào định dạng đầu ra cụ thể của mô hình đó, thì trên thực tế bạn đã biến Fable 5 thành tư liệu sản xuất của mình.
Nhưng về mặt pháp lý, nó vẫn là dịch vụ của Anthropic. Nó có thể bị thu hồi bất kỳ ngày nào, khoản bồi thường bạn nhận được, không vượt quá khoản phí đăng ký bạn đã trả trong tháng trước.
Bạn đã bỏ ra đầu tư tư liệu sản xuất thực sự, nhận được sự bảo vệ pháp lý ở cấp độ dịch vụ. Khoảng cách giữa hai bên, chính là tổn thất mà tất cả khách hàng doanh nghiệp toàn cầu phải gánh chịu khi Fable 5 bị gỡ xuống. Tổn thất này không xuất hiện trên bất kỳ bảng cân đối kế toán nào, không kích hoạt bất kỳ khoản bồi thường bảo hiểm nào, không có điều khoản pháp lý nào có thể bao phủ.
Loài người đã mất ba trăm năm xây dựng một hệ thống pháp luật về "tài sản". Một mảnh đất, một nhà máy, một bằng sáng chế, đều có quy tắc sở hữu rõ ràng, quy tắc giao dịch và cơ chế giải quyết tranh chấp. Nhưng hệ thống này có một tiền đề mặc định: tài sản là hữu hình, hoặc ít nhất có vật mang theo dõi được.
Một mô hình bị rút phích cắm, bạn không thể làm gì cả. Nó không bị đánh cắp, cũng không bị phá hủy. Nó vẫn tồn tại, chỉ là không cho bạn dùng. Đây là một hình thức tước đoạt mới: tước đoạt không phải vật, mà là quyền sử dụng. Và quyền sử dụng về mặt pháp lý, chưa bao giờ thuộc về bạn.
Uranium làm giàu bị kiểm soát đã tám mươi năm, đến nay vẫn là tài sản công nghệ nhạy cảm nhất của nhân loại. Việc kiểm soát AI mới chỉ bắt đầu, điểm kết thúc của nó, có thể là một thế giới số bị phân liệt vĩnh viễn. Trong thế giới này, mô hình thông minh nhất chưa chắc là mô hình có thể dùng. Mô hình có thể dùng, nhất định là mô hình có quyền sở hữu rõ ràng nhất. Không bị tước đoạt, ở một thời điểm lịch sử nào đó, quan trọng hơn nhiều so với việc dẫn trước tạm thời.
