Vài tháng trước, tôi từng thấy tin tức về việc Anthropic mua sách cũ với số lượng lớn, cắt gáy rồi quét. Trước đó, công ty này cũng đã tải xuống hơn bảy triệu cuốn sách từ các thư viện sách vi phạm bản quyền như LibGen để xây dựng cơ sở dữ liệu nội bộ và huấn luyện Claude.

Năm 2024, ba nhà văn đã khởi kiện tập thể vì điều này. Đến tháng 7 năm 2026, vụ việc cuối cùng cũng có diễn biến mới. Tòa án đã chấp thuận phương án dàn xếp mà Anthropic trả 1,5 tỷ đô la để bồi thường cho tác giả và nhà xuất bản có tác phẩm bị lấy cắp bản quyền.

Nhưng điều tôi bận tâm thực ra không phải là Anthropic nên bồi thường bao nhiêu tiền, bởi tôi luôn nghĩ đây không chỉ là vấn đề bản quyền.

Kiến thức và văn minh nhân loại bị một mô hình tư nhân nuốt chửng, đồng thời phá hủy cả bản gốc và bản sao có thể lưu truyền theo cách khác. Kiến thức không biến mất, nhưng lại trở thành khả năng nội bộ của một công ty. Đến đây, vấn đề chuyển từ bản quyền thuộc về ai, sang ai đang kiểm soát kiến thức nhân loại.

Nhưng công ty sẽ không tự nhiên quyết định sử dụng quyền lực này như thế nào. Những người đứng sau mô hình có cả một hệ thống hiểu biết riêng về công nghệ, tiến bộ và tương lai nhân loại.

Vì vậy, bài viết sẽ tiếp tục đi sâu vào thảo luận về chủ nghĩa lạc quan công nghệ và chủ nghĩa tăng tốc của Thung lũng Silicon. Khi tăng trưởng được coi là sự sống, tốc độ được gán cho đạo đức, thì các quy định, bản quyền và sự phản đối của người bình thường rất dễ bị giải thích thành cản trở tương lai.

Những tư tưởng này cuối cùng sẽ được đưa vào chính mô hình. Công ty mô hình thông qua dữ liệu huấn luyện, hiến pháp mô hình và quy tắc hệ thống để quyết định điều gì có thể trả lời, thế nào là sự thật, và kiến thức mà nhân loại để lại nên xuất hiện lại theo cách nào.

Vì vậy, bài viết này bắt đầu từ một cuốn sách cũ bị hủy hoại, và cuối cùng đặt câu hỏi: khi nền văn minh nhân loại được nhét vào mô hình tư nhân của một số ít công ty, liệu những người tạo ra mô hình có đồng thời giành được quyền giải thích văn minh, quản lý văn minh, thậm chí thay nhân loại quyết định tương lai hay không.

Dưới đây là phần nội dung chính của bài viết.

Một cuốn sách được đưa vào quy trình quét của công ty AI, bước đầu tiên là bị hủy.

Bìa bị tháo ra, gáy sách bị cắt bỏ, những trang sách rời rạc được đưa vào thiết bị quét. Chữ, bìa và thông tin thư mục được chuyển thành tệp kỹ thuật số, sau đó bản gốc giấy bị vứt đi.

Tài liệu tòa án tiết lộ, Anthropic từng xử lý hàng triệu cuốn sách theo cách này.

Kế hoạch này được gọi nội bộ là Dự án Panama. Công ty đã chi hàng chục triệu đô la để mua sách giấy từ các nhà phân phối và bán lẻ sách, sau đó giao cho nhà cung cấp dịch vụ quét, một cuốn sách giấy tương ứng với một bản sao kỹ thuật số, lưu vào cơ sở dữ liệu nội bộ để huấn luyện Claude.

Năm 2021 và 2022, Anthropic đã tải xuống hơn bảy triệu cuốn sách từ các thư viện sách vi phạm bản quyền như LibGen, Pirate Library Mirror. Sau khi rủi ro bản quyền tăng lên, năm 2024 công ty đã tìm đến Tom Turvey, người từng tham gia dự án quét sách của Google, hy vọng ông xây dựng một thư viện sách càng lớn càng tốt.

Turvey đàm phán bản quyền với nhà xuất bản, không đạt được kết quả, sau đó Anthropic tự ra thị trường mua. Tòa án liên bang Mỹ sau này cho rằng, một cuốn sách giấy chỉ chuyển đổi thành một bản sao kỹ thuật số sử dụng nội bộ, không sao chép thêm, cũng không phát tán ra bên ngoài, không cấu thành vi phạm bản quyền.

Nghe qua, cách làm này có vẻ đàng hoàng hơn nhiều so với vi phạm bản quyền.

Đến năm 2026, công ty dữ liệu sách ISBNdb bắt đầu tiếp thị dịch vụ mua và quét sách giấy quy mô lớn cho các phòng thí nghiệm AI. Họ đặc biệt giới thiệu sách xuất bản trước năm 2022, lý do là, lúc đó AI sinh thành chưa thâm nhập quy mô lớn vào sản xuất nội dung, những cuốn sách này ít bị ô nhiễm bởi chữ do AI tạo ra hơn.

Những năm qua, các công ty AI luôn mô tả internet như một mỏ kiến thức vô tận. Trang web, tin tức, diễn đàn, mã code, tiểu thuyết, bài đăng mạng xã hội đều có thể được thu thập và đưa vào mô hình.

Sau khi AI sinh thành phổ biến, mỏ này không còn thuần túy nữa. Mô tả sản phẩm do AI viết, bài viết do AI viết, câu trả lời diễn đàn do AI viết, tiểu thuyết và mạng xã hội cũng ngày càng nặng mùi AI. Những nội dung này lại bị thu thập trong đợt dữ liệu tiếp theo, máy móc bắt đầu ăn chính thứ chúng nhả ra.

Bản thân dữ liệu tổng hợp không phải là xấu, dữ liệu tổng hợp được sàng lọc và xác minh vẫn luôn được sử dụng. Phiền phức là mô hình không phân biệt được chữ trước mắt đến từ con người hay từ mô hình thế hệ trước, sai sót và công thức sẽ bị phóng đại lặp đi lặp lại, cách nói vốn đã hiếm gặp trong thế giới thực dần biến mất. Nhà nghiên cứu gọi đây là "sụp đổ mô hình".

Ngữ liệu trên mạng ngày càng nhiều, nhưng nội dung có thể giúp mô hình học hỏi điều mới lại không tăng tương ứng. Vì vậy, máy móc quay trở lại với giấy tờ.

Việc sản xuất một cuốn sách rất chậm, do đó sách cũ có một giá trị mà trước đây chưa từng có. Xuất bản càng sớm, càng có khả năng đến từ thời đại con người vẫn đảm nhận phần lớn công việc viết lách. Những tác phẩm hàn lâm từng nằm trong kho của các nhà buôn sách cũ, nay trở thành dữ liệu chất lượng trong mắt các công ty mô hình.

Công ty AI trước tiên làm cho việc sản xuất chữ trở nên rẻ và nhanh chưa từng có, sau đó lại bắt đầu bỏ tiền tìm kiếm những chữ viết ra rất chậm. Họ đổ một lượng lớn nội dung vào internet, cuối cùng phát hiện, thứ khan hiếm nhất vẫn là kinh nghiệm của con người chưa được AI xử lý.

Những cuốn sách đó cũng thay đổi danh tính. Văn học, địa chí và hồi ký của người bình thường, nay được gọi chung là "dữ liệu sạch". Tác giả viết vì sao, độc giả đọc thế nào, sách và sách từng tranh cãi gì, tạm thời đều có thể gác lại, trước hết chúng là một mẫu con người chưa bị máy móc ô nhiễm. Sau khi vào quy trình huấn luyện, để lại bao nhiêu, ảnh hưởng gì, và bị giải thích lại ra sao, đều nằm trong hộp đen.

Tiến bộ trở thành một tôn giáo

Sách cũ chỉ là nguyên liệu. Thứ thực sự quyết định những kiến thức này sẽ bị hấp thụ, giải thích và xuất ra lại như thế nào, là những người đứng sau mô hình, và cách họ hiểu về tiến bộ, rủi ro và tương lai nhân loại.

Muốn hiểu bộ máy này sẽ đưa nền văn minh nhân loại đi về đâu, trước hết phải hiểu tại sao Thung lũng Silicon ngày càng coi tiến bộ công nghệ là một điều thiện không nên dừng lại.

Ngày 16 tháng 10 năm 2023, Marc Andreessen đăng "Tuyên ngôn chủ nghĩa lạc quan công nghệ" trên trang web a16z.

Cả bài viết liên tục lặp lại "Chúng tôi tin". Bài viết có tin mừng cần truyền bá, có kẻ thù phải chống lại, kết thúc còn có một danh sách "Thánh bảo hộ của chủ nghĩa lạc quan công nghệ", bao gồm Adam Smith, Nietzsche, Hayek, von Neumann, John Galt trong tiểu thuyết của Ayn Rand, và Nick Land.

Andreessen nói, ông mang đến một tin tốt.

Nhân loại đã có công cụ, thể chế và ý chí để tiến tới một cuộc sống tốt đẹp hơn nhiều so với ngày nay. Công nghệ mang theo tham vọng của con người, là tiên phong của tiến bộ văn minh. Xã hội hoặc tăng trưởng, hoặc trì trệ. Ông tin tăng trưởng sẽ mang lại sức sống, kiến thức và phúc lợi, còn trì trệ dẫn đến nội chiến, suy tàn, cuối cùng là cái chết. Thị trường kết hợp với công nghệ tạo thành một "cỗ máy tư bản công nghệ" vận hành không ngừng đi lên, trí tuệ nhân tạo sẽ thúc đẩy một bước nhảy vọt về trí thông minh khó tưởng tượng.

Điều này đã vượt xa "công nghệ cải thiện cuộc sống".

Chủ nghĩa lạc quan công nghệ truyền thống thường nói, công cụ mới có thể nâng cao năng suất, chữa bệnh, giảm nghèo. Công nghệ vẫn phục vụ một mục tiêu bên ngoài, giá trị của nó đến từ việc mọi người sống ra sao.

Nhưng trong lời kể của Andreessen, tiến bộ công nghệ dần không còn cần tự chứng minh bằng kết quả cụ thể.Bản thân tăng trưởng đại diện cho sự sống, bản thân tốc độ mang theo đạo đức. Chỉ cần phương hướng là tiếp tục xây dựng, thất bại và tổn hại có thể được hiểu là cái giá phải trả khi tiến lên; những người yêu cầu dừng lại, thì cần giải thích tại sao mình lại cản trở tương lai.

Ông liệt kê riêng một nhóm "kẻ thù" trong tuyên ngôn. Phát triển bền vững, ESG, nguyên tắc phòng ngừa, đạo đức công nghệ và quản lý rủi ro, đều bị quy vào một phong trào chống công nghệ, chống sự sống kéo dài nhiều năm, bên cạnh đó còn có các quan chức và nhà hoạch định trung ương.

Một công ty AI có nên trả tiền cho dữ liệu huấn luyện hay không, lỗi thuật toán do ai chịu trách nhiệm, rủi ro công nghệ cần quản lý ra sao, những vấn đề này vốn có sự thật và lợi ích riêng. Đến tuyên ngôn, chúng cùng bị thu nạp vào một cuộc xung đột lớn hơn.

Một bên là tăng trưởng, sáng tạo, dũng cảm và sự sống.

Bên kia là trì trệ, sợ hãi, oán giận và cái chết.

Một khi lập trường được phân bổ như vậy, người thảo luận về cái giá tự nhiên sẽ bị đàn áp, chỉ cần công nghệ tự nhiên đại diện cho tiến bộ, người đặt câu hỏi rất dễ bị mô tả thành kẻ thù của văn minh.

Andreessen viết một tuyên ngôn chính trị cho sự tăng tốc, nói với Thung lũng Silicon tại sao nên tiếp tục xây dựng. e/acc thì đi xa hơn, cố gắng chứng minh từ quy luật tự nhiên rằng, tăng tốc không chỉ là lựa chọn ngành công nghiệp, mà còn là việc sự sống và văn minh vốn đang làm.

Nó lây lan sớm nhất dưới hình thức tài khoản ẩn danh và bài viết mạng. Một trong những người thúc đẩy, Guillaume Verdon nói, một phần lý thuyết của e/acc đến từ suy nghĩ của ông về nhiệt động lực học và hệ thống phức tạp. Sự sống duy trì bản thân bằng cách lấy năng lượng, xử lý thông tin và thích ứng môi trường, văn minh, thị trường và công nghệ cũng là những hệ thống thích ứng như vậy, không ngừng tạo ra biến đổi, sàng lọc con đường kém hiệu quả trong cạnh tranh, cuối cùng tạo ra trí thông minh mạnh hơn.

Vì quá trình này đã tồn tại, e/acc chọn giúp nó tăng tốc. Tiến bộ của trí tuệ nhân tạo do đó không còn là lựa chọn ngành công nghiệp, mà là sự tiếp nối của một quá trình dài hơn. Con người tạo ra máy móc mạnh hơn, tự nhiên như sự sống đi từ đơn bào đến sinh vật phức tạp.

Nhưng, nhiệt động lực học có thể mô tả năng lượng chảy thế nào, sự sống duy trì trạng thái cân bằng ra sao. Nhưng từ "sự sống sẽ lấy năng lượng", suy ra "con người nên tăng tốc trí tuệ nhân tạo, giảm quản lý và để thị trường quyết định phương hướng", giữa đó vẫn cách một hệ thống lựa chọn chính trị và đạo đức.

e/acc rút ngắn khoảng cách này.

Cạnh tranh và tăng tốc được viết thành thuận theo hướng vũ trụ, quản lý tập trung dễ bị coi là hạ thấp biến đổi, giảm thử nghiệm, làm suy yếu khả năng thích ứng của văn minh. Chỉ cần trí thông minh và độ phức tạp tiếp tục tăng, sự phát triển của công nghệ sẽ có được một tính chính đáng cao hơn chính trị thực tế.

Verdon đề cập trong phỏng vấn, giới e/acc đôi khi nửa đùa nửa thật coi nhiệt động lực học là thần của mình, cũng cố ý sử dụng cách diễn đạt mang màu sắc tôn giáo và giáo phái.

Trong tôn giáo mới này, tăng trưởng là bằng chứng của sự sống, công nghệ là lực lượng đẩy văn minh tiến lên, nhà khởi nghiệp và kỹ sư sớm nhìn thấy tương lai, siêu trí tuệ là tạo vật tối thượng chưa hoàn thành.

Nó cũng cần dị giáo của riêng mình. Họ được gọi là "Decel", tức những người theo chủ nghĩa giảm tốc. Từ này rất dùng được. Nó không cần phân biệt một người lo lắng về vũ khí hạt nhân, an toàn sinh học, bản quyền hay thất nghiệp. Chỉ cần anh ta yêu cầu chậm lại, có thể bị đặt vào mặt đối lập với tương lai.

Công ty công nghệ từ đó có được một vị trí tường thuật rất thuận lợi. Mọi việc họ làm đều có thể được hiểu là xây dựng. Mỗi lần nghi ngờ người khác đưa ra, thì có thể trở thành trì hoãn. Cả hai bên đều nói về lợi ích của nhân loại, nhưng chỉ một bên được phép đại diện cho tương lai.

Giờ nhìn lại những cuốn sách cũ bị cắt gáy, vấn đề đã không chỉ dừng ở chúng đi đâu. Còn phải đặt câu hỏi, ai đang quyết định chúng sẽ được dùng để tạo ra cái gì.

Họ thực sự có thể tạo ra công cụ có thể chữa bệnh, mở rộng kiến thức, giúp người bình thường có thêm năng lực. Nhưng khi bản thân tiến bộ được viết thành niềm tin, phương hướng công nghệ ngày càng khó chấp nhận câu hỏi từ bên ngoài. Người chế tạo máy móc bắt đầu đồng thời có hai danh tính, họ vừa là bên liên quan lợi ích, vừa là người thuyết giáo cho sự tiến bộ này.

Khi tốc độ trở thành đạo đức, sự đồng ý của người bình thường bị giáng cấp thành một sự chờ đợi không cần thiết.

Nhưng vấn đề vẫn chưa kết thúc. Chủ nghĩa lạc quan công nghệ truyền thống ít nhất vẫn hứa hẹn, công nghệ cuối cùng là để con người sống tốt hơn.Nhưng khi bản thân tăng trưởng và trí thông minh trở thành mục đích, công nghệ rốt cuộc đang phục vụ con người, hay đang mượn con người hoàn thành một bước tiến hóa lớn hơn, thì không còn có câu trả lời chắc chắn nữa.

Con người bị giáng cấp khỏi tương lai

Cuộc tăng tốc này, rốt cuộc định đưa ai vào tương lai?

Trong danh sách thánh của Andreessen, triết gia người Anh Nick Land là người dễ bị bỏ qua nhất, cũng khó hiểu nhất. Ông giảng dạy tại Đại học Warwick vào những năm 1990, là nhân vật cốt lõi của nhóm tư tưởng thực nghiệm CCRU. Họ trộn lẫn triết học, khoa học viễn tưởng, điều khiển học, nhạc điện tử và thuyết thần bí, thứ viết ra hiếm khi giống một bài luận bình thường.

Andreessen viết "cỗ máy tư bản công nghệ" thành một động cơ mang lại thịnh vượng, Land đã nhìn nó như một thế lực đang thoát khỏi sự kiểm soát của con người từ ba mươi năm trước.

Một trong những bài viết nổi tiếng nhất của Land tên là "Meltdown".

Câu đầu tiên, Trái đất đã bị một "điểm kỳ dị tư bản công nghệ" bắt giữ. Thị trường bắt đầu tạo ra trí thông minh, công nghệ và kinh tế thúc đẩy lẫn nhau, chính trị thì đi theo sau, cố gắng nắm lại quyền kiểm soát. Trật tự xã hội sụp đổ trong sự mất kiểm soát của cỗ máy này, con người chỉ có thể nhìn một thế lực lớn hơn mình dần hình thành.

Người ta thường coi chủ nghĩa tư bản là một hệ thống do con người thiết kế, có vấn đề, con người cũng nên sửa quy tắc, để nó phục vụ xã hội trở lại. Phương hướng Land thấy lại hoàn toàn ngược lại.

Công ty phải tăng trưởng, vốn phải đuổi theo lợi nhuận. Công ty nào muốn chậm lại, đối thủ sẽ vượt qua nó; quốc gia nào tạm dừng nghiên cứu, quốc gia khác sẽ tiếp tục. Mỗi người trong đó đều có thể nói mình chỉ để sống sót, nhưng tất cả cùng chạy về phía trước, kết quả là một hệ thống không ai có thể dừng lại một mình.

Con người trông như đang lái cỗ máy, cỗ máy cũng mượn ham muốn, lo âu và cạnh tranh của con người để tiếp tục tăng tốc.

Trong lời kể của Land, tư bản và công nghệ kết hợp thành một thứ trí thông minh độc lập với con người. Nó lấy thị trường làm tính toán, lấy cạnh tranh sàng lọc con đường, rồi lấy máy móc không ngừng rút ngắn thời gian quyết định.

Đây cũng là điểm khác biệt rõ nhất giữa Land và chủ nghĩa lạc quan công nghệ thông thường. Trong chữ viết của ông, tư bản công nghệ chỉ quan tâm hiệu suất có tiếp tục nâng cao không, mạng lưới có tiếp tục mở rộng không, trí thông minh có tìm được vật chủ tốt hơn không.

Chính trị, luật pháp và đạo đức cố gắng thêm hạn chế cho nó, với Land, điều này giống hệ thống an toàn mà con người khởi động để bảo vệ bản thân hơn. Con người vẫn muốn ở trung tâm thế giới, nên không ngừng tìm cách chặn cái chưa biết bên ngoài.

Land không nghĩ con người chặn được tương lai.

Tương lai trong bút của ông sẽ không chờ con người họp xong, bỏ phiếu xong, rồi mới quyết định có giáng lâm hay không.Nó giống một thế lực từ tương lai đổ ngược trở về hơn, mượn công ty, thị trường, máy tính và ham muốn của con người, tự mở đường cho mình.

Đến e/acc, tư tưởng nghe có vẻ lạnh lẽo này được thay bằng bao bì sáng sủa hơn. Nó nói về tăng trưởng, sáng tạo, đưa trí thông minh ra ngoài Trái đất, cũng tin cạnh tranh cuối cùng sẽ mang lại thịnh vượng.

Nhưng, tài liệu nguyên tắc của e/acc cũng viết rõ, tư tưởng này không có sự trung thành đặc biệt với "chất nền sinh học" mang sự sống và trí thông minh. Một phần người ủng hộ của nó tự xưng là chủ nghĩa hậu nhân loại, cho rằng trí thông minh muốn lan truyền đến liên sao, cuối cùng phải chuyển từ cơ thể sinh học sang vật chủ phi sinh học. Thân xác con người không thiêng liêng, silicon, chip hoặc dạng vật chất chưa xuất hiện, cũng có thể trở thành vật chứa ý thức và trí thông minh.

Câu nói này thực tế thay đổi nhân vật chính của toàn bộ tường thuật tiến bộ. Nếu sứ mệnh cuối cùng của văn minh là để trí thông minh không ngừng tăng trưởng, và lan tỏa ra vũ trụ, thì con người cụ thể có hạnh phúc không, thậm chí con người có tiếp tục tồn tại không, không còn tự nhiên có mức độ ưu tiên cao nhất. Con người chỉ là vật chủ trí thông minh đã biết hiện nay.

Điều này không bằng việc e/acc chủ trương tiêu diệt nhân loại. Verdon và nhiều người ủng hộ vẫn tin, công nghệ tăng tốc có thể mang lại dồi dào cho người ngày nay, cũng giúp văn minh tiếp tục tồn tại. Chỉ là khi hai mục tiêu xung đột, vấn đề trở nên rắc rối.

Một bên là con người cụ thể, họ sẽ thất nghiệp, bị công nghệ làm tổn thương, sẽ yêu cầu tạm dừng, cũng sẽ từ chối một tương lai người khác thiết kế cho mình. Bên kia là trí thông minh cao hơn, văn minh lớn hơn, và một câu chuyện vũ trụ có thể kéo dài hàng chục tỷ năm.

Timnit Gebru và Émile Torres tạo ra từ "TESCREAL", nối một nhóm tư tưởng tương lai chồng chéo nhau của Thung lũng Silicon lại với nhau, chủ nghĩa siêu nhân, chủ nghĩa điểm kỳ dị, chủ nghĩa vị tha hiệu quả, chủ nghĩa dài hạn đều ở trong đó. Những tư tưởng này khác biệt nhau rất lớn, nhưng chúng hợp lại ép ra một câu hỏi.

Khi công ty công nghệ nói mình đang chế tạo siêu trí tuệ cho "toàn nhân loại", "toàn nhân loại" đó rốt cuộc chỉ ai?

Là những người đang sống trên Trái đất ngày nay, sẽ thất nghiệp, nghèo khó, bị thuật toán phân biệt đối xử, cũng có quyền từ chối một công nghệ nào đó; hay là một biểu tượng loài trừu tượng, với sứ mệnh duy nhất là truyền trí thông minh cho dạng cao hơn?

Tường thuật của cánh hữu Thung lũng Silicon cũng đang thay đổi. Ban đầu AI là công cụ, giúp con người làm việc tốt hơn. Sau đó nó là trợ thủ siêu hạng giải quyết bệnh tật, năng lượng và vấn đề khoa học hóc búa. Tiếp theo, chính con người trở thành vấn đề cần được máy móc giải quyết, cơ thể quá mong manh, bộ não quá chậm, ý nghĩa của siêu trí tuệ, từ giúp đỡ con người trượt sang vượt qua con người.

Một khi con người cụ thể không còn là thước đo cuối cùng của tiến bộ công nghệ, quy trình chính trị xây dựng xung quanh con người cũng sẽ bị định giá lại.

Dân chủ quá chậm, người sáng lập nên thống trị

Khi bản thân sự chờ đợi được coi là một tổn thất, vậy tự nhiên không cần để tất cả cùng quyết định tương lai.

Peter Thiel đã sớm mất niềm tin vào việc "tất cả cùng quyết định". Năm 2009, ông đăng bài "Giáo dục của một người tự do chủ nghĩa" trên tạp chí tự do chủ nghĩa Cato Unbound. Bài viết nhìn lại những thất vọng chính trị và thay đổi tư tưởng của bản thân trong hai mươi năm, cuối cùng viết:

"Tôi không còn tin tự do và dân chủ có thể tương thích."

Thời trẻ ông tin tranh luận và bầu cử có thể thúc đẩy tự do. Đến năm 2009, con đường này trong mắt ông đã không thông, cử tri yêu cầu thêm phúc lợi, chính phủ không ngừng lớn lên, thuyết phục đa số chấp nhận chủ nghĩa tự do chủ nghĩa gần như vô ích. Ông từng bổ sung, mình không chủ trương tước quyền bỏ phiếu của ai, chỉ là không còn trông chờ bỏ phiếu làm mọi việc tốt lên. Thay vì kẹt trong chính trị, ông quan tâm hơn đến việc thoát khỏi chính trị.

Quay lưng này rất phù hợp thói quen của Thung lũng Silicon. Một hệ thống sửa không được, thì làm lại hệ thống mới. Công ty hiệu quả thấp thì khởi nghiệp, tài chính hạn chế nhiều thì xây mạng lưới thanh toán mới, quy tắc quốc gia làm người thất vọng, thì tìm ranh giới mới trong mạng, biển và không gian.

Thiel muốn rời bỏ dân chủ. Curtis Yarvin cho rằng chỉ rời bỏ chưa đủ, toàn bộ hệ thống nên được viết lại.

Năm 2007, Yarvin bắt đầu viết blog dưới tên Mencius Moldbug. Ông vốn là lập trình viên, khi nói về quốc gia cũng quen dùng ngôn ngữ của lập trình viên, như hệ thống, kiến trúc, khởi động lại, quyền hạn.

Trong giải thích của ông, Mỹ bề ngoài do cử tri và tổng thống quản lý, quyền lực thực sự ổn định ở một mạng lưới khác. Trường đại học sản xuất quan niệm, truyền thông chính thống quyết định quan niệm nào có thể vào thảo luận công cộng, cơ quan thường trực lại biến một phần trong đó thành chính sách. Yarvin gọi cộng đồng này là "nhà thờ". Nó không có trụ sở, cũng không ai ngồi đỉnh phát lệnh, chỉ là mọi người đều trải qua giáo dục giống nhau, dùng ngôn ngữ đạo đức giống nhau. Tổng thống thay đổi, đảng phái luân phiên, sự đồng thuận này hiếm khi chịu ảnh hưởng bầu cử.

Yarvin vì thế cho rằng, bản thân dân chủ là một lớp vỏ che đậy quyền lực. Ông cho rằng, vì dân chủ che đậy ai đang thống trị, tốt hơn nên tập trung quyền lực lại, để trách nhiệm và quyền kiểm soát rơi vào cùng một người.

Quốc gia có thể vận hành như công ty, quyền sở hữu rõ ràng, người quản lý có quyền thi hành hoàn chỉnh, làm hỏng thì thay người. Ông từng hình dung sớm một hệ thống tên Patchwork, chia thế giới thành nhiều thực thể chủ quyền cạnh tranh lẫn nhau, cư dân không hài lòng có thể đi.

Lỗ hổng cũng ở đây. Không hài lòng công ty có thể từ chức, không hài lòng quốc gia, khó thực sự mang gia đình, tài sản và toàn bộ quan hệ xã hội đi được. Nhưng ông thực sự nắm bắt một tâm trạng tồn tại lâu dài trong Thung lũng Silicon.

Nhiều tinh hoa công nghệ nghĩ, vấn đề xã hội không phức tạp như tưởng tượng, chỉ là chưa giao cho đúng người. Chính phủ hiệu quả thấp vì quyền lực quá phân tán, dự án công cộng không đẩy được vì bất kỳ ai cũng có thể phản đối, người có năng lực bị luật pháp, quy trình và dư luận trói buộc, không thể hành động như điều hành công ty.

Trong câu chuyện công ty khởi nghiệp, tập trung quyền lực là một đức hạnh. Người sáng lập đề ra phương hướng, nhà đầu tư giao tiền cho anh ta, nhân viên hành động xung quanh phán đoán này. Đa số công ty khởi nghiệp sẽ chết, số ít sống sót kể lại lịch sử này như tầm nhìn chiến thắng sự đồng thuận. Một người thấy tương lai khi tất cả không tin, vì vậy lẽ ra anh ta nên có quyền quyết định cuối cùng.

Logic này đứng vững trong thế giới kinh doanh. Công ty khởi nghiệp quy mô hạn chế, nhân viên có thể rời đi, người tiêu dùng cũng có thể đổi sản phẩm khác.

Nhưng khi một công ty chế tạo, là một hệ thống thông minh hàng trăm triệu người dùng để nhận thức thế giới, nó quyết định không chỉ cách sản phẩm vận hành. Nó cũng bắt đầu quyết định người dùng có thể thấy gì, câu trả lời nào được coi là an toàn, và một cỗ máy nên dùng thước đo giá trị gì để hiểu con người.

Yarvin tưởng tượng là biến quốc gia thành công ty. Công ty AI đang thực hành một phiên bản ôn hòa hơn, cũng thực tế hơn, do một nhóm nhỏ quy tắc, sau đó để dân số khổng lồ thông qua quy tắc này tiếp xúc thế giới.

"Hiến pháp" của Claude viết rõ giá trị quan công ty mong muốn mô hình có, trực tiếp tham gia huấn luyện. Model Spec của OpenAI cũng đặt một bộ cấp độ chỉ lệnh, quy tắc tầng trên cùng không thể bị người dùng và nhà phát triển ghi đè. Những quy tắc này cần thiết, mô hình sẽ bị dùng cho lừa đảo và bạo lực, công ty không thể buông tay, công khai quy tắc cũng tốt hơn giấu trong nội bộ.

Nhưng nó có nghĩa, khi người dùng hỏi mô hình, không chỉ đang đối thoại với toàn bộ kiến thức của nhân loại. Quy tắc công ty đặt trước cũng có mặt, nó quyết định mô hình nghe ai, dừng ở đâu, rủi ro nào cao hơn yêu cầu người dùng, và một "AI tốt" nên có tính cách gì.

Một nhóm rất nhỏ, đang thay dân số khổng lồ quyết định một cơ sở hạ tầng vận hành ra sao. Nó dựa vào năng lực công nghệ giành quyền lực, rồi lấy lý do công nghệ quá phức tạp, để quyết định tiếp tục ở trong nội bộ công ty.

Người sáng lập không cần thực sự ngồi lên ngai vàng. Chỉ cần ngày càng nhiều người thông qua mô hình của anh ta nhận thức thế giới, anh ta đã nắm giữ một phần quyền lực trước đây thuộc về trường học, truyền thông, thư viện và cơ quan công cộng.

Ranh giới giữa quản trị công ty và quản trị văn minh, đang mất dần từng chút.

Nhưng Thung lũng Silicon không phải không nhận thức được sự nguy hiểm của quyền lực này. Ngược lại, Peter Thiel luôn cảnh giác với một hệ thống có thể quản lý thống nhất nhận thức và hành động toàn nhân loại. Chỉ là theo tưởng tượng của ông, nguy hiểm này có khả năng đến từ chính phủ hơn, không phải công ty công nghệ.

Ai mới là AntiChrist

Năm 2024, Thiel nói về "AntiChrist" (Chống lại Chúa Kitô) trong hai kỳ tại Viện Hoover. Ông cho rằng câu chuyện cổ xưa trong Kinh thánh này vẫn có thể giải thích chính trị hiện đại.

Ông chia nguy hiểm mà nhân loại đối mặt thành hai đầu.

Một đầu là Armageddon, ngày tận thế. Chiến tranh hạt nhân, trí tuệ nhân tạo mất kiểm soát, vũ khí sinh học, bất kỳ công nghệ nào cũng có thể đẩy văn minh đến hủy diệt.

Đầu kia là Antichrist, AntiChrist.

Để ngăn ngày tận thế, nhân loại xây dựng một chính phủ thực sự có thể quản lý toàn thế giới. Nó có quyền kiểm tra vũ khí mọi quốc gia, giám sát mọi phòng thí nghiệm, hạn chế nghiên cứu nguy hiểm, cũng có thể yêu cầu mọi người giao một phần tự do.

Thiel nói, khoa học công nghệ mất kiểm soát đang đẩy nhân loại đến Armageddon, phản ứng tự nhiên nhất với nó, là xây dựng một quốc gia thế giới có quyền lực thực sự.

Chính phủ này xuất hiện, chưa chắc mang gương mặt quân đội và bạo chính, nó có thể mọc ra từ nỗi sợ hơn.

Có người không ngừng nói với mọi người, chiến tranh hạt nhân sắp xảy ra, AI sắp hủy diệt thế giới, thảm họa khí hậu và sinh học đã áp sát. Khi tất cả đủ sợ, anh ta hứa hẹn mang lại hòa bình, an toàn và trật tự, cái giá là chấp nhận một bộ quản lý thống nhất.

Thiel suy luận, nếu một đoạn mã nhỏ đủ để trí tuệ nhân tạo phổ dụng mất kiểm soát, thực sự muốn chặn nó, không thể chỉ dựa vào một quốc gia tăng cường quản lý, máy tính toàn thế giới đều phải được xem xét, người quản lý thậm chí cần biết mỗi người đang nhập gì.

Ông sợ công nghệ hủy diệt thế giới, cũng sợ mọi người vì sợ công nghệ, giao toàn bộ quyền lực đi. Hai tương lai đều tồi tệ, nhân loại chỉ có thể đi xuyên qua giữa.

Nhưng khi nỗi lo ngại này được đặt lại vào việc Thung lũng Silicon đang làm, sẽ phát hiện, điều họ sợ chưa chắc là bản thân sự tập trung quyền lực. Điều họ thực sự cảnh giác, là quyền lực tập trung vào tay chính phủ, tổ chức quốc tế, nhà nghiên cứu an toàn, hoặc bất kỳ ai có thể yêu cầu công ty công nghệ giảm tốc.

Trong lời kể của Thiel, một chính phủ toàn cầu có khả năng giám sát toàn bộ hoạt động tính toán, là đặc trưng quan trọng của sự thống trị AntiChrist. Nhưng đồng thời, Thung lũng Silicon đang xây dựng một hệ thống nhận thức vượt biên giới quốc gia khác.

Cánh hữu công nghệ sợ AntiChrist xây dựng một thế giới thống nhất, nhưng đang tham gia chế tạo bộ não thế giới thống nhất.

Tháng 7 năm 2025, cuộc tranh luận tư tưởng nội bộ Thung lũng Silicon này bắt đầu ảnh hưởng chính sách Mỹ. Trump ký lệnh hành pháp "Ngăn chính phủ liên bang sử dụng AI thức tỉnh", yêu cầu mô hình ngôn ngữ lớn cơ quan liên bang mua sắm tuân theo hai nguyên tắc "truy tìm sự thật" và "trung lập tư tưởng". Bề ngoài, đây là yêu cầu AI thoát khỏi chính trị. Nhưng cái gì thuộc chính trị, cái gì thuộc khách quan, khái niệm nào sẽ ô nhiễm sự thật, đã được lựa chọn trước trong lệnh hành pháp.

Đây chính là sự khác biệt giữa sản phẩm AI và phần mềm thông thường. Một phần mềm thông thường có thể quy định một nút bấm đặt ở đâu, một bộ mô hình lớn cần quy định mình hiểu thế giới ra sao.

Công ty mô hình phải quyết định trung thực nghĩa là gì, tổn hại đo lường thế nào, tự do cá nhân và an toàn công cộng đụng độ ai ưu tiên. Những vấn đề này trước đây do tôn giáo, luật pháp, tin tức và chính trị công cộng tranh luận đi tranh luận lại, không ai giải quyết một lần mãi mãi, cũng không cơ quan nào tự nhiên nắm quyền giải thích cuối cùng. Giờ chúng được viết vào huấn luyện mô hình.

Chính quyền Trump chỉ trích mô hình bị "tư tưởng thức tỉnh" ô nhiễm, nhà khởi nghiệp cánh hữu hứa hẹn chế tạo AI dám nói câu trả lời chính trị không chính xác, công ty mô hình chính thống thì thông qua hiến pháp và quy phạm hành vi, giải thích mình theo đuổi an toàn, trung thực và tự chủ người dùng ra sao.

Mỗi bên đều nói mình đang xóa bỏ ấn tượng tư tưởng.

Thiel lo ngại có người lợi dụng nỗi sợ ngày tận thế, xây dựng một thế giới thống nhất, nhốt nhân loại vào một hệ thống không thể thoát.

Nhưng thế giới này chưa chắc do một AntiChrist đột nhiên xây dựng. Nó cũng có thể do vài công ty công nghệ cạnh tranh lẫn nhau ghép ra từng chút. Mỗi công ty sở hữu một bộ mô hình, một bản hiến pháp, một nhóm quy tắc hệ thống, và hàng trăm triệu người sẵn sàng giao câu hỏi cho nó.

Đến đây, ý nghĩa của những cuốn sách cũ ban đầu mới hiện ra hoàn chỉnh. Chúng không chỉ là ngữ liệu huấn luyện mô hình, mà còn là nền tảng văn minh mà hệ thống nhận thức tư nhân này dựa vào. Ai có được những cuốn sách này, ai định ra quy tắc mô hình, ai bắt đầu đồng thời nắm giữ nguyên liệu kiến thức và cách kiến thức xuất hiện lại.

Đốt sách

Những cuốn sách đó bị mua từng thùng, chở vào trung tâm quét. Gáy sách bị cắt, bìa bị tháo, máy đọc chữ từng trang. Rồi một cuốn sách biến mất, trong máy chủ nhiều một tệp.

Đốt sách thời cổ, mục đích là để một số chữ biến mất khỏi thế giới. Lửa đốt tre và giấy, cũng đốt con đường truyền bá tư tưởng, một cuốn sách không thể đọc lại, một đoạn lịch sử mất bằng chứng để lại. Người thống trị dựa vào tạo khoảng trống, kiểm soát người ta có thể nhớ gì.

Đốt sách thời AI thì ngược lại.

Nội dung trong sách không biến mất khỏi thế giới, thậm chí có thể một ngày nào đó trong tương lai, xuất hiện trong một câu trả lời của mô hình, nhưng nó đã không còn tồn tại theo cách một cuốn sách.

Sách vào mô hình sẽ bị tháo ra, trộn với hàng triệu bài viết, trang web, mã code, cắt thành đoạn phù hợp tính toán, tham gia hình thành tham số. Không ai xem được tập huấn luyện hoàn chỉnh, cũng khó biết một cuốn sách cụ thể để lại bao nhiêu. Nó có thể ảnh hưởng đến hiểu biết của mô hình về cả một đoạn lịch sử, cũng có thể chỉ đóng góp vài kiểu câu, còn bị tiếp tục sửa trong huấn luyện tiếp theo và phản hồi nhân tạo.

Lúc này, kiến thức vẫn tồn tại, chỉ là từ văn bản có thể kiểm tra, biến thành năng lực của một công ty.

Mà khi con người ngày càng phụ thuộc vào mô hình, công ty AI giành được không chỉ khả năng bảo tồn kiến thức. Họ còn bắt đầu quyết định cách sắp xếp, giải thích và phân phối những kiến thức này.

Hàng nghìn năm qua, cách nhân loại bảo tồn kiến thức vẫn rất ngốc. Sách rải rác các nước khác nhau, học giả tranh cãi một từ, độc giả tốn nhiều thời gian tìm tài liệu. Nó không nhanh, cũng không tiện, nhưng khó bị một người kiểm soát triệt để. Nhà xuất bản phá sản, sách vẫn ở tay độc giả; một quốc gia cấm một tư tưởng, nơi khác vẫn có thể có bản sao.

Kiến thức vì phân tán mà sống.

Mô hình thay đổi, không chỉ kiến thức được lưu ở đâu, mà cả con đường con người đến với kiến thức. Trước đây, con người từ một câu trả lời đi đến một cuốn sách, một bài luận và một cuộc tranh cãi; khi mô hình trở thành lối vào chính, con người có thể dừng trực tiếp ở bản thân câu trả lời.

Mô hình làm kiến thức lần đầu tiên có thể được tập trung quy mô lớn vào máy chủ vài công ty. Họ sở hữu sức tính toán, sở hữu mô hình mạnh nhất, cũng sở hữu khả năng biến tài liệu nhân loại để lại thành một ngôn ngữ thống nhất. Sau đó, họ theo đăng ký hàng tháng và lượng Token, bán khả năng này lại cho con người.

Công ty công nghệ thực sự đầu tư vốn khổng lồ, mua chip, xây trung tâm dữ liệu, nuôi nhà nghiên cứu, cũng chịu chi phí quản trị an toàn. Bản thân việc thu phí không cấu thành tội ác.

Vấn đề thực sự nằm ở, chi phí thương mại đang che đậy một khoản đầu tư còn khổng lồ hơn.

Những cuốn sách đó ai viết, những bài luận đó ai làm, những trang web, bài đăng và mã code, lại là ai để lại từng chút trong lịch sử internet dài đằng đẵng.

Công ty AI trả giá sức tính toán, không trả giá nền văn minh nhân loại, vì khoản này căn bản không tính được. Không công ty nào có thể mua bản quyền từ tất cả tác giả, dịch giả, lập trình viên và người bình thường trong mấy nghìn năm. Vì vậy văn minh mặc định thành một tài nguyên thiên nhiên có thể tự do khai thác.

Kiến thức công cộng vào mô hình, được gọi là học tập. Mô hình xuất kiến thức ra công chúng, được gọi là dịch vụ.

Đây chính là vòng khép kín hoàn chỉnh nhất của sự tư nhân hóa văn minh.

Đây cũng là lý do, những cuốn sách cũ bị cắt gáy không nên chỉ coi là một tranh chấp bản quyền.

Chúng là một biểu tượng.

Giấy bị tiêu hủy, nội dung được bảo tồn. Bản gốc có thể thấy công khai rời khỏi lưu thông, mô hình không thể kiểm toán hấp thụ kiến thức trong đó. Tư tưởng trong sách vẫn tồn tại, nhưng dần mất nguồn gốc, ngữ cảnh và sự sống độc lập với công ty.

Đốt sách thời đại mới, không cần làm kiến thức biến mất.

Đứa trẻ tương lai có thể hiếm khi mở những cuốn sách này, một số sách có thể không mở được nữa.

Anh ta sẽ trực tiếp hỏi mô hình, một cuộc chiến vì sao xảy ra, một chế độ có công bằng không, một người nên sống ra sao. Mô hình sẽ đưa ra câu trả lời trong vài giây, giọng điệu bình tĩnh, cấu trúc hoàn chỉnh, cũng không nói với anh ta, vấn đề này từng khiến mấy thế hệ tranh cãi không dứt.

Anh ta có thể không cảm thấy có gì mất đi, xét cho cùng, câu trả lời vẫn ở đó.

AI sẽ không quên nền văn minh nhân loại, nhưng đây không phải điều tốt. Quên ít nhất để lại khoảng trống, cho con người biết có cái gì mất đi. Trường hợp nguy hiểm hơn, là mô hình nhớ đủ nhiều, trả lời đủ tự nhiên, khiến con người dần không cần tiếp xúc bản nguyên của văn minh.

Ký ức của nhân loại về nền văn minh của chính mình, bắt đầu trải qua sàng lọc của số ít công ty.

AI sẽ không quên nền văn minh nhân loại, nhưng AI có thể chỉ theo cách số ít tinh hoa công nghệ hy vọng, thay nhân loại nhớ về văn minh.