Văn | Zìmǔbǎng
Ở Thung lũng Silicon, sự việc "AI thiêu sách" này, chỉ có thể nói là càng ngày càng điên cuồng.
Trong một báo cáo mới nhất, truyền thông hợp tác với các nhà buôn sách cũ, đã nhét một chiếc AirTag vào một lô sách được một người mua bí ẩn đặt, lần theo dấu vết, cuối cùng đã truy về được nhà máy của Amazon ở Las Vegas.
Nhân viên nhà máy cho biết, đây là một dự án của Amazon có tên VGT3, chuyên làm những việc như cắt sách và quét.
Một cuốn sách cũ đã đi theo một lộ trình giống như trong phim trinh thám.
Sự việc phát triển đến nay, phần nào có chút kỳ ảo.
Trong tháng vừa qua, các báo cáo về "AI thiêu sách" xuất hiện liên tục, nhưng thực ra không có thêm sự kiện mới nào – các công ty AI đang mua sách giấy cũ với số lượng lớn, cắt gáy sách, quét tốc độ cao, số hóa nội dung rồi xử lý bỏ sách gốc. Khi "Kế hoạch Panama" của Anthropic bị phanh phui đầu năm, những yếu tố kích thích nhất như vài triệu cuốn sách, hàng chục triệu đô la mua sắm, quét phá hủy đã được đưa ra bàn.
Sau đó, các nhà buôn sách cũ toàn cầu phát hiện đơn hàng bất thường, ISBNdb bị phanh phui là chuyên tìm kiếm sách giấy cho các công ty AI, cho đến nay AirTag lần theo vào kho Amazon, phần lớn chỉ là một lần nữa xác nhận: đúng, việc này thực sự đang xảy ra, và không chỉ một công ty làm như vậy.
Có thể thấy rõ, sự kiện vẫn là những sự kiện đó, nhưng tâm trạng dư luận xung quanh "AI thiêu sách" ngày càng dâng cao.
"Các công ty AI đang nuốt chửng sách vở", "văn minh nhân loại bị đem cho máy móc ăn", "chúng liền sách tuyệt bản cũng không buông tha", vô số ngón tay con người lướt nhanh trên mạng xã hội để lại những bình luận hoảng sợ, video và ảnh cắt sách đặc biệt kích thích lòng người.
Nhưng nói công bằng, sự việc phát triển đến nay, giữa sự kiện đã biết và ý nghĩa mà bên ngoài gán cho nó, đã xuất hiện sự lệch lạc không nhỏ.
Các công ty AI thực sự đang phá hủy sách, điểm này không cần che đậy cho chúng.
Nhưng chúng thực sự đã phá hủy bao nhiêu? Phá hủy sách thực thể có phải bằng với phá hủy tri thức không? Sách tuyệt bản bị mua đi rồi bị cắt, trách nhiệm thực sự hoàn toàn thuộc về công ty AI sao?
Đã đến lúc phá bỏ một số huyễn tưởng.
01
Trước tiên đặt kết luận ở đây. Sự phẫn nộ của mọi người hiện nay đối với "AI phá sách", phần lớn hướng đến ý nghĩa tượng trưng của sự việc này, hơn là tổn hại thực tế đã xảy ra.
Tất nhiên, hai điều này rất dễ bị trộn lẫn với nhau. Rốt cuộc những tiêu đề như "Công ty AI đang mua và phá hủy sách cổ", "Công ty AI sau khi quét đã nghiền nát hàng triệu cuốn sách" thực sự đáng sợ, quá trình cắt sách cũng thực sự có sức tấn công thị giác, khó tìm được hình ảnh nào thích hợp hơn để thể hiện "AI đang nuốt chửng văn minh nhân loại".
Nhưng chỉ cần kéo ống kính ra xa một chút, sự việc không tận thế như trong khung hình.
Hiện nay quy mô lớn nhất đã biết là Anthropic. Sau khi khởi động "Kế hoạch Panama" năm 2024 nhằm mục tiêu quét tất cả sách trên thế giới, trong khoảng một năm, công ty này đã chi hàng chục triệu đô la, mua và quét phá hủy hàng triệu cuốn sách thực thể, có lúc một lần mua mấy vạn cuốn.
Nhưng "hàng triệu cuốn" đặt vào toàn bộ thị trường sách cũ, thực tế không lớn như tưởng tượng.
Chỉ riêng nhà buôn sách cũ lớn World of Books, năm 2024 đã bán ra 31 triệu cuốn sách trên toàn cầu, tồn kho dài hạn khoảng 7 triệu cuốn, trên website thường xuyên treo khoảng 2 triệu loại sách.
Nói cách khác, khối lượng xử lý của Anthropic đặt vào quy mô lưu thông bình thường của một nhà buôn sách cũ lớn, cũng chỉ là vài tháng kinh doanh của họ.
Vì vậy, "công ty AI sau khi quét đã tiêu hủy hàng triệu cuốn sách" là thật, nhưng từ đây nhảy thẳng đến "AI đang ăn sạch sách cũ", còn cách rất xa.
Và ở đây còn có một vấn đề dễ bị "lên giá trị" bằng cảm xúc hơn cần làm rõ – sự biến mất của sách thực thể, không bằng với sự biến mất của tri thức trong sách.
Anthropic mua những cuốn sách này, vốn dĩ là để lưu lại nội dung. Trong vụ kiện bản quyền của nhà văn Andrea Bartz và những người khác kiện Anthropic trước đó, tài liệu tòa án cho thấy, mỗi cuốn sách giấy sau khi được tháo ra và quét, sẽ trở thành PDF chứa hình ảnh toàn trang và văn bản máy đọc được, vào thư viện số riêng của Anthropic.
Nếu chúng ta chỉ thảo luận "mua một cuốn sách, cắt ra, quét, rồi tiêu hủy bản gốc", thì nó gần như là động tác ngược lại với "thiêu sách" trong ý nghĩa lịch sử.
Thiêu sách là để làm cho nội dung biến mất, công ty AI cắt sách, lại là để lưu lại nội dung, và một khi được dùng để huấn luyện mô hình, còn sẽ biến thành dòng nước sống theo cách mới. Thẩm phán thực ra cũng từng bày tỏ quan điểm tương tự, nội dung trong sách được đem đi huấn luyện mô hình, là trong quá trình huấn luyện đã được chuyển hóa thành năng lực mới.
Những cuốn sách thực thể bị cắt ra trông đau lòng thật, nhưng tri thức nhân loại không theo đó bị bán làm giấy vụn.
02
Có một điểm thực sự đáng chú ý, cũng là điểm mạnh nhất trong làn sóng lên án dư luận hiện nay. Đó là việc các công ty AI mua sắm không hoàn toàn là sách cũ thông thường có thể mua được ở khắp nơi, trong đó thực sự bao gồm một số sách cũ quý hiếm, thậm chí sách tuyệt bản.
Vấn đề này không thể đơn giản dùng "sách thực thể mất đi nhưng tri thức vẫn còn" để tô vẽ. Bởi vì giá trị của một số sách vốn dĩ không chỉ nằm trong văn tự. Phiên bản đặc biệt, đóng gáy đặc biệt, chữ ký và chú thích của tác giả, thậm chí một cuốn sách đã trải qua bộ sưu tập của ai, để lại dấu vết gì, đều có thể khiến bản thân thực thể có giá trị không thể thay thế.
Nhưng trước tiên ở đây cần phân biệt một việc: khan hiếm không đại diện cho quý giá, tuyệt bản cũng không đại diện cho di sản văn hóa.
Giáo viên đại học của bạn năm 1994 tự bỏ tiền in 300 cuốn "Sổ tay xây dựng mạng lưới thoát nước cấp huyện", hôm nay toàn thế giới có thể chỉ còn hơn chục cuốn, điều này tất nhiên rất khan hiếm, thậm chí đã tuyệt bản từ lâu. Còn việc nó có phải là bảo vật của văn minh nhân loại phải thề chết bảo vệ hay không, e rằng không cần trả lời cũng rõ.
Trong thị trường sách cũ có rất nhiều thứ như vậy. Lý do khó tìm, có thể chỉ là năm đó in ít, hoặc không tái bản, không có nghĩa là mỗi lần mất đi một cuốn đều có nghĩa là một tổn thất văn hóa công cộng nào đó.
Thứ hai, cho dù chúng ta thực sự thu hẹp phạm vi đến những cuốn sách mà bản thân thực thể rất có giá trị, vấn đề vẫn không đơn giản như vậy.
Một cuốn sách chỉ cần vẫn còn lưu thông tự do trên thị trường sách cũ như một hàng hóa, thì đều có khả năng bị một "kẻ điên" mua đi một cách hợp pháp.
Người mua này có thể mua về cất trong tủ kính điều hòa nhiệt độ và độ ẩm, cũng có thể lấy nó chèn chân bàn. Điên hơn nữa, buổi sáng xé vài trang ngâm sữa uống, chỉ cần cuốn sách này không được bảo vệ đặc biệt bởi pháp luật, người khác tối đa mắng hắn ta lãng phí của trời, cũng không quản được.
Vậy tại sao người mua một khi đổi thành công ty AI, sự việc đột nhiên thay đổi? Giống như sau khi Anthropic hoặc Amazon trả tiền xong, cuốn sách này tuy danh nghĩa thuộc về nó, nhưng thực tế vẫn phải thay mặt toàn nhân loại bảo quản.
Loại tranh cãi này đã từng xảy ra trên chính con người.
Năm 2010, Christie's đã đấu giá một cuốn "Sách giờ kinh" được làm ở Pháp vào những năm 1460. Nó có trang trí lá vàng, thư pháp tinh xảo và 17 hình minh họa toàn trang, khi đấu giá cơ bản còn nguyên vẹn, cuối cùng được giao dịch với giá 25 nghìn bảng Anh.
Vài năm sau, học giả nghiên cứu văn học trung cổ của Đại học Stanford Elaine Treharne mua được tàn tích của cuốn sách này. Nguyên bản 254 trang, chỉ còn lại 7 trang.
Sau này bà tra ra, sách sau khi được Christie's đấu giá, đã bị người mua – một thương nhân sách cổ người Đức – chủ động tháo ra. Các trang sách được đem ra bán từng tờ, trang thông thường bán vài trăm đô la, hình minh họa đẹp bán đắt hơn.
Nhưng lời biện giải sau này của thương nhân sách cổ đó rất thú vị:
Khi Christie's đấu giá công khai, bảo tàng có thể đến mua, tổ chức sưu tập lớn có thể đến mua, nhà sưu tập giàu có cũng có thể đến mua. Mọi người đều nhìn thấy, cuối cùng không ai muốn trả giá cao hơn, là tôi trả tiền mua nó. Tại sao sau khi giao dịch kết thúc, các người mới đột nhiên nói với tôi, thứ này thực ra thuộc về toàn nhân loại, tôi phải thay các người bảo quản cẩn thận?
Nói thế nào nhỉ, lời thô nhưng lý không thô, càng nghĩ càng hay.
Hôm nay đối mặt với công ty AI cũng vậy.
Nếu một cuốn sách nào đó thực sự quý giá đến mức cắt đi một trang cũng là tổn thất văn hóa không thể cứu vãn, vậy thì bảo tàng đâu? Thư viện đâu? Tổ chức sưu tập công cộng đâu? Những con người quan tâm hơn đến tài sản quý giá của nhân loại đâu?
Sao đợi đến khi công ty AI thực sự bỏ tiền mua rồi, mọi người mới vây quanh nói: Ngươi không được phá hủy, đây là của toàn nhân loại.
Các người không mua, còn muốn quản tôi mua về làm gì, có phải hơi quá đáng không?
Tất nhiên, điều này không có nghĩa là công ty AI phá hủy sách cũ quý giá là đáng khuyến khích. Trên pháp luật "có quyền làm như vậy" và chúng ta cho rằng "làm như vậy rất tệ", hoàn toàn có thể cùng thành lập.
Nhưng nếu một loại sách thực sự quan trọng đến mức không thể để chủ sở hữu tùy ý xử lý, thì thứ thực sự cần thay đổi e rằng không phải là đạo đức của công ty AI.
03
Vừa rồi để nói rõ logic, lời nói có hơi cực đoan.
Từ góc độ lợi ích chung của nhân loại, việc các công ty AI mua sắm sách cũ với quy mô lớn, đặc biệt là tập trung sự chú ý vào sách hẻo lánh, tuyệt bản, ngôn ngữ nhỏ, thực sự là một vấn đề đáng cảnh giác.
Như đã nói trước đó, Anthropic một năm mua vài triệu cuốn sách, đặt vào toàn bộ thị trường sách cũ thực ra không đáng kể. Nhưng lượng mua sắm chỉ như một sợi lông trong chín con trâu của toàn bộ thị trường, nếu tập trung lớn vào sách hiếm, vẫn sẽ gây ra sự phá hủy có quy mô trong phạm vi này.
Vì vậy, "AI đang mua sạch sách cũ" là phóng đại, nhưng "việc mua sắm của công ty AI có thể tập trung tiêu thụ một số đầu sách vốn đã rất mỏng manh" không phải là chuyện vô căn cứ.
Nhưng vấn đề là, đừng yêu cầu công ty AI làm bậc thánh nhân này.
Họ tất nhiên có thể làm.
Nhưng "họ tốt nhất nên làm như vậy" và "xã hội chỉ có thể trông chờ vào họ làm như vậy", là hai chuyện khác nhau.
Xét cho cùng, doanh nghiệp vẫn là doanh nghiệp. Hôm nay một công ty nào đó cảm thấy bảo vệ sách quý hiếm rất quan trọng, sẵn sàng bỏ nhiều tiền hơn để quét không phá hủy. Ngày mai đổi người phụ trách, phát hiện quy trình này đắt hơn 30%, cũng hoàn toàn có thể cắt bỏ.
Trông chờ công ty thương mại lâu dài dựa vào lương tâm thay mặt toàn xã hội giữ gìn di sản văn hóa, phần nào giống như để Tôn Ngộ Không tự đeo vòng kim cô cho mình, tự niệm chú kim cô – thỉnh thoảng nghĩ thông tất nhiên vui vẻ, nhưng thiết kế chế độ tốt nhất đừng trông chờ vào loại kỳ tích này.
Nếu việc mua sắm của công ty AI thực sự bắt đầu đe dọa một số sách có giá trị công cộng, thì đây đã không còn là vấn đề "đạo đức doanh nghiệp có tốt không", mà là một vấn đề lợi ích công cộng.
Đã liên quan đến lợi ích công cộng, cách giải cũng nên đến từ quy tắc công cộng.
Ví dụ, hoàn toàn có thể thiết lập chế độ đăng ký danh mục và phiên bản sách quý hiếm hoàn thiện hơn. Một cuốn sách nếu đã xác nhận còn lại rất ít trên đời, và bản thân thực thể có giá trị lịch sử, phiên bản hoặc di vật rõ ràng, thì vào một danh sách bảo vệ nào đó. Công ty AI có thể mua, nhưng không được quét phá hủy. Hoặc sau khi mua, phải ưu tiên sử dụng số hóa không phá hủy.
Còn có thể cho thư viện, bảo tàng và tổ chức sưu tập công cộng một quyền ưu tiên nào đó. Hệ thống mua sắm thương mại phát hiện phiên bản nghi ngờ là độc bản, phiên bản cực ít còn lại trên đời, trước tiên gửi thông tin cho tổ chức công cộng, cho họ một thời gian nhất định quyết định có thu thập hay không. Họ không muốn, bạn mới mua về xử lý.
Nền tảng sách cũ cũng không hoàn toàn không có trách nhiệm. Hôm nay thuật toán có thể phát hiện chính xác "cuốn sách năm 1987 này trên mạng chỉ còn ba cuốn", nền tảng tất nhiên cũng có thể kích hoạt nhắc nhở khi cùng một cuốn sách đột nhiên bị nhiều người mua số lượng lớn tập trung mua.
Thậm chí còn có thể yêu cầu người mua quy mô lớn đảm nhận một số nghĩa vụ thông tin. Bạn một năm quét phá hủy vài triệu cuốn sách, vậy thì ít nhất nên ghi lại mình đã xử lý phiên bản nào, những cuốn sách nào khan hiếm bất thường, đóng góp bộ dữ liệu này cho hệ thống danh mục sách công cộng.
Phương án nào tốt nhất trong số này đáng bàn, thậm chí cuối cùng có thể một cái cũng không dùng. Nhưng ít nhất phải có quy tắc.
04
Nói đến đây, có thể còn lại một vấn đề cuối cùng.
Khi mọi người mắng nhiếc công ty AI "phá hủy sách của nhân loại", "nuốt mất tri thức nhân loại", rốt cuộc đang mắng cái gì? Khi nhìn thấy từng cuốn sách bị cắt gáy, đưa vào máy quét, cảm giác khó chịu và sợ hãi mãnh liệt đó, rốt cuộc đến từ đâu?
Tình cảm ngày càng phức tạp của con người hiện nay đối với bản thân AI không thể bỏ qua. Mọi người một mặt ngày càng phụ thuộc vào AI, một mặt ngày càng sợ nó, thậm chí ngày càng ghét nó.
Khảo sát của Pew năm nay cho thấy, tỷ lệ người trưởng thành Mỹ sử dụng ChatGPT đã tăng từ 18% năm 2023 lên 44% năm 2026, 38% người lao động đã dùng AI xử lý công việc. Nhưng đồng thời, 63% người Mỹ cho rằng AI phát triển quá nhanh, 40% dự đoán nó trong tương lai sẽ mang lại tác động tiêu cực cho xã hội.
Sự mâu thuẫn này trên người trẻ tuổi đặc biệt rõ ràng.
Gallup năm nay khảo sát thanh niên Mỹ từ 14 đến 29 tuổi, 51% ít nhất mỗi tuần sử dụng AI tạo sinh một lần, trong đó 22% mỗi ngày đều dùng. Nhưng so với một năm trước, cảm giác phấn khích của họ đối với AI giảm 14 điểm phần trăm, cảm giác hy vọng giảm 9 điểm phần trăm, trong khi sự tức giận tăng 9 điểm phần trăm.
Hiện nay 31% người bày tỏ rõ ràng mình cảm thấy tức giận với AI, 42% cảm thấy lo lắng.
Thú vị hơn là, ngay cả những người mỗi ngày đều dùng AI, sự phấn khích và hy vọng đối với nó cũng giảm rõ ràng so với năm ngoái.
Tức là, dùng càng nhiều không tự động mang lại sự yêu thích.
Những việc xảy ra tại lễ tốt nghiệp đại học Mỹ năm nay, hầu như là biểu diễn trực tiếp của loại tâm trạng này.
Tháng 5, cựu CEO Google Eric Schmidt trong lễ tốt nghiệp của Đại học Arizona vừa nói đến AI sẽ bước vào các ngành nghề, hiện trường liền vang lên tiếng la ó. Cảnh tượng tương tự sau đó lại xuất hiện ở nhiều trường đại học, có khảo sát nói, khoảng 70% sinh viên đại học lo lắng AI sẽ đe dọa triển vọng việc làm của mình.
Đây có thể là tình thế thực tế của nhiều người hôm nay đối mặt với AI. Không dùng sợ tụt hậu, nhưng càng dùng lại càng rõ nó có khả năng gây ra hậu quả gì.
Liên tưởng tiêu cực sinh ra từ "cắt sách" gần như là không thể tránh khỏi – máy móc đang dựa vào việc ăn hết tất cả những gì con người tạo ra trong quá khứ, nuôi lớn bản thân.
Sau đó nó còn quay lại cướp việc làm của bạn.
Do đó, lo âu bản quyền, lo âu việc làm, sự không tin tưởng vào công ty công nghệ, thậm chí nỗi sợ và sợ hãi kiểu "con người có phải đang tự tay chế tạo thứ thay thế chính mình", tất cả đều bị kích hoạt trước biểu tượng thị giác "cắt sách" này.
Điều này cũng giải thích tại sao tâm trạng dư luận xung quanh sự việc này chạy xa phía trước tổn thất thực tế.
Đó đâu phải là một cuốn sách bị cắt ra, đó rõ ràng là chính tôi bị dao cắt, rồi biến thành rác vô dụng.
