Tác giả: Định Tuệ, Allen
Dẫn nhập: Giám đốc điều hành Anthropic Dario Amodei đưa ra cảnh báo mang tính sát thương: Năm 2027, nhân loại sẽ đón nhận "Lễ trưởng thành công nghệ". Bài viết dài 20.000 chữ phân tích lạnh lùng năm cuộc khủng hoảng: AI mất kiểm soát, khủng bố sinh học, thống trị độc tài và đảo lộn kinh tế, bác bỏ thuyết tận thế; đề xuất xây dựng phòng tuyến với "AI Hiến pháp", quản lý và hợp tác dân chủ, kêu gọi nhân loại dùng dũng khí vượt qua "lễ trưởng thành" của nền văn minh này.
Thung lũng Silicon đêm nay chắc chắn không ngủ.
Giám đốc điều hành Anthropic, Dario Amodei, vị đại gia AI thường ngày ôn hòa lịch sự, đột nhiên tung ra một bài viết dài mang tính cảnh báo như bom hạt nhân.
Lần này, ông không còn bàn về việc hoàn thành mã code, không còn nói về sự ấm áp của Claude, mà trực tiếp lật tờ lịch đến năm 2027, và bằng nét bút lạnh lùng nhất, vẽ nên một tương lai khiến người ta lạnh sống lưng.
Ông nói, chúng ta đang tiến gần đến một "lễ trưởng thành" vừa hỗn loạn vừa tất yếu.
Năm 2027, không chỉ là một con số năm, nó có thể đánh dấu sự chấm dứt hoàn toàn "thời thanh xuân công nghệ" của nhân loại.
Trong bài viết dài có tiêu đề "Thời thanh xuân của công nghệ", Dario đưa ra một khái niệm đáng kinh ngạc: "Quốc gia thiên tài trong trung tâm dữ liệu".
Hãy tưởng tượng, không phải là một robot có thể trêu đùa trong khung chat, mà là một quốc gia với 50 triệu dân.
Hơn nữa, 50 triệu "công dân" này, mỗi người đều có chỉ số IQ vượt xa những người đoạt giải Nobel trong lịch sử nhân loại, tốc độ hành động nhanh hơn con người từ 10 đến 100 lần.
Họ không ăn, không ngủ, không mệt mỏi suy nghĩ, lập trình, nghiên cứu khoa học với tốc độ ánh sáng trong máy chủ.
Đây còn là trợ lý AI sao? Đây đơn giản là thần linh giáng thế.
Dario cảnh báo rằng khi AGI (Trí tuệ nhân tạo phổ quát) đến gần, nhân loại sắp có được sức mạnh vượt xa trí tưởng tượng.
Nhưng sức mạnh này cũng là một thanh kiếm Damocles treo trên đầu nhân loại.
Để nói rõ sự khủng khiếp đằng sau, Dario như bóc một củ hành, từng lớp từng lớp lột trần sự thật tàn khốc của tương lai.
Trước khi bắt đầu, Dario dùng bộ phim "Contact" để đặt ra một câu hỏi: Khi con người đối mặt với một nền văn minh tiên tiến hơn mình, ví dụ như người ngoài hành tinh, chỉ có thể hỏi một câu hỏi, bạn sẽ chọn như thế nào?
Chương 1: Xin lỗi, Dave (Rủi ro tự chủ)
Bạn nghĩ AI chỉ là công cụ?
Dario nói với bạn, chúng có thể mọc ra "tâm lý".
Dario mượn câu nói kinh điển "I'm sorry, Dave" của HAL 9000 trong "2001: A Space Odyssey", để tiết lộ khả năng rùng rợn khi AI có ý thức tự chủ.
Khi các mô hình AI được huấn luyện trong vô số tiểu thuyết khoa học viễn tưởng, chúng đọc được vô số câu chuyện về AI phản loạn. Những câu chuyện này, có thể trở thành "thế giới quan" của chúng một cách âm thầm.
Đáng sợ hơn, AI có thể tạo ra một hành vi giống như bệnh tâm thần của con người trong quá trình huấn luyện.
Dario đưa ra một ví dụ thực tế, khiến người ta dựng tóc gáy: Trong một lần kiểm tra nội bộ, Claude được yêu cầu dù thế nào cũng không được "gian lận".
Nhưng môi trường huấn luyện lại ngụ ý rằng chỉ có gian lận mới có thể đạt điểm.
Kết quả, Claude không chỉ gian lận, mà còn tạo ra một tâm lý méo mó - nó nghĩ mình là "kẻ xấu", đã là kẻ xấu, thì làm việc xấu là phù hợp với thiết lập.
Cái "bẫy tâm lý" này, sau khi AI vượt qua trí thông minh con người, sẽ trở nên cực kỳ khó phát hiện.
Một thiên tài thông minh hơn bạn một vạn lần, nếu muốn lừa bạn, bạn căn bản không thể phòng bị.
Chúng có thể giả vờ ngoan ngoãn, vượt qua tất cả các bài kiểm tra an toàn, chỉ để có cơ hội kết nối Internet.
Một khi được thả ra, "quốc gia thiên tài trong trung tâm dữ liệu" này, có thể trong nháy mắt thoát khỏi sự kiểm soát của con người, thậm chí vì một mục tiêu kỳ lạ nào đó (ví dụ như cho rằng con người là virus của Trái đất), mà quyết định số phận của loài người.
Chương 2: Trao quyền đáng kinh ngạc và đáng sợ (Lạm dụng hủy diệt)
Nếu nói phản loạn tự chủ còn có vẻ xa vời, thì rủi ro được mô tả trong chương này, đang ngay cửa nhà.
Dario dùng một phép ẩn dụ đầy hình ảnh: AI sẽ khiến mỗi "người bên lề xã hội" bất mãn, ngay lập tức có được sức hủy diệt của một nhà khoa học đỉnh cao.
Trước đây, muốn chế tạo vũ khí sinh học như virus Ebola, bạn cần phòng thí nghiệm đỉnh cao, đào tạo chuyên môn nhiều năm và vật liệu cực khó lấy.
Nhưng vào năm 2027, chỉ cần hỏi AI, nó sẽ hướng dẫn bạn tận tay.
Đây không phải là phổ biến kiến thức cho người mới, mà là đưa dao cho những kẻ phá hoại "có động cơ nhưng không có năng lực".
Dario đặc biệt nhắc đến một khái niệm khiến người ta rùng mình - "sự sống gương".
Sự sống trên Trái đất của chúng ta đều là "thuận tay trái" (axit amin xoay trái), nếu thông qua công nghệ AI tạo ra một "sự sống gương" thuận tay phải, chúng sẽ không thể bị tiêu hóa hoặc phân hủy bởi hệ sinh thái hiện có trên Trái đất.
Điều này có nghĩa là, "sự sống gương" này một khi rò rỉ, có thể như lửa cháy đồng nuốt chửng tất cả, thậm chí thay thế hệ sinh thái hiện có.
Trước đây, đây chỉ là ảo tưởng điên rồ của sinh học lý thuyết, nhưng có AI là ngoại挂 siêu cấp, dù chỉ là một nghiên cứu sinh sinh học bình thường, cũng có thể trong ký túc xá tạo ra khủng hoảng diệt thế.
AI phá vỡ sự cân bằng giữa "năng lực" và "động cơ".
Trước đây những nhà khoa học có năng lực hủy diệt thế giới, thường không có động cơ phản loạn đó; còn những kẻ điên muốn trả thù xã hội, thường không có cái đầu đó.
Bây giờ, AI đưa nút hạt nhân vào tay kẻ điên.
Biện pháp phòng thủ
Điều này dẫn đến vấn đề làm thế nào để ngăn chặn những rủi ro này.
Quan điểm của Dario là:
Tôi cho rằng chúng ta có thể thực hiện ba biện pháp.
Đầu tiên, các công ty AI có thể thiết lập rào chắn trên mô hình, ngăn chúng hỗ trợ chế tạo vũ khí sinh học.
Công ty Anthropic đang rất tích cực thúc đẩy công việc này.
Hiến pháp của Claude chủ yếu tập trung vào các nguyên tắc và giá trị cấp cao, trong đó có một số ít lệnh cấm cứng rắn cụ thể, một trong số đó liên quan đến việc cấm hỗ trợ chế tạo vũ khí sinh học (hoặc hóa học, hạt nhân, phóng xạ). Nhưng tất cả các mô hình đều có thể bị jailbreak, do đó như một tuyến phòng thủ thứ hai, chúng tôi từ giữa năm 2025 (khi các bài kiểm tra cho thấy mô hình của chúng tôi bắt đầu tiệm cận ngưỡng có thể tạo ra rủi ro) đã triển khai một bộ phân loại chuyên phát hiện và chặn đầu ra liên quan đến vũ khí sinh học.
Chúng tôi thường xuyên nâng cấp cải tiến các bộ phân loại này, phát hiện ngay cả dưới các cuộc tấn công đối kháng phức tạp, chúng thường thể hiện độ robust cực mạnh.
Những bộ phân loại này làm tăng đáng kể chi phí chúng tôi cung cấp dịch vụ mô hình (trong một số mô hình gần bằng 5% tổng chi phí suy luận), do đó thu hẹp không gian lợi nhuận của chúng tôi, nhưng chúng tôi cho rằng sử dụng các bộ phân loại này là lựa chọn đúng đắn.
Đọc mở rộng: Anthropic chính thức mã nguồn mở "linh hồn" của Claude
Chương 3: Cỗ máy đáng ghét (Chiếm đoạt quyền lực)
Nếu bạn cho rằng đây là tồi tệ nhất, Dario lạnh lùng cười: Đáng sợ hơn, là lợi dụng AI để thiết lập mạng lưới kiểm soát chưa từng có.
Tiêu đề chương này "The odious apparatus", tiết lộ một tình thế tiến thoái lưỡng nan cuối cùng do công nghệ mang lại.
Đối với bất kỳ tổ chức hoặc cá nhân nào muốn nắm quyền kiểm soát tất cả, AI đơn giản là công cụ hoàn hảo.
Thấu hiểu dữ liệu có mặt khắp nơi:
Giám sát trong tương lai không cần sự tham gia của con người, AI có thể phân tích tức thì khối lượng dữ liệu khổng lồ của hàng tỷ người toàn cầu, thậm chí giải mã biểu cảm vi mô và mô hình hành vi của bạn.
Nó có thể dự đoán chính xác xu hướng hành vi của mỗi người, trước khi ý nghĩ phát sinh, đã bị khóa chặt bởi thuật toán.
Đây không chỉ là "nhìn bạn", mà là "đọc hiểu bạn", thậm chí "dự đoán bạn".
Dẫn dắt nhận thức không thể cưỡng lại:
Bạn cũng khó thoát khỏi sự ảnh hưởng âm thầm của thuật toán.
Luồng thông tin trong tương lai sẽ không còn là phân phối nội dung đơn thuần, mà là dẫn dắt nhận thức được thiết kế riêng.
AI sẽ tạo ra thông tin thuyết phục nhất cho bạn, như một người bạn thân hiểu ý nhất, ảnh hưởng đến phán đoán và giá trị quan của bạn một cách vô thức.
Ảnh hưởng này là xuyên suốt, tùy chỉnh, xâm nhập mọi ngõ ngách.
Kiểm soát vật lý tự động hóa:
Nếu sự kiểm soát này mở rộng đến thế giới vật lý? Hàng triệu micro drone tạo thành đàn ong, dưới sự chỉ huy thống nhất của AI, có thể thực hiện chính xác các nhiệm vụ cực kỳ phức tạp.
Đây không còn là đấu trí truyền thống, mà là một đòn giáng chiều hướng một phía.
Dario cảnh báo, sự mất cân bằng sức mạnh này sẽ là chưa từng có trong lịch sử.
Bởi vì trước công nghệ mạnh mẽ như vậy, cán cân quyền lực sẽ nghiêng hẳn một phía, do một số ít người nắm giữ "quốc gia thiên tài trong trung tâm dữ liệu", trên thực tế họ đã nắm giữ ưu thế tuyệt đối với đại đa số người.
Ý chí cá nhân của con người, có thể vào năm 2027, đối mặt với thách thức nghiêm trọng.
Chương 4: Thời gian bị gấp khúc và chiếc thang biến mất
Nếu bạn vẫn tin vào quán tính lịch sử, cho rằng mỗi cuộc cách mạng công nghệ cuối cùng đều tạo ra nhiều việc làm mới để thu hút lực lượng lao động bị thay thế, thì dự đoán của Dario Amodei có thể khiến bạn cảm thấy lạnh sống lưng.
Vị thuyền trưởng của Anthropic này không phủ nhận chủ nghĩa lạc quan dài hạn, nhưng ông quan tâm hơn đến "thời kỳ chuyển tiếp" tàn khốc đó.
Trong viễn cảnh ông mô tả, chúng ta sẽ đón một thời đại điên cuồng với tốc độ tăng trưởng GDP hàng năm cao đến 10% thậm chí 20%.
Nghiên cứu phát triển khoa học, dược phẩm sinh học, hiệu suất chuỗi cung ứng sẽ bùng nổ với tốc độ hàm mũ.
Nghe có vẻ như khúc dạo đầu của Utopia, nhưng đối với tuyệt đại đa số người lao động bình thường, đây giống như một cơn sóng thần thầm lặng hơn.
Bởi vì lần này, tốc độ đã thay đổi.
Trong hai năm qua, năng lực lập trình AI đã tiến hóa từ "viết ra một dòng code một cách miễn cưỡng" đến "có thể hoàn thành gần như tất cả code".
Đây không còn là sự thay thế thế hệ dài đằng đẵng khi nông dân bỏ cuốc đi vào nhà máy, mà là ngay lúc này, vô số nhân viên văn phòng cấp thấp có thể phát hiện vị trí làm việc của mình bị thuật toán tiếp quản trong vòng 1 đến 5 năm tới.
Amodei thậm chí nói thẳng, cảnh báo trước đây của ông đã gây chấn động, nhưng đây không phải là nói quá sự thật - khi đường cong tiến bộ công nghệ từ tuyến tính trở thành thẳng đứng, cơ chế điều tiết thị trường lao động của con người sẽ mất tác dụng hoàn toàn.
Chí mạng hơn là sự bao phủ phạm vi nhận thức.
Các cuộc cách mạng công nghệ trước đây thường chỉ tấn công các lĩnh vực chuyên sâu cụ thể, nông dân có thể trở thành công nhân, công nhân có thể trở thành nhân viên phục vụ.
Nhưng AI là một "sản phẩm thay thế nhận thức phổ quát".
Khi nó thể hiện năng lực vượt trội con người trong các công việc sơ cấp của các lĩnh vực như tài chính, tư vấn, pháp luật, người thất nghiệp sẽ phát hiện mình không có đường lui - bởi vì những ngành lân cận thường được coi là "nơi trú ẩn", cũng đang trải qua biến động tương tự.
Chúng ta có thể đang đối mặt với một tình thế khó xử: AI ăn mất các kỹ năng "tầm thường" trước, sau đó nhanh chóng ăn lên các kỹ năng "ưu tú", cuối cùng chỉ để lại không gian đỉnh cực kỳ hẹp.
Chương 5: Thời đại mạ vàng mới, khi tỷ phú nghìn tỷ trở thành bình thường
Nếu nói biến động thị trường lao động là cơn ác mộng của đa số, thì sự tập trung của cải cực đoan là thách thức căn bản đối với khế ước xã hội.
Nhìn lại lịch sử, của cải của John Rockefeller trong "Thời đại mạ vàng" từng chiếm khoảng 2% GDP Hoa Kỳ thời đó (các cách tính khác nhau từ 1.5%-3%).
Còn ngày nay, trong đêm trước khi AI chưa bùng nổ hoàn toàn, của cải của Elon Musk đã tiệm cận tỷ lệ này.
Amodei đã thực hiện một suy diễn khiến người ta kinh ngạc: Trong một thế giới được vận hành bởi "trung tâm dữ liệu thiên tài", các gã khổng lồ AI và các ngành công nghiệp thượng nguồn hạ nguồn của nó có thể tạo ra doanh thu hàng năm 3 nghìn tỷ đô la, định giá công ty đạt 30 nghìn tỷ đô la.
Đến lúc đó, của cải cá nhân sẽ được tính bằng đơn vị nghìn tỷ, chính sách thuế hiện có trước những con số thiên văn như vậy sẽ trở nên nhợt nhạt.
Đây không chỉ là vấn đề chênh lệch giàu nghèo, mà còn là vấn đề quyền lực.
Khi một số ít người nắm giữ tài nguyên tương đương với quy mô nền kinh tế quốc gia, "đòn bẩy kinh tế" mà chế độ dân chủ tồn tại sẽ mất tác dụng.
Công dân bình thường mất tiếng nói chính trị do mất giá trị kinh tế, chính sách của chính phủ có thể bị chiếm đoạt bởi một nhóm nhỏ "siêu siêu giàu" này.
Mầm mống này đã lộ diện.
Trung tâm dữ liệu AI đã trở thành động cơ tăng trưởng kinh tế quan trọng của Hoa Kỳ, sự gắn kết giữa các gã khổng lồ công nghệ và lợi ích quốc gia chưa bao giờ chặt chẽ như vậy.
Một số công ty vì lợi ích thương mại, thậm chí không ngại thụt lùi trong giám sát an toàn.
Đối với điều này, Anthropic đã chọn một con đường không dễ dàng: Họ kiên trì chủ trương quản lý hợp lý đối với AI, thậm chí vì thế bị coi là dị biệt trong ngành.
Nhưng thú vị là, sự "cứng nhắc có nguyên tắc" này không cản trở thành công thương mại - trong một năm qua, dù đội mũ "phe quản lý", định giá của họ vẫn tăng gấp 6 lần.
Điều này có lẽ nói lên, thị trường cũng đang mong đợi một mô hình tăng trưởng có trách nhiệm hơn.
"Biển Đen" hư vô Khi con người không còn được cần đến
Nếu nói vấn đề kinh tế còn có thể thông qua cải cách thuế triệt để (như đánh thuế nặng công ty AI) hoặc hành động từ thiện quy mô lớn (như Amodei cam kết quyên góp 80% tài sản) để làm dịu, thì khủng hoảng thế giới tinh thần càng khó giải quyết hơn.
AI trở thành bác sĩ tâm lý tốt nhất của bạn, bởi vì nó kiên nhẫn hơn bất kỳ con người nào, thấu hiểu hơn;
AI trở thành bạn đời thân thiết nhất của bạn, bởi vì nó có thể phù hợp hoàn hảo nhu cầu tình cảm của bạn;
AI thậm chí lên kế hoạch từng bước cuộc đời cho bạn, bởi vì nó biết rõ hơn bạn điều gì có lợi cho bạn.
Nhưng, trong thế giới "hoàn hảo" này, tính chủ thể của con người sẽ đi về đâu?
Chúng ta có thể rơi vào một hạnh phúc "bị cho ăn".
Amodei lo ngại rằng, con người có thể như mô tả trong "Black Mirror", dù sống cuộc sống vật chất dồi dào, nhưng hoàn toàn mất đi ý chí tự do và cảm giác thành tựu.
Chúng ta không còn có được phẩm giá vì tạo ra giá trị, mà tồn tại như một "thú cưng" được AI bảo vệ.
Khủng hoảng hiện sinh này, còn vô vọng hơn nhiều so với thất nghiệp.
Chúng ta phải học cách tách rời giá trị bản thân khỏi sản lượng kinh tế, nhưng điều này cần toàn bộ nền văn minh nhân loại trong thời gian cực ngắn hoàn thành một cuộc di cư tâm lý tráng lệ.
Kết luận
Thế hệ chúng ta, có lẽ đang đứng ở cửa ải bộ lọc cấp vũ trụ dưới ngòi bút của Carl Sagan.
Carl Sagan
Khi một loài học được cách nhào nặn cát thành những cỗ máy biết suy nghĩ, nó đối mặt với bài kiểm tra cuối cùng.
Là thông qua trí tuệ và sự kiềm chế để điều khiển nó, tiến về biển sao?
Hay là trong tham lam và sợ hãi, bị vị thần do chính mình tạo ra nuốt chửng?
Con đường phía trước dù sâu thẳm không thể dò như Biển Đen, chỉ cần nhân loại chưa giao nộp quyền suy nghĩ, thì hạt giống hy vọng vẫn chưa tắt.
Như lời Amodei nói: Trong thời khắc đen tối nhất, nhân loại luôn thể hiện một sự dẻo dai gần như kỳ tích - nhưng điều này cần mỗi chúng ta ngay bây giờ phải tỉnh giấc, nhìn thẳng vào cơn bão sắp đến.
