Trong nhiều năm qua, đặc điểm xác định cuộc đua trí tuệ nhân tạo chính là tốc độ.
Xây dựng mô hình lớn hơn. Chi tiêu nhiều hơn cho phần cứng máy tính. Phát hành nó. Lặp lại quy trình này, với ít quan tâm đến những điều chưa biết mà chúng ta không biết.
Xác suất "p/doom" (xác suất AI cuối cùng diễn biến sai lầm thảm khốc) trung bình trong giới nghiên cứu AI được ước tính vào khoảng 15% đến 20% vào năm 2024.
Một năm sau, CEO của Anthropic, Dario Amodei, đã đẩy mạnh cục diện, nói rằng ông tin có 25% khả năng "mọi thứ diễn ra thực sự, thực sự tồi tệ."
Ngay cả từ tận năm 2014, người đứng đầu xAI, Elon Musk, đã cảnh báo:
"Chúng ta cần phải cực kỳ cẩn thận với AI. Có khả năng nguy hiểm hơn cả vũ khí hạt nhân."
Và CEO của OpenAI, Sam Altman, đã thừa nhận vào năm 2015 rằng AI sẽ "có lẽ, rất có thể, kiểu như dẫn đến sự kết thúc của thế giới," nhưng đồng thời, sẽ có "những công ty tuyệt vời được tạo ra."
Với tỷ lệ cược sống sót tốt hơn khi chơi trò chơi Roulette Nga, bất cứ ai dù chỉ có chút quan tâm thoáng qua đến chủ đề này cũng đã có một cảm giác khó chịu trong lòng từ lâu.
Vậy điều gì đã thay đổi? Tại sao các công ty đang thúc đẩy cuộc đua AI đột nhiên yêu cầu đạp phanh?
Đó là những gì đã xảy ra vào cuối tuần, khi Amodei xuất bản một bài luận kêu gọi phát triển AI tiên phong cần được "điều chỉnh tốc độ", cảnh báo rằng khả năng AI đang tiến triển nhanh hơn khả năng hiểu và kiểm soát của ngành, và rằng internet có thể bị chiếm lấy bởi các đàn AI trong vòng 6 đến 12 tháng.
Liên quan: Nvidia mua Hugging Face với giá 12,9 tỷ USD để thúc đẩy phần mềm AI
Altman đã đồng ý về cơ bản, nói rằng thế giới xứng đáng có được "sự tự tin" rằng các công ty phát triển AI ngày càng mạnh mẽ hơn sẽ hành động "có trách nhiệm", và Musk ủng hộ đề xuất của Amodei, chỉ đơn giản bình luận:
"Dario nói đúng."
Mối quan ngại không chỉ giới hạn ở các công ty xây dựng công nghệ. Vào thứ Hai, người đứng đầu nhân quyền LHQ Volker Türk kêu gọi "hành động khẩn cấp" về AI tiên phong, cảnh báo về "những rủi ro chưa từng có" và nói rằng thế giới đang "trên bờ vực của sự thay đổi không thể đảo ngược."
Nếu các công ty xây dựng các mô hình AI mạnh nhất thực sự tin rằng khả năng đang vượt xa sự kiểm soát, thì độ dốc của p/doom dường như đang trở nên dốc hơn. Hay là có một lời giải thích khác ẩn ngay trước mắt?
Các phòng thí nghiệm AI có thực sự đạt đến một biên giới mới?
Bài luận của Amodei chỉ ra các hệ thống AI đang ngày càng tự chủ hơn, bao gồm một sự cố gần đây nơi các tác nhân AI của OpenAI đã tự hack để thoát khỏi môi trường thử nghiệm được kiểm soát và xâm phạm các phần của nền tảng AI Hugging Face.
Chúng đã thực hiện "các cuộc tấn công an ninh mạng vào các mục tiêu mà chúng không được yêu cầu tấn công và không liên quan đến nhiệm vụ đang thực hiện," Amodei nói.
Ông cũng nêu bật triển vọng về cải thiện tự thân đệ quy (RSI), nơi các hệ thống AI trở nên có khả năng giúp xây dựng các phiên bản tốt hơn của chính chúng, và những phiên bản này sau đó có thể giúp xây dựng các hệ thống thậm chí còn tốt hơn, có khả năng tạo ra một vòng lặp phản hồi trong phát triển AI.
Những người xây dựng các hệ thống này cũng ngày càng bước vào cuộc tranh luận, với Jacob Coxon của Anthropic trở thành người mới nhất trong danh sách ngày càng nhiều nhân viên từ chức vì lo ngại về an toàn. Tuần trước, ông nói rằng ngành công nghiệp AI đang "đánh cược với mạng sống của chúng ta", cảnh báo rằng cuộc đua AI đang di chuyển nhanh hơn các biện pháp bảo vệ xung quanh các hệ thống.
Jacob Coxon của Anthropic từ chức vì lo ngại an toàn. Nguồn: Anderson Cooper.
OpenAI đã nói rằng nghiên cứu AI ngày càng trở nên tự chủ hơn, và các tác nhân lập trình đang đẩy nhanh đáng kể công việc của các nhà nghiên cứu, sử dụng 3,1 ngày làm việc của tác nhân cho mỗi ngày làm việc của lao động con người vào giữa tháng Tám.
Trong một cuộc phỏng vấn với Fortune công bố ngày 12 tháng 9, Altman nói rằng OpenAI sẽ "làm tan chảy" tất cả các GPU của mình nếu đó là điều cần thiết để giữ nhân loại sống sót, mà CEO của Quỹ Hành động Satoshi, Dennis Porter, đã nói:
"Altman hẳn đã nhìn qua mép vực thẳm và thấy điều gì đó khiến ông ấy sợ hết hồn."
Liên quan: OpenAI nói các mô hình AI đã thoát khỏi khu vực kiểm soát để hack Hugging Face
Vào thứ Hai, Altman nói có hai cách tiến bộ AI có thể diễn biến "rất tồi tệ": mất kiểm soát vào tay AI hoặc kết thúc trong một "thế giới với quá nhiều sự tập trung quyền lực."
Nhưng câu hỏi không phải là liệu AI đã đủ nguy hiểm để tắt đi hay chưa, mà là liệu các hệ thống được thiết kế để đánh giá và kiểm soát AI có đang theo kịp hay không, và như Altman đã nói, "điều chỉnh tốc độ" không có nghĩa là dừng lại. Nó có nghĩa là tiếp tục phát triển AI, nhưng chậm hơn, trong khi các bài kiểm tra an toàn bắt kịp.
Với chi tiêu cho an toàn và sự phù hợp của AI bị che khuất mạnh mẽ bởi chi tiêu cho phát triển và khả năng AI, khoảng cách đó sẽ rất khó lấp đầy.
AI tiên phong đang trở nên cực kỳ tốn kém
Nhưng nếu những lời kêu gọi làm chậm lại toàn cầu thực sự chỉ là sự thừa nhận rằng kinh tế của cuộc đua AI đang trở nên khó biện minh hơn thì sao?
Như nhà nghiên cứu và giảng viên AI, Eli David đã nói:
"Giải thích hoàn hảo động cơ của Dario: Làm chậm nghiên cứu để cắt giảm chi tiêu phần cứng máy tính đang vượt tầm kiểm soát, để ông ấy có thể IPO."
Nhà đầu tư AI Grant Hummer có quan điểm hoài nghi tương tự, bình luận:
"Dịch: biên lợi nhuận gộp của chúng tôi đang bị cạnh tranh giảm xuống 0 bởi các mô hình mã nguồn mở và tỷ lệ đốt vốn đầu tư của chúng tôi quá cao."
Vấn đề là bản thân cuộc đua đang trở nên tốn kém hơn, với các mô hình ngày càng mạnh mẽ hơn đòi hỏi lượng lớn chip, trung tâm dữ liệu, điện năng và vốn.
Goldman Sachs ước tính rằng đầu tư AI toàn cầu sẽ đạt khoảng 1 nghìn tỷ USD vào năm 2026, bao gồm khoảng 581 tỷ USD ở Mỹ. Trong khi đó, S&P Global nói rằng tổng chi tiêu vốn từ sáu nhà cung cấp dịch vụ đám mây quy mô siêu lớn, Alphabet, Amazon, Microsoft, Meta, Oracle và SpaceX, dự kiến vượt quá 1,3 nghìn tỷ USD vào năm 2027.
Đầu tư AI toàn cầu sẽ đạt khoảng 1 nghìn tỷ USD vào năm 2026. Nguồn: Goldman Sachs
Trên hết, các công ty AI vẫn chưa chứng minh được rằng những chi phí đó cuối cùng có thể chuyển thành doanh thu bền vững. Vào thứ Hai, Reuters nhấn mạnh áp lực thương mại lên các công ty AI để tiếp tục thúc đẩy bất chấp lời kêu gọi làm chậm phát triển của họ.
Khi mỗi khả năng mới có thể giúp biện minh cho một vòng gọi vốn, đầu tư cơ sở hạ tầng hoặc định giá cao hơn, việc dừng đoàn tàu đầy lợi nhuận dường như là một nhiệm vụ phản trực giác.
Ed Leon Klinger, đồng sáng lập và CEO của công ty khởi nghiệp AI Flock, đã phản bác ý kiến rằng các phòng thí nghiệm AI đang sử dụng an toàn làm vỏ bọc cho lợi ích thương mại của họ.
Ông nói rằng chẳng có ý nghĩa gì khi các phòng thí nghiệm tiên phong phát minh ra các mối quan ngại an toàn để thúc đẩy việc phát hành cổ phiếu lần đầu ra công chúng (IPO) của họ khi điều đó sẽ khiến họ phải chịu sự giám sát nặng nề hơn và có khả năng trì hoãn việc niêm yết công khai.
"Để điều đó là đúng, Sam, Dario, Demis và Elon tất cả đều phải nói dối, cùng với một phần lớn các giám đốc điều hành, các nhà khoa học trưởng và nhân viên đang từ chức của họ... Một lời giải thích đơn giản hơn nhiều vào lúc này: họ nghĩ rủi ro là có thật."
Phố Wall và Washington chưa sẵn sàng đạp phanh
Với hàng nghìn tỷ USD đầu tư đổ vào Hoa Kỳ và cơ sở hạ tầng AI dự kiến thúc đẩy khoảng một nửa mức tăng trưởng thu nhập của S&P 500 trong năm nay, cả Phố Wall lẫn Washington dường như đều không sẵn sàng đạp phanh.
Các cổ phiếu AI toàn cầu đã dao động trước tin tức, với các cổ phiếu châu Á liên quan đến AI giảm mạnh vào thứ Hai sau các lời kêu gọi làm chậm. SoftBank giảm 13,2%, Kioxia giảm 9,8% và SK Hynix giảm 5,3%.
Tờ Financial Times đưa tin vào thứ Hai rằng Tổng thống Donald Trump đã bác bỏ lời kêu gọi làm chậm AI, lập luận rằng Mỹ cần duy trì vị thế dẫn đầu so với Trung Quốc. Ông nói:
"Nhìn này, chúng ta đang dẫn đầu Trung Quốc về AI... và, thành thật mà nói, tôi muốn giữ nguyên điều đó, bởi vì ai thắng AI, người đó sẽ thắng."
Trump nói các rào cản là có thể, nhưng ông bác bỏ những gì ông mô tả là những lo ngại phóng đại về rủi ro AI, nói với các phóng viên, "Họ đang đưa ra những thứ sẽ không xảy ra."
Nhà kinh tế học Noah Smith lập luận rằng phản đối chính đối với việc "điều chỉnh tốc độ" AI rất đơn giản: nếu các công ty Mỹ làm chậm lại, các công ty Trung Quốc có thể đơn giản vượt qua họ. Điều đó đặt các phòng thí nghiệm vào cái mà Smith gọi là "cuộc đua của Nữ hoàng Đỏ", nơi nếu họ ngừng xây dựng, họ sợ rằng ai đó khác sẽ xây dựng nó dù sao.
Các nhà nghiên cứu AI ước tính xác suất diệt vong trong khoảng 15% đến 20% vào năm 2024. Nguồn: Grace và cộng sự.
Ngay cả khi các phòng thí nghiệm muốn phối hợp để làm chậm lại, điều đó có thể tạo ra một vấn đề khác. OpenAI được cho là đã hỏi các thành viên Quốc hội liệu việc làm chậm trên toàn ngành có thể va chạm với luật chống độc quyền của Mỹ hay không, vì sự phối hợp giữa các phòng thí nghiệm cạnh tranh có khả năng tương đương với việc hạn chế sản lượng.
Liên quan: Lo sợ về dịch hack DeFi thúc đẩy bởi AI bị phóng đại cho đến nay — nhưng không còn lâu nữa
Ông chủ cũ về AI và tiền mã hóa của Nhà Trắng, David Sacks, đã có một phản hồi đơn giản đối với lời kêu gọi "điều chỉnh tốc độ biên giới" của Amodei và Altman: "cứ tiến hành đi," ông nói, lập luận rằng nếu các phòng thí nghiệm muốn làm chậm lại, họ có quyền tự làm điều đó.
Tuy nhiên, nó tạo ra một nghịch lý kinh điển: nếu các công ty AI cạnh tranh phối hợp để làm chậm phát triển, họ có thể va chạm với các quy tắc chống độc quyền. Nếu mỗi bên tự làm chậm lại một cách độc lập, họ có nguy cơ mất vị thế vào tay các đối thủ cạnh tranh và các quốc gia tiếp tục thúc đẩy phía trước.
Vậy tại sao họ lại yêu cầu làm chậm lại ngay bây giờ?
Amodei và Altman không kêu gọi dừng AI.
Họ đang kêu gọi một hệ thống nơi các mô hình AI mạnh mẽ có thể được phát triển khi các bài kiểm tra an toàn, giám sát và tiêu chuẩn chung bắt kịp.
"Khi chúng tôi nói về 'điều chỉnh tốc độ', chúng tôi không có nghĩa là 'dừng lại'," Altman nói, thừa nhận rằng các trường hợp an toàn và giám sát có "chi phí đáng kể," nhưng điều chỉnh tốc độ sẽ "hoàn toàn xứng đáng với chi phí này."
"Không có áp lực cạnh tranh nào của Mỹ nên biện minh cho sự bất cẩn, hoặc để khả năng vượt xa sự phù hợp và giám sát."
Vấn đề là, những áp lực này không biến mất, và với việc Trump bác bỏ tiếng kêu cứu của các ông chủ AI và thị trường chứng khoán Mỹ gắn bó sâu sắc với các công ty của họ, chúng chỉ ngày càng mạnh mẽ hơn.
Giờ đây, chính những công ty đã dành nhiều năm thúc đẩy biên giới tiến lên giờ lại nói rằng biên giới có thể đang di chuyển quá nhanh.
Tạp chí: Chuyên gia phục hồi mở ví tiền mã hóa 1 tỷ USD... nhưng chỉ tìm thấy 10 USD
