Nguồn: Bloomberg
Tổng hợp: Felix, PANews
Gần đây, Bloomberg đã có một cuộc phỏng vấn với CEO Anthropic Dario Amodei, thảo luận về hành trình khởi nghiệp ở San Francisco, sự cạnh tranh với OpenAI và mục tiêu cuối cùng của AI.
PANews đã tổng hợp những điểm tinh túy từ cuộc phỏng vấn.
Người dẫn chương trình: Hiện tại bạn đang ở trung tâm của vũ trụ AI. Cảm giác đó thế nào?
Dario: Trong toàn bộ sự nghiệp của tôi, đặc biệt là giai đoạn ở Anthropic, tôi đã trải nghiệm một đường cong hàm mũ trơn tru. Trải nghiệm về đường cong hàm mũ trơn tru này là: không có gì xảy ra, không có gì xảy ra, xảy ra một chút việc nhỏ, và sau đó "vèo" một cái là tăng trưởng điên cuồng. Đó là trải nghiệm của thế giới, và cũng là trải nghiệm về quy mô công ty so với các công ty khác và thế giới. Tôi đã quan sát biểu đồ này trong một thời gian dài, tôi đã từng nói "chúng tôi có lẽ sẽ trở thành công ty AI có doanh thu và định giá cao nhất vào thời điểm này", điều đó thực sự đã xảy ra. Vì vậy, một mặt tôi không ngạc nhiên, vì trên biểu đồ chỉ là một đường thẳng trơn tru; nhưng mặt khác, khi sự việc thực sự xảy ra, bạn sẽ thấy nhiều chi tiết và sắc màu hơn, điều đó hoàn toàn đáng ngạc nhiên. Chúng ta luôn cần ghi nhớ những câu hỏi cơ bản nhất: Làm thế nào để huấn luyện mô hình tốt? Làm thế nào để đưa chúng vào sản phẩm tốt? Làm thế nào để đảm bảo an toàn? Làm thế nào để giúp đỡ mọi người, đồng thời quản lý rủi ro xã hội mà công nghệ mang lại? Tất cả đều là những vấn đề tương tự, chỉ là được đặt dưới kính hiển vi lớn hơn để xem xét.
Người dẫn chương trình: Bạn lớn lên ở San Francisco, thời nhỏ bạn như thế nào? Tôi biết cha bạn là một nghệ nhân làm đồ da, mẹ bạn làm việc trong thư viện. Điều đó có ảnh hưởng gì đến bạn?
Dario: Lúc đó cuộc cách mạng Internet lần đầu tiên đang diễn ra xung quanh tôi, nhưng tôi hoàn toàn không hứng thú. Tôi chỉ thích làm toán, vẽ nguệch ngoạc, hiểu về vũ trụ và khoa học viễn tưởng. Đó là môi trường tổng thể của tôi lúc bấy giờ, tôi tràn đầy tò mò về thế giới này.
Người dẫn chương trình: Bạn lớn lên ở thành phố trung tâm công nghệ này, và giờ đây nó lại là trung tâm của AI. Điều gì ở thành phố này đã ảnh hưởng đến thế giới quan của bạn?
Dario: Tinh thần không tuân thủ quy ước, chủ nghĩa cá nhân và "điên rồ cũng không sao" phổ biến ở đây thực sự đã ảnh hưởng đến tôi. Bạn đến châu Âu hoặc thậm chí là những nơi khác của đất nước này, bạn sẽ thấy việc suy nghĩ khác biệt hoặc có một số ý tưởng điên rồ không được khuyến khích, thậm chí bị coi là kỳ lạ. Mặc dù tôi có nhiều chỉ trích về Thung lũng Silicon, nhưng tôi nghĩ nó có một điểm tốt: Ngay cả khi tất cả các chuyên gia đều phản đối bạn cũng không sao, nếu bạn có một tầm nhìn mạch lạc về thế giới, bạn nên theo đuổi nó. Có lẽ nó hoàn toàn không thể thực hiện được, nhưng nếu thành công, nó sẽ tạo ra một hiệu ứng đuôi dài, bạn có thể tìm thấy một mỏ vàng khổng lồ trong một số mạch quặng nào đó. Tôi nghĩ tinh thần này rất quan trọng.
Người dẫn chương trình: Quyết định rời khỏi OpenAI của bạn đã trở thành huyền thoại ở Thung lũng Silicon. Thực sự đã xảy ra chuyện gì? Ngoài những tin đồn bên ngoài, vấn đề thực tế là gì? Bạn bất đồng với họ ở những điểm nào?
Dario: Tôi sẽ nói đơn giản thôi. Khi bạn phát triển một công nghệ mạnh mẽ, bạn sẽ phải đối mặt với nhiều vấn đề khó khăn, Anthropic mỗi ngày cũng phải đối mặt với những tình huống khó xử mà chúng tôi không biết quyết định là đúng hay sai. Vì vậy, có nhiều bất đồng hợp lý về vấn đề an toàn, chúng tôi thực sự có một số bất đồng như vậy với họ, nhưng bản thân điều đó không đủ để trở thành lý do rời đi. Ngay cả trong Anthropic, mọi người cũng có bất đồng với tôi, và với nhau. Nhưng, khi bạn cảm thấy không thể tin tưởng ai đó, khi bạn cảm thấy giá trị của họ không như họ nói, khi bạn cảm thấy họ không trung thực, không hành động xuất phát từ động cơ mà họ tuyên bố, khi bạn nhìn thấy mô hình hành vi lừa dối đáng lo ngại, bạn rất khó tiếp tục hợp tác và tin tưởng công ty đó. Cuối cùng, nếu bạn và người khác có tầm nhìn khác nhau và không tin tưởng lẫn nhau, tại sao phải tranh cãi? Giải pháp là mỗi người đi con đường của mình. Tôi hoàn toàn bình thản chấp nhận việc chúng tôi làm theo cách của chúng tôi, họ làm theo cách của họ. Hãy xem ai chiến thắng trên thị trường, ai chiến thắng trong dư luận công chúng. Điều đó thuyết phục hơn bất kỳ tin đồn kịch tính nào về việc ai rời đi. Chúng tôi đang trình diễn một ví dụ về cách triển khai công nghệ này một cách có trách nhiệm. Nếu họ không đồng ý, có thể đưa ra lập luận của họ. Tôi nghĩ chỉ có vậy thôi.
Người dẫn chương trình: Tại hội nghị thượng đỉnh AI ở Ấn Độ, bạn và Sam Altman dường như từ chối nắm tay trên sân khấu. Chuyện gì đã xảy ra ở đó?
Dario: Tình hình thực tế là hội nghị thượng đỉnh đó cực kỳ thiếu tổ chức. Tất cả chúng tôi đều lên sân khấu vào phút cuối, họ thay đổi thứ tự đứng của chúng tôi tạm thời, chụp ảnh, và sau đó đột nhiên ra lệnh cho tất cả chúng tôi nắm tay. Nếu bạn đã từng tham dự các hội nghị thượng đỉnh quốc tế có nguyên thủ quốc gia tham dự, bạn sẽ biết chúng thường cực kỳ hỗn loạn (tôi không nhắm riêng vào Ấn Độ).
Người dẫn chương trình: Nhưng những người khác đều nắm tay.
Dario: Tôi không biết giải thích thế nào với bạn. Chỉ là Narendra Modi đột nhiên trên sân khấu kêu mọi người nắm tay.
Người dẫn chương trình: Được rồi. Sam và Elon đang kiện nhau. Bạn không thích Sam. Nếu những người xây dựng công nghệ quan trọng nhất thế giới không thể nắm tay trên sân khấu, làm sao chúng ta có thể tin rằng các bạn sẽ hợp tác về những rủi ro liên quan đến sự tồn vong của nhân loại?
Dario: Tôi muốn nói với bạn rằng, có sự khác biệt rất lớn về chất lượng và độ tin cậy giữa những người xây dựng công nghệ này. Cái ý "không ai tin ai" là không đúng. Tôi biết Demis Hassabis, người phát triển mô hình Gemini, đã 15 năm, họ là đối thủ cạnh tranh của mô hình Claude, nhưng chúng tôi đã hợp tác trong nhiều vấn đề. Chúng tôi mua năng lực tính toán từ Google, và cũng thường xuyên trao đổi ý tưởng về an toàn. Vì vậy tôi nghĩ, thứ nhất, một số bên tham gia thực sự đáng tin cậy hơn những bên khác; thứ hai, cũng có những bên tham gia bên ngoài Anthropic mà tôi tin tưởng. Tôi nghĩ cần phải xảy ra điều này: những bên tham gia đáng tin cậy đoàn kết lại, đặt những bên tham gia không đáng tin cậy vào tình thế buộc phải áp dụng các tiêu chuẩn tương tự. Theo kinh nghiệm của tôi, có một số người sẽ không tự động làm điều đúng đắn, nhưng nếu đa số trong ngành đang làm điều đúng đắn, những người khác sẽ không có nhiều lựa chọn. Điều này chia làm hai mặt: mặt tích cực là truyền cảm hứng lẫn nhau (tức cạnh tranh đi lên), ví dụ Demis làm Alpha Fold đã truyền cảm hứng cho chúng tôi, chúng tôi làm nghiên cứu sinh học, nghiên cứu khả năng giải thích của chúng tôi cũng truyền cảm hứng cho họ, đây không phải là cạnh tranh không-không. Đây là mặt "củ cà rốt" tích cực của cuộc đua; còn mặt "cây gậy" là, nếu bạn không làm điều đúng đắn, bạn sẽ trông rất tệ. Họ có thể miễn cưỡng làm điều đúng đắn, đồng thời giả vờ làm việc khác, thậm chí nghĩ rằng chúng tôi có mục đích đen tối không thể nói ra, điều đó nằm trong dự đoán, nhưng đây chính là cách để ngành công nghiệp đoàn kết và hợp tác.
Người dẫn chương trình: Thời kỳ đầu, những người khác tập trung vào các ứng dụng tiêu dùng thú vị, hấp dẫn, còn bạn đặt cược vào mã hóa và phía doanh nghiệp. Claude Code và Claude Cowork rất thành công. Tại sao bạn lại đặt cược này? Đây là quyết định về giá trị hay quyết định thương mại?
Dario: Khi chúng tôi thành lập Anthropic, điều cơ bản nhất là chúng tôi muốn làm mọi việc theo cách đúng đắn. Nhưng để tài trợ cho việc tạo mô hình cực kỳ tốn kém, nó cần có một mô hình kinh doanh. Nếu mô hình kinh doanh về cơ bản xung đột với giá trị, bạn sẽ rất khó xử: hoặc là phản bội giá trị, hoặc là trở nên không liên quan. Việc chọn một mô hình kinh doanh tương thích với giá trị sẽ tốt hơn nhiều. Chúng tôi đã xem xét thế giới mạng xã hội và người tiêu dùng, nơi thường khuyến khích sự tham gia của người dùng thậm chí là nghiện (chẳng hạn như sự hỗn loạn của mô hình video AI mà chúng ta thấy), chỉ để tối đa hóa thời gian người dùng ở lại để thu doanh thu quảng cáo. Ngược lại, ở phía doanh nghiệp, chúng tôi muốn sử dụng AI để chữa những căn bệnh trước đây không thể chữa khỏi (hợp tác với công nghệ sinh học, dược phẩm và các tổ chức học thuật), làm cho năng lượng rẻ hơn và hiệu quả hơn, giúp đỡ giáo dục và các tổ chức phi lợi nhuận, thúc đẩy tăng trưởng kinh tế. Về bản chất, đây đều là các ứng dụng phía doanh nghiệp. Một yếu tố khác là, các doanh nghiệp rất coi trọng niềm tin và mối quan hệ lâu dài. Phía tiêu dùng đôi khi mang tính chất đánh bóng, trong khi phía doanh nghiệp yêu cầu bạn xây dựng niềm tin trong nhiều năm, cung cấp những gì bạn đã hứa. Điều này rất phù hợp với mục tiêu triển khai mô hình theo cách tích cực, an toàn của chúng tôi.
Người dẫn chương trình: Một nhà phát triển có thể chuyển từ Claude sang ChatGPT hoặc Gemini chỉ trong một buổi chiều. Trong ngành này thực sự có thể duy trì vị trí dẫn đầu lâu dài không? Một đối thủ cạnh tranh mạnh mẽ cần bao lâu để sao chép những gì bạn đã xây dựng?
Dario: Chất lượng mô hình là quan trọng nhất. Hiện tại chúng tôi đang dẫn đầu rất xa về chất lượng mô hình. Mặc dù có một chút quán tính khi chuyển đổi, nhưng tôi (và Anthropic) không bao giờ dựa vào "tính dính" của sản phẩm để ngăn mọi người chuyển đổi. Bạn cần có một mô hình tốt hơn, một sản phẩm tốt hơn. Chúng tôi thấy tốc độ tăng trưởng hoàn toàn không có dấu hiệu suy giảm. Ít nhất là tại thời điểm ghi hình cuộc phỏng vấn này, nếu có thay đổi thì đó là nó vẫn đang tăng. Vì vậy tôi có xu hướng nghĩ rằng chất lượng mô hình là điều quan trọng nhất.
Người dẫn chương trình: Không lâu sau khi Claude Cowork ra mắt, thị trường có 2850 tỷ USD vốn hóa bốc hơi chỉ sau một đêm, các nhà giao dịch gọi đó là "SaaSpocalypse (Ngày tận thế của SaaS)". Nếu AI tiếp tục tiến bộ với tốc độ này, bao nhiêu phần mềm truyền thống sẽ bị thay thế, và tốc độ nhanh như thế nào?
Dario: Điều này rất khó dự đoán chính xác trước. Tất cả các công ty phần mềm truyền thống đều có hào sâu bảo vệ riêng. Một số hào sâu đó sẽ biến mất, nhưng những cái khác sẽ được giữ lại. "Viết phần mềm phức tạp nhanh chóng" là một hào sâu chắc chắn sẽ biến mất, bạn không thể dựa vào đó để phòng thủ nữa. Nhưng mối quan hệ khách hàng, kiến thức vận hành ngành và kiến thức chuyên môn lĩnh vực độc đáo vẫn quan trọng. Tôi khuyên các công ty này: Đừng tự mãn, hãy liệt kê tất cả các hào sâu của bạn, nhìn rõ cái nào sẽ biến mất, cái nào sẽ mạnh lên, bởi vì cũng sẽ có những hào sâu mới xuất hiện. Những người linh hoạt ứng phó sẽ làm tốt, còn những người tự lừa dối mình, hài lòng với kinh nghiệm quá khứ sẽ trải qua những ngày tháng khó khăn. Nhìn chung, tôi nghĩ ngành công nghiệp phần mềm sẽ trở nên lớn hơn chứ không phải nhỏ hơn, mặc dù chắc chắn sẽ có một số kẻ thua cuộc lớn.
Người dẫn chương trình: Hãy giải thích điểm này.
Dario: Bởi vì "chiếc bánh" đang trở nên lớn hơn. Nếu AI nâng cao giới hạn trên của ngành lên gấp 10 lần, các doanh nghiệp hiện có có thể dễ dàng đạt được mức tăng trưởng 1.5 lần, mặc dù tỷ trọng tương đối của nó trong toàn bộ chiếc bánh lớn đã trở nên nhỏ hơn. Nhưng nếu những người không thích ứng, vùi đầu trong cát, họ sẽ trải qua thời kỳ khó khăn thậm chí là phá sản.
Người dẫn chương trình: Những người ủng hộ lớn nhất của bạn là các công ty như Amazon, Google, Microsoft và NVIDIA. Họ đều có chương trình nghị sự riêng, vừa là đối tác vừa là đối thủ cạnh tranh. Các cột mốc thương mại khổng lồ của bạn được gắn với việc huy động vốn, thực sự ai đang làm chủ?
Dario: Trong nhiều trường hợp, chúng tôi đều thẳng thắn bày tỏ suy nghĩ thực sự của mình. Mọi người đều là người trưởng thành, chúng ta có thể tìm điểm chung, bảo lưu điểm khác, hợp tác trong một việc và bất đồng trong việc khác.
Người dẫn chương trình: Có báo cáo rằng định giá của bạn cao hơn OpenAI. Đối với một công ty khởi nghiệp thành lập được năm năm, định giá gần một nghìn tỷ USD. Bạn hiểu con số này như thế nào? Nếu bạn kỷ luật hơn về năng lực tính toán và có con đường sinh lợi nhanh hơn, tại sao bạn cần nhiều tiền như vậy?
Dario: Nhu cầu về năng lực tính toán tăng rất nhanh. Nền tảng kinh doanh rất tốt, nhưng có thể trong vòng một năm nhu cầu năng lực tính toán của bạn sẽ tăng gấp ba bốn lần, tăng trưởng cực nhanh. Chúng tôi hoàn toàn kỳ vọng rằng sự tăng trưởng doanh thu có thể đạt hoặc vượt quá mức tăng trưởng năng lực tính toán này. Huy động vốn là để đệm cho tác động của sự không chắc chắn này, điều này rất hợp lý, và việc pha loãng cổ phần của công ty cũng rất nhỏ, điều này tuyệt đối không đại diện cho vấn đề nền tảng kinh doanh.
Người dẫn chương trình: Vượt qua đối thủ cạnh tranh chính của bạn có cảm thấy tốt không?
Dario: Chúng tôi vẫn còn nhiều thách thức khó khăn phía trước. Chúng tôi đang thúc đẩy triết lý "cạnh tranh đi lên", cố gắng kéo các công ty khác tiến lên cùng chúng tôi. Mặc dù đôi khi họ không thừa nhận, đôi khi vừa tấn công chúng tôi vừa sao chép chúng tôi, nhưng hiệu ứng kéo này có giá trị cực kỳ lớn. Giá trị của việc trở thành công ty dẫn đầu không nằm ở việc đơn thuần đánh bại đối thủ, mà ở khả năng thúc đẩy toàn bộ hệ sinh thái.
Người dẫn chương trình: Nhưng chiến thắng chắc chắn phải cảm thấy tốt hơn một chút chứ.
Dario: Tất nhiên chúng tôi luôn nỗ lực để thành công, và không muốn thất bại. Tôi không nghĩ chúng ta nên đóng cửa công nghệ này, chúng ta cạnh tranh trong chế độ doanh nghiệp tự do, chỉ cần giảm thiểu rủi ro của mô hình. Chúng tôi luôn tìm kiếm sự cân bằng giữa hai cực.
Người dẫn chương trình: Tốc độ phát triển sản phẩm của bạn rất đáng kinh ngạc. Bạn đã làm được điều đó như thế nào?
Dario: Hai lý do: Thứ nhất, chúng tôi có văn hóa thống nhất và hiệu quả tổ chức, mọi người đồng bộ; thứ hai, chính là bản thân Claude. Hiện tại chúng tôi đang sử dụng Claude để giúp phát triển mô hình và sản phẩm của chúng tôi, làm cho nó hiệu quả hơn. Điều này tạo ra hiệu ứng tăng tốc đáng kể và ngày càng đáng tin cậy.
Người dẫn chương trình: Bạn đã thấy AI làm điều điên rồ nhất là gì?
Dario: Đều là về mặt sinh học và y học. Tôi đã thấy vài lần, Claude chẩn đoán ra một số vấn đề y tế mà các bác sĩ cấp cao đã bỏ sót. Về mặt sinh học, mô hình bắt đầu trở nên xuất sắc một cách đáng kinh ngạc trong thiết kế thuốc hoặc hóa học tính toán. Là một nhà sinh vật học trước đây, tôi hiểu rất rõ rằng điều đó đòi hỏi trình độ đào tạo chuyên môn cực cao. Đây là mặt tích cực to lớn của AI, nó sẽ nâng cao đáng kể chất lượng cuộc sống con người. Hãy tưởng tượng sự tiến bộ khoa học trăm năm từ năm 1900 đến nay, và sau đó tưởng tượng nếu có thêm một lần tiến bộ trăm năm nữa thì sẽ thế nào. Nếu chúng ta vượt qua những thách thức hiện tại một cách suôn sẻ, chúng ta sẽ có một thế giới tốt đẹp hơn nhiều.
Người dẫn chương trình: Tôi biết bạn rất thích viết lách. Bạn có dùng Claude để giúp bạn viết không?
Dario: Có, nhưng tôi chưa để nó viết trực tiếp văn bản thành văn thay tôi, vì tôi hơi kén chọn phong cách cụ thể. Tôi chủ yếu sử dụng Claude để động não, sắp xếp chủ đề, hoặc cung cấp tài liệu tham khảo. Hiện tại nó đóng vai trò hỗ trợ, mặc dù khoảng cách để nó viết tốt hơn tôi vẫn còn, nhưng điều đó sớm muộn cũng sẽ đến.
Người dẫn chương trình: Viết lách giúp con người sắp xếp suy nghĩ, bao gồm rất nhiều tư duy phê phán. Nếu chúng ta để Claude đảm nhận, chúng ta sẽ mất khả năng tư duy đó không?
Dario: Tôi thực sự có chút lo lắng về điều này. Tôi kiên trì tự viết, một nửa là vì độc giả, nhưng cũng tương tự để sắp xếp suy nghĩ của chính mình. Nếu chỉ yêu cầu nó "viết một bài viết về rủi ro AI", điều này không chỉ không viết ra được nội dung tôi thực sự muốn diễn đạt, mà còn làm tôi mất đi lợi ích của việc tư duy đó. Trong tương lai, khi mô hình trở nên tốt hơn, chúng ta có thể cần tìm ra một cách sử dụng tinh tế vừa có thể khai thác chúng trực tiếp hơn, vừa giữ được lợi ích của tư duy.
Người dẫn chương trình: Bạn đã thẳng thắn nói về thất nghiệp, dự đoán AI có thể tiêu diệt một nửa công việc cổ cồn trắng cấp cơ sở trong vòng 1 đến 5 năm. Đó là một năm trước, bây giờ tỷ lệ này là 50% hay cao hơn?
Dario: Nếu bạn xem video đầy đủ ban đầu, diễn đạt thực sự của tôi là: Tôi không biết điều gì sẽ xảy ra, nhưng điều này đại diện cho một cấp độ để đo lường mức độ điên rồ của sự việc. Tuy nhiên, tâm lý con người luôn có xu hướng cắt ra ba giây "tận thế sắp đến", và bỏ qua tất cả các giải pháp đối phó tôi đồng thời thảo luận (chẳng hạn như thuế token, điều chỉnh doanh nghiệp, chính sách kinh tế vĩ mô, v.v.). Thông điệp của tôi tuyệt đối không phải là "tận thế sắp đến", mà là chúng ta cần nhìn thấy trước, quan tâm và tích cực ứng phó với nó. Trong ngắn hạn, AI sẽ làm cho mọi người hiệu quả hơn, nhưng đây chỉ là một giai đoạn chuyển tiếp. Giống như chúng ta thấy trong lịch sử tự động hóa, cuối cùng AI có thể đảm nhận phần công việc này. Lấy ví dụ các kỹ sư phần mềm tại Anthropic, hiện tại AI giúp họ viết phần lớn mã lệnh làm cho họ hiệu quả hơn, nhưng cũng bắt đầu xuất hiện trường hợp tốt hơn là để AI trực tiếp thực hiện nhiệm vụ cụ thể. Mặt khác, điều này cũng thúc đẩy nhu cầu mới, chẳng hạn như "kiến trúc sư giải pháp AI ứng dụng (kỹ sư triển khai phía trước)" có khả năng giao tiếp với khách hàng và công nghệ. Sự phá hủy và điều chỉnh công việc sẽ xảy ra đồng thời.
Người dẫn chương trình: Bạn đã công bố một biểu đồ, hiển thị sự phá hủy công việc tiềm năng, cái nào sẽ biến mất, cái nào sẽ xuất hiện?
Dario: Điều này rất khó dự đoán chính xác, giống như dự đoán thị trường chứng khoán vậy. Nhưng nhìn chung, khả năng các vị trí cổ cồn trắng cấp cơ sở (ngân hàng, tài chính, v.v.) bị AI thay thế là rất lớn. Khi chúng tôi giao tiếp với khách hàng doanh nghiệp, chúng tôi phát hiện họ đứng trước lựa chọn: sa thải nhân viên để tiết kiệm chi phí, hay sử dụng cùng nguồn lực đó để làm nhiều việc mới hơn? Chúng tôi luôn cố gắng thúc đẩy họ đi theo hướng "trò chơi tổng tích cực": sử dụng hiệu quả nâng cao để làm nhiều việc hơn, thay vì sa thải nhân viên. Khi "chiếc bánh" mở rộng, mọi người có thể tìm thấy nơi đến mới, đây là vấn đề tìm kiếm tốc độ phù hợp. Quy mô phá hủy sẽ rất lớn, vì vậy tôi mới cố gắng cảnh báo mọi người.
Người dẫn chương trình: Nếu tỷ lệ thất nghiệp ở quy mô cao như vậy, đây chẳng phải là lý do cho một cuộc cách mạng bùng nổ sao?
Dario: Đây chắc chắn là kết quả chúng tôi muốn tránh. Tôi nghĩ có một số lĩnh vực sẽ giữ lại cơ hội: một là thế giới vật lý (vì sự phát triển của robot chậm hơn tốc độ xử lý thông tin AI, sản xuất và xây dựng vẫn cần nhiều nhân lực); hai là tất cả các công việc lấy con người làm trung tâm. Ngay cả khi AI chẩn đoán chính xác hơn bác sĩ hoặc làm tốt hơn trong dịch vụ khách hàng, mọi người vẫn mong muốn và cần trò chuyện và thiết lập mối liên hệ với những con người khác trong các vấn đề quan trọng. Con người cũng sẽ giữ vai trò hướng dẫn giá trị và ý định của AI.
Người dẫn chương trình: Có nhiều người phản đối quan điểm của bạn, ví dụ như Jensen Huang nói bạn đã nhầm lẫn giữa "nhiệm vụ" và "công việc", và có người nói đây là một loại "tiếp thị tận thế" có lợi cho Anthropic.
Dario: Tôi muốn bác bỏ rõ ràng điểm này. Chúng tôi đã dùng cả năm trang trong báo cáo và bài báo để trình bày chi tiết sự khác biệt giữa nhiệm vụ và công việc, giải thích lần này tại sao khác, và đề xuất sáu giải pháp bao gồm tư nhân và chính phủ. Nhưng tôi phát hiện, căn bệnh của Thung lũng Silicon và mạng xã hội là lười biếng, mọi người chỉ xem đoạn phim ngắn ba giây từ một năm trước và bình luận một cách vô trách nhiệm. Việc gọi công việc trí tuệ nghiêm túc là "tiếp thị rẻ tiền", bản thân nó đã là một hành vi tiếp thị rẻ tiền và cực kỳ lười biếng, từ chối thảo luận nghiêm túc.
Người dẫn chương trình: Là một công ty AI hàng đầu thế giới, bạn tham gia sâu vào nhiều lĩnh vực an ninh quốc gia Mỹ. Bạn có lập trường phản chiến lâu dài từ thời ở Caltech, nhưng bạn lại là một trong những công ty AI đầu tiên ký hợp đồng vận hành mạng bí mật với Bộ Quốc phòng. Hãy giải thích điều này.
Dario: Nguyên nhân là thế giới đang thay đổi. Khi tôi nhìn thấy Nga xâm lược Ukraine, tôi lo lắng về sự phục hồi của nhóm chuyên chế. Chúng ta cần bảo vệ chính mình. Chúng tôi hoàn toàn không muốn đối thủ sử dụng AI để phân tích tình báo, tấn công Ukraine, trong khi chúng ta không thể phòng thủ. Vì vậy chúng tôi đang cung cấp hỗ trợ xuyên các cơ quan chính phủ. Nhân tiện nói luôn, chúng tôi làm những điều này tuyệt đối không phải vì tiền, vận hành trên mạng của chính phủ thực sự là một rắc rối lớn, lợi nhuận cũng rất ít. Chính vì chúng tôi làm vì "quan tâm", nên việc sử dụng công nghệ phải có giới hạn và đường đỏ rõ ràng, đó là: không được tiến hành giám sát quy mô lớn và phát triển vũ khí hoàn toàn tự chủ. Nếu từ bỏ các giá trị dân chủ của chúng ta để giành chiến thắng trong cạnh tranh, thì cũng không đáng. Đây là sự cân bằng và lập trường mà chúng tôi kiên trì.
Người dẫn chương trình: Bạn bắt đầu hợp tác với Palantir từ năm 2024, công nghệ của họ được Cơ quan Thực thi Di trú và Hải quan Mỹ, các sở cảnh sát sử dụng, thậm chí ở Dải Gaza. Claude có đang được sử dụng để giám sát không?
Dario: Chúng tôi không hợp tác với ICE và CBP, dù trực tiếp hay thông qua Palantir. Theo như tôi biết, chúng tôi cũng không kinh doanh ở Dải Gaza. Chúng tôi rất thận trọng trong việc giới hạn phạm vi tham gia trong các giá trị mà chúng tôi đồng ý.
Người dẫn chương trình: Vậy bạn đã vạch ra đường đỏ, tổng thống đã cấm một số giấy phép liên bang nhất định của bạn, Lầu Năm Góc dán nhãn rủi ro chuỗi cung ứng cho bạn, và OpenAI đã can thiệp và ký các hợp đồng mà bạn không muốn ký. Chiến thắng cuộc chiến này thực sự là như thế nào?
Dario: Tôi không nghĩ đây là một cuộc chiến về "thắng thua", đây là một cuộc tranh luận xã hội về cách chính phủ sử dụng AI hợp lý. Chúng tôi đang cố gắng thiết lập tiền lệ sử dụng cho các tình huống đáng lo ngại, và đã thu hút sự chú ý đến vấn đề đó. Chúng tôi thấy nỗ lực xuyên đảng phái trong Quốc hội nhằm cấm các ứng dụng rủi ro cao và thiết lập rào chắn. Nếu phải nói là chiến thắng, thì việc thúc đẩy đất nước chúng ta suy nghĩ thận trọng hơn về ranh giới sử dụng phù hợp của công nghệ mới, đó chính là chiến thắng.
Người dẫn chương trình: Có người mô tả bạn là một kẻ điên cuồng ý thức hệ không nên có quyền lực lớn như vậy, hoặc một phần tử cuồng tả, bạn có phiền không?
Dario: Tôi thường xuyên bị chửi, và còn khó nghe hơn thế này nhiều. Người khác gọi tôi và Anthropic thế nào cũng được, tôi chỉ quan tâm đến hai điều: công ty thành công, và chúng tôi kiên trì với giá trị của bản thân. Thực ra điều này làm cuộc sống của tôi trở nên đơn giản, tôi luôn rõ ràng về lập trường của mình.
Người dẫn chương trình: Chiến tranh AI có nhiều khả năng ngăn chặn Thế chiến thứ ba hơn, hay dễ gây ra nó hơn?
Dario: Nhìn chung có nhiều khả năng ngăn chặn nó hơn. Nhưng nếu thiếu hạn chế sử dụng, nó có khả năng gây ra chiến tranh. Nếu không có quy định thích hợp, hai bên dễ dàng xảy ra xung đột do hiểu lầm. Nếu chúng ta có ưu thế áp đảo trong việc thu thập tình báo và khả năng phản ứng, đối thủ sẽ suy nghĩ kỹ trước khi hành động. Tình báo ưu việt có thể ngăn chặn xung đột hiệu quả.
Người dẫn chương trình: Anthropic hầu như mỗi tuần đều lên tiêu đề, gần đây là về mô hình Mythos. Bạn đã nói Mythos quá mạnh mẽ không thể phát hành cho công chúng. Điều gì về nó làm bạn ngạc nhiên nhất?
Dario: Điều làm tôi ngạc nhiên nhất là, nó không chỉ có thể phát hiện lỗ hổng, mà còn có thể biến lỗ hổng thành công cụ tấn công thực chất, xuất hiện sự nhảy vọt lớn về khả năng này. Một số công ty kiểm tra nó sớm thậm chí yêu cầu chúng tôi không phát hành nó, và gọi nó là "siêu vũ khí", cho rằng cần có giấy phép súng mới có thể sử dụng nó. Chúng tôi không phát hành cho công chúng không phải vì muốn khóa nó mãi mãi, mà là vì cơ chế phòng thủ mạng hiện tại vẫn dễ bị "vượt ngục" phá vỡ. Chúng tôi sẽ đợi đến khi cơ chế phòng thủ đủ tự tin để đối phó với nó, sau đó mới phát hành kèm theo các biện pháp bảo đảm mạnh mẽ.
Người dẫn chương trình: Nhưng bên ngoài có nhiều ý kiến phản đối: có nhà nghiên cứu nói có thể sao chép nó bằng mô hình mã nguồn mở rẻ hơn, và có người nói điều này hoàn toàn là quan hệ công chúng và thủ đoạn tiếp thị hoành tráng. Bạn phản hồi thế nào?
Dario: Nói có thể sao chép nó bằng mô hình mã nguồn mở là cực kỳ vô lý. Mô hình Mythos đã phát hiện 271 lỗ hổng mới trong trình duyệt Firefox, hàng nghìn lỗ hổng mới trong nhiều công ty tư nhân không tiện công khai, các mô hình trước đó hoàn toàn không tìm thấy những lỗ hổng này. Người nói trên Twitter rằng có thể sao chép bằng mô hình mã nguồn mở, chỉ là sau khi chúng tôi chỉ ra dòng mã cụ thể nào có vấn đề, anh ta đã sử dụng mô hình mã nguồn mở để định vị lại dòng mã đó thôi. Đây hoàn toàn không phải là một việc.
Còn nói về "tiếp thị", việc không phát hành mô hình siêu mạnh này khiến chúng tôi chịu tổn thất thương mại rất lớn, nó vốn có thể tăng tốc nghiên cứu và phát triển nội bộ và bên ngoài cực kỳ lớn. Nếu điều này có thể giúp đỡ bên phòng thủ, thì sự giúp đỡ của nó cho bên tấn công cũng tương đương. Vì vậy chiến lược hiện tại của chúng tôi là giao nó cho bên phòng thủ để sửa lỗ hổng hệ thống trước. Một khi tất cả các lỗ hổng "lỗ thủng" được vá lại, hệ sinh thái Internet trong tương lai sẽ trở nên cực kỳ an toàn. Những người bắn tỉa và thao túng ngược trên X (bao gồm một số đối thủ cạnh tranh), đã không nghiêm túc đối mặt với sự cân nhắc rủi ro toàn xã hội, là một biểu hiện cực kỳ non nớt.
Người dẫn chương trình: Bạn đã đưa ra những cân nhắc mà bạn không hoàn toàn hài lòng chưa?
Dario: Toàn bộ lịch sử của Anthropic tràn ngập những cân nhắc. Nếu trong một thế giới lý tưởng, bạn có thể dành nhiều năm nghiên cứu từng nguy cơ tiềm ẩn của chatbot trước khi phát hành. Mặc dù chúng tôi thực sự đã trì hoãn phiên bản Claude ban đầu vài tháng, nhưng mọi thứ vẫn là cân nhắc. Hiện tại chúng tôi đang ở vị trí dẫn đầu thương mại, tôi và Daniela đang làm mọi thứ có thể để đẩy kim chỉ xa hơn về hướng "thận trọng hành động". Đây chính là mục đích ban đầu của việc hạn chế phát hành Mythos, nếu bạn không phải là người chơi dẫn đầu, bạn rất khó đưa ra quyết định như vậy.
Người dẫn chương trình: Vì công nghệ này quá mạnh mẽ, tại sao chính phủ không trực tiếp tiếp quản bạn?
Dario: Đây là một mối lo ngại rất nghiêm túc. Nhìn suốt lịch sử, tất cả các công nghệ mạnh mẽ chưa từng có (vũ khí hạt nhân, Internet, GPS, điện thoại di động) ban đầu đều ra đời trong các phòng thí nghiệm liên bang và chính phủ. AI là công nghệ đầu tiên hoàn toàn được xây dựng trong khu vực tư nhân và chính phủ tham gia muộn, tình trạng này thực sự nguy hiểm và không ổn định. Nhưng hiện tại nguy cơ chính phủ không làm thực sự lớn hơn nguy cơ khu vực tư nhân làm. Vì vậy chúng ta cần sự cân bằng quyền lực: chúng tôi đã thiết lập "Quỹ tín thác vì lợi ích lâu dài", họ có quyền bãi nhiệm đa số giám đốc thậm chí sa thải tôi, điều này đưa vào yếu tố quản trị công cộng.
Ở cấp độ chính phủ, chúng ta cần các cơ quan lập pháp và tư pháp thực hiện kiểm tra bắt buộc trước khi phát hành và quản lý đường đỏ. Tôi vừa sợ công ty kiểm soát nó, vừa sợ chính phủ độc quyền nó, hai bên phải cân bằng lẫn nhau. Rất buồn cười là, trong Thung lũng Silicon có một nhóm người, từ cực đoan phản đối bất kỳ yêu cầu quản lý hay minh bạch nào (nói điều này sẽ bóp nghẹt đổi mới), sau khi thấy nguy hiểm thực sự lần đầu tiên, lập tức dao động đến tuyên bố "chính phủ nên quốc hữu hóa nó". Phản ứng dao động giữa hai cực đoan này rất không trưởng thành, chúng ta cần một con đường trung dung hợp lý.
Người dẫn chương trình: Lĩnh vực của bạn luôn nói về thời điểm AI trở nên đủ tốt để tiến hành "tự cải tiến". Các nhà nghiên cứu của bạn nghĩ điều này sắp đến, cụ thể còn bao xa?
Dario: Tôi nghĩ nó không phải là một "thời điểm" cụ thể, mà là một quá trình hàm mũ tăng tốc liên tục. Chúng ta đã thấy AI bắt đầu hỗ trợ đề xuất kiến trúc của thế hệ AI tiếp theo. Một năm trước AI làm tăng năng suất tổng hợp 10-15%, bây giờ có thể là 20-30%. Nó sẽ không đột nhiên mất kiểm soát tại một thời điểm nhất định, mà trên đường cong hàm mũ trơn tru này, chúng ta cần đánh giá tại mỗi điểm nút liệu có nên làm chậm tốc độ và áp đặt thêm kiểm soát hay không. Biện pháp đối phó hợp lý là làm cho các biện pháp phản công của chúng ta tăng cấp dần dần và trơn tru cùng với sự tăng trưởng của sức mạnh công nghệ, thay vì hoảng loạn.
Người dẫn chương trình: Bạn đã từng nói nền văn minh nhân loại có 10-25% khả năng sụp đổ. Đây không phải là không đáng kể. Có thể có một trường hợp như vậy: thứ gì đó Anthropic chế tạo đã dẫn đến sự sụp đổ này?
Dario: Tất nhiên tôi hy vọng là không. Xác suất rủi ro này xuất phát từ tính không thể dự đoán trước vốn có của công nghệ, và sự phức tạp của cơ cấu thế giới. Các biện pháp chúng tôi thực hiện chính là để giảm thiểu, chứ không phải tăng thêm xác suất sụp đổ này. Giống như ngành hàng không, ngay cả khi bạn chế tạo máy bay an toàn hơn mười lần so với người khác, bạn cũng không thể đảm bảo tuyệt đối với người khác rằng nó "sẽ không bao giờ rơi".
Đọc thêm: OpenAI và Anthropic đồng loạt thay đổi giọng điệu: Thuyết ngày tận thế việc làm AI không còn phổ biến nữa?
