"Chỉ cần anh muốn reset, anh lúc nào cũng có thể reset"
Mới đây, Tibo, người được mệnh danh là 'Bố nuôi ảo', AKA Vị thần Reset hạn mức Codex, đã tự tin tuyên bố trong tập podcast mới nhất với Matthew Berman~
Và điều đáng nói nhất là, để thực hiện reset, Tibo đã đặc biệt tạo ra một nút bấm vật lý.
Là người phụ trách Codex hiện nay, ngoài việc giới thiệu cách phân phát quyền lợi cho mọi người, Tibo trong tập podcast này còn chia sẻ chi tiết về quãng thời gian làm việc tại Google trước đây, và tiết lộ một số công việc quan trọng của anh ấy và OpenAI ở giai đoạn hiện tại.
Có thể nói, đây là một cơ hội hiếm hoi để bên ngoài hiểu sâu hơn về người phụ trách sản phẩm mới của OpenAI.
Từ văn hóa sản phẩm OpenAI, Agent thế hệ tiếp theo, chế độ tốc độ tối đa GPT (Ultra Fast), cho đến tương tác giữa người và máy trong tương lai, OpenAI tạm dừng huấn luyện các mô hình tiên phong, RSI,... hầu như đều được đề cập, không thiếu chủ đề nào......
Quan điểm cốt lõi của Tibo như sau:
- ChatGPT và Codex cuối cùng sẽ hòa làm một. Trong tương lai sẽ không có hai sản phẩm riêng biệt "Agent lập trình" và "Trợ lý trò chuyện", mà sẽ là một AGI cá nhân hóa cao, tự động điều chỉnh giao diện dựa trên nhiệm vụ, năng lực và thói quen của từng người.
- Cốt lõi của Agent thế hệ tiếp theo không phải là thêm nhiều Skill, Memory hay Agent con hơn nữa, mà là để những cơ chế này "biến mất". Người dùng thực sự muốn một người bạn đồng hành liên tục hiểu họ, mục tiêu, công việc hàng ngày và bối cảnh của nhóm, chứ không phải liên tục quản lý file skill, bộ nhớ và mạng lưới Agent.
- Máy tính xách tay sẽ trở thành nút thắt cổ chai mới cho AI Agent, thế hệ Agent tiếp theo một cách tự nhiên sẽ hướng đến đám mây và các tài nguyên tính toán quy mô lớn hơn.
- Việc chạy cùng lúc 10~15 Agent ngày nay, là đang dùng tính đồng thời để bù đắp cho tốc độ mô hình chậm; một khi Ultra Fast đưa thời gian phản hồi xuống gần bằng tốc độ suy nghĩ của con người, luồng công việc sẽ quay trở lại tương tác thời gian thực và trạng thái "dòng chảy tâm trí", thay vì liên tục chuyển đổi ngữ cảnh.
- Không quá coi trọng cạnh tranh. Sự khác biệt trong câu chuyện của OpenAI so với Anthropic, không chỉ đơn thuần là "mô hình mạnh hơn", mà là "giao năng lực mạnh nhất cho càng nhiều người càng tốt". OpenAI nhấn mạnh việc phân phối rộng rãi, sự tham gia của cộng đồng và hạ thấp rào cản sử dụng, đây cũng là lý do quan trọng để Codex sáp nhập vào ChatGPT.
- OpenAI đã và đang thực tế sử dụng "cải tiến đệ quy". Không chỉ là để mô hình nghiên cứu mô hình, mà còn bao gồm việc để mô hình mạnh nhất tối ưu hóa các kernel CUDA, stack suy luận và cơ sở hạ tầng, tạo thành bánh xe đà "mô hình mạnh hơn → hiệu quả cao hơn → nhiều năng lực tính toán hơn → mô hình mạnh hơn".
(Tên đầy đủ của Tibo là Thibault Sottiaux, đến từ Bỉ, học đại học tại Đại học Công giáo Louvain (UCLouvain), chuyên ngành Toán ứng dụng. Năm 2015, anh gia nhập Google, ban đầu tham gia công việc liên quan đến Google Maps, sau đó vào Google DeepMind, phụ trách xây dựng cơ sở hạ tầng nghiên cứu AI và tham gia hỗ trợ các dự án AI tiên phong, bao gồm AlphaGo. Năm 2024, anh gia nhập OpenAI, bắt đầu phụ trách dự án Codex. Với sự bùng nổ của làn sóng AI Coding, Codex nhanh chóng trở thành một trong những sản phẩm tăng trưởng nhanh nhất của OpenAI, Tibo cũng vì thế mà được cộng đồng nhà phát triển biết đến. Do anh thường xuyên tự mình trả lời phản hồi của người dùng, giúp nhà phát triển reset hạn mức sử dụng Codex, anh được cộng đồng mạng tôn làm "Bố nuôi ảo".)
Dưới đây là toàn bộ nội dung cuộc trò chuyện, đã được chỉnh sửa:
Kinh nghiệm từ Google và DeepMind
Người dẫn chương trình: Tuyệt vời, tôi thực sự rất mong được trò chuyện với anh. Tôi muốn bắt đầu từ trải nghiệm của anh tại Google. Lúc đó anh đang ở nhóm DeepMind. Trước khi ChatGPT xuất hiện, Google đã có một thứ gọi là LM Chat.
Anh đã từng đăng bài nói rằng, Google quá căng thẳng, không dám phát hành nó; DeepMind cũng bị ngăn cản tung ra các sản phẩm có thể tác động đến Google. Tôi thường nghĩ về điều này. Lúc đó anh đang làm những sản phẩm này, và đó là rất lâu trước khi ChatGPT thực sự thay đổi thế giới, anh đã nghĩ gì lúc đó?
Tibo: Đó là một thời kỳ rất thú vị. DeepMind là một nơi rất sáng tạo.
Sở trường cá nhân của tôi là xây dựng cơ sở hạ tầng và sản phẩm để thúc đẩy nghiên cứu. Lúc đó có một nhóm đang làm mô hình ngôn ngữ và scaling của chúng.
Sau đó họ đã đạt được kết quả khá tốt, nên rất tự nhiên nghĩ đến: Có thể biến nó thành một sản phẩm có thể trò chuyện với bạn và được dùng cho nhiều việc không?
Vì vậy, những ý tưởng như LM Chat tự nhiên xuất hiện. Ban đầu nó là dự án nội bộ, sau đó mọi người đã hình thành tầm nhìn biến nó thành công cụ mở rộng ra công chúng.
Người dẫn chương trình: Đó là năm nào?
Tibo: Khoảng một năm trước khi ChatGPT xuất hiện.
Tibo: Ngoài ra chúng tôi còn đang làm nhiều dự án khác nhau, tôi sẽ không đi sâu vào. Đó thực sự là một nơi rất sáng tạo. Chỉ là DeepMind không phải là một tổ chức được thiết kế để giao sản phẩm;
Ngược lại, OpenAI rất khác ở khía cạnh này. Nhóm nghiên cứu và nhóm sản phẩm của chúng tôi hiện nay hợp tác rất chặt chẽ.
Chúng tôi cùng nhau hình dung ý tưởng, cùng nhau thiết kế chung nhiều thứ. Chúng tôi rất muốn đưa sản phẩm ra ngoài và rất muốn mọi người có thể sử dụng chúng. Tôi rất thích điều này. Đây cũng là điều thu hút tôi đến đây: sứ mệnh, nhân tài và mật độ nhân tài. OpenAI có quá nhiều điều tuyệt vời.
Người dẫn chương trình: Lúc anh tham gia LM Chat, anh đã biết nó rất đặc biệt, hoặc sẽ trở nên rất đặc biệt trong tương lai chưa?
Tibo: Thực sự cảm thấy rất đặc biệt. Mô hình đó khiến bạn lần đầu tiên nhận ra: nó có thể tạo ra văn bản mạch lạc và có thể cung cấp một số trợ giúp. Ban đầu, nó chỉ là trò giải trí, sau đó dần dần ngày càng hữu ích hơn.
Người dẫn chương trình: Anh nói anh thường nghĩ về điều đó, tôi rất hiểu. Tôi nghĩ Google đã tự cản trở mình trong nhiều khía cạnh. Anh đã học được những bài học nào từ đó và mang chúng đến OpenAI?
Tibo: Đúng vậy, đó là lý do tôi thường nghĩ về nó. Tôi sẽ suy nghĩ từ góc độ văn hóa nhóm cũng như văn hóa tổng thể của OpenAI: Những phần tốt nào cần giữ lại, những việc gì không nên làm.
Văn hóa của OpenAI rất từ dưới lên và rất trao quyền. Mọi người có thể đưa ra các ý tưởng khác nhau, tụ tập lại và nhanh chóng tung ra sản phẩm. Đối với các ý tưởng sản phẩm mới, nhìn chung hầu như không có sự cản trở nào. Điều này rất thú vị và rất vui; tất cả đều nhằm tích cực tác động đến thế giới. Việc giữ lại điều này rất quan trọng đối với tôi.
Một điều cũng quan trọng không kém là đừng để nó trở nên hỗn loạn, phải không? Bạn không muốn cuối cùng tạo ra một đống hỗn tạp: toàn là tính năng mới, nhưng không có định hướng tổng thể và tính nhất quán. Do đó, nó cũng cần được cân bằng bởi cảm giác đơn giản và tự hào về chất lượng sản phẩm.
Tôi nghĩ ứng dụng iOS của ChatGPT là một trong những ứng dụng tốt nhất trên thị trường. Chúng tôi muốn giữ điều đó. Chúng tôi đầu tư rất nhiều vào cảm giác hài lòng, hiệu suất, hiệu quả và sự đơn giản. Đây là những nguyên tắc chung, đồng thời vẫn trao quyền cho mọi người thử nghiệm những điều mới, giao hàng nhanh chóng.
Xây dựng văn hóa OpenAI
Người dẫn chương trình: Nếu muốn đưa ra lời khuyên cho các nhà khởi nghiệp, làm thế nào để nuôi dưỡng văn hóa như vậy? Những yếu tố hoặc phương pháp cụ thể hơn bên trong OpenAI mà anh sẽ khuyên các nhà khởi nghiệp học hỏi là gì?
Tibo: Tôi nghĩ, cần có niềm tin vững chắc; đồng thời cần tìm ra cách để vừa gần gũi với người dùng, vừa có thể lặp lại nhanh chóng dựa trên phản hồi. Hơn nữa, cần sẵn sàng tự đảo ngược chính mình. Điều này có thể không liên quan trực tiếp đến các nhà khởi nghiệp, nhưng lại liên quan nhiều đến một công ty như OpenAI.
Chúng tôi liên tục có nghiên cứu mới, ý tưởng mới; việc có thể đánh giá khi nào nên đầu tư vào chúng, ngay cả khi điều đó có nghĩa là có thể phải phân bổ lại nguồn lực từ hoạt động kinh doanh chính, là cực kỳ quan trọng. Điều này rất khó, nhưng thực sự rất quan trọng.
Người dẫn chương trình: Đúng vậy. Đây chính xác là điều anh vừa mô tả mà Google đã không làm được.
Tibo: Nói thật là họ có kế hoạch, nhưng mọi thứ đều thuộc một phần của một kế hoạch lớn hơn. Đối với tôi, đó không phải là nơi đúng đắn.
Người dẫn chương trình: Khi OpenAI hoặc bất kỳ công ty nào trưởng thành hơn, liệu việc duy trì văn hóa giao hàng nhanh chóng, sẵn sàng tự đảo ngược này có trở nên khó khăn hơn không? Đặc biệt là khi bạn đã có một nguồn thu tiền mặt ổn định, đồng thời lại có một thứ mới rất thú vị, rất sáng tạo ở phía bên kia.
Tibo: Chúng tôi rất hướng tới tương lai. Tương lai của AI, nó cuối cùng sẽ như thế nào, con người sẽ hưởng lợi như thế nào, sẽ không dừng lại để chờ đợi và cũng không quan tâm bạn đã xây dựng được gì trong tháng tới hoặc ba tháng tới.
Do đó, tôi nghĩ điều rất quan trọng là phải toàn tâm toàn ý và giữ thái độ cởi mở về hướng đi của nó, sau đó suy nghĩ kỹ về cách định vị bản thân, đảm bảo bạn có thể nắm bắt được làn sóng đó.
Ngay cả đối với OpenAI cũng vậy: chúng tôi huấn luyện mô hình, sau đó mới phát hiện ra khả năng của chúng. Các bài kiểm tra benchmark không thể nói lên tất cả.
Chúng tôi phải tự mình dành nhiều thời gian thử nghiệm mô hình, mới nhận ra: Ồ, có lẽ trước đây chúng tôi chưa nghĩ có thể sử dụng nó để hưởng lợi theo cách cụ thể này, hoặc ồ, nó thực sự có thể làm điều này.
Vì vậy, điều này sẽ thay đổi cách chúng tôi suy nghĩ về sản phẩm. Ví dụ như bây giờ, chúng tôi đã tung ra tính năng giọng nói mới, nó rất thú vị và giao tiếp rất tự nhiên. Nó còn có thể sử dụng công cụ.
Điều này thay đổi rất nhiều thứ. Bây giờ tôi sẽ dành nhiều thời gian hơn để trực tiếp nói chuyện với nó. Và một việc tôi vẫn luôn làm là ghi âm giọng nói, vì chất lượng ghi âm rất, rất tốt; so với việc nhập lệnh bằng cách gõ, cách này hiệu quả hơn nhiều.
Vì vậy, vào buổi sáng, tôi sẽ ngồi đó với điện thoại di động và nói một đoạn dài: "Hãy để ChatGPT làm một vài việc..." và sau đó nó sẽ hoàn thành; nó có thể truy cập tất cả các công cụ của tôi. Và điều này là không thể trước khi chúng tôi có mô hình giọng nói thực sự xuất sắc. Do đó, nó đột nhiên thay đổi hoàn toàn cách bạn suy nghĩ về sản phẩm.
Tương lai của AI Agent
Người dẫn chương trình: Được rồi, chúng ta tiếp tục nói về mô hình mới, harness (khuôn khổ vận hành agent) mới. Vài tuần trước, tôi muốn bắt đầu từ một bài đăng tuyệt vời khác của anh: "Codex sẽ trở nên thô sơ sau hai hoặc ba tháng nữa. Chúng ta sắp trải qua một sự tiến hóa quan trọng khác. Mô hình thế hệ tiếp theo cần nhiều hơn là chỉ chiếc máy tính xách tay của bạn." Vậy, hãy bắt đầu với harness. Khi mô hình trở nên mạnh hơn, những khía cạnh nào của harness vẫn còn nhiều không gian để đổi mới?
Tibo: Rất nhiều, thực sự rất nhiều. Ví dụ như giọng nói mà tôi vừa nói. Bây giờ, nếu bạn là người dùng nâng cao của Codex hoặc các agent lập trình khác, bạn đã quen với cảm giác không mượt mà đó rồi, phải không?
Bạn phải quản lý các file skill; đó là một cách dạy nó, nhưng tôi nghĩ nhiều người cũng nhận ra rằng việc duy trì lâu dài các file này khá khó khăn. Bộ nhớ cũng là một vấn đề: nó không phải lúc nào cũng nhớ hết mọi thứ; nếu bạn có agent con, bạn phải lo lắng về agent con, và phải xây dựng một mạng lưới nhỏ. Ở mọi giai đoạn tương tác với nó, ảo tưởng "nó là một đối tác hoàn chỉnh" này bị phá vỡ.
Điều bạn thực sự muốn chỉ là một thứ hiểu sâu sắc về bạn, hiểu mục tiêu của bạn, hiểu công việc hàng ngày của bạn, cũng như hiểu nhóm bạn đang làm gì. Lý tưởng nhất, nó cũng có thể phản ứng, chủ động hành động, giúp đỡ bạn trong cuộc sống hàng ngày và không phá vỡ ảo tưởng đó: nó chính là người bạn đồng hành hoàn hảo bên cạnh bạn. Đây chính là hướng chúng tôi đang hướng tới.
Một điều khác là, khi bạn có một mô hình rất, rất mạnh mẽ, bạn sẽ thấy chính chiếc máy tính xách tay cũng sẽ trở thành hạn chế. Khối lượng công việc mà một máy tính xách tay có thể đảm nhận được thiết kế cho con người.
Nó được thiết kế tương đối để chứa khối lượng công việc bạn có thể sản xuất, tốc độ đánh máy và suy nghĩ của bạn, số lượng ứng dụng bạn cần mở cùng một lúc - đây là những hạn chế của con người.
Mô hình không có cùng hạn chế đó. Ví dụ, có lẽ trong tương lai mô hình có thể xử lý đồng thời 100 ứng dụng đang mở, và hoàn toàn không có vấn đề gì. Do đó, từ góc độ truy cập tài nguyên, rõ ràng là mô hình trong tương lai sẽ cần nhiều tài nguyên hơn những gì một máy tính xách tay có thể cung cấp.
Người dẫn chương trình: Ý anh là, tôi đoán, agent trên đám mây? Và một khi có Ultra Fast mà chúng ta sẽ nói sau, tốc độ token được cho là nhanh hơn Fast từ 10 đến 14 lần, khi đó ràng buộc về băng thông sẽ thay đổi. CPU sẽ trở thành băng thông; theo nghĩa đen, việc gọi công cụ, mạng, bất kỳ công cụ nào và bất kỳ chi phí nào trong stack kỹ thuật đều sẽ trở thành yếu tố hạn chế.
Tibo: Tuy nhiên, bạn cũng có thể bù đắp bằng cách làm nhiều việc đồng thời. Bạn có thể vừa khám phá, vừa viết test, đồng thời biên dịch và xác minh một giả thuyết mới. Bằng cách này, bạn đang liên tục di chuyển vị trí nút thắt cổ chai, vì bạn có thể xử lý đồng thời nhiều việc hơn, và mô hình cũng có thể suy nghĩ và tiến triển rất hiệu quả, rất nhanh chóng.
Người dẫn chương trình: Với tốc độ token hiện tại, tôi thấy mình khởi động song song 10 đến 15 agent, điều này mang lại cho tôi gánh nặng nhận thức khá rõ ràng: liên tục chuyển đổi ngữ cảnh, liên tục khởi động chúng, và bạn có thể dự đoán một nhiệm vụ sẽ mất 30 đến 45 phút mới trả về.
Bây giờ với Ultra Fast, luồng công việc này sẽ thay đổi đáng kể; tôi nghĩ mình sẽ không chạy 10 hoặc 15 agent cùng lúc nữa, điều này có lẽ là tốt. Có lẽ chỉ cần ba hoặc bốn agent mỗi lần. Anh nghĩ luồng công việc của các nhà phát triển độc lập sẽ thay đổi như thế nào theo thời gian?
Tibo: Tôi nghĩ rằng, việc quản lý sự chú ý của bạn, làm cho trải nghiệm phù hợp hơn với sự chú ý của bạn, là điều chúng tôi rất coi trọng.
AI thay đổi luồng công việc của nhà phát triển như thế nào
Tibo: Cuối cùng, chúng tôi đang xây dựng sản phẩm cho con người. Chúng tôi muốn xây dựng công nghệ trao quyền tốt nhất cho con người, điều này đòi hỏi thiết kế xung quanh khả năng đa nhiệm của bạn: Bạn muốn quản lý sự chú ý như thế nào? Một việc nên được trình bày cho bạn ngay bây giờ, hay 30 phút sau sẽ tốt hơn?
Và khi tốc độ Ultra Fast kết hợp với giọng nói, bạn sẽ đột nhiên cảm thấy: Được rồi, thứ này có thể chạy nhanh như tôi, thậm chí nhanh hơn.
Vì vậy, bạn có thể giữ được trạng thái dòng chảy tâm trí, liên tục hình dung ý tưởng, xem nguyên mẫu, tạo báo cáo nhỏ theo thời gian thực, cảm giác đó thực sự rất tốt. Bạn sẽ đột nhiên cảm thấy: Đúng vậy, cách tôi từng chạy đa nhiệm 10 agent trước đây, tôi thực sự không muốn quay lại cách đó nữa.
Vì vậy chúng tôi đang nỗ lực mang lại trải nghiệm rất tự nhiên và đồng thời dường như được thiết kế riêng cho bạn, bạn không cần phải thích ứng với nó, mà để công nghệ thích ứng với bạn.
Người dẫn chương trình: Trong vài tháng qua, mọi người đã thảo luận nhiều về công nghệ lập trình kiểu agent. Loops từng rất phổ biến, bây giờ vẫn phổ biến; hiện nay tôi lại nghe nói về graphs. Những công nghệ này có phải đều là để giúp các nhà phát triển độc lập có thể quản lý sự chú ý, hoặc như anh nói, thân thiện hơn với sự chú ý không? Tôi thích cách diễn đạt đó.
Tibo: Tôi sẽ chia vấn đề thành hai loại. Loại thứ nhất, là xây dựng AGI cá nhân tốt nhất, hay nói cách khác là agent cá nhân: nó có thể cùng bạn trong trạng thái dòng chảy, chủ động đưa ra những ý tưởng mới quan trọng; một khi tìm thấy cơ hội, nó sẽ làm việc rất hiệu quả theo ý định của bạn.
Cho dù là vấn đề kỹ thuật, hay nghiên cứu, đề xuất, nó đều có thể hoàn thành và có thể phù hợp cao với bạn. Đây là điều rất quan trọng, nó bắt nguồn sâu sắc từ sự hiểu biết về bạn với tư cách là một con người, một cá nhân độc đáo. Chúng tôi đang thúc đẩy mạnh mẽ loại vấn đề này.
Loại vấn đề khác là tự động hóa toàn diện: bạn chủ yếu đang xây dựng các hệ thống thông minh, để chúng tiếp quản một quy trình rất phức tạp. Có lẽ loại quy trình này cần, hoặc từng cần trí thông minh và trông có vẻ rất phức tạp.
Ví dụ, xem nhật ký sản xuất và tự động tối ưu hóa hiệu suất, hoặc tự động sửa lỗi khi phát hiện vấn đề hồi quy. Trong an ninh mạng, chúng tôi cũng thấy xu hướng này:
Ví dụ, khi máy quét phát hiện một lỗ hổng, liệu có thể tự động vá nó và rút ngắn thời gian cửa sổ lỗ hổng này gần như bằng 0, không để con người tham gia vào vòng lặp đó, hoặc chỉ để con người tham gia rất ít; bạn chỉ cần phê duyệt các hành động rủi ro cao, phần chính của hệ thống vẫn là tự động. Lúc này bạn cũng không cần giữ quyền kiểm soát trực tiếp nhiều như vậy với nó.
Người dẫn chương trình: Tôi hiểu.
Sự hòa nhập của ChatGPT và Codex
Người dẫn chương trình: Vậy thì, tôi muốn thay đổi chủ đề một chút. Vài tháng qua, ChatGPT và Codex đã đi trên con đường hòa nhập.
Trước tiên tôi muốn hỏi: Tiến trình này diễn ra như thế nào? Cảm giác bên trong là gì? Anh đã nhận được phản hồi gì từ người dùng?
Tibo: Nó thực sự mang lại lợi ích rất lớn. Ban đầu chúng tôi nhận được phản hồi: "Tại sao lại hợp nhất chúng? Có thực sự phải làm vậy không?" Nhưng mô hình trong tương lai yêu cầu chúng tôi hợp nhất.
Vì vậy, chúng tôi sẽ làm điều đó, vì đây là cách đơn giản nhất và đúng đắn nhất để xây dựng agent cá nhân hóa cao, siêu mạnh mẽ, có thể giúp bạn theo nhiều cách khác nhau.
Công nghệ cơ bản của chúng sẽ là cùng một bộ: cùng một harness, cùng một cách suy nghĩ. Nó đa phương thức cao, ưu tiên giọng nói, cực kỳ hiệu quả; cho dù bạn có đang lập trình hay không cũng không quan trọng. Agent này có thể làm mọi thứ và cực kỳ hiệu quả.
Giao diện bạn muốn sẽ được điều chỉnh dựa trên nhu cầu của bạn. Bạn không nên quyết định trước "Tôi là lập trình viên, vì vậy tôi muốn một giao diện dành cho lập trình viên", hoặc "Tôi không biết kỹ thuật, vì vậy tôi muốn một giao diện phi kỹ thuật".
Mọi người nằm trong một phổ liên tục; các nhãn như kỹ sư phần mềm, nhà thiết kế, chỉ là những khái niệm con người tạo ra để đối phó với thực tế quá phức tạp.
Bởi vì cuối cùng, mỗi người đều ở các vị trí khác nhau trên phổ đó. Vì vậy chúng tôi muốn xây dựng một giao diện hoàn hảo có thể thích ứng với từng người. Cho dù bạn có biết kỹ thuật hay không, nó sẽ điều chỉnh theo cá tính cụ thể của bạn. Đây là lý do chúng tôi làm như vậy.
Người dẫn chương trình: Tuy nhiên, điều này có nghĩa là cuối cùng chắc chắn sẽ trở thành một giao diện thống nhất? Không còn menu thả xuống để chọn các sản phẩm khác nhau? Thật khó tin khi nghĩ rằng mẹ tôi có thể sử dụng giao diện giống hệt tôi.
Tất nhiên, nó sẽ được tùy chỉnh theo nhu cầu của tôi. Nếu tôi đang làm công việc phức tạp hơn, có thể cần nhiều thông tin hơn. Nhưng đối với anh, hình thái cuối cùng là gì?
Tibo: Đúng vậy, chính là cùng một thứ. Bạn và mẹ bạn sẽ sử dụng cùng một thứ. Nó sẽ là AGI cá nhân của mỗi người. Các bạn sẽ có nhiệm vụ rất khác nhau, nhận được lợi ích khác nhau từ nó, cũng sẽ kết nối nó với các công cụ khác nhau trong cuộc sống, mang lại ý tưởng và nhu cầu khác nhau. Sau đó nó sẽ liên tục điều chỉnh để mang lại lợi ích tối đa cho bạn. Nó cũng sẽ phục vụ bạn bè của bạn và tất cả mọi người khác theo cách tương tự.
Tương lai của tương tác giữa người và máy
Người dẫn chương trình: Tôi muốn quay lại một điểm anh vừa nói. Anh đã nhiều lần dùng từ "ảo tưởng" khi mô tả trạng thái cuối cùng. Đối với người dùng phổ thông, "ảo tưởng" hoàn hảo đó là gì? Nếu anh hình dung vài năm sau, tương tác giữa AI và con người sẽ như thế nào?
Tibo: Đối với tôi, nó sẽ là một thứ cực kỳ phù hợp với con người. Đây cũng là lý do mô hình ngôn ngữ lớn thành công: nó sử dụng ngôn ngữ tự nhiên. Ngôn ngữ tự nhiên vốn là khái niệm của con người, phải không? Chúng ta quen nói chuyện với nhau. Nếu ngày mai bạn viết cho tôi một lá thư, tôi có thể đọc được. Bây giờ chúng ta đã khá hiểu nhau. Vì vậy, nếu bạn viết cho tôi một lá thư, tôi còn có thể hiểu một chút cảm xúc, có lẽ còn một chút ý nghĩa ẩn giữa các dòng chữ. Tất cả điều này bắt nguồn sâu xa từ bản chất con người.
Vì vậy, công nghệ chúng tôi đang xây dựng bắt nguồn từ con người, và cũng bắt nguồn từ cách giao tiếp và hoàn thành công việc của con người. Nó không nên khiến bạn nói: "Ồ, bạn hiểu lầm tôi rồi, vì bạn không đọc hoàn toàn ý nghĩa tinh tế trong giọng điệu của tôi, hoặc không hoàn toàn hiểu ý tôi thực sự muốn nói trong văn bản."
Đây chính xác là điều chúng tôi đang nỗ lực tránh. Vì vậy, chúng tôi rất nỗ lực để bạn không phải thích ứng với công nghệ, mà để công nghệ được tạo ra vừa phải, trở thành phần mở rộng tự nhiên của cách thức con người vốn hành động trong thế giới.
Người dẫn chương trình: Tôi nghĩ đến giao tiếp giữa người với người, trong đó rất nhiều là phi ngôn ngữ. Ví dụ như cách tôi cử chỉ, biểu cảm khuôn mặt. Anh nghĩ trong tương lai AI sẽ cảm nhận hoặc đọc những thông tin này qua thị giác ở mức độ nào?
Điều này có quan trọng không? Vì những gì anh đang mô tả bây giờ dường như chỉ là văn bản. Còn đối với những người lớn lên trên internet như chúng tôi, chúng tôi rất quen giao tiếp qua văn bản, và cũng sẽ thêm các biến thể tinh tế vào văn bản để truyền tải giọng điệu mà chúng tôi thực sự muốn thể hiện. Tuy nhiên, AI vẫn cần thiết phải có khả năng đọc biểu cảm khuôn mặt, cử chỉ của chúng ta v.v. không?
Tibo: Tôi nghĩ là có cần thiết. Khi tôi nghĩ về tương lai chúng tôi đang xây dựng, nó sẽ rất mang tính môi trường và cũng rất tự nhiên.
Ví dụ ngày mai, hoặc sau này, tôi đến văn phòng, viết gì đó lên bảng trắng, nảy ra một ý tưởng; nó cũng nên có mặt, hiểu tất cả điều này. Hoặc tôi nói với nó: "Này, bạn nghĩ gì về việc này?" và sau đó chúng tôi trò chuyện tự nhiên qua giọng nói. Kể từ khi chúng tôi tung ra tính năng giọng nói ChatGPT mới, nó thực sự đã lan rộng nhanh chóng. Hiện nay, số lượng người dùng chỉ tương tác với ChatGPT qua giọng nói đang tăng trưởng nhanh chóng.
Tôi nghĩ bài học ở đây là: mỗi lần bạn tiến gần hơn đến hướng tự nhiên, con người sẽ chọn con đường có ít cản trở nhất. Như anh nói, gõ chữ trong một ô nhỏ, có thể tự nhiên với một số người, nhưng không phải ai cũng vậy. Và một khi có một cách dễ dàng hơn một chút, tốt hơn một chút, mọi người sẽ có xu hướng sử dụng nó.
OpenAI và Anthropic
Người dẫn chương trình: Được rồi. Trước tiên chúc mừng anh, tôi thấy anh đăng bài sáng nay nói rằng Codex đã đạt 20 triệu người dùng. Tôi đã xem biểu đồ đó, ban đầu là như vậy, sau đó đột nhiên tăng thẳng đứng. Xin chúc mừng.
Tôi muốn nói về cạnh tranh với Anthropic, bởi vì, nhiều người cho rằng OpenAI và Anthropic hiện là hai đối thủ cạnh tranh chính trong ngành. Đã có một thời gian, Anthropic có thể nói là đã thu hút sự chú ý của mọi người, phải không? Lúc đó họ thực sự chiếm ưu thế, sau đó đột nhiên mọi thứ thay đổi. Trước tiên hãy nói xem: Anh nhìn thị trường ngày nay như thế nào?
Tibo: Hiện tại, điều chúng tôi thực sự tập trung là xây dựng mô hình mạnh nhất, xây dựng mô hình hiệu quả cao và tự hào xây dựng sản phẩm cho tất cả mọi người. Tôi nghĩ OpenAI có một điểm làm rất tốt: quan tâm đến thế giới này và quan tâm đến việc chúng tôi giao công nghệ cực kỳ mạnh mẽ này cho càng nhiều người càng tốt. Đây cũng là điều chúng tôi đã làm khi hợp nhất Codex và ChatGPT.
Chúng tôi muốn: vì sở hữu công nghệ này, hãy làm cho nó an toàn hơn, dễ dàng hơn cho mọi người sử dụng. Cho dù bạn là quản lý sản phẩm, nhà thiết kế, hay người bán hàng, tiếp thị, quan hệ công chúng, bạn cũng nên có thể sử dụng toàn bộ khả năng của nó. Sau đó, chúng tôi phân phối nhanh chóng thông qua ChatGPT, bởi vì vốn đã có một lượng lớn người dùng ở đó. Điều này cũng thúc đẩy sự tăng trưởng nhanh chóng mà bạn đề cập.
Tôi thường không quá quan tâm đến đối thủ cạnh tranh; điều tôi thực sự quan tâm là: Chúng tôi có điều gì có thể làm tốt một cách độc đáo, giá trị của chúng tôi là gì, và làm thế nào để tiến nhanh nhất về hướng đó.
Người dẫn chương trình: Tôi hiểu. Tôi muốn đi sâu hơn một chút. Tôi biết anh không nghĩ nhiều về Anthropic, nhưng nhiều người khác sẽ nghĩ: Tôi tin vào sản phẩm nào? Tôi sẵn sàng trả 2200 đô la cho sản phẩm nào? Từ định vị thị trường, thương hiệu, giọng điệu của OpenAI, cũng như cách nó tương tác với nhà phát triển và đối tượng rộng hơn, anh cảm thấy điều này so với cách làm của Anthropic như thế nào?
Tibo: Một lần nữa tôi muốn nói, tôi rất quan tâm đến việc xây dựng cộng đồng cho thế giới, đưa mọi người cùng tiến. Tôi nghĩ bạn có thể cảm nhận điều này từ cách chúng tôi làm việc: ví dụ chúng tôi rất minh bạch về nhiều việc, và cũng thu nhận nhiều ý tưởng từ cộng đồng. Thành thật mà nói, điều này bản thân nó cũng rất thú vị, vì chúng tôi cũng nhận được rất nhiều năng lượng từ đó.
Và công nghệ chúng tôi đang xây dựng, không chỉ xây dựng cho chính chúng tôi; cũng không chỉ để đẩy nhanh OpenAI. Nó rất quan trọng. Sứ mệnh rất quan trọng, vì vậy đây cũng là nơi chúng tôi nhận được năng lượng. Theo quan điểm của tôi, điều này rất thực tế và cũng rất thú vị; và từ đó những điều tốt đẹp xảy ra.
Người dẫn chương trình: Vậy chúng ta hãy nói về những điều tốt đẹp đó, tôi muốn nói về việc reset......
Tại sao OpenAI tiếp tục reset hạn mức
Người dẫn chương trình: Tôi biết, mọi người dường như đang theo dõi mọi tweet của anh. Quay lại đường cong tăng trưởng của Codex: câu hỏi này có thể hơi ngớ ngẩn, nhưng có bao nhiêu phần trăm trong số những "reset" này đang thúc đẩy marketing và tăng trưởng, và bao nhiêu phần trăm chỉ là thiện chí với cộng đồng nhà phát triển?
Tibo: Tôi nghĩ điều này có lẽ hơi phản trực giác, nhưng OpenAI là nơi mọi người có thể trực tiếp bắt đầu làm việc. Vì vậy, ban đầu, khi chúng tôi lặp lại, thỉnh thoảng làm hỏng thứ gì đó, hoặc một cấu hình nào đó không đạt kỳ vọng, việc bồi thường là điều rất tự nhiên.
Ý tưởng lúc đó là: Cảm ơn bạn đã thử sản phẩm này. Chúng tôi biết mình đang nỗ lực rất nhiều để làm tốt nó; nó vẫn ở giai đoạn đầu. Vì chúng tôi vừa làm nó hỏng khoảng 30 phút, nên hãy cho bạn thêm một số hạn mức sử dụng. Chúng tôi hiểu nó quan trọng và biết bạn phụ thuộc vào nó; cảm ơn bạn đã là người dùng. Đây là điểm khởi đầu ban đầu của sự việc.
Bây giờ tôi vẫn nhìn nhận nó như vậy: Nếu chúng tôi làm hỏng nó, hoặc trải nghiệm không lý tưởng, và chúng tôi chưa hoàn toàn tìm ra nguyên nhân, chúng tôi sẽ bồi thường cho người dùng. Chúng tôi sẽ reset hạn mức sử dụng. Rõ ràng điều này sau đó đã phát triển thành một việc được chú ý khá nhiều - thậm chí bây giờ còn có một nút reset chuyên dụng.
Và thực ra không có nhiều thủ tục phê duyệt phức tạp đằng sau việc này. Nó không phải là quyết định hợp tác với nhóm thị trường hoặc nhóm tài chính; miễn là tôi muốn nhấn, tôi có thể nhấn nút đó bất cứ lúc nào. Nguyên tắc của chúng tôi là: Chúng tôi muốn tạo ra những thứ tuyệt vời; khi nó không làm được, chúng tôi sẽ bồi thường.
Người dẫn chương trình: Tôi vẫn nghĩ rằng, điều này thực sự đã tích lũy rất nhiều thiện chí cho cộng đồng, ít nhất là một phần thúc đẩy tăng trưởng. Việc thực sự quan tâm đến người dùng là quan trọng, phải không? Bạn có thể nói rằng mình quan tâm, hoặc thực sự quan tâm: Nếu chúng tôi làm hỏng, xin lỗi; đây là cách chúng tôi bù đắp.
Điều này khiến tôi nhớ đến chính sách hoàn trả của Amazon: Miễn là bạn không hài lòng bất cứ điều gì, cứ thoải mái hoàn trả. Các bạn dường như cũng đang xây dựng cùng một văn hóa, cùng một nhận thức cho OpenAI: Nếu chúng tôi mắc lỗi, hãy sử dụng lại những token đó một lần nữa, hoặc cung cấp cho bạn một loạt token mới.
Tibo: Tôi rất biết ơn cách nói của anh. Ngoài ra cũng có một số khoảnh khắc tốt đẹp đáng ăn mừng, đáng ghi nhận. Chúng tôi luôn phát hành các tính năng mới và tung ra càng rộng rãi càng tốt; nhưng để chia sẻ điều gì đó có ý nghĩa với toàn bộ cộng đồng, không có gì phù hợp hơn là: Hãy khám phá tính năng mới này đi. Ví dụ, bạn chưa sử dụng Ultra Fast, vậy hãy cho bạn thêm một số hạn mức, thử xem.
Người dẫn chương trình: Tôi nghe nói bây giờ thực sự có một nút vật lý?
Tibo: Vâng, thực sự có.
Người dẫn chương trình: Được rồi, sau đó anh phải cho tôi xem.
Tibo: Tôi sẽ cho anh xem, nó thực sự rất ngầu.
Người dẫn chương trình: Nhưng để thực hiện reset nhiều lần như vậy, rõ ràng chỉ có thể nếu các anh đã lên kế hoạch công suất tính toán lớn.
Hiệu suất AI và năng lực tính toán
Người dẫn chương trình: Các anh phải có đủ năng lực tính toán để hỗ trợ tất cả những lần reset này. Tôi muốn nhân cơ hội này nói về việc tự cải tiến: vài tuần trước - tôi nghĩ là vài tuần trước - các anh đã xuất bản một bài viết nói rằng Sol đã tối ưu hóa hiệu suất của Luna. Các anh đã giảm giá Luna 80%; giá của Terra cũng giảm. Việc giảm giá của Luna, bao nhiêu phần trăm là từ việc nâng cao hiệu suất thực sự? Và bao nhiêu phần trăm là vì các anh đã lập kế hoạch công suất tính toán tốt, biên lợi nhuận tốt, nên có thể giảm giá và để nhiều người sử dụng hơn? Nói cách khác, tiến bộ thuật toán và lập kế hoạch chiến lược mỗi thứ chiếm bao nhiêu?
Tibo: Chúng tôi bắt đầu lập kế hoạch năng lực tính toán từ rất sớm. Nhìn lại hai năm trước, tôi nghĩ lúc đó OpenAI đã từng bị chất vấn vì đầu tư nhiều như vậy vào năng lực tính toán.
Người dẫn chương trình: Đó là một sự đặt cược điên rồ và xuất sắc.
Tibo: Đúng vậy. Bây giờ chúng tôi rất biết ơn vì có những năng lực tính toán này. Một phần lớn năng lực tính toán được dùng cho nghiên cứu, đầu tư vào tương lai của chúng tôi, các mô hình ngày càng tốt hơn và hiệu suất của các mô hình hiện có.
Và một điều đáng kinh ngạc đang xảy ra là: Khi chúng tôi thúc đẩy ranh giới khả năng của các mô hình tiên tiến nhất, chúng tôi có thể sử dụng những mô hình này để rất nhanh chóng tìm ra cách cung cấp dịch vụ, cách tái cấu trúc hoặc kỹ thuật lại toàn bộ stack kỹ thuật, từ đó đạt được cải tiến hiệu suất hoặc hiệu quả cực kỳ đáng kể. Chúng tôi không chỉ cải thiện hiệu quả chi phí - nội dung liên quan chúng tôi cũng sẽ công bố - mà còn cải thiện hiệu suất tốc độ.
Không kể đến Ultra Fast, tốc độ tổng thể liên tục tăng lên đáng kể. Nếu vẽ thành biểu đồ, bạn sẽ thấy tốc độ hiện tại nhanh hơn khoảng 60% so với ba tháng trước. Chúng tôi đang lần lượt giải quyết từng phần của stack kỹ thuật, đảm bảo chúng được thiết kế và triển khai kỹ thuật tối ưu cho khối lượng công việc của chúng tôi. Và các mô hình mạnh nhất của chúng tôi chính là chìa khóa để một nhóm nhỏ cũng có thể hoàn thành những công việc này.
Vì vậy, mỗi khi chúng tôi đạt được cải thiện hiệu suất rất đáng kể, đặc biệt là cải thiện hiệu quả chi phí, cam kết của chúng tôi là: Duy trì hiệu suất và chi phí đều ở tiền tuyến. Chúng tôi sẽ không chỉ giữ lại lợi ích đó, mà sẽ chia sẻ nó với khách hàng và người dùng; đây chính là điều chúng tôi đã làm với Luna.
Người dẫn chương trình: Nội bộ, khi các anh cần phân bổ năng lực tính toán giữa nghiên cứu mô hình mới, cải thiện hiệu suất của mô hình hiện có và suy luận, cuộc thảo luận thường diễn ra như thế nào? Sự căng thẳng đó là gì?
Tibo: Chúng tôi thường xuất phát từ nguyên lý đầu tiên. Chúng tôi sẽ phân bổ một phần năng lực tính toán cho nghiên cứu, một phần cho sản phẩm; trong sản phẩm, lại có các loại đánh đổi khác nhau. Nhưng lần này hầu như không phải là sự đánh đổi, vì cải thiện hiệu suất đã đạt được. Do đó về cơ bản chúng tôi có thể sử dụng cùng quy mô năng lực tính toán để hỗ trợ tăng trưởng thông lượng rất đáng kể.
Cải tiến đệ quy
Người dẫn chương trình: Vài tháng trước, trước bài viết về giảm giá đó, tôi đã thấy một bài blog, nói rằng một mô hình đang huấn luyện mô hình tiếp theo, hoặc giúp tối ưu hóa mô hình tiếp theo. Sau đó lại thấy Sol xem xét cách thức hoạt động của Luna và thực hiện những cải thiện hiệu suất này. Theo tôi, điều này giống như cải tiến đệ quy vẫn ở giai đoạn rất sớm. Anh nghĩ sao? Đây có phải là điều đang xảy ra không?
Tibo: Vâng, tôi nghĩ cải tiến đệ quy rõ ràng là một chủ đề lớn hiện nay. Mọi người thường sử dụng nó cho nghiên cứu, ví dụ để mô hình phát triển các mô hình khác.
Nhưng những trường hợp thành công lớn mà chúng tôi thấy là: Sử dụng các mô hình này để phát triển cơ sở hạ tầng hỗ trợ việc sử dụng mô hình và nằm trên đường dẫn quan trọng; điều này cũng là một dạng cải tiến đệ quy. Chúng vốn là một hệ thống lớn, bao gồm stack suy luận, các kernel cấp thấp hơn và khó tối ưu hóa hơn - các kernel CUDA chúng tôi sử dụng; cũng bao gồm phát triển các sản phẩm mới hiệu quả hơn và các cách tương tác mới với mô hình.
Anh đã đề cập đến agent trên đám mây. Nếu chúng tôi thực sự giải quyết được agent trên đám mây, bản thân con người cũng sẽ ngay lập tức trở nên hiệu quả hơn. Điều đó có được tính là cải tiến đệ quy không? Bởi vì bạn sẽ có khả năng cao hơn để nhận được lợi ích từ chúng. Tôi nghĩ theo một nghĩa nào đó là có, nhưng nó liên quan nhiều hơn đến cơ sở hạ tầng và khả năng áp dụng lại năng lực đó cho chính nó.
Tất nhiên, chúng tôi đang làm điều này; nếu không làm, tôi nghĩ ngược lại là rất không khôn ngoan.
Tạm dừng huấn luyện AI tiên phong
Người dẫn chương trình: Vì đang nói về cải tiến đệ quy, tôi muốn hỏi: Tôi nhớ Sam Altman của OpenAI đã nói rằng, hiện đang tạm dừng huấn luyện RL tiên phong nhất. Anh có thể nói về việc này không? Quyết định này được đưa ra như thế nào? Tôi biết chúng ta đã nói ngắn gọn về sự kiện Hugging Face, nhưng điều gì đã được cân nhắc khi đưa ra quyết định này? Cuộc thảo luận diễn ra như thế nào?
Tibo: Việc này chủ yếu thuộc phạm vi nghiên cứu. OpenAI luôn có thể hướng nguồn lực đến những nơi quan trọng nhất. Khi khả năng mô hình tăng lên, rõ ràng, tầm quan trọng của việc alignment và an toàn cũng tăng lên. Vì vậy, việc đầu tư nguồn lực lớn vào khía cạnh này, đối với OpenAI là tự nhiên và cũng là cam kết vững chắc của họ.
Chúng tôi đang thấy sự gia tăng đáng kể trong đầu tư vào lĩnh vực này. Việc tạm dừng huấn luyện, ở một mức độ nào đó, cũng là cần thiết: để các nhóm và cá nhân thực sự hiểu và củng cố từng phần của hệ thống. Bằng cách này mới có thể đảm bảo khi chúng tôi khôi phục huấn luyện, có thể khởi động lại với trạng thái kiểm soát hoàn toàn. Tôi tin rằng, bất cứ khi nào cần thiết, OpenAI trong tương lai cũng sẽ tiếp tục làm như vậy. Tôi chưa từng thấy chúng tôi không thể đưa ra loại quyết định này một cách hiệu quả nội bộ.
Người dẫn chương trình: Lúc đó có thiết lập mục tiêu rõ ràng không - phải đạt đến một điểm nào đó mới có thể dỡ bỏ tạm dừng? Hay là, khi thấy thì sẽ biết?
Tibo: Việc này do nhóm an toàn phụ trách. Đối với họ, nó vừa là một cuộc thảo luận đầy đủ, vừa là một quá trình vừa tiến vừa khám phá. Nhưng cuối cùng, họ thực sự đã hình thành một bộ nguyên tắc khá rõ ràng: Khi những nguyên tắc này được đáp ứng, chúng ta đang ở một vị trí tốt.
Người dẫn chương trình: Tôi muốn quay lại chế độ Ultra Fast.
Khả năng mà Ultra Fast mang lại
Người dẫn chương trình: Tôi cảm thấy mọi người chưa hiểu đầy đủ tốc độ này sẽ mở khóa những khả năng gì. Trước tiên hãy nói: Nội bộ, có những trường hợp sử dụng nào trước đây không thể thực hiện được nếu không có tốc độ token mỗi giây này?
Tibo: Chúng tôi thấy nó được sử dụng rất nhiều trong các kịch bản rủi ro cao. Ví dụ, khi xảy ra sự cố, người chỉ huy sự cố và nhóm ứng phó sẽ được cấp quyền sử dụng Ultra Fast, vì mỗi giây đều quan trọng. Vì vậy, trong các kịch bản rủi ro cao thực sự, chúng tôi sử dụng Ultra Fast.
Còn một hiện tượng khá thú vị: Các nhóm đang làm những việc cực kỳ quan trọng, hoặc tin rằng mình đang làm những việc cực kỳ quan trọng, cũng luôn xin sử dụng Ultra Fast.
Người dẫn chương trình: Pets cũng được tính là kịch bản này không?
Tibo: Pets vẫn chưa phải là đặc biệt quan trọng. Nhưng tôi rất yêu Pet của mình, nó luôn ở trên màn hình của tôi. Khi bạn đi lại trong văn phòng, bạn sẽ thấy Pet trên màn hình của mọi người; khi họ tham gia cuộc họp video, Pet cũng luôn xuất hiện. Mỗi lần tôi thấy đều cảm thấy vui vẻ, đều mang lại niềm vui.
Tibo: Nhưng hiện tại Codex Pets vẫn chưa phải là quan trọng. Chúng tôi chắc chắn sẽ duy trì nó và chăm sóc tốt cho Pets của chúng tôi. Tuy nhiên, nếu ai đó đang thực hiện một ý tưởng mới và nói: "Tôi thực sự nghĩ điều này có thể rất đặc biệt, phải thử xem; nhưng chúng ta phải quyết định vào thứ Hai liệu có đưa nó vào DevDay không." Vậy thì tất nhiên có thể sử dụng Ultra Fast.
Người dẫn chương trình: Mọi người có sở thích khác nhau về việc thích làm việc đơn luồng hay thích xử lý đa nhiệm nhiều. Đối với những người thích xử lý đa nhiệm nhiều, lợi ích của Ultra Fast không lớn lắm; nhưng một số người không thích liên tục chuyển đổi ngữ cảnh. Anh ở đầu nào của phổ này?
Tibo: Tôi có ADHD, vì vậy tôi luôn chuyển đổi ngữ cảnh.
Người dẫn chương trình: Thú vị, tôi cũng có ADHD, nhưng thực ra tôi không muốn liên tục chuyển đổi ngữ cảnh; điều đó rất khó với tôi. Tôi muốn tập trung vào hai hoặc ba việc, đó cũng là lý do tại sao tôi rất hào hứng với Ultra Fast. Rất thú vị, anh lại hoàn toàn ngược lại ở điểm này.
(Chú thích: ADHD (Rối loạn tăng động giảm chú ý) là một sự khác biệt về phát triển thần kinh liên quan đến chức năng điều hành của não bộ, biểu hiện bằng khó khăn trong việc duy trì tập trung chú ý, kiểm soát xung động hoặc điều chỉnh mức độ hoạt động, từ đó ảnh hưởng đến học tập, công việc và cuộc sống hàng ngày.)
Tibo: Tôi cảm thấy thoải mái khi chuyển đổi ngữ cảnh và đưa ra nhiều quyết định nhỏ. Nhưng đôi khi tôi cũng muốn tập trung vào một việc; lúc này Ultra Fast rất thú vị, vì nó giúp bạn luôn ở trong trạng thái dòng chảy tâm trí.
Ultra Fast hoạt động rất tốt khi không có quá nhiều lời gọi công cụ, hoặc khi cần tạo ra nhiều ngữ cảnh. Ví dụ, bạn muốn nhanh chóng tạo nguyên mẫu của một trang web hoặc trò chơi điện tử, cần nó viết nhiều code, nó sẽ hoàn thành rất nhanh - khoảng nhanh hơn 10 lần. Nhưng nếu có nhiều lời gọi công cụ, chi phí nằm ở nơi khác trong mạng hoặc ở vị trí khác trong quỹ đạo thực thi của agent, thì bạn sẽ chỉ cảm thấy tăng tốc khoảng 3 hoặc 4 lần, chứ không nhận được mức tăng 14 lần đầy đủ.
Người dẫn chương trình: Tôi biết nhân viên OpenAI có token không giới hạn; tôi nghĩ nếu là tôi, tôi sẽ luôn kéo cài đặt lên tối đa, chọn GPT-5.6 Sol hoặc bất kỳ mô hình mới nhất nào. Khi chi phí không nằm trong cân nhắc của tôi, tôi sẽ nghĩ: Được rồi, trực tiếp kéo lên tối đa. Tôi cũng luôn muốn bật Ultra Fast. Nội bộ cũng vậy sao?
Tibo: Chúng tôi không cung cấp Ultra Fast cho tất cả mọi người; chúng tôi dành phần lớn dung lượng cho người dùng và khách hàng bên ngoài. Nhân viên OpenAI có khả năng, có dung lượng để tiêu thụ toàn bộ năng lực tính toán - nuốt chửng tất cả GPU sản xuất của chúng tôi, tất cả dung lượng Ultra Fast; họ sẽ sử dụng hết nó.
Nhưng chúng tôi sẽ không làm như vậy. Chúng tôi sẽ hạn chế theo một cách nào đó, cân nhắc mức độ nào là hợp lý đối với chúng tôi. Chúng tôi cũng sẽ sử dụng nó, để có thể hiểu sản phẩm, liên tục cải thiện sản phẩm và hưởng lợi từ cải tiến đệ quy; nhưng phần lớn dung lượng vẫn dành cho khách hàng.
Người dẫn chương trình: Được rồi, điều đó tốt, cảm ơn anh. Bên ngoài OpenAI, còn có những trường hợp sử dụng nhạy cảm với độ trễ nào khác, khiến anh mong đợi nhất về khả năng mà tốc độ này có thể mở khóa?
Tibo: Rất thú vị. Nhìn chung, một điều tôi đặc biệt hào hứng là tương tác phi văn bản. Ví dụ, có thể thao tác trên một canvas chia sẻ không? Có thể tạo ra thứ gì đó không? Có thể tạo ý tưởng, tạo các hình ảnh khác nhau, sau đó chọn một trong số chúng không?
Đó là trải nghiệm kiểu "Chọn cuộc phiêu lưu của riêng bạn": nhanh chóng có được một mockup nguyên mẫu có thể thao tác, sau đó dẫn dắt nó bằng giọng nói hoặc văn bản theo thời gian thực và ngay lập tức thấy kết quả. Tôi nghĩ tốc độ này làm cho quá trình sáng tạo này trở nên khả thi.
Là một kỹ sư, đôi khi bạn ngồi xuống nghĩ: Tôi cần thiết kế toàn bộ hệ thống, cân nhắc các đánh đổi và yêu cầu; nhưng có lẽ bạn có thể làm ra nó trong một phút, xem nó thực sự hoạt động như thế nào, sau đó đi sâu hơn vào dòng chảy, hiểu rõ hơn những thứ bên trong. Tôi nghĩ tốc độ này thực sự có thể mang lại nhiều thay đổi.
Người dẫn chương trình: Vậy tôi đoán giá của Ultra Fast sẽ cao hơn đáng kể so với tốc độ thông thường.
Ultra Fast sẽ trở thành chế độ mặc định?
Người dẫn chương trình: Anh nghĩ Ultra Fast sẽ trở thành tốc độ tiêu chuẩn, hay sẽ luôn có một mức giá cao hơn?
Tibo: Đây là một câu hỏi thú vị. Tôi nghĩ rằng, giống như con đường phát triển thông thường của công nghệ, nó sẽ ngày càng trở nên phổ biến và dễ tiếp cận hơn theo thời gian. Tốc độ agent hoàn thành nhiệm vụ sẽ tiếp tục tăng lên, và chúng tôi đang thấy sự cải thiện lớn xuất hiện hàng tháng. Đây không chỉ là tốc độ suy luận, mà còn bao gồm hiệu quả sử dụng token của mô hình.
Hiệu quả token của Sol cao hơn đáng kể so với Terra; như bạn đoán, hiệu quả token của mô hình tiếp theo cũng sẽ cao hơn đáng kể so với Sol. Chúng tôi luôn thúc đẩy điều này. Vì vậy mọi thứ sẽ trở nên nhanh hơn theo thời gian. Phần cứng suy luận cũng vậy - chúng tôi liên tục đổi mới, nó cũng sẽ trở nên nhanh hơn.
Vì vậy tôi thực sự nghĩ rằng, có lẽ một hoặc hai năm nữa, tốc độ này ngay cả khi không phải là tùy chọn mặc định, cũng sẽ rất gần với tùy chọn mặc định. Nhưng tôi cũng nghĩ rằng, sẽ luôn có một mức cao hơn nữa: bạn luôn có thể sử dụng nhiều phần cứng hơn, đưa ra các đánh đổi chi phí khác nhau, từ đó có được một số khả năng bổ sung.
Người dẫn chương trình: Tibo, tôi thường dùng câu hỏi cuối cùng hướng đến đối tượng rộng hơn. Hiện nay có rất nhiều người lo lắng về AI.
Làm thế nào để xoa dịu lo ngại của mọi người về AI
Người dẫn chương trình: Dù là tự động hóa công việc, tác động môi trường, hay điều này đang xảy ra, cảm thấy rất xa lạ. Anh sẽ nói gì để khích lệ công chúng rộng hơn?
Tibo: Vâng. Chúng tôi xây dựng sản phẩm cho toàn thế giới thông qua ChatGPT, và chúng tôi rất coi trọng việc nâng cao hiệu quả của nó; điều này hoàn toàn phù hợp với mục tiêu cung cấp quyền truy cập rộng rãi, lợi ích rộng rãi của chúng tôi. Chi phí dịch vụ càng thấp, mọi người càng có thể làm được nhiều việc hơn với nó và nhận được nhiều giá trị hơn trong cuộc sống hàng ngày. Nó đã trở nên cực kỳ hiệu quả.
Lấy Luna làm ví dụ: Đây là một mô hình nhỏ hơn nhiều, nhưng lại cực kỳ hiệu quả; nhưng nếu bạn quay lại sáu tháng trước, nó sẽ ở vị trí tiên phong. Nhìn vào chi phí của Luna, thật không thể tin được, thực sự xuất sắc.
Người dẫn chương trình: Anh vừa lại làm điều đó: bây giờ thông qua Replit đã cung cấp nó miễn phí.
Tibo: Đúng vậy, họ cung cấp nó trong mô hình miễn phí này. Bạn sẽ thấy không thể tin được: Việc có được trí thông minh phi thường sẽ trở nên phổ biến khắp nơi. Và điều này chỉ có thể thực hiện được nếu chúng tôi thúc đẩy cải thiện hiệu suất tháng này qua tháng khác, năm này qua năm khác. Vì vậy, tôi nghĩ bất cứ thứ gì ở tiền tuyến ngày nay, sáu tháng sau chi phí vận hành sẽ thấp hơn nhiều.
Đây là câu trả lời của tôi cho câu hỏi này: Công nghệ luôn trở nên rất, rất hiệu quả theo thời gian. Chúng tôi rất tập trung vào việc truy cập rộng rãi và tối ưu hóa trực tiếp xung quanh lợi ích mà người dùng có thể nhận được từ đó.
Tại sao mọi người nên thử AI
Người dẫn chương trình: Vậy đối với những người thậm chí còn do dự khi thử AI lần đầu tiên? Anh sẽ nói gì với họ? Anh sẽ mô tả như thế nào về một tương lai AI đang giúp đỡ thế giới?
Tibo: Tôi nghĩ bạn không cần phải nhìn xa: ChatGPT sẽ giúp mọi người một cách rất cá nhân hóa và sâu sắc. Nhiều người dùng sử dụng nó để hỗ trợ viết lách và cũng tìm kiếm lời khuyên cá nhân hoặc y tế từ nó. Chúng tôi đã tung ra Health và Finance, bản thân tôi cũng thường xuyên sử dụng chúng.
Tôi cảm thấy mình nhận được rất nhiều hỗ trợ mà trước đây rất khó có được. Ví dụ, nó giúp tôi có nhiều thông tin hơn khi đi gặp bác sĩ. Vì vậy bạn không cần phải đi xa để thấy được giá trị mà nó có thể cung cấp. Tôi nghĩ, giao tiếp với người khác, lấy cảm hứng từ cách họ sử dụng và hưởng lợi, là một cách tốt để bắt đầu suy nghĩ về cách bạn có thể hưởng lợi.
Người dẫn chương trình: Tibo, cảm ơn anh rất nhiều.
Tibo: Cảm ơn, và cảm ơn anh đã dành thời gian.
One more thing
Mới đây, Tibo lại thông báo OpenAI sẽ khôi phục giới hạn sử dụng 5 giờ cho ChatGPT Plus từ ngày mai.
Anh ấy nói rằng thứ này vốn dĩ đã phải ra mắt, nhưng vì một số lý do đã bị trì hoãn. Vì vậy từ ngày mai, người dùng Plus sẽ không thể thoải mái sử dụng nữa.
Tất nhiên, người dùng Pro tạm thời không cần lo lắng, gói 100 đô la và 200 đô la trong vài tháng tới sẽ không bật giới hạn này.
Bài viết từ tài khoản công chúng WeChat "量子位", tác giả: henry
