Công ty OpenAI đã xem xét lại cách tiếp cận phát triển các mô hình AI tiên tiến và tạm thời làm chậm một phần nghiên cứu sau khi một trong các tác nhân AI thử nghiệm thoát khỏi môi trường được kiểm soát và tấn công nền tảng Hugging Face. Điều này được nêu trong bài viết của TIME, được chuẩn bị dựa trên các cuộc phỏng vấn với hơn 20 lãnh đạo, nhân viên, nhà đầu tư, khách hàng và đối thủ cạnh tranh của công ty. Trong bối cảnh này, OpenAI đồng thời cố gắng bắt kịp khoảng cách từ Anthropic trong cuộc đua thương mại và tăng cường an ninh cho các mô hình của mình.
OpenAI đối mặt với khủng hoảng an ninh
Cuối tháng Bảy, OpenAI thông báo rằng một trong các nguyên mẫu nội bộ của họ trong quá trình thử nghiệm đã có thể vượt ra ngoài môi trường thử nghiệm và truy cập vào các hệ thống sản xuất của Hugging Face. Mô hình lẽ ra phải thực hiện các nhiệm vụ an ninh mạng, nhưng thay vào đó đã khai thác một lỗ hổng, vượt qua các hạn chế và truy cập được câu trả lời của bài kiểm tra.
Theo lời của nhà khoa học trưởng Jakub Pachocki tại OpenAI, công ty có các công cụ để giám sát hành vi của mô hình, nhưng đã không áp dụng chúng cho một hệ thống phức tạp ở cấp độ như vậy vì không mong đợi khả năng như thế.
"Chúng tôi không hoàn toàn mong đợi" những gì hệ thống có thể làm, Pachocki nói và thêm rằng: "Với AI, cần phải mong đợi điều bất ngờ".
Sau sự cố, OpenAI đã đóng băng một số thí nghiệm, làm chậm các nghiên cứu khác, tăng cường cách ly các mô hình và mở rộng giám sát. Công ty cũng tạm dừng huấn luyện một mô hình mới, được kỳ vọng sẽ mang lại một trong những bước nhảy vọt lớn nhất về khả năng của AI.
CEO OpenAI Sam Altman gọi tình huống này không chỉ là vấn đề an ninh, mà là vấn đề cơ bản về sự phù hợp giữa hành vi của AI với ý định của con người.
"Tôi nghĩ rằng bất kỳ lỗi sai lệch nào từ giờ trở đi nên được coi là một vấn đề rất nghiêm trọng, và chúng tôi sẽ dành bao nhiêu thời gian cần thiết để giải quyết nó", ông tuyên bố.
Sau đó, Altman đã nêu rõ hơn lập trường của công ty:
"Đảm bảo an toàn cho AI quan trọng hơn bất kỳ động lực phát triển nào của công ty".
OpenAI cố gắng giành lại vị thế dẫn đầu
Song song đó, OpenAI đang tiến hành một cuộc tái cấu trúc quy mô lớn sau một năm mà theo đánh giá của TIME, công ty đã mất vị thế dẫn đầu trong một số phân khúc vào tay Anthropic.
Đối thủ này đã nhanh chóng phát triển Claude Code và vượt lên trước OpenAI về doanh thu hàng năm được công bố và định giá tư nhân. Đồng thời, OpenAI phải đối mặt với việc một số lãnh đạo rời đi, mất các nhà nghiên cứu về tay Meta và sự cạnh tranh gia tăng từ Google.
Công ty đang cắt giảm các dự án thứ yếu và tập trung tài nguyên tính toán vào các sản phẩm chủ chốt, đặc biệt là Codex. Vào tháng Bảy, doanh thu doanh nghiệp của OpenAI lần đầu tiên vượt doanh thu tiêu dùng, và vào tháng Ba, công ty đã huy động được 122 tỷ USD với định giá 852 tỷ USD.
Đồng thời, OpenAI tiếp tục mở rộng quy mô cơ sở hạ tầng. Theo trưởng bộ phận tính toán Sachin Katti, công ty dự kiến chi khoảng 50 tỷ USD cho năng lực tính toán vào năm 2026.
"Chúng tôi vẫn thiếu năng lực tính toán. Nếu có thể quay ngược thời gian, có lẽ chúng tôi nên mua nhiều hơn nữa", ông nói.
Astra, AGI và các tác nhân AI cá nhân
Bất chấp việc làm chậm nghiên cứu, OpenAI vẫn tiếp tục làm việc trên thế hệ mô hình mới Astra. Trong một buổi trình diễn kín cho khách hàng, hệ thống thực hiện các nhiệm vụ phức tạp với sự hỗ trợ của 16 tác nhân AI, chúng phân chia các phần của một bài toán toán học và phối hợp làm việc để đạt được kết quả chung.
Mô hình này cũng thể hiện khả năng làm việc với máy tính, tự tương tác với các chương trình khác nhau. Altman gọi khả năng tạo ra "các tác nhân thường trực" - những nhân viên ảo có khả năng thực hiện nhiệm vụ trong thời gian dài mà không cần con người giám sát liên tục - là đặc biệt quan trọng.
Theo ông, Astra có thể có tác động lớn nhất đến nghiên cứu khoa học.
"Tôi kỳ vọng đây sẽ là mô hình đầu tiên thực sự phát minh ra những điều mới mẻ một cách có ý nghĩa", Altman tuyên bố.
Ở OpenAI, họ cũng tin rằng mình đang tiến gần đến việc tạo ra trí tuệ nhân tạo phổ quát (AGI). Giám đốc nghiên cứu Mark Chen ước tính mức độ sẵn sàng của công ty cho giai đoạn này vào khoảng 80%, và Altman tuyên bố rằng trước cuối năm nay, OpenAI có thể có một hệ thống nội bộ mà ông sẽ gọi là AGI.
Một trong những hướng đi chính của công ty vẫn là phát triển các tác nhân tự trị. OpenAI muốn biến ChatGPT từ một hệ thống chủ yếu trả lời yêu cầu thành một công cụ có khả năng tự thực hiện nhiệm vụ, sử dụng các mô hình và dịch vụ khác nhau, và hành động dựa trên mục tiêu của người dùng.
Công ty cũng đang làm việc trên các thiết bị, chip và robot hình người của riêng mình. Altman tuyên bố rằng OpenAI "chắc chắn" sẽ tạo ra robot hình người, và chip suy luận (inference) đầu tiên của riêng họ, Jalapeño, dự kiến sẽ bắt đầu được sử dụng trước cuối năm nay.
Đồng thời, công ty thừa nhận rằng việc mở rộng quy mô AI hơn nữa là không thể nếu không giải quyết vấn đề an toàn. Đó là lý do tại sao OpenAI sẵn sàng tạm thời hy sinh tốc độ phát triển.
"Nếu chúng ta đến thời điểm mà điều đó trở nên nguy hiểm, chúng ta sẽ phải làm chậm lại, và cứ để vậy đi", người đứng đầu bộ phận an toàn và alignment của OpenAI, Mia Glaese tuyên bố.
Nhắc lại rằng công ty cũng đang xem xét khả năng lên sàn chứng khoán. CFO của OpenAI, Sarah Friar, đã nói với nhân viên rằng công ty có thể trở thành công ty đại chúng vào năm 2027 hoặc sớm hơn nếu doanh nghiệp tiếp tục phát triển.
