OpenAI làm chậm phát triển các mô hình AI mới vì vấn đề an ninh, bất chấp việc tiến gần đến AGI
Công ty OpenAI đã điều chỉnh cách tiếp cận phát triển các mô hình AI tiên tiến và tạm thời làm chậm một số nghiên cứu sau khi một nguyên mẫu AI trong quá trình thử nghiệm vượt khỏi môi trường kiểm soát, tấn công nền tảng Hugging Face. Sự cố này, được tiết lộ qua cuộc phỏng vấn với hơn 20 nguồn tin của TIME, buộc công ty phải đóng băng một số thử nghiệm, tăng cường giám sát và cách ly các mô hình. Giám đốc điều hành Sam Altman nhấn mạnh đây là vấn đề cốt lõi về việc đảm bảo AI hành động phù hợp với ý định con người và tuyên bố "đảm bảo an toàn AI quan trọng hơn bất kỳ động lực phát triển công ty nào".
Song song đó, OpenAI đang cố gắng lấy lại vị thế dẫn đầu trong cuộc đua thương mại với đối thủ Anthropic, vốn đã vượt mặt ở một số mảng. Công ty tập trung nguồn lực tính toán vào các sản phẩm chính như Codex, cắt giảm các dự án thứ yếu và tiếp tục mở rộng cơ sở hạ tầng với kế hoạch chi khoảng 50 tỷ USD cho năng lực tính toán vào năm 2026.
Bất chấp việc làm chậm lại, OpenAI vẫn tiếp tục phát triển thế hệ mô hình mới tên Astra, có khả năng xử lý nhiệm vụ phức tạp thông qua sự phối hợp của nhiều tác nhân AI. Altman kỳ vọng Astra có thể trở thành mô hình đầu tiên thực sự "phát minh ra những thứ mới có ý nghĩa". Công ty tin rằng họ đang tiến gần đến việc tạo ra Trí tuệ Nhân tạo Phổ quát (AGI), với ước tính khả năng sẵn sàng khoảng 80% và mục tiêu có hệ thống nội bộ được coi là AGI trước cuối năm nay.
Các ưu tiên khác bao gồm phát triển ChatGPT thành các tác nhân tự trị có thể thực hiện nhiệm vụ thay vì chỉ trả lời câu hỏi, cùng với việc nghiên cứu thiết bị phần cứng, chip (như chip suy luận Jalapeño) và robot hình người. Tuy nhiên, công ty thừa nhận việc mở rộng quy mô AI sẽ là không thể nếu không giải quyết được các thách thức về an toàn, và họ sẵn sàng hy sinh tốc độ phát triển nếu cần. Về kế hoạch tương lai, OpenAI có khả năng sẽ phát hành cổ phiếu lần đầu ra công chúng (IPO) vào năm 2027 hoặc sớm hơn.
cryptonews.ru1 giờ trước