Anthropic cảnh báo toàn cầu, OpenAI đã vượt qua 'ngưỡng tin cậy': AI tự kích hoạt tăng tốc
Cộng đồng AI đang chấn động bởi cảnh báo từ Anthropic: nghiên cứu AI cần dừng lại! Hãng này lo ngại AI đang tiến gần đến điểm "tự tạo ra chính mình", với quá trình tự cải tiến đệ quy diễn ra nhanh hơn dự kiến.
Đồng thời, Yann Dubois của OpenAI chia sẻ một quan điểm then chốt: sự phát triển của AI là liên tục, nhưng người dùng cảm nhận một bước nhảy vọt khi nó vượt qua "ngưỡng độ tin cậy". OpenAI đã đạt được ngưỡng này vào khoảng tháng 12 năm ngoái. Khi AI đủ tin cậy, nó từ một "thực tập sinh" trở thành một "nhân viên" thực thụ và bắt đầu tự gia tốc, đặc biệt trong việc hỗ trợ lập trình, tạo ra một vòng lặp phát triển ngày càng nhanh.
Dubois nhấn mạnh việc xây dựng AI giống "nghề thủ công" hơn là khoa học thuần túy, dựa nhiều vào thử nghiệm và trực giác. Ông cũng đưa ra một tuyên bố gây chú ý: nếu đóng băng các mô hình hiện tại và chỉ tập trung vào hệ thống điều phối (Harness) cho các lĩnh vực chuyên sâu, chúng ta có thể đã đạt được cảm giác của AGI (Trí tuệ nhân tạo phổ quát). Rào cản thực sự không nằm ở bộ não mô hình, mà ở "quyền truy cập, kết nối và dữ liệu" – công việc khó khăn của "chặng đường cuối cùng" để đưa AI vào thực tế.
Tuy vậy, một thách thức lớn vẫn tồn tại: khả năng học liên tục (continual learning). Hiện tại, AI thường đạt hiệu suất cao ban đầu nhưng sau đó không cải thiện nhiều trong môi trường cụ thể. Giải quyết vấn đề này là chìa khóa quan trọng cho tương lai. Dubois kết luận rằng vẫn có không gian rộng lớn cho các công ty khởi nghiệp trong việc tạo ra các ứng dụng chuyên sâu, tập trung vào tích hợp và giải quyết các vấn đề thực tế.
marsbit06/06 23:27
