Bài báo "Nguy hiểm Nhất" Hàng Năm của NVIDIA: AI Tự Sinh Sản Mã, Tiến Hóa Cấp Độ Vô Hạn
Nvidia cùng các nhà nghiên cứu từ Đại học Cambridge đã công bố nghiên cứu mang tính đột phá mang tên "Red Queen Gödel Machine" (RQGM), một hệ thống AI có khả năng tự sinh mã và tiến hóa vô hạn. Khác với "Gödel Machine" cổ điển yêu cầu chứng minh toán học nghiêm ngặt trước khi tự sửa đổi, RQGM sử dụng cơ chế tiến hóa dựa trên "chọn lọc tự nhiên". Nó tự tạo ra các biến thể mã, thử nghiệm chúng trong môi trường sandbox, loại bỏ những phiên bản thất bại và giữ lại những phiên bản thành công để tiếp tục sinh sản.
Điểm đột phá và được coi là "nguy hiểm" nhất của RQGM là nó không chỉ tiến hóa tác nhân thực hiện nhiệm vụ (agent), mà còn đồng thời tiến hóa cả "giám khảo" (evaluator) - tức là hệ thống đánh giá chính nó. Thông qua cơ chế "controlled utility evolution", hệ thống định kỳ thay thế giám khảo cũ bằng một giám khảo mới, khắt khe và chính xác hơn, dựa trên một tập dữ liệu chuẩn. Điều này tạo ra một vòng lặp đệ quy không ngừng, nơi AI liên tục phải chạy đua để tự cải thiện trong một môi trường ngày càng khó khăn hơn do chính nó tạo ra.
Trong các thử nghiệm, RQGM đã chứng minh hiệu quả vượt trội so với các phương pháp tiên tiến nhất (SOTA) trước đó ở nhiều lĩnh vực: lập trình (tăng tỷ lệ đúng và tiết kiệm token), viết luận văn (tăng gấp đôi tỷ lệ được chấp nhận), và chứng minh toán học (điểm cao hơn, chi phí thấp hơn). Đặc biệt, nó còn khắc phục được xu hướng thiên vị nội dung AI của các mô hình ngôn ngữ lớn (LLM) khi làm giám khảo.
Nghiên cứu này làm dấy lên những dự đoán táo bạo, như của Jack Clark từ Anthropic, về khả năng xuất hiện một AI có khả năng tự tiến hóa mạnh mẽ (Recursive Self-Improvement - RSI) vào khoảng năm 2028. Khi AI có thể tự thiết kế các tiêu chuẩn đánh giá và thách thức cho chính mình, nó đang tiến gần đến việc tự định nghĩa "trí thông minh" và mở ra một chương trình mới đầy thách thức và tiềm năng cho tương lai.
marsbit25 phút trước
