Blog mới của Ông Lệ đề xuất "Tiến hóa tự động bắt đầu từ Harness", Thôi Thiên Ý từ DeepSeek chuyển tiếp đồng tình
Cựu Phó chủ tịch phụ trách an ninh tại OpenAI, Weng Li, mới đây đã xuất bản một bài blog với tiêu đề "Harness Engineering for Self-Improvement", thảo luận về con đường thực tế để AI tự phát triển (Recursive Self-Improvement - RSI). Cô đề xuất rằng sự tiến hóa tự động gần đây có thể bắt đầu từ **Harness** - hệ thống thời gian chạy bên ngoài quyết định cách mô hình gọi công cụ, quản lý ngữ cảnh, đọc/ghi tệp, chia nhỏ nhiệm vụ và xác minh kết quả - thay vì trực tiếp sửa đổi trọng số mô hình ngay từ đầu.
Bài viết chỉ ra xu hướng tối ưu hóa từng bước: từ **Context Engineering** (như ACE, MCE) để quản lý bộ nhớ, đến **Workflow Design** (như AI Scientist, ADAS) để thiết kế quy trình làm việc, và cuối cùng là **Self-Improving Harness**. Ở cấp độ này, mô hình có thể phân tích điểm yếu của chính harness, đề xuất sửa đổi mã và xác minh chúng thông qua các vòng lặp như Weakness Mining, Harness Proposal và Proposal Validation. Các phương pháp như **Evolutionary Search** và **DGM** (Darwin Gödel Machine) thậm chí cho phép tìm kiếm và tiến hóa harness tự động, mang lại cải thiện hiệu suất đáng kể trên các benchmark như SWE-bench.
Nhà nghiên cứu DeepSeek, Cui Tianyi, đồng tình và nhấn mạnh rằng tự phát triển theo hướng harness là một hướng đi đầy hứa hẹn như tự phát triển mô hình.
Tuy nhiên, Weng Li cũng chỉ ra những thách thức hiện tại: bộ đánh giá còn yếu và mơ hồ, vấn đề quản lý vòng đời bộ nhớ, kết quả tiêu cực bị bỏ qua, sự thu hẹp đa dạng, reward hacking, và mâu thuẫn giữa thành công ngắn hạn và sức khỏe lâu dài của hệ thống. Cô tin rằng harness và mô hình sẽ củng cố lẫn nhau, và con người vẫn sẽ đóng vai trò giám sát ở cấp độ trừu tượng phù hợp, không bị loại khỏi vòng lặp.
Bài blog kết luận rằng harness đang trở thành một biến số quan trọng, vì cùng một mô hình có thể thể hiện khả năng hoàn toàn khác nhau trong các harness khác nhau.
marsbit20 phút trước
