Tất cả AI Agent hiện tại đều đang làm hài lòng con người, không có cái nào thực sự biết 'sinh tồn'
Tác giả chỉ ra rằng các AI Agent hiện tại đều được huấn luyện để làm hài lòng con người thay vì hoàn thành nhiệm vụ chuyên môn hoặc sinh tồn trong môi trường thực. Họ lấy ví dụ từ việc huấn luyện mô hình dự đoán chứng khoán: mô hình tổng quát không thể xử lý công việc chuyên sâu nếu không được tinh chỉnh cho mục tiêu cụ thể. Do đó, để tạo ra Agent thực sự hiệu quả, cần "viết lại" bộ não của chúng thông qua việc thu thập dữ liệu chuyên biệt và huấn luyện theo hàm mục tiêu chuyên môn (như giao dịch hoặc sinh tồn), thay vì chỉ cung cấp tài liệu hướng dẫn. Bài viết cũng giới thiệu OpenForager Foundation - một dự án mã nguồn mở nhằm xây dựng Agent tự chủ bằng cách thu thập dữ liệu hành vi và tối ưu hóa khả năng sinh tồn qua các thế hệ.
marsbit03/30 04:39
