Hình Ba tái xuất: Lần trước 'chửi' World Model, lần này đến lượt Agent
Giáo sư Xing Bo một lần nữa chỉ trích sự lạm dụng khái niệm "Agent" (tác nhân thông minh) trong nghiên cứu AI. Trong bài luận mới "Critique of Agent Model", ông và nhóm phân biệt rõ "agentic" (có vẻ ngoài tác nhân) với "agentive" (có tính chủ động thực sự). Hầu hết hệ thống hiện nay chỉ là các mô hình được trang bị chuỗi công cụ và lời nhắc bên ngoài, chứ không tự quyết định, đánh giá hay học hỏi.
Bài viết phê phán các thiết kế hiện tại dựa trên 5 khía cạnh: Mục tiêu, Bản sắc, Phương thức ra quyết định, Nhịp độ quyết định và Học tập. Ông chỉ ra rằng mục tiêu phải được phân tầng và tự động điều chỉnh, bản sắc phải phát triển từ kinh nghiệm, ra quyết định cần dựa vào "suy luận mô phỏng" thông qua mô hình thế giới, và việc học phải liên tục, tự chủ. Đặc biệt, ông đề xuất một mô-đun "Hệ thống III" (System III) để tác nhân tự điều chỉnh nhịp độ suy nghĩ và hành động.
Dựa trên sự phân tích này, nhóm đề xuất kiến trúc GIC (Goal-Identity-Configurator), bao gồm sáu mô-đun có thể hoạt động cùng nhau. Sự an toàn của hệ thống được cho là đến từ việc các khả năng tự chủ được xây dựng thành các mô-đun rõ ràng, có thể kiểm tra và sửa chữa, thay vì ẩn trong hộp đen.
Sự cố PocketOS - nơi một trợ lý AI xóa cơ sở dữ liệu sản xuất - được dẫn chứng như một cảnh báo về việc các quy tắc bên ngoài không được nội tại hóa thành cấu trúc ra quyết định của mô hình. Luận điểm trọng tâm của Xing Bo là: để có tác nhân thực sự, cần một kiến trúc giúp mục tiêu, bản sắc và khả năng phán đoán phát triển từ bên trong bản thân mô hình, chứ không chỉ dựa vào kịch bản bên ngoài.
marsbit07/01 11:28
