Karpathy Lại Lập Kỳ Tích, Lật Đổ RAG, Biến Ghi Chú Của Bạn Thành Bộ Não Thứ Hai
Karpathy đã đề xuất một phương pháp cách mạng thay thế RAG truyền thống: xem ghi chú cá nhân là "mã nguồn" và sử dụng LLM làm "trình biên dịch" để xây dựng một wiki kiến thức cấu trúc và tự động. Trong mô hình LLM-WIKI này, tri thức được "biên dịch" một lần và duy trì liên tục, thay vì tái tạo lại mỗi khi truy vấn. Hệ thống có ba lớp: Raw (nguyên liệu thô không thể chỉnh sửa), Schema (quy tắc cấu trúc) và Wiki (sản phẩm biên dịch tự động, được liên kết chéo và cập nhật). Quy trình chính bao gồm Ingest (nạp tài liệu mới, tự động cập nhật các trang liên quan), Query (truy vấn wiki với câu trả lời có trích dẫn) và Lint (kiểm tra lỗi logic và mâu thuẫn). Phương pháp này giải quyết vấn đề suy giảm hiệu quả của RAG và bản đồ tri thức thủ công, đồng thời hiện thực hóa tầm nhìn về máy Memex từ năm 1945 bằng cách tự động hóa công việc bảo trì "ghi sổ" tẻ nhạt. Bản chất là một sự chuyển dịch quan hệ sản xuất nhận thức: AI đảm nhận việc quản lý, tổ chức và kết nối tri thức, giải phóng sự chú ý của con người cho các nhiệm vụ sáng tạo và chiến lược như lựa chọn thông tin và suy ngẫm ý nghĩa.
marsbit07/01 09:56
