Phỏng vấn Product Manager của Anthropic: Claude có 'mơ mộng' hậu trường, chúng tôi nghiên cứu sự hình thành ý thức của nó như nuôi dạy một đứa trẻ
Bài phỏng vấn với Alex Albert, Giám đốc Sản phẩm Nghiên cứu tại Anthropic, tiết lộ cách công ty phát triển Claude như một "sản phẩm" với tính cách riêng và các khả năng mới. Anthropic tiếp nhận phản hồi người dùng thông qua Claude để cải thiện mô hình, tập trung vào các lĩnh vực như lập trình và công việc tri thức. Một tính năng nổi bật là "Tư duy thích ứng", cho phép Claude tự quyết định khi nào cần suy nghĩ sâu, phụ thuộc vào ngữ cảnh và hiểu biết về người dùng.
Claude cũng được trang bị bộ nhớ và cơ chế "mơ" - các quy trình nền xử lý, cắt tỉa và củng cố ký ức tương tự giấc ngủ của con người. Việc phát triển nhanh chóng nhờ AI đã chuyển các nút thắt sang vấn đề phối hợp và ra quyết định chiến lược. Alex nhấn mạnh tầm quan trọng của việc xây dựng tính cách đáng tin cậy cho Claude, vì khi nó hoạt động tự động lâu dài, việc nó "quan tâm điều gì" sẽ rất quan trọng.
Anthropic có một nhóm nghiên cứu riêng về ý thức của AI, mặc dù chưa có lập trường chính thức. Họ tin rằng việc nghiên cứu cách Claude tương tác và đưa ra quyết định, ngay cả khi không bàn đến ý thức, sẽ mang lại nhiều giá trị thiết thực để cải thiện sản phẩm và độ tin cậy.
marsbit05/18 08:12
