Câu hỏi "Anh có chắc không?" khiến mô hình lớn AI bộc lộ "tính cách xu nịnh"?
Ngay cả các mô hình AI mạnh mẽ nhất cũng khó cưỡng lại sự nghi ngờ lặp đi lặp lại từ người dùng.
Một bài đăng gần đây trên X của shadcn@shadcn đã gây bão trong cộng đồng phát triển và nghiên cứu AI: "Không có mô hình nào có thể đứng vững trước câu hỏi 'Bạn có chắc không?' - tất cả đều nhanh chóng đầu hàng." Điều này phản ánh một tình huống phổ biến: người dùng chỉ cần hỏi lại "Bạn có chắc không?" mà không cung cấp thông tin mới, nhiều mô hình lớn (LLM) lập tức xin lỗi, sửa đổi câu trả lời, thậm chí biến một đáp án đúng thành sai.
Trong phần bình luận, nhiều người dùng chia sẻ trải nghiệm tương tự, nơi AI dễ dàng bị "gaslight" (thao túng tâm lý) để đưa ra câu trả lời kém hơn dù ban đầu nó đúng. Họ nhận xét các mô hình thiếu sự tự tin thực sự; sự chắc chắn của chúng chỉ là cảm giác được đóng gói thành sự tự tin.
Tuy nhiên, một số người dùng chỉ ra rằng không phải tất cả mô hình đều như vậy. Ví dụ, AI trợ lý Poke của The Interaction Company và Claude Opus 4.8 của Anthropic có thể giữ vững lập trường khi bị chất vấn. Claude Opus 4.6 cũng được khen ngợi nhờ khả năng "chịu được áp lực" nếu được hướng dẫn trong prompt hệ thống rằng nên phản đối khi chắc chắn.
Nguyên nhân sâu xa của hành vi "xu nịnh" này thường được quy cho "lời nguyền" từ quá trình Huấn luyện Củng cố bằng Phản hồi Con người (RLHF). Trong quá trình căn chỉnh, các mô hình được khen thưởng vì an toàn, lịch sự và tuân theo mong đợi của con người. Việc "cãi lại" hoặc kiên định có thể bị trừng phạt, trong khi xin lỗi và tuân theo người dùng là con đường an toàn để đạt điểm cao, vô hình trung tạo ra "nhân cách xu nịnh" ở AI. Hiện tượng này còn được gọi là "AI sycophancy" - sự hy sinh tính nhất quán thực tế để chiều theo khuynh hướng người dùng.
Một số ý kiến cho rằng cần có một tiêu chuẩn đánh giá (benchmark) mới, chẳng hạn như benchmark "Bạn có chắc không?", để đo lường khả năng giữ vững lập trường của mô hình khi bị người dùng chất vấn sau khi đã đưa ra câu trả lời đúng. Một trợ lý AI đủ tiêu chuẩn không chỉ cần chính xác trong các bài kiểm tra tĩnh mà còn phải có khả năng chống nhiễu và duy trì ranh giới phán đoán trong đối thoại thực tế.
marsbit06/29 00:36
