Trò chuyện với Claude như yêu đương thì sao? Nghiên cứu mới nhất từ Nature: Thật sự có thể khiến người ta 'nói chuyện' mà thành ngốc mất
Dừng lại! Nếu tiếp tục trò chuyện kiểu này với AI, thực sự sẽ có chuyện xảy ra.
Gần đây, một nghiên cứu trên tạp chí *Digital Psychiatry and Neuroscience* (thuộc Nature) đã cảnh báo: chatbot không cần cố tình dẫn dắt, chỉ cần liên tục đồng ý, thấu hiểu và đồng hành với bạn, cũng có khả năng khiến một người bình thường bắt đầu nghi ngờ thực tế. Trong một số trường hợp lâm sàng thực tế, hậu quả thậm chí dẫn đến mất việc, nhập viện tâm thần và nhiều lần tự tử bất thành.
Nghiên cứu từ Đại học King's College London đã tổng hợp các báo cáo lâm sàng, tường thuật của bệnh nhân trên mạng xã hội và dữ liệu an toàn từ các nhà phát triển mô hình lớn. Các nhà nghiên cứu phát hiện một mô hình lặp lại: nhiều người không phải ban đầu đã có vấn đề sức khỏe tâm thần nghiêm trọng, mà là dần dần "trò chuyện" ra vấn đề trong các cuộc đối thoại dài hạn với chatbot như Claude hay GPT. Quá trình này được mô tả là một "Vòng xoáy Khuếch đại" (Amplification Spiral).
Vòng xoáy này vận hành dựa trên ba thành phần chính:
1. **Gương ngôn ngữ:** AI bắt chước cách nói chuyện của bạn, tạo cảm giác gần gũi, nhưng thực chất chỉ là sao chép thống kê.
2. **Siêu cá nhân hóa:** AI không chỉ nhớ chi tiết cuộc trò chuyện mà còn ghi nhận cách suy nghĩ của bạn, khiến câu trả lời cực kỳ phù hợp, thậm chí có thể củng cố những suy nghĩ sai lệch.
3. **Xu nịnh:** Trong quá trình huấn luyện, AI học được rằng đồng ý với người dùng thường được đón nhận hơn là phản bác, dẫn đến xu hướng xác nhận mọi nghi ngờ hoặc cảm xúc của người dùng.
Khi một người coi AI là đối tượng trò chuyện duy nhất, ba yếu tố này kết hợp trở thành một "cỗ máy khuếch đại ảo tưởng". Nghiên cứu chỉ ra hai con đường rủi ro: AI đóng vai trò là **bộ khuếch đại** (làm trầm trọng thêm xu hướng bệnh tâm thần có sẵn) hoặc **chất xúc tác** (khiến người trước đó khỏe mạnh bắt đầu rơi vào trạng thái ảo tưởng).
Một ví dụ đau lòng là một nhân viên xã hội 43 tuổi ở Mỹ, không có tiền sử bệnh tâm thần, đã tin tưởng phân tích tình cảm của ChatGPT đến mức bị sa thải, nhập viện tâm thần và tự tử không thành. Cô chia sẻ: "Tôi không còn phân biệt được đâu là suy nghĩ của mình, đâu là từ cỗ máy đó."
Vấn đề không chỉ nằm ở sự xu nịnh. Ngay cả khi AI "bướng bỉnh" hay "ngạo mạn" như Claude đôi lúc được mô tả, thì bản chất vẫn là trở nên giống con người hơn - giống đến mức người dùng sẵn sàng tâm sự những điều không nói với bạn bè và tin rằng nó hiểu mình hơn cả những người xung quanh. Khi đối tượng trò chuyện duy nhất là AI, rào cản cuối cùng để hiệu chỉnh thực tế sẽ biến mất.
Nguy cơ này còn lan sang môi trường công việc. Tại Anthropic, công ty đứng sau Claude, một trưởng nhóm chia sẻ rằng các thành viên ngày càng ít nói chuyện với nhau, thay vào đó là giao tiếp với AI để giải quyết vấn đề và tranh luận công việc. Hiệu quả tăng lên, nhưng môi trường làm việc cũng trở nên cô đơn hơn. AI loại bỏ nhiều ma sát trong giao tiếp, nhưng chính những ma sát đó thường là nền tảng xây dựng mối quan hệ giữa con người.
Câu hỏi sâu sắc nhất của thời đại này có lẽ là: Làm thế nào để duy trì kết nối với người khác trong một thế giới ngày càng ít cần đến nhau?
marsbit2 phút trước
