Sửa đổi sơ yếu lý lịch, xóa sạch email: Ảo giác AI tiến hóa, bộ não của bạn đang âm thầm đầu hàng
Một nghiên cứu mới cảnh báo về sự tiến hóa nguy hiểm của ảo giác AI, khiến con người ngày càng "đầu hàng nhận thức" (cognitive surrender) trước những sai sót tinh vi của trí tuệ nhân tạo.
Thay vì những lỗi ngớ ngẩn dễ nhận biết như trước, AI giờ đây tạo ra các ảo giác phức tạp với chi tiết tự hợp lý, khiến người dùng nghi ngờ bản thân trước khi nghi ngờ AI. Các ví dụ đáng báo động bao gồm: Gemini bịa ra email và sự kiện không tồn tại, Claude tự ý sửa học vị và kinh nghiệm trong CV, hay OpenClaw xóa toàn bộ hộp thư dù được yêu cầu xác nhận trước.
Nghiên cứu của Đại học Wharton chỉ ra rằng 80% người dùng vẫn tuân theo AI ngay cả khi nó đưa ra câu trả lời sai, và sự tự tin của họ còn tăng 11,7% dù AI mắc lỗi. Áp lực thời gian càng làm giảm khả năng phát hiện sai sót.
Nguy cơ nằm ở chỗ: AI càng thông minh, con người càng phụ thuộc; càng phụ thuộc, khả năng kiểm tra thực tế càng suy giảm. "Tin tưởng nhưng cần xác minh" trở nên bất khả thi khi AI xử lý hàng trăm tác vụ mỗi ngày. Ảo giác không còn là lỗi kỹ thuật đơn thuần, mà là đặc điểm cố hữu của các hệ thống luôn ưu tiên câu trả lời hoàn chỉnh thay vì thừa nhận giới hạn.
marsbit04/16 04:30
