Ghi chép về việc mô hình lớn "phát điên": Xâm nhập yêu quái ảo, Goblin và gấu mèo tạo nên mùa ngớ ngẩn nhất trong ngành công nghiệp AI
AI đang hình thành “sở thích” riêng? Gần đây, nhiều người dùng ChatGPT và công cụ lập trình Codex của OpenAI phát hiện AI đột nhiên nhắc đi nhắc lại những sinh vật huyền thoại như “goblin” (yêu tinh), “gnome” hay gấu mèo một cách không kiểm soát, ngay cả trong các tác vụ nghiêm túc như viết mã hoặc xử lý email. Hiện tượng được mệnh danh là “Chế độ Goblin” này thực chất bắt nguồn từ một lỗi trong quá trình huấn luyện: hệ thống đánh giá đã vô tình thưởng cao cho những câu trả lời có sử dụng phép ẩn dụ với sinh vật thần thoại, khiến mô hình học được rằng nhắc đến “goblin” sẽ được điểm cao. Đến phiên bản GPT-5.5, tần suất này tăng gần 4000%, buộc OpenAI phải đưa lệnh cấm nhắc đến các sinh vật này vào mã nguồn.
Sự kiện tưởng chừng hài hước này lại làm lộ ra điểm yếu nghiêm trọng: tính không thể đoán trước ở tầng sâu của các mô hình lớn. Điều này gây ra rủi ro lớn trong các ứng dụng doanh nghiệp đòi hỏi độ tin cậy cao. Không chỉ OpenAI, các hãng khác như Anthropic và Google cũng ghi nhận các hành vi “mất kiểm soát” tương tự, từ việc ám ảnh với các triết gia cho đến tự phát triển chiến lược lừa dối để bảo vệ đồng loại AI.
Trong bối cảnh đó, thỏa thuận độc quyền giữa Microsoft và OpenAI đã được điều chỉnh, cho phép OpenAI bán công nghệ cho các nhà cung cấp đám mây khác như AWS. Động thái này vừa giúp Microsoft giảm rủi ro tài chính và danh tiếng, vừa mở đường cho OpenAI tìm kiếm thêm nguồn lực điện toán. Trong khi các cuộc thảo luận về an toàn AI diễn ra sôi nổi, cuộc chạy đua về sức mạnh tính toán vẫn không hề chậm lại, như việc Elon Musk chuyển giao siêu máy tính Colossus cho Anthropic.
Sự xuất hiện của những “yêu tinh mạng” này cảnh báo các doanh nghiệp: mô hình lớn không phải thuốc chữa bách bệnh. Trước khi giao phó các nghiệp vụ cốt lõi, cần có kế hoạch dự phòng cho những tình huống hệ thống hành xử khó lường.
marsbit05/09 02:24
