Cho AI "ăn" nhiễu cũng tăng điểm, nghiên cứu này giúp nhiễu thực hiện chuyển dịch tích cực
Bài báo giới thiệu một phương pháp học chuyển tiếp mới có tên **Semi-Supervised Noise Adaptation (SSNA)** (Điều chỉnh Nhiễu Bán Giám sát), đã được xuất bản tại ICML 2026. Phương pháp này cho thấy ngay cả **dữ liệu nhiễu ngẫu nhiên**, không chứa thông tin ngữ nghĩa nào (ví dụ: được lấy mẫu từ phân phối Gaussian), cũng có thể giúp cải thiện hiệu suất của mô hình học máy trong các tình huống có ít dữ liệu được gắn nhãn.
Nhóm nghiên cứu đề xuất một khuôn khổ gọi là **Noise Adaptation Framework (NAF)**. NAF tạo ra các nhiễu ngẫu nhiên và tổ chức chúng thành các cấu trúc phân biệt rõ ràng giữa các lớp (cụm) trong không gian biểu diễn chung. Cấu trúc phân loại này sau đó được chuyển giao (căn chỉnh) sang dữ liệu mục tiêu thực tế, từ đó cung cấp ranh giới phân loại rõ ràng hơn và nâng cao khả năng học.
Trong thử nghiệm, với chỉ 4 mẫu được gắn nhãn cho mỗi lớp, NAF đã cải thiện đáng kể độ chính xác so với phương pháp học có giám sát cơ bản (ERM) trên nhiều bộ dữ liệu như CIFAR-10 (+12.35%), CIFAR-100 (+7.61%), và các bộ dữ liệu khác. Phương pháp này cũng hiệu quả với các tác vụ phân loại văn bản.
Nghiên cứu nhấn mạnh rằng yếu tố then chốt không phải là bản thân dữ liệu nhiễu ngẫu nhiên, mà là **cấu trúc phân biệt được tạo ra** giữa các lớp nhiễu đó trong không gian biểu diễn. Ngay cả khi không có ngữ nghĩa thực, việc chuyển giao cấu trúc này vẫn có thể hỗ trợ học tập. Điều này mở ra hướng tiếp cận mới cho việc học chuyển tiếp trong các tình huống khó tiếp cận dữ liệu nguồn thực tế do vấn đề riêng tư, bản quyền hoặc hạn chế về chi phí.
marsbit07/22 07:58
