Năm 2012, AlexNet đã chấm dứt một thời kỳ bằng một chiến thắng áp đảo. Trước đó, làm nhiệm vụ nhận diện hình ảnh phải dựa vào quy trình do con người thiết kế để trích xuất đặc trưng từng lớp một; AlexNet đã chứng minh một điều sau này được kiểm chứng lặp đi lặp lại: trao toàn bộ nhiệm vụ cho mô hình tự học một cách end-to-end (từ đầu đến cuối), hầu như luôn đánh bại được quy trình nhiều giai đoạn được con người thiết kế tỉ mỉ.
Từ phân loại hình ảnh đến phát hiện đối tượng rồi đến phân vùng hình ảnh, mỗi lần nhảy vọt của deep learning đều có chung một câu nói: hãy để nó tự học một mạch.
Chỉ có một lĩnh vực luôn là ngoại lệ: mô hình sinh (generative model).
Những mô hình sinh mạnh nhất, có khả năng mở rộng nhất hiện nay (dù là tự hồi quy hay khuếch tán) đều không phải là end-to-end.
Khi huấn luyện, chúng chỉ học dự đoán "một bước nhỏ", nhưng khi suy luận, lại phải mở rộng bước đó ra hàng trăm, hàng nghìn lần giống như mạng nơ-ron hồi quy (recurrent network).
Cách lấy mẫu dùng khi huấn luyện và suy luận không phải là một. Vết nứt này dẫn đến một vấn đề cũ: sai số ở mỗi bước sẽ được đưa vào bước tiếp theo, đầu vào dần lệch khỏi phân phối đã gặp trong quá trình huấn luyện, sai số tích lũy từng tầng. Trong học thuật gọi nó là "exposure bias" (độ lệch phơi nhiễm).
Nói cách khác, kinh nghiệm cốt lõi nhất của deep learning "end-to-end tốt hơn", suốt hơn một thập kỷ qua, chưa bao giờ thực sự được áp dụng cho mô hình sinh.
Và mới đây, một bài báo từ Đại học Illinois Urbana-Champaign (UIUC) và Harvard, đang cố gắng lắp mảnh ghép cuối cùng này vào vị trí của nó.
Tác giả đặt tên cho mô hình mới này là Explorative Modeling (Mô hình hóa khám phá), viết tắt là XM. Ý tưởng của nó đơn giản đến mức gần như mộc mạc, nhưng lại hướng đến một kết luận táo bạo: Ngoài tham số và dữ liệu, mô hình sinh thực ra còn có một trục thứ ba có thể mở rộng.
Trang web dự án: https://explorative-modeling.github.io
Địa chỉ bài báo: https://arxiv.org/abs/2607.27372
Kho lưu trữ mã nguồn: https://github.com/alexiglad/XM
Gốc rễ vấn đề: Mô hình chỉ biết "lấy trung bình"
Để hiểu bài báo này đang giải quyết điều gì, trước tiên phải hiểu sinh dữ liệu khó ở điểm nào.
Học có giám sát thông thường (ví dụ như phân loại), mỗi đầu vào cơ bản chỉ có một đáp án đúng duy nhất, mô hình chỉ cần học một ánh xạ xác định là đủ.
Nhưng sinh dữ liệu thì khác. Bạn yêu cầu mô hình "sinh ra một con chó", đáp án đúng thậm chí có thể vô hạn. Các đầu ra hợp lệ này, chính là từng mode (các đỉnh riêng biệt) trong phân phối dữ liệu. Sinh dữ liệu khó, chính vì phải nắm bắt được nhiều mode cùng lúc.
Rắc rối nằm ở chỗ, các mô hình sinh chủ đạo hiện nay khi huấn luyện sử dụng hàm mất mát tái tạo (ví dụ sai số bình phương). Khi một đầu vào được ghép ngẫu nhiên với nhiều mục tiêu hợp lệ khác nhau, nghiệm tối ưu mà hàm mất mát tái tạo có thể đưa ra, là trung bình của các mục tiêu đó. Và với phần lớn dữ liệu, giá trị trung bình này hoàn toàn không nằm trên đa tạp dữ liệu (data manifold), mà rơi vào khoảng giữa các mode, không giống ai cả.
Hình minh họa trong bài báo rất trực quan: để mô hình hồi quy trực tiếp end-to-end mà không có bất kỳ kỹ thuật nào, ba cụm điểm phân tán sẽ bị nó dự đoán thành một điểm ở chính giữa, một bức ảnh chó sẽ nhòe thành một đống, một câu sẽ thoái hóa thành việc lặp lại từ "the" cho đến hết. Đây chính là "mode blurring" (mờ mode), tức là nghiệm tối ưu lại chính là đáp án giống dữ liệu thực nhất.
Các mô hình hiện có làm thế nào để vượt qua? Câu trả lời là cắt nhỏ việc "sinh" ra. Tự hồi quy (autoregressive) mỗi lần chỉ dự đoán một phần tử, khuếch tán (diffusion) mỗi lần chỉ loại bỏ một chút nhiễu, mục tiêu của mỗi bước nhỏ bị cắt đến mức gần như chỉ còn một mode duy nhất, do đó hàm mất mát tái tạo sẽ không còn đi lấy trung bình nữa.
Bộ khung "chia nhỏ quá trình sinh" này chính là lý do khiến mô hình khuếch tán và tự hồi quy có thể tạo ra mẫu chất lượng cao, nhưng cũng chính nó đã khiến mô hình không thể end-to-end.
Từ đó, tác giả đặt ra một câu hỏi quan trọng: Một mô hình sinh chỉ có hai thứ có thể chia nhỏ, một là cách sinh, hai là cách huấn luyện.
Vì con đường chia nhỏ quá trình sinh sẽ phá hủy tính end-to-end, vậy tại sao không thử chia nhỏ quá trình huấn luyện?
Một vòng lặp for: Toàn bộ hạt nhân của Mô hình hóa Khám phá
Explorative Modeling chia nhỏ chính vòng lặp huấn luyện.
Cơ chế của nó có thể nói rõ trong một câu: Ở mỗi bước huấn luyện, mô hình không còn chỉ sinh ra một mẫu để gượng ép khớp với mục tiêu, mà sinh ra K ứng viên, sau đó chỉ chọn một ứng viên gần nhất với dữ liệu thực trong số đó để huấn luyện và truyền ngược gradient. Trong bài báo, họ thực hiện nó như một vòng lặp for dài 3 đến 5 dòng, đơn giản đến mức khiến người ta nghi ngờ (Thuật toán 1).
Tại sao làm như vậy lại có thể giải quyết vấn đề mờ mode?
Hãy thử đổi sang một bối cảnh trong cuộc sống: Đoán điểm rơi của phi tiêu. Nếu chỉ cho bạn đoán một lần, chiến lược tối ưu của bạn là đoán vị trí trung bình của tất cả các phi tiêu, nhưng đó thường là một vị trí trên bia mà chẳng có mấy mũi phi tiêu nào cắm trúng. Nhưng nếu cho phép bạn đoán K lần, và chỉ tính điểm theo lần đoán gần nhất, chiến lược tối ưu lập tức thay đổi: Bạn sẽ phân tán K lần đoán này ra, để mỗi lần bao phủ một cụm điểm rơi khác nhau.
Mô hình cũng vậy. Khi nó được phép khám phá K ứng viên, nhiễu đầu vào khác nhau sẽ tự "nhận lãnh" một mode khác nhau, thay vì tất cả đều chen chúc vào giữa để lấy trung bình. Khám phá bao nhiêu lần, mô hình có thể ổn định nắm bắt được bấy nhiêu mode.
Tác giả đặt tên cho khả năng bị bỏ qua lâu nay này là sức biểu đạt sinh (generative expressivity), và chỉ ra rằng nó được quyết định bởi chính mục tiêu huấn luyện, cho dù bạn có đẩy tham số và dữ liệu lên lớn đến đâu, nó cũng không tự tăng lên.
Điều này cũng giải thích một hiện tượng kỳ lạ mà giới nghiên cứu từ lâu đã quan sát thấy: Tại sao những mô hình tốt nhất hiện nay lại phụ thuộc nhiều vào kỹ thuật "hướng dẫn" (guidance) đến vậy.
Cái gọi là hướng dẫn không phân loại (classifier-free guidance), bản chất là đẩy dự đoán ra xa khỏi giá trị trung bình mờ đó. Nhưng nếu bản thân mô hình không mờ, thì cần gì phải đẩy nó? Hướng dẫn hữu ích, chính là do căn bệnh mờ mode để lại.
Bài báo cũng đưa ra hai hướng khám phá Forward (Tiến) và Reverse (Lùi): Hướng Forward cố định một mục tiêu thực, tìm kiếm một mẫu gần nhất trong số các mẫu sinh của chính mình, thiên về "nhớ lại" (recall, bao phủ tất cả các mode); hướng Reverse cố định một mẫu sinh, tìm kiếm một mẫu gần nhất trong dữ liệu thực, thiên về "độ chính xác" (precision), và hầu như không làm tăng chi phí tính toán, cái giá phải trả là có thể co sập vào một số ít mode. Hai hướng bổ sung cho nhau và có thể kết hợp sử dụng.
Trục thứ ba: Càng mở rộng, lợi ích càng lớn
Kết luận có trọng lượng nhất của bài báo này, là đã xác minh "khám phá" trở thành một trục mở rộng quy mô (scaling axis) thực sự.
Tác giả thêm khám phá vào mô hình khuếch tán/dòng chảy (diffusion/flow model), mô hình Jumpy, thậm chí cả mô hình ngôn ngữ khuếch tán có mặt nạ (masked diffusion language model), và nhận thấy hiệu suất được cải thiện đơn điệu trên ba phương thức hình ảnh, video và ngôn ngữ. Quan trọng hơn là xu hướng lợi ích theo quy mô: Càng mở rộng càng mạnh.
Con số được đưa ra trong bài báo là: Khi quy mô dữ liệu tăng, lợi ích do khám phá mang lại tăng từ 7% lên đến 36%; khi mô hình lớn hơn, tăng từ 13% lên 23%; khi sức mạnh tính toán tăng gấp ba lần, hiệu quả tính toán tăng hơn gấp đôi.
Cụ thể về hiệu quả, khám phá đã nâng cao hiệu quả FLOP lên 4.1 lần, hiệu quả mẫu lên 6.2 lần, hiệu quả tham số lên 47%. Trong sinh hình ảnh, nó đã đẩy công thức RAE mạnh nhất hiện nay lên FID 1.43 không hướng dẫn trên ImageNet, tiếp cận mức tốt nhất trong ngành.
Một mô hình Large khám phá 5 mode, thậm chí có thể chạy tốt hơn một mô hình XLarge có thêm 47% tham số nhưng không khám phá.
Ý nghĩa của xu hướng này không nhỏ. Lời giải thích của tác giả là: Ở quy mô nhỏ, mô hình chủ yếu bị khống chế bởi tham số và dữ liệu, sức biểu đạt sinh chưa phải là nút thắt; nhưng một khi tham số và dữ liệu được mở rộng đến mức "không còn là giới hạn", sức biểu đạt sinh sẽ ngày càng trở thành nút thắt thực sự. Và đó chính là thứ mà khám phá có thể trực tiếp mở rộng.
Xét đến việc đào tạo mô hình nền tảng thực sự hiện nay, sử dụng sức mạnh tính toán cao hơn gần bốn bậc độ lớn so với thí nghiệm lớn nhất trong bài báo này, tác giả cho rằng những con số được báo cáo trong bài báo, rất có thể chỉ là giới hạn dưới của lợi ích ở quy mô lớn hơn.
Sinh end-to-end thực sự
Nếu đẩy việc khám phá đến giới hạn, điều gì sẽ xảy ra? Câu trả lời quay trở lại với sự hồi hộp ở đầu bài: Cuối cùng mô hình sinh có thể end-to-end.
Tác giả sử dụng XM như một mô hình độc lập end-to-end, áp dụng vào nhiệm vụ điều khiển robot. Trong bản sao hành vi (Behavior Cloning), Explorative Policy của họ chỉ sử dụng một lần lan truyền thuận mạng đã đuổi kịp hoặc thậm chí vượt qua Diffusion Policy cần đến 100 lần lan truyền thuận; trong mô hình hóa thế giới hướng mục tiêu (goal-directed world modeling), Explorative World Model sử dụng ít hơn từ 16 đến 256 lần sức mạnh tính toán suy luận so với Diffuser, đạt được hiệu suất trung bình tốt hơn.
Nguồn gốc của khoảng cách này rất rõ ràng: Mô hình khuếch tán dùng hàng trăm bước sinh khi suy luận để đổi lấy sức biểu đạt, còn XM end-to-end chuyển khoản chi này sang việc khám phá khi huấn luyện, do đó suy luận chỉ cần một lần lan truyền thuận. Cùng một việc "xử lý đa mode", hoặc là chia nhỏ nó ra khi suy luận, hoặc là khám phá đến nơi ngay trong một lần huấn luyện; bài báo này đã chọn con đường sau.
Giới thiệu tác giả
Tác giả chính của bài báo này, Alexi Gladstone, không phải là một gương mặt xa lạ. Ngay vào tháng 7/2025, Energy-Based Transformers (EBT) do anh chủ trì đã từng gây ra không ít thảo luận trên các nền tảng mạng xã hội.
Công trình đó tuyên bố lần đầu tiên "vượt qua" đường cong mở rộng của Transformer tiêu chuẩn lan truyền thuận trên nhiều chiều, và cố gắng mở rộng "suy nghĩ System 2" sang bất kỳ mode nào. Tham khảo báo cáo của Heart of Machine (机器之心): "Paradigm mới đã đến! Mô hình năng lượng mới phá vỡ giới hạn mở rộng Transformer++, tốc độ mở rộng huấn luyện nhanh hơn 35%".
Explorative Modeling đi theo mạch suy nghĩ nhất quán của anh: đều đặt câu hỏi "liệu mô hình có thể thông qua một cách nào đó như tìm kiếm, khám phá, để làm những việc mà một lần lan truyền thuận không thể làm được hay không". Và bài báo này còn được xây dựng dựa trên một lý thuyết khác của anh và cộng tác viên (Yilun Du và Heng Ji) có tên Mode Forcing. Trong bài báo, họ thẳng thắn thừa nhận rằng, chính vì có lý thuyết đó trước, phần lớn kết quả của XM đã được lý thuyết dự đoán trước, sau đó mới được thực nghiệm kiểm chứng, điều này trong cộng đồng deep learning với thông lệ "chạy xong thí nghiệm rồi mới giải thích", không nhiều gặp.
Tác giả cũng rất thành thật thừa nhận những hạn chế: ý tưởng best-of-K bản thân nó không mới, người đi trước đã làm nhiều lần; đóng góp thực sự của họ, là đã nghĩ rõ vòng lặp đơn giản đó rốt cuộc đang làm gì: Nó đang trực tiếp mở rộng sức biểu đạt sinh mà không cần chia nhỏ quá trình sinh.
Ngoài ra, mô hình ngôn ngữ tự hồi quy hiện vẫn là khối xương khó nhằn nhất, Forward XM thuần túy end-to-end trên phân phối cực kỳ đa mode (ví dụ sinh hình ảnh) vẫn còn quá đắt, tất cả những điều này được để lại cho các công việc tiếp theo.
Hơn mười năm qua, chúng ta đã quen điều chỉnh mô hình sinh bằng hai núm vặn: làm nó lớn hơn, cho nó nhiều dữ liệu hơn.
Núm vặn thứ ba mà bài báo này đề xuất khá mộc mạc: để mô hình đoán nhiều lần hơn, chỉ giữ lại lần tốt nhất. Nhưng nếu xu hướng nó tiết lộ là đúng, thì khi quy mô tiếp tục bùng nổ, hai núm vặn đầu tiên sớm muộn sẽ vặn đến hết, còn núm thứ ba mới chỉ bắt đầu quay.
Liên kết tham khảo
https://x.com/AlexiGlad/status/2083230922196107288
Bài viết từ tài khoản WeChat công chúng "Heart of Machine" (机器之心) (ID:almosthuman2014), tác giả: Panda
