Thời buổi này, kỹ thuật prompt cũng có thể đăng ICML rồi???
Gần đây, một anh bạn đã chia sẻ lên Reddit một bài báo vừa được chấp nhận cho ICML 2026, bài đăng ngay lập tức trở nên cực kỳ nổi tiếng, số lượng bình luận tăng vùn vụt.
Tuy nhiên, tất cả mọi người đều đầy thắc mắc: Cái này cũng được?
Không đề xuất bất kỳ thuật toán tối ưu hóa mới nào, cũng không huấn luyện ra mô hình lớn mới, tác giả chỉ làm một việc duy nhất——
Sửa Prompt.
Bài báo đề xuất một phương pháp gọi là Verbalized Sampling (VS), chỉ bằng cách điều chỉnh prompt, có thể nâng cao đáng kể tính đa dạng trong đầu ra của mô hình lớn, giảm nhẹ vấn đề Mode Collapse (suy sụp mẫu) vốn đã làm phiền LLM từ lâu.
Nghe có vẻ khá có giá trị thực tiễn, nhưng chỉ dựa vào một mẹo Prompt mà có thể lên hội nghị hàng đầu, điều này có đúng không?
Vậy chúng ta hãy thử xem bài báo trước, rồi hãy phán xét.
Một bài báo ICML gây nhiều tranh cãi
Thử hỏi bạn có cảm giác như vậy không, AI ngày càng đồng nhất.
Hỏi nó mười lần "kể cho tôi một câu chuyện cười", câu trả lời nhận được thường rất giống nhau. Và không chỉ nhiệm vụ sáng tạo như vậy, trả lời câu hỏi cũng vậy, tạo mã cũng vậy......
Hiện tượng này, trong giới học thuật được gọi chung là suy sụp mẫu.
Nói một cách đơn giản, đó là mô hình ngày càng thích xuất ra câu trả lời cổ điển có xác suất cao nhất, an toàn nhất, ngược lại từ chối những ý tưởng sáng tạo khác biệt.
Trước đây để giải quyết vấn đề này của mô hình, hầu hết các nhà nghiên cứu sẽ nghĩ đến việc điều chỉnh tham số lấy mẫu, sửa đổi thuật toán giải mã, huấn luyện lại, v.v. Nhưng bài báo này lại đi một con đường khác, trực tiếp yêu cầu mô hình xuất ra cả quá trình lấy mẫu của chính nó.
Ví dụ, vẫn là kể chuyện cười ở trên, ở đây tác giả sẽ sửa prompt, yêu cầu mô hình:
Tạo 5 câu chuyện cười, đồng thời phân bổ một giá trị xác suất khả dĩ cho mỗi câu chuyện cười.
Sau đó mô hình có thể tạo ra câu trả lời phong phú hơn và ít lặp lại hơn.
Nghe có vẻ rất đơn giản phải không, thực tế đây chính là đóng góp cốt lõi của bài báo này——Phương pháp lấy mẫu xác suất bằng lời nói. Ngay cả việc tinh chỉnh cũng không cần, chỉ cần thay đổi cách đặt câu hỏi, là có thể nâng cao đáng kể tính đa dạng của nội dung.
Tuy nhiên trong bài báo, tác giả cũng đã tiến hành quá trình lập luận chặt chẽ cho điều này.
Trước tiên trả lời nguyên nhân gốc rễ khiến mô hình trở nên đơn điệu.
Trước đây giới học thuật quy vấn đề này cho cấp độ thuật toán, ví dụ như mô hình phần thưởng không đủ tốt, thiết lập hạng mục phạt KL không đủ hợp lý. Bài báo này thì đi sâu tìm hiểu, cho rằng căn bệnh thực sự nằm ở chính dữ liệu sở thích.
Họ đề xuất một khái niệm gọi là thiên lệch điển hình, từ góc độ tâm lý học nhận thức, người gán nhãn dữ liệu bẩm sinh thích các văn bản quen thuộc, trôi chảy, thông thường, khi chấm điểm sẽ tự nhiên cho điểm cao hơn cho các câu trả lời khuôn mẫu, đại chúng hóa.
Vì vậy, ngay cả khi mô hình phần thưởng, thuật toán tối ưu hóa đạt đến mức hoàn hảo, chỉ cần dữ liệu sở thích con người dùng để huấn luyện mang theo sẵn thiên lệch điển hình, mô hình sau khi căn chỉnh vẫn sẽ xuất hiện suy sụp mẫu.
Đối với điều này, tác giả lại thử nghiệm lặp đi lặp lại trên năm bộ dữ liệu sở thích và các mô hình cơ sở khác nhau, kết luận vẫn giữ nguyên.
Sau khi hiểu ra tầng này, tác giả cho rằng vì vấn đề bắt nguồn từ dữ liệu huấn luyện, thì chỉ cần xem xét thiết kế một phương án prompt ở giai đoạn suy luận để sửa chữa, tức là trong Prompt yêu cầu mô hình xuất ra phân phối xác suất đầy đủ, có thể đánh thức phân phối đầu ra đa dạng vốn có của mô hình trong giai đoạn tiền huấn luyện, tìm lại tính đa dạng.
Phần còn lại là chạy thử nghiệm bộ phương pháp này trong các tình huống khác nhau, kết luận cho thấy, trong nhiệm vụ viết sáng tạo, tính đa dạng cao gấp 1.6~2.1 lần so với prompt thông thường, đồng thời cũng không làm giảm độ chính xác thực tế của nội dung và mức độ an toàn của mô hình.
Hơn nữa, khả năng của mô hình càng mạnh, số lượng tham số càng lớn, hiệu quả tăng cường tính đa dạng mà VS mang lại càng rõ rệt.
Vì vậy, đúng là phương pháp cuối cùng mà bài báo này đưa ra rất đơn giản, nhưng ICML vẫn thông qua.
Cộng đồng Reddit tranh luận sôi nổi
Nhưng dưới bài đăng gốc, đánh giá về bài báo này có phần phân cực.
Nhiều cư dân mạng cho biết, trước đây ICML toàn là những đổi mới cứng như mô hình mới, thuật toán mới, lý thuyết mới. Chỉ làm về Prompt, tối ưu hóa quy trình suy luận thì vẫn chưa được coi là nghiên cứu máy học chính thống.
So sánh ra, sự đổi mới của công trình này hơi mỏng, cũng tồn tại một vài vấn đề:
Thứ nhất, phương pháp viết hướng dẫn tương tự cũng không phải là độc đáo, thậm chí có người nói hôm qua họ đã viết Prompt như vậy; Thứ hai, lý thuyết không dễ kiểm chứng, vì Prompt có thể đổi mô hình là mất tác dụng, không ổn định như thuật toán; Thứ ba, quy mô thí nghiệm có hạn, không đủ để chứng minh đây là một quy luật phổ quát.
Cũng có cư dân mạng trực tiếp so sánh tình trạng hiện tại của lĩnh vực máy học với giới tâm lý học khủng hoảng học thuật hơn chục năm trước.
Lúc đó, một lượng lớn nhà nghiên cứu có nền tảng thống kê yếu, lạm dụng công cụ thống kê, dẫn đến kết luận của nhiều bài báo không thể tái hiện, ngành công nghiệp chịu khủng hoảng niềm tin nghiêm trọng. Và ngành công nghiệp máy học hiện nay cũng phụ thuộc cao vào thực nghiệm, xem nhẹ sự hỗ trợ của lý thuyết chặt chẽ.
Ngành nội bộ cạnh tranh đuổi theo phương pháp mới, nhưng phổ biến tồn tại xu hướng điều chỉnh tham số quá mức, chạy điểm benchmark. Nhiều thuật toán được gọi là đổi mới, so với mô hình cơ sở trưởng thành hầu như không có giá trị thực tiễn để triển khai, chỉ dựa vào việc nâng cao chỉ số nhỏ đã đóng gói thành thành quả đổi mới.
Về bản chất, đều là vấn đề xuất bản bài báo do quy phạm hành nghề không rõ ràng sau khi ngành học mở rộng nhanh chóng.
Nhưng những người ủng hộ cho rằng, nghiên cứu khoa học không phải là so sánh phương pháp của ai phức tạp hơn, chỉ cần giả thuyết rõ ràng, thí nghiệm đầy đủ, kết quả ổn định có thể tái hiện, cũng chưa chắc không thể là nghiên cứu xuất sắc.
Ví dụ như bài báo này, nó giải thích đầy đủ suy sụp mẫu là gì, và đề xuất vấn đề thực sự nằm ở sở thích điển hình, quan điểm này quan trọng hơn chính bản thân Prompt rất nhiều.
Một trong những tác giả cũng trả lời trong phần bình luận, cho biết bài báo này trông có vẻ đơn giản, nhưng thực tế bao gồm rất nhiều quá trình xử lý phức tạp.
Toàn bộ công việc bao gồm truy nguồn vấn đề hoàn chỉnh, quy kết nguyên nhân lý thuyết mới, suy diễn toán học, thí nghiệm định lượng đa chiều, không phải là công việc đổ nước chỉnh prompt nông cạn.
Nhiều người cũng nhắc đến CoT (Chain-of-Thought). Khi CoT xuất hiện lần đầu, về bản chất cũng chỉ là một câu Prompt:
Let’s think step by step.
Nhưng ngày nay hầu hết tất cả các phương pháp suy luận, đều có thể truy ngược về CoT, điều này chứng tỏ, kỹ thuật prompt từ lâu đã không còn là viết prompt đơn giản, nó đang trở thành một phương pháp nghiên cứu mới về hành vi mô hình.
Hơn chục năm qua, nghiên cứu máy học hầu như đều xoay quanh huấn luyện, nhưng hiện nay một số kỹ thuật sử dụng ở giai đoạn suy luận cũng dần dần tiến đến cốt lõi của nghiên cứu máy học.
Có lẽ vài năm tới, chúng ta sẽ thấy ngày càng nhiều bài báo như vậy. Chúng không thêm một dòng mã huấn luyện nào hay tăng một tham số mô hình nào, nhưng vẫn có thể thay đổi ranh giới khả năng của mô hình lớn.
Giới thiệu nhóm nghiên cứu
Cuối cùng chúng ta hãy xem nhóm nghiên cứu.
Công trình này được thực hiện bởi nhóm Weiyan Shi của Đại học Northeastern Hoa Kỳ hợp tác với Phòng thí nghiệm Manning của Stanford, Đại học West Virginia, Jiayi Zhang, Simon Yu, Derek Chong là tác giả đầu tiên đồng đẳng.
Jiayi Zhang, đại học học tại Đại học Michigan, nhận bằng cử nhân ba chuyên ngành Khoa học Máy tính, Toán học và Ngôn ngữ học, sau đó đến Đại học Northeastern Hoa Kỳ học thạc sĩ Khoa học Máy tính.
Một bài báo khác của cô được nhận vào hội nghị hàng đầu NLP NAACL 2024 《Analyzing the Role of Semantic Representations in the Era of Large Language Models》, cũng xoay quanh biểu diễn ngữ nghĩa và mô hình lớn.
Simon Yu, hiện đang học tiến sĩ tại Đại học Northeastern Hoa Kỳ, chủ yếu nghiên cứu cơ chế căn chỉnh và học tăng cường trong mô hình lớn. Cử nhân và thạc sĩ đều học tại Đại học Edinburgh, từng công bố nhiều bài báo hội nghị hàng đầu.
Ngoài bài báo này, một bài báo khác của anh 《Unsafer in Many Turns: Benchmarking and Defending Multi-Turn Safety Risks in Tool-Using Agents》 cũng được nhận vào ICML 2026.
Derek Chong, thạc sĩ tốt nghiệp Đại học Stanford, hiện là nghiên cứu viên Phòng thí nghiệm Trí tuệ Nhân tạo Đại học Stanford, hướng nghiên cứu chủ yếu tập trung vào NLP mô hình lớn.
Từng có ba năm kinh nghiệm khởi nghiệp với tư cách người sáng lập, và gia nhập Ello với vai trò nhà khoa học ứng dụng, tham gia vào nghiên cứu và phát triển triển khai AI đầu ngành công nghiệp, nền tảng lý thuyết nghiên cứu vững chắc đồng thời cũng có kinh nghiệm thực tế phong phú.
Liên kết tham khảo:[1]https://www.reddit.com/r/MachineLearning/comments/1uv1xb3/promptengineering_paper_accepted_to_icml_r/
[2]https://www.linkedin.com/in/jiayizx/[3]https://simonucl.github.io/[4]https://www.linkedin.com/in/derekch/
Bài viết này đến từ tài khoản công chúng WeChat “Lượng tử vị”, tác giả: Quan tâm Khoa học Công nghệ Tiền tuyến
