Đổi mô hình lớn hơn có nghĩa là thông minh hơn?
【Tóm tắt】Đổi mô hình lớn hơn có nghĩa là thông minh hơn? Đây có lẽ là hiểu lầm sâu sắc nhất của người dùng Claude Code. Nhiều người vì thế mà chuyển lên gói đắt nhất Fable. Gần đây, Anthropic chính thức lên tiếng làm rõ quan niệm sai lầm này.
Bạn đã bao giờ trải qua khoảnh khắc này chưa: Claude Code viết code hỏng, phản ứng đầu tiên là ngay lập tức đổi sang một mô hình mạnh hơn.
Nhưng chiêu này, nhiều khi không hiệu quả, thậm chí chỉ là tiêu tiền vô ích.
Gần đây, Anthropic chính thức đăng một bài viết dài để nói rõ về việc này.
Bài viết dài chính thức của Anthropic
Nguyên nhân là quá nhiều người nhầm lẫn giữa hai tùy chọn trong Claude Code:
Một là lựa chọn mô hình (Model), hai là mức độ nỗ lực (Effort).
Bài viết dài chính thức của Anthropic
Trước đây, mọi người hiểu hai tùy chọn này rất đơn giản: đổi mô hình lớn hơn, AI sẽ thông minh hơn; tăng Effort lên, chỉ là để AI suy nghĩ lâu hơn một chút.
Vào tháng 3 năm nay, hiểu lầm này còn gây ra một sự hỗn loạn không nhỏ.
Khi đó, nhiều nhà phát triển phát hiện, Claude Code trong tay họ đột nhiên "ngu đi". File cần đọc không đọc, test cần chạy không chạy, làm việc đến nửa chừng thì bỏ dở, ngược lại hỏi bạn để lấy thêm thông tin.
Vì thế, trên GitHub ngập tràn lời chửi bới.
Đòn mạnh nhất đến từ trưởng bộ phận AI của AMD - Stella Laurenzo.
Cô ấy lục ra nhật ký của 6852 phiên làm việc trên GitHub, thực nghiệm thấy lượng tư duy của Claude đã giảm 67% so với trước tháng 2, và bỏ lại một câu:
Claude đã không còn đáng tin cậy để làm những công việc kỹ thuật phức tạp.
Claude đã không còn đáng tin cậy
Ban đầu, mọi người còn tưởng là do prompt của mình viết chưa tốt, hoặc cấu hình sai ở đâu đó. Vật lộn mãi mới chợt nhận ra: Vấn đề căn bản không nằm ở bản thân, mà là do Anthropic lặng lẽ thay đổi một cài đặt.
Ngày 4 tháng 3, để giảm độ trễ, họ đã hạ mức mặc định của tùy chọn Effort trong Claude Code từ high xuống medium.
Nhật ký cập nhật chính thức cũng có ghi, nhưng đa số không để ý, họ chỉ cảm thấy mô hình trong tay mình vô cớ dường như trở nên ngu ngốc hơn.
Cố gắng chịu đựng một tháng, đến ngày 7 tháng 4 Anthropic mới điều chỉnh mức mặc định trở lại, và reset một lần hạn mức sử dụng cho tất cả người dùng đăng ký.
Và lúc này đa số mới biết, công tắc này vẫn luôn ở ngay bên cạnh mình, nó âm thầm quyết định: AI có thực sự sẵn sàng làm việc hết công suất cho bạn hay không.
Model thay đổi bộ não, Effort thay đổi thái độ
Phân tích chính thức của Anthropic, có thể tóm gọn bằng một câu:
Model thay đổi bộ não, Effort thay đổi thái độ.
Nói về Model trước, nó thay đổi bộ não.
Mỗi mô hình phía sau là một bộ "trọng số đã đóng băng", khả năng và kiến thức của nó bị hàn chặt vào thời điểm kết thúc huấn luyện: chỉ đọc, không thể sửa.
Điều này có nghĩa, prompt, CLAUDE.md, code bạn dán vào ngữ cảnh khi suy luận, tất cả đều không thể thay đổi bộ trọng số này: bạn có thể hướng dẫn nó, nhưng không thể "huấn luyện" nó.
Đổi mô hình, bản chất là đổi một bộ trọng số hoàn toàn mới để nhận việc của bạn, vì vậy nó giải quyết vấn đề "biết làm hay không".
Một thư viện chưa tồn tại khi mô hình được huấn luyện, bạn cho nó toàn bộ tài liệu, nó có thể học ngay và dùng ngay, nhưng chỉ có tác dụng cho lần yêu cầu này, bản thân mô hình không nhớ một chữ nào, quay đầu là quên.
Thỉnh thoảng nó nghiêm túc gọi một API không tồn tại, cũng là cùng một đạo lý. Đó không phải là tra cứu thiếu, mà là bộ trọng số dựa trên lối mòn cũ trong huấn luyện, ghép ra một chuỗi thứ.
Nhìn sâu hơn một chút vào tầng đáy, sẽ càng rõ ràng. Dòng `const x = await fetch` bạn viết, trong mắt mô hình đầu tiên bị cắt thành từng token, mỗi cái đổi thành một con số trong từ điển.
Nguồn ảnh: Bài viết chính thức của Anthropic
Một dòng code bạn viết, sau khi cắt thành token sẽ tương ứng với một số nguyên trong từ điển: `const` là 1078, `await` là 2597, từ điển khoảng 10 vạn từ. Mô hình nhận được không bao giờ là chữ, mà là chuỗi số này.
Mô hình không phun ra toàn bộ đáp án một hơi. Nó mỗi lần chỉ dự đoán một token, nối vào, rồi tính toán lại toàn bộ chuỗi, dự đoán token tiếp theo. Một câu trả lời dài 200 token, chính là 200 lần tính toán hoàn chỉnh.
Thời gian bạn chờ, tiền bạn đốt, phần lớn nằm trong vòng lặp này.
Nói về Effort, thay đổi là "thái độ".
Nhiều người nghĩ Effort cao là "suy nghĩ thêm vài giây", sai rồi.
Nó quản lý việc Claude thực sự đầu tư bao nhiêu công sức vào nhiệm vụ lần này: đọc mấy file, có chạy test không, có cần xác minh thêm không, có cần đẩy một nhiệm vụ nhiều bước đi đến cuối rồi quay lại tìm bạn không.
Nói thẳng ra: Claude với Effort thấp, có xu hướng trả lời nhanh, sau đó ngược lại hỏi bạn để lấy thêm ngữ cảnh, có thể không động tay thì không động; Claude với Effort cao, có xu hướng tự mình lục thông tin, gọi công cụ nhiều lần, chạy một hơi hết chuỗi nhiệm vụ dài.
Effort trong Claude Code được chia thành nhiều mức, đừng coi nó như một đường ngân sách token cứng nhắc.
Nó là một tín hiệu hành vi, nói cho Claude biết việc này phải làm đến mức triệt để, có chắc chắn đến mức nào mới xong, từ trả lời văn bản, gọi công cụ, mở rộng suy nghĩ, tất cả đều nằm trong phạm vi quản lý của nó.
Chính thức còn đăng một hình minh họa: cùng một prompt, Effort cao có thể tạo ra nhiều hơn khoảng 7 lần token so với Effort thấp. Phần nhiều hơn đó, toàn bộ được dùng để đọc file, chạy xác minh, xác nhận lặp đi lặp lại.
Nguồn ảnh: Bài viết chính thức của Anthropic
Cùng một prompt, đường dẫn Effort cao tạo ra token nhiều gấp khoảng 7 lần Effort thấp, phần nhiều hơn toàn bộ được dùng để đọc file, chạy xác minh, xác nhận lặp đi lặp lại.
Ở đây ẩn chứa một kết luận phản trực giác: Mô hình nhỏ mở Effort cao, hoàn toàn có thể đánh bại mô hình lớn mở Effort thấp.
Không biết, hay là không đủ nỗ lực
Biết được sự phân công, thực sự hữu ích, là khuôn khổ đánh giá chính thức mà họ đưa ra.
Nguồn ảnh: Bài viết chính thức của Anthropic
Khuôn khổ đánh giá chính thức: Claude làm sai, trước tiên hỏi nó là không đủ thông minh hay không đủ nỗ lực, rồi quyết định đổi mô hình hay tăng Effort.
Claude làm hỏng việc, đừng vội động đến tùy chọn mô hình.
Bước đầu tiên luôn là quay lại kiểm tra ngữ cảnh: prompt đã nói rõ chưa? Công cụ cần thiết đã đưa chưa? CLAUDE.md đã khớp chưa? Đa số cái gọi là "AI ngu đi", gốc rễ đều ở đây, không phải ở tùy chọn mô hình.
Ngữ cảnh thực sự không vấn đề, nó vẫn sai, thì hãy tự hỏi mình một câu: Nó là không biết làm, hay là không đủ nỗ lực?
"Không đủ nỗ lực", rất dễ phán đoán: File cần đọc thì bỏ qua, test không chạy, tái cấu trúc làm đến nửa chừng chạy về hỏi bạn: Nó thiếu không phải là bộ não, mà là sự đầu tư.
Đây là việc của Effort, có thể điều chỉnh lên một nấc.
Nếu là "không biết", thì là tình huống khác: Bạn đã cung cấp đủ ngữ cảnh, nó cũng rõ ràng đã cố gắng hết sức, nhưng vẫn sai, thử lại với cách diễn đạt khác vẫn sai.
Lúc này dù bạn có tăng Effort thế nào cũng vô ích, đây là việc của mô hình: cần đổi sang mô hình mạnh hơn.
Chính thức còn đưa ra một ví dụ rất dễ hiểu.
Sonnet, là một tay toàn năng có cả một buổi chiều.
Nó sẽ đọc code của bạn từ đầu đến cuối, chạy một lần, kiểm tra lại một lần, cuối cùng thực sự thấu hiểu đống việc của bạn.
Opus, là một chuyên gia chỉ cho bạn năm phút. Nó mang đến kinh nghiệm mà trong kho code của bạn căn bản không có, những lỗi đã gặp, những bẫy cần tránh, tất cả đều là trực giác tích lũy từ việc giải quyết một loạt vấn đề cùng loại. Nhưng năm phút chỉ có chừng đó thời gian, chỉ đủ nó liếc qua, không thể quét hết tất cả các file.
Fable, là chuyên khoa chỉ mời được khi tất cả mọi người đều bí. Dù chỉ cho năm phút, nó cũng có thể chỉ trong nháy mắt phát hiện ra chỗ lỗi mà không ai nhìn ra.
Tất nhiên, vị chuyên gia này cũng đắt đỏ nhất trên mỗi token, phải dành cho những khúc xương cứng thực sự không ai có thể giải quyết.
Vì vậy mới có kết luận phản thường thức đó:
Một Sonnet mở Effort cao, trên nhiều việc thực sự có thể làm tốt hơn Opus mở Effort thấp. Mô hình nhỏ kết hợp với ngữ cảnh đầy đủ và mức đầu tư cao, có thể đảm đương được nhiều việc hơn bạn tưởng.
Nguồn ảnh: Bài viết chính thức của Anthropic
Trên nhiệm vụ dài, công việc nhiều bước, Fable tạo ra khoảng cách lớn nhất, trong bài test chính thức có một số nhiệm vụ Opus và Sonnet mở đến Effort nào cũng không thể với tới.
Cuộc đua bảng xếp hạng mô hình xong, giao việc cho AI trở thành kỹ năng cứng
Bài giải thích chính thức này, bề ngoài dạy bạn điều chỉnh tham số, phía sau là một sự chuyển hướng quan trọng:
Cuộc cạnh tranh lập trình AI, đang chuyển từ "mô hình của ai mạnh hơn", sang "ai biết điều phối tác nhân thông minh hơn".
Trước đây rất đơn giản, người ta chọn một mô hình mạnh nhất, phần còn lại giao hết cho nó.
Bây giờ không giống nữa. Bạn phải như một người quản lý dự án, giao các vai trò khác nhau cho các mô hình khác nhau, định các mức đầu tư khác nhau:
Thay đổi đơn giản giao cho Sonnet ở mức thấp, trả lời ngay và tiết kiệm tiền; Tái cấu trúc lớn dùng mô hình mạnh cộng mức cao; Nhiệm vụ tác nhân thông minh cần tự chạy thời gian dài, mô hình mạnh kết hợp đủ Effort.
Những thao tác này, không chỉ có thể làm việc tốt hơn, mà phần tiết kiệm được, đều là hóa đơn token bằng tiền thật.
Mục Effort trong Claude Code thêm vào mức ultracode, chính là đưa bộ "điều phối" này vào sản phẩm.
Chọn nó, Claude nhận được hỏa lực xhigh, cộng thêm một sự ủy quyền: gặp công việc có tính chất thực chất, tự mình cân nhắc có nên kéo lên một đội ngũ tác nhân thông minh, chia nhiệm vụ xuống để làm song song.
Nhìn lại làn sóng "ngu đi" tháng 3.
Nó có thể làm cả cộng đồng chấn động, chính xác vì đa số mọi người vẫn dừng ở tư duy cũ "đổi mô hình", hoàn toàn không ý thức được tùy chọn Effort quan trọng hơn ở ngay bên cạnh.
Thời đại chỉ nhìn bảng xếp hạng mô hình đang qua đi, điều phối mô hình, đang trở thành kỹ năng cốt lõi.
Ai học được cách giao việc cho AI trước, người đó sẽ tiến một bước trước, sử dụng được Claude thực sự sẵn sàng làm việc hết mình cho bạn. Nếu không, mô hình đắt tiền nhất trong tay bạn, cũng chỉ là một hộp tìm kiếm đắt hơn mà thôi.
Như vậy, mỗi xu token bạn đốt, mới thực sự được dùng đúng chỗ.
Tài liệu tham khảo:
https://claude.com/blog/claude-model-and-effort-level-in-claude-code
https://x.com/ClaudeDevs/status/2074900291062034618?s=20
https://platform.claude.com/docs/en/managed-agents/multi-agent
Biên tập: Nguyên Vũ
Bài viết này đến từ tài khoản công chúng WeChat "Tân Trí Nguyên", tác giả: ASI Khải Thị Lục
