Chỉ 0,99 USD cho mỗi triệu Token.
Đây là chi phí thực tế trên hóa đơn của SemiAnalysis – tổ chức nghiên cứu bán dẫn chuyên sâu nhất Thung lũng Silicon.
Nhưng con số gây sốc hơn là: chi tiêu Token cho mô hình lớn nội bộ đã chiếm tới 30% tổng lương của nhân viên.
Nghe có vẻ nhiều – nhưng tính ngược lại, sản lượng mua được bằng số tiền này trước đây phải cần tới chi phí nhân lực gấp nhiều lần mới đáp ứng. Bình quân mỗi người 'ngốn' gần 5 tỷ Token mỗi tháng, cao hơn 5 lần so với mức bình quân tại Meta, những người đóng góp cốt lõi tiêu thụ hơn 100 tỷ mỗi tháng.
Những việc như chuyển đổi mô hình Excel, tạo biểu đồ báo cáo tài chính – vốn cần một nhà phân tích sơ cấp mất vài giờ – giờ đây hoàn thành trong vài phút, chỉ với vài đô la.
Đánh giá của SemiAnalysis thật sắc bén: Đây không phải là cải thiện hiệu suất 10%, mà là kinh tế đơn vị của ngành dịch vụ chuyên nghiệp đang được viết lại.
Công ty nghiên cứu, quỹ phòng hộ, công ty luật – tất cả các ngành sống nhờ chất xám, việc chi tiêu Token chiếm hai ba phần lương chỉ là vấn đề sớm muộn.
CEO NVIDIA, ông Jensen Huang, còn sốt ruột hơn ai hết.
Tại hội nghị GTC năm nay, ông thẳng thừng tuyên bố: Một kỹ sư lương 500.000 USD một năm, nhưng đến cuối năm tiêu dùng Token chưa đến 250.000 USD?
"Tôi sẽ hoàn toàn phát điên."
Ông dự định cấp cho mỗi kỹ sư NVIDIA một khoản ngân sách Token tương đương nửa năm lương, và còn muốn 75.000 nhân viên làm việc cùng 7,5 triệu tác nhân thông minh AI.
Không dùng AI? Ông nói, điều đó chẳng khác gì nhà thiết kế chip cứ khăng khăng dùng giấy và bút chì.
Token không còn là công cụ nữa, nó đang trở thành 'tư liệu sản xuất' của thời đại mới.
Nhưng một nửa Thung lũng Silicon, đang phát điên vì hóa đơn AI
Điều thú vị là, trong khi SemiAnalysis dùng Token tiết kiệm được tiền thật, thì các gã khổng lồ ở Thung lũng Silicon đang đau đầu vì hóa đơn AI.
Uber là ví dụ kinh điển nhất.
Cuối năm ngoái, công ty giới thiệu Claude Code cho 5000 kỹ sư, còn lập bảng xếp hạng – dùng càng nhiều, thứ hạng càng cao, cuộc cạnh tranh nội bộ được đẩy lên cực điểm.
Kết quả thành công quá mức: Tháng 2, tỷ lệ kỹ sư sử dụng là 32%, tháng 3 tăng vọt lên 84%, đến tháng 4, 95% kỹ sư hàng tháng đều dùng AI, 70% mã nguồn được commit đến từ AI tạo ra, và ngân sách cả năm – đã tiêu hết.
CTO nói "phải làm lại ngân sách từ đầu". Sau đó còn gay gắt hơn – Bloomberg tiết lộ, Uber đặt giới hạn 1500 USD/tháng cho mỗi nhân viên, vượt quá phải xét duyệt đặc biệt.
Nhưng COO Andrew Macdonald trong một podcast đã nói một câu rất thật: Lượng sử dụng AI đang tăng, nhưng mối liên hệ giữa nó với đổi mới tính năng người dùng... hiện tại vẫn chưa thấy.
Tình hình của Microsoft còn kỳ lạ hơn. Tháng trước, The Verge tiết lộ, Microsoft đang hủy bỏ hầu hết giấy phép Claude Code, chuyển sang GitHub Copilot CLI của chính mình.
Lý do rất đơn giản: Tiền tiêu nhanh hơn tốc độ tạo ra sản phẩm.
Phó chủ tịch Học sâu ứng dụng NVIDIA, Bryan Catanzaro, vào tháng 4 năm nay nói thẳng hơn: "Đối với nhóm của tôi, chi phí tính toán vượt xa chi phí nhân viên."
Nghiên cứu năm 2024 của MIT: Trong các vị trí công việc chủ yếu liên quan đến thị giác, chỉ có 23% trường hợp tự động hóa AI là hiệu quả về mặt kinh tế.
77% trường hợp còn lại, thuê người rẻ hơn dùng AI.
Thậm chí còn có kỹ sư phàn nàn rằng tác nhân AI trong quá trình sử dụng "đã phá hỏng cơ sở dữ liệu và mạng của anh ta" – anh ta gọi đó là cái giá của "sử dụng quá mức".
Ngân sách khổng lồ, sử dụng mất kiểm soát, tai nạn liên miên – Thung lũng Silicon đang ở trong giai đoạn kinh tế học AI bị xé nát nhất.
Một mặt là năng suất chưa từng có từ công nghệ, một mặt là hóa đơn phình to với tốc độ cũng chưa từng có.
Chi phí sụt giảm mới chỉ bắt đầu
Nhưng luận điểm cốt lõi của SemiAnalysis là: Đừng nhìn vào giá hôm nay, sự sụt giảm chi phí mới chỉ bắt đầu.
Nhìn vào phía phần mềm trước.
Chạy DeepSeek R1 trên B300, thông qua ba tối ưu hóa thuần phần mềm là wideEP, disagg và MTP, thông lượng GPU đơn có thể tăng từ 1000 tokens/giây lên mức cơ bản lên 14000 tokens/giây – tăng 14 lần, hoàn toàn nhờ mã.
Nhìn vào phía phần cứng.
GB300 NVL72 được cấu hình tối ưu nhất có thông lượng cao gấp 17 lần H100, chuyển sang độ chính xác FP4 có thể đạt tới 32 lần.
Giá niêm yết của Opus 4.7 là đầu vào 5 USD/triệu, đầu ra 25 USD/triệu, trông không rẻ.
Nhưng do tỷ lệ đầu vào/đầu ra trong khối lượng công việc của tác nhân thông minh lên tới 300:1, cộng với tỷ lệ cache hit trên 90%, chi phí hỗn hợp thực tế bị ép xuống còn 0,99 USD.
Thậm chí chưa bằng một phần năm giá niêm yết.
Kết hợp phần mềm và phần cứng, một kết luận khó tránh khỏi: Biên lợi nhuận mở rộng của mô hình lớn không phải là sự trùng hợp định giá nhất thời, mà là xu hướng cấu trúc.
ARR của Anthropic năm nay tăng từ 9 tỷ USD lên hơn 44 tỷ, biên lợi nhuận tăng từ 38% lên hơn 70% – Token trở nên rẻ hơn, nhưng người bán Token lại kiếm được nhiều tiền hơn.
Báo cáo tháng 3 năm nay của Gartner xác nhận điều này: Đến năm 2030, chi phí suy luận của mô hình lớn nghìn tỷ tham số sẽ giảm hơn 90% so với năm 2025.
Đánh giá của SemiAnalysis rất rõ ràng: Nếu bạn muốn dự đoán giá Token năm 2027, câu trả lời chỉ một chữ – Giảm.
Tiền đã tiêu, rồi sao?
Đây chính là điểm bị xé nát nhất của AI hiện nay: Chi tiêu vốn AI của các công ty công nghệ toàn cầu năm nay đã công bố 7400 tỷ USD, tăng 69% so với năm ngoái; cùng lúc đó, tốc độ sa thải trong ngành công nghệ đã vượt cả năm ngoái.
Tiền đang đốt dữ dội, người đang bị sa thải, nhưng nhà kinh tế trưởng Goldman Sachs nói một câu rất thật – Tác động thực tế của AI đối với nền kinh tế, cho đến nay về cơ bản là con số không.
Không phải AI không được, mà đây là cơn đau chuyển dạ mỗi cuộc cách mạng hạ tầng đều phải trải qua: Trước tiên đốt tiền xây đường ống, sau đó đợi dòng nước chảy tới.
Lưới điện là vậy, Internet là vậy, AI cũng không ngoại lệ.
Khác biệt chỉ ở chỗ, tốc độ xây đường ống lần này, và tốc độ dòng nước chảy tới, đều là cấp độ mà thế hệ trước chưa từng thấy.
SemiAnalysis đã đứng ở bên có dòng nước chảy tới rồi – 30% lương đổi lấy đòn bẩy sản lượng gấp nhiều lần, và đường cong chi phí vẫn đang giảm mạnh.
Còn các công ty khác: là lội nước qua sông ngay bây giờ, hay đợi người bên kia xây thành rồi mới đuổi theo.
Tài liệu tham khảo:
https://x.com/SemiAnalysis_/status/2070915305858007345
Bài viết này đến từ tài khoản công chúng WeChat "Tân Trí Nguyên" (新智元), tác giả: ASI Khải Thị Lục (ASI启示录), biên tập: Solomon (所罗门)
