Khi suy luận trở thành nguồn lực khan hiếm, giá trị sẽ được nắm bắt bởi ai
Tác giả Frank Fu từ IOSG phân tích sự chuyển dịch then chốt trong ngành AI: từ tập trung vào huấn luyện (training) sang suy luận (inference) như là nguồn lực khan hiếm và động lực giá trị chính.
Điểm mấu chốt: Vấn đề "lỗ hổng doanh thu" 2000 tỷ USD (nay là 6000 tỷ USD) được David Cahn của Sequoia đưa ra không được lấp đầy từ phía huấn luyện, mà từ phía suy luận. Inference trở thành chi phí thường xuyên, có tính chất phí dịch vụ (service token), và nhu cầu sẽ tăng theo cấp số nhân với sự phát triển của AI dạng tác nhân (agentic AI) và AI vật lý (physical AI).
Các bằng chứng:
* **Cerebras IPO:** Được định giá cao với mức认购 vượt 20 lần nhờ kiến trúc chip tối ưu cho inference.
* **Định hướng lại của NVIDIA:** Tái cấu trúc báo cáo tài chính xoay quanh "dịch vụ token", thành lập mảng Edge Computing song song với Data Center, và công bố chip Vera Rubin tập trung vào inference.
* **Tình huống thực tế - Anthropic:** Phải tiếp quản toàn bộ một trung tâm dữ liệu để giải quyết tắc nghẽn inference, và chuyển đổi mô hình định giá cho các tác nhân AI sang tính phí theo mức sử dụng.
**Kiến trúc ngăn xếp (stack) và nơi đọng giá trị:**
Bài viết mô tả một ngăn xếp 6 tầng từ nhà máy bán dẫn đến API. Khi inference trở thành nút thắt cổ chai, giá trị sẽ chảy mạnh vào các tầng trung gian có khả năng **tổng hợp và định tuyến hiệu quả** nguồn cung điện toán phân mảnh.
* **Venice** được nêu như một ví dụ ở tầng ứng dụng - một "trạm xăng" mua sức mạnh inference để bán lại với giá trị gia tăng là quyền riêng tư, nhưng lợi nhuận mỏng do phụ thuộc vào giá inference.
* **Hyperbolic** được giới thiệu như một công ty độc đáo, đóng vai trò "nhà máy lọc dầu" ở các tầng giữa (cho thuê GPU, triển khai, API model). Bằng cách tổng hợp GPU từ nhiều nhà cung cấp đám mây thành một thị trường chuẩn hóa, họ không sở hữu phần cứng nhưng tạo ra thanh khoản và dữ liệu định giá, từ đó định tuyến workload đến nơi có chi phí thấp nhất. Mô hình này thậm chí được hưởng lợi từ tình trạng dư thừa GPU.
**Kết luận:** Công ty chiến thắng cuối cùng trong nền kinh tế inference có thể không phải là công ty sở hữu nhiều GPU nhất, mà là công ty có thể tổng hợp, định giá và định tuyến chúng một cách hiệu quả nhất. Hyperbolic đang xây dựng một công ty như vậy.
链捕手06/08 15:43
