「Ngày Tàn Của Token」Đang Đến: Khi Chi Phí Vượt Quá Lợi Ích Năng Suất, Ai Sẽ Trả Giá?
Một thuật ngữ mới, "Tokenpocalypse" (Ngày tàn của Token), đang gây xôn xao, bắt nguồn từ việc Microsoft thay đổi mô hình định giá GitHub Copilot sang tính phí dựa trên token từ ngày 1/6. Các mô hình AI cao cấp, được đánh giá là hiệu quả nhất, lại có mức tăng giá mạnh nhất, với chênh lệch lên tới 60 lần. Động thái này, cùng áp lực sinh lời khi các hãng AI lớn như Anthropic và OpenAI chuẩn bị lên sàn, có thể dẫn đến làn sóng tăng giá từ nhiều nhà cung cấp.
Các doanh nghiệp lâm vào thế tiến thoái lưỡng nan. Trước đây, nhân viên bị yêu cầu phải dùng AI và có thể bị khiển trách nếu dùng quá ít token. Giờ đây, với mức giá mới, việc dùng nhiều token cũng dẫn đến hậu quả tương tự. Việc thiếu tính năng giới hạn token theo nhân viên khiến một người có thể "đốt" hết ngân sách cả tháng của công ty chỉ trong một ngày, biến công việc chính của nhiều người thành quản lý token thay vì giải quyết vấn đề kinh doanh.
Sự cố vượt ngân sách AI tại Uber là một ví dụ điển hình: họ nhanh chóng cạn kiệt ngân sách, buộc phải áp dụng giới hạn sử dụng khẩn cấp. Sự kiện này cho thấy ngay cả những công ty sử dụng AI quy mô lớn cũng gặp khó khăn trong việc kiểm soát chi phí. Câu hỏi đặt ra là liệu các phòng lab AI có thể giảm chi phí đủ để phù hợp với khả năng chi trả của khách hàng hay không.
Trên các diễn đàn, người dùng chia sẻ những biện pháp quản lý chi phí phức tạp, như bảng điều khiển giám sát chi tiêu theo thời gian thực, nhưng điều này lại tạo thêm áp lực KPI. Ở một số công ty, khi hết hạn ngạch AI, mọi người bị buộc phải chuyển xuống dùng các mô hình cũ hơn, kém mạnh hơn. Một nhận xét chung cho rằng năng lượng và thời gian dành cho việc quản lý "token" đang ảnh hưởng tiêu cực đến hiệu quả công việc thực sự.
Khi ngành công nghiệp còn đang mải mê với câu chuyện "AI sẽ thay thế mọi thứ", một vấn đề thực tế hơn đã hiện ra: hóa đơn cho sức mạnh tính toán cuối cùng cũng phải được thanh toán. "Ngày tàn của Token" có thể chỉ là khởi đầu của một cuộc điều chỉnh lớn.
marsbit06/10 08:46
