Biên tập:Felix, PANews
Suy luận AI đang dần trở thành một lớp hạ tầng quan trọng của Internet. Tuy nhiên, hiện nay đa phần suy luận vẫn phụ thuộc vào kiến trúc tập trung, vốn có chi phí cao, dung lượng hạn chế, được xếp lớp và tiềm ẩn những rủi ro bảo mật nhất định. Trong khi đó, hàng triệu máy tính mạnh mẽ trên toàn cầu lại đang ở trạng thái nhàn rỗi phần lớn thời gian trong ngày.
Mạng lưới suy luận AI Darkbloom do Eigen Labs mới đây ra mắt, đang khám phá việc thực hiện suy luận AI phân tán trên các máy Mac nhàn rỗi, kết hợp các nút đã được xác thực, bảo vệ quyền riêng tư cấp phần cứng và hiệu quả kinh tế vượt trội, biến chip Apple Silicon nhàn rỗi thành một mạng lưới tính toán hiệu quả hơn, ưu tiên quyền riêng tư.
Dự án được ra mắt dưới dạng xem trước nghiên cứu vào khoảng tháng 4 năm nay, nâng cấp lên bản alpha công khai vào tháng 5 và hiện đã có mặt trên nền tảng OpenRouter. Trong bản alpha, các mô hình khả dụng là Gemma 4 của Google và GPT-OSS của OpenAI.
Kiến trúc cốt lõi và Quyền riêng tư có thể xác thực
Mạng lưới Darkbloom gồm ba thành phần: Người dùng, Điều phối viên và Nhà cung cấp.
- Người dùng có thể gửi yêu cầu suy luận thông qua giao diện trò chuyện hoặc API tương thích với OpenAI.
- Điều phối viên (do Eigen Labs vận hành) sẽ định tuyến các yêu cầu này đến các máy Mac phù hợp trong mạng lưới.
- Nhà cung cấp (người dùng sở hữu các máy Mac phù hợp này) chạy mô hình và trả về kết quả đầu ra, nhưng họ không thể nhìn thấy nội dung yêu cầu.
Darkbloom được xây dựng dựa trên mô hình suy luận phân tán ưu tiên quyền riêng tư. Quy trình của Nhà cung cấp được tăng cường để chống lại các đường kiểm tra cục bộ phổ biến, bao gồm việc đính kèm trình gỡ lỗi và kiểm tra bộ nhớ ngoài. Tính toàn vẹn của tệp nhị phân chạy cũng là một phần của mô hình tin cậy, giúp đảm bảo phần mềm phục vụ yêu cầu tuân thủ mong đợi của mạng lưới.
Hệ thống này còn sử dụng xác thực được hỗ trợ phần cứng dựa trên kiến trúc bảo mật Apple. Khóa Khu vực Bảo mật, tín hiệu xác thực và các kiểm tra thử thách-phản hồi định kỳ được dùng để xác minh các nút tham gia có đang chạy với các biện pháp bảo vệ và trạng thái phần mềm như mong đợi hay không, thực sự đạt được quyền riêng tư có thể xác thực.
Mô hình kinh tế và Thu nhập hàng ngày
Về mặt mô hình kinh doanh, Darkbloom có sự khác biệt cơ bản với phần lớn các dự án khác. Trong hệ thống công nghệ truyền thống, chi phí bao gồm phần cứng, cơ sở vật chất, làm mát, mạng lưới, chi phí vận hành và nhiều lớp lợi nhuận chồng chéo. Trong khi đó, trong mô hình của Darkbloom, phần cứng đã tồn tại sẵn, chi phí biên chủ yếu do điện năng tạo ra. Mức giá chuẩn của Darkbloom chỉ bằng khoảng 50% so với các nhà tổng hợp API chính thống hiện nay. Nhà cung cấp (chủ sở hữu máy Mac) có thể giữ lại 100% doanh thu từ suy luận. Ngoài ra, Darkbloom không áp dụng con đường phát hành token để trợ cấp cho những người tham gia giai đoạn đầu, thu nhập của các nút hoàn toàn đến từ nhu cầu suy luận AI thực tế.
Đáng chú ý là, do dự án đang ở giai đoạn phát triển ban đầu, thu nhập còn khá khiêm tốn. Các yếu tố như cấu hình bộ nhớ và phần cứng, thời gian hoạt động, nhu cầu mô hình, tình trạng sức khỏe nút, nhu cầu mạng lưới đều sẽ ảnh hưởng nhất định đến tình hình thu nhập.
Số liệu bảng xếp hạng hiện tại cho thấy, Nhà cung cấp xếp hạng nhất có thu nhập hàng ngày dưới 6 USD, thậm chí Nhà cung cấp xếp hạng năm còn chưa đến 2 USD. Tuy nhiên, với việc mạng lưới mở cửa cho các mô hình ngôn ngữ lớn yêu cầu bộ nhớ cao và lượng người dùng thực tế gia tăng, tình hình này có thể được cải thiện.
Về cách thiết lập máy Mac nhàn rỗi, các bước thực hiện như sau:
- Sở hữu một máy Mac được trang bị chip Apple Silicon
- Đảm bảo chạy macOS 14 trở lên
- Cài đặt Ứng dụng Nhà cung cấp Darkbloom
- Giữ máy Mac trực tuyến và kết nối Internet ổn định
- Để mạng lưới định tuyến các tác vụ AI được hỗ trợ
Bài đọc liên quan: Điểm danh các tài sản cổ phiếu Mỹ và tiền mã hóa đáng chú ý gần đây: AI, RWA và cổ phiếu không gian...
