Đột phá bất ngờ trong AI thiết bị đầu cuối mà Apple khao khát: Mô hình nhận thức đầu tiên ra đời, 4B ngang tầm GPT-5.4
**Apple mong muốn về AI ở thiết bị đầu cuối đã có đột phá: Mô hình nhận thức đầu tiên ra đời, 4B thách thức GPT-5.4**
Bài viết thảo luận về xu hướng và thách thức của AI trên thiết bị đầu cuối (edge AI), đặc biệt nhấn mạnh đến vấn đề chi phí điện toán (token cost) ngày càng tăng khi triển khai các mô hình lớn (LLM). Giải pháp được đề xuất bởi Andrej Karpathy là tách rời "lõi nhận thức" (khả năng suy luận, lập kế hoạch) khỏi "kiến thức" thuần túy trong mô hình, tạo ra các mô hình nhỏ gọn hơn nhưng hiệu quả.
Công ty Trung Quốc Nextie (Minh Nhật Tân Trình) được giới thiệu là đã hiện thực hóa ý tưởng này với **Nextie Alpha**, được gọi là mô hình nhận thức đầu tiên trong ngành, với chỉ 4 tỷ tham số. Mô hình này được cho là đạt hiệu quả tương đương với các mô hình nghìn tỷ tham số như GPT-5.4 trong các nhiệm vụ trí tuệ tập thể (ví dụ: tranh luận, phản ánh), đồng thời có thể triển khai trên thiết bị đầu cuối (như MacBook, robot).
Bài viết nêu bật ba lợi ích chính:
1. **Nâng cao chất lượng ra quyết định đa tác tử:** Cải thiện hiệu quả trong các hệ thống nhiều tác nhân AI hợp tác.
2. **Giảm chi phí điện toán đáng kể:** Chuyển từ chi phí điện toán đám mây sang chi phí điện năng thấp khi chạy trên thiết bị.
3. **Mở khóa các kịch bản chủ động (Proactive):** Cho phép các tác nhân AI hoạt động liên tục, tự chủ thay vì chỉ phản hồi lệnh, mở ra không gian thương mại lớn hơn.
Nextie, với đội ngũ sáng lập từ Microsoft Xiaoice, có thành tích tạo ra các mô hình nhỏ hiệu quả cao. Họ đang tập trung vào lĩnh vực đa tác tử và trí tuệ tập thể, một lĩnh vực được các nhà đầu tư như OpenAI công nhận có tiềm năng lớn.
Bài viết kết luận rằng mô hình nhận thức như Nextie Alpha không chỉ thay đổi quy mô tham số mà còn tái cấu trúc mô hình kinh tế của AI, khiến các sản phẩm AI chủ động, chi phí thấp trở nên khả thi và có thể định hình lại toàn bộ ngành.
marsbit06/09 12:08
