Google sắp công bố mô hình lớn mã nguồn mở Gemma 4: Số lượng tham số tăng gấp 4 lần

Trong bối cảnh thị trường mô hình lớn mã nguồn mở toàn cầu lâu nay bị chi phối bởi các công ty công nghệ Trung Quốc, các gã khổng lồ công nghệ Mỹ đang tìm cách giành lại tiếng nói thông qua cạnh tranh khác biệt.

Theo truyền thông, Giám đốc điều hành Google DeepMind Demis Hassabis gần đây đã ám chỉ trên nền tảng mạng xã hội bằng biểu tượng "bốn viên kim cương" rằng mô hình lớn mã nguồn mở thế hệ mới Gemma 4 sắp chính thức ra mắt. Thời điểm này tròn một năm kể từ khi sản phẩm thế hệ trước là Gemma 3 được phát hành, phù hợp với nhịp độ lặp lại của Google trong lĩnh vực mô hình lớn.

Nâng cấp lớn về quy cách: Mô hình mới 120B thách thức giới hạn chạy cục bộ

So với sản phẩm thế hệ trước, Gemma 4 đã đạt được bước tăng trưởng nhảy vọt về quy mô tham số:

• Số lượng tham số gấp bốn lần: Tin đồn cho rằng lần này sẽ bổ sung một mô hình lớn với 120B tham số, quy mô gấp 4 lần thế hệ trước.

• Kiến trúc MoE: Để cân bằng hiệu suất và hiệu quả, mô hình này dự kiến sẽ áp dụng kiến trúc MoE (Hỗn hợp chuyên gia), với số tham số được kích hoạt chỉ là 15B. Điều này có nghĩa ngay cả mô hình tham số lớn vẫn có triển vọng chạy ngoại tuyến cục bộ trên card đồ họa cấp tiêu dùng.

• Tiến hóa năng lực: Dự báo cho thấy khả năng xử lý ngữ cảnh của Gemma 4 sẽ tăng từ 1 đến 2 lần, và có khả năng suy luận logic sâu hơn cùng khả năng thực thi nhiệm vụ phức tạp.

Đấu tranh chiến lược: Bao vây "lực lượng Trung Quốc" trong cộng đồng mã nguồn mở

Phân tích của Fast Technology chỉ ra rằng, mặc dù trọng tâm hiện tại của các gã khổng lồ Mỹ đã chuyển sang mô hình kinh doanh nguồn đóng, nhưng để ngăn chặn các công ty Trung Quốc chiếm trọn hệ sinh thái mã nguồn mở, Google đang có nhịp độ giải phóng lợi ích công nghệ:

• Chiến lược chênh lệch thời gian: Google chọn ra mắt phiên bản mã nguồn mở sau hơn nửa năm phát hành loạt mô hình nguồn đóng chủ lực Gemini 3.0, vừa có thể duy trì lợi nhuận thương mại từ mô hình nguồn đóng, vừa có thể thông qua dự án mã nguồn mở duy trì ảnh hưởng trong cộng đồng nhà phát triển.

• Hào bảo vệ địa phương hóa: Định vị cốt lõi của Gemma 4 vẫn là "dịch vụ địa phương hóa". Thông qua tối ưu hóa hiệu suất của mô hình nhẹ, Google cố gắng đối chiến trực tiếp với các mô hình mã nguồn mở trong nước thông qua trải nghiệm cực致 trên thiết bị đầu cuối mà không chạm đến lợi ích thương mại cốt lõi.

Quan sát ngành: Đường đua mã nguồn mở bước vào thời đại "song kiêm" tham số và hiệu suất

Với sự tham gia của Gemma 4, ngưỡng cạnh tranh của các mô hình lớn mã nguồn mở được nâng cao hơn nữa. Giới trong ngành phổ biến cho rằng, mặc dù mức độ ưu tiên mã nguồn mở của Google không phải là cao nhất, nhưng sự tích lũy thuật toán sâu dày của họ vẫn là một biến số không thể xem thường. Việc liệu Gemma 4 có thể vượt qua "người cầm cờ" mã nguồn mở trong nước hiện tại với cùng số lượng tham số hay không sẽ trở thành tâm điểm chú ý của cộng đồng AI toàn cầu trong nửa cuối năm.