Google вскоре анонсирует открытую большую модель Gemma 4: количество параметров увеличено в 4 раза
По сообщениям, Google готовится представить новую открытую языковую модель Gemma 4, которая станет ответом на доминирование китайских технологических компаний в этом сегменте. Модель, как сообщается, получит версию с 120 миллиардами параметров (в 4 раза больше, чем у предыдущего поколения), но благодаря архитектуре MoE (Mixture of Experts) будет использовать только 15 миллиардов активных параметров. Это позволит запускать её даже на потребительских видеокартах. Ожидается, что новинка предложит улучшенную обработку контекста, более глубокие логические рассуждения и способность выполнять сложные задачи. Аналитики отмечают, что Google, сосредоточившись на коммерческих закрытых моделях, таким образом пытается сохранить влияние в сообществе разработчиков и создать конкуренцию открытым китайским моделям, делая ставку на превосходство в локальном выполнении задач на устройстве.
marsbit04/02 06:46
