iPhone Jalankan Gemma 4 Secara Lokal Jadi Viral, Seberapa Jauhkah Era 0 Token?
Model Gemma 4 terbaru Google yang open-source telah memungkinkan pengoperasian lokal di perangkat seluler seperti iPhone dan Samsung Galaxy dengan kecepatan hingga lebih dari 40 token/detik. Model kecilnya (E2B 2.3B dan E4B 4.5B) menawarkan konteks 128K, menjadikannya alternatif portabel untuk Gemini. Meskipun mudah diakses melalui aplikasi resmi Google AI Edge Gallery dan berguna untuk tugas sederhana seperti pemrosesan gambar atau kode, model yang lebih besar (seperti Gemma 4 MoE 26B) masih mengalami kendala dalam tugas kompleks seperti pemanggilan alat dan output terstruktur. Meski kecerdasannya dianggap terbatas, kemunculan Gemma 4 berpotensi menggeser tugas-tugas harian ke perangkat lokal, mengancam model bisnis berbasis token. Ke depannya, model cloud masih unggul untuk tugas rumit, sementara model perangkat akan semakin mendominasi tugas sederhana seiring kemajuan hardware.
marsbit04/06 05:56
