- Quem usa iPhone deveria experimentar. É um app otimizado, distribuído pelo Google, que permite rodar o gemma4 on-device.
- Em termos simples, dá para usar um LLM até no modo avião. (com entrada multimodal)
- A otimização está muito bem feita, e ver um LLM tão fluido dentro de 3~4 GB realmente faz pensar que a era do on-device já chegou.
- Sobre desempenho, nem precisa falar muito. Disseram que, em benchmark, ele fica no nível do Gemini 3, e na prática a sensação é mesmo essa. Não é exagero.
4 comentários
É legal, mas meu iPad não aguenta kkk
Testei e, por enquanto, ainda parece um protótipo, então não chega a ser algo que eu recomendaria fortemente; dá para usar daqui a mais ou menos um mês.
Google AI Edge Gallery - app de galeria de LLM totalmente offline de código aberto
Também tem no Google Play
https://play.google.com/store/apps/…
Na página de divulgação do modelo no huggingface também tem benchmark próprio...
https://huggingface.co/litert-community/gemma-4-E4B-it-litert-lm