PaLM - Pathways Language Model com 540B de parâmetros lançado pelo Google AI
(ai.googleblog.com)- Um modelo com 540B de parâmetros, 3 vezes maior que o GPT-3 (175B)
- O treinamento foi realizado usando TPU v4
- Com o aumento do tamanho do modelo, ele pode lidar com uma variedade maior de tarefas (problemas de matemática, explicações, geração de código etc.)
Artigos relacionados
3 comentários
Parece que o Google pretende combinar isso com robôs para que a inteligência artificial também possa aprender sobre o mundo físico real.
https://say-can.github.io/
https://arxiv.org/abs/2204.01691
Parece que a tendência de "quanto maior o modelo de IA, melhor" continua.