Intel anuncia o Aurora genAI, modelo de IA generativa científica com 1 trilhão (1T) de parâmetros

• Previsto para rodar no supercomputador Aurora de 2 exaflops, que deve entrar em operação no fim deste ano
• Será treinado com texto geral, documentos/dados/código relacionados à ciência e outros conteúdos, sendo um modelo generativo focado exclusivamente em uso científico
• Será usado em aplicações científicas como biologia de sistemas, pesquisa de câncer, ciência do clima, química de polímeros e materiais, e cosmologia
• Baseado em Megatron e DeepSpeed

[xguru]

MS e Nvidia anunciam o maior modelo de linguagem do mundo, o MegaTron-NLG 530B
DeepSpeed - biblioteca de otimização de deep learning lançada pela MS