- Reduz o acesso à memória externa para aumentar o desempenho computacional e economizar energia
- Combina memória e processamento (integração em larga escala entre computação e memória)
- É composto por 256 núcleos, e cada unidade de núcleo inclui sua própria memória, aliviando o gargalo de von Neumann
- Os núcleos são conectados entre si por uma rede inspirada nas conexões de substância branca (white-matter connections) entre o córtex cerebral humano (human cerebral cortex)
- Em testes de benchmark padrão para reconhecimento de imagem, supera com ampla margem as máquinas de IA existentes
- Além disso, consome apenas um quinto da energia dos chips de IA de ponta, mesmo sem usar os processos de fabricação miniaturizados mais recentes
- Se fosse implementado com o processo de fabricação mais recente, a eficiência seria 25 vezes melhor do que a do design atual
- No entanto, os 224 MB de RAM do NorthPole não são suficientes para grandes modelos de linguagem, como os usados no chatbot ChatGPT, que ocupam milhares de megas de dados mesmo em suas versões mais compactadas
- Esse chip só pode executar redes neurais pré-programadas que precisam ser previamente "treinadas" em um computador separado
- Os autores do artigo afirmam que a arquitetura NorthPole pode ser útil para aplicações em que a velocidade é crucial, como veículos autônomos
1 comentários
Pelo uso e pelo desempenho, passa um pouco a sensação de ser algo como um FPGA.