Apple revela o chip M5, que aumenta drasticamente o desempenho de IA

• O chip M5 incorpora um Neural Accelerator em cada núcleo da GPU, elevando a velocidade de processamento de IA em mais de 4 vezes em relação ao M4
• A combinação de GPU de 10 núcleos, Neural Engine de 16 núcleos e 153 GB/s de largura de banda de memória unificada reforça de forma significativa o desempenho tanto em modelos de IA on-device quanto em processamento gráfico
• Equipando o MacBook Pro 14, iPad Pro e Apple Vision Pro, ele melhora bastante a velocidade de execução de fluxos de trabalho com IA, modelos de difusão e modelos de linguagem
• Com o novo engine de ray tracing de 3ª geração e o Dynamic Caching de 2ª geração, oferece até 45% mais desempenho gráfico em jogos e apps 3D
• A Apple destaca o chip M5 como uma plataforma central para a era da IA, representando o próximo grande salto do Apple Silicon tanto em eficiência energética quanto em desempenho

---

Visão geral do chip M5

• O chip M5 é um SoC Apple Silicon de nova geração fabricado no processo de 3 nanômetros de 3ª geração, totalmente redesenhado para cargas de trabalho de IA
• Ao integrar um Neural Accelerator em cada um dos 10 núcleos da GPU, alcança desempenho de processamento de IA 4 vezes superior ao M4 e 6 vezes superior ao M1
• Com uma CPU de 10 núcleos composta por 4 núcleos de desempenho e 6 núcleos de eficiência, entrega 15% mais desempenho multithread que o M4
• O Neural Engine de 16 núcleos, o media engine aprimorado e a largura de banda de memória de 153 GB/s aumentam a eficiência em todo o sistema

Inovação em IA e desempenho gráfico

• A arquitetura de GPU de nova geração do M5 tem todos os blocos computacionais otimizados para IA, e o Neural Accelerator dentro da GPU processa diretamente as operações de IA
  • A velocidade de execução de apps de IA on-device como Draw Things e LM Studio aumenta de forma significativa
• A combinação do engine de ray tracing de 3ª geração com o Dynamic Caching de 2ª geração eleva o desempenho gráfico em 30% em relação ao M4 e em 2,5 vezes em relação ao M1
• Em jogos exigentes como Cyberpunk 2077, oferece suporte a 120 Hz e transições de quadros suaves
• Apps baseados nos frameworks oficiais da Apple (Core ML, Metal Performance Shaders, Metal 4) podem ver ganhos imediatos de desempenho
• Desenvolvedores podem controlar diretamente o Neural Accelerator dentro da GPU por meio da Metal 4 Tensor API

Neural Engine e Apple Intelligence

• O Neural Engine de 16 núcleos trabalha em conjunto com o Neural Accelerator da CPU e da GPU para processar operações de IA em alta velocidade
• No Apple Vision Pro, recursos complexos de IA como conversão de fotos em 3D e criação de Persona passam a funcionar ainda mais rápido
• A velocidade de resposta de modelos de linguagem baseados em Apple Intelligence e da ferramenta Image Playground foi aprimorada, melhorando a experiência de IA on-device
• Desenvolvedores que utilizam os modelos do Apple Intelligence também podem perceber melhorias de desempenho graças ao Neural Engine aprimorado do M5

Arquitetura de memória

• A largura de banda de memória unificada de 153 GB/s representa um aumento de 30% em relação ao M4 e mais que o dobro em relação ao M1
• Com uma estrutura de pool de memória única, CPU, GPU e Neural Engine podem acessar a mesma memória de grande capacidade
• Com configuração de 32 GB de memória, é possível executar simultaneamente com fluidez apps criativos exigentes como Photoshop e Final Cut Pro, além de grandes modelos de IA
• Maximiza o desempenho de modelos de IA de grande porte e de renderização gráfica em tempo real

Eficiência energética e meio ambiente

• O M5 melhora significativamente o desempenho mantendo uma eficiência energética de nível líder no setor
• Como parte da Iniciativa Apple 2030, a empresa busca reduzir as emissões de carbono em toda a cadeia de produção, materiais, energia e transporte
• Dispositivos com o chip M5 atendem aos padrões de eficiência energética e minimizam o consumo de energia ao longo de todo o ciclo de vida do produto

Significado geral

• O chip M5 simboliza que a evolução do Apple Silicon entrou de vez na era da computação centrada em IA
• Com o design integrado entre GPU e Neural Engine, o desempenho de IA on-device evolui no sentido de reduzir a dependência da nuvem e aumentar a autonomia computacional dos dispositivos pessoais
• Com isso, a Apple está redefinindo o MacBook Pro, iPad Pro e Vision Pro como plataformas criativas de IA de próxima geração

[tsboard]

Parece até um esforço meio desesperado da Apple, que chegou atrasada na IA, mas mesmo assim dá uma certa expectativa rsrs

[xguru]

Dá até para sentir uma certa urgência da Apple a ponto de enfatizar IA no comunicado à imprensa.
É realmente algo revolucionário terem integrado GPU e acelerador neural para aumentar a velocidade do processamento de IA, então parece que o desempenho on-device vai subir muito. Agora a questão é quão bom será o modelo que vai rodar em cima disso, haha

[GN⁺]

Comentários do Hacker News

• Organizado em tabela

  Chip	Processo	Núcleos de CPU	GPU	Neural Engine	Largura de banda da memória	Memória unificada	Geekbench single/multi
  M1	5 nm G1	8: 4P+4E	7–8	16-core	68.25 GB/s	16 GB	2346 / 8346
  M2	5 nm G2	8: 4P+4E	8–10	16-core	100 GB/s	24 GB	2586 / 9672
  M3	3 nm G1	8: 4P+4E	8–10	16-core	100 GB/s	24 GB	2965 / 11565
  M4	3 nm G2	10: 4P+6E	8–10	16-core	120 GB/s	32 GB	3822 / 15031
  M5	3 nm G3	10: 4P+6E	10	16-core	153 GB/s	≤32 GB	4133 / 15437 (9 core)

• Acho interessante que a memória unificada tenha caído de 32 GB para 24 GB. Imagino que tenham concluído que o chip M4 permitia memória demais no modelo padrão e quiseram ampliar a diferenciação em relação aos chips Pro/Max. Mas, vendo que o MacBook Pro mais recente também oferece opção de 32 GB, também penso que esses 24 GB do M5 na tabela podem ser um erro de digitação
• Meu M3 Max parece que vai ficar ultrapassado em breve, mas fazer upgrade para um M6 ou M7 Max deve ser realmente incrível
• Fico curioso se o processo de 2 nm da TSMC foi adiado para o ano que vem ou se o plano original já era 2026
• A pontuação multicore do Geekbench do M5 é da versão de 9 núcleos. Ainda não saiu nada da versão de 10 núcleos
• O M5 MacBook Pro ainda usa chip WiFi da Broadcom, mas o M5 iPad Pro vem com os chips N1 e C1X, o que dá alguma expectativa.
  Tenho a impressão de que a Apple está fazendo coisas absurdamente impressionantes em hardware.
  A equipe de software realmente precisa acordar. O próprio M1 já é tão poderoso que, para a maioria dos usuários, upgrade nem é necessário.
  Mas o novo OS (Tahoe) deixou meu M1 Air repentinamente lento até em tarefas que venho fazendo do mesmo jeito há anos.
  Se isso for lentidão intencional, é realmente decepcionante
  • Depois da atualização para o Tahoe, meu notebook de trabalho com 32 GB M2 Pro ficou lerdo como um PC fraco aqui de casa.
    Até o ponteiro do mouse parece teleportar. Desativar transparência nas opções de acessibilidade não resolveu e até piorou
  • Em software, há muita coisa na Apple ultimamente que realmente me tira do sério.
    • Uso o iPhone como controle remoto da Apple TV, e a UI inconsistente é um problema, como o controle de volume parar de funcionar do nada
    • O método de autenticação que força Face ID é frustrante. Na estação de esqui, obviamente o Face ID não funciona, e mesmo assim não dá para inserir a senha imediatamente
    • Na Apple TV, até para digitar o controle parental você precisa passar pela tela de seleção de PIN. Seria mais prático abrir direto o campo para inserir o PIN
    • Quando uso o iPhone como controle remoto, também queria que ele avançasse automaticamente na etapa de aprovação infantil
  • A equipe de hardware da Apple faz milagres, mas o software que roda nisso tudo fica aquém das expectativas. Parece que são duas empresas completamente diferentes trabalhando separadas
  • Ainda é difícil dizer se o chip WiFi do M5 MacBook Pro e o N1, C1X do iPad Pro são realmente bons. Também já tive muitas experiências pouco satisfatórias com os modems celulares da Apple.
    Acho exagerado dizer que o M1 é poderoso. Em desempenho por watt ele é excelente, mas em volume real de computação o Ryzen 9 7945HX entrega 3 vezes mais que o M1 Max, e o Intel Core Ultra 7 265k cerca de 3,5 vezes mais, então conseguem processar muito mais trabalho
  • Se a Apple separasse completamente as organizações de hardware e software, padronizasse mais o hardware e transformasse macOS/iOS em apenas uma entre muitas opções, eu ficaria muito animado. Na prática é impossível, mas dá para sonhar
• O hardware da Apple é impressionante no papel, mas eu não quero comprar um Mac em que não posso rodar Linux diretamente. Não gosto do ecossistema controlado criado pela Apple.
  Também existe a questão de ARM contra x86. Mesmo que apareça uma distro compatível, no desktop você quer rodar todo tipo de software e jogos, e o ARM ainda tem muitas limitações. Em notebook virou uma escolha relativamente sensata, mas um desktop ARM realmente livre e prático para uso real ainda parece distante
  • Na verdade, Linux roda muito bem no Mac. Você já usou Parallels ou VMware Fusion? Especialmente o Parallels oferece bom suporte a aceleração 2D/3D/vídeo, suspensão e integração com o OS hospedeiro.
    Se isso não for do seu gosto, o novo recurso nativo de contêineres do Tahoe permite rodar contêineres diretamente do dockerhub e afins.
    E quanto a chamar o ecossistema macOS de "jardim murado", você pode instalar apps livremente e usar praticamente qualquer software aberto ou fechado via homebrew
  • Continuo procurando um notebook ARM em que Linux rode bem. Estou de olho também em produtos da Lenovo, mas o suporte a Linux ainda é insuficiente
  • Para receber serviço oficial da Apple, a sensação é mais de sofrer upselling deliberado. Já chegam a cobrar $1500 por troca de teclado. A Apple também continua pouco disposta a reciclar e manter modelos antigos. E continua sendo um ambiente cercado, com opções limitadas sobre o que posso fazer no meu próprio aparelho
  • Os Macs M1 e M2 rodam bastante bem com Asahi Linux (M3, M4 e M5 ainda não são suportados)
  • Hoje em dia acho que a velocidade de computação em si já não significa tanta coisa. Desde que a lei de Wirth não entre em ação forte demais, está tudo bem
• De novo não aparece nenhuma informação concreta sobre melhorias no Neural Engine.
  Quase tudo relacionado ao Apple Neural Engine (ANE) vem de documentação oficial da Apple ou de engenharia reversa (repositório no Github); imagino que desta vez também tenha havido algumas melhorias para acompanhar o desempenho em transformers.
  Os papers da Apple sobre pesquisa com transformer também são bem interessantes:
  • transformers on the Neural Engine
  • vision transformers
    No lado de software, muita coisa melhorou com MLX, mas ainda acho que há espaço para mais melhorias. Resta ver o quanto o M5 Max vai avançar
    Mesmo com qualquer melhora, nada disso chega às gerações anteriores, e o mais frustrante continua sendo insistirem em oferecer só 8 GB de memória unificada
  • Como você disse, recentemente (desde o último ano ou dois) todos os modelos básicos de Mac passaram a começar em 16 GB. O MacBook Air também
  • Há casos em que mais desempenho computacional faz falta, especialmente em vision language models com contexto grande. Pelo que entendo, o ANE antigo era otimizado para operações de convolução e eficiência computacional, enquanto o novo neural accelerator caminha mais para flexibilidade e desempenho
  • Pelo que sei, o MLX ainda não usa o Neural Engine. Eu preferiria até abandonar o Neural Engine e focar nas unidades metal/tensor da GPU
  • Meu palpite é que desta vez fizeram como a NVIDIA e colocaram um systolic array dentro dos núcleos da GPU. Parece ser o único jeito de quadruplicar a velocidade do MLX em relação ao M4
  • A memória unificada sempre fica aquém de vram. Até meus 16 GB de vram parecem insuficientes. Além disso, a Apple cobra caro demais por armazenamento, então mesmo que eu queira uma IA local de verdade para analisar livremente meu calendário, e-mails, fotos e notas, continuo limitado às opções de 256 GB a 1 TB
• No Apple Silicon há várias unidades de hardware capazes de fazer matrix multiplies
  1. CPU SIMD/NEON
  2. CPU AMX coprocessor (M1~M3)
  3. CPU SME (M4)
  4. GPU (metal compute shader + simdgroup-matrix + mps matrix)
  5. Neural Engine (CoreML advisory)
     E no M5 parece ter sido adicionado um "Neural Accelerator" a cada núcleo
  • Na verdade isso parece razoável, porque cada unidade manipula pontos diferentes na hierarquia de memória. Do ponto de vista do programador, também é positivo poder controlar com detalhes latência e throughput
  • Ainda bem que bibliotecas como Pytorch abstraem bem essa complexidade. Se alguém fosse construir isso tudo do zero, ficaria bem complicado
  • Fico curioso se softwares da Apple (como o Final Cut) usam simultaneamente essas unidades de matrix multiply "redundantes" para maximizar desempenho. Pela natureza multitarefa, no nível do OS vários softwares distribuem os recursos entre si, mas seria divertido ver esse tipo de uso extremo em paralelo
  • Não sei se isso é um projeto tão estranho assim. Operações como matmul hoje são primitivas tão comuns e usadas com tanta frequência que faz sentido. O Mac Quadra de 1994 tinha inúmeras unidades de ponto flutuante, enquanto o Mac de 1984 não tinha
  • Fico pensando se daria para usar todas as unidades de matrix multiply ao mesmo tempo. Não seria prático, mas como curiosidade seria divertido testar. Se a CPU tiver estrutura superescalar, talvez algumas operações também possam ser executadas em paralelo
• O chip do iPad Pro está sendo binado de acordo com o armazenamento
  • Até 512 GB: 3 P-cores + 6 E-cores
  • 1 TB ou mais: 4 P-cores + 6 E-cores
    fonte
  • Criar diferença de desempenho por faixa de armazenamento, considerando o quanto a Apple cobra por armazenamento, é um marketing realmente repugnante
• Ultimamente, quando olho para a Apple, tenho a impressão de que a equipe de hardware está se saindo muito melhor do que a de software
  • Isso não é a primeira vez na história da Apple. Na transição de 68k para PowerPC, o desempenho de hardware também deu um grande salto, mas o software não acompanhou. O sistema central rodava praticamente em emulação até o OS 9, e memória protegida e multitarefa preemptiva ainda eram muito deficientes. Os projetos Taligent e Copland fracassaram, e depois veio a aquisição da NeXT até o lançamento do Mac OS X. Até então o software era o grande diferencial do Mac, mas isso também entrou em declínio após a transição para Intel, e tenho a sensação de que o hardware voltou a tomar a dianteira desde o lançamento dos Macs com M1
  • O software tende a ganhar escopo demais, recursos desnecessários e apps abandonados. Já o hardware tem escopo mais limitado por causa do custo de fabricação. A Apple agora precisa de alguém que corte sem piedade o escopo desnecessário e os produtos supérfluos no software
  • Acho que a maior parte do software que não é para datacenter/nuvem está piorando cada vez mais. Gente que se acostumou com esse estado vira tomadora de decisão, então imagino que vá piorar ainda mais
  • Na verdade isso não é só de agora; a qualidade do software da Apple sempre foi meio questionável. O iTunes antigo, por exemplo, ao editar tags escrevia arquivo por arquivo numa lentidão absurda. Tirando o design visual e os guidelines de design, nunca tive tanta impressão de que fosse software excepcional
  • A Apple é, em essência, uma empresa de hardware. Enquanto oferece OS de consumidor de graça, a Microsoft sempre foi mais focada em vender OS. Agora que a Apple projeta até os próprios pacotes SoC, acho que ela está mostrando bem essa vantagem em hardware
• Foi a primeira vez que vi a Apple usar diretamente o termo "AI" no marketing. Antes ela só usava termos como "machine learning" ou "Apple Intelligence"
  • No fim, a Apple também cedeu ao hype. Parecia ser o último resquício de orgulho da Apple insistir no termo "machine learning"
  • Claro, se a Apple estiver adotando IA mais geral, como diffusion models/LLMs, acho normal chamar de AI. Mesmo assim, eu queria que no PR pelo menos mencionassem também Apple Intelligence
  • Não é uma causa totalmente perdida. AI ainda pode significar Apple Intelligence, então prefiro olhar com imaginação
  • Eu quero acreditar que a AI que a Apple promove na verdade significa Apple Intelligence
• Na apresentação do M5, disseram que a computação de GPU para IA ficou 4 vezes mais rápida que no M4, mas provavelmente isso é em condições de laboratório. Na prática, tanto o M5 do iPad quanto o do MacBook Pro afirmam "desempenho de IA 3,5 vezes mais rápido", mas nas demos reais só aparecem exemplos entre 1,2 e 2,3 vezes mais rápidos que o M4. Fico me perguntando que teste usaram para chegar a 3,5 vezes
  • Foi divulgado que o M5 adiciona suporte a operações FP4. Então imagino que a diferença de velocidade seja grande em modelos quantizados em Q4 (precisão muito menor que BF16)
  • Não é só a Apple; concorrentes também costumam comparar com chips de duas gerações atrás, então até entendo esse tipo de inflação de números
• Fico curioso se este chip M5 também traz o "Memory Integrity Enforcement" (recurso de segurança introduzido no A19/A19 Pro)
  • Como usa os mesmos núcleos de CPU, há uma boa chance de que suporte isso mesmo