1 pontos por GN⁺ 2023-11-01 | 1 comentários | Compartilhar no WhatsApp
  • A Apple apresentou simultaneamente seus novos chips para Mac, M3, M3 Pro e M3 Max; os três usam, pela primeira vez em chips para computadores pessoais, o processo de 3 nanômetros, aumentando velocidade e eficiência energética
  • A nova arquitetura de GPU usa Dynamic Caching para alocar em tempo real apenas a memória local necessária para cada tarefa e, pela primeira vez no Mac, oferece suporte a ray tracing acelerado por hardware e mesh shading
  • As melhorias de desempenho divulgadas incluem renderização até 2,5 vezes mais rápida em relação ao M1, núcleos de desempenho 30% mais rápidos, núcleos de eficiência 50% mais rápidos e Neural Engine 60% mais rápido; o motor de mídia adiciona decodificação AV1
  • A memória unificada máxima por chip chega a 24 GB no M3, 36 GB no M3 Pro e 128 GB no M3 Max, segmentando desde Macs comuns até workloads profissionais de alto desempenho
  • A melhoria na eficiência energética contribui para a eficiência dos novos MacBook Pro e iMac; segundo testes da Apple, o novo MacBook Pro alcança a maior autonomia já vista em um Mac, de até 22 horas

Família M3 baseada no processo de 3 nanômetros

  • A Apple anunciou os três chips M3, M3 Pro e M3 Max, apresentando a próxima geração do Apple silicon para Mac
  • Os três chips são fabricados com tecnologia de processo de 3 nanômetros, pela primeira vez em chips para computadores pessoais, colocando mais transistores em um espaço menor para aumentar velocidade e eficiência
  • Os novos chips serão usados nos novos MacBook Pro e iMac
  • As principais mudanças abrangem GPU, CPU, memória e motor de mídia
    • Arquitetura de GPU de nova geração
    • Núcleos de desempenho e de eficiência de CPU mais rápidos
    • Neural Engine mais rápido
    • Suporte a mais memória unificada
    • Novo motor de mídia com decodificação AV1

GPU de nova geração e Dynamic Caching

  • A GPU da família M3 é apresentada como uma grande mudança na arquitetura gráfica do Apple silicon
  • Dynamic Caching aloca em tempo real, por hardware, o uso de memória local, diferentemente das GPUs tradicionais
    • Usa apenas a quantidade exata de memória necessária para cada tarefa
    • Funciona de forma transparente para desenvolvedores
    • Aumenta a utilização média da GPU, contribuindo para melhor desempenho em apps profissionais de alto desempenho e jogos
  • Pela primeira vez no Mac, há suporte a ray tracing acelerado por hardware
    • Ray tracing modela a interação da luz em uma cena, permitindo criar imagens fisicamente precisas
    • Desenvolvedores de jogos podem implementar sombras e reflexos mais precisos
  • A nova GPU também oferece, pela primeira vez no Mac, suporte a mesh shading acelerado por hardware
    • Aumenta a capacidade e a eficiência do processamento de geometria
    • Permite cenas mais complexas em jogos e apps com uso intenso de gráficos
  • O desempenho da GPU é apresentado como uma melhoria significativa em relação à família M1
    • A velocidade de renderização é até 2,5 vezes maior que na família M1
    • A GPU do M3 oferece o mesmo desempenho do M1 usando quase metade da energia
    • O desempenho de pico é até 65% maior que o do M1

CPU, memória unificada e motores de IA e vídeo

  • A CPU de nova geração do M3, M3 Pro e M3 Max traz melhorias de arquitetura tanto nos núcleos de desempenho quanto nos de eficiência
    • Os núcleos de desempenho são até 30% mais rápidos que os da família M1
    • Os núcleos de eficiência são até 50% mais rápidos que os do M1
    • É possível oferecer o mesmo desempenho multithread com cerca de metade da energia do M1
    • Em potência de pico, oferece desempenho até 35% maior
  • Como exemplos de melhoria de desempenho da CPU, a Apple citou a compilação e o teste de milhões de linhas de código no Xcode e o uso de centenas de faixas de áudio, plug-ins e instrumentos virtuais no Logic Pro
  • Cada chip usa a arquitetura de memória unificada, uma característica do Apple silicon
    • Um único pool de memória permite que várias tecnologias dentro do chip acessem os mesmos dados
    • Reduz a necessidade de copiar dados entre vários pools de memória
    • Oferece alta largura de banda, baixa latência e eficiência energética
  • O suporte a memória unificada se expande para até 128 GB
    • A Apple citou como exemplo o trabalho de desenvolvedores de IA com modelos transformer maiores, na escala de bilhões de parâmetros
  • O Neural Engine aprimorado é até 60% mais rápido que o da família M1
    • Processa workflows de IA/ML com mais rapidez, mantendo os dados no dispositivo para preservar a privacidade
    • Ferramentas de processamento de imagem por IA, como redução de ruído e super-resolução da Topaz, ficam mais rápidas
    • A detecção de cortes de cena no Adobe Premiere e o Smart Conform no Final Cut Pro também recebem ganhos de desempenho
  • O motor de mídia dos três chips oferece aceleração por hardware para H.264, HEVC, ProRes e ProRes RAW
    • Pela primeira vez, há suporte à decodificação AV1, o que pode aumentar a eficiência energética e prolongar a autonomia ao reproduzir serviços de streaming

Configurações por chip e workloads-alvo

  • M3 é um chip para sistemas de uso amplo
    • Tem 25 bilhões de transistores, 5 bilhões a mais que o M2
    • A GPU de 10 núcleos tem desempenho gráfico até 65% mais rápido que o M1
    • A CPU de 8 núcleos é composta por 4 núcleos de desempenho e 4 núcleos de eficiência
    • O desempenho da CPU é até 35% mais rápido que o do M1
    • Suporta até 24 GB de memória unificada
    • A Apple citou iluminação, sombras e reflexos realistas em jogos graficamente intensos como Myst
  • M3 Pro mira usuários que precisam de mais desempenho
    • Tem 37 bilhões de transistores
    • A GPU de 18 núcleos é até 40% mais rápida que a do M1 Pro
    • Suporta até 36 GB de memória unificada
    • A CPU de 12 núcleos é composta por 6 núcleos de desempenho e 6 núcleos de eficiência
    • O desempenho single-thread é até 30% mais rápido que o do M1 Pro
    • A Apple citou como exemplo o trabalho de unir e manipular grandes fotos panorâmicas no Adobe Photoshop
  • M3 Max é o chip para os workloads profissionais mais exigentes
    • Tem 92 bilhões de transistores
    • A GPU de 40 núcleos é até 50% mais rápida que a do M1 Max
    • Suporta até 128 GB de memória unificada
    • A CPU de 16 núcleos é composta por 12 núcleos de desempenho e 4 núcleos de eficiência
    • O desempenho da CPU é até 80% mais rápido que o do M1 Max
    • Inclui dois motores ProRes e foi projetado para processar pós-produção de vídeo em alta resolução de forma rápida e flexível no DaVinci Resolve, Adobe Premiere Pro e Final Cut Pro

Eficiência energética, bateria e plano ambiental

  • A eficiência energética do M3, M3 Pro e M3 Max contribui para que os novos MacBook Pro e iMac atendam aos padrões de eficiência energética da Apple
  • O novo MacBook Pro alcança a maior autonomia já vista em um Mac, de até 22 horas
    • Os testes da Apple foram realizados em setembro e outubro de 2023 com sistemas MacBook Pro de 16 polegadas em pré-produção
    • O sistema de teste tinha Apple M3 Pro, CPU de 12 núcleos, GPU de 18 núcleos, 36 GB de RAM e SSD de 512 GB
    • O teste de navegação sem fio configurou o brilho da tela em 8 cliques acima do mínimo e navegou sem fio por 25 sites populares
    • O teste de reprodução de filmes no app Apple TV reproduziu conteúdo HD 1080p nas mesmas condições de brilho
    • A duração da bateria varia conforme o uso e a configuração
  • A Apple afirma que atualmente alcançou neutralidade de carbono em suas operações corporativas globais
  • Até 2030, a empresa planeja alcançar impacto climático líquido zero em todos os seus negócios, incluindo toda a cadeia de fornecimento de fabricação e o ciclo de vida de todos os produtos
  • Segundo esse plano, todos os chips de todos os Macs serão neutros em carbono, do design à fabricação

1 comentários

 
GN⁺ 2023-11-01
Opiniões do Hacker News
  • Observando como a composição dos SKUs está ficando cada vez mais complexa, algumas coisas chamam a atenção. A largura de banda de memória diminuiu: o M2 Pro tinha 200 GB/s, mas o M3 Pro tem apenas 150 GB/s, e o M3 Max só chega a 400 GB/s nos chips selecionados de topo
    O M3 de entrada de 14 polegadas não só tem uma porta Thunderbolt a menos, como também não oferece suporte oficial a Thunderbolt 4, ao contrário do M1/M2. O M3 Pro também perdeu a opção de SSD de 8 TB, provavelmente porque havia pouca demanda por essa configuração. Além disso, o M3 Pro tem mais núcleos de eficiência do que o Max (6 contra 4), então é interessante ver esse tipo de corte nas configurações superiores — algo que acho que a Intel dificilmente faria

    • Fico curioso se a Apple acompanha esse tipo de estatística nos aparelhos lançados. O iPad sempre pergunta se pode enviar estatísticas para a Apple, e eu sempre recuso, mas se gente suficiente concordar, imagino que dê para saber bem coisas como a frequência de uso dos núcleos de desempenho ou o uso máximo da largura de banda de memória
      Quando eu estava na Intel, sempre havia compromissos interessantes entre área de silício, calor e recursos de margem, mas na época a Intel não tinha como coletar estatísticas, então muita coisa ficava no nível de “ainda assim achamos que deve ser feito assim”, sem muitos dados
    • Além da largura de banda de memória reduzida, o M3 Pro perdeu 2 núcleos de desempenho e ganhou apenas 2 núcleos de eficiência
      O M2 Pro tinha 8 núcleos de desempenho + 4 núcleos de eficiência, enquanto o M3 Pro tem 6 núcleos de desempenho + 6 núcleos de eficiência. Não parece uma troca muito boa, e não sei bem se dá para chamar o M3 Pro de upgrade
    • Acho que é porque os SoCs básicos da linha M só dão suporte a um monitor externo. Pelo que sei, a especificação Thunderbolt 4 exige suporte a 2 monitores externos em uma única porta
      Em todos os outros aspectos, eu esperaria que essa porta se comportasse igual a uma porta Thunderbolt 4
    • Não entendi o que a Intel “não faria”. A Intel tem mais núcleos de eficiência do que de desempenho na maior parte da linha, especialmente nos produtos de ponta. Por exemplo, todos os i9 da Raptor Lake S têm 16 núcleos de eficiência e 8 núcleos de desempenho; os i7 são 8:8; e só os i5 de entrada (abaixo do 13500) têm mais núcleos de desempenho. Os i3 não têm núcleos de eficiência
      Nos H/HX móveis é parecido: há poucos SKUs com mais núcleos de desempenho do que de eficiência, e nos P/U não há nenhum. Na verdade, uma das coisas que me surpreenderam quando a Intel começou a lançar SMT assimétrico foi que, enquanto o mercado mobile e a Apple em geral ficavam em 1:1 ou pendiam para núcleos de desempenho, a Intel parecia estar apostando forte em núcleos de eficiência
    • A complexidade dos SKUs provavelmente vem do fato de a Apple estar aprendendo por que Intel/AMD têm tantos SKUs. Quando se fabrica chips complexos em grande escala, aparecem vários chips que não são perfeitos, e, para reduzir perdas, em vez de vender tudo como um único SKU e descartar o restante, é preciso criar vários SKUs por meio de seleção e segmentação
  • Achei um pouco confusa a comparação com Macs Intel. Ainda uso um MacBook Intel de 16 polegadas, mas o que eu realmente queria ver era como o M3 se compara ao M2, não à Intel ou ao M1. Não é surpresa que, nos benchmarks da própria Apple, o M3 vença o Intel Core i7-9750H em quase tudo
    A comparação que realmente interessa é com a geração imediatamente anterior, e provavelmente teremos a resposta na próxima semana. Meu notebook de trabalho é um MacBook Pro de 14 polegadas e, mesmo rodando muitos contêineres em Kubernetes como parte do fluxo de desenvolvimento, a duração da bateria é impressionante. Imagino que a Apple tenha comparado com Intel e M1 para convencer usuários atuais de MacBook a atualizar para a geração mais recente de CPU

    • Acho que quase ninguém vai fazer upgrade a partir de um Mac M2, enquanto deve haver muito mais gente ainda em Macs Intel
    • Há anos, a maior concorrente da Apple é a Apple de 5 anos atrás. Uma das maiores ameaças é a estagnação das vendas porque as pessoas continuam usando notebooks e celulares perfeitamente bons que compraram alguns anos antes
      Para uma empresa que anuncia seus produtos como premium e duráveis, é um problema difícil de lidar
    • Neste momento, comparar com o M2 não é muito útil. Ao longo da apresentação, os ganhos ficaram em torno de 15% a 20% em algumas áreas
      Mesmo fabricando os próprios chips, a Apple não consegue entregar aumentos revolucionários de desempenho todos os anos, então é provável que esse nível de diferença entre duas gerações continue por bastante tempo. Como a Apple presume que as pessoas usem Macs por vários anos, faz sentido comparar com gerações antigas para convencer sobre o upgrade
    • Se você não usar imagens ARM, elas acabam rodando em uma máquina virtual para inicializar as imagens Docker. Mesmo assim, é realmente impressionante rodar tantos contêineres e o notebook continuar frio ao toque e com a bateria cheia
    • O que me surpreendeu mais foi não haver nenhum benchmark específico de IA. Sei que os modelos open source mais populares vieram de concorrentes óbvios, mas acho que daria para definir pelo menos uma tarefa de retreinamento alinhada ao fluxo de programadores de machine learning
  • Fiquei bem decepcionado com a falta de entrada e saída adequada no notebook. Eles falam por um bom tempo sobre o quanto a GPU evoluiu, mas é frustrante que um notebook de US$ 1.600 só consiga acionar um monitor externo, e um de US$ 2.000 apenas dois
    Além disso, estão enfraquecendo os desktops ao oferecer M2 apenas nos modelos all-in-one; então, se você for à loja hoje para comprar outro desktop, acaba pagando um grande prêmio por tecnologia defasada. Eu esperava Face ID e melhor suporte a monitores, mas não houve nenhum motivo convincente para fazer upgrade. Se você já preferia Windows, ainda vai preferir Windows; se já tem um processador M, não há muito motivo para atualizar. Se estava pensando em um Studio ou mini, é melhor esperar até os processadores serem renovados

    • Concordo. O processo de usar mais de 2 telas em um Mac não é simples. Considerando o preço que a Apple cobra por aparelhos “pro”, deveria ser fácil conectar 2 ou mais telas para trabalhar
    • A frase “oferecer M2 apenas nos modelos all-in-one” é confusa. O iMac pulou o M2, e o novo modelo que começa a ser enviado no mês que vem vem com o chip M3 comum, substituindo o modelo M1
    • Mesmo com apenas um driver de monitor externo, é possível acionar vários monitores em resoluções de 4K ou inferiores. Usando um adaptador DisplayLink, até Macs com apenas um driver de monitor externo conseguem encadear dois monitores 4K. Internamente, parece ser uma forma de reutilizar a mesma saída de vídeo em duas telas
      USB-C consegue acionar 1 monitor 6K ou 2 monitores 4K, e a porta HDMI a partir do M2 Pro consegue acionar um monitor 8K
  • Um ponto interessante no M2 Pro e no M3 Pro é que eles se afastaram de uma configuração que era majoritariamente de núcleos de desempenho. O M1 Pro tinha 6+2 ou 8+2 núcleos de desempenho+eficiência; o M2 Pro tinha 6+4 ou 8+4; e o novo M3 Pro tem 5+6 ou 6+6.
    A Apple vem reduzindo a proporção de núcleos de desempenho a cada geração. No M1 Pro era 75–80%, no M2 Pro 60–67%, e no M3 Pro 45–50%. Isso também aparece nos resultados do Geekbench: o M2 Pro de 10 núcleos (6+4) faz 12.100 pontos, enquanto o M1 Pro de 10 núcleos (8+2) faz 12.202. O M2 Pro de 12 núcleos (8+4) faz 14.221 pontos, um aumento de 16,5% para 20% mais núcleos.
    Há algo nisso que parece um resultado estranho. Acrescentar 2 núcleos de desempenho M2 gera apenas uma melhora relativamente pequena em relação ao M2 Pro de 10 núcleos, mas acrescentar 2 núcleos de eficiência ao M1 Pro também dá a mesma melhora de 16,5% em relação ao M1 Pro 8+2. Meu palpite é que pode haver limitação térmica durante a execução do benchmark. Se os núcleos de desempenho adicionais não conseguem se comportar como verdadeiros núcleos de desempenho sob carga de 100%, o impacto parece pequeno; por outro lado, se núcleos de eficiência entregam desempenho parecido com o de núcleos de desempenho sob alta carga térmica, eles podem parecer quase equivalentes no benchmark.
    Também fico curioso se cenários de uso real diferem de forma significativa dos benchmarks. Por exemplo, fixar um processo a um núcleo pode ser útil para manter o cache aquecido; em situações reais, o sistema operacional pode fixar um processo no núcleo de desempenho 1 e outro processo no núcleo de desempenho 2, e ambos podem ter picos de uso. Nesse caso, como a carga térmica total não é alta, os núcleos de desempenho mantêm o pico de performance, e ambos se beneficiam dos núcleos de desempenho e do cache aquecido.
    Talvez seja mais uma decisão de negócio do que uma questão de desempenho do chip em si. O grande argumento de venda do M1/M2 Max era a GPU, e talvez a RAM adicional também. Antes era possível obter a mesma CPU no Pro ou no Max, mas agora o M3 Pro tem CPU 5+6 ou 6+6, enquanto o M3 Max tem 10+4. Ter 67–100% mais núcleos de desempenho passa a ser um argumento de venda do M3 Max até para quem não liga tanto para gráficos.

    • Acho que o último parágrafo está certo. O Max é um produto que sacrifica a duração da bateria para quem quer o máximo desempenho possível, e a Apple parece estar percebendo que um público muito mais amplo compra o chip Pro.
      Pela minha impressão, quando alguém da área de tecnologia menciona seu dispositivo Apple Silicon, quase sempre é com chip Pro. Entre esses usuários, poucos devem colocar todos os núcleos em carga total com frequência, mas muitos certamente estão aproveitando uma excelente duração de bateria.
    • Parece que aqui a Apple está aprendendo com a Intel.
      Nas últimas gerações, a Apple tornou os núcleos de eficiência muito mais rápidos. Eles são minúsculos, mas chegam a quase 50% do desempenho, consumindo cerca de 10 vezes menos energia. Viva os retornos decrescentes.
      Se uma tarefa escala apenas até 1–4 núcleos, esses núcleos precisam ser rápidos; mas, em geral, se ela escala além disso, provavelmente também escala para um número muito grande de núcleos. Por esse ponto de vista, 6–8 núcleos de desempenho bastam para rodar algumas cargas leves com várias threads ao mesmo tempo, e normalmente não se vai muito além disso.
      Depois disso, no espaço de um núcleo de desempenho+cache, é possível colocar 4–6 núcleos de eficiência+cache; assim, com metade da energia, obtém-se muito mais desempenho em cargas altamente escaláveis. A AMD também está indo na mesma direção com chiplets Zen 4c e 5c, de modo que terá um chiplet de desempenho e vários chiplets de eficiência. Os ganhos de área e energia são grandes demais para ignorar.
    • Como a GPU representa uma fatia muito grande da potência térmica para a qual esses SoCs foram projetados, se a carga for apenas na CPU não deveria haver limitação térmica.
    • É muito mais fácil obter ganhos com a escala de núcleos de GPU do que com núcleos de CPU.
  • Fico me perguntando por que existe a opção de 36 GB. As outras configurações de memória (16 GB, 64 GB) ainda são potências de 2 bem certinhas. Olhando só para a capacidade, parece que estão usando memória compatível com ECC e aproveitando a largura extra para suporte a ECC como dados, mas não sei por que isso se aplicaria a apenas uma capacidade. Será por causa do fornecimento de componentes?
    Investigando um pouco, parece que, em vez de um ou mais barramentos de 72 bits de largura com 2^32 palavras, como eu esperaria por uma visão mais antiga, provavelmente são 6 barramentos de 32 bits de largura com 6 GiB por barramento. Memórias com profundidade de 1,5 * 2^N se tornaram bem comuns com o uso de empilhamento de ICs, empilhando 12 ICs de tamanho potência de 2 em um único pacote. É diferente da forma mais “conveniente” de empilhar os mesmos ICs em 8 ou 16 camadas para formar potências de 2.

    • Ultimamente estão usando mais configurações em múltiplos de 6/12, provavelmente relacionadas às capacidades de chips possíveis com LPDDR5X.
      M2 e M3 vão até 24 GB; M3 Pro tem 18 GB e 36 GB; M3 Max tem configurações de 36 GB, 48 GB, 64 GB, 96 GB e 128 GB.
    • Parece que a largura de banda de memória do M3 Pro foi reduzida para 150 GB/s, contra 200 GB/s no M1/M2 Pro. Para obter a largura de banda total de 400 GB/s que era possível nos chips M1/M2 Max, é preciso subir para o M3 Max topo de linha.
    • Não tem relação com ECC. Eles usam memória LPDDR5X e, se você acompanhou os celulares Android, esses números não são surpreendentes.
    • Sinceramente, eu prefiro assim. Se na geração anterior você frequentemente lotava os 16 GB de memória e chegou a hora de fazer upgrade, não necessariamente precisa do dobro de memória; 24 GB parecem uma boa.
    • O MacBook Pro também tem uma configuração M3 Pro com 18 GB. É bem incomum.
  • Esses modelos parecem menos úteis para inferência de LLMs, que é bastante limitada pela largura de banda de memória. Na página do MacBook Pro, o M3 aparece com 100 GB/s, 150 GB/s e 300 GB/s, enquanto o M2 tinha 200 GB/s e 400 GB/s.
    No M3 ainda é possível chegar a 400 GB/s nas configurações de GPU mais altas, mas é interessante que, no geral, tenha diminuído.

    • Na apresentação, mencionaram cache dinâmico de GPU, que parece um recurso de que modelos Transformer poderiam gostar.
  • Não entendo por que eles não renovam a linha inteira sempre que sai um chip novo. Especialmente desta vez, parece que no MacBook Pro e no iMac eles basicamente só trocaram o chip
    Separadamente, fico curioso para saber se alguém sabe como a memória unificada se compara à VRAM em termos de desempenho de machine learning. Considerando que uma H100 de 80 GB custa algo em torno de US$ 30 mil, é interessante que um MacBook Pro totalmente equipado, com 128 GB de memória unificada, custe US$ 5 mil. Levando em conta que, realisticamente, a maioria dos prosumers fica presa a placas Nvidia de 24 GB dentro de um orçamento razoável, fico curioso se isso é minimamente comparável ou atraente para modelos grandes

    • Parece ser uma combinação de vários fatores. Primeiro, atualizar uma linha de produtos exige trabalho real de engenharia e pode levar pelo menos um ano
      Segundo, há também a capacidade de fabricação. No primeiro semestre deste ano, é bem provável que eles estivessem produzindo os processadores de 3 nm do iPhone enquanto trabalhavam nos processadores do MBP, e deve ser difícil aumentar simultaneamente a produção de vários chips
      Terceiro, há o lado da demanda. Se meus pais fossem comprar um notebook novo e um celular novo este ano, acho mais provável que comprassem com 6 meses de intervalo. Da mesma forma, manter o ritmo de anunciar os produtos a, b, c neste trimestre e d, e, f no próximo ajuda a Apple a continuar aparecendo nas notícias com boas novidades
      Quanto a machine learning, espero que os resultados apareçam rápido quando der para colocar as mãos nas máquinas reais
    • Meu palpite é que eles tiram gradualmente os chips antigos de diferentes SKUs ao longo do tempo para escoar o estoque existente. Por exemplo, quando a produção do M3 ainda é baixa, começam pelos modelos mais caros do MacBook Pro. Esses produtos vão vender mais devagar e, enquanto isso, a linha Air escoa o estoque restante de M2; depois, quando a produção do M3 aumenta, fazem um “refresh”
      Não sei os volumes de venda de MacBook da Apple nem se o Air vende mais que o Pro, mas, pelo fato de eles fazerem isso de forma tão consistente, com certeza devem lucrar com esse método
    • Também deve haver a intenção de consumir a capacidade de produção existente de M1/M2, mas neste momento acho que eles não têm estoque de M3 suficiente
      Esqueci quantas fabs com capacidade de 3 nm a TSMC tem, mas não devem ser muitas. Há quem diga que a Apple garantiu toda a capacidade de produção da TSMC[0], mas ainda assim não parece ser suficiente
      [0]: A Apple está economizando “bilhões” em chips graças a um acordo único com a TSMC | https://news.ycombinator.com/item?id=37040722
    • O MacBook Air, o Mac Studio e o Mac Pro foram atualizados há apenas uns 6 meses. Se atualizassem de novo agora, os compradores anteriores se sentiriam completamente passados para trás
    • O M2 Ultra tem largura de banda de memória unificada de até 800 GB/s. Em comparação, a 4090 tem 1.008 GB/s, e DDR4-6400 em dual channel no PC oferece 102 GB/s de largura de banda
  • Na apresentação, eles deram um destaque meio do nada dizendo algo como: “com suporte a até 128 GB de memória, torna possíveis fluxos de trabalho antes inviáveis em um notebook, como os de desenvolvedores de IA que lidam com modelos Transformer maiores, com dezenas de bilhões de parâmetros”, mas não mostraram como o desenvolvimento de IA funciona de fato
    Sei que a Apple investiu mais no suporte a Apple Silicon no PyTorch, mas fico curioso se já chegou a um nível suficiente

    • Acho que ainda não. Eu adoraria estar errado, mas até placas Nvidia móveis baratas superam o chip M2 comum em tarefas pequenas de treinamento
      O M3 Max talvez possa competir, mas acho que o Metal ainda está longe do CUDA. O M3 Max para notebooks parece capaz de competir com uma Nvidia 3070. Só que a Nvidia é um monstro no desktop, com muito calor e consumo de energia, enquanto os chips Apple M são muito eficientes, então não é uma comparação justa. Precisamos ver como serão os chips M3 para desktop
    • Pelo que sei, o PyTorch tem suporte nativo. Na minha experiência, funcionou até melhor que o ROCm
    • Será que a galera mais avançada hoje está usando GGML?
  • É bastante impressionante que este evento tenha sido filmado com o iPhone 15 Pro[1]. Claro, foi com iluminação profissional e vários equipamentos, diferente do ambiente de um usuário comum
    Agora que gravação em Log é possível, talvez a próxima apresentação do iPhone possa ser filmada justamente com o iPhone que será anunciado
    [1] Fonte: https://www.youtube.com/live/ctkW3V0Mh-k?t=30m02s