Impressões sobre o Tesla AI Day
(facebook.com)<p>1. Em IA, as décadas de 2010 e 2020 são claramente distintas. Com o uso de GPUs, uma nova era da IA se abriu<br />
2. Mesmo que o deep learning parecesse promissor, não havia um jeito de treiná-lo; quando pegaram peixinhos-dourados (= GPUs) e tentaram treinar com eles, as coisas começaram a funcionar. Mas peixinho-dourado continua sendo peixinho-dourado<br />
3. Como peixinhos-dourados burrinhos não tinham solução, vamos torná-los mais inteligentes. É aí que entra a OpenAI<br />
→ Se um peixinho-dourado burrinho não dá conta, então pegamos dez mil peixinhos-dourados e juntamos as cabeças deles para tentar fazer uma cabeça do tamanho da de um golfinho<br />
→ Só que isso estuda bem demais. Como a cabeça ficou mais inteligente, mesmo falando tudo de qualquer jeito, ele entende perfeitamente <br />
→ Um único método de treinamento chamado Transformer unificou tudo<br />
4. O problema é que juntar cabeças de peixinhos-dourados não é uma tarefa fácil. Nem a Nvidia resolveu isso totalmente ainda<br />
5. Neste momento, a principal vantagem competitiva em IA não é o modelo<br />
→ O dinheiro para comprar dez mil peixinhos-dourados (uma A100 de última geração custa US$ 10 mil; dez mil delas significam só em GPUs cerca de 100 bilhões de won)
→ A tecnologia para tratar essas cabeças de peixinhos-dourados conectadas como se fossem uma única cabeça de golfinho <br />
→ Os dados para treinar esses dez mil peixinhos-dourados<br />
6. No fim, acabou a era em que cada empresa de IA juntava aqui e ali alguns peixinhos-dourados e se esforçava só no método de treinamento<br />
→ Quem fazia sozinho tudo isso — criar uma nova cabeça de peixe, conectá-la e fazê-la funcionar como um golfinho — era só o Google<br />
7. Foi isso que a Tesla mostrou hoje<br />
→ Como os peixinhos-dourados da Nvidia não são grande coisa, nós fizemos um novo peixinho-preto<br />
→ Também fizemos vários buracos para facilitar a conexão e refinamos bem a cabeça <br />
→ Agora com isso dá até para controlar robôs!<br />
<br />
É uma explicação divertida, então vale muito a pena ver o texto original</p>
5 comentários