Impressões sobre o Tesla AI Day
(facebook.com)-
Em IA, as décadas de 2010 e 2020 são claramente distintas. Com o uso de GPUs, uma nova era da IA se abriu
-
Mesmo que o deep learning parecesse promissor, não havia um jeito de treiná-lo; quando pegaram peixinhos-dourados (= GPUs) e tentaram treinar com eles, as coisas começaram a funcionar. Mas peixinho-dourado continua sendo peixinho-dourado
-
Como peixinhos-dourados burrinhos não tinham solução, vamos torná-los mais inteligentes. É aí que entra a OpenAI
→ Se um peixinho-dourado burrinho não dá conta, então pegamos dez mil peixinhos-dourados e juntamos as cabeças deles para tentar fazer uma cabeça do tamanho da de um golfinho
→ Só que isso estuda bem demais. Como a cabeça ficou mais inteligente, mesmo falando tudo de qualquer jeito, ele entende perfeitamente
→ Um único método de treinamento chamado Transformer unificou tudo
-
O problema é que juntar cabeças de peixinhos-dourados não é uma tarefa fácil. Nem a Nvidia resolveu isso totalmente ainda
-
Neste momento, a principal vantagem competitiva em IA não é o modelo
→ O dinheiro para comprar dez mil peixinhos-dourados (uma A100 de última geração custa US$ 10 mil; dez mil delas significam só em GPUs cerca de 100 bilhões de won) → A tecnologia para tratar essas cabeças de peixinhos-dourados conectadas como se fossem uma única cabeça de golfinho
→ Os dados para treinar esses dez mil peixinhos-dourados
- No fim, acabou a era em que cada empresa de IA juntava aqui e ali alguns peixinhos-dourados e se esforçava só no método de treinamento
→ Quem fazia sozinho tudo isso — criar uma nova cabeça de peixe, conectá-la e fazê-la funcionar como um golfinho — era só o Google
- Foi isso que a Tesla mostrou hoje
→ Como os peixinhos-dourados da Nvidia não são grande coisa, nós fizemos um novo peixinho-preto
→ Também fizemos vários buracos para facilitar a conexão e refinamos bem a cabeça
→ Agora com isso dá até para controlar robôs!
É uma explicação divertida, então vale muito a pena ver o texto original
5 comentários
Outro texto de impressões para ler junto
https://www.facebook.com/mins21/posts/1696497720544616
Pessoalmente, quando a Tesla diz algo como "A será lançado em 20xx!", na prática isso acaba se repetindo como um lançamento em 20xx + 1~2 anos, então acho que faz sentido manter a expectativa só até ver o produto de fato sair. No longo prazo, provavelmente eles vão conseguir atingir isso. Mas, no longo prazo, as outras empresas também não estão paradas... 🤔
Você escreveu de um jeito que até um peixinho dourado conseguiria entender, mas é impressionante como sua intelectualidade transbordante aparece com tanta clareza. Blub blub (...)
Buá, não tenho conta no Facebook, então não consigo ver o original…
Obrigado pela explicação divertida kkkkkkkkkkkkkkkkk