17 pontos por xguru 2021-08-21 | 5 comentários | Compartilhar no WhatsApp
<p>1. Em IA, as décadas de 2010 e 2020 são claramente distintas. Com o uso de GPUs, uma nova era da IA se abriu<br /> 2. Mesmo que o deep learning parecesse promissor, não havia um jeito de treiná-lo; quando pegaram peixinhos-dourados (= GPUs) e tentaram treinar com eles, as coisas começaram a funcionar. Mas peixinho-dourado continua sendo peixinho-dourado<br /> 3. Como peixinhos-dourados burrinhos não tinham solução, vamos torná-los mais inteligentes. É aí que entra a OpenAI<br /> → Se um peixinho-dourado burrinho não dá conta, então pegamos dez mil peixinhos-dourados e juntamos as cabeças deles para tentar fazer uma cabeça do tamanho da de um golfinho<br /> → Só que isso estuda bem demais. Como a cabeça ficou mais inteligente, mesmo falando tudo de qualquer jeito, ele entende perfeitamente <br /> → Um único método de treinamento chamado Transformer unificou tudo<br /> 4. O problema é que juntar cabeças de peixinhos-dourados não é uma tarefa fácil. Nem a Nvidia resolveu isso totalmente ainda<br /> 5. Neste momento, a principal vantagem competitiva em IA não é o modelo<br /> → O dinheiro para comprar dez mil peixinhos-dourados (uma A100 de última geração custa US$ 10 mil; dez mil delas significam só em GPUs cerca de 100 bilhões de won) → A tecnologia para tratar essas cabeças de peixinhos-dourados conectadas como se fossem uma única cabeça de golfinho <br /> → Os dados para treinar esses dez mil peixinhos-dourados<br /> 6. No fim, acabou a era em que cada empresa de IA juntava aqui e ali alguns peixinhos-dourados e se esforçava só no método de treinamento<br /> → Quem fazia sozinho tudo isso — criar uma nova cabeça de peixe, conectá-la e fazê-la funcionar como um golfinho — era só o Google<br /> 7. Foi isso que a Tesla mostrou hoje<br /> → Como os peixinhos-dourados da Nvidia não são grande coisa, nós fizemos um novo peixinho-preto<br /> → Também fizemos vários buracos para facilitar a conexão e refinamos bem a cabeça <br /> → Agora com isso dá até para controlar robôs!<br /> <br /> É uma explicação divertida, então vale muito a pena ver o texto original</p>

5 comentários

 
xguru 2021-08-24
<p>Outro texto de impressões para ler junto<br /> <br /> https://www.facebook.com/mins21/posts/1696497720544616</p>;
 
laeyoung 2021-08-22
<p>Pessoalmente, quando a Tesla diz algo como "A será lançado em 20xx!", na prática isso acaba se repetindo como um lançamento em 20xx + 1~2 anos, então acho que faz sentido manter a expectativa só até ver o produto de fato sair. No longo prazo, provavelmente eles vão conseguir atingir isso. Mas, no longo prazo, as outras empresas também não estão paradas... 🤔</p>
 
ffdd270 2021-08-21
<p>Você escreveu de um jeito que até um peixinho dourado conseguiria entender, mas é impressionante como sua intelectualidade transbordante aparece com tanta clareza. Blub blub (...)</p>
 
kunggom 2021-08-21
<p>Buá, não tenho conta no Facebook, então não consigo ver o original…</p>
 
piriri11 2021-08-21
<p>Obrigado pela explicação divertida kkkkkkkkkkkkkkkkk</p>