1 pontos por GN⁺ 2024-05-15 | 1 comentários | Compartilhar no WhatsApp

1 comentários

 
GN⁺ 2024-05-15
Opiniões no Hacker News
  • Curiosamente, Karpathy e Sutskever agora ambos deixaram a OpenAI
    Agora a OpenAI parece girar em torno de Sam Altman e Greg Brockman
    Dos quatro, Karpathy e Sutskever eram os mais impressionantes, e espero que continuem fazendo grandes coisas

    • Os 6 principais cientistas saíram há muito tempo, e a OpenAI agora virou uma empresa tocada por pessoas de marketing, negócios, software e produtização
      Quando a próxima onda de inovação em deep learning varrer o mundo, a Microsoft deve ficar com o que sobrar
      Vão ganhar muito dinheiro, mas, se não conseguirem substituir o que perderam, não parece haver futuro
    • Karpathy ainda é uma figura de peso em machine learning/IA e uma das poucas pessoas que ainda vale a pena seguir constantemente no Twitter/X
    • Acho que Dario também não recebe reconhecimento suficiente
    • Gosto muito do Karpathy
      Ele parece um erudito clássico e também um professor
    • Ainda assim, Jakub Pachocki continua na OpenAI
  • Jan Leike também anunciou que vai sair https://twitter.com/janleike/status/1790603862132596961

    • O cenário que me vem à cabeça é que eles passaram por cima da oposição da equipe de segurança para lançar um novo modelo antes do Google IO
    • Parece que o chamado superalignment também está desaparecendo assim
      Ilya, Jan Leike, William Saunders e Leopold Aschenbrenner todos foram embora
    • Ele é a pessoa que escreveu “Bad universal priors and notions of optimality” e fez ao programa MIRI de Hutter algo parecido com o que Gödel fez ao programa de Hilbert
  • Sempre que caminho pelos arredores da Universidade de Toronto, penso com frequência na cena de cerca de 10 anos atrás, quando Ilya tentava descobrir alguma coisa no laboratório ao lado do de Alex
    É difícil acreditar que essa nova onda de IA tenha começado ali
    Ilya, Karpathy, Jimmy Ba e muitos outros estavam lá exatamente na época em que Hinton estava por perto

    • A Universidade de Toronto naquela época era realmente incrível
      Daquele grupo também saiu uma versão de mineração de Bitcoin baseada em GPU
      Por volta de 2014, o Ethereum também nasceu ali por perto, e lembro dos primeiros encontros do Ethereum, com Vitalik junto, perto de Queen e Spadina
      Mas, como outra pessoa disse, apesar de termos tido ali Geoffrey Hinton, o pai do deep learning, e figuras como Ilya e Vitalik, praticamente não obtivemos nenhum benefício concreto disso
    • Mas nenhum deles criou uma empresa de IA em Toronto
      Como canadense, é decepcionante ver como somos ineficientes em criar empresas bem-sucedidas
  • Depois daquela tentativa de destituição, isso parecia quase inevitável, e provavelmente estavam acertando os detalhes da saída
    Mas logo no dia seguinte ao anúncio de novos recursos?

    • “Se você levar o próximo grande recurso até o lançamento, deixaremos você sair numa boa” pode ter feito parte de um acordo anterior
    • Pelo que ele disse em entrevistas, que para chegar ao próximo nível de compreensão seria necessário aprendizado multimodal de ponta a ponta, acho que o Omni foi trabalho dele
    • Ele provavelmente vinha pensando nisso havia um tempo e, quando a atenção sobre ele aumentou com o lançamento, talvez tenham exigido uma decisão
    • Também pode ser uma jogada esperta
      As notícias da OpenAI entraram no meio do Google IO e roubaram a atenção do Google; como acabaram de fazer um grande anúncio, o impacto da notícia negativa também fica um pouco menor
    • Se a notícia da saída vem depois do anúncio de novos recursos, as pessoas prestam relativamente menos atenção do que em outro momento
  • Jakub Pachocki é incrível
    Ficou entre os 20 melhores nas competições polonesas de algoritmos
    https://oi.edu.pl/contestants/Jakub%20Pachocki/

  • É o destino comum de pessoas idealistas que criam algo grandioso e, em meio a disputas de poder, acabam sendo descartadas pela gestão
    Quantas vezes isso já se repetiu?

    • Quantas vezes? Isso é a base do modelo econômico mais bem-sucedido da humanidade
      Alguns talvez não sejam descartados, mas nunca recebem crédito suficiente em comparação com um líder clueless de sorriso de um milhão de dólares lidando com pessoas ignorantes e gente com carteiras de um bilhão de dólares
      Ainda assim, devemos agradecer a Deus ou à natureza pelo fato de existirem na nossa espécie pessoas que entendem e criam coisas
    • As pessoas necessárias para a revolução e as pessoas necessárias depois da revolução não são as mesmas
  • “Fazer com que a IA geral beneficie a todos” é o novo Don’t Be Evil

    • “Queremos colocar a IA nas suas mãos”
      Para você ficar com ela?
      Não! Por que diabos você pensou isso, seu vilão...
      OpenAI quer dizer estender as mãos por trás de luvas grossas de borracha e plexiglass para implorar por mais uma dose de IA
  • Não entendo por que as trocas de emprego de tecnólogos são tratadas como mudanças de elenco em times da liga principal
    Esses influenciadores “chamados pelo nome” são inteligentes? Claro
    Mas inteligência não é algo tão raro assim
    Essas pessoas também são tecnólogas, como a maioria aqui, e tiveram sorte na direção da carreira e na especialização mais do que são especialmente mais inteligentes
    Não são gênios dos negócios; são apenas pessoas que ocuparam papéis
    Mudanças de liderança afetam o negócio? Até certo ponto, sim, mas provavelmente algo como 5% do que se esperaria pelo hype fofoqueiro em torno das figuras da IA
    Já chega
    Vamos olhar para a tecnologia, para o trabalho real
    O número de pessoas profissionalmente afetadas por essas pessoas mudarem onde recebem salário está muito mais perto de 0 do que de 50%

    • Não, elas são as pessoas que definem a empresa, e cargos assim são muito menos substituíveis e são papéis que elas mesmas criaram
  • Será que o próximo destino é a Meta?
    Há muito dinheiro entrando na área de IA, bastante capacidade computacional, e parece que ele poderia fazer qualquer pesquisa que quisesse

    • Provavelmente não
      Só a política interna já é suficiente para deixar a maioria das pessoas louca
  • Não tem como não ser importante que pessoas que dedicaram os últimos 10 anos a trabalhos que foram avanços decisivos estejam indo embora
    É um erro achar que a sorte delas vai continuar e que essa debandada não é sinal de declínio da OpenAI
    Talvez seja melhor monetizar enquanto a reputação ainda vale alguma coisa
    Parece mais provável que outras equipes abram novos caminhos