Cofundador da OpenAI, John Schulman, anuncia que vai se juntar à rival Anthropic

• O cofundador da OpenAI, John Schulman, afirmou em uma publicação no X na segunda-feira que deixará a empresa apoiada pela Microsoft para se juntar à startup de IA Anthropic, que recebeu investimento da Amazon
• Schulman era co-líder da equipe de post-training da OpenAI, responsável por melhorar o chatbot ChatGPT e os modelos de IA usados na interface de programação para desenvolvedores terceiros
• Em junho, a OpenAI anunciou que Schulman se juntaria ao comitê de segurança e proteção que aconselharia o conselho como chefe de ciência de alinhamento

Motivo da mudança de Schulman

• Em uma publicação nas redes sociais, Schulman disse: "Tomei essa decisão para aprofundar meu foco em alinhamento de IA e voltar a colocar a mão na massa em trabalho técnico"
• Ele disse que não está saindo por falta de apoio dentro da OpenAI a novos trabalhos sobre esse tema
• "Pelo contrário, os líderes da empresa têm demonstrado grande comprometimento em investir nessa área", afirmou
• A decisão vem menos de três meses depois de a OpenAI dissolver sua equipe de superalinhamento, que buscava controlar sistemas de IA capazes de superar habilidades humanas
  • Jan Leike, que liderava a equipe de superalinhamento, e o cofundador Ilya Sutskever também deixaram a empresa neste ano
  • Leike se juntou à Anthropic, e Sutskever iniciou uma nova empresa chamada Safe Superintelligence Inc.

A concorrência entre OpenAI e Anthropic

• Desde que ex-funcionários da OpenAI fundaram a Anthropic em 2021, as duas jovens empresas sediadas em San Francisco vêm competindo para ter os modelos de IA generativa mais avançados, capazes de produzir texto semelhante ao humano
• Amazon, Google e Meta também vêm desenvolvendo grandes modelos de linguagem

Mudanças recentes na OpenAI

• Quando o conselho afastou Altman do cargo de CEO em novembro passado, funcionários como Schulman protestaram
• Em seguida, Sutskever e outros dois membros do conselho, Tasha McCauley e Helen Toner, renunciaram
• Altman voltou ao cargo e a OpenAI incorporou novos membros ao conselho

Outras notícias

• Greg Brockman, cofundador e presidente da OpenAI, anunciou que tirará um sabático até o fim deste ano

Opinião do GN⁺

• A movimentação de talentos entre OpenAI e Anthropic mostra que a concorrência está se intensificando na indústria de IA
• Segurança e alinhamento de IA devem se tornar cada vez mais importantes à medida que a tecnologia avança, algo que também fica evidente no motivo da mudança de Schulman
• Embora as duas empresas estejam focadas no desenvolvimento de grandes modelos de linguagem, considerações sobre segurança e ética também são essenciais para o desenvolvimento e a implantação responsáveis da tecnologia de IA
• Os conflitos internos recentes e as mudanças na liderança da OpenAI podem ser vistos como um exemplo das dores de crescimento enfrentadas por startups de IA em rápida expansão
• Será preciso acompanhar quais caminhos OpenAI e Anthropic seguirão daqui para frente e que papel terão na indústria de IA

[xguru]

Isso foi mencionado de passagem em outras notícias, mas há bastante movimentação entre líderes da OpenAI

• Greg Brockman, cofundador e presidente da OpenAI, deve tirar uma licença longa até o fim do ano
• Peter Deng, líder de produto que entrou no ano passado, também saiu da empresa
  • A empresa contratou recentemente seu primeiro CFO e CPO, o que parece ter afetado o papel de Deng
• Recentemente, outro líder de segurança, Aleksander Madry, foi realocado para outra função
• O cofundador Ilya Sutskever saiu da empresa e depois fundou a Safe Superintelligence Inc.
• O cofundador Andrej Karpathy saiu da empresa e fundou a empresa de IA + educação EurekaLabs

[GN⁺]

Comentários do Hacker News

• Pode ser uma má notícia para o ChatGPT 5. A saída de um cofundador para a Anthropic pode ser um sinal de que a OpenAI não está na liderança

  • A queima anual de caixa da OpenAI é de cerca de US$ 5 bilhões, e, se não conseguir captar recursos com facilidade, talvez tenha que aceitar dinheiro de investidores duvidosos
  • Muitas vezes, ao escolher um caminho ético e baseado em princípios, a pessoa também acaba obtendo benefícios pessoais

• Como cofundador, deve ter sido uma decisão difícil. Ele era o principal responsável por segurança na OpenAI

  • Dizem que ele não saiu porque a liderança da OpenAI não estivesse comprometida com segurança, mas é difícil acreditar nisso
  • É interessante que o timing do anúncio coincida com o sabático de Brockman

• Há confusão em torno do GPT-4o. É rápido, mas a qualidade é inferior

  • Muitas vezes dá respostas repetitivas
  • Cancelei a assinatura Plus e depois assinei de novo, mas sinto que não vale a pena
  • O downgrade rápido da camada gratuita é irritante
  • Os recursos de "memória" e "conversa" são só propaganda
  • O Gemini melhorou bastante
  • Claude e Mistral não conseguem executar código

• As mudanças no setor de IA parecem a calmaria antes da tempestade

  • O momento importante será quando o primeiro site aberto e gratuito de IA ficar popular
  • O setor de respostas de IA pode ficar 10 vezes maior que o setor de busca
  • O Google operou por 2 anos sem monetização

• A OpenAI tinha 11 cofundadores. Schulman era um deles

  • Schulman originalmente não era o responsável por alinhamento/segurança em IA
  • O fundador de um instituto de pesquisa em IA sem fins lucrativos pode não querer se tornar líder de uma organização complexa
  • O sucesso da OpenAI depende da capacidade de contratar e reter os talentos certos

• Um título mais abrangente incluiria a saída de Greg Brockman e Peter Deng

  • Link

• Enquanto a OpenAI está migrando para um modelo com fins lucrativos, a Anthropic está mais alinhada ao objetivo original da OpenAI

  • Fico curioso sobre como a Anthropic financia sua operação
  • Recebeu investimentos de US$ 4 bilhões da Amazon e US$ 2 bilhões do Google, respectivamente

• O Claude 3.5 Sonnet, da Anthropic, é o melhor modelo

  • A OpenAI está tentando alcançá-lo

• "Focar em alinhamento de IA" é como "passar mais tempo com família e amigos"

  • Fico curioso se a OpenAI está trabalhando secretamente em aplicações militares
  • Também pode ser uma forma de neutralizar o modelo para evitar discussões políticas

• Há muita confiança na equipe da Anthropic