OpenAI abandona controle sem fins lucrativos e planeja conceder participação acionária a Sam Altman

• A OpenAI, criadora do ChatGPT, está avançando com um plano para reorganizar seu negócio principal como uma public benefit corporation com fins lucrativos, saindo do controle do conselho sem fins lucrativos
• A organização sem fins lucrativos da OpenAI continuará existindo e deverá manter uma participação minoritária na entidade com fins lucrativos. Isso também pode afetar a forma como a empresa gerencia os riscos de IA
• O CEO Sam Altman receberá participação acionária na entidade com fins lucrativos pela primeira vez, e estima-se que o valor da empresa possa chegar a US$ 150 bilhões após a reestruturação. A remoção do limite de retorno para investidores também está sendo considerada
• Um porta-voz da OpenAI afirmou: "Estamos focados em construir uma IA benéfica para todos e trabalhando com o conselho para garantir que nossa estrutura esteja otimizada para cumprir essa missão. A organização sem fins lucrativos é central para nossa missão e continuará existindo"

Mudanças na governança interna da OpenAI e troca de liderança

• Esses detalhes mostram uma grande mudança de governança em andamento dentro da OpenAI, uma das principais empresas de IA
• A empresa está revisando a estrutura corporativa proposta com advogados e acionistas, e ainda não há certeza sobre quando a reestruturação será concluída
• A CTO da OpenAI, Mira Murati, anunciou inesperadamente sua saída na quarta-feira, e o presidente Greg Brockman também está afastado

Trajetória da OpenAI e o sucesso do ChatGPT

• Fundada em 2015 como uma organização sem fins lucrativos de pesquisa em IA, a OpenAI adicionou em 2019 a OpenAI LP, uma entidade com fins lucrativos controlada pela organização sem fins lucrativos, e garantiu financiamento da Microsoft para investir em pesquisa
• No fim de 2022, lançou o ChatGPT, um app de IA generativa capaz de produzir respostas semelhantes às humanas, atraindo atenção global e se tornando um dos aplicativos com crescimento mais rápido da história, com mais de 200 milhões de usuários ativos semanais
• Com o sucesso do ChatGPT, o valor da OpenAI disparou de US$ 14 bilhões em 2021 para US$ 150 bilhões na nova rodada de notas conversíveis em discussão, atraindo o interesse de investidores como Thrive Capital e Apple

Preocupações com a segurança da IA

• A estrutura incomum da OpenAI foi originalmente concebida para garantir a missão de "criar uma AGI segura e amplamente benéfica (inteligência artificial superior ao nível humano)"
• A retirada do controle pelo conselho sem fins lucrativos é bem recebida por investidores, pois permitiria que a OpenAI operasse como uma startup comum
• No entanto, como já desfez sua equipe de superalignment, focada em riscos de IA de longo prazo, isso pode gerar preocupações na comunidade de segurança em IA sobre a capacidade da empresa de manter autocontrole responsável na busca por AGI
• Ainda não está claro qual será o tamanho da participação acionária que Altman receberá. Ele já havia dito que optou por não ter participação porque o conselho precisava ter maioria de diretores sem interesse financeiro

Opinião do GN⁺

• A mudança de governança da OpenAI levanta uma questão importante sobre como equilibrar sucesso comercial e segurança da IA
• Embora a transição para uma empresa com fins lucrativos pareça inevitável para atrair investidores e manter o ritmo de crescimento, será essencial estabelecer uma estrutura de governança transparente e responsável para dissipar preocupações sobre o desenvolvimento de AGI e conquistar a confiança do público
• Adotar uma estrutura de public benefit corporation, como Anthropic ou a xAI de Elon Musk, pode ser uma forma de buscar equilíbrio entre lucro e responsabilidade social
• No entanto, de forma mais fundamental, parece urgente criar consenso social, normas e mecanismos institucionais capazes de identificar e gerenciar proativamente os riscos potenciais do avanço da tecnologia de IA
• Governos, empresas e sociedade civil precisarão cooperar para manter discussões contínuas e esforços de políticas públicas para que a IA evolua em uma direção benéfica para a humanidade

[cronex]

Na prática, isso acaba tornando a empresa uma companhia comum.

Bom, como é algo que exige muito dinheiro, talvez seja inevitável, mas acho que já está na hora de tirar o open do nome.

[xguru]

Parece que a participação acionária dada ao Sam Altman será de cerca de 7%
https://businessinsider.com/open-ai-sam-altman-equity-stake-valuation-…
Depois da reestruturação, a empresa deve valer algo em torno de 200 trilhões de won, então ele acabaria recebendo algo como 15 trilhões de won?

[GN⁺]

Opiniões no Hacker News

• A OpenAI parece estar agindo de forma contrária ao que havia prometido

  • Explica as etapas de OAI-1 a OAI-5 e menciona que agora chegou à fase OAI-5
  • Esperava-se que lançasse o GPT-5, mas agora parece ter percebido que não precisa mais responder a ninguém
  • Isso é uma situação muito assustadora

• O conselho da OpenAI foi reconfigurado com executivos de tecnologia

  • Bret Taylor preside o conselho, e ele foi anteriormente co-CEO da Salesforce
  • Parece contrariar a própria essência de uma organização sem fins lucrativos que seu conselho aprove a conversão para uma empresa com fins lucrativos

• Há preocupação sobre como o compromisso da OpenAI com a segurança em IA será afetado

  • A estrutura sem fins lucrativos era uma salvaguarda para impedir decisões centradas no lucro
  • Se virar uma empresa com fins lucrativos, fica a dúvida se continuará priorizando o desenvolvimento responsável de IA

• Levantam-se questões de confiança em relação a Sam Altman

  • Há 4 meses ele dizia que não precisava de mais dinheiro, mas agora quer obter US$ 10 bilhões em ações por meio da OpenAI
  • Há quem ache que seria melhor mudar o nome da OpenAI para "ClosedAI"

• É mencionado que o momento da saída de Mira Murati é interessante

• O fundador da Loopt critica que a OpenAI foi completamente descaracterizada

  • Não está claro quais foram exatamente os feitos de Sam Altman nem por que ele se tornou chefe da YC ou da OpenAI
  • Ele também ocupa o cargo de chairman da Helion Energy
  • É mencionada a remoção do limite de retorno para os investidores