O desalinhamento da OpenAI e o ganho da Microsoft
(stratechery.com)- A crise de fim de semana na OpenAI, iniciada com a demissão de Sam Altman e a renúncia de Greg Brockman, acabou se transformando em uma oportunidade para a Microsoft aproveitar talentos-chave e a PI da OpenAI ao mesmo tempo
- A Microsoft já possuía uma licença perpétua que incluía código-fonte e pesos dos modelos, e além do acesso à tecnologia anterior à AGI, passou a ter também a possibilidade de contratar talentos
- A estrutura de governança sem fins lucrativos da OpenAI foi desenhada para priorizar “uma IA que beneficie toda a humanidade” acima do lucro, mas carregava uma instabilidade estrutural por depender do financiamento da Microsoft e do Azure devido aos enormes custos de computação
- O ChatGPT mostrou potencial para se tornar uma grande plataforma de consumo, com mais de 100 milhões de usuários semanais e mais de US$ 1 bilhão em receita, mas também ampliou os conflitos internos entre a velocidade de produto e o controle dos riscos de IA
- A liderança da corrida de IA passou para Altman e Microsoft, afetando a escolha entre API do Azure, a posição de Google e Anthropic, e o avanço da IA centrado nas grandes empresas de tecnologia
As posições de OpenAI e Microsoft se inverteram ao longo do fim de semana
- Na sexta-feira, o conselho que controla a organização sem fins lucrativos da OpenAI demitiu o então CEO Sam Altman, e o então presidente Greg Brockman renunciou depois de ser retirado do conselho
- Durante o fim de semana, continuaram os rumores sobre uma negociação para o retorno de Altman, mas a OpenAI nomeou o ex-CEO da Twitch Emmett Shear como CEO
- Na noite de domingo, Satya Nadella anunciou que Altman e Brockman se juntariam à Microsoft “com colegas”
- Esse desenrolar foi extremamente favorável para a Microsoft
- A Microsoft já detinha uma licença perpétua sobre a PI da OpenAI
- Essa licença inclui código-fonte e pesos dos modelos, mas, pela estrutura da OpenAI, AGI fica excluída dos termos comerciais com a Microsoft e do licenciamento de PI
- A fuga de talentos da OpenAI, que era uma preocupação após a saída de Altman e Brockman, passou a ter grande chance de ir para a Microsoft
- A OpenAI ficou com poucas opções porque vinha dependendo da Microsoft para financiamento e computação
- O trabalho de IA realizado por funcionários que permaneçam na OpenAI pode cair no escopo dos direitos da Microsoft por causa da licença perpétua
- Se os funcionários se juntarem ao time de Altman, esse trabalho será realizado diretamente dentro da Microsoft
O modelo sem fins lucrativos da OpenAI e a mudança estrutural
- A OpenAI foi fundada em 2015 como uma “empresa de pesquisa em inteligência artificial sem fins lucrativos”
- O objetivo inicial era avançar a inteligência digital de forma a beneficiar toda a humanidade, sem ficar presa à necessidade de gerar retorno financeiro
- O texto da época também incluía a promessa de compartilhar publicamente planos e capacidades
- A OpenAI é de fato uma entidade sem fins lucrativos 501(c)(3), e seus documentos enviados ao IRS também registram essa missão
- Com o tempo, o texto da missão mudou
- Em documentos de 2016, havia a frase sobre “compartilhar publicamente planos e capacidades”
- Dois anos depois, essa frase desapareceu
- Três anos depois, o objetivo de “avançar a inteligência digital” foi trocado pelo objetivo de “construir inteligência artificial geral”
- Em 2018, segundo reportagem da Semafor, Elon Musk tentou assumir o controle da empresa, fracassou, deixou o conselho e também parou de cobrir os custos operacionais da OpenAI
- Precisando lidar com custos massivos de computação, Altman criou a OpenAI Global, LLC, uma empresa com lucro limitado da qual a Microsoft tinha participação minoritária
- A OpenAI Global pode captar recursos e gerar lucro
- Porém, o acordo operacional afirma que a missão da OpenAI, Inc. e os princípios da OpenAI Charter têm prioridade sobre qualquer obrigação de maximizar lucro
- A empresa pode não dar lucro e não tem obrigação de dar lucro
- Mesmo com essas restrições, a Microsoft tornou-se investidora e cliente da OpenAI e integrou a tecnologia da empresa em vários produtos
O potencial de plataforma de consumo criado pelo ChatGPT e os conflitos internos
- O ChatGPT se espalhou rapidamente depois de ser lançado no fim de novembro de 2022
- Atualmente tem mais de 100 milhões de usuários semanais
- A receita passa de US$ 1 bilhão
- Mudou profundamente a discussão sobre IA em grandes empresas e governos
- O ChatGPT mostrou potencial para servir de base a uma nova grande empresa de tecnologia voltada ao consumidor
- Conquistou por boca a boca uma aquisição eficiente de usuários, algo essencial em produtos de consumo
- O efeito de rede não era tão forte, mas o efeito de boca a boca foi enorme
- Foi avaliado como um produto que, como o Google, é tão superior às outras opções do mercado que os usuários procuram por conta própria como usá-lo
- A OpenAI tentou virar plataforma
- Os plugins do ChatGPT tinham um conceito forte, mas a UI não se encaixou direito
- Depois, na primeira conferência para desenvolvedores, a empresa anunciou GPTs e retomou a tentativa de se tornar plataforma
- Há relatos de que Altman buscava empresas de chips e hardware fora da OpenAI, e de que o conselho não sabia disso
- Segundo reportagem da The Atlantic, a demissão de Altman foi resultado de uma disputa de poder entre dois extremos ideológicos dentro da OpenAI
- De um lado estava um grupo de otimismo tecnológico do Vale do Silício, energizado pela comercialização rápida
- Do outro, um grupo que via a IA como um possível risco existencial para a humanidade e defendia controles extremamente cuidadosos
- O lançamento do ChatGPT destruiu o equilíbrio entre esses dois lados
- Acelerou a corrida pela monetização do produto
- Impôs pressão sem precedentes às equipes de infraestrutura e de avaliação e mitigação de riscos
- Em um e-mail interno de 2019, Altman chamou esses grupos internos de “tribes”
O choque entre a decisão do conselho e a execução da missão
- Houve reação de que o conselho da OpenAI destruiu um grande valor, mas a OpenAI não é uma empresa com fins lucrativos que tenha dever fiduciário com acionistas
- A charter da OpenAI afirma explicitamente que a organização não está presa à necessidade de gerar retorno financeiro
- Se o conselho concluiu que Altman e seu grupo não estavam construindo “inteligência artificial geral que beneficie a humanidade”, ele tinha autoridade para demiti-lo
- A instabilidade da estrutura sem fins lucrativos ficou clara no acordo com a Microsoft
- A Microsoft apostou uma parte importante do seu futuro na parceria com a OpenAI
- A tecnologia da OpenAI foi integrada a vários produtos da Microsoft, como Windows, Office e Dynamics CRM
- A Microsoft também investiu pesadamente em infraestrutura adaptada à OpenAI e revelou chips personalizados para executar os modelos da empresa
- O fato de a Microsoft depender tanto de uma organização sem motivação de lucro parecia uma decisão instável, mas a OpenAI também não tinha capital para preservar sua independência
- A OpenAI tinha uma estrutura que bloqueava acordos tradicionais de venture capital e, por precisar de computação em larga escala, teve de entregar PI à Microsoft em troca de créditos do Azure
- Uma organização cuja charter defendia o desenvolvimento seguro de IA acabou estruturada de forma a transferir seu trabalho e uma parte significativa de seus talentos para uma gigante com fins lucrativos
- Essa estrutura levou à avaliação de que a OpenAI tinha um arranjo de incentivos desalinhado para cumprir a missão que ela própria declarava
As perguntas que restaram sobre os motivos da demissão de Altman
- Continua existindo a possibilidade de que a ação do conselho tenha sido baseada em motivo legítimo
- O conselho da OpenAI declarou que Altman “não foi consistentemente sincero” em sua comunicação com o conselho
- Eric Newcomer relatou que parte do conselho via a comunicação de Altman como desonesta e pouco confiável, e entendeu que não podia supervisionar a empresa se não pudesse confiar no que ele dizia
- Newcomer afirmou que alguns pontos precisam ser considerados
- A charter do conselho da OpenAI
- O fato de os fundadores da Anthropic terem sentido necessidade de deixar a OpenAI
- A antipatia de Elon Musk por Altman
- O fato de a saída de Altman da Y Combinator ainda permanecer um tanto obscura
- A decisão de Altman de ir para a Microsoft é surpreendente
- A Microsoft é justamente o lugar que mantém acesso à PI da OpenAI
- Ela consegue combinar isso com acesso a capital praticamente ilimitado e a GPUs
- Essa combinação reforça a interpretação de que o poder sobre a IA é uma motivação central para Altman
O novo mapa da concorrência em IA
- Altman e a Microsoft assumiram o volante da IA
- A Microsoft possui a PI
- Tem caixa e infraestrutura
- Também pode reduzir os problemas de coordenação que existiam na parceria com a OpenAI
- Ao mesmo tempo, a Microsoft continua sendo parceira da OpenAI
- Para empresas externas, ficou mais clara a escolha de construir sobre a API do Azure em vez da API da OpenAI
- A Microsoft, por natureza, tem perfil muito mais forte de plataforma para desenvolvedores
- A OpenAI é uma empresa interessante, mas vista como alguém que pode copiar funcionalidades ou descontinuar APIs antigas
- Para clientes corporativos, enfraqueceu o motivo para evitar o Azure por causa da dependência da OpenAI
- Para empresas que avaliam risco de longo prazo, importa que a Microsoft agora controle a stack completa
- O Google pode precisar de mudanças significativas
- O modelo Gemini mais recente está atrasado
- O negócio de Cloud está desacelerando num momento em que os gastos migram para IA
- Esse é o oposto do que o Google esperava
- A posição da Anthropic como empresa independente parece mais frágil
- Ela firmou parcerias com Google e Amazon
- Mas precisa competir com uma Microsoft que tem acesso praticamente ilimitado a capital e GPUs
- Uma B Corp pode ser adquirida com muito mais facilidade do que uma organização sem fins lucrativos
- No curto e médio prazo, ganha força a visão de que a IA se parece mais com inovação sustentada do que com inovação disruptiva
- Por causa do alto custo, as maiores empresas provavelmente serão as principais beneficiadas e responsáveis pela distribuição
- Quando se consideram também canal e aquisição de clientes, a vantagem das grandes empresas aumenta ainda mais
- Graças ao ChatGPT, a OpenAI tinha chance de entrar no grupo das Big Five, mas essa possibilidade agora diminui
- O insight de Nadella é que grandes empresas vencem não por inventar como startups, mas por usar escala para adquirir ou alcançar rapidamente
1 comentários
Opiniões do Hacker News
Não dá para acreditar que as pessoas estejam torcendo por esse movimento
A Tigris já nasceu morta. Em parte porque isso poderia irritar o conselho da MSFT, mas o motivo maior é que, se Sam for executivo da MSFT, há uma grande chance de a SEC prendê-lo. Talvez dê para ser no máximo um investidor passivo, mas só isso
Vocês realmente acham que os funcionários da OpenAI vão abrir mão de suas participações e aceitar a remuneração em ações comum da Microsoft por nível, aumento salarial de 1%, alguns anos sem bônus e cortes de pessoal impostos pelo conselho?
Sam terá ainda menos poder sobre o conselho, e o conselho de uma empresa de US$ 3 trilhões será muito mais avesso a risco do que o conselho da OpenAI
Ontem a internet estava cheia de fanfic dizendo que Satya tinha forçado a mão do conselho, mas não foi isso que aconteceu. Do ponto de vista de garantir autoridade para que o dinheiro fosse bem usado, ele fez um dos piores investimentos da história do Vale do Silício. Colocou US$ 10 bilhões e ficou com 0 votos, sem poder para mudar uma votação
A melhor opção deles é Sam levá-los para uma nova empresa dentro da Microsoft. Eles receberão condições iguais ou melhores, e provavelmente em 6 meses conseguirão criar o que a OAI tem hoje e seja lá o que assustou Ilya a ponto de dar um golpe
Isso foi uma excelente jogada de poder de Satya. Depois dessa fuga de talentos, não vejo esperança restante para a OpenAI
Se agora Sam quer criar produtos e ganhar dinheiro, e a Microsoft quer a mesma coisa, então o poder sobre o conselho não importa muito. A Microsoft também tem toda a propriedade intelectual de que precisa. Vendo quem controla a OpenAI atualmente, é um acordo melhor do que participação societária. Eles não estão ativamente focados em lucro
Independentemente de isso ser um bom resultado para a IA ou para a humanidade, a Microsoft definitivamente venceu. Além disso, quanto mais gente ela trouxer da OpenAI, menos precisará se envolver com a OpenAI, e tudo será internalizado
Edit: meu Deus, até a pessoa que tirou Sam anunciou que quer renunciar se Sam não voltar; que diabos é isso?
A MS é avessa a risco em todos os aspectos, exceto um. Esse aspecto é acabar com o Google. Para isso, ela colocaria fogo no mundo
Os investidores gostaram do investimento de Satya na OAI, então não sei como dá para classificá-lo como um dos piores investimentos da história do Vale do Silício
Como é possível comparar as preocupações de risco da MSFT e da OpenAI? Minha impressão sobre a OpenAI é que suas preocupações com risco dizem respeito especialmente à busca de lucro. Do ponto de vista de negócios, grandes modelos de linguagem têm enorme potencial para reduzir custos e multiplicar lucros
As preocupações da Newcomer com Altman são válidas [1]. É difícil conciliar a reputação que ele cultivou como CEO da OpenAI com a imprudência sem regras demonstrada em sua startup de criptomoeda
A Microsoft sabe jogar em alto nível nas negociações. Também sabe como impor limites a figuras de personalidade forte
[1] https://www.newcomer.co/p/give-openais-board-some-time-the
Uma dica para os funcionários que planejam sair da OpenAI: este provavelmente é um dos melhores momentos para abrir sua própria empresa
Se forem entrar em uma nova startup, garantam status de fundador e uma boa fatia de participação. Nos próximos meses, investidores vão fazer fila na porta para oferecer dinheiro com valuations absurdos; peguem esse dinheiro e façam aquilo que sempre quiseram fazer. Mesmo que fracasse, grandes empresas tentarão comprá-la pagando muito mais do que jamais conseguiriam oferecer em salários normais
A análise do texto é, em geral, muito boa, mas discordo desta observação
The biggest loss of all, though, is a necessary one: the myth that anything but a for-profit corporation is the right way to organize a company.Não sei como se chega a essa conclusão a partir do que aconteceu neste fim de semana. É claro que, por causa da ação do conselho, parece bem mais provável que a receita e a tração com consumidores da OpenAI fiquem muito menores. Mas o próprio motivo de a OpenAI ter sido criada como uma organização sem fins lucrativos era justamente impedir que esses objetivos dominassem a empresa
A conclusão que se poderia tirar legitimamente seria algo como “o mito de que há outra forma correta de organizar uma empresa com fins lucrativos além de uma entidade com fins lucrativos”, mas isso é óbvio demais
Agora os investidores jamais vão encostar em organizações sem fins lucrativos desse tipo. Um conselho irresponsável, capaz de levar a maioria da empresa e os investidores a uma rebelião, é praticamente material radioativo para investidores
Esse caso prova que a estrutura corporativa padrão de ações = direitos de voto é a única forma de organizar uma entidade gigantesca
A OpenAI vai manter seus objetivos, mas não vai realizar nada. No fim, é bem provável que degenere em um laboratório de pesquisa de nicho, sem recursos nem GPUs para fazer algo significativo
Por exemplo, com uma mão você cria uma organização sem fins lucrativos “boa” e “socialmente responsável” e, com a outra, cria uma empresa com fins lucrativos; depois torna essa empresa a única fornecedora da organização sem fins lucrativos, fazendo todo o dinheiro que entra nela escoar para a empresa. Assim, é possível evitar muitos impostos e ainda gerar lucros sólidos. Há inúmeras estruturas assim, e, se procurar, você encontra centenas de exemplos
A verdadeira questão dos grandes modelos de linguagem é código aberto versus proprietário
E o motivo teria sido uma diferença de opinião sobre os anúncios do DevDay?
Não entendo por que tanta gente acha que o conselho foi altruísta aqui. Esse poder sem freios e contrapesos parece uma loucura
Esse drama ficou mais intenso porque, até agora, ninguém sabe direito por que essa decisão foi tomada. Sendo uma organização sem fins lucrativos, parece muito razoável exigir certo nível de transparência em decisões desse tipo
Se o objetivo é de fato o desenvolvimento “seguro” de IA, então, mesmo que as ações deste fim de semana fossem justificadas em outros aspectos, agora eles estão objetivamente em uma posição mais fraca para perseguir esse objetivo
Eu mudaria o título para “O erro da OpenAI e o excelente controle de danos da Microsoft”
Não acho que a Microsoft esteja necessariamente em uma posição melhor do que estava na quinta-feira. Fazendo as contas:
Dizem que até a Microsoft está alugando GPUs da Oracle para dar conta da demanda. É um pacto com o diabo
A única que poderia atacar com capacidade computacional potencial e tino comercial é a Amazon, mas ela já tem seu próprio negócio. O Google também poderia, mas não sei se aceitaria o dano reputacional de usar um modelo que não é do Google
“Finalmente, tarde da noite de domingo, Satya Nadella anunciou em um tuíte que Altman e Brockman se juntariam à Microsoft ‘com colegas’”
Como esperado, o EEE foi concluído. Isso é a magia da velha Microsoft. Espero que os jovens que estão começando a carreira agora prestem atenção nisso. Todo aquele dinheiro que Gates distribui para comprar uma passagem para o céu também veio dessas mesmas táticas
A meu ver, a nova Microsoft é uma plataforma de plataformas. O lucro flui para plataformas inferiores como Windows e Azure, mas é gerado em todas as camadas, como Office, Xbox e LinkedIn, e em algumas camadas também é compartilhado com funcionários/parceiros
Satya, na verdade, inverteu o insight de Bezos: usar escala para criar uma plataforma que também se vende para fora. O modelo dele é usar o maior número possível de plataformas para criar e manter escala. Não é algo novo; conglomerados de 100 anos atrás também fariam isso. Só que ele está fazendo isso de forma sistemática, quebrando menos regras do que Amazon ou Google. Tenho admiração sincera por isso
É triste que isso seja descrito como uma vitória ou uma boa contenção de danos para eles. Além disso, todo mundo coloca todos os problemas na conta do conselho, mas todos têm as mãos sujas no caminho até aqui. É uma bagunça completa
Pode ser uma perda para a OpenAI e um ganho para a Microsoft, mas qualquer tipo de apoio à IA é uma tragédia para a humanidade.
Tudo é bom na medida certa, e com a IA estamos empurrando a eficiência para além desse ponto ideal. A IA não só pode tirar empregos de criadores, como ilustradores, e ser usada para roubo de identidade, como também está eliminando as relações em que as pessoas dependem umas das outras.
A sociedade se sustenta porque as pessoas precisam umas das outras. As pessoas se encontram porque precisam umas das outras, e isso fortalece as comunidades locais. A IA está tirando isso de nós, fazendo com que os únicos de que precisemos sejam big techs como Microsoft e Google e organizações sem alma.
Isso é uma descida ao feudalismo. Todo mundo vai acabar pagando às big techs por necessidades básicas da vida. No começo será uma opção; depois, como o smartphone, virará uma necessidade.
Para homens e mulheres que queiram viver de forma independente das big techs, isso ficará cada vez mais difícil, e, por meio das ações imorais dessas empresas, estamos perdendo a noção do que significa ser humano.
Não me importo de pagar a grandes empresas pelo direito a conveniências modernas, desde que essa conveniência se estenda a cada vez mais pessoas. Se ninguém voltar a morrer de fome, a Monsanto pode ficar com todo o meu dinheiro. Se eu nunca mais tiver que fazer trabalho repetitivo, a Microsoft pode ficar com todos os meus dados.
Parece que a última etapa para substituir empregos de colarinho azul é mais cara e mais difícil — ou talvez impossível — do que substituir trabalhadores da informação por IA.
A imagem de uma criança atacada por terroristas é real ou falsa? Para a vítima, é real; para o poder político, é falsa; para as grandes empresas, é dinheiro.
Ferramentas de IA parecem reduzir tarefas repetitivas e dar mais tempo para a criatividade.
Se essa tendência continuar, a criatividade inevitavelmente gerará mais colaboração. Afinal, a criatividade não pode florescer apenas dentro de cubículos isolados.
fora a indústria de jogos de baixa qualidade e a indústria de golpes em anúncios do Instagram, onde a IA de fato ameaça tomar empregos hoje?
Quem já trabalhou em uma organização sem fins lucrativos talvez reconheça a cena de um conselho que age por conta própria, fora de uma motivação de lucro que às vezes é mais fácil de entender.
Agora, o que resta parece ser saber quem está do lado certo da história. O verdadeiro perdedor aqui provavelmente é a IA ética. Talvez seja uma ideia impopular por aqui, mas em computação e IA parecemos estar vivendo ecos da Revolução Industrial. Como no século 19, quando o incentivo ao lucro gerou profundas injustiças humanas, como trabalho infantil e condições de trabalho inseguras e desumanas.
É claro que a IA também pode ter impactos muito maiores, tanto positivos quanto negativos, como as redes sociais.
Essas coisas existiam muito antes da industrialização. Durante a maior parte da história humana, a educação foi, na prática, trabalho infantil.
“A maior perda — mas também uma perda necessária — é o mito de que não há uma forma correta de organizar uma empresa que não seja como uma corporação com fins lucrativos”?
https://en.wikipedia.org/wiki/Robert_Bosch_Stiftung
https://en.wikipedia.org/wiki/Tata_Sons
A lição mais plausível, na verdade, parece ser que Altman levou a OpenAI a uma situação incompatível com seu propósito sem fins lucrativos.
A estrutura é que “a fundação filantrópica detém a esmagadora maioria das ações para se financiar, mas não tem direito a voto e se dedica a objetivos de saúde e sociais que não têm relação com os negócios da Bosch”.
Também existe o exemplo da estrutura de propriedade da Ikea, mas aquilo é só uma enorme estrutura de evasão fiscal.
“Concorde ou não com o grupo Sutskever/Shear, o estatuto e a responsabilidade do conselho não são ganhar dinheiro. Isto não é uma corporação com fins lucrativos com dever fiduciário para com acionistas; na medida em que o conselho acredita que Altman e seu grupo não estão ‘criando inteligência artificial geral que beneficie a humanidade’, ele tem autoridade para removê-lo. Eles acreditam nisso, e por isso fizeram isso.”
Tenho alguma discordância com essa parte. Eles têm o direito de removê-lo, mas, se fazem isso de uma maneira que destrói o valor do seu maior ativo — a divisão com fins lucrativos —, é difícil dizer que estão agindo bem em prol do interesse da organização sem fins lucrativos. Especialmente se havia potencialmente outras opções, como uma saída negociada ou algum aviso prévio adequado aos investidores.
Trabalhei em uma startup adquirida pela Microsoft e, em resumo, a MS é uma empresa que mata a cultura. Nossa dinâmica aberta e nossos debates livres murcharam sob o cobertor da gestão ao estilo MS.
Não acho que as culturas da OpenAI e da MS possam se tornar compatíveis. A MS é sem graça. É muito eficaz em transformar coisas em produtos. Mas uma cultura que impulsiona inovação profunda não vai durar muito.
Pelo que sei, mudou bastante.