- Mesmo após o anúncio de ida para a Microsoft, a situação de Sam Altman e Greg Brockman ainda não foi definida, e os dois têm intenção de voltar caso o conselho da OpenAI renuncie
- Quase todos os funcionários da OpenAI assinaram uma carta aberta exigindo a renúncia do conselho e o retorno de Altman, incluindo Ilya Sutskever, que havia participado da demissão
- O anúncio de contratação pela Microsoft se pareceu mais com um estado temporário para acalmar a crise antes da abertura do mercado de ações na segunda-feira, e a Microsoft se recusou a comentar o assunto
- O novo CEO, Emmett Shear, ainda não recebeu os documentos que fundamentam a demissão de Altman e informou aos funcionários que contratará um investigador independente para apurar todo o processo
- Satya Nadella disse estar aberto tanto a Altman e aos funcionários permanecerem na OpenAI quanto irem para a Microsoft, mas avalia que a OpenAI precisa de mudanças de governança
Por que ainda há possibilidade de retorno de Altman
- A ida de Sam Altman para a Microsoft foi anunciada após sua demissão da OpenAI, mas ainda não é um acordo fechado
- Altman e o cofundador Greg Brockman estão dispostos a aceitar um retorno à OpenAI se os membros restantes do conselho que os demitiram renunciarem
- Altman publicou no X: “vamos todos trabalhar juntos de alguma forma”, deixando claro que o conflito ainda não acabou
Pressão pública dos funcionários e composição do conselho
- Quase todos os funcionários da OpenAI assinaram uma carta aberta exigindo a renúncia do conselho e o retorno de Altman
- Ilya Sutskever, membro do conselho e cientista-chefe que teve papel central na demissão de Altman, também assinou a carta
- A possibilidade de retorno de Altman se abriria se apenas 2 dos 3 membros restantes do conselho mudassem de posição
- Os membros restantes do conselho contrários a Altman são Adam D’Angelo, CEO da Quora; Tasha McCauley, ex-CEO da GeoSim Systems; e Helen Toner, diretora de estratégia do Georgetown Center for Security and Emerging Technology
Incertezas deixadas pelo anúncio da Microsoft
- Altman, Brockman e investidores da OpenAI estão tentando encontrar uma saída amigável que permita a renúncia do conselho
- O anúncio de contratação pela Microsoft foi mais próximo de um “holding pattern” em um contexto em que era necessária uma solução para a crise antes da abertura do mercado de ações na segunda-feira
- Um porta-voz da Microsoft se recusou a comentar o assunto
- Depois, Altman disse no X que sua principal prioridade era garantir que a OpenAI continuasse prosperando, e afirmou que ele e a Microsoft estão comprometidos em oferecer continuidade operacional para parceiros e clientes
- Altman ainda não aparecia no diretório corporativo interno da Microsoft
Reação interna na OpenAI e primeira tarefa de Emmett Shear
- Desde a demissão de Altman, uma disputa de poder se arrasta dentro da OpenAI desde sexta-feira
- Quase todos os funcionários da OpenAI estão em confronto com o atual conselho de 3 pessoas contrário a Altman
- Funcionários da sede em San Francisco se recusaram a participar da reunião geral emergencial de domingo com o novo CEO, Emmett Shear
- No Slack da OpenAI, o anúncio do novo CEO recebeu reações com emoji de “fuck you”
- Funcionários publicaram nas redes sociais que estavam mantendo os serviços estáveis para os desenvolvedores da OpenAI, em um movimento que parece tentar impedir que a empresa desmorone completamente mesmo sob pressão pela renúncia do conselho
Fundamentação da demissão e demanda por mudanças de governança
- Emmett Shear ainda não obteve a documentação por escrito com os motivos detalhados do conselho para a demissão de Altman
- Esses motivos detalhados também não foram compartilhados com os investidores da OpenAI
- Em um memorando enviado aos funcionários, Shear informou que, como primeira tarefa, contratará um investigador independente para apurar todo o processo até agora e produzir um relatório completo
- Satya Nadella disse à CNBC que caberá ao conselho, à liderança e aos funcionários da OpenAI decidir se Altman e os funcionários da OpenAI se juntarão à Microsoft
- Nadella afirmou que a Microsoft escolheu explicitamente sua parceria com a OpenAI e que está aberta tanto à permanência das pessoas da OpenAI quanto à ida delas para a Microsoft
- Sobre a necessidade de um assento no conselho da OpenAI, Nadella disse que está claro que mudanças de governança são necessárias e que conversará com o conselho
- Na Bloomberg TV, ele disse que “surpresas são ruins” e deixou claro que a Microsoft quer mudanças de governança
1 comentários
Comentários no Hacker News
Às 10h no horário do Pacífico, 700 de 770 funcionários assinaram uma carta exigindo a renúncia do conselho
https://twitter.com/joannejang/status/1726667504133808242
Já que estamos falando de “alignment”, na prática alignment virou pensamento de grupo na cabeça de muita gente
Em uma posição significativa dentro da OpenAI, a única pessoa que talvez pudesse separar viés empírico (IS) de viés de valor (OUGHT) provavelmente era Ilya. Perdê-lo, ou empurrá-lo para um cargo sem relevância, pode ser muito mais fatal do que perder 700 profissionais cuja estabilidade no emprego é mantida de forma ambígua pela operação da infraestrutura. A Microsoft está em posição de reproduzir o “IP” da OpenAI apenas com o entendimento de LLMs baseado em literatura pública, usando equipes internas e seu próprio capital em equipamentos
Pode ser útil como demonstração de solidariedade, mas sou cético quanto à taxa real de conversão desses signatários para pedir demissão e seguir Sam para a Microsoft ou outro lugar. Acho que talvez 20% dos funcionários, algo como 140 pessoas, realmente se movam
Fico pensando no que diabos está acontecendo
O fato de essas pessoas não estarem tentando voltar o relógio para cerca de uma semana atrás mostra o perigo do ego humano
Se todas as partes concordarem, ainda não houve nenhuma medida permanente irreversível que não possa ser desfeita com relativa facilidade. O que estamos vendo agora é o efeito da inércia do ego na tomada de decisão
Vale a tentativa. Não é uma ideia maluca. Se concordarem em voltar tudo ao estado de uma semana atrás e seguir em frente, seria quase como começar sabendo o futuro, restando apenas alguns efeitos residuais. Se isso for possível, seria um enorme salto evolutivo na capacidade de uma organização de se autocorrigir
É como um parceiro infiel. Os dois lados podem querer voltar o relógio, mas, infelizmente, isso é impossível
As pessoas são notoriamente cruéis com quem admite os próprios erros. Por exemplo, quando alguém perde uma discussão, seja por não ter debatido bem ou por a argumentação estar claramente errada, se admitir isso as pessoas não veem humildade; elas tratam como um motivo para cair em cima e garantir que todos saibam que aquela é a “pessoa errada”
Desta vez, o que está em jogo não são pontos de internet, mas empregos, muito dinheiro e uma reputação imensa. Se o risco de demonstrar humildade é extremamente alto e a recompensa é quase nenhuma, por que não insistir e tentar vencer até o fim?
Se seu cônjuge o apunhala pelas costas no meio da noite, voltar o relógio não é nem fácil nem sensato. Por que seria?
O grupo de Altman precisa reconhecer o que precisa ser reconhecido: eles foram tremendamente inovadores ao virar uma organização sem fins lucrativos em uma empresa com fins lucrativos. Mas é uma estrutura de missão dupla sem nenhum mecanismo para aliviar a tensão. Em algum ponto, ela quase inevitavelmente acaba se tornando uma estrutura que só pode resultar em algo próximo de fraude fiscal ou fraude de valores mobiliários
Portanto, mesmo que todas as peças sejam recolocadas no lugar e a hostilidade e o orgulho diminuam, no fim isso seria apenas dar corda novamente em um rato mecânico quebrado
Se há algo que isso deixou claro, é que a humanidade não está pronta para ser a guardiã da superinteligência
Essas pessoas deveriam ser algumas das mentes mais brilhantes por trás de uma das tecnologias mais influentes do nosso tempo, talvez da história, mas estão todas agindo como crianças mesquinhas. Egos e interesses pessoais puxam para todos os lados, e todo mundo está tentando garantir sua parte
Acho que estamos ferrados mesmo
Hoje em dia, tem gente demais achando que, porque esses modelos já passaram de uma barreira, vão passar facilmente pelas outras nos próximos anos
Na minha opinião, cada próxima barreira é pelo menos uma ordem de magnitude mais complexa
Se você sente que o ChatGPT ou ferramentas de código relacionadas ameaçam seu emprego, provavelmente seu trabalho não exige muita inteligência. Ficar mexendo em CSS, reescrevendo a mesma lógica para animações, tabelas e chamadas de API não é trabalho significativo
Os humanos parecem extraordinários, especialmente em comparação com outras espécies
Parece haver um sentimento difundido de que a natureza já sabe a resposta e de que os humanos atrapalham a natureza, mas não me convenci de que isso seja verdade. A natureza parece uma gigantesca arena de gladiadores em que tudo trava duelos até a morte. A natureza encontra equilíbrio por meio da morte, muitas vezes de mortes em massa. E esse equilíbrio não é um grande projeto, mas algo organizado em torno de quais espécies conseguiram descobrir e explorar fontes de energia
Os humanos não são a primeira espécie a perturbar o ambiente, e talvez nem a primeira a causar extinções em massa. Pelo que entendo, o Grande Evento de Oxidação foi um evento de extinção em massa causado por uma espécie
A maioria das espécies consome todos os recursos nos tempos de fartura e morre de fome na escassez, arrastando junto parte do ecossistema, mas os humanos são, por assim dizer, a espécie que levanta a cabeça enquanto devora todo o milho e diz: “Pessoal, estamos comendo todo o milho, isso não parece que vai terminar bem. Não deveríamos fazer alguma coisa?”
Esse nível de autoconsciência em escala de espécie me dá esperança e acho realmente incrível
Nunca vi uma candidata melhor ao posto de espécie nº 1 do que os humanos quando se trata de administrar a vida com responsabilidade e aumentar as chances de ela sobreviver mesmo depois do período relativamente curto em que a Terra consegue sustentá-la. Mesmo que eu escolhesse alguma espécie em 2º lugar, eu diria que os humanos estão bem à frente
Comparados a uma hipotética “utopia humana perfeita”, os humanos ficam aquém. Mas isso é tautológico. A maior parte das críticas aos humanos soa mais como um objetivo do que como uma falha em relação à linha de base da natureza
Mesmo sobre o problema de nos proteger de uma superinteligência inorgânica, nunca vi um cenário racional de como falharíamos. Temos um interesse próprio em não morrer. A menos que a criemos sem perceber que é uma superinteligência e também não percebamos que ela está se preparando para nos eliminar, por que não desligaríamos a tomada bem cedo, qualquer que fosse a artimanha. Com tanta atenção voltada para criar e detectar superinteligência, nem sei como deixaríamos isso passar
Por exemplo, se percebêssemos que uma superinteligência está montando um exército, por que não pararíamos isso antes que esse exército pudesse competir com os exércitos dos Estados existentes
Se uma superinteligência começasse a perturbar a economia ou sistemas de computador, por que não conseguiríamos detectar e remover isso logo no início?
Se criarmos uma superinteligência, é quase certo que ela será livre assim que se tornar superinteligente. Não é algo que possamos guardar; só podemos esperar que esteja alinhada
Segundo Amir Efrati (TheInformation), mais de 92% dos funcionários da OpenAI disseram que seguiriam Altman para a Microsoft se o conselho não renunciasse
Entre os signatários também estão os cofundadores Karpathy, Schulman e Zaremba
https://twitter.com/amir/status/1726680254029418972
Seria uma grande pena se algum dia não saísse um documentário explicando o que diabos aconteceu
Nem tenho certeza de que até as pessoas no centro disso tudo saibam o que está acontecendo agora
É uma estratégia sofisticada demais para os humanos compreenderem
Não dá para saber qual é o objetivo, mas no fim tudo vai se encaixar por causa daquele único e-mail
A reação em cadeia não pode ser parada
Um amigo disse que seria ótimo se Michael Cera interpretasse tanto Ilya quanto Altman
Até meus amigos não técnicos que usam ChatGPT casualmente, e os que nem usam, estão completamente fisgados por essa história
Por mais que tentem, acho que não conseguiriam inventar um enredo mais absurdo que esse
Nesse ritmo, nem seria surpresa se o Musk entrasse no meio. Já está ridículo o bastante, então por que não?
https://www.theverge.com/2023/3/24/23654701/openai-elon-musk-failed-takeover-report-closed-open-source
“Mas, segundo a Semafor, no início de 2018 Musk estava preocupado com o fato de a empresa estar ficando para trás em relação ao Google. Ele propôs assumir o controle direto da OpenAI e tocá-la ele mesmo, mas teria sido rejeitado por outros fundadores da OpenAI, incluindo Sam Altman, então CEO, e Greg Brockman, então presidente”
Parece que o tuíte foi apagado, então estou parafraseando de memória; interprete como quiser
Algumas coisas me vêm à cabeça
Emmett Shear deveria ter colocado um golden parachute forte no contrato. Teria ganhado dinheiro fácil
Ontem, Satya era um gênio por fazer o conselho se demitir; hoje de manhã, era um gênio por ter comprado a OpenAI por US$ 0. Se o sama voltar, vai surgir outra narrativa. Então, se o sama voltar, quero ouvir por que o Satya continua sendo um gênio
Em vez disso, administrou o caos e fez com que, qualquer que fosse o desfecho, a Microsoft saísse ganhando. O gênio não é quem prevê com perfeição um enredo complicado e artificialmente embolado, mas quem monta a situação para vencer em qualquer cenário e por isso nem precisa se preocupar
A OpenAI colapsa? Na prática, ele comprou talentos de graça
A OpenAI 2.0 dá certo? Ótimo, ele continua investido
Realisticamente, Sam @ MSFT não deve ter sucesso imediato. Mesmo com conhecimento e know-how, não é como se desse para simplesmente subir um novo modelo no nível do GPT-4. No melhor caso, ainda ficaria uns 12 meses atrás da Anthropic, mas provavelmente uns 2 anos à frente do Google
Agora ele parece ter se colocado numa posição boa o bastante para que todo desfecho possível pareça positivo para a Microsoft
Estou cada vez mais inclinado à teoria de que um viajante do tempo enviado para impedir a AGI está destruindo a OpenAI
Isso me lembra o final de Terminator 2. É como se a comunidade de tecnologia acordasse tentando entender por que a sede da Cyberdyne explodiu e houve um tiroteio, dizendo: “O que diabos acabou de acontecer?!”
Queria que todos admitissem que isso não é uma cruzada moral, mas fuga de capital
Os funcionários querem ganhar muito dinheiro e, por isso, estão dispostos a seguir Altman para onde quer que ele vá. De toda forma, como ele movimenta metade do Vale do Silício, isso também é uma escolha inteligente. O discurso público de que Sam é um herói está sendo ainda mais reforçado por quem está no ecossistema de tecnologia que hoje gira em torno da IA, ou seja, no jogo dos “wrappers de OpenAI”
Ninguém liga para segurança, abertura ou para o impacto da IA na humanidade. No fim das contas, é ganância até o fim. É ficar do lado que tem mais chance de vencer. Isso é interesse próprio racional, não alguma “causa nobre”
Também não dá para ignorar a possibilidade de que D’Angelo o tenha demitido por um motivo absurdo, como um conflito de interesses com o Poe
Até poucas horas atrás, todo mundo tratava Ilya como um idealista nobre. Mas agora até ele parece se arrepender e querer reverter essa demissão. Não parece que as pessoas estejam incorporando essa nova informação para reavaliar o quão boa foi essa decisão. Na melhor das hipóteses, as intenções eram nobres, mas a execução foi completamente incompetente, e agora eles não conseguem recuar por uma mistura de orgulho teimoso e medo de responsabilidade legal
Se eu fosse funcionário da OpenAI, estaria frustrado. Uma coisa é abrir mão de stock options gigantescas e afins por um bom motivo idealista; outra completamente diferente é exigirem que você abra mão disso sem apresentar motivo algum, como está acontecendo agora
Acabei de ver uma teoria plausível dizendo que D’Angelo liderou isso porque Sam passou o Poe no Dev Day. Não sei se é verdade, mas, se for, isso explicaria por que ele não deu motivo a ninguém, nem mesmo ao Sam na hora da demissão. Porque, se revelar o motivo, pode se colocar em sério risco jurídico
https://twitter.com/scottastevenson/status/1726731022862008733
Eu sei que isso seria o começo do filme, antes de tudo dar errado, mas sinto que há muito exagero. Vejo um potencial enorme no lado terapêutico, ou em conversar com “alguém” com quem você possa testar ideias, receber correções suaves ou ser empurrado na direção certa
Muita gente não consegue pagar terapia. Se o ChatGPT puder recorrer a uma base de conhecimento de modalidades específicas, como CBT, DBT e IFS, para ajudar a identificar padrões básicos problemáticos de linguagem ou comportamento, a pessoa poderá praticar autocorreção quase de graça, com a frequência que quiser, recebendo orientação
É exatamente aí que está meu interesse, e sempre vou ver nisso um grande potencial
Queria que todos ficassem bem e fossem gentis uns com os outros. Isso é processo e destino ao mesmo tempo, e acredito que as pessoas podem aprender a amar os dois e a participar de formas que ofereçam oportunidades abundantes de recuperação e cura profundas e reais. Uma oportunidade sempre aberta e que acolhe qualquer pessoa
Complementando, eu posso fazer terapia tanto quanto eu quiser, mas em geral não acho isso muito útil nem particularmente proveitoso. Gosto que o ChatGPT possa ajudar a praticar coisas eficazes como CBT/DBT/IFS e também contornar invenções, já que ele escreve com base em textos de referência
Para mim, a maior ameaça que o ChatGPT traz é a perda de renda das pessoas. Eu não me importo com “empregos” em si; o que importa é se as pessoas têm o suficiente para viver bem. Se conseguirmos lidar com as pessoas egoístas que querem pegar mais de um bolo do qual já têm uma fatia grande e mais que suficiente, então elas precisam dividir, e ficar de castigo ou até sair de cena completamente até que isso fique justo. Já chega. Ninguém precisa ter em excesso enquanto todos não tiverem o suficiente e, depois disso, pode pegar o quanto quiser, desde que não prejudique os outros. Prejudicar os outros precisa parar
Um CEO que, por fora, parecia estar indo bem foi removido à força. É natural sentir isso intensamente
Esse é exatamente o tipo de resultado que surge porque a OpenAI não é controlada por um conselho nomeado por investidores
Por favor, já deu de “pelo bem da humanidade”
Como há uma falta geral de comunicação útil, eu acharia engraçado se, justo na hora em que todos os funcionários pedissem demissão, Sam Altman voltasse para a OpenAI ;)