Duas razões apresentadas aos funcionários da OpenAI para a demissão de Sam Altman
(businessinsider.com)- O conselho independente da OpenAI informou aos funcionários dois casos para sustentar a explicação de que Sam Altman “não foi consistentemente sincero em sua comunicação com o conselho”
- Na noite de domingo, quando Ilya Sutskever apresentou o ex-CEO da Twitch Emmett Shear como novo CEO interino, funcionários que esperavam o retorno de Altman reagiram fortemente
- Os exemplos citados pelo conselho foram o fato de ter atribuído o mesmo projeto a duas pessoas dentro da empresa e de ter dado opiniões diferentes a dois membros do conselho sobre uma determinada pessoa
- Os funcionários não se convenceram com a explicação, e a carta aberta exigindo a renúncia do conselho e o retorno de Altman recebeu a assinatura de mais de 90% dos funcionários da OpenAI
- Altman segue negociando a possibilidade de retornar enquanto ocupa um cargo temporário na Microsoft, maior investidora da OpenAI com pelo menos US$ 10 bilhões aplicados
Dois casos apresentados pelo conselho aos funcionários
- O conselho independente da OpenAI afirmou que a base para demitir Sam Altman foi o fato de ele “não ter sido consistentemente sincero em sua comunicação com o conselho”
- Dois casos concretos foram apresentados aos funcionários
- Altman atribuiu o mesmo projeto a duas pessoas dentro da OpenAI
- Altman deu opiniões diferentes a dois membros do conselho sobre uma determinada pessoa
- Um porta-voz da OpenAI não respondeu ao pedido de comentário sobre o assunto
Choque interno ampliado com a nomeação de Emmett Shear
- Na noite de domingo, Ilya Sutskever apresentou aos funcionários, em um dos escritórios da OpenAI em San Francisco, o ex-CEO da Twitch Emmett Shear como novo CEO interino
- Shear foi nomeado para substituir Mira Murati, que havia se tornado CEO interina após Altman na sexta-feira
- Apenas uma pequena parte dos funcionários da OpenAI participou da reunião, enquanto os demais fizeram, na prática, um walkout
- Os funcionários esperavam ouvir naquele dia que Altman voltaria ao cargo de CEO
- Segundo uma fonte, ao longo de cerca de 30 minutos na noite de domingo, os funcionários ouviram internamente as notícias nesta ordem
- Altman voltaria
- Altman não voltaria
- Shear foi nomeado
- A notícia da nomeação de Shear foi outro choque para funcionários que já estavam sob tensão durante todo o fim de semana, e muitos a receberam “muito mal”
Desconfiança em torno de Sutskever
- Sutskever votou a favor da demissão de Altman e foi a pessoa que comunicou a demissão de fato por meio do Google Meet
- Foi relatado que Sutskever estava com um ar “sombrio” na reunião em que anunciou a nomeação de Shear
- Os funcionários não aceitaram as duas explicações apresentadas pelo conselho
- Dentro da empresa, espalhou-se a interpretação de que o episódio foi um golpe explícito do conselho
- Uma fonte afirmou que qualquer justificativa que o conselho apresente agora tem pouquíssimo poder de convencimento entre os funcionários
Carta aberta e pressão por demissões em massa
- Algumas horas após a reunião sobre a nomeação de Shear, uma carta aberta começou a ser redigida entre os funcionários da OpenAI e circulou durante a noite
- A carta aberta também foi assinada pela liderança da OpenAI, incluindo Murati e Sutskever
- Na contagem mais recente até o meio-dia de segunda-feira, mais de 90% dos funcionários haviam assinado
- Na carta aberta, os funcionários disseram que se demitiriam caso as seguintes condições não fossem atendidas
- Os membros restantes do conselho renunciassem
- Novos membros do conselho fossem nomeados
- Altman retornasse à empresa
- Uma fonte disse que “as pessoas estavam furiosas, e uma saída em massa era iminente”
Composição do conselho e relações futuras
- Na época, o conselho da OpenAI era composto pelo CEO da Quora Adam D'Angelo, pela empreendedora de tecnologia Tasha McCauley, por Helen Toner, do Georgetown Center for Security and Emerging Technology, e por Ilya Sutskever
- Sutskever assinou a carta aberta ameaçando sair da empresa, mas tecnicamente ainda permanecia como membro do conselho
- Sam Altman e o presidente da OpenAI, Greg Brockman, também faziam parte do conselho anteriormente
- Altman seguia negociando a possibilidade de retornar à OpenAI enquanto ocupava um cargo temporário na Microsoft, articulado pelo CEO Satya Nadella
- A Microsoft é a maior investidora da OpenAI, com pelo menos US$ 10 bilhões investidos
- Murati gerou a revolta de parte dos funcionários logo após a demissão de Altman, mas depois o clima se acalmou
- Segundo relatos, Murati continuou a “defer” para Sutskever logo após a sexta-feira
- Murati declarou que deixaria a empresa se Altman não retornasse
- Sutskever expressou publicamente “regret” por ter participado da demissão de Altman, mas alguns acreditam que ele talvez não seja facilmente perdoado e possa não ser convidado a se juntar ao novo empreendimento da Microsoft ou a permanecer
1 comentários
Comentários do Hacker News
Link sem paywall: https://web.archive.org/web/20231120233119/https://www.busin...
Parece inevitável que haja um contexto maior por trás disso
Altman assumiu uma organização sem fins lucrativos, atraiu grandes volumes de doações e transformou a OpenAI na startup estilo TC mais quente do mundo, acelerando a comercialização
Na semana passada, enquanto havia o alerta de Hinton de que a maior ameaça de uma IA poderosa é o uso da tecnologia por pessoas ricas e poderosas para reforçar seu controle sobre a sociedade, ele tentou criar aceleradores de IA com bilhões de dólares em capital saudita
Somando isso a um conselho inexperiente e às movimentações de D'Angelo, vira uma das maiores confusões da história do setor de tecnologia
Houve uma votação e um lado simplesmente venceu, sem que exista uma história maior ou mais interessante
É o tipo de coisa que acontece com frequência em empresas de software, e talvez tudo se resuma ao fato de que o conselho da OpenAI tomou uma decisão que destruiu bilhões de dólares em valor de marca e boa vontade
A Quora está sendo rapidamente substituída pelo ChatGPT e, no Dev Day, quando a OpenAI anunciou os GPTs, também acertou em cheio o produto concorrente da Quora, a “monetização para criadores do Poe”
https://quorablog.quora.com/Introducing-creator-monetization...
https://techcrunch.com/2023/10/31/quoras-poe-introduces-an-a...
Não é obrigatório que uma organização sem fins lucrativos ajude apenas os mais pobres, e não está claro por que criar uma subsidiária com fins lucrativos que licencia a pesquisa da OpenAI para gerar receita seria algum tipo de manobra política ou enganação
O objetivo dessa estrutura jurídica é fazer com que os proprietários se concentrem na missão, e não no valor para o acionista; neste caso, a meta era criar AGI de forma ética
Além disso, essa estrutura não foi inventada nem por Sam Altman nem pela OpenAI
A questão do capital saudita também se conecta à estrutura jurídica mencionada antes, mas é um argumento bastante teórico que depende de suposições sobre se esse tipo de controle é realmente possível e se a correlação entre desempenho do modelo e capacidade de computação continuará se mantendo
O treinamento do GPT-4 custou mais de 100 milhões de dólares, e esse dinheiro precisa vir de algum lugar
Até que digam o contrário, vou aceitar o que eles afirmaram: que foi porque a) atribuíram o mesmo projeto a duas pessoas e b) deram explicações diferentes a dois membros do conselho sobre o mesmo funcionário
Não há necessidade de a internet inventar um motivo plausível no lugar do conselho
Esses dois motivos não parecem ter relação com grandes ideais como segurança de AGI ou o status sem fins lucrativos da OpenAI, e parecem mais um caso de microgerenciamento de decisões de pessoal
Ilya Sutskever também está transmitindo o motivo da demissão como algo que ouviu
As pessoas ficaram do lado do conselho por entenderem que era uma demissão liderada por um pesquisador-chefe preocupado com AGI, mas agora o conselho parece ser representado mais por D'Angelo, que tem uma empresa de chatbots de IA que passou a competir mais diretamente com a OpenAI depois do Dev Day
Aplicando a navalha de Occam, parece plausível
Onde eu estou, se um conselho não fizer nada numa situação assim, seus membros podem acabar pessoalmente responsáveis por toda sorte de medidas legais agressivas
Não sei se é diferente por ser uma entidade sem fins lucrativos, nem por que o conselho ainda acha que pode simplesmente deixar isso passar
Acho que ele fez algo parecido na Quora também
Greg não foi convidado, então faltou um voto do lado de Sam, e talvez Sam também tenha sido solicitado a se retirar da votação, então três pessoas podem ter formado a maioria
Ilya, que agora está no “Team Sam”, pode até ter votado contra, mas naquele momento talvez tenha achado que seria o próximo e apenas seguido o fluxo
Prosseguir sem avisar Greg sobre a convocação do conselho e sem ele presente foi amador, e isso parece ter sido o ponto em que Ilya estragou tudo
Sam também deveria ter dito na hora: “espera, não vou continuar com isso até o Greg chegar aqui”
Talvez a OpenAI não quisesse se tornar, na prática, uma organização de P&D da Microsoft
O aplicativo móvel do ChatGPT parecia mal acabado e quase sem design de produto, então a crítica de que estavam lançando recursos cedo demais, especialmente quando pareciam ser funcionalidades produzidas para a Microsoft, parece válida
Se você imaginar que Sam era o cavalo de Troia da Microsoft, isso pode ter sido inaceitável
Se disserem que Sam é um mestre da política, eu consigo concordar mesmo sem conhecê-lo bem
Ele é a pessoa da Microsoft dentro da OpenAI com apoio de 90% da equipe, e essas duas coisas juntas criam um conflito de interesses
Perguntar ao CEO “você ainda acredita na visão da OpenAI ou agora acredita na visão da Microsoft?” é uma pergunta bastante legítima
A empresa está em uma crise existencial, mas não houve nenhuma declaração pública desde o tweet da 1h da manhã
Parece mais provável que ele espere para entender a situação em vez de agir como se tivesse tudo sob controle já no primeiro dia após uma reviravolta dessas
O que li sobre Shear é que ele seria favorável a desacelerar o desenvolvimento de IA e simpático ao catastrofismo de IA no estilo Yudkowsky, o que talvez não seja um remédio que a empresa esteja pronta para engolir
https://x.com/drtechlash/status/1726507930026139651
“Eu digo claramente que sou a favor de desacelerar. É parecido com uma pausa, mas não é parar, é reduzir a velocidade”
“Se a velocidade atual é 10, uma pausa é reduzir para 0. Eu acho que deveríamos mirar em 1 ou 2”
“- Emmett Shear, 16 de setembro de 2023”
https://x.com/eshear/status/1703178063306203397
Como se, se não agirem rápido, o HN vai se encher de especulações radicais, e isso seria inaceitável
Pior ainda, se não houver atualizações quase em tempo real, talvez as pessoas acabem percebendo que isso nem é tão importante assim e passem para outra notícia
Claro, pode haver consequências gravíssimas, como o URI para o qual um endpoint de API aponta mudar, então melhor não brincar com isso
Mesmo calculando todos os cenários, não parece haver uma forma de isso terminar bem para ele
Um CEO experiente do Vale do Silício teria feito essa conta e visto isso como uma causa perdida, então o fato de ele ter aceitado me parece um sinal de que não é um líder especialmente bom
Deram o mesmo projeto para duas pessoas?
Isso não é algo bem comum quando se quer abordagens diferentes e depois juntar as duas para lançar?
O fato de terem dado opiniões diferentes sobre a mesma pessoa é motivo para demitir um CEO?
Parece que o conselho não tinha motivo para demitir ou não quer dizer qual foi o motivo real para demitir Sam
Eles fizeram besteira
Talvez Sam visse Ilya como um fator de instabilidade e um ponto único de falha, e quisesse garantir que a OpenAI pudesse continuar sem Ilya
[0] https://news.ycombinator.com/reply?id=38357843
Como a interpretação dos dados era muito complexa, por validação adicional fizeram duas equipes interpretarem os dados e criarem a imagem isoladas uma da outra
Se os resultados saíssem quase iguais, isso seria uma forte confirmação de que estavam certos
Então isso claramente é uma estratégia válida
Altman parece muito mais perto da faixa normal para um CEO de uma empresa de bilhões de dólares
Ele não deve ser perfeito, mas esses motivos picuinhas para demissão têm um cheiro suspeito
Fico com a impressão de que Ilya pode ser um pouco ingênuo sobre como as pessoas se movem e talvez tenha sido usado numa luta clássica de poder travestida de questão de segurança
Era click wheel contra multitoque e, surpreendentemente, o iPhone com click wheel perdeu
Precisava escolher entre ficar no DOS, ir para o OS/2 ou ir para o Windows; a Lotus escolheu OS/2, mas o mercado foi para o Windows e ela foi atropelada pelo Excel
A Lotus era uma empresa rica na época, então, no meu lugar, eu teria criado três grupos para tocar as três opções ao mesmo tempo
Quando vejo a explicação de que “Altman deu o mesmo projeto para duas pessoas na OpenAI”, penso se esse pessoal já trabalhou em outra empresa
Em praticamente qualquer empresa com mais de 10 funcionários esse tipo de coisa acontece
Não é brincadeira
Especialmente se não era um caso de dizer para uma pessoa tentar de um jeito e para outra tentar de outro para comparar os resultados, e pior ainda se elas nem souberam da existência uma da outra até o fim
Se assumirmos que eles agiram de forma apropriada e correta com base nas informações que tinham na época, então e se, por exemplo, o segundo projeto fosse relacionado a alinhamento e Sam tivesse escondido sua existência do Ilya ou o induzido ao erro?
Se Sam fez isso porque acreditava que Ilya estava alinhando demais a IA a ponto de prejudicar suas capacidades, isso seria considerado apropriado?
A falta de transparência do conselho pode ser vista como “encobrir uma decisão muito ruim e amadora”, e no momento isso parece bem provável
Por outro lado, também pode ser que tenham errado na comunicação inicial e, como a empresa é um vazamento ambulante e eles não querem entrar numa guerra de lama com Sam, agora estejam extremamente cuidadosos com tudo o que dizem
Ainda está tudo obscuro demais para julgar
Só com isso não parece ser o verdadeiro motivo da demissão de Altman
Por isso surge a palavra “golpe”, mas isso também não responde à pergunta real
Por que Altman foi realmente demitido?
Claramente parece haver um motivo que não pode ser dito
Pode estar acontecendo algo ruim na empresa, como falta de caixa, grave o bastante para demitir o CEO, mas impossível de divulgar
Se imaginarmos um conselho de banco demitindo o CEO por ter deixado o capital baixo demais, eles não poderiam dizer isso porque arruinaria as chances de recuperação
Talvez haja “alguma coisa” que Altman não contou ao conselho, e que eles também não podem nos contar
É como remendar a realidade para que ela volte a fazer sentido
Às vezes, pessoas com ego inflado desmoronam por uma ofensa trivial, o pensamento de grupo toma conta, e bombardear tudo até o chão pode parecer uma boa ideia por um instante
Eu também estou racionalizando agora
Quando você fica preso num loop insolúvel, como um resolvedor de SAT, precisa relaxar uma ou mais restrições
Pode não ter havido um bom motivo, e o motivo pode ter sido ruim
Foi uma falha nível Chernobyl por parte do conselho
E, pelo fato de tudo ter acontecido tão às pressas, também parece que isso ocorreu muito recentemente
Por exemplo, pode ter sido alguma conversa ou acordo na APEC
Só que a mudança de posição de Ilya destrói essa especulação grosseira, então no fim eu também estou no estado de “????????” como todo mundo
Porque um era o presidente do conselho e o outro era membro do conselho
Mas os dois querem a recontratação de Sam
Também é difícil acusar os dois de cumplicidade na irregularidade, porque o conselho queria manter Greg na empresa e Ilya continua no conselho, além de antes ter apoiado eles
Seja qual for o motivo, está muito claro que é uma questão pessoal e política com Sam, e não a crise grave que eles insinuaram
Pelo que entendo, Altman já demonstrou conduta desonesta ao transformar a OpenAI de sem fins lucrativos em com fins lucrativos, e de modelos open source para fechados
O pior é que as pessoas parecem aceitar completamente esse tipo de personalidade
O perigoso não é a IA em si, mas o fato de a IA ser criada por Altmans
E, se fosse uma questão concreta, seria mais provável que Ilya continuasse defendendo a demissão, não que se arrependesse
Isso parece uma simples luta de poder entre um conselho e funcionários desalinhados
Não está diretamente relacionado a esse desdobramento mais recente, mas Geoffrey Irving, da DeepMind, confia mais no conselho do que em Altman: https://x.com/geoffreyirving/status/1726754270224023971
Com um conflito de interesses tão grande e zero fatos conhecidos, o certo seria simplesmente ficar calado
Também há a parte “senti que precisava dizer algumas palavras por causa de pessoas que respeito, especialmente Helen Toner e Ilya Sutskever”, mas Toner não parece ter nenhuma autoridade moral aqui
Ilya claramente tinha essa autoridade, e eu até via como direito dele querer incendiar a OpenAI se fosse esse o caso
Só que, no mínimo, teria sido melhor entregar tudo à Microsoft
Mas, como todos sabem, Ilya deu uma guinada de 180 graus, e isso foi realmente surpreendente
A frase “Sutskever apresentou duas explicações que alegou ter ouvido no conselho” precisa de verificação
Sutskever disse coisas bem inconsistentes ao longo de toda essa deliciosa catástrofe
“o não funcionário Adam D’Angelo, Tasha McCauley, Helen Toner”
Lançado na manhã de quinta-feira:
https://x.com/poe_platform/status/1725194752901988744?s=46
É só ignorar o homem atrás da cortina