Não tem nada a ver com desonestidade; isso é só o motivo oficial
Pouca gente está falando disso, mas, olhando para as duas figuras centrais aqui, parece inevitável concluir que tudo se resume a um conflito entre Altman e Sutskever
O tweet que Sutskever publicou um mês e meio atrás também é interessante
O comunicado falando de conversas francas com o conselho provavelmente é uma embalagem para encobrir uma divergência filosófica profundamente enraizada
Encontraram um motivo que dava para usar como justificativa para a demissão, mas esse motivo pode não refletir necessariamente a real razão da demissão
Sam e Ilya já não estavam mais olhando na mesma direção, e isso deve ter chegado ao auge com o gpt 4 turbo
No fim, dá para especular que Sutskever tinha toda a alavancagem por causa de sua competência técnica
Sam é o típico homem de negócios, então os dois tiveram um último grande embate, e Sutskever parece ter chegado ao limite e usado essa alavancagem
Estou há muito tempo no setor de tecnologia e já vi esse tipo de desenrolar várias vezes
Não se deve irritar um engenheiro insubstituível. Se fizer isso, eles podem demitir você. Não pretendo tomar partido
P.S.: a maioria dos engenheiros, inclusive eu, é substituível. Ilya provavelmente não é
Isso não faz sentido. Se fosse uma simples divergência de opinião, poderiam ter lidado com isso por um caminho discreto, sem menções substantivas no comunicado
Mas eles colocaram na declaração oficial uma acusação específica o bastante para gerar responsabilidade jurídica se estiverem errados
Se não tivessem 100% de certeza da base, basicamente teriam entregado a Sam uma ação judicial que ele quase certamente venceria
Há mais informações novas da Swisher
"More scoopage: sources tell me chief scientist Ilya Sutskever was at the center of this. Increasing tensions with Sam Altman and Greg Brockman over role and influence and he got the board on his side."
"The developer day and how the store was introduced was in inflection moment of Altman pushing too far, too fast. My bet: He’ll have a new company up by Monday."
Acho que você interpretou totalmente ao contrário. O conselho não faz esse tipo de coisa a menos que seja realmente necessário
Basta lembrar do passado. Por exemplo, no Uber, o conselho só se mexeu depois que problemas enormes vieram a público
Não tem como isso ser uma simples divergência de opinião; para colocarem em risco, com tanta pressa, uma empresa avaliada em dezenas de bilhões de dólares, teria de haver uma irregularidade financeira, ética ou social grave
Se fosse realmente apenas uma questão de não estarem olhando na mesma direção, por que o comunicado diria que Sam “não foi consistentemente franco em sua comunicação”?
Se a causa fundamental fosse uma divergência filosófica, essa expressão seria bem desnecessária. Teria sido melhor falar de diferenças na visão de futuro
É o velho mito do engenheiro insubstituível contra o idiota de terno. Basta perguntar ao Wozniak
Não acho que ele acredite que a Apple teria existido sem Steve Jobs
Sam e Ilya fizeram declarações públicas recentemente sobre AGI, e elas parecem revelar uma divergência fundamental entre os dois
Sam argumenta que grandes modelos de linguagem, por si só, não são suficientes para AGI. Parece correto
Ilya argumenta que a arquitetura transformer, com algumas modificações de eficiência, é de fato suficiente para AGI
Claro, transformers são atualmente um componente central dos grandes modelos de linguagem, e os detalhes importam
Modelos futuros podem se parecer com os transformers de hoje, mas ser dinâmicos em termos de dados de treinamento ou experiência. Ainda assim, a questão ainda não está resolvida
De qualquer forma, o fato de haver divergência pública sobre a direção futura da OpenAI pode ser um sinal de problemas mais profundos internamente
Isso é apenas uma divergência técnica e, em uma empresa que funciona bem, deveria sempre existir em um nível saudável dentro da liderança
O comunicado disse literalmente que ele foi demitido porque mentiu. Faz muito tempo que eu não via o conselho de uma grande empresa falar desse jeito
Essa pergunta tem implicações enormes por causa da carta sem fins lucrativos da OpenAI
Se Altman omitiu fatos para impedir que o conselho determinasse se a OpenAI havia chegado ao estágio de AGI, ou se tentou impedir uma avaliação justa em si, então ele claramente enganou o conselho de forma grave e impediu que ele fizesse seu trabalho
“Parece correto”?
Ninguém sabe. Eu confiaria mais no cientista que lidera esse trabalho do que em um empresário que tem interesse em dizer o oposto para evitar regulação imediata
Ilya claims the transformer architecture, with some modification for efficiency, is actually sufficient for AGI.
Esse cara não era para saber do que está falando? Houve um artigo dizendo que grandes modelos de linguagem não conseguem generalizar[0]
Qualquer pessoa que tenha usado o ChatGPT consegue ver que ele tem falhas
Não entendo como as pessoas conseguem ter tanta certeza
Ainda mais depois de explicar diretamente que duas pessoas inteligentes podem discordar de forma razoável sobre um tema complexo
Alguém muito inteligente do lado de negócios consegue explicar a este engenheiro como algo assim acontece?
Se o conselho tem 6 membros e a situação é “derrubar” 2 deles, esses 2 não deveriam poder participar, certo?
Ou, no mínimo, não deveriam ser impedidos de votar em uma votação sobre eles mesmos?
Os outros 4 precisam se organizar e se comunicar “em segredo”?
Há algum motivo para 3 pessoas não poderem abrir uma votação para destituir 1, formar uma maioria de 3/5 e, a partir daí, expulsar todos em sequência por votação?
Pode ser uma pergunta idiota, mas pergunto por curiosidade
Os detalhes dependem do que está escrito no estatuto e nos documentos de constituição da organização sem fins lucrativos
Como 501(c)3, há certos requisitos e restrições, mas o restante fica a cargo do que o conselho fundador definiu nos documentos para criar e governar a entidade
Normalmente, esses documentos incluem cláusulas sobre como lidar com votações, sucessão, impedimento, elegibilidade etc.
Pela minha experiência em conselhos tanto de empresas com fins lucrativos quanto de organizações sem fins lucrativos, é muito provável que os conselheiros externos tenham contratado assessoria jurídica externa para orientação
Conselheiros têm certos deveres que precisam cumprir, e se não os cumprirem suficientemente de boa-fé, também há responsabilidade jurídica séria
Eu tinha a mesma dúvida, e agora entendi que governança de organizações sem fins lucrativos funciona originalmente assim
Por isso é uma má ideia para uma organização como a OpenAI. Em uma empresa com fins lucrativos, os acionistas poderiam simplesmente trocar o conselho
O alvo da votação era apenas Sam, e Greg pode ter votado a favor dele e depois sido forçado a sair em algum processo como uma segunda votação posterior
Can a super smart business-y person educate this engineer on how this even happens.
Isso não tem nada a ver com o lado de negócios. A OpenAI é uma organização sem fins lucrativos, então pode fazer o que quiser
Engraçado que comecei a assistir Succession na semana passada
Parece uma versão real de Succession se desenrolando. Todos os membros do conselho estão tentando encontrar uma forma de otimizar sua própria posição
Pelo que parece, Greg Brockman não estava na reunião do conselho que tomou a decisão, e também ficou sabendo da “notícia” de que ele havia saído do conselho da mesma forma que nós
Coloquei “ficou sabendo” entre aspas, mas a expressão usada por Greg Brockman foi “com base nas notícias de hoje”
Isso pode significar simplesmente que ele não concordou com o resultado e expressou essa discordância renunciando
Edit: estupidamente, eu estava lendo o memorando escrito aos funcionários da OpenAI. No tweet em si está “depois de saber das notícias de hoje”. Ainda assim, continua ambíguo quando e onde ele ficou sabendo
O conselho não pode se reunir nem agir sem notificar os conselheiros e dar a eles a oportunidade de participar
Verdade. Ele provavelmente não poderia participar das deliberações sobre sua própria destituição
Ele não era o presidente do conselho? Naturalmente eu imaginaria que estivesse na reunião, não?
O mais plausível é que tenha havido algum tipo de cisão e que ele tenha ficado do lado de Sam
Como ele era o presidente do conselho, fico curioso para saber como o restante do conselho executou isso
“Greg Brockman, cofundador e presidente da OpenAI, trabalha de 60 a 100 horas por semana e passa cerca de 80% do tempo codificando. Ex-colegas o descreveram como a pessoa que mais trabalha na OpenAI.”
Qual é a chance de isso ser por causa de uma aquisição pela Microsoft? Pura especulação, mas talvez Sam fosse um obstáculo
Edit: esta explicação talvez seja mais plausível: https://news.ycombinator.com/item?id=38312868
Outro ponto não considerado é que a Microsoft gosta muito de colocar sua marca em vários lugares
A Axios diz que a MS não sabia de antemão
Isso parece significar que uma cisão real está acontecendo dentro da OpenAI
Acho que vamos ouvir que havia duas filosofias diferentes em funcionamento
Supondo que Altman e Brockman queiram acelerar o desenvolvimento, também seria interessante ver os dois indo para cargos altos na Microsoft
A OpenAI seguiria uma nova direção, Microsoft e Google criariam coisas novas rapidamente, e os defensores de modelos abertos poderiam continuar fazendo um bom trabalho; parece vantajoso para todos
Exceto pelo comunicado de imprensa desajeitado e apressado, isso não precisa necessariamente terminar mal para ninguém
Sou fã desde que usei a API pública bem inicial da OpenAI, mas ao mesmo tempo fico muito feliz por existir um ecossistema rico
Há outros players comerciais como a Anthropic, o apoio da Meta e da Hugging Face a modelos abertos, e modelos pequenos cada vez melhores, como o Mistral, que podem ser rodados facilmente em casa
Sam e as pessoas que continuam roubando propriedade intelectual e destruindo toda a indústria no processo vão embora, e os cientistas de aprendizado de máquina éticos ficam
Como checagem de bom senso, quando Hinton deixou o Google, nós saudamos a decisão dizendo que organizações corporativas sem rosto não deveriam liderar o ritmo de desenvolvimento, e sim os pioneiros de IA que entendem os riscos
Se realmente houve uma discordância semelhante dentro da OpenAI e, desta vez, o equivalente a Hinton — Ilya — venceu, então é algo a comemorar
1 comentários
Opiniões do Hacker News
Edit: acertei
https://twitter.com/karaswisher/status/1725682088639119857
Não tem nada a ver com desonestidade; isso é só o motivo oficial
Pouca gente está falando disso, mas, olhando para as duas figuras centrais aqui, parece inevitável concluir que tudo se resume a um conflito entre Altman e Sutskever
O tweet que Sutskever publicou um mês e meio atrás também é interessante
https://twitter.com/ilyasut/status/1707752576077176907
O comunicado falando de conversas francas com o conselho provavelmente é uma embalagem para encobrir uma divergência filosófica profundamente enraizada
Encontraram um motivo que dava para usar como justificativa para a demissão, mas esse motivo pode não refletir necessariamente a real razão da demissão
Sam e Ilya já não estavam mais olhando na mesma direção, e isso deve ter chegado ao auge com o gpt 4 turbo
No fim, dá para especular que Sutskever tinha toda a alavancagem por causa de sua competência técnica
Sam é o típico homem de negócios, então os dois tiveram um último grande embate, e Sutskever parece ter chegado ao limite e usado essa alavancagem
Estou há muito tempo no setor de tecnologia e já vi esse tipo de desenrolar várias vezes
Não se deve irritar um engenheiro insubstituível. Se fizer isso, eles podem demitir você. Não pretendo tomar partido
P.S.: a maioria dos engenheiros, inclusive eu, é substituível. Ilya provavelmente não é
Isso não faz sentido. Se fosse uma simples divergência de opinião, poderiam ter lidado com isso por um caminho discreto, sem menções substantivas no comunicado
Mas eles colocaram na declaração oficial uma acusação específica o bastante para gerar responsabilidade jurídica se estiverem errados
Se não tivessem 100% de certeza da base, basicamente teriam entregado a Sam uma ação judicial que ele quase certamente venceria
Há mais informações novas da Swisher
[Fonte: https://twitter.com/karaswisher/status/1725702501435941294]
Parece que você previu quase exatamente
Acho que você interpretou totalmente ao contrário. O conselho não faz esse tipo de coisa a menos que seja realmente necessário
Basta lembrar do passado. Por exemplo, no Uber, o conselho só se mexeu depois que problemas enormes vieram a público
Não tem como isso ser uma simples divergência de opinião; para colocarem em risco, com tanta pressa, uma empresa avaliada em dezenas de bilhões de dólares, teria de haver uma irregularidade financeira, ética ou social grave
Se fosse realmente apenas uma questão de não estarem olhando na mesma direção, por que o comunicado diria que Sam “não foi consistentemente franco em sua comunicação”?
Se a causa fundamental fosse uma divergência filosófica, essa expressão seria bem desnecessária. Teria sido melhor falar de diferenças na visão de futuro
É o velho mito do engenheiro insubstituível contra o idiota de terno. Basta perguntar ao Wozniak
Não acho que ele acredite que a Apple teria existido sem Steve Jobs
https://twitter.com/gdb/status/1725736242137182594
Atualização do Greg
Sam e Ilya fizeram declarações públicas recentemente sobre AGI, e elas parecem revelar uma divergência fundamental entre os dois
Sam argumenta que grandes modelos de linguagem, por si só, não são suficientes para AGI. Parece correto
Ilya argumenta que a arquitetura transformer, com algumas modificações de eficiência, é de fato suficiente para AGI
Claro, transformers são atualmente um componente central dos grandes modelos de linguagem, e os detalhes importam
Modelos futuros podem se parecer com os transformers de hoje, mas ser dinâmicos em termos de dados de treinamento ou experiência. Ainda assim, a questão ainda não está resolvida
De qualquer forma, o fato de haver divergência pública sobre a direção futura da OpenAI pode ser um sinal de problemas mais profundos internamente
Isso é apenas uma divergência técnica e, em uma empresa que funciona bem, deveria sempre existir em um nível saudável dentro da liderança
O comunicado disse literalmente que ele foi demitido porque mentiu. Faz muito tempo que eu não via o conselho de uma grande empresa falar desse jeito
Essa pergunta tem implicações enormes por causa da carta sem fins lucrativos da OpenAI
Se Altman omitiu fatos para impedir que o conselho determinasse se a OpenAI havia chegado ao estágio de AGI, ou se tentou impedir uma avaliação justa em si, então ele claramente enganou o conselho de forma grave e impediu que ele fizesse seu trabalho
“Parece correto”?
Ninguém sabe. Eu confiaria mais no cientista que lidera esse trabalho do que em um empresário que tem interesse em dizer o oposto para evitar regulação imediata
Esse cara não era para saber do que está falando? Houve um artigo dizendo que grandes modelos de linguagem não conseguem generalizar[0]
Qualquer pessoa que tenha usado o ChatGPT consegue ver que ele tem falhas
[0] https://arxiv.org/abs/2309.12288
Não entendo como as pessoas conseguem ter tanta certeza
Ainda mais depois de explicar diretamente que duas pessoas inteligentes podem discordar de forma razoável sobre um tema complexo
Alguém muito inteligente do lado de negócios consegue explicar a este engenheiro como algo assim acontece?
Se o conselho tem 6 membros e a situação é “derrubar” 2 deles, esses 2 não deveriam poder participar, certo?
Ou, no mínimo, não deveriam ser impedidos de votar em uma votação sobre eles mesmos?
Os outros 4 precisam se organizar e se comunicar “em segredo”?
Há algum motivo para 3 pessoas não poderem abrir uma votação para destituir 1, formar uma maioria de 3/5 e, a partir daí, expulsar todos em sequência por votação?
Pode ser uma pergunta idiota, mas pergunto por curiosidade
Os detalhes dependem do que está escrito no estatuto e nos documentos de constituição da organização sem fins lucrativos
Como 501(c)3, há certos requisitos e restrições, mas o restante fica a cargo do que o conselho fundador definiu nos documentos para criar e governar a entidade
Normalmente, esses documentos incluem cláusulas sobre como lidar com votações, sucessão, impedimento, elegibilidade etc.
Pela minha experiência em conselhos tanto de empresas com fins lucrativos quanto de organizações sem fins lucrativos, é muito provável que os conselheiros externos tenham contratado assessoria jurídica externa para orientação
Conselheiros têm certos deveres que precisam cumprir, e se não os cumprirem suficientemente de boa-fé, também há responsabilidade jurídica séria
Eu tinha a mesma dúvida, e agora entendi que governança de organizações sem fins lucrativos funciona originalmente assim
Por isso é uma má ideia para uma organização como a OpenAI. Em uma empresa com fins lucrativos, os acionistas poderiam simplesmente trocar o conselho
O alvo da votação era apenas Sam, e Greg pode ter votado a favor dele e depois sido forçado a sair em algum processo como uma segunda votação posterior
Isso não tem nada a ver com o lado de negócios. A OpenAI é uma organização sem fins lucrativos, então pode fazer o que quiser
Engraçado que comecei a assistir Succession na semana passada
Parece uma versão real de Succession se desenrolando. Todos os membros do conselho estão tentando encontrar uma forma de otimizar sua própria posição
Pelo que parece, Greg Brockman não estava na reunião do conselho que tomou a decisão, e também ficou sabendo da “notícia” de que ele havia saído do conselho da mesma forma que nós
Coloquei “ficou sabendo” entre aspas, mas a expressão usada por Greg Brockman foi “com base nas notícias de hoje”
Isso pode significar simplesmente que ele não concordou com o resultado e expressou essa discordância renunciando
Edit: estupidamente, eu estava lendo o memorando escrito aos funcionários da OpenAI. No tweet em si está “depois de saber das notícias de hoje”. Ainda assim, continua ambíguo quando e onde ele ficou sabendo
O conselho não pode se reunir nem agir sem notificar os conselheiros e dar a eles a oportunidade de participar
Verdade. Ele provavelmente não poderia participar das deliberações sobre sua própria destituição
Ele não era o presidente do conselho? Naturalmente eu imaginaria que estivesse na reunião, não?
O mais plausível é que tenha havido algum tipo de cisão e que ele tenha ficado do lado de Sam
Como ele era o presidente do conselho, fico curioso para saber como o restante do conselho executou isso
Greg sabia da decisão com antecedência? Acho que não
Uma hora antes de o post da OpenAI sair, Greg Brockman publicou algo totalmente como parte do trabalho normal: https://x.com/gdb/status/1725595967045398920
https://x.com/openai/status/1725611900262588813
Não sei dizer o quão insana é essa situação
“Greg Brockman, cofundador e presidente da OpenAI, trabalha de 60 a 100 horas por semana e passa cerca de 80% do tempo codificando. Ex-colegas o descreveram como a pessoa que mais trabalha na OpenAI.”
https://time.com/collection/time100-ai/6309033/greg-brockman...
Qual é a chance de isso ser por causa de uma aquisição pela Microsoft? Pura especulação, mas talvez Sam fosse um obstáculo
Edit: esta explicação talvez seja mais plausível: https://news.ycombinator.com/item?id=38312868
Outro ponto não considerado é que a Microsoft gosta muito de colocar sua marca em vários lugares
Isso parece significar que uma cisão real está acontecendo dentro da OpenAI
Acho que vamos ouvir que havia duas filosofias diferentes em funcionamento
Supondo que Altman e Brockman queiram acelerar o desenvolvimento, também seria interessante ver os dois indo para cargos altos na Microsoft
A OpenAI seguiria uma nova direção, Microsoft e Google criariam coisas novas rapidamente, e os defensores de modelos abertos poderiam continuar fazendo um bom trabalho; parece vantajoso para todos
Exceto pelo comunicado de imprensa desajeitado e apressado, isso não precisa necessariamente terminar mal para ninguém
Sou fã desde que usei a API pública bem inicial da OpenAI, mas ao mesmo tempo fico muito feliz por existir um ecossistema rico
Há outros players comerciais como a Anthropic, o apoio da Meta e da Hugging Face a modelos abertos, e modelos pequenos cada vez melhores, como o Mistral, que podem ser rodados facilmente em casa
Sam e as pessoas que continuam roubando propriedade intelectual e destruindo toda a indústria no processo vão embora, e os cientistas de aprendizado de máquina éticos ficam
Como checagem de bom senso, quando Hinton deixou o Google, nós saudamos a decisão dizendo que organizações corporativas sem rosto não deveriam liderar o ritmo de desenvolvimento, e sim os pioneiros de IA que entendem os riscos
Se realmente houve uma discordância semelhante dentro da OpenAI e, desta vez, o equivalente a Hinton — Ilya — venceu, então é algo a comemorar