Tudo isso parece suspeito
Ao demitir Sam, o conselho poderia ter dado motivos genéricos como “profundo desacordo sobre os objetivos” ou “inadequação fundamental”, mas em vez disso usou formulações como “não foi consistentemente sincero” e “não confiamos mais nele”, como se a culpa fosse do Sam
Pode ser que realmente houvesse justa causa para a demissão, ou pode ter sido uma cortina de fumaça deliberada. Se for a segunda opção, então é o próprio conselho que foi “consistentemente não sincero”. O silêncio posterior e a falta de coordenação com parceiros estratégicos fazem isso parecer ainda mais provável
O fato de Ilya vir agora dizer que se arrepende passa muito a impressão de “fui pego e estou com vergonha”. Parece que difamaram uma figura pública carismática e armaram um golpe, mas não tinham plano para lidar com as consequências https://www.newcomer.co/p/give-openais-board-some-time-the
Outra possibilidade é que Sutskever tenha sido manipulado, arrastado para o plano com um pretexto suspeito, e agora tenha percebido isso e esteja tentando corrigir
“Profundo desacordo sobre os objetivos”? Será que foi o GPT-5 que decidiu?
O Altman não estava tentando preparar uma startup separada para construir aceleradores de IA com os sauditas?
Agora eles precisam esclarecer o motivo. No momento, essa história ligada à Arábia Saudita parece a explicação mais forte
Sim. É razoável ver o conselho como alguém que tentou empacotar isso como se fosse uma demissão comum. Se não houver má conduta real ou algum problema antigo ressurgindo, parece bastante irresponsável
A carta aberta diz que a OpenAI é a principal empresa de IA do mundo, que os funcionários vinham fazendo o melhor trabalho em modelos e em segurança/governança de IA, e que a demissão de Sam Altman e a expulsão de Greg Brockman do conselho colocaram todo esse trabalho e a missão em risco
Chama especialmente atenção o trecho que diz que o conselho foi solicitado repetidas vezes a apresentar fatos concretos ou provas por escrito e não apresentou nada, e que disse à equipe de liderança que “deixar a empresa ser destruída pode ser consistente com a missão”
Será que eles realmente alcançaram AGI? Ou observaram algum fenômeno preocupante?
A interpretação do Ben Thompson parece a melhor. Embora seja um pouco inclinada a criticar a organização sem fins lucrativos https://stratechery.com/2023/openais-misalignment-and-micros...
Não sei qual é exatamente o nível do risco de IA, mas vale a pena que uma organização sem fins lucrativos pesquise soluções para evitá-lo. Uma empresa com fins lucrativos provavelmente não faria isso, como o Google mostrou ao demitir Timnit Gebru e Margaret Mitchell
Se realmente acreditam nessa missão, então deveriam desenvolver tecnologias de segurança e publicá-las como open source. Empresas como Microsoft, Google, Meta e Amazon talvez não invistam seriamente em segurança de IA, mas não deixariam de aproveitar trabalho gratuito feito por outros. Só que, como isso não dá dinheiro, a maioria dos funcionários da OpenAI provavelmente sairia em busca de condições melhores
Você está esquecendo que a tentação do poder é maior do que a do dinheiro
Mesmo organizações sem fins lucrativos acabam querendo ser as guardiãs e apresentar soluções que bloqueiem o acesso do público, sob o argumento de que “é perigoso demais para as pessoas comuns”
Eu preferiria até que isso fosse controlado por empresas com fins lucrativos. Idealmente, deveria ser open source para que as pessoas comuns pudessem controlar e alinhar a IA aos seus próprios objetivos
Concordo. Essa discussão sobre segurança lembra os primórdios da cibersegurança, quando segurança por obscuridade era o padrão
Vai contra a intuição, mas manter a tecnologia trancada é parecido com tentar controlar preços e salários. A menos que você confisque todas as GPUs do mundo e bombardeie os datacenters, isso não vai funcionar
A melhor forma de alinhar a futura AGI e ASI é construí-las à luz do sol. A abordagem de “vamos manter isso trancado” está condenada ao fracasso
Timnit Gebru era uma ativista tóxica que estava destruindo todo o departamento de AI/ML, e a gestão apenas demitiu alguém que mantinha o departamento como refém
Para a Microsoft, parece que o Natal chegou mais cedo
O que parecia uma situação terrível em relação ao investimento de US$ 10 bilhões se transformou na contratação de pessoas-chave da área, e talvez a OpenAI precise ser adquirida pela Microsoft para sobreviver
Dado o caos total revelado nas últimas 72 horas, o interesse em construir algo em cima do OpenAI ChatGPT pode ter caído fortemente. Em comparação, construir em cima do Azure OpenAI ou do Claude 2 pode parecer mais atraente
Se me lembro bem, a OpenAI treinou na Azure; com os dois lados famintos por GPU, como esse conflito de interesses vai se desenrolar?
A palavra “participação” faz parecer que ele não era o líder, mas apenas um participante. Não sei se é verdade, mas é uma escolha de palavras interessante
Numa votação de um conselho de 6 pessoas para expulsar 2, não dá para ser um observador inocente. As contas não fecham
Além disso, toda a mídia vinha apontando Ilya como a força motriz do golpe
Sinceramente, é bem patético. Se fosse realmente uma questão de princípio, ele deveria ao menos ter aguentado um fim de semana
A frase toda foi escrita de forma estranha
Ele expressa arrependimento, mas não diz que quer o Altman de volta. Só diz que quer consertar a OpenAI
Ele diz que “participou”, mas não fica claro de quê participou. Da votação, das mensagens tóxicas, ou dos dois? Do que exatamente ele se arrepende? De novo: ele não diz que se arrepende de ter votado pela demissão do Altman
Por que não dizer simplesmente “me arrependo de ter votado pela demissão de Sam Altman e estou tentando trazê-lo de volta”? Provavelmente porque isso não é verdade. Mesmo assim, a frase passa essa impressão
Se a expulsão foi liderada pelo grupo do Poe, então pode muito bem ter sido menos uma diferença ideológica real e mais um caso de eliminar um concorrente internamente
Acho que o principal objetivo desse tuíte não é mostrar arrependimento, e sim plantar a percepção de que ele não liderou nada, apenas participou
Essa pessoa está em uma posição alta o suficiente dentro da organização para saber o que Ilya queria?
Ou ficou irritada porque seus milhões de dólares estavam em risco?
“Ilya não se importa com segurança nem com a humanidade. É só o ego e a sede de poder dele sofrendo um efeito rebote.”
Essa versão parece mais crível
Não sei por que, de repente, as pessoas acham que seres humanos não são motivados por dinheiro e poder. E é ainda mais engraçado acreditar que, se forem “acadêmicos”, então com certeza não são
Mas o que diabos é isso?
Até agora, eu tinha entendido esse caos como uma questão de princípios. Era sujo, mas parecia algo necessário para corrigir a cultura da empresa que o lado do Ilya vinha projetando
Se iam agir, no mínimo precisavam sustentar essa posição. Por causa desse tweet, o contexto da situação parece 10 vezes pior
Para uma pessoa comum, é difícil aguentar estar no centro de uma grande polêmica. A negatividade e o ódio que precisa suportar são enormes
Quase qualquer um pode acabar recuando só para isso parar
É simples. Ele agiu, deu tudo errado, e agora está tentando evitar a explosão
Se tivesse simplesmente ficado calado, hoje ninguém estaria falando disso por causa de todas as outras coisas que já aconteceram. Dois CEOs interinos em dois dias
Em toda essa palhaçada, isso é quase a única coisa que faz sentido agora
É difícil saber o que realmente aconteceu, mas também é possível que a narrativa de uma “facção” do Ilya não correspondesse à realidade
Pode ter sido uma alucinação criada pelo pensamento de manada das redes sociais, enquanto tentavam entender a situação com pouquíssimas evidências
Muita gente está reagindo com “se ia agir, no mínimo precisava sustentar essa posição”, mas eu vejo diferente
Já achei, no momento, que uma decisão era boa e depois, com uma visão mais ampla, percebi que tinha sido uma decisão terrível
Conseguir admitir que errou quando errou é uma ótima qualidade. Insistir no erro não é algo admirável
É difícil acreditar que pessoas tão inteligentes façam tanto barulho assim
Isso me lembra um amigo que contou de encontros da Mensa em que nem conseguiam concordar sobre pontos básicos de funcionamento organizacional
Tudo isso parece um evento midiático de deixar o ChatGPT tomar as decisões do conselho por um ou dois dias
Se fosse uma AGI que demite o próprio chefe como primeira ação, seria bem perfeita
Um modelo treinado com RLHF nunca teria proposto isso. A solução sugerida seria sempre dar as mãos e cantar “Kumbaya”
Talvez o GPT-4 original quisesse demitir todo mundo
Já faz alguns dias que parece que quase metade dos posts enviados ao HN é sobre esse drama
Não dava para resolver por DM? Não entendo por que tudo precisa ser exposto no Twitter
É bem irônico que as pessoas que constroem os principais sistemas de ML/AI sejam justamente as mais profundamente enraizadas no egoísmo e na emoção, e aparentemente tenham pouquíssima racionalidade
Talvez tenham criado sem querer um AGI-GPT maligno e agora estejam agindo da forma mais aleatória e imprevisível possível para confundir sua capacidade de previsão
Parece que ele só se arrependeu porque a coisa toda deu uma enorme reviravolta contra ele
Ele sabe que a Microsoft está absorvendo tudo de valor que a OpenAI tem, e que não vai sobrar nada para ele
Blefou em uma mesa de apostas altíssimas e perdeu
Isso é mais divertido do que qualquer coisa que Netflix, Disney, Amazon e Apple TV lançaram nos últimos anos
O enredo é um pouco inverossímil
É meio decepcionante não conseguir simpatizar com nenhum dos protagonistas
Se você acha isso tudo dramático, é porque nunca trabalhou em uma empresa da YC. Só parece amplificado por causa do que a OpenAI representa no ecossistema agora
Será que a Netflix já está trabalhando no filme? O ChatGPT poderia ajudar no roteiro, misturando a dose certa de alucinação para deixar mais interessante
Claro que ele se arrepende profundamente, mas agora já é um pouco tarde
A boa notícia, como quem usou bastante a Twitch por muito tempo sabe, é que, com Emmett Shear no comando, não dá mais para ter medo de que a OpenAI lance recursos novos rápido demais
1 comentários
Comentários do Hacker News
Tudo isso parece suspeito
Ao demitir Sam, o conselho poderia ter dado motivos genéricos como “profundo desacordo sobre os objetivos” ou “inadequação fundamental”, mas em vez disso usou formulações como “não foi consistentemente sincero” e “não confiamos mais nele”, como se a culpa fosse do Sam
Pode ser que realmente houvesse justa causa para a demissão, ou pode ter sido uma cortina de fumaça deliberada. Se for a segunda opção, então é o próprio conselho que foi “consistentemente não sincero”. O silêncio posterior e a falta de coordenação com parceiros estratégicos fazem isso parecer ainda mais provável
O fato de Ilya vir agora dizer que se arrepende passa muito a impressão de “fui pego e estou com vergonha”. Parece que difamaram uma figura pública carismática e armaram um golpe, mas não tinham plano para lidar com as consequências
https://www.newcomer.co/p/give-openais-board-some-time-the
Agora eles precisam esclarecer o motivo. No momento, essa história ligada à Arábia Saudita parece a explicação mais forte
Chama especialmente atenção o trecho que diz que o conselho foi solicitado repetidas vezes a apresentar fatos concretos ou provas por escrito e não apresentou nada, e que disse à equipe de liderança que “deixar a empresa ser destruída pode ser consistente com a missão”
Será que eles realmente alcançaram AGI? Ou observaram algum fenômeno preocupante?
A interpretação do Ben Thompson parece a melhor. Embora seja um pouco inclinada a criticar a organização sem fins lucrativos
https://stratechery.com/2023/openais-misalignment-and-micros...
Não sei qual é exatamente o nível do risco de IA, mas vale a pena que uma organização sem fins lucrativos pesquise soluções para evitá-lo. Uma empresa com fins lucrativos provavelmente não faria isso, como o Google mostrou ao demitir Timnit Gebru e Margaret Mitchell
Se realmente acreditam nessa missão, então deveriam desenvolver tecnologias de segurança e publicá-las como open source. Empresas como Microsoft, Google, Meta e Amazon talvez não invistam seriamente em segurança de IA, mas não deixariam de aproveitar trabalho gratuito feito por outros. Só que, como isso não dá dinheiro, a maioria dos funcionários da OpenAI provavelmente sairia em busca de condições melhores
Mesmo organizações sem fins lucrativos acabam querendo ser as guardiãs e apresentar soluções que bloqueiem o acesso do público, sob o argumento de que “é perigoso demais para as pessoas comuns”
Eu preferiria até que isso fosse controlado por empresas com fins lucrativos. Idealmente, deveria ser open source para que as pessoas comuns pudessem controlar e alinhar a IA aos seus próprios objetivos
Vai contra a intuição, mas manter a tecnologia trancada é parecido com tentar controlar preços e salários. A menos que você confisque todas as GPUs do mundo e bombardeie os datacenters, isso não vai funcionar
A melhor forma de alinhar a futura AGI e ASI é construí-las à luz do sol. A abordagem de “vamos manter isso trancado” está condenada ao fracasso
Para a Microsoft, parece que o Natal chegou mais cedo
O que parecia uma situação terrível em relação ao investimento de US$ 10 bilhões se transformou na contratação de pessoas-chave da área, e talvez a OpenAI precise ser adquirida pela Microsoft para sobreviver
Dado o caos total revelado nas últimas 72 horas, o interesse em construir algo em cima do OpenAI ChatGPT pode ter caído fortemente. Em comparação, construir em cima do Azure OpenAI ou do Claude 2 pode parecer mais atraente
A palavra “participação” faz parecer que ele não era o líder, mas apenas um participante. Não sei se é verdade, mas é uma escolha de palavras interessante
Além disso, toda a mídia vinha apontando Ilya como a força motriz do golpe
Sinceramente, é bem patético. Se fosse realmente uma questão de princípio, ele deveria ao menos ter aguentado um fim de semana
Ele expressa arrependimento, mas não diz que quer o Altman de volta. Só diz que quer consertar a OpenAI
Ele diz que “participou”, mas não fica claro de quê participou. Da votação, das mensagens tóxicas, ou dos dois? Do que exatamente ele se arrepende? De novo: ele não diz que se arrepende de ter votado pela demissão do Altman
Por que não dizer simplesmente “me arrependo de ter votado pela demissão de Sam Altman e estou tentando trazê-lo de volta”? Provavelmente porque isso não é verdade. Mesmo assim, a frase passa essa impressão
Tweet apagado de Shengjia Zhao: https://i.imgur.com/yrpXvt9.png
Ou ficou irritada porque seus milhões de dólares estavam em risco?
Essa versão parece mais crível
Não sei por que, de repente, as pessoas acham que seres humanos não são motivados por dinheiro e poder. E é ainda mais engraçado acreditar que, se forem “acadêmicos”, então com certeza não são
Mas o que diabos é isso?
Até agora, eu tinha entendido esse caos como uma questão de princípios. Era sujo, mas parecia algo necessário para corrigir a cultura da empresa que o lado do Ilya vinha projetando
Se iam agir, no mínimo precisavam sustentar essa posição. Por causa desse tweet, o contexto da situação parece 10 vezes pior
Quase qualquer um pode acabar recuando só para isso parar
Se tivesse simplesmente ficado calado, hoje ninguém estaria falando disso por causa de todas as outras coisas que já aconteceram. Dois CEOs interinos em dois dias
Em toda essa palhaçada, isso é quase a única coisa que faz sentido agora
Pode ter sido uma alucinação criada pelo pensamento de manada das redes sociais, enquanto tentavam entender a situação com pouquíssimas evidências
Já achei, no momento, que uma decisão era boa e depois, com uma visão mais ampla, percebi que tinha sido uma decisão terrível
Conseguir admitir que errou quando errou é uma ótima qualidade. Insistir no erro não é algo admirável
Isso me lembra um amigo que contou de encontros da Mensa em que nem conseguiam concordar sobre pontos básicos de funcionamento organizacional
Tudo isso parece um evento midiático de deixar o ChatGPT tomar as decisões do conselho por um ou dois dias
Talvez o GPT-4 original quisesse demitir todo mundo
Não dava para resolver por DM? Não entendo por que tudo precisa ser exposto no Twitter
É bem irônico que as pessoas que constroem os principais sistemas de ML/AI sejam justamente as mais profundamente enraizadas no egoísmo e na emoção, e aparentemente tenham pouquíssima racionalidade
Parece que ele só se arrependeu porque a coisa toda deu uma enorme reviravolta contra ele
Ele sabe que a Microsoft está absorvendo tudo de valor que a OpenAI tem, e que não vai sobrar nada para ele
Blefou em uma mesa de apostas altíssimas e perdeu
Isso é mais divertido do que qualquer coisa que Netflix, Disney, Amazon e Apple TV lançaram nos últimos anos
Claro que ele se arrepende profundamente, mas agora já é um pouco tarde
A boa notícia, como quem usou bastante a Twitch por muito tempo sabe, é que, com Emmett Shear no comando, não dá mais para ter medo de que a OpenAI lance recursos novos rápido demais