Sam Altman retorna como CEO da OpenAI e novo conselho inicial é formado

• A OpenAI resolveu o vácuo de liderança ao reconduzir Sam Altman ao cargo de CEO, recolocar Mira Murati como CTO e Greg Brockman como President
• O novo conselho inicial começa com Bret Taylor como presidente, Larry Summers e Adam D’Angelo, e Ilya Sutskever deixa o conselho
• As tarefas de curto prazo da empresa se concentram em avançar o roadmap de pesquisa, investir em segurança full-stack, melhorar e lançar produtos, dar suporte aos clientes, expandir o conselho e aprimorar a governança
• A Microsoft participará do novo conselho como observadora sem direito a voto, e também foi criado um comitê independente para revisar os acontecimentos recentes
• Na atualização de 8 de dezembro de 2023, Bret Taylor e Larry Summers assumem o comitê de supervisão da revisão e selecionam Anjan Sahni e Hallie B. Levin, da WilmerHale

---

Retorno da liderança e conselho inicial

• Sam Altman retorna como CEO da OpenAI
• Mira Murati volta ao papel de CTO
• Greg Brockman retorna como President
• O novo conselho inicial é composto por 3 pessoas
  • Bret Taylor, presidente
  • Larry Summers
  • Adam D’Angelo

Conselho anterior e principais nomes

• Ilya Sutskever não atua mais no conselho
  • Altman diz esperar continuar a relação de trabalho com Ilya e está discutindo formas de ele seguir trabalhando na OpenAI
• Adam D’Angelo faz parte do novo conselho inicial
• Tasha McCauley e Helen Toner são citadas como pessoas que se empenharam bastante no processo de encontrar uma solução
• Emmett Shear teve um papel fundamental e construtivo para chegar ao desfecho, e foi avaliado como alguém claramente comprometido com a segurança em IA e com o equilíbrio entre as partes interessadas

Mensagem para funcionários, parceiros e clientes

• Altman afirma que a equipe da OpenAI demonstrou resiliência e força de espírito mesmo em uma situação incerta e sem precedentes
• Ele afirma que nenhum funcionário saiu durante esse período
• A OpenAI afirma que não perdeu nenhum cliente
• Satya, Kevin, Amy e Brad, da Microsoft, são mencionados como parceiros que atuaram com as prioridades corretas
  • Altman afirma que a parceria com a Microsoft foi a escolha certa
  • A Microsoft fará parte do novo conselho como observadora sem direito a voto

Prioridades imediatas da OpenAI

• A primeira prioridade é avançar o plano de pesquisa e investir mais nos esforços de segurança full-stack
  • Altman afirma que o roadmap de pesquisa está claro
  • Esse trabalho será realizado com Mira Murati
• A segunda prioridade é continuar melhorando e lançando produtos, além de apoiar os clientes
  • A empresa considera importante que as pessoas tenham a oportunidade de experimentar e moldar os benefícios e as possibilidades da IA
  • Ele afirma que, junto com Brad, Jason e Anna, deixará claros os compromissos com usuários, clientes, parceiros e governos ao redor do mundo
• A terceira prioridade é expandir o conselho, melhorar a estrutura de governança e conduzir uma revisão independente dos acontecimentos recentes
  • Bret Taylor, Larry Summers e Adam D’Angelo ficam responsáveis por montar um conselho com perspectivas diversas
  • Trata-se de uma etapa para garantir confiança na estabilidade da OpenAI

Plano de governança de Bret Taylor, presidente do conselho

• O conselho da OpenAI está focado em fortalecer a governança corporativa da empresa
• Há planos para montar um grupo de conselheiros qualificados e diversos, com experiência que represente a amplitude da missão
  • O escopo inclui tecnologia, segurança e políticas públicas
  • Haverá uma observadora sem direito a voto da Microsoft
• A estabilização da organização também faz parte do plano
  • Foi convocado um comitê independente do conselho para supervisionar a revisão dos acontecimentos recentes
• Há planos para melhorar a estrutura de governança para que usuários, clientes, funcionários, parceiros e membros da comunidade possam confiar no crescimento contínuo da OpenAI

O papel do ChatGPT e da OpenAI

• Bret Taylor afirma que a OpenAI se tornou uma instituição ainda mais importante do que antes
• O ChatGPT tem o papel de levar a inteligência artificial ao cotidiano de centenas de milhões de pessoas
• A popularidade do ChatGPT colocou os benefícios e riscos da IA no centro das discussões sobre o futuro de governos, negócios e da sociedade
• O conselho da OpenAI reconhece o peso dessas discussões e o papel central da OpenAI no desenvolvimento e na segurança de novas tecnologias

Atualização de 8 de dezembro de 2023

• O conselho da OpenAI convocou um comitê formado por Bret Taylor e Larry Summers para supervisionar a revisão dos acontecimentos recentes
• Esse comitê entrevistou vários escritórios de advocacia importantes para realizar a revisão
• Ao final, selecionou Anjan Sahni e Hallie B. Levin, da WilmerHale
• O conselho continua trabalhando nas seguintes frentes enquanto a revisão avança
  • Reforço da governança corporativa da OpenAI
  • Formação de um conselho qualificado e diverso
  • Supervisão da missão da OpenAI de garantir que a inteligência artificial geral beneficie toda a humanidade

[GN⁺]

Comentários do Hacker News

• Ainda não sabemos o que Sam estava realmente se referindo, mas acho que algo que ele disse na noite anterior à demissão pode ter sido a causa da tensão
  Ele disse que esteve algumas vezes, na história da OpenAI, em posições de “empurrar para trás o véu da ignorância e avançar a fronteira da descoberta”, e falou como se o que estão fazendo agora fosse o maior salto técnico
  Também, quando perguntaram o que seria a coisa surpreendente que a empresa anunciaria no ano que vem, respondeu que as “capacidades do modelo” dariam um salto para um nível que ninguém esperava, e que a melhora que as pessoas imaginam para os modelos no próximo ano seria muito diferente da mudança real

  • É difícil imaginar. Por exemplo, o ensino superior provavelmente levaria anos só para alcançar os modelos de ponta atuais
    Ao mesmo tempo, dá para imaginar. Seria algo parecido com usar o ChatGPT agora, mas realmente concluindo o trabalho até o fim. Hoje quase tudo que faço com o ChatGPT preciso refazer depois, então não economiza muito tempo, mas amplia a perspectiva
  • Se isso significa que o conselho pediu uma reunião ao meio-dia do dia seguinte logo depois daquela fala, então quer dizer que quase não houve deliberação. Isso parece improvável
    O conselho também já saberia do estado do progresso, então a fala pública em si também não combina muito com a avaliação de que ele “não foi consistentemente sincero”
  • A menos que isso signifique ser realmente capaz de entender, ainda continua sendo só um modelo preditivo mais preciso. Me acordem quando chegar a singularidade
  • A formulação é vaga o bastante para também poder ser lida como algo abaixo das expectativas. Meu detector de vigarista apitou

• https://www.theverge.com/2023/11/29/23982046/sam-altman-inte...
  Foi uma entrevista bem interessante. É curioso ver o uso daquele método de político de não responder perguntas usando a investigação como desculpa; o conselho disse que ele “não foi consistentemente sincero”, e ainda não há uma resposta clara nem para a primeira pergunta, “por que ele foi demitido?”, então só me resta concordar com a avaliação inicial
  Pessoalmente, não sei se conseguiria confiar em alguém que queria criar uma criptomoeda com uma função de escanear os olhos de todo mundo

  • Existe algum motivo para esperar que Sam saiba por que foi demitido? Na melhor das hipóteses, ele só saberia o que o conselho disse a ele, e isso pode nem ter relação com a motivação real

• Ainda não está claro qual era a acusação contra Altman. Era que ele tratava as questões de segurança com leviandade? Se essa é a alegação e há fundamentos para isso, então não entendo por que a demissão teria sido errada, nem por que os funcionários estariam pedindo sua volta

  • O grande erro do conselho foi não conseguir dizer isso de forma clara e específica. Na minha visão, o problema que o conselho tinha com ele era que não agia como deveria agir um dirigente da entidade sem fins lucrativos, mas sim em favor da subsidiária com fins lucrativos e de seus próprios interesses, e que esses interesses entravam em conflito com a carta da organização sem fins lucrativos
    A parte em que realmente fracassaram foi não conseguir apresentar essa alegação de forma convincente, ou não querer fazê-lo
  • Mesmo que realmente fosse um conflito sobre alinhamento — isto é, sem fins lucrativos versus com fins lucrativos, segurança etc. — isso ainda é um grande “se”. O conselho executou tudo muito mal e errou completamente ao prever a reação dos funcionários
    Em comparação com Altman, com a tentação do lucro e com o poder de manter o cotidiano funcionando de forma estável e clara sem um conselho ativista secreto, ficou exposto até onde iam seu poder e sua capacidade de persuasão
    Ou então eles já sabiam que os funcionários não estavam do lado deles e, sem outra opção, esperavam que uma expulsão abrupta e dramática do CEO fizesse todos seguirem a decisão
    Se um CEO parece estar fazendo um bom trabalho e de repente é demitido sem motivo claro, eu também ficaria bastante preocupado. Se o conselho tivesse explicado a fundamentação e as evidências, alguns funcionários talvez ouvissem, mas não fez isso, e até agora ainda não sabemos quais eram as acusações reais
    Visto de fora, parece um golpe fracassado, e não há explicação de quem tentou fazê-lo
  • “Para deixar claro, nossa decisão dizia respeito à capacidade do conselho de exercer uma supervisão eficaz sobre a empresa, e esse era nosso papel e responsabilidade. Houve muitas especulações, mas o desejo de desacelerar o trabalho da OpenAI não foi a motivação.”
    https://nitter.net/hlntnr/status/1730034022737125782#m
    Também há um pano de fundo interessante que dá pistas sobre o que pode ter acontecido: https://nitter.net/labenz/status/1727327424244023482#m
  • Mesmo substituindo Altman por outra pessoa, era possível que a operação e o progresso não mudassem literalmente em nada, e também não está claro por que isso não poderia acontecer
    Fico realmente confuso com o motivo de as pessoas terem reagido como se fosse a demissão de Michael Jordan dos Bulls
  • Os funcionários querem sua volta porque ele é a pessoa que promete deixar todo mundo rico

• Eu trocava e-mails com Bret Taylor quando ele ainda estava no Google. Ele criou o app de Windows Notable, que eu usava todos os dias para escrever notas, e mais tarde eu também comecei a contribuir
  É interessante ver a trajetória dele: de gerente de produto no Google a co-CEO da Salesforce, e agora presidente do conselho da OpenAI. Ele também foi presidente do conselho do Twitter antes de Elon

  • Pelo que sei, ele também é o criador do conceito de Like. Foi introduzido no FriendFeed e depois o Facebook passou a usar

• Não sei bem como interpretar o fato de que Ilya não está mais no conselho e de que Ilya não foi incluído no “Leadership group” do comunicado

  • Como Sam disse, parece que eles ainda estão ajustando a forma de trabalhar juntos. Quando essa discussão terminar, ele talvez possa entrar para a equipe de liderança

• “Estou realmente animado para terminar o trabalho de construir uma AGI benéfica com vocês — a melhor equipe do mundo, a melhor missão do mundo.”
  Sam Altman vive em um mundo bem diferente daquele em que eu vivo

  • Todo mundo deveria ler Superintelligence. A OpenAI está correndo em direção a resultados realmente assustadores, incluindo a extinção da humanidade na maioria dos cenários.

• Houve alguma informação nova sobre por que ele foi demitido originalmente?

  • Quase nada. Mas a Helen Toner tuitou um pouco: “Para deixar claro, nossa decisão dizia respeito à capacidade do conselho de exercer supervisão eficaz sobre a empresa, e esse era o nosso papel e responsabilidade. Houve muitas especulações, mas o desejo de desacelerar o ritmo do trabalho da OpenAI não foi a motivação.” https://twitter.com/hlntnr/status/1730034020140912901
  • Quase nada. Há um mercado de previsões relacionado aqui: https://manifold.markets/sophiawisdom/why-was-sam-altman-fir...
    Parece que a soma das probabilidades não dá 100% porque é possível marcar vários itens como corretos
  • Há rumores circulando sobre um vazamento relacionado ao Q*. Mas, na prática, ninguém sabe de nada

• Não é para criticar o Sam, mas parece que as pessoas não percebem muito que quem criou a visão da OpenAI foi, na verdade, o Greg. Basta ler o blog dele
  Greg é uma pessoa calma e que não cria drama, e provavelmente sabia que Sam era um ótimo comunicador e gestor quando o trouxe. Ainda assim, parece que a pessoa com a genialidade mais rara e a persistência mais obstinada da equipe é o Greg, então é um pouco triste vê-lo continuar com sucesso fora dos holofotes

  • “Greg e eu somos parceiros na condução desta empresa. Ainda não encontramos a forma certa de representar isso no organograma, mas vamos encontrar.”
  • Pela descrição, parece que o Greg está conseguindo exatamente o que quer
  • Quem disse que ele quer os holofotes?

• O que torna esse caso difícil de ler e acompanhar é a grande visão moral e os diferentes níveis de crença ingênua nela
  Seja Ilya, Sam ou o conselho, o discurso está todo cheio de coisas como alinhamento e benefício para a humanidade
  Ao mesmo tempo, todas as partes envolvidas são pesos-pesados sérios tentando surfar a onda da IA e construir fossos competitivos, monopólios e o próximo AdWords ou Azure
  Esses dois vocabulários são tão extremamente diferentes que é difícil costurá-los, e parece que há duas conversas com premissas totalmente distintas acontecendo ao mesmo tempo. Por isso, todo mundo acaba presumindo que pelo menos alguém está agindo com total má-fé
  Alinhamento de IA é um tema muito atraente, mas o problema de alinhamento menos futurista e mais real é o alinhamento entre Microsoft, OpenAI, outros investidores e membros do consórcio
  Se Ilya, Sam e outros realmente se preocupam com o alinhamento da superinteligência, então deveriam pelo menos dar algum peso à ideia de que todos nós também deveríamos nos preocupar com o alinhamento humano deles

  • É preciso olhar não para as palavras, mas para as ações reais
    E, na verdade, é difícil acreditar que existam altruístas de verdade. Principalmente se forem ricos. Se fossem realmente altruístas, já teriam doado toda a fortuna antes de morrer. Tenho minhas dúvidas até se dá para reconhecer como genuíno o dinheiro colocado numa “fundação filantrópica” depois da morte

• Por causa disso tudo, nossa pequena equipe acabou testando a instância GPT-3.5 da Azure, e, surpreendentemente, ela é 20 vezes mais rápida
  Também não tem aquelas solicitações ao servidor que simplesmente não recebem resposta, algo que acontecia com frequência demais na API da OpenAI. Agora existe algo rápido e estável o bastante para usar de verdade. É mais caro, mas, meu Deus, funciona de fato

  • As pessoas da OpenAI são claramente brilhantes, mas parecem focadas em pesquisa e matemática, e talvez lhes falte experiência operacional
    Para ser sincero, a API da Azure também ficou instável ontem
  • É engraçado que a OpenAI rode toda em cima da Azure e ainda assim seja mais cara
  • Fico curioso para saber como as pessoas estão usando a Azure. Ela é meu ambiente de trabalho padrão, mas, para quem vinha usando principalmente AWS, deve ser interessante porque a CLI, API e Portal da Azure são bem diferentes e pouco familiares
    Também há custos de saída e entrada de dados, mas, de qualquer forma, para a maioria das pessoas os custos de IA provavelmente serão muito maiores do que isso