Ex-membro do conselho da OpenAI revela motivo do afastamento temporário de Sam Altman

• A ex-membro do conselho da OpenAI Helen Toner afirma que Sam Altman mentiu várias vezes ao conselho, e que essa quebra de confiança levou à sua demissão temporária em novembro de 2023
• O conselho soube do lançamento do ChatGPT pelo Twitter, e Toner diz que Altman escondeu ou comunicou de forma incorreta a situação interna da empresa durante anos
• O fato de Altman não ter informado que era dono do OpenAI startup fund é apresentado como um caso central que entra em conflito com sua alegação de ser um membro independente do conselho
• Toner considera que Altman também forneceu informações imprecisas sobre a quantidade de processos formais de segurança da OpenAI, o que dificultou ao conselho avaliar se as medidas de segurança eram suficientes
• O conselho passou a discutir seriamente sua remoção a partir de outubro de 2023, mas o reconduziu ao cargo de CEO em menos de uma semana depois que surgiram ameaças de saída de funcionários e a possibilidade de a Microsoft contratar a equipe de Altman

---

Contexto da demissão, segundo Helen Toner

• A ex-membro do conselho da OpenAI Helen Toner revelou os bastidores do afastamento temporário de Sam Altman em novembro de 2023 em entrevista ao “The TED AI Show”, de Bilawal Sidhu
• Segundo Toner, Altman mentiu ao conselho “várias vezes”, e o conselho também ficou sabendo do lançamento do ChatGPT pelo Twitter
• Altman teria escondido informações durante anos e transmitido de forma incorreta o que estava acontecendo na empresa
• Além disso, continuou afirmando ser um membro independente do conselho, sem interesse financeiro na empresa, ao mesmo tempo em que não informava ao conselho que era dono do OpenAI startup fund
• Esse episódio abalou fortemente a confiança do conselho em Altman, e em outubro de 2023 a necessidade de sua remoção já vinha sendo discutida com bastante seriedade
• A OpenAI não respondeu imediatamente ao pedido de comentário da Business Insider

Processos de segurança e problema de confiança na liderança

• Altman também teria fornecido ao conselho informações imprecisas sobre os poucos processos formais de segurança existentes na OpenAI
  • Isso tornou quase impossível para o conselho entender se as medidas de segurança eram suficientes ou se precisavam ser alteradas
• Toner afirma que houve outros casos individuais, mas que, no fim, o conselho chegou a um ponto em que não podia mais confiar na palavra de Altman
• Também foi enfatizado que o papel do conselho era exercer supervisão independente sobre a OpenAI, e não apenas ajudar o CEO a captar mais recursos
• Em outubro de 2023, dois executivos conversaram várias vezes com o conselho sobre suas experiências com Altman e usaram a expressão “psychological abuse”
  • Esses executivos concluíram que Altman não era a pessoa certa para conduzir a empresa rumo à AGI
  • Também disseram não acreditar que ele pudesse ou quisesse mudar, e que tentar dar feedback ou resolver os problemas junto com ele não adiantava
• Quando o conselho percebeu a necessidade de substituir Altman, Toner avaliou que, se ele descobrisse, ficaria claro que usaria “todos os meios” para impedir a ação do conselho
  • Segundo Toner, Altman começou a mentir para outros membros do conselho para tentar tirá-la do cargo
  • O conselho conduziu o processo até 17 de novembro de 2023 sem avisar quase ninguém com antecedência, além da equipe jurídica
• A demissão de Altman não durou muito, e depois que surgiram ameaças de demissão por parte dos funcionários e especulações de que a Microsoft poderia tirar a equipe de Altman da OpenAI e contratá-la diretamente, o conselho o reconduziu ao cargo de CEO em menos de uma semana
• Toner renunciou ao conselho da OpenAI menos de duas semanas depois de Altman voltar ao cargo de CEO

[GN⁺]

Opiniões do Hacker News

• https://archive.is/LpDuJ

• Toda essa situação é um estudo de caso interessante sobre autoridade nominal e poder real
  No papel, o conselho tem autoridade e é responsável por supervisionar a diretoria executiva, contratar e demitir, mas, na prática, depende da diretoria em termos de informação
  O poder real está no ponto em que um investidor detém metade, os fundadores conduzem o roadmap e também têm influência sobre a possibilidade de saída de pessoas-chave

  • Nesse caso, a posição do conselho da OpenAI era muito pior
    Como a empresa era, na prática, uma combinação de pesquisadores, engenheiros e créditos do Microsoft Azure, até dava para trocar o CEO, mas, se eles não gostassem, o valor inteiro da empresa poderia simplesmente sair andando pela porta
  • O conselho simplesmente desistiu
    Não eram as pessoas certas para a missão e, se tivessem aguentado um pouco mais e montado uma boa estratégia de relações públicas, teriam vencido
  • Mais precisamente, é a diferença entre poder baseado em cargo e poder baseado em relações
  • Isso lembra uma fala de A Song of Ice and Fire

    Varys smiled. “Here, then. Power resides where men believe it resides. No more and no less.”
    
    “So power is a mummer’s trick?”
    
    “A shadow on the wall,” Varys murmured, “yet shadows can kill. And ofttimes a very small man can cast a very large shadow.”  
    

• Parece bem provável que isso seja verdade, mas, ao mesmo tempo, faz o conselho parecer um grupo incompetente e incapaz de lidar com confronto
  Havia opções como fazer uma contestação formal, reforçar a supervisão, transferir responsabilidades de Sam para outra pessoa ou alertar sobre medidas legais; em vez disso, tentaram um golpe secreto, e o resultado foi fazer Sam parecer o lado mais fraco

  • Parece haver uma incompreensão fundamental do papel do conselho
    Costuma-se dizer que o conselho de uma empresa tem basicamente uma única função: nomear e demitir o CEO
    Pode ser um pouco exagerado, mas o ponto central é que, quando o conselho se mete nas decisões da gestão, as coisas pioram
    Se não gosta das decisões, deve trocar o CEO, e é aí que está sua autoridade
    Não sei a quem seria feita uma “contestação formal”
    O conselho é a autoridade final, então é meio ambíguo para quem eles iriam reclamar
    “Transferir responsabilidades de Sam para outra pessoa” também seria visto por qualquer especialista em governança corporativa como uma receita para desastre e nem seria possível dentro da hierarquia da empresa
    Já disse várias vezes que a forma como lidaram com a demissão de Altman foi muito ingênua e que a comunicação na época foi péssima, mas não vejo isso como algum tipo de “golpe”, e as respostas sugeridas também não fazem sentido
  • Vi muito o termo “golpe”, mas é difícil justificá-lo
    Eles são o conselho, e contratar e demitir o CEO é uma função central
    Em uma organização sem fins lucrativos, manter o alinhamento com a missão também é
  • Fazer uma “contestação formal” a quem?
    O próprio conselho é a autoridade final, com poder para investigar e agir
    Se os membros têm preocupações, eles agem ou não agem; não há outro lugar para onde transferir a responsabilidade
  • Se você desconfia tanto da pessoa a ponto de precisar colocá-la numa camisa de força metafórica para que ela aja corretamente, não sei qual é o sentido de mantê-la como CEO
    Além disso, se ela tiver uma tendência retaliatória, poderá causar danos com muito mais facilidade tendo poder dentro da organização
  • Acho que o conselho padrão ao lidar com uma pessoa abusiva em relações pessoais é fugir
    Em geral, porque é irrealista esperar que você consiga consertá-la
    Há algum motivo para a mesma lógica não se aplicar a uma relação de negócios que pressupõe confiança?

• O fato de quase ninguém ter sido avisado com antecedência tinha a intenção de proteger o conselho da interferência de Altman, mas acabou colocando-o em uma posição indefensável
  Foi como deixá-lo lutando sozinho contra pessoas muito ricas e bem conectadas, sem sequer uma narrativa para apresentar

  • Dá a impressão de que um único comunicado à imprensa talvez tivesse mudado completamente o resultado
    Um conselho não deveria ser capaz de chegar a um acordo interno ao menos sobre um comunicado à imprensa?
  • O ponto central é que, depois de fazerem isso, ainda assim não conseguiram explicar publicamente por que fizeram
    Se você vai fazer algo assim, precisa estar com toda a preparação concluída e pronto para se defender

• A frase é que “escolheram com muito cuidado e cautela quem avisar e, exceto pelo jurídico, basicamente quase ninguém foi informado com antecedência”; se estavam tão preocupados com vazamentos, não deveriam ter preparado pelo menos um material de briefing para o principal investidor, ou seja, a Microsoft, no próprio dia?
  Isso seria ainda mais necessário se não tivessem conseguido convencer previamente os principais investidores, na prática seus superiores

  • Neste caso, o principal investidor não é superior do conselho
    A OpenAI é uma organização sem fins lucrativos
    A Microsoft tem incentivos para agir contra os objetivos da carta da organização sem fins lucrativos e, de fato, agiu assim também desta vez

• Todas as evidências apontam para Altman ter mentido e agido de forma dúplice
  Eu também o teria demitido

  • Você está falando daquele sujeito que se recusou a obedecer ordens governamentais e foi expulso de dois países porque não parou de escanear os olhos das pessoas em troca de uma shitcoin?
    Esse sujeito mentindo e sendo dúplice?

• O que continua bizarro é como o conselho conseguiu trazê-lo de volta
  Não faz sentido por nenhum ângulo
  Está muito claro que ele mentiu e armou esquemas, e não entendo por que isso virou um problema só até aquele ponto
  Depois de demitido, ele não tinha autoridade
  Se outra empresa quisesse contratá-lo, que contratasse; se ele ficasse só soltando papo convincente no Twitter, não era preciso ligar
  Se os funcionários ameaçaram sair, era só deixá-los sair
  Acho que muitos deles na verdade não teriam saído e, mesmo que saíssem, dava para contratar de novo e encontrar um CEO decente
  Os funcionários que ficassem provavelmente eram justamente as pessoas que valia a pena reter
  Então por que recontratá-lo e depois renunciar? Não dava para renunciar mantendo-o demitido?
  Também não entendo por que a Microsoft se importou tanto com Altman
  Ela nem tinha assento no conselho, então não havia o que fazer, e não deveria ter influência
  Se queriam a OpenAI, que comprassem
  Também não vejo que valor a Microsoft obteria levando Altman para dentro da própria empresa
  Nada disso faz sentido
  Pelo contrário, o mais evidente é o padrão negativo de comportamento de Altman
  Lembro dele fazendo alarde, com cara de ingênuo, dizendo que não tinha participação na OpenAI
  Certo, querem que eu acredite que um investidor de venture capital experiente estruturou uma nova empresa de modo que ele não tivesse nenhum benefício financeiro?
  Em outra linha do tempo, a OpenAI o teria demitido, nomeado um CEO interino e, ignorando todo o resto do barulho, escolhido um novo CEO, e teria funcionado bem
  Não entendo por que a Microsoft e outros fizeram tanto alarde, nem por que o conselho soltou um comunicado tão enigmático quando poderia ter dado detalhes
  Mesmo abrindo espaço para possibilidades conspiratórias, não faz sentido
  Parece que ninguém envolvido, incluindo Satya Nadella, sabe o que está fazendo

  • Você já disse a resposta e a descartou
    O conselho concordou com a volta de Sam Altman por causa de uma enorme campanha de pressão em que mais de 90% dos funcionários ameaçaram pedir demissão, e a Microsoft, que detém a propriedade intelectual da OpenAI, ofereceu-se para contratar todos eles imediatamente
    Isso incluía a liderança central da empresa
    A organização estava se desfazendo da noite para o dia, e a situação já tinha passado muito do limiar de “alguns funcionários insatisfeitos podem sair”
    Não teria sobrado uma OpenAI para administrar
  • Então em que situação fica o conselho atual?
    O CEO não apresentou pedido de desculpas nem reconhecimento de responsabilidade e, mesmo que tivesse apresentado, obstruir ativamente a supervisão do conselho é claramente uma linha vermelha
    Como o conselho pode cumprir seu papel com um CEO que demonstrou que nem sequer fornecerá as informações necessárias para exercer a função?
    Enquanto esse CEO permanecer em uma posição em que possa bloquear o acesso a informações, o conselho não tem credibilidade
  • Concordo totalmente
    Não tenho nenhum interesse pela OpenAI ou pelos membros do conselho, mas vi incompetência demais na única coisa que o conselho deveria ao menos fazer direito: contratar e demitir
    Só isso já me faz achar que a reformulação do conselho foi positiva
    Não importa quem você apoia nesse episódio
  • A Microsoft precisa de uma versão vendida da OpenAI
    Porque assim pode ganhar o máximo de dinheiro possível sem gente inconveniente falando de ética e segurança
  • Segundo Helen Toner, os advogados da OpenAI disseram que, se continuassem a excluí-lo e a empresa perdesse muito dinheiro, Toner e os outros membros do conselho poderiam ser pessoalmente responsabilizados

• É interessante que o CEO da empresa mais próxima de uma AGI seja muito inteligente, mas tenha um claro problema de alinhamento

• A explicação de Toner agora soa factual em alguns aspectos sobre o motivo da expulsão de Sam
  Faz sentido
  Independentemente do que eu pense sobre Sam pessoalmente, se eu estivesse naquela posição provavelmente teria tomado a mesma decisão
  Um CEO mentir e enganar o conselho várias vezes é uma linha vermelha bastante séria

  • Também é parecido com o motivo pelo qual Sam foi demitido da Y Combinator
    Não é novidade; quando há dinheiro em jogo, a memória das pessoas fica tão turva quanto a moralidade

• É irônico ver pessoas correndo para defender Sam Altman nos fóruns da Y Combinator
  A própria YC também o removeu de um cargo de liderança executiva por motivos parecidos

  • Minha opinião sobre Altman é a mesma de quando o GPT-2 foi liberado lentamente por razões de segurança
    Seja qual for a realidade, o melhor é presumir o pior e ter sistemas e processos capazes de lidar com a possibilidade de isso ser real
  • Para quem está por aqui há tempo suficiente para ter visto tanto o início quanto o fim da Loopt, isso é puro bom senso
    Altman é um sociopata da tríade sombria com apenas uma tecnologia vendável, e essa tecnologia, como disse pg, é “ficar powerful”
    Ele não sabe programar, não sabe projetar, não publica artigos, não consegue subir a escada corporativa tradicional com qualquer mecanismo antifraude mínimo e nem consegue tirar a mão do pote de biscoitos
    Em compensação, consegue mentir, ameaçar, bajular, manipular e subornar sem hesitação nem remorso
    Venho apostando contra esse absurdo há 10 anos, e isso não ajudou a me manter longe da falência, mas quando o mercado fica racional, geralmente fica de uma vez só
    Karpathy, Ilya e Yoon vêm imediatamente à mente, e há inúmeros outros
    LeCun partiu para o ataque de propósito no X há pouco tempo
    Parece que os insiders estão montando posições vendidas como a Goldman fazia contra Burry
    Ele tem nove vidas e já foi demitido umas três vezes por questões fraudulentas, mas ainda vive assim; talvez acabe resistindo tempo suficiente para colocar Ice Nine no meu copo
    Mas esse tipo de coisa não pode se repetir infinitamente
  • Não é verdade: https://twitter.com/paulg/status/1796107666265108940
  • A questão envolvendo a irmã dele foi resolvida?
  • Você escreveu “foi demitido”, mas tentei encontrar no Google uma fonte específica e confiável e não consegui
    O melhor que encontrei foi algo como “diz-se que Altman foi removido da presidência da YCombinator por priorizar seus próprios interesses”
    O ponto central aqui é a palavra “allegedly”
    Existe algum comunicado da YC ou explicação de um insider sobre a demissão? Se não, é só boato
    Para deixar claro, não estou escrevendo isto para defender Altman ou a YC