Ilya Sutskever, no “centro” da demissão de Altman?

• Surgiram relatos de fontes de que o chief scientist da OpenAI, Ilya Sutskever, foi uma figura central na crise interna da empresa
• O eixo do conflito teria sido a questão de papéis e influência entre Sam Altman·Greg Brockman e Sutskever, com o conselho tendo ficado do lado de Sutskever
• Developer Day e a forma de introdução da store são citados como um ponto de virada na percepção de que Altman estava forçando as coisas rápido demais e longe demais
• O conteúdo se baseia em uma postagem curta de Kara Swisher citando fontes, e não inclui procedimentos internos detalhados nem o processo de decisão do conselho
• Swisher acrescenta sua previsão pessoal de que Altman provavelmente criará uma nova empresa até segunda-feira

---

Conflito interno em torno de Sutskever

• Foram divulgados relatos de fontes de que o chief scientist da OpenAI, Ilya Sutskever, esteve no centro desta crise
• O conflito teria crescido em torno dos papéis e da influência de Sutskever, Sam Altman e Greg Brockman
• O relato também inclui que, nesse processo, Sutskever teria trazido o conselho para o seu lado

Pressão após o Developer Day

• Developer Day e a forma de introdução da store são mencionados como o momento em que passou a ser visto que Altman estava indo “longe demais, rápido demais”

[GN⁺]

Comentários do Hacker News

• A hipótese de que mais gosto é parecida com uma velha história. Sam Altman voou perto demais da enorme fonte de dinheiro da Microsoft, como Ícaro, desviou a empresa de sua missão fundadora e acabou soltando o gênio que originalmente queria conter
  Ao que parece, dentro da OpenAI havia pessoas que realmente acreditavam na visão original

  • Ou talvez tenha sido porque Altman estava tentando levantar recursos para uma startup de chips de IA para competir com a Nvidia, ou atrair bilhões de dólares da SoftBank para uma nova empresa com Jony Ive para criar hardware voltado para IA
    Boa parte de suas atividades externas atuais pode ter deixado o conselho inquieto, e se ele não compartilhou honestamente seus planos futuros, acho compreensível que tenha sido demitido
  • Se isso for verdade, acho que eu teria um pouco mais de fé na humanidade do que tenho agora
  • A visão original era bem clara, e é um motivo convincente para não se desviar dela mesmo que haja ganhos comerciais enormes
    Felizmente a M$ não conseguiu dominar o conselho
  • Acho que a movimentação de PR já começou. Parece que a captura regulatória será justificada pela forma como a OpenAI está assumindo uma nova personalidade/identidade, e eu não compro isso
    O que move montanhas não é estatura moral, mas dinheiro e lucro. É muito difícil acreditar nessas interpretações otimistas
    Se realmente fizeram isso por posição moral, sem outros motivos, não teriam ficado em silêncio por tanto tempo
  • Por esse ponto de vista, tudo faz sentido, ao contrário de VCs ou bros de tecnologia tentando vender isso como um golpe

• Fico me perguntando se o Sam, sabendo que perderia essa disputa de poder, não começou a montar um plano de fuga com pessoas leais a ele sem o conhecimento do conselho
  O conselho pode ter percebido isso e o expulsado o mais rápido possível para impedir que ele criasse uma concorrente usando recursos da empresa

  • Não é como se Sam não tivesse capital reputacional para levantar recursos e atrair talentos para uma concorrente. O conselho basicamente tomou essa decisão por ele
    Eu seria só uma pessoa comum para investir, sem qualquer outra relação
    [1] https://news.ycombinator.com/item?id=35306929
  • Essa hipótese, independentemente de ser verdadeira ou não, combina bastante bem com os fatos conhecidos até agora
  • Então no fim das contas estariam tentando enfraquecer uma captação de recursos que é obviamente algo em que Sam teria sucesso, queimando-o com uma acusação quase máxima possível para um CEO?

• Tirar sama e gdb por algo trivial como simples diferença estratégica seria totalmente antiprofissional. sama acabou sendo acusado de má conduta grave
  Mesmo que ele tenha sido excessivamente agressivo na comercialização da tecnologia da OpenAI, isso não está nem perto de justificar esse circo

  • Não conseguir chegar a um acordo fundamental sobre o que a missão fundacional descrita no estatuto de uma entidade beneficente 501(c)(3) significa na prática não é uma mera diferença estratégica
    Além disso, mesmo que houvesse conflito de facções em torno dos objetivos, isso não significa que não tenha havido conduta concreta e grave nesse contexto
  • Diferenças estratégicas podem ser um motivo central para demitir um executivo
  • Não é mais provável que ainda não saibamos a história completa?
  • Isso não é algo trivial, é a missão central da empresa, a razão de sua criação, o motivo pelo qual os investidores entraram e o motivo pelo qual cientistas de nível mundial trabalham lá
    Afinal, começou como organização sem fins lucrativos

• Fico curioso sobre o quanto Hinton influenciou seu ex-aluno Sutskever. Sutskever provavelmente respeita Hinton mais do que quase qualquer outra pessoa, e deve ter levado muito a sério a forte oposição dele
  Pessoalmente, acho uma pena. Esse movimento agora parece completamente inevitável, e se, ao pisar deliberadamente no freio desse jeito, os EUA perderem sua posição de liderança, não acho nem um pouco que um mundo em que a melhor tecnologia de IA seja controlada pela China seja mais seguro

  • Não entendo por que se vê uma única empresa como decisiva para saber se os EUA vencem a China em IA
    Uns 75% dos autores de artigos de IA que leio são chineses; se você realmente teme que a China assuma a liderança, isso me parece um sinal de alerta muito maior
  • Não sei se isso é ruim ou bom para os interesses de longo prazo da humanidade, mas agora parece um momento Klaus Fuchs
  • Você está aceitando literalmente o que Hinton diz. Talvez ele tenha sido escanteado no Google porque, não por meio ano, mas por 5 anos, não conseguiu fazer nada com a tecnologia de modelos de linguagem de grande porte

• Algumas semanas atrás ouvi uma entrevista da Bloomberg com Altman e uma pessoa da área de programação da OpenAI, e a diferença de opinião entre os dois era evidente; o apresentador até fez piada com isso
  Talvez Altman estivesse destinado a se tornar o próximo SBF. Dá a sensação de que ele vem distorcendo demais as coisas, dizendo ao público o que as pessoas querem ouvir

  • Consegue lembrar qual era essa entrevista e mandar o link? Quero ver
  • Que diferença de opinião era essa?

• Sutskever: “Você pode chamar isso de golpe e eu entendo por que escolheria essa palavra, mas eu não concordo. Foi o conselho cumprindo seu dever em nome da missão sem fins lucrativos de garantir que a OpenAI construa AGI que beneficie toda a humanidade.”
  Furo: theinformation.com
  https://twitter.com/GaryMarcus/status/1725707548106580255

  • Na prática, isso pode acabar parecendo ainda pior para Sutskever. Ninguém quer trabalhar com alguém que apunhala pelas costas
    Se fosse um caso de “tivemos diferenças de opinião e decidimos seguir caminhos separados”, tudo bem, mas o conselho alegou que Altman mentiu. Se ficar claro que o motivo da demissão foi uma divergência de direção estratégica, não vai sobrar ninguém querendo voltar a trabalhar com Sutskever. Eu certamente não gostaria
    É uma fala tremendamente difamatória contra alguém que, fora uma divergência profissional, não fez nada de errado
  • É basicamente uma confirmação, com só uma pequena divergência sobre a escolha dos termos para descrever isso
  • Há detalhes de alguém de dentro que parecem bater com isso
    https://www.reddit.com/user/Anxious_Bandicoot126/
  • A forma de lidar com esse tipo de divergência foi extremamente antiprofissional
  • O engraçado é que, até agora, a OpenAI não mostrou nenhum progresso comprovável rumo à verdadeira construção de AGI
    O ChatGPT é uma conquista técnica impressionante e útil de várias formas, mas não há evidência de que escalar essa abordagem leve à AGI. Provavelmente ainda serão necessários alguns grandes avanços

• Talvez este não seja o lugar apropriado para dizer isso, mas é impressionante que um grande cientista com princípios tenha conseguido, ao menos por enquanto, impedir que sua criação fosse apropriada coletivamente
  Se você ouvir a entrevista do Sutskever no No Priors, o contraste entre ele e Altman dificilmente poderia ser mais claro, e é bem raro ver o primeiro vencer o segundo

• Falando com a voz de George Senior: é por isso que você não coloca trabalho de importância mundial em uma organização sem fins lucrativos. Em organizações sem fins lucrativos, a política sempre vence o valor real

  • Depende do que você considera valor real
    Se valor real for valor monetário, talvez sim. Mas se for valor científico ou valor social, isso não necessariamente se alinha à busca por lucro financeiro
    Para constar, atualmente trabalho em um instituto de pesquisa sem fins lucrativos e não tenho o menor interesse em deixar acionistas mais ricos. Se os rumores forem verdade, seria uma boa mudança a OpenAI voltar aos valores de uma organização sem fins lucrativos e lembrar do Open no próprio nome

• Eu não tinha muita noção de quem é Ilya Sutskever nem do que ele pensa, então fui procurar entrevistas recentes. Há uma entrevista de duas semanas atrás no podcast No Priors
  https://www.youtube.com/watch?v=Ft0gTO2K85A
  Pelo menos para mim, não havia nenhuma pista clara sobre a confusão de hoje, mas ainda assim foi interessante de ouvir

  • A julgar por essa entrevista, não dá para esperar muita abertura. Ilya parece ser contra tornar os modelos open source porque eles podem ser poderosos demais
    Ainda bem que ninguém pediu para ele inventar a roda. As pessoas poderiam se deslocar rápido demais e colocar a própria segurança em risco

• Essa hipótese parece tão impensada que é difícil acreditar nela. Sam Altman pode ter sido irresponsável e tomado riscos, mas eles estavam numa situação absurdamente boa
  Não estou dizendo que os bons tempos existiam por causa de Sam Altman, mas demitir de repente uma das figuras mais visíveis do grupo, expor onde está a lealdade de cada um e irritar a Microsoft ao balançar suas ações sem qualquer aviso provavelmente acaba com essa boa fase
  Tudo isso era impossível sem uma quantidade enorme de capital e talentos de elite mundial, e isso provavelmente tornou muito mais difícil conseguir ambos
  Mas o que eu sei? Se você consegue se convencer de que está construindo AGI de verdade enquanto cria um modelo de linguagem gigantesco e absurdo, então pode se convencer de qualquer outra ideia idiota também

  • Pessoas inteligentes às vezes tomam decisões idiotas. É realmente tão simples assim
    Há um jovem que de repente ficou extremamente rico e, talvez, poderoso, aparecendo na TV nacional para falar com o governo mais poderoso da Terra. É tão surpreendente assim que alguém nessa situação tenha ficado um pouco convencido, esquecido qual é o seu trabalho e passado a achar que a OpenAI é ele mesmo, e não todas as pessoas que trabalham lá? Aí acaba aprendendo a realidade do jeito difícil
    O que há de tão surpreendente nisso? É algo tão tipicamente humano e nada surpreendente, acontece o tempo todo
    Muita gente aqui tem dificuldade com a ideia de que pessoas inteligentes não são especiais por essência, e que ser inteligente não faz desaparecer magicamente a possibilidade de errar ou agir de forma mesquinha
  • Lendo nas entrelinhas, é possível que Sam estivesse empurrando essa “situação absurdamente boa” na direção de ganhar muito dinheiro, enquanto o conselho sem fins lucrativos priorizava outros objetivos
  • Se isso parecer que o conselho está do lado dos funcionários, e não de um CEO com vontade de avançar rápido demais e quebrar tudo, isso pode até ajudar a atrair talentos de elite mundial
    Pode ser mais atraente sentir que você consegue ir para casa à noite porque o CEO não está tentando lançar o Cybernet amanhã e sim adiar para a semana que vem
  • Sinceramente, isso soa como se Ilya se visse como Tony Stark e estivesse confundindo um modelo de linguagem ainda impressionante com uma armadura do Homem de Ferro
    É uma arrogância quase ignorante, e a realidade não é tão romântica assim
    Só espero que isso não leve a OpenAI a tentar agir como guardiã dos modelos multimodais, ou, no extremo oposto, a deixar todo o resto do mercado passar por cima dela como poeira
  • Em que momento as ações da Microsoft despencaram?
    https://finance.yahoo.com/quote/MSFT/