1 pontos por GN⁺ 2024-09-28 | 1 comentários | Compartilhar no WhatsApp
  • Um relatório do NYT diz que o plano da OpenAI de expandir de forma explosiva a infraestrutura de IA foi visto por parceiros-chave de manufatura, como a TSMC, como algo de escala irrealista
  • Altman teria proposto um investimento de US$ 7 trilhões ao longo de vários anos, com 36 fábricas de semicondutores e construção de data centers, mas internamente na TSMC isso teria sido considerado absurdo
  • As declarações mais recentes da OpenAI reduziram a escala das discussões para a casa das centenas de bilhões de dólares, e ainda não está claro quem investiria de fato nem o que receberia em troca
  • Na Coreia, as conversas com Samsung e SK Hynix teriam sido interrompidas por preocupações de segurança nacional em torno das relações entre os Emirados Árabes Unidos e a China
  • A OpenAI é apresentada como tendo cerca de US$ 3 bilhões em receita contra cerca de US$ 7 bilhões em gastos, enquanto os casos de Copilot e Apple Intelligence alimentam o debate sobre a ausência de um app matador para IA

Tentativa de Altman de convencer parceiros de manufatura na Ásia

  • Sam Altman percorreu rapidamente o Leste Asiático no último inverno, encontrando altos executivos de empresas como TSMC, Samsung e SK Hynix
  • O objetivo era unir em um único plano a capacidade de manufatura asiática necessária para o avanço da IA, capital do Oriente Médio e reguladores dos EUA
  • O NYT cita 9 fontes anônimas próximas às negociações da OpenAI

A proposta de US$ 7 trilhões que esbarrou na TSMC

  • Durante a visita a Taiwan, Altman teria apresentado aos executivos da TSMC uma proposta de US$ 7 trilhões em investimentos ao longo de vários anos
  • O plano incluía 36 fábricas de semicondutores e a construção de data centers para expandir a IA
  • Os executivos da TSMC teriam considerado a proposta absurda e, segundo uma fonte do NYT, passaram a chamar Altman de “podcasting bro
  • Também teriam surgido internamente na TSMC preocupações de que mesmo executar apenas parte das ideias poderia ser extremamente arriscado

Indícios alinhados com a reação anterior do presidente da TSMC

  • Na assembleia anual de acionistas da TSMC de 2024, também houve uma reação cética em relação ao plano da OpenAI
  • O recém-eleito presidente Dr. C. C. Wei disse sobre Sam Altman: “agressivo demais, agressivo demais para eu acreditar”
  • A fala é vista na mesma linha da reportagem do NYT de que a liderança da TSMC não confiava na visão de Altman para uma infraestrutura massiva de IA

Limites de escala de investimento e tempo de execução

  • As fontes do NYT avaliam que o volume de investimento chegava à casa dos trilhões de dólares, em um nível semelhante a cerca de um quarto da produção anual dos EUA
  • Nas declarações mais recentes da OpenAI, a escala das discussões caiu para o nível de “centenas de bilhões de dólares”
  • Para atender ao plano de expansão computacional da OpenAI, também seriam necessários vários anos de tempo de construção
  • Ainda não está claro quem investiria quanto e o que receberia em troca

Conversas com empresas coreanas e a variável dos Emirados Árabes Unidos

  • Altman também visitou a Coreia no mesmo período e discutiu o tema com altos executivos da Samsung e da SK Hynix
  • Segundo o NYT, essas conversas foram interrompidas por preocupações de segurança nacional ligadas ao fato de países como os Emirados Árabes Unidos manterem relações com a China
  • Depois disso, o presidente Biden e o presidente dos Emirados Árabes Unidos, Sheikh Mohammed bin Zayed, se reuniram na Casa Branca e instruíram altos funcionários a preparar um memorando sobre cooperação em IA
  • Os planos tecnológicos ligados aos Emirados Árabes Unidos podem mudar, e também circulam rumores sobre grandes fábricas da TSMC e da Samsung no país

Investidores e empresas ainda em discussão

  • A incerteza em torno do plano ambicioso da OpenAI continua grande
  • A empresa de investimentos em tecnologia dos Emirados, MGX, é citada como uma das que seguem em conversa com a OpenAI
  • Grandes empresas de tecnologia como Microsoft, Nvidia e Apple também são mencionadas como nomes que continuam dialogando com a OpenAI

Estrutura de custos da OpenAI e debate sobre demanda por IA

  • A avaliação é que o modelo de negócios atual da OpenAI ainda tem dificuldade para transmitir forte confiança
  • A receita anual da empresa seria de cerca de US$ 3 bilhões, mas os gastos anuais são apresentados como cerca de US$ 7 bilhões
  • A grande visão de Altman parte da ideia de que a IA se tornará como a eletricidade
    • A lógica é que, se a IA ficar mais fácil de usar, as pessoas encontrarão usos mais numerosos e melhores para ela
  • A avaliação é que as grandes empresas de tecnologia ainda não encontraram o app matador da IA
    • O Microsoft Copilot é amplamente conhecido por casos de erros e lentidão
    • A Apple anunciou o iPhone 16 e o 16 Pro com Apple Intelligence, mas os primeiros recursos de IA não estarão disponíveis nos novos aparelhos até o mês seguinte

1 comentários

 
GN⁺ 2024-09-28
Comentários do Hacker News
  • É melhor ver o artigo original do NYT. Este texto não conseguiu resumir bem o original
    https://web.archive.org/web/20240926063521/https://www.nytim...

    • Acho que o artigo original mostra melhor a complexidade e a realidade da fabricação de chips. A TSMC sabe bem disso, e isso contrasta com planos estilo “pouso na Lua” feitos por gente que não entende suficientemente as sutilezas da cadeia de suprimentos de semicondutores
  • Repostei o artigo original
    Behind OpenAI's plan to make A.I. flow like electricity - https://news.ycombinator.com/item?id=41663562
    O autor da submissão deveria seguir a diretriz: “por favor, envie a fonte original. Se um texto reporta algo encontrado em outro site, envie o site original” - https://news.ycombinator.com/newsguidelines.html

  • O hype atual em torno da IA atingiu em cheio o ponto fraco dos desenvolvedores: a ideia de que “a AGI está a poucos passos”. É como se, se um computador consegue produzir frases plausíveis, mas erradas, então logo essas frases também vão se tornar factual e realisticamente corretas
    O próximo inverno deve ser rigoroso

    • Usar Claude 3.5 Sonnet no Cursor Composer já traz uma grande vantagem para programação. Estou muito mais produtivo do que antes, e os modelos continuam melhorando
      Não estou dizendo que a AGI está logo ali nem que vamos necessariamente chegar lá, mas é difícil negar os ganhos, e o o1 também adicionou computação em tempo de teste. Não precisa debochar
    • Isso me lembra uma fábula sobre povos insulares que, sem contato com o mundo exterior, admiravam a natureza e sonhavam em um dia ir à Lua
      Viviam em cabanas de palha e nunca tinham subido mais alto do que em árvores, mas um dia um gênio construiu uma estrutura maior que a árvore mais alta e a chamou de “escada telescópica”
      As pessoas subiram na escada telescópica, olharam para baixo do topo das árvores e declararam: “agora, se só a deixarmos um pouco mais alta, poderemos alcançar a Lua”
    • Isso me lembra os carros autônomos de alguns anos atrás. Robotáxis, carros autônomos ou até a IA de antes disso, como o Watson, eram parecidos
      Naquela época, o ciclo de hype acabou mais rápido
    • Este inverno será quente por causa do calor que as GPUs emitem ;)
    • A expressão “frases plausíveis, mas erradas” chega perto de um cinismo reflexo e barato. Os LLMs são um avanço enorme mesmo por padrões razoáveis
      Há motivos para otimismo quanto ao progresso futuro, porque as capacidades melhoraram muito nos últimos anos e é bem provável que essa tendência continue por pelo menos mais alguns anos. Não vai escalar para sempre, mas, quando a poeira baixar, parece bem possível que sobrem LLMs muito mais poderosos do que o estado da arte atual, e o nível de hoje já é útil
      Duvido que isso vá até “superinteligência” ou a “invenção final”, mas sem dúvida é algo grande. No mínimo, pode ser comparável à busca do Google, que mudou a forma como as pessoas lidam com computadores e com a internet
  • O Sam aparentemente nunca entrou numa instalação de fabricação de semicondutores. Se entrou, então não prestou nenhuma atenção ao que estava acontecendo ao redor
    Não consigo entender como alguém poderia visitar esse tipo de instalação pessoalmente e ainda assim falar com tanta leveza em construir 36 delas. Hoje, é bem provável que um novo investimento em fabs leve muito mais de 10 anos para se pagar, e perseguir algo como quatro clientes para um único caso de uso estreito não faz sentido do ponto de vista de quem opera esse tipo de empresa

    • Do ponto de vista dele, faz sentido. O capital é de vocês, e ele ganha mais recursos computacionais
      Se não der certo e os pedidos sumirem? Isso não é problema dele, é?
    • Altman disse recentemente no texto “Intelligence Age” que a superinteligência pode estar a apenas alguns milhares de dias de distância
      Claro, ele pode estar errado, mas, se você leva isso a sério, então a conclusão de que a demanda por chips vai explodir é natural
    • Não sei se já houve um momento em que Sam não parecesse mais um vigarista polido do que um visionário de tecnologia. Quase tudo que li sobre ele nos últimos anos o fez parecer um fanfarrão sem noção que entrou nisso só pelo dinheiro
      Se você fala bem, tem contatos e é ardiloso, é muito mais fácil ganhar muito mais dinheiro do que sendo competente e honesto
    • Deixando a infraestrutura de lado, ouvi dizer que a escassez de talentos é um gargalo enorme. Especialmente nos EUA, isso seria ainda mais forte
  • Há três coisas na discussão atual sobre IA que me incomodam. Primeiro, o foco do público em AGI é quase uma distração. Mesmo antes de chegar à AGI, modelos altamente especializados vão tomar empregos em larga escala, e engenharia de software e ciência da computação já entraram na zona de impacto
    Segundo, a ideia de que, para substituir uma função, a IA precisa executar todas as tarefas daquela função. E se engenheiros de software ficarem 50% mais eficientes e as empresas demitirem metade? Só isso já teria um impacto econômico enorme, e no estado da arte atual isso já parece plausível
    Terceiro, a ideia de que as pessoas demitidas vão todas encontrar novos empregos graças às oportunidades criadas pela IA. Posso estar ignorando algo, mas não sei que tipo de oportunidade seria grande o bastante para compensar a escala de eficiência que já começa a aparecer. A estrutura demográfica de pirâmide invertida no Ocidente talvez amorteça isso até certo ponto

    • “E se engenheiros de software ficarem 50% mais eficientes e metade for demitida?” é a falácia de assumir trabalho fixo
      É preciso olhar os efeitos de segunda ordem. Quando se gasta menos tempo repetindo métodos já conhecidos, passa-se a assumir trabalhos mais ambiciosos, e a concorrência entre empresas que usam pessoas+IA eleva o nível de referência. O software vem canibalizando a si mesmo há 60 anos, sempre que surgem novas linguagens e frameworks, mas o emprego continua forte
    • É parecido com os robotáxis e carros autônomos que supostamente iriam nos transportar. E não dá para deixar de lado as criptomoedas que hoje qualquer um usa com facilidade para comprar coisas
    • IA que não é de propósito geral não vai criar desemprego em massa, do mesmo modo que tecnologias anteriores de aumento de produtividade não criaram. Enquanto humanos puderem produzir resultados valiosos que máquinas não conseguem gerar, uma economia de maior produção vai encontrar formas de empregar humanos
      Algumas pessoas talvez nem precisem mudar de profissão. Se ferramentas de IA reduzirem o custo de produção, a demanda pelo que elas oferecem pode aumentar, e isso pode muito bem acontecer também com engenheiros de software
      Outras podem acabar indo para empregos criados por novas tecnologias, ou para ocupações que hoje parecem absurdas como forma de pagar muita gente. Historicamente, esse tem sido um padrão consistente. Se a transição for rápida, haverá desordem temporária, mas no fim isso se ajusta
      A única coisa que quebraria essa dinâmica e criaria a possibilidade de desemprego estrutural permanente seria uma AGI que superasse a capacidade humana em todo trabalho útil
    • Se a IA pode fazer o meu trabalho, por que meu empregador me demitiria? Se ele pode obter de mim 200% de produtividade só pelo custo marginal de uma licença de assento de IA, isso não seria ótimo para ele?
      Muitas previsões de perda de empregos partem da suposição implícita de que já atingimos o “máximo de trabalho possível”. A ideia de que produtividade maior deveria reduzir empregos só é verdadeira quando não há mais nada a fazer. Mas quase ninguém parece tentar dizer, conseguir demonstrar ou sequer reconhecer que seria preciso provar, na prática, que realmente não há mais nada a fazer
      Historicamente, os humanos sempre foram péssimos em prever os tipos e a escala dos trabalhos do futuro, mas surpreendentemente bons em inventar novos trabalhos para se manter ocupados
    • Quando a eletricidade ficou mais barata, nós usamos mais eletricidade
      Basta pensar em quanto software ruim existe ao nosso redor hoje. Minha esposa usou um app para marcar um exame com o médico, e simplesmente não funcionava; os funcionários também sabiam que o app não funcionava, mas ainda assim continuavam mandando usar o app
      Estamos cercados de software ruim, e há muito trabalho a fazer se só conseguirmos produzi-lo de forma mais barata. Hoje, só empresas ricas conseguem fazer software excelente
  • É irônico que Sam Altman venha do YC. Isso é o oposto do pensamento de startup
    Em vez de destruir rapidamente em pequena escala, parece querer um investimento gigantesco adiantado com apenas uma ideia vaga de onde a tecnologia será usada

    • “Investimento gigantesco adiantado e uma ideia vaga do uso da tecnologia” soa exatamente como a mentalidade de uma startup financiada por venture capital
    • Eles provavelmente já sabem que algumas das próximas construções de modelos vão exigir US$ 100 milhões, talvez US$ 1 bilhão. E isso é só o custo computacional de construir um único modelo
      O product-market fit já foi basicamente confirmado, e a estrutura de custos é entendida em linhas gerais, então o motivo de ele precisar de dinheiro é bem simples
      Ainda assim, é uma aposta, porque se alguém aparecer com uma nova técnica e um modelo de US$ 10 milhões, a estrutura de custos da OpenAI vira um problema. Se isso acontecer, eu imagino que os cientistas se adaptem bem rápido, no entanto
    • A segunda frase descreve muitas startups
  • Ótimo. Quanto mais leio sobre a TSMC, mais eu gosto dela

    • Sempre achei a cultura taiwanesa e a cultura da TSMC bastante contidas. Então, se algo como “podcasting bro” vazou de lá, o significado real provavelmente é mais próximo de “golpista de merda”
    • Isso me parece uma das avaliações mais sensatas que já vi do plano do Sam entre os participantes dessa febre toda
      Se esse castelo de cartas desabar, vai ser muito maior do que qualquer bolha que vimos até agora, seja superaquecimento ou fraude
      O desperdício de recursos e atenção é grande demais, e até os investidores de venture capital que sobraram depois do superaquecimento das criptos já não conseguem mais levar isso a sério
    • A TSMC é basicamente a Spacing Guild, então ninguém pode mexer com ela levianamente
    • Os russos também riram do Musk antes de ele começar a SpaceX
  • O modelo de negócios atual da OpenAI não inspira confiança. Uma receita anual de cerca de US$ 3 bilhões fica totalmente ofuscada por gastos anuais de US$ 7 bilhões, e parece uma estrutura que promete “geleia amanhã”
    Em outras palavras, um prejuízo anual de US$ 4 bilhões, ou US$ 10 milhões por dia. IPOs também em geral têm funcionado como o Bitcoin, com base na teoria do maior tolo. Você passa o ativo inflado para o próximo tolo maior, até que, no fim da linha, alguém como no caso do Twitter fique sem saber como vai recuperar esse dinheiro
    Não sei por quantos dias a OpenAI consegue sustentar perdas de US$ 10 milhões por dia, mas no ambiente macroeconômico atual a perspectiva não parece boa

    • A maior parte dos custos provavelmente vem de treinamento e da operação da camada gratuita. Ambos podem ser desligados a qualquer momento, e aí a empresa pode se tornar extremamente lucrativa
      Parece que as pessoas não percebem a escala de ter chegado a US$ 3 bilhões de receita recorrente anual em menos de dois anos. Existe hype de IA? Claro. Mas é uma bolha tipo cripto, em que todo mundo está vendendo besteira? Nem de longe
    • A Amazon também não deu lucro durante muitos anos, mas hoje é uma das empresas mais valiosas do mundo. O motivo é que continuou crescendo
      Se a OpenAI continuar crescendo assim, então ela é “sustentável”. Da metade de 2023 até a metade de 2024, a receita cresceu 6x e chegou a US$ 3,4 bilhões; se no ano que vem ela crescer 4x e no seguinte 3x, a receita chega a US$ 40 bilhões
    • Fico curioso de onde veio esse número de US$ 3 bilhões de ARR. Queria ver a fonte
  • Ele pode acabar rindo por último. Ficar rodando o mundo e ameaçando construir fabs nos EAU e em Taiwan pode ser uma manobra diplomática para pressionar os linha-dura dos EUA
    Na prática, a ClopenAI já contratou gente ligada ao CHIPS Act
    “Para reforçar seus esforços, a OpenAI contratou Chris Lehane, ex-conselheiro jurídico da Casa Branca no governo Clinton, como vice-presidente de política global, além de duas pessoas vindas do Departamento de Comércio que trabalharam com o CHIPS Act, a legislação bipartidária voltada a ampliar a fabricação doméstica de chips. Uma delas vai gerenciar futuros projetos de infraestrutura e políticas.”
    Dizer “se não derem o dinheiro do CHIPS Act, vou construir fábricas no exterior” é uma ótima jogada

    • “Construir fabs” é uma forma muito errada de enxergar a questão
      Se fosse tão fácil assim construir uma fab para competir com a TSMC, a Intel já teria feito isso, e a China também. Hardware é muito mais difícil do que software
    • O CHIPS Act tem dispositivos para ajudar a financiar fabs em países aliados
      Foi por isso que Biden e Modi anunciaram na cúpula do QUAD uma fab dedicada a sistemas de defesa dos EUA e da Índia [0], e os EAU foram designados, junto com a Índia, como “Major Defence Partner” [1], o que também inclui condições de transferência de tecnologia
      Uma parte considerável do CHIPS e do IRA foi destinada a apoiar ecossistemas de tecnologia e inovação de aliados internacionais, para que não se inclinem para o lado da China [2]
      [0] - https://www.bloomberg.com/news/articles/2024-09-23/biden-mod...
      [1] - https://www.reuters.com/world/us/harris-plans-raise-gaza-cea...
      [2] - https://cset.georgetown.edu/publication/agile-alliances/
  • Existem tarefas muito concretas e de grande impacto que realmente podem ser enfrentadas, então é impressionante ver tanto dinheiro e capital político sendo gastos em vaporware

    • Se desse para distinguir os dois com confiabilidade de antemão, daria para ganhar muito dinheiro
    • Capital não é usado para dar poder a pessoas aleatórias, mas para obter ainda mais poder. Essa é a realidade do mundo em que vivemos
    • A IA já vem sendo usada em todo tipo de tarefa “muito concreta” e de “grande impacto” ao longo dos últimos 10 anos
    • Imagine quanta comida 7 trilhões de dólares poderiam dar a todas as pessoas nos EUA. Provavelmente também daria para garantir algum tipo de teto para elas