3 pontos por GN⁺ 2024-09-05 | 3 comentários | Compartilhar no WhatsApp
  • A Safe Superintelligence (SSI), cofundada recentemente por Ilya Sutskever, ex-cientista-chefe da OpenAI, levantou US$ 1 bilhão em caixa para ajudar a desenvolver sistemas de IA seguros que superem em muito as capacidades humanas
  • A SSI atualmente tem 10 funcionários e pretende usar esse recurso para garantir poder computacional e contratar os melhores talentos
    • A empresa pretende se concentrar na formação de uma pequena equipe confiável de pesquisadores e engenheiros em Palo Alto, Califórnia, e Tel Aviv, Israel
  • A empresa não divulgou sua avaliação, mas, segundo fontes relacionadas ao assunto, foi avaliada em US$ 5 bilhões
    • A rodada mostra que alguns investidores ainda estão dispostos a fazer apostas ousadas em talentos excepcionais focados em pesquisa fundamental de IA
    • Entre os investidores estão algumas das principais firmas de venture capital, como Andreessen Horowitz, Sequoia Capital, DST Global e SV Angel
    • Também participaram a parceria de investimento NFDG, operada por Nat Friedman, e Daniel Gross, CEO da SSI
  • A segurança em IA é um tema em alta em meio a preocupações de que a IA possa agir contra os interesses da humanidade ou até causar sua extinção
    • Um projeto de lei na Califórnia busca impor regulações de segurança às empresas, dividindo o setor
    • OpenAI e Google se opõem, enquanto Anthropic e a xAI de Elon Musk apoiam
  • Sutskever é um dos tecnólogos mais influentes do setor de IA
    • Em junho, ele cofundou a SSI com Daniel Gross e Daniel Levy
    • Sutskever atua como cientista-chefe, Levy como cientista principal, e Gross é responsável por poder computacional e captação de recursos

New Mountain

  • Sutskever disse que decidiu iniciar o novo empreendimento porque "descobri uma montanha um pouco diferente daquela em que eu estava"
    • No ano passado, como membro do conselho da controladora sem fins lucrativos da OpenAI, ele votou pela destituição do CEO da OpenAI, Sam Altman, citando uma "quebra de comunicação"
    • Alguns dias depois, ele voltou atrás e assinou, junto com quase todos os funcionários da OpenAI, uma carta exigindo o retorno de Altman e a renúncia do conselho
    • No entanto, o episódio reduziu seu papel, ele foi removido do conselho e deixou a empresa em maio
  • Depois que Sutskever saiu, a empresa desfez a equipe de "superalignment", que buscava alinhar a IA aos valores humanos em preparação para o dia em que a IA superará a inteligência humana
  • Diferentemente da estrutura corporativa incomum da OpenAI, criada para a segurança da IA mas que possibilitou a destituição de Altman, a SSI tem uma estrutura tradicional com fins lucrativos
  • A SSI está atualmente muito focada em contratar pessoas que combinem com a cultura da empresa
    • A empresa dedica tempo para verificar se os candidatos têm "bom caráter" e busca pessoas com habilidades extraordinárias, em vez de enfatizar excessivamente credenciais e experiência prévia na área
    • Gross acrescentou: "Nos empolga encontrar pessoas que se interessam pelo trabalho, mas não pelo contexto ao redor nem pelo hype exagerado"
  • A SSI planeja trabalhar com provedores de nuvem e empresas de chips para atender às suas necessidades de poder computacional, mas ainda não decidiu com quais कंपनhias irá colaborar
    • Startups de IA frequentemente trabalham com empresas como Microsoft ou Nvidia para resolver suas necessidades de infraestrutura
  • Sutskever foi um dos primeiros defensores da hipótese de escala, segundo a qual o desempenho dos modelos de IA melhora quando se dispõe de enorme poder computacional
    • Essa ideia e sua execução desencadearam uma onda de investimentos em IA em chips, data centers e energia, lançando as bases para avanços em IA como o ChatGPT
    • Ele disse que abordará a escala de forma diferente de seu antigo empregador, mas não compartilhou detalhes
    • "Todo mundo só fala sobre a hipótese de escala. Ninguém pergunta o que exatamente estamos escalando", disse ele
  • "Algumas pessoas podem trabalhar por muito tempo e apenas percorrer o mesmo caminho mais rápido. Esse não é o nosso estilo. Mas, se você fizer algo diferente, pode fazer algo especial."

Opinião do GN⁺

  • Este investimento mostra a importância da pesquisa fundamental em IA e o valor do talento. Mesmo com muitas startups de IA enfrentando dificuldades para captar grandes quantias, a SSI recebeu um aporte massivo com base na competência de seus fundadores
  • A questão da segurança em IA vem ganhando relevância com o avanço acelerado de IAs generativas como o ChatGPT. No entanto, regular excessivamente o desenvolvimento de IA em nome da segurança pode prejudicar a inovação, o que exige uma abordagem equilibrada
  • A SSI afirmou que seguirá uma estratégia de escala diferente das abordagens existentes, mas os detalhes não foram divulgados, o que aumenta a expectativa. Há interesse em ver um novo método de desenvolvimento de modelos de IA
  • O conflito entre Sutskever e a OpenAI é lamentável, mas parece ter aberto uma nova plataforma para aproveitar seu talento e sua visão. Vale acompanhar que impacto a SSI poderá ter no futuro da IA
  • Embora seja uma startup recém-criada, a estratégia de contratação de talentos da SSI é interessante. Priorizar capacidade e valores em vez de formação acadêmica ou histórico profissional é um caminho desejável. Ainda assim, resta saber se esse método será eficaz em um cenário de disputa intensa por talentos em IA

3 comentários

 
choijaekyu 2024-09-06

Haha, o homem de US$ 100 milhões!!!

 
xguru 2024-09-05

Arrecadou 1,3 trilhão de won em investimento apenas dois meses após a fundação... o mercado assusta.
Illya Sutskever, que deixou a OpenAI, funda a Safe Superintelligence Inc.

 
GN⁺ 2024-09-05
Opiniões do Hacker News
  • Fico curioso sobre como as empresas que receberam investimento na área de IA vão gerar receita

    • LLMs open source existem e vão continuar evoluindo
    • A OpenAI está obtendo uma receita considerável no setor de IA
    • Sem capital no nível de VC, é difícil esperar retornos de 10x ou 100x
  • Como CFO, fico curioso sobre como administrar $1B em caixa no curto e médio prazo

    • Fico me perguntando se o caixa está parado em money market funds ou títulos do Tesouro
    • Os serviços que o SVB oferecia seriam necessários
  • Uma captação como a da OpenAI, mas a SSI não lançará um único produto até alcançar a superinteligência

    • Parece uma versão moderna do Projeto Manhattan
  • Um investimento de $1,000,000,000 pode distorcer a visão de segurança da SafeAI

    • O investimento pode transformar a missão da empresa em geração de lucro
  • O apoio financeiro da a16z pode ser um sinal de que essa área já não está mais tão aquecida

  • Muitas pessoas presumem que o objetivo são LLMs muito grandes

    • Há 5 anos, modelos transformer não eram o assunto mais comentado em IA
    • Eles têm um plano de 10 anos e querem inventar um grande salto, como a invenção do modelo transformer
    • "SSI" pode ser diferente de GPT
  • Sam Bankman-Fried levantou dinheiro com múltiplos mais altos

    • Talvez Ilya não tenha impressionado tanto os investidores
    • Mesmo assim, muita gente quer investir nele
    • Ele pode preferir um grupo menor de investidores
  • Não há certeza de que seja possível construir AGI

    • Apenas escalar LLMs não é suficiente
    • VCs continuam financiando porque fingem que as pessoas podem construir superinteligência
    • É improvável que AGI se concretize nos próximos 5 anos
  • Não entendo por que uma IA "segura" consegue levantar tanto capital

    • Vai consumir o dobro do tempo antes de ser lançada comercialmente
    • Uma IA "não segura" parece mais lucrativa
  • Este é um dos casos em que uma empresa alcançou rapidamente uma avaliação de mais de 1 bilhão de dólares

    • Há dúvidas sobre se conseguirá usar esse capital de forma eficaz