1 pontos por GN⁺ 2023-12-11 | 1 comentários | Compartilhar no WhatsApp
  • A Mistral AI, sediada em Paris, levantou €450 milhões em investimento, elevando sua avaliação para cerca de US$ 2 bilhões ($2b) e ampliando a presença das startups europeias de IA
  • A rodada foi liderada pela Andreessen Horowitz, enquanto Nvidia Corp e Salesforce aportaram mais €120 milhões por meio de notas conversíveis
  • Seu modelo principal, o Mistral 7B, é um grande modelo de linguagem open source sob a licença Apache 2.0, destacando métodos personalizados de treinamento, ajuste fino e processamento de dados
  • Projetado para oferecer compressão de conhecimento e raciocínio profundo com menos parâmetros, seu ponto central é uma abordagem otimizada que reduz tempo de treinamento, custos e impacto ambiental
  • A estratégia de open source e modelos eficientes diferencia a Mistral AI de players estabelecidos como OpenAI, Google AI e DeepMind, e mostra a expansão dos investimentos em IA na Europa

Captação de investimento e aumento da avaliação da Mistral AI

  • A Mistral AI, sediada em Paris, captou €450 milhões em investimentos, alcançando uma avaliação de US$ 2 bilhões
  • A rodada é um acontecimento importante não só para a Mistral AI, mas também para o ecossistema europeu de IA, mostrando que o peso da Europa na competição global de IA está aumentando
  • A Andreessen Horowitz liderou a rodada, enquanto Nvidia Corp e Salesforce participaram com mais €120 milhões na forma de notas conversíveis
  • A composição dos investidores inclui tanto fundos tradicionais de venture capital quanto grandes empresas de tecnologia, refletindo o interesse na tecnologia e na visão da Mistral AI
  • Os recursos captados oferecem uma base financeira que pode ser usada para avançar em pesquisa e desenvolvimento, ampliar seu alcance e fortalecer sua posição no setor de IA

Características técnicas do Mistral 7B

  • O principal produto da Mistral AI é um grande modelo de linguagem chamado Mistral 7B
  • O modelo é open source, publicado sob a licença Apache 2.0, e se destaca pela eficiência e por recursos avançados
  • Ele é apresentado como um exemplo de avanço em tecnologia de IA por meio de métodos personalizados de treinamento, ajuste fino e processamento de dados
  • Seu diferencial está em oferecer suporte à compressão de conhecimento e a capacidades de raciocínio profundo mesmo com menos parâmetros do que outros modelos do mercado
  • A abordagem otimizada contribui para aumentar o desempenho enquanto reduz tempo de treinamento, custos e impacto ambiental

Posição no mercado e possíveis áreas de aplicação

  • A distribuição do Mistral 7B posiciona a Mistral AI como um player importante no mercado de IA e como concorrente da OpenAI
  • Seu alcance pode se expandir para vários setores, com saúde, educação, finanças e manufatura citados como exemplos
  • A capacidade de oferecer soluções de alto desempenho e escaláveis pode influenciar a forma como cada setor usa IA para inovação e eficiência

Mudanças no ecossistema europeu de IA

  • Esta rodada de investimento é um sinal de que a posição da Europa no cenário global de IA está crescendo rapidamente
  • Historicamente, os empreendimentos europeus de IA ficaram atrás de concorrentes dos EUA e da Ásia em termos de investimento e inovação
  • O sucesso da Mistral AI e outros grandes investimentos mostram que o potencial e a disposição da Europa para inovar em IA estão aumentando

Diferenciação na corrida da IA generativa

  • A Mistral AI se diferencia na corrida da IA generativa com uma abordagem open source e foco na criação de modelos escaláveis e eficientes
  • Essa estratégia distingue a Mistral AI de players estabelecidos como OpenAI, Google AI e DeepMind
  • Ao priorizar acessibilidade e eficiência, ela contribui para a democratização da tecnologia de IA e ajuda a se posicionar como uma concorrente forte na competição global de IA
  • Com a entrada de grandes investimentos em startups europeias de IA, a Europa está criando seu próprio espaço em um campo de IA altamente competitivo e em rápida transformação

1 comentários

 
GN⁺ 2023-12-11
Opiniões no Hacker News
  • Há muito exagero em torno dos LLMs, mas acho que a Mistral merece essa expectativa
    Continuo usando o modelo 7B original e seus derivados, e estou ansioso para ver o que eles vão lançar em seguida. O conjunto de modelos MoE que acabaram de publicar é gratuito, mas imagino que o próximo produto será comercial
    Outra empresa que vale acompanhar é a 01.AI, que lançou o modelo Yi-34B. Rodei localmente no Mac com ollama run yi:34b e foi surpreendentemente bom

    • Como esses modelos pequenos se comparam ao GPT-4 em programação ou perguntas técnicas?
      O GPT-3.5 foi praticamente inútil para mim, com respostas erradas ou genéricas demais. Já o GPT-4 dá respostas razoáveis em cerca de 80% dos casos
    • Tenho curiosidade sobre como as pessoas usam esses modelos
      Uso o GPT-4 como uma espécie de substituto de busca e ainda não encontrei motivo para trocar por outra coisa. Por exemplo, uso para conhecer a história, a arquitetura e o contexto cultural de destinos de viagem, e ele tem sido bem conveniente para isso
    • Você poderia compartilhar o que é tão surpreendente no Yi-34B? Ainda não tive a oportunidade de testá-lo
    • Concordo. Yi 34B e Mistral 7B são excelentes
      Mas é preciso rodar um modelo Yi com fine-tuning superior em vez do modelo de chat básico. É muito melhor. Se precisar de Yi com contexto longo, recomendo Xaboros/Cybertron ou várias fusões de modelos que publiquei no Hugging Face
    • Você disse que continua usando o modelo 7B original e derivados; como eles se comparam com outros modelos? Tenho curiosidade especialmente em comparação com o ChatGPT
  • A razão pela qual a Mistral AI recebeu tanta atenção da mídia desde o começo foi ter lançado o Mistral-7B publicamente, mesmo abrindo mão de receita de curto prazo
    Para o ecossistema de IA como um todo, é melhor incentivar startups a construir negócios com software bom e aberto em vez de criar fossos e ecossistemas de dependência

    • Acho difícil chamar isso de open source. Como eles não compartilharam detalhes sobre o treinamento, é praticamente impossível reproduzir
      Está mais para uma empresa SaaS publicar o binário compilado que normalmente roda no servidor. É melhor do que nada, mas não se alinha exatamente ao espírito open source
      Essa distinção não parece mera picuinha, embora no fim seja outra questão se a comunidade vai concordar ou não
    • O fato de o modelo ter menos restrições ou censura também é uma razão. Pelo que dizem, eles estão comprometidos com essa direção e o construíram para que outras pessoas possam criar em cima dele
      Os modelos do tipo GPT ainda não são um negócio finalizado, e espero que a comunidade open source consiga ir além do sucesso inicial
  • A estrutura em que a Nvidia dá dinheiro às empresas e esse dinheiro volta a ser gasto em hardware da Nvidia de alta margem não é uma forma suspeita de avaliação de valor?

    • É parecido com a MS dando tantos créditos do Azure para a OpenAI
    • Não entendo por que isso seria uma forma suspeita de avaliação de valor
      Se o investidor olhar só para a receita ou só para uma área das finanças, talvez; mas, se não for o caso, o dinheiro que saiu e a receita que aumentou deveriam ser refletidos juntos e não distorcer o lucro
    • É um modelo de investimento em que, se der cara, eu ganho; se der coroa, você perde
    • Esse tipo de coisa é muito mais comum do que as pessoas pensam
  • Como europeu, meu primeiro pensamento foi “ótimo! startup da UE rumo à lua”, e o segundo foi “ah, é VC dos EUA”
    Parece que isso é o melhor que dá por aqui

    • O problema é que os VCs europeus não têm esse nível de capital
      VCs europeus normalmente administram algumas centenas de milhões de dólares em ativos, enquanto VCs do Vale do Silício administram bilhões
    • Você pode sentir que há poucas startups da UE, e de fato há
      Mas há ainda menos VCs da UE
    • VCs europeus também investiram nas rodadas bem iniciais, especialmente VCs franceses
      Os fundadores também são franceses. Para mim, isso já é suficientemente uma empresa europeia, não precisamos ser exigentes demais
  • Percebo o quanto a avaliação de empresas ficou sem sentido hoje em dia
    Ela é usada como indicador de sucesso, mas, se servir ao propósito de alguém, sempre dá para encontrar quem assine um cheque com uma avaliação mais alta. Por exemplo, ganhos de avaliação no papel, sinalização de status ou ganhar uma rodada de investimento antes de concorrentes mais racionais
    Não estou dizendo que a Mistral não tenha valor nem que não faça um bom trabalho. Só que a própria métrica de avaliação perdeu o sentido, e boa parte da captação de capital em IA parece servir para compensar gastos com cloud e GPU. Posso ser criticado por isso, mas notícias de valuation já não parecem notícia

    • É só fumaça. Mas onde há fumaça, também há algum fogo
  • A Mistral tem grande potencial, mas, sem uma estratégia de monetização adequada, claramente corre o risco de não alcançar rentabilidade sustentável no longo prazo

    • A França quer muito independência, e o governo francês dará grandes contratos assim que houver um produto que consiga justificar isso
    • Eu também estava me perguntando isso. Qual é exatamente o modelo de negócio? Parece quase uma tentativa da Europa de dizer “nós ainda somos relevantes”
    • Quando você começa a operar um produto pelo qual os usuários pagam, também surge a preocupação de que você possa ser responsabilizado pelas coisas suspeitas que eles fazem com o produto
      Se você publica no Twitter um link de torrent contendo os pesos do modelo, essa responsabilidade é bem menor
    • No pitch deck, dizia que eles monetizariam oferecendo seus modelos como serviço
      Como qualquer um pode subir uma instância de cloud com o mesmo modelo, o fosso pode parecer pequeno, mas ainda é um ponto de partida razoável. Acho que eles também vão conseguir muitos clientes da UE que não podem ou não querem usar fornecedores dos EUA
    • Não há motivo para não lançar um app de chat
  • Espero muito que uma startup europeia consiga competir com sucesso contra as grandes empresas
    Não quero ver violações de privacidade, como a OpenAI usar por padrão os prompts dos usuários para treinamento, virarem prática padrão

  • Há um ditado dos antigos mestres: não se apaixone pela própria criação
    A indústria de IA está caindo na armadilha do marketing que ela mesma criou. LLMs são brinquedos interessantes, mas sua implementação consome muitos recursos e energia e é opaca
    Muitos problemas do mundo real podem ser resolvidos com uma abordagem racional. Para uma pessoa com sede, o mais importante é a água, não o tipo de copo

    • Se você comparar a eficiência das máquinas a vapor da Revolução Industrial com as atuais, ou a geração de energia de 100 anos atrás com a de hoje, ou quase qualquer processo químico, método de fabricação ou tecnologia agrícola em seu início com o presente, ficará surpreso com a diferença
      Em alguns casos, a atividade atual era várias ordens de grandeza mais desperdiçadora há apenas 100 anos
      Basta olhar como o tamanho, o consumo de energia e a velocidade do hardware de computador mudaram nos últimos 70 anos. O fato de a implementação atual “consumir muitos recursos e energia e ser opaca” é o tipo de aparência que muitas invenções poderosas têm no começo
      É verdade que a água é o mais importante para quem tem sede, mas aqui a situação se parece mais com um grupo vendendo um copo revolucionário de nanotecnologia que mantém a água na temperatura desejada indefinidamente e puxa umidade do ar para se reabastecer continuamente. Às vezes, o tipo de copo pode realmente importar, e por isso não é surpreendente que vários grupos estejam tentando criá-lo
  • Qual é o modelo de negócio?

    • Fazer o governo francês despejar uma quantidade enorme de dinheiro em nome da soberania
  • Quem permitir que usuários “comuns” de Mac instalem e executem LLMs locais terá um enorme benefício comercial
    Por exemplo, deveria ser algo como baixar um DMG, clicar para instalar e executar. Sem linha de comando
    Não faz sentido haver 100 milhões de computadores capazes de rodar LLMs decentemente e apenas uma fração minúscula de fato rodá-los
    Além disso, também seria possível permitir que as pessoas emprestem recursos de computação umas às outras via P2P. Também daria para criar LLMs personalizados. Pessoalmente acho uma direção realmente interessante, mas parece que ninguém está fazendo isso