Resumo dos principais pontos
- Os modelos Llama já registraram cerca de 350 milhões de downloads até agora, um aumento de mais de 10 vezes em relação ao mesmo período do ano passado. Só no último mês, foram mais de 20 milhões de downloads, consolidando o Llama como uma das principais famílias de modelos open source
- O volume de uso em tokens do Llama entre os principais parceiros provedores de serviços em nuvem mais que dobrou em apenas três meses, de maio a julho de 2024, após o lançamento do Llama 3.1
- No caso de alguns grandes provedores de serviços em nuvem, o uso mensal do Llama (volume de tokens) cresceu 10 vezes entre janeiro e julho de 2024
Crescimento do ecossistema após o lançamento do Llama 3.1
- Com o lançamento do Llama 3.1, o comprimento de contexto foi ampliado para 128K, passou a oferecer suporte a 8 idiomas e, com o Llama 3.1 405B, introduziu o primeiro modelo de IA open source de nível frontier
- O sucesso do Llama como modelo open source vem impulsionando a inovação em empresas de diferentes portes. De startups a grandes corporações, organizações estão usando o Llama para construir soluções on-premises ou por meio de serviços em nuvem
- Ao disponibilizar os modelos Llama publicamente, surgiu um ecossistema de IA vibrante e diverso, dando aos desenvolvedores mais opções e capacidades do que nunca
- Em 18 meses, o Llama evoluiu de um único modelo fundacional para um sistema de referência completo para desenvolvedores. O Llama 3.1 inclui ferramentas de segurança e proteção que ajudam desenvolvedores a criar agentes personalizados com facilidade
Visão e compromisso da Meta com open source
- Com o lançamento do Llama 3.1, Mark Zuckerberg compartilhou uma carta aberta sobre as vantagens da IA open source, reforçando ainda mais sua visão e compromisso com uma abordagem aberta
- Open source está no DNA da Meta, e o Llama implementa e fortalece esse compromisso de compartilhar resultados de pesquisa de forma responsável
- Open source promove um ecossistema mais competitivo e benéfico para consumidores, empresas (incluindo a Meta) e, em última instância, para o mundo
Crescimento como principal modelo open source
- O ecossistema do Llama está crescendo rapidamente. Os modelos Llama já acumulam cerca de 350 milhões de downloads no Hugging Face, o que representa um aumento de mais de 10 vezes em comparação com cerca de um ano atrás
- Só no último mês, houve mais de 20 milhões de downloads no Hugging Face. Isso é apenas uma parte da história de sucesso do Llama, que também é baixado por meio dos serviços de parceiros
- O uso hospedado do Llama (volume de tokens) entre os principais parceiros provedores de nuvem mais que dobrou entre maio e julho de 2024, após o lançamento do Llama 3.1
Expansão das parcerias e explosão da demanda
- Com o Llama 3.1, o número de parceiros no programa de acesso antecipado aumentou 5 vezes, e a Meta pretende ampliar ainda mais os esforços para atender ao forte crescimento da demanda dos parceiros
- Muitas empresas, como Wipro, Cerebras e Lambda, esperam se tornar futuros parceiros de integração do LEAP e do Llama
Diversos casos de uso do Llama
- Accenture: usa o Llama 3.1 para construir um LLM personalizado para relatórios ESG, com expectativa de melhorar a produtividade em 70% e a qualidade em 20% a 30% em relação ao método anterior
- AT&T: aprimorou o atendimento ao cliente com fine-tuning de modelos Llama. Com a adoção de GenAI, as respostas de busca relacionadas ao atendimento ao cliente da AT&T melhoraram cerca de 33%, com redução de custos e menor tempo de resposta
- DoorDash: usa o Llama para simplificar e acelerar tarefas diárias de engenheiros de software
- Goldman Sachs: por meio da GS AI Platform, permite que engenheiros utilizem modelos Llama de forma segura e responsável em diversos casos de uso
- Niantic: integrou o Llama para dar vida ao mundo virtual do jogo de AR Peridot. A geração de respostas em tempo real oferece interações dinâmicas e únicas
- Nomura: usa o Llama na AWS para acelerar a inovação e obter benefícios importantes como transparência, mitigação de viés e desempenho robusto
- Shopify: continua experimentando modelos open source de ponta, incluindo o Llama baseado em LLaVA. Atualmente executa de 40 milhões a 60 milhões de inferências de LLaVA por dia para apoiar metadados de produtos e tarefas de melhoria
- Zoom: usa seus próprios modelos e LLMs fechados e open source, incluindo o Llama, para impulsionar o AI Companion. Isso oferece aos usuários resumos de reuniões, gravação inteligente, acompanhamentos e mais
Um sistema aberto habilitado
- O Llama vem exercendo um papel de liderança em abertura, capacidade de modificação e eficiência de custos
- Há um compromisso com a construção em open source para garantir que os benefícios da IA sejam ampliados para todos
- LLMs podem ajudar a responder perguntas difíceis, aumentar a produtividade e estimular a criatividade. À medida que o ecossistema do Llama se expande, as capacidades e a acessibilidade do Meta AI também se ampliam
Opinião do GN⁺
- O rápido crescimento e a adoção do Llama mostram que a demanda por modelos de IA open source está aumentando. As empresas querem modelos de IA com boa relação custo-benefício e alta qualidade, e o Llama vem atendendo a essa necessidade
- Ainda assim, ao usar modelos open source, é preciso considerar questões como viés, ética e segurança. As empresas precisam estabelecer estruturas de governança e diretrizes para o uso desses modelos
- Em um mercado de modelos de IA altamente competitivo, a abordagem aberta do Llama está provando que não fica atrás dos modelos comerciais em termos de qualidade
- A rápida adoção e a alta popularidade do Llama reafirmam o valor e o impacto do open source na comunidade de IA e de desenvolvimento. Isso pode influenciar de forma importante os rumos do desenvolvimento de IA daqui para frente
- Espera-se que, no futuro, modelos open source como o Llama e modelos baseados em API evoluam de forma complementar. Para as empresas, será importante escolher o modelo mais adequado às suas necessidades e desenvolver a capacidade de usá-lo com eficácia
Ainda não há comentários.