Relatório sobre inteligência artificial: a revolução que se aproxima (AI: the coming revolution)

ninebow · 2023-11-22T17:22:09+09:00

Visão geral Este é um conteúdo sobre o panorama atual da IA apresentado por Sri Viswanath, da Coatue Ventures, no evento Cerebral Valley AI Summit. A Coatue Ventures é uma empresa de venture capital (VC) que acompanha o setor de IA há mais de 10 anos e já investiu em mais de 50 empresas relacionadas à IA. Em especial, este relatório se destaca por analisar e divulgar diversos indicadores da Hugging Face e do GitHub. Se 2022 foi o ano que desencadeou o crescimento explosivo da IA, 2023 foi o ano em que a onda da IA começou a ganhar forma e a impactar áreas mais amplas. A IA pode superar barreiras e melhorar o mundo de forma significativa Com o uso do GitHub Copilot, tarefas estão sendo concluídas mais de 50% mais rápido, e os custos de suporte ao cliente estão caindo em até 95%. Os usuários estão mais satisfeitos, o tempo de resposta ficou mais rápido e, segundo um estudo da BCG, a qualidade do trabalho do conhecimento também melhorou cerca de 40%. A IA está encontrando pontos de virada e deve impactar nosso cotidiano e a economia moderna como um todo. O open source é o coração da IA, mas nem tudo é igual Pesquisa open source, dados e comunidade são o núcleo da revolução da IA. Do artigo dos Transformers ao modelo mais recente, o Llama-2, o open source permitiu que engenheiros melhorassem a IA de forma iterativa. Mas nem todo open source é realmente "aberto", e recentemente algumas empresas passaram a não divulgar pesquisas ou resultados, ou a manter modelos fechados. Ainda assim, vemos a comunidade de IA open source crescendo com força: Em novembro de 2023, mais de 200 mil desenvolvedores estavam contribuindo para projetos de IA no GitHub. Além disso, mais de 300 mil modelos haviam sido publicados no Hugging Face, e o número de membros em canais de Discord relacionados à IA ultrapassou 18 milhões. É preciso entender a nova stack tecnológica centrada em IA A onda de IA que avança está transformando a stack tecnológica usada para desenvolver serviços. Desenvolvedores e investidores precisam entender os componentes de cada camada da stack e como eles interagem entre si. Até agora, a camada de modelos de IA recebeu os maiores investimentos, mas haverá inovação em toda parte, dos data centers para IA até os apps voltados ao usuário final. Modelos de IA Entramos na era em que modelos "oferecem inteligência como serviço" (IQaaS: intelligence-as-a-service), e acreditamos que os vencedores serão definidos pela disputa por talentos, dados e poder computacional. Escalar o desempenho dos modelos também significa escalar datasets de alta qualidade. Modelos treinados com datasets podados (pruned) e curados, com tamanho equivalente a 30% dos conjuntos tradicionais, também funcionam bem, e dados sintéticos e feedback de usuários são áreas promissoras a explorar. Poder computacional e plataformas de nuvem Aceleradores de hardware como GPUs formam a base da capacidade da IA. A demanda incessante por GPUs gerou efeitos em cascata em toda a economia, desde pressão sobre a rede elétrica até estímulo ao crescimento da cadeia de suprimentos de semicondutores e reaceleração da demanda por serviços de nuvem. À medida que a IA se torna mais mainstream, esperamos que a carga gerada por inferência se torne muito mais intensiva em computação. O custo para atender 100 milhões de usuários do GPT-4 pode ser quatro vezes maior do que o custo de treinar o modelo. Ferramentas para desenvolvedores Uma das grandes mudanças desde a explosão da IA em 2022 foi a democratização da IA e a ascensão do engenheiro de IA, com o surgimento de novas ferramentas de AI Ops para treinar / ajustar finamente / implantar modelos. O surgimento de uma camada vibrante de ferramentas de AI Ops deu acesso à IA a cerca de 30 milhões de desenvolvedores no mundo, e esperamos que isso crie um potencial explosivo na camada de aplicações. Aplicações de IA Vemos a adoção de aplicações de IA ainda no começo, e esperamos o surgimento de muitos outros casos de uso daqui para frente. O interesse de consumidores e empresas por IA já está ganhando força, desde áreas criativas como Runway e Tome até áreas profissionais como Replit e Aurora Solar. Visão da Coatue: a melhor IA ainda não chegou Daqui para frente, esperamos que a IA no mundo real se torne mais acessível, escalável e útil. Também prevemos que linguagens naturais como o inglês se tornem a melhor linguagem de programação. A IA permitirá que mais pessoas desenvolvam software como desenvolvedores, além de possibilitar o treinamento de IA com datasets individuais para criar novas capacidades em áreas como saúde e varejo. Além disso, esperamos que, com pesquisa contínua, os modelos de IA continuem inovando e se tornem mais inteligentes e capazes. Em outras palavras, a melhor IA ainda está por vir. No curto prazo, parece necessário focar em resolver alucinações nas saídas dos modelos de IA, viabilizar diversos casos de uso multimodais, reduzir custos e tornar a implantação de IA mais fácil e segura. No longo prazo, acreditamos que o desenvolvimento de IA será um desafio de engenharia voltado a escalar a IA para bilhões de usuários. Também temos uma visão otimista de que os inovadores em IA desenvolverão novas capacidades para criar uma IA útil para todos nós.

(coatue.com)

11 pontos por ninebow 2023-11-22 | 1 comentários | Compartilhar no WhatsApp

Visão geral

Este é um conteúdo sobre o panorama atual da IA apresentado por Sri Viswanath, da Coatue Ventures, no evento Cerebral Valley AI Summit.
A Coatue Ventures é uma empresa de venture capital (VC) que acompanha o setor de IA há mais de 10 anos e já investiu em mais de 50 empresas relacionadas à IA.
Em especial, este relatório se destaca por analisar e divulgar diversos indicadores da Hugging Face e do GitHub.
Se 2022 foi o ano que desencadeou o crescimento explosivo da IA, 2023 foi o ano em que a onda da IA começou a ganhar forma e a impactar áreas mais amplas.

A IA pode superar barreiras e melhorar o mundo de forma significativa

Com o uso do GitHub Copilot, tarefas estão sendo concluídas mais de 50% mais rápido, e os custos de suporte ao cliente estão caindo em até 95%.
Os usuários estão mais satisfeitos, o tempo de resposta ficou mais rápido e, segundo um estudo da BCG, a qualidade do trabalho do conhecimento também melhorou cerca de 40%.
A IA está encontrando pontos de virada e deve impactar nosso cotidiano e a economia moderna como um todo.

O open source é o coração da IA, mas nem tudo é igual

Pesquisa open source, dados e comunidade são o núcleo da revolução da IA. Do artigo dos Transformers ao modelo mais recente, o Llama-2, o open source permitiu que engenheiros melhorassem a IA de forma iterativa.
Mas nem todo open source é realmente "aberto", e recentemente algumas empresas passaram a não divulgar pesquisas ou resultados, ou a manter modelos fechados.
Ainda assim, vemos a comunidade de IA open source crescendo com força:
- Em novembro de 2023, mais de 200 mil desenvolvedores estavam contribuindo para projetos de IA no GitHub.
- Além disso, mais de 300 mil modelos haviam sido publicados no Hugging Face, e o número de membros em canais de Discord relacionados à IA ultrapassou 18 milhões.

É preciso entender a nova stack tecnológica centrada em IA

A onda de IA que avança está transformando a stack tecnológica usada para desenvolver serviços.
Desenvolvedores e investidores precisam entender os componentes de cada camada da stack e como eles interagem entre si.
Até agora, a camada de modelos de IA recebeu os maiores investimentos, mas haverá inovação em toda parte, dos data centers para IA até os apps voltados ao usuário final.

Modelos de IA

Entramos na era em que modelos "oferecem inteligência como serviço" (IQaaS: intelligence-as-a-service), e acreditamos que os vencedores serão definidos pela disputa por talentos, dados e poder computacional.
Escalar o desempenho dos modelos também significa escalar datasets de alta qualidade. Modelos treinados com datasets podados (pruned) e curados, com tamanho equivalente a 30% dos conjuntos tradicionais, também funcionam bem, e dados sintéticos e feedback de usuários são áreas promissoras a explorar.

Poder computacional e plataformas de nuvem

Aceleradores de hardware como GPUs formam a base da capacidade da IA. A demanda incessante por GPUs gerou efeitos em cascata em toda a economia, desde pressão sobre a rede elétrica até estímulo ao crescimento da cadeia de suprimentos de semicondutores e reaceleração da demanda por serviços de nuvem.
À medida que a IA se torna mais mainstream, esperamos que a carga gerada por inferência se torne muito mais intensiva em computação. O custo para atender 100 milhões de usuários do GPT-4 pode ser quatro vezes maior do que o custo de treinar o modelo.

Ferramentas para desenvolvedores

Uma das grandes mudanças desde a explosão da IA em 2022 foi a democratização da IA e a ascensão do engenheiro de IA, com o surgimento de novas ferramentas de AI Ops para treinar / ajustar finamente / implantar modelos.
O surgimento de uma camada vibrante de ferramentas de AI Ops deu acesso à IA a cerca de 30 milhões de desenvolvedores no mundo, e esperamos que isso crie um potencial explosivo na camada de aplicações.

Aplicações de IA

Vemos a adoção de aplicações de IA ainda no começo, e esperamos o surgimento de muitos outros casos de uso daqui para frente.
O interesse de consumidores e empresas por IA já está ganhando força, desde áreas criativas como Runway e Tome até áreas profissionais como Replit e Aurora Solar.

Visão da Coatue: a melhor IA ainda não chegou

Daqui para frente, esperamos que a IA no mundo real se torne mais acessível, escalável e útil. Também prevemos que linguagens naturais como o inglês se tornem a melhor linguagem de programação.
A IA permitirá que mais pessoas desenvolvam software como desenvolvedores, além de possibilitar o treinamento de IA com datasets individuais para criar novas capacidades em áreas como saúde e varejo.
Além disso, esperamos que, com pesquisa contínua, os modelos de IA continuem inovando e se tornem mais inteligentes e capazes. Em outras palavras, a melhor IA ainda está por vir.
No curto prazo, parece necessário focar em resolver alucinações nas saídas dos modelos de IA, viabilizar diversos casos de uso multimodais, reduzir custos e tornar a implantação de IA mais fácil e segura.
No longo prazo, acreditamos que o desenvolvimento de IA será um desafio de engenharia voltado a escalar a IA para bilhões de usuários. Também temos uma visão otimista de que os inovadores em IA desenvolverão novas capacidades para criar uma IA útil para todos nós.

1 comentários

ninebow 2023-11-22

Ver o PDF completo

https://drive.google.com/file/d/1gQhYT7j6b2wJmrFZHNeQgTiWPyTsjOfX/view

(⚠️Publicidade⚠️) Ver o mesmo conteúdo com slides na comunidade PyTorch em coreano

https://discuss.pytorch.kr/t/ai-the-coming-revolution-pdf-115p/2906