Command R+ da Cohere - um LLM escalável criado para empresas

• Um modelo de linguagem de grande porte (LLM) escalável, otimizado para tarefas e casos de uso corporativos reais em larga escala
• O Command R+ faz parte da série R de LLMs, que mantém um equilíbrio entre alta eficiência e forte precisão
• Ajuda empresas a levar a IA além da prova de conceito e aplicá-la em produção

Principais características do Command R+

• Conta com uma janela de contexto de 128k tokens e oferece recursos de ponta como:
  • geração aumentada por recuperação (RAG) avançada com citações para reduzir alucinações
  • suporte multilíngue para 10 idiomas principais, a fim de dar suporte a operações globais de negócios
  • uso de ferramentas para automatizar processos de negócios complexos
• Melhora ainda mais o desempenho geral com base nas principais vantagens do Command R
• Supera modelos semelhantes na categoria de mercado escalável e é competitivo com modelos muito mais caros em funções essenciais de negócios
• Oferece o mesmo nível de compromisso com privacidade e segurança de dados

Colaboração com a Microsoft Azure

• Anunciou uma nova colaboração com a Microsoft Azure para a comunidade empresarial global
• Está comprometida em levar os modelos mais recentes da Cohere ao Azure AI para acelerar a adoção de IA nas empresas
• Fornece ferramentas abrangentes de IA para que empresas alcancem mais, mantendo os mais altos padrões de segurança e conformidade
• Promove um futuro em que a tecnologia amplifica a capacidade humana e a inovação

Disponibilidade do modelo

• Desenvolvedores e empresas já podem acessar os modelos mais recentes da Cohere no Azure a partir de hoje
• Também estará disponível em breve no Oracle Cloud Infrastructure (OCI) e em outras plataformas de nuvem
• Já pode ser usado imediatamente também na API hospedada da Cohere

Solução RAG de nível líder do setor

• O RAG se tornou a base para empresas adotarem LLMs e personalizá-los com seus próprios dados proprietários
• O Command R+ é otimizado para RAG avançado, com foco em prontidão empresarial, alta confiabilidade e soluções verificáveis
• O novo modelo fornece citações inline que melhoram a precisão das respostas e mitigam alucinações
• Esse recurso ajuda empresas a escalar com IA e encontrar rapidamente as informações mais relevantes para apoiar funções de negócio em diversos setores

Automação de fluxos de trabalho empresariais complexos por meio do uso de ferramentas

• Uma das principais promessas dos modelos de linguagem de grande porte é não apenas coletar e gerar texto, mas também atuar como um mecanismo central de raciocínio
• Eles podem automatizar tarefas difíceis que exigem inteligência para tomar decisões e usar ferramentas para resolvê-las
• O Command R+ vem com recursos de uso de ferramentas acessíveis via API e LangChain, automatizando de forma fluida fluxos de trabalho empresariais complexos
• No novo Command R+, agora há suporte a Multi-Step Tool Use, permitindo que o modelo combine várias ferramentas ao longo de múltiplas etapas para executar tarefas difíceis

Suporte multilíngue para operações globais de negócios

• O Command R+ foi projetado para atender o maior número possível de pessoas, organizações e mercados
• Em conversas com empresas, atende a uma enorme demanda por capacidades multilíngues que ajudem organizações a trabalhar com mais fluidez entre regiões e culturas
• O Command R+ foi desenvolvido para oferecer excelente desempenho nos 10 principais idiomas dos negócios globais (inglês, francês, espanhol, italiano, alemão, português, japonês, coreano, árabe e chinês)
• Com esse recurso multilíngue, usuários podem gerar respostas precisas a partir de vastas fontes de dados, independentemente de seu idioma nativo

Preço e disponibilidade

• A Cohere trabalha com todos os principais provedores de nuvem e também com implantações on-premise para setores regulados e casos de uso sensíveis à privacidade, tornando seus modelos amplamente disponíveis
• O modelo mais recente, Command R+, agora está disponível no ambiente de demonstração da Cohere, oferecendo uma experiência direta para testar o modelo por meio de uma interface simples de chat

Compromisso com privacidade e segurança de dados

• Com a família de modelos Command R, a empresa se empenha em proteger dados de clientes, privacidade e segurança para que clientes possam usar IA com tranquilidade
• Sempre construiu seus produtos com privacidade de dados no centro e oferece proteção adicional aos clientes com garantia de direitos autorais contra alegações de infração
• Não acessa dados de clientes a menos que o cliente deseje isso
• Oferece opções de implantação privada de LLM e de opt-out de compartilhamento de dados

Opinião do GN⁺

• O Command R+ é o modelo mais recente otimizado para RAG e projetado para empresas, com foco em oferecer alta precisão e eficiência para ajudar organizações a ir além da fase de prova de conceito e entrar em produção. Destaca-se especialmente por oferecer recursos otimizados para o trabalho corporativo real, como RAG com dados proprietários das empresas e suporte a 10 idiomas.
• Embora pareça ter potencial competitivo no mercado de modelos de linguagem de grande porte para empresas, espera-se uma disputa intensa com modelos concorrentes como a série GPT da OpenAI e o Claude da Anthropic, já que o ritmo de evolução desses concorrentes é rápido. Em especial, será crucial desenvolver diferenciais próprios da Cohere e validar desempenho em domínios especializados.
• Ao adotar modelos de linguagem de grande porte em empresas, é preciso considerar de forma abrangente não apenas precisão e eficiência, mas também fatores como privacidade de dados, segurança e viés do modelo. Em especial, pode haver questões regulatórias ligadas ao tratamento de dados, exigindo preparação adequada. O destaque dado pela Cohere aos esforços de proteção de privacidade é positivo, mas as empresas clientes também precisarão dedicar bastante atenção ao uso de seus próprios dados e à construção de um sistema de segurança para o modelo.

[GN⁺]

Comentários no Hacker News

• Um novo plugin adiciona suporte a este modelo na ferramenta de CLI llm.

  • A ferramenta de CLI llm, desenvolvida por Simon Willison, é um utilitário de linha de comando para acessar modelos de linguagem de grande porte.
  • A ferramenta oferece suporte tanto a APIs remotas quanto a modelos que podem ser executados localmente, permitindo rodar prompts pela linha de comando e criar mecanismos de busca por imagens.
  • Um dos recursos interessantes dos modelos da API da Cohere é que eles podem executar buscas na web e usar os resultados para responder ao prompt.
  • Esse plugin é adicionado como um comando separado, permitindo que o usuário faça perguntas sobre a ferramenta de CLI llm.

• A diferença entre os modelos Command R e Command R+ é o preço.

  • O modelo Command R custa $0.50 por token de entrada e $1.50 por token de saída, enquanto o modelo Command R+ custa $3.00 por token de entrada e $15.00 por token de saída.

• O modelo Command-R foi criado para negócios, mas tem licença CC-BY-NC.

  • Essa licença é mais flexível do que a do DBRX, que proíbe seu uso para melhorar outros modelos de linguagem de grande porte.

• Foi apontado que a escolha da fonte do cabeçalho no site não é boa, fazendo o texto parecer ter manchas brancas.

• Há um comentário perguntando se é possível usar essa ferramenta para inserir documentos como o contrato de usuário da App Store e fazer perguntas sobre eles.

• Foi mencionado que é preciso haver um termo para distinguir entre o uso interno de LLMs dentro da empresa para obter respostas e o uso de LLMs voltados ao cliente.