LM Studio Bionic: agente de IA para modelos abertos

 (lmstudio.ai)
1 pontos por GN⁺ 5 시간 전 | 1 comentários | Compartilhar no WhatsApp
  • LM Studio Bionic é um app separado que lida com programação, pesquisa e trabalho com documentos usando modelos abertos locais ou na nuvem, permitindo controlar diretamente a privacidade e os custos de uso de IA
  • Os modelos podem ser executados diretamente no dispositivo ou conectados via LM Link, e, para tarefas complexas, é possível escolher grandes modelos open source no LM Studio Secure Cloud
  • O teclado por voz usa Voxtral, modelo multilíngue de transcrição em tempo real da Mistral AI, para converter fala em texto dentro do próprio dispositivo em qualquer app
  • Para programação, oferece análise, edição e depuração de bases de código e diff inline; para documentos, oferece processamento em sandbox, busca na web, checkpoints automáticos e pré-visualização no app
  • Todos os usuários contam com Zero Data Retention e uma política de não treinar com dados do usuário; solicitações na nuvem também não são armazenadas após o processamento

Programação, voz e trabalho com documentos

  • O agente Bionic tem foco em programação e trabalho com documentos, permitindo ajustar custos ao escolher o modelo e o ambiente de computação adequados para cada tarefa

  • Teclado por voz que funciona dentro do dispositivo

    • Transcreve ideias, prompts e alterações dentro do dispositivo usando um modelo de áudio local
    • No lançamento, oferece Voxtral, o modelo multilíngue de alto desempenho para transcrição em tempo real da Mistral AI
    • Ao iniciar o teclado por voz em qualquer app, o resultado da transcrição é inserido na posição atual do cursor

  • Projetos Code para trabalhar com bases de código locais

    • Ao conectar uma pasta local, é possível investigar a base de código, explicar códigos desconhecidos ou fazer alterações e depuração
    • É possível revisar alterações de código por meio de diff inline
    • Encontra arquivos relacionados e rastreia o comportamento com busca de código agêntica
    • Os modelos compatíveis incluem GLM 5.2 e Kimi K2.7 Code

  • Projetos Work para documentos, apresentações e planilhas

    • Trabalha com documentos, PDFs, apresentações, planilhas etc., ou cria novos materiais do zero
    • Processa documentos em um ambiente sandbox, isolando-os do restante do computador e dos arquivos
    • Dá suporte à organização de diretórios locais, edição de arquivos, resumo de materiais e uso de informações externas por meio de busca web integrada
    • Checkpoints automáticos permitem revisar ou reverter alterações, e a pré-visualização no app permite gerenciar materiais e fluxos de trabalho juntos
    • A cobertura continuará sendo ampliada para permitir a pré-visualização de mais formatos de arquivo

Execução de modelos locais, conectados e na nuvem

  • No app Bionic, é possível baixar LLMs locais recentes e executar desde chats simples até tarefas agênticas avançadas; a execução local é baseada no runtime do LM Studio
  • É possível escolher entre três formas de execução conforme a tarefa
    • Executar modelos locais no dispositivo
    • Conectar modelos via LM Link
    • Usar grandes modelos open source de fronteira no LM Studio Secure Cloud
  • O Secure Cloud oferece modelos abertos recentes fortes em programação, raciocínio, chamadas de ferramentas e tarefas de contexto longo
    • Solicitações na nuvem são processadas temporariamente e não são armazenadas após a conclusão
    • Todos os dados de usuários do Bionic têm Zero Data Retention aplicado e não são usados para treinamento

Instalação e condições de uso

  • LM Studio Bionic é um novo app separado do LM Studio existente
    • Se precisar de configurações avançadas de baixo nível, é possível continuar usando o LM Studio existente junto com o Bionic
    • Para usar modelos na nuvem, é necessário criar uma conta no LM Studio e configurar o pagamento
    • Depois de conectar um projeto e escolher um modelo, é possível começar a trabalhar com o agente Bionic
  • A experiência do Bionic continuará sendo aprimorada para refletir melhorias de desempenho dos modelos abertos e casos de uso em projetos reais

Leituras relacionadas

1 comentários

 
GN⁺ 5 시간 전
Opiniões no Hacker News

  • Sou Yagil, fundador do LM Studio. Se quiser testar GLM 5.2 / Kimi K2.6 / Kimi Coder K2.7 no Bionic, envie seu nome de usuário do lmstudio.ai para hn-jul16@lmstudio.ai e eu concederei créditos
    Para programação, use no projeto “Code”; para criação e edição de documentos, use no projeto “Work”. O projeto Work cria checkpoints automáticos sempre que o agente faz alterações, e eu gostaria de ouvir feedback depois do uso

    • É um dos frameworks de execução de agentes bons para examinar o processo de raciocínio. Às vezes, ler o raciocínio é mais útil do que a resposta final, e gosto do fato de ele expor isso de forma mais transparente do que Claude Code ou Codex
      Vocês disseram que negociaram retenção zero de dados (ZDR) com os “provedores”, mas fiquei curioso se os modelos são hospedados diretamente pelo LM Studio ou por outra empresa. Se for por terceiros, também gostaria de saber quem são
    • Gosto do LM Studio e pretendo testar o Bionic hoje à noite. Estou esperando ansiosamente por um app integrado para Android, a ponto de ficar com inveja dos usuários de iPhone
    • Fiquei curioso se é possível usar uma chave de API do plano de coding da z.ai
    • Eu realmente gosto do LM Studio, mas essa direção mais centrada em nuvem e confiança pode fazer muita gente perder a confiança. Empresas vêm repetindo promessas de “retenção zero de dados” e “não treinamos com dados de usuários”, então soa como mais um pedido para simplesmente acreditar nelas
      Também não encontrei no site onde a empresa está sediada, e fiquei com a impressão de mais uma exportação daquela abordagem americana de “apenas confie em nós” que venho vendo cansativamente há 20 anos

  • É a minha primeira vez com um framework de execução de agentes para modelos locais, mas gosto do LM Studio, então testei o Bionic imediatamente, e a primeira impressão é excelente. A UI é parecida com a do Codex, que uso principalmente, então foi familiar e fácil de começar; ao apontar para a biblioteca de modelos existente do LM Studio e executar o Qwen3.6 35B, obtive o resultado esperado
    Ainda assim, vejo pontos a melhorar. A tela padrão mostra apenas o nome do projeto e não exibe claramente o diretório de trabalho atual como o Codex. Ao pressionar Enter, enquanto o modelo é carregado, aparece “Working” em vez de “Loading model”; também não encontrei uma forma de pré-carregar antes de enviar a solicitação nem de descarregar o modelo sem fechar o app, como o botão de ejetar do LM Studio. Ao definir o diretório “GitHub & Projects”, ele também criou uma nova pasta com o mesmo nome

  • Se a Apple tiver modelos locais e um framework de execução bons o suficiente, parece que a maioria dos usuários comuns acabará usando isso. No fim das contas, fico me perguntando se LLMs estão se tornando mais uma interface para a computação

    • O System Model da Apple é bastante bom, mas o tamanho de contexto é limitado a 4K. Para pequenos utilitários em Python que processam poucos dados, tudo bem, mas no geral é uma limitação decepcionante
      Separadamente, a Siri no beta mais recente do iOS ficou surpreendentemente boa. Perguntei qual modelo ela usa, e ela respondeu que, para problemas difíceis, usa Gemini; depois, um modelo seguro da Apple na nuvem; e, por fim, o modelo local da Apple
    • Acho que, para a maioria das tarefas de usuários comuns, um LLM no nível da era do ChatGPT 3.5 é suficiente. Se somar chamadas de ferramentas etc. e embutir um modelo desse nível no dispositivo para uso prioritário, os usuários de IA podem se dividir entre os que não querem pagar e os que pagarão caro pelo desempenho dos modelos de ponta
    • A resposta depende de o avanço dos modelos estagnar o suficiente para que modelos do tamanho de um dispositivo consigam competir com o desempenho dos modelos de ponta. Se isso for possível, LLMs se tornarão uma nova interface de computação; caso contrário, será difícil
    • Máquinas de redes neurais estavam destinadas desde o início a ser um paradigma computacional alternativo às máquinas de von Neumann. Se não fosse por Minsky, talvez tivessem chegado a um nível útil mais cedo; por isso, não entendo por que tratam isso como uma mudança pequena
    • Na computação 1.0, os humanos precisavam aprender a linguagem dos computadores para interagir plenamente com eles; na computação 2.0, é como se o computador tivesse aprendido a linguagem humana

  • Fico curioso sobre por que escolher isto em vez de outros frameworks de execução de agentes. Ele parece especialmente forte como pacote empresarial para controlar o uso de modelos frontier na nuvem por motivos de custo e segurança de dados

    • Existem surpreendentemente poucos frameworks de execução agnósticos a modelo que não sejam apenas um amontoado de código Python ou JavaScript. Produtos que evitam comportamentos absurdos, como inflar demais o contexto ou comprimi-lo excessivamente, são ainda mais raros
      Evito executar agentes em Python/JavaScript possivelmente feitos com vibe coding porque os riscos de segurança e de cadeia de suprimentos são grandes demais

  • Foi divertido testar quais modelos locais se tornam agentes melhores, mas há algumas limitações
    Ele fica preso a um único diretório e não consegue acessar o sistema inteiro; também não há busca local na web, embora isso possa ser contornado com ddg ou MCP local. Não há SSH, então não dá para conectá-lo a um servidor e mandar trabalhar lá; o processo de carregamento do modelo também não é exibido, então seria necessário uma barra de progresso ou porcentagem. Ao colocar documentos no diretório Work, fiquei curioso se é possível usar arrastar e soltar além do método de adicionar com “+”. No meu ambiente local do dia a dia, uso opencode junto com o LM Studio, então estou ansioso pela evolução futura

  • Dizem que é um app separado do LM Studio normal, mas não consigo encontrar como baixar

  • É bom ver o LM Studio se expandindo para fluxos de trabalho com agentes. À medida que as ferramentas para modelos locais continuam melhorando, opções open source são valiosas para desenvolvedores que querem manter seus dados privados

  • Gostaria que o LM Studio desse melhor suporte a hardware AMD. Faz muita falta uma solução pronta, de produto acabado, que funcione direto em Radeon sem configuração extra

  • Um dos motivos pelos quais migrei do Ollama para o LM Studio foi o modelo de negócios, então me preocupa que agora a direção esteja mudando para “usar os maiores modelos open source frontier via LM Studio Secure Cloud”

    • O Unsloth Studio é realmente open source e, olhando também para os modelos quantizados, confio mais no Unsloth do que no LM Studio; por isso, eu o recomendaria
    • Para ser justo, o Ollama também promoveu com bastante intensidade seu próprio serviço em nuvem
      Modelos grandes recentes como Minimax, GLM e Kimi às vezes passam meses sem oferecer versões oficiais para download e lançam apenas versões na nuvem
    • O Ollama teve controvérsias desde o começo, mas, pelo que sei, o LM Studio não teve. Portanto, tenho um pouco mais de confiança de que o LM Studio fará essa transição de forma em geral tranquila

  • O app LM Studio e o novo app LM Studio Bionic são ambos de código fechado. Muita gente não sabe disso, então vale lembrar

    • O Unsloth Studio é open source e é operado pela Unsloth, que cria alguns dos melhores modelos quantizados do setor, então recomendo a migração
    • O fato de ser código fechado é o principal motivo pelo qual não uso muito o LM Studio. Depois de testar modelos novos ou versões quantizadas, hospedo eu mesmo com llama.cpp
      O LM Studio não oferece recursos como entrada de áudio e, às vezes, tem bugs que não existem no llama.cpp puro, então para alguns usos pode até ser uma desvantagem
    • Já existem muitos sistemas de agentes open source e, se você prefere UI, o OpenCode também tem um app desktop em beta
      Em especial, não acho necessário usar uma ferramenta de desenvolvimento de código fechado que pode, no futuro, virar paga e restringir o acesso
    • Fiquei curioso sobre qual stack tecnológica foi usada e se é um app nativo. Como app desktop, ele foi bem projetado para o propósito
    • Fico me perguntando se o fato de ser código fechado, por si só, é uma polêmica