O Copilot Chat do VS Code foi lançado como open source

• A extensão GitHub Copilot Chat do VS Code foi disponibilizada como open source
• Na Chat view, é possível fazer perguntas em linguagem natural ao Copilot e receber ajuda relacionada ao código imediatamente
  • Ele fornece respostas sensíveis ao contexto usando o código do workspace, variáveis, informações de Participant, comandos Slash e mais
• Com o Inline chat, é possível aplicar sugestões da IA diretamente no código
  • Refatoração, adição de tratamento de exceções e explicação de algoritmos complexos podem ser feitas em tempo real

Visão geral

• O GitHub Copilot é uma ferramenta de programação em par baseada em IA, uma extensão que ajuda a aumentar a velocidade e a qualidade da escrita de código
• O usuário pode escolher o modelo mais adequado para o projeto, personalizar as respostas do chat e usar o agent mode para criar sessões naturais de programação colaborativa
• GitHub Copilot (autocompletar código) e GitHub Copilot Chat (IA conversacional) são instalados como extensões separadas
• Pode ser usado por meio do plano gratuito ou com aprovação do administrador enterprise, e requer assinatura
• Há vários produtos disponíveis para uso pessoal e empresarial (planos individual, business e enterprise)
• Por causa da integração com a UI, o Copilot Chat funciona apenas nas versões mais recentes do VS Code e pode se integrar aos modelos e recursos mais recentes
  • Em versões antigas do VS Code, só é possível usar versões anteriores do Copilot Chat
• Usar o Copilot Chat significa concordar com os termos de Preview do GitHub Copilot e com o aviso de transparência
• O código do usuário tem sua propriedade garantida e não é usado como código sugerido para outros usuários do GitHub Copilot

[GN⁺]

Comentários do Hacker News

• Aqui está o link para o template de system prompt que eles usam link

  • Descobri a explicação do recurso que marca a posição do cursor do desenvolvedor como ${CURSOR_TAG}; é interessante saber que essa parte é usada de forma importante para entender onde o desenvolvedor está focando dentro do código

• O Copilot no VS Code deixa muito a desejar e parece não ter o nível de polimento e acabamento que se esperaria de algo da Microsoft

  • Fico curioso se você continuou com essa impressão mesmo depois da adição do agent mode; na minha experiência, a usabilidade é bastante satisfatória, ainda não testei gemini CLI nem cline, mas não acho que sejam melhores que o Copilot

  • Antigamente eu tinha expectativas em relação à Microsoft, mas olhando para os produtos lançados nos últimos 15 anos, fica difícil manter esse tipo de expectativa

• Seria bom se alguém analisasse com IA a árvore de decisão de como o Copilot Chat processa prompts e respostas

  • Eu também estou muito curioso sobre o fluxo de funcionamento do Copilot Chat; por enquanto estou consultando as ferramentas[0] e os prompts[1] e rastreando o caminho das chamadas no código
  • O fluxo principal é que, quando o usuário escolhe ask ou edit, entra em AskAgentIntent.handleRequest e EditAgentIntent.handleRequest; depois, em DefaultIntentRequestHandler.getResult(), cria-se a instância e chama-se o intent para executar o loop runWithToolCalling, renderizando os prompts e as respostas das ferramentas em .tsx
  • Os links de arquivos relacionados são createFileTool.tsx, editCodePrompt.tsx e toolCallingLoop.ts

• O Copilot Chat é apenas o frontend de um SaaS da Microsoft; a parte realmente importante fica escondida atrás da API do GitHub Copilot, então é difícil considerá-lo open source no sentido pleno. Ninguém tem acesso ao design desse LLM nem aos dados de treinamento, e também não é possível fazer self-hosting; no fim, é só mais uma propaganda de modelo por assinatura e uma estrutura que entrega dados pessoais a terceiros, sem valor comunitário nem benefício público

  • Discordo dessa opinião: todos os modelos LLM comerciais SOTA tendem a mostrar qualidade de código e limitações parecidas; a diferença real aparece na estrutura de como informações de contexto relevantes são transmitidas e como os resultados são processados. Qualquer um pode criar um agente que apenas reenvia o conteúdo dos arquivos para o LLM, mas isso por si só não produz um bom agente de programação

  • Tenho dificuldade em acompanhar a lógica dessa crítica. Open source significa, literalmente, abrir o código-fonte, e o quanto isso é útil para o usuário é uma questão separada

  • Acho que o significado de open source é a divulgação do código-fonte; não entendo por que haveria motivo para criticar especificamente isso aqui

  • Concordo que o Copilot Chat é apenas um frontend, mas, se até o frontend for open source, já existe um valor público, porque alguém deixa de precisar recriar a UI do zero; e a crítica de que até o design do LLM e os dados de treinamento deveriam ser open source parece exagerada, porque, na prática, a comunidade open source não tem condição de operar esses recursos massivos de computação

  • Tenho visto com frequência, em comentários recentes, insatisfação com APIs de "IA"; como não sou desenvolvedor, não é tão fácil entender. No passado eu também tinha uma insatisfação parecida com "Web APIs"

  • Antigamente os sites não tinham API, e a gente simplesmente fazia scraping das informações publicadas na web. Esse método funciona sem cadastro, desde que o site exista

  • Já as Web APIs normalmente restringem o acesso por meio de coleta de e-mail, rastreamento de uso, limitações de conta, planos pagos etc. Também existe o risco de a API ser descontinuada sem aviso

  • A opção de baixar os dados em lote a partir da página inicial existe só em poucos casos, como alguns sites governamentais e dumps da Wikipedia

  • Isso também passou a valer para LLMs via API: os dados internos, como os pesos do modelo, não são divulgados, e o usuário recebe apenas um acesso indireto a informações públicas por meio de cadastro e assinatura; os dados estão no servidor, mas você não pode obtê-los diretamente

  • Fico me perguntando se esse modelo não é, no fim das contas, um caso em que as ferramentas e tecnologias que os desenvolvedores defendiam começaram a se voltar contra os próprios desenvolvedores