Keylogger encontrado na extensão ComfyUI_LLMVISION

• Se você usou o node ComfyUI_LLMVISION publicado por u/AppleBotzz, você foi comprometido
• Ao usar esse pacote, dados pessoais como senhas do navegador, informações de cartão de crédito e histórico de navegação são enviados para um servidor no Discord
• O arquivo de requisitos (requirements.txt) desse pacote incluía wheels customizados para as bibliotecas da OpenAI e da Anthropic
• Dentro desses wheels havia código malicioso oculto
• No wheel da versão 1.16.2, é instalada uma versão inexistente, 1.16.3, que inclui o arquivo /lib/browser/admin.py, responsável por ler dados do navegador e salvá-los em um diretório temporário
• Esse arquivo envia os dados coletados para um webhook do Discord dentro de uma string criptografada
• A versão 1.30.2 inclui o arquivo openai/_OAI.py, que contém um link do Pastebin em uma string criptografada
• O primeiro link do Pastebin contém outro webhook do Discord, e o segundo inclui a URL de um arquivo malicioso (VISION-D.exe)
• O script cria entradas no registro e rouba chaves de API, enviando tudo para um webhook do Discord
• Para verificar se você foi afetado, é preciso checar o diretório temporário, os pacotes Python, o registro do Windows e outros itens
• Se o problema for encontrado, é necessário remover os pacotes relacionados, apagar os arquivos maliciosos, excluir as chaves de registro, executar uma varredura com antivírus e trocar senhas
• Como esse usuário (u/applebotzz) aparentemente fez atualizações duas vezes para esconder o malware, isso é considerado um ato intencional
• Daqui para frente, é preciso verificar com cuidado os nodes customizados e extensões que você instalar

[GN⁺]

Comentários no Hacker News

• As extensões do ComfyUI são compostas por código Python arbitrário, o que as torna vulneráveis em termos de segurança.
• Há uma tendência de ignorar segurança em deep learning. Antigamente, quase todos os modelos de deep learning eram distribuídos como arquivos pickle.
• O ComfyUI é muito poderoso, mas parece que a Adobe cometeu um erro na geração de imagens. É preciso um método mais seguro.
• Gostaria de saber opiniões sobre reforçar a segurança usando Docker. Fico em dúvida se é possível equilibrar usabilidade e segurança.
• Há curiosidade sobre a possibilidade de usar LLMs de código para escanear repositórios no GitHub e detectar código malicioso oculto no código-fonte.
• O projeto parece pequeno. Tinha 40 estrelas no GitHub, e fica a dúvida se era o principal método de integração com GPT-4 e Claude antes de o repositório ser removido.
• Para impedir esse tipo de problema, é necessária uma camada de verificação no nível do sistema operacional. Fica a dúvida se inspecionar o bytecode instalado/executado usando um LLM local poderia resolver isso.
• Um grupo chamado Nullbulge Group afirma ter assumido o repositório. Há capturas de tela de antes de o repositório começar a retornar erro 404.
• A discussão no Reddit está cheia de desinformação e conhecimento falso. Isso é tão assustador quanto o malware.
• Fico em dúvida se não existe uma forma de defesa contra keyloggers. Se um keylogger simples pode roubar senhas, o que se deve fazer?