Divulgado o incidente de vazamento de Secrets na plataforma Spaces da Hugging Face

Resposta da Hugging Face ao incidente de segurança

Visão geral do incidente

• Foi detectado acesso não autorizado na plataforma Spaces da Hugging Face.
• Há possibilidade de que informações secretas de alguns Spaces tenham sido acessadas indevidamente.

Medidas de resposta

• Como primeira medida, os tokens HF relacionados foram revogados.
• Os usuários afetados foram notificados por e-mail.
• É recomendável renovar todas as chaves e tokens, além de migrar os tokens HF para tokens de acesso com permissões granulares.

Medidas de reforço de segurança

• A empresa está investigando o problema e revisando suas políticas de segurança em parceria com especialistas externos em cibersegurança.
• Foram introduzidas várias melhorias importantes para reforçar a segurança da infraestrutura do Spaces:
  • Os tokens de organização foram removidos completamente para melhorar a rastreabilidade e a capacidade de auditoria.
  • Foi implementado um serviço de gerenciamento de chaves (KMS) para os secrets do Spaces.
  • Foi reforçada a capacidade do sistema de identificar tokens vazados e invalidá-los preventivamente.
  • A segurança geral foi aprimorada.
  • Quando os tokens de acesso com permissões granulares estiverem funcionalmente completos, há planos para descontinuar totalmente os tokens "clássicos" de leitura e escrita.

Medidas legais

• O incidente foi reportado às autoridades de aplicação da lei e às autoridades de proteção de dados.

Orientação aos usuários

• A empresa pediu profundas desculpas pelo transtorno causado por este incidente e prometeu transformá-lo em uma oportunidade para reforçar a segurança de toda a infraestrutura.
• Em caso de dúvidas adicionais, é recomendado entrar em contato com [e-mail].

Opinião do GN⁺

• Necessidade de reforço de segurança: Este incidente relembra mais uma vez a importância de fortalecer a segurança em plataformas de software. Em especial, o controle de acesso e o monitoramento de informações sensíveis são fundamentais.
• Tokens de acesso com permissões granulares: Tokens de acesso com permissões granulares são uma boa forma de aumentar a segurança. Eles permitem aplicar o princípio do menor privilégio, restringindo permissões desnecessárias.
• Colaboração com especialistas externos: A colaboração com especialistas externos em cibersegurança ajuda muito na resolução do problema. Isso permite lidar com questões complexas que podem ser difíceis de resolver apenas com a equipe interna.
• Resposta legal: Reportar o caso às autoridades de aplicação da lei e às autoridades de proteção de dados é importante para manter a transparência e recuperar a confiança dos usuários.
• Comunicação com os usuários: Informar os usuários de forma rápida e clara é essencial para manter a confiança. Isso fortalece a relação de confiança com os usuários.

[GN⁺]

Opiniões do Hacker News

• Jossef Harush Kadouri descobriu, em slides apresentados em uma conferência de segurança, que ao usar modelos em lugares como o Huggingface, o autor do modelo pode executar código arbitrário no computador do usuário.
• Como alguém que não atua na área de IA, eu achava que arquivos de modelo eram apenas matrizes numéricas e metadados, mas acabei entendendo que, na prática, eles são compostos por scripts em Python, o que facilitou a padronização.
• A expressão "eles têm suspeitas" não é apropriada para usar nesse tipo de comunicação.
• O Huggingface fez muito trabalho para melhorar sua infraestrutura de segurança, e isso deveria levar a mais atividades demoradas, como auditorias de segurança e testes de invasão.
• Algumas semanas atrás, uma chave da OpenAI vazou e estava ativa apenas em um Space do Huggingface. Alguns dias atrás, recebi um e-mail dizendo que o Space havia sido comprometido.
• Uma chave da Anthropic vazou, gerando um custo de US$ 10.000. Fico me perguntando se o Huggingface vai reembolsar isso.
• Pelo título, achei que era um artigo sobre o espaço sideral, mas na verdade era sobre os Spaces do Huggingface.
• Não há menção sobre como lidar com custos gerados de forma indevida. Se alguém tiver acesso a segredos, não poderá fazer chamadas de API e gerar cobranças?
• Fico me perguntando o que é exatamente um "Space".
• Não consigo entender por que o Huggingface armazena "segredos". Parece que seria melhor armazenar a chave pública e deixar o usuário assinar as requisições com a chave secreta.
• Considerando como é difícil fazer coisas simples, esse problema não é surpreendente.