Google anuncia o Sec-Gemini v1, modelo experimental de IA para cibersegurança

• Focado em ampliar a capacidade dos especialistas em cibersegurança para fortalecer a posição dos defensores
• Busca resolver a assimetria favorável ao atacante, em que o atacante só precisa encontrar uma única vulnerabilidade, enquanto o defensor precisa se preparar para todas as ameaças
• Fluxos de trabalho de cibersegurança baseados em IA podem ajudar a devolver o equilíbrio a favor dos defensores

Principais recursos e desempenho

• Combina a capacidade avançada de raciocínio do modelo Gemini com conhecimento e ferramentas de segurança atualizados
• Apresenta excelente desempenho em tarefas centrais de cibersegurança
  • Análise da causa raiz de incidentes
  • Análise de ameaças
  • Avaliação do impacto de vulnerabilidades
• Integrado ao Google Threat Intelligence (GTI), dados do OSV e outras informações essenciais de segurança

Resultados de benchmark

• No benchmark de inteligência de ameaças CTI-MCQ, obteve desempenho pelo menos 11% superior em relação a outros modelos
• No benchmark CTI-RCM (mapeamento de causa raiz), registrou mais de 10,5% de melhora em precisão
  • Analisa e classifica com precisão a causa raiz de vulnerabilidades com base no sistema de classificação CWE

Exemplo de análise de ameaças: Salt Typhoon

• O Sec-Gemini v1 identifica o Salt Typhoon como agente de ameaça e fornece uma explicação detalhada
  • Isso é possível graças à integração com os dados de inteligência de ameaças da Mandiant
• Para perguntas relacionadas ao Salt Typhoon, fornece informações específicas sobre as vulnerabilidades exploradas por esse agente de ameaça
  • Adiciona contexto aos resultados da análise com base em dados do OSV e inteligência da Mandiant
  • Com isso, os analistas podem entender mais rapidamente a relação entre ameaças e vulnerabilidades e o nível de risco

Uso e disponibilização

• Disponível gratuitamente, apenas para fins de pesquisa, para organizações selecionadas, instituições, especialistas em segurança e ONGs
• A Google busca superar os limites das capacidades de segurança baseadas em IA por meio da colaboração com a comunidade de segurança

[GN⁺]

Comentários do Hacker News

• O modelo Gemini passa uma impressão um pouco diferente de Claude, ChatGPT e Mistral

  • Parece que você está conversando com um modelo focado em tarefas de engenharia
  • Há uma seriedade que não busca humor nem estilo
  • Isso também pode ser porque a interação com o Gemini acontece apenas pelo AI Studio
  • O motivo de não usar gemini.google.com é simples: não há uma função básica de exportação
  • O recurso do AI Studio para salvar no Google Drive é muito útil
  • Seria bom se o gemini.google.com oferecesse um recurso de "Salvar como Markdown"

• Em resposta a uma pergunta sobre a vulnerabilidade na explicação do Salt Typhoon, o Sec-Gemini v1 fornece não apenas detalhes da vulnerabilidade, mas também contexto sobre o agente de ameaça

  • Explica vulnerabilidades usando dados do OSV e dados da Mandiant
  • Ainda sou cético em relação a LLMs, mas o avanço do OSV é positivo

• Surpreende que o Google não revise com cuidado as respostas da IA

  • Em uma pergunta sobre o CVE-2024-3400, há uma menção de que dispositivos da Hitachi seriam vulneráveis, mas na realidade não são
  • Esse CVE não está incluído na lista de vulnerabilidades da Hitachi
  • Também não há menção de que a funcionalidade de "portal" seja vulnerável

• Há uma pergunta sobre se é um modelo que executa trabalho de segurança ou um sistema que consulta dados e usa ferramentas

  • Pela explicação da integração de dados, é mais provável que seja o segundo caso
  • A diferença entre um modelo ajustado para segurança e um app de LLM de segurança pré-construído é importante

• É interessante o surgimento de modelos especializados

  • É parecido com um humano treinado

• Sempre há preocupações sobre LLMs e trabalho analítico

  • Ao avaliar o risco e o impacto de uma vulnerabilidade ou ao analisar malware complexo, é preciso examinar minuciosamente os pontos de dados
  • LLMs podem ajudar muito, mas é preciso revisar seu raciocínio
  • Os humanos também precisam apresentar a base de suas conclusões

• Trabalho de segurança em alta velocidade com sistemas de IA é necessário, mas não suficiente

  • Como os atacantes também usarão sistemas de IA, os defensores precisam acompanhar
  • Precisamos construir sistemas mais seguros

• Pode ser bom para auxiliar o trabalho de especialistas em cibersegurança

  • Mas há preocupação de que seja usado como ferramenta para transferir responsabilidade

• Confiar na segurança de algo probabilisticamente correto pode ser uma má ideia

• Pode estar relacionado à aquisição da Wiz