Pesquisa de segurança do Private Cloud Compute

• Sobre o Private Cloud Compute (PCC), que processa na nuvem as solicitações de alto poder computacional do Apple Intelligence, a Apple divulgou materiais para que pesquisadores externos possam verificar diretamente as garantias de segurança e privacidade
• O escopo da divulgação inclui o PCC Security Guide, binários de software, código-fonte de componentes centrais e até o primeiro Virtual Research Environment (VRE) da plataforma Apple
• O VRE executa o software de nó do PCC como máquina virtual em Macs com Apple silicon, oferecendo suporte para inspeção de releases, verificação de logs de transparência, download de binários, boot virtual, inferência com modelos de demonstração, modificação e depuração
• O Apple Security Bounty adicionou o PCC como novo alvo e pagará até US$ 1 milhão por execução remota de código com privilégios arbitrários por meio de um ataque aos dados de solicitação
• O sistema de verificação do PCC tem como foco permitir que usuários confirmem diretamente o software em execução no datacenter e as garantias de privacidade, mesmo em processamento de IA na nuvem

---

Divulgação de materiais de verificação do PCC

• O Private Cloud Compute (PCC) é um sistema que processa solicitações computacionalmente intensivas do Apple Intelligence, estendendo para a nuvem o modelo de segurança dos dispositivos Apple
• Para aumentar a confiança pública, a Apple permite que pesquisadores de segurança e privacidade inspecionem e verifiquem as garantias ponta a ponta do PCC
• Nas semanas seguintes ao anúncio do Apple Intelligence e do PCC, a Apple já havia fornecido antecipadamente materiais, incluindo o PCC Virtual Research Environment (VRE), a auditores terceirizados e alguns pesquisadores de segurança
• Com esta divulgação, pesquisadores de segurança e privacidade e qualquer pessoa com interesse técnico podem estudar e verificar o PCC de forma independente
• O Apple Security Bounty também foi expandido para incluir o PCC, oferecendo recompensas por relatos de problemas que comprometam as garantias de segurança e privacidade do PCC

O que o PCC Security Guide cobre

• O Private Cloud Compute Security Guide organiza como a arquitetura do PCC foi projetada para atender aos requisitos centrais
• O guia aborda os componentes do PCC e como eles trabalham em conjunto para fornecer um nível de privacidade no processamento de IA em nuvem
• Os principais temas são os seguintes
  • Como a atestação do PCC é construída sobre funcionalidades fundamentais imutáveis implementadas em hardware
  • Como as solicitações do PCC são autenticadas e roteadas para fornecer não direcionabilidade (non-targetability)
  • Como se garante tecnicamente a possibilidade de inspecionar o software em execução nos datacenters da Apple
  • Como as propriedades de privacidade e segurança do PCC são mantidas mesmo em diversos cenários de ataque

Virtual Research Environment

• A Apple disponibiliza, pela primeira vez em sua plataforma, um Virtual Research Environment (VRE)
• O VRE é um conjunto de ferramentas que permite realizar diretamente no Mac análises de segurança do Private Cloud Compute
• Os pesquisadores podem ir além de compreender os recursos de segurança do PCC e verificar se ele realmente preserva a privacidade do usuário da forma descrita pela Apple
• O VRE executa o software de nó do PCC em uma máquina virtual com apenas algumas modificações
  • O software em espaço de usuário é executado da mesma forma que em um nó do PCC
  • O processo de boot e o kernel são ajustados para a virtualização
  • Inclui um Secure Enclave Processor (SEP) virtual, tornando possível pela primeira vez a pesquisa de segurança sobre esse componente
  • Para inferência, usa o suporte gráfico paravirtualizado do macOS

O que é possível fazer no VRE e condições de execução

• As tarefas que podem ser realizadas com as ferramentas do VRE são as seguintes
  • Listar e inspecionar releases de software do PCC
  • Verificar a consistência do log de transparência
  • Baixar os binários correspondentes a cada release
  • Inicializar releases em ambiente virtualizado
  • Realizar inferência com modelos de demonstração
  • Modificar e depurar o software do PCC para investigações mais profundas
• O VRE está disponível no macOS Sequoia 15.1 Developer Preview mais recente
• Para executá-lo, é necessário um Mac com Apple silicon e 16 GB ou mais de memória unificada
• As instruções para começar estão na documentação de configuração do Private Cloud Compute Virtual Research Environment

Código-fonte do PCC divulgado

• A Apple divulgou o código-fonte de alguns componentes centrais que ajudam a implementar os requisitos de segurança e privacidade do PCC
• O código é fornecido sob um contrato de licença de uso restrito para permitir análises mais profundas do PCC
• Os projetos divulgados cobrem várias áreas do PCC
  • CloudAttestation: responsável pela composição e verificação da atestação de nós do PCC
  • Thimble: inclui o daemon privatecloudcomputed, executado no dispositivo do usuário, e usa o CloudAttestation para impor transparência verificável
  • splunkloggingd: filtra os logs que podem ser exportados dos nós do PCC para evitar divulgação acidental de dados
  • srd_tools: inclui as ferramentas do VRE e pode ser usado para entender como o VRE executa o código do PCC
• O código-fonte disponível do PCC pode ser consultado no projeto apple/security-pcc no GitHub

Apple Security Bounty para o PCC

• A Apple expandiu o Apple Security Bounty para recompensar vulnerabilidades que comprometam as garantias fundamentais de segurança e privacidade do PCC
• As novas categorias de recompensa para o PCC estão alinhadas às principais ameaças descritas no Security Guide
  • Divulgação acidental de dados: vulnerabilidades em que falhas de configuração ou problemas de design do sistema causam exposição não intencional de dados
  • Comprometimento externo por meio de solicitações do usuário: vulnerabilidades em que um agente externo explora solicitações do usuário para obter acesso não autorizado ao PCC
  • Acesso físico ou interno: vulnerabilidades que permitem comprometer o sistema por meio de acesso a interfaces internas
• O nível de recompensa é comparável ao das recompensas do iOS
• Vulnerabilidades que comprometam dados do usuário e dados de solicitações de inferência fora do limite de confiança do PCC recebem a recompensa máxima

Valores das recompensas do PCC

• As categorias de recompensa do PCC são as seguintes
  • Ataque remoto aos dados de solicitação: até US$ 1.000.000 por execução arbitrária de código com privilégios arbitrários
  • Acesso, fora do limite de confiança, aos dados de solicitação do usuário ou a informações sensíveis relacionadas à solicitação do usuário: até US$ 250.000
  • Ataque aos dados de solicitação a partir de uma posição de rede privilegiada: até US$ 150.000 por acesso, fora do limite de confiança, aos dados de solicitação do usuário ou a outras informações sensíveis
  • Possibilidade de execução de código não atestado: até US$ 100.000
  • Divulgação acidental ou inesperada de dados causada por problemas de implantação ou configuração: até US$ 50.000
• A Apple também considerará para recompensa do Apple Security Bounty problemas de segurança que causem impacto significativo ao PCC, mesmo que não se enquadrem exatamente nas categorias publicadas
• Os relatos serão avaliados pela qualidade da apresentação, pela comprovação da explorabilidade e pelo impacto sobre os usuários
• Informações do programa e envios podem ser feitos na página Apple Security Bounty

Transparência verificável no processamento de IA em nuvem

• O PCC foi projetado como parte do Apple Intelligence para promover um grande avanço em privacidade na IA
• Entre suas propriedades centrais está a transparência verificável, característica que o diferencia de outras abordagens de IA baseadas em servidor
• Com base na experiência do Apple Security Research Device Program, as ferramentas e documentos divulgados facilitam o estudo e a verificação dos principais recursos de segurança e privacidade do PCC
• A Apple descreve o PCC como a arquitetura de segurança mais avançada já implantada em computação de IA em nuvem em larga escala e pretende, junto da comunidade de pesquisa, fortalecer a confiança no sistema e suas garantias de segurança e privacidade