- Recentemente, tive contato com um artigo publicado por pesquisadores da NYU e de Cornell chamado "How to think about end-to-end encryption and AI". O artigo aborda questões importantes sobre IA e criptografia de ponta a ponta e, embora eu não concorde com algumas conclusões, ele trata de um tema muito importante.
O que é criptografia de ponta a ponta e qual sua relação com a IA?
- Ao longo da última década, uma das histórias mais importantes relacionadas à privacidade foi a ascensão das plataformas de comunicação com criptografia de ponta a ponta. Antes de 2011, a maioria dos dispositivos conectados à nuvem fazia upload de dados em texto puro.
- Criptografia de ponta a ponta é uma tecnologia que impede que o servidor veja o conteúdo em texto puro das mensagens. No entanto, essa tecnologia pode dificultar que o servidor processe os dados.
- Com o avanço da IA, é cada vez mais provável que muito processamento de dados seja transferido para servidores remotos. Isso pode gerar problemas de privacidade.
O impacto da IA nas mensagens com criptografia de ponta a ponta
- Sistemas com criptografia de ponta a ponta são projetados para que o conteúdo das mensagens não possa ser acessado durante a transmissão fora dos dispositivos dos participantes. No entanto, eles não garantem como o usuário irá processar os dados.
- A forma como a IA processa dados pode levantar questões complexas relacionadas ao consentimento do usuário. Algumas empresas podem orientar bem seus usuários, mas outras provavelmente não.
Hardware confiável e o "Private Cloud Compute" da Apple
- A Apple introduziu uma abordagem chamada "Private Cloud Compute" para resolver questões de privacidade relacionadas à IA. Trata-se de uma forma de proteger dados usando hardware confiável.
- Esse sistema torna difícil tanto para invasores quanto para funcionários da Apple vazarem dados. Ainda assim, ele continua oferecendo garantias de segurança mais fracas do que a criptografia.
Para quem os agentes de IA trabalham?
- A forma como agentes de IA processam os dados dos usuários pode abrir a possibilidade de governos exigirem acesso. Isso levanta questões importantes relacionadas à privacidade.
- Escolhas técnicas podem não ser suficientes para garantir privacidade, e há pouca confiança de que a sociedade fará as escolhas políticas corretas.
1 comentários
Opinião do Hacker News
À medida que os sistemas automatizados de detecção aumentam, há menos pessoas para lidar com casos individuais, e os gestores passam a depender mais da detecção automática. Isso pode gerar grande frustração, porque, quando ocorrem falsos positivos, fica difícil resolver o problema. Especialmente quando isso é usado pela aplicação da lei, pode ser devastador para a vida de uma pessoa
Por exemplo, houve a experiência de ser marcado incorretamente na Amazon por avaliações ilegais e tentar, sem sucesso, entrar em contato com uma pessoa para resolver o problema. Se esse tipo de situação acontecer em uma questão criminal grave, pode arruinar a vida de alguém
Os sistemas de detecção automática não deveriam substituir humanos, mas complementá-los, permitindo fazer mais com menos pessoal. Porém, hoje faltam incentivos, e os tomadores de decisão não percebem o problema porque não lidam com casos reais
A verdadeira ameaça pode surgir quando a IA deixa de apenas acelerar o trabalho individual e passa a se expandir como ferramenta de controle organizacional. Isso pode tornar as organizações mais eficazes, mas também enfraquecer a crença de que os funcionários são seres humanos de fato
O verdadeiro risco da vigilância em massa é coletar informações sobre pessoas inconvenientes para que elas deixem de ser inconvenientes. Ainda não vimos todas as consequências da vigilância em massa
A OpenAI informa com transparência que os dados são armazenados por 30 dias e que funcionários e contratados terceirizados podem revisá-los
Estão surgindo perguntas difíceis sobre se os sistemas de IA realmente trabalham para nós. A tendência atual oferece pouca esperança de um futuro neutro e que priorize a privacidade
A Apple anunciou que publicará imagens de software para que pesquisadores de segurança possam verificar bugs, mas não divulgará o código-fonte. A Apple afirma que não armazena dados dos usuários e que engenheiros de suporte não podem ver esses dados
A questão de para quem a IA trabalha é importante, porque empresas de ad tech provavelmente farão a IA operar contra os interesses do usuário. Isso se deve à expectativa de serviços "gratuitos" sustentados por publicidade
O conceito jurídico de para quem os agentes de IA realmente trabalham é importante. O que foi proposto atualmente inclui vigilância para várias ameaças
Como consequência da vigilância em massa, com os dados armazenados na nuvem se tornando escaneáveis, aumenta o risco de alguém ser monitorado por causa de uma simples opinião contrária
Garantias técnicas não são a mesma coisa que promessas ao usuário. O PCC da Apple melhora a segurança, mas não garante transparência nem responsabilização. A transparência é um problema maior do que a segurança
Para que a IA sirva à sociedade, é preciso reduzir a assimetria de informação. Se queremos um bom comportamento corporativo, precisamos fazer com que essas empresas operem de forma transparente
Escolhas técnicas podem não resolver os problemas de privacidade. O importante é quem terá acesso aos agentes de IA. Tecnicamente, é possível executar o agente localmente e bloquear conversas com pessoas que não podem acessar o sistema