- A Microsoft detectou recentemente que hackers apoiados por Estados estavam usando suas ferramentas de IA generativa em ataques. Na comunidade de segurança, surgiram dúvidas sobre como a Microsoft descobriu isso.
- Houve reação contrária à caracterização da conduta da Microsoft como "espionagem". Alguns argumentaram que é natural que provedores de serviços em nuvem monitorem as atividades dos usuários e que não é justo chamar isso de espionagem.
- Isso pode ser visto como um exemplo das expectativas coletivas em transformação sobre privacidade. Para entender isso, há lições a aprender com a pesca.
- Em meados do século XX, o número de peixes nos oceanos começou a cair rapidamente devido à pesca excessiva. Uma tendência semelhante de declínio também apareceu na indústria baleeira.
- Daniel Pauly percebeu que os pesquisadores estavam cometendo um erro grave ao determinar a quantidade de pesca aceitável. O problema era que eles não percebiam a gravidade da queda nas populações de peixes.
- Pauly apontou que cada geração de pesquisadores usa um ponto de referência (baseline) diferente para comparar as estatísticas atuais, e que o ponto de referência de cada geração é mais baixo que o da geração anterior. Ele deu a isso o nome de "síndrome da linha de base móvel (shifting baseline syndrome)".
- A vigilância na internet e as violações de privacidade resultantes seguem a mesma trajetória. Devido à natureza abrangente da tecnologia moderna, vigiar ficou mais fácil do que nunca, e cada geração se acostuma ao estado da privacidade de quando era jovem.
- Os chatbots de IA são o exemplo mais recente desse fenômeno. Eles geram respostas para as entradas dos usuários, mas, por trás disso, existe um sistema complexo baseado em nuvem que rastreia essas entradas.
- A mudança de linha de base está no centro da nossa perda coletiva de privacidade. A Suprema Corte dos EUA há muito tempo decide que nosso direito à privacidade depende de uma expectativa razoável de privacidade. Mas expectativas são voláteis e estão sujeitas ao efeito da mudança de linha de base.
- O que fazer agora? Os cientistas da pesca hoje olham para o quadro geral. Eles já não consideram mais medidas relativas, como comparar com a década anterior. Em vez disso, adotam uma visão holística de como devem ser um ecossistema marinho saudável e uma captura sustentável.
- A mesma abordagem é necessária nas áreas de privacidade e segurança. Em vez de comparar com uma linha de base em mudança, devemos dar um passo atrás e examinar como seria um ecossistema tecnológico saudável.
1 comentários
Comentários do Hacker News
Resumo dos comentários do Hacker News