Apple abandona plano de escanear CSAM no iCloud
(wired.com)Em agosto de 2021, a Apple anunciou que introduziria dois novos recursos de segurança em seus produtos para proteger crianças.
Um deles era detectar, com base em hashes de imagem, se uma foto enviada pelo usuário ao iCloud era CSAM (material de abuso sexual infantil). O outro era adicionar um recurso de filtragem que ocultaria a foto e exibiria um alerta ao detectar que um menor estava recebendo ou enviando uma foto explícita pelo iMessage.
Esse anúncio gerou grande controvérsia. Houve imediatamente vozes de preocupação até mesmo entre funcionários da própria Apple, e várias organizações e pessoas, incluindo a EFF (Electronic Frontier Foundation), também assinaram uma carta aberta em oposição. Aqui no GeekNews também foram publicados vários textos relacionados.
A Apple respondeu dizendo que era um mal-entendido afirmar que a privacidade seria violada, mas a controvérsia e as preocupações não diminuíram facilmente. De fato, mais tarde o New York Times noticiou um caso de uma pessoa prejudicada por uma medida unilateral causada pelo algoritmo de detecção de CSAM do Google, mostrando na prática que essas preocupações não eram de forma alguma infundadas.
- Apple introduz novos recursos de segurança para proteção infantil
- Apple lamenta controvérsia do "escaneamento do iPhone"
- Apple adia lançamento do recurso de escaneamento de fotos do iCloud para proteção infantil
- CSAM: com o que as pessoas estão preocupadas em relação à Apple?
- Google acusa de crime pai que fotografou ferimento de seu bebê doente
Segundo a Apple informou à WIRED desta vez, o plano de verificar se as fotos enviadas ao iCloud eram CSAM foi abandonado.
Em vez disso, a empresa diz que reforçará ainda mais o recurso de filtragem que alerta quando um menor recebe ou envia fotos explícitas. Mais especificamente, está pesquisando como oferecer esse recurso também para vídeos, e pretende ainda permitir que essa detecção de CSAM baseada em machine learning on-device seja usada em outros apps além do iMessage. E, talvez para evitar nova controvérsia, enfatiza que esses recursos ficam desativados por padrão (opt-in) e que a Apple não toma conhecimento dessas detecções.
Parece que, devido à forte polêmica do ano passado, o plano de escanear fotos enviadas à nuvem foi descartado por completo, e a direção agora é desenvolver ainda mais recursos que filtrem CSAM localmente no próprio dispositivo. No entanto, como a censura por machine learning on-device também era um dos pontos centrais da controvérsia desde então, a medida da Apple desta vez talvez não seja suficiente para dissipar todas as polêmicas e preocupações relacionadas.
3 comentários
Eu estava preocupado ao ver o caso do Google, mas fico aliviado em saber que a Apple decidiu desistir.
Também gosto muito de textos com esse tipo de opinião pessoal.
Obrigado pelo resumo bem organizado!