- O Discord, que começou como um serviço voltado a gamers, tornou-se uma grande plataforma que também abriga comunidades de conteúdo adulto e iniciou testes de verificação de idade no Reino Unido e na Austrália
- A Lei de Segurança Online do Reino Unido exige que plataformas com conteúdo adulto adotem verificação de idade robusta até julho, com possibilidade de multa de até 10% da receita global em caso de descumprimento
- Usuários podem escolher entre um scanner facial ou o envio de um documento de identidade com foto, e o Discord afirma que a leitura facial fica no dispositivo e que o documento é apagado após a verificação
- A Big Brother Watch critica que tecnologias de verificação de idade podem causar violações de segurança, invasão de privacidade, erros, exclusão digital e censura, portanto não são uma solução milagrosa
- Com a introdução de análise facial pelo Instagram em 2022, o plano da Austrália de proibir redes sociais para menores de 16 anos e o processo de New Jersey contra o Discord, cresce a pressão por garantia de idade sobre as plataformas
O método de verificação de idade que o Discord está testando
- O Discord está aplicando um experimento de verificação de idade a alguns usuários no Reino Unido e na Austrália
- A empresa afirma ter mais de 200 milhões de usuários mensais no mundo
- Originalmente era uma plataforma muito usada por gamers, mas hoje reúne comunidades sobre diversos temas, incluindo pornografia
- O processo de verificação aparece quando o usuário encontra pela primeira vez conteúdo que o Discord marcou como conteúdo sensível, ou quando altera a configuração para visualizar mídia sensível
- O usuário confirma a idade de uma de duas formas
- Uso de scanner facial
- Envio de documento de identidade com foto
- O Discord opera esse processo como uma verificação única
- Segundo a empresa, as informações de verificação de idade não são armazenadas pelo Discord nem pela empresa verificadora
- A leitura facial permanece no dispositivo e não é coletada
- O documento enviado é apagado após a conclusão da verificação
- Para adolescentes, conteúdo sensível já é bloqueado ou desfocado automaticamente
Prazo regulatório de julho e reação do setor
- A Lei de Segurança Online do Reino Unido exige que plataformas com conteúdo adulto adotem verificação de idade robusta até julho
- Empresas que não cumprirem a lei podem receber multas de até 10% da receita global
- O especialista em redes sociais Matt Navarra avalia que o reconhecimento facial pode se tornar o caminho mais rápido porque os reguladores querem “provas reais”
- Ele diz que a era de “clique aqui para confirmar que você tem 13 anos” acabou
- Se a verificação de idade for tratada de forma inadequada, isso pode levar não apenas à perda de usuários, mas também a disputas judiciais ou multas
- Em 2022, o Instagram introduziu verificação de idade baseada em análise facial para usuários que tentavam alterar o perfil para indicar 18 anos ou mais
- O usuário grava um vídeo de selfie com o celular, e a IA estima sua idade
- Assim como o Discord, o envio de documento de identidade com foto também é oferecido como alternativa
- Madeleine Stone, da Big Brother Watch, critica que a tecnologia de verificação de idade não é uma “bala de prata”
- Os riscos preocupantes são violações de segurança, invasão de privacidade, erros, exclusão digital e censura
- Iain Corby, da Age Verification Providers Association, afirma que tecnologias recentes conseguem estimar a idade em uma faixa de 1 a 2 anos com base em selfies ou movimentos da mão
- As plataformas podem remover conteúdo nocivo, aplicar verificação de idade ao acesso ao site inteiro ou exigir a verificação apenas antes do acesso a páginas e publicações de alto risco
- A Austrália planeja introduzir ainda este ano uma proibição de redes sociais para todos os menores de 16 anos
- Segundo um estudo recente, mais de 80% das crianças australianas de 8 a 12 anos usam redes sociais ou serviços de mensagens voltados a maiores de 13 anos
- O procurador-geral de New Jersey, Matthew J. Platkin, entrou com um processo alegando que o Discord induziu pais a erro sobre os controles de segurança e os riscos que crianças encontram no aplicativo
1 comentários
Opiniões no Hacker News
Há muito tempo (mas ainda nos últimos 10 anos), precisei confirmar minha idade em um site, e em vez de documento de identidade ou escaneamento facial, ele exigiu número de cartão de crédito
Eles reembolsavam alguns centavos no cartão e pediam para informar o valor em até 24 horas; depois cobravam novamente o mesmo valor para recuperá-lo. Cartão de débito ou vale-presente não servia, tinha que ser cartão de crédito. Confirmei um reembolso de +US$ 0,24 no meu Visa, informei o valor e a verificação de adulto foi concluída
No fim, o simples fato de ter um cartão de crédito serviu para provar que eu era adulto. O objetivo de obrigar reconhecimento facial ou verificação de identidade não é confirmar se alguém é adulto, mas registrar quem consome o serviço e fazer a vinculação do nome real a um perfil específico. Mesmo que a empresa jure que não guarda as informações, muitas vezes usa terceiros; e, se o governo aparecer com um mandado sigiloso ou uma intimação, não há como saber se esse terceiro manterá os mesmos padrões
Autenticação biométrica é vigilância em si
Como resultado, nos últimos 20 anos, a pornografia comercial na internet ficou praticamente sem regulação: crianças também conseguem acessar bastando clicar no botão “I’m 18”. Na época, filtragem era vista como uma solução melhor, mas hoje ela se tornou quase impossível por causa de TLS, DoH, ECH, apps que ignoram certificados de usuário e impedem controle pelo dono, CDNs em nuvem, fingerprinting de TLS e a centralização das redes sociais, como no Discord, onde discussões de Minecraft e pornografia furry convivem no mesmo lugar
A emissora do cartão ou o banco um nível acima provavelmente já tem dados biométricos de qualquer forma. Não gosto de nenhuma das duas opções, e também não entendo por que o YouTube exige verificação de idade mesmo quando entro com uma conta Google criada em 2004
Mas não é suficiente como prova de identidade. Você pode estar usando o cartão de crédito de um tio que está viajando, então, pelas regras, ele precisa ser combinado com outras evidências
Muita gente associa verificação de identidade a más intenções, como publicidade ou rastreamento, mas, quando se trabalha nessa área, a realidade é bem menos interessante. As empresas de verificação de identidade fazem apenas esse trabalho, sob fiscalização rigorosa de clientes e reguladores. Do ponto de vista de privacidade, ainda não é o nível desejado, mas o setor está melhorando, e o uso de dados de identidade é estritamente regulado
Ele depositava um valor muito pequeno e acho que simplesmente deixava você ficar com ele, mas não tenho certeza
O governo pode intimar essas informações com a mesma facilidade que uma foto do rosto ou dados de documento de identidade
Isso definitivamente não tem a ver com proteger crianças
É sempre uma questão de ampliação do poder do governo. Se a identidade online é conhecida pelo governo, as pessoas ficam menos propensas a criticar o governo ou participar de debates políticos. Governos gostam de cidadãos obedientes e assustados
A única resposta ética a leis assim é sites e apps encerrarem completamente o serviço nos países que as criaram. Cidadãos que elegeram políticos que não respeitam direitos humanos e privacidade, de qualquer forma, não merecem muito desfrutar de coisas boas
Esse tipo de coisa não pode acontecer sem passar pelas maiores empresas de tecnologia do mundo. Coincidentemente, essas empresas já estão prontas para se tornar os provedores oficiais de identidade digital do mundo e os provedores de zonas privadas da internet
Veja o que a Microsoft fez com o Windows. Obriga TPM mínimo na instalação e exige cadastro de conta Microsoft até para usuários locais. É difícil até tentar usar um iPad ou iPhone da Apple sem conta iCloud ou meio de pagamento, e o Google pressiona fortemente pelo login em todos os lugares. A Cloudflare foi a porteira privada da web na última década, e o próprio produto do Facebook é identidade. A IBM vende serviços de vigilância, IAM e reconhecimento facial há décadas
Imagine que, em vez de uma Great Firewall grosseira baseada em IP, fosse possível neutralizar e tornar desnecessárias as VPNs em qualquer lugar do mundo usando a identidade nacional verificada de cada indivíduo. Com um clique, bloquear e desativar todos os membros de grupos “Islamic State” em uma plataforma. Com um clique, permitir votar em uma eleição apenas IDs registrados em determinado CEP. “CortanaSupreme, coloque no painel métricas de espectadores com padrões de uso que indicam solidão e mostre também a localização, filtrando por altura, valor recente estimado do imóvel e estado civil”
As leis atuais não exigem verificação de idade em si, mas sim excluir pessoas inelegíveis. Mesmo para vender álcool, não há exigência legal de necessariamente checar identidade; se a idade mínima para se cadastrar em um provedor de e-mail é 13 anos, seria possível presumir que titulares de contas de e-mail com mais de 5 anos têm 18 anos, então não há motivo para precisar de um mapa de profundidade do rosto
A abordagem de transferir aos pais a responsabilidade de controlar o uso da internet pelos filhos fracassou, mas o que está em jogo aqui é muito maior do que isso
Foi um excelente experimento de comunicação global, mas agora se transformou em uma arma usada por autoritários que antes recorriam à mídia tradicional e a canais de propaganda. A IA está ampliando mais rapidamente o potencial de abuso, e a capacidade de pensamento crítico, ensinada desde cedo, é a única defesa
Um governo digno do nome é, antes de tudo, um conjunto de representantes eleitos pelos eleitores e deve agir de acordo com os interesses dos cidadãos, assim como os cidadãos que voltarão a elegê-los. Se não funciona assim, não é um problema social, mas administrativo. O Estado é a própria população
Você pode ter votado em um candidato favorável às liberdades, mas ele pode perder; ou ambos os candidatos fortes podem não respeitar direitos humanos. Um candidato pode violar direitos humanos de uma certa forma, enquanto o outro tem problemas ainda maiores, levando você a escolher o mal menor. Também há candidatos que dizem uma coisa na campanha e agem diferente depois de eleitos
Mesmo deixando de lado o pesadelo de privacidade, fico pensando no que acontece com alguém de 18 anos que não tem traços faciais típicos de adulto
Por outro lado, também há pessoas de 15 anos que entraram na puberdade cedo. Nos casos de fronteira, parece que vai ficar realmente difícil distinguir
Há perguntas demais: se errar, o acesso é bloqueado? É preciso enviar uma imagem de documento de identidade? Não gosto muito das mudanças recentes no Reino Unido, e o mesmo vale para a situação da criptografia de ponta a ponta da Apple. Entendo a intenção, mas não sei se é o melhor caminho
Recentemente tentei concluir esse processo mais de dez vezes e não consegui, porque o sistema de processamento de imagem não gostou de alguma coisa no meu rosto. A foto cumpria todos os requisitos
Ao falar com o suporte, disseram que não usariam outro procedimento, e ficou claro que o processo foi terceirizado para outra empresa, então a Wise também não sabia o que acontecia por dentro e não tinha como ajudar. Disseram que, se eu fechasse a conta, o caso seria escalado para a equipe que decide para onde enviar o dinheiro, e só aí parece que haveria espaço para intervenção humana
No fim, depois de tentar em vários dispositivos, consegui fazer o web app funcionar quando alguma câmera passou na verificação de que o rosto estava dentro do oval exigido
Mostrar um pop-up dizendo “você deve ter 18 anos ou mais” é diferente de tentar, de fato, trancar adolescentes para fora. Nem o Discord nem órgãos governamentais de classificação etária deveriam ter a responsabilidade final por como as crianças devem crescer; isso está mais perto de ser responsabilidade dos pais
Tanto no Reino Unido quanto na Austrália, é intervenção excessiva
No ensino médio, conheci um amigo que começou a ter calvície de padrão masculino aos 13 ou 14 anos, e por volta dos 16 ela já estava totalmente avançada. Ele quase parecia um professor
Era uma mulher com aparência bem jovem, e até os 24 ou 25 anos era confundida com menor de idade. Minha mãe também teve a mim, seu primeiro filho, aos 27 anos, e dizia que as pessoas lançavam olhares duros para o meu pai, confundindo-o com um velho nojento que tinha engravidado uma adolescente. Meu pai era só 3 anos mais velho que ela
Ironicamente, a melhor forma de impedir isso talvez seja se apoiar na política identitária. Algumas etnias podem ter maior probabilidade de serem julgadas como mais velhas ou mais jovens, e pessoas transgênero que usaram bloqueadores de puberdade podem não ter a aparência que sistemas automatizados esperam, mesmo tendo idade legal. Também pode haver diferença entre o rosto escaneado e a foto/informações do documento, e há muitos usuários transgênero no Discord. Ninguém liga para privacidade, mas ao menos fingem ligar para transfobia e racismo
Mesmo que digam que não armazenam os escaneamentos faciais, não há como saber se de fato não estão criando uma base de dados. Se não armazenam, não sei o que impediria um amigo, irmão, primo ou pai com aparência mais velha de virar o “rosto” de um grupo inteiro de menores. Também me pergunto se existe uma forma confiável de verificar que o rosto escaneado não foi gerado por IA ou não está com filtro. Também é difícil impedir o envio do rosto de um pai, irmão ou de um documento roubado
No fim, parece mais teatro de segurança
Em Michigan, ajudei um amigo, um amigo negro dele e a esposa a criarem contas para receber promoções de cassinos online e bônus de indicação. Alguns sites exigiam autenticação facial por vídeo em tempo real, e fizemos isso à noite, em um ambiente escuro. Eu e meu amigo passamos imediatamente, sem problema, mas o casal precisou de muitas tentativas e iluminação extra
Não acho que adolescentes procurarem pornografia na internet, por si só, seja o problema
O verdadeiro problema está na guerra psicológica pela atenção
O problema é o formato em que algoritmos empurram conteúdo sem pausa, como vídeos curtos ou feeds de notícias. Isso zumbifica a tomada de decisão. Conteúdo infinito destrói as pessoas justamente por não ter fim. Mesmo acrescentando verificação de idade, se não arrancarmos pela raiz essa estrutura infinita, isso não vai ajudar muito nem adolescentes nem adultos
Quando se olha para vício em conteúdo não saudável, o ponto central é sempre o excesso, mais do que o tipo de conteúdo. Pedófilos existiam muito antes da internet. Mas uma estrutura que alimenta o próximo vídeo sem parar tira a capacidade de parar, criando um vício mental de “só mais um”. Como o conteúdo não é realmente infinito, feeds infinitos acabam fornecendo pornografia, transtornos alimentares e outros conteúdos lixo em massa, corroendo as pessoas aos poucos
Não se trata apenas de dar acesso a drogas, violência, pedófilos e extorsionários; ele conecta ativamente as crianças a essas contas. Crianças morreram por fentanil ou se suicidaram por causa de assédio e chantagem
Vício em pornografia também é ruim, mas parece que há coisas ainda mais graves acontecendo
Dizem que “empresas de mídia social fazem o usuário gravar um vídeo selfie com o celular e usam IA para estimar a idade”, mas neste texto não vi nada dizendo que a IA consegue distinguir com confiança alguém de 13 anos de alguém de 12,9 anos
Isso parece improvável
Acho correta a insinuação do texto de que agora os sites passarão a querer escaneamentos faciais de todo mundo para sempre. A promessa de não armazenar escaneamentos faciais parece uma mentirinha fofa de criança, e adultos não caem nessa. Ou vão mentir descaradamente, ou usar uma brecha dizendo que não armazenam a imagem, só um conjunto de números como uma impressão digital única derivada dela, ou vão enviar para terceiros armazenarem, ou algo assim. De qualquer forma, está claro que estão rastreando o rosto de todo mundo, então a sensação é: não tentem nos enganar de forma tão amadora
Quero acreditar que exista uma solução de engenharia que permita ao serviço verificar se a pessoa está acima do limite de idade adequado, mantendo a privacidade
Deveria ser possível fazer isso de modo que o serviço em questão não precise saber a identidade do usuário, e o serviço de verificação de idade não precise saber a natureza do serviço com restrição etária que o usuário está acessando
Numa era em que existem coisas como criptografia, certificados e SSO, parece que só falta decidir que esse problema deve ser resolvido
Claro, se o verdadeiro problema não for a idade do usuário, mas sim a coleta de informações, aí é outra história
Um jovem de 15 anos pode parecer mais velho do que alguém de 20, e o pai de outro jovem de 15 anos pode frequentemente deixar largada uma carteira com carteira de motorista
Nos próximos 5 anos, veremos regularmente matérias sobre pais chocados porque seus filhos de 15 anos conseguiram, de algum jeito, passar por uma verificação única de idade de 18+
O fato de a conformidade ser praticamente impossível é intencional. A lei foi desenhada assim, e o objetivo é viabilizar uma proibição de pornografia contornando a reação contrária baseada na liberdade de expressão
“Meu chefe é a. um idiota b. um completo idiota c. definitivamente um completo idiota d. a pessoa responsável pelo meu salário”, e a resposta correta era d
É datado e politicamente muito incorreto
https://allowe.com/games/larry/tips-manuals/lsl1-age-quiz.ht...
Basta rolar para baixo até a parte de respostas e perguntas
A carteira de identidade alemã tem uma função eID há uns 10 anos. Basicamente é um esquema de assinatura com chave pública/privada, e o governo e provedores públicos confiáveis podem emitir identidades. Com essa identidade, é possível assinar transações, confirmar a idade para provedores de serviços comerciais ou, com consentimento, transmitir alguns dados necessários. (https://www.personalausweisportal.de/Webs/PA/EN/citizens/ele...)
Pelo que sei, Estonia e South Korea também têm funções semelhantes em seus documentos de identidade, e isso já é um problema resolvido
https://news.ycombinator.com/item?id=40298552#40298804
Falar sobre isso ou explicar é como arrancar dente. Em geral, as pessoas entendem completamente errado o próprio conceito. Mesmo que certificados criptográficos tenham viabilizado a internet moderna
Há algumas formas de fazer isso, como exigir por lei dos fornecedores de OS ou dos ISPs, ou escrever diretamente as ferramentas
Para facilitar, o Discord poderia oferecer o serviço tanto em adults.discord.com quanto em minors.discord.com, permitindo que os pais bloqueassem mais facilmente apenas a versão para maiores de 18 anos
Os pais devem assumir a responsabilidade pessoal de decidir o que é adequado para seus filhos
Estou no Reino Unido e o Discord pediu essa verificação, mas ainda não fiz
Ainda consigo usar o Discord normalmente; ele apenas bloqueia a visualização de mídias que considera “adultas”
Sou adulto, mas, por princípio, não quero permitir escaneamento facial. Por isso estou pensando em fazer um “deepfake” de mim mesmo com https://github.com/hacksider/Deep-Live-Cam para usar um rosto falso e realizar a autenticação. Se der certo, pretendo escrever sobre isso
O objetivo final dessa campanha parece ser introduzir verificação obrigatória de identidade em redes sociais
A polícia poderia acessar isso por meio de ordens judiciais etc., e ficaria fácil processar quem publicasse conteúdo “nocivo” online
Uma das primeiras grandes mudanças do governo Lee Myung-bak foi exigir registro com nome real e número de identificação de residente em sites com mais de 100 mil visitantes por dia. https://en.wikipedia.org/wiki/Internet_censorship_in_South_K...
Depois disso, o governo basicamente dará de ombros e seguirá em frente
Ao menos as versões selecionadas das gigantes de tecnologia provavelmente vão
Claro que exigir identidade ou requisitos de idade para acesso a conteúdo adulto já existe há muito tempo em todos os países
Como muita gente aqui, também nos perguntamos o que acabaremos tendo que fazer para lidar com isso no trabalho
Não temos recursos para dedicar uma pessoa a isso, e o Reino Unido nem é um mercado grande
Por outros motivos, já precisamos implementar bloqueio regional, e também operamos deliberadamente de forma amigável a VPNs. Imagino que a maioria dos serviços seja assim, então o caminho fácil é adicionar “UK” à mesma lista onde estão North Korea e Iran
Se um número suficiente de serviços implementar isso, espero que o Reino Unido comece a revogar leis desse tipo, ou então passe a ver taxas de uso de VPN no nível da China. Nesse caso, o alcance do dano ficaria limitado a serviços realmente sediados no Reino Unido. Infelizmente, esses serviços já estão desaparecendo rapidamente
Gostaria que a comunidade internacional de tecnologia exercesse essa pressão em conjunto. Hoje em dia, o que nos resta é basicamente a força dos números
Isso parece mais próximo de vigiar todo mundo do que de tornar a internet segura para crianças
Grandes empresas e governos já rastreiam o que fazemos online. Isso parece mais um passo para reduzir ainda mais a privacidade na internet
Os pais precisam se envolver mais no que os filhos fazem online, assim como no mundo real. Apenas proibir de sair não basta. Do mesmo jeito que não deixamos crianças andando sozinhas por lugares perigosos, também não devemos deixá-las vagando online sem supervisão de um adulto. Também é preciso estar preparado para conversas difíceis, como o que são pornografia ou jogos de azar
As empresas online deveriam realmente se esforçar para tornar seus sites seguros para todos. Deveriam pensar como se administrassem um shopping. Se deixarem entrar coisas ruins como pornografia, golpes e jogos de azar, sua reputação será arruinada e as pessoas irão embora
Como algumas pessoas gostam dessas atividades, em vez de proibir tudo, talvez seja preciso haver espaços online separados para adultos que queiram conteúdo adulto. Se forem organizados como áreas de concentração de estabelecimentos adultos em uma cidade, fica mais fácil restringir o acesso das crianças a conteúdo pesado
Se todos fizerem um pequeno esforço para encontrar soluções fáceis e favoráveis à privacidade para proteger as crianças, podemos nos apoiar em princípios simples. Por exemplo, se você quer vender brinquedos para crianças, não deve vender brinquedos adultos sob o mesmo teto, isto é, no mesmo domínio, nem colocar pôsteres que possam influenciar mentes infantis
Exceto por alguns geeks como nós, todo mundo apoia muito esse tipo de lei. Diante de uma arma dessas, a luta pela privacidade está praticamente perdida