Não transforme a proteção infantil em controle de acesso à internet

• O sistema de verificação de idade, em expansão no mundo todo, está indo além da simples proteção infantil e reconfigurando a própria estrutura de acesso à internet
• Esse sistema opera como uma arquitetura de controle de acesso baseada em “comprovação de identidade antes do acesso”, e em alguns casos está se expandindo para uma camada de identidade no nível do sistema operacional
• Ao confundir moderação de conteúdo com o papel dos responsáveis, ele está se deformando em uma estrutura centralizada de controle na qual plataformas e o sistema operacional substituem o julgamento dos pais
• Embora a evasão técnica seja fácil, todos os usuários acabam pagando o preço em coleta de dados e barreiras de acesso, e há o risco de a infraestrutura de controle se expandir para a verificação de outros atributos
• O verdadeiro risco está nos sistemas de recomendação e no design viciante, e a proteção infantil deve ser alcançada por meio do fortalecimento do controle local e da manutenção de uma estrutura de internet não permissionada

---

A confusão entre verificação de idade e controle de acesso à internet

• Os sistemas de verificação de idade estão se expandindo além de sites adultos e passando a abranger amplamente serviços centrais como redes sociais, mensageiros, jogos e busca
  • A legislação está avançando em várias regiões, como Europa, Estados Unidos, Reino Unido e Austrália
  • O ponto central do debate não é mais se isso vai se espalhar, mas como esse sistema está mudando a estrutura da internet
• Do ponto de vista técnico, a verificação de idade não funciona como uma simples medida de proteção infantil, mas como uma arquitetura de controle de acesso
  • Há uma transição da estrutura anterior, em que “o acesso é permitido por padrão e o bloqueio é exceção”, para uma estrutura em que “é preciso comprovar a identidade antes do acesso”
  • O sistema passa a exigir que o usuário prove suas informações antes de receber o conteúdo
• Em algumas propostas nos Estados Unidos, a verificação de idade está migrando para uma camada persistente no nível do sistema operacional (OS)
  • O OS fornece uma interface de sistema que mantém o estado etário do usuário e o expõe aos apps
  • Nesse caso, a verificação de idade deixa de ser uma medida de proteção limitada e se expande para uma camada de identidade de todo o dispositivo
  • Há pressão também no ecossistema Linux, com casos como a adição do campo birthDate ao userdb do systemd

Distinção entre moderação de conteúdo e o papel dos responsáveis

• O principal erro no debate atual está em confundir moderação de conteúdo (content moderation) com o papel dos responsáveis (guardianship)
  • Moderação de conteúdo é uma questão de classificação e filtragem, decidindo que tipo de conteúdo bloquear, exibir ou atrasar
  • O papel dos responsáveis é a responsabilidade de adultos confiáveis, como pais, professores e escolas, de julgar e orientar conforme o contexto
  • Moderação é técnica, enquanto proteção é relacional, local e situacional
• A legislação sobre verificação de idade funde esses dois problemas em uma única solução centralizada
  • Plataformas, navegadores, app stores, o OS e intermediários de identidade passam a substituir o julgamento dos responsáveis
  • Trata-se de uma abstração equivocada que reduz problemas educacionais e sociais a um problema de autenticação

Limitações técnicas e efeitos colaterais

• Os meios de contorno são claros: VPN, conta de terceiros, credenciais compradas, informações falsas, evasão de sistemas de estimativa de idade etc.
  • Contornar é fácil, implementar é caro, e o efeito real de proteção é mínimo
  • Como resultado, há o risco de isso levar à expansão da coleta de dados pelas empresas
• Todos os usuários pagam o preço
  • Mais verificação de identidade, metadados, logs, intermediários e atrito no acesso
  • Para quem não tem o dispositivo adequado, documentação ou letramento digital suficiente, isso se torna uma barreira de acesso
  • Isso não é uma simples função de segurança, mas uma nova camada de controle da rede
• Uma vez construída, a infraestrutura pode ser facilmente expandida para atributos além da idade
  • Pode ser reutilizada para localização, cidadania, status legal, políticas da plataforma etc.
  • Uma verificação limitada pode se transformar em um sistema geral de portões de acesso

Abordagem alternativa

• É preciso separar os problemas
  • A moderação de conteúdo deve ser feita próximo ao endpoint (navegador, dispositivo, rede escolar, listas locais confiáveis)
  • O papel dos responsáveis deve caber a pais, professores e comunidades locais, com julgamento contextual, permissão de exceções e ajustes contínuos
• O sistema operacional deve funcionar apenas como uma camada de política local controlada pelo usuário e pelos responsáveis
  • Não deve evoluir para uma camada que transmita universalmente informações de idade a apps e serviços remotos
  • Essa linha é uma fronteira arquitetural

A verdadeira origem do risco

• A maior parte dos danos online não decorre da mera existência de conteúdo, mas de sistemas de recomendação, dark patterns, métricas viciantes e modelos de negócio centrados em amplificação irresponsável
  • Se o objetivo é proteger menores, o foco regulatório deve estar nessa área

• A proteção infantil é necessária, mas a internet não deve se tornar um sistema permissionado

  • Para reduzir os danos, em vez de tentar identificar todo mundo, o importante é fortalecer o controle local sem transformar a rede em uma série de postos de controle

[GN⁺]

Comentários no Hacker News

• É preciso separar a proteção infantil do controle da internet. Para evitar que o argumento de “vamos proteger as crianças” vire controle de toda a internet, são propostas três medidas possíveis sem novas leis

  1. Plataformas como Discord ou Gmail devem oferecer um recurso de bloqueio adicional por senha ao alterar informações de perfil, especialmente a idade. Os pais poderiam definir a idade no dispositivo da criança e protegê-la com senha
  2. Desenvolvedores de OS devem adicionar um toggle protegido por senha para controlar instalação e atualização de apps. Funcionaria como o sudo no Linux, permitindo aos pais controlar quais apps podem rodar no dispositivo da criança
  3. Fabricantes de dispositivos devem abrir o código de drivers e firmware e permitir que o usuário bloqueie/desbloqueie o bootloader com uma senha personalizada. Isso permitiria aos pais instalar um OS infantil baseado em open source. Apple e Samsung vêm atrapalhando esse tipo de iniciativa há muito tempo
  • No fim, a ideia seria que os pais definissem a idade da criança, e os apps usassem essa informação via API do OS. Isso se parece com a lei da Califórnia
  • Também daria para expandir a segunda função e começar com algo simples: se o servidor enviar um cabeçalho “18+”, esse site seria bloqueado
  • Mas imaginar que isso possa ser implementado em “uma semana” é fantasia. Integração em nível de sistema é praticamente uma guerra cultural

• Quem grita “proteção infantil” na verdade quer evitar a responsabilidade legal das plataformas. O objetivo seria reduzir moderação de conteúdo e cortar custos

  • Isso faz parte de um movimento para ampliar a censura e forçar exposição de identidade. Há quem diga que a Meta lidera isso, mas talvez até ela seja apenas instrumento de forças maiores
  • A expressão “foi para uma ilha” soa como teoria da conspiração. Nem todo apoiador da lei pertence a esse tipo de grupo
  • Na prática, a principal causa é o lobby da Meta. Narrativas exageradas não ajudam
  • Controlar a mídia é controlar a mensagem. Uma estrutura de vigilância ao estilo 1984 está se tornando real
  • Também há respostas irônicas perguntando “que ilha?”

• O problema real não é verificação de idade, mas verificação de identidade real do usuário. É uma tentativa de vincular toda atividade na internet à identidade pessoal

  • Ainda assim, a verificação de idade com ID digital + prova de conhecimento zero (ZKP) está sendo permitida. Veja o blog relacionado do Google
  • Os efeitos colaterais da anonimidade também são reais. Vazamentos de dados agora ameaçam até vidas e patrimônio. Não dá para tratar isso apenas como uma “virada fascista”, e o setor de tecnologia também falhou em apresentar alternativas realistas. Há mais vítimas adultas do que crianças. A internet não é um lugar para crianças circularem sozinhas

• Quando eu era criança, tive acesso irrestrito à internet. Isso teve um grande impacto, então não pretendo dar aos meus filhos a mesma experiência.
  O Brasil passou a exigir reconhecimento facial e verificação de documento para sites 16+, o que traz alto risco de vazamento de dados biométricos. É uma lei contraditória, com cláusulas de “proibição de vigilância” e de “auditabilidade” ao mesmo tempo.
  Quanto menos familiaridade a pessoa tem com tecnologia, mais fortemente tende a apoiar esse tipo de lei, e quem discorda acaba rotulado como “defensor de abuso infantil”. A responsabilidade pela proteção é dos pais

  • Em sentido oposto, eu cresci graças à internet sem filtros e isso me tornou programador e fundador. Liberdade e autonomia foram o núcleo da minha formação. Meus pares mais controlados pareciam, ao contrário, menos sensíveis ao mundo
  • Também aparece a pergunta: “que impacto concreto essa experiência teve em você?”

• Já é tarde demais. “Proteção infantil” virou outro nome para coleta de dados e reforço da vigilância. As gerações mais novas estão perdendo até a própria sensação de privacidade

  • Mesmo assim, enquanto ainda houver espírito hacker e desobediência civil, não dá para desistir
  • Talvez não seja só ignorância, mas uma geração com valores diferentes
  • A degradação moral da indústria de tecnologia também é parte do problema. Justificam construir sistemas de vigilância por alguns RSUs
  • Na verdade, quase nunca existiu privacidade completa na internet. Desde o começo dos anos 2000, agências de inteligência já monitoravam tudo
  • Mas os casos reais de crime digital são graves. Como no caso da garota de 17 anos atraída e assassinada via Discord e Roblox, não dá para absolutizar apenas a privacidade. A sociedade inteira tem a responsabilidade de proteger todas as crianças

• Se houvesse um sistema que controlasse os dois extremos, tudo bem. Surge até a piada de efeito rebote do tipo “acesso negado por idade avançada demais”

• Em outra visão, a Dead Internet Theory estaria ligada à queda da receita publicitária. A hipótese é que querem empurrar uma internet com identidade real obrigatória para provar que você é humano de verdade

  • Antes eram governos exigindo escaneamento de documento; agora são anunciantes e empresas. Na lógica do capitalismo, essa diferença é grande

• Grupos religiosos usam o combate ao tráfico infantil como justificativa para restringir o acesso à pornografia

  • Alguns grupos têm como objetivo reprimir conteúdo LGBT+. A Heritage Foundation argumenta que “bloquear conteúdo trans é proteger crianças”. Veja a matéria relacionada
  • Também há quem queira saber quais grupos religiosos estão fazendo isso e onde
  • Outra alegação é que “desta vez a Meta está por trás”
  • Outra pessoa menciona que programas para refugiados estariam sendo explorados como rota para tráfico humano

• Foi proposta uma “internet em que, se você não fizer nada, por padrão será tratado como modo infantil e terá bloqueados rastreamento, anúncios e feeds”.
  Se quiser, poderia pagar para desbloquear anúncios e feeds via ID digital + ZKP

  • Mas para quem não está realmente preocupado com “proteger crianças” e sim em construir uma malha de vigilância, esse tipo de proposta não significa nada. Até democracias ocidentais estão corroendo a liberdade da internet por meio de concentração gradual de poder. “Pense nas crianças” é uma palavra de ordem emocional usada para paralisar o julgamento racional. Já foi um milagre a internet livre ter durado tanto

• Quem promove esse tipo de projeto de lei é o mesmo grupo que tenta impor censura em bibliotecas. Em vez de diálogo, querem forçar por lei seus valores conservadores, agindo como maus pais ou pais incompetentes