UE prepara repressão ao ‘design viciante’ do TikTok e do Instagram voltado a crianças

• A Comissão Europeia planeja avançar, ainda neste segundo semestre, com medidas regulatórias voltadas a recursos de design viciante do TikTok e do Instagram
• Entre os alvos estão recursos como o scroll infinito do TikTok, reprodução automática e notificações push, que mantêm crianças engajadas
• A Meta foi considerada incapaz de aplicar adequadamente sua própria regra de idade mínima de 13 anos no Instagram e no Facebook
• A UE investiga o problema dos buracos de coelho que levam a conteúdos sobre transtornos alimentares e automutilação, e desenvolveu um aplicativo de verificação de idade com foco em padrões de privacidade
• Após as orientações de um painel de especialistas em segurança infantil online e os resultados das investigações, um rascunho da legislação poderá ser preparado já no verão

---

UE avança com regulação para proteger crianças nas redes sociais

• A Comissão Europeia planeja tomar medidas ainda neste segundo semestre contra recursos de design viciante do TikTok e do Instagram
• A presidente da Comissão Europeia, Ursula von der Leyen, afirmou na European Summit on Artificial Intelligence and Children, realizada na Dinamarca, que irá mirar recursos específicos das plataformas de redes sociais
• Entre os alvos regulatórios estão recursos como o scroll infinito do TikTok, reprodução automática e notificações push, que mantêm crianças usando a plataforma por mais tempo
• A Meta também foi considerada incapaz de aplicar adequadamente sua própria regra de idade mínima de 13 anos no Instagram e no Facebook
• A Comissão Europeia pediu comentários à ByteDance e à Meta

Conteúdo nocivo e verificação de idade

• A UE está investigando estruturas de plataforma que levam crianças a buracos de coelho (rabbit holes) de conteúdo nocivo
• Como exemplos de conteúdo nocivo, foram citados vídeos que incentivam transtornos alimentares ou automutilação
• A Comissão Europeia desenvolveu seu próprio aplicativo de verificação de idade, e von der Leyen afirmou que ele tem “os mais altos padrões de privacidade do mundo”
• Os Estados-membros em breve poderão integrar esse app à carteira digital, e as plataformas online também poderão aplicá-lo com facilidade
• Von der Leyen disse: “Não há mais desculpas. A tecnologia de verificação de idade está disponível”
• A Comissão Europeia aguarda as orientações de um painel especial de especialistas em segurança infantil online e os resultados das investigações, e pode preparar um rascunho da legislação já no verão

Avaliação de violação da DSA e pressão jurídica

• A Comissão Europeia concluiu recentemente que a Meta violou a Digital Services Act da UE por não impedir usuários menores de 13 anos no Facebook e no Instagram
• A investigação preliminar concluiu que menores de idade conseguem contornar facilmente os procedimentos de verificação
• A fiscalização jurídica sobre a segurança infantil nas redes sociais aumentou depois que Meta e YouTube perderam uma importante decisão judicial nos Estados Unidos em março
• Essa decisão entendeu que recursos de design como scroll infinito e reprodução automática contribuíram para o vício de adolescentes e para danos à saúde mental

Repressão às big techs dos EUA e expansão internacional

• No último ano, a UE ampliou a repressão contra as Big Techs dos Estados Unidos durante a aplicação de leis voltadas a reforçar a responsabilização das grandes empresas de tecnologia
• Uma série de multas provocou críticas de autoridades americanas, que alertaram que a UE corre o risco de perder oportunidades de participação na economia de IA
• O presidente dos Estados Unidos, Donald Trump, está reagindo a multas contra empresas americanas que somaram mais de US$ 7 bilhões nos últimos dois anos
• Apple, Meta e Google foram multadas por violações das leis antitruste e de concorrência da UE e contestam essas punições
• No início deste ano, a Comissão Europeia iniciou uma investigação contra o X, de Elon Musk, relacionada à disseminação de conteúdo sexualmente explícito não consensual envolvendo mulheres e crianças gerado pelo chatbot Grok

Avanço das restrições a redes sociais para menores de 16 anos

• Governos de vários países estão avaliando legislações para proteger crianças dos danos das redes sociais
• A Austrália tornou-se, em dezembro, o primeiro país a implementar uma ampla proibição de redes sociais para menores de 16 anos
• Desde então, o movimento por uma proibição de redes sociais para menores de 16 anos vem ganhando força entre governos de todo o mundo
• Na Europa, Spain, France e U.K. vêm propondo suas próprias leis para restringir o acesso de crianças às redes sociais

[GN⁺]

Comentários do Hacker News

• Se você apresenta dados por meio de algoritmos, então já não é mais um common carrier neutro e deve ser responsabilizado pelo conteúdo apresentado
  Se deixar o usuário decidir por conta própria, o escopo de responsabilidade pode ser diferente, como era na mídia social 1.0

  • O Hacker News também é um site que apresenta dados por algoritmos, então, por essa definição, o Hacker News também teria de desaparecer
    Mais precisamente, faz mais sentido entender que o alvo são os algoritmos de recomendação personalizados; e não está claro que oferecer algoritmos de recomendação faça com que um site deixe de ser um common carrier neutro
  • O problema começa já na pergunta de qual vídeo deve ser mostrado primeiro quando o usuário abre o app
    Como o usuário escolheria diretamente entre milhões ou dezenas de milhões de vídeos? Mesmo se houver busca como no YouTube, ainda é preciso decidir como ranquear os resultados, e isso também é algoritmo, então está longe de ser um problema simples de resolver
  • À medida que a discussão se repete, muita gente fica presa no ponto de que “para ordenar qualquer coisa, seja por mais recente ou mais popular, no fim você precisa de um algoritmo como quicksort”
    Não é isso que o público ou os políticos querem dizer com “algoritmo”, mas o significado exato fica um pouco nebuloso. A UE parece entender bem esse ponto e, por isso, foca na expressão design viciante. Isso mostra que o problema não é um algoritmo claramente definível em si, mas uma zona cinzenta ligada ao comportamento induzido
  • Isso é difícil de transformar em realidade jurídica. No fim, é preciso definir o que é um algoritmo
    Inserir anúncios é algoritmo? Incluir curtidas é? Reproduzir automaticamente o próximo vídeo quando o anterior termina? Rolagem infinita? Essas perguntas continuam surgindo
  • O conceito de interactive computer service da CDA 230 não é a mesma coisa que common carrier
    Ignorar essa diferença e dizer que “é fácil de resolver” não parece uma proposta bem pensada

• Isso não é um problema só das crianças
  Muitos adultos também precisam disso. Apps viciantes são muito bem projetados, enquanto a maioria dos bloqueadores é fácil demais de ignorar ou incômoda demais para usar continuamente. Passei pelo mesmo problema e criei um pequeno bloqueador para iOS; o grande desafio é torná-lo rígido o suficiente para realmente funcionar sem que as pessoas o odeiem

  • Ouvi no rádio uma medida adotada na China durante períodos de prova escolar: como todas as escolas fazem exame na mesma época, durante esse período as redes sociais são bloqueadas à noite
    Não lembro os horários exatos, mas acho que era algo como das 22h às 6h. No geral, parece até que poderia ser uma boa política para todos. Acho que também ouvi que empresas de IA ficam offline durante os exames, mas posso estar lembrando errado dessa parte
  • Notificações toast foram um grande erro, e badges também
    Num mundo ideal, a única coisa sobre a qual o usuário deveria continuar recebendo alertas de que alguém tentou contato seria o correio de voz, e ainda assim ele deveria estar sujeito às mesmas regras antispam que todo o resto
  • Sou um adulto que odeia todos esses apps, mas não quero dar ao governo o direito de tomar essa decisão por mim
  • Se as mesmas proteções valessem para adultos, também não seria preciso verificação de idade

• Não entendo por que, no momento em que a vítima faz 18 anos, esses algoritmos de repente passariam a ser aceitáveis
  Eles são nocivos para todos, e se a ideia é regulá-los, então deveriam ser ilegalizados para qualquer pessoa

  • Adultos não são gado para ser controlado, e eu prefiro muito mais ver coisas alinhadas aos meus interesses do que aos interesses do público em geral por meio de algoritmos de recomendação
    Na verdade, eu gostaria de poder enviar meu próprio modelo de recomendação para todas as redes sociais, para fazer uma curadoria melhor, criar buracos negros em torno de temas que quero evitar e até ter uma opção de ajustar isso com um pouco de ruído para explorar coisas novas
  • Só por este artigo não fica claro se coisas como rolagem infinita ou “ver próximo vídeo” seriam reguladas de acordo com a idade do usuário
    O texto só diz que plataformas que usam esse tipo de recurso frequentemente têm crianças como alvo
  • É como cigarro. As restrições voltadas a crianças são muito mais fáceis porque há um consenso social relativamente simples de que elas precisam de proteção
    Aplicar isso a adultos é muito mais difícil, porque o consenso é bem mais fraco
  • A ideia é que um cérebro menos desenvolvido tem menos capacidade de fazer boas escolhas
    Nesse caso, a mesma pergunta vale para por que, ao completar 18 anos, a pessoa de repente passa a ser responsabilizada por suas próprias ações
  • Em uma sociedade livre, geralmente se considera aceitável arcar com o custo de adultos fazerem escolhas ruins, enquanto se entende que crianças não têm maturidade nem discernimento suficientes para tomar essas decisões por conta própria
    A maioria dos adultos também não tem maturidade nem discernimento suficientes, mas permitir que adultos tomem decisões ruins costuma ser menos perigoso do que dar a alguém o poder de decidir que certas escolhas são ruins demais para serem permitidas

• Em especial, acho que limitar a rolagem infinita seria algo positivo de modo geral para reduzir o caráter viciante e os efeitos nocivos das redes sociais
  Gosto muito do fato de o HN usar páginas em vez de feed ou listas intermináveis

  • Outra coisa realmente boa no HN é que todos os títulos são meio sem graça e vão direto ao ponto
    As diretrizes para títulos[1] são excelentes, e eu queria que mais sites e a mídia tradicional fizessem o mesmo. Coisas que não me interessam não tentam desperdiçar meu tempo e minha atenção
    [1] https://news.ycombinator.com/newsguidelines.html
  • O ponto central é que esses recursos são projetados para viciar
    “Rolagem infinita” é só um detalhe de implementação; mesmo que ela fosse proibida, ainda continuariam tornando tudo viciante com todas as outras técnicas

• Ouvi em um podcast chamarem os algoritmos das redes sociais de o cigarro dos tempos modernos, e isso realmente fez sentido para mim
  Essas empresas sabem que seus produtos são viciantes e fazem mal aos usuários, mas continuam insistindo neles. Como cigarro, faz mal não só para crianças, mas para todos. Por isso fiz um bloqueador de algoritmos para Safari, e é impressionante como as redes sociais ficam muito mais agradáveis quando não há nenhum algoritmo de recomendação. A UE e outras jurisdições deveriam olhar para isso de forma mais ampla, e não apenas no contexto infantil, mas entendo por que começam por aí

  • Este comentário é propaganda de um app pago que tenta aproveitar a raiva contra redes sociais
    Reconheço o esforço, mas há interesse financeiro envolvido, então não é uma opinião neutra sobre o tema. Se você quer filtrar feeds de redes sociais, também existem muitos plugins gratuitos como alternativa
  • Comparar redes sociais ao cigarro dos tempos modernos é realmente perfeito
    Um grupo de empresas absurdamente ricas espalha um produto nocivo pelo mundo, tornando-o o mais viciante possível, enquanto enterra ativamente pesquisas que comprovam seus danos. Espero sinceramente que um dia a gente olhe para redes sociais e uso de smartphones do mesmo jeito que olha para o tabagismo
  • Depois que migrei para Pixelfed e Mastodon, já não passo tanto tempo em redes sociais quanto antes
    Não é porque eu não sigo pessoas interessantes, mas porque não há algoritmo explorando meu cérebro reptiliano para me fazer continuar deslizando a tela, então simplesmente não fico lembrando disso. Quando lembro e vou conferir, é sempre agradável: vejo alguns posts, leio um link interessante e 20 minutos depois volto para a vida real. Isso é ótimo do ponto de vista do usuário, mas duvido que dê para construir um negócio baseado em anúncios assim. Eu gostaria de dizer que sou esperto demais para ser sugado por dezenas de vídeos “divertidos”, mas se eu passar uma hora nisso, essa hora simplesmente some e nada fica
  • Basta procurar eu cigarettes boxes no Google Imagens
    Uma proibição pode ser um primeiro passo estreito, mas acho que as redes sociais também precisam de algo como esses rótulos de advertência
  • Como na indústria do tabaco, existem memorandos internos sobre como atingir crianças, enquanto publicamente afirmam que jamais as têm como alvo
    E depois fazem lobby pesado por leis que empurrem essa responsabilidade para outra parte. É parecido com o que a indústria do tabaco fez ao promover, por meio de falsa mobilização popular, leis que proibiam a venda de cigarros para menores. Eles sabiam por pesquisas próprias que isso não fazia grande diferença nas taxas de tabagismo juvenil e ainda fortalecia a imagem “rebelde” do produto. A insistência da Meta para que o sistema operacional passe a declarar a idade parece familiar demais

• Não concordo com isso. A menos que estejamos falando de substâncias químicas, vício tem um lado subjetivo
  Em algum momento, livros, filmes, quadrinhos etc. também podem ter sido vistos como viciantes. Para menores de idade, redes sociais deveriam ser proibidas por completo, e as próprias redes sociais deveriam ser responsáveis por verificar a idade do usuário, assim como casas noturnas são responsáveis pela idade de quem entra. Esse papo de “verificação de idade pelo sistema operacional” claramente não é para proteger crianças, mas para vigiar

  • Não sei por que dizer que “se não for substância química, vício é subjetivo”
    É bem conhecido que os padrões de vício desses apps estimulam a dopamina do mesmo modo que drogas. Em certo sentido, a dopamina é a “substância química” central do vício, e heroína e algoritmos são apenas meios diferentes de obtê-la
    https://med.stanford.edu/news/insights/2021/10/addictive-pot...
  • O caráter viciante é medido pela expressão do gene ∆FosB
    A “capacidade de viciar” de uma substância ou atividade pode ser avaliada por quanta expressão de ∆FosB ela provoca, então isso de forma alguma é algo totalmente subjetivo. Livros, filmes e quadrinhos também poderiam ser medidos nessa escala e, em geral, tudo tem algum grau de potencial viciante
  • A razão para abordar isso dessa forma é que redes sociais são muito mais difíceis de delimitar e, em geral, não são vistas como algo inerentemente nocivo
  • Dá para distinguir vício de algo meramente envolvente de maneira razoavelmente clara, pelo menos pelo fato de causar dano significativo
    Por exemplo, a Wikipedia explica que “vício é um transtorno neuropsicológico caracterizado por um impulso persistente e intenso de usar uma droga ou realizar um comportamento que produz recompensa psicológica imediata, apesar de danos substanciais e outras consequências negativas”. Nesse sentido, dizer que algo é viciante significa que ele tende a produzir vício em uma parcela significativa da população
  • A diferença em relação a livros é que livros não são personalizados para cada leitor
    Por isso, acho que usar livros como exemplo não é adequado

• Uma das melhores coisas do HN é justamente não ter rolagem infinita
  Você olha a primeira tela, vê se algo chama atenção. Se houver muitos comentários, parece importante. Quando acaba de passar os olhos e ler, acabou. Em redes sociais, nunca acaba

  • Foi por isso que criaram /new e o botão de atualizar
    Para ser sincero, como tenho problema com procrastinação, o HN também serve de desculpa tão boa quanto outras redes sociais

• Eu nem uso esses sites, nem estou nessa faixa etária
  O Instagram é tão cheio de anúncios que me irrita imediatamente, então não uso. Se você está tentando divulgar um produto, até entendo o incentivo a aumentar o engajamento. Recentemente parei de ficar rolando o Reddit ou até de entrar nele, e também de assistir vídeos no YouTube, porque é realmente sem fim e estranhamente intenso. Se não estou fazendo nada, fico ansioso e entediado, então estou tentando não fazer mais multitarefa do tipo deixar um vídeo do YouTube rodando enquanto fico rolando o Reddit ao mesmo tempo, como fazia antes. Agora tento trabalhar no computador ouvindo música ou, quando vou assistir a alguma coisa, assistir só aquilo. Também tenho buscado mais interação social real e sentido vontade de ir a lugares como cafés, mas infelizmente moro em subúrbio e, para ir a um café, preciso dirigir. Hoje em dia basicamente só olho este site e alguns sites motivacionais sobre startups

  • Fiquei curioso para saber quais sites sobre startups você acompanha
    Sinto que estou em uma fase parecida no dia a dia

• Não sei por que sempre querem que o governo faça o papel dos pais
  Minha mãe costumava confiscar meu computador quando eu não seguia as regras

  • A proposta é regular produtos que comprovadamente prejudicam o bem-estar em larga escala
    O que isso tem a ver com fazer papel de pai ou mãe?
  • Isso não é uma questão sobre crianças

• Eu, como adulto, também preciso desse tipo de proteção

  • O uso de redes sociais é afetado pela expressão de ∆FosB, então quanto menos você usa redes sociais, menos vontade tem de usá-las
    Isso acontece numa escala de tempo de cerca de 3 meses