Juízes impõem limite à imunidade da Big Tech sob a Section 230
(thebignewsletter.com)- O Tribunal de Apelações do 3º Circuito dos EUA decidiu que, no caso em que o algoritmo de recomendação do TikTok mostrou vídeos do Blackout Challenge para Nylah Anderson, de 10 anos, o TikTok não pode evitar o processo apenas com a imunidade da Section 230
- A questão central não era se a plataforma apenas hospedou uma postagem de terceiros, mas se o ato de selecionar e recomendar vídeos na “For You Page” com base em idade, interações e metadados constituía expressão do próprio TikTok
- A decisão reaproveita de forma invertida a lógica de Moody v. NetChoice e entende que, se a plataforma reivindica proteção da First Amendment para feeds curados, então essa curadoria também pode ser vista como fala da própria plataforma para fins da Section 230
- Em voto concorrente, o juiz Paul Matey argumentou que o TikTok deve ser tratado não como publisher do vídeo do challenge, mas como distributor
- A decisão abre espaço, dentro do 3º Circuito, para ações de responsabilização por recomendações algorítmicas, com potencial impacto direto em recursos à Suprema Corte, legislação do Congresso, modelos de negócio das plataformas e estratégias processuais dos autores
Decisão do 3º Circuito sobre o algoritmo de recomendação do TikTok
- O Tribunal de Apelações do 3º Circuito dos EUA entendeu que o TikTok não pode escapar da responsabilidade com base na Section 230 e reverteu a rejeição da ação em instância inferior
- O ponto central do caso é que o TikTok, por meio de seu algoritmo, recomendou e promoveu em uma “For You Page” personalizada da criança de 10 anos Nylah Anderson um vídeo publicado por terceiros
- O vídeo mostrava o “Blackout Challenge”, incentivando espectadores a filmarem a si mesmos praticando asfixia
- Depois de assistir ao vídeo, Nylah tentou reproduzir o challenge e acabou se enforcando acidentalmente, morrendo
- A mãe de Nylah, Tawainna Anderson, processou o TikTok e empresas ligadas à ByteDance com base na lei estadual da Pensilvânia, alegando responsabilidade por produto, negligência e morte por ato ilícito
- A instância inferior havia rejeitado os pedidos por entender que o TikTok apenas hospedou a fala de terceiros, sem produzir fala própria
- No acórdão, o juiz Paul Matey criticou a leitura do TikTok de que “a Section 230 do Communications Decency Act significa que ele pode ser indiferente à morte de uma menina de 10 anos”
Como a Section 230 foi ampliada
- A Section 230 foi promulgada em 1996 para tratar da responsabilidade de serviços de fóruns online como Prodigy e CompuServe por comentários de usuários
- Sua estrutura básica é que um interactive computer service não responde pela fala de outras pessoas quando a hospeda, respondendo apenas pela própria fala
- A lei também protege plataformas quando elas, de boa-fé, restringem o acesso a materiais que consideram obscenos, lascivos, excessivamente violentos, assediadores ou de outra forma inadequados
- Desde então, a internet cresceu a ponto de incluir redes sociais e publicidade de vigilância baseada em dados, inexistentes em 1996, e os tribunais ampliaram o alcance da Section 230 para comércio online e sites de reserva de hotéis, entre outros
- Após o caso Zeran v. America Online no 4º Circuito em 1997, oito tribunais de apelação adotaram interpretação expansiva, formando jurisprudência no sentido de isentar plataformas mesmo quando elas teriam facilitado danos
A dupla proteção obtida pelas plataformas
- As grandes plataformas, ao tentar evitar regulação, afirmam que suas atividades são fala e exigem proteção da First Amendment; mas, quando enfrentam responsabilidade por difamação ou fala ilegal, dizem ser apenas recipientes da fala de terceiros e invocam a imunidade da Section 230
- Essa estrutura tem sido criticada por criar uma “lawless no-man’s-land”, na expressão de um tribunal
- Os casos de danos citados em discussões sobre a imunidade da Section 230 abrangem várias áreas
- Casos em que o Grindr teria facilitado violência sexual
- Casos em que agências de crédito tentaram escapar de regulação por erros em relatórios de crédito
- Casos em que o Facebook teria incentivado violência étnica
- O caso em que, em 2023, o IRS marcou mais de 1 milhão de declarações fiscais como fraude de identidade, com informações coletadas em grande parte de sites como LinkedIn ou Meta
- Casos de golpistas no Facebook fingindo ser militares para aplicar golpes amorosos à distância
- Casos em que empresas de redes sociais miram pessoas com vício em apostas com apps de “social casino”
- Em 2022, Clarence Thomas criticou a interpretação expansiva da Section 230 e apontou que o Facebook não impediu o uso de seus serviços por traficantes de pessoas porque isso reduziria usuários e receita publicitária
Decisão devolve a lógica de NetChoice à Section 230
- Nos últimos anos, tribunais começaram a restringir a Section 230 em casos como Lemmon v. Snap, tratando funcionalidades nocivas de plataformas de tecnologia sob a ótica da responsabilidade por produto, e não da lei sobre fala
- A Suprema Corte analisou em 2023 os casos Gonzalez v. Google e Twitter v. Taamneh, mas não fixou posição substancial sobre a própria Section 230
- Em Moody v. NetChoice, a Suprema Corte considerou que leis da Flórida e do Texas destinadas a impedir discriminação por opinião política por grandes plataformas provavelmente eram inconstitucionais
- Entendeu que a discricionariedade editorial das plataformas para excluir fala política de feeds curados é protegida pela First Amendment
- Mas distinguiu os casos em que o feed apenas reage ao comportamento online do usuário, sem um critério independente de conteúdo, para entregar o que ele quer, hipótese em que não haveria fala e a atividade poderia ser regulada
- O 3º Circuito aplicou essa lógica à Section 230
- Se o algoritmo da plataforma reflete um julgamento editorial ao agrupar fala de terceiros da forma desejada, isso pode constituir expressão da própria plataforma protegida pela First Amendment e também fala primária para fins da Section 230
- Como o algoritmo do TikTok curava e recomendava conjuntos personalizados de vídeos no FYP com base na idade do usuário, dados demográficos, interações online e outros metadados, ele pode ser tratado como fala do próprio TikTok
A lógica de responsabilidade do distribuidor defendida pelo juiz Paul Matey
- O juiz Paul Matey concordou em reverter a decisão da instância inferior, mas apresentou uma fundamentação separada para reduzir ainda mais o alcance da Section 230
- Seu ponto central é que o TikTok deve ser tratado não como publisher do vídeo do challenge, mas como distributor
- Tradicionalmente, em temas como venda de material obsceno, distinguia-se a responsabilidade do autor ou editor da obra e a do distribuidor, como livrarias, bibliotecas e bancas de jornal
- A jurisprudência inicial sobre a Section 230 eliminou essa distinção entre publisher e distributor, e Matey considera essa linha de precedentes equivocada
- Na visão dele, faz mais sentido entender o TikTok, que realiza amplificação algorítmica, como distribuidor sob uma perspectiva tradicional de common carriage; essa abordagem também dialoga com preocupações levantadas por Rohit Chopra e por vários ministros da Suprema Corte
Configuração regulatória além das divisões partidárias e impactos futuros
- A questão do poder da Big Tech e da fala não se divide de forma simples por linhas partidárias
- Na Suprema Corte, Clarence Thomas e Ketanji Brown Jackson às vezes ficam em lado oposto ao de Brett Kavanaugh e Elena Kagan, enquanto Amy Coney Barrett é descrita como voto decisivo
- Tanto Trump quanto Biden são hostis à Section 230
- Reguladores republicanos e democratas como Brendan Carr, Rohit Chopra e Lina Khan vêm há anos alertando para o uso indevido da Section 230
- Neste caso do 3º Circuito, a juíza indicada por Obama Patty Shwartz e o juiz indicado por Trump Peter J. Phipps concordaram quanto ao mérito, enquanto o juiz Paul Matey, também indicado por Trump, defendeu reduzir ainda mais a Section 230
- A decisão faz com que o 3º Circuito se afaste da interpretação da Section 230 adotada pela maioria dos tribunais, e há grande chance de o caso ser recorrido até a Suprema Corte
- Se a Section 230 deixar de funcionar como escudo, pode crescer a possibilidade de ações para responsabilizar plataformas por golpes com falsos militares no Facebook, apoio a violações de leis estaduais sobre apostas, roubo de identidade em massa, violência sexual, abuso infantil e pedidos comuns de difamação
- O Vale do Silício pode se preparar para fazer lobby no Congresso por uma “reforma” da Section 230, e alguns executivos podem avaliar ajustes em seus modelos de negócio para operar em um ambiente em que as plataformas respondam por seus próprios atos
1 comentários
Opiniões no Hacker News
A reação atual parece ser a de que essa decisão é o fim das redes sociais ou levará à censura governamental, mas acho difícil afirmar isso com tanta certeza.
O ponto central é que as redes sociais não são neutras e fazem curadoria do que as pessoas vão ver. Se elas não são uma parte neutra que simplesmente hospeda conteúdo, a interpretação parece ser que o fato de essa curadoria ser feita por algoritmo não elimina a responsabilidade.
Em sentido amplo, isso também pode ser visto como uma espécie de neutralidade de rede. Hoje, as plataformas sociais impulsionam certos conteúdos e rebaixam outros; se as pessoas interagem majoritariamente por meio de feeds, isso se torna um fenômeno parecido com a questão de prioridade entre ISPs e sites.
Pessoalmente, quero ver que mudanças essa decisão vai gerar. A maioria ficou tão horrível que já não tenho conta em nenhum site social além do HN, e talvez as redes sociais voltem a ser toleráveis.
Mas, segundo essa decisão, por causa do ato de moderação, o HN poderia ser responsabilizado por todos os posts, e talvez só haja duas opções: parar de moderar e virar algo como o 4chan, ou reforçar muito mais a moderação, bloqueando contas anônimas e impondo fortemente a responsabilidade do autor nos termos de uso, ou aprovando manualmente todos os comentários.
Não entendo muito bem como seria possível operar um site que modera conteúdo de usuários e, ao mesmo tempo, evita responsabilidade por conteúdo ilegal.
Pela lei original, se uma plataforma fizesse qualquer moderação, ela poderia ser responsabilizada por tudo que os usuários publicassem; a Section 230 foi criada para que remover ou reduzir spam, obscenidade e trolling não levasse a processos por conteúdos separados que não tivessem sido removidos.
Sempre tive dificuldade de entender a ideia de que a curadoria em si seja o problema. A opção de publicar diretamente na web, sem redes sociais, sempre existiu, mas as pessoas repetidamente escolheram menos esse caminho. No extremo, essa decisão poderia deixar apenas essa opção.
Ainda assim, acho que isso não vai acontecer de fato; é mais provável que os custos operacionais aumentem e sejam refletidos nos preços dos anúncios. O ecossistema pode encolher, mas o que é certo é que a ponte levadiça sobre o fosso das grandes empresas sociais será erguida ainda mais, reduzindo a concorrência.
Em vez de buscar uma mídia sem viés como ideal, prefiro que o viés seja revelado. Quero que ela informe o suficiente sobre si mesma e deixe claro onde está seu viés, para que eu possa julgar.
Isso não é muito diferente do raciocínio do tribunal. Edição é expressão, e a página “For You” também é editada, sendo uma forma de expressão própria do TikTok. Dito isso, concordo com a crítica mais ampla de que as redes sociais, em geral, são espaços desagradáveis.
Este caso depende do que o TikTok sabia.
A decisão diz que, antes de Nylah ver o vídeo, o TikTok sabia que 1) o mortal Blackout Challenge estava se espalhando pelo app, 2) o algoritmo o estava entregando especificamente a crianças, e 3) várias crianças tinham morrido depois de vê-lo em suas For You Pages. Mesmo assim, segundo a decisão, o TikTok não tomou nenhuma medida, ou tomou medidas totalmente insuficientes, para impedir a disseminação e evitar que crianças o vissem, e continuou recomendando-o a crianças como Nylah.
Para ver o que o TikTok “sabia”, é preciso consultar o documento “App. 31–32”. Pode ser necessária uma conta no Pacer, e também fico curioso se denúncias de abuso foram ignoradas.
Uma questão parecida chegou até a Suprema Corte em Gonzales vs. Google (2023). Era um caso sobre se a recomendação de vídeos que incentivavam apoio à jihad do Estado Islâmico levou alguém a se alistar e morrer; o tribunal rejeitou as alegações relacionadas a terrorismo e não tratou da questão da Section 230.
https://en.wikipedia.org/wiki/Gonzalez_v._Google_LLC
Esse processo de revisão foi desenvolvido para atender aos padrões de expressão muito mais rígidos do mercado chinês, mas aqui acaba abrindo a possibilidade de uma responsabilidade ainda maior.
Não consigo reencontrar a matéria relacionada; ela está soterrada por fluxogramas do tipo “como fazer um vídeo viralizar”, e esses materiais omitem a decisão de “quando é banido”.
https://storage.courtlistener.com/recap/gov.uscourts.ca3.118...
Os demais documentos estão aqui:
https://www.courtlistener.com/docket/67500541/tawainna-ander...
O TikTok, por meio de seu algoritmo, recomendou e promoveu vídeos publicados por terceiros na “For You Page” personalizada de Nylah Anderson, de 10 anos; um deles era o “Blackout Challenge”, que incentivava espectadores a gravar atos de autoasfixia.
Depois de ver o vídeo, Nylah tentou imitar o desafio e acabou se enforcando sem intenção, morrendo — https://cases.justia.com/federal/appellate-courts/…
Em outras palavras, o algoritmo acabou, por acaso, levando uma criança a se enforcar. Vários sites rodam código que recomenda artigos para leitura com base na demografia dos usuários, e esse código não tem um mecanismo para impedir que textos sobre autoasfixia sejam recomendados a crianças.
No fim, isso depende da premissa de que os clientes que usam esse software não publiquem esse tipo de conteúdo, que pessoas de demografia parecida não o leiam e que uma criança, mesmo recebendo a recomendação, não leia nem imite. Se essa premissa falhar, eu ou meu empregador deveríamos ser responsabilizados?
Não se deve fazer algo em busca de recompensa sem se importar com as consequências e esperar imunidade automática só porque é um algoritmo. Aproveitar os lucros enquanto se evita a responsabilidade é um comportamento covarde e infantil, e comportamento infantil exige supervisão de adultos.
Segundo a alegação, antes de Nylah ver o vídeo, o TikTok sabia que o Blackout Challenge estava se espalhando no app, que o algoritmo o estava entregando a crianças e que várias crianças que o viram em suas For You Pages morreram. Mesmo assim, não tomou medidas, ou não tomou medidas suficientes, para conter a disseminação ou impedir que crianças o vissem, e continuou recomendando-o a crianças.
Você acha que esse comportamento deveria ser legal? Se você soubesse que crianças estão morrendo diretamente por causa do conteúdo que você entrega, não faria nada?
Dito isso, essa plataforma trata de recomendações de textos, e talvez não seja um serviço para gravar a si mesmo seguindo tendências populares. Talvez crianças não sejam o público-alvo ou nem sequer sejam usuárias. Em vários aspectos, a situação é diferente da do TikTok.
O tribunal entendeu que, se o algoritmo de uma plataforma reflete um julgamento editorial ao reunir expressões de terceiros da forma desejada, isso é um “produto expressivo” da própria plataforma e recebe proteção da Primeira Emenda.
A lógica é que, uma vez que a Suprema Corte entendeu que uma plataforma pratica expressão primária protegida ao selecionar, por meio de um algoritmo expressivo, conjuntos de conteúdos de terceiros, é natural também tratar isso como expressão primária para fins da Section 230.
Concordo com isso há muito tempo. Não se trata de um “resultado natural”, como ordem cronológica, formato de threads ou uma ordenação ponderada por recomendações/ajustes de usuários finais fora do controle do site, mas de uma questão de escolha.
Se meu fórum trata de um tema estreito, como off-road 4×4, e eu apago uma postagem claramente escrita por uma pessoa, mas gravemente fora do tema, como política dos EUA, isso também me torna responsável por todas as postagens que não apaguei?
Onde fica essa linha para pessoas que não têm enormes equipes jurídicas como as empresas do Vale do Silício?
Para falar da intenção da Section 230 ou de até que ponto ela se aplica a recomendações direcionadas por algoritmo, é preciso ver o parecer apresentado em Google v. Gonzalez (2023) por Ron Wyden e Chris Cox, coautores da Section 230.
Segundo o comunicado de Wyden, “a Section 230 protege recomendações direcionadas no mesmo grau que outros métodos de exibição de conteúdo, e essa interpretação realiza o objetivo do Congresso de incentivar a inovação na exibição e moderação de conteúdo”. O texto diz que a transmissão em tempo real de conteúdo gerado por usuários se tornou a base da atividade online, e que as proteções da Section 230 continuam tão essenciais hoje quanto eram quando a lei foi promulgada.
[PDF] https://www.wyden.senate.gov/download/wyden-cox-amicus-brief...
https://www.wyden.senate.gov/news/press-releases/sen-wyden-a...
Cox escreveu que a jurisprudência já estabeleceu que, se um site participou de alguma forma da criação ou do desenvolvimento de conteúdo ilegal, a Section 230 não pode servir de escudo. Em FTC v. Accusearch, embora os registros telefônicos tenham sido criados por terceiros, o tribunal entendeu que o site transformou informações privadas em um produto público, o que configurou “desenvolvimento” da informação e levou à perda da imunidade.
Ele prossegue explicando que, ao criar a Section 230, a intenção era que as regras jurídicas do mundo offline continuassem se aplicando à internet. Isso significa que todos os negócios, sejam online ou lojas físicas, devem responder por suas próprias obrigações legais.
No fim, porém, a intenção original não tem grande importância neste caso; quem interpreta a lei são os tribunais. De fato, a Section 230 é uma parte da Communications Decency Act, que foi em grande parte invalidada pela Suprema Corte.
https://jolt.richmond.edu/2020/08/27/the-origins-and-origina...
Não sou contra criar novas leis que a sociedade acredite que reduzam os danos causados a usuários online, especialmente crianças.
Mas, se o caminho for o desaparecimento da Section 230, isso não acabaria favorecendo apenas as grandes empresas de tecnologia, que já têm enormes recursos jurídicos e capacidade de moderação baseada em machine learning ou manual? A barreira de entrada para startups se tornaria insustentável.
Parece que as empresas estabelecidas ganharam, na prática, um passe livre em relação à responsabilidade por conteúdo fornecido por usuários e cresceram o bastante; agora o governo estaria puxando a escada.
É uma interpretação muito boa dizer que a questão fundamental não é se as grandes plataformas de tecnologia devem ser reguladas como falantes. Elas são mais intermediárias do que sujeitos que falam.
Essa perspectiva se apoia em conceitos jurídicos pré-internet, como distribuidores e produtores. Há a ideia de que a estrutura jurídica e governamental não foi projetada para lidar com a era da internet e precisa ser totalmente reformulada, mas este caso também é relevante e importante como um contraexemplo disso.
Excelente texto. O autor parece fazer muitas suposições sobre os desdobramentos futuros, mas compartilho o entusiasmo pelo fim da era da internet como uma “terra de ninguém sem lei”.
Isso também combina bem com o momento atual, em que aguardamos a catástrofe do conteúdo de IA generativa. É como trocar uma catástrofe por outra um pouco mais gentil e amigável aos humanos.
A internet existia antes da CDA e, pelo que me lembro, era bem legal. A internet também pode existir depois dela. Se as gigantes não gastarem fortunas o dia inteiro tentando estimular nossa amígdala com absurdos, talvez ela se torne um espaço muito menos lotado, menos tóxico, menos estimulante e menos viciante.
O ponto central do juiz Matey é que a Section 230 não dá imunidade aos atos do TikTok, exceto por hospedar em seus servidores o vídeo do Blackout Challenge.
Definido assim, surge um problema técnico difícil para o tribunal resolver. Trabalhando com web, entendo “hospedagem” como o ato de armazenar um arquivo em algum lugar. O tribunal também verá assim? Ou incluirá servir, cachear, indexar, linkar, formatar e renderizar? Se um publicador puder ser responsabilizado por qualquer parte disso, o setor seguirá para um lugar muito diferente de 1995.
A decisão em si diz que a questão não é a Section 230 como um todo, mas a seleção e o agrupamento de vídeos específicos pelo TikTok.
O TikTok é responsabilizado não pelo conteúdo dos usuários em si, mas pela parte em que compôs a área “For You”. Faz sentido no ponto de que manipular pessoas não é aceitável, seja para fins políticos, seja do jeito que Facebook ou Twitter fazem. Então a Section 230 não acabou.
Eu gostaria que o “For You” e as recomendações do YouTube desaparecessem. Timeline cronológica é o melhor e traria de volta algum grau de sanidade. Se não gosta, é só não seguir.
A decisão entendeu que o algoritmo do TikTok que recomendou o Blackout Challenge no FYP de Nylah era uma “atividade expressiva” própria do TikTok, e que a Section 230 não bloqueia a ação porque a informação que fundamenta o processo não foi fornecida por terceiro, mas sim pela recomendação algorítmica do FYP do TikTok.
Sem qualquer filtragem, isso também é um algoritmo que pode ser usado para manipular pessoas, e o que se veria seria apenas uma montanha de páginas de SEO. Deixar a responsabilidade em aberto desse jeito é um atoleiro com pouca chance de trazer bons resultados para a internet.
Mesmo que as recomendações do YouTube ou o algoritmo do TikTok me “manipulem”, pessoalmente não vejo nenhum problema nisso.
Basicamente, parece que estamos nos aproximando cada vez mais do controle governamental sobre as redes sociais. Parece uma tendência global, em que o governo passa a definir as regras pelas quais serviços de comunicação e redes sociais funcionam
No entanto, se o Facebook tentasse selecionar e destacar determinados conteúdos, aí surgiria uma possível responsabilidade
A conduta em questão neste processo é que o TikTok sabia, ou deveria saber, que estava direcionando a menores de idade desafios que provavelmente causariam danos se crianças os imitassem. Isso vai muito além de uma simples moderação, e também é o tipo de conduta que várias empresas de mídia social vêm alegando nos tribunais ser expressão própria da empresa
Trata-se de reconhecer que escolher o que mostrar é uma forma de livre expressão que pode gerar consequências, não uma tentativa de controlar essa expressão
A diretiva em questão é a 2000/31/EC e já tem 24 anos. Ela é a antecessora do DSA da UE e, assim como o DSA, a 2000/31/EC também tem alcance extraterritorial
Por exemplo, não permitimos publicidade de tabaco, álcool ou maconha para crianças. Agora as empresas também precisam arcar com as consequências de enviar coisas idiotas como o “Blackout Challenge” para crianças
“Algum idiota postou isso na nossa plataforma” é algo completamente diferente de promover, endossar e enviar esse post para todo mundo. As empresas devem ser responsabilizadas por suas próprias ações