Ilegal por design: revelando o custo em direitos humanos da IA generativa

• Sistemas autônomos de IA generativa entram em conflito com o Direito Internacional dos Direitos Humanos (IHRL) e seus padrões em todo o processo de concepção, desenvolvimento e implantação quando se baseiam em raspagem ilegal da web
• Embora essa tecnologia prometa automação sofisticada e eficiência, as práticas de coleta de dados e treinamento de modelos dependem de uma estrutura que viola o direito à privacidade
• As mesmas práticas geram custos em direitos humanos ao possibilitar discriminação e ameaçar a liberdade de expressão e a liberdade de pensamento
• A Amnesty International conclui que sistemas baseados em raspagem ilegal da web dependem, por design, de violações massivas de privacidade
• Esses sistemas são fundamentalmente incompatíveis com o direito internacional dos direitos humanos, e a Amnesty International pede a proibição desses sistemas

---

Principais conclusões

• Sistemas autônomos de IA generativa baseados em raspagem ilegal da web entram em conflito com o direito internacional dos direitos humanos (IHRL) e padrões relacionados nas fases de concepção, desenvolvimento e implantação
• A Amnesty International considera que esses sistemas dependem, por design, de violações massivas de privacidade e são fundamentalmente incompatíveis com o direito internacional dos direitos humanos

Mecanismo de violação de direitos humanos

• A tecnologia de IA generativa promete automação sofisticada e eficiência
• Porém, as práticas de coleta de dados e treinamento de modelos dependem da violação do direito à privacidade
• Essas práticas possibilitam discriminação e ameaçam a liberdade de expressão e a liberdade de pensamento

Conclusão e exigências

• A Amnesty International pede a proibição de sistemas autônomos de IA generativa baseados em raspagem ilegal da web
• O relatório em inglês pode ser baixado em Download PDF

[GN⁺]

Comentários no Lobste.rs

• Espero que a expressão "raspagem ilegal da web" não acabe levando a outro efeito colateral, com um movimento para proibir raspagem da web em geral

  • Não parece que estejam tentando empurrar uma proibição da raspagem; lendo essa parte, a preocupação é bem específica e razoável
    O problema é que empresas estão coletando dados pessoais em massa sem consentimento e depois comercializando esses dados de formas que criam risco de exposição
  • É uma pena ver a Amnesty parecendo ser influenciada pela lógica das editoras

• A Amnesty International está pedindo a proibição desses sistemas, então está adotando uma posição bem forte

  • Acho que teria sido melhor não formular isso dessa forma. Alguns leitores podem descartar isso como um idealismo irrealizável do tipo “querem fechar de novo uma caixa de Pandora que já foi aberta”
    Ainda assim, faz sentido apontar a necessidade de mecanismos de reparação em decisões baseadas em IA, os vieses observados nos modelos e problemas como raspagem sem consentimento, atribuição de autoria ou compensação

• Ainda não li tudo, mas notei uma passagem na conclusão da seção 5.6, p.35
  A Amnesty International pediu a DeepSeek, Google, OpenAI, Meta, Stability AI, Intel, VMware, Midjourney, Microsoft e Amazon respostas sobre as conclusões da investigação e as preocupações relativas a sistemas generativos de IA independentes e riscos aos direitos humanos, mas a ausência de Anthropic chama atenção
  Procurei no relatório por menções à Anthropic e só encontrei um trecho dizendo que, quando os EUA atacaram o Irã junto com Israel em fevereiro de 2026, usaram o Claude da Anthropic; também aparece a afirmação de que o governo dos EUA ignorou cláusulas contratuais que restringiam o uso da Anthropic para “vigilância doméstica em larga escala” e “armas totalmente autônomas sem supervisão”
  Também diz que produtos da Anthropic vêm sendo usados pelo governo e pelos militares dos EUA desde 2024, que foi a primeira “empresa avançada de IA” a ter seus produtos distribuídos por órgãos governamentais em geral que lidam com trabalho sigiloso, e que, como a Anthropic não alterou essas restrições, o Pentágono a classificou em 6 de março de 2026 como “Supply Chain Risk”
  Não estou dizendo que a Amnesty tenha um viés pró-Anthropic, mas fico confuso sobre por que ela não foi incluída nessa lista. Talvez a lista tenha sido feita porque o relatório menciona OpenAI, Google, Meta etc. várias vezes com fontes específicas de casos de dano, e talvez não houvesse fontes semelhantes sobre a Anthropic, mas ainda assim parece estranho

• A Amnesty não parece mais ser a Amnesty de antes

• Este briefing afirma que se concentra no pipeline de dados da cadeia de fornecimento de produtos de IA generativa, especialmente nas etapas de coleta, análise e processamento de dados
  Também diz que a Amnesty International define ferramentas independentes de IA generativa como produtos desenvolvidos, distribuídos e comercializados apenas para funções de IA generativa, como chatbots de IA e geradores de imagens, vídeos, áudio e texto, excluindo recursos adicionados a uma linha de produto maior, como uma função opcional de IA generativa em um processador de texto