YouTube modifica vídeos com IA sem o consentimento de criadores e adiciona resumos potencialmente enganosos

• A YouTube aplicou tecnologia de aprimoramento baseada em IA em vídeos de alguns canais populares sem avisar criadores ou espectadores
• Os YouTubers de música Rick Beato e Rhett Shull apontaram o problema ao perceberem alterações sutis em aspectos como pele, cabelo e dobras de roupa em seus próprios vídeos
• A YouTube afirmou que se tratava de uma “experiência limitada a alguns vídeos do Shorts” e disse que melhorou a nitidez e o ruído do vídeo por meio de machine learning tradicional
• Especialistas, no entanto, criticaram a falta de transparência e o uso de linguagem evasiva, dizendo que “machine learning também é parte da IA”, e levantaram preocupações sobre a redução da confiança no conteúdo
• O episódio, em que o conteúdo é modificado sem o consentimento dos criadores, é avaliado como um caso que evidencia problemas de veracidade e confiança da mídia digital

---

Experimento confidencial da YouTube de aprimoramento de vídeo com IA

• A YouTube aplicou tecnologia de aprimoramento de vídeo baseada em IA em segredo a vídeos de alguns criadores populares
  • Ajustou elementos visuais dos vídeos sem aviso prévio para criadores ou espectadores
  • Beato e Shull descobriram que textura da pele, cabelo, dobras de roupa e formato das orelhas mudaram em seus vídeos
• Beato comentou que “o cabelo parecia estranho e dava a impressão de que tinha sido maquiado”
• Shull observou que parecia “algo gerado por IA”, destacando que a confiança entre espectadores e criador pode ser prejudicada

Confirmação do experimento e explicação da YouTube

• A YouTube reconheceu que está conduzindo uma pequena experiência em alguns vídeos Shorts
  • René Ritchie, Creator Liaison, explicou no X (antigo Twitter) que era uma “experiência para melhorar a clareza e o ruído do vídeo com machine learning tradicional”
  • A empresa disse que era um nível parecido com a função de ajuste automático de um smartphone
• No entanto, o professor Samuel Woolley da Universidade de Pittsburgh criticou, afirmando que “machine learning é um subtipo de IA” e que a explicação da YouTube é uma descrição enganosa

Expansão de pré-processamento com IA e questões de confiança

• Especialistas indicaram que este caso faz parte de uma tendência ampla de pré-processamento de conteúdo com IA
  • A Samsung usa recursos de IA para tornar fotos da Lua mais nítidas, e o “Best Take” do Google Pixel combina várias expressões faciais para gerar uma única foto perfeita
• Woolley alertou que alterar e distribuir conteúdo sem a autorização do criador cria uma camada invisível de manipulação entre espectadores e mídia
  • Isso leva a preocupações sobre verdade de conteúdo e transparência

Reação de criadores e especialistas

• Beato mostrou postura positiva sobre a iniciativa da YouTube, dizendo que ela é “uma plataforma que sempre experimenta novas ferramentas”
  • Ele disse “A YouTube mudou minha vida” e foi diplomático com as críticas
• Críticos, porém, destacaram que alterações sem aviso prévio estabelecem um precedente perigoso
  • Eles ressaltaram que, como a YouTube é uma plataforma principal não só de entretenimento, mas também de conteúdo de notícias, educação e informação, precisão e autenticidade são especialmente importantes

Direção futura da mídia digital

• O caso antecipa um futuro em que a IA reestruturará conteúdos antes da percepção do usuário
• Ele mostra que um vídeo já alterado por IA pode já estar sendo entregue antes mesmo de o espectador apertar o botão de reprodução
• A necessidade de avisos transparentes sobre o uso de IA e processos de consentimento de criadores ficou em evidência

[GN⁺]

Opiniões do Hacker News

• Uma influenciadora de maquiagem que eu acompanho disse que o YouTube e o Instagram estão aplicando filtros automáticos no rosto dela sem consentimento
  Em vídeos de maquiagem labial, os lábios ficam maiores; em vídeos de maquiagem para os olhos, os olhos ficam maiores; ou seja, a IA detecta o tipo de conteúdo e aplica automaticamente um filtro
  O vídeo relacionado pode ser visto aqui. É chocante que modifiquem o upload de um criador sem consentimento
  • A qualidade do vídeo está baixa demais, então isso parece artefato de compressão
    Como a influenciadora não é técnica, ela provavelmente confundiu isso com um filtro de IA. Blocos de movimento flutuando pela tela são um fenômeno típico de compressão pesada
    É estranho que esse tipo de alegação seja aceita assim num fórum técnico. O vídeo inteiro tem poucos detalhes e marcas evidentes de compressão
  • Isso pode virar uma grande disputa judicial
    Como os termos de uso dizem que a plataforma pode “fazer o que quiser”, depois podem tentar justificar dizendo que foi uma “configuração do usuário”
  • Um dos comentários no Instagram explicou bem
    “Quando a Meta faz tradução automática de voz, ela adiciona um filtro de IA para sincronizar o movimento da boca com o áudio, e nesse processo às vezes um filtro estranho acaba cobrindo o rosto inteiro”
    Dizer que aplicam filtros diferentes para cada tipo de conteúdo parece uma conspiração exagerada
  • O problema é que não existe nem opção para desligar isso. Nunca houve anúncio oficial
  • É uma situação realmente absurda
• O filtro de IA aplicado no lado do servidor no YouTube Shorts está exagerado demais
  A pele fica lisa demais, o cabelo parece cera e aparecem anéis estranhos ao redor de objetos em movimento
  No começo achei que fosse upscaling no cliente, mas como o processamento é no servidor, não dá para desligar
  Se as pessoas se acostumarem com essa qualidade, depois vai ficar mais difícil perceber quando houver conteúdo gerado por IA misturado
  • Se você abrir o mesmo vídeo na interface normal do YouTube, ele pode parecer diferente. A sugestão é copiar o ID único da URL e colá-lo no endereço de vídeo comum
  • Eu nunca tinha pensado nessa intenção, mas ouvindo isso, até parece que pode ser uma estratégia deliberada
  • No fim, acho que isso será totalmente substituído por um feed de vídeos curtos feitos por IA
    As pessoas vão ficar rolando infinitamente vendo só anúncios e conteúdo que derrete o cérebro
  • Talvez usem filtros para esconder a compressão extrema do Shorts
• Quando quero verificar perdas após recodificar um vídeo, uso o comando ffmpeg -i source.mkv -i suspect.mkv -filter_complex "blend=all_mode=difference" diff_output.mkv
  Há muitas alegações assim, mas ainda não vi ninguém publicar um vídeo de comparação (diff) de verdade. Seria interessante se alguém fizesse isso
  • A Jill Bearup já publicou um vídeo comparando isso
    No vídeo do YouTube, em 0:31, ela mostra o Shorts e o original lado a lado
    Na versão em alta qualidade postada no Patreon, a diferença fica muito mais clara
  • Eu também costumo fazer testes visuais de regressão de forma parecida. O texto relacionado está aqui
  • Boa ideia e ótimo one-liner, valeu
• Depois de ver pela primeira vez um resumo por IA do YouTube que explicava tudo ao contrário, decidi ignorar isso
  • Eu gostaria que isso pelo menos reduzisse o clickbait
    Hoje em dia eu tiro screenshot da thumbnail e pergunto ao ChatGPT, ou coloco a URL do vídeo num extrator de transcrição para o Gemini analisar
    Quem faz clickbait agora foi rebaixado a mero “sugeridor de assuntos para perguntar ao ChatGPT”
  • Não gosto do tom artificial dos resumos por IA. A estrutura é sempre igual e no fim sempre termina com algo como “prepare-se para a jornada”
• Não entendo por que o YouTube faz esse tipo de aplicação não autorizada de filtros
  Não é inteligente fazer essas “melhorias” sem informar os criadores
  Mais gente deveria experimentar plataformas melhores, especialmente por causa dos criadores pequenos e médios que sofrem com denúncias falsas de copyright
  • No fim, quem vai provocar esse tipo de mudança talvez seja uma única pessoa ambiciosa
  • Talvez seja uma tentativa de aumentar o engajamento, ou de justificar o investimento em IA
    Como alternativa, há plataformas como o PeerTube do Fediverse
  • A plataforma deveria simplesmente agir como plataforma
    Aumentar engajamento é papel do criador; quando a plataforma interfere, no fim os usuários acabam indo embora
  • Também pode ser uma estratégia para fazer todo conteúdo parecer IA e assim normalizar conteúdo de IA
• Fiquei em dúvida se isso é mesmo um filtro de IA ou apenas perda de detalhes causada por um algoritmo de compressão pesada
  Há um exemplo relacionado neste texto
  Compressão com perdas e quantização adaptativa podem fazer a pele parecer mais lisa
  • Na prática, é um caso de aplicação de filtro. Dá para ver o exemplo neste vídeo do Instagram
  • Mas algumas pessoas ainda acham que são artefatos de compressão. Também pode ser uma tentativa de restauração de detalhes no lado do cliente
• Hoje em dia o YouTube está cheio de vídeos com pessoas falsas
  Cientistas, políticos, economistas e especialistas em tecnologia aparecem totalmente clonados por IA
  • No Canadá, anúncios deepfake de políticos aparecem normalmente no YouTube. Parece que o YouTube desistiu de moderar anúncios
  • Também vi casos em que pegaram vídeos de médicos reais e usaram IA para fazê-los promover produtos
    Reportagem relacionada: matéria do The Guardian
• O YouTube é, na prática, um dataset para treinamento de IA
  Não vejo motivo para o Google fornecer dados limpos para terceiros
• Vejo com frequência thumbnails geradas por IA no YouTube
  Por exemplo, este canal usa uma imagem-resumo que parece gerada por Stable Diffusion, e não um frame real do vídeo
  • Isso é um recurso de geração de thumbnail por IA que o uploader pode escolher
    Eu já vi isso uma vez no meu canal, mas agora a opção sumiu. A maioria dos canais que acompanho está usando esse recurso
    Pessoalmente, não gosto
• Em vez de o YouTube mexer diretamente no vídeo, eu queria que desse poder de edição por IA ao usuário
  Por exemplo, seria legal poder digitar prompts abaixo do vídeo como “trocar inglês por gaélico”, “substituir piadas de tiozão por lorem ipsum” ou “trocar o cachorro por uma forma de vida alienígena”
  • Fico me perguntando quando isso vai ser possível
    Seria incrível se desse para rodar localmente no navegador, mas até lá talvez isso já esteja proibido por lei