YouTube melhora arbitrariamente a qualidade de vídeos com IA sem avisar os usuários

• O YouTube melhorou vídeos arbitrariamente com IA, mas aplicou isso sem aviso prévio nem consentimento
• Alguns criadores perceberam que houve pequenas mudanças no conteúdo
• Nesse processo, detalhes como pele, roupas e orelhas foram deformados de maneira não natural
• Os criadores alertam que esses efeitos de IA indesejados podem levar à perda de confiança
• Há preocupação de que, ao intermediar a realidade sem autorização, a conexão com o mundo real seja enfraquecida

---

YouTube aplica correção de qualidade com IA em vídeos sem consentimento dos usuários

A experiência de Rick Beato

• Rick Beato administra um canal musical no YouTube com mais de 5 milhões de inscritos
• Em um vídeo enviado recentemente, ele sentiu que "o cabelo e a pele pareciam estranhos" e percebeu um efeito no rosto como se estivesse maquiado
• A mudança parecia sutil, mas era difícil apontá-la claramente antes de comparar

Como funciona, na prática, a correção de vídeo com IA

• Nos últimos meses, o YouTube vem usando IA para ajustar partes específicas dos vídeos
• Rugas da camisa, superfície da pele e orelhas foram sutilmente enfatizadas ou deformadas
• Essas mudanças estão em um nível quase imperceptível sem comparação direta
• Ainda assim, alguns youtubers apontam que a naturalidade do conteúdo é reduzida e que ele ganha uma sensação artificial típica de IA

Mudanças e preocupações em todo o setor

• Cada vez mais informações do mundo real estão sendo pré-processadas por IA antes de serem entregues
• A comunicação direta baseada na realidade entre criadores e espectadores pode enfraquecer
• Há críticas de que a intervenção da IA pode, aos poucos, corroer a confiança na realidade

Reações dos criadores

• Rhett Shull, youtuber musical próximo de Beato, também encontrou anomalias semelhantes em seus próprios vídeos
• Ele teme que o oversharpening intenso e a textura típica de IA distorçam sua voz online
• Ao dizer "se eu quisesse isso, teria feito eu mesmo", ele também apontou a possibilidade de perda de confiança por parte do público

Conclusão

• A correção secreta de qualidade com IA do YouTube embaralha as fronteiras entre a experiência real do usuário e sua identidade online
• Cresce a preocupação de que a intermediação não autorizada por IA possa levar gradualmente à queda da confiança coletiva e da percepção da realidade

[GN⁺]

Comentários do Hacker News

• Dá arrepios imaginar um fenômeno em que textos online sejam automaticamente "corrigidos" ou "melhorados"; assim que eu publico um artigo ou livro, a voz humana única desaparece e vira algo estranhamente familiar, mas desagradável, como se alguém estivesse usando a casca do que eu escrevi
  • A situação já está estragada; ultimamente suspeito do uso de LLMs como principal motivo para não contratarem editores, e até entre os livros que leio hoje em dia fico me perguntando se não foram escritos por IA, mas, na verdade, a aplicação minuciosa de guias de estilo ou a edição de editores humanos também apaga a singularidade, então não dá para culpar só os LLMs
  • Este é o melhor momento para colecionar material analógico
  • Para impedir isso, vamos precisar de checksums ou assinaturas digitais
  • No jornalismo recente, já é sorte quando pelo menos a história inicial foi escrita por um humano
  • Isso lembra a cena de "eu nasci da minha irmã" (referência ao romance de Kototsubo, de Johei Kambayashi)
• Quando ouço o Beato dizer que "o YouTube está sempre desenvolvendo e testando novas ferramentas", meu cérebro traduz automaticamente para "meu sustento depende do YouTube"
  • Fico me perguntando se até essa fala foi editada por IA; vai ver o que ele realmente disse foi "o YouTube é uma calamidade para o mundo"
  • Do ponto de vista do consumidor, o YouTube é a plataforma mais difícil para assistir a vídeos do jeito que eu quero; para fugir dos anúncios ou desativar totalmente o Shorts, você é praticamente obrigado a usar adblock
  • O Beato revelou recentemente que sofreu com reivindicações abusivas de direitos autorais, teve grandes perdas financeiras e até enfrentou ameaça de suspensão do canal
  • O Beato é músico e produtor, mas usa a produção de vídeos para o YouTube como uma forma mais fácil de ganhar a vida; ele já mencionou várias vezes como trabalhar com músicos pode ser frustrante
  • Se a situação é satisfatória a ponto de o YouTube bancar meu estilo de vida, acho que nem precisa despejar tantas críticas; essas empresas já apanham o bastante, e esse experimento de melhoria de vídeo pode ser controverso, mas não é um grande problema perto do histórico político do YouTube
• É uma pena que a matéria não traga exemplos reais nem comparações em imagem; outras matérias também não fornecem informações concretas, e a maior mudança parece ser algo como as dobras da orelha terem mudado, dei uma olhada nos vídeos e quase tudo é só descrição, com pouquíssimos casos reais, parece que, pela natureza do experimento, esse próprio ruído acaba funcionando como feedback link relacionado no Reddit
  • Se você entrar no vídeo do Rhett Schul (o nome pode não estar exato), dá para comparar vídeo normal com Shorts; em resumo, há um filtro de nitidez sendo aplicado ao Shorts
  • link do vídeo YouTube Is Using AI to Alter Content (and not telling us)
  • Sinto falta de matérias jornalísticas em que ainda havia esforço de verdade
• O YouTube publicou uma posição oficial: está testando, em alguns Shorts selecionados, uma melhoria de qualidade com machine learning tradicional, e disse que não é GenAI nem upscaling; é um processo para remover ruído e aumentar a nitidez, parecido com o processamento de vídeo em smartphones, e afirmaram que vão continuar aprimorando isso com base no feedback de criadores e espectadores link da resposta oficial do YouTube
  • Nesses avisos sempre aparece algo como "[empresa] está sempre se esforçando para oferecer a melhor experiência", o que soa meio como "nossa boa ação foi descoberta! Obrigado!"
  • Shorts já é conteúdo feito para gerar receita de anúncios e ser descartado logo em seguida, então esse nível de melhoria me parece bem razoável
  • A TV já "melhora" filmes há anos, então não vejo grande problema em o YouTube fazer isso com machine learning; será mesmo que vale a pena ficar bravo porque a orelha apareceu um pouco mais nítida?
• Tive uma experiência estranha: recebi pelo Gmail uma notificação de mensagem do LinkedIn, mas o conteúdo do corpo do e-mail era diferente do original no LinkedIn; só duas palavras mudavam, mas justamente isso deixou a sensação ainda mais esquisita e incômoda
  • Talvez o remetente tenha editado a mensagem no LinkedIn, e o e-mail tenha preservado a versão original antes da edição
• O fato de o YouTube não responder se dá ao usuário o direito de escolher quando usa IA para retocar vídeos parece dizer tudo; dá vontade de pedir ao PM do YouTube que pense um pouco melhor antes de começar isso
  • Não há motivo para presumir que eles não pensaram o suficiente, e este experimento também pode ser apenas uma tentativa de medir em dados o efeito desse recurso; para nós pode ser uma mudança indesejada, mas se o resultado mostrar maior engajamento dos usuários, a conversa muda
  • Já faz muito tempo que as empresas estão mais focadas em IA, anúncios e em manter crianças presas aos dispositivos por mais tempo do que nos usuários
  • Do ponto de vista do PM, a reação é tipo "e daí, o que você vai fazer, subir vídeo no Odysee?"; como o YouTube é tão monopolista, a voz do usuário comum tem pouco impacto
• Se a IA é realmente tão boa a ponto de mudar o mundo, por que ela parece estar sendo enfiada à força nos produtos, igual a qualquer outra solução?
  • Dá para fazer a mesma pergunta sobre a internet, não?
• O YouTube diz ter testado um processamento para remover ruído em alguns Shorts, mas os canais grandes já costumam gravar com boa iluminação e color grading pronto, então o efeito real provavelmente é pequeno; por outro lado, redução excessiva de ruído dá um aspecto artificial, quase de vídeo gerado, e menos ruído facilita a otimização da codificação, então talvez o objetivo seja melhorar a eficiência
  • Dá vontade de lançar uma petição para acabar de vez com o Shorts
  • Pela explicação, isso parece mais uma expansão de técnicas de otimização de vídeo; a polêmica existe por causa da palavra "IA"
  • Se remover o ruído facilita a codificação, no fim isso é só outra forma de compressão com perdas; o princípio não é tão diferente de codificar com o codec AV-1
• Recentemente, durante as férias, fui comprar um ebook de Philip K. Dick e, por ser barato, comecei a desconfiar à toa: será que era pirata, uma versão cheia de erros, uma edição censurada para aprovação governamental ou uma edição "melhorada" por IA? Só de pensar nessas possibilidades já dá uma ansiedade de que a autenticidade do real esteja se desfazendo; compartilhar checksums como forma de verificar a autenticidade dos dados é uma ideia possível, mas no fim fica a sensação de que a autenticidade nunca é permanente
  • Acho que andei lendo Philip K. Dick demais; talvez faça mais sentido pensar nisso como um tema de confusão da própria identidade do que da realidade em si