Todos os vídeos de IA são prejudiciais (2025)

• A tecnologia de geração de vídeo por IA, ao contrário da expectativa de reduzir as barreiras para a criação, na prática produz apenas cenas superficiais e clichês
• Vários modelos, como Sora, Runway ML e Veo, geram vídeos tecnicamente bem acabados, mas é difícil criar obras com intenção e narrativa
• Esses vídeos têm uma estética artificial e pouco natural típica de “vídeo de IA”, provocando incômodo e desconfiança nos espectadores
• Em especial, desinformação e vídeos de fake news se espalham rapidamente, sobretudo entre pessoas idosas, desfazendo a fronteira entre realidade e ficção
• Como resultado, os vídeos de IA causam danos diretos e indiretos e aceleram o colapso da confiança em toda a mídia visual

---

Expectativa e realidade como ferramenta de criação

• Quando o Sora da OpenAI foi lançado, os usuários esperavam poder criar curtas-metragens inserindo seus próprios esboços e roteiros
  • Porém, diferentemente da demo, os vídeos gerados na prática repetiam resultados que não correspondiam às cenas desejadas
• Outros modelos, como Runway ML e Veo, também foram testados, mas todos produziram vídeos aparentemente convincentes, porém sem coerência narrativa
• Esses resultados não se limitam a uma limitação técnica; têm características tão marcantes que podem ser vistos como uma categoria estética independente chamada “vídeo de IA”

Um novo vale da estranheza

• Vídeos de IA têm uma textura visual característica, imediatamente reconhecível, e passam uma sensação sutil de algo ‘errado’
  • Mesmo sem conseguir explicar com clareza, o espectador detecta instintivamente a artificialidade
• O autor relata sentir forte repulsa por esse tipo de vídeo, e pessoas ao seu redor demonstram a mesma reação
• Segundo reportagem da BBC, o YouTube está alterando vídeos com IA sem o consentimento dos criadores, fazendo até vídeos reais parecerem artificiais
  • Isso provoca efeitos como rostos excessivamente suavizados ou nítidos demais
  • Como resultado, a fronteira entre vídeo real e vídeo de IA fica borrada

Casos de abuso e ampliação dos danos

• O principal público consumidor de vídeos de IA é formado por usuários com fins de spam, golpe e propaganda enganosa
  • Eles usam ferramentas de IA para produzir em massa desinformação e conteúdo manipulado
• Em especial, pessoas idosas são as principais vítimas: em grupos de conversa com familiares e conhecidos, espalham-se rapidamente vídeos falsos de falas de celebridades ou informações falsas sobre saúde
  • Exemplos: vídeo de conselhos de Denzel Washington, fala de Obama sobre religião, mudança de posição de Trump etc.
• O autor tenta repetidamente explicar os sinais de vídeos gerados por IA (por exemplo, a marca d’água do Sora) e formas de fazer checagem de fatos, mas não consegue acompanhar a velocidade da disseminação
• Até nos comentários do YouTube há muitos usuários reais conversando seriamente com personagens falsos

O colapso da confiança

• A tecnologia de vídeo por IA está sendo usada de forma mais eficaz para manipulação e exploração do que para apoiar criadores
• Foram consideradas possibilidades positivas, como educação, acessibilidade e arte, mas, na prática, todos os vídeos de IA acabam gerando efeitos nocivos
  • Danos diretos: desinformação, personificação de indivíduos, manipulação de grupos vulneráveis
  • Danos indiretos: perda de confiança em toda a mídia visual
• A conclusão é que até vídeos de IA aparentemente inofensivos aceleram o colapso da confiança

Conclusão: da barreira da criação à barreira da confiança

• Vídeos de IA se consolidaram como uma tecnologia excepcionalmente eficaz para fins maliciosos
• A barreira técnica que os criadores esperavam superar continua existindo,
  e agora surgiu um problema ainda maior: a “barreira da confiança”
• Esse colapso da confiança permanece como um problema muito mais difícil de reparar

[GN⁺]

Opiniões no Hacker News

• 99% das coisas que existem no mundo são mais ou menos, e vídeos de IA não são exceção
  Mesmo assim, os vídeos feitos por canais do YouTube como NeuralViz foram bem impressionantes. Por exemplo, o clipe de ADHD do Igorrr combinava perfeitamente com a música
  O ponto em comum desses vídeos de IA “bons” é que a IA não faz 99% do trabalho sozinha. Ainda existe intervenção humana em coisas como edição, atuação e roteiro, e em vez de esconder a “estranheza” da IA, eles a aproveitam

  • Sou fã do PosyMusic. O canal produz por conta própria o vídeo, o som e a música, e usou a IA apenas como ferramenta
    Por exemplo, criou sons de amostra com geradores de áudio por IA e até fez um conjunto de ícones para indicar o uso de IA, publicando isso no GitHub. Mas, por ter mencionado IA, acabou recebendo uma enxurrada de comentários maliciosos e no fim removeu os vídeos
  • Hoje em dia há muitos canais de curtas em universos de ficção científica, mas mesmo quando começam criativos, logo se tornam repetitivos
    O Sora passa a sensação de tornar fácil o que é difícil e difícil o que é fácil. Não acho que esses criadores vão ser lembrados por muito tempo
  • Sinto que recebi uma recomendação excelente. NeuralViz era realmente um canal incrível, obrigado
  • Acho que nem mesmo 1% das obras “boas” de vídeo de IA valem a pena se considerar efeitos colaterais como fake news ou desrespeito aos mortos. No geral, o efeito líquido sobre a sociedade é muito negativo
  • Vi este link e não consegui segurar o riso
    Mesmo assim, eu gostaria que fazer esse tipo de vídeo fosse mais caro. Pelo visto, não deve ser algo resolvido só com alguns prompts simples

• Hoje em dia, os vídeos gerados por IA estão aparecendo cada vez mais na publicidade. Deve ser por redução de custos, mas o resultado é que anúncios que antes eram só irritantes agora ficaram em um nível incômodo e estranho
  Quando se fala dos riscos da IA, só se fala em superinteligência, mas o problema real é a aceleração da disputa por conteúdo de baixa qualidade

  • Vi um anúncio de uma empresa local de persianas e era claramente um vídeo feito com IA. Os humanos falsos já são um problema, mas também não dá para confiar que as persianas do vídeo sejam iguais ao produto real
  • Eu também não odeio IA, mas 95% dos anúncios online têm qualidade de fundo do poço. Principalmente em anúncios de livros de história, havia muitas ilustrações absurdas feitas por IA
    Projetos como The Codex Book também passam a impressão de estar vendendo arte de IA como se fosse trabalho manual, então não me transmitem confiança
  • Assisti de propósito até o fim a um anúncio com a frase “esta imagem foi gerada por IA”. Eram vários animais dirigindo um carro, e a sensação de uncanny valley era tão forte que me deu enjoo o tempo todo
  • Acho que cada vez menos gente vai conseguir distinguir esses vídeos falsos. Principalmente se as gerações mais novas se acostumarem com resultados de IA, existe o risco de a fronteira entre o real e o falso ficar borrada
  • A pesquisa em segurança de IA é apresentada como se fosse impedir a Skynet, mas isso acaba desviando a atenção dos problemas realmente concretos

• Muita gente diz que vídeo de IA dá “liberdade criativa”, mas na prática a maioria das decisões criativas é tomada pela IA
  O tom do vídeo, os cortes, a paleta de cores etc. no fim são resultado do aprendizado em cima da criação de outras pessoas. Ou seja, vídeo de IA é um processo de remoção da criatividade

  • Alguém disse que “usar IA é como usar aimbot na música”, e é uma comparação muito apropriada. É parecido por ser uma forma de trapacear, pulando a parte central do processo criativo
  • Mas em comunidades pequenas ainda há pessoas criando vídeos de paródia ou memes de forma criativa. A IA só elevou o nível desse tipo de trabalho, não eliminou a criatividade
    Antes criticavam música baseada em sampling, mas hoje artistas como Fatboy Slim são reconhecidos; a tecnologia é apenas um novo meio de expressão
  • Eu também achava que a maioria dos vídeos de IA era ruim, mas o vídeo “Star Wars: Beggar’s Canyon” foi uma exceção. Síntese de voz, composição dos cortes e sequência, tudo era excelente, e dava para sentir sinceridade ali
  • Se o que você diz está certo, então as pessoas realmente criativas ainda vão se destacar. O mundo já tem criatividade até demais, e talvez falte mais gente disposta a fazer o trabalho chato
  • No campo de modelos abertos de difusão como Stable Diffusion ou Wan, na verdade estão surgindo novas formas de arte. O próprio workflow complexo com LoRA, fine-tuning etc. já é um ato criativo

• Tenho uma ideia para filme e, graças à IA, agora consigo visualizar diretamente as imagens que tenho na cabeça
  A afirmação “vídeo de IA faz mal” no fim vai acabar soando ultrapassada, como no passado soaria dizer “todo vídeo faz mal”

  • Sua experiência é interessante, mas a IA não vai de repente transformar alguém em cineasta. Escrever prompts também é, no fim, um tipo de escrita. Vale se perguntar se o resultado realmente expressa a sua visão
  • Também não concordo com esse olhar tão pessimista. Acho que as pessoas só assumem uma postura negativa por insegurança profissional ou resistência. O impacto social da tecnologia só vai ficar claro com o tempo
  • Mas a IA ainda tem grandes limitações para implementar exatamente as imagens que você tem na cabeça. No fim, ela não passa de um remix de coisas que já existem
  • É uma abordagem parecida com a de um produtor musical que, em vez de sintetizar diretamente o som que quer, fica girando presets aleatórios até achar algo que sirva
  • É uma história interessante, mas queria saber o que você pensa sobre o problema de fraude citado no artigo

• Concordo com a preocupação do autor de que “vídeo de IA leva as pessoas a manipular, enganar e explorar”, mas uma afirmação binária como “todo vídeo de IA é prejudicial” enfraquece a mensagem

• Claro que há muitos vídeos nocivos, mas ao mesmo tempo também existe arte comovente
  Canais como kellyeld2323 e alffx123 são exemplos disso

  • Mas o valor artístico não é grande o bastante para compensar os efeitos colaterais

• Mesmo antes da IA, a maior parte dos vídeos na internet já era propaganda, indução à raiva e manipulação do consumo. Pelo mesmo critério, os vídeos tradicionais também já eram suficientemente nocivos

• O autor identificou corretamente o problema, mas a causa técnica fundamental é a falta de controle
  Hoje, modelos como Sora, Veo e Runway são geradores probabilísticos, então não conseguem criar a cena específica que o diretor quer
  Para spammers, basta um “rosto falando” ou uma “cidade em chamas”, mas artistas precisam de ângulo exato, iluminação e consistência de personagem
  Até que essas técnicas de controle do espaço latente (por exemplo, uma versão em vídeo do ControlNet) evoluam, o vídeo de IA vai continuar sendo mais um gerador de ruído digital do que uma forma de arte

• Concordo com a frase “a IA não transforma ninguém em diretor de cinema”, mas na prática o problema é a estrutura em que até pessoas talentosas não conseguem oportunidades
  Incontáveis criadores não conseguem mostrar seu trabalho ao mundo por causa de financiamento, networking e da estrutura da indústria. A IA também pode virar uma nova oportunidade de expressão para essas pessoas