YouTube exige rotulagem para vídeos realistas criados com IA

• O YouTube apresentou uma nova ferramenta para que criadores divulguem aos espectadores conteúdos gerados por inteligência artificial (IA) que possam ser confundidos com a realidade
• A ferramenta será adicionada ao Creator Studio, e os criadores deverão informar aos espectadores quando um conteúdo tiver sido alterado ou gerado artificialmente de forma que possa ser facilmente confundido com pessoas, lugares ou eventos reais
• A divulgação aparecerá na forma de rótulo quando a descrição do vídeo for expandida ou na parte frontal do player de vídeo

Exemplos de conteúdo que exige divulgação obrigatória

• Uso da aparência de pessoas reais: conteúdo digitalmente alterado, como substituir pelo rosto de outra pessoa ou narrar um vídeo com uma voz gerada artificialmente
• Alteração de imagens de eventos ou locais reais: casos em que se faz parecer que um prédio real está pegando fogo ou em que uma paisagem urbana real é alterada para parecer diferente da realidade
• Geração de cenas realistas: quando um grande evento fictício, como um tornado se movendo em direção a uma cidade real, é retratado de maneira realista

Exemplos de conteúdo que não exige divulgação

• Conteúdo claramente irreal, ajustes de cor ou filtros de iluminação, efeitos especiais e melhorias visuais como filtros de beleza
• O uso de inteligência artificial para produtividade no processo criativo, como geração de roteiro, sugestão de ideias de conteúdo e criação automática de legendas, fica excluído da obrigação de divulgação

Como os rótulos serão exibidos

• Na maioria dos vídeos, o rótulo aparecerá quando a descrição for expandida, mas em vídeos sobre temas sensíveis como saúde, notícias, eleições e finanças, um rótulo mais visível será exibido no próprio vídeo
• Os rótulos começarão a aparecer primeiro no app do YouTube para celular, e em breve também poderão ser vistos no desktop e na TV
• O YouTube considerará medidas de aplicação no futuro caso criadores optem repetidamente por não divulgar essas informações

YouTube e colaboração com o setor

• O YouTube continua colaborando com todo o setor para aumentar a transparência em torno do conteúdo digital e atua como membro líder da C2PA.
• Além disso, está desenvolvendo um processo de privacidade atualizado para permitir solicitar a remoção de conteúdo gerado ou alterado por IA quando isso violar a privacidade de uma pessoa identificável, incluindo rosto ou voz.

Opinião do GN⁺

• A nova política do YouTube parece contribuir para aumentar a transparência do conteúdo digital e construir confiança entre espectadores e criadores.
• À medida que a inteligência artificial passa a desempenhar um papel cada vez mais importante no processo criativo, esse tipo de ferramenta pode ajudar os usuários a reconhecer e compreender conteúdos gerados por IA.
• No entanto, também pode haver preocupações de que essas políticas imponham um fardo aos criadores ou limitem a liberdade criativa.
• A adoção dessa tecnologia melhora a capacidade de distinguir a autenticidade do conteúdo, mas ao mesmo tempo traz vantagens e desvantagens ao exigir responsabilidade adicional dos criadores.
• Uma plataforma ou ferramenta com função semelhante é a Content Authenticity Initiative, da Adobe, que se concentra em rastrear a origem e a autenticidade de conteúdo digital.

[GN⁺]

Opiniões no Hacker News

• Resumo do primeiro comentário:

  • Do ponto de vista de negócios e aprendizado, a abordagem do Google é um passo inicial na direção certa ao estabelecer regras sobre como definir e rotular IA.
  • Essas regras incluem fazer parecer que uma pessoa real disse ou fez algo que não disse nem fez, alterar imagens de eventos ou lugares reais, ou gerar cenas realistas que nunca aconteceram.
  • Há curiosidade sobre como esses casos-limite serão testados e sobre a possibilidade de disputas legais. Por exemplo, podem entrar em debate correção de cor, filtros de beleza ou o uso de IA para gerar cenas adicionais a partir de diferentes ângulos de vídeo.

• Resumo do segundo comentário:

  • Segundo a página de suporte do Google, há exemplos explícitos do que criadores de conteúdo não precisam divulgar e do que precisam divulgar.
  • Entre os exemplos que não precisam ser divulgados estão: uma pessoa montando em um unicórnio, uma pessoa flutuando no espaço com uso de chroma key, ajustes de cor ou filtros de iluminação, filtros de efeitos especiais como desfoque de fundo ou efeito vintage, geração ou aprimoramento de roteiro do vídeo, script, thumbnail, título e infográfico com ferramentas de IA, geração de legendas, melhora de nitidez do vídeo, upscaling ou reparo, reparo de voz ou áudio e geração de ideias.
  • Entre os exemplos que precisam ser divulgados estão: música gerada artificialmente, uso de narração com a voz clonada de outra pessoa, geração artificial de imagens adicionais de um lugar real, vídeos que façam parecer realista uma partida entre tenistas profissionais reais, fazer parecer que alguém deu conselhos que nunca deu, alterar digitalmente o áudio para fazer parecer que um cantor famoso desafinou em uma apresentação ao vivo, fazer parecer que um tornado ou outro fenômeno climático que nunca aconteceu está se deslocando em direção a uma cidade real, fazer parecer que funcionários de hospital mandaram embora pacientes doentes ou feridos, fazer parecer que uma figura pública roubou algo ou admitiu o roubo, ou que foi presa ou enviada para a cadeia quando isso não aconteceu.

• Resumo do terceiro comentário:

  • Essas regras servem para cumprir a nova Lei de IA da União Europeia.
  • Conteúdos gerados por IA devem ser identificáveis, e textos gerados por IA publicados para informar sobre temas de interesse público devem ser rotulados como artificialmente gerados. Isso também se aplica a conteúdos de áudio e vídeo que configurem deepfakes.

• Resumo do quarto comentário:

  • O exemplo de alterar digitalmente o áudio para fazer parecer que uma cantora desafinou em uma apresentação ao vivo foi citado como algo interessante.
  • Isso seria o oposto de um caso recente no Super Bowl, relacionado à edição silenciosa feita pela NFL para corrigir a "nota rouca" de Alicia Keys durante sua apresentação.

• Resumo do quinto comentário:

  • Uma representação realista de um grande evento que nunca aconteceu, como mostrar um tornado indo em direção a uma cidade real, é um exemplo de conteúdo que exige divulgação.
  • Isso se parece com a situação comum atual das thumbnails no YouTube; não é algo limitado à IA, mas indica que fiscalizar isso será difícil.

• Resumo do sexto comentário:

  • Assim como bancos exigem preenchimento formal de documentos mesmo esperando que criminosos mintam, não há uma consequência clara para mentir ao Google, mas isso pode servir como um sinal para tornar a conta mais suspeita.

• Resumo do sétimo comentário:

  • Alterar imagens de eventos ou lugares reais, como fazer parecer que um prédio verdadeiro está pegando fogo ou que uma paisagem urbana real é diferente do que é, é conteúdo que exige divulgação.
  • Separadamente do artigo sobre o conteúdo real do vídeo, há questionamentos sobre imagens de prévia exageradas feitas para induzir cliques.

• Resumo do oitavo comentário:

  • Há dúvida se o YouTube percebe que a equipe do Google Photos está incentivando ativamente a alteração de vídeos e fotos para representar cenas que nunca aconteceram.

• Resumo do nono comentário:

  • No passado, o Google talvez oferecesse um filtro "sem IA" na busca avançada, mas hoje está ocupado vendendo ferramentas de IA para acalmar as reclamações de Wall Street, sem considerar como vídeos gerados por IA vão afetar ainda mais o problema de buscas que já parecem um "palheiro para encontrar uma agulha".

• Resumo do décimo comentário:

  • Destaca-se que os responsáveis por políticas do YouTube enfrentam a tarefa quase impossível de interpretar casos ambíguos nos próximos anos.