Minha voz foi roubada por IA

Link de vídeo recebido por e-mail

• Conteúdo do vídeo: vídeo promocional da Elecrow usando a voz de Jeff Geerling
• Questionamento: Jeff Geerling afirma que nunca usou sua voz naquele vídeo

Suspeita de clonagem de voz por IA

• Suspeita: a Elecrow teria inserido vídeos de Jeff Geerling no YouTube em uma ferramenta de clonagem de voz por IA para usar sua voz
• Caso anterior: menção ao caso em que a OpenAI clonou a voz de Scarlett Johanssen
• Questão legal: há pouca jurisprudência sobre clonagem de voz por IA sem autorização

Formas de resposta

• Situação atual: o relacionamento anterior com a Elecrow não era ruim
• Resposta legal: tomar medidas legais é caro, e também não está claro se isso viola os termos de serviço do YouTube
• Pedido: envio de um e-mail à Elecrow pedindo a remoção do vídeo

Atualização

• E-mail enviado: envio de um e-mail à Elecrow perguntando sobre a intenção de usar a voz por IA e pedindo a remoção do vídeo
• Histórico de e-mails anteriores: existem mais de 43 registros de e-mails com a Elecrow, e no passado ele também recebeu propostas de parceria paga

Reações nos comentários

• Jimmy: é certo que usaram IA, e isso é uma atitude muito inadequada
• Gary Hayman: gosta dos vídeos reais do Jeff, e este caso é muito ruim
• Kayla: percebeu que era uma voz de IA por causa de alguns erros de pronúncia no vídeo
• BC: levanta a possibilidade de terem usado o eleven labs como ferramenta de clonagem de voz por IA
• Mike Robinson: recomenda um episódio do podcast Tech Life, da BBC
• George: afirma que a voz do vídeo nem se parece muito com a do Jeff
• mam: diz que a situação não está clara e recomenda entrar em contato diretamente antes de qualquer ação legal
• John: recomenda consultar um advogado da área de entretenimento
• Derek: declara que não comprará mais produtos da Elecrow
• Oh No: aponta a ironia de pessoas que defendem a liberdade da informação terem seu próprio conteúdo apropriado indevidamente

# Resumo do GN⁺

• Problema da clonagem de voz por IA: com o avanço da tecnologia de IA, a clonagem de voz sem autorização se tornou possível, o que pode gerar problemas éticos
• Dificuldade de resposta legal: há pouca jurisprudência sobre clonagem de voz por IA sem autorização, o que dificulta a reação
• Proteção dos direitos de criadores de conteúdo: usar a voz ou a imagem de criadores sem permissão pode ser problemático tanto ética quanto legalmente
• Alternativa sugerida: em vez de clonagem de voz por IA, é preferível contratar dubladores reais ou colaborar com o criador de conteúdo
• Caso semelhante: menção ao caso de clonagem da voz de Scarlett Johanssen pela OpenAI e recomendação de um episódio do podcast Tech Life, da BBC

[GN⁺]

Opiniões no Hacker News

• Se a IA imitar a voz de uma pessoa para fazer declarações blasfemas, isso pode provocar surtos de violência

  • Em alguns países, blasfêmia já levou a linchamentos violentos
  • Com o avanço da tecnologia de IA, é possível que esse problema se espalhe ainda mais
  • Isso pode ameaçar a vida das pessoas, independentemente de reputação, segurança ou direitos autorais
  • Faltam ferramentas para controlar isso

• Usar IA para clonar vozes provavelmente não escapará do caso Midler vs. Ford

  • É mais difícil defender a clonagem de voz por IA do que o uso de outro dublador

• Precedentes são importantes, mas o avanço da tecnologia exige novos princípios

  • Quando a tecnologia introduz novas capacidades, é preciso definir limites para usá-las de forma benéfica para as pessoas
  • Caso contrário, podemos acabar em um mundo onde os fortes fazem o que querem e os fracos sofrem

• Se os LLMs são a máquina de remix definitiva, quem tem RAG pode virar um DJ digital

  • Isso levanta a dúvida sobre o que significa roubar informação digital
  • Na falta de precedentes legais, a propriedade intelectual e a lei de direitos autorais parecem o velho oeste
  • Se até Scarlett Johansson precisou escrever uma carta dolorosa sobre a imitação da OpenAI, fica a dúvida de como pessoas comuns podem reagir
  • Como Geerling, só dá para ficar triste e com raiva, e dizer: "pelo bem de tudo o que é bom, sejam gentis e sigam um código de honra"

• Mesmo deixando a parte da IA de lado, é errado distorcer a opinião do Jeff ou usar sua imagem sem autorização

  • Usar a voz dele para criar um apoio implícito (fabricado) ao produto é algo muito errado
  • Provavelmente já existem leis para lidar com casos assim

• Sou um pequeno YouTuber de tecnologia e já tive contato com a Elecrow

  • Não só a Elecrow, mas funcionários recebem recompensa, promoção e comissão ao garantir parcerias de longo prazo e colaborações em vídeo
  • Provavelmente alguém achou que seria esperto clonar a voz do Jeff
  • Isso não é uma boa publicidade para a Elecrow
  • Fico curioso se eles vão admitir que isso foi intencional

• Não acho que seja tão parecido assim

  • É um pouco parecido, mas diferente
  • Um tom um pouco mais alto, mais anasalado, e a entonação é um pouco diferente

• Temos centenas de ferramentas de clonagem de voz

  • Claro que vai surgir conteúdo com vozes clonadas
  • Assim como no caso de imagens usadas sem autorização, as plataformas e suas equipes de moderação têm processos para denunciar e remover isso
  • Precisamos de algo semelhante para vozes

• Quando advogados dizem que isso sempre custa muito dinheiro: eu faria esse caso absolutamente de graça

  • Mas provavelmente você não está no estado onde tenho licença para atuar
  • Se o seu problema for interessante o suficiente, você pode encontrar um advogado pro bono
  • Este é <i>um dos problemas mais interessantes do nosso tempo</i>

• A Elecrow parece ser uma empresa chinesa

  • Nesse caso, não esperaria resposta alguma