- O SynthID adiciona marcas d’água a imagens geradas por IA de uma forma que é facilmente detectada por ferramentas de IA, mas invisível ao olho humano
- A marca d’água é incorporada aos pixels da imagem e é resistente a transformações como recorte e redimensionamento
- A marca d’água do SynthID foi projetada para ajudar a identificar e detectar imagens geradas por IA diante do aumento de deepfakes
- A ferramenta será lançada publicamente e, inicialmente, ficará disponível para clientes do Google Cloud que usam a plataforma Vertex AI e o gerador de imagens Imagen
- À medida que o SynthID for testado e aprimorado, o Google espera usá-lo em mais lugares, compartilhar mais sobre como ele funciona e coletar mais dados sobre sua eficácia
- Demis Hassabis, CEO do Google DeepMind, espera que o SynthID se torne um padrão em toda a internet e possa ser expandido para outras mídias, como vídeo e texto
- O lançamento do SynthID é voltado para clientes que precisam verificar a origem de imagens usadas para diversos fins, de textos publicitários a fotos de produtos
- Como plano futuro, também é possível integrá-lo ao Google Slides e Docs, ou embuti-lo em uma extensão do Chrome ou no navegador para identificar imagens geradas por IA em toda a web
- Espera-se que o lançamento do SynthID desencadeie uma corrida entre hackers e desenvolvedores para encontrar formas de contornar o sistema, o que exigirá atualizações e melhorias contínuas por parte do Google DeepMind
- Apesar da concorrência com outras empresas que desenvolvem ferramentas semelhantes de detecção de IA, o Google está confiante de que a marca d’água será uma parte central da solução para identificar conteúdo gerado por IA na web
3 comentários
Acho que, se essa função realmente for lançada, logo vai aparecer outra ferramenta de IA que remova o SynthID.
Não me parece que já tenha existido uma marca-d'água impossível de remover.
O problema não é apagar a marca d'água, e sim conseguir determinar qual é o original. Se apagar, então é uma cópia.
O mais importante para o SynthID, uma tecnologia para identificar imagens geradas por IA, é justamente que ele não possa ser removido nem substituído. E, até que o SynthID seja aplicado a todas as imagens na internet, também não dá para concluir que uma imagem é uma cópia só porque não tem a marca d'água.