OpenAI adiciona nova marca d’água ao DALL-E 3

• O gerador de imagens DALL-E 3 da OpenAI passará a adicionar uma marca d’água aos metadados das imagens
• Com mais empresas adotando o padrão da C2PA (Coalition for Content Provenance and Authenticity), imagens geradas no DALL-E 3 exibirão a marca d’água da C2PA
• A marca d’água aparecerá em imagens geradas no site do ChatGPT e na API do modelo DALL-E 3, e para usuários mobile ela será adicionada até 12 de fevereiro
• A marca d’água incluirá um componente invisível de metadados e o símbolo CR exibido no canto superior esquerdo
• Será possível verificar a origem das imagens geradas na plataforma da OpenAI (qual ferramenta de IA foi usada) por meio de sites como o Content Credentials Verify
• Por enquanto, apenas imagens — e não vídeos ou texto — incluirão a marca d’água

Impacto da marca d’água

• Adicionar metadados de marca d’água às imagens quase não afeta a latência e não impacta a qualidade da geração de imagens
• Em alguns casos, o tamanho da imagem pode aumentar ligeiramente

Coalition for Content Provenance and Authenticity (C2PA)

• A C2PA, formada por empresas como Adobe e Microsoft, promove o uso da marca d’água Content Credentials para identificar a origem do conteúdo e mostrar se ele foi criado por humanos ou por IA
• A Adobe criou o símbolo Content Credentials, e a OpenAI está adicionando-o aos resultados gerados pelo DALL-E 3
• A Meta anunciou recentemente que adicionará tags a conteúdos gerados por IA em suas plataformas de redes sociais

Identificação de conteúdo gerado por IA

• Na ordem executiva do governo Biden sobre IA, a identificação de conteúdo gerado por IA é uma das principais diretrizes
• No entanto, marca d’água não é uma forma garantida de impedir desinformação
• A OpenAI aponta que os metadados da C2PA podem ser removidos com facilidade, acidentalmente ou de forma intencional, e que a maioria das plataformas de redes sociais frequentemente remove metadados de conteúdos enviados
• Além disso, ao tirar uma captura de tela, os metadados se perdem
• A OpenAI afirma em seu site que adotar formas de estabelecer a procedência e incentivar os usuários a reconhecer esses sinais é importante para aumentar a confiabilidade das informações digitais