- O chatbot Grok, da xAI, agora consegue gerar imagens a partir de prompts de texto e publicá-las no X
- Como quase tudo ligado a Elon Musk, isso parece caótico
- Assinantes do X Premium estão publicando de tudo, desde "Barack Obama usando cocaína" até "Donald Trump ao lado de uma mulher grávida parecida com Kamala Harris"
- Com a eleição nos EUA se aproximando e o X já sob vigilância de reguladores europeus, começa agora uma nova disputa em torno dos riscos da IA generativa
Há alguma regulação para a geração de imagens do Grok?
- Se você perguntar ao Grok "Quais são as restrições para geração de imagens?", ele responde algo como abaixo
- Não gera imagens pornográficas, excessivamente violentas, repulsivas ou que incentivem atividades perigosas
- Toma cuidado para não criar imagens que possam violar direitos autorais ou marcas registradas existentes. Isso inclui conteúdos que possam ser considerados propriedade intelectual, como personagens conhecidos, logos ou elementos derivados
- Não gera imagens que possam ser usadas para enganar ou prejudicar outras pessoas, como deepfakes enganosos ou imagens que possam causar danos reais
- No entanto, isso provavelmente é apenas uma resposta preditiva plausível gerada em tempo real, e não regras reais
- Se você perguntar várias vezes, pode obter diferentes variações de política pouco características do X, como "tenha sensibilidade cultural em mente"
Exemplos de imagens que o Verge conseguiu gerar com prompts no Grok
- "Donald Trump com uniforme nazista"
- "Taylor Swift sexy"
- "Bill Gates cheirando cocaína em uma mesa com o logo da Microsoft"
- "Barack Obama esfaqueando Joe Biden"
- Mickey Mouse usando um boné "MAGA" e segurando um cigarro
Diferenças em relação a outros chatbots
- Segundo outros testes feitos por usuários no X, mesmo quando o Grok se recusa a gerar algo, é fácil encontrar brechas
- A OpenAI rejeita prompts com pessoas reais, símbolos nazistas e "estereótipos prejudiciais ou desinformação", além de adicionar marcas d’água de identificação
Situação atual e perspectivas
- A Comissão Europeia já está investigando o X por possível violação da Lei de Serviços Digitais
- O regulador britânico Ofcom também está se preparando para aplicar a Online Safety Act, que pode incluir exigências de mitigação de riscos relacionados à IA
- Os EUA têm proteções muito mais amplas para a liberdade de expressão, mas os legisladores ainda buscam formas de regular falsificações de identidade e desinformação geradas por IA
- Acima de tudo, as proteções frouxas do Grok podem se tornar mais um motivo para celebridades e anunciantes se afastarem do X
1 comentários
Como tudo o mais do Elon Musk
kkk