- Os novos Termos de Serviço do X/Twitter permitem usar posts de usuários no treinamento de IA, e a principal questão é que o X, que vinha bloqueando scrapers externos, agora amplia o escopo de uso dos próprios dados
- Elon Musk já criticou no passado o uso de dados do Twitter pela Microsoft, mas agora o X caminha para usar conteúdo de usuários no treinamento de modelos de IA
- A recomendação feita a jornalistas para publicarem diretamente no X, somada à estrutura de colaboração entre xAI, X e Tesla, aumenta a preocupação de que os dados do X possam se tornar uma fonte contínua de dados para a xAI
- A definição baseada em IA dos termos atualizados pode levar à limitação ou ao bloqueio de acesso a conteúdo, afetando a exposição de certos tweets e hashtags e a disseminação de conteúdo
- A experiência na plataforma pode se aproximar mais de um espaço personalizado definido pela identidade do usuário segundo a IA do que de um espaço público igual para todos
O uso de dados visado pela mudança nos termos do X/Twitter
- Os novos termos permitem usar posts dos usuários no treinamento de IA
- Essa mudança se conecta à sequência de controvérsias em várias empresas em torno de dados de treinamento de IA e termos de uso
- A Brave é citada junto à questão da venda de dados protegidos por direitos autorais para treinamento de IA
- O Zoom é mencionado como caso de mudança de termos para usar conteúdo de usuários no treinamento de IA
- A AWS é comparada por ter uma estrutura em que o padrão é opt-in para uso de dados relacionados a serviços de IA
- O X vinha adotando medidas para isolar a plataforma de scrapers externos, e desde o lançamento da xAI a questão central passou a ser a possibilidade de usar os dados do X no treinamento de IA
Elon Musk, xAI e a relação com o conteúdo dos usuários
- Elon Musk já disse no passado que a Microsoft usou dados do Twitter ilegalmente e chegou a sinalizar que pretendia levar a Microsoft à Justiça
- Agora, com o próprio X alterando os termos para usar conteúdo de usuários no treinamento de IA, surgem críticas de que os usuários passariam a contribuir para o negócio de IA de Musk sem autorização separada nem compensação
- Musk já disse a jornalistas que, se quisessem mais liberdade e receita, deveriam publicar diretamente no X
- Essa fala pode ser interpretada como parte de um movimento para concentrar informações exclusivas e interessantes no X e usar esses dados no treinamento de modelos
- A página inicial da xAI informa que a xAI é uma empresa separada da X Corp, mas colabora de forma estreita com X (Twitter), Tesla e outras
- Partindo da premissa de que qualidade e singularidade dos dados podem se tornar um gargalo em IA, os dados do X podem funcionar como uma fonte contínua de dados para a xAI
Possíveis mudanças na experiência do usuário
- De acordo com a definição baseada em IA dos termos atualizados, o acesso do usuário a conteúdos pode ser limitado ou bloqueado
- Certos tweets ou hashtags podem deixar de aparecer
- Seu próprio conteúdo pode ter mais dificuldade para alcançar um público mais amplo
- Já houve no passado controvérsia sobre shadow banning no Twitter, mas a automação e a intervenção de IA podem operar de modo mais sofisticado e abrangente
- Esse tipo de abordagem pode não ficar restrito ao Twitter e se expandir para a internet como um todo
- Resultados de busca do Google
- Exposição de notícias no feed do Facebook
- Caminhos e opções que os usuários conseguem ver
- O problema não é necessariamente a redução dos caminhos da internet em si, mas o estreitamento da experiência individual à medida que alguns caminhos passam a ser ocultados ou revelados conforme a identidade do usuário definida pela IA
- O Twitter pode se aproximar menos de uma experiência universal igual para todos e mais de um espaço personalizado definido por algoritmos de IA
1 comentários
Opiniões no Hacker News
Musk tem insistido em ver o Twitter como um tesouro de dados para treinamento de IA e costuma reclamar que empresas de IA usam dados do Twitter para fins de treinamento.
Eu achava que empresas como a OpenAI não miravam especificamente o Twitter, mas que ele acabava incluído ao rastrearem a web; fico me perguntando se os dados do Twitter são mesmo tão valiosos assim.
Não sei bem que características os tornam especialmente mais úteis do que outros datasets públicos.
No mundo anglófono, quase não há fontes parecidas além do Reddit.
Nenhum dos dois parece diretamente relevante para arquiteturas do tipo GPT, mas futuras arquiteturas de modelos podem vir a tirar proveito disso.
Do ponto de vista da teoria da informação, os timestamps e a ordem relativa dos tweets também contêm uma quantidade de informação diferente de zero.
A maior parte dos dados não é bem estruturada nem etiquetada, a relação sinal-ruído é baixa, e os textos costumam ser curtos e muito dependentes de contexto.
O Twitter também fracassou, de modo geral, como plataforma de vídeos curtos; há sinais de que tentaram criar feeds algorítmicos baseados em interesses/temas, mas a qualidade quase nunca foi boa.
As vantagens são o frescor e a escala, mas, com uma infraestrutura forte de web crawling, isso parece alcançável mesmo sem o Twitter.
A geração atual de grandes modelos de linguagem, ao menos por enquanto, não aproveita bem frescor na escala de minutos.
Mas hoje o Twitter não tem muitos dados parecidos com conteúdo de formato longo, como ensaios, reportagens, livros e artigos científicos.
Talvez seja por isso que Twitter/X tenha aumentado o limite de tamanho dos tweets, tentando coletar esse tipo de dado.
Se você quer uma IA que escreva tweets, não há nada melhor.
O Twitter poderia oferecer um serviço que eliminasse a necessidade de gerentes de comunidade. Você coloca um press release ou o site de um produto, e ele gera um fluxo de tweets publicitários bem lapidados — ou até posts para manipulação de opinião pública.
Essa mudança não se limita ao Twitter; ela mostra como pode ser o novo padrão da internet.
Google/Gmail/YouTube, Amazon, Microsoft, TikTok e toda plataforma de internet que lide com conteúdo gerado por usuários logo farão a mesma coisa.
Se é que já não fazem.
Eu até ficaria bem surpreso se dados processados do GMail, após procedimentos como remoção de informações sensíveis, não fossem usados para treinar LLMs ou outros projetos de IA.
Tudo que você coloca em um servidor vira fonte de treinamento.
Em meados/fim dos anos 2010, no FB Messenger, modelos de recomendação e resposta automática eram treinados com todo o corpus de mensagens não criptografadas trocadas entre usuários.
Não há nada para raspar do lado do servidor.
Os termos agora também incluem uma cláusula de renúncia a ações coletivas.
Para ser sincero, isso me incomoda mais do que a cláusula de treinamento de IA.
Vejo o treinamento de IA como menos problemático do que vender a atenção das pessoas para anunciantes.
Ah, agora entendi.
Por alguns segundos fiquei me perguntando como o sistema de janelas X usava dados em IA.
É difícil imaginar algo pior no mundo do que uma IA treinada com as coisas que usuários do Twitter tweetam.
Eles fizeram isso porque a outra empresa de Elon, a xAI, precisa desses dados.
Quase todos os termos permitem usar dados para melhorar o produto.
“Substituir algumas heurísticas malfeitas por um modelo de IA gigantesco” me parece melhoria de produto.
Portanto, na prática, já era possível treinar modelos de IA com dados de usuários.
Será que é para treinar um chatbot? Achei que Elon tinha dito que acabaria com os bots.
O CEO poderia usar isso no Elon e mantê-lo comportado.
A chance de comportamento do consumidor, organizado ou individual, mudar o que acontece a seguir aqui é de 0%.
No fim, isso depende da lei de propriedade intelectual e de áreas ao redor dela.
Não há muito motivo para esperar ação deliberada aqui.
Seja o antigo Twitter, seja lá como o chamemos agora.
E se o comportamento do consumidor for contaminar o dataset?
Todos nós seremos consumidos pela máquina de IA.
“Toda capacidade nasce da análise de dados, e os dados que eles analisam são você. Seja por intenção direta ou não, todo avanço invade na direção de devorar todos os fatos e inferências que podem ser conhecidos sobre você. Para manifestar esse poder, sua alma precisa ser sacrificada à máquina.”
https://www.mindprison.cc/p/ai-end-of-privacy-end-of-sanity