Está virando moda usar o ChatGPT para fazer 'busca reversa de localização' a partir de fotos
(techcrunch.com)- A localização por rastreamento com base em imagens usando o ChatGPT está se espalhando como uma tendência viral
- Os modelos mais recentes da OpenAI, o3 e o4-mini, combinam análise de imagens e busca na web para inferir localizações com alta precisão
- Usuários estão enviando ao o3 menus de restaurantes, paisagens urbanas e fotos de pessoas para tentar adivinhar o local, como no jogo "GeoGuessr"
- As preocupações com violação de privacidade estão crescendo e, embora a OpenAI tenha salvaguardas, faltam medidas de prevenção claras
- A OpenAI afirmou que existem sistemas de detecção e resposta a abusos, mas ainda há críticas de que as limitações reais continuam insuficientes
Tendência de rastreamento reverso com base em imagens usando o ChatGPT
- Recentemente, vem se espalhando entre os usuários a tendência de rastrear a localização presente em imagens por meio do ChatGPT
- Os novos modelos o3 e o4-mini lançados pela OpenAI vêm com recursos capazes de inferir informações visuais contidas em imagens
- Mesmo fotos borradas ou distorcidas podem ser analisadas após pré-processamento como corte, rotação e ampliação
- Combinado com a busca na web, esse recurso mostra desempenho excelente para inferir a localização de cidades, pontos turísticos, restaurantes, bares e outros lugares
ChatGPT sendo usado como o GeoGuessr
- Usuários pedem ao o3 para "agir como o GeoGuessr" e tentam estimar localizações com capturas de stories do Instagram, fotos de rua e cardápios
- GeoGuessr é um jogo online em que se envia uma foto e se tenta descobrir a localização
- O ChatGPT infere a localização apenas com pistas visuais, mesmo sem histórico de conversas anterior ou metadados EXIF
- Em especial, o o3 apresentou desempenho superior ao GPT-4o em algumas situações
Exemplo: ao analisar a foto de um enfeite de rinoceronte roxo pendurado em um bar escuro
- O GPT-4o respondeu errado: "pub britânico"
- O o3 inferiu corretamente: "bar speakeasy em Williamsburg"
O GPT-4o também mostrou uma precisão impressionante
- Em testes realizados pelo TechCrunch, o GPT-4o também mostrou precisão bastante alta e foi mais rápido no processamento
- Ainda assim, houve casos em que apenas o o3 conseguiu identificar corretamente a localização em determinadas imagens
- Porém, o o3 também não é perfeito, e há casos em que não consegue dar uma resposta ou sugere um lugar completamente diferente
Preocupações com possíveis violações de privacidade
- O fato de qualquer pessoa poder rastrear a localização de terceiros usando fotos, sem praticamente nenhuma restrição, é um grande problema
- Por exemplo, capturar stories do Instagram pode levar a risco de doxxing
- No momento, a OpenAI não menciona esse problema no relatório oficial de segurança dos modelos o3 e o4-mini
Posição oficial da OpenAI
- Algumas horas após a publicação da reportagem, a OpenAI enviou ao TechCrunch a seguinte declaração:
“o3 e o4-mini adicionam ao ChatGPT capacidades de raciocínio visual,
que podem ser úteis em acessibilidade, pesquisa e situações de resposta a emergências.
Nós os treinamos para recusar solicitações de informações sensíveis,
introduzimos mecanismos para evitar identificação pessoal e monitorar abusos,
e estamos agindo ativamente em casos de violação de políticas.” - Mesmo assim, ainda faltam mecanismos específicos de bloqueio ou controles técnicos para esse recurso de rastreamento reverso de localização
6 comentários
Na verdade, não é só o computador fazendo a parte chata no nosso lugar? O método em si já não existia antes?
IA é justamente fazer tudo aquilo que as pessoas conseguem fazer. (como um robô aspirador de pó)
O tempo e o custo necessários ficaram dezenas de vezes mais baratos. Isso claramente representa um aumento da ameaça.
Como aparece no texto, isso já era algo aproveitado na forma de um “jogo”, então mesmo antes não era exatamente um nível inacessível para o público em geral.
A ameaça surge quando se publica uma foto com a qual é fácil identificar a localização em situações nas quais essa localização não deveria ser descoberta.
Antes mesmo disso, como também aparece nos comentários do Hacker News, postar algo na internet pública já é, por si só, algo que pressupõe exposição de informações.
Concordo no geral. Mas o fato de que isso passou a poder ser feito por "qualquer pessoa" e "em instantes" realmente faz pensar em alguns efeitos colaterais bem assustadores.
Comentários do Hacker News