Microfone de detecção de tiros da Flock agora começa a detectar até vozes humanas

• O novo microfone de detecção da Flock agora passa a ouvir também vozes humanas e sinais de sofrimento
• O dispositivo era usado antes para detecção de tiros, mas agora também tenta identificar situações de emergência envolvendo cidadãos
• Surgem possíveis questões legais, como violação de privacidade e polêmica sobre escuta ilegal
• Em algumas cidades, já houve rescisão de contrato com a Flock e ordens de remoção, com conflitos se agravando após reinstalações repetidas
• Cresce a preocupação com o aumento do risco para cidadãos inocentes e a violação de liberdades civis

---

Microfone de detecção de tiros da Flock ganha função de captar vozes humanas

Flock Safety e a apresentação do novo recurso

• Flock Safety é uma empresa de tecnologia policial que possui uma rede de leitores automáticos de placas (ALPR) em todo os Estados Unidos
• O novo produto divulgado desta vez é a linha de microfones Raven, que usa detecção acústica em espaços públicos para identificar sinais de “sofrimento humano”
• Antes, o uso era voltado à detecção de tiros e alerta à polícia, mas recentemente também vem sendo promovido com a função de detectar “situações de emergência” (como gritos)

Incertezas e preocupações com a nova função

• Nos materiais publicitários da Flock, aparece o envio de alertas à polícia quando são detectadas vozes de sofrimento, como “gritos”
• No entanto, a forma real de detecção e classificação de voz não foi divulgada com clareza, deixando opaco o modo de funcionamento
• Os sistemas acústicos de detecção de tiros já apresentavam falhas frequentes com sons como explosões de carros e fogos de artifício
• Há possibilidade de conflito jurídico com normas como leis que proíbem grampos e a gravação de conversas privadas (a chamada eavesdropping law)

Problemas legais e falhas de implementação já ocorridos

• No passado, em Illinois, a Flock foi processada por suposta violação de leis estaduais e por compartilhar dados de veículos com a ICE
• Em 2023, no estado da Carolina do Norte, foi emitida uma ordem proibindo a instalação por operação de equipamento sem licença
• Na cidade de Evanston, mesmo após a rescisão do contrato com a Flock, a empresa teria reinstalado equipamentos por conta própria, e os dispositivos estão temporariamente cobertos com fita preta

Questionamentos sobre a utilidade da tecnologia

• Segundo relatório de um comitê de supervisão cidadã da região de Illinois, mais de 99% dos alertas da Flock não resultam em ação policial efetiva
• Já se concretizou o risco de a polícia responder a alertas falsos de tiros e colocar cidadãos inocentes em perigo (ex.: caso do ShotSpotter em Chicago)
• A expansão da função de detecção de sofrimento pode aumentar riscos legais, de direitos humanos e de integridade física inesperados

Resumo geral

• A expansão da tecnologia de detecção de áudio da Flock Safety é um dos principais fatores por trás do aumento de violações involuntárias de privacidade e controvérsia social
• Devido a questões legais e éticas, algumas comunidades já estão promovendo rescisões de contrato e remoção de equipamentos
• Também cresce a exigência por explicações técnicas claras e mais transparência sobre a nova função
• Se espalha um clima de revisão crítica sobre a utilidade do produto e sua contribuição real para a prevenção de crimes

[GN⁺]

Comentários no Hacker News

• É muito deprimente ver que o utilitarismo orientado ao lucro está substituindo os valores americanos tradicionais; na indústria de tecnologia, quase não existe mais discussão sobre valores ou sobre a sociedade que queremos construir, parece que tudo se resume a "melhorar um pouco o problema e ganhar dinheiro com isso", e esse é o mundo que vamos acabar tendo
  • Eu chamei isso de utilitarismo orientado ao lucro, mas talvez nem mereça esse nome; para mim, isso está mais perto de corrupção criminosa. Essas empresas, na verdade, nem conseguem dar lucro, então ficam sobrevivendo à força com contratos governamentais; se tivessem que competir no mercado privado, talvez quebrassem ainda este ano. Também existe uma direção muito clara por trás disso; eles têm uma visão definida e estão prontos para fazer qualquer coisa para realizá-la. Por isso acho importante aplicar leis antitruste; agora empresas "grandes demais para falir" viraram o padrão
  • Isso me lembra o caso dos "detectores de vape" usados em escolas; eles podem ser configurados para detectar ruído ou palavras específicas, mas na prática escapam da questão de violação de leis contra escuta clandestina dizendo que só fazem correspondência de padrões com áudio armazenado brevemente na memória
  • Quando algo é realmente implementado, parece que já não existe mais espaço para controvérsia ou debate; a discussão só começa de verdade depois que as consequências já aparecem
  • Fiquei curioso se você já leu <i>The Technological Republic</i>; o que você acabou de dizer é quase o mesmo que o CEO da Palantir defende nesse livro. Ele disse que precisamos discutir o que é uma "boa vida"; ironicamente, parece ter chegado a uma conclusão um pouco diferente quando o assunto é vigilância
• Li a fala do Garry Tan (CEO da YC) no X, algo como "parece que vocês estão pensando em vigilância ao estilo chinês, mas a vigilância ao estilo americano pode ajudar as vítimas". Eu tenho respeito pelo Garry, mas não entendo por que ele acha que uma linha tão além do essencial seria uma linha com a qual todos concordariam; no fim, toda arma acabou sendo usada para ferir seres humanos
  • Passei anos me esforçando muito para impedir a adoção da Flock na minha comunidade, mas as opiniões são dramaticamente divididas. A região onde moro é uma das poucas administrações locais mais progressistas dos EUA, e mesmo assim o debate em torno da Flock não é uma simples questão de traçar uma linha; na prática, as pessoas estão fortemente polarizadas em relação a essa tecnologia
  • Vi propaganda exagerada dizendo que a "Flock Safety resolve 10% dos crimes no país". Não há dados que sustentem isso. Eu mesmo recebi uma multa de excesso de velocidade por causa desse sistema, então fico me perguntando se isso também entra na conta dos crimes resolvidos. É verdade que a vigilância pode ajudar vítimas, mas ao mesmo tempo também pode ameaçar direitos civis; no fim, precisamos ter o direito de decidir por conta própria quanto da nossa liberdade estamos dispostos a ceder. Acho que assisti Person of Interest demais link
  • Não sei direito quem é o Garry e nem me importo, mas esse tipo de argumento é sofisma; é uma controvérsia que nasce da contradição fundamental do negócio do qual ele faz parte. Se ele fosse realmente sensato, teria ficado calado
  • Você disse que respeita o Garry, mas ouvindo esse tipo de retórica fica cada vez mais difícil dizer isso. A lógica de "minha bomba só mata os bandidos" é, na essência, ignorante ou maliciosa
  • Essa lógica pode ser aplicada nos dois sentidos. Há casos em que a política de dissuasão nuclear (MAD) reduziu bastante a guerra em si e, na prática, salvou mais vidas. Reconheço o risco de cauda pesada da violência, mas não acho que a lógica do Tan seja irracional. Dá para ver pelo Reino Unido, um paraíso do CCTV, que uma sociedade pode continuar racional mesmo sob certo nível de vigilância
• Como diz a frase "hoje é o sofrimento humano, amanhã será tudo do ser humano", a Flock vai acabar vigiando tudo assim que resolver suas limitações técnicas. O único objetivo dessa empresa é dinheiro, e seu padrão moral está desligado. Está pronta para vender qualquer coisa que a polícia e o governo quiserem. Sempre que vejo notícias assim, eu acabo doando US$ 20 para a EFF ou a ACLU
  • Também é um problema o fato de que "o governo impõe o custo sobre nós e no fim compra isso com o nosso dinheiro"; estão simplesmente transferindo essa conta à força para a população
  • Imagino que no futuro vamos ouvir a desculpa de que "grampear conversas comuns pode impedir crimes graves"; esses casos sempre começam de forma pequena e gradual
• O escorregador para o inferno é extremamente íngreme; parece que tempos ainda mais sombrios vêm pela frente. Eu queria perguntar aos defensores da tecnologia: se a NSA e a Palantir já vêm nos vigiando há tanto tempo, por que a taxa de terrorismo aleatório acabou subindo em vez de cair? O objetivo central desses sistemas de vigilância não era justamente impedir isso com antecedência?
  • Eu questiono se é mesmo verdade que "a taxa de terrorismo aleatório subiu depois da vigilância da NSA e da Palantir". Na minha visão, do começo dos anos 90 até antes de 2020, o crime na verdade caiu; depois de 2020 o mundo mudou tanto que ficou difícil comparar qualquer coisa
  • Fico curioso sobre o cenário contrafactual; sem saber quantos ataques essas ferramentas impediram com antecedência, também não dá para saber qual seria a linha de base
  • Não é razoável esperar privacidade em espaços públicos, e isso inclui tanto gravação de vídeo quanto de áudio
  • Também acho meio estranho o próprio termo "terrorismo estocástico"; terrorismo, por natureza, já é violência aleatória
• Só para deixar claro: é a Flock (YC 2017)
  • Hoje em dia quase não se coloca mais a turma da YC no título do post; a exceção é Launch HN
  • Existem muitas ideias que são ruins para a sociedade inteira, mas boas para empresas; a YC sempre vai priorizar o negócio
• O Estado de vigilância de 1984 pareceria até brando em comparação; à medida que a tecnologia continuar avançando, em breve cada movimento de todas as pessoas será monitorado em tempo real, e a questão decisiva agora é quem terá acesso e controle sobre esses dados
• É impressionante que alguém realmente acredite que esse tipo de tecnologia nunca será abusado
  • Eles realmente prometeram. Talvez até tenham jurado de dedinho. (E os hackers também prometeram nunca roubar dados)
• O próximo passo lógico é substituir isso pelo microfone que carregamos todos os dias no bolso link do YouTube
  • Em 1960, todo mundo dizia que a proposta de "fazer todos os cidadãos carregarem um rastreador por rádio" era impossível, mas em 2012 isso virou realidade com o "dá para carregar dois iPhones?"
• "Agora que todos são sempre vigiados e gravados, todo mundo vai se comportar da melhor forma" link do YouTube
• Estamos sendo filmados na rua, nos semáforos, por viaturas policiais e drones, em parques e até por câmeras de campainha. Não digo isso como piada, mas parece que a era das grandes telas de 1984 nos observando já não está tão distante
  • Agora já existem LLMs realmente excelentes, então nem é mais necessário que humanos façam a vigilância ou a escuta diretamente. Os fluxos de dados podem ser analisados e resumidos automaticamente, permitindo detectar comportamentos ou palavras indesejadas, sinais de suspeita ou até delírios. Vivemos numa era em que agentes mascarados detêm cidadãos à força dentro e fora do país, e no exterior já existem bombardeios com drones autônomos; o futuro não parece brilhante, e por enquanto eles ainda são semi-autônomos
  • Pelo menos consola saber que não há dispositivos de escuta dentro de casa
  • Tenho a sensação de que precisamos de ferramentas mais pacíficas de defesa civil
  • Diversos bilionários da tecnologia, incluindo Larry Ellison, vêm propagando essa lógica de Estado de vigilância de que "se tudo o que fazemos estiver sempre gravado e monitorado, todos vão se comportar bem". Ellison, Vance, Musk, Thiel, Luckey, Zuckerberg e outros querem construir seus próprios Estados de vigilância, e isso já está bem avançado. O que exatamente vamos fazer para impedir isso? artigo relacionado
  • Estamos chegando a uma era em que até sinais de Wi‑Fi conseguem detectar batimentos cardíacos, então os prêmios de seguro talvez passem a variar a cada segundo. "Quando governo e grandes empresas fazem vigilância com rastreamento invasivo juntos, isso é uma distopia positiva!" (meio brincadeira, meio sério) artigo sobre medição de frequência cardíaca por Wi‑Fi