Mulher esquizofrênica interpreta propaganda de geladeira inteligente como alucinação

• Uma mulher com esquizofrenia foi hospitalizada por conta própria após confundir a função de anúncios da geladeira inteligente com uma alucinação.
• Quando a geladeira exibiu anúncios personalizados com orientação por voz, ela interpretou isso como se fosse um de seus sintomas.
• A família buscou aconselhamento jurídico para verificar configurações do dispositivo e questões de privacidade.
• Na comunidade online, houve novas discussões sobre o efeito de automação excessiva em eletrodomésticos inteligentes na saúde mental.
• A experiência do usuário e a segurança de eletrodomésticos baseados em IA passaram a ser tema de interesse social.

---

Visão geral do caso

• Uma mulher com transtorno psiquiátrico interpretou a mensagem na tela da geladeira inteligente como uma mensagem enviada a ela e se dirigiu ao hospital por conta própria, ficando em observação por 2 dias.
• A paciente já havia sido internada antes por episódios psicóticos a cada 2 anos, o que levou a um ajuste de medicação.
  • A família não entendeu a situação inicialmente e julgou que os sintomas haviam piorado.
• Após descoberta tardia, a família constatou que a mensagem na tela da geladeira era uma imagem promocional de um programa de TV, “WE’RE SORRY WE UPSET YOU, CAROL”, e que o nome verdadeiro da paciente também era Carol, gerando confusão.
• Como o anúncio foi colocado em uma posição pouco convencional que parecia a interface de um eletrodoméstico, até usuários comuns tiveram dificuldade em reconhecer que era propaganda, e houve críticas de que isso pode causar confusão grave em grupos vulneráveis.

Reação social

• Na internet, foi apontado que a interface de voz e visual de aparelhos de IA pode causar confusão em pessoas com transtornos mentais.
• Ganhou força a opinião de que o avanço tecnológico deve considerar a segurança e a carga cognitiva de populações vulneráveis em termos de saúde mental.
• Continuam as discussões sobre a necessidade de padrões de acessibilidade e segurança para tecnologias de casa inteligente.

[GN⁺]

Opinião do Hacker News

• Já passou da hora de proibir totalmente os anúncios
  Graças às tecnologias de bloqueio de anúncios no navegador e no smartphone, quase não vejo publicidade
  Quando o bloqueio falha e eu acabo vendo um anúncio, fico espantado com como usuários comuns, sem bloqueadores, aguentam esse bombardeio
  Antes ainda se discutia encontrar um “meio-termo”, mas agora esse tipo de compromisso não faz mais sentido
  Se alguém quiser ver anúncios, isso deveria ser permitido apenas em formatos que o usuário procura ativamente, como as Páginas Amarelas
  A indústria da publicidade não consegue se controlar e bloqueia regulações por lobby. A única solução é erradicar a própria publicidade

  • Anúncios em smart TVs precisam de uma reforma no nível de extinção
    Comprei uma TV para o meu avô, que estava em tratamento de longa permanência com Alzheimer, e todos os modelos eram smart TVs
    Há anúncios inseridos em qualquer lugar do menu, e um bloco chega a reproduzir 8 anúncios em sequência. Eram anúncios agressivos, como caça-níqueis
    Isso vai além de mero incômodo: é um ato cruel contra idosos, e acho que deveria haver multa ou punição criminal
  • A essência do problema não é o anúncio em si, mas a mercantilização da atenção humana
    A estrutura de comprar e vender a atenção das pessoas adoece a sociedade como um todo
    Anúncios que o usuário procura voluntariamente são aceitáveis, mas misturar mecanismos de recompensa com busca de informação vira veneno
    Você vai usar um app e aparece um banner promovendo outro produto: isso é sequestrar a intenção do usuário
    Tornar a distração humana um dos principais motores da economia não deveria ser aceitável
  • Os painéis digitais de publicidade nas rodovias são uma loucura completa
    No Canadá, há anúncios rotativos por toda parte nas estradas, bem ao lado de placas dizendo para não se distrair ao volante
    Ironicamente, a própria placa é o que distrai o motorista
  • Anúncios só deveriam ser legais dentro de catálogos de produtos
    Afinal, catálogo é um material útil que o usuário consulta apenas quando quer
  • Um meio-termo realista seria permitir apenas anúncios contextuais e proibir publicidade personalizada
    Anúncios baseados na localização do usuário ou no que ele está pesquisando naquele momento até vão, mas não anúncios baseados no histórico de outros sites ou em onde ele almoçou ontem
    A fronteira entre anúncio contextual e anúncio personalizado é meio nebulosa, mas isso é trabalho do Legislativo e do Judiciário
    Pessoalmente, eu gostaria de uma proibição muito mais forte, mas acho que esse nível seria um compromisso aceitável tanto para a indústria quanto para os consumidores

• É horrível imaginar anúncios aparecendo na geladeira, mas suspeito que esse caso não seja real
  Já houve uma história parecida num post antigo do Reddit

  • Muitas histórias do Reddit provavelmente são ficção
    Hoje em dia o YouTube também está cheio de vídeos dramatizando relatos do Reddit. É divertido, mas a maioria parece inventada
    Por isso, o mais seguro é sempre olhar com ceticismo para posts de grandes comunidades
  • Não há nada de estranho em algo previsto por alguém acabar acontecendo de verdade
    O mundo também está cheio de coincidências
  • Na prática, trata-se de uma imagem manipulada
    Segundo a matéria do 9to5Google, a Samsung afirmou que não exibe anúncios em tela cheia
    A imagem publicada no Reddit parece mostrar um anúncio de site de terceiros aberto no app de navegador da geladeira
    Chamar isso de “anúncio exibido naturalmente” parece uma interpretação generosa demais
  • A própria ideia de uma personagem como “Carol”, nessa história, ter uma geladeira tão cara já soa estranha

• Deveria ser proibido por lei que fabricantes tomem o controle dos aparelhos que compramos
  O usuário ser pago para instalar um app com anúncios é uma escolha dele, mas impor anúncios por padrão é injustificável

  • Mesmo instalar voluntariamente um app de anúncios deveria ser ilegal
    Porque esse tipo de escolha enfraquece o poder de negociação dos outros consumidores
  • O fato de alguns dos melhores talentos do mundo estarem focados em otimizar publicidade parece um símbolo de corrupção social
    Especialmente no fim do ano, isso parece ainda pior
  • A realidade é que isso só é possível porque as pessoas já concordaram com os termos de uso
    Mas é problemático depender de “empresas boazinhas” para encontrar alternativas sem anúncios
  • Uma solução jurídica simples seria introduzir uma cláusula de rescisão unilateral
    Se o fabricante vende o aparelho na prática como um “aluguel”, então o consumidor deveria poder rescindir o contrato a qualquer momento e receber reembolso conforme a depreciação
    Os instrumentos legais já existem, então o mercado poderia ajustar os detalhes
  • Na prática, só existem duas opções
    1. proibir toda publicidade
    2. deixar claro que o aparelho pode exibir anúncios e oferecer de forma fácil um método para desativá-los
       É absolutamente inaceitável que um produto pago exiba anúncios
       Especialmente para pessoas com transtornos mentais, anúncios inesperados podem ser perigosos
       Anúncios que de repente se movem ou falam, como os painéis digitais em pontos de ônibus, também deveriam exigir aviso prévio

• Hoje em dia os anúncios de terror, remédios e conteúdo sexual são excessivamente agressivos
  O Google TV exibiu um anúncio de filme de terror cobrindo a parede inteira, deixando a família desconfortável
  Mesmo durante as refeições aparecem anúncios de doenças repulsivas, e conteúdos sexuais são inadequados para assistir em família
  Antes nós controlávamos os aparelhos; agora conteúdos horríveis são transmitidos remotamente

  • Propaganda de remédio sempre vem embrulhada em imagens irreais de felicidade
    Escondem o sofrimento real da doença e só mostram idosos andando de canoa
  • Por causa dos anúncios do Google TV, no fim acabei trocando para Apple TV
    Tive até que comprar um set-top box extra para usar os mesmos apps, mas pelo menos não há anúncios

• Essa história da geladeira com anúncio parece um caso fabricado
  A mesma imagem já estava circulando desde uma semana antes

  • Como alguém que já teve experiências com transtornos mentais, entendo que esse tipo de anúncio pode desencadear sintomas delirantes
    No passado, vi um pôster de campanha contra jogar lixo chamado ‘HEY TOSSER!’ e interpretei aquilo como uma mensagem me atacando pessoalmente
    Dá para consultar o conceito relacionado e a imagem do pôster
  • De fato, o autor do post anterior no Reddit disse que “a história da Carol foi inventada”
    Nossa comunidade deveria ser mais crítica com esse tipo de desinformação
  • Todas as histórias do Reddit podem ser inventadas, mas ignorar tudo também é uma abordagem simplista demais
  • É bem provável que esse caso faça parte de uma estratégia de rage bait
    Veja estes tweets relacionados: exemplo1, exemplo2
  • Se uma geladeira minha exibisse anúncios, eu também ficaria com raiva a ponto de querer enfiar uma faca nela

• Durante 100 anos os fabricantes se concentraram em refrigerar alimentos, mas quando entrou a conexão com a internet, passaram a ficar obcecados em monetizar o consumidor
  O ecossistema publicitário está infectando todos os aparelhos conectados como um vírus

  • No fim, existe uma única razão: dinheiro
    Como o setor de eletrodomésticos já tem pouca margem para inovação, as empresas estão buscando novas receitas em “conectividade” e “publicidade”
    Isso porque a redução de custo de mão de obra já chegou perto do limite
  • Ninguém queria que uma geladeira virasse um outdoor publicitário
  • Na verdade, no passado também vinham cupons ou amostras dentro de eletrodomésticos novos
    A forma mudou, mas a publicidade sempre existiu

• A geladeira Samsung que herdei quando me mudei foi péssima
  A máquina de gelo quebrou e vazava água, e as dobradiças da porta continuavam quebrando
  No fim desisti e comprei uma geladeira nova
  No Reddit muita gente diz “qualquer coisa, menos Samsung”
  Parece uma estratégia de fabricar barato e lucrar com anúncios
  E eu realmente não entendo por que uma geladeira precisa estar conectada à internet

  • Eu também tive o mesmo problema com geladeira Samsung

• Li o conto “Unauthorized Bread”, do Doctorow, e achei uma obra interessante sobre o problema do controle em dispositivos IoT
  Estou pensando em colocar discretamente na lista de leitura da minha mãe

  • Também li emprestado da biblioteca e me deu bastante coisa para pensar
    Só tive a impressão de que talvez fosse mais voltado para um público leitor mais jovem do que eu

• Se você puder controlar diretamente o roteador, dá para bloquear o acesso do aparelho à internet
  Por exemplo, roteadores da Asus permitem pela interface desligar apenas as conexões externas de determinados dispositivos
  Dá para manter a rede local funcionando enquanto se bloqueia o tráfego externo, o que é útil para equipamentos como TVs ou câmeras
  Só é preciso ter cuidado em casos como câmeras de segurança, que exigem acesso remoto
  Dá para gerenciar isso deixando a internet ativada só temporariamente, por exemplo para atualizações ou configuração inicial