Tesla disse que não havia dados importantes em acidente fatal, mas hacker os encontrou

• Tesla afirmou que não havia dados essenciais relacionados a um acidente com direção autônoma
• No entanto, um hacker encontrou dados internos, gerando controvérsia
• Com isso, surgiram dúvidas sobre a confiabilidade do depoimento da Tesla e a real situação de retenção de dados
• A responsabilidade legal da Tesla e sua postura na apresentação de provas voltaram ao centro do debate
• As questões de risco e transparência da tecnologia de direção autônoma foram novamente destacadas

---

Visão geral da controvérsia sobre a ocultação de dados do acidente da Tesla

• A Tesla afirmou que, em relação a um acidente fatal com direção autônoma, a empresa não tinha acesso aos dados centrais desse caso
• Porém, um hacker encontrou os dados relacionados nos sistemas internos da Tesla, comprovando que os dados antes considerados inexistentes na verdade existiam
• Isso levantou dúvidas sobre se a Tesla ocultou a verdade em depoimento judicial ou, no mínimo, se demonstrou falta de entendimento sobre seu sistema interno de gerenciamento de dados
• O caso desencadeou várias discussões, incluindo responsabilidade legal, obrigação de apresentar provas e transparência na gestão de dados de veículos autônomos
• Também aumentou a atenção sobre a confiabilidade da tecnologia de direção autônoma e sobre a postura das empresas de tecnologia na resposta a acidentes futuros

[GN⁺]

Opiniões do Hacker News

• Compartilho o link do arquivo

• Quero saber se entendi direito. Os dados do acidente são enviados automaticamente para a Tesla e, assim que são transmitidos, já são marcados para exclusão? Se a estrutura é essa, a Tesla passa a ter exclusividade no acesso aos dados e pode decidir como quer usá-los. Não parece algo que se sustentaria em tribunal, mas até agora parece ter funcionado assim. E eu esperaria, obviamente, que houvesse um registro de auditoria da exclusão dos dados do acidente nos servidores da Tesla, mas pelo visto ninguém verificou se isso realmente existe

  • Os dados do veículo são controlados de forma exclusiva não só pela Tesla, mas por todos os fabricantes. Não existe um método padronizado de registro ou consulta de dados, e logs de componentes específicos muitas vezes só podem ser interpretados pelos próprios fornecedores
  • Numa leitura mais favorável, depois de um acidente há o risco de terceiros acessarem o carro e a memória, expondo dados pessoais do proprietário/motorista. Além disso, se dados sobre o estado do veículo forem divulgados, podem ser distorcidos dependendo de quem os apresentar, então talvez faça sentido permitir acesso apenas a especialistas oficiais. É um conceito parecido com o tratamento de caixas-pretas de aeronaves no local
  • Outro motivo pode ser conflito com o código de upload de outros tipos de dados enviados para a Tesla. No caso do primeiro tipo de dado (dados arbitrários), faz sentido apagar o dado do veículo para liberar espaço de armazenamento depois de receber confirmação de que ele foi salvo no servidor da Tesla. Não é o ideal em caso de acidente, mas também não dá para concluir automaticamente que a exclusão foi maliciosa
  • Vejo a situação como algo parecido com “gravações para melhorar a qualidade da ligação”. O regulador exige que o cliente seja avisado, mas na prática, se a gravação prejudica a empresa, dizem que ela não existe; se ajuda, aí divulgam. A Tesla já teve vários casos de tratar de forma descuidada enormes quantidades de dados de clientes, e recentemente até vídeos internos dos carros foram compartilhados dentro do escritório. Houve até o caso de uma atriz pornô que gravou vídeo em um Tesla em modo autônomo; imagino que esse vídeo tenha circulado por todo lado sob o pretexto de “melhoria de qualidade”
  • Antes, já houve muitos casos em que foi preciso processar a Tesla para solicitar dados de telemetria do veículo. Mesmo quando a intenção não era usar isso contra a empresa, mas apenas em ações judiciais de acidentes de trânsito, a Tesla se recusava a divulgar os dados. Em contrapartida, a Tesla já divulgou dados de telemetria à imprensa sem consentimento da pessoa para se defender ou até para distorcer os fatos. Por exemplo, diz que “o veículo alertou o motorista para prestar atenção”, mas ao investigar vê-se que houve apenas um único aviso 18 minutos antes da colisão

• No passado, comprei no eBay uma unidade de infotainment de um Model 3 e tentei hackeá-la. A quantidade de dados armazenados ali era enorme. Depois de acessar o sistema, consegui obter o VIN do veículo e até encontrar o leilão de sucata de onde ele tinha vindo. Pelos registros de localização, dava para ver claramente onde o dono morava, onde trabalhava, quais lojas frequentava e outros padrões da rotina. A última localização GPS registrada era um cruzamento em T na Carolina do Norte, e pelo Street View dava até para ver a árvore em que aquele carro provavelmente bateu

  • Tenho curiosidade sobre o hardware. É uma estrutura com um computador baseado em Linux usando cartão SD ou SSD? E qual sistema de arquivos eles usam?
  • Essa frase “vi um fragmento da vida do proprietário”... brincando, será que isso incluiu até a morte?

• Segundo o vídeo anotado reproduzido em tribunal, a Tesla detectou o veículo a 170 pés de distância e depois o pedestre a 116 pés. Mas a Tesla planejou a trajetória passando exatamente pelo ponto onde eles estavam, bem no fim da estrada com semáforo e placas. Ou seja, detectou o veículo e o pedestre e mesmo assim tentou atravessar entre eles. Fico me perguntando quão grave é o estado desse software

  • Na prática, há mesmo vídeos mostrando problema desse nível: vimeo.com/1093113127/e1fb6c359c. Não foi apenas detectar o pedestre e tentar passar por ele; o sistema continuou a trajetória mesmo depois de atropelá-lo
  • Dizem que a IA vai revolucionar o mundo e virar tipo Skynet, mas na prática o planejamento de rota parece bot de Counter-Strike
  • Acho que é o chamado "dog/pig problem". O problema desses sistemas é a falta de "object permanence". Mesmo que detectem um veículo a 170 pés, ao se aproximarem a detecção não se mantém; com pedestres acontece a mesma coisa. O sistema da Tesla filtra objetos fixos (veículos parados/placas), e isso também é comum em sistemas de assistência à direção de outras marcas (exceto em modo de assistência de estacionamento). A diferença é que, em geral, motoristas de outras marcas não confiam tanto no sistema, enquanto motoristas de Tesla tendem a confiar demais nessas funções de assistência. Link relacionado: cena de The Mitchells vs. the Machines
  • Meu palpite é que o veículo e o pedestre realmente detectados eram outros, diferentes das vítimas. (Se fossem as vítimas, não teriam usado as expressões "a vehicle" ou "a pedestrian")

• “Logo após o acidente das 9:14PM de 25 de abril de 2019, dados decisivos foram enviados automaticamente para os servidores da Tesla e armazenados no banco de dados central. A sede enviou ao veículo uma mensagem automatizada confirmando o recebimento do snapshot da colisão. Pouco depois, os mesmos dados foram marcados no local como ‘unlink’, ou seja, a cópia interna do veículo foi tratada como excluída. A Tesla explicou em tribunal que esse procedimento é normal em acidentes.” Tudo isso é chocante

  • É espantoso como as pessoas dão tanta confiança a essa empresa com tanta facilidade. Seja por ela ter permanecido líder em EVs, seja por ter virado uma nova potência em IA/robótica, o comportamento corporativo aqui vai além do imaginável. Esse nível de falta de ética parece coisa da Aperture Science
  • Não consigo imaginar situação em que esse procedimento possa ser defendido legitimamente e não causar problema. Há muitas dúvidas sobre compliance, exigências legais e retenção de dados, e também fico pensando quem incluiu esse código no deploy. Não foi erro de uma pessoa só; foi uma decisão de equipe
  • O problema maior é que a Tesla também “apagou ativamente” até os dados do servidor central
  • A parte que citei (apagamento dos dados no veículo) nem me parece tão estranha; a exclusão no servidor é que é mais chocante
  • No post anterior do HN sobre o caso, o comentário mais votado dizia que os danos morais eram excessivos. Quero ver se nesta thread a discussão toma outro rumo

• Quando a Volkswagen foi pega fraudando emissões, o CEO foi demitido e processado. Será que não deveria acontecer o mesmo com a Tesla?

  • A peculiaridade do Dieselgate é que, de fato, alguém acabou sendo punido. Acho muito raro empresas, especialmente na esfera criminal, sofrerem esse tipo de responsabilização
  • O juiz responsável entendeu na sentença que “não havia provas suficientes de que a Tesla deixou de apresentar os dados deliberadamente” e, em vez disso, determinou que a Tesla reembolsasse os custos que o autor teve para coletar os dados por conta própria
  • Acho que seria necessária uma coalizão de procuradores-gerais estaduais democratas, como nas ações contra a Big Tobacco
  • Demitir o CEO é poder do conselho. O conselho da Tesla acredita que o valor da empresa é anormalmente alto e está diretamente ligado ao CEO
  • Este caso é completamente diferente do da VW, e a única semelhança é que ambas são montadoras. O CEO da Tesla pode até merecer ser demitido ou processado, mas não por o caso da VW servir como precedente

• Se a Tesla adotar secure boot, no futuro ninguém mais vai conseguir encontrar as falhas deles. Aí a chance de “sumiço” de dados de acidentes só aumenta, ficando igual à polícia “perdendo” imagens de bodycam

  • Concordo profundamente com este comentário. Só foi possível para os hackers revelarem o problema porque não havia secure boot nem imagens criptografadas. Qualquer desenvolvedor embarcado conhece coisas como MCUboot. O problema é que os gerentes evitam adotar por complexidade, mas, quando aprovarem, todo firmware ficará como conversa no Signal: só o fabricante poderá abrir. Hardware padrão PSA ainda por cima precisa resistir até a ataques de glitch de múltiplos bits, então os hackers passarão a não ter mais acesso

• Citando a mudança no depoimento de um funcionário da Tesla em tribunal, considero que isso significa, na prática, que ele mentiu sob juramento

  • Minha maior dúvida é que tipo de punição esses funcionários realmente receberão por mentiras assim. Fico pensando se o sistema acaba, ao contrário, protegendo-os por terem agido como representantes da empresa

• Depois de ler esta matéria, decidi que nunca vou comprar um Tesla. Meus parabéns ao greenthehacker por tentar hackear isso. Espero que ele passe muito tempo feliz tomando um chocolate quente venti do Starbucks

  • Fico curioso se, antes de hoje, você realmente ainda cogitava comprar um Tesla. Já houve várias mortes em acidentes com direção autônoma antes; por que este caso parece particularmente diferente para você? Para mim, o ponto de virada foi aquele caso na Flórida em que um Tesla entrou debaixo de um caminhão grande e o motorista morreu de forma terrível
  • Dizer para alguém “tomar chocolate quente venti do Starbucks por muito tempo” não é basicamente desejar que a pessoa tenha diabetes? Resposta em tom bem-humorado
  • Também tem a piada perguntando se nem o episódio em que Musk brincou evocando a antiga força aérea alemã (Luftwaffe) afetou a disposição de comprar um Tesla

• Acho que nada do que está acontecendo agora surpreenderia alguém que já entendeu corretamente a personalidade do Elon. Recursos, prazos, até ranking em videogame: tudo exagero ou fanfarronice... a compra do Twitter também é vista como um movimento para ampliar o próprio teatro de enganação