Decisão na Alemanha declara que o Google é responsável pelas respostas erradas do AI Overviews
(the-decoder.com)- AI Overviews foi classificado não como uma lista de resultados de busca, mas como conteúdo gerado pelo próprio Google com sua própria estrutura e redação, o que reconhece a responsabilidade direta do Google por alegações falsas
- O Tribunal Regional de Munique entendeu que o resumo de IA associou incorretamente duas editoras a fraude, armadilhas de assinatura e práticas comerciais suspeitas, e que nenhuma das fontes vinculadas continha essa associação
- A doutrina de responsabilidade limitada aplicada a mecanismos de busca e autocompletar foi pensada para funções que ajudam a encontrar sites externos, por isso não se aplica a resumos de IA
- O argumento do Google de que os usuários poderiam verificar as fontes por conta própria não foi aceito, e um resumo de IA compreensível de forma independente não fica isento de responsabilidade apenas pela possibilidade de pesquisa adicional
- Mesmo com uma análise indicando 91% de precisão do Google AI Overviews baseado no Gemini 3, na escala do Google isso ainda pode gerar milhões de respostas erradas por hora, o que pode ampliar o risco jurídico para serviços de IA semelhantes
Julgamento central do tribunal alemão
- O Tribunal Regional de Munique, na Alemanha, decidiu que o Google é diretamente responsável pelo conteúdo de resumos de busca gerados por IA
- A liminar proíbe o Google de divulgar alegações falsas sobre duas editoras sediadas em Munique por meio de resumos de busca gerados por IA
- O tribunal classificou o “AI overview” não como uma simples lista de resultados de busca, mas como conteúdo do próprio Google
- O resumo de IA do Google associou incorretamente as duas editoras, em certas buscas, a fraude, armadilhas de assinatura e práticas comerciais suspeitas
- O tribunal entendeu que a IA confundiu os autores da ação com informações sobre outras empresas realmente suspeitas, e que as fontes vinculadas não continham essa associação
AI Overview não é resultado de busca
- AI Overviews não funciona como resultados de busca tradicionais; ele reescreve e avalia os resultados com sua própria redação e sua própria estrutura
- No caso em questão, o resumo de IA começava com uma frase categórica como: “Sim, a [empresa] é conhecida por práticas comerciais suspeitas”
- O resumo de IA organizava, com estrutura própria, um resumo, sinais de suspeita de fraude e dicas para usuários
- O tribunal concluiu que o resumo de IA fez alegações que nem sequer apareciam nos resultados de busca
- Nenhuma das fontes vinculadas estabelecia relação entre os autores da ação e as empresas suspeitas mencionadas pela IA, e o tribunal considerou isso uma afirmação do próprio réu
- Como o Google criou a IA e a fornece aos usuários, o tribunal também o reconheceu como a parte que exerce influência sobre a forma de oferta da IA e sobre o algoritmo de funcionamento
A doutrina de responsabilidade dos buscadores existentes não se aplica
- A jurisprudência anterior da Suprema Corte Federal da Alemanha vinha reconhecendo responsabilidade limitada para mecanismos de busca tradicionais e autocompletar
- Essa jurisprudência se baseava na lógica de que o operador do mecanismo de busca apenas permite encontrar conteúdo de terceiros, respondendo assim apenas como infrator indireto
- O tribunal de Munique entendeu que essa lógica não se aplica ao AI Overviews
- Enquanto mecanismos de busca comuns apontam para sites externos, o AI Overviews avalia e combina conteúdo de vários sites de terceiros para gerar declarações independentes, novas e substanciais
- O tribunal considerou que apenas o Google pode verificar as afirmações da IA e que, no mínimo, ele pode comparar os sites de terceiros usados como base com as próprias declarações geradas
- O AI Overview não é uma função absolutamente necessária para o uso da internet, e os usuários ainda podem organizar informações apenas com resultados de busca tradicionais
Os limites da defesa de que “o usuário pode conferir por conta própria”
- Em audiência, o Google argumentou que os usuários poderiam verificar diretamente as fontes vinculadas para validar se o resumo de IA estava correto
- O Google também alegou que os usuários, de forma geral, sabem que não devem confiar cegamente em informações geradas por IA
- O tribunal decidiu que a mera possibilidade de refutar uma afirmação por meio de investigação adicional normalmente não isenta de responsabilidade por essa afirmação
- O AI Overview em questão era compreensível por si só, continha uma declaração completa e inteligível de forma independente, e não fazia qualquer referência a possibilidade de outras interpretações ou a conteúdo pouco confiável
- Um estudo mostrando que apenas 1% dos usuários clicam diretamente em um link de fonte no AI Overviews reforça a lógica do tribunal
- O tribunal citou uma analogia com o direito de imprensa: uma editora responde por um teaser compreensível de forma independente, mesmo que o leitor não leia a matéria completa
- Segundo o tribunal, se a lógica do Google implicasse que o AI Overview é geralmente pouco confiável, então a utilidade da própria função também cairia drasticamente
Lacuna de proteção e questão do Digital Services Act
- Se o Google só respondesse por violações evidentes, vítimas de alegações falsas geradas por IA ficariam sem um meio efetivo de reparação jurídica
- Como os sites de terceiros usados como fonte não fizeram a afirmação problemática em si, a vítima não poderia processar essas fontes
- Se, pelas regras atuais, também não fosse possível processar o Google de forma efetiva, surgiria uma lacuna de proteção
- O Google não conseguiu invocar a proteção para provedores de hospedagem do Digital Services Act, nem pôde se apoiar no procedimento padrão de notificação e remoção aplicável a buscadores
Opiniões geradas por IA e liberdade de expressão
- O tribunal entendeu que uma opinião da IA não expressa uma convicção formada por uma pessoa, mas sim o resultado de um algoritmo
- A oferta de pesquisa baseada em IA foi vista, antes de tudo, como expressão da atividade empresarial do Google
- O interesse em expressar livremente opiniões e crenças foi avaliado como secundário
- Ao comparar os direitos de personalidade dos autores com os interesses do Google, o tribunal considerou que, como as declarações em questão se baseavam em fatos falsos, o interesse do Google ficava em segundo plano
- A IA associou os autores a empresas sem relação com eles, e, segundo declarações juramentadas, os autores não tinham qualquer vínculo com essas empresas
Resultado da decisão e divisão de custos
- A decisão judicial acolheu a maior parte dos pedidos dos autores
- Foram proibidas alegações sobre fraude, ligação com empresas suspeitas, armadilhas de assinatura, chamadas telefônicas que nunca ocorreram e indisponibilidade
- Apenas dois pedidos menores foram rejeitados
- O tribunal entendeu que o risco de reincidência permanece mesmo que certas formulações específicas não estejam mais sendo exibidas
- O Google não apresentou uma declaração de cessação com cláusula penal, nem havia elementos que impedissem o algoritmo de gerar novamente as mesmas afirmações
- O Google arcará com 80% das custas judiciais, e os autores com 10% cada
- O tribunal considerou que a decisão pode ter alcance internacional
O problema deixado pelos 91% de precisão
- Em uma análise realizada pela startup de IA Oumi para o New York Times, o atual Google AI Overviews baseado no modelo Gemini 3 apresentou 91% de acerto
- Esse nível é visto como suficiente para uso cotidiano pela maioria das pessoas
- Na escala do Google, porém, 91% de precisão ainda significa milhões de respostas erradas por hora
- Se um volume suficiente dessas respostas erradas difamar empresas ou indivíduos, isso pode se tornar um problema jurídico grave não só para o Google, mas também para provedores de serviços semelhantes como ChatGPT, Claude e Perplexity
- A análise da Oumi concluiu que 56% das respostas corretas do Gemini 3 não podiam ser sustentadas pelas fontes vinculadas pelo Google
- Usuários podem acabar em situações em que não conseguem rastrear a origem da resposta fornecida pela IA
- O tribunal de Munique tratou da questão de que, se a IA cria afirmações próprias que não estão nas fontes vinculadas, o operador deve responder por isso
- Ainda não está definido se essa lógica será mantida em instâncias de apelação, e o Google não comentou a decisão
2 comentários
Está cheio de respostas erradas mesmo kkkkk
Comentários do Hacker News
Se entendi corretamente, gosto desta decisão. O Google criou um produto chamado Search, foram estabelecidas regras para esse produto, e ele manteve um monopólio sobre esse produto
Agora o Google está transformando esse produto em um novo produto, mas continua chamando pelo mesmo nome. Porque quer manter o monopólio
O que foi considerado ilegal é esta parte. Não que o Gemini em si seja ilegal, mas sim fingir que a pior versão do Gemini é o Search, quebrando as regras estabelecidas para o Search. Mas não sou advogado
O texto também não parece ir nessa direção. Isso parece uma questão parecida com a Section 230 dos EUA. A Section 230 é a lei americana que protege plataformas como Facebook e Google de serem tratadas como editoras com base na premissa de que apenas transmitem informação; aqui a ideia é que, na Alemanha, os resultados de IA são considerados escritos pelo Google
Bom. O verdadeiro sinal de uma inteligência artificial de uso geral será quando a empresa aceitar a responsabilidade, em vez de esconder algo como “apenas para fins de entretenimento” no fundo dos termos de uso. Igual ao modo como se responsabiliza um funcionário
O mesmo vale para direção autônoma. Até o carro aceitar a responsabilidade e o usuário ser tratado como simples passageiro, não é um carro autônomo
Dito isso, parece que a Alemanha em breve perderá os resultados de IA do Google
Mas, se você adota essa posição, também precisa aceitar que as empresas não ofereçam produtos e serviços naquele país. Algum dia, talvez em 10 a 20 anos, os sistemas de IA ficarão precisos o bastante para arcar com os custos de litígio, mas até lá esses países podem ficar sem acesso até que existam sistemas totalmente validados
Para carros autônomos também, basta criar um modelo em que a empresa assume a responsabilidade em certas situações e, em outras, o carro se recusa a dirigir; não precisa ser algo extraordinário
É irônico que este próprio texto faça uma afirmação incorreta sobre que tipo de responsabilidade foi reconhecida ao Google, e quase ninguém esteja verificando isso
A lei violada é a que protege a reputação de pessoas e empresas contra declarações falsas. Em essência, se a afirmação for difamatória, você não pode dizer “X é Y” e depois acrescentar “isso pode estar errado, então verifique por conta própria”
Esta decisão é muito boa. Espero que, daqui para frente, o Google deixe de produzir afirmações categóricas de fato como neste caso e use formulações mais adequadas, como “segundo X...”, junto com um aviso direto de que não pôde verificar. Melhor ainda seria procurar documentos do tribunal para confirmar se houve de fato uma decisão judicial e informar isso ao usuário
Dito isso, também não tenho certeza se você está certo. Qual é exatamente a alegação falsa feita pelo texto?
Vai ter gente reclamando, mas no fim a Europa continuará à frente nesse tipo de legislação. É irritante e às vezes desacelera o ritmo da inovação, mas as empresas americanas estão fazendo sem limite tudo o que dá dinheiro
No momento, só há volatilidade para ganhar. Basta deixar os EUA absorverem os choques econômicos e sociais e aceitar apenas o que sobreviver depois. Não há motivo para ter pressa. Nas partes úteis, quase não existe fosso defensável. Também não há diferença tão grande em relação a modelos abertos ou empresas menores que justifique o custo e o risco de operar na fronteira. No fim, é bem provável que a maior parte desse negócio de IA acabe se assentando em modelos locais para a maioria dos casos de uso
Os EUA talvez criem o primeiro quatrilionário, mas, realisticamente, isso não será por inovação, e sim por corrupção, exploração e desigualdade extrema de riqueza. Se a economia da IA não se desenrolar como “previsto”, também não haverá recuperação. Esse dinheiro só terá sido convertido em calor e lixo descartável de hardware. Não vale arriscar aposentadorias e coesão social por causa de uma “vantagem tecnológica”
Ou você realmente acha bom que, na Alemanha, hospedar avaliações negativas seja praticamente ilegal?
Que outra conclusão faria sentido? As plataformas estão se acostumando a escapar enquanto são usadas para fornecer produtos perigosos e defeituosos. Tem que haver algum limite.
Depois disso, é preciso lidar com a Amazon vendendo guias de coleta gerados por IA:
https://www.theguardian.com/technology/2023/sep/01/mushroom-...
Quando eu era criança, qualquer livro de coleta comprado numa livraria tinha pelo menos um mínimo de qualidade. É assim tão difícil? Lucro abusivo agora não é mais punido?
Fonte: https://www.youtube.com/watch?v=P-QaEB5eXSU
no ponto 3:00
Escolher a resposta pelo usuário em vez de deixá-lo julgar por si mesmo é um poder enorme, e o tribunal corretamente entendeu que esse poder vem com a responsabilidade de minimizar os danos causados às outras pessoas na sociedade
Acho que faz sentido
Se o Google Search cita um site de terceiros com informação incorreta, isso não é responsabilidade do Google. A responsabilidade recai sobre o terceiro. Esse é o privilégio de que o Google desfruta como mecanismo de busca
Mas, quando o Google age não como mecanismo de busca, e sim como uma máquina de respostas, esse privilégio deixa de se aplicar. Não há nenhum terceiro para quem empurrar a responsabilidade
Parece uma decisão sensata. IA não é Search. Modelos de linguagem de grande porte geram afirmações, não resultados de busca que o usuário precisa interpretar por conta própria. É a diferença entre procurar um assunto no catálogo de fichas de uma biblioteca e um software dar sua própria resposta
Assim que essas coisas surgiram e começaram a mentir com confiança, pensei que processos assim seriam inevitáveis. Bom ver a Alemanha julgando isso corretamente
O link da decisão está aqui. Naturalmente está em alemão, e a página original parece ter tomado um abraço da morte: https://the-decoder.de/wp-content/uploads/2026/06/26_O_869_2...
Eu também não sei qual seria esse ganho, mas devem estar deixando isso ativado por algum motivo, não?