Decisão na Alemanha declara que o Google é responsável pelas respostas erradas do AI Overviews
(the-decoder.com)- AI Overviews foi classificado não como uma lista de resultados de busca, mas como conteúdo gerado pelo próprio Google com sua própria estrutura e redação, o que reconhece a responsabilidade direta do Google por alegações falsas
- O Tribunal Regional de Munique entendeu que o resumo de IA associou incorretamente duas editoras a fraude, armadilhas de assinatura e práticas comerciais suspeitas, e que nenhuma das fontes vinculadas continha essa associação
- A doutrina de responsabilidade limitada aplicada a mecanismos de busca e autocompletar foi pensada para funções que ajudam a encontrar sites externos, por isso não se aplica a resumos de IA
- O argumento do Google de que os usuários poderiam verificar as fontes por conta própria não foi aceito, e um resumo de IA compreensível de forma independente não fica isento de responsabilidade apenas pela possibilidade de pesquisa adicional
- Mesmo com uma análise indicando 91% de precisão do Google AI Overviews baseado no Gemini 3, na escala do Google isso ainda pode gerar milhões de respostas erradas por hora, o que pode ampliar o risco jurídico para serviços de IA semelhantes
Julgamento central do tribunal alemão
- O Tribunal Regional de Munique, na Alemanha, decidiu que o Google é diretamente responsável pelo conteúdo de resumos de busca gerados por IA
- A liminar proíbe o Google de divulgar alegações falsas sobre duas editoras sediadas em Munique por meio de resumos de busca gerados por IA
- O tribunal classificou o “AI overview” não como uma simples lista de resultados de busca, mas como conteúdo do próprio Google
- O resumo de IA do Google associou incorretamente as duas editoras, em certas buscas, a fraude, armadilhas de assinatura e práticas comerciais suspeitas
- O tribunal entendeu que a IA confundiu os autores da ação com informações sobre outras empresas realmente suspeitas, e que as fontes vinculadas não continham essa associação
AI Overview não é resultado de busca
- AI Overviews não funciona como resultados de busca tradicionais; ele reescreve e avalia os resultados com sua própria redação e sua própria estrutura
- No caso em questão, o resumo de IA começava com uma frase categórica como: “Sim, a [empresa] é conhecida por práticas comerciais suspeitas”
- O resumo de IA organizava, com estrutura própria, um resumo, sinais de suspeita de fraude e dicas para usuários
- O tribunal concluiu que o resumo de IA fez alegações que nem sequer apareciam nos resultados de busca
- Nenhuma das fontes vinculadas estabelecia relação entre os autores da ação e as empresas suspeitas mencionadas pela IA, e o tribunal considerou isso uma afirmação do próprio réu
- Como o Google criou a IA e a fornece aos usuários, o tribunal também o reconheceu como a parte que exerce influência sobre a forma de oferta da IA e sobre o algoritmo de funcionamento
A doutrina de responsabilidade dos buscadores existentes não se aplica
- A jurisprudência anterior da Suprema Corte Federal da Alemanha vinha reconhecendo responsabilidade limitada para mecanismos de busca tradicionais e autocompletar
- Essa jurisprudência se baseava na lógica de que o operador do mecanismo de busca apenas permite encontrar conteúdo de terceiros, respondendo assim apenas como infrator indireto
- O tribunal de Munique entendeu que essa lógica não se aplica ao AI Overviews
- Enquanto mecanismos de busca comuns apontam para sites externos, o AI Overviews avalia e combina conteúdo de vários sites de terceiros para gerar declarações independentes, novas e substanciais
- O tribunal considerou que apenas o Google pode verificar as afirmações da IA e que, no mínimo, ele pode comparar os sites de terceiros usados como base com as próprias declarações geradas
- O AI Overview não é uma função absolutamente necessária para o uso da internet, e os usuários ainda podem organizar informações apenas com resultados de busca tradicionais
Os limites da defesa de que “o usuário pode conferir por conta própria”
- Em audiência, o Google argumentou que os usuários poderiam verificar diretamente as fontes vinculadas para validar se o resumo de IA estava correto
- O Google também alegou que os usuários, de forma geral, sabem que não devem confiar cegamente em informações geradas por IA
- O tribunal decidiu que a mera possibilidade de refutar uma afirmação por meio de investigação adicional normalmente não isenta de responsabilidade por essa afirmação
- O AI Overview em questão era compreensível por si só, continha uma declaração completa e inteligível de forma independente, e não fazia qualquer referência a possibilidade de outras interpretações ou a conteúdo pouco confiável
- Um estudo mostrando que apenas 1% dos usuários clicam diretamente em um link de fonte no AI Overviews reforça a lógica do tribunal
- O tribunal citou uma analogia com o direito de imprensa: uma editora responde por um teaser compreensível de forma independente, mesmo que o leitor não leia a matéria completa
- Segundo o tribunal, se a lógica do Google implicasse que o AI Overview é geralmente pouco confiável, então a utilidade da própria função também cairia drasticamente
Lacuna de proteção e questão do Digital Services Act
- Se o Google só respondesse por violações evidentes, vítimas de alegações falsas geradas por IA ficariam sem um meio efetivo de reparação jurídica
- Como os sites de terceiros usados como fonte não fizeram a afirmação problemática em si, a vítima não poderia processar essas fontes
- Se, pelas regras atuais, também não fosse possível processar o Google de forma efetiva, surgiria uma lacuna de proteção
- O Google não conseguiu invocar a proteção para provedores de hospedagem do Digital Services Act, nem pôde se apoiar no procedimento padrão de notificação e remoção aplicável a buscadores
Opiniões geradas por IA e liberdade de expressão
- O tribunal entendeu que uma opinião da IA não expressa uma convicção formada por uma pessoa, mas sim o resultado de um algoritmo
- A oferta de pesquisa baseada em IA foi vista, antes de tudo, como expressão da atividade empresarial do Google
- O interesse em expressar livremente opiniões e crenças foi avaliado como secundário
- Ao comparar os direitos de personalidade dos autores com os interesses do Google, o tribunal considerou que, como as declarações em questão se baseavam em fatos falsos, o interesse do Google ficava em segundo plano
- A IA associou os autores a empresas sem relação com eles, e, segundo declarações juramentadas, os autores não tinham qualquer vínculo com essas empresas
Resultado da decisão e divisão de custos
- A decisão judicial acolheu a maior parte dos pedidos dos autores
- Foram proibidas alegações sobre fraude, ligação com empresas suspeitas, armadilhas de assinatura, chamadas telefônicas que nunca ocorreram e indisponibilidade
- Apenas dois pedidos menores foram rejeitados
- O tribunal entendeu que o risco de reincidência permanece mesmo que certas formulações específicas não estejam mais sendo exibidas
- O Google não apresentou uma declaração de cessação com cláusula penal, nem havia elementos que impedissem o algoritmo de gerar novamente as mesmas afirmações
- O Google arcará com 80% das custas judiciais, e os autores com 10% cada
- O tribunal considerou que a decisão pode ter alcance internacional
O problema deixado pelos 91% de precisão
- Em uma análise realizada pela startup de IA Oumi para o New York Times, o atual Google AI Overviews baseado no modelo Gemini 3 apresentou 91% de acerto
- Esse nível é visto como suficiente para uso cotidiano pela maioria das pessoas
- Na escala do Google, porém, 91% de precisão ainda significa milhões de respostas erradas por hora
- Se um volume suficiente dessas respostas erradas difamar empresas ou indivíduos, isso pode se tornar um problema jurídico grave não só para o Google, mas também para provedores de serviços semelhantes como ChatGPT, Claude e Perplexity
- A análise da Oumi concluiu que 56% das respostas corretas do Gemini 3 não podiam ser sustentadas pelas fontes vinculadas pelo Google
- Usuários podem acabar em situações em que não conseguem rastrear a origem da resposta fornecida pela IA
- O tribunal de Munique tratou da questão de que, se a IA cria afirmações próprias que não estão nas fontes vinculadas, o operador deve responder por isso
- Ainda não está definido se essa lógica será mantida em instâncias de apelação, e o Google não comentou a decisão
3 comentários
Opiniões no Lobste.rs
Há uma diferença entre um mecanismo de busca apontar para sites que provavelmente correspondem à consulta do usuário e ler esses sites para fornecer um resumo
Se escolheu a segunda opção, então a fonte de informação do usuário passa a ser o próprio Google, e ele não deveria poder escapar da responsabilidade que vem com isso
Lendo a matéria, parece dizer que só haveria responsabilidade por danos em relação às partes que não foram extraídas dos resultados de busca, o que soa meio estranho, então talvez eu tenha entendido errado
Fico pensando se isso pode acabar sendo uma forma de empurrar legalmente os grandes modelos de linguagem para fora da busca
Se grandes modelos de linguagem são não determinísticos e a empresa precisa responder pelo que eles dizem, pode-se entender que não há como esse tipo de algoritmo impedir com certeza alucinações difamatórias
Também achei estranho que, embora o tribunal tenha praticamente decidido a favor dos autores, conste que “o Google arca com 80% das custas legais e os autores com 10% cada”. Talvez seja por causa de duas “alegações menores” rejeitadas antes
Então a ré não foi considerada culpada também nessa parte, e parece que por isso os custos foram divididos
Programas baseados em modelos de linguagem em geral podem ser feitos para responder de forma determinística ao mesmo input, e mesmo usando decodificação probabilística basta fixar a semente aleatória
O problema é que não dá para provar que um programa baseado em modelo de linguagem produzirá a resposta correta para um determinado input
Sobre a análise segundo a qual o Google AI Overviews com o modelo Gemini 3 teria 91% de precisão e seria “robusto o suficiente para a maioria dos usos cotidianos”: em que universo um mecanismo de busca que mente 1 vez a cada 10 pesquisas seria suficiente para alguém, quanto mais para a maioria das pessoas?
Finalmente parece uma decisão de bom senso. Se você acredita que IA é uma forma válida de responder perguntas, também deve estar preparado para assumir responsabilidade por essas respostas
Se continua fornecendo uma resposta mesmo sabendo que ela é falsa, deve responder pelas consequências. As pessoas sabem que não devem acreditar em qualquer página da web, mas o Google está apresentando respostas em seu próprio nome e por cima dos sites. Às vezes ele até pega conteúdo de uma página com a resposta correta e mistura as informações de forma errada
É antiético defender que o usuário deve presumir que todo o conteúdo exibido pode estar errado. Ou se apresenta informação correta, ou não se apresenta nada; não dá para mostrar lixo e informação falsa como se fossem corretos e depois dizer, com uma cláusula de isenção, que não são confiáveis
Empresas que fornecem informação com motores gerativos de baixa qualidade precisam aceitar que o usuário tem expectativa razoável de precisão nas respostas automáticas. Se nem sequer conseguem garantir o requisito básico de repetir informação correta, não deveriam fingir que conseguem
Empresas e indivíduos que usam esse tipo de programa de extração de conteúdo e de open source devem responder por toda a produção, seja pelas consequências de informação incorreta, seja por violação de direitos autorais decorrente de roubo de código OSS
Um ponto importante aqui é que a Alemanha não tem jurisprudência vinculante. Então essa decisão tem efeito de sinalização, mas outros tribunais podem decidir de outra forma
Ainda assim, esta decisão mostra bem que a legislação atual já consegue lidar com esse aspecto da IA, especialmente a questão da responsabilidade. O princípio é: você responde pelo que produz, e, lendo, parece bastante razoável
Boa explicação para quem tiver interesse: https://max-eup2012.mpipriv.de/index.php/Precedent,_Rule_of
Houve um caso em que um músico do nosso país teve um show cancelado porque o Google AI Overview afirmou falsamente que ele era criminoso sexual infantil
Na minha opinião, ele deveria ter tido base legal para processar o Google por difamação e perda de renda. Pelo que sei, ele não chegou a tentar
Parece justo. Se esse conteúdo é do Google, então o erro é do Google; se é de outra pessoa, então pode ser violação de direitos autorais
Isso certamente parece razoável e normal. Em especial, esta parte é interessante
O tribunal também apontou uma lacuna de proteção. Se o Google só fosse responsável por violações evidentes, a vítima de uma alegação falsa feita pela IA não teria, na prática, nenhum recurso jurídico efetivo. Os sites de terceiros usados como fonte nem sequer fizeram a declaração em questão, então a vítima não pode processar a fonte, e pelas regras existentes também não conseguiria processar o Google de forma eficaz
Acho essa perspectiva muito boa. Talvez não seja o melhor lugar para perguntar isso, mas fico curioso se tribunais dos EUA fazem consideração parecida. Pergunto especificamente sobre os EUA porque moro lá, sem segunda intenção. Meu conhecimento jurídico vem quase todo de séries e filmes de tribunal, e nunca vi esse tipo de consideração sendo tratada
E a difamação por grandes modelos de linguagem fora da busca? Se eu conseguir fazer o claude.ai dizer algo difamatório sobre mim, eu poderia processar?
Na prática, isso significa que a fala precisaria ser publicada para consumo mais amplo
Será que colocar uma cláusula de isenção abaixo de todos os resumos não bastaria para escapar dessa lei? As pessoas seriam enganadas do mesmo jeito, mas se nunca foi afirmado que a resposta era verdadeira, não seria impossível responsabilizar?
O Google tentou se apresentar aqui como intermediário. As leis sobre mecanismos de busca realmente dão alguma margem para isso. Mas, neste caso, ele foi corretamente identificado como a fonte primária
E acho que isso está certo. As empresas de IA precisam escolher: ou dizem que apenas treinaram uma máquina e que a saída é independente da entrada, ou dizem que são apenas um índice e remetem a outros lugares. Não dá para ficar com os dois lados, especialmente quando, em questões de direitos autorais, adotam a primeira posição
Em termos mais formais, muitas das sínteses de IA apresentadas como prova foram consideradas novas afirmações de fato feitas pelo próprio Google. Opiniões recebem proteção jurídica mais ampla, mas afirmações de fato são outra história. Além disso, algumas das afirmações falsas de fato nem sequer eram sustentadas pelas fontes vinculadas
No geral, isso tudo é confuso, mas essa posição me parece positiva
Tenho uma lembrança vaga de haver precedentes de que isso não funciona para pessoas; não vejo por que deveria funcionar para empresas
Está cheio de respostas erradas mesmo kkkkk
Comentários do Hacker News
Se entendi corretamente, gosto desta decisão. O Google criou um produto chamado Search, foram estabelecidas regras para esse produto, e ele manteve um monopólio sobre esse produto
Agora o Google está transformando esse produto em um novo produto, mas continua chamando pelo mesmo nome. Porque quer manter o monopólio
O que foi considerado ilegal é esta parte. Não que o Gemini em si seja ilegal, mas sim fingir que a pior versão do Gemini é o Search, quebrando as regras estabelecidas para o Search. Mas não sou advogado
O texto também não parece ir nessa direção. Isso parece uma questão parecida com a Section 230 dos EUA. A Section 230 é a lei americana que protege plataformas como Facebook e Google de serem tratadas como editoras com base na premissa de que apenas transmitem informação; aqui a ideia é que, na Alemanha, os resultados de IA são considerados escritos pelo Google
Bom. O verdadeiro sinal de uma inteligência artificial de uso geral será quando a empresa aceitar a responsabilidade, em vez de esconder algo como “apenas para fins de entretenimento” no fundo dos termos de uso. Igual ao modo como se responsabiliza um funcionário
O mesmo vale para direção autônoma. Até o carro aceitar a responsabilidade e o usuário ser tratado como simples passageiro, não é um carro autônomo
Dito isso, parece que a Alemanha em breve perderá os resultados de IA do Google
Mas, se você adota essa posição, também precisa aceitar que as empresas não ofereçam produtos e serviços naquele país. Algum dia, talvez em 10 a 20 anos, os sistemas de IA ficarão precisos o bastante para arcar com os custos de litígio, mas até lá esses países podem ficar sem acesso até que existam sistemas totalmente validados
Para carros autônomos também, basta criar um modelo em que a empresa assume a responsabilidade em certas situações e, em outras, o carro se recusa a dirigir; não precisa ser algo extraordinário
É irônico que este próprio texto faça uma afirmação incorreta sobre que tipo de responsabilidade foi reconhecida ao Google, e quase ninguém esteja verificando isso
A lei violada é a que protege a reputação de pessoas e empresas contra declarações falsas. Em essência, se a afirmação for difamatória, você não pode dizer “X é Y” e depois acrescentar “isso pode estar errado, então verifique por conta própria”
Esta decisão é muito boa. Espero que, daqui para frente, o Google deixe de produzir afirmações categóricas de fato como neste caso e use formulações mais adequadas, como “segundo X...”, junto com um aviso direto de que não pôde verificar. Melhor ainda seria procurar documentos do tribunal para confirmar se houve de fato uma decisão judicial e informar isso ao usuário
Dito isso, também não tenho certeza se você está certo. Qual é exatamente a alegação falsa feita pelo texto?
Vai ter gente reclamando, mas no fim a Europa continuará à frente nesse tipo de legislação. É irritante e às vezes desacelera o ritmo da inovação, mas as empresas americanas estão fazendo sem limite tudo o que dá dinheiro
No momento, só há volatilidade para ganhar. Basta deixar os EUA absorverem os choques econômicos e sociais e aceitar apenas o que sobreviver depois. Não há motivo para ter pressa. Nas partes úteis, quase não existe fosso defensável. Também não há diferença tão grande em relação a modelos abertos ou empresas menores que justifique o custo e o risco de operar na fronteira. No fim, é bem provável que a maior parte desse negócio de IA acabe se assentando em modelos locais para a maioria dos casos de uso
Os EUA talvez criem o primeiro quatrilionário, mas, realisticamente, isso não será por inovação, e sim por corrupção, exploração e desigualdade extrema de riqueza. Se a economia da IA não se desenrolar como “previsto”, também não haverá recuperação. Esse dinheiro só terá sido convertido em calor e lixo descartável de hardware. Não vale arriscar aposentadorias e coesão social por causa de uma “vantagem tecnológica”
Ou você realmente acha bom que, na Alemanha, hospedar avaliações negativas seja praticamente ilegal?
Que outra conclusão faria sentido? As plataformas estão se acostumando a escapar enquanto são usadas para fornecer produtos perigosos e defeituosos. Tem que haver algum limite.
Depois disso, é preciso lidar com a Amazon vendendo guias de coleta gerados por IA:
https://www.theguardian.com/technology/2023/sep/01/mushroom-...
Quando eu era criança, qualquer livro de coleta comprado numa livraria tinha pelo menos um mínimo de qualidade. É assim tão difícil? Lucro abusivo agora não é mais punido?
Fonte: https://www.youtube.com/watch?v=P-QaEB5eXSU
no ponto 3:00
Escolher a resposta pelo usuário em vez de deixá-lo julgar por si mesmo é um poder enorme, e o tribunal corretamente entendeu que esse poder vem com a responsabilidade de minimizar os danos causados às outras pessoas na sociedade
Acho que faz sentido
Se o Google Search cita um site de terceiros com informação incorreta, isso não é responsabilidade do Google. A responsabilidade recai sobre o terceiro. Esse é o privilégio de que o Google desfruta como mecanismo de busca
Mas, quando o Google age não como mecanismo de busca, e sim como uma máquina de respostas, esse privilégio deixa de se aplicar. Não há nenhum terceiro para quem empurrar a responsabilidade
Parece uma decisão sensata. IA não é Search. Modelos de linguagem de grande porte geram afirmações, não resultados de busca que o usuário precisa interpretar por conta própria. É a diferença entre procurar um assunto no catálogo de fichas de uma biblioteca e um software dar sua própria resposta
Assim que essas coisas surgiram e começaram a mentir com confiança, pensei que processos assim seriam inevitáveis. Bom ver a Alemanha julgando isso corretamente
O link da decisão está aqui. Naturalmente está em alemão, e a página original parece ter tomado um abraço da morte: https://the-decoder.de/wp-content/uploads/2026/06/26_O_869_2...
Eu também não sei qual seria esse ganho, mas devem estar deixando isso ativado por algum motivo, não?