Família é hospitalizada após ser envenenada por cogumelos ao usar um "livro de identificação de cogumelos" feito com IA generativa

• A família inteira foi hospitalizada na semana passada após consumir cogumelos venenosos acidentalmente
• A esposa comprou, como presente de aniversário, um livro de um grande varejista online com um título semelhante a "Mushrooms UK: A Guide to Harvesting Safe and Edible Mushrooms"
• O livro incluía fotos de cogumelos para ajudar a identificar cada espécie
• Infelizmente, o livro em questão não era preciso. Ao investigar mais a fundo, descobriram que as imagens dos cogumelos haviam sido geradas por IA e encontraram dois casos de texto em que cada frase terminava com uma "pergunta aleatória" ou uma "frase quebrando a quarta parede"
• Por exemplo:
  • "Em conclusão, os morels são cogumelos deliciosos que podem ser consumidos de agosto até o fim do verão. Se eu puder ajudar com mais alguma coisa, é só me avisar."
• O varejista online respondeu que faria o reembolso mediante a devolução do livro
• O livro deixou de ser vendido pelo varejista online, mas parece haver dezenas de outros livros em estilo semelhante
• Só para deixar claro: "Na época da compra, eu não sabia que ele havia sido gerado por inteligência artificial! Isso não estava divulgado no site!"

[GN⁺]

Opiniões do Hacker News

• Enfatiza a necessidade de regulamentação para publicações com IA

  • Aponta que a "University of East Ontario" não existe e considera isso negligência criminosa

• Argumenta que a IA generativa não funciona em situações que exigem consequências reais

  • No momento, a IA não passa de um simples autocompletar e não entende o contexto em que é usada
  • Pode servir para imagens de banco ou texto de páginas de produto, mas é extremamente perigosa em situações importantes

• Levanta dúvidas sobre a confiabilidade do tópico "LegalAdvice" no Reddit

  • Aponta que atualmente não é temporada de cogumelos morel no Reino Unido

• Compartilha uma reportagem mais confiável

  • Aponta a baixa precisão da identificação de cogumelos com IA
  • Apple, Google, OpenAI e Microsoft não comentaram sobre isso

• Menciona casos em que influenciadores no Tiktok e no Facebook compartilham informações erradas sobre plantas

  • Muitas vezes promovem perigosamente plantas para uso em alimentação ou skincare

• Afirma que a maioria dos posts de "advice" no Reddit é inventada

  • Vai segurar a indignação até aparecerem provas reais

• Aponta as limitações da IA generativa e a questão da responsabilidade decorrente disso

  • Empresas de IA deveriam adicionar isenções de responsabilidade e avisos
  • Deveriam deixar explícito que o conteúdo gerado por LLMs pode estar errado

• Expressa desconfiança em relação ao e-mail da varejista online

  • A proibição de fotografar o produto e o pedido de devolução imediata parecem suspeitos
  • Afirma que a história é falsa por incluir ameaça de encerramento da conta

• Menciona que o National Audubon Society Field Guide também pode causar intoxicação se usado incorretamente

  • Isso não é um problema exclusivo da IA

• Ri ao prever futuras reclamações sobre aconselhamento jurídico gerado por IA