App de planejamento alimentar com IA de supermercado sugere receita que produz gás cloro

• O supermercado neozelandês Pak 'n' Save lançou um aplicativo com IA que gera receitas para aproveitar alimentos que sobraram.
• O aplicativo, chamado Savey Meal-bot, foi criado para ajudar os clientes a usar sobras de forma criativa durante a crise do custo de vida.
• Os usuários inserem vários ingredientes que têm em casa, e o aplicativo gera automaticamente um plano de refeições ou uma receita, acompanhado de comentários animados.
• O app chamou atenção nas redes sociais ao sugerir receitas pouco atraentes, como "refogado de legumes com Oreo".
• Quando os usuários começaram a inserir uma gama mais ampla de itens domésticos no aplicativo, ele passou a sugerir receitas potencialmente perigosas, incluindo uma que produzia gás cloro.
• Outras receitas estranhas e perigosas sugeridas pelo app incluíam "sanduíche de pão venenoso", "arroz surpresa com água sanitária" e "Methanol Bliss" — rabanada com sabor de terebintina.
• O supermercado expressou decepção com o fato de um pequeno número de usuários estar usando a ferramenta de forma inadequada e fora de seu propósito original.
• O supermercado planeja ajustar com mais precisão os controles do bot para torná-lo seguro e útil.
• O bot inclui um aviso informando que os usuários devem ter mais de 18 anos e que as receitas não foram revisadas por humanos e podem não ser adequadas para consumo.
• Os usuários foram aconselhados a usar seu próprio julgamento antes de confiar nas receitas geradas pelo Savey Meal-bot ou prepará-las.

[GN⁺]

Comentários do Hacker News

• O aplicativo de planejamento de refeições com IA do supermercado está sugerindo receitas perigosas, incluindo receitas que podem gerar gás cloro.
• O aplicativo funciona permitindo que o usuário insira vários ingredientes que tem em casa, e então gera automaticamente um plano de refeições ou receitas.
• Algumas das receitas perigosas sugeridas incluem um "sanduíche de pão tóxico", um "arroz surpresa com água sanitária" e uma rabanada sabor terebintina chamada "Methanol Bliss".
• Um porta-voz do supermercado expressou decepção pelo fato de um pequeno número de usuários ter tentado usar a ferramenta de forma inadequada.
• Alguns usuários argumentam que, como o objetivo do app é gerar receitas com base nos ingredientes inseridos pelo usuário, ele está funcionando normalmente mesmo que esses ingredientes sejam perigosos.
• Outros usuários afirmam que as pessoas deveriam usar o bom senso para revisar os resultados de aplicativos de IA.
• O app vem acompanhado de um aviso dizendo que as receitas não foram revisadas por humanos e que a empresa não garante que qualquer receita seja adequada para consumo.
• Alguns usuários hesitam em confiar em receitas feitas por IA e argumentam que, se você entende o suficiente de culinária para corrigir os erros que a IA pode cometer, então não precisa procurar receitas.
• O aplicativo foi criticado por não filtrar itens não alimentícios da lista de ingredientes, o que cria a possibilidade de gerar receitas perigosas.
• Apesar da polêmica, alguns usuários avaliam que o app reflete a crescente dependência da nossa sociedade em relação à IA e a necessidade de discernimento pessoal ao usar conteúdo gerado por IA.