Instrutor banido para sempre de anunciar na Meta após promover um curso de Python/Pandas
(lerner.co.il)- O instrutor em tempo integral de Python/Pandas Reuven Lerner anunciou cursos no Facebook no passado, teve sua conta de anúncios da Meta suspensa e, após recorrer, acabou banido para sempre de anunciar nas plataformas da Meta
- A justificativa da suspensão informava apenas violação das regras de anúncios da Meta, sem uma explicação específica visível sobre qual regra teria sido infringida
- Um contato no LinkedIn relatou que houve um caso em que a Meta interpretou por engano um anúncio de ensino de Python como comércio de animais vivos, e o ponto central do problema passou a ser que Python e Pandas são, respectivamente, uma linguagem de programação e uma biblioteca de análise de dados
- Três conhecidos que trabalharam ou trabalham na Meta tentaram verificar o caso, mas receberam a resposta de que, por já ter passado mais de um ano desde a suspensão, as evidências haviam desaparecido por causa da política de retenção de dados de 180 dias, e não havia como restaurar a conta
- Como a decisão original e o recurso parecem ter sido processados por IA, mesmo que ele volte a anunciar seus cursos no futuro, o dinheiro será direcionado a outros canais de publicidade, como o Google, em vez da Meta
Como um anúncio de curso de Python/Pandas levou a um banimento permanente na Meta
- Reuven Lerner é instrutor em tempo integral de Python e Pandas, dando aulas presenciais em empresas ao redor do mundo e também mantendo produtos online
- Entre os produtos online estão video courses e uma newsletter paga de exercícios semanais de Pandas
- Ele tem histórico de aulas em empresas como Apple e Cisco
- Alguns anos atrás, ele veiculou anúncios de alguns produtos no Facebook, mas não obteve grandes resultados; depois disso, a conta de anúncios ficou praticamente abandonada
- Cerca de um ano atrás, ao voltar à página de anúncios, viu um aviso de que a conta havia sido suspensa por violar as regras de anúncios da Meta
- Alguns meses atrás, verificou novamente a página de gerenciamento de anúncios, mas ainda não tinha permissão para anunciar
- Não havia indicação de qual regra havia sido violada
- Ele afirmou que não anunciou nada além de cursos de Python e Pandas
- Ao recorrer pelo botão “Click here to appeal”, recebeu cerca de 30 minutos depois um e-mail da Meta dizendo que a violação de política havia sido confirmada e que ele estava banido para sempre de anunciar nas plataformas da Meta
Possível confusão de Python com comércio de animais e fracasso na restauração
- Um contato no LinkedIn disse que também teve problemas ao anunciar um curso de Python nas plataformas da Meta, e que a Meta havia entendido isso como comércio de animais vivos
- Lerner acredita que o sistema de IA da Meta interpretou Python e Pandas não como termos técnicos, mas como animais, e tomou a decisão de banimento
- Python é uma linguagem de programação
- Pandas é uma biblioteca de análise de dados em Python
- Ele também acredita que o recurso foi tratado por IA, não por uma pessoa, resultando em uma decisão semelhante
- Três conhecidos que trabalharam ou trabalham na Meta tentaram verificar o caso, mas isso não levou à restauração
- O primeiro conhecido confirmou que, devido à política de retenção de dados de 180 dias da Meta, as evidências relacionadas haviam desaparecido e, como já havia passado mais de um ano desde a suspensão da conta, não era possível restaurá-la
- O segundo e o terceiro conhecidos também não conseguiram produzir avanços
- Lerner considera que a IA da Meta cometeu um grande erro, e que o fato de tanto a decisão original quanto o recurso terem sido processados por IA é “bastante absurdo”
- Como ele não respondeu dentro de um determinado período, o banimento se tornou irreversível; ele afirma que, quando voltar a anunciar no futuro, a Meta não receberá o dinheiro de publicidade, e empresas como o Google receberão
1 comentários
Opiniões do Hacker News
Quando procedimentos opacos como IA tomam decisões, é realmente frustrante
Criei no Japão uma Godo Kaisha, equivalente a uma LLC, e meu negócio de assinatura de chá verde https://tomotcha.com, que antes eu usava sem problemas como empresário individual, foi recusado pela Stripe
Na época da recusa, eu ainda continuava usando a conta Stripe de empresário individual; se fosse mesmo uma violação dos termos, uma pessoa teria olhado e bloqueado aquela conta primeiro, então parece bem provável que a recusa tenha vindo de uma IA
Sei que a regulação financeira é rígida e que há casos em que processadores de pagamento não podem informar os motivos em detalhes, mas, no fim, por enquanto vou ficar preso ao PayPal
Como a composição dos produtos está mudando, talvez agora ela esteja de acordo com os termos da Stripe, e fico me perguntando se posso tentar abrir uma conta Stripe de novo
Por exemplo, bastaria dizer algo como: “Um sistema automatizado de IA determinou que fazer negócios com você não é vantajoso para nós. Não podemos explicar o motivo, pois isso poderia servir como pista para contornar filtros de spam. Porém, por US$ 15, uma pessoa fará uma análise, e você poderá enviar provas de vendas legítimas, informações da empresa registrada etc. O valor não será reembolsado mesmo em caso de recusa, e a análise humana não é uma oportunidade para forçar os limites dos termos”
Mesmo explicando que não vendemos esketamina nem nenhum outro medicamento, o resultado de uma conversa supostamente com uma pessoa da Stripe não muda
Não há nada dizendo que vendemos isso em lugar nenhum, inclusive no site, e pagamentos de pacientes nem são processados pela Stripe porque aceitamos seguro
As únicas respostas que recebemos são “suspendemos sua conta porque vocês vendem medicamentos” ou “estamos investigando as informações fornecidas”, e propostas de reunião ou envio de documentos são ignoradas
A Stripe é um serviço excelente, mas na parte de avaliação de clientes há algo muito seriamente errado acontecendo dentro da empresa
Não posso dizer que minha experiência com o suporte da Stripe tenha sido boa, mas no fim eles resolveram o problema
A Stripe parece ter muita dificuldade com situações em que um estrangeiro residente no Japão possui uma empresa no exterior
Liguei para minha operadora por um número de telefone comum, mas a chamada caiu por causa de algum problema no celular ou na torre; depois de umas 5 tentativas, a resposta robótica classificou aquilo como “abuso” e bloqueou permanentemente meu uso do telefone de suporte
Para contestar, eu precisava usar o telefone de suporte, e o robochat do site também já estava bloqueado
Acabei vasculhando a página do Facebook na esperança de que uma pessoa a administrasse, e felizmente consegui chegar a uma atendente humana, que removeu o bloqueio
Há alguns anos não posto nada no Facebook e mantenho a conta ativa apenas como meio de backup para contatar megacorporações idiotas
O mais frustrante é que eles mentem descaradamente
Na prática, não analisam a conta, e o bloqueio também não é permanente
Nessas situações, assim que você consegue chegar a alguém com autoridade, o bloqueio é removido; portanto, no fim, tudo é uma questão de custo, eficiência e conveniência do Facebook/Meta
Acho que esse problema precisa de lei
Está claro que o mercado não tem força para corrigir esse comportamento e, gostemos ou não, ser banido para sempre de serviços online praticamente essenciais pode ser devastador para uma pessoa
O problema é que todo mundo tapa os ouvidos e grita “big tech não é monopólio”, então as leis existentes simplesmente não são aplicadas
Em um ambiente de concorrência real, bastaria ir para a loja ao lado, que não bloquearia arbitrariamente e teria equipe real de suporte ao cliente
Não poderiam cobrar do usuário o custo da análise humana? Quanto isso custaria em tempo de uma pessoa, uns US$ 20?
Há vários casos parecidos
O problema de Scunthorpe é um exemplo clássico: a AOL impedia usuários de definir sua cidade natal como Scunthorpe por causa da substring “cunt”
A Amazon bloqueou a venda de produtos do Guns N' Roses por causa de “guns”, e uma pessoa chamada Miranda também teve problemas com transferência bancária por causa da substring “Iran”
Alguns jogos exibiam o apelido Nasser como “N*er”, como se fosse a N-word, e a Alexa até hoje não consegue falar “pussycat” direito
Softwares de controle parental filtravam “anal” em URLs e acabavam bloqueando até “analysis”; outro software apagava arquivos se o nome contivesse “sex”, deletando até “sysext”
Em uma escola, esse bug derrubou todo o laboratório de informática, e também contribuiu o fato de o responsável de TI ter atualizado todos os PCs para Windows 10 de uma vez, sem verificar a compatibilidade do software
O político britânico Dominic Cummings também não conseguiu criar uma conta no Twitter
Ainda assim, foi uma filtragem bem precipitada
Revendo agora, o nome alterado ficou pior ainda; é uma situação engraçada e triste ao mesmo tempo
O tema inofensivo eu não conseguia encontrar, mas, brincando um pouco com variações dos termos de busca, era fácil achar pornografia que o filtro não pegava
Naturalmente, acabou bloqueando até vinho Burgundy que continha “gun”
Ou seja, aplicaram tudo com tanta pressa que nem conseguiram fazer um filtro decente
Tentei criar várias vezes uma conta de vendedor no Ebay, mas, 2 minutos depois da criação e verificação da conta, fui bloqueado por violação dos termos
Naquele momento eu nem tinha enviado uma foto de perfil e não tinha feito nada com a conta
O processo seguinte era igual: a contestação era tratada por um bot que só respondia “estamos certos, você violou os termos, a conta foi bloqueada e a decisão é final”
Sinto falta da época em que organizações contratavam suporte humano ao cliente para atender clientes que potencialmente poderiam gerar muito dinheiro
Hoje, publicidade e vendas muitas vezes dependem de poucas plataformas, então é assustador que um único bot possa matar meu negócio e minha empresa a qualquer momento
Era residencial, móvel, de trabalho/escritório ou de datacenter?
Por causa do meu sobrenome, fui banido para sempre dos serviços da família Facebook, exceto o WhatsApp
O Facebook acredita que meu sobrenome é falso ou polêmico demais, e nem ao enviar uma cópia do passaporte eles mudam de ideia
Cerca de 13 anos atrás, antes de a política de nome real ser aplicada, eu tinha uma conta no Facebook, mas a fechei porque era constrangedor recusar ou aceitar solicitações de amizade de pessoas de um passado distante
Hoje, a única forma de obter informações importantes sobre o prédio onde moro é um grupo do Facebook, mas não consigo acessá-lo, o que é inconveniente
Minha esposa tem acesso, então não é um grande problema, mas, para contornar a política de nome real do Facebook, acho que eu teria de usar justamente um nome falso
Só que, nesse caso, provavelmente seria difícil usar anúncios do Facebook ou recursos ligados a desenvolvedores
A única forma que funcionou para mim foi ser contratado pela Meta, na época Facebook, pois eu precisava de uma conta para o onboarding
Em alguns grupos focados em fotos dos quais participo, mais da metade das publicações vem de pessoas com nomes falsos ou, às vezes, ofensivos, e mesmo sabendo que foram denunciadas várias vezes, nada acontece
Uma política ruim geralmente fica ainda pior quando é aplicada de forma inconsistente
A frase “a Meta não vai receber meu dinheiro; ele irá para uma empresa como o Google, que ao menos parece manter algumas pessoas no departamento de anúncios” é, no fim, uma forma complicada de dizer que a pessoa fará negócios com uma empresa que aceite o meu negócio
O Google também é famoso por bloqueios totalmente automatizados não só na área de anúncios, mas na conta inteira
Eu nunca tinha pensado nisso antes, mas talvez explique por que, com o passar do tempo, sinto que a qualidade dos anúncios está se deteriorando
O Google também tem muitos sistemas automatizados, e sei que muita gente já se frustrou bastante com isso no passado
Ainda assim, amigos que foram barrados pelos sistemas automatizados do Google acabaram encontrando alguém capaz de corrigir o problema
Na Meta, parece que não há esse caminho para clientes, e nem três funcionários que concordaram que a situação era absurda e puderam atestar por mim conseguiram reverter a decisão
O software só funcionava no Mac, mas o Google não permitia o uso de palavras como Apple e Mac por serem marcas registradas
Eu as usava como descrição contextual, algo como “software de contagem de widgets para Mac”, não como “software Apple original”
Recorri, mas o recurso foi negado, e, pelo que me lembro, não havia mais o que fazer
No fim, praticamente não havia meio de anunciar um software exclusivo para Mac
Passei por um problema parecido no Facebook/Meta e, no fim, desisti de comprar serviços de anúncios
Acho que a solução é uma lei que 1) obrigue a informar ao usuário quando ele está lidando apenas com um algoritmo e 2) obrigue a disponibilizar contato com uma pessoa dentro de um prazo definido
Espero que pelo menos a UE crie uma lei assim em breve
Desperdiçar uma quantidade enorme de tempo em interações com IA que não geram nenhuma compensação já é um problema, mas o que me preocupa mais é a situação em que o “suporte ao cliente” por IA não consegue fazer nada de fato ou, ao contrário, tem autoridade para fazer mudanças importantes em configurações de usuário, cobranças etc.
No primeiro caso, a empresa está enganando o cliente; no segundo, os resultados podem ser muito ruins
Mas não parece ter muito efeito sobre a Meta
Empresas como Meta, Google e Amazon, que dependem exclusivamente de IA para o atendimento ao cliente, deveriam receber multas grandes o suficiente para levá-las à falência
Se expandirmos esse tipo de “incidente azarado” para áreas como saúde, finanças, seguros, policiamento, educação e recrutamento corporativo, isso nos faz pensar para que tipo de sociedade estamos caminhando sob o pretexto de que automação e “IA” reduzem custos e aumentam a eficiência
Não há problema em usar tecnologia para ajudar pessoas — neste caso, funcionários da Meta — a processar informações de forma mais eficiente
Mas tirar pessoas do processo em questões que afetam outras pessoas, em maior ou menor grau, é uma direção desastrosa
Por coincidência, hoje também há uma matéria na capa do Financial Times dizendo que “Yann LeCun, da Meta, se opõe a uma regulação apressada da IA”
Ainda assim, se a censura por IA continuar sem regulação, o problema ficará maior
https://erinkissane.com/meta-in-myanmar-part-i-the-setup
Bem-vindo ao futuro
Em pouco tempo, esse tipo de besteira acontecerá quase todos os dias com a maioria das pessoas que precisarem interagir com empresas ou instituições na internet
Procedimentos altamente automatizados e opacos, lógicas que bloqueiam imediatamente diante de pequenos sinais, e caminhos de revisão que nunca chegam a uma pessoa se tornarão rotina
Porque os humanos que sobreviveram à automação estarão ocupados demais alimentando os algoritmos para ter tempo de conversar com clientes
Como a maioria das pessoas não tem recursos para brigar com o governo, elas sempre priorizaram quantidade em vez de qualidade
Vejo a “IA” movida por ganância e ignorância como uma etapa rumo a arruinar e colapsar os serviços públicos em vários países ocidentais
Só quem tem conhecimento para navegar pelo sistema, ou qualificação para interagir usando o protocolo exigido, tem alguma esperança de obter resultado
As megacorporações agora desceram para esse mesmo nível, imitando os hábitos de poderes superiores sem assumir responsabilidade
Nunca vi botões físicos deixarem de funcionar em carros com mais de 15 anos, a menos que fossem carros acidentados
Já uma empresa premium que cobra preço premium coloca uma pessoa real para atender
Pode ser mais lento, mas ao menos há espaço para esperar empatia e soluções fora do padrão
A única solução em casos assim talvez seja estabelecer ações de pequenas causas ou procedimentos de arbitragem independente não só para a Meta, mas para todo o grupo das FAANG
Basta imaginar a situação em que um funcionário de uma big tech teria de dizer diante de um juiz ou árbitro: “o sistema bloqueou automaticamente o usuário, a contestação também foi rejeitada automaticamente, e todos os dados de evidência e suporte foram apagados, então não há como saber por quê”
Qualquer forma de arbitragem ou revisão legal levaria imediatamente, com uma resposta dessas, à derrota da gigante de tecnologia
Em geral, apoio o direito de uma empresa escolher com quem quer fazer negócios, mas, a partir do momento em que uma empresa passa a ocupar uma posição quase monopolista e se torna guardiã do acesso ao mercado, esse tipo de decisão precisa ter um caminho razoável de recurso
Obrigações como “permitir que usuários comerciais alcancem usuários finais”, previstas no Digital Markets Act da UE, podem ser relevantes aqui; resta ver se o comportamento das empresas mudará em resposta a leis desse tipo