Cloudflare gera polêmica após exigir US$ 120 mil em 24 horas e depois derrubar site
(robindev.substack.com)- Um cassino online que usava o plano Cloudflare Business de US$ 250 por mês desde 2018 afirmou que, após ser cobrado por um pré-pagamento anual de US$ 120 mil no Enterprise, sofreu a exclusão do domínio e falhas em serviços centrais e sistemas internos
- A empresa disse ter cerca de 4 milhões de usuários ativos mensais, usava a Cloudflare para cache de conteúdo estático via CDN e proteção contra DDoS, e que a maior parte do tráfego vinha do domínio principal
- A Cloudflare mencionou “rotation” entre vários domínios e questões de termos de uso, mas sem informar claramente qual domínio havia sido afetado nem quais condições resolveriam o caso, oferecendo apenas um contrato Enterprise de US$ 10 mil por mês
- Algumas horas depois de a empresa dizer que também estava em negociação com a Fastly, foram apagadas as configurações do domínio, incluindo registros DNS, regras de cache, rate limit, whitelist e autenticação do Cloudflare Access
- Depois disso, houve uma migração emergencial para a Fastly, mas a propagação da mudança de NS pode levar de 1 a 48 horas, prolongando o tempo de indisponibilidade para usuários e o custo de reconstrução da infraestrutura interna de autenticação
Como a situação evoluiu do plano Business para a pressão pelo Enterprise
- A empresa usava o plano Cloudflare Business de US$ 250 por mês desde 2018
- Os principais usos eram CDN, cache de conteúdo estático e proteção contra DDoS
- A empresa se descreve como um cassino online com cerca de 4 milhões de usuários ativos mensais
- O primeiro e-mail da Cloudflare tinha um tom como se houvesse um problema grave no site, mas a ligação acabou sendo com a equipe de Sales, e não com “Business Development”
- A equipe de Sales não explicou concretamente qual seria o problema grave e perguntou se havia interesse em migrar para o Enterprise
- A empresa disse ter ficado confusa com o tom do e-mail, mas recusou educadamente a migração
- Duas semanas depois, a Cloudflare levantou a questão de que vários domínios estariam operando como espelhos do domínio principal
- A empresa disse manter vários domínios por exigências regulatórias em diferentes países, escopo de oferta de jogos, recursos sociais, sportsbook e rastreamento de afiliados
- Em alguns países, o domínio principal pode ser bloqueado via DNS, então domínios auxiliares podem servir como rota alternativa de acesso
- A empresa reconheceu que essa configuração poderia ser interpretada como violação dos termos da Cloudflare
- Mais de 95% de todo o tráfego vinha do domínio principal, e a empresa entendeu que seria possível simplesmente remover da Cloudflare os domínios auxiliares problemáticos
A questão de Trust and Safety virou exigência comercial da equipe de Sales
- A empresa enviou informações de domínio à Cloudflare e perguntou qual era exatamente o escopo do problema e quais pessoas internas precisariam participar, mas não recebeu respostas concretas além da data da ligação
- Uma reunião marcada como conversa com a equipe de “Trust and Safety” acabou sendo novamente com a equipe de Sales
- A equipe de Sales propôs um contrato Enterprise de US$ 10 mil por mês
- A empresa perguntou como um problema de termos de uso estaria ligado à exigência de um contrato Enterprise
- Também perguntou quais domínios estavam sob preocupação de “rotation”, mas não obteve resposta
- Tampouco ficou claro quais recursos do Enterprise seriam realmente obrigatórios
- A Cloudflare não demonstrou interesse em alternativas além do contrato de US$ 10 mil por mês e disse que o acordo precisava ser fechado em 24 horas para que pudesse responder a “Trust & Safety”
- A empresa pediu cobrança mensal, mas a Cloudflare exigiu compromisso de 1 ano com pagamento integral antecipado
- Embora o e-mail desse a entender que pagamento mensal talvez fosse possível, após pedido de confirmação veio a resposta de que seria necessário pagar antecipadamente o ano inteiro
- A empresa disse que o BYOIP poderia até fazer sentido como forma de reduzir responsabilidade ligada a domínios, mas que a maior parte dos demais recursos era desnecessária ou apenas desejável
Exclusão de domínios logo após avaliar a Fastly
- Com CEO e CTO envolvidos nas negociações, a empresa conseguiu ganhar cerca de uma semana falando diretamente com a Cloudflare
- A Cloudflare não apresentou outras opções contratuais nem uma solução simples para o problema
- A empresa também disse não conseguir verificar a exatidão do número de 80 TB de tráfego apresentado pela equipe de Sales
- Segundo ela, isso ocorreu porque a Cloudflare havia removido acesso a análises históricas
- Com base em posts no Hacker News, a empresa estimou que um preço razoável para 80 TB poderia ficar entre US$ 150 e US$ 2.000 por mês, mas reconheceu tratar-se apenas de comparação com relatos externos
- Como alternativa, configurou um domínio de teste na Fastly e marcou ligações relacionadas
- Algumas horas depois de o CEO dizer à equipe de Sales da Cloudflare, em uma ligação de negociação, que também estava conversando com concorrentes, a Cloudflare removeu todos os domínios da empresa
- Sumiram registros DNS, configurações de cache, rate limit e whitelist
- O site público e os e-mails de entrada, incluindo o e-mail de suporte ao cliente, foram interrompidos
- A infraestrutura interna e a autenticação baseada em Cloudflare Access também caíram
- O e-mail da Cloudflare dizia que “no momento não há impacto nos serviços”, mas na prática houve interrupção, e os tickets de suporte também não receberam resposta imediata
Migração emergencial para a Fastly e peso da recuperação
- A empresa mobilizou a equipe de SysOps e fez uma migração emergencial para a Fastly do site principal
- Em poucas horas conseguiu restabelecer o funcionamento básico, mas a propagação da mudança das entradas NS de DNS era imprevisível
- O tempo de propagação podia variar de 1 hora a 48 horas
- A empresa disse que a maioria dos usuários enfrentou cerca de 3 a 24 horas de indisponibilidade
- A Cloudflare respondeu ao ticket mais tarde, mas, segundo a empresa, a equipe de “Trust and Safety” não fez contato direto e a conta permaneceu bloqueada
- O impacto da exclusão não ficou restrito aos serviços públicos e se espalhou para sistemas internos
- A configuração de autenticação interna baseada em Cloudflare Access foi interrompida
- A empresa teve de reconstruir do zero a infraestrutura de autenticação de produtos internos, com grande tempo de indisponibilidade
O risco operacional criado pela dependência da Cloudflare
- Um risco central é a falta de critérios públicos sobre quando a Cloudflare tenta migrar clientes Business para uma cobrança personalizada de Enterprise
- A empresa disse ser difícil encontrar critérios públicos para limites de tráfego ou preços do Enterprise
- Fatores como múltiplos domínios podem servir de justificativa para pressão de migração ao Enterprise
- A empresa concluiu que o preço parecia ser definido menos por métricas mensuráveis ou conjunto de recursos e mais pelo valor que o cliente aparenta conseguir pagar
- Ela perguntou como o preço mudaria caso o tráfego caísse, mas a Cloudflare não respondeu além de dizer que 80 TB estariam incluídos
- Disse também que muitos dos 14 recursos incluídos não eram necessários, mas a Cloudflare apenas repetiu que eles estavam incluídos
- A empresa argumentou que nem todos os domínios internos precisariam de Enterprise, mas a Cloudflare respondeu que a conta inteira teria de ser Enterprise
- A conclusão foi que é preciso estar pronto para migrar em até 24 horas para conseguir sair da Cloudflare
- A empresa recomenda não registrar diretamente os domínios na Cloudflare
- Na visão dela, se a conta da Cloudflare for bloqueada, fica difícil saber como recuperar os domínios em prazo razoável
- Neste caso, a migração foi possível porque apenas o NS apontava para a Cloudflare
- Recursos exclusivos da Cloudflare aumentam o custo de migração
- Em vez de regras de cache customizadas, a empresa recomenda usar “Cache: Always” e “Respect Origin Headers” para manter compatibilidade com outros proxies de cache
- Também considera mais seguro evitar produtos proprietários como Zero Access e Workers, preferindo tecnologias compatíveis com padrões de terceiros
- Também seria necessário manter backups separados das configurações
- Configurações de DNS ligadas a envio de e-mail, como SPF e DKIM
- Entradas DNS de verificação de sites
- Listas de IP
- Regras de rate limiting
- A empresa disse que a proteção contra DDoS da Cloudflare foi eficaz contra ataques de grande escala, mas observou que superfícies vulneráveis, como requisições de API sem autenticação e sem cache consumindo 100 ms de CPU, ainda podem esgotar núcleos com apenas 10 a 100 rps
- Acrescentou que alguns grupos de “DDoS attack as a service” parecem especializados em serviços baseados em Cloudflare e em contornar o “Under Attack Mode”
2 comentários
Estou usando a Cloudflare porque ela contorna o bloqueio de domínios do governo coreano; empresas como a Fastly também oferecem contorno de bloqueio de domínios?
Opiniões no Hacker News
Este problema parece ter surgido do fato de o OP operar um site de cassino/apostas
Apostas são um caos regulatório: é preciso comprovar conformidade em cada jurisdição e, na internet, a aplicação perfeita é difícil, então alguns países ou ISPs bloqueiam diretamente. IPs que hospedam sites de apostas e jogos podem ser bloqueados por região ou marcados como hospedando conteúdo ilegal, afetando a reputação do IP e, para agregadores de tráfego como a Cloudflare, isso pode virar um problema para outros clientes. Em especial, os EUA têm uma regulação de apostas agressiva e complicada, então é bem possível que a Cloudflare tenha tido problemas por causa de regras em nível estadual nos EUA.
A Cloudflare queria que eles usassem BYOIP no plano Enterprise, e parece que não queria mantê-los sobre seus próprios IPs. A mensagem correta deveria ter sido “Enterprise + BYOIP ou bloqueio, preço negociável”, mas, na prática, foi transmitida como “vocês vão gostar do plano Enterprise”, um desastre de comunicação corporativa
Como cerca de metade das empresas de internet usa Cloudflare ou outra infraestrutura multi-tenant, todo mundo sabe que não dá para bloquear um único IP e atingir só um alvo específico. O que vi foi apenas bloqueio por DNS ou por TLS SNI. Nós também bloqueamos completamente usuários dos EUA por questões regulatórias. O problema central é a comunicação pouco profissional, misturando “compliance” com vendas sem dar informações ou opções claras, além de removerem sem aviso uma conta que ainda estava em conversa
BYOIP não é apenas caro; se o conteúdo prejudica a reputação do IP, ele pode ser sinalizado muito mais rápido em BYOIP do que em IPs compartilhados, porque há menos efeito de diluição. Se entrar a questão de continuar rotacionando ou alugando IPs, fica ainda mais complexo. Dito isso, se tudo se resumiu aos e-mails de vendas, a comunicação da Cloudflare foi claramente desajeitada e pouco profissional
Eles foram informados de que precisavam de BYOIP por meio do plano Enterprise e, pelo que parece, simplesmente não queriam pagar o custo
Achei que a random.org dominasse tudo
A forma como a Cloudflare lida com situações assim não é ideal para ninguém
Quando se começa a usar o serviço, o custo não é alto, então o planejamento é feito nesse nível; de repente chega um e-mail “urgente” de um vendedor, e a situação passa de US$ 20 ou US$ 250 por mês direto para milhares de dólares. Do ponto de vista da Cloudflare, pode não haver motivo para manter um cliente que não paga o suficiente, mas, se você joga uma bomba no cliente e o faz sentir que vai ser expulso, perde confiança. Eles poderiam até ter igualado o preço da Fastly; se tivessem agido de outro modo, teriam mantido o cliente, recebido mais dinheiro, preservado a confiança e evitado PR negativo. Como os executivos da Cloudflare que escrevem no HN costumam dizer que “isso não deveria acontecer”, talvez seja preciso olhar para os incentivos dos vendedores
Ao falar com a Cloudflare, nem mesmo mencionar um concorrente ou insinuar a possibilidade de sair parece seguro
A Cloudflare não é a empresa que, no passado, teve dados sensíveis vazados por meio de arquivos em cache e indexados pelo Google?
Lembro que, quando a comunidade técnica ficou indignada com um vazamento em massa de informações sensíveis, o CEO veio aqui criticar o Google por não remover a indexação rápido o suficiente. Quando se paga barato, recebe-se o resultado correspondente
Um erro grande desses é difícil de esquecer e parece um sinal de uma cultura de “mover rápido e quebrar coisas”. Essa não é uma cultura adequada para uma empresa responsável por infraestrutura crítica
Ainda assim, se um grande provedor oferece versões em cache de páginas, deveria haver uma forma de remover esses arquivos quando surgem problemas como malware
É difícil encontrar um provedor de mitigação de DDoS melhor que a Cloudflare, mas não confio a ponto de entregar tudo a eles. Especialmente porque é provável que estejam olhando conexões HTTPS já descriptografadas
No momento em que a conta foi bloqueada, imagino que a equipe de vendas da Cloudflare visse esse caso como algo tipo “60% de chance de fechar em até 6 semanas”
Naquele momento, não havia razão para suspeitar que perderiam para a Fastly, e a Cloudflare era a vencedora padrão. Fosse extorsão ou não, é difícil entender que eles tenham abandonado por raiva um negócio que estavam praticamente ganhando. Por isso, parece mais provável que, ao investigar, tenham concluído que era uma área de negócio em violação dos termos, ou que os gatilhos de intervenção da equipe de enforcement e da equipe de vendas tenham se sobreposto. A conduta da Cloudflare foi péssima, esse tipo de relato não é inédito, e ela tem a reputação de “tier gratuito muito generoso e experiência paga horrível”. Ainda assim, quem abandonaria por raiva um negócio que estava vencendo? É possível que, quando chamou atenção, eles tenham analisado e percebido que não queriam dar suporte a algo que parecia um cassino suspeito ou uma tentativa de contornar leis dos EUA
Além disso, parece haver uma divisão inteira responsável pelo mercado de games
Um caso de uso de nicho passa por uma verificação automática de termos e, depois, ao escalar um problema de suporte sem relação direta, uma revisão manual dos termos é triggered. Mesmo assim, uma empresa grande como a Cloudflare, lidando com uma fatura de US$ 120 mil, deveria evitar que isso acontecesse. Parece muito amador
O OP é um cassino e parece estar brincando com domínios para evitar atenção regulatória
Recomendo ler o texto com cuidado antes de reagir só ao título. Seria bom ver também o ponto de vista da Cloudflare
Não parece que o cassino estava tentando escapar da regulamentação, mas sim que estruturou o negócio para cumpri-la. Também não parece haver motivo para a Cloudflare assumir o risco de ajudar um cliente a burlar fiscalização só para ganhar mais dinheiro. Parece mais que ela percebeu que era um negócio com bastante dinheiro circulando e quis tirar sua parte
Ou é um negócio aceitável, ou não é; de qualquer forma, isso não pega bem para a Cloudflare
Se ela pode interromper o serviço para um cassino, não poderia também interromper para sites de propaganda de guerra ou sites que vendem serviços ilegais? Isso significa que ela faz escolhas editoriais, não é apenas uma provedora técnica ou um “cano da internet” neutro. No fim, autocensura pode não ser do interesse da Cloudflare, e pode até criar o risco de perder o safe harbor do DMCA
O ponto central é que havia disposição para remover todos os domínios exceto o domínio principal, e que o domínio principal respondia por mais de 95% do tráfego. Mas a Cloudflare não ofereceu essa opção nem detalhou qual era exatamente o problema
Se havia uma questão jurídica, quem deveria ter agido era o departamento jurídico da Cloudflare, não a equipe de vendas
A Cloudflare também foi a empresa que viralizou com o vídeo de uma gerente de conta sendo demitida por não bater metas
Pode ser um sinal de que a cultura de lidar com relacionamentos com clientes Enterprise não é boa de modo geral
https://m.youtube.com/watch?v=7LuwPdp-_4c
Vendedores são demitidos com frequência quando não atingem metas, e engenheiros também são demitidos quando não atingem metas de produtividade. Se você não faz bem o trabalho, não deveria esperar continuar empregado. Se me lembro bem, essa funcionária era uma novata que ainda não tinha fechado uma venda sequer. Você manteria uma novata não comprovada em vez de um vendedor veterano com desempenho comprovado?
Um tempo atrás, coloquei no plano Business da Cloudflare um site que usava uma largura de banda bem grande
Era um site totalmente legal, com bastante mídia. A Cloudflare sugeriu o plano Enterprise, mas não havia orçamento; quando pedi um pouco de tempo, disseram que tudo bem. Depois, movi uma parte considerável do uso de banda para alguns servidores dedicados da OVH, e desde então nunca mais entraram em contato
Alguém consegue explicar, do ponto de vista do algoritmo do HN, por que este post, no momento em que foi escrito, tinha 355 pontos e 180 comentários em 1 hora, mas nem estava na primeira página e aparecia em 31º lugar?
O gênero “último recurso para suporte ao cliente” é comum e geralmente não combina bem com o HN [1]. Se você acha esta história excepcionalmente relevante e interessante, não concordo, mas posso ceder em casos específicos, então reverti a penalidade desta thread. Do nosso ponto de vista, o problema não é um post X específico ou uma empresa Y, mas uma questão sistêmica. Os gêneros de submissão mais populares, especialmente textos que provocam indignação, são superamostrados por padrão; portanto, para manter espaço para os textos de curiosidade intelectual que o site busca priorizar, é necessário algum mecanismo de compensação [2]
[1] https://hn.algolia.com/?dateRange=all&page=0&prefix=true&query=by%3Adang%20%22last%20resort%22%20support&sort=byDate&type=comment
[2] https://hn.algolia.com/?dateRange=all&page=0&prefix=true&query=by%3Adang%20countervail&sort=byDate&type=comment
https://hnrankings.info/40481808/
É claramente abuso do sistema de flags
[flagged]não ficam visíveis, mas ainda têm o efeito de reduzir o peso do postÉ irônico que, em um texto sobre opacidade, estejamos pedindo transparência
O negócio de apostas, goste-se ou não, é estruturalmente um negócio obscuro
É possível que a Cloudflare tenha considerado que os riscos eram maiores do que aquilo que ela ganhava. US$ 300 por mês é muito barato em comparação com as possíveis dores de cabeça de lidar com esse tipo de negócio. Além disso, acho muito inadequado esconder cuidadosamente as próprias informações e o nome da empresa, ao mesmo tempo em que divulga o nome do responsável da outra empresa. No fim, a Cloudflare também pode escolher com quem faz negócios, e deve ter definido o preço pedido levando em conta a rentabilidade do seu negócio e o quanto seria barulhento e doloroso lidar com você. É ruim, mas essa é a desvantagem de SaaS/PaaS
Não há garantia de que ela não fará a mesma coisa com milhares de outros clientes
Concordo que US$ 300 por mês é barato, mas US$ 10 mil por mês é muito caro, e a Fastly parece ter entendido assim também. Não considerei a divulgação do nome como doxxing e não esperava que isso virasse um grande problema, mas atualizei a captura de tela e ocultei o nome do responsável. A Cloudflare, claro, pode escolher com quem faz negócios, mas ao mesmo tempo se apresenta como neutra
O fato de a Cloudflare ter dado sequer 24 horas foi sorte para o OP. Não vou vasculhar os termos, mas é possível que certos setores, como bancos, criptomoedas, conteúdo adulto e apostas, exijam um contrato Enterprise, e por isso ele pode ter sido encaminhado à equipe de vendas. O OP fala em perda de confiança dos clientes, mas a Cloudflare não quer nem precisa da confiança do OP. US$ 250 por mês não é suficiente para lidar com esse tipo de negócio
O CEO e cofundador da Cloudflare é bastante ativo no Twitter[0] e também participa em algum grau do HN[1], então seria interessante ouvir a perspectiva dele sobre este caso
[0] https://x.com/eastdakota/
[1] https://news.ycombinator.com/user?id=eastdakota
O cliente pode dizer o que quiser, mas, se um funcionário ou o CEO da Cloudflare rebater, eles poderiam apresentar sua própria versão dos fatos? Revelar detalhes da conta parece violar regras de privacidade e só aumentaria os problemas legais. O autor parece ter ocultado cuidadosamente o domínio em todas as capturas de tela
https://x.com/ArtemR/status/1795074047539068991