Migrando da AWS para uma nuvem da UE — redução de custos de 62%

• A Hopsworks migrou com sucesso para a OVHCloud no 4º trimestre de 2024 para reduzir os altos custos de egress da AWS e reduziu os custos em 62%
• Em especial, o custo de tráfego de saída de rede foi o principal fator da redução total: na AWS custava $90 por 1TB, enquanto na OVH custava $11 por 1TB, ou seja, apenas 1/8 do valor
• A AWS oferece um ecossistema maduro e alta confiabilidade, mas a OVHCloud entrega desempenho competitivo com uma estrutura de preços simples e custos mais baixos
  • Kubernetes gerenciado: AWS → $0.10 por hora/cluster ($72/mês) / OVHCloud → grátis
  • Custo de tráfego de saída de rede: AWS → $90 por 1TB / OVHCloud → $11 por 1TB (grátis em zonas locais)
  • Armazenamento S3: AWS → $2300/mês por 1TB / OVHCloud → $800/mês por 1TB
  • Custo de requisições Put/Get: AWS → $566 por 100 milhões de requisições / OVHCloud → grátis
  • Registro de contêineres: AWS → $212/mês por 5TB / OVHCloud → $212/mês por 5TB ($44/mês para 600GB)
  • Transferência de dados entre zonas de disponibilidade: AWS → $2000 por 100TB / OVHCloud → grátis
  • Instâncias EBS: AWS → $81.92/mês por 1TB → OVHCloud / $97.28/mês por 1TB

Apresentação da Hopsworks

• Hopsworks é uma plataforma aberta para desenvolver e operar sistemas de IA em grande escala
  • Pode ser implantada em qualquer cluster Kubernetes (incluindo nuvens públicas e data centers independentes)
  • Pode ser usada como alternativa a plataformas de MLOps como AWS Sagemaker, GCP Vertex e Databricks
  • O artigo de pesquisa SIGMOD24 destaca IA em tempo real com melhor desempenho e excelente integração entre Python e Lakehouse
  • É reconhecida como a primeira Feature Store para ML
• Suporte a dados e computação
  • Camada Lakehouse: usa Delta Lake, Apache Hudi e Iceberg (suporte em breve) → suporta armazenamento de grandes volumes de dados históricos e inferência em lote
  • Banco de dados de baixa latência RonDB: suporta cargas de trabalho de IA em tempo real e modelo de dados em esquema snowflake
  • Suporte de computação: no Kubernetes, oferece suporte a Python, Spark, Ray e compartilhamento/otimização de GPU
    • Também é possível fornecer sua própria computação → usar o Hopsworks como camada de dados para integrar pipelines de IA
  • Suporte a registro e implantação de modelos: é possível implantar modelos com KServe/vLLM
• Hopsworks Serverless (versão premium)
  • Oferece armazenamento gratuito (50GB de dados Lakehouse, 100MB de dados de features no RonDB)
  • Suporta até 100 registros de modelos e 2 implantações de modelos
  • A maior parte do armazenamento é oferecida gratuitamente, mas não há recursos de computação gratuitos → os custos de hospedagem na AWS podem permanecer em cerca de $8K por mês

Motivos para decidir a migração da AWS para a OVH

• Com o lançamento do Hopsworks Query Service, surgiu a preocupação com o aumento dos custos de saída de dados (egress)
  • O cliente Python usa Arrow e DuckDB → é possível ler de centenas de MB até vários GB de dados em um Pandas DataFrame
  • Reconhecimento do risco de aumento de custos devido ao possível salto no egress da AWS
• Decisão de migração para a OVHCloud
  • A OVH é uma provedora de nuvem baseada na Europa e oferece todos os serviços gerenciados necessários
    • Kubernetes gerenciado, registro de contêineres gerenciado e armazenamento de objetos compatível com S3
  • A Hopsworks foi instalada na OVH usando Helm Charts → foi confirmado que funcionava sem problemas
  • Como a maioria dos usuários está na América do Norte, foi decidido manter a infraestrutura da OVH na América do Norte

Efeito da redução de custos

• Após a migração para a OVH, houve redução de 62% nos custos
• Eliminação do peso dos altos custos de egress da AWS
• Melhoria da eficiência de custos mantendo desempenho de armazenamento e computação em ambiente serverless

Migração de serviços AWS para serviços OVHCloud

• Há dependência apenas de Kubernetes e S3 → o sistema foi projetado para não depender de serviços específicos de nuvem
  • Stack de observabilidade: baseada em OpenSearch e OpenSearch Dashboards
  • Stack de métricas: baseada em Prometheus e Grafana

Comparação de serviços Kubernetes gerenciados

• Tanto AWS quanto OVHCloud oferecem serviços Kubernetes gerenciados
  • A AWS oferece um ecossistema maduro e alta confiabilidade
  • A OVHCloud é gratuita e vantajosa em termos de custo
• Na AWS, é oferecido o Amazon Elastic Kubernetes Service (EKS), que é maduro, amplamente usado e oferece alta disponibilidade e um ecossistema robusto. No entanto, o custo do control plane por cluster é de $0.10 por hora, o que gera cerca de $72 por mês
• Na OVHCloud, é oferecido o OVHCloud Kubernetes (Kubernetes totalmente gerenciado), que tem boa estabilidade, mas o limite de 400MB do etcd pode causar problemas em alguns clusters Kubernetes. Ainda assim, o custo do control plane do Kubernetes gerenciado é gratuito

Comparação de custos de tráfego de saída de rede

• A OVHCloud tem custo de tráfego de saída de rede muito baixo
  • A OVHCloud cobra tráfego de saída apenas em algumas regiões novas (cerca de 1/8 da AWS)
  • Em muitas regiões de nuvem, o tráfego de saída é gratuito (em março de 2025)
  • Na AWS, o custo de saída é muito alto, gerando pressão de custos
• Na AWS, o serviço é oferecido globalmente, e o custo de saída de dados é de $0.09 por GB, resultando em $90 por mês para 1TB transferido
• Na OVHCloud, o serviço é oferecido na Europa e na América do Norte
  • Em "zonas locais", o custo de saída é gratuito
  • Em outras regiões, custa $0.011 por GB, resultando em $11 por mês para 1TB transferido

Comparação de serviços de armazenamento S3

• O AWS S3 tem alta confiabilidade e disponibilidade, mas custa caro
  • A AWS oferece desempenho de altíssimo nível em serviços de armazenamento de objetos em nuvem
  • O S3 da OVHCloud mantém a confiabilidade, mas custa cerca de um terço da AWS
• O AWS S3 é avaliado como um dos serviços mais confiáveis, com custo de armazenamento de $0.023 por GB, o que resulta em $2300 por mês para 100TB armazenados
  • Put, Copy, List e Post custam $0.005 por 1000 requisições, e GET e SELECT custam $0.0004 por 1000 requisições, resultando em cerca de $566 por mês para 100 milhões de operações
• O S3 da OVHCloud tem boa confiabilidade e baixo custo de armazenamento
  • O custo de armazenamento é de $0.008 por GB, resultando em $800 por mês para 100TB armazenados
  • As operações Put/Get são gratuitas

Comparação de serviços de registro de contêineres

• O AWS ECR é um serviço gerenciado maduro e escalável
  • É altamente escalável e tem configuração flexível
  • O Harbor da OVHCloud tem preço fixo e pode ter limitações de escalabilidade
• O AWS ECR oferece um serviço escalável e maduro
  • O custo de armazenamento é de $0.10 por GB, resultando em $212 por mês para 5TB armazenados
  • De forma geral, oferece desempenho superior ao da OVHCloud
• O OVHCloud Harbor tem limite no número de conexões simultâneas (45 ou 90)
  • O custo é de $44 por mês para 600GB e $212 por mês para 5TB
  • Não é possível escalar com flexibilidade para capacidades acima de 5TB

Comparação de custo de transferência de dados entre zonas de disponibilidade

• A Hopsworks replica serviços entre instâncias para suportar falhas de zona de disponibilidade (AZ)
  • Há tráfego de rede entre instâncias em zonas de disponibilidade diferentes
• Na AWS, há custo de transferência de dados de $0.02 por GB (saída $0.01 + entrada $0.01)
  • Isso resulta em $2000 por mês para 100TB transferidos
• Na OVHCloud, a transferência de dados entre zonas de disponibilidade é gratuita

Comparação de instâncias EBS

• A Hopsworks usa EBS (Block Storage) em serviços que precisam de volumes persistentes
  • A AWS usa Elastic Block Storage
  • A OVH usa Block Storage baseado em Ceph
  • Algumas instâncias usam discos NVMe locais → a OVH oferece maior throughput para armazenamento pequeno (1~4TB)
• A AWS oferece maior variedade de instâncias, mas o armazenamento local NVMe só está disponível em discos grandes
  • O custo é de $0.08 por GB, resultando em $81.92 por mês para 1TB
• A OVHCloud oferece menos tipos de instância, mas apresenta bom desempenho NVMe em armazenamento pequeno
  • O custo é de $0.095 por GB, resultando em $97.28 por mês para 1TB

Processo real de migração

• Aviso de janela de manutenção
  • Em 26 de novembro de 2024, foi anunciado um período de manutenção de 24 horas
• Backup e migração
  • O cluster Hopsworks foi salvo em backup em um bucket S3 da AWS e depois migrado para um bucket S3 da OVHCloud
  • Houve algum downtime, mas a migração foi concluída sem problemas
• Testes e retomada da operação
  • O cluster Hopsworks foi implantado na OVH com Helm charts
  • Após o processo de testes confirmar que não havia problemas, os logins foram reativados
  • Após a migração, não houve problemas com contas de usuários

Resumo

• No 4º trimestre de 2024, foi concluída a migração de milhares de usuários da AWS para a OVHCloud
• Tanto a OVH quanto a Hopsworks são tecnologias desenvolvidas na Europa, mas o serviço serverless da Hopsworks é oferecido na América do Norte, onde está a maioria dos usuários
• A estrutura de preços simples e baixa da OVH é atraente
  • Não apenas o custo de tráfego de saída de rede, mas a maioria dos serviços também é mais barata
  • A qualidade geral do serviço também é excelente

[kaydash]

A AWS também tem como um dos pontos fortes a grande quantidade de referências.
Mas, quando você acaba operando aplicações enterprise,
parece que o custo realmente é salgado.
Se outras CSPs também tiverem muitos casos de referência e estabilidade garantida, acho que valeria considerar a migração quando o custo for mais baixo.

[GN⁺]

Comentários do Hacker News

• A OVH é conhecida por ser uma provedora de hospedagem mais barata que a AWS. Fico curioso para saber se ela compensa isso em engenharia e alta disponibilidade

  • Trabalho em uma consultoria configurando infraestrutura em nuvem e reforçando segurança
  • Tenho muitos clientes que usam plataformas variadas, da AWS, Azure e GCP até pequenas provedoras regionais de nuvem
  • Usar pequenas provedoras de nuvem pode reduzir os custos pela metade, mas pode exigir engenheiros experientes
  • Muitas empresas pequenas se concentram na AWS, mas, se usam serviços exclusivos da AWS, não conseguem migrar facilmente para outro lugar

• No Canadá, estamos pensando em sair da AWS. A OVH não tem boa reputação no Canadá

  • A maior preocupação é uma alternativa confiável ao RDS-postgres
  • Custo não é a principal preocupação, mas economizar é um bom efeito colateral
  • Requisitos: bom suporte a OpenTofu (ou Terraform), confiabilidade, bom banco de dados gerenciado, data center no Canadá

• Como membro da equipe, estou pronto para discutir de bom grado qualquer dúvida sobre a migração

• Minha empresa também usa OVH. É bem decente e barata

  • O lado ruim é que, há 6 anos, houve um problema elétrico no data center e ficamos fora do ar o dia inteiro
  • Hoje mudamos para uma arquitetura que usa várias provedoras de nuvem e operamos por menos do que na AWS

• Depois de trabalhar com a AWS por 3 anos, a AWS é uma parceira de negócios razoável

  • É cara e, em geral, funciona bem, mas dá para sentir a diferença nos detalhes da confiabilidade
  • Com a deterioração das relações entre Europa e Estados Unidos, serviços de nuvem podem virar uma arma

• Se os números fecharem e for possível migrar, ótimo

  • Só é preciso garantir um plano de backup. A OVH já perdeu dados em um incêndio

• Usei a OVH em projetos pessoais, mas parei. Eles bloqueavam aleatoriamente IPs da rede iCloud Private Relay

  • O registro SPF do serviço de e-mail estava incorreto
  • Isso não foi resolvido por mais de um ano, então migrei o e-mail para outro lugar

• Ao migrar dados para a OVH, é preciso fazer backup de tudo em outro provedor

  • Houve um caso de incêndio em um data center da OVH em que até os backups foram perdidos junto

• Fico curioso sobre o motivo de terem escolhido a OVH em vez da Scaleway.com

  • A Scaleway também é uma empresa europeia e oferece muitos serviços equivalentes aos serviços gerenciados da AWS

• Não há razão para ficar na AWS ou na Azure, mas as alternativas têm menos marketing, então é difícil convencer a diretoria