- Os modelos frontier da OpenAI passam a fazer parte do runtime nativo de agentes da AWS no Amazon Bedrock, indo além da simples oferta de modelos e se integrando na forma de agentes gerenciados para uso corporativo
- Os Bedrock Managed Agents reúnem identity, permissions, logging, governance e deployment, permitindo que clientes operem agentes mais rapidamente em ambientes corporativos sem precisar montar esses componentes por conta própria
- Atualmente, o desempenho de agentes depende muito não apenas do próprio modelo, mas também do grau de acoplamento do harness, incluindo tools, state, memory, permissions e evals; AWS e OpenAI estão tratando esse acoplamento como um produto conjunto
- Os dados dos clientes permanecem dentro da AWS VPC, os modelos da OpenAI são executados por meio do Bedrock, e o suporte também é operado com foco na AWS
- Assim como o cloud inicial que abriu espaço para startups, essa integração também segue a tendência de reduzir a barreira de adoção de IA, ao mesmo tempo em que revela uma tentativa de se firmar como uma nova camada de plataforma junto com a rápida expansão da demanda por frontier models
AWS, startups e a velocidade de adoção da IA
- O modelo inicial de cloud da AWS tornou possível usar, com apenas alguns dólares e um cartão de crédito, uma infraestrutura que antes só grandes empresas podiam ter, ampliando enormemente o escopo de criação na internet ao não exigir que se definisse antecipadamente o que os desenvolvedores iriam construir
- O impacto da adoção de IA é avaliado como semelhante ou até maior
- A estrutura em que era preciso estudar programação por 10 anos para criar uma aplicação está perdendo força
- Mesmo sem equipes com centenas de pessoas e longos ciclos de desenvolvimento, times pequenos conseguem criar rapidamente e iterar com agilidade
- Isso funciona como um meio de abrir novas inovações em várias áreas do mundo
- Diferentemente dos primeiros anos da cloud, a velocidade de adoção da IA está avançando muito rápido
- Em 2006, na cloud, era preciso explicar longamente “por que uma empresa de livraria estaria oferecendo computação”, mas a IA é entendida muito mais rapidamente pelas pessoas
- A transição de um simples chatbot inteligente para a execução de tarefas internas nas empresas exigiu algum esforço de educação, mas, pelos padrões da velocidade de mudança tecnológica, avançou de forma relativamente rápida
- A mudança de plataforma para startups pode ser resumida em quatro fases: Internet, cloud, mobile e IA
- Nos primeiros anos da YC, foi a cloud como a AWS que permitiu abrir empresas com pouco capital
- A barreira de precisar alugar espaço de colo, montar servidores e levantar muito dinheiro logo de início caiu bastante
- A premissa de que só o custo de servidores já exigiria dezenas de milhares de dólares deixou de valer, tornando viável uma estrutura de empreendedorismo com pouco capital
- Startups têm mais facilidade para vencer grandes empresas em grandes transições de plataforma quando conseguem operar com ciclos mais curtos e menos capital
- Sobre a IA atual, a direção parece semelhante
- Dentro da YC, a velocidade de crescimento de receita está se movendo muito mais rápido do que no passado, a ponto de a expectativa de receita de boas empresas mudar entre o início e o fim de um batch
- A AWS ainda é apresentada como a cloud usada por muitas startups em fase de expansão
- scale, availability, security e reliability, junto com o ecossistema de parceiros ISV e a base de clientes dentro da AWS, aparecem como forças combinadas
- Além de créditos, a empresa também oferece conselhos sobre arquitetura de sistemas e go-to-market, e continua tratando startups como uma base central da AWS
- A cada trimestre, a empresa encontra startups diretamente para verificar se os produtos realmente atendem às necessidades
- No cenário atual das startups, é muito comum o padrão de usar AWS para computação geral e a API da OpenAI para IA
Bedrock Managed Agents e a direção do produto conjunto
- Os Bedrock Managed Agents são apresentados não como uma simples entrada dos modelos da OpenAI na AWS, mas como a incorporação dos modelos frontier da OpenAI em um runtime nativo de agentes da AWS
- Elementos operacionais como identity, permission state, logging, governance e deployment são integrados em conjunto
- A próxima etapa da IA está indo além de inserir texto e receber texto, migrando para agentes com estado que executam trabalho real dentro das empresas
- A expressão “virtual co-workers” não é considerada perfeita, mas é tratada como a menos estranha no momento
- O setor como um todo ainda não definiu completamente como chamar esse conceito nem como usá-lo
- O Codex é apresentado como um exemplo claro desse movimento
- O ponto principal é que o trabalho desejado realmente aconteça, e o usuário deixa de distinguir o quanto veio do modelo e o quanto veio do harness
- O grau de acoplamento entre modelo e harness é tratado como essencial para o desempenho do agente
- tools, state, memory, permissions e evals determinam o funcionamento real
- Não é exatamente o mesmo que pre-training, mas esse acoplamento ocorre tanto no nível de post-training quanto no de prompt
- O tool-calling, que no início parecia separado, vai sendo integrado mais profundamente ao processo de treinamento com o passar do tempo
- Daqui para frente, sugere-se que model e harness, assim como pre-training e post-training, possam se integrar ainda mais fortemente
- O nível de maturidade da indústria ainda é descrito como tão inicial que chega a ser comparado à era do Homebrew Computer Club
- O trabalho conjunto entre AWS e OpenAI está focado em reunir elementos que os clientes antes precisavam montar por conta própria, para que consigam chegar mais rápido ao valor em ambientes corporativos
- Os clientes querem que modelo e agente mantenham memória e funcionem bem em conjunto
- Querem conectar não apenas ferramentas de terceiros, mas também suas próprias ferramentas, seus próprios dados, suas próprias aplicações e seus próprios ambientes operacionais
- Até agora, esse trabalho de integração era uma área que cada cliente precisava assumir diretamente
- No produto conjunto, a identity é embutida, e a autenticação com banco de dados também é projetada para ocorrer dentro da AWS VPC
- O objetivo não é apenas melhorar a conveniência, mas também tornar possível até aquilo que, no modelo anterior, era doloroso de montar e nem assim era implementado com confiabilidade
- O desenvolvedor atual é descrito como alguém que enfrenta dor e trabalho manual demais ao construir algo com modelos
- Mesmo no uso do ChatGPT, há muita cópia e cola e combinações complexas de prompts
- Esse atrito vai desaparecer; por enquanto, o momento ainda é visto como muito inicial e desconfortável
- Essa colaboração também é resultado do encontro entre a demanda de clientes já instalados na AWS que querem tecnologia da OpenAI e a direção da OpenAI de ampliar sua acessibilidade aos clientes da AWS
- Mais do que uma simples distribuição de modelos, enfatiza-se fortemente o caráter de construir um novo produto em conjunto
- Ao olhar para trás daqui a um ano, a expectativa é que a importância desse novo produto permaneça mais forte do que a ideia de que “ficou possível acessar os modelos da OpenAI pela AWS”
- No nível de model, harness e capability, isso se aproxima mais de uma nova forma de computação do que de uma chamada tradicional de API de modelo
AgentCore, Managed Agents, modelo operacional
- O AgentCore é apresentado como um conjunto de primitivos de agentes como memória, ambiente de execução seguro e autorização
- O Bedrock Managed Agents é posicionado como um produto de nível superior, construído em conjunto pela AWS e pela OpenAI, combinando modelos da OpenAI e vários elementos operacionais sobre os componentes do AgentCore
- Também é possível criar diretamente um agentic workflow apenas com o AgentCore
- Já existem clientes rodando isso em produção e usando de forma real
- Mesmo agora, é possível usar o AgentCore de um jeito que faz chamadas externas para modelos da OpenAI
- Não é uma integração nativa dentro do Bedrock, mas há clientes chamando diretamente modelos da OpenAI em outra nuvem
- A AWS trata isso como um ecossistema aberto
- A forma de combinar os recursos desejados e construir por conta própria pode continuar existindo no futuro
- Assim como há pessoas que montam o próprio computador em casa, a visão é que também continuará existindo builders que querem criar seus próprios agentes por muito tempo
- Muitos clientes querem uma forma mais fácil que não exija configurar manualmente todas as peças, e o lançamento desta colaboração mira essa demanda
- O uso da OpenAI no Azure é descrito como uma experiência de acesso direto à API, enquanto o anúncio agora na Amazon é organizado como um managed service distinto disso
- Esse serviço de managed agent está sendo conduzido atualmente de forma exclusiva com a Amazon
- Não é apenas uma questão de usar a API da Amazon, mas tratado como um joint effort entre as duas empresas
- Os dados dos clientes permanecem dentro da AWS
- Tudo fica dentro da VPC e é protegido dentro do ambiente do Bedrock
- Os modelos da OpenAI serão executados por meio do Bedrock, e a infraestrutura usa uma mistura de Trainium e GPU
- Parte disso se explica por questões de timing, e parte por questões de capabilities
- Foi apresentada a direção de que, com o tempo, uma parcela maior migrará para o Trainium
- A OpenAI também demonstrou grande expectativa com a execução de seus modelos em Trainium
- Ao operar modelos da OpenAI no ambiente da AWS, o primeiro ponto de suporte será a AWS
- Os clientes receberão ajuda pelo AWS Support e pelos responsáveis pela conta na AWS
- Durante a implementação, pessoas da OpenAI também participarão para alinhar em conjunto a forma de uso
- Bugs que precisarem de ajuda da OpenAI serão escalados pela AWS para a OpenAI
Local, nuvem, permissões e fronteiras de segurança
- O Codex começou primeiro na nuvem, mas foi apresentado um movimento que na prática voltou para a execução local
- O local é mais fácil porque o ambiente já está ali
- A configuração do computador, os dados e o acesso a arquivos já existem, então há menos configuração adicional
- Mesmo que não seja o estado final, no curto prazo a facilidade de uso pesa mais
- No longo prazo, a direção considerada útil é a de agentes rodando na nuvem, repassando para a nuvem tarefas muito pesadas ou situações em que seja preciso fechar o computador
- O cliente local ainda tem vantagens
- Assim como um app de iPhone também tem componentes locais, há benefícios de connectivity, latency, local compute e acesso a arquivos e aplicações
- Mas não dá para fazer scale-out do próprio notebook, então há um limite claro de escalabilidade
- Em ambientes corporativos, o modelo local fica mais difícil
- Só de compartilhar entre duas pessoas, a complexidade já aumenta
- Fica mais complicado lidar com permissions e security boundary
- No fim, passa a ser necessária uma bridge ligando o local e a nuvem
- Para agentes, é natural desenvolver no mesmo ambiente em que serão implantados, e o desenho de identity e permission ainda permanece uma área bastante incompleta
- Se o agente deve usar diretamente a conta da pessoa
- Se o agente deve ter uma conta separada
- Como distinguir vários agentes quando houver mais de um
- Ainda não existe nem mesmo um primitivo do tipo “o agente do Ben faz login como Ben, mas com uma indicação de que é um agente e não o Ben de fato”
- À medida que agentes forem incorporados à força de trabalho e sua autonomia e complexidade de tarefas aumentarem, os modelos de controle de acesso e permissão dentro das empresas e em toda a internet também terão de evoluir
- Quanto mais isso vai para a nuvem, mais a organização central pode ter controle de segurança mais forte
- Os clientes gostam da possibilidade de modelos e agentes poderosos, mas sua maior preocupação é um incidente que acabe destruindo a empresa por engano
- É possível controlar os limites fazendo tudo rodar dentro de uma VPC, exigindo passagem por um gateway específico ou concedendo permissões na forma de roles dentro do ambiente
- Continua a ideia de que, graças à estrutura de segurança construída pela AWS ao longo de 20 anos, não apenas startups, mas também bancos globais, instituições de saúde e órgãos governamentais puderam usar isso
- Quanto mais avessa a risco for a organização, mais os guardrails dentro de um sandbox podem ampliar a adoção
Stack de IA e arquitetura empresarial
- Clientes corporativos querem uma camada de gestão que conecte dados e agentes, e ofereça rastreamento de gasto com tokens e supervisão
- Grandes clientes corporativos pedem de forma consistente um pacote que reúna agent runtime environment, camada de gestão e workspace para funcionários
- Como exemplo de workspace para funcionários, é citado algo no estilo do Codex
- A demanda por esse tipo de pacote é bastante consistente, mas a oferta real ainda precisa ser mais construída
- Há concordância de que, dentro das organizações, é necessária uma middleware / middle layer que atravesse vários bancos de dados, apps SaaS e dados distribuídos
- Nesse contexto, OpenAI Frontier também é ligado ao tema
- Na estrutura atual, parece necessário tanto uma camada de agentes do usuário responsável pela interação com o usuário quanto uma camada de gestão da empresa
- Do lado do usuário, usa-se uma forma em que a pessoa interage com vários agentes e constrói para que esses agentes conversem entre si
- Na camada de gestão da empresa, vários controles são importantes quando a IA precisa explorar o sistema de arquivos e outros recursos
- Mas, se os modelos ficarem inteligentes o suficiente, permanece aberta a possibilidade de redesenhar toda essa estrutura
- A atual estrutura de duas camadas é uma forma ajustada ao mundo de hoje
- Ainda não se sabe exatamente como será a arquitetura do futuro
- Em algum momento, isso pode levar à conclusão de que “isso simplesmente deveria estar dentro do modelo”
- À medida que os clientes de fato usam e constroem, vai se aprendendo o que precisa ser tornado mais fácil, mais rápido e melhor
Demanda, capacidade e estratificação de modelos
- A OpenAI está investindo muita compra de compute e esforço considerável nesse negócio, e espera receita correspondente
- A demanda por inteligência é tratada como algo próximo de uma demanda sem teto, desde que o preço caia o suficiente
- Hoje, a limitação maior parece ser a falta de capacidade, mais do que o preço
- Independentemente do preço, há mais clientes querendo mais capacity e dispostos a pagar custo extra do que clientes brigando por preço
- Foi expressa a convicção de que o custo da inteligência no nível atual vai cair drasticamente no futuro
- O fato de uma parte considerável da demanda total do mercado estar concentrada no absolute frontier é tratado como um sinal surpreendente em relação ao esperado
- Em vez da hipótese de que modelos da geração anterior seriam suficientes, apareceu com mais força a tendência de continuar querendo os modelos de ponta mais recentes
- Assim como o custo de compute caiu muito ao longo de décadas e, mesmo assim, o volume vendido continuou aumentando, foi sugerido que a IA pode seguir uma trajetória semelhante de expansão da demanda
- Agora, para realizar trabalhos úteis, em muitos casos ainda são necessários modelos frontier, e por isso todos querem esse lado
- Com o tempo, espera-se que se forme uma estrutura mista com modelos pequenos, baratos e rápidos convivendo com modelos gigantes
- Alguns modelos pequenos, com o tempo, podem passar a realizar tarefas que nem os modelos mais recentes da OpenAI conseguem fazer hoje
- Os modelos gigantes podem passar a mirar problemas maiores, como a cura do câncer
- Ainda estamos em um estágio inicial, e o fato de esse nível de demanda e crescimento aparecerem juntos amplia bastante as possibilidades futuras
Trainium, abstração e computação interna
- Sobre a pergunta de que, apesar do nome, o Trainium pode ganhar mais presença no lado de inference no futuro, a AWS respondeu que ele é útil tanto para training quanto para inference
- Foi enfatizado que os clientes tendem a acessar o Trainium por meio da abstração de serviços gerenciados, em vez de lidar diretamente com ele
- Assim como a maioria dos clientes também não lida diretamente com GPU, ao usar OpenAI ou Claude, na prática eles interagem com a interface, e não com GPU, Trainium ou TPU
- No futuro, os accelerator chips provavelmente continuarão operando por trás de um pequeno número de grandes modelos e serviços
- Podem ser 5, 10, 20 ou 100, mas a expectativa é que o número de pessoas programando isso diretamente não cresça para milhões
- Treinar modelos custa muito dinheiro e também exige alto nível de especialização operacional
- A equipe da OpenAI é excelente em extrair valor de grandes clusters de computação, mas não há muitos lugares com times desse tipo
- A OpenAI disse que, no início, pensa em si mesma como uma token factory, mas logo corrigiu para dizer que está mais próxima de uma intelligence factory
- O que os clientes querem não é a quantidade de tokens, mas receber a melhor unidade de inteligência possível, com capacidade suficiente, pelo menor custo
- O GPT-5.5 foi apresentado como um exemplo em que o custo por token é maior que no 5.4, mas o número de tokens necessário para obter a mesma resposta é muito menor
- Os usuários se importam mais em saber se a tarefa desejada foi concluída do que quantos tokens a resposta consumiu
- Seja um modelo maior rodando com menos tokens, seja um modelo menor rodando com mais tokens, seja GPU ou Trainium, o cliente quer mais utilidade com menos custo, e não se preocupa com a implementação interna
- Ao criar novos agentes dentro do Codex ou do Stateful Runtime Environment para o Amazon Bedrock, o usuário também não deveria precisar se preocupar com a escolha da computação interna
- A redução no uso de tokens é principalmente resultado da melhoria dos modelos, com apenas parte do efeito vindo do harness
- Sobre expandir serviços gerenciados semelhantes para outros modelos, a AWS respondeu apenas que, por enquanto, está focada na colaboração com a OpenAI
Evolução do mercado e estratégia de plataforma
- O ChatGPT é avaliado como o primeiro grande novo produto de consumo surgido desde o Facebook
- A OpenAI afirmou que teve resultados bastante bons não apenas com o ChatGPT, mas também com a API e, em especial, com o Codex
- Também houve a reflexão de que, no passado, o foco estava mais na possibilidade de uma nova interface de linguagem mudar a forma de encontrar informações na internet
- O Google continua sendo avaliado como uma phenomenal company em termos de amplitude e profundidade
- A AWS adotou desde o início uma estratégia centrada em parceiros, buscando uma estrutura em que, se os parceiros tiverem sucesso, a AWS também tenha
- É diferente da abordagem de precisar possuir tudo diretamente e está mais próxima de aumentar o tamanho da torta
- A posição da empresa é que os clientes devem poder escolher o que for melhor para eles, seja um produto próprio ou de um parceiro
- O Bedrock também foi projetado com base nessa estratégia, para oferecer suporte a uma ampla gama de modelos e diversos recursos
- A empresa também vem mantendo abordagem semelhante em outras áreas, como banco de dados e plataforma de computação
- A AWS entende que, na camada de infraestrutura, promove fortemente seus próprios componentes centrais, como o S3, mas que, nas camadas mais altas da stack, aceitar um ecossistema mais amplo de parceiros também é melhor para o cliente
- O papel de cada empresa é: OpenAI no Software, AWS na Infrastructure, e as duas juntas construindo a Platform
- Como se espera que as capacidades dos modelos avancem rapidamente no próximo ano, ambas consideram que este é um bom momento para construir essa plataforma em conjunto agora
1 comentários
Comentários do Hacker News
porque era possível acessá-lo por meio da Amazon no papel de intermediária "confiável". A OpenAI é proibida e não inspira confiança
Não necessariamente concordo com a avaliação dos times jurídicos dessas organizações, mas imagino que eles tenham lido os termos de serviço com muito mais cuidado do que eu
Ainda não dá para saber se esse anúncio vai mudar o jogo, mas, pela minha percepção atual, a OpenAI parece estar bem atrás em vários aspectos
Dito isso, no setor de IA uma diferença de 2 a 8 semanas também não é uma distância tão enorme, então pode ser mais uma questão de percepção do que de impacto real
Pelo menos na minha bolha de informação, a reputação da OpenAI está no fundo do poço por causa do Sam Altman, e eu não gosto muito da empresa porque ela parece antiética e bastante instável, considerando coisas como as exigências ligadas a fabs
Não basta usar só a AWS, e mesmo que a AWS execute o modelo, se você quiser ZDR de verdade precisa negociar isso separadamente com eles [0]
[0]: https://platform.claude.com/docs/en/build-with-claude/claude...
As duas certamente se beneficiaram, e a cultura de loop de feedback dos clientes da AWS provavelmente ajudou a Anthropic a se estruturar mais rápido para atender o mercado enterprise
O lado do Azure já existe há algum tempo
Já a Anthropic está focada em uma coisa só, e acho que é por isso que ela sempre aparece no topo dos benchmarks de SWE
A AWS afirma que entradas e saídas não são compartilhadas com o provedor do modelo e não são usadas no treinamento do modelo base [1]
Além disso, a OpenAI recebeu em maio de 2025 uma ordem de preservação no caso NYT v. OpenAI, e o tribunal está essencialmente obrigando a empresa a manter logs de saída do ChatGPT por tempo indeterminado
Isso inclui conversas apagadas por usuários que originalmente seriam removidas em até 30 dias [2]
Então, para organizações sujeitas a HIPAA/GDPR, isso já inviabiliza tudo logo na largada
[1] https://aws.amazon.com/bedrock/faqs/
[2] https://openai.com/index/response-to-nyt-data-demands/
Política interna ou revisão burocrática geralmente pesa mais para manter o pessoal de níveis mais baixos ocupado com restos de funcionalidades e trabalho operacional
Se o modelo for suficientemente parecido com uma variante OSS do GPT, talvez não tenha sido tão complicado quanto parece
Quantização, silício customizado para serving, batching e outras otimizações de inferência podem alterar o comportamento em relação à versão do provedor original e à versão hospedada
Este artigo não trata exatamente do mesmo caso — fala de um Llama open weights auditável —, mas mostra bem sintomas parecidos
https://arxiv.org/pdf/2410.20247
Parece que eles também conseguem tirar uma margem razoável daí
Também fico me perguntando se isso tem ligação direta com o movimento de ruptura com a Microsoft
Mesmo só olhando para os casos à minha volta, a OpenAI está sendo quase ignorada em implantações enterprise sérias, porque o oferecido no Azure não é grande coisa e, fora isso, não há um caminho amigável para empresas
Parece que a OpenAI percebeu que seria fatal continuar cedendo o mercado enterprise para a combinação Anthropic + AWS, então se mexeu para correr atrás
https://news.ycombinator.com/item?id=47921248
Setores regulados, como finanças e saúde, muitas vezes já têm contratos com a AWS que incluem compromissos de residência de dados
OpenAI sobre o Bedrock pode permitir que essas organizações usem OpenAI sem precisar negociar um DPA separado com a própria OpenAI, então isso pode ser uma abertura muito maior do que parece no papel
Há um subprocessador a menos, e os dados já estão dentro da AWS, então há menos preocupação com enviá-los para outro lugar
Isso, claro, a menos que a AWS finalmente tenha desistido e colocado compatibilidade com a API da OpenAI para tornar o Bedrock minimamente utilizável
Ele suporta Responses e Chat Completions; veja aqui https://docs.aws.amazon.com/bedrock/latest/userguide/endpoin...
Só neste post do HN apareceram quatro links do anúncio ao mesmo tempo, e isso não foi por acaso
Quando uma fala errada no momento errado pode abalar bilhões de dólares em investimento, a mensagem precisa ser lapidada com muito cuidado e liberada em etapas