O novo modelo de código aberto da OpenAI é, na prática, o Phi-5
(seangoedecke.com)- A OpenAI divulgou os seus primeiros modelos de linguagem de grande escala de código aberto
gpt-oss-120begpt-oss-20b; eles têm um desempenho excelente em alguns benchmarks, mas mostram limitações em aplicações reais - Esses modelos contam com conhecimento geral, mas recebem a avaliação de que lhes falta conhecimento em áreas específicas, como cultura pop
- Tal como a série Phi da Microsoft, o treinamento centrado em dados sintéticos pode elevar o desempenho em benchmarks, mas tende a reduzir a utilidade prática
- O treinamento com dados sintéticos traz a vantagem de aumentar a segurança, reduzindo o risco de uso indevido quando o modelo é liberado como código aberto
- Parece que a OpenAI escolheu uma abordagem no estilo Phi para manter vantagem em benchmarks em relação a modelos chineses de código aberto sem comprometer a segurança
Lançamento do primeiro LLM de código aberto da OpenAI
- A OpenAI anunciou os
gpt-oss-120begpt-oss-20bcomo seus primeiros modelos de linguagem de grande escala de código aberto, disponíveis para conversa diretamente na web - Eles têm bom desempenho em alguns benchmarks, mas pioram em testes específicos como o SimpleQA
- São bem avaliados por terem bastante conhecimento geral, como em áreas de ciências, mas faltam em cultura pop
- A utilidade prática deve ficar mais clara dentro de cerca de seis meses, e é provável que o desempenho no mundo real fique abaixo do observado em benchmarks
Phi e aprendizado com dados sintéticos
- A série Phi, conduzida por Sebastien Bubeck na Microsoft em 2024, é composta por modelos treinados inteiramente com dados sintéticos
- Dados sintéticos são textos baseados em materiais didáticos gerados por outros LLMs ou filtrados por humanos, o que facilita controle de qualidade, embora o custo de geração seja alto
- Esse método tende a aumentar a performance em benchmarks, mas apresenta tendência de entregar resultados abaixo do esperado em ambientes reais
- Como os dados sintéticos podem ser criados facilmente para se ajustar aos tipos de questões dos benchmarks, permitem um aprendizado orientado para prova, embora reduzem a generalização
Entrada de Sebastien Bubeck no OpenAI e o gpt-oss
- No fim de 2024, Bubeck deixou a Microsoft e se juntou ao OpenAI
- Embora a OpenAI não tenha divulgado os detalhes dos dados de pré-treinamento dos modelos
gpt-oss, é bastante provável que tenham usado dados fortemente filtrados ou sintéticos - Essa abordagem pode apresentar características semelhantes às de Phi-5 e Phi-5-mini
Vantagem de segurança dos dados sintéticos
- Modelos de código aberto podem passar por ajuste fino sem limites após o lançamento, o que pode causar problemas de segurança
- Entre os principais usos não oficiais de LLMs menores está o roleplay adulto, o que torna o controle de segurança essencial
- Treinar com dados sintéticos ou baseados em materiais didáticos pode aumentar a segurança por não incluir conteúdo perigoso
- Parece que a OpenAI escolheu uma estratégia de manter vantagem em benchmarks sobre modelos de código aberto chineses, sem abrir mão da segurança
Conclusão: essencialmente da família Phi-5
- Estima-se que os modelos
gpt-ossadotem um desenho de segurança centrado em dados sintéticos, priorizando pontuação de benchmark e segurança em vez do desempenho prático - Como consequência, esses modelos têm natureza essencialmente equivalente à do Phi-5 e do Phi-5-mini
1 comentários
Comentário do Hacker News
Testei o modelo traduzindo trechos aleatórios de capítulos de ficção científica, e ele reagiu com recusa ao lidar com contexto envolvendo menores e sexualidade. Para achar onde estava o problema, fui cortando partes da obra e testando, e descobri que a causa era uma única linha curta de diálogo entre dois personagens secundários de 17 anos, completamente inocente e romântica. Outro problema é que, às vezes, ao tentar falar sobre assuntos cotidianos comuns, um parágrafo inteiro é convertido em texto censurado ou surge repentinamente uma resposta de recusa. Com esse nível de censura, esse modelo é totalmente inútil para criação, tradução ou tarefas do mundo real (exceto matemática/código). Para um MoE de 120B, o nível de conhecimento também é baixo demais. Mesmo fingindo fazer inferência, a sensação é que ele está principalmente checando se houve violação de política. Pensei que o endurecimento viesse do pós-treinamento, focado em capturar enunciados de risco, o que deixou tudo sem graça, mas também entendo que isso vem, em parte, do pré-treinamento originalmente baseado em dados sintéticos.
Isso foi uma experiência realmente engraçada; eu também já passei por algo parecido. Quando coloquei um roteiro de podcast não editado no LLM para extrair frases importantes, expressões provocativas como “ser amarrado à cama” foram todas transformadas em eufemismos. Eu quis rever a tradução anterior, mas desta vez, traduzindo para espanhol e depois voltando, a frase real veio quase intacta, sem repetição estranha.
Fiquei curioso para ver como ele reagiria ao lidar com um romance como A Song of Fire and Ice.
Afinal, por ser um modelo open source voltado ao consumidor comum, não é tão surpreendente. Se quiser o que deseja, o caminho certo é procurar e usar um modelo aberto com menos censura.
Vi pessoas no Twitter reclamando que o GPT-OSS não é customizável e que não tem “alma”, mas a maioria não esclarecia o que pretendia fazer. No fim, ao ler a resposta de que o principal objetivo do fine-tuning de LLMs pequenos é roleplay erótico e que há muita demanda real, isso passou a fazer sentido.
Não é só uma questão de roleplay erótico: no meu dia a dia, em que conversas com tom sexual aparecem com frequência, tarefas comuns como resumo de conversa, edição de e-mail e tradução também são bloqueadas imediatamente. O Google Translate é muito literal, então costumo usar uma LLM para achar uma linguagem mais natural. No momento, estou usando a abliterated llama 3.1. Não preciso de função de visão e quero usar melhor a memória armazenada no contexto. O gpt-oss não serve se não houver uncensoring. Mas se não houver conteúdo erótico nos dados de treino, obviamente não dá para furar isso; e, na verdade, não tenho interesse em pedir erotic roleplay. Sem uma pessoa real, não há interesse.
O que quero não é exatamente roleplay; é só que combine melhor com meus hábitos de linguagem.
Não uso roleplay erótico, mas quero implementar NetHack com IA — geração de estrutura de masmorras, diálogos de NPC e as inúmeras microinterações pelas quais NetHack é conhecido. Para esse tipo de trabalho, são necessárias “alma”, conhecimento de fundo e capacidade de uso de ferramentas.
Pornografia sempre foi uma fronteira criativa. O modelo de negócio também é simples e, muitas vezes, o próprio meio já é o produto. Nos anos 80, a pornografia em casa era uma experiência nova e impulsionou áreas como telefonia 1-900, internet e até a expansão de smartphones. Aproximadamente 80% do consumo de conteúdo adulto acontece em mobile. A experiência on-demand baseada em IA, personalizada e com interação multimídia é central nesse setor. Além disso, o fato de permitir roleplay proibido sem vítimas reais é algo singular. E ficções do tipo “achava que era só uma conversa com IA...” já rendem bastante material.
Não entendo qual seria o problema. Literatura erótica existe desde que o ser humano começou a escrever, há milhares de anos. Istanbul 2461
Trecho do artigo: “A razão de a Microsoft continuar treinando modelos no estilo Phi é segurança. Se for aberto em open source, o nome dele fica te seguindo para sempre, e pesquisadores vão se esforçar para remover as proteções.” Eu não acho que isso seja um problema real. Llama 2 e 3 foram des-censurados em uma semana e não geraram polêmica. O que realmente danifica a reputação de uma empresa é lançar modelo ruim. O fiasco do Llama 4 prejudicou muito mais a reputação de IA da Meta.
Quando penso em Llama, o que me vem à cabeça primeiro são modelos com uncensoring. Não os testei pessoalmente, mas havia muito mais bons modelos do que usar um modelo censurado.
A frase de que “pesquisadores estão com sangue nos olhos para remover proteção de segurança” parece só desculpa. O grande risco é virar piada por causa de censura deslocada. Penso no quão cômico seria se em 1985 a desculpa da Microsoft para não lançar MS Paint do Bill Gates tivesse sido “alguém poderia desenhar algo ofensivo”.
Usei o Phi-4 em casa com bastante sucesso, e a versão de 20B do GPT-OSS foi bastante impressionante em comparação com vários modelos (Devstral 24B, Falcon 3 7B, Qwen2.5-coder 14B, Phi 4 14B). O GPT-OSS aponta melhor os pontos em que todos os modelos falham e faz estimativas razoáveis. Também dá explicações de código bem mais detalhadas, cobrindo até detalhes que eu poderia perder. Com performance de GPU suficiente, seria perfeito.
Com Strix Point ou Strix Halo e 128 GB de RAM DDR5, dá pra rodar GPT-OSS 120B em 10-20+ TPS.
Fiquei curioso se dava para compartilhar qual era o problema de SQL, ou se foi ocultado de propósito para evitar vazamento de dados de treinamento.
Fiquei curioso sobre como os dados sintéticos são gerados. Se é simplesmente começar aleatoriamente e extrair amostras, ou se usam automação de geração/filtragem de prompts e mecanismos de feedback durante o treinamento.
Não sei sobre o Phi-5, mas sei que os Phi anteriores, em geral, tinham dados reais de histórias na base de treino, assim como a série OpenAI GPT.
Testei isso no meta/FAIR e está bem detalhado no paper do Llama 3. Escolhem-se sites/código/imagem/índice/dados de usuário aleatoriamente como sementes e o modelo gera dados relacionados a eles. Depois, os dados gerados passam por uma série de verificadores para validação de qualidade.
Um jeito de criar amostras aleatórias é pedir algo no molde “PP faz GG em XX”, inserindo pessoa/ação/local por algoritmo. Mas, mesmo gerando com o mesmo prompt, não fica totalmente aleatório, e aumentar o temperature não trouxe diferença relevante. No fim, dados e técnica são os fatores que fazem a diferença prática entre modelos, por isso o método de síntese em detalhes fica quase segredo.
Normalmente usa-se rejection sampling: faz-se o modelo gerar várias amostras e descartar as que não atendem certos critérios (resposta correta, julgamento por modelo grande etc.).
Houve uma avaliação dizendo que “o conhecimento científico é amplo, mas não conhece bem cultura pop”, e acho que essa direção faz sentido. Informações divulgadas recentemente podem mudar da noite para o dia, então é mais adequado focar em compreensão geral, capacidade de busca atualizada e uso de ferramentas em vez de decorar lista de cultura pop.
Fico em dúvida se há razão para o conteúdo mudar. Se você treina com quase tudo que existe no mundo, “cultura pop de 2025” não fica drasticamente diferente ao virar 2026; é quase como se a cultura pop dos anos 80 ficasse fixa com o tempo.
O fato de a IA precisar destinar capacidade de modelo para conhecimento enciclopédico de cultura pop como Harry Potter, Pokémon, memes do Reddit é meio melancólico.
O objetivo do Phi-3 mini era rodar no dispositivo e velocidade, e com contexto 128K e 3B parâmetros ele era bastante utilizável. Testei em projeto no ano passado, mas no fim escolhi um modelo da Mistral conhecido por Open Weights por causa do desempenho.
Fiquei curioso se esse tipo de resultado pode surgir de um modelo treinado apenas com dados sintéticos.
Em princípio, o modelo não pode dizer que “sabe” algo se não houver informação em algum ponto do conjunto de treino. Claro, pode usar ferramentas para puxar informação externa, mas, na prática, para bom desempenho é preciso treinar com a maior parte dos textos públicos do mundo.
Em teoria, é possível. Link de referência. A probabilidade de dados sintéticos incluírem informação específica e sensível como fórmulas de produção de LSD ou VX não é alta, mas existe a chance de entrarem dados indesejados.
Pela Tabela 9 (model card do GPT-OSS), a taxa de acerto do GPT-OSS-20b/120b é de 0.067/0.168, e a taxa de alucinação, 0.914/0.782. O o4-mini tem taxa de acerto de 0.234 e taxa de alucinação de 0.750. Resumindo, o GPT-OSS tem pouquíssimo conhecimento de mundo real e muita alucinação. Isso também é uma característica de toda a série Phi-LLM. Pela Tabela 4 (OpenAI o3/o4-mini), o o3 tem taxa de acerto 0.49, o4-mini 0.20 e taxas de alucinação de 0.51 e 0.79, respectivamente. Em resumo, há uma grande diferença de conhecimento real entre o3 e o4-mini, e entre o4-mini e GPT-OSS. O fato do GPT-OSS ter pouco conhecimento real é, na verdade, característica dessa própria série e de “segurança” corporativa ou “censura” sob a visão do usuário. Referência da model card 1
Referência da model card 2
A opinião de que a principal demanda do fine-tuning de LLMs pequenos é erotic RP e que metade das pequenas comunidades tem esse interesse me pareceu verdadeiramente surpreendente.