- Construção de um modelo de aprendizado de máquina (ML) generativo para criação de fontes chamado 'FontoGen'
- O modelo recebe descrições de fontes como entrada e fornece arquivos de fonte como saída
- O autor se inspirou na ascensão da IA em 2023 para explorar a geração de SVG a partir de texto, o que levou à ideia de criar fontes
- O modelo foi construído com base no artigo IconShop2, e foi constatado que, de forma semelhante à geração de SVG, a geração de fontes também era possível
- O modelo é um modelo sequence-to-sequence treinado em uma sequência em que embeddings de fonte vêm após embeddings de texto
- Os embeddings de texto foram gerados usando um modelo encoder BERT pré-treinado, e os embeddings de fonte foram gerados convertendo a fonte em uma sequência de tokens
- O modelo é um transformer autoregressivo encoder-only composto por 16 camadas e 8 blocos, com um total de 73,7 milhões de parâmetros
- O autor usou atenção BigBird3 para focar no prompt inicial e observar N tokens anteriores, capturando o estilo de vários glifos anteriores
- O modelo foi treinado em um dataset único de 71k fontes, no qual o GPT-3.5 resumiu diferentes tipos de descrição em algumas palavras-chave
- O processo de treinamento levou 127 horas e foi interrompido quando a perda de validação quase não melhorava
- O autor obteve um ganho de desempenho de três vezes ao transferir o máximo possível para a etapa de pré-processamento do dataset
- O autor sugere possíveis aplicações futuras, como integrar o modelo a editores de fontes existentes para gerar todos os outros glifos com base em um único glifo criado por um designer
2 comentários
Crie uma fonte fofa para mim
Opiniões do Hacker News