Resumindo livros recursivamente com feedback humano

• Novo artigo publicado pela OpenAI

• Para aplicar modelos de IA, é preciso verificar se o modelo de machine learning está funcionando de acordo com a intenção humana

→ Problema de alignment

• Resolver o alignment é difícil para humanos avaliarem e consome muito tempo

• Para testar técnicas de Scalable Alignment, foi treinado um modelo para resumir um livro inteiro

→ Primeiro resume o livro por seções e depois resume esses resumos novamente em um nível superior, continuando até chegar ao resumo final

→ Resumiu "Alice no País das Maravilhas", com 26.449 palavras, em 136 palavras

→ Com ajuste fino a partir do GPT-3, conseguiu gerar resumos excelentes em um nível semelhante à qualidade média de resumos escritos por humanos