O que é ARC-AGI?
- ARC-AGI é um benchmark de inteligência artificial introduzido em 2019, projetado para testar a capacidade de sistemas de inferir regras abstratas e generalizá-las a partir de exemplos mínimos.
- O conjunto de dados é composto por quebra-cabeças semelhantes a testes de QI, e cada quebra-cabeça fornece várias imagens de exemplo que mostram a regra básica e uma imagem de teste à qual essa regra deve ser aplicada.
- O objetivo de resolver o ARC-AGI é evidenciar os desafios atuais que impedem o avanço da inteligência artificial.
Nossa abordagem de solução
- Propomos que a compressão de informação sem perdas pode ser um framework eficaz para resolver os quebra-cabeças do ARC-AGI.
- Uma compressão mais eficiente do quebra-cabeça está correlacionada com soluções mais precisas.
- O CompressARC usa uma rede neural como decodificador, e o algoritmo de codificação obtém a representação mais comprimida do quebra-cabeça ao otimizar os parâmetros do decodificador e a distribuição de entrada, em vez de usar outra rede.
Observação do aprendizado da rede: colorir caixas
- Solução humana: reconhecer que a entrada é dividida em caixas e que, na saída, essas caixas são preservadas e coloridas.
- Solução do CompressARC: em cada etapa de aprendizado, a rede passa gradualmente a entender e aplicar a regra do quebra-cabeça.
Como nossa abordagem de solução é derivada
- Compressão de informação sem perdas significa representar a informação com o menor número possível de bits, garantindo ao mesmo tempo que ela possa ser reconstruída a partir dessa representação em bits.
- Buscamos descobrir que resposta seria descomprimida por um sistema que comprimisse melhor o conjunto de dados ARC-AGI.
A ajuda das redes neurais
- Em vez de pesquisar no espaço de programas, escolhemos um programa e delegamos ao espaço de entrada a diversidade.
- Escrevemos um programa que executa o forward pass de uma rede neural e pesquisamos por meio do espaço de entrada.
Arquitetura
- Projetamos uma arquitetura de rede neural para decodificar quebra-cabeças do ARC-AGI.
- A característica mais importante é a equivariância, como seguir regras de simetria.
Resultados
- O CompressARC alcançou 34,75% no conjunto de treinamento e 20% no conjunto de avaliação.
Quebra-cabeças que consegue resolver e que não consegue
- O CompressARC tenta descobrir o máximo possível usando determinadas capacidades.
- Por exemplo, consegue estender padrões por distâncias curtas, mas não por distâncias longas.
Colorir caixas: estudo de caso
- Durante o treinamento, o erro de reconstrução diminui muito rapidamente e permanece baixo em média.
- Para entender como o CompressARC resolve o quebra-cabeça, analisamos a representação armazenada em z.
Como melhorar nosso trabalho
- Havia várias ideias que tentamos ou deixamos de tentar no momento do lançamento do CompressARC.
- Ainda consideramos válidas algumas ideias, como a compressão conjunta por meio do compartilhamento de pesos entre quebra-cabeças.
Ainda não há comentários.