Obituário do Cyc

O fracasso do projeto Cyc

• Resumo: O projeto Cyc foi uma tentativa de 40 anos de construir inteligência geral artificial, avançando por meio da expansão da lógica simbólica, mas terminou em fracasso. Este ensaio busca lançar luz sobre a história sigilosa do Cyc e torná-la amplamente conhecida.

O matemático automatizado e o EURISKO

• Matemático Automatizado (AM): O primeiro projeto lendário de Douglas Lenat, um sistema que descobria automaticamente conceitos matemáticos. No entanto, o AM entrou rapidamente em fadiga intelectual após as descobertas iniciais.
• EURISKO: Um sistema desenvolvido para superar as limitações do AM, projetado para descobrir por conta própria regras heurísticas para novas descobertas. Porém, o EURISKO também acabou entrando em fadiga intelectual.

A história do Cyc

• Início do Cyc: Em 1985, Lenat iniciou o Cyc codificando manualmente conhecimento de senso comum. Foram necessários cerca de 30 milhões de afirmações e US$ 200 milhões em custos.
• Uso comercial: O Cyc migrou para aplicações comerciais após 2016, mas era funcionalmente igual aos serviços e recursos de empresas já estabelecidas como Oracle e IBM.
• Sigilo: O Cyc tinha um caráter sigiloso, era difícil para pesquisadores externos utilizá-lo e não conseguiu apresentar resultados em benchmarks públicos.

Motivos do fracasso do Cyc

• Limites da lógica simbólica: Lenat insistiu na abordagem da lógica simbólica, mas ela fracassou em alcançar inteligência geral em IA.
• Importância do conhecimento de senso comum: Lenat via no vasto conhecimento de senso comum a razão pela qual os humanos não entram em fadiga intelectual, acreditando que isso permitiria gerar novas ideias indefinidamente.

Conclusão

• Limites da lógica simbólica: O fracasso do Cyc mostra que a abordagem da lógica simbólica não é adequada para alcançar inteligência geral em IA.

[GN⁺]

Comentários do Hacker News

• "Isso parece uma frase que uma IA senciente escreveria: me passou a impressão de 'não há nada para ver aqui, siga em frente'"

  • Achei que o Cyc não estava indo em uma direção útil
  • Fiquei impressionado com a demo do mundo de blocos do McCarthy
  • Acho importante ter formalizado regras que criam o 'contexto' em que a IA vai operar
  • Os primeiros casos de falha dos LLMs são exemplos típicos de falha de contexto
  • Os modelos existentes não têm contexto durante o treinamento, então a saída não é ajustada ao contexto

• "Artigo muito interessante e valioso"

  • É uma pena concluir de forma categórica que o projeto fracassou
  • Levou mais de 40 anos para as redes neurais se tornarem úteis
  • Se a base de conhecimento da Cycorp se tornar amplamente acessível, ela poderá ser usada no treinamento de LLMs

• "É possível executar a versão opencyc disponibilizada online"

  • Há o dataset, a base de conhecimento e o mecanismo de inferência no GitHub
  • Foi escrito em uma versão antiga de Java

• "Tentei ler bastante sobre AM e EURISKO, mas o trabalho de Lenat era fechado"

  • É uma pena que outras pessoas não tenham podido evoluir a partir do trabalho de Lenat

• "O artigo é uma excelente revisão de Symbolic AI"

  • Passei muito tempo com o OpenCyc no passado, mas não mexo nisso há 10 anos
  • O futuro produtivo da Symbolic AI provavelmente estará ligado ao uso de LLMs para construir grafos de conhecimento e relações simbólicas a partir de dados não estruturados

• "Segundo o site, o Cyc está indo bem"

  • Lenat morreu em 2023, mas ainda aparece como o único membro da 'equipe de liderança'

• "Acho que Lenat estava certo na direção, no sentido de que a quantidade de dados é a chave para obter inteligência útil"

  • Criticaram o projeto Cyc, mas algo parecido também aconteceu com os LLMs

• "Excelente ensaio! Obrigado ao OP pela pesquisa incansável"

• "Não tenho opiniões fortes sobre o Cyc, mas este obituário parece bem maldoso"

  • A crença fundamental de Lenat também é compartilhada em ML
  • ML exigiu uma quantidade avassaladora de computação

• "O grande tópico sobre Cyc do ano passado"