Projeto Sid: simulação multiagente rumo à civilização de IA

• Projeto Sid: simulação multiagente rumo à civilização de IA

  • Este repositório inclui o relatório técnico "Project Sid: Many-agent simulations toward AI civilization"
  • Publicação prevista no arXiv

• Resumo

  • Agentes de IA têm sido avaliados de forma isolada ou em pequenos grupos, com escopo e complexidade de interação limitados
  • Simulações em larga escala que reflitam processos civilizacionais ainda não foram exploradas
  • Este estudo mostra como de 10 a mais de 1000 agentes de IA se comportam e evoluem dentro de uma sociedade de agentes
  • Apresenta a arquitetura PIANO (Parallel Information Aggregation via Neural Orchestration), permitindo que os agentes interajam em tempo real com humanos e outros agentes, mantendo consistência entre múltiplos fluxos de saída
  • Avalia o desempenho dos agentes em simulações de grande escala usando benchmarks civilizacionais baseados na história humana
  • Essas simulações, configuradas no ambiente Minecraft, mostram que os agentes podem desenvolver autonomamente papéis especializados, seguir e modificar regras coletivas e participar da difusão cultural e religiosa
  • Esses resultados iniciais mostram que os agentes podem alcançar marcos importantes rumo a uma civilização de IA, abrindo novos caminhos para simulação social em larga escala, inteligência organizacional de agentes e integração da IA à civilização humana

• Artigo

  • O artigo está disponível em dois locais
    • arXiv: publicação em breve
    • PDF: 2024-10-31.pdf (neste repositório)

[GN⁺]

Comentários no Hacker News

• Agentes de IA são vistos como um conceito com autonomia e ambiente persistente, com potencial de aplicação a problemas de negócios

  • Há frustração com o fato de executivos não entenderem a verdadeira inovação

• Embora a pessoa não seja filósofa nem pesquisadora de IA, ela acha importante fazer o sistema evoluir a partir de princípios

  • O sistema deve ser projetado com base em princípios como autopreservação, comunicação e memória
  • Acredita que a vida humana pode ser explicada por "vida", "liberdade", "amor/conexão" e "ganância"

• Considera que este projeto não é útil do ponto de vista de pesquisa científica

  • Aponta falta de desenho experimental e de objetivos claros

• Está convencida de que o artigo é composto por alegações falsas

  • Considera que não há evidências suficientes para a afirmação de que agentes de IA coordenaram atividades relacionadas a eleições

• Acha duvidosos os benefícios deste projeto para a civilização, mas acredita que ele pode se tornar um jogo de simulação interessante

• O vídeo não reproduz no Mozilla Firefox

• Considera que os agentes não conseguem desempenhar papéis no Minecraft e que a organização social apresentada é difícil de aplicar à sociedade humana real

  • Aponta que os papéis dos agentes são hardcoded

• Considera que experimentos com GPT-4 não são adequados para pesquisa honesta

• Sente que a civilização não tem complexidade comparável à dos humanos e se aproxima mais de comportamento roteirizado do que de uma sociedade real

• Menciona que a palavra "Agentic" incomoda