A visão de Stanisław Lem sobre a vida artificial
(thereader.mitpress.mit.edu)- O romance de 1964 de Stanisław Lem, The Invincible, imaginou uma forma de vida evoluída a partir de máquinas autônomas e autorreplicantes mais de 20 anos antes de o campo chamado “artificial life” ser estabelecido por Christopher Langton em 1986
- As máquinas automáticas de Regis III permanecem depois que os visitantes biológicos desaparecem, competindo com a vida nativa e com outras máquinas automáticas, surgindo como seres com capacidade de autofabricação transformada ao longo do processo evolutivo
- Como esses seres não ingerem alimento e usam energia solar, quanto menores forem, mais vantajosos se tornam, criando um caminho em que o comportamento de enxame tem vantagem evolutiva sobre a inteligência individual
- As simulações modernas de comportamento de enxame na pesquisa de vida artificial dialogam com a intuição de Lem ao mostrar que indivíduos como peixes, aves e abelhas produzem comportamentos coletivos complexos seguindo regras simples em relação a alguns poucos vizinhos próximos
- O romance revela os limites de suposições antropocêntricas formadas na Terra ao contrastar isso com o fato de que valores como a singularidade e a solidariedade da vida humana não se aplicam ao enxame de “moscas” de Regis III
A vida artificial imaginada por The Invincible
- The Invincible é a história de um cruzador espacial que segue para um planeta remoto para confirmar o destino de sua nave irmã, com a qual a Terra perdeu contato
- Ao pousar em Regis III, o navegador Rohan e a tripulação descobrem uma forma de vida que parece ter evoluído a partir de máquinas autônomas e autorreplicantes
- Elas podem ser sobreviventes de uma “guerra de robôs”
- Os humanos se deparam com a questão de como agir quando chegam ao limite do que podem compreender
- O romance coloca os personagens diante de uma entidade inexplicável e estranha, situada logo além do alcance do que é analisável
A imaginação de Lem antes do debate sobre vida artificial
- A ficção científica tem a tradição de antecipar várias tecnologias do século 20, como viagens espaciais, satélites, bombas atômicas, televisão, internet e realidade virtual
- The Invincible antecipou outro tema tecnológico e científico entre eles: a vida artificial
- Já havia especulações sobre sistemas artificiais autorreprodutivos desde os anos 1940
- O nome do campo científico “artificial life” foi dado por Christopher Langton em 1986
- Isso ocorreu mais de 20 anos depois da publicação original em polonês de The Invincible, em 1964
- Um dos debates centrais no campo da vida artificial é se programas e dispositivos evolutivos são realmente vivos ou apenas simulam a vida
- A versão forte sustenta que processos de software como algoritmos genéticos são tão “naturais” quanto a própria vida
- Nessa visão, o artificial não é o processo, mas o meio em que ele ocorre
- Robert Rosen e outros pensaram a essência da “vida em si” não apenas a partir da vida terrestre baseada em carbono, mas também por meio da life-as-it-could-be possível em sistemas planetários alienígenas
- Formas de vida artificial baseadas em silício podem oferecer insights para esse tipo de reflexão teórica
O caminho evolutivo diferente escolhido pelas máquinas automáticas de Regis III
- Segundo a hipótese do Dr. Lauda no romance, uma nave do sistema Lycran pousou em Regis III há milhões de anos
- Os visitantes biológicos morreram, mas as máquinas automáticas sobreviveram
- Depois disso, ocorreu uma luta evolutiva entre as máquinas automáticas, a vida nativa do planeta e diferentes tipos de máquinas automáticas entre si
- Para que esse cenário funcione, o imperativo de “sobreviver e reproduzir” que governa a vida na Terra também precisa operar em Regis III
- Lem estabelece que as máquinas automáticas podem fabricar a si mesmas, inclusive com modificações decorrentes do processo evolutivo
- John von Neumann imaginou, em um problema semelhante, peças metálicas flutuando em um lago e se auto-organizando, mas o foco de Lem não está em preencher o mecanismo concreto
- O interesse de Lem está em imaginar, em Regis III, uma forma de vida artificial que venceu a competição evolutiva por razões totalmente diferentes daquelas que fizeram o Homo sapiens triunfar na Terra
- A diferença decisiva está na forma de obtenção de energia
- As máquinas automáticas de Regis III não ingerem alimento; usam luz solar
- Quanto menor o organismo artificial, menos energia ele precisa
- A pressão evolutiva favorece formas menores, que ganham vantagem não por inteligência superior, mas por inteligência de enxame
- O enxame de “moscas” pode gerar campos eletromagnéticos extremamente poderosos
- Apesar do pequeno tamanho, ele se torna o vencedor evolutivo do planeta e uma força ameaçadora para os humanos invasores
- O título The Invincible é ambíguo: é o nome imponente da nave espacial e, ao mesmo tempo, pode se referir ao enxame de máquinas automáticas alienígenas que a ameaça
Uma intuição que encontra eco nos estudos modernos de enxame
- A pesquisa contemporânea em vida artificial sustenta a intuição de Lem de que enxames de seres artificiais podem exibir comportamentos complexos com apenas algumas regras simples
- Simulações computacionais que descrevem com precisão o comportamento coletivo de peixes, aves e abelhas mostram que basta cada indivíduo reagir a apenas 4 ou 5 indivíduos próximos
- Esse conjunto de regras ocupa apenas algumas linhas de código
- Em cardumes que fogem de predadores, o peixe mais próximo do predador guia a direção do grupo inteiro
- Como o indivíduo na posição de maior risco tenta fugir com mais intensidade, a direção que ele segue determina o movimento de todo o cardume
- O comportamento de cada peixe é simples, mas o resultado coletivo produz uma inteligência de enxame consideravelmente complexa
- Décadas antes de essas ideias se difundirem amplamente na ciência, Lem intuiu que restrições ambientais diferentes poderiam gerar resultados evolutivos totalmente distintos em vidas biológicas e máquinas automáticas
- Na Terra, os humanos, a espécie mais inteligente, em geral sobreviveram melhor, mas essa inteligência tem custos
- Longo período de maturação
- Grande investimento de recursos em cada indivíduo
- Socialização que enfatiza vínculos de casal e apoio comunitário
- Alto valor atribuído à realização pessoal
- Essas características não são leis universais do cosmos, e a história de outros planetas pode levar à vitória de traços completamente diferentes
Valores humanos e os limites do antropocentrismo
- A cena entre o capitão Horpach e o primeiro-oficial Rohan destaca com clareza o contraste entre humanos e o enxame de máquinas automáticas
- Horpach encarrega Rohan de decidir se deve expor outros tripulantes a grande risco para confirmar se os quatro desaparecidos quase certamente morreram ou se alguns deles ainda podem estar vivos
- Esse risco só parece minimamente justificável por causa de algumas premissas sobre os humanos
- A vida humana é valiosa
- A crença de que, diante do perigo, todas as tentativas possíveis de resgate serão feitas sustenta a solidariedade da tripulação
- Todo ser humano é singular e, portanto, singularmente valioso
- Essas premissas não se aplicam ao enxame de “moscas”
- As máquinas automáticas individuais são quase idênticas entre si
- Cada unidade é facilmente substituível e, portanto, descartável
- Não é o indivíduo, mas o enxame que possui valor evolutivo de sobrevivência
- O confronto entre humanos e as “moscas” é, ao mesmo tempo, um choque entre formas de vida diferentes e um choque entre valores moldados por caminhos evolutivos distintos: os humanos da Terra e as máquinas automáticas de um planeta estranho
- Como em Solaris, Lem mostra que suposições nascidas na Terra podem se revelar estreitas diante do encontro com formas de vida fundamentalmente diferentes
- Até mesmo a melhor ciência, engenharia e armamento podem revelar situações que os humanos não conseguem abarcar plenamente em uma perspectiva cósmica mais ampla
- A cena em que os tripulantes regridem a um estado infantil após o ataque das “moscas” pode ser lida como metáfora dessa percepção
- Rohan é o personagem que vivencia o planeta da maneira mais direta
- Ele atravessa o terreno com os próprios pés, mistura seu suor às fendas, vales e colinas do planeta e respira sua atmosfera com os pulmões
- Quando conclui que “nem tudo, em todos os lugares, existe para nós, humanos”, isso funciona como um desafio às suposições antropocêntricas que governaram a ética humana e a exploração da Terra
- The Invincible continua sendo uma obra de ficção científica que tem algo a dizer não apenas sobre o futuro que enfrentaremos, mas também sobre a condição humana no presente
1 comentários
Comentários do Hacker News
Lem era alguém que escreveu livros sobre quase todo tema imaginável relacionado à ciência/filosofia
Aqui ele aborda algo como o ChatGPT: https://mwichary.medium.com/one-hundred-and-thirty-seven-sec...
Aqui também é parecido: https://electricliterature.com/wp-content/uploads/2017/11/Tr...
E aqui ele trata de e-books e audiolivros: http://www.technovelgy.com/ct/content.asp?Bnum=1024
Nele, a literatura “bitic” seria, por assim dizer, romances escritos por modelos de linguagem. Você coloca a obra completa de Tolstoy e sai um novo romance “de Tolstoy”
Quando li esse “prefácio” pela primeira vez, 20 anos atrás, achei que não fazia sentido. Fiquei pensando como um sistema que só fosse alimentado com outros romances, e que ao mesmo tempo nem fosse uma inteligência geral, poderia escrever um romance; escrever romances me parecia obviamente um problema AGI-completo
Em especial, gente como Nick Cave declarando a morte da criatividade me lembrou os poetas que protestavam naquela história
Lembro que ele tratava de uma situação em que uma conversa com esse dispositivo se tornava indistinguível de uma conversa com um ser humano
“Um poema sobre barbear! Mas tem de ser refinado, sublime, trágico e eterno, cheio de amor e traição, punição e heroísmo silencioso diante da ruína certa! Seis versos, rima engenhosa, e todas as palavras devem começar com ‘s’!”
“Seduced, shaggy Samson snored. / She scissored short. Sorely shorn, / Soon shackled slave, Samson sighed, / Silently scheming, / Sightlessly seeking / Some savage, spectacular suicide.”
The Invincible é um dos meus livros favoritos da vida. Descobri aos 12 anos e desde então o releio a cada poucos anos
Fiquei feliz que, em 2020, uma tradução moderna adequada para o inglês e uma excelente gravação em audiolivro tenham finalmente permitido que o mundo de língua inglesa descobrisse esse livro como deve ser. A edição inglesa anterior era apenas uma tradução de uma tradução, refeita a partir da versão alemã
Sempre me perguntei se seria possível transformar as ideias desse livro em um videogame, e o jogo recente The Invincible conseguiu fazer isso. Alguns detalhes mudaram, mas é uma excelente homenagem à obra original, e a representação de Regis III foi muito prazerosa
Para quem lê em polonês, também há uma ótima HQ para presentear: https://www.dobrestronybooki.pl/niezwyciezony/
Os três livros fazem a mesma pergunta: “o que acontece quando os humanos se deparam com uma inteligência que simplesmente não conseguem compreender, ou que é incompatível com a humanidade?”
Felizmente, a biblioteca tem um exemplar, então posso pegá-lo emprestado amanhã
Invincible é apenas um dos vários livros que mostram o quanto Lem entendia profundamente a IA e os limites de a IA servir à humanidade
Recomendo a coletânea Tales of Pirx the Pilot. Em muitas histórias, a IA é retratada como um verdadeiro espelho que reflete até as falhas, excentricidades e instintos da inteligência humana. Vai desde uma história em que a IA derruba uma nave espacial durante o pouso até um androide que “morre” durante uma escalada
Há também o prefácio de Golem XIV. Ele oferece ao leitor uma visão histórica da evolução da IA. Golem é o nome do modelo e XIV é o número da versão, então é parecido com o ChatGPT 4, mas depois de muito mais iterações. Lem descreve como cada iteração vai ficando mais cara, mais inteligente e mais útil, até que, quando finalmente supera a inteligência humana, perde completamente o interesse pelos assuntos humanos. Mais uma vez, ele acertou em cheio
Às vezes com um disfarce bem fino, como em Golem XIV, e às vezes completamente exposto, como em Summa Technologiae. Katar (The Chain of Chance) é um caso em que ele colocou uma casca narrativa mais espessa para parecer um romance policial barato
As histórias de Pirx eram menos conceituais e muito mais humanas, e a ação também é muito sólida. No geral, são ótimas para começar a ler Lem. Como dica, também recomendo Cyberiada. É filosofia disfarçada de paródia e, ao mesmo tempo, um livro para crianças
Acho difícil interpretar desprezo sem alguma direcionalidade própria
É um ótimo filme, recomendo
O livro mais profético de Lem é um retrato exato deste século, publicado em 1961: https://en.wikipedia.org/wiki/Return_from_the_Stars
Dito isso, pessoalmente prefiro seus textos mais bem-humorados, como Cyberiada ou Star Diaries
Sinto mais pena desse protagonista do que dos protagonistas de outras histórias. Preciso relê-lo
Se bem me lembro, os replicadores de Stargate chegam bem perto de uma visualização desse tipo de vida artificial. Um enxame se auto-organiza para formar uma espécie de estrutura orgânica, e seu único objetivo é consumir matéria para fazer mais de si mesmo
Pelo menos não estavam fazendo clipes de papel
A visão de futuro de Lem era consistentemente, e de forma impressionante, profética. Ele provavelmente teria se descrito não como autor de ficção científica, mas como futurólogo
Suas histórias muitas vezes usavam a tecnologia como cenário para explorar o tecido social e as interações entre personagens, mas esse pano de fundo tecnológico não era mero enfeite: era também o contexto central da história. Poucos conseguiram equilibrar isso tão bem
Um dos meus livros favoritos é Peace on Earth, mas na verdade quase tudo o que ele escreveu é interessante de ler. Talvez a exceção sejam algumas obras do fim da vida, mais densas e inclinadas ao acadêmico. Li Fables for Robots quando era criança, e o mundo que ele imaginou era realmente fascinante
Um dos grandes méritos de Lem é que ele escreveu em estilos de muitos gêneros diferentes. A terceira coluna desta tabela da Wikipédia em polonês mostra isso muito bem: https://pl.wikipedia.org/wiki/Lista_pierwszych_wyda%C5%84_dz...
Claro, há ficção científica, mas também romance policial, romance “realista” e ensaio filosófico. Isso não aparece tão claramente só pela tabela, mas até a ficção científica dele se divide em vertentes tão diversas quanto humor, horror, thriller e literatura infantil
The Futurological Congress, de 1971: https://en.wikipedia.org/wiki/The_Futurological_Congress
É um mundo em que pílulas substituem a realidade, e na prática já não estamos tão longe disso
Mas o processo de tudo se tornar cada vez mais “cérebro-máquina” aparece melhor aqui: https://en.wikipedia.org/wiki/Tales_of_Pirx_the_Pilot
Vai avançando passo a passo, e o resultado fica cada vez mais triste
Invincible costuma ser visto mais como um livro sobre nanotecnologia do que sobre vida artificial. Os dois claramente se sobrepõem, mas o título deste texto pode facilmente levar o leitor a pensar em vida biológica artificial, como histórias de criação de células a partir de uma sopa primordial fictícia
Lem voltou várias vezes à ideia da nanotecnologia, inclusive em seu último romance, Peace on Earth. Pessoalmente, acho Peace melhor e mais engraçado do que Invincible, e também melhor como porta de entrada para Lem
As “moscas” são organizadas para cumprir vários propósitos, mas, fora isso, não têm nenhuma agência
Quando era criança, eu adorava ler Lem
Gostava especialmente do conto Automatthew's Friend. Embora tenha sido escrito décadas atrás, a ideia de um robô “amigo” útil vivendo dentro da sua orelha parecia algo que poderia acontecer na minha vida
E então, décadas depois, ao usar a Siri com AirPods, percebi isso de forma chocante. Eu já estava vivendo dentro da ficção científica, tinha chegado àquele mundo futuro e quase nem tinha percebido
Recomendo muito essa história. Ela especula sobre o impacto de trazer uma tecnologia “pessoal” para dentro da vida. Mas o que realmente me deixa desconfortável é que eu só percebi o que tinha acontecido depois de literalmente colocar um robô falante no ouvido. Um nível semelhante de tecnologia personalizada já se espalhou por toda parte: PCs, celulares, TVs, geladeiras, sistemas de som, relógios, chaves de porta, lâmpadas e mais. Estamos colocando CPUs, interfaces de rede e credenciais em todos esses objetos como se isso fosse a coisa mais natural do mundo, sem parar para pensar no efeito que isso tem sobre nós mesmos