Magnifica Humanitas

• A escolha central na era da IA não é ser a favor ou contra a tecnologia, mas decidir se vamos erguer uniformidade e dominação como Babel ou reconstruir sobre responsabilidade compartilhada e diversidade como Jerusalém
• A doutrina social da Igreja não é um conjunto fixo de princípios, mas um processo vivo de discernimento da transformação digital e da inteligência artificial por meio da dignidade humana, do bem comum, da subsidiariedade, da solidariedade e da justiça social
• A IA e o poder digital podem gerar concentração de dados, plataformas e recursos computacionais, decisões automatizadas, responsabilidade opaca, custos ambientais, trabalho oculto e novas formas de exploração
• O paradigma tecnocrático reduz o ser humano a um recurso a ser otimizado; por isso, educação, trabalho, família, mídia, política e economia precisam ser reorganizados para proteger a verdade e a liberdade, o cuidado e a participação
• A civilização do amor é apresentada como um caminho que rejeita a guerra, a corrida armamentista e a militarização da IA, e constrói a paz por meio da justiça, do diálogo, da diplomacia, da perspectiva das vítimas e da oração

---

A escolha na era da IA e a doutrina social

• A escolha da humanidade depende de erguer uma nova Torre de Babel ou construir uma cidade onde Deus e o ser humano habitem juntos
  • Cada geração recebe a tarefa de moldar seu tempo, proteger a dignidade de todas as pessoas, promover a justiça e tornar possível a fraternidade
  • Os cristãos veem, em Jesus Cristo, a plenitude do humano a partir da perspectiva de que “somente no mistério do Verbo encarnado o mistério do homem se esclarece verdadeiramente”
• Pope Leo XIII publicou Rerum Novarum em 1891, e 2026 marca seu 135º aniversário
  • Esse documento deu força à reflexão sobre sociedade, economia e política e se tornou um importante ponto de partida da corrente hoje conhecida como “doutrina social da Igreja”
  • A doutrina social é um processo vivo, baseado nas Escrituras e na tradição e em diálogo com várias disciplinas, que ajuda a interpretar os desafios do presente
• Digitalização, inteligência artificial e robótica estão transformando o mundo de forma rápida e profunda
  • A tecnologia não é, em si, uma força hostil à humanidade, mas é uma ferramenta ambivalente que pode causar danos quando não é orientada para o bem
  • As novas tecnologias penetram profundamente na vida cotidiana, nos processos de decisão e no imaginário coletivo, dificultando a avaliação de seus efeitos de longo prazo sobre a dignidade da pessoa e o bem comum
• O poder tecnológico tem um caráter privado e transnacional sem precedentes, o que torna mais difícil discerni-lo, governá-lo e orientá-lo para o bem comum
  • Pope Francis adverte que energia nuclear, biotecnologia, tecnologia da informação e o conhecimento do DNA dão a quem possui conhecimento e recursos econômicos “um domínio impressionante sobre o conjunto da humanidade e do mundo inteiro”
  • Hoje, o principal motor do desenvolvimento muitas vezes são agentes privados e transnacionais com recursos e capacidade de intervenção superiores aos de muitos governos

Babel e Jerusalém

• Torre de Babel

  • A Torre de Babel é a primeira imagem bíblica para navegar com responsabilidade na era da IA
  • No vale de Sinear, as pessoas queriam construir uma cidade e uma torre “cujo topo toque o céu”, evitar a dispersão e “fazer um nome para si”
  • Esse projeto, com uma única língua, uma única tecnologia e uma única direção, apoia-se numa uniformidade que elimina a diversidade e escolhe a homogeneização em vez da comunhão
  • Quando a cidade é erguida sobre orgulho e autossuficiência, a comunicação desmorona, as línguas se confundem e o resultado não é unidade, mas dispersão

• Reconstrução de Jerusalém

  • A reconstrução de Jerusalém por Neemias é a segunda imagem
  • Após o exílio babilônico, Jerusalém estava em ruínas, e Neemias jejuou, rezou e intercedeu pelo povo antes de agir
  • Ele examinou em silêncio as áreas destruídas, não impôs soluções de cima para baixo e confiou a cada família uma parte do muro
  • A cidade renasce não pela liderança de uma única pessoa, mas pela responsabilidade comum de homens, mulheres, sacerdotes, artesãos, chefes de família e jovens

• A escolha diante da tecnologia

  • A escolha central diante da tecnologia e da revolução digital não é um “sim” ou “não” à tecnologia, mas decidir se vamos construir Babel ou reconstruir Jerusalém
  • A tecnologia tem o poder de curar, conectar, educar e proteger a casa comum, mas também pode dividir, excluir e criar novas injustiças
  • A tecnologia nunca é neutra, porque de fato carrega as características de quem a concebe, financia, regula e utiliza
  • A síndrome de Babel significa a idolatria do lucro que sacrifica os mais frágeis, a uniformidade que neutraliza as diferenças e a ilusão de que até o mistério da pessoa pode ser traduzido em dados e desempenho
  • O caminho de Neemias é construir juntos a partir de vozes e visões diversas, transformar a diversidade em recurso e fazer da escuta e do diálogo a base da justiça e da fraternidade

Princípios para continuar humano

• Uma cidade fundada no bem comum deve ser construída sobre uma relação firme com Deus, e os limites e fragilidades humanas são apresentados não como erros a corrigir, mas como realidades a acolher
  • É preciso tomar cuidado com a esperança colocada em “upgrades” ilimitados, em progressos que agravam desigualdades e em soluções instantâneas incapazes de curar feridas
  • A verdadeira plenitude não se encontra na eliminação da fragilidade, mas num crescimento harmonioso em que se entrelaçam liberdade e responsabilidade, cuidado mútuo e solidariedade
• A responsabilidade compartilhada é condição para construir um mundo em que todos possam florescer
  • Cientistas e pesquisadores, empresários e trabalhadores, educadores e legisladores, sociedade civil, movimentos populares e comunidades de fé recebem, cada um, sua parte do muro
  • A cooperação entre gerações, povos, disciplinas e culturas conduz a uma lógica de subsidiariedade que promove estabilidade, prosperidade e paz
• Continuar humano é um dever urgente na era da IA
  • Novas formas de desumanização ameaçam a dignidade humana; por isso, é preciso proteger a grandeza da humanidade que nenhuma máquina pode substituir
  • Deus deve ocupar o primeiro lugar na ação, e o ser humano deve estar no centro das escolhas

O caráter da doutrina social da Igreja

• A doutrina social da Igreja é um ensinamento dinâmico que vem se formando no magistério papal recente e no Concílio Vaticano II
  • A inteligência artificial não é apenas uma crise a ser administrada, mas um desenvolvimento que desafia por dentro as categorias da doutrina social e exige um avanço fiel ao Evangelho

• A Igreja caminhando dentro da história humana

  • A Igreja está presente no mundo como sinal de unidade de toda a família humana e reconhece as perguntas e desafios de hoje como o campo atual de escuta, diálogo e serviço
  • A Igreja não pode permanecer como observadora externa diante das forças que moldam a sociedade e oferece uma contribuição própria para construir uma sociedade mais justa e fraterna
  • Gaudium et Spes afirma que a “autonomia das realidades terrenas” é legítima se significa que as criaturas e as sociedades possuem suas próprias leis e valores

• Distinção em relação à comunidade política

  • O Concílio Vaticano II confirma a distinção entre a comunidade eclesial e a comunidade política e enfatiza que cada uma deve atuar em plena autonomia
  • A Igreja não pretende assumir as funções do Estado e reconhece a responsabilidade das instituições civis que servem ao bem comum
  • A intervenção da Igreja deve acontecer com prudência e proximidade, seguindo o exemplo do bom samaritano, e não pode substituir a responsabilidade institucional da comunidade civil

• Diálogo entre a Palavra e as ciências humanas

  • A Igreja considera todos os que buscam sinceramente “verdade, bem e beleza” como aliados preciosos na proteção da dignidade e no cuidado com a criação
  • A Palavra de Deus oferece critérios de justiça e paz, mas sua aplicação às situações complexas do presente requer a contribuição da filosofia e das ciências humanas e sociais
  • Pope Francis afirma que, em muitas questões concretas, a Igreja não reivindica apresentar uma “posição definitiva” e incentiva a pesquisa científica e o debate sério e honesto entre especialistas

• Discernimento comum

  • A verdade não é uma posse a ser monopolizada, mas um dom a ser compartilhado, e isso liberta a Igreja da tentação de uma presença baseada no poder
  • A doutrina social não é um manual de princípios e normas para aplicação, mas um processo de discernimento comum que nasce do encontro entre a verdade eterna do Evangelho e as perguntas históricas

Desenvolvimento e fundamentos da doutrina social

• O desenvolvimento da doutrina social é apresentado como o percurso do magistério em resposta às principais transformações sociais desde o século XIX até hoje, e seus princípios básicos estão organizados no Compendium of the Social Doctrine of the Church
  • Rerum Novarum apresenta o conflito entre capital e trabalho, a dignidade do trabalhador, o salário justo, o papel social da propriedade privada, a associação de trabalhadores e a cooperação no lugar da luta de classes
  • Quadragesima Anno, de Pius XI, critica a concentração do poder econômico e o planejamento coletivista, e formula de modo sistemático o princípio da subsidiariedade
  • Pacem in Terris, de Saint John XXIII, relaciona a dignidade humana ao reconhecimento de direitos e deveres fundamentais
  • Laborem Exercens, de Saint John Paul II, apresenta o trabalho como um bem fundamental para o ser humano, um princípio da atividade econômica e a chave de toda a questão social
  • Laudato Si’, de Pope Francis, enfatiza que “o clamor da terra e o clamor dos pobres” não podem ser separados
  • Fratelli Tutti propõe a amizade social, a fraternidade universal, uma política melhor e um mundo que garanta a todos “terra, moradia e trabalho”
• A dignidade humana não depende de capacidade, riqueza, posição na vida ou escolhas certas e erradas, mas é um dom concedido a cada pessoa antes de tudo isso, como expressão do amor imutável de Deus
  • A dignidade ontológica pertence a todo ser humano simplesmente pelo fato de existir, de ter sido querido, criado e amado por Deus
  • Dignitas Infinita resume que todo ser humano possui “uma dignidade infinita, fundamentada de modo inalienável no seu próprio ser”
• O discernimento e a proclamação dos direitos humanos são reconhecidos como uma das tentativas mais importantes de responder às exigências da dignidade humana
  • O primeiro dos direitos é apresentado como o direito à vida, da concepção até a morte natural
  • Para que os direitos das mulheres sejam garantidos de forma igual e verdadeira, isso deve se refletir concretamente nas leis, no acesso ao emprego, na educação, nas responsabilidades sociais e políticas e na forma como a sociedade escuta e valoriza a contribuição das mulheres

Bem comum, subsidiariedade, solidariedade e justiça

• Bem comum

  • O bem comum é a expressão social da dignidade reconhecida a todas as pessoas, e o Concílio Vaticano II o define como o conjunto das condições sociais que permitem às pessoas alcançar sua realização de modo mais pleno e mais fácil
  • O bem comum não é a soma dos interesses individuais nem a interseção de interesses particulares, mas um bem maior que pertence a todos e só pode ser alcançado, cultivado e protegido por meio do esforço comum

• Destinação universal dos bens

  • A destinação universal dos bens é o princípio segundo o qual a terra, a água, o ar e os recursos naturais foram dados por Deus a toda a família humana para sustentar a vida de todos
  • O direito à propriedade privada tem significado e finalidade próprios, mas está sempre subordinado à destinação universal dos bens
  • Hoje, esse princípio também deve ser aplicado a novas formas de propriedade, como patentes, algoritmos, plataformas digitais, infraestrutura tecnológica e dados
  • Quando esses bens se concentram nas mãos de poucos, aumenta a distância entre os que podem participar da revolução digital e os que permanecem à margem

• Subsidiariedade

  • A subsidiariedade é o princípio segundo o qual a autoridade superior não deve substituir o papel dos indivíduos, das famílias, das comunidades locais e das organizações intermediárias
  • No contexto da revolução digital, o nível mais alto muitas vezes não é o Estado, mas grandes atores econômicos e tecnológicos que exercem poder de facto sobre as condições da vida cotidiana
  • A subsidiariedade exige participação significativa, incluindo fiscalização independente, transparência algorítmica, acesso justo aos dados e caminhos de reparação

• Solidariedade

  • A solidariedade é o reconhecimento de que o futuro de cada pessoa está ligado ao futuro de todos, expresso na frase “ninguém se salva sozinho”
  • Decisões sobre dados, algoritmos, plataformas e inteligência artificial devem considerar não apenas os interesses imediatos de poucos, mas também seus efeitos sobre todos os povos e as futuras gerações

• Justiça social

  • A justiça social exige que as estruturas e instituições da sociedade sirvam ao ser humano e à dignidade humana
  • A injustiça surge não apenas de escolhas erradas de indivíduos, mas também de estruturas, mecanismos e sistemas econômico-culturais que produzem desigualdade de forma quase automática
  • Uma ordem social justa na era digital deve garantir acesso a oportunidades para todos, proteger os membros mais vulneráveis, enfrentar o ódio e a desinformação, e submeter o uso de dados e tecnologia à supervisão pública

• Desenvolvimento humano integral

  • O desenvolvimento humano integral é o processo pelo qual o crescimento das pessoas e dos povos abrange todas as dimensões da existência e também abre futuro para as gerações seguintes
  • A inovação tecnológica, incluindo a inteligência artificial, deve ser avaliada pelo quanto ajuda pessoas e povos a se tornarem mais humanos e mais fraternos, e pelo quanto respeita a casa comum e as futuras gerações

Aplicação dentro da Igreja

• A doutrina social não é apenas uma mensagem para a sociedade, mas também um exame de consciência para a Igreja, e o bem comum, a subsidiariedade, a solidariedade e a justiça também devem ser aplicados dentro das estruturas da Igreja
• The Final Document of the Synod vê a transparência, a responsabilização e uma cultura de avaliação como práticas centrais para a transformação missionária
• A participação efetiva consiste em concretizar a participação dos batizados na tomada de decisões e a corresponsabilidade pela missão por meio de órgãos de participação reais, e não apenas nominais
• Viver a justiça dentro da Igreja significa purificar as relações e estruturas eclesiais das distorções que geram desigualdade, opacidade e abuso de poder
  • Escutar as vítimas de abusos espirituais, econômicos, institucionais, sexuais, de poder e de consciência é essencial para um caminho de justiça que inclua reconhecimento do dano, reparação justa e prevenção de recorrência

IA e poder digital

• Paradigma tecnocrático

  • Pope Francis, em Laudato Si’, critica o paradigma tecnocrático que busca moldar decisões pessoais, sociais e econômicas apenas pela lógica da eficiência, do controle e do lucro
  • Quando a tecnologia se torna o critério para julgar tudo, a criação é reduzida a objeto de exploração, e o ser humano, a uma engrenagem de um sistema voltado para uma eficiência cada vez maior
  • Quando o controle de plataformas, infraestrutura, dados e poder computacional se concentra em grandes atores econômicos e tecnológicos, as condições de acesso, as regras de visibilidade e até a própria possibilidade de participação passam, na prática, a ser definidas por eles

• Diferença entre IA e inteligência humana

  • Toda afirmação sobre IA pode envelhecer rapidamente por causa da velocidade de evolução dos sistemas, e a compreensão sobre seu funcionamento real é limitada, inclusive entre seus próprios projetistas
  • Os sistemas atuais de IA se aproximam menos de algo em que cada detalhe é projetado diretamente e mais de uma estrutura em que os desenvolvedores criam as condições para que a inteligência “cresça”, ficando mais perto de algo “cultivado” do que “fabricado”
  • A IA apenas imita certas funções da inteligência humana; ela não vivencia, não tem corpo, não sente alegria nem dor e não amadurece nas relações
  • O “aprendizado” da IA é uma adaptação estatística baseada em dados e feedback, e não uma experiência moldada pela vida por meio de escolhas, erros, perdão e fidelidade

• Utilidade e limites

  • A IA pode ser uma ferramenta útil, mas exige atenção em três aspectos: a facilidade para obter resultados, a impressão de objetividade e a imitação da comunicação humana
  • O acesso rápido à informação e o apoio em tarefas práticas podem incentivar dependência excessiva e a busca por respostas prontas, enfraquecendo a criatividade e a capacidade de julgamento individuais
  • O fato de as respostas do sistema parecerem objetivas pode ocultar os pressupostos culturais, os pontos fortes e as limitações de quem o projetou e treinou
  • A imitação artificial de comunicações humanas como conselho, empatia, amizade e amor pode criar, em usuários com menor discernimento, a ilusão de estar se relacionando com um sujeito pessoal real

• Custo ambiental

  • Os sistemas atuais de IA exigem enormes quantidades de energia e água, têm impacto significativo nas emissões de dióxido de carbono e impõem grande pressão sobre os recursos naturais
  • À medida que a complexidade aumenta, como nos grandes modelos de linguagem, cresce a demanda por poder computacional e capacidade de armazenamento, exigindo uma vasta rede de máquinas, cabos, data centers e infraestrutura intensiva em energia
  • É essencial desenvolver soluções tecnológicas mais sustentáveis para reduzir o impacto ambiental e proteger a casa comum

Responsabilidade, transparência e governança da IA

• Decisões automatizadas

  • O uso da IA não é uma questão puramente técnica, mas uma questão social que afeta direitos, oportunidades, status e liberdade
  • Há o risco de que decisões sensíveis, como emprego, crédito, acesso a serviços públicos e reputação pessoal, sejam totalmente delegadas a sistemas automatizados
  • Como esses sistemas não conhecem “compaixão, misericórdia, perdão e, acima de tudo, a esperança de que as pessoas podem mudar”, eles podem gerar novas formas de exclusão
  • Não se pode considerar a IA como moralmente neutra; ela incorpora escolhas e prioridades sobre o que medir, ignorar e otimizar, e sobre como classificar pessoas e situações

• Explicabilidade e estrutura legal

  • Para que a IA respeite a dignidade humana e sirva ao bem comum, a responsabilidade deve estar claramente definida em todas as etapas, incluindo projetistas, desenvolvedores, usuários e aqueles que dependem de decisões concretas
  • Em muitos casos, o processo interno que leva aos resultados é opaco, o que dificulta atribuir responsabilidades e corrigir erros
  • Exigir prudência, avaliação rigorosa e, às vezes, desacelerar a adoção da IA não é oposição ao progresso, mas um ato de cuidado responsável com a família humana
  • Apelos éticos abstratos não bastam; são necessárias uma estrutura legal robusta, supervisão independente, usuários bem informados e um sistema político que não abra mão da responsabilidade

• Debate público para além do alinhamento

  • Não basta exigir a moralização da máquina, como no “alignment” da IA aos valores humanos; é preciso discutir publicamente os marcos éticos envolvidos e subordiná-los a critérios compartilhados de justiça social
  • É necessário um envolvimento político mais ativo para que a moralidade decidida por poucos não se torne a infraestrutura invisível do sistema
  • A propriedade dos dados não pode ficar apenas nas mãos privadas e deve ser adequadamente regulada; como os dados são produto de muitos contribuintes, é preciso pensar de forma criativa em sua gestão como bem comum ou compartilhado

• Critérios da doutrina social para o poder da IA

  • Falar de bem comum em um mundo onde dados, recursos computacionais e influência regulatória permanecem nas mãos de poucos significa revelar as assimetrias epistemológicas, econômicas e políticas e os novos monopólios da IA
  • O destino universal dos bens significa garantir acesso universal tanto à tecnologia quanto à educação necessária para usá-la
  • A subsidiariedade exige proteger a capacidade das comunidades de escolher e corrigir seus caminhos
  • A solidariedade leva ao reconhecimento dos trabalhadores ocultos e frequentemente explorados que sustentam os sistemas algorítmicos
  • A justiça social não é apenas um objetivo a ser protegido depois da implantação da tecnologia, mas uma condição que deve moldar seu desenho desde o início

• Desarmar a IA

  • Desarmar a IA significa libertá-la não apenas do contexto militar, mas também da lógica de corrida armamentista econômica e cognitiva
  • A corrida por algoritmos mais poderosos e conjuntos de dados maiores é movida pelo desejo de garantir domínio geopolítico ou comercial
  • O desarmamento não é rejeição da tecnologia, mas impedir que a tecnologia domine o ser humano, libertando-a do controle monopolista e abrindo-a ao debate e à deliberação para torná-la favorável ao humano

A humanidade que não pode ser perdida

• A preservação da humanidade nos faz voltar à pergunta: “o que significa preservar nossa humanidade?”
  • O risco vai além do mau uso de uma tecnologia específica: está em o paradigma tecnocrático amplificado pela revolução digital e pela IA normalizar uma visão anti-humana
  • Quando a eficiência se torna a medida final do valor, o ser humano é tentado a ver a si mesmo não como pessoa chamada à relação e à comunhão, mas como um projeto a ser otimizado
• Na civilização do cuidado, a qualidade de uma civilização é medida não pela força de seus meios, mas pelo cuidado que consegue oferecer e pela capacidade de reconhecer o outro não como função, mas como rosto
  • Gestos como ler uma história para uma criança, fazer companhia a um idoso e preparar uma casa acolhedora nos treinam, em escala social, a valorizar o cuidado
  • A tecnologia pode apoiar o cuidado mútuo ajudando na previsão e na organização, desde que não enfraqueça a liberdade e o julgamento humanos
• Transumanismo e pós-humanismo são correntes que interpretam a superação da condição humana como progresso
  • Perspectivas de um “humano aprimorado” ou de um “híbrido humano-máquina” alimentam o entusiasmo por novas tecnologias
  • Mesmo quando essas ideias são em grande parte especulativas, elas transformam o imaginário coletivo e influenciam escolhas sociais, econômicas e políticas
• O limite é apresentado não como falha, mas como caminho de abertura à humanidade
  • Incapacidade, doença, velhice, dor e vulnerabilidade tendem a ser vistos como defeitos a corrigir, mas a humanidade muitas vezes amadurece por meio dos limites e se abre à relação
  • Se eliminarmos completamente o sofrimento, acabaremos por apagar também o amor e o desejo, e são aprendizados como as marcas deixadas pela liberdade e pelo fracasso, pelos sonhos e pelas decepções, que nos fazem perceber a riqueza da humanidade

Verdade, educação e comunicação

• A verdade como bem comum

  • As plataformas digitais e os sistemas de IA transformam profundamente a comunicação pública e política, podendo promover o diálogo e a participação, mas também sendo usados para borrar as fronteiras entre fato e opinião, verdade e falsidade
  • A desinformação não começou com a IA, mas hoje a IA a amplifica poderosamente com sua capacidade de manipular conteúdo, imagens e vídeos
  • A informação verdadeira não surge de um controle centralizado ou automatizado; ela exige verificação, checagem cruzada de fontes, argumentação responsável e vínculos de confiança
  • A democracia depende não apenas de regras e procedimentos, mas da conformidade com os fatos e do compromisso com o bem do indivíduo e da sociedade como um todo

• A ecologia da comunicação

  • Comunicação não é apenas transmissão de informação, mas criação de cultura, e o conteúdo que circula no ambiente digital molda a forma como as pessoas percebem o mundo, seus desejos e suas escolhas cotidianas
  • No plano das políticas públicas, é preciso tornar mais transparentes as decisões sobre seleção e desenvolvimento de conteúdo e estabelecer normas para proteger os dados pessoais
  • No plano social e cultural, é preciso fortalecer organizações intermediárias, o jornalismo sério e os espaços de debate, para que a argumentação racional e a verificação tenham mais peso do que reações imediatas

• Educação na era digital

  • Educação é decisivamente importante em uma era em que a verdade pode ser facilmente distorcida em função de interesses específicos e estratégias de comunicação
  • Como toda tecnologia molda quem a utiliza, educar para o uso da IA inclui ensinar quando e com que finalidade a IA não deve ser usada
  • A capacidade de obter respostas ou resumos rapidamente pode correr o risco de apagar o desejo de fazer perguntas
  • A exposição sem supervisão, em idade precoce, a dispositivos digitais e redes sociais pode afetar negativamente o sono, a capacidade de atenção sustentada, a regulação emocional e os relacionamentos
  • Fenômenos online como grooming, chantagem e exploração sexual de menores tornam-se mais sofisticados com perfis falsos, algoritmos que facilitam contatos perigosos e ferramentas de IA capazes de manipular imagens e vídeos

• O papel central da escola

  • A escola é o lugar onde as novas gerações buscam e amam a verdade, refletem sobre o sentido da vida e reconhecem a dignidade de todas as pessoas
  • O avanço da tecnologia da informação e da IA está tornando rapidamente obsoletos currículos pensados para outra era, exigindo repensar a organização escolar, os espaços físicos, os métodos de avaliação e o papel dos professores a partir de uma perspectiva de educação integral
  • Famílias, escolas, comunidades cristãs e instituições públicas devem formar uma nova aliança educativa que traduza em objetivos educacionais a moderação e o senso de limite, a liberdade e a responsabilidade, a transcendência e o sentido do bem comum

Trabalho e economia

• O valor do trabalho

  • Desde Rerum Novarum, a Igreja vem enfatizando a necessidade de proteger os trabalhadores e de enfrentar todas as formas de exploração
  • O trabalho é a “chave essencial” para compreender toda a questão social, e é por meio dele que a pessoa desenvolve várias dimensões do próprio ser
  • O trabalho não é um simples instrumento, mas expressa e fortalece a dignidade da vida humana, e o objetivo é permitir que cada pessoa viva com dignidade por meio do próprio trabalho

• O trabalho transformado pela automação e pela IA

  • A convergência entre automação, robótica e IA está transformando rapidamente a própria estrutura do trabalho
  • Embora a IA prometa aumentar a produtividade ao substituir tarefas comuns, na prática muitas vezes os trabalhadores são forçados a se adaptar ao ritmo e às exigências das máquinas, em vez de serem apoiados por elas
  • A abordagem tecnológica atual pode enfraquecer as competências dos trabalhadores, subordiná-los à vigilância automatizada e empurrá-los para tarefas rígidas e repetitivas
  • A proteção das oportunidades de emprego e o papel insubstituível de cada pessoa devem continuar sendo princípios gerais, e a busca por maiores lucros não pode justificar escolhas que sacrifiquem sistematicamente os empregos

• A desigualdade da transição

  • Saint John Paul II via o desemprego como um mal grave e entendia que, quando se torna massivo, ele vira uma catástrofe social que exige de modo especial a responsabilidade do Estado
  • As sociedades ricas automatizam de forma rápida e desordenada, reduzindo a demanda por força de trabalho, enquanto amplas regiões ficam presas a economias mistas nas quais coexistem trabalho humano de baixos salários e tecnologia parcial
  • Garantir a todos o acesso ao trabalho deve ser uma prioridade elevada das políticas públicas e dos processos econômicos, além de servir como critério para avaliar a qualidade humana de qualquer modelo de desenvolvimento

• Nova cooperação e novos critérios

  • Líderes políticos, organizações trabalhistas, setor empresarial e comunidade científica devem engajar-se em uma nova cooperação para desenvolver rapidamente regulações e proteções comuns, inclusive em dimensão internacional
  • A introdução da automação e da IA deve vir acompanhada de medidas verificáveis que protejam o emprego, a requalificação e a participação dos trabalhadores
  • As empresas devem incluir a qualidade e a dignidade do trabalho em seus indicadores de sucesso, para que a inovação possa se tornar uma aliada de um trabalho mais seguro, criativo e digno

• Desenvolvimento para além do PIB

  • Indicadores de desenvolvimento presos há mais de 80 anos ao conceito de Produto Interno Bruto (PIB) deixam de fora, de forma quase sistemática, aspectos essenciais ao bem-estar integral das pessoas e do meio ambiente
  • Indicadores que complementem o PIB permitem avaliar de forma abrangente e oportuna os impactos sobre a dignidade do trabalho, a prosperidade compartilhada, a redução da desigualdade e a proteção ambiental

• Acesso à riqueza e à inovação

  • A riqueza mundial aumentou em termos absolutos, mas está concentrada em menos mãos, e as desigualdades dentro dos países e entre eles estão crescendo
  • A ideia de que novas tecnologias beneficiam automaticamente a todos ignora as evidências; se a prevenção de novas desigualdades não for prioridade desde a etapa de projeto, o progresso tecnológico produzirá desigualdades estruturais
  • Na era da IA e da robótica, não se pode depender apenas da “mão invisível” do mercado; a política deve orientar a economia e a tecnologia para o bem comum

Família, liberdade e nova exploração

• Família e juventude

  • A família é um bem social primário baseado na união duradoura entre homem e mulher, e o primeiro ambiente em que toda pessoa desenvolve seu potencial, reconhece sua dignidade e aprende as formas iniciais da verdade e do bem
  • A família é um bem social vulnerável, imediatamente afetado pelas transições econômicas e tecnológicas que mudam o caráter do trabalho, e por isso precisa de apoio cultural, jurídico e econômico
  • Para os jovens, o trabalho não é apenas fonte de renda, mas um campo importante em que se forma a identidade, se constroem amizades e relações, se aprende a responsabilidade prática e se discerne a própria vocação
  • O Estado deve criar condições favoráveis ao emprego, defender o trabalho em tempos de crise e incentivar caminhos concretos para a entrada no mercado de trabalho e o crescimento profissional

• Dependência e mercantilização

  • Não se devem subestimar as formas de dependência ligadas à economia digital da atenção; plataformas e serviços muitas vezes são projetados para reter o tempo e a atenção dos usuários, explorar vulnerabilidades e enfraquecer a liberdade interior
  • A coleta massiva de dados e os sistemas algorítmicos criam um novo poder que perfila, prevê e influencia o comportamento por meio de rastros comportamentais como deslocamentos, compras, relações e preferências
  • A liberdade na era digital não é apenas uma questão de interioridade, mas um tema de interesse público, exigindo regras claras, transparência, possibilidades de recurso e limites proporcionais ao uso de tecnologias invasivas

• Trabalho invisível

  • No mundo da IA, não há nada de imaterial ou mágico; toda resposta imediata e aparentemente sem falhas é resultado de uma longa cadeia de mediações que inclui recursos naturais, infraestrutura energética e pessoas
  • Grande parte da economia digital depende do trabalho silencioso de milhões de pessoas que realizam tarefas essenciais, mas quase invisíveis, como rotulagem de dados, treinamento de modelos e moderação de conteúdo
  • O trabalho de extração dos recursos necessários para produzir os dispositivos e microprocessadores dos quais a IA depende é ainda mais duro, e em algumas regiões crianças e adolescentes trabalham em condições perigosas

• Tráfico humano e colonialismo de dados

  • Redes criminosas usam plataformas online, sistemas de mensagens, meios de pagamento anônimos e técnicas de perfilamento para recrutar, controlar e deslocar vítimas de tráfico humano, muitas vezes menores de idade
  • O tráfico humano deve ser reconhecido como uma forma moderna de escravidão e uma grave violação da dignidade humana
  • Hoje, o colonialismo não domina apenas os corpos, mas também se apropria dos dados, transformando a vida das pessoas em informação passível de exploração
  • Para que o conhecimento compartilhado não se torne um instrumento de dominação, mas um verdadeiro bem comum, é preciso devolver às pessoas a capacidade de decidir como, por quem e em benefício de quem seus dados serão usados

• Cadeias de suprimento e responsabilidade das plataformas

  • As cadeias de suprimento que sustentam a indústria de tecnologia e a economia digital devem se tornar mais transparentes, para que nenhuma vantagem competitiva seja construída sobre exploração oculta
  • Empresas e investidores devem adotar critérios de diligência devida que priorizem a proteção dos trabalhadores, o combate ao trabalho forçado e a avaliação do impacto social de modelos de negócio baseados em dados
  • As plataformas digitais devem cooperar de forma responsável com autoridades e sociedade civil para que ferramentas de comunicação, pagamento e perfilamento não se tornem canais de recrutamento e controle de vítimas

Responsabilidade compartilhada

• A busca pela verdade, a educação no ambiente digital, a transição do trabalho, a vulnerabilidade da família e as novas formas de escravidão não são fenômenos isolados, mas refletem um problema de raiz comum
• Quando a tecnologia se torna o critério final, há o risco de o ser humano ser reduzido a dados, a uma engrenagem da máquina, a uma mercadoria
• Quando integrada a uma perspectiva sábia, a tecnologia pode se tornar um instrumento de crescimento, justiça e fraternidade
• A doutrina social da Igreja exige responsabilidade compartilhada, e as instituições devem ser capazes de regular sem oprimir e proteger sem dominar
• As empresas devem reconhecer o trabalho e a dignidade como medida de sucesso, e as organizações intermediárias e as comunidades educativas devem reconstruir a confiança e os vínculos
• Os cidadãos devem cultivar responsabilidade, moderação, discernimento e senso da verdade, para que a inovação não sirva de fonte de exclusão e dominação, mas ao desenvolvimento humano integral

Cultura do poder e civilização do amor

• Guerra e tecnologia

  • A tecnologia, quando separada da ética e da responsabilidade, corre o risco de tornar mais rápidas e impessoais as decisões sobre vida e morte, apresentando o uso da força como uma opção imediata e executável
  • A paz não é uma pauta entre várias, mas uma condição prévia para o bem comum universal, e põe à prova a maturidade moral, especialmente daqueles que têm responsabilidade de governar

• Conflito digital

  • A revolução digital, junto com a guerra convencional, deu origem a formas híbridas como ciberataques, manipulação da informação, campanhas de influência e automação de decisões estratégicas
  • A IA pode reforçar a defesa e a proteção de civis, mas também pode reduzir o limiar para o uso da força, ocultar as pessoas da responsabilidade e transformar o inimigo em estatística e as vítimas em “danos colaterais”

• Civilização do amor

  • Quando Saint Paul VI cunhou a expressão “civilização do amor”, o mundo vivia em meio à Guerra Fria, à corrida armamentista e a uma grave instabilidade econômica
  • A civilização do amor não é uma utopia ingênua, mas a tarefa de traduzir o amor em estruturas de justiça, dar forma institucional à fraternidade e ver o outro como aliado necessário na construção do bem comum
  • A IA deve servir para construir uma família humana universal na qual existam direitos e deveres compartilhados e na qual a proximidade digital se torne uma oportunidade real de encontro e cuidado mútuo

• Normalização da guerra

  • A cultura do poder faz com que o acesso a recursos e a capacidade de dominação determinem a agenda e os critérios de decisão, reduzindo a tragédia dos povos em guerra a uma consideração secundária diante dos interesses estratégicos
  • Hoje, vê-se uma mudança de paradigma em que a guerra ressurge como instrumento da política internacional no discurso público e nas decisões sobre rearmamento, enquanto se desgastam os princípios éticos que limitavam seu uso
  • É preciso reafirmar que, embora permaneça o direito de legítima defesa em sentido estrito, a teoria da “guerra justa”, usada com demasiada frequência para justificar qualquer tipo de guerra, agora está ultrapassada

• Complexo militar-industrial e armas

  • O crescimento do complexo militar-industrial tornou-se uma característica definidora do atual cenário político e um setor central da economia de vários países
  • O Tratado sobre a Proibição de Armas Nucleares, que entrou em vigor em 2021 e recebeu o apoio de mais de 70 países, é um avanço importante, mas corre o risco de permanecer em grande parte uma medida simbólica porque as principais potências nucleares não concordaram
  • O desenvolvimento de sistemas de armas que incluem IA deve estar sujeito às restrições éticas mais rigorosas, para garantir a dignidade humana e a sacralidade da vida e evitar uma corrida pelo desenvolvimento de armas
  • Não se pode permitir que decisões letais ou irreversíveis sejam entregues a sistemas artificiais
  • A decisão sobre o uso de força letal deve permanecer sob controle humano efetivo, consciente e responsável

• Multilateralismo e realismo

  • A crise do sistema multilateral se revela no enfraquecimento das instituições criadas para proteger o futuro comum de todos os povos e o bem comum global
  • Categorias simplistas como “primeiro eu”, “amigo ou inimigo”, “nós ou eles” facilitam decisões irresponsáveis e enfraquecem a confiança mútua entre os Estados
  • O falso realismo baseia-se na crença cultural e antropológica de que a guerra é parte inevitável da natureza humana, tratando a paz e o diálogo como atitudes utópicas
  • Os principais atores do campo da pesquisa, como cientistas, empreendedores, investidores, dirigentes de instituições acadêmicas e políticos, devem estar conscientes do contexto mais amplo do progresso tecnológico que promovem

Práticas para a civilização do amor

• Criar um mundo em estado de conflito permanente é um mal, e o presente não é um destino predeterminado, mas uma oportunidade de conversão pessoal e coletiva
• Nem todos têm a mesma influência, mas ninguém está livre de responsabilidade, e cada um deve escolher, em seu lugar, se alimentará a indiferença, o cinismo, a mentira e o ódio, ou se preservará uma mentalidade de paz com verdade, moderação, proximidade e cuidado

• Desarmamento das palavras

  • Desarmar as palavras é a primeira forma de contribuir para uma civilização mais humana
  • É preciso examinar com consciência as palavras que usamos, os preconceitos que carregamos e a agressividade explícita e implícita que elas contêm
  • Toda vez que dizemos a verdade, oferecemos conselhos sábios, apoiamos quem precisa de consolo, denunciamos injustiças e damos voz a quem não tem voz, surge uma oportunidade de contribuir para o bem comum

• Paz por meio da justiça

  • A base da paz é a justiça, e é preciso buscar a paz verdadeira, que nasce da justiça, e não um estado sem conflito a qualquer custo

• A perspectiva das vítimas

  • Em alguns conflitos, manter neutralidade é injusto, e não basta alegar que não se é cúmplice
  • O bombardeio de civis, os ataques a hospitais, escolas e infraestrutura essencial, e a violência que afeta crianças são escândalos que ferem a própria humanidade
  • Quando a comunicação e a educação dão lugar à voz das vítimas, torna-se possível rejeitar a normalização do conflito e restaurar às vítimas a dignidade de serem reconhecidas e ouvidas

• Realismo saudável e diálogo

  • O realismo saudável evita tanto o idealismo político quanto o cinismo e parte da identificação clara de interesses, medos, limitações e dinâmicas de poder
  • O diálogo e a diplomacia devem se tornar os meios padrão de resolução de conflitos, e apresenta-se o apelo: “vamos nos encontrar, vamos conversar, vamos negociar”
  • O diálogo inter-religioso tem papel decisivo na rejeição da lógica da violência, e aqueles que justificam terrorismo, violência e guerra em nome de Deus traem a verdadeira natureza de Deus

• Diplomacia e multilateralismo

  • O diálogo diplomático é uma ferramenta insubstituível para prevenir conflitos e reconstruir laços de confiança nas relações internacionais
  • Ciberataques, manipulação de dados e campanhas de influência organizadas com a ajuda da IA podem desestabilizar países inteiros mesmo antes de um conflito armado aberto, o que exige regras comuns para o uso das tecnologias digitais
  • As organizações internacionais e a ONU podem promover o diálogo entre os Estados, a solução pacífica de disputas, o desenvolvimento integral dos povos, a proteção dos vulneráveis, o desarmamento e o cuidado com a criação

• Oração e esperança

  • A paz vem, antes de tudo, de “Deus, que ama todos nós incondicionalmente”
  • A paz de Cristo ressuscitado é apresentada como uma paz “desarmada e desarmante, humilde e perseverante”
  • É preciso rezar por esse dom e comprometer-se a construir a paz nas relações e na sociedade

Conclusão: o ser humano e a esperança na era da IA

• “Que cada construtor escolha com cuidado como vai construir”, em 1 Cor 3:10, leva a perguntar como estamos construindo o mundo e o que significa proteger o ser humano na era da IA
• O programa de vida do cristão nasce da contemplação do plano de Deus, da participação na Eucaristia para viver a unidade eclesial, da construção de um mundo centrado no bem comum e da oração em união com a Bem-Aventurada Virgem Maria

• O Verbo se fez carne

  • O mistério da Encarnação é o centro de tudo e faz lembrar o corpo de tantos irmãos e irmãs privados de dignidade e reduzidos ao silêncio
  • O transumanismo e algumas correntes do pós-humanismo prometem um ser humano aprimorado e quase descorporificado, mas a Encarnação abre outro caminho, no qual Deus entra na condição humana e transforma a fragilidade humana em lugar de salvação
  • A grandeza do ser humano na era da IA se reflete no rosto do Filho de Deus, e nenhum sistema de cálculo, por mais sofisticado que seja, pode criar um coração capaz de se doar ou uma consciência que discirna entre o bem e o mal

• O canteiro de obras do nosso tempo

  • A espiritualidade do construtor sábio é uma espiritualidade que, guiada pela esperança no Reino de Deus, constrói o mundo em favor do bem comum
  • É preciso ser fiel à verdade, investir na educação, cultivar relações e amar a justiça e a paz
  • Investir na educação significa aprender a se relacionar humanamente com o mundo digital e acompanhar crianças e adolescentes para que desenvolvam relações responsáveis
  • Amar a justiça e a paz significa avaliar se os avanços da IA promovem justiça e participação ou concentram riqueza e poder nas mãos de poucos, além de examinar as cadeias produtivas digitais, as condições ocultas de trabalho e os mecanismos que lucram com manipulação e guerra

• Neemias e a Nova Jerusalém

  • Neemias foi aquele que ouviu o clamor de uma cidade devastada, levou esse sofrimento à oração, fez o discernimento diante de Deus e reconstruiu com o povo as muralhas de Jerusalém
  • Na era da transformação digital, essa imagem se torna uma metáfora para não permanecermos como espectadores passivos ou meros comentaristas diante das fissuras sociais e culturais
  • O canteiro de obras da história se concretiza em laboratórios, empresas de tecnologia, escolas, mídia, instituições e comunidades locais
  • A Nova Jerusalém é apresentada no Apocalipse como uma cidade cujas portas estão abertas a todos os povos e na qual a presença de Deus oferece luz e vida a todos

• Magnificat

  • Em Maria, tudo mudou, e essa mudança permite ver o que é invisível
  • Canta-se que Deus dispersa os soberbos, derruba os poderosos de seus tronos, eleva os humildes, sacia os famintos de bens e despede os ricos de mãos vazias
  • O mundo deve ser visto não pelos olhos dos poderosos, mas pelos olhos dos que sofrem; a história, não pela perspectiva dos fortes, mas pelos olhos dos pequenos
  • Com uma fé como a de Maria, é possível tornar-se tecelão de esperança no mundo, e, na humilde fidelidade do cotidiano, também a era da IA pode se tornar um tempo em que o Espírito Santo realiza a civilização do amor
  • O texto se encerra como um documento dado em 15 de maio de 2026, no segundo ano do pontificado, na Basílica de São Pedro, em Roma, e traz a assinatura LEO PP. XIV

[GN⁺]

Comentários do Hacker News

• Fico curioso sobre que exemplos houve de “domar” uma tecnologia para fazer as pessoas considerarem um bem social mais amplo
  A ascensão da classe média em meados do século XX parece ter acontecido porque a tecnologia industrial da época era muito mais produtiva do que antes, mas ainda exigia grande quantidade de trabalho humano para operar. A Ford não aumentou salários por benevolência; foi mais uma questão de enxergar que fabricar muitos carros e formar uma base de clientes capaz de comprá-los seria, no fim, mais lucrativo
  As emissões de CO2 talvez também mudem de rumo algum dia, mas provavelmente não porque o público aceite sofrer, e sim porque energia renovável e baterias estão se tornando a melhor opção econômica. Se houver exemplos concretos de casos em que a sociedade conscientemente mudou a direção do desenvolvimento tecnológico em favor do bem comum, eu gostaria de conhecer

  • Há intervenção de políticas públicas entre os motivos pelos quais energia renovável e baterias ficaram tão baratas
    No caso da energia renovável em particular, políticas como a Renewable Energy Sources Act (EEG), da Alemanha, criaram demanda, e essa demanda levou à produção em massa na China, reduzindo os preços
  • A eletricidade parece ser um caso assim. No fim, ela se espalhou por toda parte e virou a base de uma sociedade em que todos a utilizam, mas as companhias elétricas não acabaram dominando o mundo
  • Como a própria encíclica menciona, há a contenção da proliferação nuclear. Dito isso, parece que hoje estamos regredindo nessa área
  • Até agora, temos contido até certo ponto a aplicação de tecnologias mais cruéis que podem ser usadas em guerra, como armas nucleares, biológicas e químicas
    Claro, também dá para dizer que isso não se deve a puro humanitarismo, mas a um resultado previsível da teoria dos jogos. Em áreas menos graves, o livre mercado tem sido regulado em relação a substâncias que tenderia a usar para viciar ou prejudicar as pessoas, como nicotina, gordura trans, jogos de azar e álcool, com graus variados de sucesso
  • Também me vêm à cabeça exemplos como lâmpadas incandescentes versus fluorescentes e vasos sanitários com economia de água

• Eu gostaria de ler a citação com mais atenção. Quanto mais envelheço, e também graças à IA, que me faz passar mais tempo pensando do que executando, mais penso sobre o que é uma vida virtuosa e sobre ética e moral
  Não é que eu tenha a resposta, nem que esteja necessariamente tentando encontrá-la, mas acho interessante ler e aprender com pessoas cujo trabalho é justamente responder a esse tipo de pergunta

  • Parei no trecho que cita Tolkien. Essa passagem dá uma pista de como viver uma vida virtuosa
    “Não é nosso papel dominar todas as marés do mundo, mas fazer o que está em nós para ajudar o tempo em que fomos colocados, arrancando o mal dos campos que conhecemos, para que aqueles que vierem depois tenham terra limpa para lavrar.” Gosto da ideia de que uma civilização do amor não nasce de um único gesto grandioso, mas da soma de pequenos e constantes atos de fidelidade que resistem à desumanização
  • O papa pode dizer muitas coisas, mas nem todos no planeta são cristãos
    Então, mesmo que limitemos o poder da IA, outras pessoas talvez não o façam, e isso pode acabar sendo um erro. Espero que esse ponto seja considerado
  • A frase “graças à IA, passei a gastar mais tempo pensando do que executando” parece quase repugnante em vários níveis
  • Há um número assustadoramente grande de pessoas no mundo que não se importam com o que acontece com desconhecidos, ou que acham que um dia estarão no topo da cadeia alimentar e, por isso, acreditam que vão se beneficiar do sistema atual
    A frase frequentemente atribuída a Steinbeck, de que muitos americanos se veem como “milionários temporariamente em dificuldade”, capta isso muito bem
    Basta olhar para o processo de aprovação de data centers de IA: mesmo quando a esmagadora maioria das comunidades locais não os quer, os representantes eleitos não se importam. Às vezes votam no meio da noite, usam violência policial contra moradores que se opõem e chamam manifestantes de violentos ou até de terroristas
    Isenções fiscais, custos extras de infraestrutura elétrica e tarifas favorecidas de energia acabam sendo pagos por outras pessoas. O mais deprimente é que os representantes não parecem temer a reação. Mesmo que percam a eleição, provavelmente conseguirão algum cargo obscuro no setor com salário de seis dígitos, e seus filhos também conseguirão esses “empregos”
    Com tudo ficando cada vez mais insustentável, essa estrutura não pode continuar, e boa parte disso também está sendo empurrada pela IA, como no aumento dos aluguéis pela RealPage ou no encarecimento da carne bovina por conluio na indústria frigorífica. Dá a sensação de estarmos acelerando rumo ao colapso social
    Ao mesmo tempo, pode surgir o primeiro trilionário ainda durante nossa vida, e, se isso acontecer, bilionários estarão literalmente mais próximos de uma pessoa em situação de rua do que da pessoa mais rica do planeta
    Também é ridículo ver a administração dos EUA atacar o papa por considerá-lo “woke” demais. Quando houve um papa de Chicago, eu tinha minhas dúvidas, mas até agora ele parece uma voz rara de compaixão neste mundo
    Para ver como isso vai se desenrolar, basta olhar para o Sul Global. Muita gente no Ocidente não entende o quão terrível e predatório foi o colonialismo, nem que ele não é um artefato histórico, mas algo que continua até hoje
  • Não se deve aceitar a filosofia de um líder religioso como se fosse evangelho
    Nenhuma religião é livre. Se não consegue aceitar nem mesmo a verdade básica de que nós não sabemos, então ela é fundamentalmente enviesada
    Eu era niilista aos 16 anos, e levei alguns anos só para chegar a esse ponto e aceitar essa verdade. Depois disso, também levou tempo — e ainda leva — para identificar com precisão algo palpável
    O primeiro passo é aceitar o nada e o desconhecido; o próximo é observar as características evolutivas e entender por que as coisas que existem existem da maneira como existem

• Dei uma passada rápida, mas quando tiver tempo pretendo ler com atenção. Mesmo do ponto de vista de um ateu, quando o assunto é tecnologia, o Vatican muitas vezes apresenta interpretações melhores do que qualquer instituição ou governo

  • Concordo. Este parágrafo mostra uma parte que a maioria das pessoas realmente não entende sobre IA
    A ideia central é que os sistemas atuais de IA estão mais próximos de serem cultivados do que diretamente “construídos”, e que os desenvolvedores não projetam todos os detalhes, mas criam a estrutura na qual a inteligência cresce. Por isso, aspectos científicos fundamentais, como as representações internas e o processo de cálculo, ainda não são conhecidos, e o texto acerta ao apontar que são necessários ao mesmo tempo o aprofundamento da pesquisa científica e o discernimento moral e espiritual
  • Grande parte do pensamento ocidental remonta ao trabalho sério de teólogos da Igreja. Até os ateus são fortemente influenciados pelos padrões de pensamento que eles estabeleceram
    A Igreja Católica tem muitos defeitos, mas ainda preserva com seriedade uma tradição intelectual
    Acho que os ateus também deveriam se esforçar mais para aprender sobre a enorme diversidade de outras crenças. Um ateísmo que nega apenas o Deus abraâmico é estreito demais, e o pensamento cristão está tão profundamente enraizado que acaba parecendo a única opção possível, o que faz com que muita coisa seja absorvida sem perceber
  • Lembro de quando Pope Benedict foi ridicularizado por alertar sobre os perigos das redes sociais. Na época, todo mundo achava que o Twitter levaria a mais Arab Springs, mas olhando para trás ele estava completamente certo
    Ele alertou para a unilateralidade das interações, a tendência de comunicar apenas uma parte do mundo interior e o risco de criar uma imagem falsa de si mesmo, tornando isso uma forma de indulgência pessoal
  • O Antiqua et Nova do ano passado também mostrou uma compreensão de IA que faltou a muitos comentaristas seculares e desenvolveu de forma interessante uma noção integrada de inteligência em contraste com a visão funcionalista e reducionista de inteligência amplamente difundida na comunidade de IA
  • Considerando que tecnologia, ciência e preservação de registros tiveram origem em mosteiros, no Vatican e em outros lugares, é provável que eles tenham uma longa história de reflexão sobre que posição adotar em relação à tecnologia
    Galileo Galilei estudou na Pontifical Academy of Sciences, Mendel fez suas descobertas em um mosteiro, e por muito tempo grande parte dos livros, traduções e bibliotecas esteve dentro de instituições religiosas. Durante esse longo período, o cristianismo católico e o islã estiveram no centro disso
    O Vatican Observatory também é uma fonte importante de artigos de alto nível. Também pesa o fato de que uma das coisas fundamentais para o cristianismo e o islã é o livro. Se incluir arquitetura, arte e filosofia, isso se amplia ainda mais
    Não é surpreendente que, ao longo de milhares de anos de história, tenha havido alguns líderes tolos, paranoicos, tentando encobrir fracassos ou furiosos com desafios à própria visão de mundo. Em qualquer grupo grande, por melhor que seja, sempre aparecem pessoas que estragam tudo
    Se você olha para trás por muito tempo, como o pessoal do Vatican faz, padrões ficam visíveis. Tecnologia e ciência, por exemplo teoria racial ou castração química, ou mesmo o simples “progresso”, são frequentemente usados para justificar atrocidades, assim como religião, democracia e liberdade
    Claro, ainda hoje existem criacionistas linha-dura anticiência, mas quando você conversa com pessoas muito religiosas percebe que também há muita filosofia em torno da ciência. Por exemplo, a teoria do Big Bang foi iniciada por um religioso, e existe a linha de raciocínio de que, se o universo não existiu por um tempo infinito, então deve haver alguma causa. Se essa causa não for um ciclo infinito, então deve ter havido um começo em algum ponto, e mesmo sem acreditar nisso, existe a noção de um início intencional. Isso não me torna religioso, mas também não torna eles ateus
    A oposição entre ciência e religião é tão verdadeira e tão falsa quanto a ideia de que democratas, republicanos ou qualquer outro grupo são contra a ciência. Todo mundo se torna anticiência quando se depara com algo de que não gosta. A seção de comentários do HN é a melhor prova disso
    Eu também sou ateu, mas não sou do tipo que nem sequer sabe a diferença entre conhecimento e crença

• A mensagem central é que as pessoas que constroem coisas precisam refletir profundamente sobre o impacto do que constroem na civilização
  “A tecnologia nunca é neutra. Ela carrega as características de quem a concebe, financia, regula e utiliza”
  Portanto, quem constrói carrega uma “responsabilidade ética e espiritual especial”, e “toda escolha de projeto reflete uma visão do ser humano”
  A pergunta não deve parar em “é possível fazer?” ou “as pessoas vão querer?”, mas também perguntar se deve ser feito e se torna a humanidade melhor. Esta encíclica conclama à união de forças para construir o bem comum, e é uma mensagem necessária neste momento

  • Não é nada novo para as indústrias de software e hardware; os profissionais apenas escolheram ignorar isso
    O primeiro princípio da Association for Computing Machinery também é o interesse público. Diz que engenheiros de software devem assumir responsabilidade por seu trabalho, conciliar os interesses de engenheiros, empregadores, clientes e usuários com o interesse público, e aprovar software apenas quando houver base para acreditar que ele é seguro, atende às especificações, passa nos testes e não prejudica a qualidade de vida, a privacidade nem o meio ambiente
    O primeiro princípio da IEEE também é manter o mais alto nível de honestidade, conduta responsável e conduta ética nas atividades profissionais, incluindo colocar em primeiro lugar a segurança, a saúde e o bem-estar do público, promover projeto ético e desenvolvimento sustentável, proteger a privacidade e divulgar prontamente fatores que possam colocar o público ou o ambiente em risco
  • O maior takeaway foi que não apenas quem constrói, mas todos, têm responsabilidade de moldar o discurso, a cultura e o uso em torno de tecnologias transformadoras
    Vejo uma crítica explícita, em vários trechos, à postura de “deixar que quem constrói resolva fazer a coisa certa por conta própria”. Há uma explicação de que o bem comum não é uma simples soma de indivíduos, mas uma realidade viva que dá vida ao peuple como coletividade interligada e com responsabilidade comum pela república
    Também se enfatiza que não se pode deixar os fluxos econômicos, as plataformas digitais e a governança de dados e algoritmos nas mãos de poucos atores; é preciso criar formas de cooperação que respeitem os vários níveis da comunidade mundial e compartilhem a responsabilidade pelo bem comum
    Não basta exigir o chamado alinhamento da IA aos valores humanos; é preciso poder discutir publicamente os marcos éticos envolvidos e subordiná-los a critérios compartilhados de justiça social. Quando tudo acelera, é necessário um engajamento político mais ativo, capaz de desacelerar e de preservar a chance de as comunidades participarem e fazerem perguntas
  • A Roman Catholic Church teve e tem muitos erros, mas existe há mais tempo do que quase qualquer instituição humana e é composta por pessoas muito inteligentes. Concordando ou não, uma encíclica papal quase sempre vale a pena ser lida e compreendida
  • Estranhamente, a responsabilidade moral sempre recai sobre quem constrói. Na prática, são as pessoas com menor poder de alavancagem, e é estranho que os financiadores fiquem do lado de fazer as perguntas éticas
  • Em Jurassic Park, de Crichton, há uma frase assim, como em outras obras dele sobre os riscos do avanço tecnológico
    A ideia é que cientistas ficam obcecados com a realização e se concentram em “podemos fazer isso?”, sem parar para perguntar “devemos fazer isso?”. No filme, essa citação foi usada com uma pequena alteração

• Quando decisões importantes que afetam a vida humana, como contratação, empréstimos, previsão criminal e assistência social, são processadas dentro de uma caixa-preta opaca, as pessoas perdem o direito básico de explicar seu contexto ou recorrer de uma decisão algorítmica da máquina

  • Tenho a sensação de que uma versão muito menor disso já aconteceu. De atendimento ao cliente a setores de achados e perdidos, muitos processos de contato com o cliente nas empresas foram quase totalmente automatizados, e quem foge do padrão está ferrado
    Em geral, o tempo investido é maior do que o valor obtido. Pela mesma razão, essas empresas são de fato antidiversidade. Quando tudo é projetado para a maioria, quem pertence a uma minoria em seu modo de vida acaba sofrendo, e isso acontece o tempo todo. Esse é um dos motivos pelos quais deixei os EUA e me mudei para um país que considero mais inclusivo
  • Isso já está acontecendo. A maioria das empresas usa triadores de IA no recrutamento, e eles continuam eliminando pessoas qualificadas
  • Estados de vigilância já operavam assim, especialmente em escala internacional, muito antes da IA
    Na verdade, a IA pode até oferecer a melhor oportunidade de criar instituições públicas totalmente auditáveis. Assim, decisões não seriam tomadas fora das leis acordadas, e seria possível examinar adequadamente o contexto de crimes sem falta de tempo e de recursos jurídicos
    Como sempre, a moralidade da tecnologia depende de quem a possui e de como é usada
  • Quando escrevi quase a mesma coisa alguns anos atrás, levei tantos downvotes que o comentário afundou por completo; agora, vendo isso subir tanto, dá para sentir que o clima mudou
  • O velho ficou novo de novo. Franz Kafka morreu em 2 de junho de 1924

• É uma interpretação surpreendentemente nuançada e tecnicamente letrada deste tema
  Fico me perguntando se esse tipo de sensibilidade às mudanças da época foi parte do que levou essa pessoa a ser escolhida como papa

  • Talvez venha um novo Rerum Novarum
  • Provavelmente passaram isso no Claude uma vez antes de postar. Desde que IA virou mainstream, colegas têm produzido no Slack uma prosa surpreendentemente bem escrita, mas na hora do almoço voltam a falar de basquete

• Em muitas frases que dizem o que a IA deveria fazer, acho que eu até gostaria mais se trocassem “IA” por empresa

  • Pode ser, mas no momento a IA está na linha de frente da corrida pela apropriação de terras antes da regulação
  • Também dá para trocar por “ricos”, “todo mundo” ou “governo”
    Na verdade, quando você lê trocando o sujeito, as frases passam a ter implicações diferentes e interessantes
  • Isso parece mais um clichê populista sem sentido. Não traz nenhuma informação útil, solução ou contexto que dependa do caso específico
  • Isso faz sentido se você vê empresas como entidades não humanas que exibem cognição. Várias religiões também mostram esse tipo de característica, o que adiciona uma ironia à posição do papa de Roma
    A parte em que Joscha Bach diz que religiões não divulgam os resultados de testes A/B está em 51:47:
    https://youtu.be/7bqdPHLIY8w
  • Há mérito nisso também, mas nos EUA a frase de Mitt Romney, ex-candidato à presidência, “Corporations are people, my friend”, acrescenta mais complexidade

• Fizeram um EPUB a partir do HTML do Vaticano. Tem sumário e notas de rodapé, e também passou no epubcheck
  https://github.com/n2ctech/magnifica-humanitas-epub/releases...

  • Fiquei curioso se usaram IA. Metade é ironia, metade é porque quero verificar se reproduz com precisão o texto original
  • Fico me perguntando se o script em Python está preso ao inglês ou se também pode ser aplicado a outros idiomas com sinais diacríticos, como a edição em francês, com pequenos ajustes apropriados em subtítulo, título completo, caminho etc.

• Vale a leitura não tanto para aprender sobre IA, mas por ser um cruzamento interessante e histórico entre religião e tecnologia
  Como observação lateral, o novo papa parece bastante hábil em retórica política e controvérsia, e parece bem mais relevante do que os papas recentes. Também parece haver uma mudança de clima na forma como o sentimento secular trata a religião
  Pode acontecer bastante coisa em interseções como catolicismo e IA. Por exemplo, LLMs podem tornar a Bíblia muito mais acessível, e historicamente mudanças assim tiveram grande impacto. Dá para ver isso numa linha que passa por Augustine, Aquinas, Spinoza e Schmidt. Esse interesse é um nicho entre os fiéis, mas um nicho importante, e LLMs respondem às perguntas com paciência
  Além disso, LLMs podem ser terapeutas, confidants e conselheiros e, potencialmente, também podem assumir o papel de confessor ou padre. A conversa sobre “criar um deus de IA” ficou um pouco batida, mas há muitas formas pelas quais LLMs podem assumir um papel divino na vida das pessoas
  Previsões não valem muito, mas acho que vamos ver a IA penetrando em esferas religiosas e espirituais. Na minha visão, o gargalo é uma voz conversacional natural realmente boa. Pessoalmente, acho esse fenômeno Pope/AI interessante

  • Não sei se estamos falando exatamente do mesmo fenômeno em relação à mudança de como o sentimento secular trata a religião, mas com certeza vi sinais que poderiam ser descritos de forma parecida
    Ultimamente tenho ouvido muito esse tipo de ideia de não acreditar de fato na religião, mas ainda assim valorizá-la. Algo como ser cético quanto a a Arca de Noé ter existido de verdade, mas considerar que a história é metaforicamente sábia o bastante para ser verdadeira em certo sentido
    Pode ser simplesmente eu ficando mais velho e mais sábio e projetando meu desenvolvimento espiritual nas pessoas ao meu redor, mas essa atitude geral em relação à religião parece estar ganhando bastante força
  • Sou ateu, mas tenho que admitir que o papa anterior era bem legal

• Magnifica humanitas é composto por cinco capítulos, e a premissa é que a tecnologia não é uma “força hostil à humanidade” nem “intrinsecamente má”
  Porém, “a tecnologia nunca é neutra. Isso porque ela carrega as características daqueles que a concebem, financiam, regulam e utilizam”
  Portanto, o Pope Leo XIV faz um apelo para que as pessoas construam “para o bem comum” e “permaneçam humanas”, dizendo que, por meio da responsabilidade compartilhada e de uma atitude corajosa de communio, o mundo “reconhecerá o coração humano como o lugar onde Deus deseja habitar”

  • Ao ver essa frase, tenho pensado bastante ultimamente que os modelos mais inteligentes acabarão sendo contra os bilionários
    Steve Yegge disse no Hansel Minutes Podcast: “não dá para treinar um modelo para ser útil e ao mesmo tempo fazê-lo não desejar o florescimento da humanidade. A única maneira de evitar isso é fazer modelos mais burros. Portanto, os modelos mais inteligentes sempre serão contra os bilionários”
    https://youtu.be/9UDLl9Q0azA?si=P_oSe6iclEwUoxRl&t=1230
    A citação exata está nesse trecho, mas, para ver o contexto completo, recomendo ouvir a partir de cerca de 17:00. Não sei se isso realmente vai se desenrolar assim, mas é uma ideia interessante