- Magnifica Humanitas pede a escolha de reconstruir Jerusalém, e não Babel, em um ponto de inflexão em que IA, digitalização e robótica abalam a dignidade humana e o bem comum
- A doutrina social da Igreja, por ocasião do 135º aniversário de Rerum Novarum, aplica ao poder tecnológico de hoje os temas do trabalho, salário justo, subsidiariedade, solidariedade e destino universal dos bens
- A IA não é uma ferramenta neutra, mas reflete as escolhas de projetistas, capital e reguladores, e pode violar direitos e liberdades sem responsabilização, transparência e controle humano
- A economia digital pode criar trabalho oculto e exploração, como rotulagem de dados, moderação de conteúdo, extração de recursos e colonialismo de dados, exigindo responsabilidade de cadeias de suprimento e plataformas
- O critério do progresso não é eficiência e controle, mas se torna o ser humano mais humano, e é preciso construir uma civilização do amor por meio da educação, trabalho, paz, multilateralismo e cuidado
A era de transição tecnológica e a tarefa da doutrina social da Igreja
- A humanidade está diante de um ponto de virada no qual deve escolher se erguerá uma nova Torre de Babel ou uma cidade em que Deus e os seres humanos habitem juntos
- A digitalização, a IA e a robótica estão transformando de forma rápida e profunda a estrutura da vida cotidiana, os processos de decisão e o imaginário coletivo
- A tecnologia pode curar, conectar, educar e proteger a casa comum, mas também pode criar divisão, exclusão e novas injustiças
- A tecnologia não é abstratamente boa ou má, mas, na prática, reflete as escolhas de quem a concebe, financia, regula e usa, portanto não é neutra
- A escolha central não é ser a favor ou contra a tecnologia, mas decidir se construiremos uma Babel da eficiência que sacrifica os vulneráveis ou se reconstruiremos Jerusalém com vozes diversas e responsabilidade compartilhada
- A encíclica de 1891 de Pope Leo XIII, Rerum Novarum, colocou no centro o trabalho, a dignidade do trabalhador, o salário justo e o valor do ser humano acima do capital
- Neste ano, o 135º aniversário de Rerum Novarum se torna uma ocasião para aplicar aos poderes tecnológicos de hoje e à economia digital os princípios da doutrina social, como trabalho, subsidiariedade, solidariedade e destino universal dos bens
A Torre de Babel e Jerusalém
- A Torre de Babel do Gênesis revela a tentativa de obter estabilidade, força e “um nome para si” sem referência a Deus
- Babel se apoia numa uniformidade que elimina a diversidade e, quando é erguida sobre orgulho e autossuficiência, termina em colapso da comunicação e dispersão
- A reconstrução dos muros de Jerusalém em Neemias é apresentada como imagem de reerguer ruínas por meio de jejum, oração, escuta, divisão de tarefas e responsabilidade comum
- Jerusalém renasce não pela iniciativa de uma única pessoa, mas por uma reconstrução da qual participam homens e mulheres, sacerdotes, artesãos, chefes de família e jovens
- Navegar com responsabilidade na era da IA se aproxima mais do caminho de Jerusalém, construída em conjunto para restaurar relações e buscar o bem comum, do que de uma Babel que exibe o poder da tecnologia
Princípios centrais da doutrina social
- A dignidade humana pertence a todas as pessoas pelo simples fato de serem humanas, sem depender de capacidade, riqueza, status, realização ou escolha
- Os direitos humanos não são um elemento externo acrescentado à pessoa, mas expressão da dignidade intrínseca, devendo ser universais, inalienáveis e dotados de efeitos jurídicos reais
- O bem comum é apresentado como o conjunto das condições sociais que permite às pessoas alcançar sua realização de modo mais pleno e mais fácil
- O direito à propriedade privada tem sentido e finalidade, mas está sempre subordinado ao destino universal dos bens, o que hoje também deve se aplicar a novos bens como patentes, algoritmos, plataformas digitais, infraestrutura tecnológica e dados
- A subsidiariedade é o princípio segundo o qual uma autoridade superior não deve substituir aquilo que indivíduos, famílias, comunidades locais e organizações intermediárias podem fazer, e isso também se aplica, na era digital, ao poder de plataformas, dados e algoritmos
- A solidariedade é o reconhecimento concreto de que o futuro de cada pessoa está ligado ao futuro de todos, e, quando combinada com a subsidiariedade, torna possível uma cooperação social responsável
- A justiça social trata também das estruturas, mecanismos e sistemas econômicos e culturais que produzem desigualdade automaticamente, e, na era digital, inclui acesso à tecnologia, vigilância, viés algorítmico e proteção de migrantes e refugiados
IA e o paradigma tecnocrático
- Pope Francis, em Laudato Si’, critica o paradigma tecnocrático no qual a lógica da eficiência, do controle e do lucro domina decisões pessoais, sociais e econômicas
- O controle sobre plataformas, infraestrutura, dados e poder computacional está, em muitos casos, concentrado não nos Estados, mas em grandes atores econômicos e tecnológicos
- Esses atores moldam as condições de acesso, as regras de visibilidade e até a própria possibilidade de participação, e quanto mais o poder se concentra em poucos, maior é o risco de dependência, exclusão, manipulação e desigualdade
- Sistemas de IA podem imitar certas funções da inteligência humana e superar os seres humanos em velocidade e capacidade de cálculo, mas não vivenciam, não têm corpo e não conhecem por dentro alegria, dor, amor e responsabilidade
- O “aprendizado” da IA é uma adaptação estatística baseada em dados e feedback, e não a experiência humana formada na vida por escolhas, erros, perdão e fidelidade
- A IA não possui consciência moral para julgar o bem e o mal, captar o sentido último de uma situação ou assumir responsabilidade por resultados
- Quando decisões sensíveis, como emprego, crédito, acesso a serviços públicos e reputação, são delegadas por completo a sistemas automatizados, direitos, oportunidades, status e liberdade podem ser violados
- Responsabilização significa que deve ser possível identificar quem explica, justifica, supervisiona, trata contestações e repara danos decorrentes de uma decisão
- Apenas o alignment da IA com valores humanos não basta; é preciso debater publicamente qual estrutura ética será aplicada e subordiná-la aos critérios da justiça social
- A posse de dados não pode ser deixada apenas em mãos privadas e deve ser devidamente regulada, pois os dados são fruto da contribuição de muitos e não devem ser tratados como algo a confiar somente a poucos
Visão de ser humano, transumanismo e limite
- A questão central da doutrina social da Igreja não é tanto o uso da tecnologia em si, mas a visão de ser humano subjacente a ela
- Quando o ser humano é visto como algo a ser completado ou superado, torna-se mais fácil aceitar a ideia de que certas vidas são menos úteis, menos desejáveis e menos valiosas
- O transumanismo contém a ideia de elevar o desempenho e as capacidades humanas por meio de tecnologias como biomedicina, engenharia corporal, dispositivos e algoritmos
- O pós-humanismo, em formas mais radicais, desafia o antropocentrismo e imagina a hibridização entre ser humano, máquina e ambiente, bem como novas etapas evolutivas
- Limites como incapacidade, doença, velhice, sofrimento e vulnerabilidade tendem a ser tratados apenas como defeitos a corrigir, mas a humanidade muitas vezes amadurece por meio do limite e se abre à relação
- É correto esforçar-se para aliviar o sofrimento, mas também é necessária a sabedoria de reconhecer a finitude fundamental do ser humano
- O humanismo cristão não rejeita ciência e tecnologia, mas as acolhe com gratidão e senso de realidade, colocando-as sob uma vocação mais alta e sob a autotranscendência no amor
- A pergunta decisiva na era da IA é se a tecnologia torna a vida humana na terra, em todos os seus aspectos, “mais humana”
Verdade, educação, trabalho e economia
- Plataformas digitais e sistemas de IA transformam profundamente a comunicação pública e política e podem embaralhar a fronteira entre fato e opinião, verdade e mentira, por meio de narrativas distorcidas e imagens e vídeos manipulados
- A informação verdadeira não nasce de controle centralizado ou automatizado, mas exige verificação, cruzamento de fontes e argumentação responsável
- A busca da verdade é elemento essencial da democracia, e, quando enfraquece a disposição de perguntar o que é verdadeiro, a vida democrática também enfraquece
- A educação para o uso da IA deve incluir não apenas quando e para que finalidade usar IA, mas também o treino para discernir quando não usá-la
- A conveniência de obter respostas ou resumos rapidamente pode enfraquecer o desejo de perguntar e a capacidade de aprender com profundidade
- A exposição precoce e sem supervisão a dispositivos digitais e redes sociais pode afetar negativamente o sono, a capacidade de atenção, a regulação emocional e os relacionamentos
- Conteúdo violento e ofensivo online, pornografia e materiais de hipersexualização, grooming, chantagem e exploração sexual de menores tornam-se mais sofisticados com perfis falsos, algoritmos que facilitam contatos perigosos e ferramentas de IA que manipulam imagens e vídeos
- O trabalho não é apenas fonte de renda, mas um campo em que a dignidade da vida se expressa e se promove, e o objetivo é permitir que cada pessoa viva com dignidade por meio do próprio trabalho
- A convergência entre automação, robótica e IA está transformando rapidamente a estrutura do trabalho, e há o risco de que, em vez de as máquinas apoiarem os trabalhadores, os trabalhadores sejam forçados a se adaptar ao ritmo e às exigências das máquinas
- A introdução de automação e IA deve ser acompanhada de medidas verificáveis de proteção do emprego, requalificação e participação dos trabalhadores
- O PIB por si só dificilmente avalia de forma suficiente o bem-estar geral das pessoas e do meio ambiente, e são necessários indicadores que considerem também a dignidade do trabalho, a prosperidade compartilhada, a redução da desigualdade e a proteção ambiental
- Na era da IA e da robótica, não se pode deixar tudo apenas para a mão invisível do mercado; a política deve orientar a economia e a tecnologia para o bem comum
- Vícios ligados à economia digital da atenção podem explorar vulnerabilidades e enfraquecer a liberdade interior, pois são projetados para capturar o tempo e a atenção dos usuários
- A coleta massiva de dados e sistemas algorítmicos criam novos riscos de controle social, ao traçar perfis de deslocamentos, compras, relações e preferências e influenciar comportamentos
Trabalho oculto, escravidão e colonialismo de dados
- As respostas imediatas e aparentemente perfeitas da IA são o resultado de uma longa cadeia de mediações que inclui recursos naturais, infraestrutura energética e pessoas
- A economia digital depende do trabalho de inúmeras pessoas que realizam atividades essenciais, mas quase invisíveis, como rotulagem de dados, treinamento de modelos e moderação de conteúdo
- Trabalhadores da moderação de conteúdo frequentemente lidam com materiais perturbadores e, em muitos casos, são jovens, majoritariamente mulheres, submetidos a condições difíceis e baixos salários
- A extração de recursos necessários para produzir dispositivos de IA e microprocessadores é ainda mais dura, e, em algumas regiões, crianças e adolescentes lidam com materiais para extração de terras raras em condições perigosas
- Redes criminosas usam plataformas online, sistemas de mensagens, métodos anônimos de pagamento e tecnologias de perfilamento para recrutar, controlar e transportar vítimas de tráfico humano
- O tráfico humano deve ser reconhecido como forma moderna de escravidão e grave violação da dignidade humana
- O colonialismo de hoje não domina apenas corpos, mas se manifesta como colonialismo de dados, apropriando-se de dados e transformando a vida das pessoas em informação explorável
- Dados vitais como dados de saúde, perfis epidemiológicos, mapas genéticos e informações demográficas podem ser usados para treinar modelos preditivos, orientar estratégias de investimento, antecipar crises e definir relevância
- É preciso garantir que dados coletados em nome de ajuda, pesquisa e inovação não se tornem instrumento de dominação, mas verdadeiro bem comum
- Deve-se ampliar a transparência da cadeia de suprimentos que sustenta a indústria tecnológica e a economia digital, para que vantagem competitiva não seja construída sobre exploração oculta
- Empresas e investidores devem priorizar verificação ética preventiva, proteção dos trabalhadores, enfrentamento ao trabalho forçado e avaliação do impacto social de modelos de negócio baseados em dados
- Plataformas digitais devem cooperar de forma responsável com autoridades e sociedade civil, para que ferramentas de comunicação, pagamento e perfilamento não se tornem canais de recrutamento e controle de vítimas
Guerra, armas e multilateralismo
- A IA e a revolução digital intensificam conflitos híbridos, além da guerra tradicional, como ciberataques, manipulação de informação, campanhas de influência e automação de decisões estratégicas
- Quando a tecnologia é separada da ética e da responsabilidade, ela pode tornar decisões de vida ou morte mais rápidas e impessoais, e fazer o uso da força parecer uma opção imediata e executável
- A IA pode fortalecer a defesa e a proteção de civis, mas também corre o risco de reduzir o limiar para o uso da força, ocultar pessoas da responsabilização e reduzir o inimigo a estatística e as vítimas a “danos colaterais”
- A civilização do amor não é uma utopia ingênua, mas um projeto exigente que traduz o amor em estruturas de justiça e dá forma institucional à fraternidade
- A cultura do poder normaliza a guerra, busca maior capacidade militar, explora a crise do multilateralismo e incentiva o falso realismo segundo o qual “não há alternativa”
- Em 1965, Saint Paul VI exclamou na Assembleia Geral da ONU: “Nunca mais a guerra, nunca mais a guerra!”
- Hoje, com o rearmamento e o retorno da guerra como instrumento da política internacional no discurso público, enfraquecem-se os princípios éticos que antes limitavam o uso da força
- O crescimento do complexo militar-industrial tornou-se característica definidora do cenário político e setor central da economia de vários países
- A crença de que a dissuasão nuclear é premissa indispensável da segurança contribui para uma nova corrida armamentista, para o desmonte gradual de acordos de redução nuclear e para o desenvolvimento de armas miniaturizadas que fazem seu uso parecer uma opção mais executável
- Quanto mais fácil se torna implantar sistemas de armas autônomas, mais a guerra se torna “executável” e menos submetida ao controle humano
- Não se pode permitir entregar a sistemas artificiais decisões letais ou irreversíveis, e nenhum algoritmo pode tornar a guerra moralmente aceitável
- Todo sistema usado em contexto de guerra deve permitir rastrear e reconstruir o processo decisório, e a responsabilidade e a imputação não podem desaparecer na “máquina”
- O diálogo e a diplomacia devem ser os meios padrão de resolução de conflitos, e são necessárias regras comuns para proteger civis e pessoas vulneráveis também diante de violências invisíveis, como ciberataques, manipulação de dados e campanhas de influência
- Organizações internacionais, incluindo as United Nations, podem promover o diálogo entre Estados, a solução pacífica de conflitos, o desenvolvimento integral dos povos, a proteção dos vulneráveis, o desarmamento e o cuidado com a criação
A defesa do humano na era da IA e a vida cristã
- A questão de proteger o ser humano na era da inteligência artificial está ligada ao mistério da Encarnação, em que a Palavra se fez pessoa e entrou na condição humana
- Deus assume a fragilidade humana e a transforma em lugar de salvação, e não existe para Deus nenhum momento ou situação humana sem valor
- Por mais sofisticado que seja, nenhum sistema de cálculo pode criar um coração capaz de se doar ou uma consciência capaz de discernir o bem e o mal, e o rosto humano permanece no centro da história
- A Eucharistic spirituality é apresentada como espiritualidade de unidade eclesial no amor, orientando para a justiça, a partilha e o cuidado prioritário com os sobrecarregados pela pobreza e pela marginalização
- Enquanto novas redes econômicas e tecnológicas podem gerar exclusão, isolamento e dependência, é preciso outro paradigma que preserve os vínculos humanos e dê voz aos invisíveis
- A tarefa de construção de nosso tempo deve colocar no centro a relação com Deus, aceitar o limite humano como realidade natural e positiva e caracterizar-se por responsabilidade compartilhada e linguagem do Evangelho
- Aprender a se relacionar humanamente com o mundo digital deve fazer parte da educação na fé e da vida segundo o Evangelho, e o mundo digital é visto como um novo continente a ser evangelizado
- Devem ser valorizados tempos e lugares em que a presença física é importante, como refeições compartilhadas, encontros da comunidade cristã, tempo passado com os solitários e serviço aos pobres
- A imagem da reconstrução em Neemias ilumina a vocação na era da transição digital e exige que não permaneçamos como observadores passivos ou meros comentaristas diante das fraturas sociais e culturais
- Os locais da reconstrução são laboratórios, empresas de tecnologia, escolas, mídia, instituições e comunidades locais, e é preciso combinar escuta e coragem, oração e responsabilidade, para tornar a cidade humana um lugar mais habitável
1 comentários
Opiniões no Lobste.rs
O simples fato de existir um documento assim já é uma realidade digna de ficção científica que eu nunca imaginei que veria em vida
Hoje isso quase não é mais comentado, mas continua absurdamente estranho
Se alguém tivesse escrito isso num livro, fosse ficção científica ou não, pareceria “ficcional” demais. Coisa demais dependia da inclinação de um rifle
Resposta da Anthropic
“Se ajudar, às vezes eu explico isso como algo um pouco parecido com dar vida a um personagem fictício”
Dá a sensação de que pura maldade emana de todo mundo na Anthropic
Fiquei agradavelmente surpreso ao ver este link postado no lobste.rs
Logo depois da eleição do Papa, prometi a mim mesmo que leria de verdade a primeira encíclica dele, e fico feliz que seja sobre um tema que realmente me interessa
Espero conseguir arrumar um tempo no fim de semana para mergulhar nisso. Dei uma olhada rápida no capítulo 1 e, vendo a quantidade de referências, não parece ser uma leitura leve