- Magnifica Humanitas vê a IA como uma nova revolução industrial e alerta para os riscos de ampliação da desigualdade, enfraquecimento da democracia e erosão da humanidade
- O desarmamento da IA significa ir além da lógica de competição militar, econômica e cognitiva, para impedir que a tecnologia passe a dominar os seres humanos
- A IA já fortalece o poder de quem tem recursos, expertise e acesso a dados, permitindo que uma minoria influencie informação, consumo e processos democráticos
- Para proteger a dignidade humana e o bem comum, a responsabilidade deve estar clara do projeto ao uso, e a ética deve ser aplicada durante a construção, não apenas após os danos
- A IA militar exige restrições éticas rigorosas, responsabilidade humana e direito internacional, e tanto o colonialismo de dados quanto a substituição do trabalho também são tratados como questões de justiça social
O ponto central da primeira encíclica: o “desarmamento” da IA
- A primeira encíclica do Papa Leão XIV, “Magnifica Humanitas”, define a IA como uma nova revolução industrial e coloca no centro da agenda os riscos de ampliação da desigualdade, enfraquecimento da democracia e dano à humanidade
- O desarmamento da IA não se limita à esfera militar: significa desvincular a IA da lógica de competição econômica e cognitiva, em uma direção que impeça a tecnologia de dominar os seres humanos
- O objetivo não é abandonar a tecnologia, mas transformar a IA em uma tecnologia “desarmada, acolhedora e acessível”
- Empresas de IA precisam de regulações nacionais e internacionais mais rígidas, e indivíduos e comunidades também devem participar amplamente da formação do futuro da IA
- Leão XIV faz referência à encíclica de 1891 do Papa Leão XIII, “Rerum Novarum”, escrita em resposta à Revolução Industrial do século 19, situando as questões sociais da era da IA na continuidade da doutrina social católica
- A encíclica foi elaborada após ouvir cientistas e engenheiros, líderes políticos e servidores públicos, pais e professores, e pede ampla participação em programação, regulação e distribuição dos benefícios da IA
Big Tech e concentração de poder
- Leão XIV avalia que um pequeno número de indivíduos ricos pode acabar determinando o futuro e os meios de vida da humanidade, enquanto a distância entre quem participa da revolução digital e quem fica à margem pode aumentar
- A IA já tende a ampliar o poder de quem possui recursos econômicos, conhecimento especializado e acesso a dados
- Pequenos grupos influentes podem moldar informação e padrões de consumo, afetar processos democráticos e conduzir a dinâmica econômica em seu próprio benefício
- A tecnologia não é neutra e revela os interesses e atores que estão por trás dela
- Quando o poder se concentra em poucos, ele se torna opaco e mais propenso a escapar da fiscalização pública, levando a um desenvolvimento distorcido que produz novas formas de dependência, exclusão, manipulação e desigualdade
- O cofundador da Anthropic, Chris Olah, afirma que o desenvolvimento de IA opera sob incentivos e restrições em que interesses comerciais, pressões geopolíticas, orgulho e ambição podem entrar em choque com “fazer a coisa certa”
- Olah defende que comunidades religiosas, sociedade civil, acadêmicos e governos levem a IA a sério e a pressionem em uma direção melhor
Dignidade humana, julgamento e trabalho
- O princípio central é que o ser humano vem antes da IA, e a dignidade humana deriva do próprio ser, não de capacidade, riqueza, posição social ou do fato de fazer escolhas corretas
- O risco na era dos chatbots de IA não está apenas em o usuário confundir agentes de IA com pessoas, mas em enfraquecer o próprio desejo de buscar outras pessoas
- Ao transferir decisões para máquinas, podem aumentar a dependência excessiva e a busca por respostas imediatas, enfraquecendo a criatividade e a capacidade de julgamento individuais
- A inovação em IA pode ter efeitos positivos na sociedade humana e na proteção ambiental, mas seus riscos também precisam ser enfrentados
- Para que a IA respeite a dignidade humana e o bem comum, a responsabilidade deve estar clara em todas as etapas, dos projetistas e desenvolvedores até os usuários e aqueles que dependem das decisões reais
- Princípios morais e éticos devem ser aplicados durante a construção dos sistemas, não apenas depois que danos sociais já ocorreram
- A postura de exigir cautela, avaliação rigorosa e, às vezes, um ritmo mais lento na adoção da IA não é apresentada como oposição ao progresso, mas como cuidado responsável com a família humana
- Mesmo frameworks do tipo constituição ética, como os adotados por empresas como a Anthropic, não bastam se refletirem apenas a moral definida por poucos; eles devem ser debatidos à luz de critérios compartilhados de justiça social
- A verdade é um elemento essencial da democracia, e a educação sobre IA é necessária, especialmente para os jovens
- Ao contrário da promessa de que a IA aliviaria a carga de trabalho, na prática muitas vezes os trabalhadores são pressionados a se adaptar à velocidade e às exigências das máquinas
- Na quarta revolução industrial, a prioridade deve ser a proteção das oportunidades de emprego e do papel insubstituível de cada pessoa
Transumanismo, desigualdade e colonialismo de dados
- Transumanismo e pós-humanismo estão ligados à premissa de que ultrapassar a condição humana seria um sinal de progresso
- Em contraste com a visão de que doença, deficiência, velhice e vulnerabilidade são apenas limites a serem superados, o ser humano muitas vezes floresce não apesar de seus limites, mas por meio deles
- Víctor Manuel Fernández afirma que, ao contrário da visão de que o ser humano chega a uma data de validade e deve ser substituído, o ensinamento católico sustenta que toda pessoa possui dignidade infinita
- Em meio ao aumento da desigualdade econômica global, o avanço tecnológico pode criar desigualdades estruturais
- A política tributária deve aliviar a carga dos mais vulneráveis e exigir mais responsabilidade de quem tem mais recursos, e os benefícios da inovação devem ser compartilhados com toda a comunidade de forma transparente
- Por trás da IA, pode haver rastros de exploração humana e ambiental, desde modelos treinados com material protegido por direitos autorais até a mineração de minerais raros usados no hardware de IA
- O colonialismo de dados é tratado como uma nova face do colonialismo, apropriando-se de tendências de saúde, perfis epidemiológicos, mapas genéticos e dados demográficos
- Esses dados se tornaram “as novas terras raras do poder”, e a tecnologia de IA nas mãos de poucos indivíduos ou grupos orientados ao lucro pode se tornar uma nova forma de dominação colonial
- Para que o conhecimento compartilhado se torne um bem comum, e não um instrumento de dominação, as pessoas precisam recuperar a capacidade de entender os dados que as descrevem e decidir como eles serão usados, por quem e em benefício de quem
Guerra, justiça social e bem comum
- O uso militar da IA deve estar sujeito às restrições éticas mais rigorosas
- A responsabilidade por ações militares, especialmente as letais, deve permanecer com os seres humanos, não com as máquinas
- São necessárias rastreabilidade dos processos decisórios em guerra, supervisão humana e leis internacionais para lidar com o aumento do uso de armas automatizadas e suas consequências
- Os princípios morais da vida social, econômica e política centrados na dignidade humana e no bem comum também devem valer na era da IA
- A solidariedade e o cuidado com o “próximo” são eixos centrais, com ênfase especial na responsabilidade para com as próximas gerações
- A justiça social não envolve apenas uma distribuição mais justa de recursos ou a correção das injustiças atuais, mas também uma dimensão restaurativa
- Também no mundo digital, deve-se estar atento à vigilância invasiva, às comunidades excluídas do acesso a tecnologias básicas e aos danos de algoritmos opacos que perpetuam discriminações
- A migração é tratada como o teste decisivo da justiça social hoje
- Babel simboliza a busca por poder e autossatisfação, enquanto a reconstrução de Jerusalém por Neemias aponta para a oração e a participação da família e da comunidade
- A mensagem final é que, mesmo na era da IA, a construção de Babel e a reconstrução de Jerusalém começam dentro de cada pessoa
1 comentários
Comentários do Hacker News
Post quase duplicado. https://news.ycombinator.com/item?id=48265206
Os tempos mudaram em muitos aspectos. Por exemplo, 1) agora existe IA, e 2) o papa é americano e mais confiável do que os principais políticos em exercício de ambos os partidos
Não é tanto que as pessoas sintam saudade da era do papado, mas sim que isso está mais próximo do que qualquer pessoa com bom senso anda procurando
Há 15 anos era o papa Bento, e ele era uma figura bem diferente. Pessoalmente, acho que eu teria sido mais cético em relação a ele do que em relação a Francisco ou Leão
Mantendo a analogia religiosa, os usuários do HN daquela época provavelmente teriam ficado mais chocados com o fato de que o Chrome já não era mais tratado como a segunda vinda de Jesus