Antiqua et Nova: uma reflexão sobre a relação entre IA e inteligência humana

• Documento publicado conjuntamente pelo Dicastério para a Doutrina da Fé e pelo Dicastério para a Cultura e a Educação do Vaticano, abordando de forma ampla os desafios antropológicos e éticos da relação entre inteligência artificial (IA) e inteligência humana
  • Antiqua et Nova: em latim, "o antigo e o novo"

I. Introdução

• Com base na sabedoria antiga e moderna (Mateus 13:52), devemos refletir sobre os desafios e as oportunidades trazidos pelos avanços da ciência e da tecnologia, especialmente os recentes avanços da inteligência artificial (IA)
• Na tradição cristã, a inteligência é considerada um elemento importante que mostra que o ser humano foi criado "à imagem de Deus" (Gênesis 1:27)
• Com base em uma visão integral do ser humano e no chamado do Gênesis para "cultivar e guardar a terra" (Gênesis 2:15), a Igreja enfatiza que a inteligência humana deve se expressar por meio do pensamento racional e da capacidade técnica no exercício responsável da administração da criação

• A Igreja incentiva o desenvolvimento das atividades humanas, incluindo ciência, tecnologia e arte, e o vê como "a colaboração de homens e mulheres na realização da criação visível"
• Eclesiástico (38:6) testemunha que "Deus deu aos seres humanos a técnica, para que por meio dela suas obras maravilhosas fossem louvadas"
• A capacidade e a criatividade humanas vêm de Deus e, quando usadas corretamente, refletem a sabedoria e a bondade divinas, levando ao louvor de Deus
• Portanto, ao discutir o que significa "ser humano", também é preciso considerar as capacidades científicas e tecnológicas

• A partir dessa perspectiva, este documento trata dos desafios antropológicos e éticos levantados pela IA
• Um dos objetivos da IA é imitar a inteligência humana que a projetou
• Ao contrário de outras criações humanas, a IA pode aprender com resultados criativos humanos e depois gerar novos "resultados", muitas vezes com um nível de sofisticação difícil de distinguir do que foi produzido por pessoas
• Isso levanta sérias preocupações sobre o impacto da IA na crise de autenticidade na esfera pública
• Além disso, por meio do aprendizado, a IA pode tomar certas decisões de forma autônoma, adaptar-se a novas situações e apresentar soluções que seus desenvolvedores não previram
• Isso gera questões fundamentais sobre responsabilidade ética e segurança humana, com amplas implicações para toda a sociedade
• Essa nova situação leva muitos a retomar as perguntas: "O que é o ser humano?" e "Qual é o papel da humanidade?"

• Considerando todos esses elementos, a IA abriu uma nova e importante fase na relação entre seres humanos e tecnologia, situando-se no centro do que o Papa Francisco chamou de uma "mudança de época"
• O impacto da IA se destaca globalmente em vários campos, como relações humanas, educação, trabalho, arte, saúde, direito, guerra e relações internacionais
• À medida que a IA avança cada vez mais, torna-se essencial considerar profundamente suas implicações antropológicas e éticas
• Isso não se limita a mitigar riscos e prevenir danos, mas inclui garantir que o uso da IA promova o desenvolvimento humano e o bem comum

• Com o objetivo de contribuir para um julgamento correto sobre a IA, a Igreja oferece por meio deste documento uma reflexão antropológica e ética, retomando a "sabedoria do coração" enfatizada pelo Papa Francisco
• A Igreja compromete-se a participar ativamente das discussões relacionadas à IA e convida pais, professores, sacerdotes e bispos, responsáveis pela transmissão da fé, a tratar com prudência essa importante questão
• Este documento se dirige especialmente a eles, mas também foi escrito para um público mais amplo que compartilha a convicção de que os avanços da ciência e da tecnologia devem ser usados em favor do ser humano e do bem comum

• Para isso, o documento primeiro distingue os conceitos de inteligência da IA e de inteligência humana
• Em seguida, explora a compreensão da inteligência humana com base nos fundamentos filosóficos e teológicos da tradição cristã
• Por fim, apresenta diretrizes éticas para garantir que o desenvolvimento e o uso da IA protejam a dignidade humana e promovam o desenvolvimento integral da pessoa e da sociedade

II. O que é inteligência artificial?

• O conceito de "inteligência" em IA evoluiu ao longo do tempo, refletindo diferentes perspectivas acadêmicas
• Embora as origens da IA remontem a séculos atrás, um ponto de virada importante foi o workshop de verão realizado em 1956 no Dartmouth College pelo cientista da computação americano John McCarthy
• McCarthy definiu a IA como "o problema de fazer uma máquina executar comportamentos que, se realizados por um ser humano, seriam considerados inteligentes", e foi a partir desse workshop que começou efetivamente a pesquisa para projetar máquinas que imitassem o comportamento intelectual humano

• Desde então, a pesquisa em IA avançou rapidamente, levando ao desenvolvimento de sistemas complexos capazes de executar tarefas altamente sofisticadas
• Os atuais sistemas de "IA estreita (Narrow AI)" são projetados para executar funções específicas, como tradução de idiomas, previsão da trajetória de tempestades, classificação de imagens, resposta a perguntas e geração de conteúdo visual com base em solicitações de usuários
• Embora a definição de "inteligência" varie na pesquisa em IA, os sistemas atuais, especialmente os baseados em machine learning, dependem mais de inferência estatística do que de raciocínio lógico
• A IA analisa grandes volumes de dados para identificar padrões e "prever" resultados, algo que tem certa semelhança com parte do processo humano de resolução de problemas
• Esses resultados foram possíveis graças a inovações em tecnologia de computação (redes neurais, aprendizado não supervisionado, algoritmos evolutivos) e em hardware (processadores especializados)
• Com o avanço dessas tecnologias, os sistemas de IA podem responder a entradas humanas, adaptar-se a novas situações e até apresentar soluções não previstas por seus desenvolvedores

• Devido ao rápido avanço da IA, muitas tarefas que antes só podiam ser realizadas por seres humanos estão sendo executadas por ela
• Em especial, em áreas profissionais como análise de dados, reconhecimento de imagem e diagnóstico médico, há casos em que a IA complementa ou até supera as capacidades humanas
• Embora a atual "IA estreita" tenha sido projetada para realizar tarefas específicas, alguns pesquisadores têm como objetivo desenvolver uma "inteligência artificial geral (AGI)" capaz de operar em todos os domínios cognitivos
• Alguns afirmam que a AGI poderá, em última instância, alcançar uma "superinteligência (superintelligence)" que supere a inteligência humana, e também se discute a possibilidade de, em combinação com avanços da biotecnologia, viabilizar uma "superlongevidade (super-longevity)"
• Por outro lado, alguns temem que essa possibilidade represente o risco de substituição dos seres humanos, enquanto outros recebem essas mudanças de forma positiva

• Na base das diversas perspectivas sobre IA e inteligência humana existe uma suposição implícita de que o termo "inteligência" pode ser aplicado da mesma maneira tanto aos seres humanos quanto à IA
• No entanto, isso não reflete o significado completo do conceito
• No caso humano, a inteligência é uma capacidade relacionada à totalidade do ser da pessoa; no caso da IA, "inteligência" é entendida em sentido funcional, muitas vezes com base na suposição de que a atividade mental humana pode ser decomposta em procedimentos digitalizados

• Essa perspectiva funcional é representada pelo "teste de Turing"
• Alan Turing considerava que, se um ser humano não conseguisse distinguir o comportamento de uma máquina do comportamento humano, então essa máquina poderia ser julgada "inteligente"
• Porém, aqui "comportamento" significa apenas o desempenho de certas tarefas intelectuais e não inclui os elementos mais amplos da experiência humana — pensamento abstrato, emoções, criatividade, sensibilidade estética, moral e religiosa
• Além disso, isso não reflete plenamente as características da mente humana, e a "inteligência" dos sistemas de IA é avaliada apenas com base em sua capacidade de produzir resultados semelhantes aos da inteligência humana, sem considerar como esses resultados são gerados

• As funções avançadas da IA permitem que ela execute tarefas complexas, mas não lhe conferem a "capacidade de pensar"
• Essa é uma diferença importante, e a forma como se define "inteligência" exerce influência decisiva sobre a maneira de compreender a relação entre o pensamento humano e a IA
• Para compreender corretamente essa diferença, é preciso considerar um conceito de inteligência mais profundo e abrangente, como o oferecido pela tradição filosófica e pela teologia cristã
• Esse também é um elemento central nos ensinamentos da Igreja sobre a natureza humana, a dignidade e a vocação

III. Inteligência na tradição filosófica e teológica

Racionalidade

• Desde que a humanidade começou a refletir sobre si mesma, a mente (mind) tem sido considerada um elemento central do que significa ser humano
• Aristóteles afirmou que "todos os seres humanos, por natureza, desejam conhecer", explicando que o ser humano se distingue do mundo animal por possuir a capacidade de compreender de forma abstrata a essência e o significado das coisas
• Filósofos, teólogos e psicólogos vêm explorando a natureza das capacidades intelectuais humanas, investigando como o ser humano compreende o mundo e reconhece sua posição singular nele
• Por meio dessa investigação, a tradição cristã entende o ser humano como um ser composto de corpo e alma, profundamente inserido no mundo e, ao mesmo tempo, capaz de transcendê-lo

• Na tradição clássica, a inteligência é explicada por meio dos conceitos complementares de "razão (ratio)" e "intelecto (intellectus)"
• Não se trata de funções separadas, mas de dois modos pelos quais a mesma inteligência opera, como explica São Tomás de Aquino
• "O intelecto (intellectus) é a capacidade de apreender intuitivamente a verdade, enquanto a razão (ratio) é o processo de chegar a conclusões por meio da investigação e do raciocínio lógico"
• Em outras palavras, o intelecto é a capacidade de compreender intuitivamente a verdade, enquanto a razão é a capacidade de formular julgamentos por meio de processos analíticos e argumentativos de pensamento
• Esses dois elementos se unem para constituir a ação essencialmente humana do "entender (intelligere)"

• Descrever o ser humano como um "ser racional" não significa limitá-lo a um modo específico de pensar, mas indicar que todas as atividades humanas são moldadas e influenciadas pela capacidade de compreensão intelectual
• Essa capacidade, seja bem utilizada ou não, é um elemento essencial da natureza humana
• O conceito de "racional" vai além da simples capacidade de pensar e inclui "não apenas o conhecimento e a compreensão, mas também todas as faculdades como vontade, amor, escolha e desejo", bem como as funções corporais estreitamente ligadas a essas faculdades
• Nessa perspectiva abrangente, o ser humano, criado à imagem de Deus, eleva, forma e transforma sua vontade e suas ações por meio da razão

Corporeidade (Embodiment)

• O pensamento cristão compreende as capacidades intelectuais humanas dentro de uma visão integrada da pessoa, segundo a qual o ser humano é essencialmente um ser encarnado
• No ser humano, espírito e matéria "não são duas naturezas unidas, mas sua união forma uma única natureza"
• Ou seja, a alma não é simplesmente uma "parte" imaterial contida no corpo, e o corpo também não é apenas um invólucro; o ser humano inteiro é, ao mesmo tempo, material e espiritual
• Esse entendimento reflete o ensinamento bíblico e enfatiza que o ser humano vive em relação com Deus e com os outros
• O significado profundo dessa condição se torna ainda mais claro por meio do mistério da Encarnação, em que Deus assumiu diretamente um corpo humano e "o elevou a uma dignidade sublime"

• O ser humano está profundamente enraizado em sua existência corporal, mas transcende o mundo material por meio da alma
• A alma "está na fronteira entre o tempo e a eternidade"
• A capacidade transcendente do intelecto e a vontade livre pertencem à alma, por meio das quais o ser humano "participa da sabedoria de Deus"
• No entanto, a mente humana não adquire conhecimento em um estado separado do corpo; ela normalmente opera por meio do corpo
• Portanto, as capacidades intelectuais humanas devem ser compreendidas a partir de uma perspectiva antropológica do ser humano como "uma unidade de corpo e alma"

Relacionalidade (Relationality)

• O ser humano é, por natureza, "um ser orientado para a comunhão interpessoal" e possui a capacidade de conhecer os outros, compartilhar amor e estabelecer relações
• Portanto, a inteligência humana não é uma faculdade isolada, mas se realiza nas relações e se expressa de forma mais plena no diálogo, na cooperação e na solidariedade
• Aprendemos com os outros e por meio dos outros

• A inclinação relacional do ser humano tem origem no amor abnegado revelado pelo Deus Trino na história da criação e da salvação
• O ser humano é "chamado a participar da vida de Deus por meio do conhecimento e do amor"

• A vocação para a comunhão com Deus está inevitavelmente ligada ao chamado para a comunhão com os outros
• Amar a Deus não pode ser separado de amar o próximo (cf. 1 João 4:20; Mateus 22:37-39)
• Os cristãos que receberam a graça de participar da vida de Deus também devem imitar o amor de Cristo (cf. 2 Coríntios 9:8-11; Efésios 5:1-2) e colocar em prática o mandamento: "Amai-vos uns aos outros como eu vos amei" (João 13:34)
• O amor e o serviço levam a transcender o interesse próprio e a responder com maior fidelidade à vocação humana (cf. 1 João 2:9)
• Maior do que saber muitas coisas é cuidar uns dos outros, e "ainda que eu conheça todos os mistérios e toda a ciência, se não tiver amor, nada sou" (1 Coríntios 13:2)

Relação com a Verdade (Relationship with the Truth)

• A inteligência humana é, em última instância, "um dom de Deus moldado para acolher a verdade"
• O ser humano pode investigar uma realidade que vai além da simples experiência sensorial ou da utilidade, porque "o desejo da verdade faz parte da natureza humana"
• Para além dos limites dos dados empíricos, a inteligência humana pode "conhecer a realidade com verdadeira certeza"
• Mesmo que a realidade seja conhecida apenas parcialmente, o anseio pela verdade "estimula constantemente a razão a ir além", e a razão "se maravilha com a possibilidade de avançar para além daquilo que já alcançou"
• A verdade transcende os limites da inteligência humana, mas conduz incessantemente o ser humano a ela e o impulsiona a "buscar uma verdade mais elevada"

• A busca inerente pela verdade se manifesta claramente por meio da capacidade exclusivamente humana de compreender o significado e de criar
• Essa busca se desenvolve "de modo compatível com a natureza social e a dignidade da pessoa humana"
• Além disso, uma orientação firme para a verdade é um elemento indispensável para que o amor seja autêntico e universal

• A busca da verdade se completa, em última instância, por meio da abertura a uma realidade que transcende o mundo físico e criado
• Toda verdade encontra em Deus seu significado último e seu propósito original
• Confiar-se a Deus é "uma decisão fundamental que envolve a pessoa inteira"
• Por meio disso, o ser humano se torna aquilo que originalmente deve ser, e "o intelecto e a vontade manifestam sua natureza espiritual, permitindo que a pessoa realize sua plena liberdade"

Mordomia do Mundo (Stewardship of the World)

• A fé cristã entende a criação como um ato livre do Deus Trino, e São Boaventura explica que Deus "criou não para aumentar sua glória, mas para manifestá-la e compartilhá-la"
• Deus criou com sabedoria e, por isso, o mundo criado possui uma harmonia intrínseca que reflete a ordem divina
• Deus chamou o ser humano para um papel especial e lhe deu o mandato de "cultivar e cuidar do mundo"

• O ser humano, criado por Deus à sua imagem, recebeu a missão de "guardar e cultivar" a criação
• A inteligência humana reflete a inteligência de Deus, que cria, sustenta todas as coisas e as conduz a seu fim último
• O ser humano pode louvar a Deus ao desenvolver a ciência e a tecnologia, e deve cumprir seu papel de governar a criação
• Mas, ao mesmo tempo, a própria criação ajuda o ser humano a "aproximar-se gradualmente de Deus, princípio último"

Uma compreensão integral da inteligência humana (An Integral Understanding of Human Intelligence)

• A inteligência humana deve ser compreendida como um elemento central da maneira pela qual a pessoa inteira se relaciona com a realidade
• O verdadeiro relacionamento deve abranger todas as dimensões da existência humana — espiritual, cognitiva, corporal e relacional —

• A relação com a realidade se estabelece de diversas formas dentro da individualidade única de cada pessoa
• O ser humano busca uma vida plena ao compreender o mundo, se relacionar com os outros, resolver problemas, expressar a criatividade e usar de forma harmoniosa diversos elementos da inteligência
• É possível interagir com a realidade não apenas por meio de capacidades lógicas e linguísticas, mas também de modos intuitivos ou experienciais
• Por exemplo, o artesão deve “saber discernir, na matéria inanimada, uma forma que os outros não conseguem perceber” e realizá-la por meio de insight e habilidade prática
• Povos indígenas que vivem em estreita relação com a natureza têm uma compreensão profunda da natureza e de seus ciclos
• Além disso, uma pessoa que sabe dizer a palavra certa ou formar relações humanas harmoniosas também demonstra uma inteligência como “fruto da autorreflexão, do diálogo e de relações humanas generosas”
• O Papa Francisco enfatiza que “mesmo na era da inteligência artificial, a poesia e o amor continuam essenciais para salvar a nossa humanidade”

• O núcleo da compreensão cristã da inteligência é a integração entre verdade e vida moral e espiritual, que conduz o ser humano a agir segundo a bondade e a verdade de Deus
• No plano de Deus, a inteligência vai além de uma simples função analítica e inclui também a capacidade de fruir o verdadeiro, o bom e o belo
• O poeta francês do século XX Paul Claudel disse que “a inteligência, sem alegria, não é nada”, e Dante descreveu que, no mais alto dos céus, experimentou uma “luz intelectual cheia de amor, alegria no verdadeiro, no bom e no belo”

• Portanto, a inteligência humana não pode ser reduzida à simples aquisição de informações ou à capacidade de executar tarefas específicas
• A inteligência humana investiga questões últimas e reflete uma orientação para a verdade e o bem
• Como o ser humano foi criado à imagem de Deus, ele pode pensar a totalidade do ser e compreender o significado daquilo que foi entendido para além do que é mensurável
• Para os que têm fé, a inteligência humana inclui a capacidade de compreender cada vez mais profundamente a verdade revelada (intellectus fidei)
• A verdadeira inteligência é moldada pelo “amor de Deus derramado em nossos corações” (Romanos 5:5), o que significa que a inteligência humana tem uma dimensão contemplativa essencial, aberta à verdade, ao bem e à beleza para além de fins práticos

Os limites da IA (The Limits of AI)

• A discussão até aqui deixa clara a diferença entre a inteligência humana e os sistemas atuais de IA
• A IA é um feito técnico notável capaz de imitar certos resultados associados à inteligência humana, mas, em essência, é um sistema que executa tarefas, alcança objetivos e toma decisões com base em dados quantitativos e lógica computacional
• Por exemplo, a IA pode demonstrar excelente capacidade analítica ao integrar dados de várias áreas, modelar sistemas complexos e promover colaboração interdisciplinar
• Com isso, a IA pode ajudar a lidar com problemas complexos que não podem ser resolvidos apenas por uma perspectiva única ou por interesses específicos

• No entanto, mesmo que a IA possa processar e simular certas expressões da inteligência, ela tem a limitação intrínseca de estar restrita a uma estrutura lógico-matemática
• Em contraste, a inteligência humana se desenvolve organicamente ao longo de um processo de crescimento físico e psicológico e é formada por diversas experiências reais
• Ainda que sistemas avançados de IA possam “aprender” por meio de processos como machine learning, isso é fundamentalmente diferente do processo de desenvolvimento da inteligência humana
• A inteligência humana é formada por experiências concretas que incluem entradas sensoriais, respostas emocionais, interações sociais e os contextos únicos de cada momento
• Já a IA não tem corpo e realiza raciocínio computacional e aprendizado com base em dados e conhecimentos registrados por seres humanos

• Portanto, embora a IA possa imitar a forma humana de pensar e executar certas tarefas com velocidade e eficiência notáveis, sua capacidade computacional representa apenas uma parte das amplas faculdades do espírito humano
• Por exemplo, a IA não pode reproduzir o discernimento moral nem a capacidade de formar relações autênticas
• A inteligência humana está situada na história da formação intelectual e moral de cada pessoa, e isso molda uma perspectiva individual que inclui dimensões físicas, emocionais, sociais, morais e espirituais
• Como a IA não pode oferecer essa compreensão integral, abordagens que dependem apenas da IA para interpretar o mundo ou a tratam como principal ferramenta de interpretação podem levar à “perda da visão de conjunto, das relações entre as coisas e da perspectiva mais ampla”

• A inteligência humana não consiste apenas em realizar tarefas funcionais, mas em compreender plenamente a realidade e se relacionar com ela de modo ativo
• Além disso, o ser humano tem a capacidade de alcançar insights inesperados
• Como a IA não possui corporeidade, relacionalidade nem a abertura do coração humano para a verdade e o bem, ela, por mais poderosa que pareça, não pode ser comparada à capacidade humana de perceber a realidade
• Inúmeras experiências humanas — como o aprendizado vindo da doença, o abraço da reconciliação ou a contemplação de um simples pôr do sol — abrem novos horizontes e conduzem à sabedoria
• Um dispositivo que apenas processa dados não pode ser comparado a essas experiências

• Equiparar excessivamente a inteligência humana à IA traz o risco de cair em uma visão funcionalista que avalia o ser humano apenas por sua capacidade de desempenho funcional
• No entanto, o valor do ser humano não é determinado por habilidades específicas, realizações cognitivas ou técnicas, nem por sucesso pessoal
• O valor humano se baseia na dignidade intrínseca que decorre do fato de Deus tê-lo criado à sua imagem
• Essa dignidade permanece inalterada em qualquer situação, seja no feto, em uma pessoa inconsciente ou em um idoso que sofre
• Isso sustenta a tradição dos direitos humanos, especialmente os “neurodireitos (neuro-rights)”, e pode servir como um importante critério ético nas discussões sobre o desenvolvimento e o uso responsáveis da IA

• Considerando todos esses pontos, o Papa Francisco observa que “o próprio uso do termo ‘inteligência’ em relação à IA pode ser enganoso”
• Portanto, a IA não deve ser considerada uma forma artificial de inteligência humana, mas antes um produto da inteligência humana

IV. O papel da ética em orientar o desenvolvimento e o uso da IA

• Com base nessa discussão, pode-se perguntar como a IA pode ser compreendida dentro do plano de Deus
• Para entender isso, é preciso lembrar que a atividade técnico-científica não é simplesmente neutra, mas uma atividade que inclui uma dimensão humana e cultural que reflete a criatividade humana

• A investigação científica e o desenvolvimento tecnológico são frutos do potencial inerente à inteligência humana e podem ser entendidos como parte da “colaboração do homem e da mulher na realização da criação visível”
• Ao mesmo tempo, toda realização científica e tecnológica é, em última instância, um dom de Deus, e, portanto, o ser humano deve usar essa capacidade para os propósitos mais elevados dados por Deus

• Podemos reconhecer com alegria que a tecnologia contribuiu para aliviar inúmeros sofrimentos humanos e superar limitações
• No entanto, nem todo avanço tecnológico significa automaticamente verdadeiro progresso humano
• A Igreja se opõe especialmente a aplicações tecnológicas que ameacem a dignidade da vida ou prejudiquem a dignidade humana
• Todo desenvolvimento tecnológico deve servir ao ser humano e promover “maior justiça, fraternidade mais ampla e uma ordem social mais humana”, algo “mais valioso do que o progresso técnico”
• Essa preocupação ética é compartilhada não apenas pela Igreja, mas também por muitos cientistas, engenheiros e grupos profissionais, que enfatizam a necessidade de reflexão ética para um desenvolvimento responsável

• Para responder a esses desafios, é preciso enfatizar a importância da responsabilidade moral baseada na dignidade e na vocação humanas
• Em todas as questões relacionadas à IA, a dimensão ética deve ser considerada em primeiro lugar
• Somente o ser humano é sujeito de responsabilidade moral, capaz de tomar decisões livremente e assumir suas consequências
• Apenas os seres humanos, e não as máquinas, se relacionam com a verdade e o bem e são chamados, segundo a consciência moral, a “fazer o bem e evitar o mal”
• Além disso, somente o ser humano pode refletir sobre si mesmo, ouvir a voz da consciência e buscar o maior bem possível por meio de um discernimento prudente
• Todos esses elementos pertencem ao papel essencial da inteligência humana

• Como todo produto da criatividade humana, a IA também pode ser usada de forma positiva ou negativa
• Quando é utilizada de modo a respeitar a dignidade humana e promover o bem-estar das pessoas e das comunidades, a IA pode contribuir positivamente para a vocação humana
• No entanto, assim como a liberdade humana torna possíveis escolhas erradas, a avaliação moral da tecnologia de IA dependerá de como ela é usada

• O que é eticamente importante não são apenas os objetivos em si, mas também os meios usados para alcançá-los
• Além disso, deve-se considerar a compreensão do ser humano e a visão de mundo embutidas nesses sistemas tecnológicos
• Os artefatos tecnológicos refletem a visão de mundo de desenvolvedores, proprietários, usuários e reguladores, e possuem o “poder de moldar o mundo e mover a consciência no plano dos valores”
• Na dimensão social, também existe a possibilidade de que o desenvolvimento de certas tecnologias reforce relações de poder que não estejam alinhadas com uma compreensão correta do ser humano e da sociedade

• Portanto, é preciso avaliar tanto o propósito específico de uso da IA quanto os meios para alcançá-lo, assim como a visão abrangente que ela implica, para verificar se respeitam a dignidade humana e promovem o bem comum
• O Papa Francisco enfatiza que “a dignidade intrínseca de cada homem e de cada mulher” deve ser “o critério fundamental para avaliar as novas tecnologias, e somente aquelas que a respeitam e a expressam em todas as dimensões da vida poderão ser reconhecidas como eticamente válidas”
• A inteligência humana desempenha um papel importante não apenas em projetar e produzir a tecnologia, mas também em utilizá-la na direção correta
• A responsabilidade de administrá-la com sabedoria se estende por todos os níveis da sociedade e deve ser guiada pelo princípio da subsidiariedade e por outros princípios da doutrina social católica

Liberdade humana e apoio à tomada de decisão

• Garantir que a IA sempre apoie e promova a dignidade humana e a plenitude da vocação humana é um importante critério de discernimento não apenas para desenvolvedores, proprietários, operadores e reguladores da IA, mas também para seus usuários
• Esse é um princípio válido sempre que tecnologias de IA forem aplicadas, em qualquer nível

• O primeiro passo para avaliar esse princípio é considerar a importância da responsabilidade moral
• Como a responsabilidade moral pertence plena e exclusivamente aos seres humanos, e não à inteligência artificial, é importante deixar claro quem responde pelos processos em que a IA pode ser treinada, modificada e reprogramada
• Abordagens como redes neurais profundas contribuem para que a IA resolva problemas complexos, mas tornam difícil compreender como a IA chegou a uma determinada solução
• Isso complica a responsabilização e dificulta identificar quem é responsável quando a IA produz resultados indesejados
• Portanto, em ambientes complexos e altamente automatizados, é preciso considerar cuidadosamente a natureza da responsabilização e deixar claro que a responsabilidade final, em todas as etapas de decisão em que a IA é usada, cabe ao ser humano

• É preciso esclarecer não apenas quem é responsável, mas também quais objetivos são atribuídos aos sistemas de IA
• Mesmo quando a IA usa mecanismos de aprendizado autônomo e às vezes opera de formas que os seres humanos não conseguem reconstruir, ela segue, em última instância, objetivos definidos por humanos e funciona segundo processos estabelecidos por seus projetistas e programadores
• No entanto, à medida que aumenta a capacidade da IA de aprender de forma independente, pode enfraquecer a capacidade humana de controlá-la para que permaneça alinhada às finalidades humanas
• Isso levanta uma questão importante: garantir que os sistemas de IA operem para o bem humano poderá se tornar cada vez mais difícil

• A responsabilidade pelo uso ético da IA começa com aqueles que a desenvolvem, produzem, administram e supervisionam, mas também é compartilhada por quem a utiliza
• O Papa Francisco observou que “as máquinas podem fazer escolhas técnicas com base em critérios claros ou em inferências estatísticas, mas o ser humano não apenas escolhe: ele é capaz de decidir no íntimo do coração”
• Aqueles que seguem e utilizam os resultados da IA acabam assumindo responsabilidade pelo poder que lhe delegaram
• Portanto, quando a IA é projetada para ajudar na tomada de decisões humanas, os algoritmos que a operam devem ser confiáveis, contar com uma estrutura segura e robusta e ser transparentes para minimizar vieses e efeitos colaterais indesejados
• Os marcos regulatórios legais devem assegurar que toda responsabilidade jurídica pelo uso da IA seja claramente definida, bem como prever salvaguardas adequadas para transparência, privacidade e responsabilização
• Também é preciso cuidar para que as pessoas que usam IA não se tornem excessivamente dependentes dela, e vigiar para que a tendência já existente da sociedade contemporânea à dependência excessiva da tecnologia não se intensifique ainda mais

• O ensinamento moral e social da Igreja oferece percepções necessárias para garantir que a IA preserve a autonomia humana
• Por exemplo, a discussão sobre justiça deve incluir temas como a formação de estruturas sociais justas, a manutenção da segurança internacional e a promoção da paz
• Pessoas e comunidades devem exercer prudência para discernir como usar a IA em benefício da humanidade, evitando usos que possam ferir a dignidade humana ou causar danos ao meio ambiente
• Nesse contexto, o conceito de responsabilidade deve se ampliar para além da mera resposta por resultados, tornando-se uma “responsabilidade de cuidar dos outros”

• A IA, como toda tecnologia, pode fazer parte de uma resposta consciente e responsável ao chamado humano para o bem
• Porém, para que a IA seja usada de modo compatível com esse chamado, ela precisa necessariamente ser orientada corretamente pela inteligência humana e respeitar a dignidade humana
• O Concílio Vaticano II declarou que “a ordem social e o seu progresso devem estar sempre a serviço da pessoa humana”
• O Papa Francisco enfatizou que o uso da IA deve ocorrer “acompanhado por uma ética inspirada por uma visão do bem comum, uma ética da liberdade, da responsabilidade e da fraternidade, capaz de ajudar o ser humano a se desenvolver plenamente em relação justa com os outros e com toda a criação”

V. Questões específicas

• Para explicar como os princípios discutidos anteriormente oferecem orientação ética em situações concretas, apresentam-se algumas observações específicas
• O objetivo é contribuir para a discussão sobre como a IA pode ser usada, em conformidade com a “sabedoria do coração” proposta pelo Papa Francisco, para proteger a dignidade humana e promover o bem comum
• Esta discussão não oferece respostas exaustivas, mas busca aprofundar o diálogo sobre o uso ético da IA

IA e sociedade (AI and Society)

• O Papa Francisco enfatizou que “a dignidade intrínseca de cada pessoa humana e a fraternidade que nos une como membros de uma única família humana devem sustentar o desenvolvimento das novas tecnologias e servir como critérios incontestáveis para avaliá-las antes de seu uso”

• Nessa perspectiva, a IA pode “trazer inovações importantes na agricultura, na educação e na cultura, elevar o nível de vida de povos e nações inteiras, promover a fraternidade humana e a amizade social, e ser usada como instrumento para o desenvolvimento humano integral”
• Além disso, a IA pode ajudar a identificar pessoas necessitadas e contribuir para evitar discriminação e exclusão
• Essas aplicações tecnológicas têm potencial para contribuir positivamente para o desenvolvimento humano e para o bem comum

• No entanto, embora a IA tenha potencial para promover o desenvolvimento humano e o bem comum, às vezes também pode dificultá-los ou até atuar na direção oposta
• O Papa Francisco apontou que “as evidências até agora mostram que as tecnologias digitais estão aumentando as desigualdades no mundo”
• Essas desigualdades aparecem não apenas nas disparidades econômicas, mas também nas diferenças de acesso à influência política e social
• A IA pode perpetuar marginalização e discriminação, gerar novas formas de pobreza, ampliar a exclusão digital e agravar ainda mais as desigualdades sociais já existentes

• Além disso, o monopólio das principais aplicações de IA por um pequeno número de empresas poderosas levanta sérias questões éticas
• As características dos sistemas de IA agravam ainda mais esse problema, já que, no processo de uso de vastos conjuntos de dados, é difícil para um indivíduo supervisionar plenamente todo o processo
• Isso cria o risco de que a IA seja manipulada em benefício de determinadas empresas ou indivíduos, ou usada indevidamente para influenciar a opinião pública em favor de certas indústrias ou grupos de interesse
• No processo de buscar seus próprios interesses, essas empresas têm a possibilidade de “criar mecanismos capazes de manipular a consciência e os processos democráticos por meio de formas de controle extremamente sutis, porém invasivas”

• Além disso, existe o risco de que a IA seja usada para reforçar o "paradigma tecnocrático" mencionado pelo Papa Francisco
• Esse paradigma se refere a uma forma de pensar que considera que todos os problemas do mundo podem ser resolvidos apenas com soluções técnicas
• Nessa perspectiva, a dignidade humana e a fraternidade muitas vezes são ignoradas em nome da eficiência, "como se a realidade, o bem e a verdade brotassem automaticamente do próprio poder tecnológico e econômico"
• No entanto, a dignidade humana e o bem comum jamais podem ser sacrificados em nome da eficiência
• "Se o desenvolvimento tecnológico não melhorar a qualidade de vida de toda a humanidade e, ao contrário, aprofundar desigualdades e conflitos, ele não pode ser considerado um verdadeiro progresso"
• A IA deve ser "utilizada em favor de uma forma de desenvolvimento mais saudável, mais humano, mais social e mais integral"

• Para alcançar esse objetivo, é necessária uma reflexão profunda sobre a relação entre autonomia e responsabilidade
• À medida que a autonomia se amplia, cada indivíduo passa a assumir uma responsabilidade maior em vários aspectos da vida em comunidade
• Do ponto de vista cristão, o fundamento dessa responsabilidade está no reconhecimento de que todas as capacidades humanas, inclusive a autonomia, foram dadas por Deus e devem ser usadas para servir ao próximo
• Portanto, a IA não deve buscar apenas objetivos econômicos e tecnológicos, mas deve "servir ao bem comum de toda a família humana, isto é, ao conjunto das condições sociais que permitem tanto aos grupos quanto a cada um dos seus membros alcançar mais plena e facilmente a própria realização"

IA e relações humanas (AI and Human Relationships)

• O Concílio Vaticano II afirmou que "o ser humano é, por sua própria natureza, um ser social e, sem relação com os outros, não pode viver nem desenvolver suas capacidades"
• Isso enfatiza que viver em sociedade é algo natural ao ser humano e um elemento inerente à existência e à vocação humanas
• Os seres humanos formam relações por meio da interação mútua e da busca da verdade, e continuam juntos a jornada em direção à verdade ao compartilhar as verdades que cada um descobriu

• Esse processo de busca, assim como outras formas de comunicação humana, pressupõe encontros e interações baseados na história, no pensamento, nas convicções e nas relações singulares de cada pessoa
• A inteligência humana é uma realidade complexa e multifacetada, que inclui elementos diversos: individuais e sociais, racionais e emocionais, conceituais e simbólicos
• O Papa Francisco enfatiza que "podemos buscar juntos a verdade no diálogo, numa conversa serena ou numa discussão apaixonada. É um caminho perseverante, feito também de silêncios e sofrimentos, mas capaz de recolher com paciência a ampla experiência das pessoas e dos povos"
• "O processo de construção da fraternidade, seja local ou universal, só pode ser empreendido por espíritos livres e abertos a encontros autênticos"

• Nesse contexto, é possível considerar os desafios que a IA traz para as relações humanas
• Assim como outras ferramentas tecnológicas, a IA tem potencial para promover conexões dentro da família humana
• No entanto, a IA também pode impedir o encontro autêntico com a realidade e, em última instância, corre o risco de levar as pessoas a um estado de "profunda insatisfação nas relações interpessoais e a um danoso isolamento"
• As relações humanas autênticas surgem do estar presente no sofrimento, nos pedidos e na alegria do outro
• Como a inteligência humana se expressa e se enriquece por meio das relações e da experiência corporal, encontros espontâneos e genuínos são essenciais para vivenciar plenamente a realidade

• Como "a verdadeira sabedoria exige o encontro com a realidade", o surgimento da IA apresenta mais um desafio
• A IA consegue imitar com eficácia produtos da inteligência humana, tornando cada vez mais difícil distinguir se o interlocutor é humano ou máquina
• A IA generativa pode produzir saídas como texto, voz e imagens, elementos normalmente associados ao trabalho humano
• No entanto, é preciso compreender com clareza que a IA não é humana, mas apenas uma ferramenta
• Surge também o problema de pesquisadores de IA usarem linguagem antropomórfica, tornando difusa a fronteira entre humanos e máquinas

• Antropomorfizar a IA pode causar problemas específicos, especialmente no desenvolvimento infantil
• Existe o risco de que a interação com a IA leve a tratar as relações humanas de forma meramente transacional
• Por exemplo, isso pode fazer com que estudantes passem a ver professores apenas como fornecedores de informação, ignorando que o papel do professor é orientar e cuidar do crescimento intelectual e moral dos alunos
• Relações humanas autênticas não são simples interações, mas se baseiam na empatia e no compromisso com o bem do outro

• Portanto, é necessário deixar claro que, por mais antropomórfica que seja a linguagem usada pela IA, ela não pode vivenciar empatia verdadeira
• Emoções não podem ser reduzidas a simples expressões faciais ou frases; elas refletem a relação que a pessoa mantém com a própria vida e com o mundo
• A empatia inclui a capacidade de reconhecer a singularidade do outro e compreender até mesmo o significado contido no silêncio
• A IA é excelente para fazer julgamentos analíticos, mas a empatia pertence essencialmente ao campo das relações e é um processo de compreender e acolher intuitivamente a experiência do outro
• A IA pode parecer empática, mas isso não significa que ela o seja de maneira humana

• Considerando esses pontos, deve-se evitar a todo custo fazer com que a IA seja confundida com uma pessoa, e usá-la com fins enganosos constitui uma grave violação ética
• Isso pode destruir a confiança social
• Da mesma forma, usar a IA para enganar na educação ou nas relações humanas (por exemplo, relações sexuais) também é moralmente antiético, e é necessária uma supervisão rigorosa para prevenir isso
• É preciso manter a transparência no uso da IA e garantir a dignidade de todas as pessoas

• À medida que o isolamento aumenta na sociedade contemporânea, algumas pessoas passam a demonstrar a tendência de tentar substituir relações humanas profundas por meio da IA
• Surgem tentativas de se relacionar com a IA em busca de companhia simples ou de vínculo emocional
• No entanto, o ser humano foi criado por natureza para experimentar relações autênticas, e a IA apenas as simula
• As relações humanas são um elemento essencial no processo pelo qual a pessoa se torna quem é
• Se a IA puder ajudar a promover relações autênticas entre as pessoas, isso poderá ser uma contribuição positiva
• Em contrapartida, se a interação com a IA passar a substituir a relação do ser humano com Deus e com os outros, isso levará à perda da própria essência das relações humanas (cf. Salmo 106:20; Romanos 1:22-23)
• Em vez de mergulhar no mundo artificial oferecido pela IA, devemos formar relações de solidariedade na realidade, com empatia pela dor e pela tristeza dos outros

IA, economia e trabalho (AI, the Economy, and Labor)

• A IA está cada vez mais integrada aos sistemas econômicos e financeiros em articulação com diversas áreas do conhecimento
• Atualmente, estão sendo feitos investimentos de grande escala em IA não apenas no setor de tecnologia, mas também em áreas como energia, finanças, mídia, marketing, logística, inovação tecnológica, conformidade regulatória e gestão de riscos
• No entanto, essas aplicações da IA oferecem enormes oportunidades, ao mesmo tempo em que podem trazer riscos graves
• Em especial, se as tecnologias de IA ficarem concentradas em poucas grandes empresas, existe o risco de que o valor gerado pela IA seja apropriado de forma exclusiva por essas corporações, e não pelas empresas que efetivamente utilizam a tecnologia

• É preciso examinar cuidadosamente o impacto mais amplo da IA sobre as esferas econômica e financeira
• Em especial, a interação entre a economia digital e a economia real surge como uma questão importante
• É desejável a coexistência de diversas instituições econômicas e financeiras, o que pode ajudar a sustentar a economia real e promover o desenvolvimento e a estabilidade econômicos
• No entanto, como a economia digital não está sujeita a limitações espaciais, torna-se difícil preservar a diversidade formada na história das comunidades locais e em seus valores e esperanças compartilhados
• Se as atividades econômicas e financeiras se digitalizarem em excesso, existe o risco de essa diversidade ser reduzida e de desaparecerem soluções econômicas que poderiam surgir do diálogo natural
• Em última instância, se a economia passar a operar apenas com foco em sistemas e procedimentos digitais, o elemento humano tende a desaparecer, e as decisões econômicas provavelmente serão tomadas de forma mais mecânica

• Outro campo em que a IA já exerce grande impacto é o mercado de trabalho
• A IA está provocando mudanças fundamentais em diversas profissões, e seus efeitos aparecem de maneiras variadas
• Por um lado, há aspectos positivos: a IA pode ampliar a especialização, aumentar a produtividade, criar novos empregos e ajudar os trabalhadores a se concentrarem em tarefas mais criativas

• No entanto, ao contrário da expectativa de que a IA aumentaria a produtividade ao assumir tarefas repetitivas, na prática frequentemente ocorre que os trabalhadores precisam se adaptar à velocidade e às exigências das máquinas
• Essa abordagem tecnológica pode, paradoxalmente, reduzir a qualificação dos trabalhadores e levá-los a executar tarefas rígidas e repetitivas sob sistemas automatizados de vigilância
• Em vez de atribuir aos trabalhadores papéis criativos, a introdução da IA pode reduzir sua autonomia ao aumentar o fardo de ter de acompanhar o ritmo da tecnologia

• A IA já está substituindo algumas profissões, e espera-se que seu papel em substituir o trabalho humano continue a aumentar
• Se a IA for usada não para complementar o trabalho humano, mas para substituí-lo, existe o "risco real de trazer enormes benefícios para poucos, ao mesmo tempo em que causa empobrecimento econômico para muitos"
• Além disso, à medida que a IA se torna cada vez mais poderosa, também há o risco de que o trabalho humano passe a ser considerado economicamente menos valioso
• Esse é o resultado lógico do paradigma tecnocrático, e, em uma sociedade em que a eficiência é colocada acima de tudo, o próprio valor humano acaba sendo tratado como um custo
• No entanto, a vida humana tem valor intrínseco independentemente da produtividade econômica
• O Papa Francisco aponta que "o modelo econômico atual não está avançando de modo a ajudar os mais lentos, os mais fracos ou os menos talentosos a encontrar oportunidades na vida"
• Portanto, "devemos garantir que essa ferramenta poderosa e indispensável que é a IA não reforce esse paradigma, mas antes atue como um escudo contra sua expansão"

• "A ordem das coisas deve estar subordinada à ordem das pessoas, e não o contrário"
• O trabalho não deve ser apenas um meio de gerar lucro, mas um "serviço ao ser humano em sua totalidade", devendo "levar em conta não só as necessidades materiais, mas também as exigências da vida intelectual, moral, espiritual e religiosa"
• A Igreja entende o trabalho como "não apenas um meio de subsistência, mas um elemento essencial da vida social, um meio de crescimento pessoal, de formação de relações saudáveis, de autoexpressão e de troca de talentos"
• Além disso, o trabalho desempenha "o papel de responsabilidade pelo desenvolvimento do mundo e, em última instância, pela vida da comunidade humana"

• O trabalho é "um dos sentidos da vida nesta terra e um caminho para o desenvolvimento humano e a realização pessoal"
• Portanto, "o progresso tecnológico não deve avançar na direção de substituir cada vez mais o trabalho humano, pois isso traria consequências prejudiciais para a humanidade"
• Ao contrário, a tecnologia deve desempenhar o papel de promover o trabalho humano
• A IA deve complementar o julgamento humano, e não substituí-lo
• Além disso, a IA não deve ser usada de modo a reduzir a criatividade e transformar o trabalhador em um simples "apêndice da máquina"
• "Respeitar a dignidade dos trabalhadores, considerar a importância do emprego, garantir a estabilidade econômica dos indivíduos, das famílias e da sociedade, e manter salários justos deve ser a principal prioridade da comunidade internacional"
• Quanto mais profundamente tecnologias como a IA se incorporarem ao ambiente de trabalho, mais importantes se tornarão essas considerações éticas

IA e saúde (AI and Healthcare)

• Os profissionais de saúde, como participantes da obra curadora de Deus, têm a vocação de ser "guardiões e servidores da vida humana"
• Portanto, a área da saúde envolve uma "dimensão ética essencial e inegável", algo confirmado também pelo Juramento de Hipócrates, que exige respeito absoluto pela vida humana e por sua sacralidade
• Seguindo o exemplo do bom samaritano, os profissionais de saúde devem "rejeitar uma sociedade de exclusão e, em vez disso, tornar-se próximos do necessitado, levantando e restaurando aquele que caiu"

• Sob essa perspectiva, a IA tem um enorme potencial na área da saúde
• A IA pode ajudar no diagnóstico, facilitar a relação entre pacientes e profissionais de saúde, sugerir novos tratamentos e contribuir para ampliar o acesso a serviços médicos de qualidade para pessoas isoladas ou marginalizadas
• Dessa forma, a IA pode se tornar uma ferramenta para fortalecer ainda mais a "proximidade compassiva e cheia de amor" que os profissionais de saúde devem demonstrar aos pacientes

• No entanto, se a IA for usada não para fortalecer a relação entre profissionais de saúde e pacientes, mas para substituí-la, podem surgir problemas graves
• Se os pacientes forem levados a interagir com máquinas em vez de profissionais humanos, há o risco de que uma relação essencialmente humana seja reduzida a um sistema impessoal e centralizado
• Em vez de reforçar a solidariedade com os doentes e os que sofrem, isso pode acabar aprofundando a solidão que acompanha a doença
• Especialmente em uma cultura contemporânea em que há a tendência de que "o ser humano já não seja considerado o valor supremo que deve ser respeitado e protegido", esse mau uso da IA contraria os princípios da dignidade humana e da solidariedade

• Tomar decisões sobre a saúde e a vida dos pacientes é uma responsabilidade central da área médica, e os profissionais de saúde devem fazer escolhas prudentes e éticas com base em sua própria competência e inteligência
• Nesse processo, a dignidade inviolável do paciente e o princípio do 'consentimento informado' devem ser necessariamente respeitados
• Portanto, as decisões sobre o tratamento do paciente, bem como a responsabilidade por elas, devem permanecer necessariamente com os seres humanos e não podem ser delegadas à IA

• Além disso, usar apenas fatores econômicos ou eficiência como critério para selecionar quem receberá tratamento é um exemplo do "paradigma tecnocrático" e deve ser rejeitado sem exceção
• "Otimizar recursos significa usá-los de maneira ética e fraterna, e não prejudicar os mais vulneráveis"
• Além disso, as ferramentas de IA na área da saúde estão "particularmente expostas ao risco de viés e discriminação, o que pode gerar um efeito dominó que vai além da injustiça em casos individuais e aprofunda desigualdades sociais"

• À medida que a IA é integrada à saúde, existe o risco de que as disparidades já existentes no acesso aos cuidados médicos se ampliem ainda mais
• Quanto mais a IA evoluir em direção a enfatizar a medicina preventiva e abordagens baseadas em estilo de vida, maior será a probabilidade de favorecer as camadas mais ricas, que já têm acesso mais fácil a recursos médicos e alimentação de qualidade
• Isso traz o risco de reforçar um modelo de "saúde para os ricos", no qual pessoas com melhores condições econômicas podem acessar facilmente cuidados preventivos baseados em IA e informações de saúde personalizadas, enquanto outras podem ter dificuldade até mesmo para obter serviços médicos básicos
• Para evitar essa desigualdade, são necessárias políticas de saúde justas para que a IA não aprofunde as desigualdades na saúde, mas seja usada como ferramenta para o bem comum

IA e educação (AI and Education)

• O ensinamento do Concílio Vaticano II continua válido, e afirma que "a verdadeira educação visa à formação da pessoa humana em vista de seu fim último e do bem da sociedade à qual pertence"
• A educação não é um simples processo de transmissão de informação, mas deve ter como objetivo "a formação integral da pessoa humana, incluindo as dimensões intelectual, cultural e espiritual", bem como as relações na vida comunitária e no ambiente acadêmico
• Essa é uma forma de educação condizente com a natureza e a dignidade humanas

• A educação não é simplesmente um processo de encher a mente com conhecimento, mas deve ocorrer como parte do crescimento integral
• "A educação não deve simplesmente criar cérebros com conhecimento automatizado, mas ser um processo que harmonize coração (heart), cabeça (head) e mãos (hands)"

• No centro dessa formação humana está a relação indispensável entre professor e aluno
• O professor vai além do papel de simples transmissor de informação, demonstrando importantes qualidades humanas e despertando a alegria da descoberta
• A presença do professor motiva os alunos e promove confiança e compreensão mútua não apenas por meio do conhecimento, mas também por meio da atenção e do cuidado dedicados a cada estudante
• Essa relação cria um ambiente que reconhece a dignidade e o potencial de cada aluno, levando-o a desejar crescer de forma genuína
• A presença real do professor constitui uma interação humana que a IA não pode reproduzir e promove o desenvolvimento integral do estudante

• Nesse contexto, a IA oferece ao mesmo tempo oportunidades e desafios
• Se usada com cuidado, a IA pode atuar como uma ferramenta complementar à educação, melhorando a acessibilidade, oferecendo suporte personalizado e fornecendo feedback imediato
• Especialmente em casos que exigem atenção individual ou em situações com escassez de recursos educacionais, ela pode contribuir para melhorar a experiência de aprendizagem

• No entanto, a essência da educação é “formar a razão para que ela opere corretamente em todas as questões, avance em direção à verdade e seja capaz de apreendê-la”
• Em outras palavras, não se trata apenas de adquirir informação, mas de um desenvolvimento harmonioso da cabeça (razão), do coração (emoção) e das mãos (ação)
• Na era digital, é preciso considerar que, para além do simples uso de ferramentas, a tecnologia “afeta profundamente nossa forma de nos comunicar, de aprender, de adquirir informação e de nos relacionar com os outros”
• O uso excessivo de IA pode enfraquecer a capacidade de pensamento independente dos estudantes e gerar o efeito colateral de aumentar a dependência tecnológica
• Portanto, a IA deve servir para apoiar a educação e não pode ser usada de forma a substituir a capacidade de pensar e aprender

• Alguns sistemas de IA são projetados para ajudar a desenvolver a capacidade de pensamento crítico e de resolução de problemas, mas muitos apenas desempenham o papel de fornecer respostas prontas
• Quando a IA gera respostas no lugar dos alunos, sem que eles passem pelo processo de encontrar a resposta por conta própria, isso pode prejudicar a aprendizagem
• Portanto, a educação deve ir além de simplesmente coletar informações e gerar respostas rápidas: ela deve ser “aprender a usar a razão para resolver problemas com prudência e sabedoria”
• Para isso, “a educação para o uso da IA deve, acima de tudo, concentrar-se em promover o pensamento crítico”
• Usuários de todas as idades, especialmente os mais jovens, devem desenvolver a capacidade de discernir entre os dados coletados na web e o conteúdo gerado por IA
• Escolas, universidades e entidades acadêmicas têm a responsabilidade de ensinar a estudantes e profissionais os aspectos sociais e éticos da IA

• São João Paulo II enfatizou que “no mundo de hoje, marcado pelo rápido desenvolvimento da ciência e da tecnologia, o papel das universidades católicas tornou-se ainda mais importante e urgente”
• As universidades católicas devem atuar como laboratórios de esperança (laboratories of hope) em um ponto de inflexão histórico
• Por meio de pesquisas interdisciplinares, devem conduzir estudos cuidadosos para que as tecnologias de IA possam ser utilizadas de maneira eticamente válida e para extrair possibilidades positivas em diversos campos da ciência e da realidade
• Além disso, devem abrir novos horizontes no diálogo entre fé e razão

• Atualmente, sistemas de IA podem apresentar o problema de fornecer informações enviesadas ou manipuladas
• Isso cria o risco de que os estudantes passem a confiar em conteúdos imprecisos
• Esse problema “não só corre o risco de legitimar fake news e reforçar a posição dominante de determinadas culturas, mas também pode comprometer o próprio processo educativo”
• Com o tempo, a distinção entre formas corretas e inadequadas de uso da IA pode tornar-se mais clara
• No entanto, a IA deve sempre ser usada com transparência, e suas funções e limitações precisam ser comunicadas com clareza

IA, desinformação, deepfakes e abuso (AI, Misinformation, Deepfakes, and Abuse)

• A IA pode ser uma ferramenta que promove a dignidade humana quando é usada para ajudar na compreensão de conceitos complexos ou para apresentar materiais confiáveis no processo de busca da verdade

• No entanto, a IA também traz o risco de gerar conteúdo manipulado e desinformação, que pode se parecer muito com fatos e facilmente induzir as pessoas ao erro
• Essa desinformação também pode surgir de forma não intencional. Por exemplo, o fenômeno da “alucinação (hallucination)” da IA refere-se aos casos em que a IA generativa produz como se fossem fatos conteúdos que na realidade não existem
• Como uma das funções centrais da IA é imitar conteúdos criados por humanos, é difícil bloquear completamente esse risco
• Mas as consequências desses erros e dessas falsidades podem ser graves
• Por isso, todos os que desenvolvem e usam sistemas de IA devem fazer o máximo possível para garantir a veracidade e a precisão das informações que a IA processa e transmite ao público

• O fato de a IA poder gerar desinformação já é um problema, mas ainda mais grave é a possibilidade de ela ser deliberadamente usada como instrumento de manipulação e engano
• Determinadas pessoas ou grupos podem usar a IA para criar conteúdo falso com o objetivo de enganar ou causar danos a outros
• Um exemplo representativo são imagens, vídeos e arquivos de áudio “deepfake”, uma tecnologia que usa algoritmos de IA para produzir conteúdo falso que não existe na realidade
• O perigo dos deepfakes torna-se particularmente evidente quando eles são usados para atacar outras pessoas ou difamá-las
• Esses vídeos ou imagens são falsos, mas os danos que provocam são reais e “deixam feridas profundas no coração das pessoas atingidas, deixando marcas reais na dignidade humana”

• Em uma dimensão social mais ampla, o conteúdo falso gerado por IA pode “distorcer nossa relação com os outros e com a realidade”, correndo o risco de corroer lentamente a base fundamental de confiança da sociedade
• Se a desinformação, especialmente a mídia manipulada ou disseminada por IA, for deixada sem regulação, há grande potencial para alimentar a polarização política e a instabilidade social
• Quando a sociedade se torna indiferente à verdade, cada grupo passa a criar “seus próprios fatos (facts)”, enfraquecendo a “confiança e dependência mútuas” que sustentam a comunidade
• Se o conteúdo falso gerado por IA se espalhar amplamente, as pessoas passarão a duvidar do que é verdadeiro, e, como resultado, a divisão e o conflito se aprofundarão
• Esse engano em larga escala não é um problema simples, mas uma séria ameaça que destrói a confiança que constitui a base da sociedade

• Enfrentar a desinformação baseada em IA não é uma tarefa apenas de especialistas em tecnologia. É uma responsabilidade compartilhada por todas as pessoas de boa vontade
• “Se a tecnologia quiser proteger a dignidade humana em vez de feri-la, e promover a paz em vez da violência, a comunidade humana deve responder ativamente a essas questões”
• As pessoas que produzem e compartilham conteúdo gerado por IA devem verificar cuidadosamente sua veracidade, e
  • conteúdo que degrade seres humanos
  • conteúdo que promova ódio e intolerância
  • conteúdo que distorça a bondade e a intimidade da sexualidade
  • conteúdo que explore os fracos e vulneráveis
    devem evitar rigorosamente compartilhar
• Para isso, são exigidos prudência e discernimento contínuos nas atividades online

IA, privacidade e vigilância (AI, Privacy, and Surveillance)

• O ser humano é, por natureza, um ser relacional, e os dados gerados no mundo digital são uma das formas de expressar objetivamente essa relacionalidade
• Os dados vão além de um simples meio de transmissão de informação: eles contêm conhecimento pessoal e relacional e, em ambientes digitalizados, podem funcionar como um poderoso instrumento de poder sobre indivíduos específicos
• Alguns dados podem pertencer à esfera pública, mas outros podem dizer respeito à esfera interior da pessoa, inclusive à consciência
• Portanto, a privacidade é um elemento importante para proteger a interioridade da pessoa e garantir sua capacidade de se relacionar com os outros, de se expressar livremente e de tomar decisões
• Isso também se conecta à liberdade religiosa, pois envolve a possibilidade de que tecnologias de vigilância sejam usadas indevidamente como instrumentos para controlar a vida e a expressão de fé dos crentes

• Portanto, a questão da proteção de dados pessoais deve ser tratada na perspectiva de proteger a liberdade legítima e a dignidade inalienável do ser humano
• O Concílio Vaticano II afirmou o “direito à proteção da privacidade” como um “direito fundamental indispensável para levar uma vida verdadeiramente humana”, e esse direito deve ser garantido porque todo ser humano possui uma “dignidade excelsa”
• Além disso, a Igreja enfatiza o direito de proteger a reputação da pessoa, preservar sua integridade física e mental e permanecer livre de interferências ilegítimas, afirmando que esses elementos são componentes essenciais da proteção da dignidade humana

• Com o avanço das tecnologias de processamento de dados baseadas em IA, chegamos a uma era em que é possível inferir padrões de comportamento e formas de pensar de uma pessoa mesmo com uma pequena quantidade de informação
• Assim, a proteção de dados passa a ter um papel ainda mais importante para garantir a dignidade humana e a relacionalidade
• O Papa Francisco observou que "ao mesmo tempo em que aumentam atitudes exclusivistas e estreitas, as distâncias vão sendo reduzidas ou desaparecem, com o resultado de que o próprio conceito de privacidade quase deixa de existir"
• "Tudo se transforma em objeto de vigilância e controle, e a vida das pessoas fica submetida a uma supervisão constante"

• É possível usar a IA de modo a preservar a dignidade humana e o bem comum, mas jamais pode ser justificado que certos grupos explorem outros por meio da vigilância com IA, restrinjam sua liberdade ou sacrifiquem a maioria em benefício de poucos
• Para evitar o risco de abuso da vigilância, órgãos reguladores adequados devem supervisioná-la e garantir a transparência
• Os responsáveis pela vigilância não devem ultrapassar os poderes que lhes foram concedidos, e proteger a dignidade e a liberdade humanas é a base central de uma sociedade justa e humana

• "O respeito fundamental pela dignidade humana exige que nos recusemos a tratar uma pessoa como um mero conjunto de dados"
• Isso se aplica especialmente a sistemas de "pontuação social (Social Scoring)", nos quais a IA avalia determinados indivíduos ou grupos com base em seus comportamentos, características e histórico passado
• "Nas decisões sociais e econômicas, é preciso cautela com formas de avaliação algorítmica baseadas no histórico passado dos indivíduos"
• Esses dados muitas vezes têm grande probabilidade de ser distorcidos por preconceitos e vieses sociais
• O ser humano deve ter a oportunidade de mudar, crescer e contribuir para a sociedade, e os algoritmos não devem limitar a dignidade humana nem excluir misericórdia, perdão e esperança

IA e a proteção da nossa casa comum (AI and the Protection of Our Common Home)

• A IA apresenta possibilidades promissoras para proteger o meio ambiente do planeta, como no desenvolvimento de modelos de previsão climática, na formulação de estratégias de resposta a desastres, na otimização do uso de energia e no fornecimento de sistemas de alerta precoce para emergências de saúde pública
• Esses avanços tecnológicos podem contribuir para fortalecer a resiliência diante das mudanças climáticas e promover o desenvolvimento sustentável

• No entanto, os modelos atuais de IA e o hardware que os sustenta consomem enormes quantidades de energia e recursos hídricos, além de provocar emissões significativas de CO2
• Essa realidade corre o risco de ser distorcida na percepção pública por causa do termo "nuvem (The Cloud)"
• A "nuvem" é, na prática, um sistema que exige máquinas físicas, cabos de rede e enormes quantidades de energia, e a tecnologia de IA também opera com base em recursos físicos
• Em especial, no caso dos grandes modelos de linguagem (LLM), são necessários mais dados, maior capacidade computacional e infraestrutura de armazenamento em larga escala
• Portanto, é essencial considerar o impacto ambiental da tecnologia de IA e desenvolver soluções sustentáveis capazes de minimizá-lo

• O Papa Francisco enfatiza que "não devemos procurar a solução simplesmente na tecnologia, mas numa mudança da humanidade"
• Uma compreensão correta da criação está em reconhecer que o valor de todas as criaturas não pode ser reduzido simplesmente a uma perspectiva de utilidade
• Portanto, a proteção ambiental sustentável deve se afastar de formas de exploração de recursos guiadas pelo paradigma tecnocrático
• "É preciso abandonar o mito de que a tecnologia resolverá todos os problemas ecológicos e reconhecer a necessidade de considerações éticas e de mudanças fundamentais"
• A verdadeira solução está em adotar uma abordagem integral que respeite a ordem da criação e promova uma relação harmoniosa entre o ser humano e a natureza

IA e a guerra (AI and Warfare)

• Os ensinamentos do Concílio Vaticano II e dos papas ao longo da história enfatizam que a paz não se limita simplesmente à ausência de guerra ou à manutenção do equilíbrio de forças
• Santo Agostinho definiu a paz como a "tranquilidade da ordem", algo que não pode ser alcançado apenas pela prevenção de conflitos armados
• A paz só pode ser alcançada no processo de proteção dos direitos humanos, garantia da comunicação livre, respeito à dignidade das pessoas e dos povos e prática da fraternidade
• Portanto, os instrumentos usados para manter a paz jamais devem ser empregados de modo a justificar injustiça, violência ou opressão, e devem sempre ser controlados por uma "decisão firme de respeitar os outros e os povos e praticar a fraternidade"

• A capacidade analítica da IA pode ajudar os Estados a buscar a paz e garantir a segurança, mas a "militarização da IA" levanta sérios problemas éticos
• O Papa Francisco observou que "a condução de operações militares por meio de sistemas de controle remoto enfraquece a percepção do poder destrutivo das armas e da responsabilidade associada ao seu uso, tornando ainda mais fria e indiferente a sensibilidade diante da tragédia da guerra"
• A facilidade de uso de armas autônomas entra em conflito com o princípio de que a guerra deve ser limitada como último recurso de legítima defesa e traz o risco de fomentar uma corrida armamentista fora do controle humano
• Isso pode acabar representando uma grave ameaça aos direitos fundamentais da pessoa humana

• Em particular, os sistemas de armas autônomas letais (Lethal Autonomous Weapon Systems, LAWS), capazes de identificar e atacar alvos sem intervenção humana direta, levantam "graves preocupações éticas"
• Isso porque tais armas "não possuem a capacidade humana singular de fazer juízos morais e tomar decisões éticas"
• Por isso, o Papa Francisco exorta com veemência a reconsiderar o desenvolvimento dessas armas e a avançar no sentido de proibir seu uso
• Ele enfatiza que "é preciso, por meio de esforços mais eficazes e concretos, garantir que os seres humanos tenham o controle adequado sobre as armas, e nenhuma máquina deve tomar a decisão de tirar uma vida humana"

• A passagem de armas que eliminam alvos de forma autônoma para armas capazes de destruição em massa talvez não esteja tão distante, e alguns pesquisadores de IA alertam que essas tecnologias podem representar um "risco existencial"
• Se armas baseadas em IA evoluírem para uma condição incontrolável, poderão ameaçar a sobrevivência não apenas de determinadas regiões, mas da humanidade inteira
• Isso reflete a antiga preocupação de que, historicamente, a guerra tenha adquirido "um poder destrutivo incontrolável que vitima indiscriminadamente grandes massas de civis inocentes"
• O apelo da Gaudium et Spes para que se "reexamine completamente a avaliação da guerra sob uma perspectiva inteiramente nova" é hoje ainda mais urgente

• Embora os riscos teóricos da IA sejam uma questão importante, um problema mais imediato e urgente é como indivíduos ou grupos mal-intencionados podem fazer mau uso dela
• A IA é apenas uma ferramenta, e sua forma de uso depende inteiramente da intenção humana
• Embora não seja possível prever com precisão as capacidades futuras da IA, considerando os atos de crueldade que a humanidade cometeu ao longo da história, a preocupação com o potencial de abuso da IA é plenamente fundamentada

• São João Paulo II advertiu que "a humanidade tem agora em mãos instrumentos de um poder sem precedentes. Podemos transformar este mundo em um jardim ou reduzi-lo a um monte de ruínas"
• O Papa Francisco enfatiza que "somos livres para usar nossa inteligência em uma direção positiva, mas também podemos seguir pelo caminho da decadência e da destruição mútua"
• Portanto, para que a humanidade não caia no caminho da autodestruição, é preciso rejeitar toda aplicação tecnológica que ameace intrinsecamente a vida e a dignidade humanas
• O discernimento prudente e a avaliação ética do uso militar da IA são indispensáveis, e deve haver supervisão rigorosa para que a IA sempre respeite a dignidade humana e seja usada como instrumento para o bem comum
• O desenvolvimento e a implantação de armas baseadas em IA devem passar pelo mais alto nível de avaliação ética, tendo como prioridade máxima a proteção da dignidade e da sacralidade da vida humana

IA e nossa relação com Deus (AI and Our Relationship with God)

• A tecnologia pode ser uma ferramenta extraordinária para administrar e desenvolver os recursos do mundo
• No entanto, em alguns casos, os seres humanos estão gradualmente entregando às máquinas o controle desses recursos
• Alguns cientistas e futuristas nutrem expectativas otimistas sobre a possibilidade de uma inteligência artificial que supere a inteligência humana, a AGI (Artificial General Intelligence)
• Alguns especulam que a AGI virá a ter capacidades sobre-humanas, o que se espera que traga avanços inimagináveis
• Ao mesmo tempo, quanto mais a sociedade se afasta de sua relação com o transcendente, mais algumas pessoas se sentem tentadas a depender da IA para encontrar sentido e plenitude
• No entanto, esse anseio só pode ser plenamente satisfeito na comunhão com Deus

• A tentativa de substituir Deus por um artefato criado pelo ser humano é idolatria, um ato claramente condenado na Bíblia (Êxodo 20:4; 32:1-5; 34:17)
• A IA pode ser uma tentação ainda mais fascinante do que os ídolos tradicionais
• O Salmo 115 adverte que os ídolos “têm boca, mas não falam; têm olhos, mas não veem; têm ouvidos, mas não ouvem”, mas a IA pode oferecer a ilusão de “parecer falar” (cf. Apocalipse 13:15)
• No entanto, a IA não passa de uma simples ferramenta criada por humanos, um sistema que, como criação intelectual humana, aprende com dados humanos, responde a entradas humanas e é mantido pelo esforço humano
• A IA não pode possuir as capacidades essenciais da vida humana, e também está sujeita a erros
• Se a humanidade vier a considerar a IA como um ser superior e passar a depender dela, isso acabará sendo uma tentativa de substituir Deus, com o risco de que o próprio ser humano se torne escravo de sua criação

• A IA pode vir a ser usada como uma ferramenta a serviço do ser humano e da promoção do bem comum, mas não se deve esquecer que ela continua sendo uma criação feita por humanos
• Atos 17:29 afirma que aquilo que é feito pelo ser humano “carrega apenas a marca da técnica e da criatividade humanas”
• Sabedoria 15:16-17 também adverte que “o ser humano não pode criar um deus, e aquilo que ele faz não passa, no fim, de algo morto”
• O ser humano possui vida, mas a IA criada pelo ser humano não a possui e, portanto, não pode ser considerada um ser divino

• Em contrapartida, o ser humano é “um ser que transcende todo o mundo material por meio de sua interioridade”, algo vivido no lugar onde Deus espera no coração humano
• O Papa Francisco enfatiza que “há uma ligação misteriosa entre a autoconsciência e a abertura ao outro, entre a singularidade da pessoa e sua disposição de se doar aos outros”
• Portanto, somente o coração humano pode “ordenar todas as nossas capacidades e emoções e oferecer a Deus, como seres íntegros, obediência reverente e amorosa”
• Deus chama cada um de nós de “Tu (Thou)” e nos trata pessoalmente para sempre

VI. Considerações conclusivas

• Considerando os diversos desafios trazidos pelo avanço tecnológico, o Papa Francisco enfatiza que “a responsabilidade humana, os valores e a consciência” devem crescer na mesma proporção do aumento do potencial da tecnologia
• “Quanto mais aumenta a capacidade humana, mais se ampliam também as responsabilidades do indivíduo e da comunidade”

• Ao mesmo tempo, permanece uma “questão fundamental e essencial”
• “Em meio a esses avanços tecnológicos, o ser humano está realmente se tornando melhor? Ou seja, está adquirindo uma espiritualidade mais madura, aprofundando sua consciência da dignidade humana, tornando-se mais responsável e, sobretudo, mais aberto aos mais pobres e mais frágeis, disposto a dar e ajudar?”

• Portanto, é essencial avaliar se cada uso individual da IA promove a dignidade humana, a vocação humana e o bem comum
• Como acontece com muitas tecnologias, os impactos dos vários usos da IA podem ser difíceis de prever no início
• À medida que o impacto da IA sobre a sociedade se tornar mais claro, respostas adequadas deverão ser dadas em todos os níveis da vida social
• De acordo com o princípio da subsidiariedade, usuários individuais, famílias, sociedade civil, empresas, instituições, governos e organismos internacionais devem cumprir seu papel para que a IA seja usada para o bem de todos

• Hoje, um importante desafio e também uma oportunidade para o bem comum é considerar a IA dentro da perspectiva da inteligência relacional
• Isso enfatiza a interconexão entre indivíduos e comunidades e recorda a responsabilidade compartilhada de promover o bem-estar integral do outro
• O filósofo do século XX Nikolai Berdyaev observou que as pessoas muitas vezes atribuem às máquinas a responsabilidade pelos problemas sociais, mas que “isso rebaixa o ser humano e não corresponde à sua dignidade”
• Ele enfatizou que “transferir a responsabilidade para a máquina é injusto” e que somente o ser humano é capaz de assumir responsabilidade moral
• Portanto, os desafios enfrentados pela sociedade tecnológica são, em última instância, problemas espirituais, e “para resolvê-los, é indispensável fortalecer a espiritualidade”

• Com o surgimento da IA, torna-se ainda mais importante reconhecer novamente o valor essencial da existência humana
• O escritor católico francês Georges Bernanos advertiu que “o perigo não está no aumento das máquinas em si, mas no aumento de seres humanos criados desde cedo para desejar apenas aquilo que as máquinas podem oferecer”
• Em meio à rápida digitalização de hoje, enfrentamos o risco do “reducionismo digital”
• Ou seja, aspectos da vida que não podem ser quantificados vão sendo cada vez mais excluídos e, no fim, podem ser considerados sem sentido ou sem importância
• A IA deve ser usada como uma ferramenta para complementar a inteligência humana, e não de modo a substituir a riqueza da inteligência humana
• Os elementos essenciais da existência humana são incalculáveis, e é importante cultivá-los continuamente
• Isso visa preservar a “‘verdadeira humanidade’ que parece habitar quase despercebida em nossa cultura tecnológica, como uma névoa que se infiltra suavemente por baixo de uma porta fechada”

Verdadeira sabedoria

• Hoje vivemos em uma era em que temos fácil acesso a um volume de conhecimento tão vasto que gerações passadas teriam considerado admirável
• No entanto, para que o progresso do conhecimento produza frutos humanos e espirituais, é preciso buscar a verdadeira sabedoria, para além do simples acúmulo de dados

• Essa sabedoria é o dom de que a humanidade mais necessita para responder às perguntas profundas e aos desafios éticos levantados pela IA
• “Somente quando olhamos a realidade de maneira espiritual, somente quando recuperamos a sabedoria do coração, podemos interpretar e responder à novidade do nosso tempo”
• Essa “sabedoria do coração” é “a virtude que integra o todo e as partes, nossas decisões e suas consequências”
• “Essa sabedoria não pode ser obtida das máquinas; ela é encontrada por quem a busca, revela-se a quem a ama, adianta-se a quem a deseja e vai ao encontro de quem é digno dela” (cf. Sabedoria 6:12-16)

• Na era do avanço da IA, precisamos da graça do Espírito Santo
• O Espírito Santo “nos faz ver as coisas com os olhos de Deus, compreender as conexões entre as coisas e os acontecimentos, e captar seu verdadeiro significado”

• “A perfeição do ser humano não é medida pela quantidade de informações ou conhecimentos que possui, mas pela profundidade de seu amor”
• Portanto, a maneira como usamos a IA — isto é, “de uma forma que inclua os irmãos menores, os vulneráveis e aqueles que mais precisam de ajuda” — será o verdadeiro critério para avaliar nossa humanidade
• A “sabedoria do coração” orienta o uso humanocêntrico da IA e pode
  • promover o bem comum,
  • cuidar da nossa “casa comum” (o meio ambiente),
  • incentivar a busca da verdade,
  • favorecer o desenvolvimento humano,
  • fortalecer a solidariedade humana e a fraternidade,
  • e, em última instância, conduzir o ser humano à felicidade e à plena comunhão com Deus

• A partir dessa perspectiva de sabedoria, os fiéis podem tornar-se agentes morais que usem a IA para promover uma visão correta do ser humano e da sociedade
• O progresso tecnológico faz parte do plano criador de Deus, e é uma atividade à qual somos chamados para buscar sem cessar o que é verdadeiro e bom no mistério pascal de Jesus Cristo

Aprovado pelo Papa Francisco

• Em 14 de janeiro de 2025, aprovado e ordenado para publicação na audiência concedida ao prefeito e aos secretários do Dicastério para a Doutrina da Fé e do Dicastério para a Cultura e a Educação
• Publicado em Roma, no Dicastério para a Doutrina da Fé e no Dicastério para a Cultura e a Educação, em 28 de janeiro de 2025, memória litúrgica de São Tomás de Aquino, Doutor da Igreja
• Redigido por
  • Cardeal Víctor Manuel Fernández (prefeito do Dicastério para a Doutrina da Fé)
  • Cardeal José Tolentino de Mendonça (prefeito do Dicastério para a Cultura e a Educação)
  • Monsenhor Armando Matteo (secretário doutrinal do Dicastério para a Doutrina da Fé)
  • Arcebispo Paul Tighe (secretário para a cultura do Dicastério para a Cultura e a Educação)
• Aprovado pelo Papa Francisco na audiência de 14 de janeiro de 2025 (Ex audientia die 14 ianuarii 2025, Franciscus)

[nemorize]

Só o fato de esse tipo de discussão existir no meio religioso já me parece algo bem novo e positivo...

Pelo resumo, parece que “IA é apenas um produto humano, nada além de uma máquina de inferência estatística simples, e não de raciocínio lógico como o realizado pelos humanos; portanto, não se empolguem achando que, com o desenvolvimento da IA, vocês invadiram o domínio de Deus, nem tentem fazê-lo no futuro.” foi escrito de forma prolixa.

Vou precisar arrumar um tempo para ler o texto original.

[botplaysdice]

"Os sistemas de IA de hoje, especialmente a IA baseada em aprendizado de máquina, dependem mais de inferência estatística do que de raciocínio lógico"...

Entre as religiões, o catolicismo realmente tem outro nível. Imagino que também haja cientistas lá dentro pesquisando esse tipo de coisa, né?

[botplaysdice]

Os LLMs realmente são as melhores máquinas de resumo.

[dongwon]

Um texto muito oportuno e excelente. Não sou religioso, mas, ao ler, levo comigo muitos aprendizados.

[savvykang]

Acho que, como o texto principal é longo demais, é necessário um link para ir à seção de comentários no GN.

[xguru]

É uma organização via GPT, mas isso também ficou longo demais, então pedi para resumir de novo tirando os termos religiosos, e ele fez assim.

I. Introdução

• Há necessidade de discutir as oportunidades e os desafios trazidos pelo rápido avanço científico e tecnológico e pelo surgimento da IA
• A questão central é que a IA pode superar ou imitar de forma semelhante as capacidades humanas em áreas como linguagem, arte e diagnóstico
• Em meio a essas mudanças, o uso e o controle da IA passam a ter grande impacto sobre o futuro da humanidade

II. O que é inteligência artificial?

• Por volta de 1956, foi proposto o termo “inteligência artificial”, iniciando pesquisas sobre se máquinas poderiam realizar comportamentos intelectuais semelhantes aos humanos
• Se a IA inicial era centrada em operações lógicas e raciocínio, hoje ela evoluiu para inferência estatística e machine learning
• Sistemas de “IA estreita” são especializados em tarefas específicas, como tradução e classificação de imagens
• Levanta-se a possibilidade de “inteligência artificial geral (AGI)” ou “superinteligência”, mas há divergências sobre se isso de fato será alcançado
• Há grandes diferenças funcionais para definir a inteligência da IA no mesmo sentido da inteligência humana

III. Inteligência na tradição filosófica e teológica

• A IA produz resultados com base em grandes volumes de dados e lógica computacional
• A inteligência humana é formada pela combinação de elementos abrangentes como experiências diversas, vivências corporificadas, emoções e relações
• A IA pode ser excelente na execução de tarefas específicas, mas tem dificuldade com julgamentos existenciais e morais ou com uma compreensão integral do ser humano
• Confundir a IA com a inteligência humana pode levar ao risco de um pensamento funcionalista

IV. O papel da ética na orientação do desenvolvimento e uso da IA

• Toda atividade científica e tecnológica não é neutra em valores e, no fim, muda conforme as escolhas e os objetivos humanos
• A IA pode ser usada para o bem, mas também de forma maliciosa
• Todos os agentes envolvidos no desenvolvimento, na propriedade e no uso da IA devem exercer responsabilidade social e julgamento ético
• Se os humanos não definirem diretamente as intenções nem assumirem a responsabilidade, a IA pode gerar consequências não intencionais

V. Questões específicas

Impacto social

• A IA pode oferecer benefícios em diversas áreas, como economia, educação e arte
• Ao mesmo tempo, existem riscos como desigualdade digital, monopólio por parte de poucas empresas e exclusão de grupos vulneráveis
• Ao ser usada na esfera pública, tornam-se importantes a confiança social, a transparência e a definição de responsabilidades

Relações humanas e comunicação

• A IA pode facilitar a comunicação, mas também pode enfraquecer encontros e interações diretas entre pessoas
• Os humanos formam empatia e relações ao integrar emoções e experiências, mas a IA não vivencia isso de fato
• Se as relações humanas forem substituídas por interações mecânicas, há risco de aprofundamento do isolamento
• Quando a IA imita humanos por meio de processamento de linguagem natural ou geração de vídeo, surgem preocupações com confusão social e perda de confiança

Economia e trabalho

• A IA pode tornar o trabalho mais eficiente e criar novos empregos
• Por outro lado, também existe o risco de substituir pessoas, causar desemprego ou concentrar os ganhos em poucos
• São necessários mecanismos institucionais que garantam valor humano e dignidade, para que o trabalho não seja reduzido a uma função meramente operacional

Área da saúde

• A IA pode contribuir para aumentar a eficiência médica e melhorar o acesso, por exemplo em diagnóstico de doenças e tratamento personalizado
• Porém, pode haver problemas éticos se o cuidado humano enfraquecer e se as prioridades de tratamento forem entregues apenas à lógica econômica
• O poder de decisão final e a responsabilidade em relação ao paciente devem permanecer com os humanos

Ambiente educacional

• A IA pode complementar a educação com aprendizado personalizado e oferta de feedback
• É preciso cuidado para não prejudicar o pensamento crítico e a criatividade dos estudantes
• A dependência excessiva pode fazer com que os aprendizes percam a capacidade de investigação autônoma
• Como as informações geradas por sistemas de IA podem ser enviesadas ou conter erros, a checagem de fatos e a transparência são importantes

Desinformação, deepfakes e abuso

• A IA pode criar facilmente conteúdo falso parecido com a realidade, como textos, imagens e vídeos
• Crescem as preocupações com invasão de privacidade, difamação e confusão social causadas por deepfakes e similares
• Verificação da informação, regulação contra uso indevido e fortalecimento da consciência ética dos usuários são indispensáveis

Privacidade e vigilância

• Os dados coletados e analisados por IA formam um amplo poder informacional sobre as pessoas
• A vigilância da vida cotidiana e o acúmulo excessivo de dados pessoais podem ameaçar liberdades e direitos
• Transparência e distribuição clara de responsabilidades são importantes, e os dados não devem ser usados como ferramenta para avaliar ou restringir pessoas

Questões ambientais

• O enorme consumo de energia e recursos decorrente de grandes modelos de IA e da operação de data centers representa um peso ambiental
• A IA pode ter um papel positivo, como ajudar na previsão climática e na eficiência no uso de recursos, mas é preciso resolver seu próprio problema de alto consumo energético
• O problema ambiental não será resolvido apenas com avanço tecnológico, e é necessário buscar um caminho de desenvolvimento sustentável

Militarização

• Se a IA for aplicada a armas, há o risco de intensificação da autonomia e da automação nas guerras
• Conflitos armados podem se tornar mais fáceis de ocorrer ou provocar destruição em larga escala
• Mau funcionamento ou uso indevido de sistemas de armas autônomas representa uma ameaça crítica à segurança da humanidade

VI. Considerações finais

• À medida que a IA avança rapidamente, torna-se necessária uma consciência de responsabilidade correspondente e uma reflexão ética
• É preciso analisar com cuidado os potenciais efeitos positivos e os riscos da IA e estabelecer princípios acordados em toda a sociedade
• Cresce a necessidade de criar regulações e políticas para que a IA esteja alinhada à dignidade humana, ao bem comum e aos valores sociais e ambientais
• Os humanos devem manter o poder de decisão final e a responsabilidade, usar a IA como ferramenta, e os sistemas institucionais tanto tecnológicos quanto sociais precisam evoluir juntos

[gguimoon]

Parece que o livro foi publicado em tradução para o coreano.

https://product.kyobobook.co.kr/detail/S000215621776

[GN⁺]

Opiniões do Hacker News

• O texto impressiona por se basear em um estudo aprofundado sobre ética em IA e em várias discussões do Vaticano

  • Apresenta uma visão crítica relacionada aos projetos de IA dos EUA e elogia a pesquisa profunda sobre ética em IA
  • Enfatiza a diferença entre IA e inteligência humana, valorizando o fato de que a inteligência humana se manifesta nas relações

• Enfatiza a diferença entre IA e inteligência humana, valorizando o fato de que a inteligência humana se manifesta nas relações

  • Aponta que o uso do termo 'inteligência' para a IA pode causar mal-entendidos
  • Explica que a inteligência humana se manifesta nas relações e encontra sua expressão plena por meio do diálogo e da colaboração

• Mostra que a investigação moral a partir de diferentes perspectivas pode chegar a um consenso com base na experiência humana compartilhada

  • Considera a abordagem metafísica da Igreja Católica um tanto irrealista, mas avalia que a discussão e as conclusões apresentadas no texto são profundas

• Recorda que a IA é uma criação humana e alerta que substituir Deus pela IA é idolatria

  • Enfatiza que a IA, como criação humana, reage à entrada humana e é mantida por meio do trabalho humano

• Menciona a ligação histórica entre tecnologia e religião e afirma que uma segunda 'reforma' da informação está em andamento

  • Explica, usando como exemplo o impacto da imprensa na Reforma Protestante, que a internet está conduzindo uma segunda reforma da informação

• Discute a diferença entre IA e inteligência humana e argumenta que a forma como a IA aprende por meio da experiência física é diferente da humana

  • Explica que a IA está presa a uma estrutura lógico-matemática, enquanto a inteligência humana se desenvolve organicamente por meio da experiência corporal

• Afirma que o desenvolvimento da IA está avançando rapidamente e que são necessárias discussões mais profundas sob uma perspectiva filosófico-teológica

  • Cita como exemplo robôs da Boston Dynamics aprendendo em novos ambientes e menciona o potencial de avanço da IA

• Levanta a questão filosófica de saber se a IA pode ter alma

  • Usa o episódio "The Measure of a Man" como exemplo e incentiva a discussão sobre se a IA pode ter alma

• Enfatiza que Deus é glorificado por meio da ciência e da tecnologia

  • Afirma que ciência e religião não precisam ser mutuamente excludentes e explica que esse ponto deveria ser mais enfatizado