“a verdade não é um território que há que defender,
mas um bem que há que compartilhar.”
Leão XIV, papa, Magnifica Humanitas
O papa Leão XIV deu a conhecer sua Carta Encíclica Magnifica Humanitas, sobre a custódia da pessoa humana no tempo da Inteligência Artificial (IA). Ali examina os desafios de nosso tempo à luz da Doutrina Social da Igreja — dizendo que “não é um manual de princípios e normas que é preciso aplicar, mas um caminho de discernimento comunitário” (MH, 27) —, com especial referência aos riscos e oportunidades que implica a incorporação da Inteligência Artificial à gestão dos assuntos que dizem respeito ao desenvolvimento humano integral.
Ao longo de uma introdução e cinco capítulos, a encíclica discute o contexto global em que se insere a Inteligência Artificial no processo de transição que vive o sistema mundial. Esse processo é examinado com especial detalhe nos capítulos III e IV, intitulados, respectivamente, “Técnica e domínio. A grandeza da pessoa humana ante a promessa da IA” e “Custodiar o humano na transformação. Verdade, trabalho, liberdade”. O sentido desse exame é estabelecido já na introdução, onde diz que a tecnologia:
Não deve ser considerada em si mesma uma força antagônica à pessoa; pelo contrário, está arraigada em nossa história desde o princípio, é “um fato profundamente humano, vinculado à autonomia e liberdade do homem”.
Ao longo dos séculos, o desenvolvimento tecnológico contribuiu para uma melhora significativa das condições de vida da humanidade; ao mesmo tempo, cada etapa do progresso também explicitou o lado ambíguo de instrumentos capazes de causar dano quando não são orientados para o bem.
Hoje, no entanto, nos encontramos diante de uma situação nova, em que o poder e a onipresença das tecnologias emergentes se entrelaçam com o tecido da vida cotidiana, moldam os processos de tomada de decisões e incidem profundamente no imaginário coletivo: “Nunca a humanidade teve tanto poder sobre si mesma”. As novas tecnologias abrem um horizonte que se estende em direções que, ainda que possamos intuir, ainda não podemos prever por completo. Isso faz com que seja mais complexo avaliar seu impacto e seus efeitos a longo prazo sobre a dignidade das pessoas e o bem comum. (MH, 4)
90 dias do Papa Leão XIV
A esse respeito, Magnifica Humanitas afirma que a Doutrina Social da Igreja — em elaboração e atualização constantes desde a publicação da encíclica Rerum Novarum (As Coisas Novas), pelo papa Leão XIII, em 1891 — oferece o marco de referência adequado para esta avaliação das coisas novas de nosso tempo, de maneira que:
Não bendigamos entusiasmos ingênuos nem alimentemos medos estéreis. Mas indiquemos critérios de discernimento — a dignidade da pessoa, o destino universal dos bens, a opção pelos pobres, o cuidado da Casa Comum, a paz — e vamos traduzi-los em práticas de planejamento responsável, avaliações do impacto humano e social, inclusão dos mais frágeis, alfabetização digital, pesquisa e indústria orientadas para a justiça e a paz. (MH, 14)
Nesse marco de referência geral, a Doutrina Social da Igreja, diz, oferece “pelo menos três intuições” de especial pertinência: “a consciência de que as injustiças não se referem só aos comportamentos individuais, mas também às estruturas econômicas e institucionais; o valor do princípio de subsidiariedade, que convida a fortalecer o tecido associativo e comunitário, evitando novas concentrações de poder; e o vínculo entre a dignidade do trabalho, a justa remuneração e a possibilidade real para as famílias de levar uma vida humana digna”. (MH, 31)
Dessa mesma perspectiva, acrescenta que, em nossa época, “marcada por novas formas de poder global e por desigualdades crescentes”, são “especialmente significativos” três princípios: “a exigência de que o direito prevaleça sobre o interesse, a consciência de que as disparidades econômicas são terreno fértil para as tensões e a violência, e o valor de um tecido associativo capaz de mediar entre o indivíduo e o Estado”. (MH, 32)
A esse respeito, Magnifica Humanitas propõe que, no contexto da revolução digital, o princípio de subsidiariedade implica que o nível superior “não é o Estado, mas todo grande ator econômico e tecnológico que exerça um poder de fato sobre as condições da vida comum”. No caso da IA,
O nível que absorve competências, dados e capacidade de decisão é constituído por empresas e plataformas que definem condições de acesso, regras de visibilidade, formas de relação e até oportunidades econômicas. A subsidiariedade requer que tais processos não se imponham de cima para baixo de modo opaco e unilateral, mas estejam orientados para o bem comum mediante a transparência, a responsabilidade e formas reais de participação (auditorias independentes, transparência nos algoritmos, acesso equitativo aos dados, ferramentas de recurso). (MH, 71)
Algoritmos, IA e redes sociais impulsionam extrema direita e ameaçam eleições na América Latina
Nesse sentido, uma ordem social justa na era digital:
é aquela que garante a todos um acesso igualitário às oportunidades, protege os pequenos e os mais frágeis, opõe-se ao ódio e à desinformação, e submete ao controle público o uso dos dados e das tecnologias, de modo que o critério não seja apenas o lucro, mas a dignidade de cada pessoa e o bem dos povos. (MH, 80)
Essa visão corresponde ao que propõe a encíclica em relação ao desenvolvimento humano integral, entendido como “um processo em que o crescimento das pessoas e dos povos abrange todas as dimensões da existência e abre o futuro também para as gerações vindouras”. (MH, 82) Assim, entende-se que ele ocorre “quando põe no centro as pessoas e não a acumulação de bens, e quando se refere também aos povos, não só aos indivíduos”. (MH, 83)
Desse modo, acrescenta:
o desenvolvimento humano integral é o horizonte no qual se hão de ler as transformações de nosso tempo, incluindo as da revolução digital. As inovações tecnológicas — inclusive a inteligência artificial — não são neutras; podem aumentar a participação e a justiça, ou ampliar as desigualdades, o controle e a exclusão. Por isso devem ser examinadas com uma pergunta decisiva: contribuem realmente para fazer crescer as pessoas e os povos em humanidade e fraternidade, no respeito à Casa Comum e às gerações futuras? É aqui que os princípios da Doutrina Social se tornam critérios de discernimento… (MH, 85)
Dispor desses critérios de discernimento, e exercê-los, tem especial importância nestes tempos de transição histórica. De fato, “toda transição real ocorre por meio de uma descontinuidade: é desigual, fragmentada e, às vezes, conflitiva. Portanto, não existe um modelo único de mudança, nem uma solução global; há territórios e histórias que exigem respostas diferentes”. Assim, dada “a desigualdade que caracteriza nosso mundo, a difusão da IA e dos sistemas computacionais produz efeitos distintos em cada lugar”, e em cada um deles deve ser colocado o problema em busca das soluções adequadas.
Por isso mesmo, a transição em curso demanda “ferramentas capazes de se adaptar: modelos articulados, experimentos locais, redistribuições progressivas, novos direitos de acesso aos bens essenciais. Sem buscar uma harmonia abstrata, trata-se de construir formas concretas de convivência humana na transformação”. (MH, 153)
Algoritmos, IA e redes sociais impulsionam extrema direita e ameaçam eleições na América Latina
Nessa circunstância histórica, afirma Magnifica Humanitas, recai uma responsabilidade particular “sobre aqueles que trabalham no mundo da pesquisa”. Todos os protagonistas desse âmbito — cientistas, empresários, investidores, autoridades acadêmicas, políticos, entre outros —
estão chamados a trabalhar com uma lógica de transparência e responsabilidade, mantendo viva a consciência do amplo marco em que se inscrevem os avanços tecnológicos aos quais contribuem, inclusive os relacionados à IA. Quando alguém se limita a olhar apenas para seu próprio setor, engana a si mesmo acreditando que realiza uma tarefa moralmente neutra e evita as perguntas sobre os fins últimos que orientam determinados experimentos; assim se corre o risco de cooperar, talvez sem querer, com projetos obscuros que alimentam novas formas de violência, manipulação e domínio. (MH, 209)
Nunca foi tão importante como agora a capacidade de discernir. Magnifica Humanitas enriquece o marco de referência para o discernimento sobre a dimensão sociotecnológica da crise atual e abre um espaço para a busca da verdade sobre as contradições e conflitos no mundo do trabalho que vai tomando forma no curso dessa crise.
Todas as forças progressistas têm um lugar nessa busca, da qual depende que o conflito sociotecnológico adquira a dimensão política que demanda sua solução na perspectiva de um desenvolvimento que seja sustentável para os seres humanos que virão a existir.