Salvatore Cernuzio/Mariangela Jaguraba – Vatican News

Francisco falou no encontro de cúpula  do G7 em Borgo Egnazia, na Puglia, durante a sessão conjunta com os líderes mundiais, e indicou as oportunidades, os perigos e os efeitos da inteligência artificial. Para o pontífice a humanidade está condenada a um futuro sem esperança se as pessoas forem privadas da capacidade de decidir sobre si mesmas e sobre suas vidas, condenando-as a depender das escolhas das máquinas.

Confira trechos do discurso:

“Nenhuma máquina, em caso algum, deveria ter a possibilidade de optar por tirar a vida a um ser humano.” Foi o que disse o Papa Francisco em seu discurso proferido na cúpula de líderes mundiais do G7, em Borgo Egnazia, na região italiana da Puglia. A cúpula teve inicio na quinta-feira, 13, e se concluirá no sábado, 15 de junho.

Um “instrumento fascinante”, mas ao mesmo tempo “tremendo”, disse ele; “um instrumento” capaz de trazer benefícios ou causar danos, como todas as “ferramentas” criadas pelo homem desde o início dos tempos.

Anteriormente, o Papa já tinha dedicado sua Mensagem para o 58º Dia Mundial das Comunicações Sociais a esse tema. Agora, diante dos homens e mulheres responsáveis pelo mundo, ele examina suas oportunidades, mas sobretudo seus riscos e “efeitos sobre o futuro da humanidade”. O seu olhar está voltado principalmente para essa guerra com seus “pedaços” cada vez mais unificados. 

Num drama como o conflito armado, é urgente repensar o desenvolvimento e o uso de dispositivos como as “armas autônomas letais” para proibir sua utilização, começando já com um compromisso ativo e concreto para introduzir um controle humano cada vez maior e significativo.

“Que nunca aconteça que as máquinas matem o homem que as criou”. Francisco do palco do G7 refletiu a partir da engenhosidade humana, para esclarecer como não existe nenhum preconceito sobre os progressos científico e tecnológico, mas sim o medo de um desvio: “A ciência e a tecnologia são produtos extraordinários do potencial criativo de nós seres humanos”, disse o Pontífice.

“É a partir do uso deste potencial criativo que Deus nos deu que a inteligência artificial vem à luz”. Um “instrumento extremamente poderoso”, sublinhou o Papa, utilizado em muitos âmbitos da ação humana: medicina, trabalho, cultura, comunicação, educação, política. “É agora lícito levantar a hipótese de que o seu uso influenciará cada vez mais o nosso modo de vida, as nossas relações sociais e, no futuro, até mesmo a forma como concebemos a nossa identidade como seres humanos”.

Portanto, por um lado, as possibilidades que a IA oferece são estimulantes; por outro lado, geram medo pelas consequências que se preveem. Em primeiro lugar,  segundo Francisco é necessário distinguir adequadamente entre uma máquina que “pode, de algumas formas e com estes novos meios, produzir escolhas algorítmicas” e, portanto, “uma escolha técnica entre várias possibilidades”, e o ser humano que, em vez disso, “não só escolhe, mas em seu coração é capaz de decidir”.

“É por isso que, diante dos prodígios das máquinas, que parecem ser capazes de escolher de forma independente, devemos ter claro que o ser humano deve sempre ficar com a decisão, mesmo nos tons dramáticos e urgentes com os quais ela às vezes se apresenta em nossas vidas”, disse ainda o Papa.

A advertência do Papa foi incisiva: “Condenaríamos a humanidade a um futuro sem esperança se retirássemos das pessoas a capacidade de decidir sobre si mesmas e sobre as suas vidas, condenando-as a depender das escolhas das máquinas. Precisamos – disse ele – garantir e proteger um espaço de controle significativo do ser humano sobre o processo de escolha de programas de inteligência artificial: a própria dignidade humana está em jogo”.

Em suma, não estamos falando apenas de progresso científico, mas estamos diante de “uma verdadeira revolução cognitivo-industrial que”, disse o Papa Francisco, “contribuirá para a criação de um novo sistema social marcado por complexas transformações epocais”. 

A inteligência artificial poderia permitir a democratização do acesso ao conhecimento, o progresso exponencial da pesquisa científica, a possibilidade de delegar trabalhos árduos às máquinas; mas, ao mesmo tempo, poderia trazer consigo uma injustiça maior entre nações avançadas e em desenvolvimento, entre classes sociais dominantes e classes sociais oprimidas, colocando em perigo a possibilidade de uma “cultura do encontro” e promovendo uma “cultura do descarte”.

Ética

Francisco falou sobre a “ética”: É nela que está em jogo a condição humana de “liberdade” e “responsabilidade”; é sem ela que “a humanidade perverteu os fins do seu ser, transformando-se em inimiga de si mesma e do planeta”. Hoje, observou o Papa, “há uma perda ou, pelo menos, um eclipse do sentido do humano e uma aparente insignificância do conceito de dignidade humana”, os programas de inteligência artificial “devem ser sempre ordenados para o bem de cada ser humano”. Eles devem ter, em outras palavras, “uma inspiração ética”.

Nesse sentido, o Papa mencionou favoravelmente a assinatura em Roma, em 2020, marcado pela pandemia, do Apelo de Roma para a Ética da Inteligência Artificial (Rome Call for AI Ethics), e o apoio a essa forma de moderação ética dos algoritmos condensada no neologismo “algorético”.

Embora tenhamos dificuldades para definir um único conjunto de valores globais, podemos, no entanto, encontrar princípios partilhados para enfrentar e resolver os dilemas ou conflitos de vida.

Paradigma “Tecnocrático”

Entre os vários riscos, o Papa também teme o de um “paradigma tecnocrático”. É precisamente aqui, disse ele, que a “ação política” se torna “urgente”. Política, para muitos hoje, “é uma palavra feia” que lembra “erros”, “corrupção”, “ineficiência de alguns políticos”, à qual se somam “estratégias que visam enfraquecê-la, substituí-la pela economia ou dominá-la com alguma ideologia”. Entretanto, “o mundo pode funcionar sem política?”, perguntou o Papa. Sim, “a política é necessária” é a resposta. Mas, diante dos cenários descritos, é necessária uma “política saudável” que nos faça olhar para o nosso futuro com esperança e confiança.

Há, de fato, “coisas que precisam ser mudadas com redefinições fundamentais e transformações importantes” e “somente uma política saudável poderia guiar o caminho, envolvendo os mais diversos setores e conhecimentos”, disse o Papa.

“Dessa forma”, acrescentou, “uma economia integrada em um projeto político, social, cultural e popular que tende para o bem comum pode abrir caminho para diferentes oportunidades, que não implicam deter a criatividade humana e seu sonho de progresso, mas sim canalizar essa energia de uma nova maneira”.