Pe. Bruno Nobre sj — “A tecnologia deve servir para ajudar a aprofundar a Humanidade”

O Papa Francisco pediu, este mês, a oração especial dos cristãos “para que o progresso da robótica e da inteligência artificial esteja sempre ao serviço do ser humano”. Mas o que podemos entender por inteligência artificial?

A expressão «inteligência artificial» (IA) designa a capacidade de um sistema informático para processar dados externos, reconhecendo padrões e extraindo informação, com o objetivo de realizar uma tarefa complexa. Os sistemas de IA têm a capacidade de otimizar o output (conjunto de informações que saem de um sistema, organismo ou mecanismo, depois de este transformar as informações de entrada) através de um processo de «aprendizagem», ou seja, são capazes de executar uma tarefa concreta – por exemplo, reconhecer e identificar rostos de pessoas em fotografias – com uma precisão cada vez maior. Neste sentido, as tecnologias de IA replicam a inteligência humana, de tal modo que são capazes de resolver problemas que, até há pouco tempo, estavam ao alcance apenas do ser humano. Dito de forma simples, a IA executa tarefas que, se fossem realizadas por um ser humano, seriam consideradas inteligentes. A IA engloba uma séria de capacidades que habitualmente associamos a seres dotados de razão: a capacidade de raciocínio (aplicação de regras lógicas), reconhecimento de padrões visuais ou sensoriais, aprendizagem e inferência.

Muitas vezes, uma abordagem ligeira a este tema leva-nos, por um lado, a temer a quase extinção da humanidade e, por outro, a pensar que terá chegado a nossa salvação definitiva. Qual julga ser a atitude cristã diante desta questão? Qual deverá ser a postura da Igreja?

Não existe um consenso entre os investigadores na área da IA sobre até onde poderão ir as capacidades das máquinas inteligentes. Não há dúvida de que máquinas dotadas de IA já são melhores que os seres humanos na execução de muitas tarefas. Por exemplo, um computador é capaz de ganhar um jogo de xadrez ao melhor jogador de xadrez do mundo. Por outro lado, algumas das capacidades dos seres humanos, sobretudo as que envolvem as emoções e a intuição, são muito difíceis de replicar. Neste sentido, alguns investigadores defendem que as máquinas inteligentes ficarão sempre aquém da inteligência humana, cujas capacidades vão muito além da resolução de problemas usando regras lógicas. António Damásio, por exemplo, tem dado voz a esta posição.

Contudo, alguns investigadores têm uma visão mais otimista (ou pessimista, dependendo do ponto de vista) e defendem que, dentro de apenas algumas décadas, a inteligência artificial superará a inteligência humana. A esse momento chama-se «singularidade tecnológica». A partir desse momento, o ser humano deixaria de ter o controlo das máquinas que criou, de tal forma que os seres humanos poderiam ser subjugados por máquinas inteligentes. Muitos cientistas defendem que a IA nunca superará a inteligência humana. No entanto, o simples facto de se considerar esta possibilidade deixa perceber que as questões éticas associadas à IA são muito sérias. Independentemente do rumo que a IA tomar, o impacte da IA nas nossas vidas será muito profundo. É por esta razão que a União Europeia constituiu uma comissão de 52 peritos para estudar as implicações éticas da IA. Esta comissão produziu dois documentos que vale a pena ler, para ficarmos com uma ideia do que está em causa quando falamos de IA. Estão disponíveis na internet.

Pe. Bruno Nobre sj
“A tecnologia deve servir para ajudar
a aprofundar a Humanidade”

Contudo, alguns investigadores têm uma visão mais otimista (ou pessimista, dependendo do ponto de vista) e defendem que, dentro de apenas algumas décadas, a inteligência artificial superará a inteligência humana. A esse momento chama-se «singularidade tecnológica».

Pe. Bruno Nobre sj

Creio que os cristãos não precisam ter uma postura defensiva em relação aos desenvolvimentos tecnológicos na área da IA. A tecnologia, em si mesma, não é boa nem má. A grande questão está no que fazemos com ela. Richard Feynman, um grande físico do séc. XX e Prémio Nobel da Física, dizia que a ciência é uma chave que tanto abre as portas do céu como as portas do inferno. É aos seres humanos que cabe a decisão sobre qual porta abrir. A fé cristã ensina que foi Deus quem dotou o ser humano de inteligência, para que possa descobrir as maravilhas da criação e criar tecnologia. É fundamental, contudo, que não se perca de vista que a tecnologia, e também a IA, deve estar ao serviço do ser humano e não o contrário. Neste sentido, os desenvolvimentos tecnológicos na área da IA devem respeitar a dignidade e a liberdade do ser humano. A não ser assim, estas tecnologias tornar-se-iam desumanizadoras e destrutivas. 

No convite que faz à oração, o Papa Francisco refere que “um progresso tecnológico que aumenta as desigualdades não é um progresso real”. Neste sentido, quais poderão ser algumas balizas éticas a ter em conta?

Creio que o critério fundamental que deve presidir ao desenvolvimento e utilização da IA é este: os sistemas de IA devem estar centrados no ser humano. Ou seja, devem ser utilizados com objetivo de servir a humanidade e promover o bem comum. Um dos documentos elaborado pela comissão de peritos da UE criada para refletir sobre as implicações éticas da IA (Orientações Éticas para uma IA de Confiança) lembra que as tecnologias dotadas de IA devem respeitar os seguintes princípios fundamentais: respeito pela dignidade humana; liberdade do indivíduo; respeito pela democracia, pela justiça e pelo estado de direito; igualdade, não descriminação e solidariedade; direitos de cidadania. Estes princípios são vertidos em quatro princípios da ética da IA: o respeito pela autonomia humana, a prevenção de danos, a equidade e a explicabilidade. Quer isto dizer que a IA deve ser desenvolvida por forma a garantir que são garantidos os direitos fundamentais do ser humano, desde logo a sua integridade, mas também a sua capacidade de escolher e a sua privacidade. A problemática da privacidade constitui, para já, um dos aspetos mais problemáticos. Todos nós produzimos diariamente uma grande quantidade de dados, que são transacionados pelas grandes companhias e que são utilizados para fins comerciais e políticos, nem sempre de forma ética e transparente.

A questão da igualdade no acesso aos benefícios da IA é outra questão ética particularmente séria. Os desenvolvimentos tecnológicos na área da IA têm sido extraordinários e têm o potencial de melhorar muito a qualidade de vida dos seres humanos. Infelizmente, não há garantia de que os seus benefícios cheguem a todos. Esta é a razão pela qual o Papa Francisco lembra que “um progresso tecnológico que aumenta as desigualdades não é um progresso real”. 

Nesta linha, há pouco mais de 4 anos, os livros de Yuval Noah Harari –Homo Deus, Sapiens e 21 lições para o século XXI – tornaram-se best-sellers quase instantâneos e, com eles, a proposta do transhumanismo. Em realidade, o que pode significar este conceito e esta proposta?

Uma das principais ideias de Yuval Harari no livro Homo Deus, e também no livro 21 lições para o século XXI, é que os desenvolvimentos tecnológicos darão origem, em breve, a uma nova espécie humana, que ele apelida de Homo Deus. De acordo com alguns visionários, a ciência permitiria ao ser humano tornar-se «imortal» e desenvolver capacidades sobre-humanas. Vale a pena referir que Harari não é propriamente um otimista no que diz respeito ao impacte destas transformações. O autor israelita pretende, sobretudo, alertar os leitores para as profundas transformações que estão já em curso e que poderão traduzir-se em mudanças tão profundas, que é o próprio ser humano, como o conhecemos, que está em causa, o que pode ser muito problemático, sobretudo porque, além de poderem não chegar a todos, estes desenvolvimentos tecnológicos têm a capacidade de pôr em causa dimensões fundamentais do ser humano, como sejam a liberdade, a privacidade ou a personalidade. Os livros de Harari são dirigidos ao grande público. O tom é sensacionalista e a análise nem sempre é rigorosa. Parece-me, no entanto, que têm a virtude de nos ajudar a imaginar um futuro que está à porta e que vai, sem dúvida, ter implicações muito profundas na forma como nos entendemos a nós próprios e na forma como nos relacionamos com os outros e com o mundo. 

A expressão Homo Deus expressa na perfeição a ideia fundamental do transumanismo, segundo a qual a espécie humana será, no futuro, superada por criaturas com mais capacidades do que nós, quer sejam máquinas inteligentes ou seres híbridos, que resultem da «fusão» entre o ser humano e a tecnologia. Esta visão parece-me perigosa, sobretudo se o ser humano for encarado como estando à disposição da tecnologia para ser «manipulado» e «melhorado» de forma arbitrária e abusiva. Creio que uma perspetiva cristã dos desenvolvimentos tecnológicos deveria falar de «ultra-humanismo», para usar uma expressão de Teilhard de Chardin, e não de «transumanismo». Ou seja, a tecnologia deve servir não para alcançar a superação do ser humano, mas para o ajudar a aprofundar a sua humanidade.

No entanto, o Papa explicita, claramente, que estamos diante de uma “mudança de época”. Quais julga serem os maiores desafios que ela nos traz?

Sim, creio que estamos numa mudança de época. Basta olhar para trás e reconhecer como a tecnologia se tem desenvolvido a um ritmo vertiginoso, que já está a ter um impacte muito profundo nas nossas vidas. Há uma série recente – Black Mirror – que retrata muito bem a possibilidade de um futuro distópico. Vale a pena ver pelo menos alguns episódios. É difícil identificar «os maiores desafios» associados à mudança de época que estamos a viver, sobretudo porque são muitos. Vivemos num mundo cada vez mais interconectado, mas nem por isso mais fraterno. Na verdade, as tecnologias digitais, que poderiam contribuir para aprofundar o sentido de comunhão entre os seres humanos, têm frequentemente contribuído para perigosos fenómenos de «guetização» que nos encerram em bolhas, dando origem a graves tensões e divisões. No que diz respeito à tecnologia, creio que o grande desafio é garantir que é usada de forma a contribuir para a humanização das nossas vidas e das nossas relações. As possibilidades que temos ao nosso dispor são extraordinárias. Mas é fundamental que os desenvolvimentos tecnológicos sejam acompanhados de uma profunda consciência ética, que garanta o respeito pelo ser humano e a justa distribuição dos seus benefícios.  

Padre Bruno Nobre
Professor da Universidade Católica Portuguesa

É licenciado em Física Tecnológica e doutorado em Física de Partículas Elementares. Ainda é razoável incompatibilizar fé e ciência? 

Creio que não. Costumo dizer que para lermos a realidade precisamos de vários mapas. A ciência é, obviamente, um mapa muito importante. Mas não é único. A ciência é totalmente inútil em muitas áreas da nossa vida. É por isso que precisamos de outros mapas, como a arte, as humanidades ou a religião. Creio que o conflito entre fé e ciência que aconteceu em alguns períodos da história teve a ver, sobretudo, com uma leitura inadequada destes diferentes «mapas». O mapa da religião não serve para dar respostas a questões que só podem ser respondidas pelo mapa da ciência e vice-versa. Claro que nem sempre é fácil delimitar o alcance específico de cada mapa, sobretudo quando acontecem desenvolvimentos científicos que abalam a cosmovisão que tinha servido de base à reflexão sobre os conteúdos da fé. Creio que, atualmente, não existem grandes problemas no diálogo entre a fé e a ciência, sobretudo nos meios católicos. Creio que ao longo dos séculos, o cristianismo cultivou uma grande confiança na razão humana. A procura sincera da verdade nunca afasta o ser humano de Deus. Antes pelo contrário. ¶