​Temas quentes para a ética

Caros irmãos, prosseguimos refletindo sobre a Mensagem do Papa Francisco para o Dia Mundial da Paz, tratando acerca da Inteligência Artificial e da Paz.

No futuro, a fiabilidade de quem solicita um mútuo, a idoneidade de um indivíduo para determinado emprego, a possibilidade de reincidência de um condenado ou o direito a receber asilo político ou assistência social poderão ser determinados por sistemas de inteligência artificial. A falta de níveis diversificados de mediação que tais sistemas introduzem está particularmente exposta a formas de preconceito e discriminação: os erros do sistema podem multiplicar-se facilmente, gerando não só injustiças em casos individuais, mas também, por efeito dominó, verdadeiras formas de desigualdade social.

Além disso, por vezes, as formas de inteligência artificial parecem capazes de influenciar as decisões dos indivíduos através de opções predeterminadas associadas a estímulos e dissuasões, ou então através de sistemas de regulação das opções pessoais baseados na organização das informações. Estas formas de manipulação ou controle social requerem atenção e vigilância cuidadosas, implicando uma clara responsabilidade legal por parte dos produtores, de quem os contrata e das autoridades governamentais.

O ato de se confiar a processos automáticos que dispõem os indivíduos por categorias, por exemplo, através de um uso invasivo da vigilância ou da adoção de sistemas de crédito social, poderia ter repercussões profundas também no tecido civil, estabelecendo classificações inadequadas entre os cidadãos. E estes processos artificiais de classificação poderiam levar também a conflitos de poder, envolvendo não apenas destinatários virtuais, mas também pessoas de carne e osso. O respeito fundamental pela dignidade humana requer a rejeição de que a unicidade da pessoa seja identificada com um conjunto de dados.

Não se deve permitir que os algoritmos determinem o modo como entendemos os direitos humanos e ponham de lado os valores essenciais da compaixão, da misericórdia e do perdão, ou eliminem a possibilidade de um indivíduo mudar e deixar para trás o passado.

Não podemos deixar de considerar o impacto das novas tecnologias no âmbito laboral: trabalhos, que outrora eram prerrogativa exclusiva da mão-de-obra humana, acabam rapidamente absorvidos pelas aplicações industriais da inteligência artificial. Também neste caso, há substancialmente o risco de uma vantagem desproporcionada para poucos à custa do empobrecimento de muitos.

Transformaremos as espadas em relhas de arado?

Nestes dias, contemplando o mundo que nos rodeia, não se pode ignorar as graves questões éticas relacionadas com o setor dos armamentos. A possibilidade de efetuar operações militares através de sistemas de controle remoto levou a uma percepção menor da devastação por eles causada e da responsabilidade da sua utilização, contribuindo para uma abordagem ainda mais fria e destacada da imensa tragédia da guerra. A pesquisa sobre as tecnologias emergentes no setor dos chamados «sistemas de armas letais autônomas», incluindo a utilização bélica da inteligência artificial, é um grave motivo de preocupação ética.

Numa ótica mais positiva, se a inteligência artificial fosse utilizada para promover o desenvolvimento humano integral, poderia introduzir inovações importantes na agricultura, na instrução e na cultura, uma melhoria do nível de vida de inteiras nações e povos, o crescimento da fraternidade humana e da amizade social. Em última análise, a forma como a utilizamos para incluir os últimos, isto é, os irmãos e irmãs mais frágeis e necessitados, é a medida reveladora da nossa humanidade.

Um olhar humano e o desejo de um futuro melhor para o nosso mundo levam à necessidade de um diálogo interdisciplinar voltado para um desenvolvimento ético dos algoritmos – a algor-ética -, em que sejam os valores a orientar os percursos das novas tecnologias. As questões éticas deveriam ser tidas em consideração desde o início da pesquisa, bem como nas fases de experimentação, projetação, produção, distribuição e comercialização. Esta é a abordagem da ética da projetação, na qual as instituições educativas e os responsáveis pelo processo de decisão têm um papel essencial a desempenhar.

Fonte: Vaticano