Estamos refletindo sobre a inteligência humana e inteligência artificial, a partir da Mensagem do Papa Francisco Para o Dia Mundial da Paz, de 2024. Agora devemos falar do futuro da inteligência artificial: das suas promessas e riscos. Sabemos que os novos instrumentos digitais estão a mudar a fisionomia das comunicações, da administração pública, da instrução, do consumo, dos intercâmbios pessoais e de inúmeros outros aspetos da vida diária.
As tecnologias digitais podem, a partir dos vestígios digitais que os usuários deixam na internet, “extrair dados que permitem controlar os hábitos mentais e relacionais das pessoas para fins comerciais ou políticos, muitas vezes sem o seu conhecimento, limitando o exercício consciente da sua liberdade de escolha”. De fato, esses sistemas “possuem critérios de seleção nem sempre enxergados pelo utente”.
De fato, as buscas feitas na internet, o que se vê nas Redes sociais gera, através dos algoritmos, o “perfil” do usuário. De modo que produtos, vídeos e conteúdos relacionados com o nosso perfil serão sempre mais oferecidos. Outros conteúdos e produtos não nos serão visíveis, gerando assim uma ideia parcial e fragmentada da realidade. O algoritmo faz essa seleção sem que o saibamos. Isso nos possibilita ter acesso a conteúdo daquelas áreas buscadas sempre um pouco mais radicais, pois um interesse desses “algoritmos” e de quem os projetaram e fazer o usuário estar sempre conectado. Isso gera muita perda de tempo, de dinheiro, uma visão reduzida do mundo e, em pouco tempo, suscita radicalismo, extremismo e incapacidade de ter empatia (de se colocar no lugar do outro) e de dialogar com serenidade com que pensa diversamente.
Esses algoritmos podem condicionar as nossas escolhas e gastos. São muito utilizados pela publicidade e podem quase determinar as nossas escolhas, como nas eleições políticas, ou no que pensamos sobre determinados temas morais. Por isso, a lógica dos algoritmos pode gerar uma espécie de “ditadura do algoritmo”. De forma que “não é suficiente presumir, por parte de quem projeta algoritmos e tecnologias digitais, um empenho por agir de modo ético e responsável. É preciso reforçar ou, se necessário, instituir organismos encarregados de examinar as questões éticas emergentes e tutelar os direitos de quantos utilizam formas de inteligência artificial ou são influenciados por ela”.
Desse modo, “a imensa expansão da tecnologia deve ser acompanhada por uma adequada formação da responsabilidade pelo seu desenvolvimento. Mas aqui há um problema: isso é tarefa primeira dos desenvolvedores dessas tecnologias, mas também dos usuários. E aqui a dificuldade é imensa: como podemos exigir que crianças e adolescentes usem as inteligências artificiais com responsabilidade ética, se elas ainda não entendem o que é isso e não foram formadas para isso? Elas deveriam ser afastadas desse tipo de tecnologia, como defendemos previamente também em relação aos telefones móveis e a boa parte dos conteúdos internet, até que tenham uma sólida maturidade humana e moral.
A Mensagem diz que “a liberdade e a convivência pacífica ficam ameaçadas, quando os seres humanos cedem à tentação do egoísmo, do interesse próprio, da ânsia de lucro e da sede de poder”. E é possível comprovar que os desenvolvedores dessas tecnologias não estejam agindo exatamente desse modo? A Mensagem diz que “temos o dever de alargar o olhar e orientar a pesquisa técnico-científica para a prossecução da paz e do bem comum, ao serviço do desenvolvimento integral do homem e da comunidade”. Outra opção seria a de impedir o seu desenvolvimento, enquanto os desenvolvedores não tiverem um elevado padrão ético.
