Dez dilemas éticos para 2018

Foi com o objectivo de pôr a população a pensar na tecnologia potencialmente controversa que o Centro John J. Reilly para a Ciência, Tecnologia e Valores, da Universidade de Notre Dame (UND) criou a sua lista dos Dez Dilemas Éticos na Ciência e na Tecnologia, para 2018. Na sexta edição, esta lista foi elaborada por alunos, professores da UND e especialistas na área das novas tecnologias, e revela que muitas destas invenções já estão a ser implementadas ou estão em vias de implementação, embora nunca tenham sido alvo de um grande debate.

Em muitos dos casos, mais do que se questionar se alguém deveria ter criado aquele produto, pergunta-se agora se o mesmo deve ser utilizado, e em que medida. Os autores da lista alertam para o facto de a mesma não pretender causar o pânico mas sim promover o debate e chamar a atenção para aquilo que, através de variadas formas, vai fazendo parte do dia-a-dia de muitos cidadãos e que pode ter mais desvantagens do que vantagens.

O Centro Reilly procura explorar, de diversas perspectivas, variadas questões tecnológicas, políticas e éticas que fazem parte da sociedade, promovendo o avanço da ciência e da tecnologia para o bem-comum e demonstrando a importância das humanidades e da existência de um pensamento crítico, nestas áreas.

[su_youtube url=”https://www.youtube.com/watch?v=8yW3VEOjsl0″ width=”660″ height=”220″]

HELIX

O primeiro dilema apresentado pela UND tem o nome de Helix. Trata-se de uma app que, com base numa cópia do genoma humano de cada pessoa, mais do que descobrir a sua ascendência e genealogia, optimiza a sua mente e o seu corpo, preparando-a para o futuro. A partir de um simples smartphone esta aplicação dá ao utilizador todas as informações que este sempre quis saber sobre si próprio e diz-lhe quais são, por exemplo, as pessoas, os objectos e os lugares que melhor combinam com a sua personalidade. Se a sua utilização for feita com base na mera curiosidade acerca da ancestralidade de cada um, não parece existir grande problema. Contudo, esta app suscita diversas questões que devem ser ponderadas e para as quais não existe uma resposta. “Como é que sabemos que o diagnóstico é feito de forma correcta?”, “de que modo é que a mesma pode mesmo melhorar a vida humana?”, e “como é que esta vai ser monitorizada?” são algumas das perguntas que é necessário fazer e sobre as quais todos devemos reflectir.

ROBOT PADRE

O robot Padre é o segundo dilema apresentado pela Universidade de Notre Dame. Chama-se BlessU-2 e os autores da lista afirmam que foi criado para ser controverso, conseguindo espalhar bênçãos em cinco línguas ao mesmo tempo que move os braços. Uma versão semelhante existe também na cultura budista, através de um monge robot denominado Pepper. Religiões à parte, importa questionar se uma máquina terá, algum dia, a capacidade de celebrar funerais e outras cerimónias religiosas, substituindo os humanos neste tipo de funções – como é o desejo dos criadores do BlessU-2. E se existem pessoas que consideram que, tratando-se da realização de actividades como fazer confissões, aprender doutrina e cantar cânticos religiosos, não sentirão uma grande diferença entre estarem perante uma pessoa ou um robot, também existem outras para quem esta hipótese é tão estranha que nem se coloca.

EMOTION-SENSING FACIAL RECOGNITION

O Emotion-Sensing Facial Recognition é o terceiro dilema e pretende explorar o quão irritadas as pessoas estão enquanto fazem compras ou frequentam um restaurante, por exemplo, permitindo que as empresas possam agir de modo a melhorar a experiência dos consumidores. Assim, os funcionários podem adaptar o modo como abordam os clientes, indo mais facilmente ao encontro das suas necessidades. E quem é que diz às empresas que vão comprar esta tecnologia que os seus clientes aceitam que as suas emoções sejam analisadas? Será que este sistema é mesmo fidedigno e consegue ler com precisão o estado de espírito dos cidadãos? Será que as empresas vão conseguir manipular os seus clientes, por terem acesso a mais informação acerca dos mesmos? Estas são algumas das questões que se colocam e merecem uma forte reflexão.

RANSONWARE

O próximo engenho controverso chama-se Ransomware e é uma espécie de vírus que entra nos computadores – tanto de empresas como de particulares – e encripta todos os dados e ficheiros, impossibilitando o seu acesso, até que algumas contas sejam pagas. É evidente que cada um deve saldar as suas dívidas, mas neste caso questiona-se se este será mesmo o meio mais correcto, principalmente porque se trata de uma acção que, de tão simples e vulgar que se tornou, pode ser realizada por qualquer pessoa que se dedique ao tema, sem ser necessário recorrer a peritos informáticos. Curioso também é que já existem diversos programas que podem ser instalados nos sistemas operativos com o objectivo de barrar a entrada de tecnologias invasivas como esta. E os autores da lista deixam um aviso: “se pensa que não precisa de se preocupar, lembre-se que os autores destes ataques já se infiltraram em contas bancárias e registos médicos, um pouco por todo o mundo”.

[su_youtube url=”https://www.youtube.com/watch?v=dyDzF4lJkOs” width=”660″ height=”220″]

TEXTALYZER

O Textalyzer é outro dilema que, acreditamos, não deixa ninguém indiferente. Trata-se de uma nova ferramenta que informa a polícia se o condutor estaria a usar o telemóvel antes de ocorrer um acidente. Promover uma condução segura e diminuir o número de pessoas que falam ao telefone, enviam mensagens e navegam na internet enquanto conduzem é o principal objectivo desta tecnologia. A ideia é simples: os polícias instalam o Textalyzer no telemóvel do condutor e passam assim a ter acesso ao histórico recente daquele aparelho. E se os seus autores asseguram que os polícias não podem aceder aos conteúdos – sendo disponibilizada apenas informação sobre as horas e o tempo de duração da utilização –, os mesmos também garantem, contudo, que os agentes ficam a saber que apps o condutor tinha activas nos momentos anteriores ao acidente, o que revela ser uma autêntica invasão da privacidade daquele cidadão. Os autores da lista afirmam que, apesar de controverso, este sistema pode ser um modo de prevenir acidentes de viação causados pela utilização – indevida – de aparelhos tecnológicos. A pergunta que se impõe é: será esta a única via?

SOCIAL CREDIT SYSTEMS

Estando a ser desenvolvidos na China, os Social Credit Systems são sistemas que reúnem informação de pessoas e organizações acerca dos seus hábitos de consumo, cartões de crédito, comportamento nas redes sociais, interacção com amigos e outras coisas que podem aumentar ou diminuir a sua reputação junto dos demais, através de uma pontuação. Neste sentido, as pessoas e as empresas que obtém melhores pontuações são aquelas que têm as maiores probabilidades de fechar um negócio ou conseguir ocupar uma vaga de trabalho numa empresa, e as que têm menos pontos são deixadas para trás. Se este fosse um mecanismo que auxiliasse, meramente, as organizações a escolher os colaboradores mais eficientes, não se assumia como um dilema. O problema é que, caso seja implementado no futuro, o mesmo será utilizado em todos os momentos da vida da população, determinando quem é que poderá frequentar determinado restaurante ou até com que pessoas nos deveremos relacionar. Trata-se, então, de transparência social ou de uma forma de controlo e manipulação de comportamentos?

[su_youtube url=”https://www.youtube.com/watch?v=JXh1yyvXpwo” width=”660″ height=”220″]

GOOGLE CLIPS

À primeira vista, a Google Clips – que é o sétimo dilema – parece uma pequena e inofensiva câmara de filmar com sistema de mãos-livres. E até poderá ser. A mesma foi criada para que os seus utilizadores possam vigiar os filhos pequenos ou os animais de estimação enquanto se ausentam de casa, tirando fotografias– “lindas e espontâneas”, como referem os seus inventores – das suas caras através de reconhecimento facial, em que a câmara acompanha os movimentos da criança ou do animal, e guardando-as num cartão de memória, de modo a poderem ser vistas posteriormente. No fundo, a ideia que passa é que esta câmara dá aos utilizadores um conjunto de imagens ternurentas, e os seus criadores garantem que a mesma não reconhece outras feições – de empregadas de limpeza ou babysitters, por exemplo – para além daquelas que foram determinadas pelos utilizadores (que são as das crianças ou dos animais de estimação). Contudo, o problema da falta de privacidade continua a existir, já que esta câmara, embora tenha um objectivo ‘humano’, não deixa de ser um aparelho de vigilância que pode ser utilizado para controlar qualquer outra situação.

SENTENCING SOFTWARE

E por falar em invasão de privacidade, o Sentencing software é outro dilema que dá que falar. Produzido e comercializado por um grupo de norte-americanos, este sistema consegue reunir informação sobre os seus utilizadores e tomar decisões por si, indicando-lhes, por exemplo, qual é a série ou o filme que mais se adequa ao seu estado de espírito, naquele dia. Através de um algoritmo, este mecanismo consegue decidir o futuro próximo de quem o utiliza, analisando o que é melhor naquele determinado dia ou momento. Para os utilizadores mais preguiçosos este poderá ser uma espécie de melhor amigo. Contudo, os especialistas perguntam onde está a linha entre a nossa vida e as bases de dados, e até que ponto é que estas poderão moldar ou determinar as nossas preferências e, em última instância, a nossa vida.

THE RISE OF THE FRIENDBOT

O nono dilema tem algo de desconcertante. Denomina-se The Rise of the Friendbot e dá aos seus utilizadores a possibilidade de, aparentemente, continuarem a trocar mensagens com os seus entes queridos que já faleceram. A sua inventora tinha perdido o melhor amigo e decidiu reunir todas as conversas e informação que existia online, criando depois um mecanismo que imitava o modo de escrever e “pensar” do falecido amigo, dando a sensação de que este continuaria vivo. É claro que cada pessoa faz o luto à sua maneira e ao seu ritmo, mas criar um sistema que imita os comportamentos de alguém, dando a sensação de que essa pessoa não morreu, será o melhor caminho de ultrapassar a saudade? Ou esta tecnologia poderá ser utilizada como uma componente terapêutica? À semelhança do que se verifica nos restantes dilemas, não existe uma resposta, mas a verdade é que, depois deste, têm sido criados outros mecanismos – como impressões em 3D e avatares – que pretendem prolongar (mesmo que de uma forma fictícia) a vida das pessoas.

[su_youtube url=”https://www.youtube.com/watch?v=f9jnYoTo1ag&t=3s” width=”660″ height=”220″]

THE CITIZEN APP

O último dilema chama-se The Citizen App e assume-se como uma ferramenta criada para ajudar cidadãos inocentes a sentirem-se seguros em locais onde a taxa de criminalidade é elevada. Esta app controversa actua como um scanner digital que dá aos utilizadores informações sobre os crimes que ocorreram recentemente ou estão em curso no local onde se encontram, permitindo também filmar os crimes em directo e obter uma resposta rápida da polícia. Promover a segurança pública e diminuir a taxa de criminalidade, a nível mundial, é o seu principal objectivo. Contudo, importa saber se o facto de os cidadãos terem conhecimento, em tempo real, dos diversos crimes vai mesmo acabar com a violência ou vai aumentar ainda mais os conflitos entre grupos. Importa também questionar de que modo se garante a privacidade dos envolvidos nos crimes, tendo em conta que estes não terão tempo de autorizar, ou não, a partilha da sua imagem. Será esta, então, uma ferramenta verdadeiramente útil ou será apenas uma forma de os seus utilizadores partilharem crimes na internet, não contribuindo em nada para a diminuição da criminalidade?

Estes são os dez dilemas éticos na ciência e tecnologia, para 2018, apresentados pelo Centro John J. Reilly para a Ciência, Tecnologia e Valores, da Universidade de Notre Dame. Tão ou mais importante que promover o debate, acerca dos mesmos, junto da comunidade científica, os seus autores pretendem que os mesmos sejam abordados e discutidos também nas empresas, nas salas de aula, em família, e entre amigos, tendo em conta que se trata de apps, softwares e objectos que podem até já fazer parte da vida de muitos cidadãos e que merecem, aos olhos destes investigadores, uma especial atenção.