São 42 os países que adoptaram formalmente, na passada quarta-feira, o primeiro conjunto de políticas orientadoras para a Inteligência Artificial (IA), comprometendo-se a respeitar um conjunto de normas que têm como objectivo assegurar que os sistemas de IA são desenhados para serem robustos, seguros, justos e de confiança. Promovidos pela OCDE, os cinco princípios em causa visam garantir que a IA seja concebida para colocar os interesses das pessoas em primeiro lugar e que os seus desenhadores e operadores sejam responsabilizados pelas suas utilizações. Apesar de não passarem de meras recomendações, é possível afirmar que já é um bom princípio, se bem que possivelmente tardio
POR HELENA OLIVEIRA
[quote_center]“Só podemos ver o futuro a uma curta distância, mas podemos ver o quanto necessita de ser feito até lá chegarmos”, Alan Turing, matemático e cientista computacional[/quote_center]
Os 36 países da OCDE, em conjunto com a Argentina, Brasil, Colômbia, Costa Rica, Peru e Roménia assinaram os Princípios da OCDE para a Inteligência Artificial na reunião ministerial anual daquele organismo que teve lugar em Paris esta semana e submetida ao tema “Potenciar a Transição Digital para o Desenvolvimento Sustentável”. Elaborados conjuntamente por um grupo de especialistas que integrou mais de 50 membros pertencentes a governo, à academia, à sociedade civil, a organismos internacionais, à comunidade tecnológica e a organizações sindicais, o acordo integra cinco princípios valorativos para a implementação responsável de uma IA de confiança e cinco recomendações para as políticas públicas e para a cooperação internacional. O principal objectivo consiste na orientação dos governos, organizações e indivíduos para o desenho e funcionamento dos sistemas de IA de uma forma que coloque os interesses das pessoas em primeiro lugar e que assegure que os designers e operadores destes mesmos sistemas sejam responsabilizado pelo seu funcionamento adequado.
No discurso de apresentação dos Princípios, o secretário-geral da OCDE, Angel Gurria, sublinhou que “a Inteligência Artificial está a revolucionar a forma como vivemos e trabalhamos, oferecendo benefícios extraordinários para as nossas sociedades e economias”. Contudo, acrescentou, “está igualmente a suscitar novos desafios e a fomentar ansiedades e preocupações éticas”. Angel Gurria sublinhou que, desta forma, o ónus deverá ser colocado nos governos para que estes assegurem que os sistemas de IA são desenhados de uma forma que respeite os valores e leis vigentes, para que as pessoas possam ter a certeza de que a sua segurança e privacidade sejam garantidas.
Políticas comuns são imperativas
Contextualizando a necessidade de linhas orientadoras para a adopção de princípios comuns que assegurem o “bom uso” da IA, a OCDE começa por listar os seus benefícios, começando pela dinamização da economia ou a ajuda que pode conferir às pessoas para fazerem melhores previsões e tomarem melhores decisões, seja para um gestor de loja ou um médico numa sala de operações. Adicionalmente, o organismo internacional reconhece que a IA está a facilitar o quotidiano das pessoas, dando o exemplo dos smartphones que a utilizam, por exemplo, para detectar níveis de fadiga enquanto se conduz ou o facto de fornecer dados pessoais de saúde aos seus utilizadores.
Todavia e reconhecendo que este tipo de tecnologias está ainda na sua infância e que muito do seu potencial está ainda por realizar, a OCDE sublinha também que, apesar do optimismo que tem vindo a acompanhar os sistemas de IA, preocupações de ordem variada estão também, e crescentemente, a surgir. Existem questões em torno da sua confiabilidade e robustez, incluindo os perigos de codificação e reforço de preconceitos já existentes – como os relacionados com o género e com a raça – ou a infracção dos direitos humanos e de valores crucialmente importantes como o da privacidade.
Salientando que estamos perante questões globais, a OCDE estima igualmente que na primeira metade de 2018, as start-ups de IA atraíram mais de 12% de todo o investimento privado a nível mundial, com os Estados Unidos e a China na liderança, mas com muitos outros países a acelerarem os seus esforços para os acompanhar.
A OCDE recorda também que esta tecnologia está a levar questões em torno da determinação humana, da segurança e protecção, da responsabilização, do impacto na competitividade e no poder dos mercados. E se é verdade que muitos países estão já a desenvolver políticas nacionais para a IA, a OCDE recomenda vivamente que é necessário trabalhar-se no sentido de soluções comuns para as preocupações existentes.
O documento que oficializa os princípios adoptados reconhece ainda que a IA é disseminada, com implicações globais que estão a transformar as sociedades, os sectores económicos e o mundo do trabalho, com tendência para um impacto ainda maior no futuro. Mesmo tendo o potencial para melhorar o bem-estar das populações, para contribuir para uma actividade económica sustentável e global, para aumentar a inovação e a produtividade e para ajudar a responder a desafios globais prementes, tem também o seu lado negro. Como é sabido, estas transformações podem ter efeitos desiguais no interior e entre sociedades e economias, nomeadamente ao nível das mudanças económicas, concorrência, transições no mercado laboral, desigualdades e implicações para a democracia e direitos humanos, para a privacidade e para a protecção de dados, e para a segurança digital no geral.
Por outro lado, e reconhecendo que a confiança é um facilitador fundamental para a transformação digital e que, apesar da natureza das aplicações e implicações futuras da IA poder ser difícil de prever, a confiabilidade dos sistemas de IA constitui factor chave para a sua difusão e adopção. Desta forma, a OCDE alerta também para a necessidade de um debate público sobre os seus potenciais benefícios, bem como sobre os seus possíveis riscos.
Assim, e dado o rápido desenvolvimento e implementação da IA, a OCDE reconhece a necessidade de um ambiente político estável que promova uma abordagem centrada no humano por parte de uma IA “de confiança”, a qual estimule a pesquise, preserve os incentivos económicos para inovar e que seja aplicada a todos os stakeholders de acordo com o seu papel e contexto.
Como salientou Angel Gurria no seu discurso, os cinco princípios definidos pela OCDE para uma gestão responsável dos sistemas de IA deverão integrar o crescimento inclusivo, o desenvolvimento sustentável e o bem-estar, os valores que coloquem os humanos no seu centro, bem como a justiça, a transparência e a divulgação, a robustez, segurança e protecção e, por último, a responsabilização ou a prestação de contas.
Para os governos, são estabelecidas quatro acções-chave que incluem o investimento na pesquisa e desenvolvimento da IA, a promoção de um ecossistema digital para a IA, a oferta de políticas para a IA, o desenvolvimento das capacidades humanas e a preparação para a transformação do mercado laboral.
Seguem-se os cinco princípios definidos e com os quais se comprometem os 42 países já citados.
Os Princípios para a Inteligência Artificial aos olhos da OCDE
Crescimento inclusivo, desenvolvimento sustentável e bem-estar. Os stakeholders deverão comprometer-se proactivamente com uma gestão responsável de uma IA idónea com vista a resultados benéficos para as pessoas e para o planeta, tal como o aumento das capacidades humanas e melhoria da criatividade, o estimular da inclusão de populações sub-representadas, a redução das desigualdades económicas, sociais e de género e a protecção dos ambientes naturais, por forma a revigorar o crescimento inclusivo, o desenvolvimento sustentável e o bem-estar.
Valores centrados nos humanos e justiça. Os intervenientes em sistemas de IA devem respeitar a lei, os direitos humanos e os valores democráticos ao longo de todo o ciclo de vida dos sistemas de IA. Estes incluem a liberdade, a dignidade e a autonomia, a privacidade e a protecção de dados, a não-discriminação e a igualdade, a justiça, a justiça social e os direitos laborais internacionalmente reconhecidos. Para este fim, os intervenientes devem implementar mecanismos e salvaguardas, tal como a capacidade para a determinação humana, que sejam apropriados ao contexto em causa e consistentes com o seu nível de desenvolvimento.
Transparência e divulgação. Os intervenientes em sistemas de IA devem comprometer-se com a transparência e com a divulgação responsável no que respeita aos mesmos. Para este fim, deverão fornecer informação com significado, apropriada ao contexto e consistente com o avanço tecnológico, nomeadamente para: promover uma compreensão geral dos sistemas de IA; para sensibilizar e informar os stakeholders acerca das interacções com os sistemas de IA, incluindo no local de trabalho; capacitar aqueles que serão afectados por um sistema de IA a perceber o seu resultado e para permitir que os que são adversamente impactados por um sistema de IA possam desafiar o seu resultado com base em informação ampla e de fácil compreensão relativamente aos factores e à lógica subjacente à previsão, recomendação ou decisão em causa.
Robustez, segurança e protecção. Os sistemas de IA deverão ser robustos, seguros e protegidos ao longo de todo o seu ciclo de vida para que, em condições de utilização normal, de utilização previsível ou indevida, ou outras condições adversas, possam funcionar de forma apropriada e não colocarem riscos de segurança inaceitáveis. Para este fim, os intervenientes deverão assegurar a sua rastreabilidade, incluindo a que é relativa aos conjuntos de dados, processos e decisões tomadas ao longo do ciclo de vida do sistema de IA, permitindo uma análise dos seus resultados e respostas apropriados ao contexto em causa e consistentes com o seu nível de desenvolvimento.
Com base nas suas funções, contexto e capacidade para agir, os intervenientes deverão também aplicar uma abordagem de gestão de risco sistemática a cada fase do ciclo de vida do sistema de IA e, numa base contínua, abordar os riscos associados à privacidade, à segurança digital, à protecção e ao enviesamento [preconceitos].
Responsabilização (ou prestação de contas). Os intervenientes em sistemas de IA deverão ser responsabilizados pelo seu funcionamento adequado e pelo respeito aos princípios acima definidos, com base nas suas funções, contexto e consistência com o avanço tecnológico em causa.
Políticas nacionais e cooperação internacional: os deveres dos governos
Como já enunciado, o documento que estabelece os princípios para a boa utilização da IA por parte dos países da OCDE e dos países parceiros que o assinaram integra também recomendações para os seus respectivos governos.
De acordo com o documento, os governos deverão considerar o investimento público de longo prazo, encorajar o investimento privado e fomentar esforços interdisciplinares para estimular a inovação de uma IA idónea que se concentre não só em questões técnicas, mas tendo igualmente em consideração as suas implicações sociais, legais e éticas.
A promoção de um ecossistema digital que permita que tecnologias de IA confiáveis se desenvolvam é também um dos requisitos para os governos, devendo estes incluir tecnologias digitais particulares, bem como infra-estruturas, em conjunto com mecanismos que permitam partilhar o conhecimento resultante do mesmo. Por outro lado, os governos devem igualmente considerar a promoção de outros mecanismos, tais como “fundos” de dados, para apoiar a partilha segura, justa, legal e ética desses mesmos dados.
Aos governos é igualmente recomendado que promovam políticas que apoiem uma transição ágil das fases de pesquisa e desenvolvimento para o estádio de implementação dos sistemas de IA, sendo aconselhável que estes proporcionem ambientes controlados nos quais os sistemas possam ser testados e, quando apropriado, escalados.
Naquele que é talvez o mais urgente passo relacionado com estes rápidos avanços tecnológicos – a transformação do mercado laboral – a OCDE recomenda que os governo trabalhem em estreita cooperação com os stakeholders para se preparem para a inevitável transformação do mundo do trabalho e da própria sociedade. O empowerment dos trabalhadores para utilizarem e interagirem eficazmente com os sistemas de IA, equipando-os com as competências necessárias é um dos principais requisitos. Os passos a serem dados, que devem passar pelo diálogo social, deverão assegurar uma transição justa para os trabalhadores à medida que a IA for sendo implementada, através de programas de formação ao longo da vida, de apoios sociais para os mais afectados pela “deslocalização” e pelo acesso a novas oportunidades no mercado de trabalho.
Os governos deverão igualmente trabalhar em estreita colaboração com os stakeholders para promover a utilização responsável da IA no local de trabalho, para melhorar a segurança dos trabalhadores e a qualidade dos empregos, para estimular o empreendedorismo e a produtividade, tendo sempre em mente o objectivo de assegurar que os benefícios da IA são ampla e justamente partilhados.
Por último, a OCDE insta ainda os governos dos países signatários a cooperarem activamente com outras regiões do mundo, não deixando para trás os países em desenvolvimento, no sentido de partilharem o conhecimento em IA e garantirem que a mesma oferece condições de segurança e idoneidade.
Editora Executiva
