Silicon Valley não pode ignorar que a ética faz parte da inovação

“No fundo, Silicon Valley está cheio de pretensos idealistas, socialmente estranhos, que trabalham obsessivamente durante longas horas e que estão convencidos que só eles estão certos e o resto do mundo está errado”
Mellissa Schilling, professora de Gestão na Stern School of Business e autora de Quirky: The Remarkable Story of the Traits, Foibles, and Genius of Breakthrough Innovators Who Changed the World

Em 2017, Franklin Foer, ex-editor da revista The New Republic e actualmente jornalista na revista The Atlantic, escreveu o livro World Without Mind: The Existential Threat of Big Tech, o qual alertava para uma “ameaça existencial” protagonizada pelas quatro gigantes tecnológicas – Google, Amazon, Facebook e Apple (esta última a menos perniciosa, a seu ver), as quais foram igualmente responsáveis por uma total revolução no que respeita a quem controla o conhecimento e a informação, entre outras coisas.

Todavia e apesar de estas empresas terem realmente revolucionado a forma como fazemos compras, socializamos e encontramos informação, tornando as nossas vidas muito mais fáceis, pelo caminho foram também corroendo a nossa autonomia e individualidade, sendo esta a tese principal do livro de Foer.

E, apesar de diabolizar exageradamente os “fins” dos quatro titãs da tecnologia, em alguns casos Foer não deixa de ter razão. O que a princípio parecia ser o melhor do mundo, acabou por nos influenciar mediante formas subtis e sem preocupação aparente sobre um conjunto variado de questões éticas. Como afirmou o autor numa longa entrevista, “se considerarmos os dados como um raio x da nossa alma, é uma janela para as nossas mentes que está nas mãos dessas empresas. E é um raio x extremamente poderoso para se ter na mão porque quantomais se ‘compreende’ alguém, mais fácil é manipulá-lo”.

O livro de Foer estava praticamente terminado quando vieram a lume as notícias sobre a suposta ligação da Rússia com a equipa que trabalhou na campanha de Trump para as eleições americanas de 2016, o que o obrigou a fazer alguns acrescentos. Mas e na verdade, alguns dos temas que fizeram manchete em 2017 e agora em 2018, serviram-lhe de análise antecipada: o que o jornalista defende é que à medida que estas empresas se foram expandindo, assumindo-se a si mesmas como as campeãs da individualidade e do pluralismo, os seus algoritmos levaram-nos à conformidade e à destruição da nossa privacidade. Por um lado, “produziram uma cultura instável e estreita de desinformação que nos colocou num caminho para um mundo sem contemplação, pensamento autónomo ou introspecção solitária. Um mundo sem mente”, pode ler-se no livro. Por outro, e apesar de as suas tecnologias constituírem um “monumento à criatividade humana”, acabaram “por se colocar entre nós e a realidade, funcionando como um poderoso filtro para chegarmos às notícias e à informação”.

Uma outra ideia reflectida no livro de Foer tem a ver com o conceito de “rede”, o qual define como “o maior fetiche de Silicon Valley”, traduzido por uma procura incessante de colectivismo. Para o autor e jornalista, a ideia obsessiva para a criação de uma espécie de consciência global acabou por abafar completamente o individualismo. E esse colectivismo que funcionava como um ideal – a rede que conecta e une todos igualitariamente – acabou por se transformar numa luta sem tréguas para ganhar dinheiro, ou não sejam todos os fundadores e CEOs destes gigantes detentores de algumas das maiores fortunas do mundo.

Mas o maior problema é que o seu crescimento desmesurado não foi acompanhado por normas éticas adequadas e essa é uma preocupação que, finalmente, parece estar a ocupar a mente dos responsáveis pela formação da próxima geração de cientistas de computação. De acordo com a Code.org, cerca de meio milhão de alunos deverão ser treinados, pelas grandes universidades de tradição tecnológica, na mais óbvia disciplina que deve acompanhar qualquer disrupção civilizacional: sim, a ética está já e vai passar, de forma crescente, a constar dos currículos de instituições de ensino como Harvard, o MIT, a Universidade de Stanford, entre outras, numa tentativa de se evitar os mesmos erros que, até agora, têm manchado a reputação de Silicon Valley. Mas tal não será tarefa fácil no ecossistema tecnológico mais famoso do mundo.

A alma perdida do Vale

Faz do mundo um local melhor. Não causes mal algum. Não provoques danos. Move-te depressa. ‘Quebra’ coisas. Falha depressa, falha muitas vezes.

Estes são alguns dos mantras (que soam muito melhor em inglês, sem dúvida) que têm acompanhado, desde há muitas décadas, o famoso Silicon Valley (SV), sede das grandes empresas de tecnologia e de inúmeras start-ups. E, depois da novela sem fim à vista protagonizada pelo Facebook e pela Cambridge Analytica, o Vale tem mais um mantra: desenvolve primeiro e pede desculpas depois.

Afogados que estamos em notícias sobre o infeliz comportamento da maior plataforma social online, não é nossa pretensão escavar mais sobre o assunto e apontarmos o dedo à tremenda ausência de ética que envolve todo o caso. Mas, e face aos muitos erros que os actores de SV têm cometido ao longo dos últimos anos – disseminação de desinformação, as famosas fake news, brechas de segurança sem limites, a venda de dados privados sem o consentimento dos consumidores, a actividade não controlada por redes de propaganda, assaltos à privacidade e à democracia, proliferação de discursos de ódio, entre um sem número de outros delitos – a confiança do público começa a sofrer uma enorme erosão face àquele que foi durante muito tempo encarado como o berço de ideias para um sociedade mais justa, livre, conectada, virtuosa e até altruísta.

A confiança digital tem sofrido alguns abalos, mas o caso do Facebook veio provocar um inevitável terramoto e despertar muitas pessoas, pela primeira vez, para a morte da privacidade, visto que os nossos dados são utilizados para finalidades que conhecemos e consentimos, mas também para uma miríade de outros inimagináveis fins. Mas e na verdade, a questão da privacidade é apenas um lado da ausência de ética que caracteriza os grandes gigantes tecnológicos, os quais começaram por nos fazer apaixonar pelas suas ferramentas e serviços – fazemos compras da forma mais conveniente na Amazon, socializamos alegremente no Facebook e confiamos plenamente no Google quando precisamos de qualquer que seja a informação – mas que agora parecem saber mais sobre as nossas preferências do que nós mesmos, contribuem para isolar em vez de unir, dificultam o pensamento livre, entre outros efeitos colaterais com os quais – e sem dúvida – pactuamos.

Adicionalmente, não nos podemos esquecer que Silicon Valley e os gigantes que o habitam sempre gostaram de se assumir como uma força para o bem. Mas parece ter chegado a altura em que as evidências começam a mostrar o contrário.

Numa extensa reportagem realizada pela revista Fortune em 2016 exactamente sobre o clima de ausência de ética que parece pautar SV – com inúmeros exemplos de start-ups mal comportadas, referia-se que apesar de nenhuma indústria ser imune à fraude, “Silicon Valley sempre se viu a si mesma como uma excepção virtuosa, um local onde nerdsaltruístas toleram o capitalismo só para fazerem do mundo um local melhor. De repente, o Vale está tão desonesto e ganancioso como o resto do mundo dos negócios”.

Os observadores da indústria afirmam também que se alguns fundadores se transformam em bons CEOs, o mesmo não acontece com muitos outros, o que acaba por ser um subproduto da própria cultura de Silicon Valley, onde toda a gente idolatra os engenheiros, os designers e os inventores enquanto os gestores são relegados para segundo plano e não são respeitados. “Temos uma epidemia de má gestão”, afirma um partnerde uma empresa de capital de risco citado no mesmo artigo da Fortune, acrescentando também que o que faz o mau comportamento mais provável é o facto de as pessoas serem jovens e inexperientes. E, sublinha, quando se dá a pessoas inexperientes o controlo de gigantescas pilhas de dinheiro, lhes dizem que a tradição é para ser ignorada, que quebrar as regras é “normal” no “seu” ambiente de criatividade e singularidade, não é difícil imaginar o que pode acontecer a seguir.

Uma apreciação similar faz o The New York Times sobre o “caminho escorregadio” do Vale e das empresas ali sedeadas. “Enquanto qualquer que seja a indústria se confronta com dilemas morais, Silicon Valley é uma outra órbita. O dinheiro que se ganha na tecnologia é colossal; os mais bem pagos actores de Hollywood, por exemplo, recebem menos do que engenheiros do nível mais baixo durante uma oferta pública inicial [IPO, na sigla em inglês] de uma empresa de tecnologia”, assegura. E refere também o facto de muitas das start-ups serem, geralmente, geridas por “miúdos-maravilha” que não têm a experiência de vida necessária para perceber que a suas acções podem ter consequências severas, sendo que estes jovens fundadores (que cresceram a idolatrar Steve Jobs) estão mais preocupados em ganhar do que em qualquer outra coisa.

Mark Zuckerber, do Facebook, ou Larry Page e Sergey Brin, da Google, já foram “miúdos-maravilha”, sim, mas entretanto cresceram. E dado a importância sobredimensionada que a indústria da tecnologia tem na actualidade, é tempo de enfoque nas responsabilidades éticas para os tecnologistas que, em grande parte, moldam uma enorme extensão das nossas vidas.

Universidades finalmente determinadas em “instilar” ética na tecnologia

“Existe um coro crescente de vozes que argumenta que precisamos de um código de ética para os tecnologistas. Isso pode ser o início, mas precisamos de muito mais do que isso”. Quem o afirma, num artigo publicado na revista de The Atlantic, é Irina Raicu, directora do programa de Ética e Internet no Markkula Center for Applied Ethics, da Universidade de Santa Clara, que há mais de 30 anos se debruça sobre o relacionamento entre as duas disciplinas. Para a responsável, se a tecnologia nos pode moldar, e se são estes especialistas que moldam as tecnologias, então parece óbvio exigir algum nível de formação em ética para os mesmos. Todavia, defende, “essa formação não deveria ser limitada ao contexto académico, sendo que a componente de formação em ética deveria ser também incluída no curriculum de qualquer ‘developer bootcamp” e até no processo de integração quando as empresas de tecnologia contratam novos empregados”.

E, pelo menos no que respeita às universidades, essa formação começa a existir, com tendência para crescer nos próximos anos. Como notícia o The New York Times, e já este semestre, a Universidade de Harvard e o MIT estão a oferecer, em parceria, um novo curso sobre ética e regulação da Inteligência Artificial. O mesmo está a fazer a Universidade de Austin, com uma outra oferta intitulada Fundamentos Éticos da Ciência da Computação. E, na Universidade de Stanford, está igualmente a ser preparado um curso de ética na ciência computacional o qual deverá estar acessível já no próximo ano lectivo.

A medida é de louvar e como se pode ler no artigo em causa, esta nova aposta curricular serve para formar a nova geração de cientistas da computação com o objectivo de “se considerarem as ramificações das inovações – como as armas e os veículos autónomos – antes de estes produtos serem comercializados”. Uma outra razão prende-se com a popularização de ferramentas inteligentes – como as de machine learning – que podem alterar significativamente a sociedade e cujas potenciais consequências deverão ser compreendidas e abordadas pelos estudantes.

Todavia, e para além da urgência de respostas e abordagens para o conjunto gigantesco de questões morais que se colocam na nova era das máquinas inteligentes, outros temas éticos e comuns a todas as indústrias não podem também ser esquecidos, na medida em que se aplicam igualmente a este poderoso sector.

Como escrevem Kirk Hanson e A.C. Markkula Jr., ambos professores no já citado  Markkula Center for Applied Ethics, as questões centrais [inerentes à ética nos negócios] não mudam: qual a acção que promove maior bem e menor mal; que tipo de escolha respeita o direito de todos; qual a decisão mais justa para todos os afectados; que acção mais contribui para o bem comum; e que decisões vão ao encontro das virtudes da vida humana, como a honestidade, o cuidado com o outros, a transparência e a responsabilização?

Se por exemplo o Facebook tivesse reflectido nestas questões, poderia ter evitado a gigantesca confusão em que hoje está metido. Mas, e acrescentam os professores, a indústria da tecnologia enfrenta uma série interminável de escolhas éticas, as quais incluem pelo menos as seguintes perguntas. Como devemos competir e ganhar sem comprometer os nossos valores morais básicos? Como devemos trabalhar de forma justa com os nossos parceiros de negócio? Como devemos tratar os empregados num ambiente de trabalho cheio de pressão e em rápido movimento? De que forma é que podemos descrever, honestamente, as características e capacidades dos nossos produtos? E como devemos abordar as questões éticas quando estamos a decidir lançar determinado produto?

Quando se fala numa “série interminável de escolhas éticas” com que se confrontam as empresas de tecnologia, nós, meros humanos receptores dos seus produtos e serviços, não fazemos mesmo ideia de quantos domínios das nossas vidas podem ser afectados pela imparável inovação tecnológica. Quase que não seria exagero afirmar “todos”.

Se pensarmos que estão já a ser utilizados algoritmos que ajudam a automatizar processos de contratação nas empresas ou de admissão nas universidades, como se lida com este tipo de tecnologias que podem mudar o destino de uma pessoa?

No Outono passado, a Universidade de Cornell abriu um curso, optativo, intitulado Ethics and Policy in Data Science, exactamente com o objectivo de ajudar os estudantes a reconhecer onde e porquêsurgem questões éticas na aplicação da ciência dos dados aos problemas do mundo real. As implicações para a privacidade, como determinar a justiça na tomada de decisão e como avaliar as consequências dessa mesma decisão são outros temas abordados.

Um outro sinal de que o poder da tecnologia está a ir bem mais além do que poderíamos imaginar – sendo por isso necessário abrandá-lo – é reflectido no Accreditation Board for Engineering and Technology (ABET), o organismo responsável por fazer a acreditação dos programas académicos de ciência engenharia informática nos Estados Unidos, que pela primeira vez na sua história lista alguns requisitos relacionados com a ética na tecnologia: por exemplo, “uma compreensão das questões e responsabilidades éticas, legais, profissionais, sociais e de segurança” e uma “capacidade para analisar o impacto local e global da computação nos indivíduos, nas organizações e na sociedade”.

Como afirma, no artigo acima citado do The New York Time, Lara Norén, uma bolseira pós-doutorada no Center for Data Science na Universidade de Nova Iorque, que também iniciou um curso sobre ética aplicada à ciência dos dados, “pelo menos precisamos de ensinar às pessoas que existe um lado negro no [mantra] move-te depressa e quebra ‘coisas’”. É que e como remata, é possível remendar um software, mas não é possível remendar uma pessoa, caso a sua reputação seja prejudicada”.