Na altura em que Fórum Económico Mundial anuncia que a desinformação potenciada pela inteligência artificial (IA) lidera os riscos que a humanidade enfrenta nos próximos dois anos, Stephanie Hare, autora do bestseller "A Tecnologia Não é Neutra", alerta que os dados podem ser autênticas armas e recorda que já o foram no passado.

A investigadora vai estar em Portugal como "keynote speaker" num evento do Negócios sobre governação sustentável, que se realiza em Cascais, a 24 de janeiro.

Formada em História e com um percurso profissional na área da tecnologia, a americana residente em Inglaterra cruza as duas valências e chama à atenção para os perigos à espreita. Recorda que os dados pessoais já foram usados como arma durante a Segunda Guerra Mundial, tendo levado à morte milhares de pessoas. Ao fazer um doutoramento em História em França, verificou que "a recolha de dados pessoais levou a crimes contra a população judaica, mas também nas colónias francesas de Marrocos, Tunísia e Argélia. A polícia francesa manteve registos muito detalhados de todos. Portanto, estes não são conceitos abstratos". E acrescenta: "Se a inteligência artificial ou o reconhecimento facial existissem na altura teria sido muito pior. França deportou 76 mil judeus para a morte. Mas não só.

Muitos outros foram deportados e também morreram por causa da sua posição política ou sexual. Não se sabe muito disto fora de França. Podemos imaginar quantas mais pessoas teriam sido mortas com inteligência artificial. Podemos transformar os dados em armas com a inteligência artificial".

A investigadora salienta ainda que a gestão de dados "é uma questão democrática", pois "se as pessoas não souberem que dados seus estão a ser recolhidos e como são usados, e se não gostarem, quem é que responsabilizam? Podem levar alguém a tribunal? Podem ir ao regulador? Como é que lutamos contra isso?".

Stephanie Hare destaca que o desenvolvimento da IA também parte de uma base errada, pois "o preconceito e a discriminação já estão codificados no sistema". E explica com o "famoso exemplo" ocorrido na Amazon: "Criaram um robot de recursos humanos com IA que foi treinado com base em todos os CV de pessoas contratadas com sucesso anteriormente pela Amazon. O problema é que todos os CV que utilizaram para treinar o algoritmo eram de homens brancos. Basicamente, a IA aprendeu a não contratar mulheres. Mas eles não sabiam disto e durante cinco anos usaram a solução".

Estes são apenas alguns riscos que a regulação ajudará a combater. Segundo Hare, a Lei da IA da União Europeia, votada e aprovada em dezembro último, "não vai resolver tudo, mas é um bom começo. As empresas terão orientação sobre o que precisam de fazer para permanecer em conformidade com a lei." E acrescenta: "Temos de começar por algum lado, e este é o melhor começo que temos neste momento em qualquer parte do planeta. A Europa está a liderar a regulamentação da IA neste momento".

A investigadora defende também que são necessários auditores algorítmicos, ou seja, "pessoas que auditam conjuntos de dados tal como se audita as contas de uma empresa", de forma a dar o aval para a sua utilização de forma justa.

Inteligência artificial aliada do ESG

Do outro lado da moeda estão os inúmeros benefícios que a inteligência artificial pode trazer à sociedade em geral e às empresas em particular. Nomeadamente, a IA pode integrar soluções com fins ambientais, em prol de um mundo mais justo ou para melhorar a governação das empresas, facilitando o alcance dos objetivos ESG (ambiental, social e governação, na sigla em inglês). "Podemos usar a IA de forma muito criativa na cadeia de valor, pode-se usar a IA para descobrir a eficiência energética ou para identificar oportunidades de sustentabilidade", sublinha a investigadora. Porém, "a questão é que não acho que estejamos a usar a IA muito bem para esse propósito. Parece ótimo em teoria, mas como fazer isso? Que dados usar?", questiona, salientando que "é realmente difícil se a empresa tiver uma cadeia de abastecimento muito complicada ou se tiver de lidar com países onde há trabalho infantil e que tendem a ser pouco transparentes".

O acesso aos dados é, assim, essencial para se poder tirar partido das potencialidades da inteligência artificial a favor da sustentabilidade. Hare defende, por exemplo, o acesso pelos pesquisadores aos dados de satélite que os Governos possuem. "Poderíamos ver quem são os maiores infratores e em que parte do planeta. Mas também poderíamos ver quem está a ir muito bem e perguntar como o estão a fazer. Então, poderíamos promover coisas boas e corrigir coisas ruins", exemplifica.

No campo da sustentabilidade, a inteligência artificial traz outro revés: é uma ávida consumidora de energia. "Imagine que todas as empresas querem usar a IA nos seus negócios. Eles sabem quanta energia a inteligência artificial consome? Aposto que não", assinala Stephanie Hare, esclarecendo que "a IA generativa consome de 100 a 1.000 vezes mais energia do que uma pesquisa no Google. Usar o ChatGPT tem um impacto energético enorme e a maioria das pessoas não sabe disso. Por cada interação maravilhosa com o ChatGPT é meio litro de água que se gasta para arrefecer o sistema".

Então, esta pegada elevada vai atrasar a adoção da inteligência artificial? "Não creio que vá atrasar em nada", salienta, referindo que "gostaria que a IA fizesse parte da solução". Porém, acrescenta: "Penso que a própria IA precisa de se tornar sustentável e gostaria de a ver ser usada para tornar as coisas tão sustentáveis quanto possível".

A questão base, tal como defende no seu livro "A Tecnologia Não é Neutra: Um Breve Guia de Ética Tecnológica", selecionado como um dos melhores livros de 2022 pelos leitores do Financial Times, é saber como maximizar os benefícios e minimizar os danos da tecnologia, "e essa é uma pergunta para todos nós, sejamos um especialista em tecnologia, consumidor, pai, professor ou político".