Em dezenas de países por todo o mundo, dos Estados Unidos à Índia, irá haver ou já houve eleições em 2024. Apesar de este poder parecer um bom ano para a democracia, as eleições decorrem num contexto de instabilidade económica global, de mudanças geopolíticas e de agravamento das alterações climáticas, que originam uma incerteza generalizada.

A sustentar toda esta incerteza está a rápida emergência de tecnologias novas e potentes, sendo que algumas já estão a reconfigurar os mercados e a recalibrar a dinâmica global do poder. Embora tenham potencial para resolver problemas globais, também podem desestabilizar economias, comprometer liberdades civis e prejudicar a governação democrática. Como observou Thierry Breton, o comissário da União Europeia para o mercado interno, "iniciámos uma corrida global onde o domínio das tecnologias é central" para navegar na "nova ordem geopolítica".

Na verdade, a disrupção tecnológica não é um fenómeno novo. O que distingue as tecnologias emergentes do presente é que atingiram um ponto em que até os seus criadores se debatem para compreendê-las.

Consideremos, por exemplo, a inteligência artificial generativa. Os mecanismos específicos através dos quais os grandes modelos linguísticos como o Gemini (anteriormente conhecido como Bard) da Google e o ChatGPT da OpenAI geram respostas às solicitações dos utilizadores ainda não são inteiramente compreendidos, mesmo pelas pessoas que os desenvolveram.

O que sabemos é que a IA e outras tecnologias em rápida evolução, como a computação quântica, a biotecnologia, a neurotecnologia e as tecnologias de intervenção climática, estão todos os dias a tornar-se cada vez mais poderosas e influentes. Apesar dos escândalos e das consequências políticas e regulamentares dos últimos anos, as grandes empresas de tecnologia ainda são as maiores empresas do mundo e continuam a moldar as nossas vidas numa miríade de formas, para o melhor e para o pior.

Além disso, durante os últimos 20 anos, um punhado de gigantes tecnológicos investiu fortemente em desenvolvimento e aquisições, reunindo riqueza e talentos que as capacitam no sentido de captarem novos mercados antes que apareçam potenciais concorrentes. Esta concentração de poder de inovação permite que estes poucos intervenientes mantenham o seu domínio sobre o mercado – e que ditem as regras sobre a forma como as suas tecnologias são desenvolvidas e usadas por todo o mundo. As entidades reguladoras têm-se debatido para estabelecer salvaguardas sociais para tecnologias cada vez mais potentes e complexas, e a disparidade de conhecimentos entre o setor público e o setor privado está a aumentar.

Por exemplo, além de desenvolverem vacinas e sistemas de identificação precoce para rastrear a propagação dos vírus, os bioengenheiros estão a desenvolver novas ferramentas para construir células, organismos e ecossistemas no sentido de obterem novos medicamentos, colheitas e materiais. A Neuralink está a desenvolver testes com implantes de chips nos corpos de pessoas com incapacidade, e a melhorar a velocidade à qual os humanos comunicam com os sistemas, através da interação direta cérebro-computador. Entretanto, os engenheiros quânticos estão a desenvolver supercomputadores que poderão decifrar os sistemas de encriptação existentes, essenciais para a cibersegurança e para a privacidade. Depois temos os tecnólogos do clima, que estão cada vez mais abertos a opções radicais para diminuir o aquecimento global, apesar da escassez de investigação concreta sobre os efeitos secundários de intervenções globais, como a gestão da radiação solar.

Embora estes desenvolvimentos sejam muito promissores, a sua aplicação pode originar danos irreversíveis. O efeito desestabilizador das redes sociais não regulamentadas sobre os sistemas políticos durante a última década é disto um exemplo perfeito. Da mesma forma, na ausência de salvaguardas adequadas, as inovações da biotecnologia que hoje saudamos podem amanhã libertar novas pandemias, seja por fugas acidentais de laboratórios ou por militarização deliberada.

Independentemente do nosso entusiasmo pelas possibilidades da inovação tecnológica ou da nossa preocupação com os riscos potenciais, as características únicas, o poder empresarial e a escala global destas tecnologias requerem supervisão e barreiras de proteção. O imenso poder e o alcance global destas empresas, aliados ao potencial para utilização indevida e consequências involuntárias, sublinham a importância de garantir que estes sistemas influentes sejam usados de formas responsáveis e que beneficiem a sociedade.

Neste caso, os governos enfrentam uma tarefa aparentemente impossível: têm de supervisionar sistemas que não são inteiramente compreendidos pelos criadores, ao mesmo tempo que tentam também prever inovações futuras. Para navegarem por este dilema, os decisores políticos têm de aprofundar a sua compreensão quanto à forma como estas tecnologias funcionam e ao modo como interagem.

Para este efeito, os reguladores têm de dispor de acesso a informações independentes. À medida que o capital, os dados e o conhecimento se tornam cada vez mais concentrados nas mãos de algumas corporações, é essencial garantir que quem toma as decisões consegue aceder a experiência orientada para políticas que lhes permita desenvolver regulamentações baseadas em factos e adequadas ao interesse público. Os líderes democráticos precisam de experiência orientada para políticas sobre as tecnologias emergentes, e não de enquadramentos desenvolvidos por lobistas.

Depois de adoptar uma série de leis importantes como a Lei da IA nos últimos anos, a UE ocupa uma posição única para governar as tecnologias emergentes, assente num sólido primado do direito em vez de servir os lucros corporativos. Mas, em primeiro lugar, os decisores políticos europeus têm de acompanhar os últimos avanços tecnológicos. Chegou a hora de os decisores da UE se anteciparem à próxima evolução. Têm de se instruir sobre o que acontece precisamente na linha da frente. Esperar até que sejam introduzidas novas tecnologias no mercado é esperar demasiado.

Os governos têm de aprender com os desafios do passado e de liderar ativamente a inovação tecnológica, dando prioridade aos princípios democráticos e ao impacto social positivo em detrimento dos lucros da indústria. Com a ordem mundial sob pressões cada vez maiores, os líderes políticos têm de olhar para além das urnas eleitorais e concentrar-se na atenuação dos riscos de longo prazo representados pelas tecnologias emergentes.

Marietje Schaake, ex-membro do Parlamento Europeu, é diretora de Políticas Internacionais no Centro de Ciberpolíticas na Universidade de Stanford e responsável pela prática de Governação de Tecnologias Emergentes no International Center for Future Generations. Steven Schuurman, co-fundador e antigo CEO da Elastic, é co-fundador do International Center for Future Generations.

Direitos de autor: Project Syndicate, 2024.
www.project-syndicate.org