IA preocupa por potencial de 'mudar natureza da guerra', diz diretor do Stimson Center

Senior Fellow e Diretor do Programa de Governança Global, Justiça e Segurança do Stimson Center, Richard Ponzio afirmou em entrevista ao Correio Sabiá no dia 2 de outubro de 2024 que a IA (inteligência artificial) tem uma série de boas aplicações para a humanidade (tanto no fortalecimento de iniciativas existentes quanto em novas formas de promover a paz, a segurança e os direitos humanos), mas sua capacidade de "mudar a natureza da guerra", especialmente com armas de destruição em massa, causa preocupação.

Além do potencial bélico, há também o temor pela distribuição desigual da tecnologia entre os países, pelo poder de ferir direitos humanos e até de interferir em eleições, afetando a autodeterminação de diferentes povos. Por isso, é necessário regular a IA, mas as conversas ainda são iniciais. O Pacto para o Futuro da ONU (Organização das Nações Unidas) já faz referências ao uso dessa tecnologia, e Ponzio propõe a criação de uma agência global e plural para evitar a repetição de erros do passado.

"Há toda uma gama de aplicações positivas, mas o medo é que essa nova tecnologia autônoma possa mudar a natureza da guerra. Se a aplicarmos a armas de destruição em massa, em particular, pode se tornar assustador muito rapidamente", declarou.

Armas autônomas seriam espécies de "robôs assassinos". Ou seja, autonomia e independência para a tecnologia bélica. Isso exigiria, na visão de Ponzio, a necessidade de um tratado global que trate de armas autônomas letais.

• O Stimson Center é um think tank em relações exteriores que promove a segurança internacional e a prosperidade compartilhada por meio de pesquisa aplicada e engajamento global.
• Richard Ponzio é um expert capaz de comentar sobre as melhores práticas de governança e, especialmente, o papel das instituições multilaterais.
• O Pacto para o Futuro é um documento assinado por 187 Estados-membros da ONU, com 56 tópicos de ações para um futuro comum no planeta. Detalhamos nesta reportagem do Correio Sabiá.

Ponzio defende a criação de uma Agência Internacional de IA

Para prevenir os riscos do eventual mau uso da tecnologia, o especialista defendeu o fortalecimento de órgãos multilaterais e até a criação de uma nova entidade, que seria a IA² (International AI Agency, uma Agência Internacional de Inteligência Artificial).

"Precisamos dar um salto em direção a um órgão semelhante ao que criamos nos anos 1950 para regulamentar armas, especificamente armas nucleares. Depois, mais tarde, outras armas de destruição em massa. Esta foi a Agência Internacional de Energia Atômica. Estamos propondo algo semelhante, chamado Agência Internacional de Inteligência Artificial, IA²", disse.

Em relação ao que já temos de concreto, Ponzio detalhou que algumas menções relevantes à IA ocorrem nos capítulos 2 (Paz e Segurança Internacional) e 5 (Transformando a Governança Global) do Pacto para o Futuro. No capítulo 5, fala-se do Conselho de Segurança, da Comissão de Consolidação da Paz e até mesmo da Assembleia Geral.

Já o objetivo nº 5 do Pacto sobre o Futuro trata de aproveitar a IA e as questões de governança de IA para o benefício da humanidade.

Além disso, existe o Pacto Digital Global, que é um item anexo ao Pacto sobre o Futuro (fica exatamente no Anexo I do documento liberado acima para download). É um instrumento-chave.

Obstáculos e desafios a superar

Um obstáculo para fechar acordos sobre IA é que "não há consenso global sobre os tipos de regulamentação", como o próprio especialista admite. Existem muitas visões diferentes sobre um mesmo assunto.

"Estamos, realmente, nos estágios iniciais dessas discussões", disse.

Outra questão é o "medo de que, se dermos um mandato muito forte a qualquer instituição multilateral, isso possa sufocar a inovação e o progresso".

Neste caso, porém, Ponzio diz que, "se essas tecnologias forem bem monitoradas e aproveitadas, suas capacidades são imensas". Ele acrescentou:

"De qualquer forma, você não vai ser capaz de impedir certos países e certas corporações de desenvolvê-las. Pelo contrário. É como a globalização: deveríamos buscar gerenciar melhor a globalização [do que evitá-la]. Precisamos firmar resultados que promovam equidade, justiça social, equilíbrio ambiental".

Mais tópicos sobre IA

1. Interferência em campanhas políticas

A IA leva a interferência em campanhas eleitorais de outros países para um outro nível. Ou seja, influência estrangeira num resultado eleitoral, afetando a autodeterminação de diferentes nações. Seria semelhante ao que já vemos com os bots.

2. Governos autoritários e a vigilância dos cidadãos

Os governos autoritários podem usar essas tecnologias para monitorar seus próprios cidadãos, ampliando a repressão que já exercem sobre suas populações.

3. Falta de participação global em assuntos de tecnologia

Além da falta de capacidade regulatória neste momento, existe um acesso desigual à tecnologia. Países desenvolvidos lideram o avanço da IA, enquanto países em desenvolvimento fica à margem das conversas.

"O relatório do corpo consultivo de IA basicamente disse que 118 países não estão participando de nenhum fórum internacional", disse Ponzio. "Há pelo menos 7 fóruns conhecidos que surgiram da noite para o dia", falou.

Houve reunião liderada em novembro de 2023 pelos britânicos. Depois, um encontro em Seul (na Coréia do Sul). Em fevereiro de 2025, está previsto um Summit de Ação sobre IA na França.

"Ainda é um número muito limitado [de países]. São países muito poderosos que estão na vanguarda dessas tecnologias. Então, 7 países dominam esse espaço nos 7 fóruns. Mas 118 Estados-membros não estão participando de nenhum deles", afirmou.

"É aí que entra a ONU. O fato de que falamos sobre esses temas muito seriamente no Pacto Digital Global é um primeiro passo. Mas isso é apenas um pacto de princípios não vinculante, com metas e compromissos aspiracionais. É hora de avançarmos para estruturas de governança sérias que sejam inclusivas e evitem os erros que cometemos quando montamos o Conselho de Segurança em 1945", complementou.

"Quais são as decisões importantes agora? Vamos precisar de décadas para desfazer os erros que cometermos agora, porque não é inclusivo, não é visto como legítimo e não inclui todas as partes-chave interessadas nesse novo e poderoso conjunto de tecnologias conectadas à IA", disse.

4. Direitos humanos e direitos digitais dos cidadãos

Os direitos humanos estão no centro das discussões. Para o uso da IA, Ponzio diz que precisamos aplicar as convenções políticas civis, os direitos humanos e as convenções econômicas, sociais e culturais, que são todas da década de 1970 e "precisam ser atualizadas e aprimoradas na era digital".

"Ainda mais complicado do que apenas direitos digitais é entender como a IA, com todas as suas incríveis funcionalidades, poderes e aplicações, pode infringir os direitos humanos básicos e fundamentais das pessoas, tomar suas identidades e tornar as coisas realmente difíceis."