PEQUIM — Especialistas dos Estados Unidos e da China discutem mecanismos para impedir que sistemas militares baseados em inteligência artificial transformem uma reação automática em um conflito. As propostas incluem limites para o uso autônomo da tecnologia, principalmente em situações relacionadas a armas nucleares, ataques cibernéticos e infraestruturas críticas.
Entre as medidas apresentadas estão a manutenção de seres humanos responsáveis por operações cibernéticas de grande impacto e a proibição de que a IA decida sozinha pelo emprego de armas nucleares. Os especialistas também defendem uma definição comum para “controle humano significativo”.
Comunicação em caso de incidente
Outra proposta é a criação de uma linha direta entre Estados Unidos e China. O canal serviria para que um governo comunicasse ao outro quando uma operação automatizada fosse acidental, não autorizada ou ainda estivesse sob investigação.
A preocupação é que um sistema de defesa interprete uma atividade suspeita como ameaça e reaja automaticamente. O outro país poderia entender essa resposta como um ataque e retaliar antes de esclarecer o episódio, aumentando o risco de escalada militar.
As sugestões foram apresentadas por participantes de um diálogo entre instituições americanas e chinesas e discutidas no Fórum Xiangshan, realizado em Pequim. O encontro reuniu cerca de 2 mil militares, diplomatas e acadêmicos de 100 países para tratar dos limites do uso militar da IA.
Velocidade e controle humano
Muhammad Ali, secretário de Defesa do Paquistão, afirmou que os avanços tecnológicos estão “comprimindo o cronograma estratégico”. Para os participantes, a aceleração das decisões reduz o tempo disponível para que os governos compreendam uma situação antes de reagir.
Adul Boonthumjaroen, ministro da Defesa da Tailândia, disse que a competição entre grandes potências não deveria se resumir à busca por maior poder. Jurg Lauber, vice-presidente do Comitê Internacional da Cruz Vermelha, ressaltou a necessidade de preservar o julgamento humano à medida que as armas se tornam mais autônomas.
As propostas também preveem proteções para setores como energia, finanças e saúde. China e Estados Unidos ainda divergem sobre a forma de controlar a tecnologia. Pequim inseriu a IA na estrutura do Ministério das Relações Exteriores responsável pelo controle de armas, enquanto Washington distribui o tema entre diferentes órgãos.
Nenhum dos dois governos endossou publicamente as medidas. Os dois países também demonstram preocupação com ações que possam desacelerar seu desenvolvimento tecnológico.
