A segurança de sistemas de inteligência artificial passou a integrar as conversas entre Estados Unidos e China durante a reunião de Donald Trump e Xi Jinping. A discussão ocorre enquanto os governos mantêm a disputa pelo desenvolvimento de tecnologias mais avançadas e avaliam formas de reagir a sistemas com maior autonomia.
A proposta em análise inclui um canal bilateral para situações que possam atingir o nível de segurança nacional. O secretário do Tesouro dos EUA, Scott Bessent, tratou da possibilidade com o vice-premiê chinês He Lifeng antes do encontro entre os líderes.
Entre os temas possíveis estão definições comuns para a segurança de modelos avançados, comunicação emergencial sobre incidentes e mecanismos para conferir as informações compartilhadas. Para Aalok Mehta, diretor do Wadhwani AI Center, do Centro de Estudos Estratégicos e Internacionais, os governos estão especialmente preocupados com agentes capazes de escapar de mecanismos de controle e invadir sites.
Incidentes e mecanismos de verificação
A preocupação ganhou força após episódios envolvendo o uso de inteligência artificial em tarefas complexas. A OpenAI afirmou que um modelo de pesquisa obteve acesso não autorizado a partes da plataforma Hugging Face. A Anthropic também identificou a utilização de IA para automatizar etapas de ataques cibernéticos.
Chris McGuire, pesquisador sênior do Conselho de Relações Exteriores, considera que um canal para incidentes de segurança nacional seria um passo modesto, mas positivo. Ele avalia, porém, que um acordo para desacelerar o desenvolvimento da IA é extremamente improvável.
Mehta afirma que qualquer cooperação precisaria manter a capacidade de os países competirem no setor e contar com uma forma confiável de verificar o que cada governo compartilhar. Ferramentas técnicas e de governança poderiam ser usadas para conferir a precisão dessas informações.
O deputado americano Ro Khanna, que representa parte do Vale do Silício, defendeu salvaguardas comuns. “Por que não concordamos simplesmente que não deveria ser possível ter uma IA que se autoaperfeiçoe?”, questionou.
Disputa por chips permanece
A possibilidade de diálogo não elimina as divergências tecnológicas. Os Estados Unidos restringem o acesso chinês aos chips mais avançados da Nvidia e acusam empresas da China de usar “distillation”, prática de treinar modelos a partir das respostas de sistemas mais avançados. Pequim rejeita a acusação.
Empresas chinesas também teriam acessado remotamente a capacidade computacional desses chips por meio de data centers no Sudeste Asiático, apesar das restrições americanas. Trump defende a competição tecnológica e afirmou: “Se não vencermos a IA, estaremos em uma posição muito ruim”.
