EUA e China propõem controles de IA para segurança nuclear

Propostas de segurança de IA entre superpotências

A segurança de IA emerge como prioridade estratégica nas negociações entre Estados Unidos e China. Especialistas dos dois países formularam recomendações inovadoras para prevenir acidentes envolvendo sistemas inteligentes conectados a infraestruturas críticas e nucleares. Essas propostas de segurança de IA refletem preocupações crescentes sobre o comportamento impredizível de máquinas autônomas em cenários militares.

Um cenário crítico motivou essas discussões: se um sistema de inteligência artificial interferisse na rede de comando nuclear ou executasse uma operação militar digital, Washington ou Pequim teria apenas minutos para determinar se o outro governo foi responsável. Essa janela de tempo reduzida cria riscos exponenciais de escalação acidental entre as potências nucleares.

Estrutura das recomendações apresentadas

As recomendações foram publicadas antes das negociações governamentais programadas e de encontros bilaterais de alto nível. Melanie Sisson, pesquisadora sênior da Brookings Institution, e Tianjiao Jiang, professor associado da Universidade de Fudan, participaram do diálogo EUA-China sobre inteligência artificial e segurança nacional, iniciado em 2019 pela Brookings e pelo Centro de Segurança e Estratégia Internacional da Universidade de Tsinghua.

As propostas de segurança de IA incluem três componentes principais: limites rígidos para aplicações nucleares, exigência de controle humano sobre operações digitais de grande impacto e estabelecimento de mecanismos de comunicação urgente para incidentes envolvendo máquinas autônomas.

Limites para sistemas autônomos nucleares

Jiang propôs restrições explícitas impedindo que sistemas de IA decidam independentemente sobre o emprego de armas nucleares ou ataquem autonomamente infraestruturas de comando nuclear. Essas salvaguardas estenderiam-se também a sistemas críticos de energia, finanças e saúde.

Sisson argumenta que apenas seres humanos devem deter autoridade para iniciar ataques digitais contra sistemas de comando, controle e comunicação nucleares adversários. Um sistema autônomo poderia falhar, exceder suas instruções ou sofrer comprometimento. Simultaneamente, o país alvo enfrentaria dificuldades em determinar se a ação foi acidental ou ordenada deliberadamente.

A proposta fundamenta-se em princípio endossado por Joe Biden e Xi Jinping em novembro de 2024: manutenção do controle humano sobre decisões nucleares. Especialistas observam que ambas as potências já integram inteligência artificial progressivamente a sistemas nucleares, criando tensão entre segurança e inovação.

Definição de controle humano significativo

Jiang defendeu também uma definição comum internacional de "controle humano significativo" para evitar interpretações divergentes que permitissem diferentes níveis de autonomia sob justificativas idênticas. Essa padronização tornaria-se fundamental para verificação e cumprimento de futuros acordos de segurança de IA.

O ministro da Segurança do Estado chinês, Chen Yixin, enfatizou em comunicado oficial que a inteligência artificial "transforma fundamentalmente a forma da luta militar". Segundo ele, a tecnologia deixou de ocupar papel secundário em combates, assumindo posição central, evidenciada por operações dirigidas por IA nas ações de Estados Unidos e Israel contra o Irã.

Linha direta para incidentes autônomos

Jiang propôs criação de linha direta militar exclusiva entre Washington e Pequim destinada especificamente a incidentes envolvendo inteligência artificial. Trocas digitais automatizadas intensificam-se rapidamente, reduzindo tempo disponível para intervenção humana.

Cenários plausíveis incluem: a defesa cibernética automática de um país respondendo a atividades suspeitas, interpretada pelo adversário como ataque, desencadeando retaliação antes da compreensão real dos eventos. Uma linha direta permitiria comunicação oficial informando que operações incomuns de IA foram acidentais, não autorizadas ou permaneciam sob investigação, prevenindo escalação precipitada.

Desafios na implementação prática

Críticos questionam a utilidade dessa linha direta. Carla Freeman, da Escola de Estudos Internacionais Avançados da Johns Hopkins, destaca que autoridades chinesas recusaram-se a atender ligações de homólogos norte-americanos durante o "incidente do balão espião" em fevereiro de 2023.

A estrutura hierárquica rígida da burocracia chinesa impede que oficiais de escalões inferiores tomem iniciativas em interações com contrapartes americanas. Conforme Freeman escreveu, ninguém no sistema chinês deseja comunicar-se com Estados Unidos até que liderança superior, após consultar atores relevantes dentro do partido-Estado, decida sobre resposta apropriada, processo que pode consumir dias ou mais.

Posicionamentos governamentais atuais

Nenhum dos dois governos endossou publicamente as propostas Brookings-Tsinghua. Contudo, a China incorpora progressivamente inteligência artificial à sua estrutura de controle de armas. A IA constitui área de atuação formal do Departamento de Controle de Armas do Ministério das Relações Exteriores chinês, responsável também por questões nucleares, não proliferação e segurança internacional.

Shen Jian, embaixador chinês para desarmamento, afirmou em reunião da ONU em Genebra em junho que a IA militar afeta a estabilidade estratégica, aumenta riscos de erros de cálculo e amplifica potencial de escalada conflitual. Segundo ele, armas devem permanecer sob controle humano.

A China argumenta que segurança de IA não deve servir de pretexto para criação de barreiras tecnológicas que beneficiem potências estabelecidas.

Estrutura administrativa americana fragmentada

Washington carece de órgão único equivalente para tratar controle de armas relacionado à inteligência artificial. Política de segurança nacional distribui-se entre Conselho de Segurança Nacional da Casa Branca, Departamento de Estado, Pentágono e outras agências, criando possível fragmentação nas respostas.

Ambos os governos mantêm cautela quanto a medidas que desacelerem desenvolvimento tecnológico. Donald Trump alertou que restrições amplas beneficiariam a China, enquanto Pequim considera muitos controles tecnológicos americanos tentativas de preservar hegemonia norte-americana.

Contexto da rivalidade tecnológica mais ampla

As propostas revelam que rivalidade EUA-China em inteligência artificial transcende disputa por chips e modelos avançados. Abrange temas historicamente associados a controle de armas: evitar confusão entre acidentes e ataques, limitar decisões militares automatizadas e estabelecer protocolos comunicacionais entre rivais nucleares quando tecnologia comporta-se inesperadamente.

Essa convergência de questões tradicionais de controle de armas com desafios emergentes de inteligência artificial demonstra evolução do cenário estratégico global, onde máquinas inteligentes integram-se progressivamente a sistemas de defesa nacional, exigindo novo framework regulatório e acordos internacionais.