Especialistas em inteligência artificial da China estão tão alarmados quanto seus colegas americanos com os riscos de uma corrida armamentista descontrolada de IA. A constatação veio durante uma grande conferência em Zhongguancun, o distrito de alta tecnologia de Pequim, onde pesquisadores dos dois países defenderam abertamente mais cooperação internacional.
O evento, organizado pela Academia de Inteligência Artificial de Pequim (BAAI), reuniu nomes lendários da computação como Whitfield Diffie, coinventor da criptografia de chave pública, e Andrew Barto, vencedor do Prêmio Turing por seu trabalho pioneiro em aprendizado por reforço.
“A IA não precisa de um momento Chernobyl”
Stephen Casper, cientista da computação do MIT que participou remotamente, resumiu o sentimento geral: “Uma coisa que quase todos em IA concordam agora é que a IA não precisa de um momento Chernobyl”.
Casper apontou pesquisas mostrando que os benefícios da colaboração internacional em segurança de IA superam os riscos de segurança nacional. Ele comparou a situação atual à forma como EUA e União Soviética foram forçados a trabalhar juntos em segurança nuclear, mesmo enquanto competiam em arsenais.
Cibersegurança como ponto de convergência
Uma sessão de um dia inteiro destacou a universalidade dos desafios cibernéticos trazidos por IAs mais avançadas: novas vulnerabilidades em código gerado por IA, ataques viabilizados por agentes autônomos e métodos automatizados de engenharia social.
Lin Yun, professor da Universidade Shanghai Jia Tong, disse que espera que hackers ganhem vantagem no curto prazo, mas que novas contramedidas baseadas em IA devem reequilibrar a balança com o tempo.
“A chave é encontrar áreas onde o compartilhamento possa reduzir riscos sistêmicos sem expor detalhes operacionais sensíveis”, afirmou Yun.
Modelos open-source na berlinda
Uma das questões mais urgentes é como equilibrar abertura com segurança. Empresas chinesas lideraram o desenvolvimento de modelos open-weight altamente capazes — como Kimi (Moonshot), Qwen (Alibaba) e GLM (Z.ai). O modelo mais recente da Z.ai, GLM 5.2, já inclui capacidades agentivas e de código de fronteira.
O governo americano, por sua vez, impôs restrições rigorosas a chips e equipamentos de fabricação para frear o avanço chinês, e recentemente ordenou que a Anthropic impedisse estrangeiros de acessar seus modelos mais poderosos, Mythos e Fable 5.
Nesta semana, a 360 Security Technologies, uma importante firma chinesa de cibersegurança, afirmou ter desenvolvido um modelo de IA com capacidades de hacking comparáveis ao Mythos.
Cooperação inevitável
Fontes anônimas de empresas chinesas líderes em IA revelaram que preocupações com segurança já estão levando alguns modelos avançados a não serem mais lançados como open source na China.
“IA é uma tecnologia global com benefícios globais, danos globais e uma tendência consistente para que novas capacidades acabem proliferando”, resumiu Casper. A mensagem de Zhongguancun foi clara: as duas superpotências da IA não têm escolha — precisam trabalhar juntas para garantir a fronteira aberta da IA.
Fonte: WIRED
