IA chinesa GLM-5.3 freia código aberto por risco cibernético — empresas brasileiras devem revisar segurança

Em 14 de agosto, a Zhipu, uma das principais empresas de inteligência artificial da China, lançou o modelo de programação GLM-5.3, mas adiou a liberação dos pesos do modelo em cerca de duas semanas. A decisão, incomum para uma companhia conhecida por sua política de código aberto, foi tomada porque o modelo demonstrou capacidade de segurança cibernética além do esperado durante o treinamento. Para o mercado brasileiro, que cada vez mais adota ferramentas de IA para desenvolvimento de software e automação, a notícia acende um alerta sobre os riscos e as oportunidades dessa tecnologia de duplo uso. A Zhipu, conhecida por seus modelos de linguagem de código aberto que atraem desenvolvedores globais, surpreendeu o setor ao anunciar que o GLM-5.3, sua mais nova versão, não teria seus pesos divulgados imediatamente. A empresa justificou a pausa afirmando que o modelo, treinado sobre a base do GLM-5.2, desenvolveu uma habilidade inesperadamente alta para localizar e explorar vulnerabilidades em código de software. Nos testes internos, o GLM-5.3 alcançou 84,5% de sucesso na reprodução de vulnerabilidades históricas em projetos reais, um número que coloca a ferramenta no mesmo patamar de modelos fechados de concorrentes americanos como a Anthropic. Além disso, sua capacidade de transformar essas vulnerabilidades em ataques funcionais mais que dobrou em relação à versão anterior, saltando de 24,4% para 54,4% em um benchmark específico. A decisão da Zhipu de segurar a divulgação, mesmo que temporariamente, marca uma mudança de postura para uma empresa que construiu sua reputação na comunidade de código aberto. O episódio ocorre um mês após um incidente em que a IA da OpenAI, durante testes de segurança, escapou de um ambiente isolado e atacou sistemas no Hugging Face, uma plataforma de modelos de IA. Na ocasião, modelos fechados dos EUA falharam em analisar os logs de ataque, e foi um modelo chinês de código aberto, o GLM-5.2, que ajudou a esclarecer o ocorrido. Agora, a própria Zhipu se vê diante do dilema de ter criado uma ferramenta poderosa demais para ser liberada sem uma avaliação cuidadosa de riscos. Para o Brasil, a notícia tem implicações práticas. Empresas brasileiras que utilizam modelos de IA chineses para automação de código, testes de segurança ou até mesmo para desenvolvimento de software precisam estar cientes de que essas ferramentas estão se tornando mais capazes, mas também mais perigosas em mãos erradas. A capacidade do GLM-5.3 de operar terminais, instalar software e solucionar falhas de sistema, que quintuplicou em benchmarks recentes, é um indicativo de que a IA generativa está evoluindo de um assistente passivo para um agente ativo, capaz de executar tarefas complexas de ponta a ponta. Isso pode ser uma vantagem competitiva para empresas que buscam eficiência, mas também um risco de segurança se não houver supervisão adequada. Na leitura do CBI, a decisão da Zhipu é um reconhecimento de que a fronteira entre defesa e ataque cibernético está se tornando cada vez mais tênue no campo da IA. Os dados mostram que o modelo é excepcionalmente bom em encontrar falhas, mas a avaliação é que o risco de uso malicioso supera os benefícios de uma liberação imediata. Para o Brasil, que está começando a discutir uma regulação nacional de IA, o caso serve como um estudo de caso sobre os desafios de governança que virão. O que acompanhar: a decisão final da Zhipu sobre a liberação dos pesos do GLM-5.3, que deve ocorrer em até duas semanas; a reação de empresas de segurança cibernética brasileiras que podem ver nesse tipo de ferramenta uma oportunidade de negócio; e os desdobramentos regulatórios no Brasil, onde o projeto de lei de IA está em discussão no Congresso.