Falha periódica no DeepSeek expõe risco de modelos chineses — empresas brasileiras que usam IA precisam revisar contratos

Pesquisadores do laboratório Seed, do ByteDance, identificaram que o modelo DeepSeek-V4-Flash-Base pode alternar entre a resposta correta e a errada em uma mesma tarefa de completar código apenas movendo alguns tokens irrelevantes no início do texto. O fenômeno, chamado de sensibilidade à fase, está ligado ao mecanismo de compressão de cache em blocos usado para baratear a inferência em contextos longos. Em teste controlado de recuperação com 128K de contexto, a acurácia variou de 69,9% na melhor posição para 29,7% na pior — uma diferença de 40,2 pontos percentuais. O achado chega ao Brasil no momento em que bancos, varejistas e startups locais testam modelos chineses de baixo custo para atendimento ao cliente, análise de crédito e automação logística. O estudo do ByteDance Seed, divulgado no fim de setembro, aponta que o DeepSeek-V4-Flash-Base apresenta uma oscilação periódica de desempenho ligada à arquitetura de atenção do modelo. O V4 usa dois mecanismos alternados: CSA (atenção esparsa comprimida), que agrupa oito tokens por janela e gera um registro de compressão a cada quatro tokens, e HCA (atenção de compressão pesada), que mantém apenas um registro a cada 128 tokens, mas lê todo o histórico comprimido. A conclusão é que a mesma informação, ao ser deslocada alguns tokens para frente ou para trás, cai em posições de compressão diferentes e pode ser recuperada com eficácia distinta. Os pesquisadores chamam essa posição de fase. Em experimento com 16 mil registros de chave-valor e contexto de 128K, o modelo base acertou 69,9% na melhor fase e apenas 29,7% na pior, com o período de oscilação coincidindo com o passo de compressão. Testes de controle com arquitetura Qwen3-0,6B mostraram que o defeito persiste mesmo sem codificação posicional RoPE e sem gate de compressão aprendível, mas desaparece em modelos com atenção total — o que isola a causa no mecanismo de compressão em blocos, e não em um erro pontual de tarefa. Para o leitor brasileiro, o achado não é uma curiosidade acadêmica. Modelos da família DeepSeek são oferecidos por API a preços agressivos e já aparecem em provas de conceito de bancos digitais, varejistas e empresas de logística que buscam alternativas de baixo custo aos modelos americanos. O impacto direto é indireto, via confiabilidade operacional: se a resposta de um modelo varia conforme o comprimento de um comentário irrelevante no prompt, sistemas de atendimento automatizado, triagem de crédito ou roteamento logístico podem apresentar comportamento inconsistente sem que o time de tecnologia perceba. Reguladores como o Banco Central, no âmbito do sandbox de IA, e a ANPD, na discussão sobre decisões automatizadas, tendem a cobrar testes de robustez de fornecedores que usam modelos de terceiros. Empresas brasileiras que contratam APIs chinesas precisam incluir cláusulas de auditoria e de responsabilidade por variação de desempenho. Os dados mostram que o teste feito pelo próprio veículo chinês com o V4.1-Flash, versão atual do modelo, não reproduziu a inversão de resposta nas 64 amostragens fixas: todas acertaram. Em outro round, a resposta correta permaneceu em primeiro lugar na probabilidade prevista, mas a probabilidade variou conforme a entrada. Na leitura do CBI, isso indica que a versão mais recente pode ter mitigado o sintoma mais visível, sem necessariamente eliminar a causa arquitetural. A diferença entre o modelo base estudado pelo ByteDance e o modelo disponível via API oficial também limita a comparação: o DeepSeek-V4-Flash-Base não é mais acessível pela API usada no teste. Para o comprador brasileiro, o recado é que a estabilidade de um modelo não se presume pela versão comercial; ela precisa ser medida com o prompt real do caso de uso. O que acompanhar: primeiro, a publicação de notas técnicas do DeepSeek sobre correções na arquitetura CSA/HCA nas próximas versões, que devem sair no repositório oficial e em papers do arXiv. Segundo, o comportamento de fornecedores brasileiros de integração de IA, que podem começar a oferecer testes de fase como diferencial de contrato. Terceiro, a posição do Banco Central e da ANPD sobre exigências de validação de modelos de terceiros em serviços financeiros e de decisão automatizada, tema que deve voltar à pauta regulatória no primeiro semestre.