Falha oculta no DeepSeek expõe risco em IA de contratos — escritórios e fintechs brasileiras precisam revisar modelos

Pesquisadores da equipe da Byte descobriram uma falha estrutural nos modelos DeepSeek V4: basta adicionar alguns espaços ou sinais de igual no início de um texto para que o modelo passe a errar respostas que antes acertava. O problema, descrito no artigo 'Periodic Weak Spots: Phase Sensitivity from Chunked KV-Cache Compression', não é um bug isolado, mas consequência da tecnologia de compressão de contexto que permite ao DeepSeek processar textos longos com menos memória. Para o mercado brasileiro, o alerta é direto: escritórios de advocacia, fintechs e áreas de compliance que adotaram IA chinesa para revisar contratos ou analisar dados podem estar recebendo respostas erradas sem qualquer sinal de falha. A descoberta veio de um teste simples. Ao pedir ao DeepSeek-V4-Flash-Base que completasse o último token de uma função de quantização FP8, os pesquisadores notaram que o modelo errava a resposta quando sinais de igual decorativos eram inseridos no início do código. O erro não era aleatório: dependia da quantidade de sinais. Quando o número de sinais de igual dividido por 4 deixava resto 0 ou 1, a taxa de erro chegava a 71,3%. Com resto 2 ou 3, o acerto subia para 91,5%. A causa é a compressão de KV Cache em blocos, técnica que o DeepSeek usa para reduzir o consumo de memória em contextos longos. Ela divide o texto em segmentos fixos e comprime cada bloco em um resumo. O problema é que a posição de cada token dentro do bloco passa a importar: tokens que caem em 'slots cegos' são quase ignorados pelo modelo. Em um teste com 128 mil tokens e 16 mil pares chave-valor, a diferença de precisão entre posições chegou a 40,2% no DeepSeek-V4-Flash-Base e 34,8% no DeepSeek-V4-Pro-Base. A falha não é exclusiva do DeepSeek: qualquer modelo que adote compressão em blocos ou esparsificação, como a série Llama 3, tem vulnerabilidade semelhante.