SenseTime serve 6 trilhões de tokens/dia e pressiona custo de inferência — o que muda para provedores de nuvem e startups brasileiras

A SenseTime, uma das principais empresas chinesas de inteligência artificial, detalhou nesta semana como sua infraestrutura de data center (AIDC) sustenta um volume de 6 trilhões de tokens processados por dia. Em apresentação na 10ª Cúpula CSDI, em Shenzhen, o vice-presidente e CTO da unidade, Xuan Shanming, explicou que a empresa abandonou a lógica de 'quanto mais GPUs, melhor' e passou a separar as etapas de Prefill e Decode em clusters heterogêneos, usando chips nacionais para pré-processamento e GPUs de alta largura de banda para geração. O anúncio chega ao Brasil num momento em que provedores de nuvem locais e startups que revendem APIs de modelos chineses — como DeepSeek, Qwen e GLM — precisam recalibrar preços e SLAs diante da queda global do custo por token.

A SenseTime, fabricante chinesa de soluções de IA, realizou em 16 de outubro a apresentação de sua arquitetura de inferência em larga escala na 10ª Cúpula de Inovação em Tecnologia de Software e Pesquisa e Desenvolvimento Inteligente da China (CSDI Summit), em Shenzhen. O vice-presidente e CTO do SenseTime AIDC, Xuan Shanming, informou que a infraestrutura da companhia processa 6 trilhões de tokens por dia. O executivo detalhou que a empresa adotou uma arquitetura de separação PD (Prefill e Decode), na qual chips nacionais assumem o processamento inicial dos tokens de entrada, enquanto GPUs de alto desempenho e alta largura de banda de memória cuidam da geração sequencial dos tokens de saída, conectadas por transmissão de KV Cache. A mudança, segundo ele, permite atender desde cargas de baixo custo unitário até cenários de alta exigência de latência, como agentes de escritório e atendimento ao cliente, além de casos de alta precisão, como pesquisa científica e finanças quantitativas.

O impacto para o Brasil é indireto, mas relevante para a cadeia de serviços de nuvem e IA. Provedores brasileiros que revendem APIs de modelos chineses — ou que operam clusters próprios com hardware importado da China — passam a ter um parâmetro concreto de eficiência: a SenseTime indica que a competição não está mais na quantidade de GPUs, mas na capacidade de produzir tokens de alta qualidade com menor custo e maior estabilidade. Isso pressiona empresas como a Huawei Cloud Brasil, que oferece serviços de IA generativa a clientes locais, e startups nacionais que constroem produtos sobre modelos abertos chineses, a revisar contratos de SLA e preços por token. Reguladores como a ANPD (Autoridade Nacional de Proteção de Dados) e o Banco Central, que acompanham a soberania de dados em serviços de nuvem estrangeiros, também devem observar a tendência de separação de cargas entre chips de diferentes origens — o que pode complicar a rastreabilidade de onde cada dado é processado.

Os dados mostram que, em 2026, os gastos com inferência devem representar 55% do total de gastos com AI IaaS, subindo para 59% em 2027, segundo números citados pela SenseTime. Na leitura do CBI, isso indica que o mercado brasileiro de nuvem, dominado por AWS, Microsoft e Google, mas com presença crescente de provedores chineses, deve assistir a uma nova rodada de competição por custo por token — e não por capacidade bruta de GPU. A arquitetura de separação PD, que a SenseTime diz operar em escala de dez mil placas, é um sinal de que a empresa chinesa quer se posicionar como fornecedora de infraestrutura para agentes de IA, não apenas como desenvolvedora de modelos. Para o Brasil, o risco é ficar dependente de camadas de serviço estrangeiras sem desenvolver capacidade local de inferência eficiente; a oportunidade é atrair parcerias de data centers com empresas chinesas que buscam expansão internacional, como já ocorre com a Huawei em provedores regionais.

O que acompanhar: primeiro, a publicação de métricas de custo por token pela SenseTime e por concorrentes chinesas, que devem servir de referência para negociações de contratos de nuvem no Brasil no primeiro semestre de 2027. Segundo, a evolução da oferta de chips de IA de fabricantes chineses, como a Huawei Ascend, que podem chegar ao mercado brasileiro via parcerias com data centers locais. Terceiro, a posição da ANPD sobre processamento de dados em arquiteturas heterogêneas com componentes de diferentes países, tema que deve entrar na agenda regulatória em 2027.