← 返回巴西资讯
巴西资讯巴西科技平台

Strattum研究:Company Brain层使AI每问token消耗降至三分之一、准确率升至93%

分享

Menor consumo de tokens com maior precisão nas respostas. Como tornar a IA mais eficiente?

巴西初创公司Strattum测试12个AI模型发现,接入Company Brain信息组织层后,平均每问token消耗从16.3万降至5.5万,平均准确率从75%升至93%。

巴西初创公司Strattum发布的一项研究显示,将AI模型接入其Company Brain信息组织层后,12个来自6家提供商的AI模型平均每问token消耗从16.3万降至5.5万,约为原来的三分之一;平均准确率从75%升至93%。该研究在模拟一家巴西软件公司(60个客户、信息分布在5个系统)的环境中评估了51个问题、6120条回答。

研究对比了两种信息获取路径:AI直接查询企业各系统,或通过Company Brain访问预先连接、标准化并关联好的数据。在需要跨三个及以上系统整合信息的问题上,平均准确率从66%升至91%;完全正确回答的比例从68%升至88%。

在直接连接系统时准确率已达90%以上的7个先进模型中,接入Company Brain后平均准确率从96%升至99%,每问token消耗从17.3万降至5.6万。原本准确率低于90%的5个模型,平均准确率从46%升至85%,完全正确回答比例从35%升至74%。其中Claude Haiku 4.5从59%升至93%;GPT-5 Nano从19%升至79%,为12个模型中提升幅度最大。接入后全部12个模型准确率均超过70%。

文章以客户满意度下降为例说明token消耗来源:AI需在调研工具、客服平台、CRM和Google Drive之间分别查找评分变化、工单、提交人和合同条款,并识别不同系统中同一客户的不同标识,每次检索和交叉比对都消耗token。Company Brain在提问前完成系统连接、格式统一和记录匹配,使模型直接访问关系结构获取相关信息。

Strattum联合创始人兼CTO Rafael Viana表示,Claude和Codex任何公司都可用,但公司基于科学方法在其上构建并测试的内容是客户在别处找不到的,该基准测试是这项工作首个公开成果。联合创始人兼CEO Kadu Monguilhott表示,研究中改变结果最大的是提问前的数据组织,而非换用更大的模型。

文章估算,一家公司每月向每百万token收费5美元的模型提问1万次,无Company Brain时月成本约4.36万雷亚尔,接入后约1.41万雷亚尔;若换用Claude Haiku 4.5,估算约2700雷亚尔。

这条资讯对你有帮助吗?

信息概要

类型
公司动态
方向
巴西
分类
科技平台
层级
编辑整理
话题
科技企业动态行业趋势巴西科技
查看原文(葡萄牙语)

Menor consumo de tokens com maior precisão nas respostas. Como tornar a IA mais eficiente?

Strattum | Imagem: Divulgação Uma pesquisa da McKinsey indica que os gastos quase quadruplicam na passagem de iniciativas isoladas para a adoção em toda a organização, reforçando a necessidade de gerenciar o consumo de tokens e os gastos com a tecnologia com mais eficiência. Uma forma de conter essa conta é conectar os modelos de IA a um Company Brain , camada que conecta e organiza informações corporativas, reduzindo o consumo de tokens e aumentando a precisão das respostas. Um estudo com 12 modelos de IA de seis provedores feito pela Strattum , startup que desenvolveu uma solução para a otimizar a infraestrutura de dados corporativos, mostrou uma queda no consumo médio por pergunta de 163 mil para 55 mil tokens, cerca de um terço do volume original. Ao mesmo tempo, a acurácia média das respostas passou de 75% para 93%. O levantamento avaliou 6.120 respostas a 51 perguntas, em um ambiente que simulava a operação de uma empresa brasileira de software, com 60 clientes e informações distribuídas entre cinco sistemas. Cada modelo recebeu as mesmas perguntas e teve acesso aos mesmos dados, com configurações e limites idênticos. A diferença estava no caminho que a IA usava para encontrar as informações. Em um deles, ela consultava diretamente os sistemas da empresa. Em outro, acessava os dados previamente organizados pelo Company Brain . O benefício foi especialmente expressivo nas perguntas que exigiam cruzar informações de três ou mais sistemas. Nessas tarefas, a acurácia média passou de 66% para 91%. Considerando todas as perguntas, a proporção de respostas totalmente corretas, que acertaram todos os itens exigidos pelo teste, cresceu de 68% para 88%. “Desde o início reservamos parte do time e do orçamento para pesquisa. Claude e Codex estão disponíveis para qualquer empresa. O que construímos em cima deles, testado com método científico, o cliente não encontra em outro lugar. Este benchmark é o primeiro resultado desse trabalho que tornamos público”, conta Rafael Viana , cofundador e CTO da Strattum . O que deixa a resposta de um modelo cara? O avanço na precisão das respostas está relacionado à forma como as informações são disponibilizadas para consulta. Para investigar a queda de satisfação de um cliente, por exemplo, a IA precisa muitas vezes reunir evidências distribuídas entre diferentes sistemas. Imagine um caso comum nas empresas. Um gestor pergunta à IA por que a satisfação de um cliente caiu. A resposta existe, mas está espalhada por quatro sistemas. Na ferramenta de pesquisa, a nota do cliente aparece caindo de 9 para 5 em três ciclos. Na plataforma de atendimento, aparecem nove chamados abertos no mesmo período, todos reclamando de lentidão no fechamento do faturamento. No CRM, dá para ver que quem abriu esses chamados foram três pessoas da área financeira do cliente. No Google Drive, o contrato garante que o fechamento sai em até cinco dias úteis. Só juntando as quatro partes a IA chega à resposta: o cliente está insatisfeito porque o prazo do contrato não está sendo cumprido. Cada uma dessas buscas e cruzamentos consome tokens. Nesse caso, a IA também precisa reconhecer que os registros encontrados nas diferentes fontes se referem ao mesmo cliente. Uma empresa pode aparecer com um nome no CRM, um código no financeiro e um endereço de site na pesquisa de satisfação. Se essas identificações não forem relacionadas, o modelo pode deixar de reunir informações importantes para a resposta. O Company Brain realiza essa preparação antes da consulta. Conecta os sistemas, padroniza formatos e identifica as correspondências entre os registros, associando cada cliente a seus contatos, chamados, faturas e contratos. Quando recebe uma pergunta, o modelo acessa essa estrutura de relações e obtém as informações relevantes, reduzindo a necessidade de percorrer buscas e tabelas nos diferentes sistemas, o que consome mais tokens. Esse funcionamento também beneficiou os modelos de IA mais avançados, que mantiveram ou melhoraram sua acurácia com menor consumo. Entre os sete que já apresentavam acurácia igual ou superior a 90% na conexão direta aos sistemas, a média avançou de 96% para 99%, enquanto o consumo por pergunta caiu de 173 mil para 56 mil tokens. Na prática, essa redução aparece na fatura. Imagine uma empresa que faz 10 mil perguntas por mês a um modelo de ponta que cobre US$ 5 por milhão de tokens. Com o consumo médio medido no estudo sem o Company Brain, de 173 mil tokens por pergunta, a conta fica perto de R$ 43,6 mil por mês. Com ele, o mesmo modelo usa 56 mil tokens por pergunta e a conta cai para cerca de R$ 14,1 mil. Se a empresa trocar para o Claude Haiku 4.5, que chegou a 93% de acurácia com o Company Brain, a estimativa fica em torno de R$ 2,7 mil. “Quando a IA erra, a reação comum é pagar por um modelo maior. No estudo, o que mais mudou o resultado foi a organização dos dados antes da pergunta”, explica Kadu Monguilhott , cofundador e CEO da Strattum . Modelos mais baratos ganham capacidade A preparação das informações também ampliou a capacidade de modelos que inicialmente tinham dificuldades para responder às perguntas. Entre os cinco com acurácia inferior a 90% na conexão direta aos sistemas, a média passou de 46% para 85%. Nesse grupo, a proporção de respostas totalmente corretas cresceu de 35% para 74%. O Claude Haiku 4.5 elevou sua acurácia de 59% para 93%. O resultado indica que, nas tarefas avaliadas, o Company Brain permitiu a um modelo mais barato alcançar uma faixa de precisão que só era possível por modelos mais robustos. Os três modelos com menor acurácia inicial, entre 19% e 39%, passaram a registrar índices de 75% a 81%. O GPT-5 Nano, o mais barato da rodada, apresentou o maior salto, de 19% para 79%, mais de quatro vezes o índice original. Com o Company Brain , todos os 12 modelos superaram 70% de acurácia. O ranking dos 12 modelos, com custo e acurácia de cada um, está no estudo completo.

觉得有价值?

分享给需要了解巴西市场的朋友

帮助更多中国企业看懂巴西,做成生意

China Brazil Insight · 看懂巴西,做成生意

更多专题研究见 研究中心