巴西STJ规范诉讼文件操纵AI,跨境文书合规趋严
巴西高等法院(STJ)针对诉讼文书中嵌入隐藏指令、试图操纵法院人工智能系统的行为确立了处理后果,虽未公开细节,但已为在巴西经营和应诉的中资企业提示了司法AI操纵风险与文书合规审查义务。
这次发生了什么
巴西高等法院(STJ)已针对一种新做法确立处理后果:有人在提交法院的诉讼文书里嵌入隐藏指令,试图借此操纵法院使用的人工智能系统。这一事实来自 MIT Technology Review Brasil 的报道。报道未披露涉案当事人身份,也未说明相关文书提交的具体时间;至于"后果"具体是程序性制裁、证据上的不利认定,还是移送进一步调查,公开信息没有给出细节。
可确认的核心只有两点:隐藏指令真实出现在诉讼文书中;法院将其视为需要专门规范的行为,而不只是一般的文书瑕疵。
为什么值得关注
对关注巴西市场的中国企业和跨境经营者,这件事的意义不在个案本身,而在于它勾勒出一条新的合规边界。司法系统引入 AI 辅助审理后,进入法院的材料不再只被人阅读,也被机器解析。文书中的隐藏文本、超小字号、白色字体、元数据层指令,过去可能只是形式问题,现在可能被直接解读为对司法系统运行机制的干预意图。
这是一种判断而非已确认事实:巴西司法机构开始把"对 AI 的操纵"当作可归责的行为来处理,而不是技术意外。对在巴西有诉讼、仲裁或行政程序的企业,这意味着提交材料的审查标准,正在从"内容是否真实"扩展到"文件结构是否干净"。实践中,这类风险往往不是法务部门主动制造的,而是外部律所、文件服务商或翻译排版环节留下的技术痕迹。
需要点明不确定性:STJ 这次确立的后果是否具有普遍约束力、是否会被下级法院参照、是否附带对律师或律所的执业责任,目前都无法从公开信息中确认。
CBI 解读
从政策逻辑看,这更像是司法系统在 AI 应用铺开后的"补漏",而不是针对某个行业或国别的定向监管。巴西法院近年加速数字化,电子文书、自动化分案、判决辅助工具的渗透率提高。AI 一旦进入审阅环节,提示注入(prompt injection)这类原本存在于大模型安全领域的风险,就会自然外溢到司法程序。STJ 的回应,本质上是在为"人机共同阅读的文书"重新划定行为规范。
对中巴商业往来而言,直接影响面偏窄,但并非为零。最可能先受到影响的是三类主体:在巴西有活跃诉讼或仲裁案件的企业法务;负责跨境文书准备、翻译和本地化提交的律所与服务机构;正在评估把 AI 工具引入合同、合规和诉讼流程的中资企业。他们的共同点是文件链条长、经手方多、技术处理环节不透明,隐藏指令可能在无人察觉的情况下进入正式文书。
这更像是一个阶段性信号,而不是短期扰动。理由有三:第一,司法 AI 的使用范围大概率只扩不缩,法院对输入材料可控性的要求会同步提高;第二,一旦某个高等法院形成处理先例,律师行业通常会自行抬高审查标准,形成事实上的执业惯例;第三,AI 治理正在全球范围内从"技术合规"转向"行为合规",司法场景只是其中一环。至于它是否会演化为巴西全国统一的规则,或是否会出现针对律所的惩戒案例,仍待观察。
谁最需要注意
- 在巴西有诉讼、仲裁或行政程序的中资企业法务:文书提交环节的技术瑕疵可能被认定为操纵意图。
- 跨境律所与文件服务商:排版、翻译、格式转换恰恰是隐藏文本最常见的技术来源。
- 正在巴西部署 AI 合规或合同工具的企业:提示注入风险需要纳入内部管控清单。
- 准备进入巴西市场的投资者:司法系统的技术化程度会影响争议解决的可预期性。
- 从事中巴法律科技与合规服务的机构:这类需求可能转化为新的服务与产品机会。
下一步看什么
- STJ 是否公开该案的具体处理方式,例如是否形成书面裁判理由或程序性指引。
- 该立场是否被下级法院或其他高等法院参照,形成跨法院的一致做法。
- 是否出现针对律师、律所或文件服务机构的执业责任追究案例。
- 巴西其他法院与司法机构在 AI 使用规范上是否跟进类似规则。
- 企业侧是否开始对电子文书提出隐藏文本的常规检测要求。
觉得有价值?
分享给需要了解巴西市场的朋友
帮助更多中国企业看懂巴西,做成生意
China Brazil Insight · 看懂巴西,做成生意
延伸阅读
相关研究
- 巴西AI商业化提速,数据安全短板放大中资窗口CBI 研究
- 巴西科技本土化与AI化提速,中资须从合规转向共建CBI 研究
更多专题研究见 研究中心