巴西ANPD发布AI监管沙盒第三次监测报告，三家企业入选测试

A Agência Nacional de Proteção de Dados (ANPD) publicou o 3º Relatório Parcial de Monitoramento do Sandbox Regulatório em Inteligência Artificial (IA) e Proteção de Dados. O documento apresenta os avanços na testagem de três soluções tecnológicas desenvolvidas com uso de IA, em um ambiente experimental, controlado e supervisionado pela Agência, com a parceria do Centro de Inteligência Artificial e Aprendizado de Máquina da Universidade de São Paulo (CIAAM/USP). » Confira o 3º Relatório Parcial de Monitoramento do Sandbox Regulatório em IA Selecionadas por meio do Edital nº 2/2025, pela Superintendência de Inovação Tecnológica (Sitec), as empresas Metatext, Synapse AI e Prevvine Tecnologia atuam no desenvolvimento de soluções para os setores financeiro, de mobilidade e de saúde, respectivamente. Os testes focam no tratamento de dados pessoais relacionados a operações financeiras, localização e informações de saúde. O processo de testagem avalia controles de segurança e mecanismos de proteção de dados, sem atestar a conformidade das soluções com a legislação. Os ajustes em pontos que ainda precisam de aprimoramento foram colocados como condicionantes para o ciclo seguinte. No setor de mobilidade, os testes avaliaram um aplicativo que recomenda trajetos com base na localização do usuário. Durante o uso simulado, o tráfego de dados foi acompanhado e não foram identificadas informações pessoais circulando sem proteção. Também foi verificado que o algoritmo utilizado para estimar a concentração de pessoas em imagens não identificou indivíduos nas imagens testadas. As próximas etapas incluem a avaliação de aspectos de acessibilidade do aplicativo e do compartilhamento de dados com serviços de terceiros, como plataformas de mapas. Na área da saúde, a solução avaliada oferece apoio à decisão clínica de profissionais médicos. Foram utilizados 30 casos clínicos simulados para analisar as respostas do sistema. Para a continuidade dos testes, estão previstas melhorias na apresentação de avisos claros sobre os limites de uso da ferramenta, especialmente em situações de emergência, além da indicação das fontes consultadas para a elaboração das respostas. Já no setor financeiro, os trabalhos se concentraram na análise da documentação e dos fluxos de dados de um sistema que utiliza a IA para detectar fraudes e bloquear operações suspeitas. No próximo ciclo, serão testados mecanismos de proteção de dados pessoais e de emissão de alertas, assim como formas de explicar decisões automatizadas às pessoas que tiverem operações bloqueadas. Ambiente colaborativo e inovação responsável O Sandbox Regulatório é conduzido em um ambiente de colaboração entre a ANPD, as empresas participantes e o CIAAM/USP. Durante as atividades, as organizações compartilham informações sobre as características técnicas de suas soluções e suas estruturas de governança, enquanto a Agência e a USP trabalham conjuntamente para identificar alternativas de aprimoramento diante de eventuais falhas ou inconformidades regulatórias. A iniciativa tem caráter experimental e é voltada ao aprendizado e à produção de evidências, sem limitar a atuação das empresas participantes ou produzir efeitos fiscalizatórios. O objetivo é ampliar o conhecimento sobre os riscos, os benefícios e os desafios do uso da inteligência artificial, contribuindo para o desenvolvimento de tecnologias que respeitem os direitos dos titulares de dados pessoais. De acordo com a equipe do Laboratório de Inovação da ANPD, vinculada à Sitec, o terceiro ciclo foi marcado pelo amadurecimento do processo de testagem. As avaliações consideraram o grau de maturidade tecnológica, as particularidades técnicas e organizacionais e os setores de aplicação de cada solução. Os trabalhos avançaram da estruturação metodológica e das análises técnicas e documentais para a verificação de controles e mecanismos de segurança, distinguindo as informações declaradas pelas empresas daquelas documentadas e efetivamente verificadas. O ciclo também consolidou orientações para a continuidade da experimentação e encaminhamentos específicos para cada participante, considerando os aspectos críticos das tecnologias e seus contextos de uso. No quarto ciclo de monitoramento, as empresas deverão executar os testes previstos e comprovar o cumprimento das condicionantes identificadas nas etapas anteriores. Os resultados contribuirão para a produção de evidências e conhecimentos que poderão subsidiar futuras orientações e normas da ANPD. Com o Sandbox Regulatório em Inteligência Artificial e Proteção de Dados, a Agência busca promover a inovação responsável, fortalecer a segurança jurídica e contribuir para o desenvolvimento de tecnologias com IA no Brasil, com atenção à proteção dos dados pessoais e à garantia dos direitos fundamentais dos cidadãos. » ANPD publica 2º Relatório Parcial de Monitoramento do Sandbox Regulatório em Inteligência Artificial » Curta, compartilhe e comente o vídeo do Sandbox da ANPD que concorre à premiação internacional » Projeto Sandbox Regulatório de IA da ANPD é finalista de prêmio internacional » ANPD publica metodologia de testagem do Sandbox Regulatório em IA e Proteção de Dados » Publicados primeiros resultados do Sandbox Regulatório em Inteligência Artificial » Confira a página do Sandbox no site da ANPD