巴西AI法律框架待审，专家主张治理须先于采购

A inteligência artificial (IA) abre perspectivas relevantes para a saúde pública, como ampliar a capacidade de analisar informações, apoiar decisões e organizar recursos em um sistema que precisa atender necessidades complexas com orçamento limitado. Da identificação de padrões epidemiológicos ao apoio ao diagnóstico, existem oportunidades para melhorar o cuidado e a gestão. A Organização Mundial da Saúde, por meio do “Ethics and governance of artificial intelligence for health: WHO guidance” , reconhece esse potencial e destaca a necessidade de proteger a autonomia, os direitos humanos e a segurança das pessoas. Na minha avaliação, aproveitar essas oportunidades exige reconhecer a governança como medida básica de gestão e segurança. Incorporar uma tecnologia pressupõe definir sua finalidade, avaliar seus riscos, estabelecer responsabilidades e acompanhar seus resultados. Esses cuidados integram a administração responsável de qualquer serviço de saúde e precisam alcançar também os sistemas de IA. É nesse contexto que o debate sobre o marco legal brasileiro da IA ganha importância. O PL 2.338/2023 , encaminhado pelo Senado à Câmara dos Deputados, permanece em tramitação e aguarda parecer na comissão especial, conforme a informação consultada. O debate legislativo oferece uma oportunidade para estruturar a incorporação dessas tecnologias. Entretanto, entendo que a organização dos controles institucionais já deve integrar a agenda dos gestores. Definir quem autoriza o uso, quais evidências sustentam essa decisão e como eventuais falhas serão identificadas é uma necessidade atual dos serviços. Governança da IA começa antes da contratação Governança, nesse contexto, significa organizar o processo de decisão e assegurar condições para verificar se a tecnologia cumpre sua finalidade com segurança. Isso envolve participação da direção, das equipes assistenciais e das áreas de tecnologia, qualidade, proteção de dados e assessoria jurídica, conforme a estrutura e os riscos de cada instituição. A direção precisa assumir a responsabilidade pela política de uso e assegurar os recursos necessários à sua execução. O primeiro passo é conhecer as ferramentas utilizadas. Considero básico manter um inventário dos sistemas, com indicação de finalidade, fornecedor, responsáveis internos, dados tratados e atividades afetadas. Esse levantamento deve alcançar tanto as soluções formalmente contratadas quanto o uso de ferramentas de IA pelas equipes nas rotinas administrativas e assistenciais. Sem essa visibilidade, a instituição terá dificuldade para avaliar sua exposição e estabelecer controles coerentes. A intensidade dos controles deve ser proporcional ao risco. Um sistema que auxilia a organização de estoques e outro que influencia a prioridade de atendimento produzem consequências diferentes. Quanto maior a possibilidade de interferência no acesso, no diagnóstico ou no tratamento, mais consistente deve ser a demonstração de segurança, desempenho e adequação ao contexto de uso. No SUS, essa análise deve considerar também a equidade. Imagine uma ferramenta de priorização baseada no histórico de utilização dos serviços. Pessoas com dificuldade de acesso podem apresentar poucos registros justamente porque não conseguiram atendimento. Se essa ausência for interpretada como menor necessidade, a tecnologia poderá reproduzir uma desigualdade que o sistema público deve enfrentar. Por isso, considero insuficiente avaliar uma solução apenas pelo seu desempenho médio. É necessário investigar como ela se comporta em diferentes grupos populacionais, regiões e condições assistenciais. A qualidade dos dados e a representatividade das bases utilizadas precisam integrar a decisão de incorporação, assim como os critérios para reavaliar a ferramenta durante sua utilização. A proteção das informações dos pacientes é outro componente dessa governança. A LGPD qualifica os dados de saúde como dados pessoais sensíveis e estabelece condições específicas para seu tratamento. A utilização de IA exige identificar a hipótese legal aplicável, respeitar a finalidade e a necessidade do tratamento e adotar medidas de segurança. Uma finalidade pública, por si só, não autoriza o uso irrestrito de prontuários ou seu compartilhamento com fornecedores. Na prática, defendo que a instituição estabeleça regras claras sobre quais informações podem ser inseridas nas ferramentas, quem pode acessá-las, por quanto tempo serão mantidas e em quais condições poderão ser utilizadas pelo fornecedor. O eventual uso desses dados para treinamento de modelos também precisa ser examinado e disciplinado. Essas definições devem constar dos procedimentos internos e dos instrumentos contratuais. Também é preciso preservar a capacidade de decisão dos profissionais. Supervisão humana efetiva exige capacitação, tempo e condições para compreender os limites da ferramenta, identificar inconsistências e discordar de uma recomendação. A simples confirmação de um resultado na tela oferece pouca proteção quando o profissional desconhece as limitações do sistema ou não dispõe de um caminho para questioná-lo. Essa preocupação deve alcançar a distribuição de responsabilidades. Contratos, protocolos e fluxos de atendimento precisam esclarecer quem valida o sistema, quem acompanha seu desempenho, quem investiga incidentes e quem pode suspender sua utilização. A participação de um profissional na decisão deve ser compreendida dentro dessa estrutura, considerando também as atribuições relacionadas ao desenvolvimento, à contratação e à implantação da tecnologia. Para os gestores públicos, a preparação começa antes da contratação. Os critérios de escolha devem contemplar evidências de desempenho, validação no contexto de uso, acesso às informações necessárias à auditoria, capacitação das equipes e suporte técnico. O preço de aquisição deve ser avaliado em conjunto com os custos de manter a solução segura, atualizada e funcional ao longo do tempo. Monitoramento contínuo e responsabilidades compartilhadas A governança também exige continuidade. Recomendo definir indicadores, responsáveis e periodicidade de acompanhamento, com registro de falhas, reclamações e medidas corretivas. Atualizações relevantes precisam ser avaliadas quanto aos seus efeitos sobre o desempenho e a segurança. Mudanças no sistema, nos dados ou no perfil da população atendida podem justificar uma nova validação. É igualmente necessário estabelecer critérios para interromper o uso e preservar o atendimento. O serviço deve saber como proceder diante de uma indisponibilidade, de uma recomendação inconsistente ou de uma suspeita de incidente, incluindo a retomada de procedimentos previamente definidos. A continuidade assistencial precisa fazer parte do planejamento desde a implantação. O futuro marco legal também deverá dialogar com a regulação sanitária existente. A Anvisa dispõe de requisitos para a regularização de software como dispositivo médico, previstos na RDC 657/2022. O enquadramento depende das características e da finalidade pretendida; a presença de IA, isoladamente, não determina essa classificação. Vejo, portanto, a necessidade de coordenação entre a governança institucional, a proteção de dados, a segurança da informação e a avaliação sanitária. Cada uma responde a questões específicas, e a articulação entre essas áreas deve orientar decisões proporcionais, documentadas e tecnicamente justificadas. Defendo que essa estrutura aproveite as práticas de gestão já consolidadas nos serviços de saúde: protocolos, qualificação de fornecedores, gestão de riscos, treinamento, auditoria e investigação de incidentes. A incorporação da IA exige adaptar esses instrumentos às características da tecnologia e assegurar sua aplicação cotidiana. O PL 2.338/2023 abre uma oportunidade para organizar esse debate. A qualidade da incorporação da IA dependerá também da capacidade das instituições de tomar decisões, supervisionar o uso da tecnologia e corrigir rumos. Defendo uma inovação comprometida com os fundamentos que sustentam a saúde pública: acesso, equidade, segurança e responsabilidade. A governança é uma condição básica para transformar esse compromisso em prática e demonstrar que a tecnologia melhorou o cuidado e preservou os direitos de quem depende dele.