Regulação de Dispositivos Médicos com GenAI
Como a FDA propõe regular dispositivos habilitados por IA generativa: um framework de risco em 2 eixos (atividade × consequência), uma avaliação pré-market por competência (benchmarking + confirmação clínica) e monitoramento pós-market contínuo — relevante para quem desenvolve ou adota IA clínica.
O que este paper propõe
- FDA regula dispositivo, não GenAI como tal — só funções que atendem à definição de device (FD&C §201(h)) recebem supervisão por risco.
- Risco em 2 eixos: atividade do dispositivo × consequência de confiar num output incorreto. Cresce do canto inferior-esquerdo ao superior-direito.
- Avaliação pré-market por competência, inspirada em como médicos são avaliados: device benchmarking + clinical confirmation.
- 10 elementos de benchmarking: Segurança (S.1–3), Proficiência Clínica (E.1–4), Generalização (R.1–2) e Competências Agênticas (A.1).
- Pós-market contínuo: re-benchmarking periódico, revisão clínica por amostra e monitoramento de drift. O benchmarking inicial vira linha de base.
- PCCP (plano de mudança pré-determinado) + Foundation Model MAF voluntário e confidencial.
- É só um paper de discussão — não guia final nem política. 26 perguntas de feedback abertas ao público.
Por que dispositivos GenAI desafiam a regulação atual
Dispositivos GenAI aceitam entradas abertas, executam múltiplas subtarefas, produzem saídas variáveis para inputs similares e podem evoluir ao longo do tempo. Isso quebra a lógica de "testar todas as entradas possíveis". São, em geral, construídos sobre modelos de fundação de terceiros com transparência limitada de treinamento, arquitetura e avaliação — difícil atribuir comportamento/erro ao device ou ao modelo.
▲ Benefícios potenciais
- Saídas mais personalizadas
- Adaptabilidade a inputs inéditos
- Interação mais natural
- Suporte a decisões complexas
⚠ Riscos únicos
- Confabulações (alucinações) que parecem autênticas
- Incerteza nos limites do uso pretendido
- Baixa visibilidade do modelo de base de terceiros
- Degradação de desempenho no tempo real (TPLC)
Definições-chave (glossário FDA)
GenAI
Classe de modelos que emulam a estrutura dos dados para gerar conteúdo derivado: imagens, vídeos, áudio, texto.
Foundation model
Treinado em grandes datasets (geralmente não rotulados), aplicável a ampla gama de contextos — inclusive não previstos (capacidades emergentes). Base para fine-tuning.
LLM
Modelo treinado em grandes textos para prever/gerar linguagem natural. Caracteriza-se pelo vasto número de parâmetros.
Agentic AI
GenAI que planeja e executa tarefas multi-etapas de forma autônoma, usa ferramentas e age em sequências.
Multimodal
Processa e integra múltiplos tipos de dados (texto, imagem, áudio, vídeo, genômica, sensores).
GenAI-enabled device
Produto com uma ou mais funções de software-dispositivo habilitadas por GenAI. O componente GenAI é o foco do paper, não o device inteiro.
Matriz de risco em dois eixos (Fig. 1)
O CDRH propõe uma heurística: atividade do dispositivo (eixo X, cresce em independência) × consequência de confiar num output incorreto (eixo Y, cresce em gravidade). Risco aumenta do canto inferior-esquerdo ao superior-direito.
Como cada tipo de função afeta o risco
Action-directing
Informação que direciona ação é maior risco que não-direciona. A diretividade é um continuum (de informação geral a instrução específica). Um "converse com seu médico" anexo não reduz a diretividade.
Action-taking
Atribuir diagnóstico, prescrever ou iniciar ordem é tipicamente maior risco — moderado pela consequência (antibiótico p/ estreptococo ≠ trombólise em AVC).
Medida & sinal
Funções de IVD/medição têm output não avaliável pelo usuário — podem ser maior risco mesmo "não-direcionas", pois o usuário não detecta o erro.
Paciente vs. HCP
Pacientes podem não detectar output errado e atrasar cuidado ou fazer autotratamento inadequado. Funções voltadas ao paciente podem subir na consequência.
Generalista vs. especialista
Levar conhecimento especialista a HCP generalista amplia acesso — mas eleva risco se o uso seguro depender de contextualização por especialista.
Multi-turno & escalonamento
Conversas podem migrar de informacional a action-directing — avalia-se trajetórias. Em escalonamento, under- e over-escalation são ambos falhas.
Abordagem baseada em competência
Autores propõem regulação inspirada em médicos: Patel & Blumenthal sugerem competência (num estilo de treinamento/licença médica); Bergman, Wachter & Emanuel estendem a licença com escopo definido, certificação com prazo e monitoramento; Freyer et al. perguntam como responsabilizar um device falho (médicos têm consequências profissionais/legais). O CDRH adapta isso à realidade regulatória de dispositivos.
Device benchmarking (não-clínico)
Avalia o dispositivo na configuração real de uso (não o modelo isolado): conhecimento clínico, análise, segurança, comunicação e generalização. Alta-capacidade, usando assets públicos + testes específicos do sponsor.
Clinical confirmation
Benchmarking pode não bastar. A confirmação não exige estudo prospectivo em todo caso — o rigor é proporcional ao risco (framework 2 eixos).
10 elementos do device benchmarking (Fig. 2)
Nem todos se aplicam a todos os dispositivos — são escolhidos pelo uso pretendido e perfil de risco. Marque quais você precisaria para um dispositivo hipotético.
Métodos em ordem crescente de rigor
| Nível | Método | Como funciona |
|---|---|---|
| 1 | Retrospectiva em inputs reais | Device aplicado a dados pré-coletados; outputs comparados a referência ou consenso multi-clínico. Sintéticos podem suplementar. |
| 2 | Shadow deployment | Opera no fluxo real, mas outputs não são mostrados nem afetam o cuidado; compara-se ao que foi decidido. |
| 3 | Pacientes padronizados | Atores seguem cenários definidos; outputs avaliados por critérios prospectivos. |
| 4 | Adjudicação clínica de casos reais | Clínicos independentes revisam inputs/outputs reais — cega ou não-cega — contra critérios prospectivos. |
| 5 | Estudo clínico prospectivo | Para alguns casos, estudo prospectivo — às vezes RCT. Pode incorporar RWD e dados OUS. |
Monitoramento pós-market e controle de mudanças
⟳ Re-benchmarking periódico
Reavaliar contra limiares pré-definidos do §V.B, em cadência e após eventos-gatilho (mudança de modelo/arquitetura).
☑ Revisão clínica por amostra
Adjudicadores independentes revisam amostras de inputs/outputs reais contra critérios prospectivos.
📉 Monitoramento de degradação
Detectar drift por mudança na população de inputs, ambiente de dados ou modelo, com análises/limiares pré-especificados.
Δ Tipos de mudança
Intencionais (update, redesign, retraining) · evolução passiva (aprende/adapta) · não-planejadas (updates de modelo de terceiros).
Foundation Model MAF & sistemas agênticos
Foundation Model Master File (MAF)
Dispositivos GenAI dependem de modelos de base de terceiros que controlam refusal, políticas, versionamento e segurança. O MAF voluntário (programa Device Master File existente) deixaria o dev enviar model/system cards confidenciais, referenciáveis por sponsors. Não autoriza o modelo base — o sponsor segue responsável.
Agentic AI
Agentes planejam/executam multi-etapas e usam ferramentas. Muitos casos (coordenação, documentação, outreach) podem não ser foco da supervisão de dispositivo. Mas se o agente controla outro device médico, pode virar device — exigindo avaliação diferenciada (ação autônoma, tool use, menos revisão humana).
Você entendeu a proposta da FDA?
Referências-chave
fda.gov/media/19424210.1001/jamahealthforum.2025.694710.1001/jama.2026.548310.1038/s41591-025-03841-110.1016/j.ailsci.2026.100162