3. Monitorar não é vigiar: é proteger a decisão médica

1. A palavra “monitoramento” pode gerar resistência quando interpretada como fiscalização punitiva. 
No contexto da Medicina Assistida por IA, porém, monitorar significa criar condições para que uma 
ação médica mediada por tecnologia seja:

1.	segura, 

2.	justificável, 

3.	reproduzível, 

4.	auditável,

5.	corrigível.
    
2. Monitorar é responder a perguntas simples, mas decisivas, conforme ilustradas na matriz 
Pergunta - Sentido clínico-computacional

3.1 Matriz: Pergunta - Sentido clínico-computacional

|O que foi feito?|Identificar a ação executada| 

|Quem fez?|Definir autoria ou responsabilidade| 

|Quando foi feito?|Estabelecer temporalidade| 

| Com qual ferramenta? | Conhecer o sistema utilizado| 

| Com quais dados?| Avaliar sensibilidade, finalidade e necessidade| 

| Com qual justificativa? | Relacionar a ação ao cuidado ou ao projeto| 

| Qual foi o resultado?	 | Avaliar impacto| 

| Houve revisão humana? | Garantir supervisão médica| 

| Houve erro, alucinação ou desvio?	| Identificar necessidade de correção| 

| Há evidência registrada? | Permitir auditoria e aprendizado| 

3.2 Relevância do Monitoramento

Na prática, o monitoramento protege três dimensões: 

1.	o paciente: 
Protege o paciente porque reduz a chance de uso indevido de dados, interpretação acrítica 
de saídas algorítmicas, exposição de informações sensíveis e decisões automatizadas
sem supervisão.

2.	o médico: 
Protege o médico porque cria trilhas de justificativa, demonstra diligência, evidencia revisão 
crítica e reduz a vulnerabilidade diante de acusações de uso imprudente de tecnologia.

3.	a instituição: 
Protege a instituição porque fortalece governança, conformidade, segurança da informação, 
rastreabilidade e melhoria contínua.

4. A ponte com CNAPP, CSPM e conformidade automatizada

1. Os conceitos de CNAPP e CSPM, próprios da Cloud Security, ajudam a construir uma analogia
muito útil para a Medicina Assistida por IA.

2.	O CSPM, ou Cloud Security Posture Management, pode ser compreendido como o “inspetor 
permanente” da postura de segurança em nuvem. Ele identifica:

•	configurações incorretas, 

•	permissões excessivas, 

•	recursos expostos, 

•	vulnerabilidades,

•	desvios de conformidade.

3.	O CNAPP, ou Cloud Native Application Protection Platform, amplia essa visão, 
funcionando como um centro de comando integrado. Em uma visão mais abrangente 
ele reúne monitoramento de:

•	workloads, 

•	permissões, 

•	identidades, 

•	contêineres, 

•	Kubernetes, 

•	vulnerabilidades,

•	conformidade.
    
4. Transportando essa lógica para a Medicina, podemos afirmar:
•	o médico precisa desenvolver um CSPM mental de suas próprias ações com IA.

5. Isso significa manter uma postura permanente de inspeção crítica:

•	estou usando a ferramenta correta?

•	estou inserindo dados permitidos?

•	existe risco de identificação do paciente?

•	a IA está apoiando ou substituindo indevidamente meu julgamento?

•	a saída foi conferida?

•	a decisão final foi documentada?

•	houve justificativa clínica?

•	existe evidência mínima do raciocínio adotado?

•	a instituição permite esse uso?

•	há necessidade de comunicar evento, falha ou quase erro?

6. A maturidade surge quando o médico deixa de usar IA como “atalho invisível” e passa a 
utilizá-la como ferramenta monitorável dentro de um fluxo de responsabilidade.

5. O Protocolo MÉDICO para monitoramento das ações com IA

Para facilitar a aplicação prática, propõe-se o Protocolo MÉDICO, um modelo didático de monitoramento 
das ações médicas envolvendo IA.

M — Mapear a ação

Uma ação sem nome dificilmente será bem acompanhada. Por isso, a primeira medida a ser tomada pelo médico 
é dar um nome à ação, identificando claramente o que será feito. Como exemplos, podemos citar:

•	resumir texto científico;

•	revisar redação de artigo;

•	estruturar hipótese diagnóstica;

•	interpretar alerta de dispositivo médico inteligente;

•	analisar base de dados anonimizada;

•	criar pseudocódigo educacional;

•	revisar imagem, sinal, laudo ou padrão de risco;

•	apoiar triagem, estratificação ou acompanhamento.

É — Evidenciar finalidade, dados e ferramenta

1. Toda ação com IA precisa ter finalidade clara. A finalidade pode ser:

1.	educacional, 

2.	assistencial, 

3.	científica, 

4.	administrativa, 

5.	operacional,

6.	exploratória. 
    
2. Cada objetivo tem riscos diferentes. Ademais, também é importante identificar quais dados 
serão usados. A natureza dos dados pode ser: 

•	dados públicos;

•	dados sintéticos;

•	dados anonimizados;

•	dados pseudonimizados;

•	dados sensíveis;

•	dados identificáveis;

•	imagens;

•	exames;

•	sinais vitais;

•	texto clínico;

•	dados de dispositivos;

•	registros de prontuário.
    
3. Quanto mais sensível o dado, maior a exigência para:

1. justificativa clara e acesspvel, 

2. proteção eficaz,

3. registros auditáveis.

D — Definir limites e responsabilidades

1. A IA pode:

1.	sugerir, 

2.	organizar, 

3.	classificar, 

4.	resumir, 

5.  alertar,

6.	comparar. 
    
2. Mas a decisão médica exige responsabilidade humana. O médico deve definir previamente:

•	a IA será apenas apoio?

•	a saída será conferida?

•	quem valida o resultado?

•	o paciente será impactado diretamente?

•	existe risco de conduta automatizada?

•	a ferramenta é institucionalmente autorizada?

•	o resultado precisa ser documentado em prontuário?

•	o uso deve ser comunicado ao paciente ou à instituição?
    
3. O ponto crítico é não permitir que uma ferramenta probabilística adquira autoridade 
clínica sem supervisão.

I — Inspecionar resultados, logs e alertas

Depois da ação, é necessário avaliar o que aconteceu. Inspecionar significa verificar:

•	se a saída da IA é plausível;

•	se há contradições;

•	se há alucinação;

•	se há omissão relevante;

•	se o dado usado era adequado;

•	se houve alerta de segurança;

•	se houve tentativa de acesso indevido;

•	se o sistema registrou a ação;

•	se a recomendação mudou a conduta;

•	se a decisão final foi humana.
    
Na Medicina Assistida por IA, não basta apreciar um resultado bonito. É essencial observar
todo o caminho percorrido.

C — Corrigir desvios e comunicar riscos

1. O médico deve saber interromper o fluxo sempre que houver:

1.	erro, 

2.	inconsistência,

3.	risco. 
    
2. Exemplos de desvios:

•	IA sugeriu diagnóstico incompatível com o quadro clínico;

•	ferramenta solicitou dado identificável sem necessidade;

•	output trouxe informação inventada;

•	modelo demonstrou viés;

•	alerta de dispositivo foi ignorado;

•	integração enviou dado a destino inadequado;

•	sistema apresentou comportamento inesperado;

•	regra de acesso permitiu consulta excessiva.
    
3. A correção pode envolver:

1.	revisão clínica, 

2.	registro em prontuário, 

3.	comunicação à equipe técnica, 

4.	abertura de chamado, 

5.	notificação interna, 

6.	relato à governança, 

7.	notificação a tecnovigilância, 

8.	revisão do protocolo,

9.	suspensão temporária do uso.

O — Organizar evidências e aprendizado

1. O ciclo se completa quando a experiência se transforma em aprendizado. Monitorar não é criar burocracia, 
mas sim converter eventos em melhorias. Organizar as evidências possibilita:

•	revisar protocolos;

•	reduzir reincidência;

•	treinar equipes;

•	auditar fluxos;

•	documentar boas práticas;

•	fortalecer governança;

•	demonstrar diligência;

•	proteger pacientes e profissionais.
    
2. A Medicina Assistida por IA amadurece quando seus erros deixam de ser ocultos e passam a ser 
analisados com método.

6. Matriz: ação médica com IA → risco → monitoramento → evidência

|1 - Ação médica com IA|2 - Risco principal| 3 - O que monitorar|4 - Evidência mínima recomendada|

|1 - Inserir prompt em IA generativa |2 - Exposição de dado sensível|
| 3 - 	Presença de identificadores, finalidade, ferramenta usada| 
| 4 - 	Registro educacional ou anotação interna sem dados pessoais|

| 1- Usar IA para resumo de caso| 2 - 	Omissão ou distorção clínica |
| 3 - 	Comparação com fonte original| 4 - 	Revisão médica documentada|

| 1 - Aceitar sugestão diagnóstica	| 2 - Viés, erro ou alucinação|
|3 - Dados de entrada, justificativa, plausibilidade	| 4 - Nota clínica com raciocínio humano|

| 1- Avaliar alerta de DMIA| 2 - Falso positivo ou falso negativo|
| 3 - Contexto clínico, horário, ação tomada| 4 - 	Registro do alerta e da decisão |

|1 - Usar base de pesquisa| 2 - Reidentificação ou uso indevido| 
| 3 - Anonimização, autorização, | 4 - finalidade	Termo, aprovação ou registro institucional| 

|1 - Publicar código educacional| 2 - Código inseguro ou mal interpretadoV 
|3 - Escopo didático, ausência de dados reais |4 - Declaração de Uso Educacional|

|1 - Solicitar acesso a sistema	| 2 - Privilégio excessivo| 
| 3 - Menor privilégio, tempo de acesso, justificativa| 4 -Log de autorização|

| 1 - Integrar ferramenta externa| 2 - Vazamento ou dependência indevida| 
| 3 - Fluxo de dados, API, contrato, logs| 4 - Avaliação técnica e jurídica| 

|1 - Usar dashboard preditivo| 2 - Confiança excessiva no score| 
| 3 - Métrica, limiar, explicabilidade, revisão| 4 - Registro da decisão final| 

| 1 - Automatizar fluxo assistencial| 2 - Ação sem supervisão humana| 
| 3 - Pontos de interrupção e validação	| 4 - Mapa do fluxo e responsáveis |

7. Sugestão de matriz de ações para o médico e “health score”.

Em ambientes de Cloud Security, dashboards e métricas são usados para indicar a 
saúde de um sistema computacional. Essa ideia pode ser adaptada ao uso médico da IA. 
Não seria medir o paciente, e sim avaliar a saúde da própria conduta digital. 

Essa lógica não deve ser vista como sistema definitivo, mas como representação didática. 
Ela ajuda o médico a compreender que cada ação com IA pode aumentar ou reduzir a 
segurança do cuidado.

7.1 Modelo de Sugestão de Matriz :

|Descrição da Ação |Pontuação sugerida| 

| Finalidade da ação claramente definida|+2 |

| Ausência de dados identificáveis desnecessários|+3 |

| Ferramenta institucionalmente autorizada| +2 | 

| Revisão humana documentada|+3|

| Resultado conferido com fonte clínica	|+3|

|Log ou evidência mínima preservada|+2|

|Risco comunicado quando identificado|+3|

|Uso de dado sensível sem justificativa|-5|

| Ausência de revisão médica|-5|

|Conduta baseada apenas em output de IA	|-7|

| Uso de ferramenta não autorizada com dado clínico|-10|

8. Representação de uma ação médica monitorável

JSON

{
  "acao_medica_ia": {
    "id_evento": "MED-IA-2026-0001",
    "data_hora": "2026-04-30T10:35:00-03:00",
    "profissional": "medico_responsavel",
    "finalidade": "apoio_educacional",
    "ferramenta_utilizada": "modelo_de_ia_generativa",
    "tipo_de_dado": "texto_sem_identificacao_de_paciente",
    "dados_sensiveis": false,
    "houve_insercao_de_dados_identificaveis": false,
    "resultado_gerado": "resumo_tecnico",
    "houve_revisao_humana": true,
    "decisao_clinica_impactada": false,
    "risco_identificado": "baixo",
    "acao_corretiva_necessaria": false,
    "observacao": "Uso restrito à organização textual e revisão conceitual."
  }
}

# Nota:  Esse exemplo demonstra uma ação de baixo risco: uso educacional, sem dado 
identificável e com revisão humana.

9. Pseudocódigo para decisão segura antes de usar IA

Python

def avaliar_uso_de_ia(finalidade, contem_dado_sensivel, contem_identificacao, ferramenta_autorizada):
    if not finalidade:
        return "NÃO USAR: finalidade não definida."

    if contem_identificacao:
        return "NÃO USAR: há dado identificável. Remover, anonimizar ou buscar autorização institucional."

    if contem_dado_sensivel and not ferramenta_autorizada:
        return "NÃO USAR: dado sensível em ferramenta não autorizada."

    if not ferramenta_autorizada:
        return "USO RESTRITO: permitido apenas para conteúdo público, sintético ou educacional."

    return "USO POSSÍVEL: manter revisão humana, registro mínimo e validação crítica."
    
# Nota: Esse pseudocódigo representa uma ideia central: antes de usar IA, o médico precisa realizar 
uma triagem ética, técnica e assistencial da própria ação.

10. Exemplo de score simplificado de risco

Python

def calcular_risco_acao_ia(
    dado_sensivel: bool,
    dado_identificavel: bool,
    ferramenta_autorizada: bool,
    revisao_humana: bool,
    impacto_clinico: bool
):
    risco = 0

    if dado_sensivel:
        risco += 3

    if dado_identificavel:
        risco += 5

    if not ferramenta_autorizada:
        risco += 4

    if not revisao_humana:
        risco += 4

    if impacto_clinico:
        risco += 5

    if risco >= 12:
        return "RISCO CRÍTICO: interromper uso e acionar governança."
    elif risco >= 8:
        return "RISCO ALTO: exigir revisão institucional antes de prosseguir."
    elif risco >= 4:
        return "RISCO MODERADO: prosseguir apenas com cautela e registro."
    else:
        return "RISCO BAIXO: uso aceitável com revisão humana."

# Nota: 
O valor desse exemplo não está no código em si, mas na mentalidade que ele ensina: 
ações médicas com IA podem e devem ser classificadas quanto ao risco.

11. Fluxograma textual de monitoramento médico da IA

INÍCIO
  |
  v
A ação envolve IA?
  |
  |-- NÃO --> Seguir fluxo assistencial habitual
  |
  |-- SIM
        |
        v
Há dado clínico, sensível ou identificável?
        |
        |-- SIM --> Existe autorização, finalidade e ambiente seguro?
        |             |
        |             |-- NÃO --> Não executar / buscar governança
        |             |
        |             |-- SIM --> Prosseguir com registro e proteção
        |
        |-- NÃO --> Prosseguir com cautela educacional ou técnica
        |
        v
A saída da IA pode influenciar decisão clínica?
        |
        |-- SIM --> Exigir revisão médica, validação e documentação
        |
        |-- NÃO --> Registrar uso conforme finalidade
        |
        v
Houve erro, alucinação, viés ou comportamento inesperado?
        |
        |-- SIM --> Corrigir, comunicar e aprender
        |
        |-- NÃO --> Encerrar com evidência mínima
        |
        v
FIM

12. Cenários aplicados à Medicina Assistida por IA

Cenário 1 — Médico usa IA generativa para organizar um texto científico

Um médico deseja escrever um artigo educacional sobre inteligência artificial na saúde. 
Ele utiliza IA para estruturar tópicos, revisar linguagem e sugerir analogias.

O risco é baixo se não houver dados reais de pacientes, imagens identificáveis, informações
institucionais sigilosas ou recomendações clínicas individualizadas.
    
O monitoramento adequado consiste em declarar o uso instrumental da ferramenta, revisar 
criticamente o conteúdo, conferir referências, evitar afirmações não verificadas e assumir 
autoria final.

Cenário 2 — Médico usa IA para discutir hipótese diagnóstica

Um médico insere dados de um caso clínico em uma ferramenta de IA para discutir hipóteses 
diagnósticas.

O risco aumenta significativamente se houver identificação do paciente, dados raros que permitam
reidentificação, detalhes temporais específicos ou imagens clínicas.

Mesmo que a IA sugira uma hipótese plausível, a decisão final precisa permanecer vinculada ao exame 
clínico, à propedêutica, aos protocolos, à literatura e à responsabilidade médica.

A IA pode ampliar o raciocínio, mas não pode substituir o juízo clínico.

Cenário 3 — DMIA gera alerta

Um DMIA conectado informa alteração compatível com deterioração clínica. 
O médico recebe o alerta em um dashboard. O monitoramento deve responder:

•	o alerta foi recebido?

•	em que horário?

•	por quem?

•	qual conduta foi tomada?

•	houve correlação clínica?

•	houve falso positivo?

•	houve falha de transmissão?

•	o dispositivo estava calibrado?

•	houve necessidade de notificação técnica?

Aqui, monitorar é parte da segurança assistencial.

Cenário 4 — Projeto de pesquisa usa imagens médicas em nuvem

Uma equipe deseja treinar ou testar modelo de IA com imagens radiológicas. 
O médico participante precisa saber perguntar:

•	as imagens foram anonimizadas?

•	há autorização ética?

•	o bucket ou repositório está privado?

•	quem tem acesso?

•	há logs?

•	há criptografia?

•	existe contrato com fornecedor?

•	há separação entre ambiente de pesquisa e produção?

•	há risco de reidentificação?

O médico não precisa configurar a nuvem, mas precisa reconhecer que uma imagem médica 
em ambiente inseguro não é apenas arquivo: é dado sensível, histórico assistencial e potencial 
risco jurídico.

13. Benefícios do monitoramento médico das ações com IA

1. O monitoramento adequado produz benefícios profundos. São estes: 

A.	fortalece a segurança do paciente. 

Sistemas de IA podem:

•	errar, 

•	alucinar, 

•	enviesar, 

•	omitir, 

•	simplificar,

•	sugerir caminhos incompatíveis com o contexto clínico. 
    
A revisão humana documentada reduz esse risco.

B.	fortalece a segurança do médico. 

Em um futuro próximo, será cada vez mais relevante demonstrar não apenas 
que a IA  foi usada, mas:

•	como foi usada, 


•	com quais limites,

•	sob qual responsabilidade.

C.	fortalece a governança institucional. 

Hospitais, clínicas, universidades e centros de pesquisa precisarão de profissionais capazes 
de transitar entre:

•	Medicina, 

•	IA,

•	segurança da informação,

•	conformidade.

D .	fortalece a cultura de aprendizagem. 
Quando ações são monitoradas, erros deixam de ser eventos isolados e passam a 
alimentar melhoria contínua.

E .	aproxima a Medicina da linguagem computacional sem descaracterizá-la. 

O médico continua sendo médico, mas passa a compreender, como novas extensões do cuidado:

•	logs, 

•	riscos, 

•	permissões, 

•	evidências, 

•	dashboards, 

•	alertas,

•	trilhas de auditoria.

14. Limites e riscos de falsa segurança

1.	Monitorar não elimina todos os riscos.

2.	Um dashboard bonito não garante segurança. 

3.	Um log existente não garante análise. 

4.	Uma política escrita não garante cumprimento. 

5.	Um alerta emitido não garante resposta. 

6.	Um modelo validado em determinado contexto não garante segurança em outro. 

7.	Uma ferramenta institucional não garante uso adequado.

8.	A falsa segurança surge quando o profissional acredita que a presença de tecnologia substitui:

•	julgamento, 

•	prudência,

•	responsabilidade.

9.	Há também riscos específicos:

•	excesso de confiança na IA;

•	fadiga de alertas;

•	registros automáticos sem análise;

•	uso de ferramentas não autorizadas;

•	coleta excessiva de dados;

•	baixa qualidade de logs;

•	ausência de revisão humana;

•	falta de integração entre equipe médica, TI, segurança e jurídico;

•	cultura punitiva que desestimula relato de erros;

•	automação sem governança.

Por isso, o monitoramento deve ser técnico, mas também ético. Deve ser estruturado,
mas não meramente burocrático. Deve proteger a assistência, não a paralisar.

15. Boas práticas para o médico monitorar suas ações em IA

O médico que utiliza IA deveria adotar algumas práticas mínimas:

1.	Nunca inserir dados identificáveis de pacientes em ferramentas não autorizadas.

2.	Diferenciar uso:

•   educacional, 

•	científico, 

•	administrativo,

•	assistencial.

3.	Registrar quando uma saída de IA influenciar raciocínio clínico relevante.

4.	Conferir respostas da IA contra fontes confiáveis.

5.	Não aceitar recomendações sem validação clínica.

6.	Questionar:

•	origem, 

•	qualidade,

•	atualização dos dados.

7.	Conhecer:

•	limites, 

•	vieses,

•	riscos da ferramenta.

8.	Solicitar apoio técnico quando houver:

•	integração, 

•	nuvem, 

•	API,

•	banco de dados.

9.	Participar da construção de protocolos institucionais.

10.	Comunicar:

•	falhas, 

•	alucinações, 

•	quase erros,

•	eventos adversos digitais.

11.	Exigir logs e trilhas de auditoria em sistemas que impactem cuidado.

12.	Usar linguagem clara ao justificar decisões.

13.	Evitar automações sem ponto de parada humano.

14.	Respeitar: 

•	LGPD, 

•	sigilo médico,

•	finalidade do tratamento de dados.

15.	Entender que monitoramento é parte da nova semiologia digital da Medicina.

16. Perspectivas futuras

A tendência é que o monitoramento médico das ações com IA deixe de ser diferencial e
se torne componente obrigatório da prática assistencial moderna. Veremos o crescimento de:

•	prontuários com registros de interação algorítmica;

•	trilhas de auditoria para decisões assistidas por IA;

•	modelos de LLMOps aplicados à saúde;

•	comitês de governança algorítmica;

•	validação contínua de modelos;

•	monitoramento de drift;

•	documentação de prompts clínicos;

•	protocolos de supervisão humana;

•	dashboards de segurança assistencial;

•	integração entre tecnovigilância, segurança da informação e governança de IA.
    
Nesse futuro, o médico que compreender monitoramento não será menos médico. 
Será mais preparado para proteger o ato médico em um ambiente tecnologicamente
complexo.

17. Conclusão

1.	A Medicina Assistida por IA não exige que o médico abandone sua essência
hipocrática, semiológica, humana e ética. Exige que ele expanda sua responsabilidade
para um ambiente no qual dados, modelos, sistemas, permissões, logs, alertas e automações
passam a interferir no cuidado.


2.	O médico do século XXI não precisa ser programador, mas não pode ser analfabeto 
diante dos sistemas que influenciam sua decisão.

3.	Monitorar suas ações com IA é reconhecer que cada prompt, cada dado, cada alerta, cada 
output e cada decisão mediada por algoritmo compõe uma nova cadeia de responsabilidade.

4.	A prudência médica, antes exercida apenas no exame, na escuta, na indicação terapêutica e no 
registro clínico, agora também precisa alcançar o ambiente digital.

Em síntese:

•	usar IA é uma escolha técnica; 

•	monitorar o uso da IA é uma obrigação ética; 

•	responder criticamente por essa escolha é Medicina.