Neste artigo
Um grupo internacional de cientistas liderado pelo Instituto de Tecnologia de Massachusetts (MIT) está desenvolvendo uma nova abordagem para sistemas de inteligência artificial na área médica: a criação de IAs “humildes” que reconhecem suas próprias limitações e incertezas durante o processo de diagnóstico.
A pesquisa, publicada no periódico BMJ Health and Care Informatics, alerta que os sistemas de IA atuais podem influenciar incorretamente as decisões médicas ao apresentar diagnósticos com excesso de confiança, mesmo quando estão errados.
O Problema da Confiança Excessiva
Estudos anteriores demonstraram que médicos de UTI tendem a seguir recomendações de sistemas de IA que consideram confiáveis, mesmo quando sua própria intuição clínica aponta para uma direção diferente. Tanto profissionais de saúde quanto pacientes têm maior probabilidade de aceitar recomendações incorretas da IA quando estas são apresentadas de forma autoritária.
“Estamos usando a IA como um oráculo, mas podemos usá-la como um coach. Podemos usar a IA como um verdadeiro copiloto. Isso não apenas aumentaria nossa capacidade de recuperar informações, mas também nossa agência para conectar os pontos.”
— Leo Anthony Celi, pesquisador sênior do MIT
Uma Nova Estrutura para IA Colaborativa
A equipe desenvolveu uma estrutura com módulos computacionais que podem ser incorporados aos sistemas de IA existentes. O primeiro módulo exige que o modelo avalie sua própria certeza ao fazer previsões diagnósticas.
O sistema inclui um “Epistemic Virtue Score” (Pontuação de Virtude Epistêmica), desenvolvido por pesquisadores da Universidade de Melbourne, que funciona como uma verificação de autoconsciência, garantindo que a confiança do sistema seja adequadamente moderada pela incerteza e complexidade de cada cenário clínico.
Como funciona na prática:
- Se o sistema detecta que sua confiança excede o que as evidências disponíveis suportam, ele pausa e sinaliza a incompatibilidade
- A IA pode solicitar exames específicos ou histórico adicional do paciente
- O sistema pode recomendar consulta com especialistas quando necessário
- O objetivo é uma IA que não apenas forneça respostas, mas também sinalize quando essas respostas devem ser tratadas com cautela
Implicações para a Enfermagem
Esta abordagem tem impacto direto na prática de enfermagem, especialmente em ambientes de cuidados intensivos e triagem. Enfermeiros frequentemente trabalham com sistemas de suporte à decisão clínica, e uma IA que comunica suas incertezas pode:
- Fortalecer o julgamento clínico do profissional em vez de substituí-lo
- Reduzir erros de diagnóstico causados por excesso de confiança tecnológica
- Promover uma cultura de questionamento saudável das recomendações automatizadas
- Melhorar a segurança do paciente em situações complexas
Próximos Passos
A equipe do MIT está implementando a nova estrutura em sistemas de IA baseados no banco de dados MIMIC (Medical Information Mart for Intensive Care) e introduzindo-a aos clínicos do sistema Beth Israel Lahey Health. A abordagem também pode ser aplicada em sistemas que analisam imagens de raio-X ou determinam opções de tratamento para pacientes em emergências.
A pesquisa faz parte de um esforço maior para criar sistemas de IA projetados por e para as pessoas que serão mais impactadas por essas ferramentas, superando vieses existentes em modelos treinados predominantemente com dados dos Estados Unidos.
Fonte: MIT News | Publicado em 24 de março de 2026
