A inteligência artificial (IA) entrou na saúde por uma porta que parecia exclusivamente tecnológica, mas rapidamente se tornou uma questão clínica, ética e jurídica. Os algoritmos já participam na interpretação de imagens, na estratificação de risco, no apoio ao diagnóstico, na previsão de eventos clínicos, na seleção de intervenções e na organização dos cuidados. A promessa da IA é tentadora, uma vez que apresenta respostas mais rápidas, deteta padrões que podem escapar à perceção humana e utiliza grandes volumes de informação que nenhum profissional conseguiria processar individualmente. Contudo, podemos considerar segura uma decisão clínica produzida ou influenciada por um sistema que o profissional não consegue compreender suficientemente?

A questão não é saber se os profissionais de saúde devem aprender a programar. A questão é saber se quem utiliza uma tecnologia que interfere numa decisão clínica, precisa de ter conhecimentos suficientes para compreender o que o sistema faz, em que condições funciona, quais são as suas limitações e, sobretudo, quando a sua recomendação não deve ser seguida.

A Organização Mundial da Saúde colocou a autonomia humana, a segurança, a transparência, a explicabilidade e a responsabilidade entre os princípios fundamentais para a utilização ética de sistemas de IA em saúde.

Existe uma tendência para avaliar os sistemas algorítmicos sobretudo através da sua performance. No entanto, a sensibilidade, a especificidade, o valor preditivo e a acuidade, são métricas indispensáveis. Uma decisão clinicamente responsável não é apenas uma questão estatística, porque uma decisão pode ser correta e, ainda assim, ser eticamente problemática.

Um algoritmo pode apresentar excelente desempenho num conjunto de dados e falhar perante uma população diferente, uma situação clínica atípica ou uma alteração das condições em que foi desenvolvido. Temos que ter em consideração que a validade e a fiabilidade de um sistema, devem ser acompanhadas pela avaliação das suas limitações de generalização e pela capacidade de falhar de forma segura, particularmente quando o sistema ultrapassa os seus limites de conhecimento, porque precisão não é sinónimo de confiabilidade.

Uma resposta algorítmica pode ser estatisticamente provável sem ser clinicamente adequada para aquela pessoa concreta. O doente não é uma distribuição estatística. É um indivíduo com história, valores, contexto familiar, preferências, sinais clínicos, vulnerabilidades e circunstâncias que podem não estar representados nos dados utilizados pelo modelo. A decisão clínica tem que necessariamente ser contextual.

Há uma característica particularmente inquietante em alguns sistemas de IA, que é a capacidade de produzir uma resposta mesmo quando a informação disponível é insuficiente, assim como, a ausência da resposta “não sei”. Um sistema algorítmico que produz sempre uma resposta pode, paradoxalmente, ser menos seguro do que um sistema capaz de reconhecer a própria incerteza.

Leia o artigo completo aqui: https://healthnews.pt/2026/10/19/quando-o-algoritmo-nao-sabe-que-nao-sabe/