Medicina de Caixa Negra: Uma Análise Ética

A aplicação da IA ​​na Medicina (IAM) produz práticas de saúde mais fiáveis, precisas e eficientes do que a Medicina Tradicional (MT), auxiliando parcial/totalmente a tomada de decisão médica, como o uso de aprendizagem profunda em imagens de diagnóstico, desenhando planos de tratamento ou diagnóstico preliminar. No entanto, a maioria destes sistemas de IA são puras “caixas negras”: o profissional de saúde compreende os inputs e outputs do sistema, mas não pode ter acesso ao que acontece “dentro” do mesmo, e não pode oferecer uma explicação, criando um processo opaco que culmina numa “lacuna da confiança”. Tal fato cria uma “medicina de caixa negra”, uma vez que o profissional deve confiar (epistemicamente) nestes sistemas de IA que são mais precisos, rápidos e eficientes do que qualquer especialista ou grupo de especialistas humanos, mas não são transparentes (epistemicamente) e não oferecem qualquer tipo de explicação. Nesta palestra, foram analisados os prós e os contras de três formas de responder ao “a lacuna da confiança”, para diagnosticar e identificar os principais aspetos relevantes que devem ser considerados entre a confiança e os processos algorítmicos em saúde.