Algoritmos de Vida ou Morte: Evitando a Caixa Preta da IA ​​em Medicina

Algoritmos de Vida ou Morte: Evitando a Caixa Preta da IA ​​em Medicina

Quando se trata de aplicativos para machine learning , poucos podem ser mais divulgados do que os remédios. Isso não surpreende: é uma grande indústria que gera uma quantidade fenomenal de dados e receita, onde os avanços tecnológicos podem melhorar ou salvar a vida de milhões de pessoas. Quase todas as semana somos informados por algum novo estudo que sugere que os algoritmos logo serão melhores que os especialistas na detecção de pneumonia , ou doenças de Alzheimer em órgãos complexos que vão desde o olho até o coração .

Os problemas dos hospitais superlotados e da equipe médica sobrecarregada afetam os sistemas públicos de saúde, e elevam os custos dos sistemas de saúde privados. Aqui, novamente, os algoritmos oferecem uma solução tentadora. Quantas visitas do médico realmente precisam acontecer? Quantos poderiam ser substituídos por uma interação com um chatbot inteligente – especialmente se ele puder ser combinado com testes de diagnóstico portáteis , utilizando o que há de mais recente em biotecnologia ? Dessa forma, visitas desnecessárias poderiam ser reduzidas, e os pacientes poderiam ser diagnosticados e encaminhados a especialistas mais rapidamente, sem esperar por uma consulta inicial.

Como já sabemos o objetivo do algoritmos de inteligência artificial não é substituir os médicos, mas dar-lhes ferramentas para reduzir as partes mundanas ou repetitivas do trabalho. Com uma inteligência artificial que pode examinar milhares de varreduras em um minuto, o “trabalho enfadonho” é deixado para as máquinas, e os médicos são liberados para se concentrar nas partes que exigem julgamento mais complexo, sutil e baseado na experiência dos melhores. tratamentos e as necessidades do paciente.

Alto risco

Mas, como sempre acontece com os algoritmos de IA, há riscos envolvidos – mesmo em tarefas que são consideradas rotineira. Em um contexto de saúde, onde as decisões tomadas podem significar vida ou morte, as conseqüências da falha algorítmica podem ser graves.

O sonho do big data na medicina é alimentar uma rede neural em “grandes quantidades de dados de saúde, encontrar relacionamentos complexos e implícitos e fazer avaliações individualizadas para os pacientes ”. E se, inevitavelmente, esse algoritmo se mostrar excessivamente eficaz no diagnóstico de um problema? condição médica ou prescrever um tratamento, mas você não tem conhecimento científico de como esse link realmente funciona?

Muitos segmentos para desvendar?

Os modelos estatísticos subjacentes a essas redes neurais geralmente assumem que as variáveis ​​são independentes umas das outras, mas em um sistema complexo e interativo como o corpo humano, nem sempre é esse o caso.

De certa forma, esse é um conceito familiar na ciência médica – há muitos fenômenos e vínculos que foram observados por décadas, mas ainda são pouco compreendidos em nível biológico. O paracetamol é um dos analgésicos mais comumente prescritos, mas ainda há um debate sólido sobre como ele realmente funciona. Os médicos podem estar dispostos a implantar qualquer ferramenta que seja mais eficaz, independentemente de se basear em uma compreensão científica mais profunda. 

Mas, como nesse campo, há um debate a ser feito sobre se essa abordagem corre o risco de perder de vista uma compreensão mais profunda que acabará sendo mais proveitosa – por exemplo, para a descoberta de medicamentos.

A transparência sobre como o algoritmo funciona – os dados que ele olha e os limites para tirar conclusões ou fornecer aconselhamento médico – pode ser necessária, mas também pode entrar em conflito com o lucro e o desejo de sigilo nas startups de serviços de saúde.

Uma solução pode ser o rastreamento de algoritmos que não podem se explicar, ou não dependem de ciência médica bem compreendida, antes de entrar no mercado da saúde. Mas isso pode impedir que as pessoas colham os benefícios que podem proporcionar.

Avaliação de Algoritmos

Os novos algoritmos de assistência médica não poderão fazer o que os físicos fizeram com a mecânica quântica e apontar para um histórico de sucesso, porque eles não serão implantados no campo. E, conforme Price observa, muitos algoritmos melhorarão à medida que forem implantados no campo por um período maior e poderão coletar e aprender com os dados de desempenho que são realmente usados. Então, como podemos escolher entre as abordagens mais promissoras?

Criar um teste clínico padronizado e um sistema de validação que sejam igualmente válidos em algoritmos que funcionem de maneiras diferentes, ou usem dados de entrada ou de treinamento diferentes, será uma tarefa difícil. Ensaios clínicos que dependem de amostras pequenas, como para algoritmos que tentam personalizar o tratamento para indivíduos, também serão difíceis. Com um tamanho de amostra pequeno e pouca compreensão científica, é difícil dizer se o algoritmo foi bem-sucedido ou não porque é ruim em seu trabalho ou por acaso.

Adicione a aprendizagem à mistura e a imagem fica mais complexa. “Talvez mais importante, na medida em que um algoritmo de caixa-preta ideal é plástico e atualizado com frequência, o modelo de validação de estudos clínicos se rompe, porque o modelo depende de um produto estático sujeito à validação estável. O sistema de teste e validação de produtos médicos precisa de alguma adaptação para lidar com este novo software antes que ele possa testar e validar com sucesso os novos algoritmos.

Golpeando um equilíbrio

A história na área da saúde reflete a história da IA ​​em muitos outros campos, e as complexidades envolvidas talvez ilustrem por que até mesmo uma empresa ilustre como a IBM parece estar lutando para transformar sua famosa IA Watson em um produto viável no setor da saúde.

Um equilíbrio deve ser atingido, tanto em nossa pressa de explorar o big data quanto no estranho poder das redes neurais, e em automatizar o pensamento. Devemos estar conscientes dos vieses e falhas desta abordagem para a solução de problemas: perceber que não é uma panacéia à prova de falhas.

Mas também precisamos adotar essas tecnologias onde elas podem ser um complemento útil para as habilidades, percepções e compreensão mais profunda que os seres humanos podem oferecer. Assim como uma rede neural, nossas indústrias precisam se capacitar para melhorar essa cooperação no futuro.

Crédito de imagem: Conecte-se ao mundo / Shutterstock.com.

Fonte: SingularityHub

Comentários Via Facebook
compartilhe

Solange Luz

Ela é a construção de todos que conheceu e de tudo que viveu, especialista em sonhar acordada e falar consigo mesma. No Voicers é a CCC (Content, Creator & Curator), carinhosamente conhecida como Queen of Words.
Fechar Menu