O Viés da IA na Saúde!

Eu não sou um professor nem tampouco um pesquisador de Inteligência Artificial (IA) mas sou um estudioso que gosta muito de observar a evolução da IA no mundo!

Um dia desses “tava trocando” umas “figurinhas” com o médico Alfredo Marinho sobre o “viés” (ou “bias”) da IA e sobre a influência do tal “viés” nos algoritmos da IA atual. Alfredo aproveitou e publicou uma matéria criativa sobre o tema aqui: Viés de Inteligência Artificial em Saúde, Inlags Academy, 26.nov.2020.

Nesta matéria A revolução da saúde digital bate à sua porta, Saúde Business, 22.set.2020  abordamos alguns pontos que acreditamos que têm impedido – ainda – o avanço da IA na área da saúde, a saber: (1) os compradores não estão convencidos do ROI dos aplicativos de IA; (2) falta de talento tecnológico e recursos para implementar os aplicativos de IA no ambiente de saúde; (3) a falta de cultura dos médicos em relação a algoritmos da IA (é do conhecimento público que médicos “odeiam” a matemática em geral); e (4) a desorganização dos dados na maioria das instituições de saúde. A esta lista eu acrescentaria: o “viés” dos algoritmos usados na saúde!

O “viés” da IA em inglês é conhecido como “bias” e eu considero-o um tópico que tem desmotivado aos médicos em aceitar a competição com IA. É compreensível, gente! Para simplificar vamos pegar apenas o caso do radiologista. Como você acha que um radiologista vai aceitar de bom grado que uma aplicação de IA diga para ele que um “algoritmo desconhecido”, após analisar uma mamografia de uma paciente, informe-o que ela possui um câncer de mama. É natural que isso incomode ao radiologista principalmente por que a formação de médico – até atualmente – não incorpora nenhum requisito de capacitação em tecnologias digitais (várias delas) em especialmente da IA. Em mais alguns anos – e acho que não demora muito – a medicina vai incorporar o ensino da IA na formação do médico. “By the way” … já temos a 1ª escola de medicina ensinando IA para os médicos. Trata-se da Imperial College de Londres.

Voltando ao tema do “viés” da IA este é um tema de muita preocupação e pesquisa no cenário mundial. No caso da saúde é uma “hot thematic” também!

Nos algoritmos da IA atual dependendo dos dados que o analista de dados use para treinar os modelos, o resultado pode ser impreciso. Por exemplo, se você usa apenas mamografias de mulheres brancas para treinar um modelo de diagnóstico de câncer, o sistema pode produzir resultados imprecisos no caso de mulheres negras. Ver Referências do Google sobre = ai bias radiology medicine health black white women.

Pense que um modelo de IA é como se fosse uma criança de 3 anos (idade tomada como mera referência apenas) com o cérebro ainda em formação. Se alguém ensinar para ela o que é um gato e o que é um cão, ela saberá reconhecer cada um deles mas se ninguém ensinar a ela o que é um panda, ela não saberá reconhecê-lo quando ficar de frente para um panda!

Por que então não “inundamos” os modelos de IA com um número muito grande de informações para que eles não apresentem “viés”? Por que treinar um modelo de IA com um número grande de dados é MUITO CARO! Para treinar um modelo de IA precisamos de um volume “considerável” de informações (quanto mais melhor: centenas, milhares, dezenas de milhares, etc), os dados têm que ser “rotulados” (“labeled”), temos custo de “headcount” (analista de dados e outros), custo de processamento máquina, custo de energia, custo amortizado de máquinas especiais para processar grandes volumes de dados (em alguns casos), etc.

Sempre existirá um “trade off” entre a quantidade de dados utilizada para treinar o modelo de IA e a precisão do algoritmo, sem contar, no “esquecimento eventual” de considerar alguns tipos de dados para treinar o modelo (no caso acima falamos de mamografias de mulheres negras em sistema de diagnóstico de câncer de mama). No caso deste sistema devemos ensiná-lo com algumas mamografias com câncer (e suas variações) e com mamografias sem câncer (boas) que você vai coletar, “rotular” e treinar. Quantas mamografias usar? Poderia ser 1.000 (com câncer) e 300 (boas) ou 10.000 (com câncer) e 3.000 (boas) ou 50.000 (com câncer) e 15.000 (boas). Já dá para ver o trabalho que dá para treinar um modelo de IA quando aumentamos o número de dados a serem utilizados. Quanto mais dados você utilizar mais o modelo será preciso. E qual o volume de dados que devo usar para treinar os modelos de IA? “Sorry but there is no rule of thumb”!

Conheça mais aqui do “viés” da IA nos sistemas da área médica: Referências do Google sobre = healthcare bias problem in AI medical systems.

Para melhorar a qualidade dos modelos de IA, os pesquisadores estão utilizando a técnica de IA Explicável (“Explainable AI” = XAI). A XAI é um método emergente para aumentar a confiabilidade, a responsabilidade e a dependência da IA em áreas críticas. Isso é feito mesclando abordagens de Aprendizagem de Máquina (“Machine Learning”) com métodos explicativos que revelam quais são os critérios de decisão ou por que foram estabelecidos e permitem que as pessoas entendam e controlem melhor as ferramentas utilizadas em IA.

É oportuno então perguntar como a tecnologia da IA evoluirá nos próximos anos para reduzir as suas “deficiências” e alcançar estágios (e modelos de algoritmos) mais avançados? Vejamos …

A conceituada e famosa agência americana DARPA (Defense Advanced Research Projects Agency) tem pesquisado sobre a IA Explicável. Veja também aqui as Ondas de Evolução da IA segundo a DARPA. Você sabe o que a DARPA fez? Vamos citar apenas 2 invenções dela: o sistema GPS e o Carro Autônomo … tá bom para você?!!

A sofisticação dos modelos de IA está “andando a passos largos”. Em meados desse ano foi anunciado o modelo do GPT-3 que vai revolucionar a tecnologia da IA textual. O GPT-3 é um modelo de IA com 175 bilhões de parâmetros (sic!). Já se fala no mercado que o GPT-3 é a grande revolução da IA. Eu diria – mais comedido – que “pegamos o início da estrada” mais ainda vamos ter que percorrê-la um pouco mais só que “nosso carro agora está mais potente” (p. ex., mais dados, modelos mais evoluídos e, fundamental, hardware muito poderoso). Ver mais aqui sobre o GPT-3.  

Recentemente, o “vovô da IA” Geoffrey Hinton afirmou: “Eu acredito que o Aprendizado Profundo (algoritmo de “Deep Learning”) será capaz de fazer tudo, mas acho que terá que haver alguns avanços conceituais. O cérebro humano tem cerca de 100 trilhões de parâmetros, ou sinapses, enquanto o que hoje chamamos de modelo realmente grande, GPT-3, por exemplo, tem 175 bilhões. É mil vezes menor que o cérebro humano”, diz Geoff Hinton, um dos pioneiros do algoritmo de Aprendizado Profundo.

Em entrevista à brilhante Karen Hao, Hinton fez a afirmação acima. Veja a entrevista completa do “vovô da IA” aqui: AI pioneer Geoff Hinton: “Deep learning is going to be able to do everything”, MIT Technology Review, 03.nov.2020

Na minha opinião eu acho que ficaremos surpresos com o que faremos com o algoritmo de Aprendizado Profundo. O teste “a vera” acontecerá quando o GPT-n tiver mais parâmetros do que o cérebro humano, que pode estar a apenas em um horizonte de cinco a dez anos a partir de agora. Será que uma rede neural de 100 trilhões de parâmetros superará o desempenho de um cérebro humano de 100 trilhões de conexões? Eu duvido. Será uma tecnologia incrível? Certamente. Que tal uma rede neural de 10 quatrilhões de conexões? Como vai ser isso? E como chamaremos as coisas que ela pode fazer? DE FATO, NINGUÉM SABE O QUE TEREMOS PELA FRENTE!

Acima dissemos que a IA atual tem um cérebro de uma criança de 3 anos. Mas lembre-se: ela vai evoluir e crescer. A mesma coisa ocorrerá com a IA. Ela também “crescerá”! Por exemplo, hoje já se fala em: (1) algoritmos que precisem menos dados para ser treinados; e (2) a IA atual disponível é conhecida com ESTREITA (Narrow AI = ANI) e uma tendência é termos no futuro uma nova IA chamada de GERAL (General AI = AGI) que terá muito mais potencialidades. Veja mais sobre os tipos de IA aqui: Referências do Google sobre = ani agi ai.

Nos próximos 15 anos “o mundo vai virar de ponta cabeça” … Tenha fé, Tomé!

By Eduardo Prado

Ver aqui outros artigos do mesmo autor.

Ola, deixe seu comentário para nossa comunidade!