Banca de QUALIFICAÇÃO: THIAGO CUNHA MONTENEGRO

Uma banca de QUALIFICAÇÃO de MESTRADO foi cadastrada pelo programa.
DISCENTE: THIAGO CUNHA MONTENEGRO
DATA: 31/08/2023
HORA: 14:00
LOCAL: CI/UFPB
TÍTULO: MLHOps: Arquitetura para a adoção prática de modelos de inteligência artificial explicável em saúde
PALAVRAS-CHAVES: Machine Learning Operations, Arquitetura de Referência, Informática em Saúde, Inteligência Artificial eXplicável, Transparência.
PÁGINAS: 80
RESUMO: Nas últimas décadas testemunhamos o avanço da Inteligência Artificial, cujo desenvolvimento impactou diversas áreas do conhecimento, provendo melhorias e métodos de suporte à decisão nunca antes vistos. No âmbito da saúde, modelos de aprendizagem de máquina, têm recebido nos últimos anos cada vez mais atenção da comunidade, como uma solução promissora para os desafios da área da medicina, devido a sua alta precisão, eficiência, estabilidade e escalabilidade. Contudo, com avanços de modelos cada vez mais complexos, denominados de modelos "caixa-preta", existe uma ausência no que se refere à transparência e interpretabilidade dos resultados. Em busca de solucionar esses problemas, surge a área da Inteligência Artificial Explicável (eXplanable Artificial Inteligence – XAI), que investiga como tornar os modelos aprendidos mais compreensíveis, transparentes e confiáveis para a tomada de decisão. A partir de um melhor entendimento dos modelos, as técnicas de aprendizagem de máquina podem gerar hipóteses sobre causalidade, por exemplo, com o objetivo de aumentar a aceitação e a confiança. No entanto, a ausência de discussões acerca de metodologias, arquiteturas de software e frameworks que visam uma adoção de tais modelos, geram incertezas sobre a adoção de tais técnicas. Visando mitigar tais problemáticas, propomos uma arquitetura, chamada de MLHOps: Machine Learning for Healthcare Operations, arquitetura baseada no paradigma de machine learning operations. Tal arquitetura permite um conjunto de práticas e processos padronizados que ajudam a garantir a conformidade com os padrões e regulamentos de saúde, protegendo a privacidade, segurança dos dados do paciente, facilitando o entendimento do processo desde da coleta de dados, construção do modelo, disponibilização e monitoramento do mesmo, garantindo assim, não apenas capacitar médicos a compreenderem as decisões do modelo, mas também facilitar a detecção de vieses e anomalias, promovendo equidade e segurança. Com o objetivo de comprovar a eficácia da arquitetura proposta, serão realizados dois estudos de caso distintos: um focado em dados tabulares e outro em dados de imagens médicas. Essa abordagem permite avaliar a capacidade da arquitetura MLHOps em melhorar a explicabilidade e transparência de modelos em diferentes contextos de dados. A avaliação da arquitetura consistirá em três etapas. A primeira abordará o desempenho do modelo, avaliando métricas como sensibilidade, desempenho e curva ROC. Para avaliar a robustez, serão realizados testes unitários, de integração, estresse e de desempenho. Na última etapa, formulários serão usados para avaliar a explicabilidade para determinar se a exposição das explicações aos casos de uso facilitou a tomada de decisão. Este estudo visa contribuir para a criação de uma arquitetura de referência na área da saúde, promovendo maior transparência e compreensão dos modelos, impulsionando o avanço do estado da arte da Informática em Saúde.
MEMBROS DA BANCA:
Presidente - 2636257 - NATASHA CORREIA QUEIROZ LINO
Interno - 2126491 - GUSTAVO HENRIQUE MATOS BEZERRA MOTTA
Interno - 1140339 - LEANDRO CARLOS DE SOUZA