Erikson Aguiar apresentou seu trabalho no 37º IEEE Simpósio Internacional de Sistemas Médicos Baseados em Computador, que ocorreu em Guadalajara, no México
Erikson Júlio de Aguiar recebeu um prêmio de $800 pelo seu artigo premiado no 37º Simpósio Internacional de Sistemas Médicos Baseados em Computador (CBMS 2024) | Foto: Reprodução
Com o aumento do uso de inteligência artificial (IA) na medicina, sistemas de análise de imagens médicas têm se tornado alvos de ataques cibernéticos, comprometendo diagnósticos e colocando em risco a saúde de pacientes. Para enfrentar esse desafio, o doutorando Erikson Júlio de Aguiar, do Instituto de Ciências Matemáticas e de Computação (ICMC) da USP, em São Carlos, desenvolveu o RADAR-MIX, uma ferramenta que detecta e analisa ataques externos em sistemas de IA.
O artigo que descreve como a solução foi criada e os resultados apresentados, intitulado RADAR-MIX: How to Uncover Adversarial Attacks in Medical Image Analysis through Explainability, foi premiado como Best Student Paper no 37º Simpósio Internacional de Sistemas Médicos Baseados em Computador (CBMS), realizado de 26 a 28 de junho, em Guadalajara, no México.
De acordo com Erikson, ataques hackers inserem pequenas alterações ou ruídos em imagens médicas, como as obtidas por raios-X e Ressonância Magnética, para confundir os sistemas e levar a diagnósticos errados. O RADAR-MIX foi criado exatamente para mitigar esse tipo de ameaça, fornecendo uma análise detalhada dos ataques. “A inteligência artificial tem sido uma grande aliada no diagnóstico de doenças, mas, ao mesmo tempo, hackers têm encontrado formas de comprometer esses sistemas. O RADAR-MIX é uma ferramenta que permite não só detectar esses ataques, mas também entender como e onde eles acontecem, o que é crucial para garantir a segurança dos diagnósticos”, explica Erikson.
O modelo usa ferramentas avançadas, como Grad-CAM e SHAP, que ajudam a mostrar, de forma visual, as partes de uma imagem que foram alteradas por um ataque. Esse detalhamento torna a proteção mais eficiente, pois o RADAR-MIX não só detecta se o sistema foi atacado, mas também explica onde e como o ataque aconteceu, oferecendo uma análise mais completa se comparado a outras soluções já existentes.
Visão geral da ferramenta RADAR-MIX, que compara imagens limpas e atacadas, gerando mapas de saliência para calcular a efetividade da detecção e a consistência da interpretação | Foto: Reprodução
Reconhecimento internacional – A premiação de Best Student Paper no CBMS 2024 é um reconhecimento do trabalho desenvolvido por Erikson sob a orientação dos professores Agma Traina, que é sua orientadora no doutorado, e Caetano Traina, ambos do ICMC. “Ver o trabalho desenvolvido pelo Erikson ser premiado em um dos principais fóruns mundiais de computação e medicina mostra a qualidade do que estamos desenvolvendo aqui no ICMC”, comenta a professora Agma.
Segundo a docente, o RADAR-MIX tem potencial para ser implementado diretamente em sistemas médicos, protegendo hospitais e centros de diagnóstico contra ataques cibernéticos que possam comprometer o tratamento dos pacientes. “O Radar Mix foi desenvolvido de forma modular, facilitando sua implementação e adaptação em diferentes contextos. A interposição foi estruturada como um filtro entre o acesso aos serviços e servidores, oferecendo uma camada adicional de segurança e controle”, explica Agma.
Essa proteção é fundamental, especialmente em um contexto em que o número de ataques cibernéticos a instituições de saúde tem crescido. “Nos Estados Unidos, por exemplo, um ataque pode afetar a reputação de um hospital e levar a grandes prejuízos financeiros e operacionais. O RADAR-MIX ajuda a manter a confiança nesses sistemas de IA, o que é crucial tanto para os médicos quanto para os pacientes“, complementa o doutorando.
O Radar-Mix está disponível para uso, com o código-fonte aberto para reprodução em outras pesquisas ou para receber melhorias. Interessados podem acessar e contribuir: https://github.com/eriksonJAguiar/RADAR_MIX.
Próximos passos – Com o reconhecimento no CBMS 2024, Erikson continua a expandir suas pesquisas e desenvolveu um novo artigo que mostra uma nova perspectiva do RADAR-MIX, e que será apresentado no SPIE Medical Imaging (Sociedade Internacional de Óptica e Fotônica) em fevereiro de 2025, na Califórnia, Estados Unidos. Além disso, o doutorando está colaborando com especialistas da Universidade da Flórida, onde realiza um estágio sanduíche de um ano, financiado pela Fundação de Amparo à Pesquisa do Estado de São Paulo (Fapesp).
A professora Agma Traina também reforça a importância dessa experiência internacional: “O Erikson está trabalhando com grandes nomes na área de segurança em IA e essa vivência no exterior vai contribuir muito para a carreira dele, que é um aluno extremamente dedicado. Tenho certeza de que essa premiação é apenas o início de uma trajetória acadêmica brilhante”.
Doutorando em ciências da computação, Erikson foca suas pesquisas na análise de segurança e privacidade em sistemas de inteligência artificial, com ênfase na proteção de dados médicos | Foto: Reprodução
Texto: Gabriele Maciel, da Fontes Comunicação Científica
Mais informações
Acesse o artigo premiado: https://doi.org/10.1109/CBMS61543.2024.00078
Acesse o GitHub do projeto: GitHub – eriksonJAguiar/RADAR_MIX
