Com o crescente uso da inteligência artificial (IA) em diagnósticos médicos, o risco de ataques cibernéticos a sistemas de análise de imagens tem aumentado, ameaçando a precisão dos diagnósticos e a segurança dos pacientes. Em resposta a esse risco, um doutorando do Instituto de Ciências Matemáticas e de Computação (ICMC) da USP chamado Erikson Júlio de Aguiar desenvolveu durante os estudos para sua tese o RADAR-MIX, uma solução avançada para detectar e explicar ataques a sistemas de IA usados na medicina. O artigo sobre o projeto acaba de receber o prêmio de “Best Student Paper” no Simpósio Internacional CBMS, em Guadalajara, México.
Leia também
45% das empresas não têm estratégia para IA
Phishing de credenciais foca em QRcodes
O RADAR-MIX é uma ferramenta inovadora que não apenas detecta ataques, mas também identifica quais partes das imagens médicas, como raios-X e ressonâncias magnéticas, foram alteradas. Segundo Erikson, ataques hackers conseguem inserir ruídos sutis que podem confundir o sistema de IA e gerar diagnósticos equivocados. “Com o RADAR-MIX, os profissionais podem ver exatamente onde o ataque aconteceu, o que é essencial para manter a segurança nos diagnósticos médicos”, destaca.
Utilizando tecnologias avançadas como Grad-CAM e SHAP, o RADAR-MIX fornece uma análise visual detalhada dos ataques, oferecendo uma abordagem superior às soluções existentes. O reconhecimento internacional pelo CBMS 2024 reforça a relevância do projeto, que foi orientado pelos professores Agma e Caetano Traina, ambos do ICMC. “Esse prêmio demonstra a qualidade do que estamos desenvolvendo no ICMC”, afirmou a professora Agma.
O potencial de aplicação do RADAR-MIX é vasto, especialmente considerando o aumento de ataques cibernéticos a instituições de saúde. “Nos Estados Unidos, por exemplo, esses ataques causam grandes prejuízos financeiros e impactam a confiança em sistemas de IA. O RADAR-MIX não só protege contra ataques, mas ajuda a preservar essa confiança, essencial para médicos e pacientes”, completa Erikson. O código-fonte do RADAR-MIX está disponível em código aberto, permitindo que outros pesquisadores contribuam para a sua evolução.
Com o reconhecimento recebido, Erikson segue avançando em suas pesquisas, tendo planos de apresentar um novo artigo sobre o RADAR-MIX no SPIE Medical Imaging, em 2025, na Califórnia. Durante o próximo ano, ele colaborará com especialistas da Universidade da Flórida, em um estágio financiado pela Fapesp, experiência que, segundo a professora Agma, enriquecerá ainda mais sua carreira na área de segurança em IA.
