A IA está alimentando uma nova onda de ameaças cibernéticas, segundo o “Relatório de Segurança de IA de 2025” publicado hoje pela Check Point Research na RSAC em São Francisco. Ao mesmo tempo, o relatório também indica como as empresas podem reagir e até virar o jogo, também utilizando a IA para pesquisa, detecção de ameaças e resiliência cibernética. Essas ameaças turbinadas com IA são ataques de phishing, deepfakes e personas orientadas por IA; jailbreak de LLMs e modelos de “dark IA”; criação automatizada de malware e mineração de dados; plataformas falsas de IA e desinformação alimentada pela GenAI; riscos de exposição de dados devido ao uso não regulamentado de IA corporativa.
Leia também
Como foi o ciberataque à plataforma X (ex-Twitter)
Guerra tarifaria favorece ataques cibernéticos
O relatório informa que um em cada 13 prompts enviados a plataformas de IA generativa continha informações potencialmente confidenciais, e um em cada 80 prompts representava “um alto risco de vazamento de dados confidenciais”. Ferramentas de IA não autorizadas, perda de dados e vulnerabilidades de plataformas de IA estão no topo da lista de riscos de IA para empresas, de acordo com a Check Point.
O relatório da Check Point cataloga os riscos dos quais as empresas precisam estar cientes. Por exemplo, ele alerta que softwares de IA não aprovados “podem levar a vulnerabilidades de segurança, problemas de conformidade e gerenciamento inconsistente de dados, expondo uma empresa a riscos operacionais ou violações de dados”. Em relação à perda de dados, o relatório recomenda que as empresas “avaliem os aplicativos de IA quanto à proteção de dados e às melhores práticas do setor” antes de adotá-los, observando que alguns aplicativos armazenam dados, os compartilham com terceiros ou não os protegem de hackers.
O relatório também oferece uma amostra das descobertas dos pesquisadores da Check Point sobre o uso de IA por hackers . “Atualmente, o ChatGPT e a API da OpenAI são os modelos mais populares entre os cibercriminosos, enquanto outros, como o Google Gemini, o Microsoft Copilot e o Anthropic Claude, estão rapidamente ganhando popularidade”, afirma o relatório, citando informações coletadas na dark web.
Ao mesmo tempo, disse a Check Point, o cenário do software de IA “está mudando com o lançamento de modelos de código aberto como DeepSeek e Qwen da Alibaba”, que “têm restrições mínimas de uso”.
