O Gartner identificou quatro ameaças críticas nas quais os atacantes detêm vantagem significativa para explorar vulnerabilidades organizacionais: deepfakes, comprometimento de aplicações de IA, injeção de prompts e ataques à cadeia de suprimentos de software, conforme comunicado da consultoria publicado neste mês. O Gartner ThreatScape classifica as ameaças em seis áreas distintas com base na qualidade do “sinal de ameaça” disponível e na capacidade organizacional para gerenciá-las, segundo a empresa.
“Os líderes em segurança cibernética devem ser capazes de identificar os sinais de ameaça em meio a todo o ruído para poderem responder às mudanças no cenário de ameaças”, afirmou o vice-presidente analista do Gartner, John Watts. A introdução de iniciativas de segurança por empresas de ponta de IA gera ruído significativo em um cenário já agitado, acrescentou Watts.
Comprometimento de aplicações de IA e deepfakes
O comprometimento de aplicações de IA figura na seção de ameaças críticas, pois os atacantes miram o crescente número de ferramentas empresariais prontas para produção, informou o Gartner. A superfície de ataque se expandiu para incluir agentes personalizados e integrações de terceiros, muitas vezes expondo dados sensíveis quando os controles são fracos, segundo Watts. As equipes de segurança devem usar o framework TRiSM para incorporar mitigação específica para IA no desenvolvimento, afirmou o analista.
Sobre deepfakes, o Gartner destacou que o avanço da IA generativa aumentou drasticamente o volume e a qualidade da criação de falsificações em voz, vídeo e imagens. “Não existe um único controle que irá protegê-lo”, disse Watts, recomendando uma combinação de fortalecimento de processos de negócios, aumento da conscientização e implementação de tecnologias de detecção.
Cadeia de suprimentos e injeção de prompts
A evolução das ofertas de IA generativa acelerará ataques à cadeia de suprimentos de software por meio de vulnerabilidades em código aberto, alertou Watts. Os CISOs devem exigir listas de materiais de software (SBOMs) e de IA (AIBOMs) de fornecedores, usar repositórios curados e assinar artefatos durante as compilações, conforme o Gartner.
A injeção de prompts, ameaça que visa sistemas de IA e grandes modelos de linguagem (LLMs), permite que atacantes manipulem prompts para vazar informações sensíveis ou contornar controles, segundo o comunicado. As equipes devem implementar validação de entradas, monitoramento de comportamentos anormais e testes de injeção no ciclo de desenvolvimento, recomendou a consultoria.
