Uso de IA generativa em ataques deve crescer em 2024, diz estudo

Da Redação
18/12/2023

No cenário ameaças cibernéticas em constante evolução, os profissionais da segurança terão em 2024 mais um ano desafiador. Os operadores de ameaças cada vez mais vêm refinando suas táticas, técnicas e procedimentos (TTPs), demonstrando adaptabilidade e a rápida repetição de cadeias de ataque novas e complexas. No centro dessa evolução está uma mudança crucial: eles agora priorizam a identidade em detrimento da tecnologia. Embora as especificidades das TTPs e da tecnologia visada possam mudar, uma constante permanece: os humanos e as suas identidades são os elos mais visados na cadeia de ataque.

Casos recentes de ataques à cadeia de suprimentos evidenciam essa mudança e ilustram como os cibercriminosos passaram da exploração de vulnerabilidades de software para atacar vulnerabilidades humanas por meio de engenharia social e phishing. Principalmente, o uso inovador da IA generativa, especialmente a sua capacidade de tornar os e-mails de phishing mais “atraentes” e convincentes.

Quando se faz um balanço de 2023, torna-se evidente que os operadores de ameaças cibernéticas possuem as capacidades e os recursos para adaptar as suas táticas em resposta ao aumento das medidas de segurança, como a autenticação multifator (MFA). Olhando para 2024, a tendência sugere que as ameaças girarão em torno das pessoas, obrigando os responsáveis pela cibersegurança a adotar uma abordagem diferente para quebrar a cadeia de ataques.

Para ajudar as empresas a implementar estratégias de prevenção e detecção antecipada de ameaças e proteger seus ativos e aumentar a resiliência cibernética de seu negócio, os especialistas da Proofpoint elaboraram previsões criteriosas para os próximos 12 meses, destacando o que as equipes de segurança podem encontrar e as implicações dessas tendências.

  1. Ataques cibernéticos por meio de engenharia social de forma agressiva 

Os cibercriminosos têm cada vez mais como alvo os fornecedores da cadeia de suprimentos digital, com maior foco nos provedores de segurança e identidade. Táticas agressivas de engenharia social, incluindo campanhas de phishing, estão se tornando mais predominantes. O grupo Scattered Spider, responsável por ataques de ransomware em cassinos de Las Vegas, mostra a sofisticação dessas táticas. Ataques a funcionários de suporte técnico para obter credenciais de login e ignorar autenticação multifator (MFA) por meio de códigos de senha de uso único (OTP) de phishing estão se tornando práticas padrão. Essas táticas se estenderam a ataques à cadeia de suprimentos, comprometendo fornecedores de provedores de identidade (IDP) para acessar informações valiosas dos clientes. A previsão para 2024 inclui a replicação e a adoção generalizada de tais tácticas agressivas de engenharia social, ampliando o âmbito das tentativas iniciais para além dos tradicionais dispositivos terminais e de transferência de arquivos.

2. IA generativa: uma faca de dois gumes

O crescimento de ferramentas de IA generativa criadas especificamente para atividades maliciosas,  como o FraudGPT e o WormGPT, traz inúmeros perigos. Tanto que no momento em que os grandes modelos de linguagem (LLMs) subiam ao palco, o medo do uso indevido levou o presidente dos EUA a emitir uma ordem executiva em outubro. Nesse momento, os operadores de ameaças estão ganhando dinheiro fazendo outras coisas. Por que se preocupar em reinventar o modelo quando ele está funcionando perfeitamente, podem questionar alguns. A resposta é porque eles transformarão seus TTPs quando a detecção começar a melhorar nessas áreas.

Por outro lado, na avaliação dos especialistas da Proofpoint, mais fornecedores começarão a integrar IA e grandes modelos de linguagem em seus produtos e processos para aumentar suas ofertas de segurança. Em todo o mundo, órgão de proteção à privacidade e clientes exigirão políticas responsáveis de IA das empresas de tecnologia, o que significa que começaremos a ver a criação de políticas responsáveis de IA. Enfim, espera-se que surjam falhas espetaculares, mas mais políticas responsáveis de IA.

3. Phishing em dispositivos móveis: a ascensão das táticas omni-channel é o centro das atenções

Uma tendência em 2023 foi o aumento dramático do phishing em dispositivos móveis, por meio do WhatsApp e SMS, e espera-se que esta ameaça aumente ainda mais em 2024. Os operadores de ameaças estão redirecionando estrategicamente as vítimas para interações móveis, explorando as vulnerabilidades inerentes às plataformas portáteis. Abuso conversacional, incluindo smishing, teve crescimento exponencial. As campanhas multitoque visam atrair os usuários de desktops para os dispositivos móveis, utilizando táticas como QR code e chamadas de voz fraudulentas. Isso não apenas torna os ataques de phishing mais eficazes em dispositivos móveis, mas também complica a detecção para as equipes de segurança corporativa.

4.  Código aberto e IA generativa: nivelando o terreno para desenvolvedores de malware

Os desenvolvedores de malware estão aproveitando ferramentas de código aberto e IA generativa para tornar as técnicas avançadas de programação acessíveis a um público mais amplo. Como resultado, o malware capaz de escapar de sandboxes e ferramentas de detecção e resposta de endpoint (EDR) está se propagando mais. A acessibilidade de software gratuito e de código aberto, como o SysWhispers, facilita a incorporação de recursos avançados de desvio de detecção em vários projetos de malware. Essa democratização reduz a barreira de entrada para desenvolvedores menos qualificados, contribuindo para a proliferação de famílias sofisticadas de malware.

Veja isso
WormGPT pode comprometer e-mails comerciais e fazer jailbreaks
Fóruns da dark web oferecem nova ferramenta de IA FraudGPT

5. Violações centradas na identidade: o calcanhar de Aquiles

Os ataques baseados em identidade dominarão as violações, explorando vulnerabilidades enraizadas no comportamento humano e obscurecidas pela visibilidade limitada. A crença de que os ciberataques dependem de vulnerabilidades e exposições comuns (CVEs) está perdendo relevância. “Identidade é a nova vulnerabilidade”. As organizações devem mudar seu foco de primeiramente fortalecer a infraestrutura para proteger credenciais armazenadas, sessão de cookies, chaves de acesso e resolver configurações incorretas, especialmente quando se trata de contas privilegiadas (agora incluindo seus IDPs). O elo humano na cadeia de ataque exige defesas rápidas e inovadoras. 

Concluindo, 2024 apresenta aos responsáveis pela segurança cibernética um desafio formidável, à medida que os operadores de ameaças refinam suas técnicas e estratégias para explorar o elemento humano. Por isso, para combater essas ameaças em evolução, eles devem adotar estratégias proativas e adaptativas, reconhecendo que o fator humano continua sendo um elo crítico na cadeia de defesa cibernética. À medida que o campo de batalha muda, uma defesa resiliente que enfrente os desafios multifacetados de ataques baseados em identidade, ameaças generativas baseadas em IA e phishing de dispositivos móveis é essencial para proteger a fronteira digital e criar maior foco na quebra da cadeia de ataque.

Compartilhar: