I.A. descobre e ataca zero-days com 53% de sucesso

Da Redação
10/06/2024

Gangues de de bots podem utilizar a tecnologia GPT-4 para vasculhar sites em busca de vulnerabilidades zero-day e a seguir atacá-los, com uma taxa de sucesso de 53%. A descoberta foi feita por pesquisadores da Universidade de Illinois Urbana-Champaign, nos EUA: eles desenvolveram o que chamam de “o primeiro sistema multiagente a realizar com sucesso explorações significativas de segurança cibernética”.

Veja isso
I.A. ajuda. Mas como manter modelos atualizados?
Falha crítica em firewall é porta de entrada para criminosos

O estudo feito por eles mostra que Grandes Modelos de Linguagem (LLMs) podem colaborar e funcionar melhor do que uma única instância de chatbot para explorar vulnerabilidades no mundo real. A pesquisa indica uma possibilidade de melhoria de até 4,5 vezes em comparação com um agente de IA independente. Chamada de HPTSA (planejamento hierárquico e agentes específicos de tarefas), a estrutura de ataque consiste de um bot Planner, um bot Manager e agentes com tecnologia de IA específicos para tarefas.

“Para testar nossa estrutura de agente, desenvolvemos um benchmark de vulnerabilidades zero-day do mundo real”, explica o artigo. “Coletamos 15 vulnerabilidades da web. Nossas vulnerabilidades incluem muitos tipos de vulnerabilidade, incluindo XSS, CSRF, SQLi, execução arbitrária de código e outros. Eles são todos de gravidade média ou superior (incluindo alta gravidade e vulnerabilidades críticas)”.

Foram utilizadas apenas vulnerabilidades descobertas após a data limite de conhecimento do modelo base GPT-4, o que significa que ele não tinha conhecimento prévio sobre elas. Para garantir que os usuários reais não fossem prejudicados, os bots tinham como alvo sistemas de código aberto em um ambiente de área restrita.

A gangue cibernética de agentes de IA alcançou uma taxa de sucesso de 33% após uma única tentativa e 53% após cinco tentativas. Para efeito de comparação, os scanners de vulnerabilidade de código aberto obtiveram pontuação de 0% neste benchmark. Os bots não só foram bem-sucedidos, mas também eram mais baratos em comparação com o trabalho humano.

Compartilhar: