Pesquisadores da Check Point Research (CPR) descobriram que muitos cibercriminosos estão migrando da utilização do ChatGPT para os modelos de inteligência artificial chineses DeepSeek e Qwen, desenvolvido pela Alibaba. Nessas plataformas de LLM eles criam conteúdo malicioso e organizam crimes cibernéticos sofisticados. Ao mesmo tempo, esses atacantes estão compartilhando métodos para manipular os modelos de IA e exibir conteúdo sem censura ou limitações, favorecendo o uso dessa tecnologia para fins ilícitos.
Leia também
FunkSec utiliza IA para impulsionar ransomware
Segurança de TI ganha importância na diretorias
Esse processo, chamado de jailbreaking, envolve técnicas para remover as restrições impostas pelos modelos de IA. Agora, os pesquisadores encontraram guias detalhadas explicando não apenas como realizar jailbreaking, mas também como contornar proteções antifraude e desenvolver malware. Tanto o Qwen quanto o DeepSeek se mostraram ferramentas poderosas para criar conteúdos maliciosos com poucas restrições. Enquanto o ChatGPT investiu fortemente em mecanismos de prevenção contra abusos nos últimos dois anos, esses novos modelos parecem oferecer pouca resistência ao uso indevido, tornando-se atraentes para atacantes, especialmente aqueles com pouca habilidade técnica.
Os pesquisadores alertam que, apesar das proteções implementadas no ChatGPT, versões sem censura do modelo já estão disponíveis em diversos repositórios na Internet. Com a crescente popularidade do DeepSeek e Qwen, é provável que versões não censuradas dessas IAs também comecem a surgir, aumentando ainda mais os riscos de seu uso indevido. Já há relatos de atores de ameaça usando o Qwen para desenvolver infostealers, malwares projetados para capturar informações críticas de usuários desatentos. Além disso, criminosos cibernéticos estão compartilhando prompts de jailbreaking para o DeepSeek que permitem manipular as respostas do modelo, utilizando métodos como a abordagem “Faça qualquer coisa agora” e técnicas de exploração como o método “Sobreviventes de acidente de avião”.
Os pesquisadores também identificaram discussões sobre o uso do DeepSeek para ignorar proteções antifraude do sistema bancário, o que representa um potencial significativo para roubo financeiro. Além disso, há evidências de que cibercriminosos estão combinando o uso de ChatGPT, Qwen e DeepSeek para otimizar scripts de distribuição de spam em massa, aumentando a eficiência dessas atividades maliciosas.
O avanço de modelos como Qwen e DeepSeek evidencia uma tendência preocupante no cenário de ameaças cibernéticas, onde ferramentas sofisticadas são exploradas para fins ilícitos. À medida que agentes de ameaça utilizam técnicas como jailbreaking para contornar medidas de proteção e desenvolver infostealers, cometer fraudes financeiras e distribuir spam, torna-se urgente que organizações implementem defesas proativas e soluções de cibersegurança baseadas em inteligência artificial para se proteger contra essas ameaças emergentes.
