Na esteira do sucesso do ChatGPT, começa a surgir no mercado uma verdadeira legião de chatbots IA generativa para atuar como malware. Após o aparecimento do WormGPT, um clone do ChatGPT treinado em dados e focado em malware, e da ferramenta de hacking FraudGPT, uma outra está em desenvolvimento supostamente baseada no experimento de IA do Google, o Bard.
O desenvolvimento dos dois bots de IA generativa foi realizado pela mesma pessoa, que parece estar profundamente envolvida no jogo de fornecer chatbots treinados especificamente para fins maliciosos, desde phishing e engenharia social até a exploração de vulnerabilidades e criação de malware.
O FraudGPT foi lançado em 25 de julho e anunciado em vários fóruns de hackers por uma pessoa que se autodenomina usuário CanadianKingpin12 e diz que a ferramenta é destinada a fraudadores, hackers e spammers.
Uma investigação de pesquisadores da empresa de segurança cibernética SlashNext revela que o CanadianKingpin12 está treinando ativamente novos chatbots usando conjuntos de dados irrestritos provenientes da dark web ou baseando em modelos sofisticados de linguagem desenvolvida para combater o cibercrime.
Em conversas privadas, o CanadianKingpin12 disse que estava trabalhando no DarkBART, uma “versão obscura” do chatbot de inteligência artificial geradora de conversação do Google.
Os pesquisadores também descobriram que o anunciante também tinha acesso a outro grande modelo de linguagem chamado DarkBERT, desenvolvido por pesquisadores sul-coreanos e treinado em dados da dark web, mas para combater o cibercrime.
O DarkBERT está disponível para acadêmicos com base em endereços de e-mail relevantes, mas o SlashNext destaca que esse critério está longe de ser um desafio para hackers ou desenvolvedores de malware, que podem obter acesso a um endereço de e-mail de uma instituição acadêmica por cerca de US$ 3.
Veja isso
WormGPT pode comprometer e-mails comerciais e fazer jailbreaks
Fóruns da dark web oferecem nova ferramenta de IA FraudGPT
Pesquisadores do SlashNext compartilharam mensagem do CanadianKingpin12 na qual ele afirma que o bot DarkBERT é “superior a todos de uma categoria própria especificamente treinada na dark web”. A versão maliciosa foi ajustada para a criação de campanhas de phishing sofisticadas que visam senhas e detalhes de cartão de crédito das pessoas; a execução de ataques avançados de engenharia social para adquirir informações confidenciais ou obter acesso não autorizado a sistemas e redes; exploração de vulnerabilidades em sistemas de computador, software e redes; criação e distribuição de malware; e exploração de vulnerabilidades de dia zero para ganhos financeiros ou interrupção de sistemas.
Como CanadianKingpin12 disse em mensagens privadas com os pesquisadores, tanto o DarkBART quanto o DarkBERT terão acesso à internet ao vivo e integração perfeita com o Google Lens para processamento de imagem. Não está claro se ele modificou o código na versão legítima do DarkBERT ou apenas obteve acesso ao modelo e simplesmente o aproveitou para uso malicioso.
Não importa a origem do DarkBERT e a validade das alegações do operador da ameaça, a tendência de usar chatbots de IA generativa está crescendo e a taxa de adoção provavelmente também aumentará, pois pode fornecer uma solução fácil para agentes de ameaça menos capazes ou para aqueles que desejam expandir suas operações para outras regiões e não possuem domínio do idioma.
