A Microsoft deu um golpe decisivo em uma organização de hackers que explorava serviços generativos de inteligência artificial (IA) para atividades maliciosas. A ação judicial, iniciada pela Unidade de Crimes Digitais (DCU) da empresa, revelou a existência de uma infraestrutura sofisticada desenvolvida por invasores para contornar sistemas de segurança e fornecer serviços de hacking, incluindo a criação de conteúdo malicioso.
Leia também
Jornalista processa Shopee após falhas em transações
Cai volumetria de ataques de negação de serviço
O grupo criminoso, identificado em julho de 2024, explorava credenciais de usuários obtidas de fontes abertas para acessar contas com permissões em serviços como o Azure OpenAI. Essas contas eram manipuladas para oferecer acesso não autorizado a recursos de IA, como o modelo DALL-E, usado na geração de imagens maliciosas. Além disso, os hackers vendiam o acesso e instruções para outros atacantes.
A Microsoft respondeu bloqueando o acesso dos hackers aos seus sistemas, reforçando as medidas de segurança e obtendo uma ordem judicial para apreender o domínio “aitism[.]net”, que era a base das operações públicas do grupo. A empresa também desativou o repositório da ferramenta de3u, páginas hospedadas no Rentry.org e toda a infraestrutura associada, interrompendo as operações do grupo.
O grupo utilizava chaves de API roubadas e dados de autenticação de clientes para manipular os serviços do Azure OpenAI. Empresas nos Estados Unidos, incluindo na Pensilvânia e em Nova Jersey, foram alvos das atividades, com suas chaves API sendo exploradas para operações ilícitas. O grupo usava a ferramenta de3u e um serviço de proxy chamado oai para enviar solicitações ao Azure OpenAI, gerando conteúdo malicioso sob disfarce.
A crescente popularidade de ferramentas de IA, como o ChatGPT, atraiu a atenção de estados-nação e cibercriminosos. Países como China, Irã e Coreia do Norte foram previamente ligados a tentativas de manipular essas tecnologias para inteligência, desinformação e desenvolvimento de malware.
Em paralelo, o conceito de LLMjacking, onde credenciais roubadas de serviços em nuvem são usadas para invadir infraestruturas de IA, tem sido uma ameaça emergente. A Sysdig relatou casos semelhantes envolvendo Anthropic, AWS, Google e Microsoft.
A ação da Microsoft não apenas interrompeu a operação, mas também sinalizou um reforço significativo no combate a abusos em plataformas de IA. A empresa destacou que a atividade desse grupo afeta não apenas sua infraestrutura, mas também a de outros fornecedores de IA, evidenciando a importância de uma colaboração global na luta contra crimes cibernéticos envolvendo inteligência artificial.