O Google publicou hoje de manhã um relatório sobre o uso indevido de seu aplicativo de IA generativa Gemini por parte de APTs patrocinados por estados. Os pesquisadores descobriram que agentes de ameaças relacionados aos governos da China, Rússia e outros estão usando a ferramenta principalmente para pesquisa, depuração de código e criação de conteúdo, em vez de criar novos recursos. O Google observa que agentes de ameaças iranianos foram os maiores usuários do Gemini, usando principalmente a ferramenta para auxiliar em operações de informação.
Leia também
Insegurança derruba investimentos e retarda I.A.
Nvidia lança desktop com Linux para I.A.
Grupos norte-coreanos usaram a ferramenta para redigir cartas de apresentação e de candidaturas a empregos, provavelmente em apoio aos esforços da Coreia do Norte para plantar trabalhadores de TI fraudulentos em empresas ocidentais. O Google diz que os agentes de ameaças não tiveram sucesso em suas tentativas de fazer com que o Gemini auxiliasse em tarefas explicitamente maliciosas.
Os pesquisadores concluem que as ferramentas atuais de IA generativa permitem que os agentes de ameaças melhorem a produtividade, mas é improvável que sejam usadas como armas cibernéticas inovadoras: “Em vez de permitir mudanças disruptivas, a IA generativa permite que os agentes de ameaças se movam mais rápido e em maior volume. Para agentes habilidosos, as ferramentas de IA generativa fornecem uma estrutura útil, semelhante ao uso do Metasploit ou do Cobalt Strike em atividades de ameaças cibernéticas. Para agentes menos habilidosos, elas também fornecem uma ferramenta de aprendizado e produtividade, permitindo que desenvolvam ferramentas mais rapidamente e incorporem técnicas existentes.”
