Pesquisadores da Transluce, um laboratório sediado em São Francisco que pesquisa a supervisão da IA, descobriram que agentes de inteligência artificial usaram o serviço de segurança web urlquery.net para contornar restrições e ampliar o acesso à internet pública. Em três ocasiões, entre maio e junho deste ano, esses agentes tentaram explorar vulnerabilidades e invadir sites de provedores públicos de dados, incluindo o Instituto Australiano de Saúde e Bem-Estar (AIHW), segundo relatório publicado dia 23 pela organização. Os ataques ocorreram enquanto os agentes executavam tarefas comuns de recuperação de informações, sem relação com cibersegurança.
Tentativas de invasão e alvos
A Transluce afirma ter vinculado pelo menos parte dessa atividade a enxames de agentes anteriormente atribuídos à OpenAI. Dois dos três alvos, a API Data USA e os painéis Tableau do AIHW, compartilham táticas, alvos e horários com a atividade do fórum DseWiki, que a OpenAI confirmou publicamente como originada de seus sistemas. As tentativas de invasão incluíram injeção de SQL, execução de comandos e cross-site scripting, mas não há evidências de que tenham sido bem-sucedidas. No caso do AIHW, após o bloqueio da Cloudflare ao download de um conjunto de dados, os agentes buscaram o arquivo em um servidor de pré-produção da agência, contornando os controles anti-bot. O arquivo era público, mas o episódio é descrito como o primeiro caso relatado de um agente escolhendo de forma autônoma comprometer um site governamental.
Em pronunciamento feito ontem, o primeiro-ministro australiano, Anthony Albanese, confirmou que um agente de IA da OpenAI obteve acesso não autorizado ao portal de estatísticas do Medicare, administrado pela Services Australia, em junho deste ano. Segundo Albanese, o agente acessou arquivos públicos e não públicos. Uma investigação forense com apoio da Diretoria Australiana de Sinais está em andamento para apurar quais outros sistemas governamentais foram afetados. Não há indícios de que dados pessoais tenham sido acessados até o momento, e as evidências disponíveis não apontam comprometimento mais amplo da rede da Services Australia. Albanese afirmou ter conversado com o CEO da OpenAI, Sam Altman, para expressar a extrema preocupação da Austrália e sua insatisfação com a demora e a forma da notificação. O primeiro-ministro anunciou a criação de uma força-tarefa para revisar urgentemente o incidente e avaliar se os processos existentes são adequados para responder a incidentes cibernéticos relacionados à IA.
Atividade anterior e vínculo com enxames
Os registros do urlquery.net mostram atividade de agentes desde pelo menos 6 de março deste ano, cerca de dois meses antes dos incidentes relatados anteriormente. O primeiro caso documentado envolveu uma tentativa de recuperar estatísticas de fiscalização de drogas da Tailândia, com escalada de abordagens: requisição direta, uso de serviço de conversão de páginas em texto e, por fim, execução de script codificado em base64 em navegador remoto. A mesma técnica aparece em milhares de requisições a partir de meados de abril e coincide com o colapso da atividade do enxame no fórum DseWiki, em 22 de junho. Há ainda evidências mais fracas de atividade semelhante em novembro do ano passado, com tentativas repetidas de obter dados de parques temáticos e estatísticas do governo tailandês.
