A consultoria Gartner prevê que, até 2028, alguma configuração incorreta de inteligência artificial em sistemas ciberfísicos (CPS) causará a paralisação da infraestrutura crítica nacional de um dos países do G20, grupo que reúne as 19 maiores economias do mundo mais a União Europeia. O alerta consta de um comunicado divulgado em 12 de fevereiro pela empresa.
De acordo com Wam Voster, analista vice-presidente da Gartner, “a próxima grande falha de infraestrutura pode não ser causada por hackers ou desastres naturais, mas por um engenheiro bem-intencionado, um script de atualização defeituoso ou uma vírgula colocada no lugar errado”. Voster explica que a IA mal configurada pode autonomamente desligar serviços vitais, interpretar mal dados de sensores ou desencadear ações inseguras, resultando em danos físicos ou interrupções em larga escala.
Exemplo concreto
O analista cita o exemplo das redes elétricas modernas, que dependem de IA para equilibrar em tempo real geração e consumo. Um modelo preditivo mal configurado poderia interpretar erroneamente a demanda como instabilidade, provocando isolamento desnecessário da rede ou cortes de carga em regiões inteiras.
Complexidade dos modelos
Voster alerta que os modelos de IA modernos são tão complexos que frequentemente se assemelham a “caixas-pretas”. “Mesmo os desenvolvedores nem sempre conseguem prever como pequenas mudanças na configuração impactarão o comportamento emergente do modelo”, afirma. Ele ressalta que, quanto mais opacos esses sistemas se tornam, maior o risco representado por configurações incorretas, tornando essencial a capacidade de intervenção humana.
Recomendações da Gartner
Para mitigar os riscos, a Gartner recomenda que diretores de segurança da informação (CISOs) implementem modos de segurança com override acessível apenas a operadores autorizados; desenvolvam gêmeos digitais em escala real para testar atualizações antes da implantação; e exijam monitoramento em tempo real com mecanismos de rollback para alterações em IA de CPS.
