A consultoria Gartner prevê que, até 2028, uma empresa global média da Fortune 500 terá mais de 150 mil agentes de inteligência artificial em uso, contra menos de 15 em 2025, num crescimento da ordem de 10 mil vezes. Os dados constam de um comunicado da empresa publicado na data da análise. De acordo com o Gartner, apenas 13% das organizações acreditam ter uma governança adequada para agentes de IA em vigor atualmente.
Proliferação desgovernada expõe organizações a riscos
Max Goss, diretor analista sênior do Gartner, afirmou que muitos líderes de TI enfrentam uma proliferação desgovernada de agentes, que expõe as organizações a riscos como desinformação, compartilhamento excessivo e perda de dados. Goss explicou que bloquear ou restringir o uso de agentes não é uma solução de longo prazo, pois funcionários tendem a contornar controles e recorrer à shadow AI, o que apresenta riscos ainda maiores. O analista destacou que as organizações precisam encontrar um equilíbrio entre governar agentes e capacitar funcionários com segurança.
Seis etapas para governança e controle
O Gartner identificou seis etapas para estabelecer governança e proteções contra a proliferação de agentes. A consultoria recomenda, primeiro, definir regras claras sobre criação, compartilhamento e conectores permitidos. Em segundo lugar, criar um inventário centralizado utilizando ferramentas de confiança, risco e segurança de IA (AI TRiSM). Terceiro, gerenciar identidade, permissões e ciclo de vida dos agentes, desativando os redundantes. Quarto, desenvolver governança da informação, controlando acesso a dados e prevenindo compartilhamento excessivo. Quinto, monitorar comportamento continuamente e corrigir agentes que excedam a tolerância ao risco. Sexto, promover cultura de uso responsável com treinamentos e comunidade de práticas.
Agentes de IA proliferam rapidamente sem governança adequada, gerando riscos de perda de dados e shadow AI. Recomenda-se que organizações estabeleçam inventários centralizados e políticas claras de criação e permissões. É aconselhável implementar ferramentas de AI TRiSM para monitorar comportamento anômalo e corrigir agentes fora de controle. Avaliar a criação de programas de treinamento e comunidades de prática para promover uso responsável e seguro da IA.
