Até 2028, metade das organizações implementará uma postura de zero-trust para a governança de dados devido à proliferação de dados não verificados gerados por Inteligência Artificial, segundo previsão do Gartner. O aumento do volume de dados gerados por IA ameaça a confiabilidade futura dos Grandes Modelos de Linguagem e exige novas medidas de autenticação e verificação para proteger resultados comerciais e financeiros.
As organizações não podem mais confiar implicitamente nos dados ou presumir que eles foram gerados por humanos, alerta Wan Fui Chan, Vice-Presidente de Gestão do Gartner. À medida que os dados gerados por IA se tornam onipresentes e indistinguíveis dos dados criados por humanos, uma postura zero-trust que estabeleça medidas de autenticação e verificação torna-se essencial.
Riscos do colapso de modelo e exigências regulatórias
Os Grandes Modelos de Linguagem são normalmente treinados com dados coletados na web e uma variedade de fontes, incluindo livros, repositórios de código e artigos de pesquisa. Algumas dessas fontes já contêm conteúdo gerado por Inteligência Artificial e, se as tendências atuais continuarem, quase todas acabarão sendo preenchidas com dados gerados por IA.
De acordo com a pesquisa Gartner CIO and Technology Executive Survey de 2026, 84% dos entrevistados esperam que suas organizações aumentem o financiamento para Inteligência Artificial Generativa em 2026. À medida que as organizações aceleram a adoção e o investimento em iniciativas de IA, o volume de dados gerados por Inteligência Artificial continuará a aumentar. Isso significa que as futuras gerações de LLMs serão cada vez mais treinadas com base nos resultados de modelos anteriores, aumentando o risco de colapso do modelo, em que as respostas das ferramentas de IA podem não refletir mais a realidade com precisão.
Conforme o conteúdo gerado por Inteligência Artificial se torna mais prevalente, espera-se que os requisitos regulatórios para verificar dados livres de IA se intensifiquem em certas regiões, observa Chan. No entanto, esses requisitos podem diferir significativamente entre as regiões geográficas, com algumas jurisdições buscando aplicar controles mais rígidos ao conteúdo gerado por IA, enquanto outras podem adotar uma abordagem mais flexível.
Gestão de metadados como diferencial estratégico
Nesse ambiente regulatório em evolução, todas as organizações precisarão ter a capacidade de identificar e fazer marcações em dados gerados por IA. O sucesso dependerá de ter as ferramentas certas e uma força de trabalho qualificada em gestão de informações e de conhecimento, bem como soluções de gestão de metadados que são essenciais para a catalogação de dados.
Práticas ativas de gestão de metadados se tornarão um diferencial importante, permitindo que as organizações analisem, alertem e automatizem a tomada de decisões em todos os seus ativos de dados. Isso possibilita alertas em tempo real quando os dados estão desatualizados ou precisam de recertificação, ajudando as organizações a identificar rapidamente quando sistemas críticos para os negócios podem ficar expostos a informações imprecisas ou tendenciosas.
Para gerenciar os riscos de dados não verificados, as organizações devem nomear um líder de governança de IA responsável por políticas de zero-trust, gerenciamento de riscos de IA e operações de conformidade. Esse líder deve trabalhar em estreita colaboração com as equipes de Data & Analytics para garantir que os dados estejam prontos para Inteligência Artificial e que os sistemas sejam capazes de lidar com o conteúdo gerado por IA.
A formação de equipes multifuncionais que incluam segurança cibernética, Data & Analytics e outras partes interessadas relevantes é recomendada para conduzir avaliações abrangentes de riscos de dados, identificando os riscos para os negócios relacionados a informações geradas por IA e determinando quais são abordados pelas políticas de segurança existentes e quais precisam de novas estratégias.
