Até 2027, mais de 40% das violações de dados relacionadas à IA serão causadas pelo uso indevido de IA generativa (GenAI) através de fronteiras, de acordo com a Gartner, Inc. A rápida adoção de tecnologias GenAI por usuários finais ultrapassou o desenvolvimento de medidas de segurança e governança de dados, levantando preocupações sobre a localização de dados devido ao poder de computação centralizado necessário para dar suporte a essas tecnologias.
Leia também
7 impactos disruptivos da IA segundo o Gartner
Gartner faz Conferência Segurança e Gestão de Risco
“Transferências de dados transfronteiriças não intencionais geralmente ocorrem devido à supervisão insuficiente, particularmente quando o GenAI é integrado em produtos existentes sem descrições ou anúncios claros”, disse Joerg Fritsch , analista VP da Gartner. “As organizações estão percebendo mudanças no conteúdo produzido por funcionários usando ferramentas GenAI. Embora essas ferramentas possam ser usadas para aplicativos comerciais aprovados, elas representam riscos de segurança se avisos confidenciais forem enviados para ferramentas de IA e APIs hospedadas em locais desconhecidos.”
O Gartner prevê que até 2027, a governança da IA se tornará um requisito de todas as leis e regulamentações soberanas de IA no mundo todo. “Organizações que não conseguem integrar os modelos e controles de governança necessários podem se encontrar em desvantagem competitiva, especialmente aquelas que não têm recursos para estender rapidamente as estruturas de governança de dados existentes ”, disse Fritsch.
