Riscos põem CISOs na defensiva sobre uso da IA generativa

Preocupações de líderes de segurança com relação à tecnologia fizeram com que os orçamentos para cibersegurança dedicados à IA aumentassem em média 51% nos últimos dois anos
Da Redação
17/10/2023

O avanço da IA generativa continua a passos largos em inúmeros setores da economia e entre as supostas consequências negativas de seu uso estariam os riscos à segurança cibernética. CISOs no mundo todo estão particularmente preocupados com os possíveis ataques e interrupções de sistemas em um mundo alimentado por inteligência artificial (IA), de acordo com um estudo divulgado pela IBM.

“Espera-se que a IA generativa crie uma ampla gama de novos ataques cibernéticos nos próximos seis a 12 meses”, disse a IBM, acrescentando que operadores de ameaças sofisticados usarão a tecnologia para aumentar a velocidade [do ataque] e melhorar a precisão e a escala de suas tentativas de invasão. Especialistas acreditam que a maior ameaça é de ataques gerados de forma autônoma lançados em grande escala, seguidos de perto por imitações alimentadas por IA de usuários confiáveis e criação automatizada de malware.

O relatório da IBM incluiu dados de quatro pesquisas diferentes relacionadas à IA, com 200 executivos de negócios baseados nos EUA, entrevistados especificamente sobre segurança cibernética. Quase metade desses executivos (47%) teme que a própria adoção de IA generativa por suas empresas leve a novas armadilhas de segurança, enquanto praticamente todos dizem que isso torna uma violação de segurança mais provável. Isso fez com que os orçamentos de segurança cibernética dedicados à IA aumentassem em média 51% nos últimos dois anos, com mais crescimento esperado para os próximos dois, de acordo com o relatório.

O contraste entre a corrida desenfreada para adotar IA generativa e as preocupações sobre os riscos à segurança não é um exemplo inédito de dissonância cognitiva como alguns argumentaram, de acordo com o gerente geral de serviços de segurança cibernética da IBM, Chris McCurdy. 

Por um lado, ele observou que esse não é um padrão novo, mas uma reminiscência dos primeiros dias da computação em nuvem, em que as preocupações com a segurança atrasarem a sua adoção em algum grau. “Na verdade, eu diria que há uma diferença distinta que está sendo negligenciada atualmente quando se trata de IA: com exceção talvez da própria internet, nunca antes uma tecnologia recebeu esse nível de atenção e escrutínio em relação à segurança”, disse McCurdy.

Veja isso
IA generativa é risco e solução para combater o crime financeiro
Pesquisa revela preocupação com segurança de IA generativa

Ele destacou que think tanks globais surgiram para estudar as implicações de segurança da IA generativa, e embora haja uma grande quantidade de “educação” que precisa acontecer entre os C-Suites(CEO, CIO, CTO, COO, CFO, etc.), as organizações geralmente estão se movendo na direção certa. “Em outras palavras, estamos vendo que a segurança não é uma reflexão tardia, mas uma consideração fundamental nesses primeiros dias”, disse McCurdy.

Segundo ele, é importante reconhecer que o impacto positivo da IA generativa nas operações de negócios tem o potencial de ser transformador. “Se a segurança, para não falar de governança e compliance, faz parte da conversa desde o início, as ameaças cibernéticas não precisam atrapalhar o progresso. Há muito foco em como a IA impactará positivamente as organizações, mas é nossa responsabilidade também considerar quais barreiras de proteção temos que colocar em prática para garantir que os modelos de IA em que confiamos sejam confiáveis e seguros”, disse McCurdy.

Para ter acesso ao relatório original da IBM, em inglês, clique aqui.

Compartilhar:

Últimas Notícias