A organização OWASP – Open Worldwide Application Security Project – anunciou três novos guias de orientação em cibersegurança para ajudar organizações a identificar e gerenciar os riscos associados à adoção, implantação e gerenciamento de modelos de grandes linguagens (LLMs) e aplicativos de inteligência artificial generativa (GenAI). A orientação faz parte do OWASP Top 10 for LLM Application Security Project, um projeto global de código aberto liderado pela comunidade.
Leia também
Widelabs lança ‘Amazônia IA’, LLM em PT-BR
GenAI força requalificação de 80% dos engenheiros de software
Desde sua criação em 2023, o grupo lançou pesquisas, orientações e materiais de recursos para ajudar as organizações a desenvolver uma estratégia abrangente que abrange governança, colaboração e ferramentas práticas.
- O “Guia para preparação e resposta a eventos de deepfake” ilustra os problemas apresentados por “falsificações digitais hiper-realistas”. Um desdobramento da iniciativa AI Cyber Threat Intelligence, este recurso combina estratégias de defesa práticas e pragmáticas para ajudar as organizações a permanecerem seguras à medida que a tecnologia de deepfake melhora.
- O “Center of Excellence Guide” ajuda as empresas a estabelecer as melhores práticas e estruturas para criar práticas de segurança de IA. A orientação ajuda as organizações a estabelecer sistemas para gerenciamento de risco e coordenação interdepartamental entre equipes de segurança, jurídicas, de ciência de dados e de operações, bem como como desenvolver e aplicar políticas de segurança e educar a equipe sobre segurança de IA.
- O “AI Security Solution Landscape Guide” é uma referência ampla sobre como proteger aplicativos LLM e GenAI de código aberto e comerciais. Ele categoriza produtos de segurança existentes e emergentes e fornece orientação sobre como pensar sobre os riscos identificados na lista Top 10.
O projeto reúne mais de 500 especialistas em segurança cibernética e IA de empresas e organizações ao redor do mundo para identificar vulnerabilidades e mitigações de LLM. No início de 2024, o projeto expandiu seu foco para incluir stakeholders estratégicos, como CISOs e compliance officers, além de desenvolvedores, cientistas de dados e outros profissionais de segurança.
“Estamos há dois anos no boom da IA generativa, e os invasores estão usando a IA para ficarem mais inteligentes e rápidos”, disse Steve Wilson, líder do projeto OWASP Top 10 para o Projeto LLM, em uma declaração . “Líderes de segurança e desenvolvedores de software precisam fazer o mesmo. Nossos novos recursos equipam as organizações com as ferramentas de que precisam para ficar à frente dessas ameaças cada vez mais sofisticadas.”
