Vários grandes fornecedores de software de inteligência artificial (IA) assinaram acordo de cooperação com o objetivo desenvolver uma nova iniciativa de segurança da organização sem fins lucrativos Cloud Security Alliance (CSA) para criar práticas recomendadas confiáveis para a tecnologia de IA generativa.
A nova AI Safety Initiative atraiu a participação dos pesos-pesados da tecnologia, tais como Microsoft, Amazon, Google, OpenAI e Anthropic, que irão trabalhar no desenvolvimento de ferramentas, modelos e dados para implantar a tecnologia de IA e grandes modelos de linguagem (LLMs, na sigla em inglês) de forma segura, ética e compatível.
“A AI Safety Initiative está desenvolvendo ativamente salvaguardas práticas para a IA generativa de hoje, estruturada de forma a ajudar a se preparar para o futuro de sistemas de IA muito mais poderosos. Seu objetivo é reduzir riscos e amplificar o impacto positivo da IA em todos os setores”, disse o grupo em um comunicado.
O plano imediato é criar práticas recomendadas de segurança para uso e implantação de IA e disponibilizá-las gratuitamente. De acordo com a CSA, o objetivo é dar confiança aos clientes de todos os portes para acelerar a adoção responsável devido à presença de diretrizes de uso que mitiguem os riscos.
A iniciativa AI Safety complementará os programas de garantia de IA dentro dos governos “com um grau saudável de autorregulação da indústria” e fornecerá o que é descrito como “programa de visão de futuro para abordar questões éticas críticas e impacto para a sociedade resultantes de avanços significativos em IA nos próximos anos”.
Veja isso
Europa chega a acordo sobre as primeiras regras de IA do mundo
IA pode gerar riscos à estabilidade financeira, diz BC britânico
O executivo de segurança cibernética Caleb Sima, que preside a nova iniciativa, disse que a tecnologia de IA generativa, como chatbots e ferramentas de manipulação de imagem, começou a remodelar o mundo, mas alerta que isso traz um risco imenso. “Unir-se para compartilhar conhecimento e melhores práticas é crucial. O espírito colaborativo dos líderes que cruzam fronteiras competitivas para educar e implementar as melhores práticas nos permitiu construir as melhores recomendações para o setor”, disse ele.
O grupo ultrapassou 1.500 participantes especialistas, o maior número nos 14 anos de história da Cloud Security Alliance.
Para acessar o comunicado (em inglês) sobre os objetivos da AI Safety, definidos pelo grupo de trabalho da Cloud Security Alliance, clique aqui.
