Nova iniciativa visa estabelecer padrões de segurança para IA

Principais fornecedores de software aderiram a uma nova iniciativa de segurança para criar práticas recomendadas confiáveis para implantações de inteligência artificial
Da Redação
14/12/2023

Vários grandes fornecedores de software de inteligência artificial (IA) assinaram acordo de cooperação com o objetivo desenvolver  uma nova iniciativa de segurança da organização sem fins lucrativos Cloud Security Alliance (CSA) para criar práticas recomendadas confiáveis para a tecnologia de IA generativa.

A nova AI Safety Initiative atraiu a participação dos pesos-pesados da tecnologia, tais como Microsoft, Amazon, Google, OpenAI e Anthropic, que irão trabalhar no desenvolvimento de ferramentas, modelos e dados para implantar a tecnologia de IA e grandes modelos de linguagem (LLMs, na sigla em inglês) de forma segura, ética e compatível.

“A AI Safety Initiative está desenvolvendo ativamente salvaguardas práticas para a IA generativa de hoje, estruturada de forma a ajudar a se preparar para o futuro de sistemas de IA muito mais poderosos. Seu objetivo é reduzir riscos e amplificar o impacto positivo da IA em todos os setores”, disse o grupo em um comunicado.

O plano imediato é criar práticas recomendadas de segurança para uso e implantação de IA e disponibilizá-las gratuitamente.  De acordo com a CSA, o objetivo é dar confiança aos clientes de todos os portes para acelerar a adoção responsável devido à presença de diretrizes de uso que mitiguem os riscos.

A iniciativa AI Safety complementará os programas de garantia de IA dentro dos governos “com um grau saudável de autorregulação da indústria” e fornecerá o que é descrito como “programa de visão de futuro para abordar questões éticas críticas e impacto para a sociedade resultantes de avanços significativos em IA nos próximos anos”.

Veja isso
Europa chega a acordo sobre as primeiras regras de IA do mundo
IA pode gerar riscos à estabilidade financeira, diz BC britânico

O executivo de segurança cibernética Caleb Sima, que preside a nova iniciativa, disse que a tecnologia de IA generativa, como chatbots e ferramentas de manipulação de imagem, começou a remodelar o mundo, mas alerta que isso traz um risco imenso. “Unir-se para compartilhar conhecimento e melhores práticas é crucial. O espírito colaborativo dos líderes que cruzam fronteiras competitivas para educar e implementar as melhores práticas nos permitiu construir as melhores recomendações para o setor”, disse ele.

O grupo ultrapassou 1.500 participantes especialistas, o maior número nos 14 anos de história da Cloud Security Alliance.

Para acessar o comunicado (em inglês) sobre os objetivos da AI Safety, definidos pelo grupo de trabalho da Cloud Security Alliance, clique aqui.

Compartilhar:

Últimas Notícias