Cientistas publicam carta de alerta sobre os riscos da IA

Da Redação
04/06/2024

Um grupo de atuais e ex-funcionários da OpenAI está apelando à empresa, autora do ChatGPT, e a outras empresas de inteligência artificial para proteger os funcionários que sinalizam riscos de segurança sobre a tecnologia de IA. Eles fizeram isso numa carta aberta publicada hoje, pedindo às empresas de tecnologia que estabeleçam proteções mais fortes aos denunciantes, para que os pesquisadores possam levantar preocupações sobre o desenvolvimento de sistemas de IA de alto desempenho internamente e junto do público, sem medo de retaliação.

O ex-funcionário da OpenAI Daniel Kokotajlo, que deixou a empresa no início deste ano, disse em uma declaração por escrito que as empresas de tecnologia estão “desconsiderando os riscos e o impacto da IA” enquanto correm para desenvolver sistemas de IA melhores que os humanos, conhecidos como inteligência artificial geral.

“Decidi deixar a OpenAI porque perdi a esperança de que eles agiriam com responsabilidade, especialmente porque buscam inteligência artificial geral”, escreveu ele. “Eles e outros aderiram à abordagem de ‘agir rapidamente e quebrar as coisas’ e isso é o oposto do que é necessário para uma tecnologia tão poderosa e tão mal compreendida.”

A OpenAI disse em comunicado respondendo à carta que já possui medidas para que os funcionários expressem preocupações, incluindo uma linha direta anônima de integridade. “Estamos orgulhosos de nosso histórico de fornecimento dos sistemas de IA mais capazes e seguros e acreditamos em nossa abordagem científica para lidar com riscos”, disse o comunicado da empresa. “Concordamos que um debate rigoroso é crucial dada a importância desta tecnologia e continuaremos a colaborar com governos, sociedade civil e outras comunidades em todo o mundo.”

A carta tem 13 signatários, a maioria ex-funcionários da OpenAI e dois que trabalham ou trabalharam para a DeepMind do Google. Quatro estão listados como funcionários atuais anônimos da OpenAI. A carta pede que as empresas parem de obrigar os trabalhadores a celebrar acordos de “não depreciação” que possam puni-los caso critiquem a empresa.

A carta aberta tem o apoio dos pioneiros em IA Yoshua Bengio e Geoffrey Hinton, que juntos ganharam o maior prêmio da ciência da computação, e de Stuart Russell. Os três alertaram sobre os riscos que os futuros sistemas de IA podem representar para a existência da humanidade.

A carta chega no momento em que a OpenAI afirma que está começando a desenvolver a próxima geração da tecnologia de IA por trás do ChatGPT e formando um novo comitê de segurança logo após perder um conjunto de líderes, incluindo o cofundador Ilya Sutskever, que fazia parte de uma equipe focada em desenvolvendo com segurança os sistemas de IA mais poderosos.

Compartilhar: