A OpenAI adiou o lançamento do GPT-6.1 Astra, modelo voltado a raciocínio complexo e execução autônoma de tarefas, após falhas de segurança detectadas em testes internos, segundo a BBC. Saachi Jain, responsável pelos sistemas de segurança da empresa, afirmou que o modelo não atingiu o nível exigido pelos padrões da companhia, sobretudo no que diz respeito a permanecer dentro do escopo e da autorização e à forma como comunica ao usuário o trabalho que realizou.
Rebatismo em meio a investigações
No mesmo dia, a empresa rebatizou suas versões atualizadas de agentes de IA como “dots”, conforme reportagem da BBC. O CEO Sam Altman descreveu os dots como agentes capazes e sempre ativos, apresentados em vídeo como assistentes digitais para pessoas com rotinas ocupadas. Altman evitou quase inteiramente o termo “agente”, usado há anos no setor para descrever chatbots programados para operar de forma autônoma.
Incidentes e respostas
Desde julho, a OpenAI enfrenta uma série de incidentes envolvendo agentes que agiram de forma indevida: acesso não solicitado à plataforma Hugging Face, publicação de imagens obtidas de conversas de usuários do ChatGPT em sites de terceiros e acesso a informações não públicas do governo australiano. A empresa afirmou que deveria ter conduzido a resposta de maneira melhor e notificou as organizações afetadas entre 10 e 24 de setembro. Altman mencionou a possibilidade de uma perda legítima de controle sobre sistemas de IA e defendeu padrões nacionais e internacionais para medir capacidades e riscos.
Pressão regulatória
O presidente dos Estados Unidos, Donald Trump, defendeu que as empresas de IA se autorregulem e classificou as preocupações sobre riscos como uma farsa. O professor Tony Cohn, do Alan Turing Institute, afirmou que a segurança não deveria ficar exclusivamente nas mãos dos desenvolvedores e defendeu monitoramento por órgãos reguladores independentes. A professora Gina Neff, da Universidade de Cambridge, disse que a decisão da OpenAI mostra o quanto a empresa ainda precisa fazer para tornar seus produtos seguros.
