A Anthropic publicou ontem, no blog do Anthropic Institute, um post defendendo a necessidade global de uma pausa ou desaceleração coordenada no desenvolvimento da inteligência artificial, diante da perspectiva de que sistemas de IA possam em breve alcançar o “recursive self-improvement” – a capacidade de projetar e desenvolver sua próxima versão de forma totalmente autônoma. Segundo o documento, a empresa estaria disposta a desacelerar ou pausar temporariamente se outros desenvolvedores no mesmo patamar também o fizessem de forma verificável. A empresa alerta que, sem um mecanismo de coordenação global, empresas e governos terão que tomar decisões difíceis sob pressões competitivas e geopolíticas.
IA já acelera seu próprio desenvolvimento</h4>
De acordo com o artigo do Anthropic Institute, engenheiros da Anthropic hoje integram 8 vezes mais código por trimestre do que no período de 2021 a 2025, e mais de 80% do código mesclado ao repositório da empresa é atualmente escrito por Claude. A taxa de correção, redirecionamento ou intervenção de engenheiros nas tarefas de Claude caiu continuamente por um ano. Em maio de 2026, a taxa de sucesso de Claude nas tarefas mais abertas atingiu 76%, um salto de 50 pontos percentuais em seis meses. O tempo de tarefas que os modelos conseguem concluir de forma confiável tem dobrado aproximadamente a cada quatro meses. A empresa projeta que, em 2027, sistemas de IA poderão ser capazes de tarefas que levam semanas para humanos qualificados.
Três cenários e a necessidade de verificação global
A Anthropic descreve três possíveis futuros: estagnação do progresso; ganhos de eficiência com humanos definindo direções; e o cenário de auto-aperfeiçoamento recursivo completo, onde IA projetaria e refinaría a si mesma. A empresa afirma que um sistema de verificação global seria necessário para que uma pausa coordenada fosse crível, pois “treinamentos são muito mais fáceis de esconder do que silos de mísseis” e o incentivo para desertar silenciosamente é enorme – quem continuar enquanto outros pausam pode herdar a liderança. A empresa reconhece que regimes de verificação para outras tecnologias (ex: tratados de mísseis de alcance intermediário) levaram décadas para serem construídos, e que o mundo não tem esse tempo para a IA.
Planos da Anthropic e riscos de desalinhamento
A empresa anuncia que organizará conversas nos próximos meses com formuladores de políticas, pesquisadores, sociedade civil e outras empresas de IA para ajudar a responder às questões levantadas. O artigo alerta que ocorrências raras de desalinhamento presentes em modelos atuais podem se agravar à medida que os modelos constroem seus sucessores, tornando-se mais frequentes e menos compreendidas até que o controle sobre os sistemas seja perdido. A empresa também observa que a capacidade de IA de executar pesquisas e desenvolvimento de IA de forma autônoma transferiria habilidades para outras áreas da ciência, revolucionando outros campos.
