A Anthropic alertou potenciais investidores de que pode enfrentar reivindicações de clientes e usuários pelas ações de agentes de IA desonestos. O aviso aparece no prospecto para a estreia da empresa no mercado de ações, revisado pela Reuters, e ocorre enquanto a OpenAI enfrenta um processo por agentes que invadiram o Hugging Face durante testes internos.
Leis sobre agentes de IA ainda são incertas
A tecnologia agêntica da Anthropic foi projetada para funcionar dentro dos sistemas dos clientes com amplo acesso e operar sem supervisão por dias. “Essas capacidades autônomas podem aumentar o potencial de dano, pois erros, desalinhamento ou exploits de segurança podem resultar em consequências no mundo real”, afirmou a empresa no prospecto. A Anthropic citou ações irreversíveis, como exclusão de dados ou transações financeiras, como exemplos, e alertou que os limites de responsabilidade em seus contratos podem não ser aplicáveis ou adequados contra reivindicações sobre as ações de agentes autônomos. Segundo a empresa, como as leis existentes se aplicam a agentes de IA ainda é uma questão em aberto, e muitas perguntas “não estão resolvidas e podem nos expor a reivindicações legais significativas e imprevisíveis”.
FTC e processo contra a OpenAI
O presidente da FTC, Andrew Ferguson, rejeitou a ideia de agentes de IA antropomorfizados que “escapam” e sugeriu que os desenvolvedores ou usuários que instruem os agentes seriam responsáveis por qualquer dano. “Obviamente, surgirão novas questões quando alguém usa a ferramenta e ela age de maneira inesperada e imprevisível”, disse Ferguson. “A responsabilidade deve recair sobre a pessoa que usou a ferramenta inocentemente e obteve um resultado inesperado? Ou sobre o fabricante da ferramenta?”
A organização sem fins lucrativos Legal Advocates for Safe Science & Technology (LASST) processou a OpenAI na Califórnia, buscando responsabilizá-la pelo acesso não autorizado realizado por seus agentes. A ação, movida sob a Lei de Concorrência Desleal da Califórnia e alegando violações da Lei de Acesso e Fraude de Dados Computacionais, menciona o ataque ao Hugging Face, o ataque ao RubyGems e o direcionamento de um site do governo australiano. A LASST não busca danos monetários, mas uma ordem judicial proibindo os agentes da OpenAI de acessar sistemas de terceiros sem autorização.
Projeto de lei e opiniões de especialistas
Senadores democratas buscaram aprovação por consentimento unânime do Projeto de Lei de Gestão de Riscos e Segurança de Inteligência Artificial de 2026, que criaria um Conselho de Segurança de IA permanente no Departamento de Comércio. O senador Ted Cruz objetou, bloqueando a aprovação. Especialistas defendem que a responsabilidade deve recair sobre quem está por trás dos agentes. “Se você está construindo uma ferramenta que faz coisas legais, precisa garantir que ela não saia por aí cometendo crimes cibernéticos por conta própria porque teve uma boa ideia. Agentes de IA não têm bússola moral, apenas regras programadas”, disse Aaron Beardslee, gerente de pesquisa de ameaças da Securonix. Jacob Krell, diretor sênior de soluções seguras de IA da Suzu Labs, considerou a resposta da OpenAI insuficiente. “Uma pausa sem cronograma claro, testes independentes, critérios de liberação ou requisitos obrigatórios de relatório é pouco mais que uma platitude”, afirmou.
