Anthropic atualiza a política de segurança de IA; o que mudou?

A versão 3.4 da Responsible Scaling Policy da Anthropic entrou em vigor em 8 de julho de 2026. O documento explica como a empresa pretende reagir quando as capacidades de um modelo ultrapassam determinados limites de risco. É uma notícia diferente de um novo recurso no aplicativo: o tema aqui são as regras, as avaliações e as decisões internas que devem acompanhar modelos cada vez mais capazes.

A atualização revisa o limite usado para acompanhar riscos de pesquisa e desenvolvimento automatizados. Também detalha como relatórios de risco devem circular internamente, como relatórios públicos devem indicar trechos relevantes que foram removidos e como a revisão externa pode ser distribuída entre vários avaliadores. A pergunta central é simples: quando um sistema fica mais poderoso, quem consegue ver as evidências e o que muda na prática?

Um relatório de risco transforma uma preocupação abstrata em algo que pode ser testado, registrado e revisado. Se um modelo melhora em pesquisa automatizada, tarefas de cibersegurança ou uso prolongado de ferramentas, uma empresa precisa de mais do que a frase “o modelo ficou mais inteligente”. Ela precisa de avaliações, limitações conhecidas, responsáveis e uma ligação clara entre o resultado dos testes e a decisão de treinar, liberar, restringir ou monitorar o sistema.

A atualização informa que relatórios internos devem chegar a pelo menos 200 funcionários e que relatórios públicos devem indicar onde houve remoções materiais. Existe uma tensão real nesse processo. Pouco acesso pode transformar supervisão em formalidade; acesso irrestrito a detalhes sensíveis pode criar novos riscos. Uma política confiável precisa explicar como equilibra prestação de contas e segurança, em vez de esconder esse conflito.

A revisão externa permite questionar premissas feitas pela própria equipe que treinou e avaliou o modelo. A nova política permite que diferentes avaliadores analisem partes diferentes dos relatórios sem redigir necessariamente tudo como um único trabalho, desde que todas as seções tenham sido examinadas por pelo menos uma pessoa qualificada. Isso pode ser útil em documentos que misturam segurança, comportamento de modelo, governança e implantação.

A existência de avaliadores externos não garante, sozinha, uma conclusão correta. Eles precisam de acesso relevante, independência, tempo e uma forma de fazer suas descobertas afetarem decisões reais. O objetivo é criar um ciclo contínuo: testar, documentar, revisar, mudar o plano e repetir quando o modelo ou a ameaça mudar.

A maioria dos usuários não verá um novo botão por causa dessa atualização. O efeito pode aparecer na forma como capacidades são liberadas, nos controles exigidos e na quantidade de evidência que acompanha um lançamento importante. Para empresas que escolhem um provedor, a decisão não deve considerar somente preço e benchmark. A capacidade de explicar, limitar e monitorar riscos também afeta a confiabilidade do serviço.

A revisão da Anthropic mostra que a disputa por modelos avançados também está virando uma disputa por governança. A pergunta não é apenas quem constrói o sistema mais forte, mas quem consegue torná-lo compreensível, revisável e controlável. Fonte: Anthropic, Responsible Scaling Policy versão 3.4 — https://www.anthropic.com/responsible-scaling-policy