Anthropic 更新 AI 安全政策：这次有哪些重要变化？

Anthropic 的 Responsible Scaling Policy 3.4 版本于 2026 年 7 月 8 日生效。它说明，当模型能力达到重要的风险阈值时，公司应如何进行评估和控制。这不是一个聊天应用新按钮的发布，而是关于模型开发和上线背后规则的新闻。随着系统能力增强，测试结果、风险记录和决策流程会变得和模型本身一样重要。

新版本重新调整了自动化研发相关风险的阈值，使其更贴合公司正在使用的威胁模型。政策还进一步说明风险报告如何在内部共享、公开报告如何标记重要删减，以及外部审查如何由多个审查人员共同完成。最简单的问题是：模型变得更强以后，谁能够看到证据，又有哪些决定会因此改变？

风险报告把一个抽象的担忧变成可以测试、记录和复查的工作。如果模型在自动化研究、网络安全任务或长时间工具调用方面变得更强，公司不能只说“模型更聪明了”。它还需要说明测试方法、已知限制、负责人，以及测试结果如何影响训练、发布、限制或持续监控的决定。

Anthropic 表示，内部报告至少应向 200 名员工开放，公开报告则应说明哪些重要内容被删减。这背后存在实际的平衡：信息太少，监督可能变成形式；敏感细节全部公开，又可能制造新的安全风险。可信的安全政策不应回避这个矛盾，而应解释如何同时保护问责和安全。

外部审查可以挑战模型开发团队自己的假设。新政策允许不同的外部审查人员负责报告中的不同部分，只要每个未删减的部分都至少经过一名合适的外部人员审查。对于同时涉及模型行为、网络安全、治理和部署的复杂文件，这种分工可以引入不同的专业视角。

但外部审查本身不是自动的安全保证。审查人员需要有足够的访问权限、相对独立的位置和完成工作所需的时间，更要有渠道让发现的问题影响真实的发布决定。好的流程应当形成闭环：测试、记录、审查、调整计划，并在模型能力或威胁变化后再次检查。

大多数用户不会因为政策更新而立刻看到新功能。它可能体现在新能力的开放方式、安全要求、访问范围以及重大模型发布时提供的证据。企业选择模型时，也不应只比较价格和基准分数。供应商能否解释风险、限制能力并持续监控，同样会影响平台是否值得信赖。

Anthropic 的更新说明，前沿模型的竞争也正在变成治理能力的竞争。重要的不只是“谁能造出更强的系统”，还包括“谁能让强大的系统更容易理解、审查和控制”。来源：Anthropic，Responsible Scaling Policy 3.4 — https://www.anthropic.com/responsible-scaling-policy