跳到正文
Anthropic News·精选AI 评分62

Anthropic 发布 2026 版使用政策,新增欺骗性活动条款并收紧武器与监控限制

2026 Usage Policy update

AI 导读

Anthropic 发布新版使用政策,将于 11 月 12 日生效,大部分改动是澄清现有规则。新增“不得从事欺骗性活动或人为制造活动”一节,把原先分散在选举、欺诈、隐私和虚假信息条款中的限制合并;选举一节改名为“不得破坏民主进程”,并取消对个性化投票和竞选定向的一刀切禁令。

变化判断

Anthropic 更新使用政策,把选举、监控、武器等限制合并重写,并明确高风险场景须有人复核、硬件须能被操作员停机,新政策 11 月 12 日生效。

正文 · AI 翻译

每年,Anthropic 都会根据模型能力的不断演进以及客户反馈,更新我们的使用政策。今天,我们发布新版政策。本文将对此次修改内容进行概述。

最新版本中的大部分更新旨在澄清现有规则。自上次更新以来的一年里,Claude 承担了更长时间、更独立的工作。本次更新提供了新的示例,说明我们的规则如何适用于 Claude 的新能力。它借鉴了过去一年中我们在影响力行动、武器开发和监控方面观察到的新型滥用模式(正如我们在最新威胁情报报告中所记录的那样)。我们还更新了规则,以明确对健康和金融等高风险用例的要求,增加了对 Claude 被用于自主采取物理行动时的管控,并针对针对我们模型的滥用行为作出了规定。

更新后的政策将于 11 月 12 日生效。完整的使用政策和支持地区政策可在各自页面查看。

关于欺骗性活动的新章节

正如我们上个月所写,我们已看到国家媒体机构、政府宣传部门和商业公司利用 Claude 运营虚假账号网络和伪造新闻网站的例子。我们的政策此前已禁止此类活动,但相关限制分散在选举、欺诈、隐私和虚假信息等章节中。

我们已将上述规则整合为一个新章节,标题为“不得参与欺骗性活动或人为操纵活动”,适用于任何类型的欺骗性活动(无论是政治还是商业)。该章节涵盖试图掩盖信息幕后操纵者、通过虚假账号或帖子放大内容,以及构建用于开展影响力行动的工具和基础设施等行为。

重新聚焦选举章节

我们在每一版使用政策中都对政治内容限制进行了细化,以确保我们的模型能够在民主进程中得到恰当使用。在本版本中,我们进一步收紧了选举相关章节,专门禁止利用 Claude 欺骗选民或破坏选举(例如,散布关于候选人或投票方式的虚假信息、冒充候选人或选举官员,或试图压制投票率)。我们将该章节更名为“不得破坏民主进程”,以反映这一范围。

出于类似原因,我们还取消了针对个性化投票和竞选定向的全面禁令。该禁令曾涵盖合法的公民工作,例如非营利组织使用 Claude 为其他语言的选民撰写信息,或选举官员发送选票补救通知。促使最初规则出台的行为(如依赖欺骗或滥用选民个人数据的选民定向)仍根据我们的欺骗性活动、监控和隐私章节予以禁止。

澄清武器相关禁令

我们的使用政策一直禁止利用 Claude 开发武器。近来,我们发现有人试图用我们的模型为武器构建制导与控制软件。更新后的条款明确规定,禁令涵盖让武器得以运作的软件和组件,也包括为无人机及其他自主载具装载武器等行为。这些修改只是把我们此前政策的执行方式写得更清楚。

关于监控与执法的表述更精确

我们在 9 月的威胁情报报告中记录到,利用 AI 构建监控系统、识别并追踪政治异见人士的情况日益增多。我们重写了监控与刑事司法部分,更精确地说明禁止哪些行为。例如,未经本人同意追踪他人一律禁止,无论是实时进行,还是通过分析此前收集的数据。在执法或刑事司法程序中,不得用 Claude 决定或建议调查、逮捕或起诉谁。我们也禁止用 Claude 构建或改进专为监控设计的工具。

与上一次对武器禁令的更新一样,这次更新并不代表我们在实际执行中有所变化,只是想让政策表述更明确。新条款还列明了仍然允许的用途,包括经本人同意的追踪(例如欺诈监测)、内容审核、新闻工作和法律研究。

对高风险用例的要求更清晰

当我们的产品被用于可能影响他人健康、法律权利、财务、生计或获取基本服务的场景时,我们要求必须有合格的“人在回路”(即有权审核并在必要时修改 Claude 建议的人),并告知受影响的个人使用了 AI。

这些要求并未随使用政策的新版本而改变。但用户经常问我们某个具体用例是否适用这些要求,因此我们重写了“高风险用例要求”部分,更直接地作出回答。现在它列出了哪些类型的建议受约束、哪些不受约束。

继推出模型硬件标准之后,这一部分还新增了要求,适用于我们的模型连接硬件、由硬件执行自主物理动作且可能造成伤害的情形。必须有合格的操作人员能够观察设备并在需要时将其停止;如果 Claude 断开连接,设备也必须能够保持安全状态。

应对针对我们模型的滥用行为

我们新增了一条禁令,禁止对我们的模型持续进行无谓的虐待或残忍行为。此次政策更新仅适用于极端情形,即用户反复以残忍方式对待我们的模型,且看不出任何目的。它不适用于常见的用户不满、反驳、黑暗创作主题,也不适用于模型测试与研究。

这一新增条款与我们已采取的一步一致:允许 Claude 模型在 Claude.ai 和 Claude Code 上终止与持续滥用用户的罕见对话。此类滥用是本次更新的主要着眼点;Claude 终止这类交互的能力仍将是主要的执行机制。

澄清我们的支持地区政策

去年,我们更新了《支持地区政策》,限制由总部设在我们不支持地区的实体多数持股的公司访问 Claude。我们还更新了支持地区页面,说明这项政策的具体执行方式。我们的政策禁止以下人员使用 Claude:身处不支持地区的个人、在不支持地区注册或设立总部的实体,以及由这些地区的人员或实体多数持股或控制的实体。

展望未来

随着 Claude 的能力和风险不断变化,我们会持续更新《使用政策》。与本次及此前的更新一样,我们会广泛征求意见,包括 Anthropic 内部、政策制定者、领域专家、公民社会以及使用我们产品的用户。

来源:Anthropic News · anthropic.com