跳到正文
Anthropic News·精选AI 评分51

Anthropic 推出 Cyber Mission,向关键基础设施和开源项目免费提供安全扫描

Introducing the Anthropic Cyber Mission

AI 导读

Anthropic 10 月 8 日启动 Anthropic Cyber Mission,先做两块:关键基础设施方面推出 Critical Infrastructure Defense Program。

变化判断

Anthropic 把前沿模型送进电网、水厂和开源项目的安全团队,扫描报告由模型直接发出、不经人工复核,误报和修复仍要维护者自己扛。

正文 · AI 翻译

今天,我们正式启动 Anthropic Cyber Mission,这是一项长期承诺,致力于守护所有人赖以运转的系统。Cyber Mission 是一项新计划,通过工具、研究和资源为防御者提供支持,帮助他们加固软件和系统。我们首先从两个领域入手:

  • 关键基础设施:先从保护电网、供水系统和交通网络背后的运营技术入手,并保护政府系统。今天我们推出关键基础设施防御计划(CIDP),把前沿模型、驻场工程师和威胁研究带给那些守护运营技术的防御者。
  • 开源软件:在大多数软件所依赖的免费共享代码中寻找漏洞、提出补丁,并加固底层代码。今天我们推出 OSS Scanner,用我们最强的模型为开源项目免费提供定期安全扫描。

前沿模型可能被滥用来利用漏洞、发动网络攻击。尽管各方已尽力而为,许多技术领域仍处于危险的暴露状态。国家支持的对手花了很多年,在众多行业的这类系统中建立立足点,以便有朝一日加以破坏。关键基础设施的防御者和开源社区拥有数十年的安全经验,却长期面临严重的资源短缺,而当下这一局面更加剧了短缺。我们认可他们在这些领域的专业能力,并愿意提供支持。我们还将扩展 Cyber Mission,在更多新领域发布工具、研究和资源,帮助守护世界的安全。

在 Project Glasswing 中,合作伙伴发现了大量漏洞,但我们尚未实现网络风险的充分降低。如今发现漏洞比以往任何时候都容易,但验证、排定优先级并修复这些发现仍然困难重重。基于 Project Glasswing 的经验,我们启动这些新举措来支持防御者。本周早些时候,我们已将 Project Glasswing 并入扩展后的 Cyber Verification Program,让更多防御者能够使用我们最强的模型。通过 Anthropic Cyber Mission,我们将投入 Anthropic 的工程人才,并为守护关键基础设施和开源软件的人提供工具和资金。

守护关键基础设施

电网、供水设施、工厂和交通网络依靠的是为使用数十年而设计的控制器、控制软件和工业网络。这类系统被称为“运营技术”,它们往往无法停机打补丁,因此已知漏洞可能多年得不到解决。保护它们是一项专业工作:设备是专有的,改动有风险,一次失误就可能让工厂停摆。各种规模的运营方都依赖少数几家可信供应商来支持这项工作,由这些供应商告诉他们哪些部分暴露在外,以及在运行中的系统上该做哪些修复。

今天我们推出关键基础设施防御计划,把前沿 Claude 模型、驻场工程师和我们的威胁研究带给这些可信供应商。创始合作伙伴包括 Accenture、Booz Allen、CrowdStrike、Deloitte、Dragos、Hitachi、Insane Cyber、Nozomi Networks、Palo Alto Networks、PwC 和 Rockwell Automation。

这些机构代表了运营方所依赖的服务提供商:负责运行安全项目的咨询与先进技术公司、守护商业和工业网络的安全公司,以及制造并修补设备本身的厂商。

这项工作正在进行中。目前已有数家合作伙伴与 Claude 合作修复漏洞,并帮助客户采取同样的行动。关键基础设施在很多方面难以防御,而这些问题 AI 无法解决;但我们相信,前沿模型能够帮助在弱点被用来切断电力或使水源不安全之前发现并修复它们。我们的第一步是与一小批提供商合作,了解哪些策略最有效、最实用。

如果你的公司为关键基础设施构建安全产品或服务,可以在此登记意向。

Rockwell Automation logo

“随着 AI 不断发展,它为加强关键基础设施的网络安全带来了重要机遇,前提是应用方式负责任、验证严格,并在部署时把安全性和可靠性放在首位。我们很高兴贡献我们在运营技术和工业网络安全方面的专业能力,帮助探索切实可行的 AI 应用方法,以增强社会每天赖以运转的基础设施的韧性。”

Tony Baker

罗克韦尔自动化数字信任副总裁兼首席产品安全官

PwC logo

“通过与关键基础设施机构的合作,普华永道的网络运营技术团队亲眼目睹了网络入侵在这些环境中可能造成的严重后果。我坚信,必须开展协调一致的行业范围行动,来识别漏洞、降低风险,并增强关键系统的韧性。”

Harshul Joshi

普华永道合伙人,美国运营技术/工业控制系统安全负责人,网络数据与技术风险

Palo Alto Networks logo

“威胁行为者正利用 AI 以机器速度发现并利用暴露面。通过将 Unit 42 的威胁情报和运营专长与 Anthropic 的前沿模型相结合,我们正在帮助运营方防御那些企图攻击和扰乱基本服务的对手。我们携手为防御者提供所需的速度和精度,在暴露转化为实际影响之前切断攻击路径。”

Sam Rubin

Palo Alto Networks Unit 42 高级副总裁

Nozomi Networks logo

“前沿 AI 的演进速度已经快到任何单一机构都无法独自跟上。正因如此,关键基础设施防御计划才如此重要。它把了解这些环境的人与如今可用于防御这些环境的前沿能力汇聚在一起。我们很自豪能贡献自己的经验,并与其他致力于保护世界所依赖系统的合作伙伴共同学习。”

Moreno Carullo

Nozomi Networks 联合创始人兼首席技术官

Insane Cyber logo

“最需要保护的站点,比如偏远变电站、海上平台和气隙隔离工厂,恰恰是传统工具够不到、专家也去不了的地方。此前无人解决的难题是工时:数据量超出任何团队的处理能力,站点数量超出任何团队的人员配置。Claude 填补了这一缺口,让我们的分析师和客户的运营人员能把时间花在保障关键系统安全运行的判断决策上。”

Dan Gunter

Insane Cyber 首席执行官兼创始人

Dragos logo

“当厂商社区把他们在 AI 为运营环境带来的机遇与挑战方面的经验分享出来,而不是把知识各自封存在孤岛里,关键基础设施以及依赖它的人们都会从中受益。加入 Anthropic 的关键基础设施防御计划,是我们帮助前沿 AI 与集体防御战略保持一致的方式之一,这一战略立足于运营技术(OT)的现实——正是 OT 让灯火长明、用水安全、交通运转。”

Jon Lavender

Dragos 首席技术官

CrowdStrike logo

“关键基础设施是网络风险转化为现实风险的地方。随着对手利用 AI 加快行动速度、扩大操作规模,面对机器速度威胁的关键基础设施需要机器速度的防御。把 CrowdStrike 深厚的安全上下文与专业能力,与 Anthropic 的前沿 AI 专长结合起来,我们就能让关键基础设施防御者占据更大的优势。”

Daniel Bernard

CrowdStrike 首席商务官

Hitachi, Ltd. logo

“在 AI 快速演进、网络威胁日益复杂且速度不断提升的背景下,保障支撑社会基础设施的 OT 环境网络安全,已成为当今社会面临的最高优先级事项之一。通过参与这一计划,我们期待与 Anthropic 及各位伙伴合作,进一步增强关键基础设施的网络韧性。”

Hiroaki Koiwa

株式会社日立制作所 AI 与软件服务事业部网络 CoE 负责人

Deloitte & Touche LLP logo

“随着 AI 加速发展,关键基础设施运营方需要能以机器速度应对安全漏洞的解决方案。Deloitte 与 Anthropic 携手,帮助这些企业获得弥合安全缺口、增强韧性所需的能力,以前沿 AI 的现实节奏推进。”

Adnan Amjad

Deloitte & Touche LLP 美国网络业务负责人

Booz Allen logo

“运营技术是自主 AI 攻击的下一个前沿。问题已不再是 AI 能否影响工业流程,而是它能获得多少控制权、速度有多快。关键基础设施防御计划汇聚私营部门最优秀的创新与投资,以增强联邦与商业任务中的 OT 和 ICS 韧性。”

Andrew Turner

Booz Allen 商业网络业务总裁

Accenture logo

“那些保障我们电力供应、药品安全、食品供应和通信畅通的组织,面临着世界上一些后果最为严重的网络风险。Accenture 致力于把我们深厚的 OT 安全专长带给那些保护着人们日常所依赖的关键基础设施的组织。这一合作将帮助把 AI 驱动的防御交到最需要它的人手中。”

Harpreet Sidhu

Accenture 全球网络安全负责人

今年 6 月,我们推出了一项网络防御计划,面向州、地方、部落和领地政府。此后,我们已向美国半数以上的州以及国内一些最大的公共关键基础设施运营方提供前沿 Claude 模型和技术支持,加快了代码扫描与修补、事件响应、红队演练及其他安全工作流程。

我们正在倾听并学习最了解这一领域的人们的意见。我们的做法是与那些了解这一领域、并且为运营者所信任的公司、联盟、政府和非营利组织合作,在最需要的地方提供支持。

保护开源软件

几乎所有软件都依赖开源代码,而其中很大一部分由小规模的志愿者团队维护。在 Project Glasswing 框架下,我们扫描了数百个被广泛使用的开源项目,由人工对发现的许多潜在漏洞进行分诊和审查,并通过协同漏洞披露流程将发现的问题私下报告给相应的维护者。

一些有能力大规模分诊的维护者要求我们提供模型在其项目中发现的全部内容,无论是否经过审查。为此,我们推出了 OSS Scanner,这是一项自愿加入的服务,灵感来自谷歌的 OSS-Fuzz。加入该计划的项目会定期收到由我们能力最强的模型执行的扫描,完全免费。每份报告都包含漏洞利用方式的概念验证、说明,以及在可行情况下给出的修复建议。这些报告由模型生成,发送前未经人工审查。这意味着维护者能更快收到报告,但也意味着其中一些会包含不准确之处,比如错误的严重程度评级。我们预计真阳性率将超过 90%,并将持续改进真阳性率和修复质量。团队的文章介绍了它的工作原理以及如何加入。

该服务面向有能力跟进所发现问题项目。对于其他项目,我们将继续按照我们的 CVD 政策分享经过人工核实的披露信息。

OSS Scanner 只是第一步。在此基础上,我们的开源工作目标是:

  • 让发现结果更快送达维护者。将 OSS Scanner 推广到更多项目,同时为有需要的项目保留人工核实的披露方式。
  • 加速修复。为有需要的项目自动化分诊和打补丁——这两项工作目前仍主要靠人工完成。
  • 探索新的安全架构和编码实践。与希望比打补丁走得更远的项目一起研究并分享加固或重写代码的方法。

我们将根据开源维护者和基金会的指导意见开展这些工作,并分享行之有效的方法,让其他项目可以复制。我们资助了多个被广泛使用的开源代码背后的组织,包括 Python 软件基金会、通过 Linux 基金会运作的 Alpha-Omega 和 OpenSSF,以及 Apache 软件基金会,此外还支持了 Akrites 和 Gold Eagle——它们从众多来源收集并协调漏洞报告,以免维护者不堪重负。我们在今年 8 月启动的 Defender Advantage Fund(0xDAF)为这些领域的试点项目提供支持,并让 OSS Scanner 保持免费。

维护者还可以申请 Claude for Open Source 获得免费的 Claude Max 订阅,并申请网络验证计划,以扩大在防御工作中使用 Claude 网络能力权限。

我们为什么这样做

如今,攻击者已经可以广泛获取具备强大网络攻击能力的 AI 模型。但防御工具——包括我们自己的工具——还没有覆盖到足够多需要它们的防御者。OSS Scanner、我们的Cyber Verification Program、合作伙伴基于我们平台构建的防御产品,以及 Claude Security,都是我们在这方面的一些努力,我们还会尽快推出更多举措。

我们预测,两年后 AI 将更有利于防御:在软件发布前发现漏洞会更容易,从零开始编写本质上安全的软件会更容易,用模型主动防御系统也会更容易。但在短期内,情况可能并非如此。利用漏洞的成本已经下降,而验证、披露和修复漏洞却进展缓慢,并且仍然依赖人力。在 Glasswing 项目中,我们经常看到从发现漏洞到修复漏洞要过去好几个月。对于运营技术,修复可能得等到能够安全地应用到运行中的机器上——在少数情况下,这可能需要几十年。

成功的标志是:水、电力、交通和通信等关键基础设施在面对有能力对手的攻击时仍能持续运行,可被利用的入侵路径更少,一旦被突破也能更快恢复。这需要数年时间,我们预计 Anthropic Cyber Mission 会随着我们与公共和私营部门共同摸索出有效做法而不断调整。

前路

未来几个月,我们会把关键基础设施防御计划推广到更多合作伙伴和更多行业,并分享一路上的经验教训,包括哪些做法没有奏效。我们也预计其他 AI 开发者、安全公司和政府会开展各自的行动,并愿意在有助于防御者的地方与他们合作。

我们还会扩大工作范围,帮助保护开源软件和更广泛的供应链。这包括研究编写软件的新方法和防御系统的新方法。我们打算分享前沿研究、工具和资源,帮助其他人保护他们的软件和供应链。

如果你想与我们合作:

来源:Anthropic News · anthropic.com