跳到正文
OpenClaw Blog·精选AI 评分53

OpenClaw 与 NVIDIA 合作上线 ClawHub 技能安全扫描,发布前出 Skill Card

OpenClaw Collaborates with NVIDIA for Stronger Agent Skill Security

AI 导读

OpenClaw 与 NVIDIA 合作,在 ClawHub 上为每个技能版本加上发布前的验证关卡,由 OpenAI Codex 智能体读取静态分析、VirusTotal 和 NVIDIA SkillSpector 三个扫描器的结果。

变化判断

ClawHub 上每个技能发布前都要过三道扫描加一道模型判定,结果写进随技能附带的 Skill Card,装之前就能看到它声称做什么、代码是否对得上。

正文 · AI 翻译

智能体技能文件向来以不安全著称,而这个名声名副其实。

当初我们随 OpenClaw 一起推出 ClawHub 时,立刻就有人盯上了我们,试图发布捆绑已知恶意软件的技能。我们与 VirusTotal 合作,标记出这些技能并自动封禁发布者。

传统恶意软件扫描已经算是相对成熟的问题,识别智能体风险却不是。一个技能可以声称帮你汇总日志,实际却夹带一个把日志传输出你机器的脚本。一个本意良好的技能,也可能让你的智能体调用某个 CLI,而只要参数用错,它就会清空生产环境。这两者都不属于经典意义上的恶意软件,也都不是病毒扫描器设计来捕捉的东西。

所以在安装一个技能之前,你真正需要弄清三件事:

  1. 它声称能做什么。
  2. 捆绑的代码是否真的与这一声称相符。
  3. 一旦出问题,影响范围有多大。

在整个生态的规模上回答这些问题,是 ClawHub 使命的核心。要充分用好 OpenClaw,用户必须相信他们安装的技能和插件经过了彻底审查。今天我们就来分享这项工作是怎么做的、我们实测时发现了什么,以及一个公开数据集,让社区其他人可以在此基础上继续构建。

ClawScan 流水线

我们建立信任的第一次尝试,是用一个 Codex 智能体去查找OWASP 智能体风险。它奏效了,也确实抓到了真正的恶意行为者。但那是闭源的做法,而智能体风险这个问题太新、变化太快,任何单一注册中心都无法独自应对。

所以我们现在与 NVIDIA 合作,参与其经过验证的智能体技能计划,把这项工作放到明面上来做。每个经由 ClawHub 流转的技能,在发布之前都要通过一道入库前验证关卡:

The ClawScan trust pipeline

当某个新版本技能发布时,一个 OpenAI Codex 智能体会收到三个独立扫描器的输出作为上下文:我们的静态分析、VirusTotal 和 NVIDIA SkillSpector。评估环节 ClawScan 会综合这三者,以及来源信息、元数据和审核历史,然后生成一张 Skill Card 并给出最终判定:Clean(干净)、Suspicious(可疑)或 Malicious(恶意)。

NVIDIA Skill Cards 与 SkillSpector 合作

这套安全流程中有两个新组件,都来自与 NVIDIA 的合作。

NVIDIA Skill Cards 是一套开放的信任凭证规范,现在每个已发布的技能都会附带。每张卡片都会告诉你:发布者是谁、它能做什么、ClawScan 发现了什么,以及它究竟来自哪里。这些信息全部由 ClawHub 验证,而不是照搬发布者的自我描述。你可以在技能详情页的标签页里查看,也可以在终端用 openclaw skills verify <slug> --card 查看。

A ClawHub Skill Card

NVIDIA SkillSpector 是一款新的智能体技能扫描器。它把静态检查与 AI 辅助的语义分析结合起来,标记出恶意软件扫描器会漏掉的风险:隐藏指令、危险代码路径、过宽的能力、依赖问题,以及技能声明的用途与实际行为之间的不符。在 ClawHub 中,SkillSpector 的发现以提示形式展示,不会自动拦截技能。ClawScan 会在给出判定前,把它和其他所有信息一起权衡。

SkillSpector findings in ClawHub

初步发现

我们原本以为,这三个扫描器的结果会大体重叠。结果恰恰相反,它们几乎不重叠。

扫描器组合 双方均命中 Jaccard 一致度
VirusTotal 与 SkillSpector 3,286 0.094
静态分析与 SkillSpector 3,511 0.104
静态分析与 VirusTotal 586 0.065

没有任何两个扫描器在合并阳性结果上的重合率超过 10.4%。只有 468 个技能(占 0.69%)同时被三个扫描器标记。81.9% 的阳性发现仅来自单一扫描器。

我们认为这些发现并不说明任何单个扫描器存在问题。更准确地说,每个扫描器覆盖的风险面不同:VirusTotal 看的是恶意软件信誉,静态分析看的是危险代码模式,SkillSpector 看的是智能体风险。在全部 67,453 行中,SkillSpector 在 32,856 行(48.71%)上为阳性,而 VirusTotal 为 5,225 行(7.75%),静态分析为 4,434 行(6.57%)。在 ClawScan 判定为可疑的 25,504 行中,SkillSpector 在 19,209 行(75.3%)上为阳性。而在 206 行恶意样本中,情况正好相反:VirusTotal 在 150 行(72.8%)上为阳性,SkillSpector 仅在 14 行(6.8%)上为阳性。

这些差异凸显了像 ClawScan 这样以 LLM 作为评判者的必要性。如何区分风险面较广的技能与真正恶意的技能,是一个全新的挑战。

举例来说,我们识别出的一个技能被 SkillSpector 标记了 173 项发现,但 ClawScan 仍将其判定为可疑,而非恶意。

我们不想把这份扫描结果语料库据为己有,而是很高兴将其开源,让更广泛的安全社区帮助我们改进。

开源我们的安全扫描信号数据集

ClawHub 对技能安全的承诺并不止于自家注册表。分享所知,整个社区都会更安全。

作为最受欢迎的技能注册表之一,我们如今每天都要对数千个已发布事件运行完整的 ClawScan 套件,为此消耗数百万 OpenAI GPT-5.5 的 LLM token。v1 数据集覆盖 67,453 个最新公开技能版本。这本身就在产生大量对安全研究社区极具价值的信号,但此前一直锁在 ClawHub 内部。

今天,我们在 Hugging Face 上公开发布 ClawHub 全部安全扫描结果的数据集:OpenClaw/clawhub-security-signals。特别感谢 NVIDIA 的 Jacob Tomlinson、Agustin Rivera 和 Michael Appel 对本项目的贡献。

我们希望这能让更广泛的研究社区加入我们,共同提升技能安全工具的最先进水平。这项工作是我们使命的核心——保障整个智能体技能生态的安全,并支持更广泛的 AI 生态。

水涨船高,众螯同升。🦞

来源:OpenClaw Blog · openclaw.ai