跳到正文
GitHub Blog· Ashley Wolf·· 31 分钟前精选AI 评分62

GitHub 与 Microsoft 试点 AI 找漏洞并附修复建议,六个开源项目收到 99 份私密报告

Maintainers don’t need more AI bug reports. They need fixes.

AI 导读

GitHub 与 Microsoft 在 AutoGPT、Caddy、Express、FastMCP、ImageMagick、Netty 六个开源项目上试点,用 Microsoft 的 Codename MDASH 扫描漏洞并给出修复建议。

变化判断

GitHub 与 Microsoft 在六个开源项目试点,AI 扫描加人工复核后只送出 99 份带修复建议的私密报告,维护者已修 55 个,但每项目要七名研究员手工核查两天。

正文 · AI 翻译

AI 让发现潜在漏洞变得又快又便宜,但修复仍然要靠人的判断,而在开源世界里,这份活儿落在维护者身上。许多人已经被 AI 生成的安全报告淹没,其中既有重复项,也有根本算不上漏洞的报告。再来一份原始扫描结果对他们毫无帮助。任何想拿新模型去扫某个项目的人,都应该先问问维护者,并且带着修复方案来,而不只是发现问题。

维护者正承受着这波报告洪流的巨大压力。正如 Log4j 维护者 Christian Grobmeier 所说,用 AI 防御开源的一方,必须比用 AI 攻击的一方更强。

AI 不该给维护者增加工作量。于是 GitHub 和微软与维护者一起做了一次试点:AI 能不能帮维护者把修复真正交付出去,而不是塞给他们更多问题?

GitHub 和微软正在使用 Codename MDASH——微软的多模型智能体扫描框架——来发现并修复广泛使用的开源软件中的安全漏洞,从而加固世界上大量代码所依赖的基础。

流程

我们的试点有两个目标:只发送真正重要的发现,绝不把未经核实的发现交给维护者。具体做法如下:

  1. 发现。Codename MDASH 是微软安全团队的一套 AI 系统,它使用微软的 MAI Cyber 模型扫描每个项目,并针对发现的问题给出修复建议。
  2. 过滤。GitHub 安全实验室的 AI 分诊智能体基于定制的 Copilot 技能构建,负责去除重复项、核验有效性,并聚焦高影响漏洞,让维护者不必再翻看原始扫描结果。
  3. 核实。微软 FORGE 实验室的研究人员对剩下的每一条发现逐一人工核查。
  4. 私下报告。报告通过 GitHub 私有漏洞报告渠道送达维护者,附带概念验证和修复建议。
  5. 修复。修什么、怎么修、什么时候修,都由维护者决定。

报告和修复都留在 GitHub 上,也就是维护者本来就在工作的地方。

结果:Codename MDASH 使用微软的 MAI Cyber 模型,在六个项目中标记出数千个可能的问题。经过 AI 分诊和七名微软 FORGE 实验室研究人员的人工复核,维护者最终收到 99 份私有报告。截至 11 月 15 日,他们已修复 55 个,其中 14 个修复已随版本发布。

Logos for AutoGPT, Caddy, Express, FastMCP, ImageMagick, and Netty.

参与项目

共有六个项目参与,它们都是 GitHub 开源安全基金的往届入选项目。各项目维护者同意接受扫描,私下收到每一份报告,自行决定修复哪些问题,并分享了哪些做法有效:

Infographic titled ‘Codename MDASH Pilot: The Result.’ It shows 9,791 possible issues flagged across six open-source projects, leading to 99 private reports sent to maintainers after AI triage and human review—about one report for every 100 raw findings.

我们学到了什么

以下经验来自这六个项目实际修复的内容,以及维护者愿意分享的部分。六个项目只是小样本,请把它们当作早期经验来看。

1. 修复比发现更重要

维护者的时间主要花在修复上。因此每份报告送达时都已核实过,并附有修复建议,供维护者审阅、调整和合并。维护者的起点是一个范围明确的补丁,而不是一条原始发现。

首批修复在初次扫描后约一周内交付。Caddy 的维护者在一周或更短时间内修复了收到的全部 22 份报告。维护者采用了建议的修复方案,有些照原样使用,有些做了改动。

AutoGPT 的维护者最近上线了一项新检查,但它是坏的。报告在三天后送达,并准确指出了问题所在行。他们比建议的补丁走得更远,一天内写完,不到一周就部署到了生产环境。

发现漏洞不再是我们的瓶颈。修复才是难点,而这取决于维护者。

Netty maintainer 

2. 代号 MDASH 结合研究员复核,为维护者提供了高质量、附带修复方案的发现

维护者收到的是一份精简清单,而不是洪水般的报告。Express 的维护者表示,这些报告帮他们过滤掉了噪音。Caddy 的维护者说,报告揭示了此前被忽略的冷门缺陷,填补了早期报告的空白。对 FastMCP 而言,这次扫描超出了以往 AI 扫描器给他们的结果。ImageMagick 由两人团队维护,收到了 22 份报告。

AI 负责发现,研究员负责核查,维护者始终掌握主导权。

ImageMagick 的一份报告看起来像是维护者以前见过的那类问题。但摘要显示并非如此,并指出了确切的代码行。他们得以在 15 分钟内推送修复。

通常,一份安全公告平均要花我们 30 分钟到 1 小时来阅读、理解并做出修复。差别非常大。

ImageMagick maintainer

代号 MDASH 能够以简洁的报告发现我们项目中未知、冷门的安全缺陷,还填补了此前一些报告中被忽略的空白。

Caddy maintainer

3. 开源仍有差距需要弥补

这次试点之所以奏效,是因为每一步都有人认真把关,而这种投入目前还无法规模化。七名研究员每个项目花约两天时间手工核查发现。与此同时,低质量报告仍每天涌向维护者。

对开源而言,修复需要通过私密漏洞报告(PVR)渠道交付。维护者需要在私有分支上运行 CI/CD 测试来验证这些修复。而要缩小防御者与攻击者之间的差距,维护者还需要能使用具备网络能力的模型,在修复前后验证概念验证。

代号 MDASH 扫描为我们项目的安全性提供了独特的洞察,超越了以往 AI 扫描器所能提供的内容

FastMCP maintainer

为什么这很重要

如果你是维护者,这种方式会改变一份安全报告给你带来的成本。一份经过核查、私下送达并附带建议修复的报告,占用你的时间更少。你不该去分拣扫描器的输出,那是发送方的工作。

如果你用 AI 在开源项目中寻找漏洞,维护者的反馈指向这样一条标准:

  • 发送前核查每一项发现,对照项目已知情况、威胁模型和安全策略。
  • 私下报告。
  • 附上建议的修复方案。让维护者掌握节奏。

功能发布越来越容易,但未来维护软件很可能取决于谁足够上心去管理安全。

AutoGPT maintainer

代号 MDASH 在过滤漏洞报告噪音方面非常有用。

Express maintainer

你现在可以做什么

  • 如果你维护任何开源项目,请开启私密漏洞报告,这样研究员就能在不公开的情况下向你报告安全问题。如果你的项目在 GitHub 上,大约两分钟就能通过
    gh-secure开启核心安全功能。
  • 如果你基于开源项目构建,请开启 Dependabot 警报,这样当所用依赖需要安全更新时你就能及时知晓。
  • 如果你要向开源项目提交 AI 生成的漏洞报告,请先按上述标准把关,再发送。
  • 使用 GitHub 代码安全的仓库可以借助 智能体自动修复,由 Copilot 帮助自动修复相关警报

接下来会发生什么

  1. 修复,就在维护者原本工作的地方。GitHub 正把这些经验引入私有漏洞报告和安全公告,GitHub Security Lab 已在其中投入,以减轻低质量报告给维护者带来的负担。
  2. MAI Cyber 2。今天微软发布了 MAI Cyber 2。代号 MDASH 的试点运行在更早的 MAI Cyber 模型上。GitHub 与微软将继续合作,共同守护开源安全。
  3. 补齐缺口,从 GitHub 安全开源基金开始。我们正与微软合作,在不降低标准的前提下扩大研究者评审的规模。GitHub 将为每个校友项目提供 AI 安全扫描,发现的问题会先经过核查,再以私有方式报告。校友项目还可获得 GitHub Copilot Max。我们也会把这项支持带到该基金未来的各期项目中。

这条链路上的每一环都能从中受益。当维护者在 GitHub 上发布安全公告,并经 GitHub 公告数据库审核后,Dependabot 就能向依赖该软件包的仓库发出警报。这正是 GitHub 安全开源基金的初衷:迄今已有 216 个项目参与,300 多名维护者修复了 4,000 多个漏洞,而这些软件每月的下载量超过 200 亿次。

致谢

感谢 AutoGPT、Caddy、Express、FastMCP、ImageMagick 和 Netty 的维护者:感谢你们付出的时间、信任和反馈。也感谢微软安全部门的代号 MDASH 团队、MAI Cyber 团队、微软 FORGE Lab 的研究人员以及 GitHub Security Lab。

修复由维护者完成。我们的职责是确保他们从不孤军奋战。

听听维护者们使用代号 MDASH 的体验。👇

关于 GitHub 安全开源基金

本次试点的六个项目都是 GitHub 安全开源基金的校友项目。该基金通过 GitHub Sponsors 为每个项目提供 10,000 美元,外加安全培训和互助的校友社区。

GitHub 安全开源基金由 GitHub Sponsors 提供支持,资助那些支撑数字供应链、推动创新、对 AI 技术栈至关重要的开源项目。希望贵公司也为所依赖的开源软件出一份力?欢迎通过基金页面成为资助伙伴。了解基金详情或申请。

GitHub Secure Open Source Fund slide: ‘Fund one. Protect millions of users.’ It reports 216 projects improved their security, with 300+ maintainers, 20+ billion monthly downloads, 4,000+ vulnerabilities fixed, 850+ secret leaks prevented or resolved, and 1,500+ vulnerable dependencies updated. Figures are from a February 17, 2026 program report and current program data.

通过该基金,维护者可以获得安全培训,以及来自 Microsoft for Startups 的 Azure 额度。这项支持与微软欧洲安全计划及其安全未来倡议相辅相成,后者的原则是安全高于一切。大多数组织同样处于下游位置。如果你的软件依赖开源,也请这样做:支持你所依赖的维护者。

GitHub 安全开源基金的全部校友项目

AI、机器学习与智能系统

ACI.dev • AlbumentationsX • ArviZ • AutoGPT/GravitasML • CAMEL-AI • Caracal • CocoIndex • Code-Graph-RAG • CodeCarbon • Cognee • Deep Agents • DIPY • DocsGPT • FastMCP • Jupyter • LadybugDB • LangChain • Matplotlib • n8n-MCP • Nasiko • NumPy • Ollama • ONNX • OpenBB Platform • OpenClaw • OpenCV • OpenMetadata • OpenSearch • PageIndex • pandas • Pydantic • PyMC • Ruby-OpenAI • Scenic • scikit-learn • SciPy • Serena • TokenOps • TraceRoot • Zeus

构建系统、供应链与发布工具

Apache Airflow • Babel • Bluefin • bootc • Browserslist • Changesets • Colima • Concourse • Cucumber • CycloneDX Python Library • Flux • Foundry • Gitoxide • golangci-lint • GoReleaser • hardhat-deploy • Jenkins • JReleaser • Jupyter Docker Stacks • NixOS/Nixpkgs • node-lru-cache • oapi-codegen • PostCSS • PyPI/Warehouse • rimraf • Task • Termux • Terra • Turborepo • Warpgate • webpack • zizmor

核心编程语言、运行时与基础库

Apache Commons • Apache Groovy • Byte Buddy • core-js • CPython • FS2 • Gleam • Himmelblau • htmx • LLVM • NAPI-RS • Node.js • Pkl • Pyodide • Rustls • SQLite • termcolor • time-rs

开发者工具与生产力平台

AirQo • API Dash • ArduPilot • AssertJ • AsyncAPI Initiative • Bevy • Bootstrap • calibre • Charset Normalizer • Cheerio • Ciphey • Cobra • CodeRunner • CSS Declaration Sorter • DataJourney • Diesel • DIGIT • Electron • ERPNext • fabric.js • GitPython • Hoppscotch • ImageMagick • jQuery • js-yaml • jsoup • JUnit • libyt • LORIS • MapStruct • Mastodon • Mathesar • Mautic • Mermaid • MessageFormat • Mockoon • NativeScript • Next.js • Nuxt • nvm • Oh My Zsh • p5.js • Path-to-RegExp • Pelias Geocoder • Pest • Pillow • Polly • Proyecto Respira • PypeIt • python-benedict • qs • React Starter Kit • Readest • Resolve • Rocket.Chat • Selenium • shadcn/ui • Sphinx • Spyder • ssh_config • StackQL • Stirling PDF • Svelte • Thunderbird for Android • ToolJet • Two.js • Viper • virtualenv • Vuetify • Wagmi • WebdriverIO • xyflow • YAML • Yii Framework • Yjs

Web、网络、API 与基础设施服务

actix-web • aiohttp • Apache APISIX • Apache Shiro • Apache Solr • Apache ZooKeeper • Arkime • Caddy • cmux • Cryptomator • curl • CycloneDX .NET Library • CycloneDX cdxgen • Ente • etcd • evcc • Express • external-secrets • FastAPI • Fastify • Haraka • Helmet.js • Home Assistant • Hummingbird • jose • Keycloak • Keyshade • kgateway • Log4j • mimetype • NetBird • Netty • Oauth2 (Ruby) • OAuthlib • openapi-stack • OpenWISP • PGPainless • quic-go • ScanAPI • ScanCode • Sniffnet • Social Auth App Django • Stalwart • Starlette • UAParser.js • urllib3 • Vapor • varlock • Veramo • WebAuthn (Go) • ZITADEL

文章 维护者不需要更多 AI 生成的 bug 报告,他们需要的是修复。 首发于 The GitHub Blog。

来源:GitHub Blog · github.blog