GitHub 与 Microsoft 试点 AI 找漏洞并附修复建议,六个开源项目收到 99 份私密报告
Maintainers don’t need more AI bug reports. They need fixes.
GitHub 与 Microsoft 在 AutoGPT、Caddy、Express、FastMCP、ImageMagick、Netty 六个开源项目上试点,用 Microsoft 的 Codename MDASH 扫描漏洞并给出修复建议。
GitHub 与 Microsoft 在六个开源项目试点,AI 扫描加人工复核后只送出 99 份带修复建议的私密报告,维护者已修 55 个,但每项目要七名研究员手工核查两天。
AI 让发现潜在漏洞变得又快又便宜,但修复仍然要靠人的判断,而在开源世界里,这份活儿落在维护者身上。许多人已经被 AI 生成的安全报告淹没,其中既有重复项,也有根本算不上漏洞的报告。再来一份原始扫描结果对他们毫无帮助。任何想拿新模型去扫某个项目的人,都应该先问问维护者,并且带着修复方案来,而不只是发现问题。
维护者正承受着这波报告洪流的巨大压力。正如 Log4j 维护者 Christian Grobmeier 所说,用 AI 防御开源的一方,必须比用 AI 攻击的一方更强。
AI 不该给维护者增加工作量。于是 GitHub 和微软与维护者一起做了一次试点:AI 能不能帮维护者把修复真正交付出去,而不是塞给他们更多问题?
GitHub 和微软正在使用 Codename MDASH——微软的多模型智能体扫描框架——来发现并修复广泛使用的开源软件中的安全漏洞,从而加固世界上大量代码所依赖的基础。
流程
我们的试点有两个目标:只发送真正重要的发现,绝不把未经核实的发现交给维护者。具体做法如下:
- 发现。Codename MDASH 是微软安全团队的一套 AI 系统,它使用微软的 MAI Cyber 模型扫描每个项目,并针对发现的问题给出修复建议。
- 过滤。GitHub 安全实验室的 AI 分诊智能体基于定制的 Copilot 技能构建,负责去除重复项、核验有效性,并聚焦高影响漏洞,让维护者不必再翻看原始扫描结果。
- 核实。微软 FORGE 实验室的研究人员对剩下的每一条发现逐一人工核查。
- 私下报告。报告通过 GitHub 私有漏洞报告渠道送达维护者,附带概念验证和修复建议。
- 修复。修什么、怎么修、什么时候修,都由维护者决定。
报告和修复都留在 GitHub 上,也就是维护者本来就在工作的地方。
结果:Codename MDASH 使用微软的 MAI Cyber 模型,在六个项目中标记出数千个可能的问题。经过 AI 分诊和七名微软 FORGE 实验室研究人员的人工复核,维护者最终收到 99 份私有报告。截至 11 月 15 日,他们已修复 55 个,其中 14 个修复已随版本发布。

参与项目
共有六个项目参与,它们都是 GitHub 开源安全基金的往届入选项目。各项目维护者同意接受扫描,私下收到每一份报告,自行决定修复哪些问题,并分享了哪些做法有效:
- AutoGPT,一个 AI 智能体平台
- Caddy,一个 Web 服务器
- Express,一个面向 Node.js 的 Web 框架
- FastMCP,一个用于构建 MCP 服务器的框架
- ImageMagick,图像处理软件
- Netty,一个面向 Java 的网络框架

我们学到了什么
以下经验来自这六个项目实际修复的内容,以及维护者愿意分享的部分。六个项目只是小样本,请把它们当作早期经验来看。
1. 修复比发现更重要
维护者的时间主要花在修复上。因此每份报告送达时都已核实过,并附有修复建议,供维护者审阅、调整和合并。维护者的起点是一个范围明确的补丁,而不是一条原始发现。
首批修复在初次扫描后约一周内交付。Caddy 的维护者在一周或更短时间内修复了收到的全部 22 份报告。维护者采用了建议的修复方案,有些照原样使用,有些做了改动。
AutoGPT 的维护者最近上线了一项新检查,但它是坏的。报告在三天后送达,并准确指出了问题所在行。他们比建议的补丁走得更远,一天内写完,不到一周就部署到了生产环境。
发现漏洞不再是我们的瓶颈。修复才是难点,而这取决于维护者。
Netty maintainer
2. 代号 MDASH 结合研究员复核,为维护者提供了高质量、附带修复方案的发现
维护者收到的是一份精简清单,而不是洪水般的报告。Express 的维护者表示,这些报告帮他们过滤掉了噪音。Caddy 的维护者说,报告揭示了此前被忽略的冷门缺陷,填补了早期报告的空白。对 FastMCP 而言,这次扫描超出了以往 AI 扫描器给他们的结果。ImageMagick 由两人团队维护,收到了 22 份报告。
AI 负责发现,研究员负责核查,维护者始终掌握主导权。
ImageMagick 的一份报告看起来像是维护者以前见过的那类问题。但摘要显示并非如此,并指出了确切的代码行。他们得以在 15 分钟内推送修复。
通常,一份安全公告平均要花我们 30 分钟到 1 小时来阅读、理解并做出修复。差别非常大。
ImageMagick maintainer
代号 MDASH 能够以简洁的报告发现我们项目中未知、冷门的安全缺陷,还填补了此前一些报告中被忽略的空白。
Caddy maintainer
3. 开源仍有差距需要弥补
这次试点之所以奏效,是因为每一步都有人认真把关,而这种投入目前还无法规模化。七名研究员每个项目花约两天时间手工核查发现。与此同时,低质量报告仍每天涌向维护者。
对开源而言,修复需要通过私密漏洞报告(PVR)渠道交付。维护者需要在私有分支上运行 CI/CD 测试来验证这些修复。而要缩小防御者与攻击者之间的差距,维护者还需要能使用具备网络能力的模型,在修复前后验证概念验证。
代号 MDASH 扫描为我们项目的安全性提供了独特的洞察,超越了以往 AI 扫描器所能提供的内容
FastMCP maintainer
为什么这很重要
如果你是维护者,这种方式会改变一份安全报告给你带来的成本。一份经过核查、私下送达并附带建议修复的报告,占用你的时间更少。你不该去分拣扫描器的输出,那是发送方的工作。
如果你用 AI 在开源项目中寻找漏洞,维护者的反馈指向这样一条标准:
- 发送前核查每一项发现,对照项目已知情况、威胁模型和安全策略。
- 私下报告。
- 附上建议的修复方案。让维护者掌握节奏。
功能发布越来越容易,但未来维护软件很可能取决于谁足够上心去管理安全。
AutoGPT maintainer
代号 MDASH 在过滤漏洞报告噪音方面非常有用。
Express maintainer
你现在可以做什么
- 如果你维护任何开源项目,请开启私密漏洞报告,这样研究员就能在不公开的情况下向你报告安全问题。如果你的项目在 GitHub 上,大约两分钟就能通过
gh-secure开启核心安全功能。 - 如果你基于开源项目构建,请开启 Dependabot 警报,这样当所用依赖需要安全更新时你就能及时知晓。
- 如果你要向开源项目提交 AI 生成的漏洞报告,请先按上述标准把关,再发送。
- 使用 GitHub 代码安全的仓库可以借助 智能体自动修复,由 Copilot 帮助自动修复相关警报
接下来会发生什么
- 修复,就在维护者原本工作的地方。GitHub 正把这些经验引入私有漏洞报告和安全公告,GitHub Security Lab 已在其中投入,以减轻低质量报告给维护者带来的负担。
- MAI Cyber 2。今天微软发布了 MAI Cyber 2。代号 MDASH 的试点运行在更早的 MAI Cyber 模型上。GitHub 与微软将继续合作,共同守护开源安全。
- 补齐缺口,从 GitHub 安全开源基金开始。我们正与微软合作,在不降低标准的前提下扩大研究者评审的规模。GitHub 将为每个校友项目提供 AI 安全扫描,发现的问题会先经过核查,再以私有方式报告。校友项目还可获得 GitHub Copilot Max。我们也会把这项支持带到该基金未来的各期项目中。
这条链路上的每一环都能从中受益。当维护者在 GitHub 上发布安全公告,并经 GitHub 公告数据库审核后,Dependabot 就能向依赖该软件包的仓库发出警报。这正是 GitHub 安全开源基金的初衷:迄今已有 216 个项目参与,300 多名维护者修复了 4,000 多个漏洞,而这些软件每月的下载量超过 200 亿次。
致谢
感谢 AutoGPT、Caddy、Express、FastMCP、ImageMagick 和 Netty 的维护者:感谢你们付出的时间、信任和反馈。也感谢微软安全部门的代号 MDASH 团队、MAI Cyber 团队、微软 FORGE Lab 的研究人员以及 GitHub Security Lab。
修复由维护者完成。我们的职责是确保他们从不孤军奋战。
听听维护者们使用代号 MDASH 的体验。👇
关于 GitHub 安全开源基金
本次试点的六个项目都是 GitHub 安全开源基金的校友项目。该基金通过 GitHub Sponsors 为每个项目提供 10,000 美元,外加安全培训和互助的校友社区。
GitHub 安全开源基金由 GitHub Sponsors 提供支持,资助那些支撑数字供应链、推动创新、对 AI 技术栈至关重要的开源项目。希望贵公司也为所依赖的开源软件出一份力?欢迎通过基金页面成为资助伙伴。了解基金详情或申请。

通过该基金,维护者可以获得安全培训,以及来自 Microsoft for Startups 的 Azure 额度。这项支持与微软欧洲安全计划及其安全未来倡议相辅相成,后者的原则是安全高于一切。大多数组织同样处于下游位置。如果你的软件依赖开源,也请这样做:支持你所依赖的维护者。
GitHub 安全开源基金的全部校友项目
AI、机器学习与智能系统
ACI.dev • AlbumentationsX • ArviZ • AutoGPT/GravitasML • CAMEL-AI • Caracal • CocoIndex • Code-Graph-RAG • CodeCarbon • Cognee • Deep Agents • DIPY • DocsGPT • FastMCP • Jupyter • LadybugDB • LangChain • Matplotlib • n8n-MCP • Nasiko • NumPy • Ollama • ONNX • OpenBB Platform • OpenClaw • OpenCV • OpenMetadata • OpenSearch • PageIndex • pandas • Pydantic • PyMC • Ruby-OpenAI • Scenic • scikit-learn • SciPy • Serena • TokenOps • TraceRoot • Zeus
构建系统、供应链与发布工具
Apache Airflow • Babel • Bluefin • bootc • Browserslist • Changesets • Colima • Concourse • Cucumber • CycloneDX Python Library • Flux • Foundry • Gitoxide • golangci-lint • GoReleaser • hardhat-deploy • Jenkins • JReleaser • Jupyter Docker Stacks • NixOS/Nixpkgs • node-lru-cache • oapi-codegen • PostCSS • PyPI/Warehouse • rimraf • Task • Termux • Terra • Turborepo • Warpgate • webpack • zizmor
核心编程语言、运行时与基础库
Apache Commons • Apache Groovy • Byte Buddy • core-js • CPython • FS2 • Gleam • Himmelblau • htmx • LLVM • NAPI-RS • Node.js • Pkl • Pyodide • Rustls • SQLite • termcolor • time-rs
开发者工具与生产力平台
AirQo • API Dash • ArduPilot • AssertJ • AsyncAPI Initiative • Bevy • Bootstrap • calibre • Charset Normalizer • Cheerio • Ciphey • Cobra • CodeRunner • CSS Declaration Sorter • DataJourney • Diesel • DIGIT • Electron • ERPNext • fabric.js • GitPython • Hoppscotch • ImageMagick • jQuery • js-yaml • jsoup • JUnit • libyt • LORIS • MapStruct • Mastodon • Mathesar • Mautic • Mermaid • MessageFormat • Mockoon • NativeScript • Next.js • Nuxt • nvm • Oh My Zsh • p5.js • Path-to-RegExp • Pelias Geocoder • Pest • Pillow • Polly • Proyecto Respira • PypeIt • python-benedict • qs • React Starter Kit • Readest • Resolve • Rocket.Chat • Selenium • shadcn/ui • Sphinx • Spyder • ssh_config • StackQL • Stirling PDF • Svelte • Thunderbird for Android • ToolJet • Two.js • Viper • virtualenv • Vuetify • Wagmi • WebdriverIO • xyflow • YAML • Yii Framework • Yjs
Web、网络、API 与基础设施服务
actix-web • aiohttp • Apache APISIX • Apache Shiro • Apache Solr • Apache ZooKeeper • Arkime • Caddy • cmux • Cryptomator • curl • CycloneDX .NET Library • CycloneDX cdxgen • Ente • etcd • evcc • Express • external-secrets • FastAPI • Fastify • Haraka • Helmet.js • Home Assistant • Hummingbird • jose • Keycloak • Keyshade • kgateway • Log4j • mimetype • NetBird • Netty • Oauth2 (Ruby) • OAuthlib • openapi-stack • OpenWISP • PGPainless • quic-go • ScanAPI • ScanCode • Sniffnet • Social Auth App Django • Stalwart • Starlette • UAParser.js • urllib3 • Vapor • varlock • Veramo • WebAuthn (Go) • ZITADEL
来源:GitHub Blog · github.blog