Google DeepMind 推出 AlphaProof Code,用 AI 智能体形式化验证 Signal 协议代码
Introducing AlphaProof Code: a breakthrough in verifying complex software at depth
Google DeepMind 于 11 月 10 日发布 AlphaProof Code,一个由多个 LLM 智能体组成的形式化验证框架,并用它验证了 Signal 协议实际运行代码的关键安全属性。
Google DeepMind 用 AI 智能体对 Signal 协议的实际代码做形式化验证,四个月的工作压到四周,人工只需复核约百分之一的代码。
2026年11月10日 研究
Pushmeet Kohli 与 Swarat Chaudhuri
Google DeepMind 的研究人员如何构建出一个全新的智能体框架,对 Signal 加密协议的代码进行形式化验证——这长期以来被视为一项重大的安全难题
今天,我们分享软件安全领域的一项里程碑成果,它长期以来被视为一项重大挑战:Google DeepMind 的研究人员引导 AI 智能体,用数学方法证明了 Signal 协议底层实际代码的关键安全属性。Signal 协议正是保护 Signal、Google Messages 等应用中数十亿次私密对话的技术。
这一突破性发现借助 AlphaProof Code 完成,这是一个全新的智能体框架,能够以前所未有的深度进行形式化验证,将人类专业知识与 AI 智能体结合起来。形式化验证——用数学方法证明代码运行正确、没有缺陷——是安全保证的最高标准;但它难度大,而且往往耗费大量人力。
我们的工作标志着 AI 首次被用于以这样的深度对广泛部署的加密协议进行形式化验证。这也是首次通过任何方法(无论是否使用 AI)对这样一个广泛部署的协议实现完成形式化验证。
我们如何验证 Signal
AlphaProof Code 是一个多 LLM 智能体框架,它像研究团队那样拆分形式化验证的工作:人类专家与 AI 合作决定要证明什么,再由一组 AI 智能体来完成。
首先,我们的研究人员与多种模型协作,把 Signal 的安全目标转化为形式化的数学规约,并由人类专家逐一审核。随后,由 Gemini Carbon 驱动的智能体完成证明,生成了超过六百万行 Lean 代码——Lean 是一种能用数学方法证明代码正确性的计算机语言。
接下来,智能体审计了证明,并标出需要人工复核的部分——仅占代码库的百分之一,大大节省了时间。由于 Lean 会自动检查其余部分,我们的专家可以把审查精力集中在最需要人类判断的地方。
从网上银行到网页浏览,几乎所有数字通信都依赖加密协议,而一个缺陷就可能让数百万人同时暴露在风险之中。正因如此,专家们花费数十年对它们进行形式化分析。
但大多数协议验证只停留在设计层面。我们的智能体走得更远,证明了编译后的代码满足关键安全属性——例如在设备被临时攻破前后都能保护消息——并且一直验证到设备上实际运行的代码。现实中的漏洞往往藏身于设计与实现之间的缝隙,弥合这一缝隙使这些证明的复杂度大幅提升。
即便复杂度如此之高,我们的验证过程也只用了四周——而这项工作历来需要专家团队花费数年——这证明 Signal 的核心加密代码提供了我们专家所规定的安全保护。
为了确认 AlphaProof Code 能区分正确代码和有缺陷的代码,我们把两个真实存在、此前已修复的缺陷重新引入 Signal 代码的一个隔离版本中。在这两种情况下,系统都给出了机器校验的证明,表明有缺陷的版本并不安全。
在 AlphaProof Code 中,AI 智能体帮助用户编写规约,然后自主证明实现满足该规约。每个证明都由 Lean 检查,以验证智能体的工作。
以往的形式化验证工作必然只能聚焦于较小的范围,而这一新方法则能大幅扩展适用范围。传统上,要验证生产代码严格符合其密码学设计,需要大量人工投入,因此利用 AI 智能体将实际运行的代码自动转换为有效的 Lean 定理,是一项重大突破。随着 AI 驱动的安全威胁日益增长,借助自动定理证明对 Signal 协议核心进行严格验证,让我们更有信心:我们的代码能够兑现隐私承诺。
安全的未来
攻克这一长期难题表明,AI 能够为企业、政府和关键基础设施带来顶尖的安全保障,帮助抵御由智能体驱动的网络威胁。
验证 Signal 的核心密码学,为保护其他关键系统奠定了基础,从医疗设备固件到电网软件皆可受益。
推广这些技术仍需持续研究。配合 CodeMender 这类自动化防御智能体,形式化验证能够帮助应对现代网络威胁的速度与规模,打造出带有数学证明、可证实其防护确实有效的软件。
我们将形式化验证产物开源,供社区使用。技术论文见下文。
致谢
本研究由 Swarat Chaudhuri、Andrew Ferraiuolo、Anton Kovsharov、Tej Chajed、Sam Schlesinger、Karn Seth、Jonathan Katz、Charles Sutton 和 Pushmeet Kohli 完成。
感谢 Eric Wieser 协助我们将代码开源,感谢 Owen Jones 提供项目管理支持,感谢 Martín Abadi、Christopher Henson、Katerina Hristova、Henryk Michalewski、Jonathan Protzenko 和 George Tsoukalas 的有益讨论。感谢 Signal 的 Rolfe Schmidt、Michael Rosenberg 和 Ehren Kret 对我们方法的反馈。也感谢 Tulsee Doshi、Four Flynn、Kate Olszewska、Alicia Huang、Andy Liu、Benoit Schillings、Raluca Ada Popa、Melvin Johnson、Koray Kavukcuoglu、Demis Hassabis 和 Sundar Pichai 对本项目的支持。
来源:Google DeepMind Blog · deepmind.google