跳到正文
arXiv· Ibrahim Memon·· 5 天前精选AI 评分40

LuthorSQL 用 7B 本地模型先答数据库查询,API 成本降 33.3%

LuthorSQL: A One-Pass Text-to-SQL Model as System 1 for a Slower LLM Agent

AI 导读

Ibrahim Memon 在 arXiv 发表 LuthorSQL,一个非自回归 7B text-to-SQL 模型,作为慢速 LLM 智能体的快速前置层,只在不确定时升级给 Claude Opus 5.5。

变化判断

本地 7B 模型先答掉近一半数据库查询,API 调用减少三成,单次查询从调用托管模型变成一次前向计算。

正文 · AI 翻译

查看 PDF

摘要:借助工具查询数据库的前沿大模型智能体,是当前最准确的 text-to-SQL 系统之一,但每次查询都要调用托管模型,速度慢、成本高,还会把组织的敏感查询暴露给外部 API。例如,一个 Claude Opus 5.5 智能体每天处理 1 万次查询,按标价计算一年要花超过 7 万美元。那么,组织已有的本地硬件能在多大程度上分担这一负担,同时又不损害智能体的准确率?我们提出 LuthorSQL:一个非自回归的 7B text-to-SQL 模型,充当较慢的 LLM 智能体(System 2)之前的快速 System 1 闸门,只在不确定时才升级查询。LuthorSQL 通过一次前向传播,在有界语法上预测查询计划的槽位分数,编译并运行最多 32 个候选计划,再用训练好的验证器选出答案。单独使用时,LuthorSQL 在 BIRD 隐藏测试集上达到 68.03% 的执行准确率,单块 GPU 上每题耗时 0.84 秒;采用 8 位量化权重后,在 9 GB 内存中仍能保持准确率;并且能零样本迁移到 Snowflake、BigQuery、MySQL、PostgreSQL 和 DuckDB,与原生 SQLite 准确率相差不超过 3.1 个百分点。在 227 个发布于 Opus 训练截止日期之后的数据库上,LuthorSQL 与 Claude Opus 5.5 组成预注册的置信级联,在本地回答了近一半的问题,在准确率不变的情况下将 API 成本降低 33.3%。最后,污染探测显示,Opus 在未看到 schema 的情况下能逐字复现 48%–92% 的公开基准金标准查询;不过,其工具辅助准确率在重命名 schema 上依然成立,在截止日期后的数据库上达到 95.6%–97.4%。代码与数据:此 https URL
评论: 正文 8 页,另加附录,共 23 页
主题: 计算与语言(cs.CL);人工智能(cs.AI);数据库(cs.DB);机器学习(cs.LG)
引用为: arXiv:2611.17780 [cs.CL]
  (或 arXiv:2611.17780v1 [cs.CL] 对应本版本)
  https://doi.org/10.48550/arXiv.2611.17780

arXiv 通过 DataCite 颁发的 DOI(待注册)

提交历史

来自:Ibrahim Memon [查看邮箱]
[v1] 2026 年 11 月 13 日星期五 05:44:08 UTC(66 KB)

来源:arXiv · arxiv.org