仅凭数值重构元数据:恢复无文档数据仓库中的列语义
文章背景与核心概要
在许多生产级数据仓库中,文档缺失或晦涩难懂是常态,这导致理解列含义及其数值意义变得极其困难。现有的 Text-to-SQL 基准测试通常依赖于文档完备的模式(Schema),而现实场景则迫切需要一种能够直接从数据本身推断语义的鲁棒性方案。
本文介绍了一种名为 Rosetta 的系统,它通过结合大语言模型与确定性验证机制,直接从数据中恢复列语义。Rosetta 通过提取值指纹、校验和及模式库等结构化证据,为语义预测提供支撑,并具备校准后的置信度评分与溯源能力。该系统能够有效识别自身能力边界,在缺乏足够证据时选择“弃权”,从而在不透明的数据环境中保持极高的预测准确性。
核心贡献
-
Rosetta 框架: 一种混合方法,将大语言模型置于确定性分析器(Profiler)之中。分析器提供结构化证据,而模型则基于这些证据提出语义假设。
- The Rosetta Framework: A hybrid approach that places a language model inside a deterministic profiler. The profiler provides structural evidence, while the model proposes semantics conditioned on that evidence.
-
校准后的弃权机制: 与盲目猜测的模型不同,Rosetta 使用了“提交门控”(commit gate)机制。它仅在拥有充分证据时才提供元数据,从而显著提高了可靠性。
- Calibrated Abstention: Unlike models that guess blindly, Rosetta uses a "commit gate" mechanism. It only provides metadata when it has sufficient evidence, significantly improving reliability.
-
性能指标:
- 在 BIRD 基准测试(11 个数据库,680 列)中,该系统在 42% 的提交列上达到了 0.475 的准确率,优于原始模型(在 94% 的列上仅达到 0.223 的准确率)。
- 在 i2b2 临床数据仓库的盲测中,该系统成功解码了 134 个真实 ICD-9 代码中的 95.5%,并正确地对所有 44 个 NDC 药品代码进行了弃权。
- Performance Metrics:
- On the BIRD benchmark (11 databases, 680 columns), the system achieved 0.475 accuracy on the 42% of columns it committed to, outperforming the raw model (0.223 accuracy on 94% of columns).
- In a blind test on an i2b2 clinical warehouse, the system successfully decoded 95.5% of 134 real ICD-9 codes while correctly abstaining from all 44 NDC drug codes.
- Performance Metrics:
-
查询时效用: 在模式完全不透明的情况下,该系统在 59% 的覆盖率下保持了 86% 的准确率,避免了传统翻译系统中常见的性能下降问题。
- Query-Time Utility: Under conditions of full schema opacity, the system maintained 86% accuracy over 59% coverage, preventing the performance degradation typically seen in naive translation systems.
访问与资源
书目信息
- 引用格式: arXiv:2608.07946 [cs.DB]
- 提交历史: [v1] 2026年8月8日 06:12:18 UTC
- Cite as: arXiv:2608.07946 [cs.DB]
- Submission History: [v1] Sat, 8 Aug 2026 06:12:18 UTC