README.md

metadata

license: cc-by-nc-4.0
language:
  - zh
task_categories:
  - text-retrieval
  - text-classification
tags:
  - benchmark
  - knowledge-distillation
  - table-retrieval
  - regulatory-compliance
  - hierarchical-retrieval
  - chinese
size_categories:
  - n<1K
pretty_name: Table-Search-Bench (Hierarchical Table/Field Retrieval)

table-search-bench

四级分层轮询检索 benchmark：为每条监管项在"业务域 → 业务主题 → 数据表 → 字段" 索引树上全覆盖轮询定位支撑数据。用于评测/蒸馏"穿透式监管智能体·数据集构建子智能体" 的小模型（助教 logit 还原 + PAR 答案前置蒸馏）。

代码与运行管线：https://github.com/luoyashuo/table-search-bench

规模

项	数量
监管项（评测样本）	274（有数据支撑 212 / 无支撑负样本 62）
gold 数据表标注	829
gold 字段标注	10,295
索引树	12 业务域 / 23 业务主题 / 122 数据表 / 2951 字段
来源规章	11 份脱敏企业规章制度

文件

benchmark_v1.jsonl                   最终评测集（主交付物，每行一条监管项）
index/index_tree.json                四级索引树（含每个字段的 类型/注释/示例值 摘要）
raw/*.txt                            11 份脱敏规章制度原文（监管项来源）
items/items.jsonl                    s2 抽取的监管项（含条款分类与独立化改写）
gold/gold_raw.jsonl                  强模型 3 票初标（含逐票 tally，仲裁前）
gold/gold_raw_v0_no_examples.jsonl   信息条件消融用旧标注（字段摘要不含示例值）
provenance/review.xlsx               表级仲裁裁定明细（gold 标注的可追溯记录）

benchmark_v1.jsonl 字段

每行一个 JSON 对象，关键字段：

字段	说明
item_id	监管项唯一 ID
source_doc	来源规章文件名
监管项内容 / 监管对象 / 触发条件 / 监管动作 / 判断标准	监管项结构化内容
has_data_support	是否存在支撑数据（负样本为 false）
gold_domains / gold_topics	gold 业务域 / 业务主题（由 gold 表所属维度上卷）
gold_tables	[{table, table_name, fields, field_votes_disputed}]，gold 数据表及其 gold 字段
annotation	投票数、置信度、复核标记等元信息

gold 标注协议

1. 表级全库扫描初标：每条监管项对全部 122 张表分批输入标注模型（DeepSeek，思考模式）， 独立采样 3 次多数票判定，刻意不走分层剪枝以避免上层误筛偏差；
2. 字段级标注：对当选表字段同样 3 票多数票；
3. 域/主题上卷：由当选表所属维度确定性推导；
4. 置信度分级：全票一致→high，有分歧→low/medium；
5. 跨模型系强模型仲裁（替代人工复核）：分歧表交由与初标不同模型系的强模型（Claude） 逐表独立复判，其表级裁定覆盖初标投票，仲裁新增表回补字段级标注。

由此 表级 gold = 初标多数票 + 跨系仲裁、字段级 gold = 标注模型多数票，降低自我一致性偏差。

局限（threats to validity）

• gold 依赖强模型多数票 + 异系强模型仲裁，非全量专家标注；初标与仲裁的表级判定分歧率约 43.4% （集中于宽口径尽调类监管项的过召回），可作标注难度指标。字段级 gold 未经仲裁，为已知局限。
• 负样本依赖数据资源池覆盖范围的客观事实，资源池扩充后需重新标注。
• 索引树由脱敏元数据构建，不含任何真实业务数据。

许可 / 引用

数据基于脱敏企业规章制度构建，按 CC BY-NC 4.0 发布，供学术研究使用。

@misc{table-search-bench,
  title  = {table-search-bench: A Hierarchical Table/Field Retrieval Benchmark
            for Distilling Regulatory-Audit Agents},
  author = {Luo, Yashuo},
  year   = {2026},
  howpublished = {\url{https://github.com/luoyashuo/table-search-bench}}
}