README.md

---
license: cc-by-nc-4.0
language:
- zh
task_categories:
- text-retrieval
- text-classification
tags:
- benchmark
- knowledge-distillation
- table-retrieval
- regulatory-compliance
- hierarchical-retrieval
- chinese
size_categories:
- n<1K
pretty_name: Table-Search-Bench (Hierarchical Table/Field Retrieval)
---

# table-search-bench

四级**分层轮询检索** benchmark：为每条监管项在"业务域 → 业务主题 → 数据表 → 字段"
索引树上全覆盖轮询定位支撑数据。用于评测/蒸馏"穿透式监管智能体·数据集构建子智能体"
的小模型（助教 logit 还原 + PAR 答案前置蒸馏）。

代码与运行管线：**https://github.com/luoyashuo/table-search-bench**

## 规模

| 项 | 数量 |
|---|---|
| 监管项（评测样本）| **274**（有数据支撑 212 / 无支撑负样本 62）|
| gold 数据表标注 | 829 |
| gold 字段标注 | 10,295 |
| 索引树 | 12 业务域 / 23 业务主题 / 122 数据表 / 2951 字段 |
| 来源规章 | 11 份脱敏企业规章制度 |

## 文件

```
benchmark_v1.jsonl                   最终评测集（主交付物，每行一条监管项）
index/index_tree.json                四级索引树（含每个字段的 类型/注释/示例值 摘要）
raw/*.txt                            11 份脱敏规章制度原文（监管项来源）
items/items.jsonl                    s2 抽取的监管项（含条款分类与独立化改写）
gold/gold_raw.jsonl                  强模型 3 票初标（含逐票 tally，仲裁前）
gold/gold_raw_v0_no_examples.jsonl   信息条件消融用旧标注（字段摘要不含示例值）
provenance/review.xlsx               表级仲裁裁定明细（gold 标注的可追溯记录）
```

## benchmark_v1.jsonl 字段

每行一个 JSON 对象，关键字段：

| 字段 | 说明 |
|---|---|
| `item_id` | 监管项唯一 ID |
| `source_doc` | 来源规章文件名 |
| `监管项内容` / `监管对象` / `触发条件` / `监管动作` / `判断标准` | 监管项结构化内容 |
| `has_data_support` | 是否存在支撑数据（负样本为 false）|
| `gold_domains` / `gold_topics` | gold 业务域 / 业务主题（由 gold 表所属维度上卷）|
| `gold_tables` | `[{table, table_name, fields, field_votes_disputed}]`，gold 数据表及其 gold 字段 |
| `annotation` | 投票数、置信度、复核标记等元信息 |

## gold 标注协议

1. **表级全库扫描初标**：每条监管项对全部 122 张表分批输入标注模型（DeepSeek，思考模式），
   独立采样 3 次多数票判定，刻意不走分层剪枝以避免上层误筛偏差；
2. **字段级标注**：对当选表字段同样 3 票多数票；
3. **域/主题上卷**：由当选表所属维度确定性推导；
4. **置信度分级**：全票一致→high，有分歧→low/medium；
5. **跨模型系强模型仲裁（替代人工复核）**：分歧表交由与初标不同模型系的强模型（Claude）
   逐表独立复判，其表级裁定覆盖初标投票，仲裁新增表回补字段级标注。

由此 **表级 gold = 初标多数票 + 跨系仲裁**、**字段级 gold = 标注模型多数票**，降低自我一致性偏差。

## 局限（threats to validity）

- gold 依赖强模型多数票 + 异系强模型仲裁，非全量专家标注；初标与仲裁的表级判定分歧率约 43.4%
  （集中于宽口径尽调类监管项的过召回），可作标注难度指标。字段级 gold 未经仲裁，为已知局限。
- 负样本依赖数据资源池覆盖范围的客观事实，资源池扩充后需重新标注。
- 索引树由脱敏元数据构建，不含任何真实业务数据。

## 许可 / 引用

数据基于脱敏企业规章制度构建，按 CC BY-NC 4.0 发布，供学术研究使用。

```bibtex
@misc{table-search-bench,
  title  = {table-search-bench: A Hierarchical Table/Field Retrieval Benchmark
            for Distilling Regulatory-Audit Agents},
  author = {Luo, Yashuo},
  year   = {2026},
  howpublished = {\url{https://github.com/luoyashuo/table-search-bench}}
}
```