File size: 3,550 Bytes
01f4d6f f6666bc 9cabd9a f6666bc 9cabd9a f6666bc 9cabd9a f6666bc 9cabd9a f6666bc 9cabd9a f6666bc 9cabd9a f6666bc 01f4d6f f6666bc 9cabd9a f6666bc 9cabd9a f6666bc 9cabd9a f6666bc 9cabd9a f6666bc 9cabd9a | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 | ---
configs:
- config_name: corpus
data_files:
- path: corpus/*.parquet
split: test
- config_name: queries
data_files:
- path: queries/*.parquet
split: test
- config_name: qrels
data_files:
- path: qrels/*.parquet
split: test
dataset_info:
configs:
- config_name: corpus
dataset_size: 382933
download_size: 382933
features:
- name: id
dtype: string
- name: sentence
dtype: string
- name: keyword
dtype: string
- name: source
dtype: string
splits:
- name: test
num_bytes: 382933
num_examples: 4838
- config_name: queries
dataset_size: 1687871
download_size: 1687871
features:
- name: id
dtype: string
- name: Source_Term
dtype: string
- name: Source_Content
dtype: string
- name: Derived_List
dtype: string
splits:
- name: test
num_bytes: 1687871
num_examples: 503
- config_name: qrels
dataset_size: 36766
download_size: 36766
features:
- name: query-id
dtype: string
- name: corpus-id
dtype: string
- name: score
dtype: float64
splits:
- name: test
num_bytes: 36766
num_examples: 5013
---
# Classical Poetry Allusions Retrieval Dataset
## 数据集描述
这是一个**古汉语典故检索(Retrieval)评测数据集**,包含三部分:
- **corpus**:典故例句语料库(每条为一个诗歌/文本中的例句)
- **queries**:每个典故对应一个查询(来自典故知识库的“典源词/典源内容/衍生列表”)
- **qrels**:相关性标注(query 与其对应的例句都标注为相关,`score=1`)
## 数据来源与构建方法
- **数据源**:典故知识库与标注语料来自开源项目 [Ancient-Chinese-Allusion-Resource-Database](https://github.com/KaijieMo-kj/Ancient-Chinese-Allusion-Resource-Database)。
- **采样方法**:对每个典故优先采样 `keyword` 尽可能不同的例子,若某典故例子数 < 10 则不采样;每个保留典故最多采样 10 条例句。
- **相关性定义**:同一典故的查询与其采样到的例句均为相关(`score=1`)。
## 数据集统计(test split)
| 子集 | 样本数量 | 文件大小 | 描述 |
|------|----------|----------|------|
| **corpus** | 4838 | 382933 bytes | 例句文档库 |
| **queries** | 503 | 1687871 bytes | 典故查询集合 |
| **qrels** | 5013 | 36766 bytes | 相关性标注 |
## 数据字段说明
### corpus
- `id`: 例句唯一标识符(来自原始例句 id)
- `sentence`: 例句文本
- `keyword`: 例句中触发该典故的关键词(采样时用于尽量多样化)
- `source`: 例句来源
### queries
- `id`: 查询唯一标识符(顺序编码,字符串)
- `Source_Term`: 典源词(典故名)
- `Source_Content`: 典源内容(来源与出处)
- `Derived_List`: 衍生列表(JSON 字符串,保留完整结构)
### qrels
- `query-id`: 查询 id(与 `queries.id` 对应)
- `corpus-id`: 文档 id(与 `corpus.id` 对应)
- `score`: 相关性分数(全部为 1)
## 引用信息
如果你在研究中使用了该数据源,请引用原项目提供的论文:
```bibtex
@article{Kaijie2024,
title={古汉语典故资源库的构建及应用研究},
author={莫凯洁,丘子靓,王予沛,胡韧奋},
journal={中文信息学报},
year={2024},
pages = {27--34}
}
```
|