| | ---
|
| | configs:
|
| | - config_name: corpus
|
| | data_files:
|
| | - path: corpus/*.parquet
|
| | split: test
|
| | - config_name: queries
|
| | data_files:
|
| | - path: queries/*.parquet
|
| | split: test
|
| | - config_name: qrels
|
| | data_files:
|
| | - path: qrels/*.parquet
|
| | split: test
|
| | dataset_info:
|
| | configs:
|
| | - config_name: corpus
|
| | dataset_size: 382933
|
| | download_size: 382933
|
| | features:
|
| | - name: id
|
| | dtype: string
|
| | - name: sentence
|
| | dtype: string
|
| | - name: keyword
|
| | dtype: string
|
| | - name: source
|
| | dtype: string
|
| | splits:
|
| | - name: test
|
| | num_bytes: 382933
|
| | num_examples: 4838
|
| | - config_name: queries
|
| | dataset_size: 1687871
|
| | download_size: 1687871
|
| | features:
|
| | - name: id
|
| | dtype: string
|
| | - name: Source_Term
|
| | dtype: string
|
| | - name: Source_Content
|
| | dtype: string
|
| | - name: Derived_List
|
| | dtype: string
|
| | splits:
|
| | - name: test
|
| | num_bytes: 1687871
|
| | num_examples: 503
|
| | - config_name: qrels
|
| | dataset_size: 36766
|
| | download_size: 36766
|
| | features:
|
| | - name: query-id
|
| | dtype: string
|
| | - name: corpus-id
|
| | dtype: string
|
| | - name: score
|
| | dtype: float64
|
| | splits:
|
| | - name: test
|
| | num_bytes: 36766
|
| | num_examples: 5013
|
| | ---
|
| |
|
| | # Classical Poetry Allusions Retrieval Dataset
|
| |
|
| | ## 数据集描述
|
| |
|
| | 这是一个**古汉语典故检索(Retrieval)评测数据集**,包含三部分:
|
| |
|
| | - **corpus**:典故例句语料库(每条为一个诗歌/文本中的例句)
|
| | - **queries**:每个典故对应一个查询(来自典故知识库的“典源词/典源内容/衍生列表”)
|
| | - **qrels**:相关性标注(query 与其对应的例句都标注为相关,`score=1`)
|
| |
|
| | ## 数据来源与构建方法
|
| |
|
| | - **数据源**:典故知识库与标注语料来自开源项目 [Ancient-Chinese-Allusion-Resource-Database](https://github.com/KaijieMo-kj/Ancient-Chinese-Allusion-Resource-Database)。
|
| | - **采样方法**:对每个典故优先采样 `keyword` 尽可能不同的例子,若某典故例子数 < 10 则不采样;每个保留典故最多采样 10 条例句。
|
| | - **相关性定义**:同一典故的查询与其采样到的例句均为相关(`score=1`)。
|
| |
|
| | ## 数据集统计(test split)
|
| |
|
| | | 子集 | 样本数量 | 文件大小 | 描述 |
|
| | |------|----------|----------|------|
|
| | | **corpus** | 4838 | 382933 bytes | 例句文档库 |
|
| | | **queries** | 503 | 1687871 bytes | 典故查询集合 |
|
| | | **qrels** | 5013 | 36766 bytes | 相关性标注 |
|
| |
|
| | ## 数据字段说明
|
| |
|
| | ### corpus
|
| |
|
| | - `id`: 例句唯一标识符(来自原始例句 id)
|
| | - `sentence`: 例句文本
|
| | - `keyword`: 例句中触发该典故的关键词(采样时用于尽量多样化)
|
| | - `source`: 例句来源
|
| |
|
| | ### queries
|
| |
|
| | - `id`: 查询唯一标识符(顺序编码,字符串)
|
| | - `Source_Term`: 典源词(典故名)
|
| | - `Source_Content`: 典源内容(来源与出处)
|
| | - `Derived_List`: 衍生列表(JSON 字符串,保留完整结构)
|
| |
|
| | ### qrels
|
| |
|
| | - `query-id`: 查询 id(与 `queries.id` 对应)
|
| | - `corpus-id`: 文档 id(与 `corpus.id` 对应)
|
| | - `score`: 相关性分数(全部为 1)
|
| |
|
| | ## 引用信息
|
| |
|
| | 如果你在研究中使用了该数据源,请引用原项目提供的论文:
|
| |
|
| | ```bibtex
|
| | @article{Kaijie2024,
|
| | title={古汉语典故资源库的构建及应用研究},
|
| | author={莫凯洁,丘子靓,王予沛,胡韧奋},
|
| | journal={中文信息学报},
|
| | year={2024},
|
| | pages = {27--34}
|
| | }
|
| | ```
|
| |
|