1602353775wzj's picture
Add ClassicalPoetryAllusionsRetrieval dataset (corpus/queries/qrels)
9cabd9a verified
metadata
configs:
  - config_name: corpus
    data_files:
      - path: corpus/*.parquet
        split: test
  - config_name: queries
    data_files:
      - path: queries/*.parquet
        split: test
  - config_name: qrels
    data_files:
      - path: qrels/*.parquet
        split: test
dataset_info:
  configs:
    - config_name: corpus
      dataset_size: 382933
      download_size: 382933
      features:
        - name: id
          dtype: string
        - name: sentence
          dtype: string
        - name: keyword
          dtype: string
        - name: source
          dtype: string
      splits:
        - name: test
          num_bytes: 382933
          num_examples: 4838
    - config_name: queries
      dataset_size: 1687871
      download_size: 1687871
      features:
        - name: id
          dtype: string
        - name: Source_Term
          dtype: string
        - name: Source_Content
          dtype: string
        - name: Derived_List
          dtype: string
      splits:
        - name: test
          num_bytes: 1687871
          num_examples: 503
    - config_name: qrels
      dataset_size: 36766
      download_size: 36766
      features:
        - name: query-id
          dtype: string
        - name: corpus-id
          dtype: string
        - name: score
          dtype: float64
      splits:
        - name: test
          num_bytes: 36766
          num_examples: 5013

Classical Poetry Allusions Retrieval Dataset

数据集描述

这是一个古汉语典故检索(Retrieval)评测数据集,包含三部分:

  • corpus:典故例句语料库(每条为一个诗歌/文本中的例句)
  • queries:每个典故对应一个查询(来自典故知识库的“典源词/典源内容/衍生列表”)
  • qrels:相关性标注(query 与其对应的例句都标注为相关,score=1

数据来源与构建方法

  • 数据源:典故知识库与标注语料来自开源项目 Ancient-Chinese-Allusion-Resource-Database
  • 采样方法:对每个典故优先采样 keyword 尽可能不同的例子,若某典故例子数 < 10 则不采样;每个保留典故最多采样 10 条例句。
  • 相关性定义:同一典故的查询与其采样到的例句均为相关(score=1)。

数据集统计(test split)

子集 样本数量 文件大小 描述
corpus 4838 382933 bytes 例句文档库
queries 503 1687871 bytes 典故查询集合
qrels 5013 36766 bytes 相关性标注

数据字段说明

corpus

  • id: 例句唯一标识符(来自原始例句 id)
  • sentence: 例句文本
  • keyword: 例句中触发该典故的关键词(采样时用于尽量多样化)
  • source: 例句来源

queries

  • id: 查询唯一标识符(顺序编码,字符串)
  • Source_Term: 典源词(典故名)
  • Source_Content: 典源内容(来源与出处)
  • Derived_List: 衍生列表(JSON 字符串,保留完整结构)

qrels

  • query-id: 查询 id(与 queries.id 对应)
  • corpus-id: 文档 id(与 corpus.id 对应)
  • score: 相关性分数(全部为 1)

引用信息

如果你在研究中使用了该数据源,请引用原项目提供的论文:

@article{Kaijie2024,
  title={古汉语典故资源库的构建及应用研究},
  author={莫凯洁,丘子靓,王予沛,胡韧奋},
  journal={中文信息学报},
  year={2024},
  pages = {27--34}
}