1602353775wzj's picture
Update README.md
0fd2d1f verified
metadata
configs:
  - config_name: default
    data_files:
      - path: test-00000-of-00001.parquet
        split: test
dataset_info:
  config_name: default
  dataset_size: 7656400
  features:
    - name: id
      dtype: string
      _type: Value
    - name: title
      dtype: string
      _type: Value
    - name: text
      dtype: string
      _type: Value
    - name: theme
      dtype: string
      _type: Value
    - name: theme_code
      dtype: string
      _type: Value
    - name: author
      dtype: string
      _type: Value
    - name: author_desc
      dtype: string
      _type: Value
    - name: era
      dtype: string
      _type: Value
    - name: meter
      dtype: string
      _type: Value
  splits:
    - name: test
      num_bytes: 7656400
      num_examples: 8875

Arabic Poetry Theme Clustering Benchmark

数据集描述

这是一个阿拉伯诗歌主题聚类基准,用于评估阿拉伯语表示模型在无监督诗歌聚类任务上的性能。每条记录包含一首阿拉伯语诗歌及其所属的主题聚类标签。

数据集来源

本数据集基于 alwalid54321/Arabic_Poems 进行处理,原始数据来自 arbml/ashaar 的 al-diwan 子集。

数据处理

  1. 删除了原始的 Unnamed: 0 索引列
  2. 为每个诗歌主题创建了编码(T1, T2, T3...)
  3. 标准化了列名
  4. 为每条记录添加了唯一ID

数据集统计

指标
诗歌总数 8,875 首诗歌
主题数量 18 个
文件格式 Parquet

主题分布统计

主题 诗歌数量
قصيدة قصيره 3438
قصيدة عامه 2507
قصيدة مدح 728
قصيدة رومنسيه 531
قصيدة حزينه 428
قصيدة عتاب 270
قصيدة شوق 200
قصيدة هجاء 199
قصيدة غزل 147
قصيدة رثاء 120
قصيدة دينية 117
قصيدة فراق 89
قصيدة ذم 62
قصيدة وطنيه 32
قصيدة اعتذار 3
قصيدة المعلقات 2
قصيدة سياسية 1
قصيدة الاناشيد 1

数据字段说明

  • id: 诗歌唯一标识符 (格式: poem_00001)
  • title: 诗歌标题
  • text: 诗歌内容 (诗句文本)
  • theme: 诗歌主题 (原始标签)
  • theme_code: 主题编码 (T1, T2, T3...)
  • author: 诗人姓名
  • author_desc: 诗人简介
  • era: 诗人所属时代
  • meter: 诗歌韵律
  • language: 诗歌语言 (固定为"ar" - 阿拉伯语)
  • score: 相似度得分 (用于聚类评估)

主题编码映射

编码 主题
T1 قصيدة دينية
T2 قصيدة ذم
T3 قصيدة عامه

数据示例

id title theme theme_code author era
poem_00001 أصبح الملك للذي فطر الخلق قصيدة دينية T1 الامير منجك باش العصر العث
poem_00002 من أي مولى ارتجي قصيدة دينية T1 الامير منجك باش العصر العث
poem_00003 العبد عبدك يا من أنت سيده قصيدة ذم T2 الامير منجك باش العصر العث
poem_00004 لو كنت أطمع بالمنام توهما قصيدة عامه T3 الامير منجك باش العصر العث
poem_00005 يعد علي أنفاسي ذنوبا قصيدة عامه T3 الامير منجك باش العصر العث