1602353775wzj's picture
Resplit dataset with 6:4 train/test ratio while maintaining subject_code distribution
86ebdbf verified
---
configs:
- config_name: default
data_files:
- split: train
path: train-00000-of-00001.parquet
- split: test
path: test-00000-of-00001.parquet
dataset_info:
config_name: default
dataset_size: 4409203
download_size: 4409203
features:
- name: id
dtype: string
- name: author
dtype: string
- name: title
dtype: string
- name: text
dtype: string
- name: subject
dtype: string
- name: subject_code
dtype: string
- name: score
dtype: float64
- name: language
dtype: string
splits:
- name: train
num_bytes: 2670957
num_examples: 5342
- name: test
num_bytes: 1738246
num_examples: 3562
---
# Multilingual Poetry Subject Clustering Benchmark
## 数据集描述
A multilingual poetry subject clustering benchmark for evaluating cross-lingual embedding models' performance on unsupervised poetry clustering tasks. 每条记录包含一首诗歌及其所属的题材聚类标签,以及它与聚类中心向量的相似度分数(余弦相似度)。
本数据集按照 6:4 的比例拆分为训练集和测试集,并保持 subject_code 的分布。
## 数据集统计
| 指标 | 值 |
|------|----------|
| **诗歌总数** | 8,904 首诗歌 |
| **训练集** | 5,342 首诗歌 |
| **测试集** | 3,562 首诗歌 |
| **文件大小** | 4.2 MB |
## 数据字段说明
- `id`: 诗歌唯一标识符
- `author`: 诗歌作者
- `title`: 诗歌标题
- `text`: 诗歌正文内容
- `language`: 诗歌语言代码
- `subject`: 诗歌题材分析标签 (原始数据)
- `subject_code`: 聚类中心分配的题材标签 (用于聚类评估的基准)
- `score`: 该诗歌与其聚类中心向量的余弦相似度(用于衡量聚类质量)
**subject_code 格式说明**: `S1-1` 表示第1大类下的第1小类,`S2-3` 表示第2大类下的第3小类,以此类推。
## 数据集拆分
数据集按照 6:4 的比例拆分为:
- **train**: 训练集 (60% 的数据)
- **test**: 测试集 (40% 的数据)
拆分时使用分层抽样,保持 subject_code 的分布。
## 使用方法
```python
from datasets import load_dataset
# 加载数据集
dataset = load_dataset("PoetryMTEB/MultilingualPoetrySubjectClustering")
# 访问不同的 split
train_data = dataset['train']
test_data = dataset['test']
```
## Citation
If you use this dataset, please cite:
- Original dataset: PoetryMTEB/MultilingualPoetrySubjectClustering