1602353775wzj commited on
Commit
86ebdbf
·
verified ·
1 Parent(s): e17f8e8

Resplit dataset with 6:4 train/test ratio while maintaining subject_code distribution

Browse files
README.md CHANGED
@@ -2,56 +2,92 @@
2
  configs:
3
  - config_name: default
4
  data_files:
5
- - path: test-00000-of-00001.parquet
6
- split: test
 
 
7
  dataset_info:
8
  config_name: default
9
- dataset_size: 4463765
10
- download_size: 4463765
11
  features:
12
- - dtype: string
13
- name: id
14
- - dtype: string
15
- name: author
16
- - dtype: string
17
- name: title
18
- - dtype: string
19
- name: text
20
- - dtype: string
21
- name: subject
22
- - dtype: string
23
- name: subject_code
24
- - dtype: float64
25
- name: score
26
- - dtype: string
27
- name: language
28
  splits:
 
 
 
29
  - name: test
30
- num_bytes: 4463765
31
- num_examples: 8904
32
  ---
33
 
34
  # Multilingual Poetry Subject Clustering Benchmark
35
 
36
  ## 数据集描述
37
 
38
- 这是一个多语种诗歌题材聚类基准,用于评估跨语言表示模型在无监督诗歌聚类任务上的性能。每条记录包含一首诗歌及其所属的题材聚类标签,以及它与聚类中心向量的相似度分数(余弦相似度)。
 
 
39
 
40
  ## 数据集统计
41
 
42
  | 指标 | 值 |
43
  |------|----------|
44
  | **诗歌总数** | 8,904 首诗歌 |
45
- | **文件大小** | 4.3 MB |
46
- | **文件名称** | test-00000-of-00001.parquet |
 
47
 
48
  ## 数据字段说明
49
 
50
  - `id`: 诗歌唯一标识符
51
  - `author`: 诗歌作者
52
- - `title`: 诗歌标题  
53
  - `text`: 诗歌正文内容
54
  - `language`: 诗歌语言代码
55
  - `subject`: 诗歌题材分析标签 (原始数据)
56
  - `subject_code`: 聚类中心分配的题材标签 (用于聚类评估的基准)
57
  - `score`: 该诗歌与其聚类中心向量的余弦相似度(用于衡量聚类质量)
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
2
  configs:
3
  - config_name: default
4
  data_files:
5
+ - split: train
6
+ path: train-00000-of-00001.parquet
7
+ - split: test
8
+ path: test-00000-of-00001.parquet
9
  dataset_info:
10
  config_name: default
11
+ dataset_size: 4409203
12
+ download_size: 4409203
13
  features:
14
+ - name: id
15
+ dtype: string
16
+ - name: author
17
+ dtype: string
18
+ - name: title
19
+ dtype: string
20
+ - name: text
21
+ dtype: string
22
+ - name: subject
23
+ dtype: string
24
+ - name: subject_code
25
+ dtype: string
26
+ - name: score
27
+ dtype: float64
28
+ - name: language
29
+ dtype: string
30
  splits:
31
+ - name: train
32
+ num_bytes: 2670957
33
+ num_examples: 5342
34
  - name: test
35
+ num_bytes: 1738246
36
+ num_examples: 3562
37
  ---
38
 
39
  # Multilingual Poetry Subject Clustering Benchmark
40
 
41
  ## 数据集描述
42
 
43
+ A multilingual poetry subject clustering benchmark for evaluating cross-lingual embedding models' performance on unsupervised poetry clustering tasks. 每条记录包含一首诗歌及其所属的题材聚类标签,以及它与聚类中心向量的相似度分数(余弦相似度)。
44
+
45
+ 本数据集按照 6:4 的比例拆分为训练集和测试集,并保持 subject_code 的分布。
46
 
47
  ## 数据集统计
48
 
49
  | 指标 | 值 |
50
  |------|----------|
51
  | **诗歌总数** | 8,904 首诗歌 |
52
+ | **训练集** | 5,342 首诗歌 |
53
+ | **测试集** | 3,562 首诗歌 |
54
+ | **文件大小** | 4.2 MB |
55
 
56
  ## 数据字段说明
57
 
58
  - `id`: 诗歌唯一标识符
59
  - `author`: 诗歌作者
60
+ - `title`: 诗歌标题
61
  - `text`: 诗歌正文内容
62
  - `language`: 诗歌语言代码
63
  - `subject`: 诗歌题材分析标签 (原始数据)
64
  - `subject_code`: 聚类中心分配的题材标签 (用于聚类评估的基准)
65
  - `score`: 该诗歌与其聚类中心向量的余弦相似度(用于衡量聚类质量)
66
+
67
+ **subject_code 格式说明**: `S1-1` 表示第1大类下的第1小类,`S2-3` 表示第2大类下的第3小类,以此类推。
68
+
69
+ ## 数据集拆分
70
+
71
+ 数据集按照 6:4 的比例拆分为:
72
+ - **train**: 训练集 (60% 的数据)
73
+ - **test**: 测试集 (40% 的数据)
74
+
75
+ 拆分时使用分层抽样,保持 subject_code 的分布。
76
+
77
+ ## 使用方法
78
+
79
+ ```python
80
+ from datasets import load_dataset
81
+
82
+ # 加载数据集
83
+ dataset = load_dataset("PoetryMTEB/MultilingualPoetrySubjectClustering")
84
+
85
+ # 访问不同的 split
86
+ train_data = dataset['train']
87
+ test_data = dataset['test']
88
+ ```
89
+
90
+ ## Citation
91
+
92
+ If you use this dataset, please cite:
93
+ - Original dataset: PoetryMTEB/MultilingualPoetrySubjectClustering
test-00000-of-00001.parquet CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:bfef5ad2f96cdad73502230ebe3cd38c4cc583d3dd357c3d6b62dfb1834af253
3
- size 4463765
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:96debef0e8d2adb1b6c1d820a1b1aaea8d3e68c897a27df46387ee514a31ed2a
3
+ size 1738246
train-00000-of-00001.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:741ddb46e8ba6bc7933ed7d65fdce86ce783decbc45a86978b4e5575b64b2ea0
3
+ size 2670957