1602353775wzj commited on
Commit
727deb3
·
verified ·
1 Parent(s): 6c8de38

Resplit dataset with 8:2 train/test ratio while maintaining subject_code distribution

Browse files
README.md CHANGED
@@ -1,57 +1,93 @@
1
- ---
2
- configs:
3
- - config_name: default
4
- data_files:
5
- - path: test-00000-of-00001.parquet
6
- split: test
7
- dataset_info:
8
- config_name: default
9
- dataset_size: 11170430
10
- download_size: 11170430
11
- features:
12
- - dtype: string
13
- name: id
14
- - dtype: string
15
- name: dynasty
16
- - dtype: string
17
- name: author
18
- - dtype: string
19
- name: title
20
- - dtype: string
21
- name: type
22
- - dtype: string
23
- name: text
24
- - dtype: string
25
- name: subject
26
- - dtype: string
27
- name: subject_code
28
- splits:
29
- - name: test
30
- num_bytes: 11170430
31
- num_examples: 61775
32
- ---
33
-
34
- # Classical Poetry Subject Clustering Benchmark
35
-
36
- ## 数据集描述
37
-
38
- 这是一个古典诗歌题材聚类基准,用于评估中文表示模型在无监督诗歌聚类任务上的性能。每条记录包含一首诗歌及其所属的题材聚类标签。
39
-
40
- ## 数据集统计
41
-
42
- | 指标 | 值 |
43
- |------|----------|
44
- | **诗歌总数** | 61,775 首诗歌 |
45
- | **文件大小** | 10.7 MB |
46
- | **文件名称** | test-00000-of-00001.parquet |
47
-
48
- ## 数据字段说明
49
-
50
- - `id`: 诗歌唯一标识符
51
- - `dynasty`: 诗歌朝代
52
- - `author`: 诗歌作者
53
- - `title`: 诗歌标题  
54
- - `type`: 诗歌体裁(如五言律诗)
55
- - `text`: 诗歌正文内容
56
- - `subject`: 诗歌题材分析标签 (原始数据)
57
- - `subject_code`: 聚类中心分配的题材标签 (用于聚类评估的基准)
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ configs:
3
+ - config_name: default
4
+ data_files:
5
+ - split: train
6
+ path: train-00000-of-00001.parquet
7
+ - split: test
8
+ path: test-00000-of-00001.parquet
9
+ dataset_info:
10
+ config_name: default
11
+ dataset_size: 11714044
12
+ download_size: 11714044
13
+ features:
14
+ - name: id
15
+ dtype: string
16
+ - name: dynasty
17
+ dtype: string
18
+ - name: author
19
+ dtype: string
20
+ - name: title
21
+ dtype: string
22
+ - name: type
23
+ dtype: string
24
+ - name: text
25
+ dtype: string
26
+ - name: subject
27
+ dtype: string
28
+ - name: subject_code
29
+ dtype: string
30
+ splits:
31
+ - name: train
32
+ num_bytes: 9339217
33
+ num_examples: 49420
34
+ - name: test
35
+ num_bytes: 2374827
36
+ num_examples: 12355
37
+ ---
38
+
39
+ # Classical Poetry Subject Clustering Benchmark
40
+
41
+ ## 数据集描述
42
+
43
+ A classical poetry subject clustering benchmark for evaluating embedding models' performance on unsupervised poetry clustering tasks. 每条记录包含一首诗歌及其所属的题材聚类标签。
44
+
45
+ 本数据集按照 8:2 的比例拆分为训练集和测试集,并保持 subject_code 的分布。
46
+
47
+ ## 数据集统计
48
+
49
+ | 指标 | 值 |
50
+ |------|----------|
51
+ | **诗歌总数** | 61,775 首诗歌 |
52
+ | **训练集** | 49,420 首诗歌 |
53
+ | **测试集** | 12,355 首诗歌 |
54
+ | **文件大小** | 11.2 MB |
55
+
56
+ ## 数据字段说明
57
+
58
+ - `id`: 诗歌唯一标识符
59
+ - `dynasty`: 诗歌朝代
60
+ - `author`: 诗歌作者
61
+ - `title`: 诗歌标题
62
+ - `type`: 诗歌体裁(如五言律诗)
63
+ - `text`: 诗歌正文内容
64
+ - `subject`: 诗歌题材分析标签 (原始数据)
65
+ - `subject_code`: 聚类中心分配的题材标签 (用于聚类评估的基准)
66
+
67
+ **subject_code 格式说明**: `S1-1` 表示第1大类下的第1小类,`S2-3` 表示第2大类下的第3小类,以此类推。
68
+
69
+ ## 数据集拆分
70
+
71
+ 数据集按照 8:2 的比例拆分为:
72
+ - **train**: 训练集 (80% 的数据)
73
+ - **test**: 测试集 (20% 的数据)
74
+
75
+ 拆分时使用分层抽样,保持 subject_code 的分布。
76
+
77
+ ## 使用方法
78
+
79
+ ```python
80
+ from datasets import load_dataset
81
+
82
+ # 加载数据集
83
+ dataset = load_dataset("PoetryMTEB/ClassicalPoetrySubjectClustering")
84
+
85
+ # 访问不同的 split
86
+ train_data = dataset['train']
87
+ test_data = dataset['test']
88
+ ```
89
+
90
+ ## Citation
91
+
92
+ If you use this dataset, please cite:
93
+ - Original dataset: PoetryMTEB/ClassicalPoetrySubjectClustering
test-00000-of-00001.parquet CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:0fa8f6a4569524ffd6d776ef25d5663715f165a9f43c1aa085d127cd8e955677
3
- size 11170430
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:9187697389a69b7154faad30fd38149627f35f588dd0a35f5ac62e446455d72c
3
+ size 2374827
train-00000-of-00001.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:a8878d3bffaa290cad785dcc8393cd5e786139ed0648159c0f63455b9612b14d
3
+ size 9339217