File size: 9,746 Bytes
7a85119 f9bfe19 7a85119 c83047f 7a85119 923e984 7a85119 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161 162 163 164 165 166 167 168 169 170 171 172 173 174 175 176 177 178 179 180 181 182 183 184 185 186 187 188 189 190 191 192 193 194 195 196 197 198 199 200 201 202 203 204 205 206 207 208 209 210 211 212 213 214 215 216 217 218 219 220 221 222 223 224 225 226 227 228 229 230 231 232 233 234 235 236 237 238 239 240 241 242 243 244 245 246 247 248 249 250 251 252 253 254 255 256 257 258 259 260 261 262 263 264 265 266 267 268 269 270 271 272 273 274 275 276 277 278 279 280 281 282 283 284 285 286 287 288 289 290 |
---
configs:
- config_name: CAMS-1M
default: true
data_files:
- split: train
path: "*.parquet"
license: cc-by-sa-4.0
task_categories:
- summarization
language:
- zh
tags:
- chemistry
- biology
- finance
- legal
- music
- art
- code
- climate
- medical
- synthetic
pretty_name: CAMS
size_categories:
- 1M<n<10M
---
<h1 align="center">
📷 CAMS: 一个大规模、多方面、基于属性的中文摘要数据集
</h1>
<p align="center">
<a href="https://github.com/Mxoder/Maxs-Awesome-Datasets" target="_blank">💻 Github Repo</a> <br>
简体中文 | <a href="https://huggingface.co/datasets/Mxode/CAMS/blob/main/README-en.md" target="_blank">English</a> <br>
</p>
---
## 简介
CAMS (**C**hinese **A**ttribute-based **M**ulti-faceted **S**ummarization) 是一个为推进长文本摘要研究而设计的大规模中文摘要数据集。随着大型语言模型(LLMs)的快速发展,高质量、大规模的训练数据变得至关重要,特别是在非英语语种中。CAMS 旨在填补中文长文本摘要领域的空白。
数据集包含 **100万篇** 高质量的中文长文章,每篇文章都配有三个不同粒度的摘要和一组丰富的属性标签。
### 主要特点
- **专注长文本**: 数据集中的文章平均长度超过 1500 个字符,为长文本摘要模型提供了富有挑战性的训练和评估平台。
- **多层次摘要**: 每篇文章都提供三个层级结构的摘要:
- **长摘要 (Long Summary)**: 详细、全面地覆盖原文的关键信息。
- **中摘要 (Medium Summary)**: 简洁地概括文章的核心要点。
- **短摘要 (Short Summary)**: 一句话总结文章的中心思想。
- **丰富的属性标注**: 每篇文章都经过了多维度属性标注,包括:
- **关键词 (Keywords)**
- **陈述类型 (Statement Type)**: 事实陈述 vs. 观点表达
- **情感倾向 (Sentiment)**: 正面、较为正面、中性、较为负面、负面
- **正式度 (Formality)**: 正式文体 vs. 口语化文体
- **时态 (Tense)**: 过去、现在、将来
我们希望 CAMS 数据集能够推动可控摘要、属性感知生成和长文本理解等领域的研究与创新。
## 📊 数据统计
### 基本信息
为了更好地展示 CAMS 的基本信息,我们将其与其他主流的中英文摘要数据集进行了比较。
<table>
<thead>
<tr>
<th style="text-align: left;"><strong>数据集</strong></th>
<th style="text-align: left;"><strong>规模</strong></th>
<th style="text-align: left;"><strong>平均文章长度</strong></th>
<th style="text-align: left;"><strong>平均摘要长度</strong></th>
<th style="text-align: left;"><strong>平均关键词数目</strong></th>
</tr>
</thead>
<tbody>
<tr>
<td colspan="5" style="text-align: center;"><strong>英文</strong></td>
</tr>
<tr>
<td style="text-align: left;">NYT</td>
<td style="text-align: left;">655K</td>
<td style="text-align: left;">552.1</td>
<td style="text-align: left;">42.8</td>
<td style="text-align: left;">-</td>
</tr>
<tr>
<td style="text-align: left;">CNNDM</td>
<td style="text-align: left;">312K</td>
<td style="text-align: left;">791.7</td>
<td style="text-align: left;">55.2</td>
<td style="text-align: left;">-</td>
</tr>
<tr>
<td style="text-align: left;">Newsroom</td>
<td style="text-align: left;">1.0M</td>
<td style="text-align: left;">765.6</td>
<td style="text-align: left;">30.2</td>
<td style="text-align: left;">-</td>
</tr>
<tr>
<td colspan="5" style="text-align: center;"><strong>中文</strong></td>
</tr>
<tr>
<td style="text-align: left;">LCSTS</td>
<td style="text-align: left;">2.4M</td>
<td style="text-align: left;">103.7</td>
<td style="text-align: left;">17.9</td>
<td style="text-align: left;">-</td>
</tr>
<tr>
<td style="text-align: left;">CLTS</td>
<td style="text-align: left;">185K</td>
<td style="text-align: left;">1363.7</td>
<td style="text-align: left;">58.1</td>
<td style="text-align: left;">-</td>
</tr>
<tr>
<td style="text-align: left;">CNewSum</td>
<td style="text-align: left;">396K</td>
<td style="text-align: left;">730.4</td>
<td style="text-align: left;">35.1</td>
<td style="text-align: left;">-</td>
</tr>
<tr>
<td style="text-align: left;">CSL</td>
<td style="text-align: left;">396K</td>
<td style="text-align: left;">206.0</td>
<td style="text-align: left;">19.0</td>
<td style="text-align: left;">5.1</td>
</tr>
<tr>
<td style="text-align: left;"><strong>CAMS</strong></td>
<td style="text-align: left;"><strong>1.0M</strong></td>
<td style="text-align: left;"><strong>1571.4</strong></td>
<td style="text-align: left;"><strong>60.0 (S)</strong> <br><strong>185.7 (M)</strong> <br><strong>428.1 (L)</strong></td>
<td style="text-align: left;"><strong>14.3</strong></td>
</tr>
</tbody>
</table>
### 主题分布
CAMS 总共有 30 类不同的主题,如下所示,其中 key 为数据集内字段,value 为主题内容:
```json
{
'other_manufacturing': 'Other Manufacturing',
'automobile': 'Automobile',
'biomedicine': 'Biomedicine',
'computer_communication': 'Computer Communication',
'subject_education_education': 'Education',
'finance_economics': 'Finance & Economics',
'transportation': 'Transportation',
'literature_emotion': 'Literature & Emotion',
'water_resources_ocean': 'Water Resources',
'aerospace': 'Aerospace',
'technology_scientific_research': 'Scientific Research',
'electric_power_energy': 'Energy & Power',
'mining': 'Mining',
'petrochemical': 'Petrochemical',
'law_judiciary': 'Law & Judiciary',
'accommodation_catering_hotel': 'Hospitality',
'film_entertainment': 'Film & Entertainment',
'agriculture_forestry_animal_husbandry_fishery': 'Agriculture & Fishery',
'current_affairs_government_administration': 'Government & Public Affairs',
'news_media': 'News & Media',
'artificial_intelligence_machine_learning': 'AI & Machine Learning',
'computer_programming_code': 'Software Development',
'sports': 'Sports',
'fire_safety_food_safety': 'Food & Fire Safety',
'mathematics_statistics': 'Math & Statistics',
'medicine_health_psychology_traditional_chinese_medicine': 'Medicine & Health',
'game': 'Gaming',
'other_information_services_information_security': 'Information Security',
'real_estate_construction': 'Real Estate & Construction',
'tourism_geography': 'Tourism & Geography'
}
```
具体样本主题分布如下:

我们也同样抽取了一部分样本,获取文本嵌入后利用 UMAP 降维可视化了主题分布:

### 属性标注
我们展示了四种额外标注信息的分布:

## 📂 数据格式
数据集中的每个样本都以 JSON 格式存储,包含以下字段:
```json
{
"id": "每条数据的唯一标识",
"text": "文章的原始内容",
"topic": "文章的主题",
"short_summary": "一句话短摘要",
"medium_summary": "中等长度的摘要",
"long_summary": "详细的长摘要",
"keywords": ["关键词1", "关键词2", "关键词3", "..."],
"statement_type": "是否为事实陈述",
"sentiment": "文章写作情感/作者立场情感",
"formality": "文章写作风格正式度",
"tense": "文章写作时态",
"meta_data": "原数据集元信息"
}
```
## 🛠️ 数据集构建
CAMS 的构建过程主要分为三个阶段:
1. **数据源与预处理**: 我们从一个大规模、高质量的行业语料库 [IndustryCorpus2](https://huggingface.co/datasets/BAAI/IndustryCorpus2) 中筛选出约 1000 万篇文章作为初始候选集,并经过严格的质量过滤、启发式规则过滤和主题平衡性重采样,最终得到 100 万篇高质量、主题多样的文章。
2. **多层次摘要生成**: 我们提出了一种 **逐步生成(Stepwise Generation)** 流程。该流程首先从原文生成详细的长摘要,然后将原文和长摘要作为上下文来生成中摘要,最后再结合原文、长摘要和中摘要来生成最精炼的短摘要。这种方法确保了不同层次摘要之间的一致性和连贯性。
<img src="static/pipeline.jpg" alt="Stepwise Generation Pipeline" style="zoom:50%;" />
3. **多方面属性标注**: 我们对每篇文章进行关键词提取和多个语言学、文体学维度的属性标注,并通过多轮生成和投票机制确保标注的准确性。
## 🚀 使用示例
您可以使用 🤗 `datasets` 库轻松加载 CAMS 数据集。
```python
from datasets import load_dataset
# 加载 CAMS 数据集
dataset = load_dataset("Mxode/CAMS")
# 查看数据集结构
print(dataset)
# 读取第一个样本
sample = dataset["train"][0]
print("文章:", sample["text"][:200])
print("短摘要:", sample["short_summary"])
print("关键词:", sample["keywords"])
```
## 📜 引用
如果您在研究中使用了 CAMS 数据集,请引用我们的工作:
```bibtex
@misc{zhang2025CAMS,
title={CAMS: A Large-Scale Chinese Attribute-based Multi-faceted Summarization Dataset},
url={https://huggingface.co/datasets/Mxode/CAMS},
author={Xiantao Zhang},
month={August},
year={2025}
}
```
## 📄 许可
本数据集采用 **CC BY-SA 4.0** 许可。 |