|
|
--- |
|
|
configs: |
|
|
- config_name: CAMS-1M |
|
|
default: true |
|
|
data_files: |
|
|
- split: train |
|
|
path: "*.parquet" |
|
|
license: cc-by-sa-4.0 |
|
|
task_categories: |
|
|
- summarization |
|
|
language: |
|
|
- zh |
|
|
tags: |
|
|
- chemistry |
|
|
- biology |
|
|
- finance |
|
|
- legal |
|
|
- music |
|
|
- art |
|
|
- code |
|
|
- climate |
|
|
- medical |
|
|
- synthetic |
|
|
pretty_name: CAMS |
|
|
size_categories: |
|
|
- 1M<n<10M |
|
|
--- |
|
|
|
|
|
<h1 align="center"> |
|
|
📷 CAMS: 一个大规模、多方面、基于属性的中文摘要数据集 |
|
|
</h1> |
|
|
|
|
|
<p align="center"> |
|
|
<a href="https://github.com/Mxoder/Maxs-Awesome-Datasets" target="_blank">💻 Github Repo</a> <br> |
|
|
简体中文 | <a href="https://huggingface.co/datasets/Mxode/CAMS/blob/main/README-en.md" target="_blank">English</a> <br> |
|
|
</p> |
|
|
|
|
|
--- |
|
|
|
|
|
## 简介 |
|
|
|
|
|
CAMS (**C**hinese **A**ttribute-based **M**ulti-faceted **S**ummarization) 是一个为推进长文本摘要研究而设计的大规模中文摘要数据集。随着大型语言模型（LLMs）的快速发展，高质量、大规模的训练数据变得至关重要，特别是在非英语语种中。CAMS 旨在填补中文长文本摘要领域的空白。 |
|
|
|
|
|
数据集包含 **100万篇** 高质量的中文长文章，每篇文章都配有三个不同粒度的摘要和一组丰富的属性标签。 |
|
|
|
|
|
### 主要特点 |
|
|
|
|
|
- **专注长文本**: 数据集中的文章平均长度超过 1500 个字符，为长文本摘要模型提供了富有挑战性的训练和评估平台。 |
|
|
- **多层次摘要**: 每篇文章都提供三个层级结构的摘要： |
|
|
- **长摘要 (Long Summary)**: 详细、全面地覆盖原文的关键信息。 |
|
|
- **中摘要 (Medium Summary)**: 简洁地概括文章的核心要点。 |
|
|
- **短摘要 (Short Summary)**: 一句话总结文章的中心思想。 |
|
|
- **丰富的属性标注**: 每篇文章都经过了多维度属性标注，包括： |
|
|
- **关键词 (Keywords)** |
|
|
- **陈述类型 (Statement Type)**: 事实陈述 vs. 观点表达 |
|
|
- **情感倾向 (Sentiment)**: 正面、较为正面、中性、较为负面、负面 |
|
|
- **正式度 (Formality)**: 正式文体 vs. 口语化文体 |
|
|
- **时态 (Tense)**: 过去、现在、将来 |
|
|
|
|
|
我们希望 CAMS 数据集能够推动可控摘要、属性感知生成和长文本理解等领域的研究与创新。 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
## 📊 数据统计 |
|
|
|
|
|
### 基本信息 |
|
|
|
|
|
为了更好地展示 CAMS 的基本信息，我们将其与其他主流的中英文摘要数据集进行了比较。 |
|
|
|
|
|
<table> |
|
|
<thead> |
|
|
<tr> |
|
|
<th style="text-align: left;"><strong>数据集</strong></th> |
|
|
<th style="text-align: left;"><strong>规模</strong></th> |
|
|
<th style="text-align: left;"><strong>平均文章长度</strong></th> |
|
|
<th style="text-align: left;"><strong>平均摘要长度</strong></th> |
|
|
<th style="text-align: left;"><strong>平均关键词数目</strong></th> |
|
|
</tr> |
|
|
</thead> |
|
|
<tbody> |
|
|
<tr> |
|
|
<td colspan="5" style="text-align: center;"><strong>英文</strong></td> |
|
|
</tr> |
|
|
<tr> |
|
|
<td style="text-align: left;">NYT</td> |
|
|
<td style="text-align: left;">655K</td> |
|
|
<td style="text-align: left;">552.1</td> |
|
|
<td style="text-align: left;">42.8</td> |
|
|
<td style="text-align: left;">-</td> |
|
|
</tr> |
|
|
<tr> |
|
|
<td style="text-align: left;">CNNDM</td> |
|
|
<td style="text-align: left;">312K</td> |
|
|
<td style="text-align: left;">791.7</td> |
|
|
<td style="text-align: left;">55.2</td> |
|
|
<td style="text-align: left;">-</td> |
|
|
</tr> |
|
|
<tr> |
|
|
<td style="text-align: left;">Newsroom</td> |
|
|
<td style="text-align: left;">1.0M</td> |
|
|
<td style="text-align: left;">765.6</td> |
|
|
<td style="text-align: left;">30.2</td> |
|
|
<td style="text-align: left;">-</td> |
|
|
</tr> |
|
|
<tr> |
|
|
<td colspan="5" style="text-align: center;"><strong>中文</strong></td> |
|
|
</tr> |
|
|
<tr> |
|
|
<td style="text-align: left;">LCSTS</td> |
|
|
<td style="text-align: left;">2.4M</td> |
|
|
<td style="text-align: left;">103.7</td> |
|
|
<td style="text-align: left;">17.9</td> |
|
|
<td style="text-align: left;">-</td> |
|
|
</tr> |
|
|
<tr> |
|
|
<td style="text-align: left;">CLTS</td> |
|
|
<td style="text-align: left;">185K</td> |
|
|
<td style="text-align: left;">1363.7</td> |
|
|
<td style="text-align: left;">58.1</td> |
|
|
<td style="text-align: left;">-</td> |
|
|
</tr> |
|
|
<tr> |
|
|
<td style="text-align: left;">CNewSum</td> |
|
|
<td style="text-align: left;">396K</td> |
|
|
<td style="text-align: left;">730.4</td> |
|
|
<td style="text-align: left;">35.1</td> |
|
|
<td style="text-align: left;">-</td> |
|
|
</tr> |
|
|
<tr> |
|
|
<td style="text-align: left;">CSL</td> |
|
|
<td style="text-align: left;">396K</td> |
|
|
<td style="text-align: left;">206.0</td> |
|
|
<td style="text-align: left;">19.0</td> |
|
|
<td style="text-align: left;">5.1</td> |
|
|
</tr> |
|
|
<tr> |
|
|
<td style="text-align: left;"><strong>CAMS</strong></td> |
|
|
<td style="text-align: left;"><strong>1.0M</strong></td> |
|
|
<td style="text-align: left;"><strong>1571.4</strong></td> |
|
|
<td style="text-align: left;"><strong>60.0 (S)</strong> <br><strong>185.7 (M)</strong> <br><strong>428.1 (L)</strong></td> |
|
|
<td style="text-align: left;"><strong>14.3</strong></td> |
|
|
</tr> |
|
|
</tbody> |
|
|
</table> |
|
|
|
|
|
### 主题分布 |
|
|
|
|
|
CAMS 总共有 30 类不同的主题，如下所示，其中 key 为数据集内字段，value 为主题内容： |
|
|
|
|
|
```json |
|
|
{ |
|
|
'other_manufacturing': 'Other Manufacturing', |
|
|
'automobile': 'Automobile', |
|
|
'biomedicine': 'Biomedicine', |
|
|
'computer_communication': 'Computer Communication', |
|
|
'subject_education_education': 'Education', |
|
|
'finance_economics': 'Finance & Economics', |
|
|
'transportation': 'Transportation', |
|
|
'literature_emotion': 'Literature & Emotion', |
|
|
'water_resources_ocean': 'Water Resources', |
|
|
'aerospace': 'Aerospace', |
|
|
'technology_scientific_research': 'Scientific Research', |
|
|
'electric_power_energy': 'Energy & Power', |
|
|
'mining': 'Mining', |
|
|
'petrochemical': 'Petrochemical', |
|
|
'law_judiciary': 'Law & Judiciary', |
|
|
'accommodation_catering_hotel': 'Hospitality', |
|
|
'film_entertainment': 'Film & Entertainment', |
|
|
'agriculture_forestry_animal_husbandry_fishery': 'Agriculture & Fishery', |
|
|
'current_affairs_government_administration': 'Government & Public Affairs', |
|
|
'news_media': 'News & Media', |
|
|
'artificial_intelligence_machine_learning': 'AI & Machine Learning', |
|
|
'computer_programming_code': 'Software Development', |
|
|
'sports': 'Sports', |
|
|
'fire_safety_food_safety': 'Food & Fire Safety', |
|
|
'mathematics_statistics': 'Math & Statistics', |
|
|
'medicine_health_psychology_traditional_chinese_medicine': 'Medicine & Health', |
|
|
'game': 'Gaming', |
|
|
'other_information_services_information_security': 'Information Security', |
|
|
'real_estate_construction': 'Real Estate & Construction', |
|
|
'tourism_geography': 'Tourism & Geography' |
|
|
} |
|
|
``` |
|
|
|
|
|
具体样本主题分布如下： |
|
|
|
|
|
 |
|
|
|
|
|
我们也同样抽取了一部分样本，获取文本嵌入后利用 UMAP 降维可视化了主题分布： |
|
|
|
|
|
 |
|
|
|
|
|
### 属性标注 |
|
|
|
|
|
我们展示了四种额外标注信息的分布： |
|
|
|
|
|
 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
## 📂 数据格式 |
|
|
|
|
|
数据集中的每个样本都以 JSON 格式存储，包含以下字段： |
|
|
|
|
|
```json |
|
|
{ |
|
|
"id": "每条数据的唯一标识", |
|
|
"text": "文章的原始内容", |
|
|
"topic": "文章的主题", |
|
|
"short_summary": "一句话短摘要", |
|
|
"medium_summary": "中等长度的摘要", |
|
|
"long_summary": "详细的长摘要", |
|
|
"keywords": ["关键词1", "关键词2", "关键词3", "..."], |
|
|
"statement_type": "是否为事实陈述", |
|
|
"sentiment": "文章写作情感/作者立场情感", |
|
|
"formality": "文章写作风格正式度", |
|
|
"tense": "文章写作时态", |
|
|
"meta_data": "原数据集元信息" |
|
|
} |
|
|
``` |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
## 🛠️ 数据集构建 |
|
|
|
|
|
CAMS 的构建过程主要分为三个阶段： |
|
|
|
|
|
1. **数据源与预处理**: 我们从一个大规模、高质量的行业语料库 [IndustryCorpus2](https://huggingface.co/datasets/BAAI/IndustryCorpus2) 中筛选出约 1000 万篇文章作为初始候选集，并经过严格的质量过滤、启发式规则过滤和主题平衡性重采样，最终得到 100 万篇高质量、主题多样的文章。 |
|
|
|
|
|
2. **多层次摘要生成**: 我们提出了一种 **逐步生成（Stepwise Generation）** 流程。该流程首先从原文生成详细的长摘要，然后将原文和长摘要作为上下文来生成中摘要，最后再结合原文、长摘要和中摘要来生成最精炼的短摘要。这种方法确保了不同层次摘要之间的一致性和连贯性。 |
|
|
|
|
|
<img src="static/pipeline.jpg" alt="Stepwise Generation Pipeline" style="zoom:50%;" /> |
|
|
|
|
|
3. **多方面属性标注**: 我们对每篇文章进行关键词提取和多个语言学、文体学维度的属性标注，并通过多轮生成和投票机制确保标注的准确性。 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
## 🚀 使用示例 |
|
|
|
|
|
您可以使用 🤗 `datasets` 库轻松加载 CAMS 数据集。 |
|
|
|
|
|
```python |
|
|
from datasets import load_dataset |
|
|
|
|
|
# 加载 CAMS 数据集 |
|
|
dataset = load_dataset("Mxode/CAMS") |
|
|
|
|
|
# 查看数据集结构 |
|
|
print(dataset) |
|
|
|
|
|
# 读取第一个样本 |
|
|
sample = dataset["train"][0] |
|
|
print("文章:", sample["text"][:200]) |
|
|
print("短摘要:", sample["short_summary"]) |
|
|
print("关键词:", sample["keywords"]) |
|
|
``` |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
## 📜 引用 |
|
|
|
|
|
如果您在研究中使用了 CAMS 数据集，请引用我们的工作： |
|
|
|
|
|
```bibtex |
|
|
@misc{zhang2025CAMS, |
|
|
title={CAMS: A Large-Scale Chinese Attribute-based Multi-faceted Summarization Dataset}, |
|
|
url={https://huggingface.co/datasets/Mxode/CAMS}, |
|
|
author={Xiantao Zhang}, |
|
|
month={August}, |
|
|
year={2025} |
|
|
} |
|
|
``` |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
## 📄 许可 |
|
|
|
|
|
本数据集采用 **CC BY-SA 4.0** 许可。 |
