|
|
--- |
|
|
language: |
|
|
- zh |
|
|
license: other |
|
|
task_categories: |
|
|
- text-classification |
|
|
- text-generation |
|
|
- conversational |
|
|
- feature-extraction |
|
|
tags: |
|
|
- social-media |
|
|
- Twitter |
|
|
- narrative-analysis |
|
|
- research-only |
|
|
size_categories: |
|
|
- n<1K |
|
|
configs: |
|
|
- config_name: default |
|
|
data_files: |
|
|
- split: train |
|
|
path: "debug_dataset.jsonl" |
|
|
--- |
|
|
|
|
|
# Dataset Card for Twitter Research Dataset |
|
|
|
|
|
> **⚠️ Access Notice / 访问须知** |
|
|
> |
|
|
> **Status:** Closed / Restricted Access (目前闭源) |
|
|
> |
|
|
> This dataset is currently **private** and intended strictly for academic research purposes. It is not available for public download to strictly adhere to data privacy regulations and platform terms of use. |
|
|
> |
|
|
> 本数据集目前处于**闭源状态**，仅供特定学术研究使用。出于对隐私合规及平台使用条款的严格遵守，暂不向公众开放下载。 |
|
|
|
|
|
## Dataset Description (数据集简介) |
|
|
|
|
|
本数据集包含一组从推特（Twitter）采集的**公开笔记（Public Notes）**及其关联评论。数据采集目标旨在支持**强化学习（Reinforcement Learning, RL）训练**，特别是用于构建基于真实社交互动的奖励模型（Reward Model）与用户模拟环境。 |
|
|
|
|
|
该数据集在采集过程特别实施了严格的隐私过滤机制。 |
|
|
|
|
|
- **维护者 (Curated by):** AgentAlpha |
|
|
- **语言 (Language):** 中文 (zh) |
|
|
- **许可证 (License):** 仅供科研使用 (Research Use Only) - 非商业用途 |
|
|
|
|
|
### Supported Tasks (支持的任务) |
|
|
- **奖励模型构建 (Reward Modeling):** 利用评论互动的点赞数、回复层级构建基于人类偏好（Human Preference）的奖励函数。 |
|
|
- **用户行为模拟 (User Behavior Simulation):** 训练 Agent 模拟真实用户在社交媒体环境下的浏览路径与互动反馈，构建 RL 训练环境。 |
|
|
- **对话策略优化 (Conversational Policy Optimization):** 基于真实的笔记-评论对（Post-Comment Pairs），使用 RL 算法优化对话 Agent 的回复策略与社交适应性。 |
|
|
|
|
|
|
|
|
## Dataset Structure (数据结构) |
|
|
|
|
|
虽然数据本身不可见，但为了方便合作者理解数据形态，以下是数据模式（Schema）的详细说明。 |
|
|
|
|
|
### Data Instances (数据样例结构) |
|
|
|
|
|
数据集中的每一条记录代表一篇笔记，包含其元数据（Metadata）和嵌套的评论列表。 |
|
|
|
|
|
```json |
|
|
{ |
|
|
"title": "笔记标题示例", |
|
|
"content": "笔记的完整正文内容...", |
|
|
"tags": ["标签1", "标签2"], |
|
|
"meta": { |
|
|
"publish_date": "YYYY-MM-DD", |
|
|
"original_date_location": "编辑于 2024-01-01 上海", |
|
|
"author": "[已脱敏/已隐藏]" |
|
|
}, |
|
|
"comments": [ |
|
|
{ |
|
|
"user_nick": "匿名用户_A1B2", |
|
|
"content": "这是一条评论内容...", |
|
|
"comment_like_count": 10, |
|
|
"parent_id": null, |
|
|
"date": "YYYY-MM-DD" |
|
|
} |
|
|
] |
|
|
} |
|
|
```` |
|
|
|
|
|
### Data Fields (字段说明) |
|
|
|
|
|
| Field | Type | Description | |
|
|
| :--- | :--- | :--- | |
|
|
| `title` | `String` | 笔记的标题 / Title of the post. | |
|
|
| `content` | `String` | 笔记的正文内容 / Main body text. | |
|
|
| `tags` | `List[String]` | 笔记关联的话题标签 / Hashtags. | |
|
|
| `meta` | `Dict` | 元数据集合 (Metadata). | |
|
|
| 🔹 `publish_date` | `String` | 发布日期 (Standardized). | |
|
|
| 🔹 `author` | `String` | **[Anonymized]** 作者昵称已脱敏或隐藏. | |
|
|
| `comments` | `List[Dict]` | 评论区数据 (含二级评论). | |
|
|
| 🔹 `user_nick` | `String` | **[Anonymized]** 评论者昵称 (e.g., "匿名用户_25854F"). | |
|
|
| 🔹 `content` | `String` | 评论内容. | |
|
|
| 🔹 `parent_id` | `String` | 父评论ID (用于构建回复树). | |
|
|
|
|
|
--- |
|
|
|
|
|
### Considerations for Using the Data (使用考量) |
|
|
|
|
|
#### Social Impact (社会影响) |
|
|
本数据集捕捉了平台上的真实用户互动，反映了当前社交媒体环境下的消费行为、流行趋势以及社区叙事风格。 |
|
|
|
|
|
#### Discussion of Biases (偏见讨论) |
|
|
- **来源偏差 (Source Bias):** 数据是基于特定的搜索关键词和推荐流采集的，可能无法代表平台用户的整体全貌。 |
|
|
- **选择性偏差 (Selection Bias):** 采集的关键词是由研究者根据小红书往年的搜索热词所决定的，与全量爬虫相比，可能会引入特定的行为选择偏差。 |
|
|
|
|
|
### Privacy & Ethical Standards (隐私与伦理) |
|
|
|
|
|
本数据集严格遵守以下科研伦理规范： |
|
|
|
|
|
1. **匿名化处理 (Anonymization):** 评论中的用户昵称均已替换为匿名 ID（如 `匿名用户_XXXX`）或已隐藏。 |
|
|
2. **仅限公开数据 (Public Data Only):** 仅包含公开可见的笔记，不涉及私信或受限内容。 |
|
|
3. **禁止商用 (No Commercial Use):** 本数据严禁用于商业挖掘或营销目的。 |
