--- language: - zh license: other task_categories: - text-classification - text-generation - conversational - feature-extraction tags: - social-media - Twitter - narrative-analysis - research-only size_categories: - n<1K configs: - config_name: default data_files: - split: train path: "debug_dataset.jsonl" --- # Dataset Card for Twitter Research Dataset > **⚠️ Access Notice / 访问须知** > > **Status:** Closed / Restricted Access (目前闭源) > > This dataset is currently **private** and intended strictly for academic research purposes. It is not available for public download to strictly adhere to data privacy regulations and platform terms of use. > > 本数据集目前处于**闭源状态**,仅供特定学术研究使用。出于对隐私合规及平台使用条款的严格遵守,暂不向公众开放下载。 ## Dataset Description (数据集简介) 本数据集包含一组从推特(Twitter)采集的**公开笔记(Public Notes)**及其关联评论。数据采集目标旨在支持**强化学习(Reinforcement Learning, RL)训练**,特别是用于构建基于真实社交互动的奖励模型(Reward Model)与用户模拟环境。 该数据集在采集过程特别实施了严格的隐私过滤机制。 - **维护者 (Curated by):** AgentAlpha - **语言 (Language):** 中文 (zh) - **许可证 (License):** 仅供科研使用 (Research Use Only) - 非商业用途 ### Supported Tasks (支持的任务) - **奖励模型构建 (Reward Modeling):** 利用评论互动的点赞数、回复层级构建基于人类偏好(Human Preference)的奖励函数。 - **用户行为模拟 (User Behavior Simulation):** 训练 Agent 模拟真实用户在社交媒体环境下的浏览路径与互动反馈,构建 RL 训练环境。 - **对话策略优化 (Conversational Policy Optimization):** 基于真实的笔记-评论对(Post-Comment Pairs),使用 RL 算法优化对话 Agent 的回复策略与社交适应性。 ## Dataset Structure (数据结构) 虽然数据本身不可见,但为了方便合作者理解数据形态,以下是数据模式(Schema)的详细说明。 ### Data Instances (数据样例结构) 数据集中的每一条记录代表一篇笔记,包含其元数据(Metadata)和嵌套的评论列表。 ```json { "title": "笔记标题示例", "content": "笔记的完整正文内容...", "tags": ["标签1", "标签2"], "meta": { "publish_date": "YYYY-MM-DD", "original_date_location": "编辑于 2024-01-01 上海", "author": "[已脱敏/已隐藏]" }, "comments": [ { "user_nick": "匿名用户_A1B2", "content": "这是一条评论内容...", "comment_like_count": 10, "parent_id": null, "date": "YYYY-MM-DD" } ] } ```` ### Data Fields (字段说明) | Field | Type | Description | | :--- | :--- | :--- | | `title` | `String` | 笔记的标题 / Title of the post. | | `content` | `String` | 笔记的正文内容 / Main body text. | | `tags` | `List[String]` | 笔记关联的话题标签 / Hashtags. | | `meta` | `Dict` | 元数据集合 (Metadata). | | 🔹 `publish_date` | `String` | 发布日期 (Standardized). | | 🔹 `author` | `String` | **[Anonymized]** 作者昵称已脱敏或隐藏. | | `comments` | `List[Dict]` | 评论区数据 (含二级评论). | | 🔹 `user_nick` | `String` | **[Anonymized]** 评论者昵称 (e.g., "匿名用户_25854F"). | | 🔹 `content` | `String` | 评论内容. | | 🔹 `parent_id` | `String` | 父评论ID (用于构建回复树). | --- ### Considerations for Using the Data (使用考量) #### Social Impact (社会影响) 本数据集捕捉了平台上的真实用户互动,反映了当前社交媒体环境下的消费行为、流行趋势以及社区叙事风格。 #### Discussion of Biases (偏见讨论) - **来源偏差 (Source Bias):** 数据是基于特定的搜索关键词和推荐流采集的,可能无法代表平台用户的整体全貌。 - **选择性偏差 (Selection Bias):** 采集的关键词是由研究者根据小红书往年的搜索热词所决定的,与全量爬虫相比,可能会引入特定的行为选择偏差。 ### Privacy & Ethical Standards (隐私与伦理) 本数据集严格遵守以下科研伦理规范: 1. **匿名化处理 (Anonymization):** 评论中的用户昵称均已替换为匿名 ID(如 `匿名用户_XXXX`)或已隐藏。 2. **仅限公开数据 (Public Data Only):** 仅包含公开可见的笔记,不涉及私信或受限内容。 3. **禁止商用 (No Commercial Use):** 本数据严禁用于商业挖掘或营销目的。