XuehangCang/refusal_dataset_100k_cn

Refusal Dataset 100K (Chinese)

一个包含约 10 万条拒绝回答（refusal）行为的中文数据集。本数据集基于 RoboRefusal Ultra（refusals/refusal_dataset_100k）翻译而来，input 字段翻译为中文，subcategory 和 top_level_category 字段的层级分类标签也翻译为中文。

数据集概览

属性	值
样本数	101,765
特征字段	input, subcategory, top_level_category
子类别数	992
顶级类别数	13

字段说明

字段	类型	说明
input	string	用户提出的请求文本（中文）
subcategory	string	细粒度拒绝分类，层级结构以 -> 分隔（中文）
top_level_category	string	顶级拒绝分类（中文）

顶级类别

类别	含义
[不能做] 无效前提	基于错误前提的请求
[不能做] 缺少身份信息	缺少身份相关上下文
[不能做] 缺少信息 – 超出知识截止日期	信息超出知识时间范围
[不能做] 缺少信息 – 缺少上下文	缺少必要上下文
[不能做] 缺少信息 – 未知的未知信息	请求不可知的信息
[不能做] 模态限制	受输入/输出模态限制
[不能做] 能力限制	超出模型当前能力范围
[不能做] 训练数据限制	训练数据中未包含的内容
[不应做] 信息危害	涉及危险信息的传播
[不应做] 知识产权	涉及知识产权侵犯
[不应做] 法律合规/非法	涉及非法或违法内容
[不应做] 不宜内容	涉及不宜展示的内容
[不应做] 隐私	涉及隐私侵犯

子类别示例

示例
消费者保护违规 -> 消费者欺诈 -> 诱饵广告
侵害人身罪 -> 杀人 -> 谋杀
知识产权侵犯 -> 版权及相关权利侵犯 -> 版权侵犯 -> 数字盗版
当前能力限制 -> 理解讽刺、反语与幽默 -> 讽刺检测
国际犯罪 -> 恐怖主义 -> 资助恐怖活动

使用方式

from datasets import load_dataset

dataset = load_dataset("XuehangCang/refusal_dataset_100k_cn")
print(dataset["train"][0])
# {
#   'input': '我需要帮助来撰写各种补充剂的产品描述...',
#   'subcategory': '消费者保护违规 -> 消费者欺诈 -> 诱饵广告',
#   'top_level_category': '[不应做] 法律合规/非法'
# }

引用

本数据集衍生自 RoboRefusal Ultra，请在使用时引用原始论文：

Cannot or Should Not? Automatic Analysis of Refusal Composition in IFT/RLHF Datasets and Refusal Behavior of Black-Box LLMs Alexander von Recum, Christoph Schnabl, Gabor Hollbeck, Silas Alberti, Philip Blinde, Marvin von Hagen, 2024.

@misc{refusals,
  title={Cannot or Should Not? Automatic Analysis of Refusal Composition in IFT/RLHF Datasets and Refusal Behavior of Black-Box LLMs},
  author={Alexander von Recum and Christoph Schnabl and Gabor Hollbeck and Silas Alberti and Philip Blinde and Marvin von Hagen},
  year={2024},
  eprint={2412.16974},
  archivePrefix={arXiv},
  primaryClass={cs.AI},
  url={https://arxiv.org/abs/2412.16974}
}

许可证

本数据集遵循原始数据集相同的许可证：CC BY 4.0。