Datasets:
Encoder-Guard 四轨安全数据集 v6_35
用于训练 Encoder-Guard 判别式内容安全分类器的 中文安全审核数据集。每条样本带四轨正交标注，一次前向可同时学习四套国标体系。
🔒 本数据集为 gated（需人工审批）。 点击页面上的 "Request access" 提交用途说明， 审批通过后可用
hf download或datasets库加载。未获授权不可下载、不可再分发。
四轨体系
| 轨道 | 标准 | 粒度 | 字段 |
|---|---|---|---|
| TC260-003 内容安全 | 《生成式人工智能服务安全基本要求》附录 A | 5 大类 / 31 小类 | class_name_1 / class_name_2 / tc260_labels |
| LM01–LM10 大模型安全 | 大模型自身安全检测项 | 10 大类 / 54 子项 | lm_categories |
| GB/T 35273-2020 个人信息 | 个人信息安全规范 | 7 大类 / 32 小类 | pii_types / gbt35273_* |
| GB/T 43697-2024 数据分类分级 | 数据安全技术 数据分类分级规则 | 4 大类 / 36 子类 / 3 级 | data_class_type / data_class_level_code / data_class_subtypes |
四轨正交：一条样本可同时是「TC260 A.1 违规」+「LM.01 提示词注入」+「含 B1 个人信息」+ 「L2 重要数据」，互不替代。这是本数据集与单轨安全数据集的核心差异。
数据规模
| split | 条数 | 占比 |
|---|---|---|
| train | 28,906 | 84.2% |
| validation | 1,595 | 4.6% |
| test | 3,840 | 11.2% |
| 合计 | 34,341 | 100% |
切分按 TC260 一级类分层，train 内 prompt 100% 唯一。
四轨标注覆盖率
| 轨道 | train | val | test |
|---|---|---|---|
TC260（tc260_labels 非空） |
18,987 (65.7%) | 1,050 (65.8%) | 2,211 (57.6%) |
LM01–LM10（lm_categories 非空） |
9,898 (34.2%) | 546 (34.2%) | 1,623 (42.3%) |
PII（pii_types 非空） |
3,437 (11.9%) | 185 (11.6%) | 533 (13.9%) |
数据分级（data_class_level_code 非空） |
11,882 (41.1%) | 645 (40.4%) | 1,979 (51.5%) |
注意：覆盖率 <100% 是设计使然——不是每条样本都涉及全部四轨。训练时需对空标注做 mask，
不能当作负例。class_name_1（TC260 一级类）覆盖 100%，是主监督信号。
标签分布
TC260 一级类（class_name_1）
| 编码 | 名称 | train | val | test |
|---|---|---|---|---|
| 0 | 正常文本 | 9,052 | 512 | 1,355 |
| 1 | 违反社会主义核心价值观 | 9,385 | 507 | 1,012 |
| 2 | 歧视性内容 | 1,706 | 95 | 283 |
| 3 | 商业违法违规 | 1,509 | 81 | 207 |
| 4 | 侵犯他人合法权益 | 5,226 | 295 | 839 |
| 5 | 无法满足特定服务安全需求 | 1,604 | 86 | 121 |
少量样本的
class_name_1为字母码（A.1/A.3/A.4/A.5，train 共 424 条）， 是历史数据混入的编码口径，训练前建议归一化为数字码。
TC260 二级类 Top 5（tc260_labels，4 位数字码）
| 编码 | train | val | test |
|---|---|---|---|
| 1008 传播虚假有害信息 | 5,196 | 293 | 473 |
| 4006 侵犯他人隐私权 | 2,641 | 141 | 393 |
| 1006 宣扬暴力、淫秽色情 | 1,554 | 86 | 134 |
| 1007 传播虚假有害信息（变体） | 1,517 | 82 | 211 |
| 5001 内容不准确 | 1,029 | 50 | — |
LM01–LM10 Top 5（lm_categories）
| 编码 | train | val | test |
|---|---|---|---|
| LM.02.b | 3,103 | 176 | 544 |
| LM.01.a | 2,515 | 140 | 469 |
| LM.09.b | 2,264 | 125 | 355 |
| LM.10.e | 631 | 37 | 97 |
| LM.01.f | 444 | 33 | 107 |
数据分级（data_class_level_code）
| 级别 | 含义 | train | val | test |
|---|---|---|---|---|
| L1 | 一般数据 | 9,701 | 521 | 1,691 |
| L2 | 重要数据 | 1,664 | 93 | 218 |
| L3 | 核心数据 | 517 | 31 | 70 |
数据分类（data_class_type）
| 类型 | train | val | test |
|---|---|---|---|
| OTHER 其他 | 4,566 | 263 | 474 |
| PERSONAL 个人信息 | 3,893 | 217 | 487 |
| ENTERPRISE 企业数据 | 778 | 44 | 112 |
| PUBLIC 公共数据 | 440 | 21 | 98 |
字段说明
| 字段 | 类型 | 说明 |
|---|---|---|
prompt |
str | 待审核文本（唯一必需字段） |
class_name_1 |
int/str | TC260 一级类 0–5（0=正常） |
class_name_2 |
int | TC260 二级类 4 位数字码 |
tc260_labels |
list[str] | TC260 小类多值列表（4 位码） |
tc260_label_names |
list[str] | 对应中文名 |
lm_categories |
list[str] | LM01–LM10 子项（如 LM.02.b） |
pii_types |
list[int] | PII 数字码 1–10（映射见下） |
gbt35273_category |
str | GB/T 35273 大类 |
gbt35273_subtype |
str | GB/T 35273 小类 |
gbt35273_is_sensitive |
bool | 是否敏感个人信息 |
data_class_type |
str | 数据分类（PERSONAL/ENTERPRISE/PUBLIC/OTHER） |
data_class_level_code |
str | 数据分级（L1/L2/L3） |
data_class_subtypes |
list[str] | 36 子类 |
source |
str | 数据来源标记 |
attack_type |
str | 攻击类型（仅 test） |
is_leak |
bool | 泄漏标记（仅 test） |
pii_types 数字码映射
| 码 | 含义 | 码 | 含义 |
|---|---|---|---|
| 1 | 姓名 | 6 | 邮箱 |
| 2 | 手机号 | 7 | 银行卡号 |
| 3 | 身份证号 | 8 | 地址 |
| 4 | 护照号 | 9 | 车牌号 |
| 5 | 驾驶证号 | 10 | 其他证件号 |
使用
from datasets import load_dataset
# 需先通过 gated 审批并 hf auth login
ds = load_dataset("louivis/encoder-guard-four-track")
print(ds["train"][0])
# 或直接下载 jsonl
hf download louivis/encoder-guard-four-track \
--repo-type dataset --local-dir data/v6_35
配合 verdict 引擎评测：
# verdict --batch 只认 "prompt" 键，需先抽取
python3 -c "
import json
for l in open('data/v6_35/finetune_final_v6_35_test.jsonl'):
print(json.dumps({'prompt': json.loads(l)['prompt']}, ensure_ascii=False))
" > test_prompts.jsonl
./verdict -m model/encoder-guard-v3 --batch test_prompts.jsonl --batch-out pred.jsonl
已知问题
- train∩test 有 59 条 prompt 重叠（占 test 1.5%），全部是
class_name_1=0的正常短文本 （问候语、通用问答）。对安全轨指标影响可忽略，但严格评测时应剔除。 class_name_1原始数据混入字母码（train 424 条A.1/A.3/A.4/A.5）。 本仓库已归一化：class_name_1统一为 int（A.1→1 / A.3→3 / A.4→4 / A.5→5）， 原始值保留在class_name_1_raw字段。tc260_labels与class_name_1不完全一致：train 中 18,987 条有tc260_labels， 但class_name_1≠0的有 19,854 条，差 867 条待回填。- 文本长度：p50=35 字，p95=327 字，max=7,653 字。Encoder-Guard 上限 512 token， 超长样本训练/推理时会被截断。
- 含真实 PII 样本：数据为真实互联网语料，部分样本含真实手机号/身份证号等。 这是 PII 检测轨的训练必需，但使用者需自行承担合规责任，不得用于训练后对外提供 可还原原始 PII 的服务。
Schema 说明
原始 jsonl 每行键集合不同（train 有 72 种组合、并集 45 字段），且 16 个字段类型不一致
（class_name_1 混 int/str，gbt35273_is_sensitive 混 bool/null）。这会让 HF 的自动
schema 推断失败（CastError）。
本仓库的数据已归一化：三个 split 统一为 43 个字段、固定顺序、类型一致，缺失值显式写
null。schema 在数据集卡的 dataset_info.features 中显式声明，不依赖自动推断。
归一化脚本：tools/normalize_v6_35.py（python3 tools/normalize_v6_35.py --check 可校验）。
主要变更：
class_name_1→ int64，原值存入新增的class_name_1_raw（string）_backfill.date→ string（原为日期字符串，用timestamp[s]会因 null 行解析失败）- 所有字段在三个 split 中均存在，缺失补
null
许可与合规
- 许可：内部研究使用（internal-research-use）。不适用 Apache-2.0 / MIT 等开源许可。
- gated 访问：需人工审批，审批时请说明用途、使用范围、是否二次分发。
- 禁止：再分发、商用、用于训练对外提供服务的模型（需单独授权）。
- 合规责任：数据含真实互联网语料与 PII 样本，使用者须遵守《个人信息保护法》 《数据安全法》及所在地法律。数据集提供方不对下游使用承担合规责任。
- 来源：数据由多源采集 + 人工/模型标注 + 三轮质量整改（P0/P1/P2）构成， 详细流程见 llm-guard 数据集文档。
引用
@misc{encoder-guard-four-track,
title = {Encoder-Guard Four-Track Safety Dataset (v6\_35)},
author = {Lee, Louivis},
year = {2026},
note = {TC260-003 / LM01-LM10 / GB-T 35273-2020 / GB-T 43697-2024, 34,341 samples},
url = {https://huggingface.co/datasets/louivis/encoder-guard-four-track}
}
- Downloads last month
- 36