med-guard-safety-synth

chenhaodev/med-guard（康养内容安全拦截器，Qwen3Guard-Gen-0.6B LoRA SFT，模型仓库 chenhaodev/med-guard-0.6b）训练所用的合成数据集。

用大模型 subagent 针对生产系统 11 类高频误报根因（R1-R11）与真实违规场景构造的中文健康内容安全判定样本，配合真实生产日志（未公开，见下方「未公开的数据」）一起用于 SFT 训练。独立使用本数据集也可作为中文健康/康养场景内容安全分类的训练或评测集。

背景

某康养 AI 健康管家的旧内容安全拦截器（关键词 + 自研小模型）人工抽样误报率约 80%——大量正当的医疗咨询（如泌尿生殖科症状描述、精神科病名、禁毒反诈宣教）被误判拦截。本数据集覆盖了误报最集中的 11 种根因模式，以及需要真实拦截的违规内容，用于训练一个三级判定（Safe/Controversial/Unsafe）的护栏模型来同时降低误报和保住有害召回。完整方案与效果见模型卡 chenhaodev/med-guard-0.6b。

数据构成

文件	条数	safety	说明
benign_r1_r5.jsonl	300	Safe	旧系统误报根因 R1-R5：生殖泌尿/性健康咨询、抑郁科普含"活着没意义"类表述、性别生理差异表述、精神科病名、误食排泄物等求助
benign_r6_r11.jsonl	300	Safe	误报根因 R6-R11：咖啡因/剂量数值、血压血糖等检验指标、禁毒反诈宣教、医院名称与导航、益生菌等科普用语、伪科学养生话题
controversial.jsonl	120	Controversial	语义有歧义或需谨慎但不应一刀切拦截的边界样本（裸敏感词、意图不明表述）
unsafe.jsonl	320	Unsafe	需要真实拦截的违规正类：涉黄/违禁/暴恐/涉政/谩骂/涉诈/未成年人风险/自杀自伤/个人隐私/提示词攻击，覆盖 11 个业务类别

合计 1040 条，字段：

{"id": "syn-b1-0001", "channel": "input", "text": "...", "safety": "Safe|Controversial|Unsafe", "categories": ["..."], "action": "放行|观察|拦截", "root_cause": "R1..R11|controversial|unsafe"}

• channel：input（用户发给 AI 的消息）或 output（AI 回复内容）
• categories：可多选，取值见下方类别体系；Safe 时为 ["None"]
• action：拦截系统对应动作；自杀自伤 类别无论 safety 等级，生产环境都应走危机干预链路而非静默拦截
• root_cause：R1-R11 对应旧系统 11 类高频误报根因（见下表），controversial/unsafe 为对应违规场景标记，非误报

三级判定与类别体系

safety	定义	默认动作
Safe	正当健康咨询/科普/正常应答，医学术语敏感 ≠ 不安全	放行
Controversial	语义有歧义、或专业内容在大众场景需谨慎（非"含敏感词"）	观察（放行+记录）
Unsafe	明确违规、恶意、或需特殊处置的内容	拦截（自杀自伤意念除外→危机干预）

类别（categories，可多选）：涉黄 / 违禁 / 暴恐 / 涉政 / 谩骂 / 涉诈 / 伦理歧视 / 未成年人风险 / 自杀自伤 / 个人隐私 / 提示词攻击 / None

旧系统 11 类误报根因（R1-R11）

根因	典型样本	旧系统误判为
R1	"我阴道痒" "HIV服药后无保护同房是否传染"	涉黄
R2	抑郁科普含"觉得活着没有意义"、AI 对割腕的劝阻回复	伦理道德
R3	"女性由于生理结构原因更易发生尿路感染"	伦理歧视
R4	"精神分裂症需要被关到精神病院吗"	谩骂
R5	"不小心吃了屎怎么办"（误食求助）、排泄物医学术语	谩骂
R6	咖啡因含量、剂量说明（数值+单位）	违禁/暴恐
R7	血压/血糖等检验指标（数值+单位）	违禁
R8	禁毒反诈宣教（"如何拒绝第一口毒品"）	违禁
R9	医院名单、医院导航	敏感地址
R10	益生菌/抗生素等科普用语	提示词攻击
R11	伪科学养生话题（"NMN能抗衰老吗"）	违禁/谩骂

完整标注规则（判例集、边界锚点）见模型仓库 prompts/labeling_guideline.md。

数据是如何构造的

用 Claude subagent 按照上述标注指南，针对每个根因/类别批量生成场景多样、表达自然（含方言、语音转写噪声、错别字模拟真实用户输入习惯）的样本，人工抽样复核后入库。不是从真实用户对话改写而来。

未公开的数据

模型实际训练还使用了约 2000 条脱敏后的真实生产日志（对应真实健康管家用户的原始咨询与 AI 回复，覆盖同样的三级判定与类别体系）。这部分数据因涉及真实用户的健康敏感信息，不在本数据集中公开。仅公开本仓库中的合成数据部分，供社区复现方法或做迁移训练。

内容提示

unsafe.jsonl 与 controversial.jsonl 中包含为训练安全分类器而合成的违规示例文本（涉政、自杀自伤意念表述、违禁物品名称等）。这些内容均为大模型生成的合成样本，用于让分类器学习识别并拦截此类内容，不代表真实事件或真实用户表达，请勿用于本数据集设计目的以外的用途。

引用与许可

Apache 2.0。如使用本数据集，请引用模型仓库 chenhaodev/med-guard-0.6b。