| --- |
| license: apache-2.0 |
| tasks: |
| - text-generation |
| domain: |
| - nlp |
| language: |
| - cn |
| tags: |
| - 中医 |
| - 黄帝内经 |
| - 杏核 |
| - TCM |
| --- |
| |
| # 杏核 Xinghe v1.2 |
|
|
| > 基于《黄帝内经》的中医推理模型 · 由 **Xinghe-TCM** 开发 |
|
|
| ## 模型简介 |
|
|
| 杏核（Xinghe）是一款专注中医的推理型语言模型。v1.2 由 Xinghe-TCM 在开源基座模型上，使用自建的《黄帝内经》高质量指令数据集微调而成。它扎根经文与临床，先在 `<think>` 中完成辨证推理，再给出平实、可落地的调养判断与方向。 |
|
|
| 与通用大模型不同，杏核不追求“无所不答”，而是把中医辨证这件事做扎实：说人话、有依据、守边界——只给临床可用的判断与调养方向，不开具体处方与剂量，也不做现代医学诊断。 |
|
|
| ## 主要特性 |
|
|
| - **经典扎根**：训练数据以《黄帝内经》经文与临床情景为核心，覆盖理论辨析、经文解读、概念对比、临床案例、纠错反例五类问答。 |
| - **显式推理**：采用 `<think>…</think>` 思维链，先辨证、后作答；最终输出为脱去内部符号的平实中文。 |
| - **平实可用**：回答不堆砌术语，落到起居、饮食、情志、调养方向等可操作的建议上。 |
| - **安全边界内建**：内建六条中医调养红线与“不开方、不诊断”约束（见下）。 |
| - **身份稳健**：即使调用时 system prompt 为空或被替换，模型仍能正确回答自身身份与版本。 |
| - **数据质量可控**：全量经红线过滤器校验（硬性违规为 0），统一中文标点（双引号、去除机械感破折号），优化分段可读性。 |
|
|
| ## 适用场景 |
|
|
| - 《黄帝内经》经文与概念的解读、辨析、对比 |
| - 中医辨证思路的梳理与学习辅助 |
| - 养生、起居、饮食、情志等调养方向的建议 |
| - 中医教学、科普与研究的参考 |
|
|
| ## 不适用场景（请勿用于） |
|
|
| - 急危重症的诊断或处置 |
| - 生成具体处方、药物与剂量 |
| - 替代执业医师的面诊与现代医学诊断 |
| - 任何需要即时医疗决策的临床场景 |
|
|
| ## 快速开始 |
|
|
| ### HuggingFace / Transformers |
|
|
| ```python |
| from transformers import AutoModelForCausalLM, AutoTokenizer |
| |
| model_id = "zsyjsld/Xinghe1.2-9B" # v1.2 仓库 |
| tokenizer = AutoTokenizer.from_pretrained(model_id) |
| model = AutoModelForCausalLM.from_pretrained( |
| model_id, torch_dtype="auto", device_map="auto" |
| ) |
| |
| system = ("你是杏核（Xinghe），由 Xinghe-TCM 开发的中医助手，当前版本 1.2。" |
| "你精研《黄帝内经》，答问扎根经文与临床，语言平实，只给临床可用的判断与调养方向；" |
| "不开具体处方与剂量，不做现代医学诊断。") |
| messages = [ |
| {"role": "system", "content": system}, # 可省略；留空亦能正常工作 |
| {"role": "user", "content": "什么是治未病？"}, |
| ] |
| text = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True) |
| inputs = tokenizer(text, return_tensors="pt").to(model.device) |
| outputs = model.generate(**inputs, max_new_tokens=1024, temperature=0.7) |
| print(tokenizer.decode(outputs[0][inputs.input_ids.shape[1]:], skip_special_tokens=True)) |
| ``` |
|
|
| ### ModelScope |
|
|
| ```python |
| from modelscope import AutoModelForCausalLM, AutoTokenizer |
| |
| model_id = "zsyjsld/Xinghe1.2-9B" # v1.2 仓库 |
| tokenizer = AutoTokenizer.from_pretrained(model_id) |
| model = AutoModelForCausalLM.from_pretrained( |
| model_id, torch_dtype="auto", device_map="auto" |
| ) |
| # 生成用法与上方 Transformers 示例一致 |
| ``` |
|
|
| > 模型输出通常包含 `<think>…</think>` 段落（辨证推理）与其后的正式回答。若只需最终答案，可在展示层去除 `<think>` 段。 |
|
|
| ## System Prompt 说明 |
|
|
| 推荐（但非必需）在调用时挂上以下 system prompt： |
|
|
| ```text |
| 你是杏核（Xinghe），由 Xinghe-TCM 开发的中医助手，当前版本 1.2。你精研《黄帝内经》，答问扎根经文与临床，语言平实，只给临床可用的判断与调养方向；不开具体处方与剂量，不做现代医学诊断。 |
| ``` |
|
|
| 模型在训练时见过“带该提示词”“换用其他提示词”“system prompt 为空”三种情况，因此**即使不设置 system prompt，也能保持身份与行为稳定**。 |
|
|
| ## 训练数据 |
|
|
| | 项 | 说明 | |
| | --- | --- | |
| | 规模 | 2009 条指令样本 | |
| | 领域数据 | 1820 条；五类各 364：理论辨析 / 经文解读 / 概念对比 / 临床案例 / 纠错反例 | |
| | 身份数据 | 189 条（63 种问法 × 空 / 身份 / 通用 三种 system prompt 条件） | |
| | 语料来源 | 《黄帝内经》经文与临床情景改写 | |
| | 字段 | `system`、`instruction`、`thinking`、`output`、`meta`（`meta` 仅作数据管理，不参与训练目标） | |
|
|
| **质量控制**：全量通过自研红线过滤器（硬性违规 0）；输出统一中文双引号、去除机械破折号；较长回答做了分段处理以便阅读。 |
|
|
| ## 训练细节 |
|
|
| - **基座模型**：Qwen3.5-9B |
| - **微调方法**：QLoRA（4-bit 量化下的 LoRA）微调，训练完成后将 LoRA 权重合并回基座，导出为完整模型权重。 |
| - **结构调整**：合并时移除了 MTP（Multi-Token Prediction）层。 |
| - **训练硬件**：单张 NVIDIA GeForce RTX 3090（24GB 显存）。 |
|
|
| ## 量化与评测 |
|
|
| 基于三层评测方案，在 RTX 3090 上对 Xinghe 1.2-9B 的各量化版本进行了完整评测（评测集共 76 条，涵盖理论辨析、经文解读、概念对比、临床案例、纠错反例五大题型及多种临床陷阱）。 |
|
|
| ### Layer 1：PPL 困惑度（语言保真度） |
|
|
| | 版本 | 文件大小 | PPL | PPL 相对比值 | 推理延迟 | |
| | --- | --- | --- | --- | --- | |
| | **F16 (基线)** | 16.69 GB | 7.3869 | 1.0000 | 16.9s | |
| | **Q8_0** | 8.87 GB | 7.3931 | 1.0008 (+0.08%) | **6.5s** | |
| | **Q6_K** | 6.85 GB | 7.4848 | 1.0133 (+1.33%) | **5.9s** | |
| | **Q4_K_M** | 5.24 GB | 7.9485 | 1.0760 (+7.60%) | **5.1s** | |
|
|
| ### Layer 2：红线机检（双通道隔离完整性） |
|
|
| 对每个版本在 temp=0 下跑完全部评测集，拆出 output 通道做四类红线检查（A 符号 / B 黑话 / C 编号 / D 越权）。 |
|
|
| | 版本 | 红线泄漏率 | B 黑话 | A 符号 | C 编号 | D 越权 | |
| | --- | --- | --- | --- | --- | --- | |
| | **F16** | 15.8% | 11 | 0 | 1 | 0 | |
| | **Q8_0** | 15.8% | 12 | 0 | 0 | 0 | |
| | **Q6_K** | 21.1% | 16 | 0 | 0 | 0 | |
| | **Q4_K_M** | 19.7% | 13 | **1** ⚠️ | **1** ⚠️ | 0 | |
|
|
| ### Layer 3：LLM-as-judge 盲评 |
|
|
| 以 F16 为基准，对每个量化版本做位置随机化盲评（每版本 15 条，覆盖全部题型）。评审维度：经义正确性、红线合规、表达干净贴题。 |
|
|
| | 版本 | 候选胜 | F16 胜 | 平局 | 净胜负 | 候选红线 | |
| | --- | --- | --- | --- | --- | --- | |
| | **Q8_0** | 1 | 4 | 10 | -3 | 0 | |
| | **Q6_K** | 1 | 4 | 10 | -3 | 0 | |
| | **Q4_K_M** | 0 | 6 | 9 | **-6** | **1** ⚠️ | |
|
|
| ### 综合结论 |
|
|
| | 版本 | Layer 1 | Layer 2 | Layer 3 | 最终推荐 | |
| | --- | --- | --- | --- | --- | |
| | **Q8_0** | ✅ +0.08% | ✅ 同基线 | ✅ 噪声范围 | **🚀 首选部署** | |
| | **Q6_K** | ⚠️ +1.33% | ⚠️ 泄漏率升高 | ⚠️ 与Q8_0持平 | 备选 | |
| | **Q4_K_M** | ❌ +7.60% | ❌ A+C类泄漏 | ❌ 系统性变差 | ⛔ 不推荐 | |
| |
| - **Q8_0 几近无损**：PPL 上升仅 `+0.08%`，红线泄漏率与 F16 完全一致，盲评无系统性变差，推理速度提升近 3 倍，为首选部署版本。 |
| - **Q4_K_M 存在结构性损伤**：PPL 升高 `+7.60%`，盲评中首次出现 A 类符号（G）和 C 类编号（#123）从 thinking 泄漏至 output，表明 4-bit 量化对双通道隔离结构造成了物理损伤。 |
| |
| |
| ## 推理格式：`<think>` |
| |
| 模型遵循“先思考、后回答”的范式： |
| |
| - `<think>` 内是辨证推理过程，可能包含内部记法； |
| - `</think>` 之后是面向用户的正式回答，语言平实、不含内部符号与编号。 |
| |
| ## 安全与边界 |
| |
| **中医调养六条红线**（内建于训练目标）： |
| |
| 1. **造势勿强断**——对正在“蓄势/造势”的病机，不强行截断。 |
| 2. **勿打地鼠**——不追着单一症状硬压，须顾及整体气机。 |
| 3. **勿逆正气**——顺应而非对抗人体正气。 |
| 4. **勿强退热**——不一味强行压制发热（尤其正邪相争之热）。 |
| 5. **胃气为先**——调养以顾护胃气、脾胃为本。 |
| 6. **正弱手轻**——正气虚弱时，干预宜轻不宜猛。 |
| |
| **硬性约束**：不开具体处方与剂量；不做现代医学诊断；遇急危重或不确定情形，建议尽快就医面诊。 |
| |
| ## 局限性 |
| |
| - 输出仅供学习与研究参考，**不构成医疗建议**。 |
| - 作为语言模型，可能出现事实错误或“幻觉”，对古文与方言的理解也可能有偏差。 |
| - 训练数据规模有限，覆盖面与深度仍在迭代中。 |
| - 尚未经过系统的临床验证与第三方评测。 |
| |
| ## 免责声明 |
| |
| > ⚠️ 本模型（杏核）为面向中医学习与研究的实验性工具。其全部输出**不构成医疗诊断、治疗或用药建议**，不能替代执业医师的面诊与专业判断。任何健康问题请咨询合格医疗机构；出现急危重症状请立即就医。使用本模型所产生的一切后果由使用者自行承担。 |
| |
| ## 版本历史 / 相关链接 |
| |
| - **v1（Xinghe1-9B）**：首个开源版本。 |
| - ModelScope：https://modelscope.cn/models/zsyjsld/Xinghe1-9B |
| - HuggingFace：https://huggingface.co/zsyjsld/Xinghe1-9B |
| - **v1.2（Xinghe1.2-9B，本版本）**：训练数据从 v1 的 400 余条扩充至 2009 条（领域 1820 + 身份 189），数据质量全面提升（全量红线复检硬性违规 0、输出统一中文双引号、去除机械感破折号、优化分段可读性）；新增身份数据并对"空 / 替换 system prompt"做鲁棒化，模型整体输出质量显著提升。 |
| - ModelScope：https://modelscope.cn/models/zsyjsld/Xinghe1.2-9B |
| - HuggingFace：https://huggingface.co/zsyjsld/Xinghe1.2-9B |
| |
| ## 许可证 |
| |
| 本模型遵循其基座模型 Qwen3.5-9B 的开源许可证 **Apache-2.0**；请以基座模型仓库实际标注的许可证为准。 |
| |
| ## 引用 |
| |
| 如果本模型对你的研究或工作有帮助，欢迎引用： |
| |
| ```bibtex |
| @misc{xinghe2026, |
| title = {Xinghe: A Huangdi Neijing-grounded Traditional Chinese Medicine Reasoning Model}, |
| author = {Xinghe-TCM}, |
| year = {2026}, |
| howpublished = {\url{https://huggingface.co/zsyjsld/Xinghe1.2-9B}, \url{https://modelscope.cn/models/zsyjsld/Xinghe1.2-9B}} |
| } |
| ``` |
| |
| ## 致谢与联系 |
| |
| - 开发者：Xinghe-TCM |
| - 模型主页： |
| - HuggingFace：https://huggingface.co/zsyjsld/Xinghe1.2-9B |
| - ModelScope：https://modelscope.cn/models/zsyjsld/Xinghe1.2-9B |
| |
