Instructions to use xmindai/xm-phi-stfRL with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Libraries
- PEFT
How to use xmindai/xm-phi-stfRL with PEFT:
from peft import PeftModel from transformers import AutoModelForCausalLM base_model = AutoModelForCausalLM.from_pretrained("unsloth/Phi-4") model = PeftModel.from_pretrained(base_model, "xmindai/xm-phi-stfRL") - Notebooks
- Google Colab
- Kaggle
Update README.md
Browse files
README.md
CHANGED
|
@@ -9,12 +9,12 @@ library_name: peft
|
|
| 9 |
|
| 10 |
### Model Description
|
| 11 |
|
| 12 |
-
`xm-phi-stfRL` 是由 [XMindAI](https://www.xmindai.cn/) 基于微软开源模型 `Phi-4` 微调的大语言模型,采用 `PEFT`(参数高效微调)技术
|
| 13 |
|
| 14 |
- **开发团队:** XMindAI
|
| 15 |
- **资助方:** XMindAI 内部研发
|
| 16 |
-
- **模型类型:**
|
| 17 |
-
- **语言:** 中文
|
| 18 |
- **许可证:** Apache 2.0
|
| 19 |
- **微调自:** `microsoft/Phi-4`
|
| 20 |
|
|
@@ -27,40 +27,42 @@ library_name: peft
|
|
| 27 |
|
| 28 |
### 直接使用
|
| 29 |
|
| 30 |
-
- **
|
| 31 |
-
- **
|
| 32 |
-
- **
|
| 33 |
-
- **
|
|
|
|
| 34 |
|
| 35 |
### 下游应用
|
| 36 |
|
| 37 |
-
-
|
| 38 |
-
-
|
| 39 |
-
-
|
|
|
|
| 40 |
|
| 41 |
### 不适合的应用场景
|
| 42 |
|
| 43 |
-
-
|
| 44 |
-
-
|
| 45 |
-
-
|
| 46 |
|
| 47 |
## 偏见、风险和局限性
|
| 48 |
|
| 49 |
### 已知局限性
|
| 50 |
|
| 51 |
-
- **
|
| 52 |
-
- **
|
| 53 |
-
- **长文本生成效果下降**:
|
| 54 |
|
| 55 |
### 推荐措施
|
| 56 |
|
| 57 |
-
- 将模型输出
|
| 58 |
-
-
|
| 59 |
-
-
|
| 60 |
|
| 61 |
## 使用示例
|
| 62 |
|
| 63 |
-
使用该模型进行
|
| 64 |
|
| 65 |
```python
|
| 66 |
from transformers import AutoModelForCausalLM, AutoTokenizer
|
|
@@ -70,8 +72,8 @@ model_name = "xmindai/xm-phi-stfRL"
|
|
| 70 |
tokenizer = AutoTokenizer.from_pretrained(model_name)
|
| 71 |
model = AutoModelForCausalLM.from_pretrained(model_name, device_map="auto")
|
| 72 |
|
| 73 |
-
# 示例
|
| 74 |
-
text = "
|
| 75 |
inputs = tokenizer(text, return_tensors="pt").to("cuda")
|
| 76 |
|
| 77 |
output = model.generate(**inputs, max_length=512, do_sample=True, top_p=0.9, temperature=0.7)
|
|
@@ -82,23 +84,14 @@ print(tokenizer.decode(output[0], skip_special_tokens=True))
|
|
| 82 |
|
| 83 |
### 训练数据
|
| 84 |
|
| 85 |
-
|
| 86 |
-
- 数据集描述:
|
| 87 |
-
- 包含约 17000 条中文医学领域指令数据。
|
| 88 |
-
- 数据涵盖医学问答、病例描述、药物作用、诊断建议等。
|
| 89 |
-
- 数据来源:医学文献、公开医学问答平台、医学教材等。
|
| 90 |
-
- 数据预处理:
|
| 91 |
-
- 去除重复与异常样本。
|
| 92 |
-
- 分句与文本规范化处理。
|
| 93 |
-
- 清洗敏感数据,确保不包含患者隐私信息。
|
| 94 |
|
| 95 |
-
|
| 96 |
-
|
| 97 |
-
|
|
|
|
| 98 |
|
| 99 |
-
|
| 100 |
-
- 数据增强:采用 Few-shot 数据增强策略,提升小样本生成能力。
|
| 101 |
-
- 数据标注:标注医学领域标签,增强模型对医学专有名词的理解。
|
| 102 |
|
| 103 |
#### 超参数
|
| 104 |
|
|
@@ -111,9 +104,9 @@ print(tokenizer.decode(output[0], skip_special_tokens=True))
|
|
| 111 |
|
| 112 |
### 结果摘要
|
| 113 |
|
| 114 |
-
- 在
|
| 115 |
-
-
|
| 116 |
-
- 在
|
| 117 |
|
| 118 |
## 环境影响
|
| 119 |
|
|
@@ -127,8 +120,8 @@ print(tokenizer.decode(output[0], skip_special_tokens=True))
|
|
| 127 |
### 模型架构与目标
|
| 128 |
|
| 129 |
- 基于 `Phi-4` 模型架构,采用自回归生成方式。
|
| 130 |
-
- 引入强化学习进行
|
| 131 |
-
- 支持中文
|
| 132 |
|
| 133 |
### 基础设施
|
| 134 |
|
|
@@ -140,9 +133,9 @@ print(tokenizer.decode(output[0], skip_special_tokens=True))
|
|
| 140 |
|
| 141 |
#### 软件
|
| 142 |
|
| 143 |
-
- **框架:** 🤗 Transformers, PEFT, PyTorch
|
| 144 |
|
| 145 |
## 模型卡作者
|
| 146 |
|
| 147 |
- **XMind 开发团队**
|
| 148 |
-
- **联系信息:** [XMindAI](https://www.xmindai.cn/)
|
|
|
|
| 9 |
|
| 10 |
### Model Description
|
| 11 |
|
| 12 |
+
`xm-phi-stfRL` 是由 [XMindAI](https://www.xmindai.cn/) 基于微软开源模型 `Phi-4` 微调的大语言模型,采用 `PEFT`(参数高效微调)技术和强化学习优化(RLHF)。该模型在通用任务场景下表现出色,适用于文本生成、问答、情感分析等任务。通过高效参数微调技术,显著提升模型性能,同时降低计算资源消耗。
|
| 13 |
|
| 14 |
- **开发团队:** XMindAI
|
| 15 |
- **资助方:** XMindAI 内部研发
|
| 16 |
+
- **模型类型:** 强化学习优化版语言模型
|
| 17 |
+
- **语言:** 中文、英文
|
| 18 |
- **许可证:** Apache 2.0
|
| 19 |
- **微调自:** `microsoft/Phi-4`
|
| 20 |
|
|
|
|
| 27 |
|
| 28 |
### 直接使用
|
| 29 |
|
| 30 |
+
- **文本生成**:自动生成文章、报告、摘要或创作故事。
|
| 31 |
+
- **问答系统**:支持开放领域问答与信息检索。
|
| 32 |
+
- **情感分析**:对评论、社交媒体文本等进行情感分类。
|
| 33 |
+
- **对话生成**:生成多轮对话,适合客服、聊天机器人等场景。
|
| 34 |
+
- **通用任务**:摘要、改写、翻译、信息提取等。
|
| 35 |
|
| 36 |
### 下游应用
|
| 37 |
|
| 38 |
+
- 智能客服与自动问答
|
| 39 |
+
- 文本创作与生成
|
| 40 |
+
- 通用领域的自然语言处理(NLP)任务
|
| 41 |
+
- 文档摘要与信息提取
|
| 42 |
|
| 43 |
### 不适合的应用场景
|
| 44 |
|
| 45 |
+
- 高风险决策(如医学诊断或法律咨询)——需由专业人士审核
|
| 46 |
+
- 涉及敏感信息或隐私数据的生成任务
|
| 47 |
+
- 对事实性要求极高的场景,如新闻报道或法律分析
|
| 48 |
|
| 49 |
## 偏见、风险和局限性
|
| 50 |
|
| 51 |
### 已知局限性
|
| 52 |
|
| 53 |
+
- **事实性偏差**:模型可能生成与事实不符的内容。
|
| 54 |
+
- **专业性限制**:在医学、法律等专业领域,模型表现可能不如专用模型。
|
| 55 |
+
- **长文本生成效果下降**:对超过 4k tokens 的长文本,生成质量可能下降。
|
| 56 |
|
| 57 |
### 推荐措施
|
| 58 |
|
| 59 |
+
- 将模型输出视为辅助参考,而非权威答案。
|
| 60 |
+
- 在高风险或专业领域使用时,需由相关专家进行审核。
|
| 61 |
+
- 避免模型应用于敏感或隐私数据生成。
|
| 62 |
|
| 63 |
## 使用示例
|
| 64 |
|
| 65 |
+
使用该模型进行文本生成:
|
| 66 |
|
| 67 |
```python
|
| 68 |
from transformers import AutoModelForCausalLM, AutoTokenizer
|
|
|
|
| 72 |
tokenizer = AutoTokenizer.from_pretrained(model_name)
|
| 73 |
model = AutoModelForCausalLM.from_pretrained(model_name, device_map="auto")
|
| 74 |
|
| 75 |
+
# 示例
|
| 76 |
+
text = "请用中文介绍人工智能的应用场景。"
|
| 77 |
inputs = tokenizer(text, return_tensors="pt").to("cuda")
|
| 78 |
|
| 79 |
output = model.generate(**inputs, max_length=512, do_sample=True, top_p=0.9, temperature=0.7)
|
|
|
|
| 84 |
|
| 85 |
### 训练数据
|
| 86 |
|
| 87 |
+
[Congliu/Chinese-DeepSeek-R1-Distill-data-110k-SFT](https://huggingface.co/datasets/Congliu/Chinese-DeepSeek-R1-Distill-data-110k-SFT)
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 88 |
|
| 89 |
+
- 数据量:110k 样本
|
| 90 |
+
- 数据来源:包含中文领域的知识问答、文本生成、对话、多轮交互等数据。
|
| 91 |
+
- 数据清洗:去除噪音数据、重复样本和无效样本。
|
| 92 |
+
- 数据增强:采用数据重采样和 Few-shot 数据增强策略。
|
| 93 |
|
| 94 |
+
### 训练过程
|
|
|
|
|
|
|
| 95 |
|
| 96 |
#### 超参数
|
| 97 |
|
|
|
|
| 104 |
|
| 105 |
### 结果摘要
|
| 106 |
|
| 107 |
+
- 在文本生成和问答任务上表现优异,生成内容流畅且准确。
|
| 108 |
+
- 情感分析任务表现良好,能够准确判断文本情绪。
|
| 109 |
+
- 在开放领域问答中展现出较强的推理能力。
|
| 110 |
|
| 111 |
## 环境影响
|
| 112 |
|
|
|
|
| 120 |
### 模型架构与目标
|
| 121 |
|
| 122 |
- 基于 `Phi-4` 模型架构,采用自回归生成方式。
|
| 123 |
+
- 引入强化学习进行模型优化,提升生成质量与稳定性。
|
| 124 |
+
- 支持中英文双语任务,具备多任务处理能力。
|
| 125 |
|
| 126 |
### 基础设施
|
| 127 |
|
|
|
|
| 133 |
|
| 134 |
#### 软件
|
| 135 |
|
| 136 |
+
- **框架:** 🤗 Transformers, PEFT, PyTorch
|
| 137 |
|
| 138 |
## 模型卡作者
|
| 139 |
|
| 140 |
- **XMind 开发团队**
|
| 141 |
+
- **联系信息:** [XMindAI](https://www.xmindai.cn/)
|