README.md

---
base_model: microsoft/Phi-4
library_name: peft
---

# Model Card for `xm-phi-stfRL`

## Model Details

### Model Description

`xm-phi-stfRL` 是由 [XMindAI](https://www.xmindai.cn/) 基于微软开源模型 `Phi-4` 微调的大语言模型，采用 `PEFT`（参数高效微调）技术和强化学习优化（RLHF）。该模型在通用任务场景下表现出色，适用于文本生成、问答、情感分析等任务。通过高效参数微调技术，显著提升模型性能，同时降低计算资源消耗。

- **开发团队:** XMindAI
- **资助方:** XMindAI 内部研发
- **模型类型:** 强化学习优化版语言模型
- **语言:** 中文、英文
- **许可证:** Apache 2.0
- **微调自:** `microsoft/Phi-4`

### 模型来源

- **模型仓库:** [xm-phi-stfRL](https://huggingface.co/xmindai/xm-phi-stfRL)
- **基模型:** [Microsoft/Phi-4](https://huggingface.co/microsoft/Phi-4)

## 用途

### 直接使用

- **文本生成**：自动生成文章、报告、摘要或创作故事。
- **问答系统**：支持开放领域问答与信息检索。
- **情感分析**：对评论、社交媒体文本等进行情感分类。
- **对话生成**：生成多轮对话，适合客服、聊天机器人等场景。
- **通用任务**：摘要、改写、翻译、信息提取等。

### 下游应用

- 智能客服与自动问答
- 文本创作与生成
- 通用领域的自然语言处理（NLP）任务
- 文档摘要与信息提取

### 不适合的应用场景

- 高风险决策（如医学诊断或法律咨询）——需由专业人士审核
- 涉及敏感信息或隐私数据的生成任务
- 对事实性要求极高的场景，如新闻报道或法律分析

## 偏见、风险和局限性

### 已知局限性

- **事实性偏差**：模型可能生成与事实不符的内容。
- **专业性限制**：在医学、法律等专业领域，模型表现可能不如专用模型。
- **长文本生成效果下降**：对超过 4k tokens 的长文本，生成质量可能下降。

### 推荐措施

- 将模型输出视为辅助参考，而非权威答案。
- 在高风险或专业领域使用时，需由相关专家进行审核。
- 避免模型应用于敏感或隐私数据生成。

## 使用示例

使用该模型进行文本生成：

```python
from transformers import AutoModelForCausalLM, AutoTokenizer
import torch

model_name = "xmindai/xm-phi-stfRL"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(model_name, device_map="auto")

# 示例
text = "请用中文介绍人工智能的应用场景。"
inputs = tokenizer(text, return_tensors="pt").to("cuda")

output = model.generate(**inputs, max_length=512, do_sample=True, top_p=0.9, temperature=0.7)
print(tokenizer.decode(output[0], skip_special_tokens=True))
```

## 训练详情

### 训练数据

[Congliu/Chinese-DeepSeek-R1-Distill-data-110k-SFT](https://huggingface.co/datasets/Congliu/Chinese-DeepSeek-R1-Distill-data-110k-SFT)

- 数据量：110k 样本
- 数据来源：包含中文领域的知识问答、文本生成、对话、多轮交互等数据。
- 数据清洗：去除噪音数据、重复样本和无效样本。
- 数据增强：采用数据重采样和 Few-shot 数据增强策略。

### 训练过程

#### 超参数

- **训练精度:** bf16 mixed precision
- **批次大小:** 32
- **学习率:** 2e-5
- **微调方式:** LoRA + RLHF（强化学习）
- **训练时长:** 约 26 小时
- **硬件配置:** H100 80GB

### 结果摘要

- 在文本生成和问答任务上表现优异，生成内容流畅且准确。
- 情感分析任务表现良好，能够准确判断文本情绪。
- 在开放领域问答中展现出较强的推理能力。

## 环境影响

- **硬件类型:** H100 v5 80GB
- **训练时间:** 26 小时
- **云服务提供商:** Azure
- **碳排放量:** 约 3.6 吨 CO2eq（基于估算）

## 技术规格

### 模型架构与目标

- 基于 `Phi-4` 模型架构，采用自回归生成方式。
- 引入强化学习进行模型优化，提升生成质量与稳定性。
- 支持中英文双语任务，具备多任务处理能力。

### 基础设施

#### 硬件

- **实例类型:** Standard NC80adis H100 v5
- **GPU:** H100 v5
- **内存:** 640GB

#### 软件

- **框架:** 🤗 Transformers, PEFT, PyTorch

## 模型卡作者

- **XMind 开发团队**
- **联系信息:** [XMindAI](https://www.xmindai.cn/)