| --- |
| base_model: microsoft/Phi-4 |
| library_name: peft |
| --- |
| |
| # Model Card for `xm-phi-stfRL` |
|
|
| ## Model Details |
|
|
| ### Model Description |
|
|
| `xm-phi-stfRL` 是由 [XMindAI](https://www.xmindai.cn/) 基于微软开源模型 `Phi-4` 微调的大语言模型，采用 `PEFT`（参数高效微调）技术和强化学习优化（RLHF）。该模型在通用任务场景下表现出色，适用于文本生成、问答、情感分析等任务。通过高效参数微调技术，显著提升模型性能，同时降低计算资源消耗。 |
|
|
| - **开发团队:** XMindAI |
| - **资助方:** XMindAI 内部研发 |
| - **模型类型:** 强化学习优化版语言模型 |
| - **语言:** 中文、英文 |
| - **许可证:** Apache 2.0 |
| - **微调自:** `microsoft/Phi-4` |
|
|
| ### 模型来源 |
|
|
| - **模型仓库:** [xm-phi-stfRL](https://huggingface.co/xmindai/xm-phi-stfRL) |
| - **基模型:** [Microsoft/Phi-4](https://huggingface.co/microsoft/Phi-4) |
|
|
| ## 用途 |
|
|
| ### 直接使用 |
|
|
| - **文本生成**：自动生成文章、报告、摘要或创作故事。 |
| - **问答系统**：支持开放领域问答与信息检索。 |
| - **情感分析**：对评论、社交媒体文本等进行情感分类。 |
| - **对话生成**：生成多轮对话，适合客服、聊天机器人等场景。 |
| - **通用任务**：摘要、改写、翻译、信息提取等。 |
|
|
| ### 下游应用 |
|
|
| - 智能客服与自动问答 |
| - 文本创作与生成 |
| - 通用领域的自然语言处理（NLP）任务 |
| - 文档摘要与信息提取 |
|
|
| ### 不适合的应用场景 |
|
|
| - 高风险决策（如医学诊断或法律咨询）——需由专业人士审核 |
| - 涉及敏感信息或隐私数据的生成任务 |
| - 对事实性要求极高的场景，如新闻报道或法律分析 |
|
|
| ## 偏见、风险和局限性 |
|
|
| ### 已知局限性 |
|
|
| - **事实性偏差**：模型可能生成与事实不符的内容。 |
| - **专业性限制**：在医学、法律等专业领域，模型表现可能不如专用模型。 |
| - **长文本生成效果下降**：对超过 4k tokens 的长文本，生成质量可能下降。 |
|
|
| ### 推荐措施 |
|
|
| - 将模型输出视为辅助参考，而非权威答案。 |
| - 在高风险或专业领域使用时，需由相关专家进行审核。 |
| - 避免模型应用于敏感或隐私数据生成。 |
|
|
| ## 使用示例 |
|
|
| 使用该模型进行文本生成： |
|
|
| ```python |
| from transformers import AutoModelForCausalLM, AutoTokenizer |
| import torch |
| |
| model_name = "xmindai/xm-phi-stfRL" |
| tokenizer = AutoTokenizer.from_pretrained(model_name) |
| model = AutoModelForCausalLM.from_pretrained(model_name, device_map="auto") |
| |
| # 示例 |
| text = "请用中文介绍人工智能的应用场景。" |
| inputs = tokenizer(text, return_tensors="pt").to("cuda") |
| |
| output = model.generate(**inputs, max_length=512, do_sample=True, top_p=0.9, temperature=0.7) |
| print(tokenizer.decode(output[0], skip_special_tokens=True)) |
| ``` |
|
|
| ## 训练详情 |
|
|
| ### 训练数据 |
|
|
| [Congliu/Chinese-DeepSeek-R1-Distill-data-110k-SFT](https://huggingface.co/datasets/Congliu/Chinese-DeepSeek-R1-Distill-data-110k-SFT) |
|
|
| - 数据量：110k 样本 |
| - 数据来源：包含中文领域的知识问答、文本生成、对话、多轮交互等数据。 |
| - 数据清洗：去除噪音数据、重复样本和无效样本。 |
| - 数据增强：采用数据重采样和 Few-shot 数据增强策略。 |
|
|
| ### 训练过程 |
|
|
| #### 超参数 |
|
|
| - **训练精度:** bf16 mixed precision |
| - **批次大小:** 32 |
| - **学习率:** 2e-5 |
| - **微调方式:** LoRA + RLHF（强化学习） |
| - **训练时长:** 约 26 小时 |
| - **硬件配置:** H100 80GB |
|
|
| ### 结果摘要 |
|
|
| - 在文本生成和问答任务上表现优异，生成内容流畅且准确。 |
| - 情感分析任务表现良好，能够准确判断文本情绪。 |
| - 在开放领域问答中展现出较强的推理能力。 |
|
|
| ## 环境影响 |
|
|
| - **硬件类型:** H100 v5 80GB |
| - **训练时间:** 26 小时 |
| - **云服务提供商:** Azure |
| - **碳排放量:** 约 3.6 吨 CO2eq（基于估算） |
|
|
| ## 技术规格 |
|
|
| ### 模型架构与目标 |
|
|
| - 基于 `Phi-4` 模型架构，采用自回归生成方式。 |
| - 引入强化学习进行模型优化，提升生成质量与稳定性。 |
| - 支持中英文双语任务，具备多任务处理能力。 |
|
|
| ### 基础设施 |
|
|
| #### 硬件 |
|
|
| - **实例类型:** Standard NC80adis H100 v5 |
| - **GPU:** H100 v5 |
| - **内存:** 640GB |
|
|
| #### 软件 |
|
|
| - **框架:** 🤗 Transformers, PEFT, PyTorch |
|
|
| ## 模型卡作者 |
|
|
| - **XMind 开发团队** |
| - **联系信息:** [XMindAI](https://www.xmindai.cn/) |
