|
|
--- |
|
|
license: mit |
|
|
datasets: |
|
|
- AISkywalker/music_poet |
|
|
base_model: |
|
|
- deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B |
|
|
- Qwen/Qwen2.5-0.5B-Instruct |
|
|
metrics: |
|
|
- character |
|
|
pipeline_tag: text-generation |
|
|
tags: |
|
|
- music |
|
|
--- |
|
|
--- |
|
|
license: mit |
|
|
datasets: |
|
|
- AISkywalker/music_poet |
|
|
--- 歌词生成系统 |
|
|
- 南京农业大学机器学习课程设计 |
|
|
|
|
|
AIGC创意文本生成，使用LoRA和强化学习进行微调。 |
|
|
|
|
|
项目结构 |
|
|
|
|
|
代码文件 |
|
|
- `code/__main__.py`: 主程序入口，启动GUI界面 |
|
|
- `code/_MyModel.py`: 核心模型实现，加载DeepSeek/Qwen模型和LoRA适配器 |
|
|
- `code/UI.py`: PyQt5实现的用户界面 |
|
|
- `code/reward.py`: 强化学习的奖励函数实现 |
|
|
- `code/GRPO.ipynb`: 基于规则的策略优化训练流程 |
|
|
- `code/data_process.py`: 数据处理脚本 |
|
|
- `code/LORA.py`: LoRA模型实现 |
|
|
- `code/LORA_with_CoT.py`: 带思维链的LoRA实现 |
|
|
|
|
|
数据文件夹 |
|
|
- `data/`: 存放训练数据(CoTdata.txt, DSdata.txt等) |
|
|
- `data/CoTdata.txt`: 带思维链的训练数据 |
|
|
- `data/DSdata.txt`: 关键词：原文训练数据 |
|
|
- `data/processed_data.txt`: 处理后的训练数据 |
|
|
|
|
|
模型文件夹 |
|
|
- `DS_LoRA/`: 基础DeepSeek模型的LoRA适配器 |
|
|
- `DS_RL_model/`: 强化学习微调的DeepSeek模型 |
|
|
- `Qwen_LoRA/`: 基础Qwen模型的LoRA适配器 |
|
|
- `Qwen_CoT_LoRA/`: 带思维链的基础Qwen模型适配器 |
|
|
|
|
|
使用方法 |
|
|
|
|
|
1. 安装依赖: |
|
|
推荐使用conda |
|
|
- conda create -name Goodmusic python==3.11 -y |
|
|
- conda activate Goodmusic |
|
|
|
|
|
下载Pytorch(cuda 12.6) |
|
|
- pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu126 |
|
|
|
|
|
下载其他依赖 |
|
|
- pip install -r requirements.txt |
|
|
|
|
|
或者使用.env的虚拟环境使用 uv 工具加速下载 |
|
|
- uv pip install -r requirements.txt |
|
|
|
|
|
2. 运行程序: |
|
|
python code/__main__.py |
|
|
|
|
|
3. 在GUI界面输入关键词，生成歌词 |
|
|
|
|
|
## 模型训练 |
|
|
|
|
|
1. 数据准备: 将训练数据放入data/文件夹 |
|
|
2. 运行GRPO.ipynb进行模型训练 |
|
|
3. 训练好的模型会保存在对应模型文件夹 |
