| | ---
|
| | license: mit
|
| | datasets:
|
| | - AISkywalker/music_poet
|
| | base_model:
|
| | - deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B
|
| | - Qwen/Qwen2.5-0.5B-Instruct
|
| | metrics:
|
| | - character
|
| | pipeline_tag: text-generation
|
| | tags:
|
| | - music
|
| | language:
|
| | - zho
|
| | - eng
|
| | - fra
|
| | - spa
|
| | - por
|
| | - deu
|
| | - ita
|
| | - rus
|
| | - jpn
|
| | - kor
|
| | - vie
|
| | - tha
|
| | - ara
|
| | ---
|
| | ---
|
| | license: mit
|
| | datasets:
|
| | - AISkywalker/music_poet
|
| | --- 歌词生成系统
|
| | - 南京农业大学机器学习课程设计
|
| |
|
| | AIGC创意文本生成,使用LoRA和强化学习进行微调。
|
| |
|
| | 项目结构
|
| |
|
| | 代码文件
|
| | - `code/__main__.py`: 主程序入口,启动GUI界面
|
| | - `code/_MyModel.py`: 核心模型实现,加载DeepSeek/Qwen模型和LoRA适配器
|
| | - `code/UI.py`: PyQt5实现的用户界面
|
| | - `code/reward.py`: 强化学习的奖励函数实现
|
| | - `code/GRPO.ipynb`: 基于规则的策略优化训练流程
|
| | - `code/data_process.py`: 数据处理脚本
|
| | - `code/LORA.py`: LoRA模型实现
|
| | - `code/LORA_with_CoT.py`: 带思维链的LoRA实现
|
| |
|
| | 数据文件夹
|
| | - `data/`: 存放训练数据(CoTdata.txt, DSdata.txt等)
|
| | - `data/CoTdata.txt`: 带思维链的训练数据
|
| | - `data/DSdata.txt`: 关键词:原文训练数据
|
| | - `data/processed_data.txt`: 处理后的训练数据
|
| |
|
| | 模型文件夹
|
| | - `DS_LoRA/`: 基础DeepSeek模型的LoRA适配器
|
| | - `DS_RL_model/`: 强化学习微调的DeepSeek模型
|
| | - `Qwen_LoRA/`: 基础Qwen模型的LoRA适配器
|
| | - `Qwen_CoT_LoRA/`: 带思维链的基础Qwen模型适配器
|
| |
|
| | 使用方法
|
| |
|
| | 1. 安装依赖:
|
| | 推荐使用conda
|
| | - conda create -name Goodmusic python==3.11 -y
|
| | - conda activate Goodmusic
|
| |
|
| | 下载Pytorch(cuda 12.6)
|
| | - pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu126
|
| |
|
| | 下载其他依赖
|
| | - pip install -r requirements.txt
|
| |
|
| | 或者使用.env的虚拟环境使用 uv 工具加速下载
|
| | - uv pip install -r requirements.txt
|
| |
|
| | 2. 运行程序:
|
| | python code/__main__.py
|
| |
|
| | 3. 在GUI界面输入关键词,生成歌词
|
| |
|
| | ## 模型训练
|
| |
|
| | 1. 数据准备: 将训练数据放入data/文件夹
|
| | 2. 运行GRPO.ipynb进行模型训练
|
| | 3. 训练好的模型会保存在对应模型文件夹 |