luodian-training-data / docs /student_guide.md
KaKa427's picture
Update student guide: fix venv path, update env setup
a493711 verified
|
Raw
History Blame Contribute Delete
14 kB
# 螺钿垂直模型训练 - 学生操作手册(HuggingFace版)
**版本**:v2.0 - HuggingFace协作版
**更新日期**:2026-02-08
**适用对象**:参与训练的研究生和本科生
---
## 📌 项目概述
**项目名称**:现代螺钿产品设计垂直AI模型
**协作平台**:HuggingFace(替代Git LFS)
**数据集仓库**:https://huggingface.co/datasets/KaKa427/luodian-training-data
**许可证**:CC BY-NC-SA 4.0(**禁止商业使用**
---
## ⚠️ 重要:许可证说明(必读)
### CC BY-NC-SA 4.0 许可证要点
**✅ 你可以**
- 用于**学术研究**(课程学习、毕业设计、论文发表)
- **下载和使用**数据集和模型
- **修改和改进**数据标注
- **分享你的改进**(需遵循相同许可证)
- **署名使用**(需注明来源和贡献者)
**❌ 你不可以**
- **商业用途**:不得将数据集或模型用于任何商业产品或服务
- **出售数据**:不得以任何形式出售或转让
- **闭源改进**:如分享改进版本,必须使用相同许可证
**署名要求**
使用数据集或模型时,请引用:
```
数据集来源:KaKa427/luodian-training-data
指导教师:[教师姓名]
贡献学生:[你的姓名]
```
---
## 🚀 快速开始(3步上手)
### Step 1: 注册HuggingFace账号(5分钟)
#### 1.1 注册账号
```
访问:https://huggingface.co/join
- 填写邮箱、用户名、密码
- 验证邮箱
- 完善个人资料(可选)
```
#### 1.2 获取Access Token
```
访问:https://huggingface.co/settings/tokens
→ 点击 "Create new token"
→ Token name: luodian-project
→ Type: Read(只读权限即可下载)
→ 复制生成的Token(格式:hf_xxxxxxxxxxxxx)
→ 保存到安全的地方(后面会用)
```
---
### Step 2: 安装HuggingFace CLI(10分钟)
#### 2.1 激活Python环境
```bash
# 使用项目独立环境(推荐,已包含所有训练依赖)
# 在项目根目录(螺钿垂直模型/)执行:
./venv/Scripts/activate
# 或者使用你自己的conda环境
conda activate your_env
```
#### 2.2 安装huggingface_hub
```bash
pip install huggingface_hub --upgrade
```
#### 2.3 登录HuggingFace
```bash
huggingface-cli login
```
粘贴你的Token,按回车。
**验证登录**
```bash
huggingface-cli whoami
```
应该显示你的用户名。
---
### Step 3: 下载种子数据(5分钟)
#### 方法A:使用命令行(推荐)
```bash
# 进入项目目录
cd "螺钿垂直模型"
# 下载数据集
huggingface-cli download \
KaKa427/luodian-training-data \
--repo-type dataset \
--local-dir ./data/seed_from_hf
```
#### 方法B:使用Python脚本
```python
from huggingface_hub import snapshot_download
snapshot_download(
repo_id="KaKa427/luodian-training-data",
repo_type="dataset",
local_dir="./data/seed_from_hf"
)
```
#### 下载后检查
```bash
ls data/seed_from_hf/
# 应该看到:
# - images/ (种子图片)
# - annotations/ (标注文件)
# - schema/ (数据格式定义)
# - README.md (说明文档)
```
---
## 📝 数据标注工作流程
### 你的任务分工
**按产品类型分工**(老师会分配):
- 你负责:______系列(如手持镜)
- 目标数量:____张
- 截止日期:____
---
### 标注步骤(每张图3-5分钟)
#### 1. 准备你的图片
将你的图片放入:`data/raw/你的学号/`
命名规范:
```
你的学号_产品类型_序号.jpg
示例:
2024001_mirror_001.jpg
2024001_mirror_002.jpg
2024001_jewelry_box_001.jpg
```
#### 2. 使用交互式标注工具
```bash
cd data
python interactive_labeling.py
```
按提示输入(**口语即可,系统会自动标准化**):
```
产品类型: mirror
胎体材质: 紫光檀
镶嵌材料: 贝母螺钿 + 银丝
视觉主题: 京剧脸谱
设计风格: geometric_silhouette
复杂度: medium
尺寸: 12x8x0.5
工时: 6-8小时
市场定位: 欧美市场
中文描述: 黑色木头圆镜,嵌了彩色贝壳做的京剧脸谱,很简洁像剪影
```
#### 3. 检查生成的JSON
工具会自动生成标准化JSON,预览确认后保存到`dataset.json`
---
### 质量检查清单(提交前必查)
每条数据提交前确认:
- [ ] 图片清晰,光线良好
- [ ] 尺寸标注完整(长x宽x高cm)
- [ ] 工艺可行(6-10小时工时)
- [ ] 复杂度合理(simple/medium,避免complex)
- [ ] 市场定位明确
- [ ] 专业术语准确(参考tags_mapping.json)
---
## 📤 上传标注到HuggingFace
### 方法A:通过Git克隆上传(推荐,适合多次上传)
#### 第一次上传:
```bash
# 1. 克隆数据集仓库
git clone https://huggingface.co/datasets/KaKa427/luodian-training-data
cd luodian-training-data
# 2. 创建你的分支
git checkout -b student_你的学号
# 3. 复制你的标注文件
mkdir -p images/你的学号
mkdir -p annotations/你的学号
cp ~/螺钿垂直模型/data/raw/你的学号/*.jpg images/你的学号/
cp ~/螺钿垂直模型/data/annotations/*.json annotations/你的学号/
# 4. 提交并推送
git add images/你的学号 annotations/你的学号
git commit -m "Student [你的学号]: Added 20 annotated images"
git push origin student_你的学号
```
#### 第二次及以后:
```bash
# 进入仓库目录
cd luodian-training-data
# 拉取最新更新
git pull origin main
# 切换到你的分支
git checkout student_你的学号
# 添加新标注
cp ~/新标注的图片/*.jpg images/你的学号/
cp ~/新标注的JSON/*.json annotations/你的学号/
# 提交
git add images/你的学号 annotations/你的学号
git commit -m "Student [你的学号]: Added 10 more images"
git push origin student_你的学号
```
#### 5. 创建Pull Request
```
访问:https://huggingface.co/datasets/KaKa427/luodian-training-data
→ 点击 "Pull requests"
→ 点击 "New pull request"
→ 选择你的分支: student_你的学号 → main
→ 填写说明:
Title: Student [你的学号] - Added [数量] annotated images
Description:
- 产品类型:手持镜
- 数量:20张
- 标注质量已自查
→ 点击 "Create pull request"
```
等待老师审核合并。
---
### 方法B:通过Web界面上传(简单,适合一次性上传)
```
1. 访问:https://huggingface.co/datasets/KaKa427/luodian-training-data
2. 点击 "Files" 标签
3. 点击 "Add file" → "Upload files"
4. 拖拽你的图片和JSON文件
5. Commit message: "Student [你的学号]: Added 10 images"
6. 点击 "Commit changes"
```
**注意**:此方法会直接提交到main分支,建议小量上传时使用。
---
## 🏋️ 本地训练流程(有GPU的同学)
### 前提条件
- GPU: 至少8GB显存(RTX 3060 Ti以上)
- 内存: 至少16GB
- 磁盘空间: 至少30GB
---
### 训练步骤
#### 1. 下载完整数据集(包含所有同学的标注)
**一键下载脚本**(推荐):
```bash
cd 螺钿垂直模型
# 运行下载脚本
python download_dataset.py
```
脚本会自动:
- ✅ 下载HuggingFace数据集仓库的所有文件
- ✅ 包含所有同学提交的图片和标注
- ✅ 保存到 data/training_data/ 目录
- ✅ 统计图片和标注数量
**或使用命令行**
```bash
# 高级用户可以手动使用CLI
huggingface-cli download \
KaKa427/luodian-training-data \
--repo-type dataset \
--local-dir ./data/training_data
# 检查数据集
python validate_dataset.py --data_dir ./data/training_data
```
#### 2. 检查环境
```bash
python 检查环境.bat
```
确保:
- ✅ GPU可用
- ✅ PyTorch安装正确
- ✅ xformers已安装
#### 3. 启动训练
```bash
cd 训练脚本
# 使用默认配置(推荐)
python train_llava_qlora_xformers.py \
--data_path ../data/training_data \
--output_dir ../output
# 或使用TensorBoard监控版(如果存在)
python train_with_tensorboard.py \
--data_path ../data/training_data \
--output_dir ../output
```
**注意**
- 训练数据来自 `data/training_data/`(包含所有同学的标注)
- Checkpoint保存到 `output/`目录
- 每500步自动保存一次checkpoint
#### 4. 监控训练(可选)
```bash
# 在另一个终端启动TensorBoard
tensorboard --logdir=../输出/logs
# 在浏览器打开
http://localhost:6006
```
#### 5. 等待训练完成
- 预计时间:2-4小时(取决于数据集大小)
- Loss下降到0.3以下算正常
- 自动保存checkpoint到output_dir
---
### 训练完成后上传Checkpoint
**⚠️ 注意**
- Checkpoint文件约600MB-2GB
- 使用HuggingFace可免费托管(无大小限制)
- 上传后其他同学可以下载使用
#### 上传步骤:
**一键上传脚本**(强烈推荐):
```bash
cd 螺钿垂直模型
# 运行上传脚本
python upload_checkpoint.py
```
脚本会自动:
1. ✅ 列出所有可用的checkpoint和对应的Loss
2. ✅ 引导你选择要上传的checkpoint
3. ✅ 输入学号和姓名(用于命名)
4. ✅ 上传到HuggingFace模型仓库
5. ✅ 自动组织为:checkpoints/学号_姓名/checkpoint-xxx/
**示例交互**:
```
找到以下checkpoint:
[1] checkpoint-500 (Loss: 0.45)
[2] checkpoint-1000 (Loss: 0.32)
[3] checkpoint-1500 (Loss: 0.28)
请选择要上传的checkpoint [1-3]: 3
请输入你的信息(用于checkpoint命名):
学号(如2024001): 2024001
姓名拼音(如zhangsan): zhangsan
即将上传:
Checkpoint: checkpoint-1500
学生: 2024001_zhangsan
仓库: KaKa427/luodian-vertical-model
确认上传? [y/N]: y
```
**或使用命令行**(高级用户):
```bash
huggingface-cli upload \
KaKa427/luodian-vertical-model \
./output/checkpoint-1000/ \
checkpoints/你的学号_姓名/checkpoint-1000/ \
--repo-type model
```
#### 记录训练日志
在项目仓库创建文件:`训练日志/你的学号_checkpoint1.md`
内容模板:
```markdown
# Checkpoint 1 - Student [你的学号]
## 训练参数
- 数据集大小:50张
- LoRA Rank: 16
- Learning Rate: 2e-4
- Max Steps: 1000
- 训练时间:3小时
## 训练结果
- Final Loss: 0.32
- 最佳Epoch: 800
- GPU: RTX 3070 Ti
## Checkpoint位置
HuggingFace: https://huggingface.co/KaKa427/luodian-vertical-model/tree/main/checkpoints/你的名字
## 测试效果
[可选:上传几张生成的测试图片]
```
---
## 🎓 常见问题FAQ
### Q1: 我没有GPU,能参与吗?
**A**: 可以!你可以专注于数据标注,训练由有GPU的同学负责。或使用Google Colab免费GPU。
### Q2: HuggingFace下载很慢怎么办?
**A**:
```bash
# 方法1:设置镜像(如有)
export HF_ENDPOINT=https://hf-mirror.com
# 方法2:使用浏览器直接下载
访问数据集页面 → Files → 点击下载
# 方法3:使用代理
export HTTP_PROXY=http://your-proxy:port
```
### Q3: 标注一张图需要多久?
**A**:
- 熟练后:3-5分钟/张
- 使用interactive_labeling.py:更快
- 参考种子数据:1-2分钟/张
### Q4: 训练失败OOM(显存不足)?
**A**:
1. 确认使用了优化脚本(train_llava_qlora_xformers.py)
2. 检查xformers已安装
3. 如仍不够,降低image_size到384px
4. 或联系有更大显存的同学代训练
### Q5: Pull Request被拒绝了怎么办?
**A**: 检查老师的反馈,可能原因:
- 数据质量不达标
- 标注格式错误
- 文件命名不规范
修改后重新提交。
### Q6: 可以用这个模型做毕业设计吗?
**A**: 可以!但请遵守CC BY-NC-SA 4.0许可证:
- ✅ 学术论文、课程作业、毕业设计
- ✅ 需要署名数据来源和贡献者
- ❌ 不能用于商业产品或服务
### Q7: 如何引用这个项目?
**A**:
```
@misc{luodian2026,
title={现代螺钿产品设计垂直AI模型训练数据集},
author={[教师姓名] and [学生姓名列表]},
year={2026},
publisher={HuggingFace},
howpublished={\url{https://huggingface.co/datasets/KaKa427/luodian-training-data}},
note={License: CC BY-NC-SA 4.0}
}
```
---
## 📞 获取帮助
### 遇到技术问题?
1. **查看文档**:先看项目根目录的其他md文档
2. **搜索Issues**:GitHub或项目群聊历史记录
3. **询问同学**:在项目群里提问
4. **联系老师**:复杂问题联系指导老师
### 汇报进度
定期(每周)在群里更新:
- 已标注数量
- 遇到的问题
- 下周计划
---
## ⏱️ 项目时间线
| 日期 | 里程碑 | 你的任务 |
|------|--------|---------|
| 2月8日 | 项目启动 | 注册HF账号、下载种子数据 |
| 2月12日 | 开始标注 | 熟悉流程,标注5-10张练习 |
| **2月15日** | **Checkpoint 1** | **完成分配的标注任务** |
| 2月20日 | 扩展数据集 | 继续标注(如分配) |
| **2月28日** | **Checkpoint 2** | **有GPU的同学完成训练** |
| 3月7日 | 迭代优化 | 根据效果改进标注 |
| **3月15日** | **最终模型** | **项目总结和展示** |
---
## 🎯 成功标准
### 优秀贡献者(可获加分/推荐信)
- 标注数量:≥30张
- 标注质量:审核通过率≥90%
- 训练参与:至少完成1次训练并上传checkpoint
- 团队协作:积极帮助其他同学
### 合格标准
- 标注数量:≥15张
- 标注质量:审核通过率≥75%
- 按时提交
---
**祝你训练顺利!有问题随时在群里问!** 🎉
---
*文档版本:v2.0 - HuggingFace协作版*
*最后更新:2026-02-08*
*维护者:[教师姓名]*