File size: 13,978 Bytes
a493711 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161 162 163 164 165 166 167 168 169 170 171 172 173 174 175 176 177 178 179 180 181 182 183 184 185 186 187 188 189 190 191 192 193 194 195 196 197 198 199 200 201 202 203 204 205 206 207 208 209 210 211 212 213 214 215 216 217 218 219 220 221 222 223 224 225 226 227 228 229 230 231 232 233 234 235 236 237 238 239 240 241 242 243 244 245 246 247 248 249 250 251 252 253 254 255 256 257 258 259 260 261 262 263 264 265 266 267 268 269 270 271 272 273 274 275 276 277 278 279 280 281 282 283 284 285 286 287 288 289 290 291 292 293 294 295 296 297 298 299 300 301 302 303 304 305 306 307 308 309 310 311 312 313 314 315 316 317 318 319 320 321 322 323 324 325 326 327 328 329 330 331 332 333 334 335 336 337 338 339 340 341 342 343 344 345 346 347 348 349 350 351 352 353 354 355 356 357 358 359 360 361 362 363 364 365 366 367 368 369 370 371 372 373 374 375 376 377 378 379 380 381 382 383 384 385 386 387 388 389 390 391 392 393 394 395 396 397 398 399 400 401 402 403 404 405 406 407 408 409 410 411 412 413 414 415 416 417 418 419 420 421 422 423 424 425 426 427 428 429 430 431 432 433 434 435 436 437 438 439 440 441 442 443 444 445 446 447 448 449 450 451 452 453 454 455 456 457 458 459 460 461 462 463 464 465 466 467 468 469 470 471 472 473 474 475 476 477 478 479 480 481 482 483 484 485 486 487 488 489 490 491 492 493 494 495 496 497 498 499 500 501 502 503 504 505 506 507 508 509 510 511 512 513 514 515 516 517 518 519 520 521 522 523 524 525 526 527 528 529 530 531 532 533 534 535 536 537 538 539 540 541 542 543 544 545 546 547 548 549 550 551 552 553 554 555 556 557 | # 螺钿垂直模型训练 - 学生操作手册(HuggingFace版)
**版本**:v2.0 - HuggingFace协作版
**更新日期**:2026-02-08
**适用对象**:参与训练的研究生和本科生
---
## 📌 项目概述
**项目名称**:现代螺钿产品设计垂直AI模型
**协作平台**:HuggingFace(替代Git LFS)
**数据集仓库**:https://huggingface.co/datasets/KaKa427/luodian-training-data
**许可证**:CC BY-NC-SA 4.0(**禁止商业使用**)
---
## ⚠️ 重要:许可证说明(必读)
### CC BY-NC-SA 4.0 许可证要点
**✅ 你可以**:
- 用于**学术研究**(课程学习、毕业设计、论文发表)
- **下载和使用**数据集和模型
- **修改和改进**数据标注
- **分享你的改进**(需遵循相同许可证)
- **署名使用**(需注明来源和贡献者)
**❌ 你不可以**:
- **商业用途**:不得将数据集或模型用于任何商业产品或服务
- **出售数据**:不得以任何形式出售或转让
- **闭源改进**:如分享改进版本,必须使用相同许可证
**署名要求**:
使用数据集或模型时,请引用:
```
数据集来源:KaKa427/luodian-training-data
指导教师:[教师姓名]
贡献学生:[你的姓名]
```
---
## 🚀 快速开始(3步上手)
### Step 1: 注册HuggingFace账号(5分钟)
#### 1.1 注册账号
```
访问:https://huggingface.co/join
- 填写邮箱、用户名、密码
- 验证邮箱
- 完善个人资料(可选)
```
#### 1.2 获取Access Token
```
访问:https://huggingface.co/settings/tokens
→ 点击 "Create new token"
→ Token name: luodian-project
→ Type: Read(只读权限即可下载)
→ 复制生成的Token(格式:hf_xxxxxxxxxxxxx)
→ 保存到安全的地方(后面会用)
```
---
### Step 2: 安装HuggingFace CLI(10分钟)
#### 2.1 激活Python环境
```bash
# 使用项目独立环境(推荐,已包含所有训练依赖)
# 在项目根目录(螺钿垂直模型/)执行:
./venv/Scripts/activate
# 或者使用你自己的conda环境
conda activate your_env
```
#### 2.2 安装huggingface_hub
```bash
pip install huggingface_hub --upgrade
```
#### 2.3 登录HuggingFace
```bash
huggingface-cli login
```
粘贴你的Token,按回车。
**验证登录**:
```bash
huggingface-cli whoami
```
应该显示你的用户名。
---
### Step 3: 下载种子数据(5分钟)
#### 方法A:使用命令行(推荐)
```bash
# 进入项目目录
cd "螺钿垂直模型"
# 下载数据集
huggingface-cli download \
KaKa427/luodian-training-data \
--repo-type dataset \
--local-dir ./data/seed_from_hf
```
#### 方法B:使用Python脚本
```python
from huggingface_hub import snapshot_download
snapshot_download(
repo_id="KaKa427/luodian-training-data",
repo_type="dataset",
local_dir="./data/seed_from_hf"
)
```
#### 下载后检查
```bash
ls data/seed_from_hf/
# 应该看到:
# - images/ (种子图片)
# - annotations/ (标注文件)
# - schema/ (数据格式定义)
# - README.md (说明文档)
```
---
## 📝 数据标注工作流程
### 你的任务分工
**按产品类型分工**(老师会分配):
- 你负责:______系列(如手持镜)
- 目标数量:____张
- 截止日期:____
---
### 标注步骤(每张图3-5分钟)
#### 1. 准备你的图片
将你的图片放入:`data/raw/你的学号/`
命名规范:
```
你的学号_产品类型_序号.jpg
示例:
2024001_mirror_001.jpg
2024001_mirror_002.jpg
2024001_jewelry_box_001.jpg
```
#### 2. 使用交互式标注工具
```bash
cd data
python interactive_labeling.py
```
按提示输入(**口语即可,系统会自动标准化**):
```
产品类型: mirror
胎体材质: 紫光檀
镶嵌材料: 贝母螺钿 + 银丝
视觉主题: 京剧脸谱
设计风格: geometric_silhouette
复杂度: medium
尺寸: 12x8x0.5
工时: 6-8小时
市场定位: 欧美市场
中文描述: 黑色木头圆镜,嵌了彩色贝壳做的京剧脸谱,很简洁像剪影
```
#### 3. 检查生成的JSON
工具会自动生成标准化JSON,预览确认后保存到`dataset.json`。
---
### 质量检查清单(提交前必查)
每条数据提交前确认:
- [ ] 图片清晰,光线良好
- [ ] 尺寸标注完整(长x宽x高cm)
- [ ] 工艺可行(6-10小时工时)
- [ ] 复杂度合理(simple/medium,避免complex)
- [ ] 市场定位明确
- [ ] 专业术语准确(参考tags_mapping.json)
---
## 📤 上传标注到HuggingFace
### 方法A:通过Git克隆上传(推荐,适合多次上传)
#### 第一次上传:
```bash
# 1. 克隆数据集仓库
git clone https://huggingface.co/datasets/KaKa427/luodian-training-data
cd luodian-training-data
# 2. 创建你的分支
git checkout -b student_你的学号
# 3. 复制你的标注文件
mkdir -p images/你的学号
mkdir -p annotations/你的学号
cp ~/螺钿垂直模型/data/raw/你的学号/*.jpg images/你的学号/
cp ~/螺钿垂直模型/data/annotations/*.json annotations/你的学号/
# 4. 提交并推送
git add images/你的学号 annotations/你的学号
git commit -m "Student [你的学号]: Added 20 annotated images"
git push origin student_你的学号
```
#### 第二次及以后:
```bash
# 进入仓库目录
cd luodian-training-data
# 拉取最新更新
git pull origin main
# 切换到你的分支
git checkout student_你的学号
# 添加新标注
cp ~/新标注的图片/*.jpg images/你的学号/
cp ~/新标注的JSON/*.json annotations/你的学号/
# 提交
git add images/你的学号 annotations/你的学号
git commit -m "Student [你的学号]: Added 10 more images"
git push origin student_你的学号
```
#### 5. 创建Pull Request
```
访问:https://huggingface.co/datasets/KaKa427/luodian-training-data
→ 点击 "Pull requests"
→ 点击 "New pull request"
→ 选择你的分支: student_你的学号 → main
→ 填写说明:
Title: Student [你的学号] - Added [数量] annotated images
Description:
- 产品类型:手持镜
- 数量:20张
- 标注质量已自查
→ 点击 "Create pull request"
```
等待老师审核合并。
---
### 方法B:通过Web界面上传(简单,适合一次性上传)
```
1. 访问:https://huggingface.co/datasets/KaKa427/luodian-training-data
2. 点击 "Files" 标签
3. 点击 "Add file" → "Upload files"
4. 拖拽你的图片和JSON文件
5. Commit message: "Student [你的学号]: Added 10 images"
6. 点击 "Commit changes"
```
**注意**:此方法会直接提交到main分支,建议小量上传时使用。
---
## 🏋️ 本地训练流程(有GPU的同学)
### 前提条件
- GPU: 至少8GB显存(RTX 3060 Ti以上)
- 内存: 至少16GB
- 磁盘空间: 至少30GB
---
### 训练步骤
#### 1. 下载完整数据集(包含所有同学的标注)
**一键下载脚本**(推荐):
```bash
cd 螺钿垂直模型
# 运行下载脚本
python download_dataset.py
```
脚本会自动:
- ✅ 下载HuggingFace数据集仓库的所有文件
- ✅ 包含所有同学提交的图片和标注
- ✅ 保存到 data/training_data/ 目录
- ✅ 统计图片和标注数量
**或使用命令行**:
```bash
# 高级用户可以手动使用CLI
huggingface-cli download \
KaKa427/luodian-training-data \
--repo-type dataset \
--local-dir ./data/training_data
# 检查数据集
python validate_dataset.py --data_dir ./data/training_data
```
#### 2. 检查环境
```bash
python 检查环境.bat
```
确保:
- ✅ GPU可用
- ✅ PyTorch安装正确
- ✅ xformers已安装
#### 3. 启动训练
```bash
cd 训练脚本
# 使用默认配置(推荐)
python train_llava_qlora_xformers.py \
--data_path ../data/training_data \
--output_dir ../output
# 或使用TensorBoard监控版(如果存在)
python train_with_tensorboard.py \
--data_path ../data/training_data \
--output_dir ../output
```
**注意**:
- 训练数据来自 `data/training_data/`(包含所有同学的标注)
- Checkpoint保存到 `output/`目录
- 每500步自动保存一次checkpoint
#### 4. 监控训练(可选)
```bash
# 在另一个终端启动TensorBoard
tensorboard --logdir=../输出/logs
# 在浏览器打开
http://localhost:6006
```
#### 5. 等待训练完成
- 预计时间:2-4小时(取决于数据集大小)
- Loss下降到0.3以下算正常
- 自动保存checkpoint到output_dir
---
### 训练完成后上传Checkpoint
**⚠️ 注意**:
- Checkpoint文件约600MB-2GB
- 使用HuggingFace可免费托管(无大小限制)
- 上传后其他同学可以下载使用
#### 上传步骤:
**一键上传脚本**(强烈推荐):
```bash
cd 螺钿垂直模型
# 运行上传脚本
python upload_checkpoint.py
```
脚本会自动:
1. ✅ 列出所有可用的checkpoint和对应的Loss
2. ✅ 引导你选择要上传的checkpoint
3. ✅ 输入学号和姓名(用于命名)
4. ✅ 上传到HuggingFace模型仓库
5. ✅ 自动组织为:checkpoints/学号_姓名/checkpoint-xxx/
**示例交互**:
```
找到以下checkpoint:
[1] checkpoint-500 (Loss: 0.45)
[2] checkpoint-1000 (Loss: 0.32)
[3] checkpoint-1500 (Loss: 0.28)
请选择要上传的checkpoint [1-3]: 3
请输入你的信息(用于checkpoint命名):
学号(如2024001): 2024001
姓名拼音(如zhangsan): zhangsan
即将上传:
Checkpoint: checkpoint-1500
学生: 2024001_zhangsan
仓库: KaKa427/luodian-vertical-model
确认上传? [y/N]: y
```
**或使用命令行**(高级用户):
```bash
huggingface-cli upload \
KaKa427/luodian-vertical-model \
./output/checkpoint-1000/ \
checkpoints/你的学号_姓名/checkpoint-1000/ \
--repo-type model
```
#### 记录训练日志
在项目仓库创建文件:`训练日志/你的学号_checkpoint1.md`
内容模板:
```markdown
# Checkpoint 1 - Student [你的学号]
## 训练参数
- 数据集大小:50张
- LoRA Rank: 16
- Learning Rate: 2e-4
- Max Steps: 1000
- 训练时间:3小时
## 训练结果
- Final Loss: 0.32
- 最佳Epoch: 800
- GPU: RTX 3070 Ti
## Checkpoint位置
HuggingFace: https://huggingface.co/KaKa427/luodian-vertical-model/tree/main/checkpoints/你的名字
## 测试效果
[可选:上传几张生成的测试图片]
```
---
## 🎓 常见问题FAQ
### Q1: 我没有GPU,能参与吗?
**A**: 可以!你可以专注于数据标注,训练由有GPU的同学负责。或使用Google Colab免费GPU。
### Q2: HuggingFace下载很慢怎么办?
**A**:
```bash
# 方法1:设置镜像(如有)
export HF_ENDPOINT=https://hf-mirror.com
# 方法2:使用浏览器直接下载
访问数据集页面 → Files → 点击下载
# 方法3:使用代理
export HTTP_PROXY=http://your-proxy:port
```
### Q3: 标注一张图需要多久?
**A**:
- 熟练后:3-5分钟/张
- 使用interactive_labeling.py:更快
- 参考种子数据:1-2分钟/张
### Q4: 训练失败OOM(显存不足)?
**A**:
1. 确认使用了优化脚本(train_llava_qlora_xformers.py)
2. 检查xformers已安装
3. 如仍不够,降低image_size到384px
4. 或联系有更大显存的同学代训练
### Q5: Pull Request被拒绝了怎么办?
**A**: 检查老师的反馈,可能原因:
- 数据质量不达标
- 标注格式错误
- 文件命名不规范
修改后重新提交。
### Q6: 可以用这个模型做毕业设计吗?
**A**: 可以!但请遵守CC BY-NC-SA 4.0许可证:
- ✅ 学术论文、课程作业、毕业设计
- ✅ 需要署名数据来源和贡献者
- ❌ 不能用于商业产品或服务
### Q7: 如何引用这个项目?
**A**:
```
@misc{luodian2026,
title={现代螺钿产品设计垂直AI模型训练数据集},
author={[教师姓名] and [学生姓名列表]},
year={2026},
publisher={HuggingFace},
howpublished={\url{https://huggingface.co/datasets/KaKa427/luodian-training-data}},
note={License: CC BY-NC-SA 4.0}
}
```
---
## 📞 获取帮助
### 遇到技术问题?
1. **查看文档**:先看项目根目录的其他md文档
2. **搜索Issues**:GitHub或项目群聊历史记录
3. **询问同学**:在项目群里提问
4. **联系老师**:复杂问题联系指导老师
### 汇报进度
定期(每周)在群里更新:
- 已标注数量
- 遇到的问题
- 下周计划
---
## ⏱️ 项目时间线
| 日期 | 里程碑 | 你的任务 |
|------|--------|---------|
| 2月8日 | 项目启动 | 注册HF账号、下载种子数据 |
| 2月12日 | 开始标注 | 熟悉流程,标注5-10张练习 |
| **2月15日** | **Checkpoint 1** | **完成分配的标注任务** |
| 2月20日 | 扩展数据集 | 继续标注(如分配) |
| **2月28日** | **Checkpoint 2** | **有GPU的同学完成训练** |
| 3月7日 | 迭代优化 | 根据效果改进标注 |
| **3月15日** | **最终模型** | **项目总结和展示** |
---
## 🎯 成功标准
### 优秀贡献者(可获加分/推荐信)
- 标注数量:≥30张
- 标注质量:审核通过率≥90%
- 训练参与:至少完成1次训练并上传checkpoint
- 团队协作:积极帮助其他同学
### 合格标准
- 标注数量:≥15张
- 标注质量:审核通过率≥75%
- 按时提交
---
**祝你训练顺利!有问题随时在群里问!** 🎉
---
*文档版本:v2.0 - HuggingFace协作版*
*最后更新:2026-02-08*
*维护者:[教师姓名]*
|