| # 螺钿垂直模型训练 - 学生操作手册(HuggingFace版) | |
| **版本**:v2.0 - HuggingFace协作版 | |
| **更新日期**:2026-02-08 | |
| **适用对象**:参与训练的研究生和本科生 | |
| --- | |
| ## 📌 项目概述 | |
| **项目名称**:现代螺钿产品设计垂直AI模型 | |
| **协作平台**:HuggingFace(替代Git LFS) | |
| **数据集仓库**:https://huggingface.co/datasets/KaKa427/luodian-training-data | |
| **许可证**:CC BY-NC-SA 4.0(**禁止商业使用**) | |
| --- | |
| ## ⚠️ 重要:许可证说明(必读) | |
| ### CC BY-NC-SA 4.0 许可证要点 | |
| **✅ 你可以**: | |
| - 用于**学术研究**(课程学习、毕业设计、论文发表) | |
| - **下载和使用**数据集和模型 | |
| - **修改和改进**数据标注 | |
| - **分享你的改进**(需遵循相同许可证) | |
| - **署名使用**(需注明来源和贡献者) | |
| **❌ 你不可以**: | |
| - **商业用途**:不得将数据集或模型用于任何商业产品或服务 | |
| - **出售数据**:不得以任何形式出售或转让 | |
| - **闭源改进**:如分享改进版本,必须使用相同许可证 | |
| **署名要求**: | |
| 使用数据集或模型时,请引用: | |
| ``` | |
| 数据集来源:KaKa427/luodian-training-data | |
| 指导教师:[教师姓名] | |
| 贡献学生:[你的姓名] | |
| ``` | |
| --- | |
| ## 🚀 快速开始(3步上手) | |
| ### Step 1: 注册HuggingFace账号(5分钟) | |
| #### 1.1 注册账号 | |
| ``` | |
| 访问:https://huggingface.co/join | |
| - 填写邮箱、用户名、密码 | |
| - 验证邮箱 | |
| - 完善个人资料(可选) | |
| ``` | |
| #### 1.2 获取Access Token | |
| ``` | |
| 访问:https://huggingface.co/settings/tokens | |
| → 点击 "Create new token" | |
| → Token name: luodian-project | |
| → Type: Read(只读权限即可下载) | |
| → 复制生成的Token(格式:hf_xxxxxxxxxxxxx) | |
| → 保存到安全的地方(后面会用) | |
| ``` | |
| --- | |
| ### Step 2: 安装HuggingFace CLI(10分钟) | |
| #### 2.1 激活Python环境 | |
| ```bash | |
| # 使用项目独立环境(推荐,已包含所有训练依赖) | |
| # 在项目根目录(螺钿垂直模型/)执行: | |
| ./venv/Scripts/activate | |
| # 或者使用你自己的conda环境 | |
| conda activate your_env | |
| ``` | |
| #### 2.2 安装huggingface_hub | |
| ```bash | |
| pip install huggingface_hub --upgrade | |
| ``` | |
| #### 2.3 登录HuggingFace | |
| ```bash | |
| huggingface-cli login | |
| ``` | |
| 粘贴你的Token,按回车。 | |
| **验证登录**: | |
| ```bash | |
| huggingface-cli whoami | |
| ``` | |
| 应该显示你的用户名。 | |
| --- | |
| ### Step 3: 下载种子数据(5分钟) | |
| #### 方法A:使用命令行(推荐) | |
| ```bash | |
| # 进入项目目录 | |
| cd "螺钿垂直模型" | |
| # 下载数据集 | |
| huggingface-cli download \ | |
| KaKa427/luodian-training-data \ | |
| --repo-type dataset \ | |
| --local-dir ./data/seed_from_hf | |
| ``` | |
| #### 方法B:使用Python脚本 | |
| ```python | |
| from huggingface_hub import snapshot_download | |
| snapshot_download( | |
| repo_id="KaKa427/luodian-training-data", | |
| repo_type="dataset", | |
| local_dir="./data/seed_from_hf" | |
| ) | |
| ``` | |
| #### 下载后检查 | |
| ```bash | |
| ls data/seed_from_hf/ | |
| # 应该看到: | |
| # - images/ (种子图片) | |
| # - annotations/ (标注文件) | |
| # - schema/ (数据格式定义) | |
| # - README.md (说明文档) | |
| ``` | |
| --- | |
| ## 📝 数据标注工作流程 | |
| ### 你的任务分工 | |
| **按产品类型分工**(老师会分配): | |
| - 你负责:______系列(如手持镜) | |
| - 目标数量:____张 | |
| - 截止日期:____ | |
| --- | |
| ### 标注步骤(每张图3-5分钟) | |
| #### 1. 准备你的图片 | |
| 将你的图片放入:`data/raw/你的学号/` | |
| 命名规范: | |
| ``` | |
| 你的学号_产品类型_序号.jpg | |
| 示例: | |
| 2024001_mirror_001.jpg | |
| 2024001_mirror_002.jpg | |
| 2024001_jewelry_box_001.jpg | |
| ``` | |
| #### 2. 使用交互式标注工具 | |
| ```bash | |
| cd data | |
| python interactive_labeling.py | |
| ``` | |
| 按提示输入(**口语即可,系统会自动标准化**): | |
| ``` | |
| 产品类型: mirror | |
| 胎体材质: 紫光檀 | |
| 镶嵌材料: 贝母螺钿 + 银丝 | |
| 视觉主题: 京剧脸谱 | |
| 设计风格: geometric_silhouette | |
| 复杂度: medium | |
| 尺寸: 12x8x0.5 | |
| 工时: 6-8小时 | |
| 市场定位: 欧美市场 | |
| 中文描述: 黑色木头圆镜,嵌了彩色贝壳做的京剧脸谱,很简洁像剪影 | |
| ``` | |
| #### 3. 检查生成的JSON | |
| 工具会自动生成标准化JSON,预览确认后保存到`dataset.json`。 | |
| --- | |
| ### 质量检查清单(提交前必查) | |
| 每条数据提交前确认: | |
| - [ ] 图片清晰,光线良好 | |
| - [ ] 尺寸标注完整(长x宽x高cm) | |
| - [ ] 工艺可行(6-10小时工时) | |
| - [ ] 复杂度合理(simple/medium,避免complex) | |
| - [ ] 市场定位明确 | |
| - [ ] 专业术语准确(参考tags_mapping.json) | |
| --- | |
| ## 📤 上传标注到HuggingFace | |
| ### 方法A:通过Git克隆上传(推荐,适合多次上传) | |
| #### 第一次上传: | |
| ```bash | |
| # 1. 克隆数据集仓库 | |
| git clone https://huggingface.co/datasets/KaKa427/luodian-training-data | |
| cd luodian-training-data | |
| # 2. 创建你的分支 | |
| git checkout -b student_你的学号 | |
| # 3. 复制你的标注文件 | |
| mkdir -p images/你的学号 | |
| mkdir -p annotations/你的学号 | |
| cp ~/螺钿垂直模型/data/raw/你的学号/*.jpg images/你的学号/ | |
| cp ~/螺钿垂直模型/data/annotations/*.json annotations/你的学号/ | |
| # 4. 提交并推送 | |
| git add images/你的学号 annotations/你的学号 | |
| git commit -m "Student [你的学号]: Added 20 annotated images" | |
| git push origin student_你的学号 | |
| ``` | |
| #### 第二次及以后: | |
| ```bash | |
| # 进入仓库目录 | |
| cd luodian-training-data | |
| # 拉取最新更新 | |
| git pull origin main | |
| # 切换到你的分支 | |
| git checkout student_你的学号 | |
| # 添加新标注 | |
| cp ~/新标注的图片/*.jpg images/你的学号/ | |
| cp ~/新标注的JSON/*.json annotations/你的学号/ | |
| # 提交 | |
| git add images/你的学号 annotations/你的学号 | |
| git commit -m "Student [你的学号]: Added 10 more images" | |
| git push origin student_你的学号 | |
| ``` | |
| #### 5. 创建Pull Request | |
| ``` | |
| 访问:https://huggingface.co/datasets/KaKa427/luodian-training-data | |
| → 点击 "Pull requests" | |
| → 点击 "New pull request" | |
| → 选择你的分支: student_你的学号 → main | |
| → 填写说明: | |
| Title: Student [你的学号] - Added [数量] annotated images | |
| Description: | |
| - 产品类型:手持镜 | |
| - 数量:20张 | |
| - 标注质量已自查 | |
| → 点击 "Create pull request" | |
| ``` | |
| 等待老师审核合并。 | |
| --- | |
| ### 方法B:通过Web界面上传(简单,适合一次性上传) | |
| ``` | |
| 1. 访问:https://huggingface.co/datasets/KaKa427/luodian-training-data | |
| 2. 点击 "Files" 标签 | |
| 3. 点击 "Add file" → "Upload files" | |
| 4. 拖拽你的图片和JSON文件 | |
| 5. Commit message: "Student [你的学号]: Added 10 images" | |
| 6. 点击 "Commit changes" | |
| ``` | |
| **注意**:此方法会直接提交到main分支,建议小量上传时使用。 | |
| --- | |
| ## 🏋️ 本地训练流程(有GPU的同学) | |
| ### 前提条件 | |
| - GPU: 至少8GB显存(RTX 3060 Ti以上) | |
| - 内存: 至少16GB | |
| - 磁盘空间: 至少30GB | |
| --- | |
| ### 训练步骤 | |
| #### 1. 下载完整数据集(包含所有同学的标注) | |
| **一键下载脚本**(推荐): | |
| ```bash | |
| cd 螺钿垂直模型 | |
| # 运行下载脚本 | |
| python download_dataset.py | |
| ``` | |
| 脚本会自动: | |
| - ✅ 下载HuggingFace数据集仓库的所有文件 | |
| - ✅ 包含所有同学提交的图片和标注 | |
| - ✅ 保存到 data/training_data/ 目录 | |
| - ✅ 统计图片和标注数量 | |
| **或使用命令行**: | |
| ```bash | |
| # 高级用户可以手动使用CLI | |
| huggingface-cli download \ | |
| KaKa427/luodian-training-data \ | |
| --repo-type dataset \ | |
| --local-dir ./data/training_data | |
| # 检查数据集 | |
| python validate_dataset.py --data_dir ./data/training_data | |
| ``` | |
| #### 2. 检查环境 | |
| ```bash | |
| python 检查环境.bat | |
| ``` | |
| 确保: | |
| - ✅ GPU可用 | |
| - ✅ PyTorch安装正确 | |
| - ✅ xformers已安装 | |
| #### 3. 启动训练 | |
| ```bash | |
| cd 训练脚本 | |
| # 使用默认配置(推荐) | |
| python train_llava_qlora_xformers.py \ | |
| --data_path ../data/training_data \ | |
| --output_dir ../output | |
| # 或使用TensorBoard监控版(如果存在) | |
| python train_with_tensorboard.py \ | |
| --data_path ../data/training_data \ | |
| --output_dir ../output | |
| ``` | |
| **注意**: | |
| - 训练数据来自 `data/training_data/`(包含所有同学的标注) | |
| - Checkpoint保存到 `output/`目录 | |
| - 每500步自动保存一次checkpoint | |
| #### 4. 监控训练(可选) | |
| ```bash | |
| # 在另一个终端启动TensorBoard | |
| tensorboard --logdir=../输出/logs | |
| # 在浏览器打开 | |
| http://localhost:6006 | |
| ``` | |
| #### 5. 等待训练完成 | |
| - 预计时间:2-4小时(取决于数据集大小) | |
| - Loss下降到0.3以下算正常 | |
| - 自动保存checkpoint到output_dir | |
| --- | |
| ### 训练完成后上传Checkpoint | |
| **⚠️ 注意**: | |
| - Checkpoint文件约600MB-2GB | |
| - 使用HuggingFace可免费托管(无大小限制) | |
| - 上传后其他同学可以下载使用 | |
| #### 上传步骤: | |
| **一键上传脚本**(强烈推荐): | |
| ```bash | |
| cd 螺钿垂直模型 | |
| # 运行上传脚本 | |
| python upload_checkpoint.py | |
| ``` | |
| 脚本会自动: | |
| 1. ✅ 列出所有可用的checkpoint和对应的Loss | |
| 2. ✅ 引导你选择要上传的checkpoint | |
| 3. ✅ 输入学号和姓名(用于命名) | |
| 4. ✅ 上传到HuggingFace模型仓库 | |
| 5. ✅ 自动组织为:checkpoints/学号_姓名/checkpoint-xxx/ | |
| **示例交互**: | |
| ``` | |
| 找到以下checkpoint: | |
| [1] checkpoint-500 (Loss: 0.45) | |
| [2] checkpoint-1000 (Loss: 0.32) | |
| [3] checkpoint-1500 (Loss: 0.28) | |
| 请选择要上传的checkpoint [1-3]: 3 | |
| 请输入你的信息(用于checkpoint命名): | |
| 学号(如2024001): 2024001 | |
| 姓名拼音(如zhangsan): zhangsan | |
| 即将上传: | |
| Checkpoint: checkpoint-1500 | |
| 学生: 2024001_zhangsan | |
| 仓库: KaKa427/luodian-vertical-model | |
| 确认上传? [y/N]: y | |
| ``` | |
| **或使用命令行**(高级用户): | |
| ```bash | |
| huggingface-cli upload \ | |
| KaKa427/luodian-vertical-model \ | |
| ./output/checkpoint-1000/ \ | |
| checkpoints/你的学号_姓名/checkpoint-1000/ \ | |
| --repo-type model | |
| ``` | |
| #### 记录训练日志 | |
| 在项目仓库创建文件:`训练日志/你的学号_checkpoint1.md` | |
| 内容模板: | |
| ```markdown | |
| # Checkpoint 1 - Student [你的学号] | |
| ## 训练参数 | |
| - 数据集大小:50张 | |
| - LoRA Rank: 16 | |
| - Learning Rate: 2e-4 | |
| - Max Steps: 1000 | |
| - 训练时间:3小时 | |
| ## 训练结果 | |
| - Final Loss: 0.32 | |
| - 最佳Epoch: 800 | |
| - GPU: RTX 3070 Ti | |
| ## Checkpoint位置 | |
| HuggingFace: https://huggingface.co/KaKa427/luodian-vertical-model/tree/main/checkpoints/你的名字 | |
| ## 测试效果 | |
| [可选:上传几张生成的测试图片] | |
| ``` | |
| --- | |
| ## 🎓 常见问题FAQ | |
| ### Q1: 我没有GPU,能参与吗? | |
| **A**: 可以!你可以专注于数据标注,训练由有GPU的同学负责。或使用Google Colab免费GPU。 | |
| ### Q2: HuggingFace下载很慢怎么办? | |
| **A**: | |
| ```bash | |
| # 方法1:设置镜像(如有) | |
| export HF_ENDPOINT=https://hf-mirror.com | |
| # 方法2:使用浏览器直接下载 | |
| 访问数据集页面 → Files → 点击下载 | |
| # 方法3:使用代理 | |
| export HTTP_PROXY=http://your-proxy:port | |
| ``` | |
| ### Q3: 标注一张图需要多久? | |
| **A**: | |
| - 熟练后:3-5分钟/张 | |
| - 使用interactive_labeling.py:更快 | |
| - 参考种子数据:1-2分钟/张 | |
| ### Q4: 训练失败OOM(显存不足)? | |
| **A**: | |
| 1. 确认使用了优化脚本(train_llava_qlora_xformers.py) | |
| 2. 检查xformers已安装 | |
| 3. 如仍不够,降低image_size到384px | |
| 4. 或联系有更大显存的同学代训练 | |
| ### Q5: Pull Request被拒绝了怎么办? | |
| **A**: 检查老师的反馈,可能原因: | |
| - 数据质量不达标 | |
| - 标注格式错误 | |
| - 文件命名不规范 | |
| 修改后重新提交。 | |
| ### Q6: 可以用这个模型做毕业设计吗? | |
| **A**: 可以!但请遵守CC BY-NC-SA 4.0许可证: | |
| - ✅ 学术论文、课程作业、毕业设计 | |
| - ✅ 需要署名数据来源和贡献者 | |
| - ❌ 不能用于商业产品或服务 | |
| ### Q7: 如何引用这个项目? | |
| **A**: | |
| ``` | |
| @misc{luodian2026, | |
| title={现代螺钿产品设计垂直AI模型训练数据集}, | |
| author={[教师姓名] and [学生姓名列表]}, | |
| year={2026}, | |
| publisher={HuggingFace}, | |
| howpublished={\url{https://huggingface.co/datasets/KaKa427/luodian-training-data}}, | |
| note={License: CC BY-NC-SA 4.0} | |
| } | |
| ``` | |
| --- | |
| ## 📞 获取帮助 | |
| ### 遇到技术问题? | |
| 1. **查看文档**:先看项目根目录的其他md文档 | |
| 2. **搜索Issues**:GitHub或项目群聊历史记录 | |
| 3. **询问同学**:在项目群里提问 | |
| 4. **联系老师**:复杂问题联系指导老师 | |
| ### 汇报进度 | |
| 定期(每周)在群里更新: | |
| - 已标注数量 | |
| - 遇到的问题 | |
| - 下周计划 | |
| --- | |
| ## ⏱️ 项目时间线 | |
| | 日期 | 里程碑 | 你的任务 | | |
| |------|--------|---------| | |
| | 2月8日 | 项目启动 | 注册HF账号、下载种子数据 | | |
| | 2月12日 | 开始标注 | 熟悉流程,标注5-10张练习 | | |
| | **2月15日** | **Checkpoint 1** | **完成分配的标注任务** | | |
| | 2月20日 | 扩展数据集 | 继续标注(如分配) | | |
| | **2月28日** | **Checkpoint 2** | **有GPU的同学完成训练** | | |
| | 3月7日 | 迭代优化 | 根据效果改进标注 | | |
| | **3月15日** | **最终模型** | **项目总结和展示** | | |
| --- | |
| ## 🎯 成功标准 | |
| ### 优秀贡献者(可获加分/推荐信) | |
| - 标注数量:≥30张 | |
| - 标注质量:审核通过率≥90% | |
| - 训练参与:至少完成1次训练并上传checkpoint | |
| - 团队协作:积极帮助其他同学 | |
| ### 合格标准 | |
| - 标注数量:≥15张 | |
| - 标注质量:审核通过率≥75% | |
| - 按时提交 | |
| --- | |
| **祝你训练顺利!有问题随时在群里问!** 🎉 | |
| --- | |
| *文档版本:v2.0 - HuggingFace协作版* | |
| *最后更新:2026-02-08* | |
| *维护者:[教师姓名]* | |