Datasets:

TaxonomyProject
/

SimulationMetadata

SimulationMetadata/
├── objects/                      # 物体元数据
│   ├── background_objects.json
│   ├── object_placement/         # 物体放置规则
│   └── objects_list/            # 物体列表和映射
├── scenes/                       # 场景数据
│   ├── annotations/             # 场景标注（JSON + 可视化图片）
│   ├── filter/                  # 过滤后的数据
│   └── image_quality_ratings.json  # 图片质量评分
└── taxonomy/                     # 分类体系
    ├── taxonomy.json
    ├── all_objects.json
    └── *.csv (各种属性表)

上传到 Hugging Face

方法 1：使用脚本（推荐）

cd /home/xwang378/scratch/2025/Taxonomy/Data/SimulationMetadata
bash upload.sh

方法 2：直接运行 Python

cd /home/xwang378/scratch/2025/Taxonomy/Data/SimulationMetadata
python upload_hf.py

方法 3：后台运行（推荐用于大文件夹）

cd /home/xwang378/scratch/2025/Taxonomy/Data/SimulationMetadata
nohup python upload_hf.py > upload_log.txt 2>&1 &

# 查看进度
tail -f upload_log.txt

前提条件

安装 huggingface_hub
```
pip install huggingface_hub
```

登录 Hugging Face

huggingface-cli login

或设置环境变量：

export HF_TOKEN="your_token_here"

确保仓库存在
- 仓库名：TaxonomyProject/SimulationMetadata
- 类型：Dataset
- 权限：Write access

特性

✅ 智能上传：使用 upload_large_folder 优化大文件夹上传
✅ 并行上传：8 个线程并发上传
✅ 断点续传：中断后可重新运行，自动跳过已上传文件
✅ 自动排除：排除脚本、缓存、日志等不必要文件
✅ 进度显示：实时显示上传进度

预计时间

取决于：

文件总数：~数千个文件
总大小：~数 GB
网络速度：~10-50 MB/s

预计时间：30分钟 - 2小时

故障排除

问题 1：登录失败

# 重新登录
huggingface-cli login

问题 2：权限错误

确保您对 TaxonomyProject/SimulationMetadata 有写权限
确认仓库类型是 dataset，不是 model

问题 3：网络中断

不用担心！重新运行脚本会自动从中断处继续
已上传的文件不会重复上传

问题 4：查看上传进度

# 如果在后台运行
tail -f upload_log.txt

# 或查看 HF 仓库页面
# https://huggingface.co/datasets/TaxonomyProject/SimulationMetadata

文件排除规则

以下文件会被自动排除（在 ignore_patterns 中定义）：

upload_hf.py - 上传脚本本身
*.pyc - Python 编译缓存
__pycache__/ - Python 缓存目录
.DS_Store - Mac 系统文件
*.log - 日志文件

手动检查

上传完成后，访问： https://huggingface.co/datasets/TaxonomyProject/SimulationMetadata

验证所有文件夹和文件是否正确上传。

更新数据

如果需要更新已上传的数据，只需重新运行脚本：

python upload_hf.py

它会智能地只上传变更的文件。