dataset-backup / README.md
emiliiia's picture
README: document split layout
155ae8f verified
|
Raw
History Blame Contribute Delete
1.49 kB
---
license: other
pretty_name: Dataset Backup (MSRA 9.223.177.62 /datadrive)
tags:
- backup
---
# Dataset Backup
本仓库用于**备份** MSRA 服务器 `9.223.177.62``/datadrive` 盘中的数据集。
## 说明
- 本仓库仅作**备份/归档**之用。
- 每个数据集都是**从其根目录开始整体压缩**`tar` + `pigz`,软链接已解引用以避免丢数据)。命名即原数据集文件夹名(路径分隔符 `/``__` 替换)。
- 由于 HF 单文件上限 50GB,仓库里有**两种布局**
- **小数据集(压缩后 <50GB)**:单文件 `名字.tar.gz` 直接放在一级目录。
- **大数据集(压缩后 ≥50GB)**:建一个 `名字/` 文件夹,里面是该数据集的分片 `名字.tar.gz.part000``part001`…(每片约 45GiB)。
## 恢复方式
```bash
REPO=NoProjectOnlyResearch/dataset-backup
# (A) 小数据集 —— 单文件, 直接下载解压
huggingface-cli download $REPO BeautyBench.tar.gz --repo-type dataset --local-dir .
tar -xf BeautyBench.tar.gz # 得到 BeautyBench/ 目录
# (B) 大数据集 —— 下载整个分片文件夹, 合并后解压
huggingface-cli download $REPO --repo-type dataset \
--include "UNO_makeup/*" --local-dir .
cat UNO_makeup/UNO_makeup.tar.gz.part* | tar -xz # 按序合并分片并解压
```
## 来源
- 服务器:`9.223.177.62`(MSRA)
- 来自该服务器 `/datadrive` 盘上的各数据集目录(具体路径不固定)。