| license: other | |
| pretty_name: Dataset Backup (MSRA 9.223.177.62 /datadrive) | |
| tags: | |
| - backup | |
| # Dataset Backup | |
| 本仓库用于**备份** MSRA 服务器 `9.223.177.62` 上 `/datadrive` 盘中的数据集。 | |
| ## 说明 | |
| - 本仓库仅作**备份/归档**之用。 | |
| - 每个数据集都是**从其根目录开始整体压缩**(`tar` + `pigz`,软链接已解引用以避免丢数据)。命名即原数据集文件夹名(路径分隔符 `/` 用 `__` 替换)。 | |
| - 由于 HF 单文件上限 50GB,仓库里有**两种布局**: | |
| - **小数据集(压缩后 <50GB)**:单文件 `名字.tar.gz` 直接放在一级目录。 | |
| - **大数据集(压缩后 ≥50GB)**:建一个 `名字/` 文件夹,里面是该数据集的分片 `名字.tar.gz.part000`、`part001`…(每片约 45GiB)。 | |
| ## 恢复方式 | |
| ```bash | |
| REPO=NoProjectOnlyResearch/dataset-backup | |
| # (A) 小数据集 —— 单文件, 直接下载解压 | |
| huggingface-cli download $REPO BeautyBench.tar.gz --repo-type dataset --local-dir . | |
| tar -xf BeautyBench.tar.gz # 得到 BeautyBench/ 目录 | |
| # (B) 大数据集 —— 下载整个分片文件夹, 合并后解压 | |
| huggingface-cli download $REPO --repo-type dataset \ | |
| --include "UNO_makeup/*" --local-dir . | |
| cat UNO_makeup/UNO_makeup.tar.gz.part* | tar -xz # 按序合并分片并解压 | |
| ``` | |
| ## 来源 | |
| - 服务器:`9.223.177.62`(MSRA) | |
| - 来自该服务器 `/datadrive` 盘上的各数据集目录(具体路径不固定)。 | |