SFT / README.md
WhynotGPT's picture
Register full H2O ARCTIC ego supplement; reuse base shards
a72b03a verified
|
Raw History Blame Contribute Delete
4.83 kB
metadata
language:
  - en
  - zh
task_categories:
  - keypoint-detection
license: other
license_name: source-dataset-terms
license_link: https://huggingface.co/datasets/WhynotGPT/SFT/blob/main/README.md#sources

EgoNet SFT:H2O / ARCTIC 完整 ego 数据池

新版 releases/20261028_ego_full/ 在此前筛选版上补齐 G2 全部已存 H2O cam4、ARCTIC ego view 0 图像及配套原生标注/标定。已有分片按哈希引用,新增差额单独上传,旧版本不被覆盖。是否上传完成以新版 upload_status.json 的 complete 字段为准。

图像与划分

数据 Train RGB Val RGB Test RGB
H2O cam4 68,929 14,676 30,724
ARCTIC ego view 0 192,383 25,883 25,140

这里按录制所属的官方 split 统计目录内全部 RGB,不把图像总数等同于有效姿态监督数量。H2O 官方 pose_train/val/test.txt 分别引用 55,742 / 11,638 / 23,391 帧,均已覆盖;目录中的额外 RGB 不自动获得姿态监督资格。ARCTIC train/val 有原生 MANO,test 图像无本包可用的公开手部 GT。

ARCTIC 已补回 s01/microwave_use_02 的 662 帧;s06/notebook_use_01 的 675–681 共 7 帧在核验的官方图像包中也缺失,显式保留缺口,不复制邻帧伪造补齐。ARCTIC 图像为官方 cropped_images 的 ego 全帧缩放版,通常 840×600,不是原始 2800×2000,也不是按手框裁剪;reader 仍需按原始标定和 ioi_offset 对齐并去畸变。

H2O RGB 保留 PNG,metric depth 保留无损 PNG;ARCTIC 保留源 JPEG。本次不进行 Q95 重编码。仓库不含 HOT3D、渲染数据或第三人称图像;EgoRenderer 继续复用独立仓库。

原生标签与 refit 覆盖

原生 MANO、关节、相机内外参和官方划分用于全量数据读取。此前 380 份 canonical/refit 标签、3,867 份 filtered GT及冻结训练/评估清单保留原字节。

补图像不等于补 refit。 现有 corrected-left / rotation-fix 训练标签仍只覆盖 H2O 47,594 帧、ARCTIC 170,301 帧;新增训练 RGB 合计 43,417 帧不被冒称已有 refit。metadata/ego_full_20261028/frames.jsonl.gz 逐帧登记录制 split、官方 pose split、是否存在旧 canonical/refit 帧条目。帧条目存在性不是左右手每项监督均有效,仍需读取对应 mask。

此版本是完整数据池,没有替换正在使用的训练 manifest、监督、归一化或评估口径,也没有启动训练。官方 train/val/test 保持隔离;旧 development/confirmation 仍是固定小面板,不自动变成全量官方评估。

下载、解包和校验

pip install -U huggingface_hub
hf download WhynotGPT/SFT releases/20261028_ego_full/download_release.py \
  --repo-type dataset --local-dir ./sft_download
python ./sft_download/releases/20261028_ego_full/download_release.py \
  --root /your/data/EgoNet_SFT --extract

新版 catalog 包含旧版复用分片及新增分片,默认一次下载完整并集。--only metadata,canonical_labels,filtered_gt,h2o_ego,arctic_ego 可选择组件。脚本固定一次 revision,逐分片/逐文件核对 SHA256,拒绝目录穿越和覆盖不同内容的已有文件。已有同路径同哈希的下载和解包文件可复用。下载 tar 会保留,磁盘需同时容纳归档与解包数据。

EgoNet_SFT/
├── H2O/extracted/                       # cam4 全部已有 RGB/depth/原生标注/标定与官方 split
├── ARCTIC/data/                         # ego 图、raw_seqs、meta、官方 split
├── canonical_labels/                   # 原有训练 refit,不冒称已补全
├── filtered_gt/{H2O,ARCTIC}/
└── metadata/
    ├── ego_full_20261028/               # 全量逐帧清单、scope、G2 补全审计
    ├── cache/                           # 原有筛选版训练清单与两源索引
    └── eval/frozen_panels_sync_v2/       # 原有固定评估面板

绝对路径迁移见新版 path_mapping.json。原始标注与历史清单不改写,不将新生成的文件哈希冒充旧资产。MANO 模型、视觉初始化、checkpoint 和归一化训练资产不在本数据包中。

G1 完整入口:/SSD2/wuyifan_EgoNet/EgoNet_Data/sft/ego_full_20261028/。本地通过经过哈希核验的现有文件与新增副本构建目录链接,依赖链接目标,不能只复制软链接到另一台机器;HF tar 内均为实际文件。

Sources