Stage EgoHOS shared-v1.1 1572/1572

EgoHOS/shared-v1.1/doc/CONTRACT.md

@@ -0,0 +1,163 @@
+> EgoHOS shared-v1.1：本次仅完成目录更名（`shared-v1.0` → `shared-v1.1`）与本合同替换；本数据集不含数值张量组件，v1.1 的张量合并规则对其不适用，106 个视图的 metainfo 版本串仍为 v1.0（已登记偏差）。
+
+# 手物数据仓库统一约定 v1.1：张量合并存储
+
+格式版本：`hand-warehouse/1.1`。张量存储约定：`pt/tensor_bundle/v1`。
+
+状态：EgoHOS 本次仅完成目录更名（`shared-v1.0` → `shared-v1.1`）与本合同替换，未做本地数据迁移、全量一致性验收或逐视图复核页。本数据集的 `components` 只声明 `rgb` 与 `segment` 两个媒体组件（另有各自的有效性文件），不含任何数值张量组件，故本版的张量合并规则对其不适用，更名不改变任何已发布文件的内容。`data/*/ego/metainfo.json`（106 个视图）仍为 `schema_version=hand-warehouse/1.0`、`release_id=shared-v1.0`，`doc/schema.json` 仍为 v1.0 注册表，`script/` 亦未适配——以上为本次登记的偏差，尚未按本版要求完成适配。人工复查与 HF 发布尚未完成。
+
+本版以 [v1.0 合同](V1_0_SEMANTICS.md) 为语义基础：任务范围、两层序列/相机组织、数据类型、单位、坐标系、时间对齐、左右手顺序、官方划分、view_type、来源、可用监督规则、媒体无损编码和验收要求均保留。下文仅替代数值张量组件的独立 Tensor 文件、对应 `*_valid.pt` 及文件引用规定；这些旧文件名仅用于识别对应逻辑字段。媒体和 JSONL 组件的有效性文件及引用保持 v1.0，不纳入合并。未明确改变的语义继续执行 v1.0。
+
+本版按用户约定作为 v1.0 的小版本存储修订，后续所有数据集逐步迁移到 v1.1。数值字段与 valid 语义不变，但 `.pt` 物理结构和引用方式改变，旧读取器不能未经适配直接读取新字典。各数据集在原 `shared-v1.0` 目录内逐步升级，完整验收后将目录更名为 `shared-v1.1`，不长期保留两套发布树。最终 `metainfo.schema_version=hand-warehouse/1.1`、`release_id=shared-v1.1`；尚未迁移的数据集仍使用原目录和版本。升级与发布流程见 [MIGRATION.md](MIGRATION.md)。实施前须按配套 v1.1 注册表完成读写/校验工具；不得将 v1.0 的 schema.json 改个版本号作为已完成适配的证明。正式发布时须提供完整合同与匹配注册表，不依赖本地草案目录中的相对链接。
+
+## 1. 合并边界
+
+1. 数值张量与对应有效性必须在同一个 `.pt` 文件、同一个字段字典内保存：`{"data": Tensor, "valid": BoolTensor}`。这些数值张量组件不再生成独立的 `*_valid.pt`；媒体和 JSONL 的有效性文件不受此规则影响。
+2. 按组件合并经常一起读取的小张量：相机内参、外参、畸变放在一个 `camera.pt`；MANO 参数与整手可见性放在一个 `mano.pt`；手关键点的二维、三维与可见性放在一个 `keypoints.pt`。
+3. 每个物体的数值字段及全部部件数值字段合并为一个 `object.pt`。不同物体、不同相机、不同序列不合成一个全局大文件，以保留按需下载和读取能力。
+4. RGB、深度、栅格 mask 继续使用原无损媒体格式，不把解码后的大数组或媒体字节塞进 `.pt`。它们的有效性文件保持原文件名、Tensor/媒体格式、形状和引用方式，不包装为字典。
+5. `metainfo.json`、`camera/frames.jsonl`、实例映射、物体身份/运动学定义与网格资产保留原格式。此次不把 JSON、JSONL、OBJ、纹理全部打进一个字典。
+
+合并只改变存储方式，不改变采样、帧数、张量内容或有效性判定。不为减少字段数而将多个组件的 valid 合成一个公共 valid。
+
+## 2. 目录
+
+```text
+<dataset>/shared-v1.1/
+  doc/                              # 完整合同、匹配 schema、字段映射、验收报告
+  script/                           # 转换、读取和校验代码
+  data/<sequence_id>/<camera_id>/
+    metainfo.json
+    observation/
+      rgb.mkv
+      rgb_valid.pt                  # 原独立 bool Tensor，保持不变
+      depth.mkv
+      depth_valid.mkv               # 逐像素有效性，保留压缩媒体格式
+    camera/
+      frames.jsonl
+      camera.pt                     # intrinsic、extrinsic、distortion
+    annotation/
+      mano/mano.pt                  # motion、visibility
+      keypoints/keypoints.pt        # uv、xyz、visibility、whole_hand_visibility
+      object/<object_id>/
+        metainfo.json
+        articulation.json           # 仅关节/部件结构实际存在时
+        object.pt                   # 位姿、可见性、几何点、关节、部件数值
+        assets/                     # 原网格、材质、纹理及依赖
+      segment/
+        mask.mkv                    # 或 polygons.jsonl，按所选表示
+        instances.jsonl             # 仅需要实例/区域编码映射时
+        mask_valid.pt               # 原帧��� bool Tensor，保持不变
+      contact/
+        relations.jsonl
+        relations_valid.pt          # 原帧级 bool Tensor，保持不变
+        <subject_id>__<object_id>/
+          contact.pt                # vertex_region、vertex_distance
+```
+
+只创建实际提供的组件和字段。以上不是每个数据集必须填满的模板；缺失内参、MANO、深度等不能通过占位文件伪装为已提供。序列/相机的两层结构不变，物体与模态目录属于相机内部组件。
+
+## 3. 字典结构与有效性
+
+本次合并的数值组件 `.pt` 根对象为字符串键的 Python `dict`，内部仅允许嵌套字符串键字典和 CPU `torch.Tensor`，不保存自定义类、模型、NumPy 对象或任意可执行对象。元信息、schema、单位和来源放在 metainfo，不在每个张量条目中重复保存。读取使用 `torch.load(path, map_location="cpu", weights_only=True)`。第 4 节保留的独立有效性 `.pt` 根对象仍为 CPU bool Tensor，不适用字典结构要求。
+
+例如，`camera/camera.pt` 的逻辑结构为：
+
+```python
+{
+    "intrinsic": {"data": K, "valid": K_valid},
+    "extrinsic": {"data": T_camera_from_world, "valid": extrinsic_valid},
+    "distortion": {"data": distortion, "valid": distortion_valid},
+}
+```
+
+以上变量均为 Tensor。未提供的字段整个省略；例如无世界系外参时不保存 `extrinsic`，不填单位矩阵。没有单独畸变向量的模型不创建 `distortion`：Fisheye624 仍使用既定 `[T,15]` 内参参数布局。
+
+数值字段统一为 `data` 与 `valid` 两个叶子。源属性原先显式声明全已知 `valid=true` 时，迁移可按该属性的有效性形状展开为全 true 的 bool Tensor；这是已有有效性声明的等价表示，不是根据数值或姿态推测有效性。有效性必须为 bool Tensor，不能用 Python `True` 代替字段内的 Tensor。静态数值字段同样配套 valid，形状采用其语义定义的标量或逐元素有效性；静态网格等外部资产仍可在 metainfo 中声明标量 valid。
+
+valid 的形状不要求与 data 完全相同，但必须与该字段定义一致。例如 MANO 为 `[T,2,61]` / `[T,2]`，内参为 `[T,3,3]` / `[T]`，关键点为 `[T,2,K,3]` / `[T,2,K]`。按 schema 将 valid 扩展到相应数值维度，不允许依靠碰巧可广播推断语义。
+
+浮点默认 float32，无效浮点位置仍为 NaN；bool 和整数沿用该组件的占位/保留值规则，不因没有 NaN 而视为有效。valid 表达可用监督，不只是“值有限”或“记录存在”；适用官方 QA 与已经确认的排除规则继续保留。不能用 `isfinite(data)` 重建 valid，不能因为迁移而把 false 改成 true。
+
+不同字段的 valid 独立保存和解释。visibility 的 valid 不复用姿态 valid；内参 valid 不代替外参 valid。既有相机模型要求内参与单独畸变向量共用有效性时，在两个字段内保存相同 bool 值并校验一致，而不改变该模型的联合标定规则。
+
+## 4. 固定分组与字段名
+
+下表中的键路径用 `/` 展示字典层级；它不是文件系统路径。数值字段均在列出的键下继续存储 `data`、`valid`。
+
+| 文件 | 数值字段键 | 内容 |
+|---|---|---|
+| `camera/camera.pt` | `intrinsic`、`extrinsic`、`distortion` | 逐帧标定；形状、参数顺序与相机模型定义不变 |
+| `annotation/mano/mano.pt` | `motion`、`visibility` | MANO `[T,2,61]` 与源整手可见性；各有独立有效性 |
+| `annotation/keypoints/keypoints.pt` | `uv`、`xyz`、`visibility`、`whole_hand_visibility` | 手关键点及源可见性；整手与逐点可见性不混用 |
+| `annotation/object/<id>/object.pt` | `pose`、`visibility`、`dimensions`、`joint_state` | 该物体的数值标注 |
+| 同上 | `keypoints/xyz`、`keypoints/template_xyz` | 相机系逐帧点或物体系静态模板点 |
+| 同上 | `parts/<part_id>/pose`、`parts/<part_id>/dimensions`、`parts/<part_id>/keypoints/xyz`、`parts/<part_id>/keypoints/template_xyz` | 部件数值字段，部件身份仍由 articulation 登记 |
+| 同上 | `meshes/<mesh_id>/vertex_part_ids` | `[V] int64` 顶点部件标签，valid 为 `[V]`，未知 -1 对应 false；每个 mesh 单独绑定拓扑 |
+| `annotation/contact/<subject_id>__<object_id>/contact.pt` | `vertex_region`、`vertex_distance` | 已登记拓扑上的接触区域/距离与同形有效性 |
+
+顶点部件标签使用注册类型 `object/vertex_part_ids/v1`。物体的 mesh_id、part_id 必须在 metainfo/运动学定义中可解析；不同拓扑不能误用同一顶点数组。未提供的可见性、关节值或模板点不生成空字段。
+
+**媒体和 JSONL 的有效性保持原样，不参与字典合并：**
+
+| 数据本体 | 有效性文件 | 存储形式 |
+|---|---|---|
+| `observation/rgb.mkv` | `observation/rgb_valid.pt` | 独立 CPU bool Tensor `[T]` |
+| `annotation/segment/mask.mkv` 或 `polygons.jsonl` | 原 `valid_ref` 指定的文件，通常为 `annotation/segment/mask_valid.pt` | 独立 CPU bool Tensor `[T]`；沿用原路径 |
+| `annotation/contact/relations.jsonl` | `annotation/contact/relations_valid.pt` | 独立 CPU bool Tensor `[T]` |
+| `observation/depth.mkv` | `observation/depth_valid.mkv` | 原逐像素 bool 无损视频 `[T,H,W]` |
+
+不新建仅包装上述 valid 的 observation.pt、segment.pt 或关系级 contact.pt。现有媒体/JSONL 的 `valid_ref`、`valid_axes` 及适用的 `valid_storage` 保持原定义；深度编码、NaN 位串还原与像素有效性规则不变。实体对的接触区域/距离是数值张量，仍按上表合并到各实体对的 contact.pt。
+
+## 5. metainfo 的文件与字典键引用
+
+文件定位与字典内部定位分开登记，不在文件名中拼接自定义分隔符：
+
+| 字段 | 定义 |
+|---|---|
+| `data_ref` | 相对当前相机视图根目录的 POSIX 文件路径 |
+| `data_key` | 非空字符串列表，按顺序访问 `.pt` 嵌套字典，最终必须得到 data Tensor |
+| `valid_ref` | 有效性所在文件；合并的数值字段必须与 data_ref 相同，媒体/JSONL 保留独立有效性文件 |
+| `valid_key` | 非空字符串列表，最终必须得到 bool Tensor |
+| `storage.profile` / `valid_storage.profile` | 合并字典采用 `pt/tensor_bundle/v1`；媒体及其独立有效性保持原配置，不将独立 bool Tensor 声明为 bundle |
+
+数值字段必须显式登记 data_key 与 valid_key。例如内参登记：
+
+```json
+{
+  "available": true,
+  "schema_id": "camera/pinhole/v1",
+  "data_ref": "camera/camera.pt",
+  "data_key": ["intrinsic", "data"],
+  "axes": ["T", "row", "column"],
+  "valid_ref": "camera/camera.pt",
+  "valid_key": ["intrinsic", "valid"],
+  "valid_axes": ["T"],
+  "storage": {"profile": "pt/tensor_bundle/v1"},
+  "valid_storage": {"profile": "pt/tensor_bundle/v1"}
+}
+```
+
+这是引用结构片段，实际组件仍须补齐 provenance、source_locator 等必填内容。MANO 的 schema_id 仍可为 `mano/axis_angle61/v1`：它描述解码后的数值语义，不因为物理文件合并而改动。顶层 schema_version 与 storage.profile 标识新的存储方式。
+
+媒体和 JSONL 的 data_ref 不设置 data_key；RGB 的 valid_ref 仍为 `observation/rgb_valid.pt`，不设置 valid_key。分割、关系和深度的有效性同样保持原引用方式，不新增任何字典键字段。只有引用合并字典时才使用 data_key/valid_key。
+
+同样规则适用于 attributes 中的可见性等数值字段。相机模型已有的 `distortion_ref` 改为指向 `camera/camera.pt`，新增 `distortion_key=["distortion", "data"]`；对应有效性由同组件的 `distortion_valid_ref` 与 `distortion_valid_key=["distortion", "valid"]` 登记。带 `_key` 的引用必须指向匹配的 bundle 文件，不能指向目录或媒体。
+
+读取器按文件路径缓存已加载字典，再按 key 取字段。同一 camera.pt 的三个字段不应触发三次反序列化。按组件下载时取所需 bundle 的整个文件；本约定不承诺 `.pt` 内单个键的远端局部下载。组件合并会增加最小下载粒度，这是减少文件数的明确取舍。
+
+## 6. 迁移与验收
+
+各数据集分别迁移：先适配工具并做代表性完整序列验证，再迁移全量并核对结果，最后按授权更新远端发布；一个数据集完成不代表其他数据集已完成。迁移状态和输入/输出固定版本逐数据集登记。
+
+本地先在既有 `shared-v1.0` 内完成受控升级，校验完成后更名为 `shared-v1.1`。暂存、回滚、锁、旧文件清理、版本更新及 HF 路径切换遵循 [MIGRATION.md](MIGRATION.md)；不复制完整媒体、不改 raw、不重新编码。多文件原地更新期间须保持维护状态，不能让读取任务使用半迁移视图。
+
+每次迁移必须检查：
+
+1. 所有组件、属性及其字典键可解析；无越界文件引用、缺失键或未登记字段；已合并的数值组件不得遗留旧独立 `*_valid.pt`。媒体/JSONL 的原独立有效性文件必须保留，不得误删或重打包。
+2. 每个迁移前后的数值字段 dtype、shape、逐元素值、NaN 位置以及 bool valid 完全一致。数值张量还应按统一连续字节视图比较，确认没有更改 NaN 位串等内容；不能用近似容差代替单纯重打包的一致性。
+3. T、帧映射、相机方向、手槽、split、来源和 valid_policy 不变。固定标定仍按既有 `[T,...]` 规则保存；本次不额外改成单份静态标定加广播。
+4. 媒体与其他未修改文件按原可信摘要核对。新 `.pt` 的文件 SHA256 通常改变，必须重新生成发布清单；新文件指纹不等于转换语义正确性的证明。
+5. 用新读取器运行代表性完整序列及所有相机，检查 RGB、相机与实际存在的标注是否正确关联；报告明确“重打包数值一致”与“人工视觉验收”的不同范围。
+
+只有完成匹配注册表、读写工具及上述验收后才能生产/发布 v1.1。上传仍须单独得到授权；本文档更新本身不启动数据迁移或上传���被替代旧文件的清理属于后续迁移发布步骤，必须遵守MIGRATION.md 中先验收、安全切换和固定提交核验要求。

EgoHOS/shared-v1.1/doc/MIGRATION.md

@@ -0,0 +1,68 @@
+# 数据集 v1.0 → v1.1 升级规范
+
+日期：2026-10-09。目标格式：`hand-warehouse/1.1`。字段与字典布局见 [CONTRACT.md](CONTRACT.md)。
+
+## 1. 升级单位与最终布局
+
+以一个完整数据集为单位逐步升级。每个数据集在既有目录内完成数值文件重组、工具适配与验证，完成后将目录由 `shared-v1.0` 更名为 `shared-v1.1`。最终使用：
+
+```text
+<dataset>/
+  raw/                  # 保持原样
+  shared-v1.1/
+    data/
+    doc/
+    script/
+```
+
+这是对“发布目录永久保持 shared-v1.0”安排的修订：不长期保留两套发布树，也不复制一整套媒体再制作新版本。尚未升级的数据集继续使用自己的 `shared-v1.0`；不同数据集处于不同版本是正常的。
+
+完成后视图元数据统一为 `schema_version=hand-warehouse/1.1`、`release_id=shared-v1.1`。目录名与元数据版本均须正确，不能只更名而不改变内容。发布记录保留旧版本的固定提交以便追溯。
+
+## 2. 变更范围
+
+- 合并相机、MANO、关键点、物体、实体对接触等数值张量及各自 valid；具体分组遵循合同。
+- 保持媒体及其独立有效性文件不变，包括 RGB、深度、mask 和相应 valid。JSONL、资产按合同保留；不重新编码媒体，不改 raw。
+- 不改变张量 dtype、shape、数值、NaN 位串、valid、帧映射、T、单位、坐标系、左右手、划分及监督策略。
+- 更新匹配的 schema、读取/转换/校验脚本、metainfo 引用、发布清单和正式文档。不得仅替换版本字符串冒充工具适配。
+- 删除已经完整合并且验收通过的旧数值文件与对应独立 valid；不得按 `*_valid.pt` 通配删除，媒体/JSONL 有效性不在清理范围。
+
+## 3. 启动与登记
+
+启动前核对项目并行上限、实际进程、锁和空间。取得数据集迁移锁并暂停该目录的转换、发布和读取任务；多文件原地更新不是整体原子操作，不得让消费者读取半迁移视图。
+
+在发布树外的 `tmp/` 为每个数据集登记：源 schema/release、源 HF 固定提交、源文件清单及摘要、目标版本、工具摘要、变更/删除的精确路径清单、checkpoint、阶段、错误和验收结果。原始数据长期保留。
+
+准备可恢复的基线：保存即将被替换的小型元数据和脚本，以及旧数值文件的临时备份或已核验可恢复的远端固定版本。不复制未变化的大型媒体。空间预算包含临时新文件和回滚所需文件；空间不足时停止新增工作，不删 raw 腾空间。
+
+## 4. 原地升级
+
+1. 先选代表性完整序列及全部相机，在 `tmp/` 验证新写入器、读取器和引用；覆盖实际存在的组件与有效性组合。遵循项目人工验收要求后再全量。
+2. 全量按完整视图处理。读取旧数值及 valid，写临时字典，重新读取并逐字段精确比较；不得用近似误差判断纯重打包的一致性。
+3. 验证通过后在同一文件系统原子替换单个文件，再更新该视图 metainfo。只有新字段与引用完整可读、且回滚依据可用，才能移除该视图被替代的旧文件。
+4. 每个视图保存完成 checkpoint；续跑必须核对输入和工具版本、产物摘要及当前引用，不能只依据文件存在而跳过。整个数据集完成前保持维护状态。
+5. 完成全部视图后校验完整路径集合、无重复/缺失、所有键引用、全部数值一致性和未变文件摘要，并更新正式文档及脚本。生成直接读取新格式的随机完整序列报告，按项目流程人工确认。
+
+失败时停止该数据集迁移，保留 checkpoint 和回滚材料，不伪装完成，不自动删除整棵目录或从 raw 重做转换。
+
+## 5. 本地最终更名
+
+全量验收通过后，在维护状态下统一设置最终 `release_id=shared-v1.1`，更新当前使用的配置、入口、清单和链接，然后将原目录重命名为 `shared-v1.1`。
+
+重命名前核对源/目标绝对路径均位于该数据集根目录；目标目录必须不存在，不合并、不覆盖已有同名目录。同一文件系统内执行目录重命名，避免复制全部媒体。更名后再次解析相对引用并检查脚本默认路径，最后解除本地维护状态。
+
+历史报告中说明当时版本的文字与固定摘要作为历史证据保留，不批量篡改；当前入口须明确报告所属版本，并链接本次迁移验收结果。
+
+## 6. HF 发布与路径更换
+
+本地目录重命名不等于 HF 路径已经更换。远端须在得到发布授权后，基于旧的固定提交执行受控更新；发布前再次核对源 HEAD 和相关文件内容，冲突时停止调查。
+
+优先复用仓库已有内容，以平台实际支持且经过验证的服务端复制/提交操作，将未变化媒体映射到 `shared-v1.1`；仅新的字典、元数据、文档和脚本需要提供新内容。不承诺路径更换必然零网络传输或零耗时；先验证实际行为，不盲目重新上传全套媒体。
+
+理想情况下，在一个提交中添加目标路径并删除旧路径，使默认分支完整切换。若文件数或 API 限制不允许，使用经过验证的临时分支准备与核验，完成后受控切换；若只能分批更新默认分支，必须明确维护状态，旧版本保留到目标完整核验通过，不提前删除唯一完整的旧树。短暂的核验用路径并存不代表长期发布两套版本。
+
+最终必须在同一固定提交上验证：目标 `shared-v1.1` 的文件集合、大小与内容摘要全部匹配清单，所有引用有效；旧 `shared-v1.0` 路径已移除；raw 未变化。服务端更换路径仍须执行这些核验，不能用“文件名已改”替代。
+
+完成后更新数据集登记与下载示例，记录最终提交，清理本次临时文件并通知一次，再安排下一个数据集。旧提交历史保留历史版本；本流程减少当前发布树的重复文件，不承诺清除 HF 历史存储。
+
+本文仅规定后续实施流程，编写本文不等于已经启动迁移、修改数据或获得新的发布授权。

EgoHOS/shared-v1.1/doc/validation/human_review.json

@@ -0,0 +1,22 @@
+{
+  "reviewer": "用户（会话确认）",
+  "phase": "full",
+  "report_sha256": "5a668e8394411a324d6c4abf30236427163a3c4cbf4d7fcce7a07662f96f3944",
+  "recipe": {
+    "dataset": "EgoHOS",
+    "chunk": 128,
+    "seed": 20260928,
+    "annotations": false,
+    "split_scheme": "split0",
+    "code_sha256": {
+      "preprocess.py": "c5507d5ba4682f8a21ec77f4b9ff4af31fcf473eb98a95280e32b6ae9b9b5f20",
+      "media.py": "ace183f298d1073ee9d453f13464d58e0be685fe09a3ddd99a78c67b4c7337ec",
+      "validate.py": "3dc2bdadd89b03ca289673f40f45a724947972880dab6f537fb60354f90cc7b5",
+      "acquire.py": "1f010b87f6cc13d41058ba5b6b4ac89b4becc9ef4b5a15f887f00842dfdc6993",
+      "schema.json": "9a34b349ed9315fb0f6ccbe3425e852c971b5a4aaf26a094f4f4df15bfccc091",
+      "CONTRACT.md": "c34cdf6645f91233cc28d86f8abc82f019f78767d863e225f75722984d9adb19"
+    }
+  },
+  "approved": true,
+  "statement": "I inspected the listed HTML sample IDs and accept the documented scope and limitations."
+}