docs(dex-ycb): complete v1.1 contract, mapping, reader example and verified release notes

dex-ycb/shared-v1.1/doc/CONTRACT.md

@@ -1,26 +1,15 @@
-> Dex-YCB v1.1 本地全量迁移；人工抽样复查已通过；HF 发布状态以固定提交验收记录为准。
+# 手物数据仓库统一约定 v1.1（完整合同）
 
-# 手物数据仓库统一约定 v1.1：张量合并存储
+格式版本：`hand-warehouse/1.1`。数值存储：`pt/tensor_bundle/v1`。本文件是当前规范性入口，与 [schema.json](schema.json) 共同定义格式；后者是声明式注册表，不是 JSON Schema 或可执行校验器。本文已包含 v1.0 继续有效的完整语义，不要求读者拼接历史合同。
 
-格式版本：`hand-warehouse/1.1`。张量存储约定：`pt/tensor_bundle/v1`。
+v1.1 只改变小型数值张量及对应 valid 的物理分组，不改变单位、坐标系、左右手、时间轴、来源、监督有效性或媒体编码。文件内键路径在本文以 `文件 → 字典键/data` 展示；箭头不是文件名的一部分。完整引用规则见第 6 节。
 
-状态：Dex-YCB v1.1 配套注册表与读写工具已适配；本地全量自动验收完成后仍须人工复查，HF 尚未发布。
+范围限于手物交互重建。只提取本任务要求、语义已核实且可可靠转换的字段；shared 不是 raw 镜像。缺失模态、未下载、未核实、未纳入分别报告；主要未纳入内容及原因写入 [RAW_TO_SHARED.md](RAW_TO_SHARED.md)，不得虚构模态或用派生结果替代原生标注。
 
-本版以 [v1.0 合同](V1_0_SEMANTICS.md) 为语义基础：任务范围、两层序列/相机组织、数据类型、单位、坐标系、时间对齐、左右手顺序、官方划分、view_type、来源、可用监督规则、媒体无损编码和验收要求均保留。下文仅替代数值张量组件的独立 Tensor 文件、对应 `*_valid.pt` 及文件引用规定；这些旧文件名仅用于识别对应逻辑字段。媒体和 JSONL 组件的有效性文件及引用保持 v1.0，不纳入合并。未明确改变的语义继续执行 v1.0。
+以下通用规范还包括其他数据集可能提供的可选字段，不表示 Dex-YCB 实际提供这些字段。Dex-YCB 实际内容见第 7 节。格式合同不承担运行状态快照：本地迁移报告可能早于发布；正式发布后应另附 `RELEASE.md` 的固定提交记录，不把历史报告中的 pending 改写成当时已经发布。
 
-本版按用户约定作为 v1.0 的小版本存储修订，后续所有数据集逐步迁移到 v1.1。数值字段与 valid 语义不变，但 `.pt` 物理结构和引用方式改变，旧读取器不能未经适配直接读取新字典。各数据集在原 `shared-v1.0` 目录内逐步升级，完整验收后将目录更名为 `shared-v1.1`，不长期保留两套发布树。最终 `metainfo.schema_version=hand-warehouse/1.1`、`release_id=shared-v1.1`；尚未迁移的数据集仍使用原目录和版本。升级与发布流程见 [MIGRATION.md](MIGRATION.md)。实施前须按配套 v1.1 注册表完成读写/校验工具；不得将 v1.0 的 schema.json 改个版本号作为已完成适配的证明。正式发布时须提供完整合同与匹配注册表，不依赖本地草案目录中的相对链接。
+## 1. 目录与读取单位
 
-## 1. 合并边界
-
-1. 数值张量与对应有效性必须在同一个 `.pt` 文件、同一个字段字典内保存：`{"data": Tensor, "valid": BoolTensor}`。这些数值张量组件不再生成独立的 `*_valid.pt`；媒体和 JSONL 的有效性文件不受此规则影响。
-2. 按组件合并经常一起读取的小张量：相机内参、外参、畸变放在一个 `camera.pt`；MANO 参数与整手可见性放在一个 `mano.pt`；手关键点的二维、三维与可见性放在一个 `keypoints.pt`。
-3. 每个物体的数值字段及全部部件数值字段合并为一个 `object.pt`。不同物体、不同相机、不同序列不合成一个全局大文件，以保留按需下载和读取能力。
-4. RGB、深度、栅格 mask 继续使用原无损媒体格式，不把解码后的大数组或媒体字节塞进 `.pt`。它们的有效性文件保持原文件名、Tensor/媒体格式、形状和引用方式，不包装为字典。
-5. `metainfo.json`、`camera/frames.jsonl`、实例映射、物体身份/运动学定义与网格资产保留原格式。此次不把 JSON、JSONL、OBJ、纹理全部打进一个字典。
-
-合并只改变存储方式，不改变采样、帧数、张量内容或有效性判定。不为减少字段数而将多个组件的 valid 合成一个公共 valid。
-
-## 2. 目录
 
 ```text
 <dataset>/shared-v1.1/
@@ -57,9 +46,397 @@
 
 只创建实际提供的组件和字段。以上不是每个数据集必须填满的模板；缺失内参、MANO、深度等不能通过占位文件伪装为已提供。序列/相机的两层结构不变，物体与模态目录属于相机内部组件。
 
-## 3. 字典结构与有效性
 
-本次合并的数值组件 `.pt` 根对象为字符串键的 Python `dict`，内部仅允许嵌套字符串键字典和 CPU `torch.Tensor`，不保存自定义类、模型、NumPy 对象或任意可执行对象。��信息、schema、单位和来源放在 metainfo，不在每个张量条目中重复保存。读取使用 `torch.load(path, map_location="cpu", weights_only=True)`。第 4 节保留的独立有效性 `.pt` 根对象仍为 CPU bool Tensor，不适用字典结构要求。
+## 2. 相机视图的 metainfo.json
+
+### 2.1 顶层字段与发布信息
+
+每个相机视图必须有 `metainfo.json`。以下字段除另行说明外均为必填：
+
+| 字段 | 填写内容 |
+|---|---|
+| schema_version | 结构版本，本版为 `hand-warehouse/1.1` |
+| dataset_id | 数据集的逻辑标识 |
+| release_id | 本次数据发布版本，对应目录中的 dataset_version |
+| sequence_id | 所属序列或独立图片样本的标识 |
+| camera_id | 当前相机视图标识 |
+| sample_type | `image` 或 `video`，规则见 2.2 |
+| num_frames | 当前视图帧数 T，所有随帧组件按同一时间轴组织 |
+| hand_slots | 固定为 `["left", "right"]`；解剖学左右的使用规则见 5.1 |
+| sampling | 采样类型、源 FPS、帧索引引用及选择策略，见 2.2 |
+| camera | 当前相机模型与图像尺寸，见 2.3 |
+| components | 实际提供的组件及其文件、schema、有效性和来源，见 2.5 |
+| split | `train/val/test/unknown`，划分协议见 2.4 |
+| view_type | 必填，固定为 `ego/exo/unknown`。源数据或采集设置明确相机视角时必须填写 `ego` 或 `exo`；只有无法从可信来源确定时才填写 `unknown`，不得省略或主观猜测。多相机序列须逐视图分别填写。 |
+
+`dataset_version` 是数据发布版本；`schema_version` 是结构版本，两者独立。原始包校验摘要、官方来源和转换配置应记录在发布清单中。解压发生在临时工作区，原始包保持不变。
+
+### 2.2 图片、视频与 sampling
+
+`sample_type=image`：允许单图 T=1、`sampling.type=single`，也允许将独立图片批量装入一个视频容器，T>1 时 `sampling.type=independent`、`source_fps=null`。分片大小按数据集选择；FreiHAND 默认每片最多 4096 张，训练与评估分开，尾片不补帧。该数量不是其他数据集的强制要求；同批分辨率、相机模型类型及划分协议一致。每行 frames 必须有稳定且唯一的 `sample_id`、原始文件定位；内参、手形状等仍逐帧保留，不能因打包而共享错误的标定或身份。`sequence_id` 在这里仅是批次标识，不代表真实序列；不得按相邻帧推断跟踪、同步或接触延续。源 camera_id、image_variant、split 等随样本变化时放在 frames 的对应字段中。真实采集时间未知则 timestamp_ns=null。合成背景变体不视为真实多相机。
+
+`sample_type=video`：`sampling.type=dense/sparse`；`source_fps` 是真实采集 FPS，未知为 null。非连续取样必须保留源帧号和已知源时间，不可用采样后索引除以 FPS 冒充源时间。可另记采样策略与步长。
+
+shared 可以仅存所选 RGB 帧对应的数据。OakInk2 图像/动捕不同采样率时用 annotation_matches 明确映射；不要求将未采样动捕点硬塞进 T。多视角身份和源同步关系要保留；选择了哪些帧/相机及原因写在 sampling 中。
+
+`sampling.frames_ref` 指向 `camera/frames.jsonl`。帧号、逐帧时间、同步与标注匹配记录的结构见 4.1；MKV 封装时间的约定见 3.1。
+
+### 2.3 camera 模型声明
+
+`camera` 至少包含 `model`、`schema_id`、`image_size:[W,H]`。模型未知使用 `unknown` 和 `null`，不猜成针孔。实际内参、畸变及外参数组放在 `camera/`，各模型的固定结构见第 4 节。
+
+### 2.4 split 与划分协议
+
+保留上游划分，不将同一采集序列的相邻帧随意拆到不同集合。
+
+有官方划分时必填 split_scheme 和 split_source_locator，split_scheme 区分如 Dex-YCB s0/s1、ARCTIC P1/P2 等选定协议；不知道时 split=unknown 并给理由，不凭空分配。每发布可选择一种协议；存在逐帧差异时 frames 中的 split 覆盖视图默认值，并登记其来源。
+
+### 2.5 components 组件登记
+
+组件表的键是本发布内唯一名称，例如 `rgb`、`depth`、`mano`、`keypoints_uv`。每个已提供组件声明以下信息；模态特有参数在第 3–5 节对应小节中定义。
+
+| 字段 | 约定 |
+|---|---|
+| available | 本发布是否提供该组件；缺省也表示未提供 |
+| schema_id | 已登记的具体存储与语义类型，不得临时创造未登记名称 |
+| data_ref | 数据文件路径，相对当前相机视图根目录，使用 POSIX 路径 |
+| data_key / valid_key | 数值 bundle 的嵌套键路径；独立媒体、JSONL 和独立 valid 不设置这些键，见第 6 节 |
+| axes | 数组各维度的含义 |
+| valid_ref / valid_axes | 有效性文件及其维度；语义由所属组件规定 |
+| storage / valid_storage | 存储配置；视频包含 profile、codec、pixel_format、encoded_size，见 3.1；数值字典统一采用 pt/tensor_bundle/v1，见第 6 节 |
+| provenance | source / format_conversion / derived，以及转换或生成方法 |
+| source_locator | 原文件、压缩包成员和记录／帧的定位信息 |
+
+不存在的组件允许缺省或写作 `{ "available": false, "reason": "..." }`，不用引用不存在的文件。静态网格可声明标量有效性；具体见 5.4。观测的 valid 见第 3 节，标注的 valid 与 visibility 区分见 5.1。
+
+`provenance.kind` 使用 source/format_conversion/derived，`method` 说明转换或生成方法；发布清单补充脚本版本、参数、输入摘要。`source_locator` 定位到原始文件/压缩包成员和记录、帧号；允许引用有完整溯源清单的前一发布，但链条最终应能回到 raw。不得仅写一个无法定位记录的数据集名字。
+
+`.pt` 仅保存 CPU Tensor，不保存 Python 自定义对象；浮点默认 float32，有效性为 bool，浮点无效位置填 NaN。所有随帧数组保留首维 T，单帧也不 squeeze；静态资产按其 schema 单独声明。单位、坐标及固定形状见各组件小节。
+
+机器注册表 `schema.json` 中，`components` 固定解码后的数据类型、形状、单位和语义；`storage_profiles` 固定视频内的编码／还原方式。不得临时创造未登记的 schema_id 或 storage.profile。同一语义允许选择其登记的不同无损存储 profile。
+
+## 3. observation 观测数据
+
+### 3.1 rgb.mkv 与 rgb_valid.pt
+
+RGB、深度和栅格 mask 在 shared 中统一使用 MKV 视频容器，不展开为逐帧图片或图像 tar。MANO、关键点、位姿等数值标注仍用数组；分割的重叠多边形仍用 JSONL，不为了视频化而有损栅格化。单图可为一帧视频，独立图批量封装规则见 2.2。
+
+**无损指共享层不增加信息损失。** 源 JPEG／H.264 等本身可能已是有损编码，原样保留并不恢复已丢失信息；不得重新以有损 JPEG、H.264、H.265、AV1 参数编码。源视频／图片的色彩、位深、分辨率和几何关系不得被静默改变。RGB schema `rgb/uint8/v1` 的统一读取结果是 `[T,H,W,3] uint8`、RGB 通道，有效性仍为 `rgb_valid.pt [T] bool`。超出该 schema 的高位深或 HDR 源必须报告并扩展定义，不能降到 8 位冒充无损。
+
+#### 3.1.1 允许的 RGB 存储 profile
+
+| storage.profile | 编码方式 | 适用规则 |
+|---|---|---|
+| mkv/mjpeg_copy/v1 | 源 JPEG 压缩帧直接封装成 MJPEG/MKV | 不解码重编码；保持每张 JPEG 码流字节；普通 8 位 JPEG 且 MKV/解码器支持时使用 |
+| mkv/source_copy/v1 | 已有视频的 RGB 对应码流直接封装为 MKV | 仅源编码能被 MKV 和选定解码器支持时使用，不伪造帧；需维持正确的呈现顺序与依赖帧 |
+| mkv/h264_rgb_lossless/v1 | libx264rgb 的真正无损模式 | 必须 RGB 路径、CRF=0，并通过全帧 RGB 字节比较；不能替换成默认 libx264 YUV420 路径 |
+| mkv/ffv1_rgb/v1 | FFV1 的 RGB 可逆编码路径 | 作为通用候选；解码回 RGB 后必须逐字节相同，不做色度降采样 |
+
+优先尝试源码流直接封装；不能封装或需要选择稀疏帧时，比较 FFV1 与无损 RGB H.264。对完整待发布片段，只在通过无损验收的候选中选择文件较小者，不假设某个编码器总最小；编码时间和随机读取代价记入构建记录。中间候选不作为 shared 多份常驻。H.264 跨帧压缩允许较长 GOP，必须记录 GOP／关键帧间隔，随机取帧需从前一关键帧正确解码，不能把 seek 返回的近似帧当目标帧。
+
+普通源视频可以保留它已有的有损码流，但不允许新增有损重编码。源是 VRS 等记录容器时，先查明图像流实际编码：已有兼容 JPEG／视频包可直接提取封装，否则解码后使用真正无损编码；不把整个 VRS 改后缀当 MKV。PNG 不要求直接塞进 MKV，可选上表两种无损重编码方式。
+
+#### 3.1.2 视频配置与校验
+
+每个视频组件在 metainfo 中登记 `storage`，至少包含：
+
+| 字段 | 内容 |
+|---|---|
+| profile | 上述登记的存储 profile；语义仍由组件 schema_id 指定 |
+| codec | 文件中实际 codec，例如 mjpeg、h264、ffv1；source_copy 必须写实际 codec |
+| pixel_format | 实际编码像素格式；不得仅凭编码器参数猜测 |
+| encoded_size | 视频物理像素尺寸 `[width,height]`；深度可能不同于逻辑尺寸，见 3.2 |
+| decoder | 解码器名称、版本，以及颜色矩阵／范围／旋转处理等实际像素解释配置；未知的源色彩声明 unknown，不擅自称为 sRGB |
+| encoder_parameters | 重编码时的编码器、版本、无损模式和 GOP 等参数；直接封装时记录 stream_copy |
+| source_lossy | 源是否已有损：true / false / unknown；不是共享层再有损编码的许可 |
+
+无损重新编码的 RGB 必须使用同一固定解码配置，比较**全部帧**的统一 RGB 字节、数量及顺序。MJPEG-copy 不重新编码，生产校验采用 `jpeg-packets-all-rgb-sample16/v1`：从 MKV 逐包取回，对全部源 JPEG 的 SHA256、数量、顺序���图像尺寸进行精确核对；每视图另用同一固定解码配置比较最多 16 帧的源与目标 RGB 字节（含首尾与四分位位置，其余由固定种子抽取）。记录策略、实际索引、种子与结果；不足 16 帧时全查。试点与最终完整序列随机抽查，对选中视图的全部帧复核解码 RGB。历史已做全帧像素检查的证明继续保留。
+
+逐包一致与像素抽查的范围必须分别声明，不能将抽查写成全量像素检查。不能用 PSNR 高、视觉相似、编码器参数称为 lossless 等替代精确检查。同时保留源编码的色彩标记和必要元数据；原图有 EXIF/色彩/方向等元数据时保留 raw 和必要来源信息；不能静默自动旋转图像而不更新像素对应与标定。以上加速策略仅适用于原 JPEG 码流直接封装，不适用于深度、标签或重新编码的 RGB。
+
+所有共享视频的呈现帧顺序与统一 frame_index 一一对应，每个栅格组件恰好 T 帧。MKV 的 `storage_fps` 只服务封装，声明 `timebase_role=index_only`；source_copy 可以保留源 PTS 以避免改坏码流，但真实时间与标注对齐仍以 frames 为准。未知真实时间保留 null。缺失某帧组件时保留索引位置并使用该组件的无效占位／valid 标识，不删帧；不能以重复相邻图像冒充已知观测。
+
+### 3.2 depth.mkv 与 depth_valid.mkv
+
+深度语义仍是 `depth/z_float32/v1`：统一读取结果 `[T,H,W] float32`，米制相机 Z 分量，`depth_type=z`。有效深度有限且大于 0，无效位置为 NaN。`depth_origin=measured/rendered/unknown` 必填，来源不明时 unknown。默认与 RGB 共用像素网格及相机参考系，不处理未注册 RGB-D。射线距离必须依据源定义转换成 z，不能只改声明。
+
+#### 3.2.1 float32 的可逆视频编码
+
+采用 `mkv/depth_float32_bits/v1`：**不是把深度量化成 uint16**，而是将规范化后每个 IEEE-754 float32 的完整 32 位拆成两个 uint16，使用 FFV1 gray16le 保存。视频物理尺寸为 `[2W,H]`：每行前 W 列存原 float32 位串的低 16 位，后 W 列存高 16 位。读取时先合并为 uint32 位串，再按 float32 重新解释，不能数值 cast 成 float32。
+
+```text
+u = reinterpret_uint32(depth_float32)
+encoded[:, :, :W] = uint16(u & 65535)
+encoded[:, :, W:] = uint16(u >> 16)
+u_restored = uint32(low) | (uint32(high) << 16)
+depth_float32 = reinterpret_float32(u_restored)
+```
+
+统一采用 little-endian 原始字节接口。`camera.image_size` 始终是逻辑 RGB 尺寸 `[W,H]`，不能改成编码视频的 2W；`storage.encoded_size=[2W,H]`。包括 NaN 在内的 float32 位串必须全帧完全恢复，不允许改成 float16、整数毫米、归一化灰度或 RGB 伪彩色。这里的无损验收基准是完成既定米制／坐标转换后的标准 float32 数组，不声称消除 float64→float32 等原约定转换本身的舍入。
+
+#### 3.2.2 逐像素有效性
+
+`depth_valid.mkv` 使用 `mkv/bool_ffv1/v1`，FFV1 gray8（FFmpeg pixel_format=`gray`），物理尺寸 `[W,H]`。像素只能为 0 或 1，统一解码为 `[T,H,W] bool`，逐像素含义不变。这样不再把庞大的 bool 数组保存为未压缩 `.pt`；标注的帧级／手级 valid 仍保留原有小数组。
+
+登记示例（W、H 以下取 640、480；decoder/encoder_parameters 的实际版本由转换器填写）：
+
+```json
+{
+  "available": true,
+  "schema_id": "depth/z_float32/v1",
+  "data_ref": "observation/depth.mkv",
+  "axes": ["T", "height", "width"],
+  "valid_ref": "observation/depth_valid.mkv",
+  "valid_axes": ["T", "height", "width"],
+  "unit": "m",
+  "depth_type": "z",
+  "depth_origin": "measured",
+  "invalid_value": "NaN",
+  "storage": {
+    "profile": "mkv/depth_float32_bits/v1",
+    "codec": "ffv1",
+    "pixel_format": "gray16le",
+    "encoded_size": [1280, 480],
+    "source_lossy": false,
+    "decoder": {"name": "ffmpeg", "version": "填写实际版本"},
+    "encoder_parameters": {"name": "ffv1", "level": 3, "version": "填写实际版本"}
+  },
+  "valid_storage": {
+    "profile": "mkv/bool_ffv1/v1",
+    "codec": "ffv1",
+    "pixel_format": "gray",
+    "encoded_size": [640, 480],
+    "source_lossy": false,
+    "decoder": {"name": "ffmpeg", "version": "填写实际版本"},
+    "encoder_parameters": {"name": "ffv1", "version": "填写实际版本"}
+  },
+  "provenance": {"kind": "format_conversion", "method": "源深度转米制 z float32；逐位打包为 FFV1"},
+  "source_locator": {"file": "raw/data/depth.zip", "member": "depth/0001.png"}
+}
+```
+
+深度和有效性视频都必须逐帧解码验收：float32 位串相同、bool 相同、T 相同，并检查 valid=true 的正有限值和 valid=false 的 NaN。读取器必须按 profile 还原，不能把 depth.mkv 的编码像素直接当深度值。
+
+## 4. camera 相机、帧索引与标定
+
+### 4.1 frames.jsonl：索引、时间与对应关系
+
+`camera/frames.jsonl` 每行对应统一帧号 `frame_index=0..T-1`，是所有组件的唯一行索引。至少包含 `frame_index`、`timestamp_ns`、`clock_domain`、`source_locator`；原始帧号/文件名保存在 `source_frame_id`，不能被新帧号替代。每行还可有 `annotation_matches`，按组件键保存 `source_frame_id`、`source_timestamp_ns`、`clock_domain`、`match_method` 和 `delta_ns`；方法为 exact/index_map/nearest/interpolated，索引映射无时间依据时 delta_ns=null。nearest 必须记录允许误差；interpolated 必须记录两端源标识和权重。delta_ns 仅在同一时间域中计算为源标注时间减图像时间。多相机共享 `sequence_id`；已知同步关系必须用 `sync_id` 或明确的源帧/时间映射表达，不能仅凭相同数组索引认定同步。
+
+每个视图必须提供此文件。源时间使用整数纳秒及 `clock_domain`，未知写 JSON `null`；不同时间域不能直接比较。逐帧 split 可以覆盖 metainfo 的视图默认划分，并保留来源，见 2.4。
+
+### 4.2 坐标系与标定通则
+
+| 项目 | 统一约定 |
+|---|---|
+| 相机坐标 | 右手系，X 向右、Y 向下、Z 向前，长度单位米 |
+| 齐次变换 | 列向量，`p_target = T_target_from_source @ p_source` |
+| 图像坐标 | `(u,v)`；左上像素中心为 `(0,0)`，u 向右、v 向下，单位 pixel |
+| 固定标定 | 本版展开为 T 份，同一 schema 不混用静态与动态形状 |
+| 分辨率或模型变化 | 分开存储为视图／片段，不在同一组件中混装 |
+| 未知标定 | 相机内外参允许缺省，不填单位阵冒充已知标定 |
+
+### 4.3 camera.pt → intrinsic/data 与畸变参数
+
+| model / schema_id | camera.pt → intrinsic/data 的固定结构 |
+|---|---|
+| pinhole / camera/pinhole/v1 | `[T,3,3]`，标准 K，最后一行为 `[0,0,1]`；限无畸变或已校正图像 |
+| fisheye624 / camera/fisheye624/v1 | `[T,15]`，`[f,cx,cy,k0,k1,k2,k3,k4,k5,p0,p1,s0,s1,s2,s3]`，采用 Project Aria Fisheye624 投影定义 |
+| opencv_fisheye4 / camera/opencv_fisheye4/v1 | `camera.pt → intrinsic/data [T,3,3]` 保存 K；同组件 `distortion_ref` 指向 `[T,4]`，顺序 `[k1,k2,k3,k4]`，使用 OpenCV fisheye 等距角度多项式；已由 ReInterHand 实际原始相机参数验证 |
+| rational8 / camera/rational8/v1 | `camera.pt → intrinsic/data [T,3,3]` 保存 K；同组件必需 `distortion_ref` 指向 `[T,8]`，顺序 `[k1,k2,p1,p2,k3,k4,k5,k6]` |
+| unknown / null | 不提供可用 intrinsic，不声称可以投影 |
+
+有畸变的其他模型必须注册新 schema，固定参数名、顺序和投影公式；不能塞进针孔 K 后遗失畸变项。`metainfo.camera.schema_id` 必须与 intrinsic 组件一致。同一模型的别名不可隐式改变参数布局。
+
+`opencv_fisheye4`：对前方点令 `x=X/Z, y=Y/Z, r=sqrt(x²+y²), theta=atan(r)`，`theta_d=theta*(1+k1*theta²+k2*theta⁴+k3*theta⁶+k4*theta⁸)`；`u=fx*x*theta_d/r+cx, v=fy*y*theta_d/r+cy`。光轴 r=0 时使用连续极限 `theta_d/r=1`。四系数不能按普通径向畸变解释，也不能补零冒充 Fisheye624。
+
+rational8 对归一化坐标 x=X/Z、y=Y/Z，令 r²=x²+y²，径向项为 `(1+k1*r²+k2*r⁴+k3*r⁶)/(1+k4*r²+k5*r⁴+k6*r⁶)`；再加 p1/p2 切向项并经 K 得到像素。`distortion_ref` 与 intrinsic 共用 `[T]` valid，保存到 camera/camera.pt → distortion/data。不得把这种畸变三维坐标当作真实相机系 xyz 保存。
+
+内参有效性为 `camera.pt → intrinsic/valid [T] bool`；有畸变时使用对应 `distortion_ref`。同一模型的参数名和顺序固定。
+
+### 4.4 camera.pt → extrinsic/data 与 camera.pt → extrinsic/valid
+
+`camera.pt → extrinsic/data` 为 `[T,4,4]`，schema `transform/se3/v1`，方向固定 `T_camera_from_world`，有效性 `[T]`。世界坐标含义及源坐标转换记录在 provenance 中；只有相机坐标标注不要求虚构世界坐标。旋转块须正交且 determinant≈1。
+
+## 5. annotation 标注数据
+
+### 5.1 标注通则：手槽、valid 与 visibility
+
+手槽固定为 0=left、1=right，指解剖学左右，不按画面位置或可见性重排。本阶段只处理左右手两槽，不处理更多手。实体引用使用 `hand_left`、`hand_right`；手槽不证明跨采集片段的个人身份。
+
+#### 5.1.1 valid：标注是否可用于监督
+
+标注的 `valid=true` 表示：有对应实际标注、通过本 schema 数值检查，且通过来源明确提供并适用于该组件的有效性/QA 条件。`valid=false` 可由缺标注、无法建立帧对应、源无效占位或官方 QA 不通过导致；不等于画面没有手或手不可见。各组件独立判断，MANO 按 `[T,2]` 标记左右手，关键点按 `[T,2,K]` 标记。
+
+**2026-09-20 将标注 valid 从“仅表示存在”修订为“可用于监督”，字段形状不变。** 公式为 `source_annotation_present AND numerical_checks_pass AND applicable_official_QA_pass`。没有官方 QA 时省略最后一项，不伪造 QA；不能把未知当成已通过已存在的 QA。适配器在组件 `valid_policy` 中记录具体规则、来源、聚合/广播作用���。缺失官方必需 QA 的记录须明确处理为未知或暂停验收，不能静默通过。无效浮点项仍填 NaN，原始数据保留在 raw；被排除原值可用于 doc 中明确标识的诊断渲染，不能冒充 shared 有效监督。
+
+本地筛选须依据明确的规则，并在 `valid_policy.local_excluded_frame_indices`、排除原因和正式报告中记录。单个可疑投影作为问题记录，不直接硬编码排除该帧。已确认的曝光异常须明确作用范围，不能把一个序列的“前两帧有问题”套到所有序列。RGB 编码完好与几何监督可用是两件事，允许保留原图及帧索引而屏蔽对应标注；未发现问题不等于完成全部人工审核，试点待确认时不能作为已验收发布使用。
+
+源字段必须按官方语义映射，不能直接按名字复制：
+
+| 来源 | 官方含义 | 映射原则 |
+|---|---|---|
+| [H2O](https://github.com/taeinkwon/h2odataset) 的手标注首位 | 0 未标注、1 已标注 | 可作为对应手标注存在性的依据，不推断未标注原因 |
+| [HOT3D](https://github.com/facebookresearch/hot3d#using-mask-files) 的 pose_available、visible、mask_qa_pass | 分别表达姿态存在、可见性、对画面中可见手物位姿的人工 QA | 逐手/物体记录决定存在性，再 AND 当前相机当前帧 QA；QA 是整帧聚合判定，保守排除该帧全部手物几何监督，不声称每个实体均有错误；源可见性基于位姿推导时，其自身 valid 同样受 QA 约束 |
+| [Dex-YCB](https://github.com/NVlabs/dex-ycb-toolkit#loading-dataset-and-visualizing-samples) 的全零 pose_m、全 -1 joints | 不可见的手或缺标注共用占位表示 | 对应组件 valid=false；不能从该值判定 visibility=false，也不能声称原因是动捕缺失 |
+| [ARCTIC](https://github.com/zc-alexfan/arctic/blob/master/docs/data/data_doc.md) 的 is_valid/left_valid/right_valid | 是否有效用于官方评估 | 核实每项筛选依据；不把可见性/评估选择直接等同 QA。本次原始 mano.npy 不含这些派生评估标记，按原记录与数值检查生成 valid，并声明没有额外官方 QA 输入 |
+
+源 valid=false 若代表评估筛选或其他条件，应检查实际标注和源约定后映射；不能一律清空坐标。反之，占位零或 -1 只有在源官方明确规定时才判为缺失，不泛化成所有数据的判断规则。
+
+`valid=true` 的标注应通过其 schema 的数值与形状检查；检查失败必须报告或修复，不能静默隐藏。QA 不通过应报告排除数量与原因，并保留可追溯信息；不能把这类无效称为缺标注。RGB、深度等观测有效性仍按各自 schema；手物 QA 不自动否定 RGB、静态相机内参或物体资产。相机外参是否过滤须依据其自身来源规则；HOT3D 本次保留源外参用于溯源和诊断，不能用其存在性证明 QA 失败帧的几何监督正确。
+
+#### 5.1.2 visibility：可见性属性
+
+附加质量属性只保留 `visibility`，存放在对应模态或标注集内，不设 quality 目录。同一份可见性仅存一次；uv 与 xyz 共用时引用同一个文件。
+
+visibility 通过所属组件 attributes 登记 data_ref/data_key、valid_ref/valid_key、axes、dtype、visibility_type、meaning、provenance、source_locator；未知值通过属性 valid_ref 标识，数值可见性即使全已知也须保存同字段的 bool valid Tensor；只有静态外部资产允许声明标量 valid=true。比例与布尔值不相互强转，也不按任意阈值二值化。没有 MANO 时，整手可见性挂在 keypoints 组件，使用 keypoints bundle 中独立的 whole_hand_visibility 字段（keypoints.pt → whole_hand_visibility/data），明确 meaning=whole_hand，不与逐关键点可见性混用。
+
+`valid` 回答“这项标注能否用于监督”，`visibility` 回答“在当前图像中是否可见（或可见多少）”。不可见的手或关键点仍可有有效标注；不能因 visibility=0 就清空坐标。源没有 visibility 时缺省或标为未知，不由 valid 推断。
+
+| 情况 | 手标注 valid | visibility |
+|---|---|---|
+| RGB 已开始录制，动捕尚未开始，没有其他对应手标注 | false | 以独立源可见性标注为准；没有则未知 |
+| 手被遮挡，但源有标注且通过适用有效性检查 | true | 若源声明不可见，则 false 或源可见比例 |
+| 手可见且有对应标注，通过适用 QA | true | 若源有此信息，则 true 或源可见比例 |
+| 手可见，但该帧漏标或动捕中断 | false | 可以为 true，但必须有独立来源依据 |
+| 有手部参数，但官方 QA 明确不通过 | false | 不据此断言不可见；源可见比例若基于不可靠位姿，其属性 valid 也为 false |
+
+visibility 自己的 valid_ref 表示该可见性标注是否可用，不复用 MANO 或关键点坐标的 valid_ref；明确记录源存在性及适用的 QA 条件。上述例子不要求凭图像自动生成可见性。
+
+不设 quality 组件或目录，��另存拟合误差、曝光、截断比例等通用质量数组。适用的官方 QA 合并进对应 valid，在 `valid_policy` 记录来源与规则；正式校验报告保留原始 QA 时间区间及排除统计。原始 QA 文件仍在 raw，官方 split 保留。
+
+### 5.2 mano：参数与整手可见性
+
+MANO schema `mano/axis_angle61/v1`：`mano.pt → motion/data [T,2,61]`，顺序为完整 16 关节 axis-angle 48、shape betas 10、全局平移 3。姿态使用弧度，平移米，位于当前相机系。有效性 `[T,2]`；缺少一侧整槽 NaN。PCA 必须先按对应模型展开，不能将 PCA 系数直接填入 axis-angle。
+
+`model_profile` 必须固定 MANO 版本、`flat_hand_mean=true`、左手 shapedirs 修正状态。平移表示模型输出顶点所加的全局平移，不是某个腕关节的坐标；源语义不同须转换。shape 无量纲。模型权重不作为共享数据附带上传。
+
+`mano/mano.pt → visibility/data [T,2]` 保存源整手可见比例时使用 float32 [0,1]，`visibility_type=ratio`；只有实际采用 0–100 的百分比才除以100，不能只凭表头判断。HOT3D 的 `visibility_ratio[%]` 实值已经是0–1，官方读取器原样读取，必须保留原值。通过 MANO 组件 attributes 登记，使用独立有效性，不复用 motion_valid。
+
+手部共享表示仅保留 MANO 参数与选定关键点，不发布独立手表面几何。需要渲染或接触计算时由 MANO 参数生成，几何引用使用固定 MANO 模型配置与顶点顺序；不影响 object 下的物体模型和材质资产。
+
+### 5.3 keypoints：二维点、三维点与逐点可见性
+
+关键点独立于 MANO 参数存在；没有 motion 也可有关键点。`keypoints.pt → uv/data [T,2,K,2]` 与 `keypoints.pt → xyz/data [T,2,K,3]`，有效性 `[T,2,K]`，分别采用 `keypoints/uv/v1` 和 `keypoints/xyz/v1`。K 由 `keypoint_schema` 固定，不能在同一数组中逐帧变化；同体系统一顺序。数值使用像素坐标或米制相机系。
+
+| keypoint_schema | K 与固定索引 |
+|---|---|
+| mano21/v1 | 21；wrist 后依次 thumb/index/middle/ring/little，每指由近端至指尖 |
+| rhd21/v1 | 21；保持 wrist，然后五指由近端至指尖；原始每指 tip→palm 反序。只统一顺序，不宣称解剖学位置等价于 MANO |
+
+具体名称与源索引映射见 `schema.json`。当前只登记 MANO21 与 RHD21；不登记 MediaPipe、ReInterHand capture21 或 fit24 中间关键点。
+
+每个发布中的每个视图只提供一套标准手关键点，直接放在 keypoints 下，不设 annotation_set_id 字段或目录。uv 与 xyz 是这套关键点的二维与三维表示，不是两套标注。provenance 分别记录二者来自原始标注还是计算结果；不要求已有 2D 必须由当前 xyz 重新投影覆盖。
+
+ReInterHand 的 Original keypoints、Original fits keypoints 及带前臂关键点不纳入 shared；如需手关键点，从选定 MANO 参数生成 MANO21 并记录模型/指尖回归约定。其他数据集默认使用选定的官方关键点，不额外生成平行的 MANO 派生集合。后续主动更换生成方法或结果时发布新的 dataset_version，不在同一版本内增设方法分支。
+
+manual/projection/fitting 只记录在 provenance，不作为目录或类型分支。不得通过坐标为零、是否出画或 visibility 判断标注是否存在。派生标注仅在实际生成并通过数值检查后声明 valid=true；没有生成的项为 false，不伪造坐标。
+
+`keypoints/keypoints.pt → visibility/data [T,2,K]` 保存源逐点可见性，布尔表示使用 `visibility_type=boolean`。uv 与 xyz 共用时引用同一份文件。整手比例属性没有 MANO 可挂载时使用 `keypoints.pt → whole_hand_visibility/data [T,2]`，`meaning=whole_hand`；它与逐点可见性分开，通用登记规则见 5.1。
+
+不使用 annotation_set_id；ReInterHand 中间关键点集合不进入 shared，raw 保留来源文件。
+
+### 5.4 object：身份、资产、位姿与几何
+
+#### 5.4.1 metainfo.json：物体身份与跟踪作用域
+
+手用 `hand_left`、`hand_right` 及槽位 0、1 表示，不再另存 entities.json。物体身份登记在 `annotation/object/<object_id>/metainfo.json`，必填 `object_id`、`identity_scope`、`scope_id`、`source_locator`；可含 `category_id`、`source_object_id`、`mesh_ref`、`has_model`、部件引用。即使只有分割、没有 pose/mesh，也可只有这份物体元信息。
+
+`identity_scope` 为 frame/subsequence/sequence，`scope_id` 指定具体作用域；跨相机共享身份只在已有源对应证据时使用。VISOR 按官方 subsequence 与实体名关联时记录 `association_basis=official_subsequence_entity_name`，不能声称这是全视频物理实例跟踪。无需与 object_id 一一对应的标准 track_id；官方独立轨迹标识存在时保留为 source_track_id，并声明作用域。手槽不证明跨采集片段的个人身份。
+
+#### 5.4.2 assets：网格、材质与纹理
+
+资产属于物体，统一存放在 `annotation/object/<object_id>/` 内，可用 `assets/` 子目录组织网格、材质、纹理和部件资产。序列层不设共享 assets。所有引用采用视图根目录为基准；其中物体资产组件的 `data_ref` 与部件的 `mesh_ref` 采用相对于当前视图目录的 POSIX 路径，例如 `annotation/object/cup_01/assets/cup.obj`，且必须指向所属物体目录内的资产。OBJ 内部的材质、纹理引用遵循文件格式自身的相对路径规则，依赖文件一并保留。不同相机视图允许各自保存物体资产，不要求跨视图去重；下载物体时包含其资产依赖。
+
+网格 schema 为 `mesh/obj/v1`，顶点米制，静态有效性可直接声明标量 `valid`，或通过 `valid_ref` 指向标量 bool Tensor；不按 T 重复静态资产。由物体／部件通过引用关联，不仅凭文件名猜测。
+
+#### 5.4.3 object.pt → pose/data、object.pt → pose/valid 与 所属 bundle → visibility/data
+
+刚体 schema 为 `object/rigid/v1`，`object.pt → pose/data [T,4,4]` 固定为 `T_camera_from_object`，平移米制，有效性 `[T]`。物体坐标原点、轴向必须与 mesh 一致；旋转块为正交矩阵且 determinant≈1。
+
+`object/<id>/object.pt → visibility/data [T]` 保存源物体可见比例，float32 [0,1]，`visibility_type=ratio`。通过所属物体组件 attributes 登记，独立表达其有效性。
+
+#### 5.4.4 articulation.json、部件位姿与 object.pt → joint_state/data
+
+关节物体：schema `object/articulated/v1`，`articulation.json` 登记 `parts` 与 `joints`。每个 part 有 `part_id`、`parent_id`（根为 null）、`has_model`、`mesh_ref`；has_model=false 时 mesh_ref=null，结构节点允许没有网格。父链不得成环。每个 joint 有唯一 `joint_id`、`parent_part`、`child_part`、`type`；fixed 单位 null、revolute 弧度、prismatic 米。有源限位时保存 `limits:[lower,upper]`；没有时 null，不伪造上下限。部件姿态统一为 `T_camera_from_part [T,4,4]`，保存在所属物体 `object.pt → parts/<part_id>/pose/{data,valid}`，不与父局部变换混装。
+
+若提供 `object.pt → joint_state/data [T,J]`，必须登记固定 joint_order、轴在父部件系的表达、零位变换与正方向，valid 为 `[T,J]`；缺少这些运动学定义时只发布部件位姿与已有来源信息，不伪造可驱动的关节模型。关节值与部件位姿同时存在时需验证一致性。
+
+部件层级应声明语义：纯语义包含树允许 `joints=[]`，不将包含关系推断为机械关节。关节状态 schema 为 `object/joint_state/v1`；转动用弧度、移动用米，混合类型按 joint_order 对应的关节定义解释。
+
+#### 5.4.5 dimensions、几何关键点与顶点部件标签
+
+`object.pt → dimensions/data [T,3]` 采用 `object/dimensions/v1`，有效性为 `[T]`。
+
+物体/部件 `dimensions` 为 `[length,width,height]` 米，轴顺序与该 mesh 的局部坐标关联，登记 `dimensions_semantics` 和来源。HOI4D dimensions 与 mesh 的具体尺度关系未验证前标为 source_unspecified，保留源值并暂停依赖该关系的几何验收，不能默认为待施加缩放。需要施加缩放时明确 scale_applied_to_mesh，禁止重复应用。
+
+源物体关键点放 `object/<id>/object.pt → keypoints/xyz/data [T,K,3]`（相机系）或 `object.pt → keypoints/template_xyz/data [K,3]`（物体系），schema 分别为 object_keypoints/camera/v1 和 object_keypoints/template/v1。明确 keypoint_schema、keypoint_names、单位及有效性；模板点配合 pose 可投影，无须重复生成全部帧。H2O 中心/角点/棱中点，以及 ARCTIC 部件点分别登记具体源顺序，不套用手的 21 点 schema。每个发布选择一套源几何点并记录选择，不另建方法分支。
+
+`object.pt → meshes/<mesh_id>/vertex_part_ids/data [V] int64` 绑定 `mesh_ref` 与 topology_id，登记整数到 part_id 的映射；未知用 -1。ARCTIC 不同拓扑的资产分别绑定，不能共用未经转换的顶点标签。部件层级中 is_instance/has_model 等源属性保留，几何文件仍全部归 object。
+
+### 5.5 segment：分割类别、编码与覆盖范围
+
+每个发布选择一套任务使用的分割表示，不建立方法／标注集分支。没有分割就不创建 segment 目录，不为其他模态创建空的实体表。
+
+| schema_id | 文件与数值语义 |
+|---|---|
+| segment/uint16_labels/v1 | mask.mkv；整数区域编号，通过 instances.jsonl 解释 |
+| segment/instance_polygons/v1 | polygons.jsonl；实例多边形，可重叠；当前不支持孔洞拓扑 |
+| segment/foreground_intensity/v1 | mask.mkv；0–255 前景强度，不是区域编号或经过校准的概率 |
+
+#### 5.5.1 uint16 标签图与 instances.jsonl
+
+组件声明 `segmentation_type=semantic/instance/part`；同一组件固定一种类型。`mask.mkv` 解码为 `[T,H,W] uint16`，schema `segment/uint16_labels/v1`，使用 `mkv/uint16_ffv1/v1`，FFV1 gray16le 无损；只有所有区域编码均 ≤255 时允许 gray8（pixel_format=gray），读取后转 uint16，数值不变。禁止调色板和有损编码。有效性 `[T]`，表示该帧有可用分割标注。数值 0 固定为 unassigned，65535 固定为 ignore，1–65534 为区域编码，不能直接等同 entity_id。
+
+`instances.jsonl` 每帧一行，包含 `frame_index` 与 `labels`。每条标签包含 `mask_value`、`category_id`、`entity_id`、`part_id`；无意义或未知字段为 null。semantic 允许 entity_id=null；instance 必须引用 hand_left/hand_right 或登记的 object_id；part 还须关联登记部件。源实例 ID 和其他属性分别保存在 `source_instance_id`、`source_attributes`。mask 中每个非保留编码必须有且仅有一个映射。
+
+FreiHAND 的试点按本任务需要，统一到手／背景类别，保留每个原生区域编码；不要求给原生细分区域猜测手指名称。需要细部件监督时，尚未核实的部件名称必须保持未知，不能因粗粒度手类别已核实便声称部件语义也已统一。
+
+#### 5.5.2 重叠实例多边形
+
+每发布选择一套任务使用的分割表示，不建立方法/标注集分支。VISOR 的实际试点存在重叠实例多边形，单层标签图不能无损表达。对此补充 `segment/instance_polygons/v1`：`segment/polygons.jsonl` 每帧包含 `frame_index` 和 `instances`，每实例包含 `mask_value` 与 `polygons`（列表，每个多边形为源图像像素坐标顶点序列，保留原始精度）。身份和类别仍由同一 `instances.jsonl` 映射，有效性仍为 `[T]`，通过 schema 区分物理编码。允许多实例重叠，不采用后画覆盖前画。消费者按需栅格化为独立实例二值 mask；不能声称合并的单层 mask 无损。
+
+#### 5.5.3 灰度前景强度
+
+ReInterHand 的官方渲染 mask 为双手合并的灰度前景掩码，实测存在 0–255 的中间值，不是左右手实例编号。登记 `segment/foreground_intensity/v1`：仍存 `segment/mask.mkv`，解码为 `[T,H,W] uint16`，使用 `mkv/uint16_ffv1/v1`，此类数据优先编码为 FFV1 gray8（pixel_format=gray），读取后转 uint16。有效值范围 0–255，归一化值为 `float32(value)/255`；0 为背景端点、255 为前景端点。组件声明 `foreground_category=hand`、`entity_id=null` 和双手合并语义，不使用区域编号映射。这里保留原始渲染 mask 强度，不把它称为经过校准的概率。若任务需要二值 mask，阈值化属于任务层派生操作，记录阈值；共享层不丢弃中间灰度。不同 schema 的数值含义不同，不能将该文件按整数类别图解码。
+
+FreiHAND 训练集的 JPEG mask 使用 `segment/foreground_intensity/v1`，逐像素保留 JPEG 解码后的灰度，`entity_id=hand_right`。该 schema 不限定双手合并：单手或合并范围由 `entity_id` 与 `coverage` 明确声明。评估集整数区域图仍用 `segment/uint16_labels/v1`，两者不能仅凭文件名使用同一种解码语义。
+
+#### 5.5.4 coverage 与有效性
+
+`coverage.kind=full/selected_entities/partial/unknown`。full 指声明的标注范围完整；selected_entities 还应列出目标范围。无论哪种，0 本身不自动成为背景；背景要有明确类别映射，未标注区域不能用于构造负样本。保留源逐类/逐实例 exhaustive 信息，未知不可改写为完整。
+
+三种表示的帧级有效性均为 `[T]`，表示该帧是否提供此分割标注；对应 valid_ref 在组件中登记，仍用小型 bool `.pt` 数组。栅格 mask 必须登记 storage，格式见 3.1.2，所有帧的整数编码或强度逐值完全相同。编码语义由 schema_id 决定，读取器不能仅依据 mask.mkv 文件名选择解码方式。
+
+### 5.6 contact：接触、抓取、区域与距离
+
+#### 5.6.1 relations.jsonl 与 relations_valid.pt
+
+`annotation/contact/relations.jsonl`，schema contact/relations/v1，每帧一行含 frame_index、relations。每条记录含 relation_type（contact/grasp）、subject_id（手槽或登记实体）、object_id、status、source_locator、provenance。status 固定为 positive/negative/unknown/target_unannotated：positive 必须有可解析目标，negative 表示源明确否定该关系，unknown 为不确定，target_unannotated 为确有接触但目标未标注。非 positive 的 object_id 可 null，不能用 null 冒充“不接触”。稀疏源无记录的帧不自动补 negative。
+
+VISOR 的对象 mask ID 必须先按同帧 source_instance_id 解析成 object_id；hand-not-in-contact、none-of-the-above、inconclusive 分别映射 negative、target_unannotated、unknown，保留原始字符串。Dex ycb_grasp_ind 通过 ycb_ids 映射到登记物体，以 relation_type=grasp 保存；不得当作逐顶点接触。
+
+relations 组件的 valid_ref 指向 `relations_valid.pt [T] bool`，表示该帧是否有可用源关系标注。有效帧中可以存在 status=unknown 的明确不确定标注；无源标注的帧为 valid=false、relations=[]。组件仍声明 available/provenance/source_locator。
+
+#### 5.6.2 实体对的顶点区域与距离
+
+已发布的接触区域/距离按参与关系的 subject_id 与 object_id 组织，每对实体保留选定的一套结果，以精确 geometry_ref/topology_id 关联到手或物体/部件；不要求每套数据都有。顶点区域 schema contact/vertex_region/v1：bool `[T,V]` 加同形 valid；顶点距离 schema contact/vertex_distance/v1：float32 `[T,V]`、米、同形 valid，声明 source/target geometry_ref、distance_definition（signed/unsigned、测量到点集或表面等明确源定义）。geometry_ref 必须指向已登记 mesh 或由固定 MANO 模型配置确定的拓扑；拓扑/顶点数变化时按拓扑拆分片段。其他源区域表示只有在实际接入并登记 schema 后才可转换，不能随意栅格化宣称等价。
+
+顶点区域／距离已有存储定义，但尚未完成真实输入试点；接入时必须提供源语义与几何验收证据，不因已经登记 schema 就视为通过。
+
+## 6. v1.1 数值 bundle 与引用规则
+
+### 6.1 合并边界
+1. 数值张量与对应有效性必须在同一个 `.pt` 文件、同一个字段字典内保存：`{"data": Tensor, "valid": BoolTensor}`。这些数值张量组件不再生成独立的 `*_valid.pt`；媒体和 JSONL 的有效性文件不受此规则影响。
+2. 按组件合并经常一起读取的小张量：相机内参、外参、畸变放在一个 `camera.pt`；MANO 参数与整手可见性放在一个 `mano.pt`；手关键点的二维、三维与可见性放在一个 `keypoints.pt`。
+3. 每个物体的数值字段及全部部件数值字段合并为一个 `object.pt`。不同物体、不同相机、不同序列不合成一个全局大文件，以保留按需下载和读取能力。
+4. RGB、深度、栅格 mask 继续使用原无损媒体格式，不把解码后的大数组或媒体字节塞进 `.pt`。它们的有效性文件保持原文件名、Tensor/媒体格式、形状和引用方式，不包装为字典。
+5. `metainfo.json`、`camera/frames.jsonl`、实例映射、物体身份/运动学定义与网格资产保留原格式。此次不把 JSON、JSONL、OBJ、纹理全部打进一个字典。
+
+合并只改变存储方式，不改变采样、帧数、张量内容或有效性判定。不为减少字段数而将多个组件的 valid 合成一个公共 valid。
+
+### 6.2 字典结构与有效性
+本次合并的数值组件 `.pt` 根对象为字符串键的 Python `dict`，内部仅允许嵌套字符串键字典和 CPU `torch.Tensor`，不保存自定义类、模型、NumPy 对象或任意可执行对象。元信息、schema、单位和来源放在 metainfo，不在每个张量条目中重复保存。读取使用 `torch.load(path, map_location="cpu", weights_only=True)`。第 6.3 节保留的独立有效性 `.pt` 根对象仍为 CPU bool Tensor，不适用字典结构要求。
 
 例如，`camera/camera.pt` 的逻辑结构为：
 
@@ -81,8 +458,7 @@ valid 的形状不要求与 data 完全相同，但必须与该字段定义一
 
 不同字段的 valid 独立保存和解释。visibility 的 valid 不复用姿态 valid；内参 valid 不代替外参 valid。既有相机模型要求内参与单独畸变向量共用有效性时，在两个字段内保存相同 bool 值并校验一致，而不改变该模型的联合标定规则。
 
-## 4. 固定分组与字段名
-
+### 6.3 固定分组与字段名
 下表中的键路径用 `/` 展示字典层级；它不是文件系统路径。数值字段均在列出的键下继续存储 `data`、`valid`。
 
 | 文件 | 数值字段键 | 内容 |
@@ -109,8 +485,7 @@ valid 的形状不要求与 data 完全相同，但必须与该字段定义一
 
 不新建仅包装上述 valid 的 observation.pt、segment.pt 或关系级 contact.pt。现有媒体/JSONL 的 `valid_ref`、`valid_axes` 及适用的 `valid_storage` 保持原定义；深度编码、NaN 位串还原与像素有效性规则不变。实体对的接触区域/距离是数值张量，仍按上表合并到各实体对的 contact.pt。
 
-## 5. metainfo 的文件与字典键引用
-
+### 6.4 metainfo 的文件与字典键引用
 文件定位与字典内部定位分开登记，不在文件名中拼接自定义分隔符：
 
 | 字段 | 定义 |
@@ -146,8 +521,7 @@ valid 的形状不要求与 data 完全相同，但必须与该字段定义一
 
 读取器按文件路径缓存已加载字典，再按 key 取字段。同一 camera.pt 的三个字段不应触发三次反序列化。按组件下载时取所需 bundle 的整个文件；本约定不承诺 `.pt` 内单个键的远端局部下载。组件合并会增加最小下载粒度，这是减少文件数的明确取舍。
 
-## 6. 迁移与验收
-
+### 6.5 迁移与验收
 各数据集分别迁移：先适配工具并做代表性完整序列验证，再迁移全量并核对结果，最后按授权更新远端发布；一个数据集完成不代表其他数据集已完成。迁移状态和输入/输出固定版本逐数据集登记。
 
 本地先在既有 `shared-v1.0` 内完成受控升级，校验完成后更名为 `shared-v1.1`。暂存、回滚、锁、旧文件清理、版本更新及 HF 路径切换遵循 [MIGRATION.md](MIGRATION.md)；不复制完整媒体、不改 raw、不重新编码。多文件原地更新期间须保持维护状态，不能让读取任务使用半迁移视图。
@@ -160,4 +534,43 @@ valid 的形状不要求与 data 完全相同，但必须与该字段定义一
 4. 媒体与其他未修改文件按原可信摘要核对。新 `.pt` 的文件 SHA256 通常改变，必须重新生成发布清单；新文件指纹不等于转换语义正确性的证明。
 5. 用新读取器运行代表性完整序列及所有相机，检查 RGB、相机与实际存在的标注是否正确关联；报告明确“重打包数值一致”与“人工视觉验收”的不同范围。
 
-只有完成匹配注册表、读写工具及上述验收后才能生产/发布 v1.1。上传仍须单独得到授权；本文档更新本身不启动数据迁移或上传；被替代旧文件的清理属于后续迁移发布步骤，必须遵守MIGRATION.md 中先验收、安全切换和固定提交核验要求。
+只有完成匹配注册表、读写工具及上述验收后才能生产/发布 v1.1。上传仍须单独得到授权；本文档更新本身不启动数据迁移或上传；被替代旧文件的清理属于后续迁移发布步骤，必须遵守MIGRATION.md 中先验收、安全切换和固定提交核验要求。
+
+## 7. Dex-YCB 当前发布的文件内容
+
+本表中的路径均相对一个视图 `data/<sequence>/<camera>/`。形状中的 T 是该视图帧数，H/W 是 RGB 逻辑尺寸；实际是否提供、文件定位及键定位始终读取 metainfo，不按目录猜测。当前发布为 exo、pinhole，固定左右手槽，原生单侧标注保存在相应槽中，另一侧无效；不生成替代手分割。
+
+| 文件 | 字段及内容 | 解码 dtype / shape | 有效性与语义 |
+|---|---|---|---|
+| `metainfo.json` | 版本、视图、split、sampling、组件、来源及 MANO 模型身份 | JSON | view_type 必填；本发布 exo |
+| `camera/frames.jsonl` | 源帧号、包成员、时间与同步映射 | 每帧一行，0..T-1 | 未知真实时间/FPS 保持 null |
+| `observation/rgb.mkv` | 原 JPEG 码流顺序封装 | 解码 RGB uint8 `[T,H,W,3]` | `rgb_valid.pt` 为 bool `[T]`；源 JPEG 本身有损，不二次编码 |
+| `observation/depth.mkv` | 米制相机 Z 深度的 float32 位串 | float32 `[T,H,W]` | `depth_valid.mkv` 解码 bool `[T,H,W]`；不是普通 uint16 深度 |
+| `camera/camera.pt` | `intrinsic/data`、`extrinsic/data` | float32 `[T,3,3]`、`[T,4,4]` | 各字段 `valid` 为 bool `[T]`；K 与 T_camera_from_world |
+| `annotation/mano/mano.pt` | `motion/data` | float32 `[T,2,61]` | `motion/valid` bool `[T,2]`；48 轴角、10 betas、3 平移 |
+| `annotation/keypoints/keypoints.pt` | `uv/data`、`xyz/data` | float32 `[T,2,21,2]`、`[T,2,21,3]` | 各自 valid bool `[T,2,21]`；像素、米制相机系；mano21/v1 |
+| `annotation/object/<id>/object.pt` | `pose/data` | float32 `[T,4,4]` | `pose/valid` bool `[T]`；T_camera_from_object |
+| `annotation/object/<id>/metainfo.json`、`assets/` | YCB 身份、原 OBJ/MTL/纹理及引用 | JSON、原资产文件 | 网格米制；静态缩略图不证明 RGB 投影对齐 |
+| `annotation/segment/mask.mkv` | 原整数区域码 | uint16 `[T,H,W]` | `mask_valid.pt` bool `[T]`；0=背景，255=原生手区域，YCB 物体号由 instances 映射 |
+| `annotation/segment/instances.jsonl` | 每帧区域码到类别/实体的映射 | JSONL | 不从伪彩色推断原始标签，不从 255 推断解剖学左右 |
+| `annotation/contact/relations.jsonl` | 经 ycb_ids 解析的 grasp 关系 | JSONL | `relations_valid.pt` bool `[T]`；序列级目标广播，不是逐帧接触测量 |
+
+Dex-YCB 当前没有源可见性属性、关节物体部件状态或逐顶点接触数值时，不创建这些可选字段。一般 schema 的登记不代表该数据集实际提供。MANO 权重不随发布附带；左右模型、mean/shapedirs 状态和身份以 MANO 组件的 model_profile 为准。
+
+## 8. 使用、追溯与验收入口
+
+- 当前 raw 映射及未纳入项：[RAW_TO_SHARED.md](RAW_TO_SHARED.md)。
+- 可执行读取示例与依赖：[READING.md](READING.md)。
+- 抽样 HTML：[validation/index.html](validation/index.html)。全量迁移报告 `FULL_MIGRATION_SUMMARY.json` 与抽样报告 `validation/V1_1_VALIDATION.json` 分别说明数值一致性和抽样范围；人工只审过部分页面，不声称逐页审过全部视图。
+- 迁移、安全切换及回滚规则：[MIGRATION.md](MIGRATION.md)。历史 v1.0 文档/报告和执行代码仅作来源证据，不能代替当前规范或重新命名为 v1.1 验收。
+- 文档修订不改变 data、raw 或注册表定义；必须在发布提交上检查 data/raw 树标识不变，并保留被替换文档。合同与 schema 真有冲突时先核实实现和源语义，不靠改文档掩盖数据问题。
+
+## 附录：任务范围
+
+不强制收录 2D bbox、完整高频动捕、动作程序、身体 SMPL-X、点云或网络特征。范围内的接触、visibility、选定手关键点、物体几何不能因不便处理而静默丢弃。分割采用的物理编码由第 5.5 节决定，存在重叠时不能以单层标签图声称无损。
+
+不设置 entities_ref/segment/entities.json，不要求与 object_id 重复的 track_id。MediaPipe 不在当前关键点定义中；旧版本迁移必须保留可追溯关系，不能直接删表。手部共享表示不含独立 hand_mesh。
+
+schema.json 是普通注册表，不是 JSON Schema 文档或可执行验收器；定义存在不代表真实数据已验证。验收须保留实测范围与未决项。
+
+格式定义不等于某个数据集已经验收。发布必须显式登记实际 storage；历史产物按历史定义读取，不能只改文件后缀或版本标识伪装为合规。

dex-ycb/shared-v1.1/doc/RAW_TO_SHARED.md

@@ -1,48 +1,49 @@
-# Dex-YCB → shared-v1.0 源数据映射与验收边界
+# Dex-YCB raw → shared-v1.1：当前文件、字段与验收边界
 
-本文件记录 123 上 `/data0/xuzhefeng/Datasets/uni-hoi-dataset/dex-ycb/shared-v1.0` 已发布数据，**转换依据只看该发布目录的 `script/convert_dexycb_v1.0.py` 和 `script/warehouse_v1_0.py`**（源仓库提交 `80ebaa6`），而非后来更新的仓库。配置在 `script/config.json`；配置的源根为 `/data0/xuzhefeng/Datasets/dex-ycb`，实际包可位于其 `raw/data/`、`raw/` 或根下；源包不修改。10 个 subject 包全部处理，没有设置 limit、max_frames、subjects、views；输出按 `<subject包>_<原序列时间>/<相机序列号>` 组织。MANO 模型不随发布复制，其路径在配置中，其身份在视图元数据中。
+本表描述**当前 v1.1**，不是要求重跑 v1.0。raw 保持原始包不变；v1.0 原转换从 raw 提取以下监督，v1.1 仅将现有数值及各自 valid 重打包。没有重编码 RGB/depth/seg，没有裁帧，没有改变原生手分割。
 
-| 源 | shared 数据 | 处理与边界 |
-|---|---|---|
-| `*-subject-*.tar.gz` 的 `<sequence>/meta.yml` | `metainfo.json`、`camera/frames.jsonl`、`doc/*.build.json` | 序列、8 个相机、源帧号、同步索引、YCB ID、抓取目标；s1 按 subject 01–06/10=train、07=val、08–09=test。真实逐帧时间和采集 FPS 不从容器时间猜测。 |
-| `<camera>/color_*.jpg` | `observation/rgb.mkv`、`rgb_valid.pt` | JPEG 码流直接封装为 MKV，完整码流顺序／哈希核对；发布运行未启用 `jpeg_full_check`，RGB 解码像素仅抽取每视图最多 16 帧核对，不宣称逐帧像素比对。 |
-| `<camera>/aligned_depth_to_color_*.png` | `observation/depth.mkv`、`depth_valid.mkv` | 源毫米 Z 深度换算为米，保留无效区域；使用彩色相机内参，不二次配准。 |
-| `<camera>/labels_*.npz:seg` | `annotation/segment/mask.mkv`、`instances.jsonl`（实际文件以 `metainfo.json` 的 `data_ref` 为准） | 保留源整数区域码：0 背景、255 手、YCB 物体号；未以 3D 手投影覆盖分割。 |
-| `labels_*.npz:joint_2d/joint_3d` | `annotation/keypoints/uv.pt`、`xyz.pt` 及各自 valid 张量 | 21 点分别保留像素坐标和相机系米；整手全 -1 判该标注缺失，不能把单个越界点误删。 |
-| `labels_*.npz:pose_m` + 标定 `mano.yml:betas` + 外部 MANO 左右模型 | `annotation/mano/motion.pt`、`motion_valid.pt` | 按 `meta.yml:mano_sides` 选解剖学手侧；源 PCA 系数经对应模型展开轴角 + 形状和平移；源全零 pose_m 视作无效。 |
-| `labels_*.npz:pose_y` + `meta.yml:ycb_ids` | `annotation/object/ycb_*/pose.pt`、valid 张量 | 按原物体槽顺序保存 camera-from-object 3×4 扩展的 SE(3)；全零位姿视作无效。 |
-| `models.tar.gz` 的 `textured_simple.obj`／MTL／纹理 | `annotation/object/ycb_*/assets/`、网格组件 | 原始模型文件保留；静态网格缩略图不是与 RGB 的投影对齐验收。 |
-| `calibration` 的 color 内参、cam→world 外参 | `camera/intrinsic.pt`、`extrinsic.pt` 与 valid 张量 | 外参取逆得到 camera-from-world；无源标定时留无效而非伪造。 |
-| `meta.yml:ycb_grasp_ind` | `annotation/contact/relations.jsonl` | 经 `ycb_ids` 解析，记录序列级 grasp 关系；广播到选中帧不等于逐帧接触测量。 |
-
-源序列级 `pose.npz`、`bop.tar.gz` 及源中其他未选字段未作为本 shared 独立组件转换，仍可从 raw 核查；不能把未转换项目说成不存在。有效性按组件分别存储，不从可见度或单一掩码推断其他组件有效。
-
-## 审核与兼容性
-
-`doc/validation/STRUCTURAL_AUDIT.json` 记录全量结构／引用审核范围；`index.html` 列出跨 subject 抽样视图，逐帧预览 RGB+源 2D 点、源分割与叠加、深度、各数值组件、有效性、网格静态预览及来源；各 `.report.json` 是持久化 QC，不替代人工检查。预览用伪彩和缩放不写回数据。**人工抽样确认前不上传。**
-
-2026-09-29 全量来源索引核对见 `doc/validation/SOURCE_FRAME_COVERAGE.json`：8000 视图共 581968 帧，持久化 `camera/frames.jsonl` 中 RGB、对齐深度、逐帧标签各有 **0 帧缺少源定位**；检查了索引连续性，但这不是对源 tar 再解包逐像素比较。12 个抽样视图的 3D→2D 关键点投影结果见 `KEYPOINT_PROJECTION_QC.json`，仅能证明已存储标注和内参的相互一致性，不能替代 RGB 人工核验。
+原转换实现和配置在 `script/v1_0_snapshot/script/convert_dexycb_v1.0.py`、`warehouse_v1_0.py`、`config.json`（原源仓库提交 `80ebaa6`）；原执行记录保留在 `doc/history-v1.0/`。当前迁移/读取实现位于 `script/dexycb_v1_1/`。原转换配置中绝对路径是当时服务器定位，不是其他机器的下载路径。MANO 左右权重不随发布附带，其版本、身份及修正状态以各视图元数据为准。
 
-分割源整数码 `255=手`，`15=YCB 物体 15`。早期 HTML 伪彩按码��取模 240，导致 255 与 15 同为 `#96d23c`（RGB 150,210,60）；2026-09-28 的预览修订只将手部 255 显示为 `#ff2040` 并逐帧标注整数码，**不改原始分割视频、实例映射或 RGB**。旧版预览脚本留在 `doc/validation/*.before-color-fix.py` 以便追溯。
-
-此发布保留运行当时的 `doc/CONTRACT.md` 和 `doc/schema.json`（与代码一起冻结）；它们**不是**后续与 ARCTIC 对齐的参考文件版本。发布前应单独确认该差异的契约兼容性，不直接替换已经发布目录中的两份规范而假称转换时使用了新规范。
-
-2026-09-29 目标契约明确要求 **`view_type` 必填**；发布根 `doc/CONTRACT.md` 是实际转换时版本，`doc/validation/CONTRACT.md` 是当天工作区 `docs/CONTRACT.md` 的逐字节副本，供对照而非冒充转换时使用的规范。两版都要求 `view_type` 必填，8000 个视图均声明 `exo`；新副本另加入 shared 不必镜像全部 raw 的范围说明。
+以下目标相对 `data/<sequence_id>/<camera_id>/`；`→` 后为字典键，不是文件路径。
 
+| raw 来源 | 当前 v1.1 文件与字段 | 处理与语义边界 |
+|---|---|---|
+| `*-subject-*.tar.gz` 中 `<sequence>/meta.yml` | `metainfo.json`、`camera/frames.jsonl` | 序列与八个相机、源帧号、同步索引、YCB ID、抓取目标；view_type=exo。s1 按 subject 01–06/10=train、07=val、08–09=test；不推测真实 FPS/时间。原 build 记录在 `doc/history-v1.0/`。 |
+| `<camera>/color_*.jpg` | `observation/rgb.mkv`、`rgb_valid.pt` | 原 JPEG 码流按顺序封装，不二次编码。源 JPEG 本身有损；原运行 jpeg_full_check=false，解码像素每视图最多抽查 16 帧，不声称全帧像素比对。 |
+| `<camera>/aligned_depth_to_color_*.png` | `observation/depth.mkv`、`depth_valid.mkv` | 源毫米 Z 转米；已对齐 color，用 color 内参，不二次配准。float32 位串拆分编码，详见合同；无效像素 NaN，valid 逐像素保存。 |
+| `labels_*.npz:seg` | `annotation/segment/mask.mkv`、`instances.jsonl`、`mask_valid.pt` | 保留整数码：0 背景、255 原生手、其余已登记 YCB 码；不使用 3D 手投影替换。实例/类别按同帧映射解释。 |
+| `labels_*.npz:joint_2d` | `annotation/keypoints/keypoints.pt → uv/{data,valid}` | 21 点，pixel；按解剖学左右放入固定槽。全手全 -1 是缺失，不因单个点出界而抹去整手。 |
+| `labels_*.npz:joint_3d` | `annotation/keypoints/keypoints.pt → xyz/{data,valid}` | 21 点，米制相机系；与 uv 各自保留有效性，不用重投影覆盖原 2D。 |
+| `labels_*.npz:pose_m`、`mano.yml:betas`、外部左右 MANO | `annotation/mano/mano.pt → motion/{data,valid}` | 按 meta.yml:mano_sides 选择侧别；对应模型 PCA 展开为 48 轴角+10形状+3平移。全零源 pose_m 无效；原 mean/shapedirs 状态保留，不在重打包时修正模型。 |
+| `labels_*.npz:pose_y`、`meta.yml:ycb_ids` | `annotation/object/ycb_*/object.pt → pose/{data,valid}` | 按原物体槽对应，3×4 扩为 4×4 T_camera_from_object；平移米制；全零源位姿无效。 |
+| `models.tar.gz` 的 OBJ／MTL／纹理 | `annotation/object/ycb_*/assets/`、物体 `metainfo.json` 及 mesh 组件 | 原资产字节保留。HF 使用 LFS 不改变 OBJ 内容；静态缩略图不等同于 RGB 投影对齐验收。 |
+| color 内参、源 cam→world 标定 | `camera/camera.pt → intrinsic/{data,valid}`、`extrinsic/{data,valid}` | 外参取逆得到 T_camera_from_world。固定标定仍展开为 T 份；不填单位阵假装已知。 |
+| `meta.yml:ycb_grasp_ind`、`ycb_ids` | `annotation/contact/relations.jsonl`、`relations_valid.pt` | 解析为登记目标的 grasp；序列级标签广播到帧，不等于逐帧接触或逐顶点距离。 |
+
+## v1.0 → v1.1 存储对照（仅用于迁移追溯）
+
+| 旧数值文件及对应 valid | 当前文件与键 |
+|---|---|
+| `camera/intrinsic.pt`、`intrinsic_valid.pt` | `camera/camera.pt → intrinsic/{data,valid}` |
+| `camera/extrinsic.pt`、`extrinsic_valid.pt` | `camera/camera.pt → extrinsic/{data,valid}` |
+| `annotation/mano/motion.pt`、`motion_valid.pt` | `annotation/mano/mano.pt → motion/{data,valid}` |
+| `annotation/keypoints/uv.pt`、`xyz.pt` 及各自 valid | `annotation/keypoints/keypoints.pt → uv/{data,valid}`、`xyz/{data,valid}` |
+| `annotation/object/<id>/pose.pt`、`pose_valid.pt` | `annotation/object/<id>/object.pt → pose/{data,valid}` |
 
-## v1.1 纯存储迁移
+媒体和 JSONL 的独立 valid 原样保留，不按 `*_valid.pt` 通配删除。v1.1 不新增原来缺失的组件，不增加推测得到的 visibility、部件或手表面文件。
 
-原始 RGB、对齐深度、seg、帧索引、MANO、左右手、split 和物体身份保持不变。手 mask 仍来自原生 labels_*.npz:seg，不使用手投影替代。
+## 未纳入和禁止替代
 
-| v1.0 文件 | v1.1 文件与字典条目 |
-|---|---|
-| camera/intrinsic.pt + valid | camera/camera.pt → intrinsic/{data,valid} |
-| camera/extrinsic.pt + valid | camera/camera.pt → extrinsic/{data,valid} |
-| mano/motion.pt + valid | mano/mano.pt → motion/{data,valid} |
-| keypoints/uv.pt、xyz.pt + 各自 valid | keypoints/keypoints.pt → uv、xyz 的 {data,valid} |
-| object/<id>/pose.pt + valid | object/<id>/object.pt → pose/{data,valid} |
+源序列 `pose.npz`、`bop.tar.gz` 及其他未选字段未作为本发布的独立组件转换，仍可从 raw 核对；未纳入不等于不存在。MANO 权重不附带。没有提供源可见性或逐顶点接触时不伪造；手 mask 始终来自原生 seg。当前关键点直接保留源 2D/3D，不能以 MANO 重建点覆盖而不声明新数据版本。
 
-媒体／JSONL 的独立 valid 保留。没有新增缺失组件。迁移实现见 script/dexycb_v1_1/pilot.py；本次仅原地调整 shared 数值存储，不修改 raw，不重编码媒体。原始构建记录与旧验收属于 v1.0，不冒充 v1.1 验收。
+## 验收报告的阶段和正确位置
 
+- 当前合同：[CONTRACT.md](CONTRACT.md)；读取示例：[READING.md](READING.md)。
+- 当前 v1.1 自动迁移汇总：`doc/FULL_MIGRATION_SUMMARY.json`；数值逐字节和未变文件摘要核对的范围与发布状态分开解释。
+- 当前 v1.1 抽样：`doc/validation/V1_1_VALIDATION.json`、[HTML](validation/index.html)。全量后抽样覆盖 10 个完整序列、80 视图，HTML 每视图显示抽样帧；不宣称人工审阅全部 8000 视图。
+- 历史结构审核：`doc/history-v1.0/validation/STRUCTURAL_AUDIT.json`。
+- 历史来源索引覆盖：`doc/history-v1.0/validation/SOURCE_FRAME_COVERAGE.json`；8000 视图、581968 帧的 RGB/对齐深度/标签源定位未发现缺项。这是索引核查，不是重解包全库像素比较。
+- 历史投影 QC：`doc/history-v1.0/validation/KEYPOINT_PROJECTION_QC.json`；证明已存 XYZ/UV/K 的相互一致性，不替代 RGB 人工核验。
+- 原始文档和 build 保留其 v1.0 身份，不重新标记为新验收；正式发布固定提交与人工通过记录另见发布后的 `doc/RELEASE.md`。
 
-全量入口：script/dexycb_v1_1/full.py。原 v1.0 文档及构建记录保留于 history-v1.0/；旧转换实现及配套规范在 script/v1_0_snapshot/。
+历史 HTML 曾因颜色取模使 255=手和 15=物体显示同色；修订仅将手伪彩改为 #ff2040，并展示整数码，没有改分割视频、实例映射或 RGB。预览缩放、伪彩色及网格缩略图始终不写回数据。

dex-ycb/shared-v1.1/doc/READING.md

@@ -0,0 +1,50 @@
+# 读取 Dex-YCB shared-v1.1
+
+先读 [完整合同](CONTRACT.md) 与 [raw 映射](RAW_TO_SHARED.md)。本示例只读取**已保存**的 shared 数据，不生成新标注，不修改视频、张量、valid 或 raw，也不需要 MANO 权重。
+
+## 依赖和执行
+
+使用已有环境中的 Python、PyTorch、NumPy 和 PATH 上的 FFmpeg（支持 FFV1/MJPEG）。不要求 GPU、不需要安装 HF SDK 来读取本地数据。下载时保留视图相对目录；读取物体资产还需配套 MTL/纹理，不能只下载 OBJ。
+
+```bash
+P=/absolute/path/to/dex-ycb/shared-v1.1
+python "$P/script/dexycb_v1_1/read_example.py" \
+  "$P/data/20200709-subject-01_20200709_141754/836212060125" --frame 0
+```
+
+输出包含 bundle 字段的 dtype/shape、所选帧的 valid、RGB/深度/分割解码尺寸、深度有效像素数和原生分割整数码；不写输出文件。对很长序列，FFmpeg 按帧索引读取会从开头解码，此示例不用于全库高吞吐训练。
+
+## 数值字段：按 metainfo 引用读取
+
+```python
+import json
+from pathlib import Path
+import torch
+
+view = Path('/absolute/path/to/one/sequence/camera')
+meta = json.loads((view / 'metainfo.json').read_text())
+component = meta['components']['keypoints_xyz']
+bundle = torch.load(view / component['data_ref'], map_location='cpu', weights_only=True)
+def at(value, keys):
+    for key in keys:
+        value = value[key]
+    return value
+xyz = at(bundle, component['data_key'])        # [T,2,21,3], m, camera frame
+valid = at(bundle, component['valid_key'])     # [T,2,21], bool
+left_xyz = xyz[:, 0]                          # 0=left, 1=right; 不按画面位置排序
+left_valid = valid[:, 0]
+```
+
+安全路径解析和按文件缓存见 [warehouse.py](../script/dexycb_v1_1/warehouse.py)。同一 bundle 只加载一次。不能用 isfinite 或 visibility 重新生成监督 valid；不能把无效 NaN 补成零后当真值。独立的 RGB/mask/relations valid `.pt` 根对象仍是 bool Tensor，不是字典。
+
+## 媒体与深度
+
+- RGB 是原 JPEG 码流封装；解码为 RGB uint8。源 JPEG 本身有损，“无二次编码”不等于原图无损采集。
+- `depth.mkv` 的 FFV1 gray16le 解码帧为 `[H,2W] uint16`，左半是 float32 位串低 16 位，右半是高 16 位：`bits = low.astype(uint32) | (high.astype(uint32) << 16)`，再 **reinterpret 为 little-endian float32**，不是数值 cast。结果 `[H,W]`，米制 Z 深度。实现见 [read_example.py](../script/dexycb_v1_1/read_example.py)。
+- `depth_valid.mkv` 解码为 `[H,W]` 的 0/1，然后转 bool；无效深度为 NaN。
+- `mask.mkv` 解码 uint16 整数码。255 是原生手区域，0 是背景；其他码按 `instances.jsonl` 解释，不能从 HTML 伪彩判断标签，也不把手 mask 替换成 MANO 投影。
+- 帧 `i` 以 `camera/frames.jsonl` 第 i 行为准。容器的 30 FPS 是封装索引，不可用来补造真实时间或多相机同步依据。
+
+## 报告不是当前发布状态
+
+`FULL_MIGRATION_SUMMARY.json` 等保留生成时阶段和检查范围。正式发布后的固定提交、人工通过范围及文档修订记录见 `RELEASE.md`；没有该记录或试点报告通过，不代表已发布。历史 v1.0 报告在 `history-v1.0/`，不能冒充 v1.1 全量人工验收。

dex-ycb/shared-v1.1/doc/RELEASE.json

@@ -0,0 +1,21 @@
+{
+  "phase": "published_verified",
+  "final_commit": "333559de268c38a78a60ec72c5885ec006ec12a7",
+  "target_tree_oid": "58b425520214c2c502c429a93ada706dc1c0abc6",
+  "files": 272512,
+  "raw_unchanged": true,
+  "documentation_base_commit": "3e22a3cc7e2c2ab2589e47b739fc76a598a1fb9b",
+  "data_tree_oid": "733f842e92a246cdd87fe241e670ee14ae0e1ff3",
+  "source_revision": "2d78ce6422a5db77f6d64c2fb88770ab6e55ae0d",
+  "raw_tree_oid": "8081a2ccbf2771208b0fdc97fd5823af56a3189c",
+  "sequences": 1000,
+  "views": 8000,
+  "frames": 581968,
+  "post_full_human_approval": {
+    "date": "2026-10-10",
+    "scope": "user reviewed post-full index.html and reported no issue",
+    "publication_authorized": true
+  },
+  "historical_summary_phase": "local_finalized_not_uploaded",
+  "validation_method": "Current Git data/raw trees equal the fixed verified release; no full media download or rehash for documentation-only correction"
+}

dex-ycb/shared-v1.1/doc/RELEASE.md

@@ -0,0 +1,24 @@
+# Dex-YCB shared-v1.1 正式发布记录
+
+状态：**published_verified**。本文件记录数据发布事实，不把历史迁移报告的生成时间改写为发布完成时间。
+
+- 仓库：`ParityLab/Hand-Datasets-Raw`；当前目录：`dex-ycb/shared-v1.1/`。
+- 已验收数据的正式提交：`333559de268c38a78a60ec72c5885ec006ec12a7`。
+- 初次数据发布时的 shared 树：`58b425520214c2c502c429a93ada706dc1c0abc6`。
+- 数据子树 `data/`：`733f842e92a246cdd87fe241e670ee14ae0e1ff3`；文档修订后判断数据未变应比较此树和 raw 树，不要求整个 shared 树不变。
+- 原 v1.0 输入固定提交：`2d78ce6422a5db77f6d64c2fb88770ab6e55ae0d`。
+- 原 raw 树（未修改）：`8081a2ccbf2771208b0fdc97fd5823af56a3189c`。
+- 覆盖：1000 序列、8000 相机视图、581968 视图帧；发布清单共 272512 文件（文档修订前）。
+- 全量迁移按连续数值字节和未变文件摘要核对；未重编码媒体、未替换原生手 mask、未改变源深度或裁帧。
+- 全量后 HTML 抽样：10 个完整序列、80 视图，每视图展示选定帧；用户确认无问题，不宣称人工查看全部 8000 视图。
+- 人工通过原记录：{"date": "2026-10-10", "scope": "user reviewed post-full index.html and reported no issue", "publication_authorized": true}
+
+## 如何解释旧报告
+
+`FULL_MIGRATION_SUMMARY.json` 及 validation 下的副本保留当时 `local_finalized_not_uploaded` 阶段，检查结果有效，但不是最新发布状态。历史 v1.0 构建/审核在 `history-v1.0/`；旧文档快照如保存在 `history-documentation-r0/`，只用于追溯。当前合同是 [CONTRACT.md](CONTRACT.md)，不再依赖旧版合同拼接阅读。
+
+发布采用已验收 Git 快照直接更新 main，旧 shared-v1.0 已删除；原候选 PR 即便仍 open 也不代表数据未发布，**不要再次合并旧候选 PR**。main 后续其他数据集更新可以改变仓库 HEAD，但不改变本发布的固定提交依据。
+
+## 本次文档修订
+
+文档基线固定提交：`3e22a3cc7e2c2ab2589e47b739fc76a598a1fb9b`。只补全说明、当前映射、引用和读取示例；data/raw/其他数据集以及 schema.json 不变。此次核对使用 Git 树内容标识与既有全量验收，不重新下载全库算哈希，不把新增文档数量混为数据数量。后续修改数据须单独验收，不能沿用本文宣称新数据已通过。

dex-ycb/shared-v1.1/doc/history-documentation-r0/CONTRACT.md

@@ -0,0 +1,163 @@
+> Dex-YCB v1.1 本地全量迁移；人工抽样复查已通过；HF 发布状态以固定提交验收记录为准。
+
+# 手物数据仓库统一约定 v1.1：张量合并存储
+
+格式版本：`hand-warehouse/1.1`。张量存储约定：`pt/tensor_bundle/v1`。
+
+状态：Dex-YCB v1.1 配套注册表与读写工具已适配；本地全量自动验收完成后仍须人工复查，HF 尚未发布。
+
+本版以 [v1.0 合同](V1_0_SEMANTICS.md) 为语义基础：任务范围、两层序列/相机组织、数据类型、单位、坐标系、时间对齐、左右手顺序、官方划分、view_type、来源、可用监督规则、媒体无损编码和验收要求均保留。下文仅替代数值张量组件的独立 Tensor 文件、对应 `*_valid.pt` 及文件引用规定；这些旧文件名仅用于识别对应逻辑字段。媒体和 JSONL 组件的有效性文件及引用保持 v1.0，不纳入合并。未明确改变的语义继续执行 v1.0。
+
+本版按用户约定作为 v1.0 的小版本存储修订，后续所有数据集逐步迁移到 v1.1。数值字段与 valid 语义不变，但 `.pt` 物理结构和引用方式改变，旧读取器不能未经适配直接读取新字典。各数据集在原 `shared-v1.0` 目录内逐步升级，完整验收后将目录更名为 `shared-v1.1`，不长期保留两套发布树。最终 `metainfo.schema_version=hand-warehouse/1.1`、`release_id=shared-v1.1`；尚未迁移的数据集仍使用原目录和版本。升级与发布流程见 [MIGRATION.md](MIGRATION.md)。实施前须按配套 v1.1 注册表完成读写/校验工具；不得将 v1.0 的 schema.json 改个版本号作为已完成适配的证明。正式发布时须提供完整合同与匹配注册表，不依赖本地草案目录中的相对链接。
+
+## 1. 合并边界
+
+1. 数值张量与对应有效性必须在同一个 `.pt` 文件、同一个字段字典内保存：`{"data": Tensor, "valid": BoolTensor}`。这些数值张量组件不再生成独立的 `*_valid.pt`；媒体和 JSONL 的有效性文件不受此规则影响。
+2. 按组件合并经常一起读取的小张量：相机内参、外参、畸变放在一个 `camera.pt`；MANO 参数与整手可见性放在一个 `mano.pt`；手关键点的二维、三维与可见性放在一个 `keypoints.pt`。
+3. 每个物体的数值字段及全部部件数值字段合并为一个 `object.pt`。不同物体、不同相机、不同序列不合成一个全局大文件，以保留按需下载和读取能力。
+4. RGB、深度、栅格 mask 继续使用原无损媒体格式，不把解码后的大数组或媒体字节塞进 `.pt`。它们的有效性文件保持原文件名、Tensor/媒体格式、形状和引用方式，不包装为字典。
+5. `metainfo.json`、`camera/frames.jsonl`、实例映射、物体身份/运动学定义与网格资产保留原格式。此次不把 JSON、JSONL、OBJ、纹理全部打进一个字典。
+
+合并只改变存储方式，不改变采样、帧数、张量内容或有效性判定。不为减少字段数而将多个组件的 valid 合成一个公共 valid。
+
+## 2. 目录
+
+```text
+<dataset>/shared-v1.1/
+  doc/                              # 完整合同、匹配 schema、字段映射、验收报告
+  script/                           # 转换、读取和校验代码
+  data/<sequence_id>/<camera_id>/
+    metainfo.json
+    observation/
+      rgb.mkv
+      rgb_valid.pt                  # 原独立 bool Tensor，保持不变
+      depth.mkv
+      depth_valid.mkv               # 逐像素有效性，保留压缩媒体格式
+    camera/
+      frames.jsonl
+      camera.pt                     # intrinsic、extrinsic、distortion
+    annotation/
+      mano/mano.pt                  # motion、visibility
+      keypoints/keypoints.pt        # uv、xyz、visibility、whole_hand_visibility
+      object/<object_id>/
+        metainfo.json
+        articulation.json           # 仅关节/部件结构实际存在时
+        object.pt                   # 位姿、可见性、几何点、关节、部件数值
+        assets/                     # 原网格、材质、纹理及依赖
+      segment/
+        mask.mkv                    # 或 polygons.jsonl，按所选表示
+        instances.jsonl             # 仅需要实例/区域编码映射时
+        mask_valid.pt               # 原帧级 bool Tensor，保持不变
+      contact/
+        relations.jsonl
+        relations_valid.pt          # 原帧级 bool Tensor，保持不变
+        <subject_id>__<object_id>/
+          contact.pt                # vertex_region、vertex_distance
+```
+
+只创建实际提供的组件和字段。以上不是每个数据集必须填满的模板；缺失内参、MANO、深度等不能通过占位文件伪装为已提供。序列/相机的两层结构不变，物体与模态目录属于相机内部组件。
+
+## 3. 字典结构与有效性
+
+本次合并的数值组件 `.pt` 根对象为字符串键的 Python `dict`，内部仅允许嵌套字符串键字典和 CPU `torch.Tensor`，不保存自定义类、��型、NumPy 对象或任意可执行对象。元信息、schema、单位和来源放在 metainfo，不在每个张量条目中重复保存。读取使用 `torch.load(path, map_location="cpu", weights_only=True)`。第 4 节保留的独立有效性 `.pt` 根对象仍为 CPU bool Tensor，不适用字典结构要求。
+
+例如，`camera/camera.pt` 的逻辑结构为：
+
+```python
+{
+    "intrinsic": {"data": K, "valid": K_valid},
+    "extrinsic": {"data": T_camera_from_world, "valid": extrinsic_valid},
+    "distortion": {"data": distortion, "valid": distortion_valid},
+}
+```
+
+以上变量均为 Tensor。未提供的字段整个省略；例如无世界系外参时不保存 `extrinsic`，不填单位矩阵。没有单独畸变向量的模型不创建 `distortion`：Fisheye624 仍使用既定 `[T,15]` 内参参数布局。
+
+数值字段统一为 `data` 与 `valid` 两个叶子。源属性原先显式声明全已知 `valid=true` 时，迁移可按该属性的有效性形状展开为全 true 的 bool Tensor；这是已有有效性声明的等价表示，不是根据数值或姿态推测有效性。有效性必须为 bool Tensor，不能用 Python `True` 代替字段内的 Tensor。静态数值字段同样配套 valid，形状采用其语义定义的标量或逐元素有效性；静态网格等外部资产仍可在 metainfo 中声明标量 valid。
+
+valid 的形状不要求与 data 完全相同，但必须与该字段定义一致。例如 MANO 为 `[T,2,61]` / `[T,2]`，内参为 `[T,3,3]` / `[T]`，关键点为 `[T,2,K,3]` / `[T,2,K]`。按 schema 将 valid 扩展到相应数值维度，不允许依靠碰巧可广播推断语义。
+
+浮点默认 float32，无效浮点位置仍为 NaN；bool 和整数沿用该组件的占位/保留值规则，不因没有 NaN 而视为有效。valid 表达可用监督，不只是“值有限”或“记录存在”；适用官方 QA 与已经确认的排除规则继续保留。不能用 `isfinite(data)` 重建 valid，不能因为迁移而把 false 改成 true。
+
+不同字段的 valid 独立保存和解释。visibility 的 valid 不复用姿态 valid；内参 valid 不代替外参 valid。既有相机模型要求内参与单独畸变向量共用有效性时，在两个字段内保存相同 bool 值并校验一致，而不改变该模型的联合标定规则。
+
+## 4. 固定分组与字段名
+
+下表中的键路径用 `/` 展示字典层级；它不是文件系统路径。数值字段均在列出的键下继续存储 `data`、`valid`。
+
+| 文件 | 数值字段键 | 内容 |
+|---|---|---|
+| `camera/camera.pt` | `intrinsic`、`extrinsic`、`distortion` | 逐帧标定；形状、参数顺序与相机模型定义不变 |
+| `annotation/mano/mano.pt` | `motion`、`visibility` | MANO `[T,2,61]` 与源整手可见性；各有独立有效性 |
+| `annotation/keypoints/keypoints.pt` | `uv`、`xyz`、`visibility`、`whole_hand_visibility` | 手关键点及源可见性；整手与逐点可见性不混用 |
+| `annotation/object/<id>/object.pt` | `pose`、`visibility`、`dimensions`、`joint_state` | 该物体的数值标注 |
+| 同上 | `keypoints/xyz`、`keypoints/template_xyz` | 相机系逐帧点或物体系静态模板点 |
+| 同上 | `parts/<part_id>/pose`、`parts/<part_id>/dimensions`、`parts/<part_id>/keypoints/xyz`、`parts/<part_id>/keypoints/template_xyz` | 部件数值字段，部件身份仍由 articulation 登记 |
+| 同上 | `meshes/<mesh_id>/vertex_part_ids` | `[V] int64` 顶点部件标签，valid 为 `[V]`，未知 -1 对应 false；每个 mesh 单独绑定拓扑 |
+| `annotation/contact/<subject_id>__<object_id>/contact.pt` | `vertex_region`、`vertex_distance` | 已登记拓扑上的接触区域/距离与同形有效性 |
+
+顶点部件标签使用注册类型 `object/vertex_part_ids/v1`。物体的 mesh_id、part_id 必须在 metainfo/运动学定义中可解析；不同拓扑不能误用同一顶点数组。未提供的可见性、关节值或模板点不生成空字段。
+
+**媒体和 JSONL 的有效性保持原样，不参与字典合并：**
+
+| 数据本体 | 有效性文件 | 存储形式 |
+|---|---|---|
+| `observation/rgb.mkv` | `observation/rgb_valid.pt` | 独立 CPU bool Tensor `[T]` |
+| `annotation/segment/mask.mkv` 或 `polygons.jsonl` | 原 `valid_ref` 指定的文件，通常为 `annotation/segment/mask_valid.pt` | 独立 CPU bool Tensor `[T]`；沿用原路径 |
+| `annotation/contact/relations.jsonl` | `annotation/contact/relations_valid.pt` | 独立 CPU bool Tensor `[T]` |
+| `observation/depth.mkv` | `observation/depth_valid.mkv` | 原逐像素 bool 无损视频 `[T,H,W]` |
+
+不新建仅包装上述 valid 的 observation.pt、segment.pt 或关系级 contact.pt。现有媒体/JSONL 的 `valid_ref`、`valid_axes` 及适用的 `valid_storage` 保持原定义；深度编码、NaN 位串还原与像素有效性规则不变。实体对的接触区域/距离是数值张量，仍按上表合并到各实体对的 contact.pt。
+
+## 5. metainfo 的文件与字典键引用
+
+文件定位与字典内部定位分开登记，不在文件名中���接自定义分隔符：
+
+| 字段 | 定义 |
+|---|---|
+| `data_ref` | 相对当前相机视图根目录的 POSIX 文件路径 |
+| `data_key` | 非空字符串列表，按顺序访问 `.pt` 嵌套字典，最终必须得到 data Tensor |
+| `valid_ref` | 有效性所在文件；合并的数值字段必须与 data_ref 相同，媒体/JSONL 保留独立有效性文件 |
+| `valid_key` | 非空字符串列表，最终必须得到 bool Tensor |
+| `storage.profile` / `valid_storage.profile` | 合并字典采用 `pt/tensor_bundle/v1`；媒体及其独立有效性保持原配置，不将独立 bool Tensor 声明为 bundle |
+
+数值字段必须显式登记 data_key 与 valid_key。例如内参登记：
+
+```json
+{
+  "available": true,
+  "schema_id": "camera/pinhole/v1",
+  "data_ref": "camera/camera.pt",
+  "data_key": ["intrinsic", "data"],
+  "axes": ["T", "row", "column"],
+  "valid_ref": "camera/camera.pt",
+  "valid_key": ["intrinsic", "valid"],
+  "valid_axes": ["T"],
+  "storage": {"profile": "pt/tensor_bundle/v1"},
+  "valid_storage": {"profile": "pt/tensor_bundle/v1"}
+}
+```
+
+这是引用结构片段，实际组件仍须补齐 provenance、source_locator 等必填内容。MANO 的 schema_id 仍可为 `mano/axis_angle61/v1`：它描述解码后的数值语义，不因为物理文件合并而改动。顶层 schema_version 与 storage.profile 标识新的存储方式。
+
+媒体和 JSONL 的 data_ref 不设置 data_key；RGB 的 valid_ref 仍为 `observation/rgb_valid.pt`，不设置 valid_key。分割、关系和深度的有效性同样保持原引用方式，不新增任何字典键字段。只有引用合并字典时才使用 data_key/valid_key。
+
+同样规则适用于 attributes 中的可见性等数值字段。相机模型已有的 `distortion_ref` 改为指向 `camera/camera.pt`，新增 `distortion_key=["distortion", "data"]`；对应有效性由同组件的 `distortion_valid_ref` 与 `distortion_valid_key=["distortion", "valid"]` 登记。带 `_key` 的引用必须指向匹配的 bundle 文件，不能指向目录或媒体。
+
+读取器按文件路径缓存已加载字典，再按 key 取字段。同一 camera.pt 的三个字段不应触发三次反序列化。按组件下载时取所需 bundle 的整个文件；本约定不承诺 `.pt` 内单个键的远端局部下载。组件合并会增加最小下载粒度，这是减少文件数的明确取舍。
+
+## 6. 迁移与验收
+
+各数据集分别迁移：先适配工具并做代表性完整序列验证，再迁移全量并核对结果，最后按授权更新远端发布；一个数据集完成不代表其他数据集已完成。迁移状态和输入/输出固定版本逐数据集登记。
+
+本地先在既有 `shared-v1.0` 内完成受控升级，校验完成后更名为 `shared-v1.1`。暂存、回滚、锁、旧文件清理、版本更新及 HF 路径切换遵循 [MIGRATION.md](MIGRATION.md)；不复制完整媒体、不改 raw、不重新编码。多文件原地更新期间须保持维护状态，不能让读取任务使用半迁移视图。
+
+每次迁移必须检查：
+
+1. 所有组件、属性及其字典键可解析；无越界文件引用、缺失键或未登记字段；已合并的数值组件不得遗留旧独立 `*_valid.pt`。媒体/JSONL 的原独立有效性文件必须保留，不得误删或重打包。
+2. 每个迁移前后的数值字段 dtype、shape、逐元素值、NaN 位置以及 bool valid 完全一致。数值张量还应按统一连续字节视图比较，确认没有更改 NaN 位串等内容；不能用近似容差代替单纯重打包的一致性。
+3. T、帧映射、相机方向、手槽、split、来源和 valid_policy 不变。固定标定仍按既有 `[T,...]` 规则保存；本次不额外改成单份静态标定加广播。
+4. 媒体与其他未修改文件按原可信摘要核对。新 `.pt` 的文件 SHA256 通常改变，必须重新生成发布清单；新文件指纹不等于转换语义正确性的证明。
+5. 用新读取器运行代表性完整序列及所有相机，检查 RGB、相机与实际存在的标注是否正确关联；报告明确“重打包数值一致”与“人工视觉验收”的不同范围。
+
+只有完成匹配注册表、读写工具及上述验收后才能生产/发布 v1.1。上传仍须单独得到授权；本文档更新本身不启动数据迁移或上传；被替代旧文件的清理属于后续迁移发布步骤，必须遵守MIGRATION.md 中先验收、安全切换和固定提交核验要求。

dex-ycb/shared-v1.1/doc/history-documentation-r0/RAW_TO_SHARED.md

@@ -0,0 +1,48 @@
+# Dex-YCB → shared-v1.0 源数据映射与验收边界
+
+本文件记录 123 上 `/data0/xuzhefeng/Datasets/uni-hoi-dataset/dex-ycb/shared-v1.0` 已发布数据，**转换依据只看该发布目录的 `script/convert_dexycb_v1.0.py` 和 `script/warehouse_v1_0.py`**（源仓库提交 `80ebaa6`），而非后来更新的仓库。配置在 `script/config.json`；配置的源根为 `/data0/xuzhefeng/Datasets/dex-ycb`，实际包可位于其 `raw/data/`、`raw/` 或根下；源包不修改。10 个 subject 包全部处理，没有设置 limit、max_frames、subjects、views；输出按 `<subject包>_<原序列时间>/<相机序列号>` 组织。MANO 模型不随发布复制，其路径在配置中，其身份在视图元数据中。
+
+| 源 | shared 数据 | 处理与边界 |
+|---|---|---|
+| `*-subject-*.tar.gz` 的 `<sequence>/meta.yml` | `metainfo.json`、`camera/frames.jsonl`、`doc/*.build.json` | 序列、8 个相机、源帧号、同步索引、YCB ID、抓取目标；s1 按 subject 01–06/10=train、07=val、08–09=test。真实逐帧时间和采集 FPS 不从容器时间猜测。 |
+| `<camera>/color_*.jpg` | `observation/rgb.mkv`、`rgb_valid.pt` | JPEG 码流直接封装为 MKV，完整码流顺序／哈希核对；发布运行未启用 `jpeg_full_check`，RGB 解码像素仅抽取每视图最多 16 帧核对，不宣称逐帧像素比对。 |
+| `<camera>/aligned_depth_to_color_*.png` | `observation/depth.mkv`、`depth_valid.mkv` | 源毫米 Z 深度换算为米，保留无效区域；使用彩色相机内参，不二次配准。 |
+| `<camera>/labels_*.npz:seg` | `annotation/segment/mask.mkv`、`instances.jsonl`（实际文件以 `metainfo.json` 的 `data_ref` 为准） | 保留源整数区域码：0 背景、255 手、YCB 物体号；未以 3D 手投影覆盖分割。 |
+| `labels_*.npz:joint_2d/joint_3d` | `annotation/keypoints/uv.pt`、`xyz.pt` 及各自 valid 张量 | 21 点分别保留像素坐标和相机系米；整手全 -1 判该标注缺失，不能把单个越界点误删。 |
+| `labels_*.npz:pose_m` + 标定 `mano.yml:betas` + 外部 MANO 左右模型 | `annotation/mano/motion.pt`、`motion_valid.pt` | 按 `meta.yml:mano_sides` 选解剖学手侧；源 PCA 系数经对应模型展开轴角 + 形状和平移；源全零 pose_m 视作无效。 |
+| `labels_*.npz:pose_y` + `meta.yml:ycb_ids` | `annotation/object/ycb_*/pose.pt`、valid 张量 | 按原物体槽顺序保存 camera-from-object 3×4 扩展的 SE(3)；全零位姿视作无效。 |
+| `models.tar.gz` 的 `textured_simple.obj`／MTL／纹理 | `annotation/object/ycb_*/assets/`、网格组件 | 原始模型文件保留；静态网格缩略图不是与 RGB 的投影对齐验收。 |
+| `calibration` 的 color 内参、cam→world 外参 | `camera/intrinsic.pt`、`extrinsic.pt` 与 valid 张量 | 外参取逆得到 camera-from-world；无源标定时留无效而非伪造。 |
+| `meta.yml:ycb_grasp_ind` | `annotation/contact/relations.jsonl` | 经 `ycb_ids` 解析，记录序列级 grasp 关系；广播到选中帧不等于逐帧接触测量。 |
+
+源序列级 `pose.npz`、`bop.tar.gz` 及源中其他未选字段未作为本 shared 独立组件转换，仍可从 raw 核查；不能把未转换项目说成不存在。有效性按组件分别存储，不从可见度或单一掩码推断其他组件有效。
+
+## 审核与兼容性
+
+`doc/validation/STRUCTURAL_AUDIT.json` 记录全量结构／引用审核范围；`index.html` 列出跨 subject 抽样视图，逐帧预览 RGB+源 2D 点、源分割与叠加、深度、各数值组件、有效性、网格静态预览及来源；各 `.report.json` 是持久化 QC，不替代人工检查。预览用伪彩和缩放不写回数据。**人工抽样确认前不上传。**
+
+2026-09-29 全量来源索引核对见 `doc/validation/SOURCE_FRAME_COVERAGE.json`：8000 视图共 581968 帧，持久化 `camera/frames.jsonl` 中 RGB、对齐深度、逐帧标签各有 **0 帧缺少源定位**；检查了索引连续性，但这不是对源 tar 再解包逐像素比较。12 个抽样视图的 3D→2D 关键点投影结果见 `KEYPOINT_PROJECTION_QC.json`，仅能证明已存储标注和内参的相互一致性，不能替代 RGB 人工核验。
+
+分割源整数码 `255=手`，`15=YCB 物体 15`。早期 HTML 伪彩按码值取模 240，导致 255 与 15 同为 `#96d23c`（RGB 150,210,60）；2026-09-28 的预览修订只将手部 255 显示为 `#ff2040` 并逐帧标注整数码，**不改原始分割视频、实例映射或 RGB**。旧版预览脚本留在 `doc/validation/*.before-color-fix.py` 以便追溯。
+
+此发布保留运行当时的 `doc/CONTRACT.md` 和 `doc/schema.json`（与代码一起冻结）；它们**不是**后续与 ARCTIC 对齐的参考文件版本。发布前应单独确认该差异的契约兼容性，不直接替换已经发布目录中的两份规范而假称转换时使用了新规范。
+
+2026-09-29 目标契约明确要求 **`view_type` 必填**；发布根 `doc/CONTRACT.md` 是实际转换时版本，`doc/validation/CONTRACT.md` 是当天工作区 `docs/CONTRACT.md` 的逐字节副本，供对照而非冒充转换时使用的规范。两版都要求 `view_type` 必填，8000 个视图均声明 `exo`；新副本另加入 shared 不必镜像全部 raw 的范围说明。
+
+
+## v1.1 纯存储迁移
+
+原始 RGB、对齐深度、seg、帧索引、MANO、左右手、split 和物体身份保持不变。手 mask 仍来自原生 labels_*.npz:seg，不使用手投影替代。
+
+| v1.0 文件 | v1.1 文件与字典条目 |
+|---|---|
+| camera/intrinsic.pt + valid | camera/camera.pt → intrinsic/{data,valid} |
+| camera/extrinsic.pt + valid | camera/camera.pt → extrinsic/{data,valid} |
+| mano/motion.pt + valid | mano/mano.pt → motion/{data,valid} |
+| keypoints/uv.pt、xyz.pt + 各自 valid | keypoints/keypoints.pt → uv、xyz 的 {data,valid} |
+| object/<id>/pose.pt + valid | object/<id>/object.pt → pose/{data,valid} |
+
+媒体／JSONL 的独立 valid 保留。没有新增缺失组件。迁移实现见 script/dexycb_v1_1/pilot.py；本次仅原地调整 shared 数值存储，不修改 raw，不重编码媒体。原始构建记录与旧验收属于 v1.0，不冒充 v1.1 验收。
+
+
+全量入口：script/dexycb_v1_1/full.py。原 v1.0 文档及构建记录保留于 history-v1.0/；旧转换实现及配套规范在 script/v1_0_snapshot/。

dex-ycb/shared-v1.1/doc/history-documentation-r0/README.md

@@ -0,0 +1,6 @@
+# 文档修订前快照
+
+这些文件是固定提交 3e22a3cc7e2c2ab2589e47b739fc76a598a1fb9b 中被替换文档的原字节，供历史追溯，不是现行合同。
+旧链接和旧运行阶段按历史事实保留；当前合同在上一级 CONTRACT.md。
+修订前的入口脚本在 script/dexycb_v1_1/history-documentation-r0/，原始 v1.0 证据仍在原历史目录。
+本次不重新转换数据，不修改原始包、张量、媒体、注册表或历史验收报告。

dex-ycb/shared-v1.1/doc/history-documentation-r0/validation/CONTRACT.md

@@ -0,0 +1,163 @@
+> Dex-YCB v1.1 本地全量迁移；人工抽样复查已通过；HF 发布状态以固定提交验收记录为准。
+
+# 手物数据仓库统一约定 v1.1：张量合并存储
+
+格式版本：`hand-warehouse/1.1`。张量存储约定：`pt/tensor_bundle/v1`。
+
+状态：Dex-YCB v1.1 配套注册表与读写工具已适配；本地全量自动验收完成后仍须人工复查，HF 尚未发布。
+
+本版以 [v1.0 合同](V1_0_SEMANTICS.md) 为语义基础：任务范围、两层序列/相机组织、数据类型、单位、坐标系、时间对齐、左右手顺序、官方划分、view_type、来源、可用监督规则、媒体无损编码和验收要求均保留。下文仅替代数值张量组件的独立 Tensor 文件、对应 `*_valid.pt` 及文件引用规定；这些旧文件名仅用于识别对应逻辑字段。媒体和 JSONL 组件的有效性文件及引用保持 v1.0，不纳入合并。未明确改变的语义继续执行 v1.0。
+
+本版按用户约定作为 v1.0 的小版本存储修订，后续所有数据集逐步迁移到 v1.1。数值字段与 valid 语义不变，但 `.pt` 物理结构和引用方式改变，旧读取器不能未经适配直接读取新字典。各数据集在原 `shared-v1.0` 目录内逐步升级，完整验收后将目录更名为 `shared-v1.1`，不长期保留两套发布树。最终 `metainfo.schema_version=hand-warehouse/1.1`、`release_id=shared-v1.1`；尚未迁移的数据集仍使用原目录和版本。升级与发布流程见 [MIGRATION.md](MIGRATION.md)。实施前须按配套 v1.1 注册表完成读写/校验工具；不得将 v1.0 的 schema.json 改个版本号作为已完成适配的证明。正式发布时须提供完整合同与匹配注册表，不依赖本地草案目录中的相对链接。
+
+## 1. 合并边界
+
+1. 数值张量与对应有效性必须在同一个 `.pt` 文件、同一个字段字典内保存：`{"data": Tensor, "valid": BoolTensor}`。这些数值张量组件不再生成独立的 `*_valid.pt`；媒体和 JSONL 的有效性文件不受此规则影响。
+2. 按组件合并经常一起读取的小张量：相机内参、外参、畸变放在一个 `camera.pt`；MANO 参数与整手可见性放在一个 `mano.pt`；手关键点的二维、三维与可见性放在一个 `keypoints.pt`。
+3. 每个物体的数值字段及全部部件数值字段合并为一个 `object.pt`。不同物体、不同相机、不同序列不合成一个全局大文件，以保留按需下载和读取能力。
+4. RGB、深度、栅格 mask 继续使用原无损媒体格式，不把解码后的大数组或媒体字节塞进 `.pt`。它们的有效性文件保持原文件名、Tensor/媒体格式、形状和引用方式，不包装为字典。
+5. `metainfo.json`、`camera/frames.jsonl`、实例映射、物体身份/运动学定义与网格资产保留原格式。此次不把 JSON、JSONL、OBJ、纹理全部打进一个字典。
+
+合并只改变存储方式，不改变采样、帧数、张量内容或有效性判定。不为减少字段数而将多个组件的 valid 合成一个公共 valid。
+
+## 2. 目录
+
+```text
+<dataset>/shared-v1.1/
+  doc/                              # 完整合同、匹配 schema、字段映射、验收报告
+  script/                           # 转换、读取和校验代码
+  data/<sequence_id>/<camera_id>/
+    metainfo.json
+    observation/
+      rgb.mkv
+      rgb_valid.pt                  # 原独立 bool Tensor，保持不变
+      depth.mkv
+      depth_valid.mkv               # 逐像素有效性，保留压缩媒体格式
+    camera/
+      frames.jsonl
+      camera.pt                     # intrinsic、extrinsic、distortion
+    annotation/
+      mano/mano.pt                  # motion、visibility
+      keypoints/keypoints.pt        # uv、xyz、visibility、whole_hand_visibility
+      object/<object_id>/
+        metainfo.json
+        articulation.json           # 仅关节/部件结构实际存在时
+        object.pt                   # 位姿、可见性、几何点、关节、部件数值
+        assets/                     # 原网格、材质、纹理及依赖
+      segment/
+        mask.mkv                    # 或 polygons.jsonl，按所选表示
+        instances.jsonl             # 仅需要实例/区域编码映射时
+        mask_valid.pt               # 原帧级 bool Tensor，保持不变
+      contact/
+        relations.jsonl
+        relations_valid.pt          # 原帧级 bool Tensor，保持不变
+        <subject_id>__<object_id>/
+          contact.pt                # vertex_region、vertex_distance
+```
+
+只创建实际提供的组件和字段。以上不是每个数据集必须填满的模板；缺失内参、MANO、深度等不能通过占位文件伪装为已提供。序列/相机的两层结构不变，物体与模态目录属于相机内部组件。
+
+## 3. 字典结构与有效性
+
+本次合并的数值组件 `.pt` 根对象为字符串键的 Python `dict`，内部仅允许嵌套字符串键字典和 CPU `torch.Tensor`，不保存自定义类、��型、NumPy 对象或任意可执行对象。元信息、schema、单位和来源放在 metainfo，不在每个张量条目中重复保存。读取使用 `torch.load(path, map_location="cpu", weights_only=True)`。第 4 节保留的独立有效性 `.pt` 根对象仍为 CPU bool Tensor，不适用字典结构要求。
+
+例如，`camera/camera.pt` 的逻辑结构为：
+
+```python
+{
+    "intrinsic": {"data": K, "valid": K_valid},
+    "extrinsic": {"data": T_camera_from_world, "valid": extrinsic_valid},
+    "distortion": {"data": distortion, "valid": distortion_valid},
+}
+```
+
+以上变量均为 Tensor。未提供的字段整个省略；例如无世界系外参时不保存 `extrinsic`，不填单位矩阵。没有单独畸变向量的模型不创建 `distortion`：Fisheye624 仍使用既定 `[T,15]` 内参参数布局。
+
+数值字段统一为 `data` 与 `valid` 两个叶子。源属性原先显式声明全已知 `valid=true` 时，迁移可按该属性的有效性形状展开为全 true 的 bool Tensor；这是已有有效性声明的等价表示，不是根据数值或姿态推测有效性。有效性必须为 bool Tensor，不能用 Python `True` 代替字段内的 Tensor。静态数值字段同样配套 valid，形状采用其语义定义的标量或逐元素有效性；静态网格等外部资产仍可在 metainfo 中声明标量 valid。
+
+valid 的形状不要求与 data 完全相同，但必须与该字段定义一致。例如 MANO 为 `[T,2,61]` / `[T,2]`，内参为 `[T,3,3]` / `[T]`，关键点为 `[T,2,K,3]` / `[T,2,K]`。按 schema 将 valid 扩展到相应数值维度，不允许依靠碰巧可广播推断语义。
+
+浮点默认 float32，无效浮点位置仍为 NaN；bool 和整数沿用该组件的占位/保留值规则，不因没有 NaN 而视为有效。valid 表达可用监督，不只是“值有限”或“记录存在”；适用官方 QA 与已经确认的排除规则继续保留。不能用 `isfinite(data)` 重建 valid，不能因为迁移而把 false 改成 true。
+
+不同字段的 valid 独立保存和解释。visibility 的 valid 不复用姿态 valid；内参 valid 不代替外参 valid。既有相机模型要求内参与单独畸变向量共用有效性时，在两个字段内保存相同 bool 值并校验一致，而不改变该模型的联合标定规则。
+
+## 4. 固定分组与字段名
+
+下表中的键路径用 `/` 展示字典层级；它不是文件系统路径。数值字段均在列出的键下继续存储 `data`、`valid`。
+
+| 文件 | 数值字段键 | 内容 |
+|---|---|---|
+| `camera/camera.pt` | `intrinsic`、`extrinsic`、`distortion` | 逐帧标定；形状、参数顺序与相机模型定义不变 |
+| `annotation/mano/mano.pt` | `motion`、`visibility` | MANO `[T,2,61]` 与源整手可见性；各有独立有效性 |
+| `annotation/keypoints/keypoints.pt` | `uv`、`xyz`、`visibility`、`whole_hand_visibility` | 手关键点及源可见性；整手与逐点可见性不混用 |
+| `annotation/object/<id>/object.pt` | `pose`、`visibility`、`dimensions`、`joint_state` | 该物体的数值标注 |
+| 同上 | `keypoints/xyz`、`keypoints/template_xyz` | 相机系逐帧点或物体系静态模板点 |
+| 同上 | `parts/<part_id>/pose`、`parts/<part_id>/dimensions`、`parts/<part_id>/keypoints/xyz`、`parts/<part_id>/keypoints/template_xyz` | 部件数值字段，部件身份仍由 articulation 登记 |
+| 同上 | `meshes/<mesh_id>/vertex_part_ids` | `[V] int64` 顶点部件标签，valid 为 `[V]`，未知 -1 对应 false；每个 mesh 单独绑定拓扑 |
+| `annotation/contact/<subject_id>__<object_id>/contact.pt` | `vertex_region`、`vertex_distance` | 已登记拓扑上的接触区域/距离与同形有效性 |
+
+顶点部件标签使用注册类型 `object/vertex_part_ids/v1`。物体的 mesh_id、part_id 必须在 metainfo/运动学定义中可解析；不同拓扑不能误用同一顶点数组。未提供的可见性、关节值或模板点不生成空字段。
+
+**媒体和 JSONL 的有效性保持原样，不参与字典合并：**
+
+| 数据本体 | 有效性文件 | 存储形式 |
+|---|---|---|
+| `observation/rgb.mkv` | `observation/rgb_valid.pt` | 独立 CPU bool Tensor `[T]` |
+| `annotation/segment/mask.mkv` 或 `polygons.jsonl` | 原 `valid_ref` 指定的文件，通常为 `annotation/segment/mask_valid.pt` | 独立 CPU bool Tensor `[T]`；沿用原路径 |
+| `annotation/contact/relations.jsonl` | `annotation/contact/relations_valid.pt` | 独立 CPU bool Tensor `[T]` |
+| `observation/depth.mkv` | `observation/depth_valid.mkv` | 原逐像素 bool 无损视频 `[T,H,W]` |
+
+不新建仅包装上述 valid 的 observation.pt、segment.pt 或关系级 contact.pt。现有媒体/JSONL 的 `valid_ref`、`valid_axes` 及适用的 `valid_storage` 保持原定义；深度编码、NaN 位串还原与像素有效性规则不变。实体对的接触区域/距离是数值张量，仍按上表合并到各实体对的 contact.pt。
+
+## 5. metainfo 的文件与字典键引用
+
+文件定位与字典内部定位分开登记，不在文件名中���接自定义分隔符：
+
+| 字段 | 定义 |
+|---|---|
+| `data_ref` | 相对当前相机视图根目录的 POSIX 文件路径 |
+| `data_key` | 非空字符串列表，按顺序访问 `.pt` 嵌套字典，最终必须得到 data Tensor |
+| `valid_ref` | 有效性所在文件；合并的数值字段必须与 data_ref 相同，媒体/JSONL 保留独立有效性文件 |
+| `valid_key` | 非空字符串列表，最终必须得到 bool Tensor |
+| `storage.profile` / `valid_storage.profile` | 合并字典采用 `pt/tensor_bundle/v1`；媒体及其独立有效性保持原配置，不将独立 bool Tensor 声明为 bundle |
+
+数值字段必须显式登记 data_key 与 valid_key。例如内参登记：
+
+```json
+{
+  "available": true,
+  "schema_id": "camera/pinhole/v1",
+  "data_ref": "camera/camera.pt",
+  "data_key": ["intrinsic", "data"],
+  "axes": ["T", "row", "column"],
+  "valid_ref": "camera/camera.pt",
+  "valid_key": ["intrinsic", "valid"],
+  "valid_axes": ["T"],
+  "storage": {"profile": "pt/tensor_bundle/v1"},
+  "valid_storage": {"profile": "pt/tensor_bundle/v1"}
+}
+```
+
+这是引用结构片段，实际组件仍须补齐 provenance、source_locator 等必填内容。MANO 的 schema_id 仍可为 `mano/axis_angle61/v1`：它描述解码后的数值语义，不因为物理文件合并而改动。顶层 schema_version 与 storage.profile 标识新的存储方式。
+
+媒体和 JSONL 的 data_ref 不设置 data_key；RGB 的 valid_ref 仍为 `observation/rgb_valid.pt`，不设置 valid_key。分割、关系和深度的有效性同样保持原引用方式，不新增任何字典键字段。只有引用合并字典时才使用 data_key/valid_key。
+
+同样规则适用于 attributes 中的可见性等数值字段。相机模型已有的 `distortion_ref` 改为指向 `camera/camera.pt`，新增 `distortion_key=["distortion", "data"]`；对应有效性由同组件的 `distortion_valid_ref` 与 `distortion_valid_key=["distortion", "valid"]` 登记。带 `_key` 的引用必须指向匹配的 bundle 文件，不能指向目录或媒体。
+
+读取器按文件路径缓存已加载字典，再按 key 取字段。同一 camera.pt 的三个字段不应触发三次反序列化。按组件下载时取所需 bundle 的整个文件；本约定不承诺 `.pt` 内单个键的远端局部下载。组件合并会增加最小下载粒度，这是减少文件数的明确取舍。
+
+## 6. 迁移与验收
+
+各数据集分别迁移：先适配工具并做代表性完整序列验证，再迁移全量并核对结果，最后按授权更新远端发布；一个数据集完成不代表其他数据集已完成。迁移状态和输入/输出固定版本逐数据集登记。
+
+本地先在既有 `shared-v1.0` 内完成受控升级，校验完成后更名为 `shared-v1.1`。暂存、回滚、锁、旧文件清理、版本更新及 HF 路径切换遵循 [MIGRATION.md](MIGRATION.md)；不复制完整媒体、不改 raw、不重新编码。多文件原地更新期间须保持维护状态，不能让读取任务使用半迁移视图。
+
+每次迁移必须检查：
+
+1. 所有组件、属性及其字典键可解析；无越界文件引用、缺失键或未登记字段；已合并的数值组件不得遗留旧独立 `*_valid.pt`。媒体/JSONL 的原独立有效性文件必须保留，不得误删或重打包。
+2. 每个迁移前后的数值字段 dtype、shape、逐元素值、NaN 位置以及 bool valid 完全一致。数值张量还应按统一连续字节视图比较，确认没有更改 NaN 位串等内容；不能用近似容差代替单纯重打包的一致性。
+3. T、帧映射、相机方向、手槽、split、来源和 valid_policy 不变。固定标定仍按既有 `[T,...]` 规则保存；本次不额外改成单份静态标定加广播。
+4. 媒体与其他未修改文件按原可信摘要核对。新 `.pt` 的文件 SHA256 通常改变，必须重新生成发布清单；新文件指纹不等于转换语义正确性的证明。
+5. 用新读取器运行代表性完整序列及所有相机，检查 RGB、相机与实际存在的标注是否正确关联；报告明确“重打包数值一致”与“人工视觉验收”的不同范围。
+
+只有完成匹配注册表、读写工具及上述验收后才能生产/发布 v1.1。上传仍须单独得到授权；本文档更新本身不启动数据迁移或上传；被替代旧文件的清理属于后续迁移发布步骤，必须遵守MIGRATION.md 中先验收、安全切换和固定提交核验要求。

dex-ycb/shared-v1.1/doc/validation/CONTRACT.md

@@ -1,163 +1,6 @@
-> Dex-YCB v1.1 本地全量迁移；人工抽样复查已通过；HF 发布状态以固定提交验收记录为准。
+# 当前格式合同与验收范围
 
-# 手物数据仓库统一约定 v1.1：张量合并存储
-
-格式版本：`hand-warehouse/1.1`。张量存储约定：`pt/tensor_bundle/v1`。
-
-状态：Dex-YCB v1.1 配套注册表与读写工具已适配；本地全量自动验收完成后仍须人工复查，HF 尚未发布。
-
-本版以 [v1.0 合同](V1_0_SEMANTICS.md) 为语义基础：任务范围、两层序列/相机组织、数据类型、单位、坐标系、时间对齐、左右手顺序、官方划分、view_type、来源、可用监督规则、媒体无损编码和验收要求均保留。下文仅替代数值张量组件的独立 Tensor 文件、对应 `*_valid.pt` 及文件引用规定；这些旧文件名仅用于识别对应逻辑字段。媒体和 JSONL 组件的有效性文件及引用保持 v1.0，不纳入合并。未明确改变的语义继续执行 v1.0。
-
-本版按用户约定作为 v1.0 的小版本存储修订，后续所有数据集逐步迁移到 v1.1。数值字段与 valid 语义不变，但 `.pt` 物理结构和引用方式改变，旧读取器不能未经适配直接读取新字典。各数据集在原 `shared-v1.0` 目录内逐步升级，完整验收后将目录更名为 `shared-v1.1`，不长期保留两套发布树。最终 `metainfo.schema_version=hand-warehouse/1.1`、`release_id=shared-v1.1`；尚未迁移的数据集仍使用原目录和版本。升级与发布流程见 [MIGRATION.md](MIGRATION.md)。实施前须按配套 v1.1 注册表完成读写/校验工具；不得将 v1.0 的 schema.json 改个版本号作为已完成适配的证明。正式发布时须提供完整合同与匹配注册表，不依赖本地草案目录中的相对链接。
-
-## 1. 合并边界
-
-1. 数值张量与对应有效性必须在同一个 `.pt` 文件、同一个字段字典内保存：`{"data": Tensor, "valid": BoolTensor}`。这些数值张量组件不再生成独立的 `*_valid.pt`；媒体和 JSONL 的有效性文件不受此规则影响。
-2. 按组件合并经常一起读取的小张量：相机内参、外参、畸变放在一个 `camera.pt`；MANO 参数与整手可见性放在一个 `mano.pt`；手关键点的二维、三维与可见性放在一个 `keypoints.pt`。
-3. 每个物体的数值字段及全部部件数值字段合并为一个 `object.pt`。不同物体、不同相机、不同序列不合成一个全局大文件，以保留按需下载和读取能力。
-4. RGB、深度、栅格 mask 继续使用原无损媒体格式，不把解码后的大数组或媒体字节塞进 `.pt`。它们的有效性文件保持原文件名、Tensor/媒体格式、形状和引用方式，不包装为字典。
-5. `metainfo.json`、`camera/frames.jsonl`、实例映射、物体身份/运动学定义与网格资产保留原格式。此次不把 JSON、JSONL、OBJ、纹理全部打进一个字典。
-
-合并只改变存储方式，不改变采样、帧数、张量内容或有效性判定。不为减少字段数而将多个组件的 valid 合成一个公共 valid。
-
-## 2. 目录
-
-```text
-<dataset>/shared-v1.1/
-  doc/                              # 完整合同、匹配 schema、字段映射、验收报告
-  script/                           # 转换、读取和校验代码
-  data/<sequence_id>/<camera_id>/
-    metainfo.json
-    observation/
-      rgb.mkv
-      rgb_valid.pt                  # 原独立 bool Tensor，保持不变
-      depth.mkv
-      depth_valid.mkv               # 逐像素有效性，保留压缩媒体格式
-    camera/
-      frames.jsonl
-      camera.pt                     # intrinsic、extrinsic、distortion
-    annotation/
-      mano/mano.pt                  # motion、visibility
-      keypoints/keypoints.pt        # uv、xyz、visibility、whole_hand_visibility
-      object/<object_id>/
-        metainfo.json
-        articulation.json           # 仅关节/部件结构实际存在时
-        object.pt                   # 位姿、可见性、几何点、关节、部件数值
-        assets/                     # 原网格、材质、纹理及依赖
-      segment/
-        mask.mkv                    # 或 polygons.jsonl，按所选表示
-        instances.jsonl             # 仅需要实例/区域编码映射时
-        mask_valid.pt               # 原帧级 bool Tensor，保持不变
-      contact/
-        relations.jsonl
-        relations_valid.pt          # 原帧级 bool Tensor，保持不变
-        <subject_id>__<object_id>/
-          contact.pt                # vertex_region、vertex_distance
-```
-
-只创建实际提供的组件和字段。以上不是每个数据集必须填满的模板；缺失内参、MANO、深度等不能通过占位文件伪装为已提供。序列/相机的两层结构不变，物体与模态目录属于相机内部组件。
-
-## 3. 字典结构与有效性
-
-本次合并的数值组件 `.pt` 根对象为字符串键的 Python `dict`，内部仅允许嵌套字符串键字典和 CPU `torch.Tensor`，不保存自定义类、模型、NumPy 对象或任意可执行对象。元信息、schema、单位和来源放在 metainfo，不在每个张量条目中重复保存。读取使用 `torch.load(path, map_location="cpu", weights_only=True)`。第 4 节保留的独立有效性 `.pt` 根对象仍为 CPU bool Tensor，不适用字典结构要求。
-
-例如，`camera/camera.pt` 的逻辑结构为：
-
-```python
-{
-    "intrinsic": {"data": K, "valid": K_valid},
-    "extrinsic": {"data": T_camera_from_world, "valid": extrinsic_valid},
-    "distortion": {"data": distortion, "valid": distortion_valid},
-}
-```
-
-以上变量均为 Tensor。未提供的字段整个省略；例如无世界系外参时不保存 `extrinsic`，不填单位矩阵。没有单独畸变向量的模型不创建 `distortion`：Fisheye624 仍使用既定 `[T,15]` 内参参数布局。
-
-数值字段统一为 `data` 与 `valid` 两个叶子。源属性原先显式声明全已知 `valid=true` 时，迁移可按该属性的有效性形状展开为全 true 的 bool Tensor；这是已有有效性声明的等价表示，不是根据数值或姿态推测有效性。有效性必须为 bool Tensor，不能用 Python `True` 代替字段内的 Tensor。静态数值字段同样配套 valid，形状采用其语义定义的标量或逐元素有效性；静态网格等外部资产仍可在 metainfo 中声明标量 valid。
-
-valid 的形状不要求与 data 完全相同，但必须与该字段定义一致。例如 MANO 为 `[T,2,61]` / `[T,2]`，内参为 `[T,3,3]` / `[T]`，关键点为 `[T,2,K,3]` / `[T,2,K]`。按 schema 将 valid 扩展到相应数值维度，不允许依靠碰巧可广播推断语义。
-
-浮点默认 float32，无效浮点位置仍为 NaN；bool 和整数沿用该组件的占位/保留值规则，不因没有 NaN 而视为有效。valid 表达可用监督，不只是“值有限”或“记录存在”；适用官方 QA 与已经确认的排除规则继续保留。不能用 `isfinite(data)` 重建 valid，不能因为迁移而把 false 改成 true。
-
-不同字段的 valid 独立保存和解释。visibility 的 valid 不复用姿态 valid；内参 valid 不代替外参 valid。既有相机模型要求内参与单独畸变向量共用有效性时，在两个字段内保存相同 bool 值并校验一致，而不改变该模型的联合标定规则。
-
-## 4. 固定分组与字段名
-
-下表中的键路径用 `/` 展示字典层级；它不是文件系统路径。数值字段均在列出的键下继续存储 `data`、`valid`。
-
-| 文件 | 数值字段键 | 内容 |
-|---|---|---|
-| `camera/camera.pt` | `intrinsic`、`extrinsic`、`distortion` | 逐帧标定；形状、参数顺序与相机模型定义不变 |
-| `annotation/mano/mano.pt` | `motion`、`visibility` | MANO `[T,2,61]` 与源整手可见性；各有独立有效性 |
-| `annotation/keypoints/keypoints.pt` | `uv`、`xyz`、`visibility`、`whole_hand_visibility` | 手关键点及源可见性；整手与逐点可见性不混用 |
-| `annotation/object/<id>/object.pt` | `pose`、`visibility`、`dimensions`、`joint_state` | 该物体的数值标注 |
-| 同上 | `keypoints/xyz`、`keypoints/template_xyz` | 相机系逐帧点或物体系静态模板点 |
-| 同上 | `parts/<part_id>/pose`、`parts/<part_id>/dimensions`、`parts/<part_id>/keypoints/xyz`、`parts/<part_id>/keypoints/template_xyz` | 部件数值字段，部件身份仍由 articulation 登记 |
-| 同上 | `meshes/<mesh_id>/vertex_part_ids` | `[V] int64` 顶点部件标签，valid 为 `[V]`，未知 -1 对应 false；每个 mesh 单独绑定拓扑 |
-| `annotation/contact/<subject_id>__<object_id>/contact.pt` | `vertex_region`、`vertex_distance` | 已登记拓扑上的接触区域/距离与同形有效性 |
-
-顶点部件标签使用注册类型 `object/vertex_part_ids/v1`。物体的 mesh_id、part_id 必须在 metainfo/运动学定义中可解析；不同拓扑不能误用同一顶点数组。未提供的可见性、关节值或模板点不生成空字段。
-
-**媒体和 JSONL 的有效性保持原样，不参与字典合并：**
-
-| 数据本体 | 有效性文件 | 存储形式 |
-|---|---|---|
-| `observation/rgb.mkv` | `observation/rgb_valid.pt` | 独立 CPU bool Tensor `[T]` |
-| `annotation/segment/mask.mkv` 或 `polygons.jsonl` | 原 `valid_ref` 指定的文件，通常为 `annotation/segment/mask_valid.pt` | 独立 CPU bool Tensor `[T]`；沿用原路径 |
-| `annotation/contact/relations.jsonl` | `annotation/contact/relations_valid.pt` | 独立 CPU bool Tensor `[T]` |
-| `observation/depth.mkv` | `observation/depth_valid.mkv` | 原逐像素 bool 无损视频 `[T,H,W]` |
-
-不新建仅包装上述 valid 的 observation.pt、segment.pt 或关系级 contact.pt。现有媒体/JSONL 的 `valid_ref`、`valid_axes` 及适用的 `valid_storage` 保持原定义；深度编码、NaN 位串还原与像素有效性规则不变。实体对的接触区域/距离是数值张量，仍按上表合并到各实体对的 contact.pt。
-
-## 5. metainfo 的文件与字典键引用
-
-文件定位与字典内部定位分开登记，不在文件名中拼接自定义分隔符：
-
-| 字段 | 定义 |
-|---|---|
-| `data_ref` | 相对当前相机视图根目录的 POSIX 文件路径 |
-| `data_key` | 非空字符串列表，按顺序访问 `.pt` 嵌套字典，最终必须得到 data Tensor |
-| `valid_ref` | 有效性所在文件；合并的数值字段必须与 data_ref 相同，媒体/JSONL 保留独立有效性文件 |
-| `valid_key` | 非空字符串列表，最终必须得到 bool Tensor |
-| `storage.profile` / `valid_storage.profile` | 合并字典采用 `pt/tensor_bundle/v1`；媒体及其独立有效性保持原配置，不将独立 bool Tensor 声明为 bundle |
-
-数值字段必须显式登记 data_key 与 valid_key。例如内参登记：
-
-```json
-{
-  "available": true,
-  "schema_id": "camera/pinhole/v1",
-  "data_ref": "camera/camera.pt",
-  "data_key": ["intrinsic", "data"],
-  "axes": ["T", "row", "column"],
-  "valid_ref": "camera/camera.pt",
-  "valid_key": ["intrinsic", "valid"],
-  "valid_axes": ["T"],
-  "storage": {"profile": "pt/tensor_bundle/v1"},
-  "valid_storage": {"profile": "pt/tensor_bundle/v1"}
-}
-```
-
-这是引用结构片段，实际组件仍须补齐 provenance、source_locator 等必填内容。MANO 的 schema_id 仍可为 `mano/axis_angle61/v1`：它描述解码后的数值语义，不因为物理文件合并而改动。顶层 schema_version 与 storage.profile 标识新的存储方式。
-
-媒体和 JSONL 的 data_ref 不设置 data_key；RGB 的 valid_ref 仍为 `observation/rgb_valid.pt`，不设置 valid_key。分割、关系和深度的有效性同样保持原引用方式，不新增任何字典键字段。只有引用合并字典时才使用 data_key/valid_key。
-
-同样规则适用于 attributes 中的可见性等数值字段。相机模型已有的 `distortion_ref` 改为指向 `camera/camera.pt`，新增 `distortion_key=["distortion", "data"]`；对应有效性由同组件的 `distortion_valid_ref` 与 `distortion_valid_key=["distortion", "valid"]` 登记。带 `_key` 的引用必须指向匹配的 bundle 文件，不能指向目录或媒体。
-
-读取器按文件路径缓存已加载字典，再按 key 取字段。同一 camera.pt 的三个字段不应触发三次反序列化。按组件下载时取所需 bundle 的整个文件；本约定不承诺 `.pt` 内单个键的远端局部下载。组件合并会增加最小下载粒度，这是减少文件数的明确取舍。
-
-## 6. 迁移与验收
-
-各数据集分别迁移：先适配工具并做代表性完整序列验证，再迁移全量并核对结果，最后按授权更新远端发布；一个数据集完成不代表其他数据集已完成。迁移状态和输入/输出固定版本逐数据集登记。
-
-本地先在既有 `shared-v1.0` 内完成受控升级，校验完成后更名为 `shared-v1.1`。暂存、回滚、锁、旧文件清理、版本更新及 HF 路径切换遵循 [MIGRATION.md](MIGRATION.md)；不复制完整媒体、不改 raw、不重新编码。多文件原地更新期间须保持维护状态，不能让读取任务使用半迁移视图。
-
-每次迁移必须检查：
-
-1. 所有组件、属性及其字典键可解析；无越界文件引用、缺失键或未登记字段；已合并的数值组件不得遗留旧独立 `*_valid.pt`。媒体/JSONL 的原独立有效性文件必须保留，不得误删或重打包。
-2. 每个迁移前后的数值字段 dtype、shape、逐元素值、NaN 位置以及 bool valid 完全一致。数值张量还应按统一连续字节视图比较，确认没有更改 NaN 位串等内容；不能用近似容差代替单纯重打包的一致性。
-3. T、帧映射、相机方向、手槽、split、来源和 valid_policy 不变。固定标定仍按既有 `[T,...]` 规则保存；本次不额外改成单份静态标定加广播。
-4. 媒体与其他未修改文件按原可信摘要核对。新 `.pt` 的文件 SHA256 通常改变，必须重新生成发布清单；新文件指纹不等于转换语义正确性的证明。
-5. 用新读取器运行代表性完整序列及所有相机，检查 RGB、相机与实际存在的标注是否正确关联；报告明确“重打包数值一致”与“人工视觉验收”的不同范围。
-
-只有完成匹配注册表、读写工具及上述验收后才能生产/发布 v1.1。上传仍须单独得到授权；本文档更新本身不启动数据迁移或上传；被替代旧文件的清理属于后续迁移发布步骤，必须遵守MIGRATION.md 中先验收、安全切换和固定提交核验要求。
+当前唯一规范性合同是 [doc/CONTRACT.md](../CONTRACT.md)，配套注册表为 [schema.json](../schema.json)。
+读取方式见 [READING.md](../READING.md)，raw 映射见 [RAW_TO_SHARED.md](../RAW_TO_SHARED.md)。
+本目录只保存验收页面和报告，不再复制另一份会漂移的格式合同。
+报告保留生成时阶段；人工抽样通过不等于全部视图逐页人工通过。正式发布记录见上一级的 `RELEASE.md`。

dex-ycb/shared-v1.1/script/dexycb_v1_1/README.md

@@ -36,7 +36,7 @@ uv run python "$W/shared-v1.1/script/dexycb_v1_1/render.py" \
 The pilot requires a **new** output on the same filesystem; it never overwrites
 or deletes source files. Its unchanged files are hardlinks: do not edit those
 files inside the pilot. It records per-file hashes and exact deletion candidates,
-not per-frame SHA256 or all-video pixel equality. There is no HF write operation.
+not per-frame SHA256 or all-video pixel equality. The pilot has no HF write operation.
 
 The immutable source commit and raw tree OID are recorded. Old scripts remain in
 `script/v1_0_snapshot/script/` with their old contract/schema in the neighbouring
@@ -44,7 +44,7 @@ The immutable source commit and raw tree OID are recorded. Old scripts remain in
 build and human-approval records must not be relabelled as v1.1 approvals.
 
 The pilot CLI intentionally has no full-migration/upload switch. Full migration
-uses the separate, locked entry below. No script in this directory writes to HF.
+uses the separate, locked entry below. Migration/rendering scripts do not write to HF; `publish.py` is a separately authorized HF publisher.
 
 ## Full in-place migration (after pilot approval)
 
@@ -86,3 +86,23 @@ rename to `shared-v1.1`. HF publication still needs separate authorization.
 `RUN.json` is current progress; checkpoints and original replaced files are under
 `--work`. Recovery data are retained until publication is verified; no blanket
 `*_valid.pt` deletion or raw reconversion is available.
+
+## Current consumer documentation
+
+`docs/CONTRACT.md` is the complete v1.1 contract, including unchanged field
+semantics and current bundle paths. `docs/RAW_TO_SHARED.md` maps raw directly to
+current files/keys; `docs/READING.md` and `read_example.py` show safe reading of
+bundles, saved validity and the float32-bit depth codec. `documentation.py`
+installs these current docs for pilot/full output; renderers link to the single
+parent contract instead of making broken duplicate copies. Supplied `spec/`
+files and archived v1.0 execution evidence remain unchanged.
+
+Migration summaries keep their creation-time phases. A separately verified
+publication is recorded in `doc/RELEASE.md`/`RELEASE.json`; updating consumer
+docs must not relabel historical QA, re-run migration, or touch data/raw.
+
+The documentation-only release repair preserves the previous consumer docs and
+entry-point sources under `history-documentation-r0/` in their corresponding
+doc/script directories. Existing migration checkpoints fingerprint the original
+tools: do not rerun `full.py` against a completed release after a documentation
+update. The reader example and docs do not require migration.

dex-ycb/shared-v1.1/script/dexycb_v1_1/docs/CONTRACT.md

@@ -0,0 +1,576 @@
+# 手物数据仓库统一约定 v1.1（完整合同）
+
+格式版本：`hand-warehouse/1.1`。数值存储：`pt/tensor_bundle/v1`。本文件是当前规范性入口，与 [schema.json](schema.json) 共同定义格式；后者是声明式注册表，不是 JSON Schema 或可执行校验器。本文已包含 v1.0 继续有效的完整语义，不要求读者拼接历史合同。
+
+v1.1 只改变小型数值张量及对应 valid 的物理分组，不改变单位、坐标系、左右手、时间轴、来源、监督有效性或媒体编码。文件内键路径在本文以 `文件 → 字典键/data` 展示；箭头不是文件名的一部分。完整引用规则见第 6 节。
+
+范围限于手物交互重建。只提取本任务要求、语义已核实且可可靠转换的字段；shared 不是 raw 镜像。缺失模态、未下载、未核实、未纳入分别报告；主要未纳入内容及原因写入 [RAW_TO_SHARED.md](RAW_TO_SHARED.md)，不得虚构模态或用派生结果替代原生标注。
+
+以下通用规范还包括其他数据集可能提供的可选字段，不表示 Dex-YCB 实际提供这些字段。Dex-YCB 实际内容见第 7 节。格式合同不承担运行状态快照：本地迁移报告可能早于发布；正式发布后应另附 `RELEASE.md` 的固定提交记录，不把历史报告中的 pending 改写成当时已经发布。
+
+## 1. 目录与读取单位
+
+
+```text
+<dataset>/shared-v1.1/
+  doc/                              # 完整合同、匹配 schema、字段映射、验收报告
+  script/                           # 转换、读取和校验代码
+  data/<sequence_id>/<camera_id>/
+    metainfo.json
+    observation/
+      rgb.mkv
+      rgb_valid.pt                  # 原独立 bool Tensor，保持不变
+      depth.mkv
+      depth_valid.mkv               # 逐像素有效性，保留压缩媒体格式
+    camera/
+      frames.jsonl
+      camera.pt                     # intrinsic、extrinsic、distortion
+    annotation/
+      mano/mano.pt                  # motion、visibility
+      keypoints/keypoints.pt        # uv、xyz、visibility、whole_hand_visibility
+      object/<object_id>/
+        metainfo.json
+        articulation.json           # 仅关节/部件结构实际存在时
+        object.pt                   # 位姿、可见性、几何点、关节、部件数值
+        assets/                     # 原网格、材质、纹理及依赖
+      segment/
+        mask.mkv                    # 或 polygons.jsonl，按所选表示
+        instances.jsonl             # 仅需要实例/区域编码映射时
+        mask_valid.pt               # 原帧级 bool Tensor，保持不变
+      contact/
+        relations.jsonl
+        relations_valid.pt          # 原帧级 bool Tensor，保持不变
+        <subject_id>__<object_id>/
+          contact.pt                # vertex_region、vertex_distance
+```
+
+只创建实际提供的组件和字段。以上不是每个数据集必须填满的模板；缺失内参、MANO、深度等不能通过占位文件伪装为已提供。序列/相机的两层结构不变，物体与模态目录属于相机内部组件。
+
+
+## 2. 相机视图的 metainfo.json
+
+### 2.1 顶层字段与发布信息
+
+每个相机视图必须有 `metainfo.json`。以下字段除另行说明外均为必填：
+
+| 字段 | 填写内容 |
+|---|---|
+| schema_version | 结构版本，本版为 `hand-warehouse/1.1` |
+| dataset_id | 数据集的逻辑标识 |
+| release_id | 本次数据发布版本，对应目录中的 dataset_version |
+| sequence_id | 所属序列或独立图片样本的标识 |
+| camera_id | 当前相机视图标识 |
+| sample_type | `image` 或 `video`，规则见 2.2 |
+| num_frames | 当前视图帧数 T，所有随帧组件按同一时间轴组织 |
+| hand_slots | 固定为 `["left", "right"]`；解剖学左右的使用规则见 5.1 |
+| sampling | 采样类型、源 FPS、帧索引引用及选择策略，见 2.2 |
+| camera | 当前相机模型与图像尺寸，见 2.3 |
+| components | 实际提供的组件及其文件、schema、有效性和来源，见 2.5 |
+| split | `train/val/test/unknown`，划分协议见 2.4 |
+| view_type | 必填，固定为 `ego/exo/unknown`。源数据或采集设置明确相机视角时必须填写 `ego` 或 `exo`；只有无法从可信来源确定时才填写 `unknown`，不得省略或主观猜测。多相机序列须逐视图分别填写。 |
+
+`dataset_version` 是数据发布版本；`schema_version` 是结构版本，两者独立。原始包校验摘要、官方来源和转换配置应记录在发布清单中。解压发生在临时工作区，原始包保持不变。
+
+### 2.2 图片、视频与 sampling
+
+`sample_type=image`：允许单图 T=1、`sampling.type=single`，也允许将独立图片批量装入一个视频容器，T>1 时 `sampling.type=independent`、`source_fps=null`。分片大小按数据集选择；FreiHAND 默认每片最多 4096 张，训练与评估分开，尾片不补帧。该数量不是其他数据集的强制要求；同批分���率、相机模型类型及划分协议一致。每行 frames 必须有稳定且唯一的 `sample_id`、原始文件定位；内参、手形状等仍逐帧保留，不能因打包而共享错误的标定或身份。`sequence_id` 在这里仅是批次标识，不代表真实序列；不得按相邻帧推断跟踪、同步或接触延续。源 camera_id、image_variant、split 等随样本变化时放在 frames 的对应字段中。真实采集时间未知则 timestamp_ns=null。合成背景变体不视为真实多相机。
+
+`sample_type=video`：`sampling.type=dense/sparse`；`source_fps` 是真实采集 FPS，未知为 null。非连续取样必须保留源帧号和已知源时间，不可用采样后索引除以 FPS 冒充源时间。可另记采样策略与步长。
+
+shared 可以仅存所选 RGB 帧对应的数据。OakInk2 图像/动捕不同采样率时用 annotation_matches 明确映射；不要求将未采样动捕点硬塞进 T。多视角身份和源同步关系要保留；选择了哪些帧/相机及原因写在 sampling 中。
+
+`sampling.frames_ref` 指向 `camera/frames.jsonl`。帧号、逐帧时间、同步与标注匹配记录的结构见 4.1；MKV 封装时间的约定见 3.1。
+
+### 2.3 camera 模型声明
+
+`camera` 至少包含 `model`、`schema_id`、`image_size:[W,H]`。模型未知使用 `unknown` 和 `null`，不猜成针孔。实际内参、畸变及外参数组放在 `camera/`，各模型的固定结构见第 4 节。
+
+### 2.4 split 与划分协议
+
+保留上游划分，不将同一采集序列的相邻帧随意拆到不同集合。
+
+有官方划分时必填 split_scheme 和 split_source_locator，split_scheme 区分如 Dex-YCB s0/s1、ARCTIC P1/P2 等选定协议；不知道时 split=unknown 并给理由，不凭空分配。每发布可选择一种协议；存在逐帧差异时 frames 中的 split 覆盖视图默认值，并登记其来源。
+
+### 2.5 components 组件登记
+
+组件表的键是本发布内唯一名称，例如 `rgb`、`depth`、`mano`、`keypoints_uv`。每个已提供组件声明以下信息；模态特有参数在第 3–5 节对应小节中定义。
+
+| 字段 | 约定 |
+|---|---|
+| available | 本发布是否提供该组件；缺省也表示未提供 |
+| schema_id | 已登记的具体存储与语义类型，不得临时创造未登记名称 |
+| data_ref | 数据文件路径，相对当前相机视图根目录，使用 POSIX 路径 |
+| data_key / valid_key | 数值 bundle 的嵌套键路径；独立媒体、JSONL 和独立 valid 不设置这些键，见第 6 节 |
+| axes | 数组各维度的含义 |
+| valid_ref / valid_axes | 有效性文件及其维度；语义由所属组件规定 |
+| storage / valid_storage | 存储配置；视频包含 profile、codec、pixel_format、encoded_size，见 3.1；数值字典统一采用 pt/tensor_bundle/v1，见第 6 节 |
+| provenance | source / format_conversion / derived，以及转换或生成方法 |
+| source_locator | 原文件、压缩包成员和记录／帧的定位信息 |
+
+不存在的组件允许缺省或写作 `{ "available": false, "reason": "..." }`，不用引用不存在的文件。静态网格可声明标量有效性；具体见 5.4。观测的 valid 见第 3 节，标注的 valid 与 visibility 区分见 5.1。
+
+`provenance.kind` 使用 source/format_conversion/derived，`method` 说明转换或生成方法；发布清单补充脚本版本、参数、输入摘要。`source_locator` 定位到原始文件/压缩包成员和记录、帧号；允许引用有完整溯源清单的前一发布，但链条最终应能回到 raw。不得仅写一个无法定位记录的数据集名字。
+
+`.pt` 仅保存 CPU Tensor，不保存 Python 自定义对象；浮点默认 float32，有效性为 bool，浮点无效位置填 NaN。所有随帧数组保留首维 T，单帧也不 squeeze；静态资产按其 schema 单独声明。单位、坐标及固定形状见各组件小节。
+
+机器注册表 `schema.json` 中，`components` 固定解码后的数据类型、形状、单位和语义；`storage_profiles` 固定视频内的编码／还原方式。不得临时创造未登记的 schema_id 或 storage.profile。同一语义允许选择其登记的不同无损存储 profile。
+
+## 3. observation 观测数据
+
+### 3.1 rgb.mkv 与 rgb_valid.pt
+
+RGB、深度和栅格 mask 在 shared 中统一使用 MKV 视频容器，不展开为逐帧图片或图像 tar。MANO、关键点、位姿等数值标注仍用数组；分割的重叠多边形仍用 JSONL，不为了视频化而有损栅格化。单图可为一帧视频，独立图批量封装规则见 2.2。
+
+**无损指共享层不增加信息损失。** 源 JPEG／H.264 等本身可能已是有损编码，原样保留并不恢复已丢失信息；不得重新以有损 JPEG、H.264、H.265、AV1 参数编码。源视频／图片的色彩、位深、分辨率和几何关系不得被静默改变。RGB schema `rgb/uint8/v1` 的统一读取结果是 `[T,H,W,3] uint8`、RGB 通道，有效性仍为 `rgb_valid.pt [T] bool`。超出该 schema 的高位深或 HDR 源必���报告并扩展定义，不能降到 8 位冒充无损。
+
+#### 3.1.1 允许的 RGB 存储 profile
+
+| storage.profile | 编码方式 | 适用规则 |
+|---|---|---|
+| mkv/mjpeg_copy/v1 | 源 JPEG 压缩帧直接封装成 MJPEG/MKV | 不解码重编码；保持每张 JPEG 码流字节；普通 8 位 JPEG 且 MKV/解码器支持时使用 |
+| mkv/source_copy/v1 | 已有视频的 RGB 对应码流直接封装为 MKV | 仅源编码能被 MKV 和选定解码器支持时使用，不伪造帧；需维持正确的呈现顺序与依赖帧 |
+| mkv/h264_rgb_lossless/v1 | libx264rgb 的真正无损模式 | 必须 RGB 路径、CRF=0，并通过全帧 RGB 字节比较；不能替换成默认 libx264 YUV420 路径 |
+| mkv/ffv1_rgb/v1 | FFV1 的 RGB 可逆编码路径 | 作为通用候选；解码回 RGB 后必须逐字节相同，不做色度降采样 |
+
+优先尝试源码流直接封装；不能封装或需要选择稀疏帧时，比较 FFV1 与无损 RGB H.264。对完整待发布片段，只在通过无损验收的候选中选择文件较小者，不假设某个编码器总最小；编码时间和随机读取代价记入构建记录。中间候选不作为 shared 多份常驻。H.264 跨帧压缩允许较长 GOP，必须记录 GOP／关键帧间隔，随机取帧需从前一关键帧正确解码，不能把 seek 返回的近似帧当目标帧。
+
+普通源视频可以保留它已有的有损码流，但不允许新增有损重编码。源是 VRS 等记录容器时，先查明图像流实际编码：已有兼容 JPEG／视频包可直接提取封装，否则解码后使用真正无损编码；不把整个 VRS 改后缀当 MKV。PNG 不要求直接塞进 MKV，可选上表两种无损重编码方式。
+
+#### 3.1.2 视频配置与校验
+
+每个视频组件在 metainfo 中登记 `storage`，至少包含：
+
+| 字段 | 内容 |
+|---|---|
+| profile | 上述登记的存储 profile；语义仍由组件 schema_id 指定 |
+| codec | 文件中实际 codec，例如 mjpeg、h264、ffv1；source_copy 必须写实际 codec |
+| pixel_format | 实际编码像素格式；不得仅凭编码器参数猜测 |
+| encoded_size | 视频物理像素尺寸 `[width,height]`；深度可能不同于逻辑尺寸，见 3.2 |
+| decoder | 解码器名称、版本，以及颜色矩阵／范围／旋转处理等实际像素解释配置；未知的源色彩声明 unknown，不擅自称为 sRGB |
+| encoder_parameters | 重编码时的编码器、版本、无损模式和 GOP 等参数；直接封装时记录 stream_copy |
+| source_lossy | 源是否已有损：true / false / unknown；不是共享层再有损编码的许可 |
+
+无损重新编码的 RGB 必须使用同一固定解码配置，比较**全部帧**的统一 RGB 字节、数量及顺序。MJPEG-copy 不重新编码，生产校验采用 `jpeg-packets-all-rgb-sample16/v1`：从 MKV 逐包取回，对全部源 JPEG 的 SHA256、数量、顺序和图像尺寸进行精确核对；每视图另用同一固定解码配置比较最多 16 帧的源与目标 RGB 字节（含首尾与四分位位置，其余由固定种子抽取）。记录策略、实际索引、种子与结果；不足 16 帧时全查。试点与最终完整序列随机抽查，对选中视图的全部帧复核解码 RGB。历史已做全帧像素检查的证明继续保留。
+
+逐包一致与像素抽查的范围必须分别声明，不能将抽查写成全量像素检查。不能用 PSNR 高、视觉相似、编码器参数称为 lossless 等替代精确检查。同时保留源编码的色彩标记和必要元数据；原图有 EXIF/色彩/方向等元数据时保留 raw 和必要来源信息；不能静默自动旋转图像而不更新像素对应与标定。以上加速策略仅适用于原 JPEG 码流直接封装，不适用于深度、标签或重新编码的 RGB。
+
+所有共享视频的呈现帧顺序与统一 frame_index 一一对应，每个栅格组件恰好 T 帧。MKV 的 `storage_fps` 只服务封装，声明 `timebase_role=index_only`；source_copy 可以保留源 PTS 以避免改坏码流，但真实时间与标注对齐仍以 frames 为准。未知真实时间保留 null。缺失某帧组件时保留索引位置并使用该组件的无效占位／valid 标识，不删帧；不能以重复相邻图像冒充已知观测。
+
+### 3.2 depth.mkv 与 depth_valid.mkv
+
+深度语义仍是 `depth/z_float32/v1`：统一读取结果 `[T,H,W] float32`，米制相机 Z 分量，`depth_type=z`。有效深度有限且大于 0，无效位置为 NaN。`depth_origin=measured/rendered/unknown` 必填，来源不明时 unknown。默认与 RGB 共用像素网格及相机参考系，不处理未注册 RGB-D。射线距离必须依据源定义转换成 z，不能只改声明。
+
+#### 3.2.1 float32 的可逆视频编码
+
+采用 `mkv/depth_float32_bits/v1`：**不是把深度量化成 uint16**，而是将规范化后每个 IEEE-754 float32 的完整 32 位拆成两个 uint16，使用 FFV1 gray16le 保存。视频物理尺寸为 `[2W,H]`：每行前 W 列存原 float32 位串的低 16 位，后 W 列存高 16 位。读取时先��并为 uint32 位串，再按 float32 重新解释，不能数值 cast 成 float32。
+
+```text
+u = reinterpret_uint32(depth_float32)
+encoded[:, :, :W] = uint16(u & 65535)
+encoded[:, :, W:] = uint16(u >> 16)
+u_restored = uint32(low) | (uint32(high) << 16)
+depth_float32 = reinterpret_float32(u_restored)
+```
+
+统一采用 little-endian 原始字节接口。`camera.image_size` 始终是逻辑 RGB 尺寸 `[W,H]`，不能改成编码视频的 2W；`storage.encoded_size=[2W,H]`。包括 NaN 在内的 float32 位串必须全帧完全恢复，不允许改成 float16、整数毫米、归一化灰度或 RGB 伪彩色。这里的无损验收基准是完成既定米制／坐标转换后的标准 float32 数组，不声称消除 float64→float32 等原约定转换本身的舍入。
+
+#### 3.2.2 逐像素有效性
+
+`depth_valid.mkv` 使用 `mkv/bool_ffv1/v1`，FFV1 gray8（FFmpeg pixel_format=`gray`），物理尺寸 `[W,H]`。像素只能为 0 或 1，统一解码为 `[T,H,W] bool`，逐像素含义不变。这样不再把庞大的 bool 数组保存为未压缩 `.pt`；标注的帧级／手级 valid 仍保留原有小数组。
+
+登记示例（W、H 以下取 640、480；decoder/encoder_parameters 的实际版本由转换器填写）：
+
+```json
+{
+  "available": true,
+  "schema_id": "depth/z_float32/v1",
+  "data_ref": "observation/depth.mkv",
+  "axes": ["T", "height", "width"],
+  "valid_ref": "observation/depth_valid.mkv",
+  "valid_axes": ["T", "height", "width"],
+  "unit": "m",
+  "depth_type": "z",
+  "depth_origin": "measured",
+  "invalid_value": "NaN",
+  "storage": {
+    "profile": "mkv/depth_float32_bits/v1",
+    "codec": "ffv1",
+    "pixel_format": "gray16le",
+    "encoded_size": [1280, 480],
+    "source_lossy": false,
+    "decoder": {"name": "ffmpeg", "version": "填写实际版本"},
+    "encoder_parameters": {"name": "ffv1", "level": 3, "version": "填写实际版本"}
+  },
+  "valid_storage": {
+    "profile": "mkv/bool_ffv1/v1",
+    "codec": "ffv1",
+    "pixel_format": "gray",
+    "encoded_size": [640, 480],
+    "source_lossy": false,
+    "decoder": {"name": "ffmpeg", "version": "填写实际版本"},
+    "encoder_parameters": {"name": "ffv1", "version": "填写实际版本"}
+  },
+  "provenance": {"kind": "format_conversion", "method": "源深度转米制 z float32；逐位打包为 FFV1"},
+  "source_locator": {"file": "raw/data/depth.zip", "member": "depth/0001.png"}
+}
+```
+
+深度和有效性视频都必须逐帧解码验收：float32 位串相同、bool 相同、T 相同，并检查 valid=true 的正有限值和 valid=false 的 NaN。读取器必须按 profile 还原，不能把 depth.mkv 的编码像素直接当深度值。
+
+## 4. camera 相机、帧索引与标定
+
+### 4.1 frames.jsonl：索引、时间与对应关系
+
+`camera/frames.jsonl` 每行对应统一帧号 `frame_index=0..T-1`，是所有组件的唯一行索引。至少包含 `frame_index`、`timestamp_ns`、`clock_domain`、`source_locator`；原始帧号/文件名保存在 `source_frame_id`，不能被新帧号替代。每行还可有 `annotation_matches`，按组件键保存 `source_frame_id`、`source_timestamp_ns`、`clock_domain`、`match_method` 和 `delta_ns`；方法为 exact/index_map/nearest/interpolated，索引映射无时间依据时 delta_ns=null。nearest 必须记录允许误差；interpolated 必须记录两端源标识和权重。delta_ns 仅在同一时间域中计算为源标注时间减图像时间。多相机共享 `sequence_id`；已知同步关系必须用 `sync_id` 或明确的源帧/时间映射表达，不能仅凭相同数组索引认定同步。
+
+每个视图必须提供此文件。源时间使用整数纳秒及 `clock_domain`，未知写 JSON `null`；不同时间域不能直接比较。逐帧 split 可以覆盖 metainfo 的视图默认划分，并保留来源，见 2.4。
+
+### 4.2 坐标系与标定通则
+
+| 项目 | 统一约定 |
+|---|---|
+| 相机坐标 | 右手系，X 向右、Y 向下、Z 向前，长度单位米 |
+| 齐次变换 | 列向量，`p_target = T_target_from_source @ p_source` |
+| 图像坐标 | `(u,v)`；左上像素中心为 `(0,0)`，u 向右、v 向下，单位 pixel |
+| 固定标定 | 本版展开为 T 份，同一 schema 不混用静态与动态形状 |
+| 分辨率或模型变化 | 分开存储为视图／片段，不在同一组件中混装 |
+| 未知标定 | 相机内外参允许缺省，不填单位阵冒充已知标定 |
+
+### 4.3 camera.pt → intrinsic/data 与畸变参数
+
+| model / schema_id | camera.pt → intrinsic/data 的固定结构 |
+|---|---|
+| pinhole / camera/pinhole/v1 | `[T,3,3]`，标准 K，最后一行为 `[0,0,1]`；限无畸变或已校正图像 |
+| fisheye624 / camera/fisheye624/v1 | `[T,15]`，`[f,cx,cy,k0,k1,k2,k3,k4,k5,p0,p1,s0,s1,s2,s3]`，采用 Project Aria Fisheye624 投影定义 |
+| opencv_fisheye4 / camera/opencv_fisheye4/v1 | `camera.pt → intrinsic/data [T,3,3]` 保存 K；同组件 `distortion_ref` 指向 `[T,4]`，顺序 `[k1,k2,k3,k4]`，使用 OpenCV fisheye 等距角度多项式；已由 ReInterHand 实际原始相机参数验证 |
+| rational8 / camera/rational8/v1 | `camera.pt → intrinsic/data [T,3,3]` 保存 K；同组件必需 `distortion_ref` 指向 `[T,8]`，顺序 `[k1,k2,p1,p2,k3,k4,k5,k6]` |
+| unknown / null | 不提供可用 intrinsic，不声称可以投影 |
+
+有畸变的其他模型必须注册新 schema，固定参数名、顺序和投影公式；不能塞进针孔 K 后遗失畸变项。`metainfo.camera.schema_id` 必须与 intrinsic 组件一致。同一模型的别名不可隐式改变参数布局。
+
+`opencv_fisheye4`：对前方点令 `x=X/Z, y=Y/Z, r=sqrt(x²+y²), theta=atan(r)`，`theta_d=theta*(1+k1*theta²+k2*theta⁴+k3*theta⁶+k4*theta⁸)`；`u=fx*x*theta_d/r+cx, v=fy*y*theta_d/r+cy`。光轴 r=0 时使用连续极限 `theta_d/r=1`。四系数不能按普通径向畸变解释，也不能补零冒充 Fisheye624。
+
+rational8 对归一化坐标 x=X/Z、y=Y/Z，令 r²=x²+y²，径向项为 `(1+k1*r²+k2*r⁴+k3*r⁶)/(1+k4*r²+k5*r⁴+k6*r⁶)`；再加 p1/p2 切向项并经 K 得到像素。`distortion_ref` 与 intrinsic 共用 `[T]` valid，保存到 camera/camera.pt → distortion/data。不得把这种畸变三维坐标当作真实相机系 xyz 保存。
+
+内参有效性为 `camera.pt → intrinsic/valid [T] bool`；有畸变时使用对应 `distortion_ref`。同一模型的参数名和顺序固定。
+
+### 4.4 camera.pt → extrinsic/data 与 camera.pt → extrinsic/valid
+
+`camera.pt → extrinsic/data` 为 `[T,4,4]`，schema `transform/se3/v1`，方向固定 `T_camera_from_world`，有效性 `[T]`。世界坐标含义及源坐标转换记录在 provenance 中；只有相机坐标标注不要求虚构世界坐标。旋转块须正交且 determinant≈1。
+
+## 5. annotation 标注数据
+
+### 5.1 标注通则：手槽、valid 与 visibility
+
+手槽固定为 0=left、1=right，指解剖学左右，不按画面位置或可见性重排。本阶段只处理左右手两槽，不处理更多手。实体引用使用 `hand_left`、`hand_right`；手槽不证明跨采集片段的个人身份。
+
+#### 5.1.1 valid：标注是否可用于监督
+
+标注的 `valid=true` 表示：有对应实际标注、通过本 schema 数值检查，且通过来源明确提供并适用于该组件的有效性/QA 条件。`valid=false` 可由缺标注、无法建立帧对应、源无效占位或官方 QA 不通过导致；不等于画面没有手或手不可见。各组件独立判断，MANO 按 `[T,2]` 标记左右手，关键点按 `[T,2,K]` 标记。
+
+**2026-09-20 将标注 valid 从“仅表示存在”修订为“可用于监督”，字段形状不变。** 公式为 `source_annotation_present AND numerical_checks_pass AND applicable_official_QA_pass`。没有官方 QA 时省略最后一项，不伪造 QA；不能把未知当成已通过已存在的 QA。适配器在组件 `valid_policy` 中记录具体规则、来源、聚合/广播作用域。缺失官方必需 QA 的记录须明确处理为未知或暂停验收，不能静默通过。无效浮点项仍填 NaN，原始数据保留在 raw；被排除原值可用于 doc 中明确标识的诊断渲染，不能冒充 shared 有效监督。
+
+本地筛选须依据明确的规则，并在 `valid_policy.local_excluded_frame_indices`、排除原因和正式报告中记录。单个可疑投影作为问题记录，不直接硬编码排除该帧。已确认的曝光异常须明确作用范围，不能把一个序列的“前两帧有问题”套到所有序列。RGB 编码完好与几何监督可用是两件事，允许保留原图及帧索引而屏蔽对应标注；未发现问题不等于完成全部人工审核，试点待确认时不能作为已验收发布使用。
+
+源字段必须按官方语义映射，不能直接按名字复制：
+
+| 来源 | 官方含义 | 映射原则 |
+|---|---|---|
+| [H2O](https://github.com/taeinkwon/h2odataset) 的手标注首位 | 0 未标注、1 已标注 | 可作为对应手标注存在性的依据，不推断未标注原因 |
+| [HOT3D](https://github.com/facebookresearch/hot3d#using-mask-files) 的 pose_available、visible、mask_qa_pass | 分别表达姿态存在、可见性、对画面中可见手物位姿的人工 QA | 逐手/物体记录决定存在性，再 AND 当前相机当前帧 QA；QA 是整帧聚合判定，保守排除该帧全部手物几何监督，不声称每个实体均有错误；源可见性基于位姿推导时，其自身 valid 同样受 QA 约束 |
+| [Dex-YCB](https://github.com/NVlabs/dex-ycb-toolkit#loading-dataset-and-visualizing-samples) 的全零 pose_m、全 -1 joints | 不可见的手或缺标注共用占位表示 | 对应组件 valid=false；不能从该值判定 visibility=false，也不能声称原因是动捕缺失 |
+| [ARCTIC](https://github.com/zc-alexfan/arctic/blob/master/docs/data/data_doc.md) 的 is_valid/left_valid/right_valid | 是否有效用于官方评估 | 核实每项筛选依据；不把可见性/评估选择直接等同 QA。本次原始 mano.npy 不含这些派生评估标记，按原记录与数值检查生成 valid，并声明没有额外官方 QA ���入 |
+
+源 valid=false 若代表评估筛选或其他条件，应检查实际标注和源约定后映射；不能一律清空坐标。反之，占位零或 -1 只有在源官方明确规定时才判为缺失，不泛化成所有数据的判断规则。
+
+`valid=true` 的标注应通过其 schema 的数值与形状检查；检查失败必须报告或修复，不能静默隐藏。QA 不通过应报告排除数量与原因，并保留可追溯信息；不能把这类无效称为缺标注。RGB、深度等观测有效性仍按各自 schema；手物 QA 不自动否定 RGB、静态相机内参或物体资产。相机外参是否过滤须依据其自身来源规则；HOT3D 本次保留源外参用于溯源和诊断，不能用其存在性证明 QA 失败帧的几何监督正确。
+
+#### 5.1.2 visibility：可见性属性
+
+附加质量属性只保留 `visibility`，存放在对应模态或标注集内，不设 quality 目录。同一份可见性仅存一次；uv 与 xyz 共用时引用同一个文件。
+
+visibility 通过所属组件 attributes 登记 data_ref/data_key、valid_ref/valid_key、axes、dtype、visibility_type、meaning、provenance、source_locator；未知值通过属性 valid_ref 标识，数值可见性即使全已知也须保存同字段的 bool valid Tensor；只有静态外部资产允许声明标量 valid=true。比例与布尔值不相互强转，也不按任意阈值二值化。没有 MANO 时，整手可见性挂在 keypoints 组件，使用 keypoints bundle 中独立的 whole_hand_visibility 字段（keypoints.pt → whole_hand_visibility/data），明确 meaning=whole_hand，不与逐关键点可见性混用。
+
+`valid` 回答“这项标注能否用于监督”，`visibility` 回答“在当前图像中是否可见（或可见多少）”。不可见的手或关键点仍可有有效标注；不能因 visibility=0 就清空坐标。源没有 visibility 时缺省或标为未知，不由 valid 推断。
+
+| 情况 | 手标注 valid | visibility |
+|---|---|---|
+| RGB 已开始录制，动捕尚未开始，没有其他对应手标注 | false | 以独立源可见性标注为准；没有则未知 |
+| 手被遮挡，但源有标注且通过适用有效性检查 | true | 若源声明不可见，则 false 或源可见比例 |
+| 手可见且有对应标注，通过适用 QA | true | 若源有此信息，则 true 或源可见比例 |
+| 手可见，但该帧漏标或动捕中断 | false | 可以为 true，但必须有独立来源依据 |
+| 有手部参数，但官方 QA 明确不通过 | false | 不据此断言不可见；源可见比例若基于不可靠位姿，其属性 valid 也为 false |
+
+visibility 自己的 valid_ref 表示该可见性标注是否可用，不复用 MANO 或关键点坐标的 valid_ref；明确记录源存在性及适用的 QA 条件。上述例子不要求凭图像自动生成可见性。
+
+不设 quality 组件或目录，不另存拟合误差、曝光、截断比例等通用质量数组。适用的官方 QA 合并进对应 valid，在 `valid_policy` 记录来源与规则；正式校验报告保留原始 QA 时间区间及排除统计。原始 QA 文件仍在 raw，官方 split 保留。
+
+### 5.2 mano：参数与整手可见性
+
+MANO schema `mano/axis_angle61/v1`：`mano.pt → motion/data [T,2,61]`，顺序为完整 16 关节 axis-angle 48、shape betas 10、全局平移 3。姿态使用弧度，平移米，位于当前相机系。有效性 `[T,2]`；缺少一侧整槽 NaN。PCA 必须先按对应模型展开，不能将 PCA 系数直接填入 axis-angle。
+
+`model_profile` 必须固定 MANO 版本、`flat_hand_mean=true`、左手 shapedirs 修正状态。平移表示模型输出顶点所加的全局平移，不是某个腕关节的坐标；源语义不同须转换。shape 无量纲。模型权重不作为共享数据附带上传。
+
+`mano/mano.pt → visibility/data [T,2]` 保存源整手可见比例时使用 float32 [0,1]，`visibility_type=ratio`；只有实际采用 0–100 的百分比才除以100，不能只凭表头判断。HOT3D 的 `visibility_ratio[%]` 实值已经是0–1，官方读取器原样读取，必须保留原值。通过 MANO 组件 attributes 登记，使用独立有效性，不复用 motion_valid。
+
+手部共享表示仅保留 MANO 参数与选定关键点，不发布独立手表面几何。需要渲染或接触计算时由 MANO 参数生成，几何引用使用固定 MANO 模型配置与顶点顺序；不影响 object 下的物体模型和材质资产。
+
+### 5.3 keypoints：二维点、三维点与逐点可见性
+
+关键点独立于 MANO 参数存在；没有 motion 也可有关键点。`keypoints.pt → uv/data [T,2,K,2]` 与 `keypoints.pt → xyz/data [T,2,K,3]`，有效性 `[T,2,K]`，分别采用 `keypoints/uv/v1` 和 `keypoints/xyz/v1`。K 由 `keypoint_schema` 固定，不能在同一数组中逐帧变化；同体系统一顺序。数值使用像素坐标或米制相机系。
+
+| keypoint_schema | K 与固定索引 |
+|---|---|
+| mano21/v1 | 21；wrist 后依次 thumb/index/middle/ring/little，每指由近端至指尖 |
+| rhd21/v1 | 21；保持 wrist，然后五指由近端至指尖；原始每指 tip→palm 反序。只统一顺序，不宣称解剖学位置等价于 MANO |
+
+具体名称与源索引映射见 `schema.json`。当前只登记 MANO21 与 RHD21；不登记 MediaPipe、ReInterHand capture21 或 fit24 中间关键点。
+
+每个发布中的每个视图只提供一套标准手关键点，直接放在 keypoints 下，不设 annotation_set_id 字段或目录。uv 与 xyz 是这套关键点的二维与三维表示，不是两套标注。provenance 分别记录二者来自原始标注还是计算结果；不要求已有 2D 必须由当前 xyz 重新投影覆盖。
+
+ReInterHand 的 Original keypoints、Original fits keypoints 及带前臂关键点不纳入 shared；如需手关键点，从选定 MANO 参数生成 MANO21 并记录模型/指尖回归约定。其他数据集默认使用选定的官方关键点，不额外生成平行的 MANO 派生集合。后续主动更换生成方法或结果时发布新的 dataset_version，不在同一版本内增设方法分支。
+
+manual/projection/fitting 只记录在 provenance，不作为目录或类型分支。不得通过坐标为零、是否出画或 visibility 判断标注是否存在。派生标注仅在实际生成并通过数值检查后声明 valid=true；没有生成的项为 false，不伪造坐标。
+
+`keypoints/keypoints.pt → visibility/data [T,2,K]` 保存源逐点可见性，布尔表示使用 `visibility_type=boolean`。uv 与 xyz 共用时引用同一份文件。整手比例属性没有 MANO 可挂载时使用 `keypoints.pt → whole_hand_visibility/data [T,2]`，`meaning=whole_hand`；它与逐点可见性分开，通用登记规则见 5.1。
+
+不使用 annotation_set_id；ReInterHand 中间关键点集合不进入 shared，raw 保留来源文件。
+
+### 5.4 object：身份、资产、位姿与几何
+
+#### 5.4.1 metainfo.json：物体身份与跟踪作用域
+
+手用 `hand_left`、`hand_right` 及槽位 0、1 表示，不再另存 entities.json。物体身份登记在 `annotation/object/<object_id>/metainfo.json`，必填 `object_id`、`identity_scope`、`scope_id`、`source_locator`；可含 `category_id`、`source_object_id`、`mesh_ref`、`has_model`、部件引用。即使只有分割、没有 pose/mesh，也可只有这份物体元信息。
+
+`identity_scope` 为 frame/subsequence/sequence，`scope_id` 指定具体作用域；跨相机共享身份只在已有源对应证据时使用。VISOR 按官方 subsequence 与实体名关联时记录 `association_basis=official_subsequence_entity_name`，不能声称这是全视频物理实例跟踪。无需与 object_id 一一对应的标准 track_id；官方独立轨迹标识存在时保留为 source_track_id，并声明作用域。手槽不证明跨采集片段的个人身份。
+
+#### 5.4.2 assets：网格、材质与纹理
+
+资产属于物体，统一存放在 `annotation/object/<object_id>/` 内，可用 `assets/` 子目录组织网格、材质、纹理和部件资产。序列层不设共享 assets。所有引用采用视图根目录为基准；其中物体资产组件的 `data_ref` 与部件的 `mesh_ref` 采用相对于当前视图目录的 POSIX 路径，例如 `annotation/object/cup_01/assets/cup.obj`，且必须指向所属物体目录内的资产。OBJ 内部的材质、纹理引用遵循文件格式自身的相对路径规则，依赖文件一并保留。不同相机视图允许各自保存物体资产，不要求跨视图去重；下载物体时包含其资产依赖。
+
+网格 schema 为 `mesh/obj/v1`，顶点米制，静态有效性可直接声明标量 `valid`，或通过 `valid_ref` 指向标量 bool Tensor；不按 T 重复静态资产。由物体／部件通过引用关联，不仅凭文件名猜测。
+
+#### 5.4.3 object.pt → pose/data、object.pt → pose/valid 与 所属 bundle → visibility/data
+
+刚体 schema 为 `object/rigid/v1`，`object.pt → pose/data [T,4,4]` 固定为 `T_camera_from_object`，平移米制，有效性 `[T]`。物体坐标原点、轴向必须与 mesh 一致；旋转块为正交矩阵且 determinant≈1。
+
+`object/<id>/object.pt → visibility/data [T]` 保存源物体可见比例，float32 [0,1]，`visibility_type=ratio`。通过所属物体组件 attributes 登记，独立表达其有效性。
+
+#### 5.4.4 articulation.json、部件位姿与 object.pt → joint_state/data
+
+关节物体：schema `object/articulated/v1`，`articulation.json` 登记 `parts` 与 `joints`。每个 part 有 `part_id`、`parent_id`（根为 null）、`has_model`、`mesh_ref`；has_model=false 时 mesh_ref=null，结构节点允许没有网格。父链不得成环。每个 joint 有唯一 `joint_id`、`parent_part`、`child_part`、`type`；fixed 单位 null、revolute 弧度、prismatic 米。有源限位时保存 `limits:[lower,upper]`；没有时 null，不伪造上下限。部件姿态统一为 `T_camera_from_part [T,4,4]`，保存在所属物体 `object.pt → parts/<part_id>/pose/{data,valid}`，不与父局部变换混装。
+
+若提供 `object.pt → joint_state/data [T,J]`，必须登记固定 joint_order、轴在父部件系的表达、零位变换与正方向，valid 为 `[T,J]`；缺少这些运动学定义时只发布部件位姿与已有来源信息，不伪造可驱动的关节模型。关节值与部件位姿同时存在时需验证一致性。
+
+部件层级应声明语义：纯语义包含树允许 `joints=[]`，不将包含关系推断为机械关节。关节状态 schema 为 `object/joint_state/v1`；转动用弧度、移动用米，混合类型按 joint_order 对应的关节定义解释。
+
+#### 5.4.5 dimensions、几何关键点与顶点部件标签
+
+`object.pt → dimensions/data [T,3]` 采用 `object/dimensions/v1`，有效性为 `[T]`。
+
+物体/部件 `dimensions` 为 `[length,width,height]` 米，轴顺序与该 mesh 的局部坐标关联，登记 `dimensions_semantics` 和来源。HOI4D dimensions 与 mesh 的具体尺度关系未验证前标为 source_unspecified，保留源值并暂停依赖该关系的几何验收，不能默认为待施加缩放。需要施加缩放时明确 scale_applied_to_mesh，禁止重复应用。
+
+源物体关键点放 `object/<id>/object.pt → keypoints/xyz/data [T,K,3]`（相机系）或 `object.pt → keypoints/template_xyz/data [K,3]`（物体系），schema 分别为 object_keypoints/camera/v1 和 object_keypoints/template/v1。明确 keypoint_schema、keypoint_names、单位及有效性；模板点配合 pose 可投影，无须重复生成全部帧。H2O 中心/角点/棱中点，以及 ARCTIC 部件点分别登记具体源顺序，不套用手的 21 点 schema。每个发布选择一套源几何点并记录选择，不另建方法分支。
+
+`object.pt → meshes/<mesh_id>/vertex_part_ids/data [V] int64` 绑定 `mesh_ref` 与 topology_id，登记整数到 part_id 的映射；未知用 -1。ARCTIC 不同拓扑的资产分别绑定，不能共用未经转换的顶点标签。部件层级中 is_instance/has_model 等源属性保留，几何文件仍全部归 object。
+
+### 5.5 segment：分割类别、编码与覆盖范围
+
+每个发布选择一套任务使用的分割表示，不建立方法／标注集分支。没有分割就不创建 segment 目录，不为其他模态创建空的实体表。
+
+| schema_id | 文件与数值语义 |
+|---|---|
+| segment/uint16_labels/v1 | mask.mkv；整数区域编号，通过 instances.jsonl 解释 |
+| segment/instance_polygons/v1 | polygons.jsonl；实例多边形，可重叠；当前不支持孔洞拓扑 |
+| segment/foreground_intensity/v1 | mask.mkv；0–255 前景强度，不是区域编号或经过校准的概率 |
+
+#### 5.5.1 uint16 标签图与 instances.jsonl
+
+组件声明 `segmentation_type=semantic/instance/part`；同一组件固定一种类型。`mask.mkv` 解码为 `[T,H,W] uint16`，schema `segment/uint16_labels/v1`，使用 `mkv/uint16_ffv1/v1`，FFV1 gray16le 无损；只有所有区域编码均 ≤255 时允许 gray8（pixel_format=gray），读取后转 uint16，数值不变。禁止调色板和有损编码。有效性 `[T]`，表示该帧有可用分割标注。数值 0 固定为 unassigned，65535 固定为 ignore，1–65534 为区域编码，不能直接等同 entity_id。
+
+`instances.jsonl` 每帧一行，包含 `frame_index` 与 `labels`。每条标签包含 `mask_value`、`category_id`、`entity_id`、`part_id`；无意义或未知字段为 null。semantic 允许 entity_id=null；instance 必须引用 hand_left/hand_right 或登记的 object_id；part 还须关联登记部件。源实例 ID 和其他属性分别保存在 `source_instance_id`、`source_attributes`。mask 中每个非保留编码必须有且仅有一个映射。
+
+FreiHAND 的试点按本任务需要，统一到手／背景类别，保留每个原生区域编码；不要求给原生细分区域猜测手指名称。需要细部件监督时，尚未核实的部件名称必须保持未知，不能因粗粒度手类别已核实便声称部件语义也已统一。
+
+#### 5.5.2 重叠实例多边形
+
+每发布选择一套任务使用的分割表示，不建立方法/标注集分支。VISOR 的实际试点存在重叠实例多边形，单层标签图不能无损表达。对此补充 `segment/instance_polygons/v1`：`segment/polygons.jsonl` 每帧包含 `frame_index` 和 `instances`，每实例包含 `mask_value` 与 `polygons`（列表，每个多边形为源图像像素坐标顶点序列，保留原始精度）。身份和类别仍由同一 `instances.jsonl` 映射，有效性仍为 `[T]`，通过 schema 区分物理编码。允许多实例重叠，不采用后画覆盖前画。消费者按需栅格化为独立实例二值 mask；不能声称合并的单层 mask 无损。
+
+#### 5.5.3 灰度前景强度
+
+ReInterHand 的官方渲染 mask 为双手合并的灰度前景掩码，实测存在 0–255 的中间值，不是左右手实例编号。登记 `segment/foreground_intensity/v1`：仍存 `segment/mask.mkv`，解码为 `[T,H,W] uint16`，使用 `mkv/uint16_ffv1/v1`，此类数据优先编码为 FFV1 gray8（pixel_format=gray），读取后转 uint16。有效值范围 0–255，归一化值为 `float32(value)/255`；0 为背景端点、255 为前景端点。组件声明 `foreground_category=hand`、`entity_id=null` 和双手合并语义，不使用区域编号映射。这里保留原始渲染 mask 强度，不把它称为经过校准的概率。若任务需要二值 mask，阈值化属于任务层派生操作，记录阈值；共享层不丢弃中间灰度。不同 schema 的数值含义不同，不能将该文件按整数类别图解码。
+
+FreiHAND 训练集的 JPEG mask 使用 `segment/foreground_intensity/v1`，逐像素保留 JPEG 解码后的灰度，`entity_id=hand_right`。该 schema 不限定双手合并：单手或合并范围由 `entity_id` 与 `coverage` 明确声明。评估集整数区域图仍用 `segment/uint16_labels/v1`，两者不能仅凭文件名使用同一种解码语义。
+
+#### 5.5.4 coverage 与有效性
+
+`coverage.kind=full/selected_entities/partial/unknown`。full 指声明的标注范围完整；selected_entities 还应列出目标范围。无论哪种，0 本身不自动成为背景；背景要有明确类别映射，未标注区域不能用于构造负样本。保留源逐类/逐实例 exhaustive 信息，未知不可改写为完整。
+
+三种表示的帧级有效性均为 `[T]`，表示该帧是否提供此分割标注；对应 valid_ref 在组件中登记，仍用小型 bool `.pt` 数组。栅格 mask 必须登记 storage，格式见 3.1.2，所有帧的整数编码或强度逐值完全相同。编码语义由 schema_id 决定，读取器不能仅依据 mask.mkv 文件名选择解码方式。
+
+### 5.6 contact：接触、抓取、区域与距离
+
+#### 5.6.1 relations.jsonl 与 relations_valid.pt
+
+`annotation/contact/relations.jsonl`，schema contact/relations/v1，每帧一行含 frame_index、relations。每条记录含 relation_type（contact/grasp）、subject_id（手槽或登记实体）、object_id、status、source_locator、provenance。status 固定为 positive/negative/unknown/target_unannotated：positive 必须有可解析目标，negative 表示源明确否定该关系，unknown 为不确定，target_unannotated 为确有接触但目标未标注。非 positive 的 object_id 可 null，不能用 null 冒充“不接触”。稀疏源无记录的帧不自动补 negative。
+
+VISOR 的对象 mask ID 必须先按同帧 source_instance_id 解析成 object_id；hand-not-in-contact、none-of-the-above、inconclusive 分别映射 negative、target_unannotated、unknown，保留原始字符串。Dex ycb_grasp_ind 通过 ycb_ids 映射到登记物体，以 relation_type=grasp 保存；不得当作逐顶点接触。
+
+relations 组件的 valid_ref 指向 `relations_valid.pt [T] bool`，表示该帧是否有可用源关系标注。有效帧中可以存在 status=unknown 的明确不确定标注；无源标注的帧为 valid=false、relations=[]。组件仍声明 available/provenance/source_locator。
+
+#### 5.6.2 实体对的顶点区域与距离
+
+已发布的接触区域/距离按参与关系的 subject_id 与 object_id 组织，每对实体保留选定的一套结果，以精确 geometry_ref/topology_id 关联到手或物体/部件；不要求每套数据都有。顶点区域 schema contact/vertex_region/v1：bool `[T,V]` 加同形 valid；顶点距离 schema contact/vertex_distance/v1：float32 `[T,V]`、米、同形 valid，声明 source/target geometry_ref、distance_definition（signed/unsigned、测量到点集或表面等明确源定义）。geometry_ref 必须指向已登记 mesh 或由固定 MANO 模型配置确定的拓扑；拓扑/顶点数变化时按拓扑拆分片段。其他源区域表示只有在实际接入并登记 schema 后才可转换，不能随意栅格化宣称等价。
+
+顶点区域／距离已有存储定义，但尚未完成真实输入试点；接入时必须提供源语义与几何验收证据，不因已经登记 schema 就视为通过。
+
+## 6. v1.1 数值 bundle 与引用规则
+
+### 6.1 合并边界
+1. 数值张量与对应有效性必须在同一个 `.pt` 文件、同一个字段字典内保存：`{"data": Tensor, "valid": BoolTensor}`。这些数值张量组件不再生成独立的 `*_valid.pt`；媒体和 JSONL 的有效性文件不受此规则影响。
+2. 按组件合并经常一起读取的小张量：相机内参、外参、畸变放在一个 `camera.pt`；MANO 参数与整手可见性放在一个 `mano.pt`；手关键点的二维、三维与可见性放在一个 `keypoints.pt`。
+3. 每个物体的数值字段及全部部件数值字段合并为一个 `object.pt`。不同物体、不同相机、不同序列不合成一个全局大文件，以保留按需下载和读取能力。
+4. RGB、深度、栅格 mask 继续使用原无损媒体格式，不把解码后的大数组或媒体字节塞进 `.pt`。它们的有效性文件保持原文件名、Tensor/媒体格式、形状和引用方式，不包装为字典。
+5. `metainfo.json`、`camera/frames.jsonl`、实例映射、物体身份/运动学定义与网格资产保留原格式。此次不把 JSON、JSONL、OBJ、纹理全部打进一个字典。
+
+合���只改变存储方式，不改变采样、帧数、张量内容或有效性判定。不为减少字段数而将多个组件的 valid 合成一个公共 valid。
+
+### 6.2 字典结构与有效性
+本次合并的数值组件 `.pt` 根对象为字符串键的 Python `dict`，内部仅允许嵌套字符串键字典和 CPU `torch.Tensor`，不保存自定义类、模型、NumPy 对象或任意可执行对象。元信息、schema、单位和来源放在 metainfo，不在每个张量条目中重复保存。读取使用 `torch.load(path, map_location="cpu", weights_only=True)`。第 6.3 节保留的独立有效性 `.pt` 根对象仍为 CPU bool Tensor，不适用字典结构要求。
+
+例如，`camera/camera.pt` 的逻辑结构为：
+
+```python
+{
+    "intrinsic": {"data": K, "valid": K_valid},
+    "extrinsic": {"data": T_camera_from_world, "valid": extrinsic_valid},
+    "distortion": {"data": distortion, "valid": distortion_valid},
+}
+```
+
+以上变量均为 Tensor。未提供的字段整个省略；例如无世界系外参时不保存 `extrinsic`，不填单位矩阵。没有单独畸变向量的模型不创建 `distortion`：Fisheye624 仍使用既定 `[T,15]` 内参参数布局。
+
+数值字段统一为 `data` 与 `valid` 两个叶子。源属性原先显式声明全已知 `valid=true` 时，迁移可按该属性的有效性形状展开为全 true 的 bool Tensor；这是已有有效性声明的等价表示，不是根据数值或姿态推测有效性。有效性必须为 bool Tensor，不能用 Python `True` 代替字段内的 Tensor。静态数值字段同样配套 valid，形状采用其语义定义的标量或逐元素有效性；静态网格等外部资产仍可在 metainfo 中声明标量 valid。
+
+valid 的形状不要求与 data 完全相同，但必须与该字段定义一致。例如 MANO 为 `[T,2,61]` / `[T,2]`，内参为 `[T,3,3]` / `[T]`，关键点为 `[T,2,K,3]` / `[T,2,K]`。按 schema 将 valid 扩展到相应数值维度，不允许依靠碰巧可广播推断语义。
+
+浮点默认 float32，无效浮点位置仍为 NaN；bool 和整数沿用该组件的占位/保留值规则，不因没有 NaN 而视为有效。valid 表达可用监督，不只是“值有限”或“记录存在”；适用官方 QA 与已经确认的排除规则继续保留。不能用 `isfinite(data)` 重建 valid，不能因为迁移而把 false 改成 true。
+
+不同字段的 valid 独立保存和解释。visibility 的 valid 不复用姿态 valid；内参 valid 不代替外参 valid。既有相机模型要求内参与单独畸变向量共用有效性时，在两个字段内保存相同 bool 值并校验一致，而不改变该模型的联合标定规则。
+
+### 6.3 固定分组与字段名
+下表中的键路径用 `/` 展示字典层级；它不是文件系统路径。数值字段均在列出的键下继续存储 `data`、`valid`。
+
+| 文件 | 数值字段键 | 内容 |
+|---|---|---|
+| `camera/camera.pt` | `intrinsic`、`extrinsic`、`distortion` | 逐帧标定；形状、参数顺序与相机模型定义不变 |
+| `annotation/mano/mano.pt` | `motion`、`visibility` | MANO `[T,2,61]` 与源整手可见性；各有独立有效性 |
+| `annotation/keypoints/keypoints.pt` | `uv`、`xyz`、`visibility`、`whole_hand_visibility` | 手关键点及源可见性；整手与逐点可见性不混用 |
+| `annotation/object/<id>/object.pt` | `pose`、`visibility`、`dimensions`、`joint_state` | 该物体的数值标注 |
+| 同上 | `keypoints/xyz`、`keypoints/template_xyz` | 相机系逐帧点或物体系静态模板点 |
+| 同上 | `parts/<part_id>/pose`、`parts/<part_id>/dimensions`、`parts/<part_id>/keypoints/xyz`、`parts/<part_id>/keypoints/template_xyz` | 部件数值字段，部件身份仍由 articulation 登记 |
+| 同上 | `meshes/<mesh_id>/vertex_part_ids` | `[V] int64` 顶点部件标签，valid 为 `[V]`，未知 -1 对应 false；每个 mesh 单独绑定拓扑 |
+| `annotation/contact/<subject_id>__<object_id>/contact.pt` | `vertex_region`、`vertex_distance` | 已登记拓扑上的接触区域/距离与同形有效性 |
+
+顶点部件标签使用注册类型 `object/vertex_part_ids/v1`。物体的 mesh_id、part_id 必须在 metainfo/运动学定义中可解析；不同拓扑不能误用同一顶点数组。未提供的可见性、关节值或模板点不生成空字段。
+
+**媒体和 JSONL 的有效性保持原样，不参与字典合并：**
+
+| 数据本体 | 有效性文件 | 存储形式 |
+|---|---|---|
+| `observation/rgb.mkv` | `observation/rgb_valid.pt` | 独立 CPU bool Tensor `[T]` |
+| `annotation/segment/mask.mkv` 或 `polygons.jsonl` | 原 `valid_ref` 指定的文件，通常为 `annotation/segment/mask_valid.pt` | 独立 CPU bool Tensor `[T]`；沿用原路径 |
+| `annotation/contact/relations.jsonl` | `annotation/contact/relations_valid.pt` | 独立 CPU bool Tensor `[T]` |
+| `observation/depth.mkv` | `observation/depth_valid.mkv` | 原逐像素 bool 无损视频 `[T,H,W]` |
+
+不新建仅包装上述 valid 的 observation.pt、segment.pt 或关系级 contact.pt。现有���体/JSONL 的 `valid_ref`、`valid_axes` 及适用的 `valid_storage` 保持原定义；深度编码、NaN 位串还原与像素有效性规则不变。实体对的接触区域/距离是数值张量，仍按上表合并到各实体对的 contact.pt。
+
+### 6.4 metainfo 的文件与字典键引用
+文件定位与字典内部定位分开登记，不在文件名中拼接自定义分隔符：
+
+| 字段 | 定义 |
+|---|---|
+| `data_ref` | 相对当前相机视图根目录的 POSIX 文件路径 |
+| `data_key` | 非空字符串列表，按顺序访问 `.pt` 嵌套字典，最终必须得到 data Tensor |
+| `valid_ref` | 有效性所在文件；合并的数值字段必须与 data_ref 相同，媒体/JSONL 保留独立有效性文件 |
+| `valid_key` | 非空字符串列表，最终必须得到 bool Tensor |
+| `storage.profile` / `valid_storage.profile` | 合并字典采用 `pt/tensor_bundle/v1`；媒体及其独立有效性保持原配置，不将独立 bool Tensor 声明为 bundle |
+
+数值字段必须显式登记 data_key 与 valid_key。例如内参登记：
+
+```json
+{
+  "available": true,
+  "schema_id": "camera/pinhole/v1",
+  "data_ref": "camera/camera.pt",
+  "data_key": ["intrinsic", "data"],
+  "axes": ["T", "row", "column"],
+  "valid_ref": "camera/camera.pt",
+  "valid_key": ["intrinsic", "valid"],
+  "valid_axes": ["T"],
+  "storage": {"profile": "pt/tensor_bundle/v1"},
+  "valid_storage": {"profile": "pt/tensor_bundle/v1"}
+}
+```
+
+这是引用结构片段，实际组件仍须补齐 provenance、source_locator 等必填内容。MANO 的 schema_id 仍可为 `mano/axis_angle61/v1`：它描述解码后的数值语义，不因为物理文件合并而改动。顶层 schema_version 与 storage.profile 标识新的存储方式。
+
+媒体和 JSONL 的 data_ref 不设置 data_key；RGB 的 valid_ref 仍为 `observation/rgb_valid.pt`，不设置 valid_key。分割、关系和深度的有效性同样保持原引用方式，不新增任何字典键字段。只有引用合并字典时才使用 data_key/valid_key。
+
+同样规则适用于 attributes 中的可见性等数值字段。相机模型已有的 `distortion_ref` 改为指向 `camera/camera.pt`，新增 `distortion_key=["distortion", "data"]`；对应有效性由同组件的 `distortion_valid_ref` 与 `distortion_valid_key=["distortion", "valid"]` 登记。带 `_key` 的引用必须指向匹配的 bundle 文件，不能指向目录或媒体。
+
+读取器按文件路径缓存已加载字典，再按 key 取字段。同一 camera.pt 的三个字段不应触发三次反序列化。按组件下载时取所需 bundle 的整个文件；本约定不承诺 `.pt` 内单个键的远端局部下载。组件合并会增加最小下载粒度，这是减少文件数的明确取舍。
+
+### 6.5 迁移与验收
+各数据集分别迁移：先适配工具并做代表性完整序列验证，再迁移全量并核对结果，最后按授权更新远端发布；一个数据集完成不代表其他数据集已完成。迁移状态和输入/输出固定版本逐数据集登记。
+
+本地先在既有 `shared-v1.0` 内完成受控升级，校验完成后更名为 `shared-v1.1`。暂存、回滚、锁、旧文件清理、版本更新及 HF 路径切换遵循 [MIGRATION.md](MIGRATION.md)；不复制完整媒体、不改 raw、不重新编码。多文件原地更新期间须保持维护状态，不能让读取任务使用半迁移视图。
+
+每次迁移必须检查：
+
+1. 所有组件、属性及其字典键可解析；无越界文件引用、缺失键或未登记字段；已合并的数值组件不得遗留旧独立 `*_valid.pt`。媒体/JSONL 的原独立有效性文件必须保留，不得误删或重打包。
+2. 每个迁移前后的数值字段 dtype、shape、逐元素值、NaN 位置以及 bool valid 完全一致。数值张量还应按统一连续字节视图比较，确认没有更改 NaN 位串等内容；不能用近似容差代替单纯重打包的一致性。
+3. T、帧映射、相机方向、手槽、split、来源和 valid_policy 不变。固定标定仍按既有 `[T,...]` 规则保存；本次不额外改成单份静态标定加广播。
+4. 媒体与其他未修改文件按原可信摘要核对。新 `.pt` 的文件 SHA256 通常改变，必须重新生成发布清单；新文件指纹不等于转换语义正确性的证明。
+5. 用新读取器运行代表性完整序列及所有相机，检查 RGB、相机与实际存在的标注是否正确关联；报告明确“重打包数值一致”与“人工视觉验收”的不同范围。
+
+只有完成匹配注册表、读写工具及上述验收后才能生产/发布 v1.1。上传仍须单独得到授权；本文档更新本身不启动数据迁移或上传；被替代旧文件的清理属于后续迁移发布步骤，必须遵守MIGRATION.md 中先验收、安全切换和固定提交核验要求。
+
+## 7. Dex-YCB 当前发布的文件内容
+
+本表中的路径均相对一个视图 `data/<sequence>/<camera>/`。形状中的 T 是该视图帧数，H/W 是 RGB 逻辑尺寸；实际是否提供、文��定位及键定位始终读取 metainfo，不按目录猜测。当前发布为 exo、pinhole，固定左右手槽，原生单侧标注保存在相应槽中，另一侧无效；不生成替代手分割。
+
+| 文件 | 字段及内容 | 解码 dtype / shape | 有效性与语义 |
+|---|---|---|---|
+| `metainfo.json` | 版本、视图、split、sampling、组件、来源及 MANO 模型身份 | JSON | view_type 必填；本发布 exo |
+| `camera/frames.jsonl` | 源帧号、包成员、时间与同步映射 | 每帧一行，0..T-1 | 未知真实时间/FPS 保持 null |
+| `observation/rgb.mkv` | 原 JPEG 码流顺序封装 | 解码 RGB uint8 `[T,H,W,3]` | `rgb_valid.pt` 为 bool `[T]`；源 JPEG 本身有损，不二次编码 |
+| `observation/depth.mkv` | 米制相机 Z 深度的 float32 位串 | float32 `[T,H,W]` | `depth_valid.mkv` 解码 bool `[T,H,W]`；不是普通 uint16 深度 |
+| `camera/camera.pt` | `intrinsic/data`、`extrinsic/data` | float32 `[T,3,3]`、`[T,4,4]` | 各字段 `valid` 为 bool `[T]`；K 与 T_camera_from_world |
+| `annotation/mano/mano.pt` | `motion/data` | float32 `[T,2,61]` | `motion/valid` bool `[T,2]`；48 轴角、10 betas、3 平移 |
+| `annotation/keypoints/keypoints.pt` | `uv/data`、`xyz/data` | float32 `[T,2,21,2]`、`[T,2,21,3]` | 各自 valid bool `[T,2,21]`；像素、米制相机系；mano21/v1 |
+| `annotation/object/<id>/object.pt` | `pose/data` | float32 `[T,4,4]` | `pose/valid` bool `[T]`；T_camera_from_object |
+| `annotation/object/<id>/metainfo.json`、`assets/` | YCB 身份、原 OBJ/MTL/纹理及引用 | JSON、原资产文件 | 网格米制；静态缩略图不证明 RGB 投影对齐 |
+| `annotation/segment/mask.mkv` | 原整数区域码 | uint16 `[T,H,W]` | `mask_valid.pt` bool `[T]`；0=背景，255=原生手区域，YCB 物体号由 instances 映射 |
+| `annotation/segment/instances.jsonl` | 每帧区域码到类别/实体的映射 | JSONL | 不从伪彩色推断原始标签，不从 255 推断解剖学左右 |
+| `annotation/contact/relations.jsonl` | 经 ycb_ids 解析的 grasp 关系 | JSONL | `relations_valid.pt` bool `[T]`；序列级目标广播，不是逐帧接触测量 |
+
+Dex-YCB 当前没有源可见性属性、关节物体部件状态或逐顶点接触数值时，不创建这些可选字段。一般 schema 的登记不代表该数据集实际提供。MANO 权重不随发布附带；左右模型、mean/shapedirs 状态和身份以 MANO 组件的 model_profile 为准。
+
+## 8. 使用、追溯与验收入口
+
+- 当前 raw 映射及未纳入项：[RAW_TO_SHARED.md](RAW_TO_SHARED.md)。
+- 可执行读取示例与依赖：[READING.md](READING.md)。
+- 抽样 HTML：[validation/index.html](validation/index.html)。全量迁移报告 `FULL_MIGRATION_SUMMARY.json` 与抽样报告 `validation/V1_1_VALIDATION.json` 分别说明数值一致性和抽样范围；人工只审过部分页面，不声称逐页审过全部视图。
+- 迁移、安全切换及回滚规则：[MIGRATION.md](MIGRATION.md)。历史 v1.0 文档/报告和执行代码仅作来源证据，不能代替当前规范或重新命名为 v1.1 验收。
+- 文档修订不改变 data、raw 或注册表定义；必须在发布提交上检查 data/raw 树标识不变，并保留被替换文档。合同与 schema 真有冲突时先核实实现和源语义，不靠改文档掩盖数据问题。
+
+## 附录：任务范围
+
+不强制收录 2D bbox、完整高频动捕、动作程序、身体 SMPL-X、点云或网络特征。范围内的接触、visibility、选定手关键点、物体几何不能因不便处理而静默丢弃。分割采用的物理编码由第 5.5 节决定，存在重叠时不能以单层标签图声称无损。
+
+不设置 entities_ref/segment/entities.json，不要求与 object_id 重复的 track_id。MediaPipe 不在当前关键点定义中；旧版本迁移必须保留可追溯关系，不能直接删表。手部共享表示不含独立 hand_mesh。
+
+schema.json 是普通注册表，不是 JSON Schema 文档或可执行验收器；定义存在不代表真实数据已验证。验收须保留实测范围与未决项。
+
+格式定义不等于某个数据集已经验收。发布必须显式登记实际 storage；历史产物按历史定义读取，不能只改文件后缀或版本标识伪装为合规。

dex-ycb/shared-v1.1/script/dexycb_v1_1/docs/RAW_TO_SHARED.md

@@ -0,0 +1,49 @@
+# Dex-YCB raw → shared-v1.1：当前文件、字段与验收边界
+
+本表描述**当前 v1.1**，不是要求重跑 v1.0。raw 保持原始包不变；v1.0 原转换从 raw 提取以下监督，v1.1 仅将现有数值及各自 valid 重打包。没有重编码 RGB/depth/seg，没有裁帧，没有改变原生手分割。
+
+原转换实现和配置在 `script/v1_0_snapshot/script/convert_dexycb_v1.0.py`、`warehouse_v1_0.py`、`config.json`（原源仓库提交 `80ebaa6`）；原执行记录保留在 `doc/history-v1.0/`。当前迁移/读取实现位于 `script/dexycb_v1_1/`。原转换配置中绝对路径是当时服务器定位，不是其他机器的下载路径。MANO 左右权重不随发布附带，其版本、身份及修正状态以各视图元数据为准。
+
+以下目标相对 `data/<sequence_id>/<camera_id>/`；`→` 后为字典键，不是文件路径。
+
+| raw 来源 | 当前 v1.1 文件与字段 | 处理与语义边界 |
+|---|---|---|
+| `*-subject-*.tar.gz` 中 `<sequence>/meta.yml` | `metainfo.json`、`camera/frames.jsonl` | 序列与八个相机、源帧号、同步索引、YCB ID、抓取目标；view_type=exo。s1 按 subject 01–06/10=train、07=val、08–09=test；不推测真实 FPS/时间。原 build 记录在 `doc/history-v1.0/`。 |
+| `<camera>/color_*.jpg` | `observation/rgb.mkv`、`rgb_valid.pt` | 原 JPEG 码流按顺序封装，不二次编码。源 JPEG 本身有损；原运行 jpeg_full_check=false，解码像素每视图最多抽查 16 帧，不声称全帧像素比对。 |
+| `<camera>/aligned_depth_to_color_*.png` | `observation/depth.mkv`、`depth_valid.mkv` | 源毫米 Z 转米；已对齐 color，用 color 内参，不二次配准。float32 位串拆分编码，详见合同；无效像素 NaN，valid 逐像素保存。 |
+| `labels_*.npz:seg` | `annotation/segment/mask.mkv`、`instances.jsonl`、`mask_valid.pt` | 保留整数码：0 背景、255 原生手、其余已登记 YCB 码；不使用 3D 手投影替换。实例/类别按同帧映射解释。 |
+| `labels_*.npz:joint_2d` | `annotation/keypoints/keypoints.pt → uv/{data,valid}` | 21 点，pixel；按解剖学左右放入固定槽。全手全 -1 是缺失，不因单个点出界而抹去整手。 |
+| `labels_*.npz:joint_3d` | `annotation/keypoints/keypoints.pt → xyz/{data,valid}` | 21 点，米制相机系；与 uv 各自保留有效性，不用重投影覆盖原 2D。 |
+| `labels_*.npz:pose_m`、`mano.yml:betas`、外部左右 MANO | `annotation/mano/mano.pt → motion/{data,valid}` | 按 meta.yml:mano_sides 选择侧别；对应模型 PCA 展开为 48 轴角+10形状+3平移。全零源 pose_m 无效；原 mean/shapedirs 状态保留，不在重打包时修正模型。 |
+| `labels_*.npz:pose_y`、`meta.yml:ycb_ids` | `annotation/object/ycb_*/object.pt → pose/{data,valid}` | 按原物体槽对应，3×4 扩为 4×4 T_camera_from_object；平移米制；全零源位姿无效。 |
+| `models.tar.gz` 的 OBJ／MTL／纹理 | `annotation/object/ycb_*/assets/`、物体 `metainfo.json` 及 mesh 组件 | 原资产字节保留。HF 使用 LFS 不改变 OBJ 内容；静态缩略图不等同于 RGB 投影对齐验收。 |
+| color 内参、源 cam→world 标定 | `camera/camera.pt → intrinsic/{data,valid}`、`extrinsic/{data,valid}` | 外参取逆得到 T_camera_from_world。固定标定仍展开为 T 份；不填单位阵假装已知。 |
+| `meta.yml:ycb_grasp_ind`、`ycb_ids` | `annotation/contact/relations.jsonl`、`relations_valid.pt` | 解析为登记目标的 grasp；序列级标签广播到帧，不等于逐帧接触或逐顶点距离。 |
+
+## v1.0 → v1.1 存储对照（仅用于迁移追溯）
+
+| 旧数值文件及对应 valid | 当前文件与键 |
+|---|---|
+| `camera/intrinsic.pt`、`intrinsic_valid.pt` | `camera/camera.pt → intrinsic/{data,valid}` |
+| `camera/extrinsic.pt`、`extrinsic_valid.pt` | `camera/camera.pt → extrinsic/{data,valid}` |
+| `annotation/mano/motion.pt`、`motion_valid.pt` | `annotation/mano/mano.pt → motion/{data,valid}` |
+| `annotation/keypoints/uv.pt`、`xyz.pt` 及各自 valid | `annotation/keypoints/keypoints.pt → uv/{data,valid}`、`xyz/{data,valid}` |
+| `annotation/object/<id>/pose.pt`、`pose_valid.pt` | `annotation/object/<id>/object.pt → pose/{data,valid}` |
+
+媒体和 JSONL 的独立 valid 原样保留，不按 `*_valid.pt` 通配删除。v1.1 不新增原来缺失的组件，不增加推测得到的 visibility、部件或手表面文件。
+
+## 未纳入和禁止替代
+
+源序列 `pose.npz`、`bop.tar.gz` 及其他未选字段未作为本发布的独立组件转换，仍可从 raw 核对；未纳入不等于不存在。MANO 权重不附带。没有提供源可见性或逐顶点接触时不伪造；手 mask 始终来自原生 seg。当前关键点直接保留源 2D/3D，不能以 MANO 重建点覆盖而不声明新数据版本。
+
+## 验收报告的阶段和正确位置
+
+- 当前合同：[CONTRACT.md](CONTRACT.md)；读取示例：[READING.md](READING.md)。
+- 当前 v1.1 自动迁移汇总：`doc/FULL_MIGRATION_SUMMARY.json`；数值逐字节和未变文件摘要核对的范围与发布状态分开解释。
+- 当前 v1.1 抽样：`doc/validation/V1_1_VALIDATION.json`、[HTML](validation/index.html)。全量后抽样覆盖 10 个完整序列、80 视图，HTML 每视图显示抽样帧；不宣称人工审阅全部 8000 视图。
+- 历史结构审核：`doc/history-v1.0/validation/STRUCTURAL_AUDIT.json`。
+- 历史来源索引覆盖：`doc/history-v1.0/validation/SOURCE_FRAME_COVERAGE.json`；8000 视图、581968 帧的 RGB/对齐深度/标签源定位未发现缺项。这是索引核查，不是重解包全库像素比较。
+- 历史投影 QC：`doc/history-v1.0/validation/KEYPOINT_PROJECTION_QC.json`；证明已存 XYZ/UV/K 的相互一致性，不替代 RGB 人工核验。
+- 原始文档和 build 保留其 v1.0 身份，不重新标记为新验收；正式发布固定提交与人工通过记录另见发布后的 `doc/RELEASE.md`。
+
+历史 HTML 曾因颜色取模使 255=手和 15=物体显示同色；修订仅将手伪彩改为 #ff2040，并展示整数码，没有改分割视频、实例映射或 RGB。预览缩放、伪彩色及网格缩略图始终不写回数据。

dex-ycb/shared-v1.1/script/dexycb_v1_1/docs/READING.md

@@ -0,0 +1,50 @@
+# 读取 Dex-YCB shared-v1.1
+
+先读 [完整合同](CONTRACT.md) 与 [raw 映射](RAW_TO_SHARED.md)。本示例只读取**已保存**的 shared 数据，不生成新标注，不修改视频、张量、valid 或 raw，也不需要 MANO 权重。
+
+## 依赖和执行
+
+使用已有环境中的 Python、PyTorch、NumPy 和 PATH 上的 FFmpeg（支持 FFV1/MJPEG）。不要求 GPU、不需要安装 HF SDK 来读取本地数据。下载时保留视图相对目录；读取物体资产还需配套 MTL/纹理，不能只下载 OBJ。
+
+```bash
+P=/absolute/path/to/dex-ycb/shared-v1.1
+python "$P/script/dexycb_v1_1/read_example.py" \
+  "$P/data/20200709-subject-01_20200709_141754/836212060125" --frame 0
+```
+
+输出包含 bundle 字段的 dtype/shape、所选帧的 valid、RGB/深度/分割解码尺寸、深度有效像素数和原生分割整数码；不写输出文件。对很长序列，FFmpeg 按帧索引读取会从开头解码，此示例不用于全库高吞吐训练。
+
+## 数值字段：按 metainfo 引用读取
+
+```python
+import json
+from pathlib import Path
+import torch
+
+view = Path('/absolute/path/to/one/sequence/camera')
+meta = json.loads((view / 'metainfo.json').read_text())
+component = meta['components']['keypoints_xyz']
+bundle = torch.load(view / component['data_ref'], map_location='cpu', weights_only=True)
+def at(value, keys):
+    for key in keys:
+        value = value[key]
+    return value
+xyz = at(bundle, component['data_key'])        # [T,2,21,3], m, camera frame
+valid = at(bundle, component['valid_key'])     # [T,2,21], bool
+left_xyz = xyz[:, 0]                          # 0=left, 1=right; 不按画面位置排序
+left_valid = valid[:, 0]
+```
+
+安全路径解析和按文件缓存见 [warehouse.py](../script/dexycb_v1_1/warehouse.py)。同一 bundle 只加载一次。不能用 isfinite 或 visibility 重新生成监督 valid；不能把无效 NaN 补成零后当真值。独立的 RGB/mask/relations valid `.pt` 根对象仍是 bool Tensor，不是字典。
+
+## 媒体与深度
+
+- RGB 是原 JPEG 码流封装；解码为 RGB uint8。源 JPEG 本身有损，“无二次编码”不等于原图无损采集。
+- `depth.mkv` 的 FFV1 gray16le 解码帧为 `[H,2W] uint16`，左半是 float32 位串低 16 位，右半是高 16 位：`bits = low.astype(uint32) | (high.astype(uint32) << 16)`，再 **reinterpret 为 little-endian float32**，不是数值 cast。结果 `[H,W]`，米制 Z 深度。实现见 [read_example.py](../script/dexycb_v1_1/read_example.py)。
+- `depth_valid.mkv` 解码为 `[H,W]` 的 0/1，然后转 bool；无效深度为 NaN。
+- `mask.mkv` 解码 uint16 整数码。255 是原生手区域，0 是背景；其他码按 `instances.jsonl` 解释，不能从 HTML 伪彩判断标签，也不把手 mask 替换成 MANO 投影。
+- 帧 `i` 以 `camera/frames.jsonl` 第 i 行为准。容器的 30 FPS 是封装索引，不可用来补造真实时间或多相机同步依据。
+
+## 报告不是当前发布状态
+
+`FULL_MIGRATION_SUMMARY.json` 等保留生成时阶段和检查范围。正式发布后的固定提交、人工通过范围及文档修订记录见 `RELEASE.md`；没有该记录或试点报告通过，不代表已发布。历史 v1.0 报告在 `history-v1.0/`，不能冒充 v1.1 全量人工验收。

dex-ycb/shared-v1.1/script/dexycb_v1_1/documentation.py

@@ -0,0 +1,73 @@
+"""Current consumer docs; historical migration reports remain immutable evidence."""
+import json
+from pathlib import Path
+import re
+import shutil
+
+HERE = Path(__file__).resolve().parent
+VALIDATION_CONTRACT = '''# 当前格式合同与验收范围
+
+当前唯一规范性合同是 [doc/CONTRACT.md](../CONTRACT.md)，配套注册表为 [schema.json](../schema.json)。
+读取方式见 [READING.md](../READING.md)，raw 映射见 [RAW_TO_SHARED.md](../RAW_TO_SHARED.md)。
+本目录只保存验收页面和报告，不再复制另一份会漂移的格式合同。
+报告保留生成时阶段；人工抽样通过不等于全部视图逐页人工通过。正式发布记录见上一级的 `RELEASE.md`。
+'''
+
+
+def validation_contract(destination):
+    destination = Path(destination)
+    destination.mkdir(parents=True, exist_ok=True)
+    (destination/'CONTRACT.md').write_text(VALIDATION_CONTRACT)
+
+
+def install(doc):
+    doc = Path(doc)
+    doc.mkdir(parents=True, exist_ok=True)
+    for name in ('CONTRACT.md', 'RAW_TO_SHARED.md', 'READING.md'):
+        shutil.copyfile(HERE/'docs'/name, doc/name)
+    validation_contract(doc/'validation')
+
+
+def publication_record(receipt, migration, documentation_base, data_tree_oid):
+    if (receipt.get('phase') != 'published_verified' or not receipt.get('raw_unchanged')
+            or not re.fullmatch('[0-9a-f]{40}', receipt.get('final_commit', ''))
+            or not re.fullmatch('[0-9a-f]{40}', documentation_base)
+            or not re.fullmatch('[0-9a-f]{40}', data_tree_oid)):
+        raise ValueError('verified fixed publication and documentation base commits required')
+    record = {k:receipt[k] for k in ('phase', 'final_commit', 'target_tree_oid', 'files', 'raw_unchanged')}
+    record.update(documentation_base_commit=documentation_base, data_tree_oid=data_tree_oid,
+                  source_revision=migration['source_revision'], raw_tree_oid=migration['raw_tree_oid'],
+                  sequences=1000, views=migration['completed_views'], frames=migration['num_frames'],
+                  post_full_human_approval=migration['post_full_human_approval'],
+                  historical_summary_phase=migration['phase'],
+                  validation_method='Current Git data/raw trees equal the fixed verified release; no full media download or rehash for documentation-only correction')
+    if record['views'] != 8000 or record['frames'] != 581968 or record['files'] != 272512:
+        raise ValueError('unexpected Dex-YCB release coverage')
+    if not record['post_full_human_approval'].get('publication_authorized'):
+        raise ValueError('human review/publication approval record required')
+    markdown = f'''# Dex-YCB shared-v1.1 正式发布记录
+
+状态：**published_verified**。本文件记录数据发布事实，不把历史迁移报告的生成时间改写为发布完成时间。
+
+- 仓库：`ParityLab/Hand-Datasets-Raw`；当前目录：`dex-ycb/shared-v1.1/`。
+- 已验收数据的正式提交：`{record['final_commit']}`。
+- 初次数据发布时的 shared 树：`{record['target_tree_oid']}`。
+- 数据子树 `data/`：`{record['data_tree_oid']}`；文档修订后判断数据未变应比较此树和 raw 树，不要求整个 shared 树不变。
+- 原 v1.0 输入固定提交：`{record['source_revision']}`。
+- 原 raw 树（未修改）：`{record['raw_tree_oid']}`。
+- 覆盖：1000 序列、8000 相机视图、581968 视图帧；发布清单共 272512 文件（文档修订前）。
+- 全量迁移按连续数值字节和未变文件摘要核对；未重编码媒体、未替换原生手 mask、未改变源深度或裁帧。
+- 全量后 HTML 抽样：10 个完整序列、80 视图，每视图展示选定帧；用户确认无问题，不宣称人工查看全部 8000 视图。
+- 人工通过原记录：{json.dumps(record['post_full_human_approval'], ensure_ascii=False)}
+
+## 如何解释旧报告
+
+`FULL_MIGRATION_SUMMARY.json` 及 validation 下的副本保留当时 `local_finalized_not_uploaded` 阶段，检查结果有效，但不是最新发布状态。历史 v1.0 构建/审核在 `history-v1.0/`；旧文档快照如保存在 `history-documentation-r0/`，只用于追溯。当前合同是 [CONTRACT.md](CONTRACT.md)，不再依赖旧版合同拼接阅读。
+
+发布采用已验收 Git 快照直接更新 main，旧 shared-v1.0 已删除；原候选 PR 即便仍 open 也不代表数据未发布，**不要再次合并旧候选 PR**。main 后续其他数据集更新可以改变仓库 HEAD，但不改变本发布的固定提交依据。
+
+## 本次文档修订
+
+文档基线固定提交：`{documentation_base}`。只补全说明、当前映射、引用和读取示例；data/raw/其他数据集以及 schema.json 不变。此次核对使用 Git 树内容标识与既有全量验收，不重新下载全库算哈希，不把新增文档数量混为数据数量。后续修改数据须单独验收，不能沿用本文宣称新数据已通过。
+'''
+    return markdown, record

dex-ycb/shared-v1.1/script/dexycb_v1_1/full.py

@@ -19,6 +19,7 @@ import time
 import urllib.request
 
 from pilot import BASE_DOC_HASHES, PREFIX, REPO, migrate_view, tree, verify_source_file, write_json
+from documentation import install as install_current_documents
 from warehouse import Reader, exact, layout, resolve, sha256, validate_view
 
 HERE = Path(__file__).resolve().parent
@@ -390,12 +391,7 @@ def install_documents(source, work, plan, summary):
                 shutil.copyfile(HERE / 'spec' / name, pending / name)
             original_contract = (source / 'doc/CONTRACT.md').read_bytes()
             (pending / 'V1_0_SEMANTICS.md').write_bytes(original_contract)
-            contract = (HERE / 'spec/CONTRACT.md').read_text().replace('../hand-warehouse-1.0/CONTRACT.md', 'V1_0_SEMANTICS.md')
-            contract = '\n'.join('状态：Dex-YCB v1.1 配套注册表与读写工具已适配；本地全量自动验收完成后仍须人工复查，HF 尚未发布。' if line.startswith('状态：合同草案') else line for line in contract.splitlines())
-            (pending / 'CONTRACT.md').write_text('> Dex-YCB v1.1 本地全量迁移；当前等待人工复查，尚未正式发布。\n\n' + contract)
-            pilot_doc = Path(plan['pilot_root']) / 'doc/RAW_TO_SHARED.md'
-            mapping = pilot_doc.read_text().replace('试点未修改源发布或 HF。', '本次仅原地调整 shared 数值存储，不修改 raw，不重编码媒体。')
-            (pending / 'RAW_TO_SHARED.md').write_text(mapping + '\n\n全量入口：script/dexycb_v1_1/full.py。原 v1.0 文档及构建记录保留于 history-v1.0/；旧转换实现及配套规范在 script/v1_0_snapshot/。\n')
+            install_current_documents(pending)
         for f in pending.rglob('*'):
             if f.is_file():
                 with f.open('rb') as stream:

dex-ycb/shared-v1.1/script/dexycb_v1_1/history-documentation-r0/README.md

@@ -0,0 +1,88 @@
+# Dex-YCB v1.1 — gated pilot and full migration
+
+This directory implements the supplied hand-warehouse/1.1 bundle registry for the
+numeric fields present in the audited Dex-YCB release. It is not a raw reconverter
+or a tool for other datasets. Unknown numerical fields/attributes fail closed.
+
+- `warehouse.py`: safe relative references, file-cached CPU/weights-only bundle
+  reading, registry/key/shape/validity validation, exact contiguous-byte comparison.
+- `pilot.py`: select complete sequences covering all source subjects, splits,
+  hand sides and object categories plus frame-length extremes; compare each pilot
+  source file against a fixed HF commit; hardlink unchanged files into a new pilot
+  outside the release; produce bundles, exact numerical checks and a journal.
+- `render.py`: directly read new bundles and native media, retain native mask
+  codes, show depth validity, framewise numerical values/validity, relations,
+  metadata/provenance, static object meshes and saved XYZ→UV projection QC.
+  Uses only the unchanged published snapshot's media/preview helpers, not its
+  v1.0 tensor validator. RGB/seg/depth are not re-encoded or replaced.
+- `pilot_audit_record.py`: the exact one-off post-render audit executed for the
+  recorded pilot workspace; fixed paths are intentional historical evidence.
+- `spec/`: exact supplied v1.1 documents and registry. The pilot's contract links
+  to its bundled original v1.0 semantic contract rather than a missing draft path.
+
+Example (run under the 123 server tmux, from the existing project environment):
+
+```bash
+W=/data0/xuzhefeng/Datasets/uni-hoi-dataset/dex-ycb/tmp/migration-v1.1-20261010
+mkdir -p "$W"
+uv run python scripts/dexycb_v1_1/pilot.py \
+  --source /data0/xuzhefeng/Datasets/uni-hoi-dataset/dex-ycb/shared-v1.0 \
+  --out "$W/shared-v1.1" \
+  --source-revision 2d78ce6422a5db77f6d64c2fb88770ab6e55ae0d --workers 4
+uv run python "$W/shared-v1.1/script/dexycb_v1_1/render.py" \
+  "$W/shared-v1.1" --workers 4
+```
+
+The pilot requires a **new** output on the same filesystem; it never overwrites
+or deletes source files. Its unchanged files are hardlinks: do not edit those
+files inside the pilot. It records per-file hashes and exact deletion candidates,
+not per-frame SHA256 or all-video pixel equality. There is no HF write operation.
+
+The immutable source commit and raw tree OID are recorded. Old scripts remain in
+`script/v1_0_snapshot/script/` with their old contract/schema in the neighbouring
+`doc/`; they are historical v1.0 tools, not the current v1.1 entry point. Original
+build and human-approval records must not be relabelled as v1.1 approvals.
+
+The pilot CLI intentionally has no full-migration/upload switch. Full migration
+uses the separate, locked entry below. No script in this directory writes to HF.
+
+## Full in-place migration (after pilot approval)
+
+`full.py` acquires a dataset lock and rejects active data readers. It freezes the
+HF inventory before replacing data, stages each view with the proven pilot writer,
+hardlinks only replaced numerical files/metainfo into rollback backup, persists a
+prepared checkpoint, atomically installs new bundles/metainfo, verifies saved
+numbers against the backup, then removes **only** the exact obsolete numeric
+paths. RGB/mask/relations standalone valid files and all media/assets survive.
+
+A crash before/after metadata installation is resumable from the same command:
+input/tool fingerprints, backup hashes, current output hashes/keys and exact
+numerical bytes are checked; file existence alone never grants a skip. Only four
+jobs are in flight by default. A failure stops new scheduling, lets in-flight
+view commits finish, retains maintenance/checkpoints and reports failure.
+
+```bash
+# Do not pre-create --work; the full runner registers it itself.
+.venv/bin/python scripts/dexycb_v1_1/full.py \
+  --source /data0/xuzhefeng/Datasets/uni-hoi-dataset/dex-ycb/shared-v1.0 \
+  --work /data0/xuzhefeng/Datasets/uni-hoi-dataset/dex-ycb/tmp/full-v1.1-20261010-r0 \
+  --source-revision 2d78ce6422a5db77f6d64c2fb88770ab6e55ae0d \
+  --pilot-summary /data0/xuzhefeng/Datasets/uni-hoi-dataset/dex-ycb/tmp/migration-v1.1-20261010-1055/shared-v1.1/doc/validation/PILOT_SUMMARY.json \
+  --workers 4
+```
+
+Full checks require 1000 sequences, 8000 cameras and 581968 frames. All current
+file hashes and numerical bytes are checked again. Historical docs/builds move
+to `doc/history-v1.0`; original scripts/schema remain isolated in the legacy
+snapshot. A seeded random complete sequence per subject (plus left-hand coverage)
+is rendered with all eight cameras. This does **not** render all 8000 views.
+
+The run stops in `awaiting_full_human_review` under the original `shared-v1.0`
+directory, which is in **maintenance**, not a consumable v1.0 release. Its bundle
+metadata already describes the target v1.1. After a separate human approval, the
+same command with `--finalize-after-review` performs a no-overwrite same-filesystem
+rename to `shared-v1.1`. HF publication still needs separate authorization.
+
+`RUN.json` is current progress; checkpoints and original replaced files are under
+`--work`. Recovery data are retained until publication is verified; no blanket
+`*_valid.pt` deletion or raw reconversion is available.

dex-ycb/shared-v1.1/script/dexycb_v1_1/history-documentation-r0/full.py

@@ -0,0 +1,578 @@
+#!/usr/bin/env python3
+"""Locked, recoverable in-place Dex-YCB v1.1 migration; no HF write operations."""
+import argparse
+import ctypes
+from concurrent.futures import FIRST_COMPLETED, ProcessPoolExecutor, wait
+from contextlib import contextmanager
+from datetime import datetime, timezone
+import fcntl
+import hashlib
+import json
+import multiprocessing
+import os
+from pathlib import Path
+import random
+import shutil
+import subprocess
+import sys
+import time
+import urllib.request
+
+from pilot import BASE_DOC_HASHES, PREFIX, REPO, migrate_view, tree, verify_source_file, write_json
+from warehouse import Reader, exact, layout, resolve, sha256, validate_view
+
+HERE = Path(__file__).resolve().parent
+MARKER = 'MIGRATION_MAINTENANCE.json'
+
+
+def sync_dir(path):
+    fd = os.open(path, os.O_RDONLY | os.O_DIRECTORY)
+    try:
+        os.fsync(fd)
+    finally:
+        os.close(fd)
+
+
+def durable_json(path, value):
+    write_json(path, value)
+    with Path(path).open('rb') as f:
+        os.fsync(f.fileno())
+    sync_dir(Path(path).parent)
+    sync_dir(Path(path).parent.parent)
+
+
+@contextmanager
+def lock(path):
+    path = Path(path)
+    path.parent.mkdir(parents=True, exist_ok=True)
+    with path.open('a+') as stream:
+        try:
+            fcntl.flock(stream, fcntl.LOCK_EX | fcntl.LOCK_NB)
+        except BlockingIOError as exc:
+            raise RuntimeError(f'another migrator holds lock: {path}') from exc
+        try:
+            yield
+        finally:
+            fcntl.flock(stream, fcntl.LOCK_UN)
+
+
+def tools():
+    return {p.relative_to(HERE).as_posix(): sha256(p) for p in sorted(HERE.rglob('*'))
+            if p.is_file() and '__pycache__' not in p.parts and p.suffix != '.pyc'}
+
+
+def checked_id(view):
+    parts = Path(view).parts
+    if len(parts) != 3 or parts[0] != 'data' or any(x in ('', '.', '..') or '\\' in x for x in parts):
+        raise ValueError(f'invalid view ID: {view}')
+    return parts[1:]
+
+
+def paths(ctx, view):
+    seq, cam = checked_id(view)
+    work = Path(ctx['work'])
+    source = Path(ctx['source']) / view
+    stage, backup = work / 'staged' / view, work / 'backups' / view
+    if any(p.is_symlink() for p in (source, source.parent, source.parent.parent)) or not source.resolve().is_relative_to(Path(ctx['source']).resolve()):
+        raise ValueError('source view escapes the release')
+    if not stage.resolve().is_relative_to(work) or not backup.resolve().is_relative_to(work):
+        raise ValueError('staging/backup path escapes work directory')
+    return (source, stage, backup, work / 'checkpoints' / seq / (cam + '.json'))
+
+
+def view_files(view):
+    found = set()
+    for root, directories, files in os.walk(view, followlinks=False):
+        for name in directories + files:
+            if (Path(root) / name).is_symlink():
+                raise ValueError('symlinks are not permitted inside a migration view')
+        found.update((Path(root) / name).relative_to(view).as_posix() for name in files)
+    return found
+
+
+def checked_hash(path, expected):
+    if path.is_symlink() or not path.is_file() or sha256(path) != expected:
+        raise ValueError(f'missing/modified recovery artifact: {path}')
+
+
+def verify_done(ctx, record):
+    source, _, backup, _ = paths(ctx, record['view'])
+    if record['context'] != ctx:
+        raise ValueError('checkpoint input/tool fingerprint mismatch')
+    expected = set(record['unchanged_sha256']) | set(record['changed_sha256'])
+    if view_files(source) != expected:
+        raise ValueError('completed view file set mismatch')
+    for ref, digest in (record['unchanged_sha256'] | record['changed_sha256']).items():
+        checked_hash(resolve(source, ref), digest)
+    for ref in ['metainfo.json', *record['removed_numeric_paths']]:
+        checked_hash(resolve(backup, ref), record['source_sha256'][ref])
+    validate_view(source, ctx['schema'])
+    old = json.loads((backup / 'metainfo.json').read_text())
+    new = json.loads((source / 'metainfo.json').read_text())
+    old_reader, new_reader = Reader(backup), Reader(source)
+    for name, c in old['components'].items():
+        if c.get('available') and c['data_ref'].endswith('.pt'):
+            for kind in ('data', 'valid'):
+                exact(old_reader.field(c, kind), new_reader.field(new['components'][name], kind))
+    return record
+
+
+def install_file(stage, dest, digest):
+    if dest.exists():
+        checked_hash(dest, digest)
+        return
+    checked_hash(stage, digest)
+    dest.parent.mkdir(parents=True, exist_ok=True)
+    with stage.open('rb') as f:
+        os.fsync(f.fileno())
+    os.replace(stage, dest)
+    sync_dir(dest.parent)
+
+
+def complete_prepared(ctx, record):
+    source, stage, backup, checkpoint = paths(ctx, record['view'])
+    if record['context'] != ctx:
+        raise ValueError('prepared checkpoint input/tool fingerprint mismatch')
+    old = json.loads((backup / 'metainfo.json').read_text())
+    numeric = {c[k] for c in old['components'].values() if c.get('available') and c['data_ref'].endswith('.pt')
+               for k in ('data_ref', 'valid_ref')}
+    if numeric != set(record['removed_numeric_paths']):
+        raise ValueError('unsafe numerical deletion manifest')
+    for ref in ['metainfo.json', *sorted(numeric)]:
+        checked_hash(resolve(backup, ref), record['source_sha256'][ref])
+    for ref in record['new_bundle_paths']:
+        if ref in numeric:
+            raise ValueError('new bundle collides with an old numerical file')
+        install_file(stage / ref, source / ref, record['changed_sha256'][ref])
+    current_hash = sha256(source / 'metainfo.json')
+    expected_hash = record['changed_sha256']['metainfo.json']
+    if current_hash != expected_hash:
+        if current_hash != record['source_sha256']['metainfo.json']:
+            raise ValueError('metadata changed outside migration')
+        checked_hash(stage / 'metainfo.json', expected_hash)
+        with (stage / 'metainfo.json').open('rb') as f:
+            os.fsync(f.fileno())
+        os.replace(stage / 'metainfo.json', source / 'metainfo.json')
+        sync_dir(source)
+    new = json.loads((source / 'metainfo.json').read_text())
+    old_reader, new_reader = Reader(backup), Reader(source)
+    for name, c in old['components'].items():
+        if c.get('available') and c['data_ref'].endswith('.pt'):
+            for kind in ('data', 'valid'):
+                exact(old_reader.field(c, kind), new_reader.field(new['components'][name], kind))
+    # Only exact manifest entries can be removed; independent media/JSONL valid survives.
+    parents = set()
+    for ref in sorted(numeric):
+        path = source / ref
+        if path.exists():
+            checked_hash(resolve(source, ref), record['source_sha256'][ref])
+            path.unlink()
+            parents.add(path.parent)
+    for parent in parents:
+        sync_dir(parent)
+    validation = validate_view(source, ctx['schema'])
+    if view_files(source) != set(record['unchanged_sha256']) | set(record['changed_sha256']):
+        raise ValueError('installed view file set mismatch')
+    record.update(phase='complete', validation=validation)
+    durable_json(checkpoint, record)
+    if stage.exists():
+        if not stage.resolve().is_relative_to(Path(ctx['work']) / 'staged'):
+            raise ValueError('unsafe staging cleanup')
+        shutil.rmtree(stage)  # Owned hardlinks only; original media bytes are never changed.
+    return record
+
+
+def worker(task):
+    import torch
+    torch.set_num_threads(1)
+    if torch.get_num_interop_threads() != 1:
+        torch.set_num_interop_threads(1)
+    ctx, view, inventory = task
+    source, stage, backup, checkpoint = paths(ctx, view)
+    with lock(Path(ctx['work']) / 'view-locks' / (view.replace('/', '__') + '.lock')):
+        if checkpoint.exists():
+            record = json.loads(checkpoint.read_text())
+            if record['phase'] == 'complete':
+                result = verify_done(ctx, record)
+                if stage.exists():
+                    shutil.rmtree(stage)
+                return result
+            if record['phase'] == 'prepared':
+                return complete_prepared(ctx, record)
+            raise ValueError('unknown checkpoint phase')
+        view_files(source)
+        # An uncommitted stage may be discarded only after confirming the source is v1.0.
+        meta = json.loads((source / 'metainfo.json').read_text())
+        if meta['schema_version'] != 'hand-warehouse/1.0':
+            raise ValueError('migrated view has no recoverable checkpoint')
+        for candidate in (stage, stage.with_name('.tmp-' + stage.name)):
+            if candidate.exists():
+                if not candidate.resolve().is_relative_to(Path(ctx['work']) / 'staged'):
+                    raise ValueError('unsafe incomplete-stage cleanup')
+                shutil.rmtree(candidate)
+        record = migrate_view((str(source), str(stage), ctx['schema'], inventory))
+        for ref in ['metainfo.json', *record['removed_numeric_paths']]:
+            dest = backup / ref
+            dest.parent.mkdir(parents=True, exist_ok=True)
+            if not dest.exists():
+                os.link(resolve(source, ref), dest)
+            checked_hash(dest, record['source_sha256'][ref])
+        for directory, _, _ in os.walk(backup, topdown=False):
+            sync_dir(directory)
+        for directory in (backup.parent, backup.parent.parent, backup.parent.parent.parent):
+            sync_dir(directory)
+        record.update(phase='prepared', context=ctx)
+        durable_json(checkpoint, record)
+        sync_dir(Path(ctx['work']))
+        return complete_prepared(ctx, record)
+
+
+def current_remote(revision):
+    fixed = tree(revision, 'dex-ycb')
+    with urllib.request.urlopen('https://huggingface.co/api/datasets/' + REPO + '?expand=sha', timeout=90) as response:
+        head = json.load(response)['sha']
+    live = tree(head, 'dex-ycb')
+    for name in ('raw', 'shared-v1.0'):
+        path = 'dex-ycb/' + name
+        if fixed[path]['oid'] != live[path]['oid']:
+            raise ValueError(f'HF {path} changed since source revision; investigate before migration')
+    return {'head': head, 'raw_tree_oid': fixed['dex-ycb/raw']['oid'],
+            'source_tree_oid': fixed[PREFIX]['oid']}
+
+
+
+def check_consumers(source):
+    executable = shutil.which('lsof')
+    if not executable:
+        raise RuntimeError('lsof required to check active dataset readers before maintenance')
+    result = subprocess.run([executable, '-u', str(os.getuid()), '-F', 'pn'],
+                            stdout=subprocess.PIPE, stderr=subprocess.PIPE, text=True, timeout=60)
+    if result.returncode not in (0, 1):
+        raise RuntimeError('could not check dataset readers with lsof')
+    readers, pid = set(), None
+    prefix = str(source / 'data') + '/'
+    for line in result.stdout.splitlines():
+        if line.startswith('p'):
+            pid = line[1:]
+        elif line.startswith('n' + prefix) and not Path(line[1:]).is_dir():
+            readers.add(pid)
+    if readers:
+        raise RuntimeError('close active readers/converters before migration; PIDs: ' + ','.join(sorted(readers)))
+
+
+def prepare(source, work, revision, approval):
+    for name, expected in BASE_DOC_HASHES.items():
+        checked_hash(source / 'doc' / name, expected)
+    approved = json.loads(approval.read_text())
+    if (approved['phase'] != 'pilot_passed_awaiting_human_review'
+            or approved['source_revision'] != revision or not approved['source_and_output_post_render_hashes_passed']):
+        raise ValueError('approved pilot must have passed automated checks on the same fixed source')
+    check_consumers(source)
+    remote = current_remote(revision)
+    marker = source / MARKER
+    if marker.exists():
+        raise ValueError('unregistered source maintenance marker')
+    work.mkdir(parents=True, exist_ok=True)
+    if source.stat().st_dev != work.stat().st_dev:
+        raise ValueError('source, work and rollback backups must share a filesystem')
+    (work / 'inventory').mkdir(exist_ok=True)
+    for name in ('data', 'doc', 'script'):
+        if (source / name).is_symlink():
+            raise ValueError('source release directories must not be symlinks')
+    seqs = sorted(p.name for p in (source / 'data').iterdir() if p.is_dir())
+    if len(seqs) != 1000:
+        raise ValueError('full Dex-YCB migration requires exactly 1000 sequences')
+    for seq in seqs:
+        views = sorted((source / 'data' / seq).iterdir())
+        if len(views) != 8 or any(not p.is_dir() or not (p / 'metainfo.json').is_file() for p in views):
+            raise ValueError('full Dex-YCB migration requires eight complete cameras per sequence')
+    plan = {'source': str(source), 'source_revision': revision, 'sequences': seqs,
+            'tool_sha256': tools(), 'remote_baseline': remote, 'pilot_summary_sha256': sha256(approval),
+            'human_pilot_approval': {'date': '2026-10-10', 'scope': 'user reviewed several pilot sequences; exact sequence list unspecified',
+                                     'authorization': '开始全量迁移'}, 'views': 8000}
+    durable_json(work / 'PLAN.json', plan)
+    durable_json(work / 'RUN.json', {'phase': 'preparing_inventory', 'completed_views': 0,
+                                   'created_utc': datetime.now(timezone.utc).isoformat()})
+    return plan
+
+
+def prepare_inventory(plan, work):
+    index_path = work / 'INVENTORY_INDEX.json'
+    index = json.loads(index_path.read_text()) if index_path.exists() else {}
+    for i, seq in enumerate(plan['sequences']):
+        path = work / 'inventory' / (seq + '.json')
+        if seq in index:
+            checked_hash(path, index[seq])
+        else:
+            rows = tree(plan['source_revision'], PREFIX + '/data/' + seq, recursive=True)
+            files = {k.removeprefix(PREFIX + '/'): v for k, v in rows.items() if v['type'] == 'file'}
+            durable_json(path, {'revision': plan['source_revision'], 'files': files})
+            index[seq] = sha256(path)
+            durable_json(index_path, index)
+        if (i + 1) % 50 == 0:
+            print('FULL_INVENTORY', i + 1, '/', len(plan['sequences']), flush=True)
+    if set(index) != set(plan['sequences']):
+        raise ValueError('inventory sequence set mismatch')
+    return index
+
+
+def tasks(plan, work, index):
+    ctx = {'source': plan['source'], 'work': str(work), 'schema': str(HERE / 'spec/schema.json'),
+           'source_revision': plan['source_revision'], 'tool_sha256': plan['tool_sha256']}
+    for seq in plan['sequences']:
+        path = work / 'inventory' / (seq + '.json')
+        checked_hash(path, index[seq])
+        inventory = json.loads(path.read_text())
+        if inventory['revision'] != plan['source_revision']:
+            raise ValueError('inventory revision mismatch')
+        for cam in sorted((Path(plan['source']) / 'data' / seq).iterdir()):
+            if not cam.is_dir():
+                raise ValueError('unexpected sequence entry')
+            view = 'data/' + seq + '/' + cam.name
+            prefix = view + '/'
+            files = {k.removeprefix(prefix): v for k, v in inventory['files'].items() if k.startswith(prefix)}
+            yield (ctx | {'inventory_sha256': index[seq]}, view, files)
+
+
+def bounded_pool(jobs, workers, on_result):
+    iterator = iter(jobs)
+    pool = ProcessPoolExecutor(max_workers=workers, mp_context=multiprocessing.get_context('spawn'))
+    active = {}
+    try:
+        for _ in range(workers):
+            task = next(iterator, None)
+            if task is not None:
+                active[pool.submit(worker, task)] = task[1]
+        while active:
+            done, _ = wait(active, return_when=FIRST_COMPLETED)
+            # Check all finished futures before scheduling any new work after a failure.
+            results = [(f, f.result()) for f in done]
+            for future, result in results:
+                del active[future]
+                on_result(result)
+                task = next(iterator, None)
+                if task is not None:
+                    active[pool.submit(worker, task)] = task[1]
+    finally:
+        for future in active:
+            future.cancel()
+        pool.shutdown(wait=True, cancel_futures=True)
+
+
+def post_sample(source, seed):
+    rng = random.Random(seed)
+    subjects = {}
+    left = []
+    for seq in sorted((source / 'data').iterdir()):
+        subjects.setdefault(seq.name.split('_')[0], []).append(seq.name)
+        meta = json.loads(next(seq.glob('*/metainfo.json')).read_text())
+        if 'hand_left' in meta['components']['segment']['coverage']['entities']:
+            left.append(seq.name)
+    chosen = [rng.choice(seqs) for seqs in subjects.values()]
+    if left and not set(chosen) & set(left):
+        chosen.append(rng.choice(left))
+    return {'sequences': sorted(chosen), 'seed': seed, 'scope': 'random complete sequence per subject; force native left-hand coverage; all eight cameras'}
+
+
+def install_documents(source, work, plan, summary):
+    # Root doc/script switches are recoverable two-step renames under maintenance.
+    pending = work / 'new-doc'
+    history = work / 'old-doc'
+    doc_installed = (source / 'doc/history-v1.0/schema.json').is_file()
+    if doc_installed and sha256(source / 'doc/schema.json') != sha256(HERE / 'spec/schema.json'):
+        raise ValueError('unexpected existing documentation history')
+    if not doc_installed and not history.exists() and not (pending / 'history-v1.0').exists():
+        if pending.exists():
+            shutil.rmtree(pending)
+        if not pending.exists():
+            pending.mkdir()
+            for name in ('schema.json', 'MIGRATION.md'):
+                shutil.copyfile(HERE / 'spec' / name, pending / name)
+            original_contract = (source / 'doc/CONTRACT.md').read_bytes()
+            (pending / 'V1_0_SEMANTICS.md').write_bytes(original_contract)
+            contract = (HERE / 'spec/CONTRACT.md').read_text().replace('../hand-warehouse-1.0/CONTRACT.md', 'V1_0_SEMANTICS.md')
+            contract = '\n'.join('状态：Dex-YCB v1.1 配套注册表与读写工具已适配；本地全量自动验收完成后仍须人工复查，HF 尚未发布。' if line.startswith('状态：合同草案') else line for line in contract.splitlines())
+            (pending / 'CONTRACT.md').write_text('> Dex-YCB v1.1 本地全量迁移；当前等待人工复查，尚未正式发布。\n\n' + contract)
+            pilot_doc = Path(plan['pilot_root']) / 'doc/RAW_TO_SHARED.md'
+            mapping = pilot_doc.read_text().replace('试点未修改源发布或 HF。', '本次仅原地调整 shared 数值存储，不修改 raw，不重编码媒体。')
+            (pending / 'RAW_TO_SHARED.md').write_text(mapping + '\n\n全量入口：script/dexycb_v1_1/full.py。原 v1.0 文档及构建记录保留于 history-v1.0/；旧转换实现及配套规范在 script/v1_0_snapshot/。\n')
+        for f in pending.rglob('*'):
+            if f.is_file():
+                with f.open('rb') as stream:
+                    os.fsync(stream.fileno())
+        sync_dir(pending)
+        os.replace(source / 'doc', history)
+        sync_dir(source)
+        sync_dir(work)
+    if history.exists() and not (pending / 'history-v1.0').exists() and pending.exists():
+        os.replace(history, pending / 'history-v1.0')
+        sync_dir(pending)
+        sync_dir(work)
+    if pending.exists():
+        if (source / 'doc').exists():
+            raise ValueError('refuse to overwrite unexpected doc directory')
+        os.replace(pending, source / 'doc')
+        sync_dir(source)
+    if not (source / 'doc/history-v1.0/schema.json').is_file():
+        raise ValueError('original documentation history missing')
+    old_script, new_script = work / 'old-script', work / 'new-script'
+    if not old_script.exists():
+        if new_script.exists():
+            shutil.rmtree(new_script)
+        if not new_script.exists():
+            new_script.mkdir()
+            shutil.copytree(HERE, new_script / 'dexycb_v1_1', ignore=shutil.ignore_patterns('__pycache__', '*.pyc'))
+            shutil.copytree(source / 'script', new_script / 'v1_0_snapshot/script', ignore=shutil.ignore_patterns('__pycache__', '*.pyc'))
+            (new_script / 'v1_0_snapshot/doc').mkdir()
+            for name in BASE_DOC_HASHES:
+                shutil.copyfile(source / 'doc/history-v1.0' / name, new_script / 'v1_0_snapshot/doc' / name)
+        for f in new_script.rglob('*'):
+            if f.is_file():
+                with f.open('rb') as stream:
+                    os.fsync(stream.fileno())
+        for directory, _, _ in os.walk(new_script, topdown=False):
+            sync_dir(directory)
+        os.replace(source / 'script', old_script)
+        sync_dir(source)
+        sync_dir(work)
+    if new_script.exists():
+        if (source / 'script').exists():
+            raise ValueError('refuse to overwrite unexpected script directory')
+        os.replace(new_script, source / 'script')
+        sync_dir(source)
+    durable_json(source / 'doc/FULL_MIGRATION_SUMMARY.json', summary)
+
+
+
+def rename_no_replace(source, target):
+    # Linux renameat2 keeps the no-overwrite rule atomic, even for an empty target.
+    fn = ctypes.CDLL(None, use_errno=True).renameat2
+    fn.argtypes = [ctypes.c_int, ctypes.c_char_p, ctypes.c_int, ctypes.c_char_p, ctypes.c_uint]
+    fn.restype = ctypes.c_int
+    if fn(-100, os.fsencode(source), -100, os.fsencode(target), 1) != 0:
+        code = ctypes.get_errno()
+        raise OSError(code, os.strerror(code), str(target))
+
+
+def main(argv=None):
+    p = argparse.ArgumentParser(description=__doc__)
+    p.add_argument('--source', type=Path, required=True)
+    p.add_argument('--work', type=Path, required=True)
+    p.add_argument('--source-revision', required=True)
+    p.add_argument('--pilot-summary', type=Path, required=True)
+    p.add_argument('--workers', type=int, default=4)
+    p.add_argument('--finalize-after-review', action='store_true')
+    args = p.parse_args(argv)
+    source, work = args.source.resolve(), args.work.resolve()
+    if (source.name != 'shared-v1.0' or source.parent.name != 'dex-ycb'
+            or not work.is_relative_to(source.parent / 'tmp') or work == source.parent / 'tmp'):
+        p.error('require dex-ycb/shared-v1.0 and a dedicated work directory under dex-ycb/tmp')
+    if not 1 <= args.workers <= 12:
+        p.error('1–12 workers only; total CPU budget including decoder helpers <=24')
+    if not source.is_dir() or source.with_name('shared-v1.1').exists():
+        p.error('source missing or target shared-v1.1 already exists; do not overwrite/merge')
+    if shutil.disk_usage(source).free < 20 * 1024**3:
+        p.error('need at least 20 GiB free for bundles, checkpoints and rollback')
+    if work.exists() and not (work / 'PLAN.json').exists():
+        p.error('existing unregistered work directory; refuse to overwrite')
+    for key in ('OMP_NUM_THREADS', 'MKL_NUM_THREADS', 'OPENBLAS_NUM_THREADS', 'NUMEXPR_NUM_THREADS', 'HAND_WAREHOUSE_FFMPEG_THREADS'):
+        os.environ[key] = '1'
+    with lock(source.parent / 'tmp/DEXYCB_V1_1.lock'):
+        if (work / 'PLAN.json').exists():
+            plan = json.loads((work / 'PLAN.json').read_text())
+            if plan['source'] != str(source) or plan['source_revision'] != args.source_revision or plan['tool_sha256'] != tools():
+                raise ValueError('resume source/tool fingerprint mismatch')
+        else:
+            plan = prepare(source, work, args.source_revision, args.pilot_summary.resolve())
+            plan['pilot_root'] = str(args.pilot_summary.resolve().parents[2])
+            durable_json(work / 'PLAN.json', plan)
+        state = json.loads((work / 'RUN.json').read_text())
+        marker = source / MARKER
+        if marker.exists() and json.loads(marker.read_text())['work'] != str(work):
+            raise ValueError('another work directory owns maintenance state')
+        durable_json(marker, {'work': str(work), 'phase': state['phase'], 'source_revision': args.source_revision,
+                              'notice': 'maintenance: no training/conversion/upload; HTML review only'})
+        if args.finalize_after_review:
+            if state['phase'] != 'awaiting_full_human_review':
+                raise ValueError('finalize requires completed full checks and separate human approval')
+            rename_no_replace(source, source.with_name('shared-v1.1'))
+            sync_dir(source.parent)
+            state.update(phase='local_finalized_not_uploaded', final_root=str(source.with_name('shared-v1.1')))
+            state['index_html'] = str(source.with_name('shared-v1.1') / 'doc/validation/index.html')
+            durable_json(work / 'RUN.json', state)
+            summary_path = source.with_name('shared-v1.1') / 'doc/validation/FULL_MIGRATION_SUMMARY.json'
+            summary = json.loads(summary_path.read_text())
+            durable_json(summary_path, summary | state)
+            (source.with_name('shared-v1.1') / MARKER).unlink()
+            print('LOCAL_FINALIZED', state['final_root'], 'HF upload still requires separate authorization', flush=True)
+            return
+        if state['phase'] == 'awaiting_full_human_review':
+            print('AWAITING_FULL_HUMAN_REVIEW', source / 'doc/validation/index.html', flush=True)
+            return
+        try:
+            started = time.monotonic()
+            if state.get('inventory_index_sha256'):
+                checked_hash(work / 'INVENTORY_INDEX.json', state['inventory_index_sha256'])
+            index = prepare_inventory(plan, work)
+            state.update(phase='migrating', completed_views=0, workers=args.workers,
+                         inventory_index_sha256=sha256(work / 'INVENTORY_INDEX.json'))
+            durable_json(work / 'RUN.json', state)
+            durable_json(marker, {'work': str(work), 'phase': 'migrating', 'source_revision': args.source_revision,
+                                  'notice': 'maintenance: no training/conversion/upload; HTML review only'})
+            totals = {'num_frames': 0, 'source_files': 0, 'target_files': 0}
+            def progress(record):
+                state['completed_views'] += 1
+                for k in totals:
+                    totals[k] += record[k]
+                if state['completed_views'] % 25 == 0:
+                    state.update(totals, elapsed_seconds=time.monotonic() - started)
+                    durable_json(work / 'RUN.json', state)
+                    print('FULL_PROGRESS', state['completed_views'], '/ 8000', round(state['elapsed_seconds'], 1), 'seconds', flush=True)
+            bounded_pool(tasks(plan, work, index), args.workers, progress)
+            if state['completed_views'] != 8000 or totals['num_frames'] != 581968:
+                raise ValueError('full view/frame coverage mismatch')
+            state.update(phase='final_verification', **totals, elapsed_seconds=time.monotonic() - started)
+            durable_json(work / 'RUN.json', state)
+            # Second pass checks current output hashes, all keys and rollback numerical bytes.
+            verified = 0
+            def verified_progress(_):
+                nonlocal verified
+                verified += 1
+                if verified % 100 == 0:
+                    print('FULL_VERIFIED', verified, '/ 8000', flush=True)
+            bounded_pool(tasks(plan, work, index), args.workers, verified_progress)
+            if verified != 8000:
+                raise ValueError('final verification incomplete')
+            summary = state | {'phase': 'full_numeric_passed_pending_post_sample',
+                               'source_revision': args.source_revision, 'raw_tree_oid': plan['remote_baseline']['raw_tree_oid'],
+                               'all_numeric_bytes_exact': True, 'all_source_data_files_match_fixed_hf': True,
+                               'all_current_file_hashes_verified': True, 'backup_root': str(work / 'backups'),
+                               'saved_data_files': totals['source_files'] - totals['target_files'],
+                               'scope': '1000 sequences, 8000 cameras, 581968 frames; human post-full review and HF publication pending'}
+            state['phase'] = 'installing_documents'
+            durable_json(work / 'RUN.json', state)
+            install_documents(source, work, plan, summary)
+            sampled = post_sample(source, args.source_revision + ':post-full:2026-10-10')
+            durable_json(work / 'POST_FULL_SAMPLE.json', sampled)
+            state['phase'] = 'rendering_post_full_sample'
+            durable_json(work / 'RUN.json', state)
+            subprocess.run([sys.executable, str(source / 'script/dexycb_v1_1/render.py'), str(source),
+                            '--workers', str(args.workers), '--sequences-file', str(work / 'POST_FULL_SAMPLE.json')], check=True)
+            current = current_remote(args.source_revision)
+            if current['raw_tree_oid'] != plan['remote_baseline']['raw_tree_oid']:
+                raise ValueError('HF raw tree changed')
+            state.update(phase='awaiting_full_human_review', elapsed_seconds=time.monotonic() - started,
+                         index_html=str(source / 'doc/validation/index.html'), hf_writes=False)
+            durable_json(work / 'RUN.json', state)
+            durable_json(source / 'doc/validation/FULL_MIGRATION_SUMMARY.json', summary | state)
+            durable_json(marker, {'work': str(work), 'phase': state['phase'], 'notice': 'full local checks passed; await human post-full review before rename/upload'})
+            print('FULL_LOCAL_DONE_AWAITING_REVIEW', state['index_html'], flush=True)
+        except Exception as exc:
+            state.update(failed_phase=state['phase'], phase='failed', error=repr(exc))
+            durable_json(work / 'RUN.json', state)
+            print('FULL_FAILED_RECOVERABLE', repr(exc), 'work', work, flush=True)
+            raise
+
+
+if __name__ == '__main__':
+    main()

dex-ycb/shared-v1.1/script/dexycb_v1_1/history-documentation-r0/pilot.py

@@ -0,0 +1,285 @@
+#!/usr/bin/env python3
+"""Read-only-source Dex-YCB v1.1 pilot; HF is read-only, full migration is gated."""
+import argparse
+import collections
+from concurrent.futures import ProcessPoolExecutor
+from datetime import datetime, timezone
+import hashlib
+import json
+import multiprocessing
+import os
+from pathlib import Path
+import re
+import shutil
+import time
+import urllib.parse
+import urllib.error
+import urllib.request
+
+from warehouse import PROFILE, Reader, exact, layout, resolve, sha256, validate_view
+
+REPO = 'ParityLab/Hand-Datasets-Raw'
+PREFIX = 'dex-ycb/shared-v1.0'
+BASE_DOC_HASHES = {
+    'CONTRACT.md': 'ffd8bbac6877938cfb2e2d9b6f83493ffd482322598d956c320f46ce60496cdd',
+    'schema.json': 'ada93f7b2891c02253979ce1739f600cf1961c5dd2be0cb7427efa59a0b41a00',
+}
+
+
+def write_json(path, value):
+    path = Path(path)
+    path.parent.mkdir(parents=True, exist_ok=True)
+    tmp = path.with_name(path.name + '.tmp')
+    tmp.write_text(json.dumps(value, ensure_ascii=False, indent=2, allow_nan=False) + '\n')
+    os.replace(tmp, path)
+
+
+def tree(revision, folder, recursive=False):
+    if not re.fullmatch(r'[0-9a-f]{40}', revision):
+        raise ValueError('source revision must be a fixed commit SHA')
+    url = 'https://huggingface.co/api/datasets/' + REPO + '/tree/' + revision + '/' + urllib.parse.quote(folder, safe='/')
+    url += '?recursive=' + str(recursive).lower() + '&limit=1000'
+    result = {}
+    while url:
+        if urllib.parse.urlsplit(url).hostname != 'huggingface.co':
+            raise ValueError('untrusted pagination URL')
+        for attempt in range(6):
+            try:
+                with urllib.request.urlopen(url, timeout=90) as response:
+                    rows = json.load(response)
+                    link = response.headers.get('Link', '')
+                break
+            except urllib.error.HTTPError as exc:
+                if exc.code not in (429, 500, 502, 503, 504) or attempt == 5:
+                    raise
+                delay = exc.headers.get('Retry-After', '')
+                delay = min(300, int(delay)) if delay.isdigit() else min(120, 10 * 2**attempt)
+                print('HF_READ_RETRY', exc.code, 'sleep', delay, 'seconds', flush=True)
+                time.sleep(delay)
+        for row in rows:
+            if row['path'] in result:
+                raise ValueError('duplicate HF inventory path')
+            result[row['path']] = row
+        match = re.search(r'<([^>]+)>;\s*rel="next"', link)
+        url = match[1] if match else None
+    return result
+
+
+def verify_source_file(path, entry):
+    if path.is_symlink() or path.stat().st_size != entry['size']:
+        raise ValueError(f'source size/symlink mismatch: {path}')
+    if entry.get('lfs'):
+        expected = entry['lfs'].get('oid', entry['lfs'].get('sha256'))
+        digest = sha256(path)
+    else:
+        with path.open('rb') as stream:
+            h = hashlib.sha1(f'blob {entry["size"]}\0'.encode())
+            while chunk := stream.read(1024 * 1024):
+                h.update(chunk)
+            digest = h.hexdigest()
+        expected = entry['oid']
+    if digest != expected:
+        raise ValueError(f'local source differs from fixed HF commit: {path}')
+    return sha256(path) if not entry.get('lfs') else digest
+
+
+def select_sequences(source):
+    candidates = {}
+    for seq in sorted((source / 'data').iterdir()):
+        if not seq.is_dir():
+            raise ValueError(f'unexpected data entry: {seq}')
+        views = sorted(seq.iterdir())
+        if len(views) != 8 or any(not p.is_dir() or not (p / 'metainfo.json').is_file() for p in views):
+            raise ValueError(f'expected eight complete camera views: {seq}')
+        meta = json.loads((views[0] / 'metainfo.json').read_text())
+        entities = meta['components']['segment']['coverage']['entities']
+        features = {'subject:' + seq.name.split('_')[0], 'split:' + meta['split']}
+        features |= {'entity:' + e for e in entities}
+        candidates[seq.name] = (features, meta['num_frames'])
+    remaining = set().union(*(f for f, _ in candidates.values()))
+    chosen = []
+    while remaining:
+        name = max((n for n in candidates if n not in chosen),
+                   key=lambda n: (len(candidates[n][0] & remaining), n))
+        if not (candidates[name][0] & remaining):
+            raise ValueError('pilot coverage cannot be completed')
+        chosen.append(name)
+        remaining -= candidates[name][0]
+    for name in (min(candidates, key=lambda n: candidates[n][1]), max(candidates, key=lambda n: candidates[n][1])):
+        if name not in chosen:
+            chosen.append(name)
+    return sorted(chosen), sorted(set().union(*(candidates[n][0] for n in chosen)))
+
+
+def migrate_view(task):
+    import torch
+    torch.set_num_threads(1)
+    if torch.get_num_interop_threads() != 1:
+        torch.set_num_interop_threads(1)
+    source, target, schema_path, inventory = task
+    source, target = Path(source), Path(target)
+    started = time.monotonic()
+    original = json.loads((source / 'metainfo.json').read_text())
+    if original['schema_version'] != 'hand-warehouse/1.0' or original['release_id'] != 'shared-v1.0':
+        raise ValueError('source must be the unmigrated v1.0 release')
+    meta = json.loads(json.dumps(original))
+    reader, bundles, replaced, source_hashes = Reader(source), {}, set(), {}
+    actual = {p.relative_to(source).as_posix(): p for p in source.rglob('*') if p.is_file()}
+    if set(actual) != set(inventory):
+        raise ValueError(f'local vs HF source file set mismatch: {source}')
+    for ref, path in actual.items():
+        source_hashes[ref] = verify_source_file(path, inventory[ref])
+    for name, c in meta['components'].items():
+        if not c.get('available') or not c['data_ref'].endswith('.pt'):
+            continue
+        ref, keys = layout(name, c)
+        data, valid = reader.field(c), reader.field(c, 'valid')
+        if valid.dtype != torch.bool:
+            raise ValueError('source validity must be bool')
+        replaced.update((c['data_ref'], c['valid_ref']))
+        node = bundles.setdefault(ref, {})
+        for key in keys[:-1]:
+            node = node.setdefault(key, {})
+        if keys[-1] in node:
+            raise ValueError('duplicate numeric bundle field')
+        node[keys[-1]] = {'data': data, 'valid': valid}
+        c.update(data_ref=ref, data_key=keys + ['data'], valid_ref=ref, valid_key=keys + ['valid'],
+                 storage={'profile': PROFILE}, valid_storage={'profile': PROFILE})
+    if target.exists():
+        raise ValueError(f'target already exists: {target}')
+    staging = target.with_name('.tmp-' + target.name)
+    staging.mkdir(parents=True, exist_ok=False)
+    unchanged = {}
+    for ref, path in actual.items():
+        if ref in replaced or ref == 'metainfo.json':
+            continue
+        dest = staging / ref
+        dest.parent.mkdir(parents=True, exist_ok=True)
+        os.link(path, dest)  # Pilot only: unchanged files share storage; never write these links.
+        if not os.path.samefile(path, dest) or sha256(dest) != source_hashes[ref]:
+            raise ValueError(f'unchanged file mismatch: {ref}')
+        unchanged[ref] = source_hashes[ref]
+    for ref, bundle in bundles.items():
+        dest = staging / ref
+        dest.parent.mkdir(parents=True, exist_ok=True)
+        tmp = dest.with_name(dest.name + '.tmp')
+        torch.save(bundle, tmp)
+        os.replace(tmp, dest)
+    meta.update(schema_version='hand-warehouse/1.1', release_id='shared-v1.1')
+    write_json(staging / 'metainfo.json', meta)
+    validation = validate_view(staging, schema_path)
+    saved = Reader(staging)
+    for name, old in original['components'].items():
+        if old.get('available') and old['data_ref'].endswith('.pt'):
+            for kind in ('data', 'valid'):
+                exact(reader.field(old, kind), saved.field(meta['components'][name], kind))
+        elif old != meta['components'][name]:
+            raise ValueError('non-numerical component metadata changed')
+    expected_meta = json.loads(json.dumps(meta))
+    expected_meta['schema_version'], expected_meta['release_id'] = original['schema_version'], original['release_id']
+    for name, old in original['components'].items():
+        expected_meta['components'][name] = old
+    if expected_meta != original:
+        raise ValueError('source semantics metadata changed')
+    output_hashes = {p.relative_to(staging).as_posix(): sha256(p)
+                     for p in staging.rglob('*') if p.is_file() and p.relative_to(staging).as_posix() not in unchanged}
+    os.replace(staging, target)
+    return {'view': '/'.join(target.parts[-3:]), 'num_frames': meta['num_frames'],
+            'seconds': time.monotonic() - started, 'source_sha256': source_hashes,
+            'unchanged_sha256': unchanged, 'changed_sha256': output_hashes,
+            'removed_numeric_paths': sorted(replaced), 'new_bundle_paths': sorted(bundles),
+            'source_files': len(actual), 'target_files': len(unchanged) + len(output_hashes),
+            'numeric_bytes_exact': True, 'source_matches_fixed_hf': True, 'validation': validation}
+
+
+def main(argv=None):
+    p = argparse.ArgumentParser(description=__doc__)
+    p.add_argument('--source', required=True, type=Path)
+    p.add_argument('--out', required=True, type=Path)
+    p.add_argument('--source-revision', required=True)
+    p.add_argument('--workers', type=int, default=4)
+    args = p.parse_args(argv)
+    source, out = args.source.resolve(), args.out.resolve()
+    if not 1 <= args.workers <= 12:
+        p.error('1–12 workers only; reserve at most 24 CPU threads including decoder helpers')
+    if out.exists() or out.is_relative_to(source) or source.is_relative_to(out):
+        p.error('pilot output must be a new directory outside the source release')
+    if source.stat().st_dev != out.parent.stat().st_dev:
+        p.error('pilot must be on the same filesystem; unchanged media are hardlinked, not copied')
+    for name, expected in BASE_DOC_HASHES.items():
+        if sha256(source / 'doc' / name) != expected:
+            raise ValueError('source contract/schema differ from the verified fixed HF version')
+    chosen, coverage = select_sequences(source)
+    started = time.monotonic()
+    out.mkdir()
+    doc, scripts = out / 'doc', out / 'script'
+    doc.mkdir()
+    scripts.mkdir()
+    here = Path(__file__).resolve().parent
+    shutil.copytree(here, scripts / 'dexycb_v1_1', ignore=shutil.ignore_patterns('__pycache__', '*.pyc'))
+    shutil.copytree(source / 'script', scripts / 'v1_0_snapshot/script', ignore=shutil.ignore_patterns('__pycache__', '*.pyc'))
+    (scripts / 'v1_0_snapshot/doc').mkdir()
+    for name in BASE_DOC_HASHES:
+        shutil.copyfile(source / 'doc' / name, scripts / 'v1_0_snapshot/doc' / name)
+    for name in ('schema.json', 'MIGRATION.md'):
+        shutil.copyfile(here / 'spec' / name, doc / name)
+    contract = (here / 'spec/CONTRACT.md').read_text().replace('../hand-warehouse-1.0/CONTRACT.md', 'V1_0_SEMANTICS.md')
+    (doc / 'CONTRACT.md').write_text('> Dex-YCB v1.1 试点，未正式发布；历史语义基线随本目录提供。\n\n' + contract)
+    shutil.copyfile(source / 'doc/CONTRACT.md', doc / 'V1_0_SEMANTICS.md')
+    mapping = source / 'doc/RAW_TO_SHARED.md'
+    text = mapping.read_text() if mapping.exists() else '# Dex-YCB raw → shared\n\n原转换实现见 script/v1_0_snapshot/script。\n'
+    (doc / 'RAW_TO_SHARED.md').write_text(text + '\n\n## v1.1 纯存储迁移\n\n'
+        '原始 RGB、对齐深度、seg、帧索引、MANO、左右手、split 和物体身份保持不变。'
+        '手 mask 仍来自原生 labels_*.npz:seg，不使用手投影替代。\n\n'
+        '| v1.0 文件 | v1.1 文件与字典条目 |\n|---|---|\n'
+        '| camera/intrinsic.pt + valid | camera/camera.pt → intrinsic/{data,valid} |\n'
+        '| camera/extrinsic.pt + valid | camera/camera.pt → extrinsic/{data,valid} |\n'
+        '| mano/motion.pt + valid | mano/mano.pt → motion/{data,valid} |\n'
+        '| keypoints/uv.pt、xyz.pt + 各自 valid | keypoints/keypoints.pt → uv、xyz 的 {data,valid} |\n'
+        '| object/<id>/pose.pt + valid | object/<id>/object.pt → pose/{data,valid} |\n\n'
+        '媒体／JSONL 的独立 valid 保留。没有新增缺失组件。迁移实现见 script/dexycb_v1_1/pilot.py；'
+        '试点未修改源发布或 HF。原始构建记录与旧验收属于 v1.0，不冒充 v1.1 验收。\n')
+    baseline = tree(args.source_revision, 'dex-ycb')
+    raw_oid = baseline['dex-ycb/raw']['oid']
+    journal = {'phase': 'preparing', 'created_utc': datetime.now(timezone.utc).isoformat(),
+               'source': str(source), 'out': str(out), 'source_revision': args.source_revision,
+               'raw_tree_oid': raw_oid, 'workers': args.workers, 'sequences': chosen, 'coverage': coverage,
+               'tool_sha256': {str(f.relative_to(here)): sha256(f) for f in here.rglob('*') if f.is_file() and f.suffix != '.pyc'},
+               'views': [], 'scope': 'pilot only; full migration, HF writes and human approval not performed'}
+    journal_path = out.parent / 'PILOT_JOURNAL.json'
+    write_json(journal_path, journal)
+    tasks = []
+    for seq in chosen:
+        inventory = tree(args.source_revision, PREFIX + '/data/' + seq, recursive=True)
+        entries = {k: v for k, v in inventory.items() if v['type'] == 'file'}
+        for view in sorted((source / 'data' / seq).iterdir()):
+            prefix = PREFIX + '/data/' + seq + '/' + view.name + '/'
+            refs = {k.removeprefix(prefix): v for k, v in entries.items() if k.startswith(prefix)}
+            tasks.append((str(view), str(out / 'data' / seq / view.name), str(doc / 'schema.json'), refs))
+    try:
+        journal['phase'] = 'migrating_pilot'
+        write_json(journal_path, journal)
+        for key in ('OMP_NUM_THREADS', 'MKL_NUM_THREADS', 'OPENBLAS_NUM_THREADS', 'NUMEXPR_NUM_THREADS'):
+            os.environ[key] = '1'
+        with ProcessPoolExecutor(max_workers=args.workers, mp_context=multiprocessing.get_context('spawn')) as pool:
+            for result in pool.map(migrate_view, tasks):
+                journal['views'].append(result)
+                write_json(journal_path, journal)
+                print('PILOT_VIEW', result['view'], 'seconds', round(result['seconds'], 2), flush=True)
+        journal['phase'] = 'numeric_pilot_passed_awaiting_html_and_human_review'
+        journal['wall_seconds'] = time.monotonic() - started
+        journal['source_files'] = sum(v['source_files'] for v in journal['views'])
+        journal['target_files'] = sum(v['target_files'] for v in journal['views'])
+        journal['saved_data_files'] = journal['source_files'] - journal['target_files']
+        journal['num_frames'] = sum(v['num_frames'] for v in journal['views'])
+        write_json(journal_path, journal)
+        write_json(doc / 'PILOT_MIGRATION_REPORT.json', journal)
+        print('PILOT_NUMERIC_DONE', json.dumps({k:journal[k] for k in ('wall_seconds','saved_data_files','num_frames','phase')}), flush=True)
+    except Exception as exc:
+        journal.update(phase='failed', error=repr(exc))
+        write_json(journal_path, journal)
+        raise
+
+
+if __name__ == '__main__':
+    main()

dex-ycb/shared-v1.1/script/dexycb_v1_1/history-documentation-r0/render.py

@@ -0,0 +1,171 @@
+#!/usr/bin/env python3
+"""Render every camera of pilot sequences directly from v1.1 bundles."""
+import argparse
+from concurrent.futures import ProcessPoolExecutor
+import html
+import json
+import multiprocessing
+import os
+from pathlib import Path
+import sys
+import time
+
+import numpy as np
+from PIL import Image, ImageDraw
+import torch
+
+from warehouse import Reader, projection_qc, validate_view
+
+# Reuse the unchanged, published v1.0 snapshot only for media/preview helpers.
+sys.path.insert(0, str(Path(__file__).resolve().parents[1] / 'v1_0_snapshot/script'))
+from render_hoi4d_validation import snapshot, picture, preview_color, mesh_preview
+from warehouse_v1_0 import unpack_depth
+
+def render(view, destination):
+    meta = json.loads((view / 'metainfo.json').read_text())
+    n = meta['num_frames']
+    width, height = meta['camera']['image_size']
+    components = meta['components']
+    reader = Reader(view)
+    frames = [json.loads(line) for line in (view / 'camera/frames.jsonl').read_text().splitlines()]
+    assert len(frames) == n
+    selected = {0, n // 4, n // 2, 3 * n // 4, n - 1}
+    for item in components.values():
+        ref = item.get('valid_ref', '')
+        if ref.endswith('.pt'):
+            valid = reader.field(item, 'valid').numpy()
+            if valid.shape[0] == n:
+                matching = np.flatnonzero(valid.reshape(n, -1).any(axis=1))
+                if len(matching):
+                    selected.add(int(matching[0]))
+    selected = set(sorted(selected)[:12]) | {n - 1}
+    rgb = snapshot(view / components['rgb']['data_ref'], 'rgb24', (height, width, 3), np.uint8, selected)
+    depth = (snapshot(view / components['depth']['data_ref'], 'gray16le', (height, 2 * width), '<u2', selected)
+             if components.get('depth', {}).get('available') else {})
+    masks = (snapshot(view / components['segment']['data_ref'], 'gray16le', (height, width), '<u2', selected)
+             if components.get('segment', {}).get('available') else {})
+    depth_valid = snapshot(view / components['depth']['valid_ref'], 'gray', (height, width), np.uint8, selected) if depth else {}
+    relations = {row['frame_index']: row['relations'] for row in map(json.loads, (view / components['relations']['data_ref']).read_text().splitlines())}
+    labels = {}
+    mapping = view / 'annotation/segment/instances.jsonl'
+    if mapping.exists():
+        labels = {row['frame_index']: row['labels'] for row in map(json.loads, mapping.read_text().splitlines()) if row['frame_index'] in selected}
+    uv = components.get('keypoints_uv', {})
+    uv_points = reader.field(uv).numpy() if uv.get('available') else None
+    uv_valid = reader.field(uv, 'valid').numpy() if uv.get('available') else None
+    sections = []
+    for i in sorted(selected):
+        image = Image.fromarray(rgb[i])
+        if uv_points is not None:
+            draw = ImageDraw.Draw(image)
+            for slot, color in enumerate(('#00ffff', '#ff9922')):
+                for (x, y), valid in zip(uv_points[i, slot], uv_valid[i, slot], strict=True):
+                    if valid and np.isfinite([x, y]).all():
+                        draw.ellipse((x - 3, y - 3, x + 3, y + 3), fill=color)
+        panels = ['<figure>' + picture(image) + '<figcaption>RGB + 原生 2D 手关键点（若有）</figcaption></figure>']
+        if i in depth:
+            z = unpack_depth(depth[i])
+            luminance = (np.clip(np.nan_to_num(z, nan=0), 0, 3) * 85).astype(np.uint8)
+            panels.append('<figure>' + picture(Image.fromarray(luminance)) + '<figcaption>深度 Z（黑=无效，白≥3 m；仅预览）</figcaption></figure>')
+        if i in depth_valid:
+            good = depth_valid[i]
+            if not np.isin(good, [0, 1]).all():
+                raise ValueError('depth validity must be 0/1')
+            panels.append('<figure>' + picture(Image.fromarray(good * 255)) + '<figcaption>原深度逐像素 valid（白=有效，黑=无效；不是深度值）</figcaption></figure>')
+        if i in masks:
+            mask = masks[i]
+            colors = np.zeros((*mask.shape, 3), dtype=np.uint8)
+            for value in np.unique(mask):
+                if value not in (0, 65535):
+                    colors[mask == value] = preview_color(int(value), meta['dataset_id'])
+            legend = '；'.join(f'{int(value)}=' + ('手' if value == 255 and meta['dataset_id'] == 'dex-ycb' else '物体' if meta['dataset_id'] == 'dex-ycb' else '区域') + f' #{bytes(preview_color(int(value), meta["dataset_id"])).hex()}' for value in np.unique(mask) if value not in (0, 65535))
+            panels.append('<figure>' + picture(Image.fromarray(colors)) + '<figcaption>原生分割整数编码的伪彩色预览（' + html.escape(legend) + '）</figcaption></figure>')
+            active = (mask != 0) & (mask != 65535)
+            overlay = rgb[i].copy()
+            overlay[active] = ((overlay[active].astype(np.uint16) + colors[active]) // 2).astype(np.uint8)
+            panels.append('<figure>' + picture(Image.fromarray(overlay)) + '<figcaption>原生分割叠加 RGB（仅预览）</figcaption></figure>')
+        details = {'frame': frames[i], 'segment_labels': labels.get(i, []), 'native_relations': relations.get(i, [])}
+        details['media_validity'] = {name: bool(reader.field(c, 'valid')[i]) for name, c in components.items() if c.get('available') and not c['data_ref'].endswith('.pt') and c.get('valid_ref', '').endswith('.pt')}
+        for name, component in components.items():
+            ref = component.get('data_ref', '')
+            if component.get('available') and ref.endswith('.pt'):
+                values = reader.field(component)
+                if values.ndim and values.shape[0] == n:
+                    details[name] = {'value': values[i].tolist()}
+                    if component.get('valid_ref', '').endswith('.pt'):
+                        valid = reader.field(component, 'valid')
+                        details[name]['valid'] = valid[i].tolist()
+        sections.append('<section><h2>帧 ' + str(i) + ' / ' + str(n) + '</h2><div class="panels">' + ''.join(panels)
+                        + '</div><details><summary>帧号、来源、全部数值组件与有效性</summary><pre>'
+                        + html.escape(json.dumps(details, ensure_ascii=False, indent=2)) + '</pre></details></section>')
+    assets = []
+    for name, component in components.items():
+        if component.get('available') and component['data_ref'].lower().endswith('.obj'):
+            ref = component['data_ref']
+            assets.append('<figure><h3>' + html.escape(name) + '</h3>' + mesh_preview(view / ref)
+                          + '<figcaption>仅展示网格原生形状；未验证尺度／位姿对应。</figcaption></figure>')
+    result = validate_view(view, view.parents[2] / 'doc/schema.json')
+    result['projection'] = projection_qc(meta, reader)
+    result['selected_frames'] = sorted(selected)
+    destination.mkdir(parents=True, exist_ok=True)
+    title = view.parent.name + '_' + view.name
+    css = 'body{font:16px sans-serif;max-width:1500px;margin:auto;padding:1rem;background:#f5f7fa;color:#18232f}section,details{background:#fff;padding:1rem;margin:1rem 0;border-radius:8px}figure{margin:.5rem}figcaption{font-size:.85rem}.panels{display:flex;flex-wrap:wrap}img{max-width:100%;border:1px solid #ddd}pre{white-space:pre-wrap;overflow:auto;font-size:12px}'
+    page = '<!doctype html><html lang="zh"><meta charset="utf-8"><title>' + html.escape(title) + '</title><style>' + css + '</style><h1>' + html.escape(title) + '</h1><p>直接读取 v1.1 bundle；手 mask 仍来自 Dex-YCB 原生 seg，未用手投影替代。预览图仅供人工审核，不是训练输入。</p>' + ''.join(sections) + '<h2>原始物体模型（独立预览）</h2><div class="panels">' + ''.join(assets) + '</div><details><summary>全部组件元信息及原始来源</summary><pre>' + html.escape(json.dumps(meta, ensure_ascii=False, indent=2)) + '</pre></details><details><summary>持久化 QC 结果</summary><pre>' + html.escape(json.dumps(result, ensure_ascii=False, indent=2)) + '</pre></details></html>'
+    (destination / (title + '.html')).write_text(page)
+    (destination / (title + '.report.json')).write_text(json.dumps(result, ensure_ascii=False, indent=2))
+    links = sorted(p.name for p in destination.glob('*.html') if p.name != 'index.html')
+    (destination / 'index.html').write_text('<!doctype html><html lang="zh"><meta charset="utf-8"><title>' + html.escape(meta['dataset_id']) + ' review</title><h1>' + html.escape(meta['dataset_id']) + ' 抽样人工审核</h1><p>选择视图；所有预览均来自已保存的 shared 数据。</p><ul>' + ''.join('<li><a href="' + html.escape(x, quote=True) + '">' + html.escape(x) + '</a></li>' for x in links) + '</ul></html>')
+    print(destination / (title + '.html'), 'selected_frames', sorted(selected), flush=True)
+
+
+def render_task(task):
+    torch.set_num_threads(1)
+    if torch.get_num_interop_threads() != 1:
+        torch.set_num_interop_threads(1)
+    view, dest = map(Path, task)
+    render(view, dest)
+    return json.loads((dest / (view.parent.name + '_' + view.name + '.report.json')).read_text())
+
+
+def main():
+    parser = argparse.ArgumentParser(description=__doc__)
+    parser.add_argument('root', type=Path)
+    parser.add_argument('--workers', type=int, default=4)
+    parser.add_argument('--sequences-file', type=Path)
+    args = parser.parse_args()
+    if not 1 <= args.workers <= 12:
+        parser.error('at most 12 workers and one decoder thread each (24 CPU thread ceiling)')
+    root = args.root.resolve()
+    dest = root / 'doc/validation'
+    dest.mkdir(exist_ok=True)
+    if args.sequences_file:
+        selected = json.loads(args.sequences_file.read_text())['sequences']
+        if not selected or len(set(selected)) != len(selected) or any(not isinstance(s, str) or not s or '/' in s or '\\' in s or s in ('.', '..') for s in selected):
+            parser.error('invalid sequence selection')
+        views = []
+        for seq in selected:
+            found = sorted(p.parent for p in (root / 'data' / seq).glob('*/metainfo.json'))
+            if len(found) != 8:
+                parser.error('sample requires all eight cameras of each complete sequence')
+            views.extend(found)
+    else:
+        views = sorted(p.parent for p in (root / 'data').glob('*/*/metainfo.json'))
+    for key in ('OMP_NUM_THREADS', 'MKL_NUM_THREADS', 'OPENBLAS_NUM_THREADS', 'NUMEXPR_NUM_THREADS', 'HAND_WAREHOUSE_FFMPEG_THREADS'):
+        os.environ[key] = '1'
+    start = time.monotonic()
+    with ProcessPoolExecutor(max_workers=args.workers, mp_context=multiprocessing.get_context('spawn')) as pool:
+        reports = list(pool.map(render_task, [(str(v), str(dest)) for v in views]))
+    summary = {'views': len(views), 'sequences': len({v.parent for v in views}),
+               'wall_seconds': time.monotonic() - start, 'reports': reports,
+               'scope': ('post-full random complete sequences, all cameras; manual review pending' if args.sequences_file else 'all pilot cameras, sampled frames rendered directly from new bundles; manual approval pending')}
+    (dest / 'V1_1_VALIDATION.json').write_text(json.dumps(summary, ensure_ascii=False, indent=2) + '\n')
+    (dest / 'CONTRACT.md').write_bytes((root / 'doc/CONTRACT.md').read_bytes())
+    links = sorted(p.name for p in dest.glob('*.html') if p.name != 'index.html')
+    heading = '全量后抽样人工复查' if args.sequences_file else '全部试点相机验收'
+    next_step = '全量已迁移；请人工复查后再更名和发布。' if args.sequences_file else '请人工确认后再全量迁移。'
+    (dest / 'index.html').write_text('<!doctype html><html lang="zh"><meta charset="utf-8"><title>Dex-YCB v1.1 review</title><h1>Dex-YCB v1.1 ' + heading + '</h1><p>数值按字节一致；媒体不重新编码。手分割为原生 seg。' + next_step + '</p><ul>' + ''.join('<li><a href="' + html.escape(p, quote=True) + '">' + html.escape(p) + '</a></li>' for p in links) + '</ul></html>')
+    print('POST_FULL_HTML_DONE' if args.sequences_file else 'PILOT_HTML_DONE', len(views), 'views', round(summary['wall_seconds'], 2), 'seconds', dest / 'index.html', flush=True)
+
+
+if __name__ == '__main__':
+    main()

dex-ycb/shared-v1.1/script/dexycb_v1_1/pilot.py

@@ -16,6 +16,7 @@ import urllib.parse
 import urllib.error
 import urllib.request
 
+from documentation import install as install_current_documents
 from warehouse import PROFILE, Reader, exact, layout, resolve, sha256, validate_view
 
 REPO = 'ParityLab/Hand-Datasets-Raw'
@@ -223,22 +224,8 @@ def main(argv=None):
         shutil.copyfile(source / 'doc' / name, scripts / 'v1_0_snapshot/doc' / name)
     for name in ('schema.json', 'MIGRATION.md'):
         shutil.copyfile(here / 'spec' / name, doc / name)
-    contract = (here / 'spec/CONTRACT.md').read_text().replace('../hand-warehouse-1.0/CONTRACT.md', 'V1_0_SEMANTICS.md')
-    (doc / 'CONTRACT.md').write_text('> Dex-YCB v1.1 试点，未正式发布；历史语义基线随本目录提供。\n\n' + contract)
     shutil.copyfile(source / 'doc/CONTRACT.md', doc / 'V1_0_SEMANTICS.md')
-    mapping = source / 'doc/RAW_TO_SHARED.md'
-    text = mapping.read_text() if mapping.exists() else '# Dex-YCB raw → shared\n\n原转换实现见 script/v1_0_snapshot/script。\n'
-    (doc / 'RAW_TO_SHARED.md').write_text(text + '\n\n## v1.1 纯存储迁移\n\n'
-        '原始 RGB、对齐深度、seg、帧索引、MANO、左右手、split 和物体身份保持不变。'
-        '手 mask 仍来自原生 labels_*.npz:seg，不使用手投影替代。\n\n'
-        '| v1.0 文件 | v1.1 文件与字典条目 |\n|---|---|\n'
-        '| camera/intrinsic.pt + valid | camera/camera.pt → intrinsic/{data,valid} |\n'
-        '| camera/extrinsic.pt + valid | camera/camera.pt → extrinsic/{data,valid} |\n'
-        '| mano/motion.pt + valid | mano/mano.pt → motion/{data,valid} |\n'
-        '| keypoints/uv.pt、xyz.pt + 各自 valid | keypoints/keypoints.pt → uv、xyz 的 {data,valid} |\n'
-        '| object/<id>/pose.pt + valid | object/<id>/object.pt → pose/{data,valid} |\n\n'
-        '媒体／JSONL 的独立 valid 保留。没有新增缺失组件。迁移实现见 script/dexycb_v1_1/pilot.py；'
-        '试点未修改源发布或 HF。原始构建记录与旧验收属于 v1.0，不冒充 v1.1 验收。\n')
+    install_current_documents(doc)
     baseline = tree(args.source_revision, 'dex-ycb')
     raw_oid = baseline['dex-ycb/raw']['oid']
     journal = {'phase': 'preparing', 'created_utc': datetime.now(timezone.utc).isoformat(),

dex-ycb/shared-v1.1/script/dexycb_v1_1/read_example.py

@@ -0,0 +1,97 @@
+#!/usr/bin/env python3
+"""Read one saved Dex-YCB v1.1 view/frame; never convert or write dataset files."""
+import argparse
+import json
+from pathlib import Path
+import subprocess
+
+import numpy as np
+
+from warehouse import Reader, resolve
+
+
+def unpack_depth(encoded):
+    if encoded.dtype != np.dtype('<u2') or encoded.ndim != 2 or encoded.shape[1] % 2:
+        raise ValueError('depth requires an H by 2W little-endian uint16 frame')
+    low, high = np.split(encoded, 2, axis=1)
+    bits = low.astype('<u4') | (high.astype('<u4') << 16)
+    return bits.view('<f4')
+
+
+def media_frame(view, component, index, image_size):
+    profile = component['storage']['profile']
+    width, height = component['storage']['encoded_size']
+    w, h = image_size
+    if profile == 'mkv/depth_float32_bits/v1':
+        if [width, height] != [2*w, h]:
+            raise ValueError('depth storage size must be [2W,H], not the logical image size')
+        pixel_format, dtype, shape = 'gray16le', '<u2', (height, width)
+    elif profile == 'mkv/uint16_ffv1/v1':
+        pixel_format, dtype, shape = 'gray16le', '<u2', (height, width)
+    elif profile == 'mkv/bool_ffv1/v1':
+        pixel_format, dtype, shape = 'gray', 'u1', (height, width)
+    elif profile in ('mkv/mjpeg_copy/v1', 'mkv/source_copy/v1', 'mkv/h264_rgb_lossless/v1', 'mkv/ffv1_rgb/v1'):
+        pixel_format, dtype, shape = 'rgb24', 'u1', (height, width, 3)
+    else:
+        raise ValueError(f'unsupported example media profile: {profile}')
+    if index < 0 or (profile != 'mkv/depth_float32_bits/v1' and [width, height] != [w, h]):
+        raise ValueError('negative frame index or mismatched image size')
+    path = resolve(view, component['data_ref'])
+    command = ['ffmpeg', '-v', 'error', '-nostdin', '-noautorotate', '-threads', '1', '-i', str(path),
+               '-vf', f'select=eq(n\\,{index})', '-frames:v', '1', '-threads', '1',
+               '-f', 'rawvideo', '-pix_fmt', pixel_format, 'pipe:1']
+    result = subprocess.run(command, check=True, capture_output=True)
+    if len(result.stdout) != int(np.prod(shape))*np.dtype(dtype).itemsize:
+        raise ValueError('missing/truncated decoded frame')
+    frame = np.frombuffer(result.stdout, dtype=dtype).reshape(shape)
+    if profile == 'mkv/depth_float32_bits/v1':
+        return unpack_depth(frame)
+    if profile == 'mkv/bool_ffv1/v1':
+        if not np.isin(frame, [0, 1]).all():
+            raise ValueError('validity video must contain only 0 and 1')
+        return frame.astype(bool)
+    return frame
+
+
+def main():
+    parser = argparse.ArgumentParser(description=__doc__)
+    parser.add_argument('view', type=Path, help='absolute data/<sequence>/<camera> directory')
+    parser.add_argument('--frame', type=int, default=0)
+    args = parser.parse_args()
+    view = args.view.resolve()
+    meta = json.loads((view/'metainfo.json').read_text())
+    if meta['schema_version'] != 'hand-warehouse/1.1' or meta['hand_slots'] != ['left', 'right']:
+        parser.error('this example requires v1.1 with fixed left/right slots')
+    if not 0 <= args.frame < meta['num_frames']:
+        parser.error('frame index outside [0,num_frames)')
+    reader = Reader(view)
+    output = {'frame': args.frame, 'hand_slots': meta['hand_slots'], 'numeric': {}, 'media': {}}
+    for name, c in meta['components'].items():
+        if not c.get('available') or not c.get('data_key'):
+            continue
+        data, valid = reader.field(c), reader.field(c, 'valid')
+        output['numeric'][name] = {'shape': list(data.shape), 'dtype': str(data.dtype),
+                                   'valid_at_frame': valid[args.frame].tolist()}
+    components = meta['components']
+    for name in ('rgb', 'depth', 'segment'):
+        c = components.get(name, {})
+        if not c.get('available'):
+            continue
+        frame = media_frame(view, c, args.frame, meta['camera']['image_size'])
+        item = {'shape': list(frame.shape), 'dtype': str(frame.dtype)}
+        if name == 'depth':
+            valid_component = {'data_ref': c['valid_ref'], 'storage': c['valid_storage']}
+            valid = media_frame(view, valid_component, args.frame, meta['camera']['image_size'])
+            if not np.isfinite(frame[valid]).all() or not (frame[valid] > 0).all() or not np.isnan(frame[~valid]).all():
+                raise ValueError('depth values do not match saved pixel validity')
+            item.update(unit='m', valid_pixels=int(valid.sum()))
+        else:
+            item['valid_at_frame'] = bool(reader.field(c, 'valid')[args.frame])
+        if name == 'segment':
+            item['native_label_codes'] = np.unique(frame).tolist()
+        output['media'][name] = item
+    print(json.dumps(output, ensure_ascii=False, indent=2, allow_nan=False))
+
+
+if __name__ == '__main__':
+    main()

dex-ycb/shared-v1.1/script/dexycb_v1_1/render.py

@@ -14,6 +14,7 @@ import numpy as np
 from PIL import Image, ImageDraw
 import torch
 
+from documentation import validation_contract
 from warehouse import Reader, projection_qc, validate_view
 
 # Reuse the unchanged, published v1.0 snapshot only for media/preview helpers.
@@ -159,7 +160,7 @@ def main():
                'wall_seconds': time.monotonic() - start, 'reports': reports,
                'scope': ('post-full random complete sequences, all cameras; manual review pending' if args.sequences_file else 'all pilot cameras, sampled frames rendered directly from new bundles; manual approval pending')}
     (dest / 'V1_1_VALIDATION.json').write_text(json.dumps(summary, ensure_ascii=False, indent=2) + '\n')
-    (dest / 'CONTRACT.md').write_bytes((root / 'doc/CONTRACT.md').read_bytes())
+    validation_contract(dest)
     links = sorted(p.name for p in dest.glob('*.html') if p.name != 'index.html')
     heading = '全量后抽样人工复查' if args.sequences_file else '全部试点相机验收'
     next_step = '全量已迁移；请人工复查后再更名和发布。' if args.sequences_file else '请人工确认后再全量迁移。'