shaoyz commited on
Commit
08292cb
·
verified ·
1 Parent(s): cd73c40

Complete ReInterHand shared-v1.0 documentation

Browse files
ReInterHand/shared-v1.0/doc/CONTRACT.md ADDED
@@ -0,0 +1,459 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ # 手物数据仓库统一约定 v1.0
2
+
3
+ 格式版本:`hand-warehouse/1.0`。存储约定:`lossless-video-2026-09-18`。
4
+
5
+ 范围限于手物交互重建。按本任务纳入的源模态转换,不要求每个数据集填满所有组件。缺失模态、尚未下载、语义未核实分别报告,不能互相替代。
6
+
7
+ shared 层不是 raw 的完整镜像。处理者只需提取本次任务范围明确要求、语义已经核实且能够按本规范可靠转换的字段和模态。raw 中其余字段可以不纳入 shared,但必须在 `RAW_TO_SHARED.md` 中列出主要未纳入内容及原因。不得为了覆盖全部 raw 字段而猜测语义、虚构模态或保存未经定义的字段。未纳入 shared 不等于源数据不存在,原始信息仍以 raw 为准。
8
+
9
+ 本文定义各字段的含义与使用规则,机器可读注册表见 [schema.json](schema.json)。两者互相补充;如有冲突,应先核实并统一定义。
10
+
11
+ ## 1. 目录
12
+
13
+ ```text
14
+ hand-datasets/
15
+ <dataset_name>/
16
+ raw/
17
+ doc/ # 官方说明、来源与校验记录
18
+ script/ # 官方下载脚本、必要包装脚本
19
+ data/ # 保留原始包,不原地解压或改写
20
+ <dataset_version>/
21
+ doc/ # 发布说明、schema、来源清单
22
+ script/ # 转换、校验脚本及运行配置
23
+ data/
24
+ <sequence_id>/
25
+ <camera_id>/
26
+ metainfo.json
27
+ observation/
28
+ rgb.mkv
29
+ rgb_valid.pt
30
+ depth.mkv # float32 深度的可逆视频编码
31
+ depth_valid.mkv # 逐像素 bool 的无损视频编码
32
+ camera/
33
+ frames.jsonl
34
+ intrinsic.pt
35
+ intrinsic_valid.pt
36
+ extrinsic.pt
37
+ extrinsic_valid.pt
38
+ annotation/
39
+ mano/
40
+ motion.pt
41
+ motion_valid.pt
42
+ visibility.pt
43
+ keypoints/
44
+ uv.pt
45
+ uv_valid.pt
46
+ xyz.pt
47
+ xyz_valid.pt
48
+ visibility.pt # 源数据有时提供
49
+ object/
50
+ <object_id>/
51
+ assets/ # 该物体的网格、材质、纹理及部件资产
52
+ <mesh_id>.obj
53
+ pose.pt
54
+ pose_valid.pt
55
+ visibility.pt
56
+ metainfo.json # 物体身份、类别、mesh、尺寸与部件引用
57
+ articulation.json
58
+ keypoints/
59
+ vertex_part_ids.pt
60
+ joint_state.pt
61
+ joint_state_valid.pt
62
+ parts/<part_id>/pose.pt
63
+ parts/<part_id>/pose_valid.pt
64
+ segment/
65
+ mask.mkv
66
+ mask_valid.pt
67
+ instances.jsonl
68
+ contact/
69
+ relations.jsonl
70
+ <subject_id>__<object_id>/ # 对应实体间的距离/接触区域
71
+ ```
72
+
73
+ 目录展示可能存在的组件,不要求填满。具体文件、字段和缺省规则分别见后续对应小节。原始包的解压发生在临时工作区,raw 内原始包保持不变。
74
+
75
+ ## 2. 相机视图的 metainfo.json
76
+
77
+ ### 2.1 顶层字段与发布信息
78
+
79
+ 每个相机视图必须有 `metainfo.json`。以下字段除另行说明外均为必填:
80
+
81
+ | 字段 | 填写内容 |
82
+ |---|---|
83
+ | schema_version | 结构版本,本版为 `hand-warehouse/1.0` |
84
+ | dataset_id | 数据集的逻辑标识 |
85
+ | release_id | 本次数据发布版本,对应目录中的 dataset_version |
86
+ | sequence_id | 所属序列或独立图片样本的标识 |
87
+ | camera_id | 当前相机视图标识 |
88
+ | sample_type | `image` 或 `video`,规则见 2.2 |
89
+ | num_frames | 当前视图帧数 T,所有随帧组件按同一时间轴组织 |
90
+ | hand_slots | 固定为 `["left", "right"]`;解剖学左右的使用规则见 5.1 |
91
+ | sampling | 采样类型、源 FPS、帧索引引用及选择策略,见 2.2 |
92
+ | camera | 当前相机模型与图像尺寸,见 2.3 |
93
+ | components | 实际提供的组件及其文件、schema、有效性和来源,见 2.5 |
94
+ | split | `train/val/test/unknown`,划分协议见 2.4 |
95
+ | view_type | 必填,固定为 `ego/exo/unknown`。源数据或采集设置明确相机视角时必须填写 `ego` 或 `exo`;只有无法从可信来源确定时才填写 `unknown`,不得省略或主观猜测。多相机序列须逐视图分别填写。 |
96
+
97
+ `dataset_version` 是数据发布版本;`schema_version` 是结构版本,两者独立。原始包校验摘要、官方来源和转换配置应记录在发布清单中。解压发生在临时工作区,原始包保持不变。
98
+
99
+ ### 2.2 图片、视频与 sampling
100
+
101
+ `sample_type=image`:允许单图 T=1、`sampling.type=single`,也允许将独立图片��量装入一个视频容器,T>1 时 `sampling.type=independent`、`source_fps=null`。分片大小按数据集选择;FreiHAND 默认每片最多 4096 张,训练与评估分开,尾片不补帧。该数量不是其他数据集的强制要求;同批分辨率、相机模型类型及划分协议一致。每行 frames 必须有稳定且唯一的 `sample_id`、原始文件定位;内参、手形状等仍逐帧保留,不能因打包而共享错误的标定或身份。`sequence_id` 在这里仅是批次标识,不代表真实序列;不得按相邻帧推断跟踪、同步或接触延续。源 camera_id、image_variant、split 等随样本变化时放在 frames 的对应字段中。真实采集时间未知则 timestamp_ns=null。合成背景变体不视为真实多相机。
102
+
103
+ `sample_type=video`:`sampling.type=dense/sparse`;`source_fps` 是真实采集 FPS,未知为 null。非连续取样必须保留源帧号和已知源时间,不可用采样后索引除以 FPS 冒充源时间。可另记采样策略与步长。
104
+
105
+ shared 可以仅存所选 RGB 帧对应的数据。OakInk2 图像/动捕不同采样率时用 annotation_matches 明确映射;不要求将未采样动捕点硬塞进 T。多视角身份和源同步关系要保留;选择了哪些帧/相机及原因写在 sampling 中。
106
+
107
+ `sampling.frames_ref` 指向 `camera/frames.jsonl`。帧号、逐帧时间、同步与标注匹配记录的结构见 4.1;MKV 封装时间的约定见 3.1。
108
+
109
+ ### 2.3 camera 模型声明
110
+
111
+ `camera` 至少包含 `model`、`schema_id`、`image_size:[W,H]`。模型未知使用 `unknown` 和 `null`,不猜成针孔。实际内参、畸变及外参数组放在 `camera/`,各模型的固定结构见第 4 节。
112
+
113
+ ### 2.4 split 与划分协议
114
+
115
+ 保留上游划分,不将同一采集序列的相邻帧随意拆到不同集合。
116
+
117
+ 有官方划分时必填 split_scheme 和 split_source_locator,split_scheme 区分如 Dex-YCB s0/s1、ARCTIC P1/P2 等选定协议;不知道时 split=unknown 并给理由,不凭空分配。每发布可选择一种协议;存在逐帧差异时 frames 中的 split 覆盖视图默认值,并登记其来源。
118
+
119
+ ### 2.5 components 组件登记
120
+
121
+ 组件表的键是本发布内唯一名称,例如 `rgb`、`depth`、`mano`、`keypoints_uv`。每个已提供组件声明以下信息;模态特有参数在第 3–5 节对应小节中定义。
122
+
123
+ | 字段 | 约定 |
124
+ |---|---|
125
+ | available | 本发布是否提供该组件;缺省也表示未提供 |
126
+ | schema_id | 已登记的具体存储与语义类型,不得临时创造未登记名称 |
127
+ | data_ref | 数据文件路径,相对当前相机视图根目录,使用 POSIX 路径 |
128
+ | axes | 数组各维度的含义 |
129
+ | valid_ref / valid_axes | 有效性文件及其维度;语义由所属组件规定 |
130
+ | storage / valid_storage | 视频数据/视频有效性的存储配置;包含已登记 profile、实际 codec、pixel_format、encoded_size,见 3.1;非视频组件按原数组规则 |
131
+ | provenance | source / format_conversion / derived,以及转换或生成方法 |
132
+ | source_locator | 原文件、压缩包成员和记录/帧的定位信息 |
133
+
134
+ 不存在的组件允许缺省或写作 `{ "available": false, "reason": "..." }`,不用引用不存在的文件。静态网格可声明标量有效性;具体见 5.4。观测的 valid 见第 3 节,标注的 valid 与 visibility 区分见 5.1。
135
+
136
+ `provenance.kind` 使用 source/format_conversion/derived,`method` 说明转换或生成方法;发布清单补充脚本版本、参数、输入摘要。`source_locator` 定位到原始文件/压缩包成员和记录、帧号;允许引用有完整溯源清单的前一发布,但链条最终应能回到 raw。不得仅写一个无法定位记录的数据集名字。
137
+
138
+ `.pt` 仅保存 CPU Tensor,不保存 Python 自定义对象;浮点默认 float32,有效性为 bool,浮点无效位置填 NaN。所有随帧数组保留首维 T,单帧也不 squeeze;静态资产按其 schema 单独声明。单位、坐标及固定形状见各组件小节。
139
+
140
+ 机器注册表 `schema.json` 中,`components` 固定解码后的数据类型、形状、单位和语义;`storage_profiles` 固定视频内的编码/还原方式。不得临时创造未登记的 schema_id 或 storage.profile。同一语义允许选择其登记的不同无损存储 profile。
141
+
142
+ ## 3. observation 观测数据
143
+
144
+ ### 3.1 rgb.mkv 与 rgb_valid.pt
145
+
146
+ RGB、深度和栅格 mask 在 shared 中统一使用 MKV 视频容器,不展开为逐帧图片或图像 tar。MANO、关键点、位姿等数值标注仍用数组;分割的重叠多边形仍用 JSONL,不为了视频化而有损栅格化。单图可为一帧视频,独立图批量封装规则见 2.2。
147
+
148
+ **无损指共享层不增加信息损失。** 源 JPEG/H.264 等本身可能已是有损编码,原样保留并不恢复已丢失信息;不得重新以有损 JPEG、H.264、H.265、AV1 参数编码。源视频/图片的色彩、位深、分辨率和几何关系不得被静默改变。RGB schema `rgb/uint8/v1` 的统一读取结果是 `[T,H,W,3] uint8`、RGB 通道,有效性仍为 `rgb_valid.pt [T] bool`。超出该 schema 的高位深或 HDR 源必须报告并扩展定义,不能降到 8 位冒充无损。
149
+
150
+ #### 3.1.1 允许的 RGB 存储 profile
151
+
152
+ | storage.profile | 编码方式 | 适用规则 |
153
+ |---|---|---|
154
+ | mkv/mjpeg_copy/v1 | 源 JPEG 压缩帧直接封装成 MJPEG/MKV | 不解码重编码;保持每张 JPEG 码流字节;普通 8 位 JPEG 且 MKV/解码器支持时使用 |
155
+ | mkv/source_copy/v1 | 已有视频的 RGB 对应码流直接封装为 MKV | 仅源编码能被 MKV 和选定解码器支持时使用,不伪造帧;需维持正确的呈现顺序与依赖帧 |
156
+ | mkv/h264_rgb_lossless/v1 | libx264rgb 的真正无损模式 | 必须 RGB 路径、CRF=0,并通过全帧 RGB 字节比较;不能替换成默认 libx264 YUV420 路径 |
157
+ | mkv/ffv1_rgb/v1 | FFV1 的 RGB 可逆编码路径 | 作为通用候选;解码回 RGB 后必须逐字节相同,不做色度降采样 |
158
+
159
+ 优先尝试源码流直接封装;不能封装或需要选择稀疏帧时,比较 FFV1 与无损 RGB H.264。对完整待发布片段,只在通过无损验收的候选中选择文件较小者,不假设某个编码器总最小;编码时间和随机读取代价记入构建记录。中间候选不作为 shared 多份常驻。H.264 跨帧压缩允许较长 GOP,必须记录 GOP/关键帧间隔,随机取帧需从前一关键帧正确解码,不能把 seek 返回的近似帧当目标帧。
160
+
161
+ 普通源视频可以保留它已有的有损码流,但不允许新增有损重编码。源是 VRS 等记录容器时,先查明图像流实际编码:已有兼容 JPEG/视频包可直接提取封装,否则解码后使用真正无损编码;不把整个 VRS 改后缀当 MKV。PNG 不要求直接塞进 MKV,可选上表两种无损重编码方式。
162
+
163
+ #### 3.1.2 视频配置与校验
164
+
165
+ 每个视频组件在 metainfo 中登记 `storage`,至少包含:
166
+
167
+ | 字段 | 内容 |
168
+ |---|---|
169
+ | profile | 上述登记的存储 profile;语义仍由组件 schema_id 指定 |
170
+ | codec | 文件中实际 codec,例如 mjpeg、h264、ffv1;source_copy 必须写实际 codec |
171
+ | pixel_format | 实际编码像素格式;不得仅凭编码器参数猜测 |
172
+ | encoded_size | 视频物理像素尺寸 `[width,height]`;深度可能不同于逻辑尺寸,见 3.2 |
173
+ | decoder | 解码器名称、版本,以及颜色矩阵/范围/旋转处理等实际像素解释配置;未知的源色彩声明 unknown,不擅自称为 sRGB |
174
+ | encoder_parameters | 重编码时的编码器、版本、无损模式和 GOP 等参数;直接封装时记录 stream_copy |
175
+ | source_lossy | 源是否已有损:true / false / unknown;不是共享层再有损编码的许可 |
176
+
177
+ 无损重新编码的 RGB 必须使用同一固定解码配置,比较**全部帧**的统一 RGB 字节、数量及顺序。MJPEG-copy 不重新编码,生产校验采用 `jpeg-packets-all-rgb-sample16/v1`:从 MKV 逐包取回,对全部源 JPEG 的 SHA256、数量、顺序和图像尺寸进行精确核对;每视图另用同一固定解码配置比较最多 16 帧的源与目标 RGB 字节(含首尾与四分位位置,其余由固定种子抽取)。记录策略、实际索引、种子与结果;不足 16 帧时全查。试点与最终完整序列随机抽查,对选中视图的全部帧复核解码 RGB。历史已做全帧像素检查的证明继续保留。
178
+
179
+ 逐包一致与像素抽查的范围必须分别声明,不能将抽查写成全量像素检查。不能用 PSNR 高、视觉相似、编码器参数称为 lossless 等替代精确检查。同时保留源编码的色彩标记和必要元数据;原图有 EXIF/色彩/方向等元数据时保留 raw 和必要来源信息;不能静默自动旋转图像而不更新像素对应与标定。以上加速策略仅适用于原 JPEG 码流直接封装,不适用于深度、标签或重新编码的 RGB。
180
+
181
+ 所有共享视频的呈现帧顺序与统一 frame_index 一一对应,每个栅格组件恰好 T 帧。MKV 的 `storage_fps` 只服务封装,声明 `timebase_role=index_only`;source_copy 可以保留源 PTS 以避免改坏码流,但真实时间与标注对齐仍以 frames 为准。未知真实时间保留 null。缺失某帧组件时保留索引位置并使用该组件的无效占位/valid 标识,不删帧;不能以重复相邻图像冒充已知观测。
182
+
183
+ ### 3.2 depth.mkv 与 depth_valid.mkv
184
+
185
+ 深度语义仍是 `depth/z_float32/v1`:统一读取结果 `[T,H,W] float32`,米制相机 Z 分量,`depth_type=z`。有效深度有限且大于 0,无效位置为 NaN。`depth_origin=measured/rendered/unknown` 必填,来源不明时 unknown。默认与 RGB 共用像素网格及相机参考系,不处理未注册 RGB-D。射线距离必须依据源定义转换成 z,不能只改声明。
186
+
187
+ #### 3.2.1 float32 的可逆视频编码
188
+
189
+ 采用 `mkv/depth_float32_bits/v1`:**不是把深度量化成 uint16**,而是��规范化后每个 IEEE-754 float32 的完整 32 位拆成两个 uint16,使用 FFV1 gray16le 保存。视频物理尺寸为 `[2W,H]`:每行前 W 列存原 float32 位串的低 16 位,后 W 列存高 16 位。读取时先合并为 uint32 位串,再按 float32 重新解释,不能数值 cast 成 float32。
190
+
191
+ ```text
192
+ u = reinterpret_uint32(depth_float32)
193
+ encoded[:, :, :W] = uint16(u & 65535)
194
+ encoded[:, :, W:] = uint16(u >> 16)
195
+ u_restored = uint32(low) | (uint32(high) << 16)
196
+ depth_float32 = reinterpret_float32(u_restored)
197
+ ```
198
+
199
+ 统一采用 little-endian 原始字节接口。`camera.image_size` 始终是逻辑 RGB 尺寸 `[W,H]`,不能改成编码视频的 2W;`storage.encoded_size=[2W,H]`。包括 NaN 在内的 float32 位串必须全帧完全恢复,不允许改成 float16、整数毫米、归一化灰度或 RGB 伪彩色。这里的无损验收基准是完成既定米制/坐标转换后的标准 float32 数组,不声称消除 float64→float32 等原约定转换本身的舍入。
200
+
201
+ #### 3.2.2 逐像素有效性
202
+
203
+ `depth_valid.mkv` 使用 `mkv/bool_ffv1/v1`,FFV1 gray8(FFmpeg pixel_format=`gray`),物理尺寸 `[W,H]`。像素只能为 0 或 1,统一解码为 `[T,H,W] bool`,逐像素含义不变。这样不再把庞大的 bool 数组保存为未压缩 `.pt`;标注的帧级/手级 valid 仍保留原有小数组。
204
+
205
+ 登记示例(W、H 以下取 640、480;decoder/encoder_parameters 的实际版本由转换器填写):
206
+
207
+ ```json
208
+ {
209
+ "available": true,
210
+ "schema_id": "depth/z_float32/v1",
211
+ "data_ref": "observation/depth.mkv",
212
+ "axes": ["T", "height", "width"],
213
+ "valid_ref": "observation/depth_valid.mkv",
214
+ "valid_axes": ["T", "height", "width"],
215
+ "unit": "m",
216
+ "depth_type": "z",
217
+ "depth_origin": "measured",
218
+ "invalid_value": "NaN",
219
+ "storage": {
220
+ "profile": "mkv/depth_float32_bits/v1",
221
+ "codec": "ffv1",
222
+ "pixel_format": "gray16le",
223
+ "encoded_size": [1280, 480],
224
+ "source_lossy": false,
225
+ "decoder": {"name": "ffmpeg", "version": "填写实际版本"},
226
+ "encoder_parameters": {"name": "ffv1", "level": 3, "version": "填写实际版本"}
227
+ },
228
+ "valid_storage": {
229
+ "profile": "mkv/bool_ffv1/v1",
230
+ "codec": "ffv1",
231
+ "pixel_format": "gray",
232
+ "encoded_size": [640, 480],
233
+ "source_lossy": false,
234
+ "decoder": {"name": "ffmpeg", "version": "填写实际版本"},
235
+ "encoder_parameters": {"name": "ffv1", "version": "填写实际版本"}
236
+ },
237
+ "provenance": {"kind": "format_conversion", "method": "源深度转米制 z float32;逐位打包为 FFV1"},
238
+ "source_locator": {"file": "raw/data/depth.zip", "member": "depth/0001.png"}
239
+ }
240
+ ```
241
+
242
+ 深度和有效性视频都必须逐帧解码验收:float32 位串相同、bool 相同、T 相同,并检查 valid=true 的正有限值和 valid=false 的 NaN。读取器必须按 profile 还原,不能把 depth.mkv 的编码像素直接当深度值。
243
+
244
+ ## 4. camera 相机、帧索引与标定
245
+
246
+ ### 4.1 frames.jsonl:索引、时间与对应关系
247
+
248
+ `camera/frames.jsonl` 每行对应统一帧号 `frame_index=0..T-1`,是所有组件的唯一行索引。至少包含 `frame_index`、`timestamp_ns`、`clock_domain`、`source_locator`;原始帧号/文件名保存在 `source_frame_id`,不能被新帧号替代。每行还可有 `annotation_matches`,按组件键保存 `source_frame_id`、`source_timestamp_ns`、`clock_domain`、`match_method` 和 `delta_ns`;方法为 exact/index_map/nearest/interpolated,索引映射无时间依据时 delta_ns=null。nearest 必须记录允许误差;interpolated 必须记录两端源标识和权重。delta_ns 仅在同一时间域中计算为源标注时间减图像时间。多相机共享 `sequence_id`;已知同步关系必须用 `sync_id` 或明确的源帧/时间映射表达,不能仅凭相同数组索引认定同步。
249
+
250
+ 每个视图必须提供此文件。源时间使用整数纳秒及 `clock_domain`,未知写 JSON `null`;不同时间域不能直接比较。逐帧 split 可以覆盖 metainfo 的视图默认划分,并保留来源,见 2.4。
251
+
252
+ ### 4.2 坐标系与标定通则
253
+
254
+ | 项目 | 统一约定 |
255
+ |---|---|
256
+ | 相机坐标 | 右手系,X 向右、Y 向下、Z 向前,长度单位米 |
257
+ | 齐次变换 | 列向量,`p_target = T_target_from_source @ p_source` |
258
+ | 图像坐标 | `(u,v)`;左上像素中心为 `(0,0)`,u 向右、v 向下,单位 pixel |
259
+ | 固定标定 | 本版展开为 T 份,同一 schema 不混用静态与动态形状 |
260
+ | 分辨率或模型变化 | 分开存储为视图/片段,不在同一组件中混装 |
261
+ | 未知标定 | 相机内外参允许缺省,不填单位阵冒充已知标定 |
262
+
263
+ ### 4.3 intrinsic.pt 与畸变参数
264
+
265
+ | model / schema_id | intrinsic.pt 的固定结构 |
266
+ |---|---|
267
+ | pinhole / camera/pinhole/v1 | `[T,3,3]`,标准 K,最后一行为 `[0,0,1]`;限无畸变或已校正图像 |
268
+ | fisheye624 / camera/fisheye624/v1 | `[T,15]`,`[f,cx,cy,k0,k1,k2,k3,k4,k5,p0,p1,s0,s1,s2,s3]`��采用 Project Aria Fisheye624 投影定义 |
269
+ | opencv_fisheye4 / camera/opencv_fisheye4/v1 | `intrinsic.pt [T,3,3]` 保存 K;同组件 `distortion_ref` 指向 `[T,4]`,顺序 `[k1,k2,k3,k4]`,使用 OpenCV fisheye 等距角度多项式;已由 ReInterHand 实际原始相机参数验证 |
270
+ | rational8 / camera/rational8/v1 | `intrinsic.pt [T,3,3]` 保存 K;同组件必需 `distortion_ref` 指向 `[T,8]`,顺序 `[k1,k2,p1,p2,k3,k4,k5,k6]` |
271
+ | unknown / null | 不提供可用 intrinsic,不声称可以投影 |
272
+
273
+ 有畸变的其他模型必须注册新 schema,固定参数名、顺序和投影公式;不能塞进针孔 K 后遗失畸变项。`metainfo.camera.schema_id` 必须与 intrinsic 组件一致。同一模型的别名不可隐式改变参数布局。
274
+
275
+ `opencv_fisheye4`:对前方点令 `x=X/Z, y=Y/Z, r=sqrt(x²+y²), theta=atan(r)`,`theta_d=theta*(1+k1*theta²+k2*theta⁴+k3*theta⁶+k4*theta⁸)`;`u=fx*x*theta_d/r+cx, v=fy*y*theta_d/r+cy`。光轴 r=0 时使用连续极限 `theta_d/r=1`。四系数不能按普通径向畸变解释,也不能补零冒充 Fisheye624。
276
+
277
+ rational8 对归一化坐标 x=X/Z、y=Y/Z,令 r²=x²+y²,径向项为 `(1+k1*r²+k2*r⁴+k3*r⁶)/(1+k4*r²+k5*r⁴+k6*r⁶)`;再加 p1/p2 切向项并经 K 得到像素。`distortion_ref` 与 intrinsic 共用 `[T]` valid,保存到 camera/distortion.pt。不得把这种畸变三维坐标当作真实相机系 xyz 保存。
278
+
279
+ 内参有效性为 `intrinsic_valid.pt [T] bool`;有畸变时使用对应 `distortion_ref`。同一模型的参数名和顺序固定。
280
+
281
+ ### 4.4 extrinsic.pt 与 extrinsic_valid.pt
282
+
283
+ `extrinsic.pt` 为 `[T,4,4]`,schema `transform/se3/v1`,方向固定 `T_camera_from_world`,有效性 `[T]`。世界坐标含义及源坐标转换记录在 provenance 中;只有相机坐标标注不要求虚构世界坐标。旋转块须正交且 determinant≈1。
284
+
285
+ ## 5. annotation 标注数据
286
+
287
+ ### 5.1 标注通则:手槽、valid 与 visibility
288
+
289
+ 手槽固定为 0=left、1=right,指解剖学左右,不按画面位置或可见性重排。本阶段只处理左右手两槽,不处理更多手。实体引用使用 `hand_left`、`hand_right`;手槽不证明跨采集片段的个人身份。
290
+
291
+ #### 5.1.1 valid:标注是否可用于监督
292
+
293
+ 标注的 `valid=true` 表示:有对应实际标注、通过本 schema 数值检查,且通过来源明确提供并适用于该组件的有效性/QA 条件。`valid=false` 可由缺标注、无法建立帧对应、源无效占位或官方 QA 不通过导致;不等于画面没有手或手不可见。各组件独立判断,MANO 按 `[T,2]` 标记左右手,关键点按 `[T,2,K]` 标记。
294
+
295
+ **2026-09-20 将标注 valid 从“仅表示存在”修订为“可用于监督”,字段形状不变。** 公式为 `source_annotation_present AND numerical_checks_pass AND applicable_official_QA_pass`。没有官方 QA 时省略最后一项,不伪造 QA;不能把未知当成已通过已存在的 QA。适配器在组件 `valid_policy` 中记录具体规则、来源、聚合/广播作用域。缺失官方必需 QA 的记录须明确处理为未知或暂停验收,不能静默通过。无效浮点项仍填 NaN,原始数据保留在 raw;被排除原值可用于 doc 中明确标识的诊断渲染,不能冒充 shared 有效监督。
296
+
297
+ 本地筛选须依据明确的规则,并在 `valid_policy.local_excluded_frame_indices`、排除原因和正式报告中记录。单个可疑投影作为问题记录,不直接硬编码排除该帧。已确认的曝光异常须明确作用范围,不能把一个序列的“前两帧有问题”套到所有序列。RGB 编码完好与几何监督可用是两件事,允许保留原图及帧索引而屏蔽对应标注;未发现问题不等于完成全部人工审核,试点待确认时不能作为已验收发布使用。
298
+
299
+ 源字段必须按官方语义映射,不能直接按名字复制:
300
+
301
+ | 来源 | 官方含义 | 映射原则 |
302
+ |---|---|---|
303
+ | [H2O](https://github.com/taeinkwon/h2odataset) 的手标注首位 | 0 未标注、1 已标注 | 可作为对应手标注存在性的依据,不推断未标注原因 |
304
+ | [HOT3D](https://github.com/facebookresearch/hot3d#using-mask-files) 的 pose_available、visible、mask_qa_pass | 分别表达姿态存在、可见性、对画面中可见手物位姿的人工 QA | 逐手/物体记录决定存在性,再 AND 当前相机当前帧 QA;QA 是整帧聚合判定,保守排除该帧全部手物几何监督,不声称每个实体均有错误;源可见性基于位姿推导时,其自身 valid 同样受 QA 约束 |
305
+ | [Dex-YCB](https://github.com/NVlabs/dex-ycb-toolkit#loading-dataset-and-visualizing-samples) 的全零 pose_m、全 -1 joints | 不可见的手或缺标注共用占位表示 | 对应组件 valid=false;不能从该值判定 visibility=false,也不能声称原因是动捕缺失 |
306
+ | [ARCTIC](https://github.com/zc-alexfan/arctic/blob/master/docs/data/data_doc.md) 的 is_valid/left_valid/right_valid | 是否有效用于官方评�� | 核实每项筛选依据;不把可见性/评估选择直接等同 QA。本次原始 mano.npy 不含这些派生评估标记,按原记录与数值检查生成 valid,并声明没有额外官方 QA 输入 |
307
+
308
+ 源 valid=false 若代表评估筛选或其他条件,应检查实际标注和源约定后映射;不能一律清空坐标。反之,占位零或 -1 只有在源官方明确规定时才判为缺失,不泛化成所有数据的判断规则。
309
+
310
+ `valid=true` 的标注应通过其 schema 的数值与形状检查;检查失败必须报告或修复,不能静默隐藏。QA 不通过应报告排除数量与原因,并保留可追溯信息;不能把这类无效称为缺标注。RGB、深度等观测有效性仍按各自 schema;手物 QA 不自动否定 RGB、静态相机内参或物体资产。相机外参是否过滤须依据其自身来源规则;HOT3D 本次保留源外参用于溯源和诊断,不能用其存在性证明 QA 失败帧的几何监督正确。
311
+
312
+ #### 5.1.2 visibility:可见性属性
313
+
314
+ 附加质量属性只保留 `visibility`,存放在对应模态或标注集内,不设 quality 目录。同一份可见性仅存一次;uv 与 xyz 共用时引用同一个文件。
315
+
316
+ visibility 通过所属组件 attributes 登记 data_ref、axes、dtype、visibility_type、meaning、provenance、source_locator;未知值通过属性 valid_ref 标识,全已知可声明 valid=true。比例与布尔值不相互强转,也不按任意阈值二值化。没有 MANO 时,整手可见性挂在 keypoints 组件,使用独立的 whole_hand_visibility.pt,明确 meaning=whole_hand,不与逐关键点可见性混用。
317
+
318
+ `valid` 回答“这项标注能否用于监督”,`visibility` 回答“在当前图像中是否可见(或可见多少)”。不可见的手或关键点仍可有有效标注;不能因 visibility=0 就清空坐标。源没有 visibility 时缺省或标为未知,不由 valid 推断。
319
+
320
+ | 情况 | 手标注 valid | visibility |
321
+ |---|---|---|
322
+ | RGB 已开始录制,动捕尚未开始,没有其他对应手标注 | false | 以独立源可见性标注为准;没有则未知 |
323
+ | 手被遮挡,但源有标注且通过适用有效性检查 | true | 若源声明不可见,则 false 或源可见比例 |
324
+ | 手可见且有对应标注,通过适用 QA | true | 若源有此信息,则 true 或源可见比例 |
325
+ | 手可见,但该帧漏标或动捕中断 | false | 可以为 true,但必须有独立来源依据 |
326
+ | 有手部参数,但官方 QA 明确不通过 | false | 不据此断言不可见;源可见比例若基于不可靠位姿,其属性 valid 也为 false |
327
+
328
+ visibility 自己的 valid_ref 表示该可见性标注是否可用,不复用 MANO 或关键点坐标的 valid_ref;明确记录源存在性及适用的 QA 条件。上述例子不要求凭图像自动生成可见性。
329
+
330
+ 不设 quality 组件或目录,不另存拟合误差、曝光、截断比例等通用质量数组。适用的官方 QA 合并进对应 valid,在 `valid_policy` 记录来源与规则;正式校验报告保留原始 QA 时间区间及排除统计。原始 QA 文件仍在 raw,官方 split 保留。
331
+
332
+ ### 5.2 mano:参数与整手可见性
333
+
334
+ MANO schema `mano/axis_angle61/v1`:`motion.pt [T,2,61]`,顺序为完整 16 关节 axis-angle 48、shape betas 10、全局平移 3。姿态使用弧度,平移米,位于当前相机系。有效性 `[T,2]`;缺少一侧整槽 NaN。PCA 必须先按对应模型展开,不能将 PCA 系数直接填入 axis-angle。
335
+
336
+ `model_profile` 必须固定 MANO 版本、`flat_hand_mean=true`、左手 shapedirs 修正状态。平移表示模型输出顶点所加的全局平移,不是某个腕关节的坐标;源语义不同须转换。shape 无量纲。模型权重不作为共享数据附带上传。
337
+
338
+ `mano/visibility.pt [T,2]` 保存源整手可见比例时使用 float32 [0,1],`visibility_type=ratio`;只有实际采用 0–100 的百分比才除以100,不能只凭表头判断。HOT3D 的 `visibility_ratio[%]` 实值已经是0–1,官方读取器原样读取,必须保留原值。通过 MANO 组件 attributes 登记,使用独立有效性,不复用 motion_valid。
339
+
340
+ 手部共享表示仅保留 MANO 参数与选定关键点,不发布独立手表面几何。需要渲染或接触计算时由 MANO 参数生成,几何引用使用固定 MANO 模型配置与顶点顺序;不影响 object 下的物体模型和材质资产。
341
+
342
+ ### 5.3 keypoints:二维点、三维点与逐点可见性
343
+
344
+ 关键点独立于 MANO 参数存在;没有 motion 也可有关键点。`uv.pt [T,2,K,2]` 与 `xyz.pt [T,2,K,3]`,有效性 `[T,2,K]`,分别采用 `keypoints/uv/v1` 和 `keypoints/xyz/v1`。K 由 `keypoint_schema` 固定,不能在同一数组中逐帧变化;同体系统一顺序。数值使用像素坐标或米制相机系。
345
+
346
+ | keypoint_schema | K 与固定索引 |
347
+ |---|---|
348
+ | mano21/v1 | 21;wrist 后依次 thumb/index/middle/ring/little,每指由近端至指尖 |
349
+ | rhd21/v1 | 21;保持 wrist���然后五指由近端至指尖;原始每指 tip→palm 反序。只统一顺序,不宣称解剖学位置等价于 MANO |
350
+
351
+ 具体名称与源索引映射见 `schema.json`。当前只登记 MANO21 与 RHD21;不登记 MediaPipe、ReInterHand capture21 或 fit24 中间关键点。
352
+
353
+ 每个发布中的每个视图只提供一套标准手关键点,直接放在 keypoints 下,不设 annotation_set_id 字段或目录。uv 与 xyz 是这套关键点的二维与三维表示,不是两套标注。provenance 分别记录二者来自原始标注还是计算结果;不要求已有 2D 必须由当前 xyz 重新投影覆盖。
354
+
355
+ ReInterHand 的 Original keypoints、Original fits keypoints 及带前臂关键点不纳入 shared;如需手关键点,从选定 MANO 参数生成 MANO21 并记录模型/指尖回归约定。其他数据集默认使用选定的官方关键点,不额外生成平行的 MANO 派生集合。后续主动更换生成方法或结果时发布新的 dataset_version,不在同一版本内增设方法分支。
356
+
357
+ manual/projection/fitting 只记录在 provenance,不作为目录或类型分支。不得通过坐标为零、是否出画或 visibility 判断标注是否存在。派生标注仅在实际生成并通过数值检查后声明 valid=true;没有生成的项为 false,不伪造坐标。
358
+
359
+ `keypoints/visibility.pt [T,2,K]` 保存源逐点可见性,布尔表示使用 `visibility_type=boolean`。uv 与 xyz 共用时引用同一份文件。整手比例属性没有 MANO 可挂载时使用 `whole_hand_visibility.pt [T,2]`,`meaning=whole_hand`;它与逐点可见性分开,通用登记规则见 5.1。
360
+
361
+ 不使用 annotation_set_id;ReInterHand 中间关键点集合不进入 shared,raw 保留来源文件。
362
+
363
+ ### 5.4 object:身份、资产、位姿与几何
364
+
365
+ #### 5.4.1 metainfo.json:物体身份与跟踪作用域
366
+
367
+ 手用 `hand_left`、`hand_right` 及槽位 0、1 表示,不再另存 entities.json。物体身份登记在 `annotation/object/<object_id>/metainfo.json`,必填 `object_id`、`identity_scope`、`scope_id`、`source_locator`;可含 `category_id`、`source_object_id`、`mesh_ref`、`has_model`、部件引用。即使只有分割、没有 pose/mesh,也可只有这份物体元信息。
368
+
369
+ `identity_scope` 为 frame/subsequence/sequence,`scope_id` 指定具体作用域;跨相机共享身份只在已有源对应证据时使用。VISOR 按官方 subsequence 与实体名关联时记录 `association_basis=official_subsequence_entity_name`,不能声称这是全视频物理实例跟踪。无需与 object_id 一一对应的标准 track_id;官方独立轨迹标识存在时保留为 source_track_id,并声明作用域。手槽不证明跨采集片段的个人身份。
370
+
371
+ #### 5.4.2 assets:网格、材质与纹理
372
+
373
+ 资产属于物体,统一存放在 `annotation/object/<object_id>/` 内,可用 `assets/` 子目录组织网格、材质、纹理和部件资产。序列层不设共享 assets。所有引用采用视图根目录为基准;其中物体资产组件的 `data_ref` 与部件的 `mesh_ref` 采用相对于当前视图目录的 POSIX 路径,例如 `annotation/object/cup_01/assets/cup.obj`,且必须指向所属物体目录内的资产。OBJ 内部的材质、纹理引用遵循文件格式自身的相对路径规则,依赖文件一并保留。不同相机视图允许各自保存物体资产,不要求跨视图去重;下载物体时包含其资产依赖。
374
+
375
+ 网格 schema 为 `mesh/obj/v1`,顶点米制,静态有效性可直接声明标量 `valid`,或通过 `valid_ref` 指向标量 bool Tensor;不按 T 重复静态资产。由物体/部件通过引用关联,不仅凭文件名猜测。
376
+
377
+ #### 5.4.3 pose.pt、pose_valid.pt 与 visibility.pt
378
+
379
+ 刚体 schema 为 `object/rigid/v1`,`pose.pt [T,4,4]` 固定为 `T_camera_from_object`,平移米制,有效性 `[T]`。物体坐标原点、轴向必须与 mesh 一致;旋转块为正交矩阵且 determinant≈1。
380
+
381
+ `object/<id>/visibility.pt [T]` 保存源物体可见比例,float32 [0,1],`visibility_type=ratio`。通过所属物体组件 attributes 登记,独立表达其有效性。
382
+
383
+ #### 5.4.4 articulation.json、部件位姿与 joint_state.pt
384
+
385
+ 关节物体:schema `object/articulated/v1`,`articulation.json` 登记 `parts` 与 `joints`。每个 part 有 `part_id`、`parent_id`(根为 null)、`has_model`、`mesh_ref`;has_model=false 时 mesh_ref=null,结构节点允许没有网格。父链不得成环。每个 joint 有唯一 `joint_id`、`parent_part`、`child_part`、`type`;fixed 单位 null、revolute 弧度、prismatic 米。有源限位时保存 `limits:[lower,upper]`;没有时 null,不伪造上下限。部件姿态统一为 `T_camera_from_part [T,4,4]`,不与父局部变换混装。
386
+
387
+ 若提供 `joint_state.pt [T,J]`,必须登记固定 joint_order、轴在父部件系的表达、零位变换与正方向,valid 为 `[T,J]`;缺少这些运动学定义时只发布部件位姿与已有来源信息,不伪造可驱动的关节模型。关节值与部件位姿同时存在时需验证一致性。
388
+
389
+ 部件层级应声明语义:纯语义包含树允许 `joints=[]`,不将包含关系推断为机械关节。关节状态 schema 为 `object/joint_state/v1`;转动用弧度、移动用米,混合类型按 joint_order 对应的关节定义解释。
390
+
391
+ #### 5.4.5 dimensions、几何关键点与顶点部件标签
392
+
393
+ `dimensions.pt [T,3]` 采用 `object/dimensions/v1`,有效性为 `[T]`。
394
+
395
+ 物体/部件 `dimensions` 为 `[length,width,height]` 米,轴顺序与该 mesh 的局部坐标关联,登记 `dimensions_semantics` 和来源。HOI4D dimensions 与 mesh 的具体尺度关系未验证前标为 source_unspecified,保留源值并暂停依赖该关系的几何验收,不能默认为待施加缩放。需要施加缩放时明确 scale_applied_to_mesh,禁止重复应用。
396
+
397
+ 源物体关键点放 `object/<id>/keypoints/xyz.pt [T,K,3]`(相机系)或 `template_xyz.pt [K,3]`(物体系),schema 分别为 object_keypoints/camera/v1 和 object_keypoints/template/v1。明确 keypoint_schema、keypoint_names、单位及有效性;模板点配合 pose 可投影,无须重复生成全部帧。H2O 中心/角点/棱中点,以及 ARCTIC 部件点分别登记具体源顺序,不套用手的 21 点 schema。每个发布选择一套源几何点并记录选择,不另建方法分支。
398
+
399
+ `vertex_part_ids.pt [V] int64` 绑定 `mesh_ref` 与 topology_id,登记整数到 part_id 的映射;未知用 -1。ARCTIC 不同拓扑的资产分别绑定,不能共用未经转换的顶点标签。部件层级中 is_instance/has_model 等源属性保留,几何文件仍全部归 object。
400
+
401
+ ### 5.5 segment:分割类别、编码与覆盖范围
402
+
403
+ 每个发布选择一套任务使用的分割表示,不建立方法/标注集分支。没有分割就不创建 segment 目录,不为其他模态创建空的实体表。
404
+
405
+ | schema_id | 文件与数值语义 |
406
+ |---|---|
407
+ | segment/uint16_labels/v1 | mask.mkv;整数区域编号,通过 instances.jsonl 解释 |
408
+ | segment/instance_polygons/v1 | polygons.jsonl;实例多边形,可重叠;当前不支持孔洞拓扑 |
409
+ | segment/foreground_intensity/v1 | mask.mkv;0–255 前景强度,不是区域编号或经过校准的概率 |
410
+
411
+ #### 5.5.1 uint16 标签图与 instances.jsonl
412
+
413
+ 组件声明 `segmentation_type=semantic/instance/part`;同一组件固定一种类型。`mask.mkv` 解码为 `[T,H,W] uint16`,schema `segment/uint16_labels/v1`,使用 `mkv/uint16_ffv1/v1`,FFV1 gray16le 无损;只有所有区域编码均 ≤255 时允许 gray8(pixel_format=gray),读取后转 uint16,数值不变。禁止调色板和有损编码。有效性 `[T]`,表示该帧有可用分割标注。数值 0 固定为 unassigned,65535 固定为 ignore,1–65534 为区域编码,不能直接等同 entity_id。
414
+
415
+ `instances.jsonl` 每帧一行,包含 `frame_index` 与 `labels`。每条标签包含 `mask_value`、`category_id`、`entity_id`、`part_id`;无意义或未知字段为 null。semantic 允许 entity_id=null;instance 必须引用 hand_left/hand_right 或登记的 object_id;part 还须关联登记部件。源实例 ID 和其他属性分别保存在 `source_instance_id`、`source_attributes`。mask 中每个非保留编码必须有且仅有一个映射。
416
+
417
+ FreiHAND 的试点按本任务需要,统一到手/背景类别,保留每个原生区域编码;不要求给原生细分区域猜测手指名称。需要细部件监督时,尚未核实的部件名称必须保持未知,不能因粗粒度手类别已核实便声称部件语义也已统一。
418
+
419
+ #### 5.5.2 重叠实例多边形
420
+
421
+ 每发布选择一套任务使用的分割表示,不建立方法/标注集分支。VISOR 的实际试点存在重叠实例多边形,单层标签图不能无损表达。对此补充 `segment/instance_polygons/v1`:`segment/polygons.jsonl` 每帧包含 `frame_index` 和 `instances`,每实例包含 `mask_value` 与 `polygons`(列表,每个多边形为源图像像素坐标顶点序列,保留原始精度)。身份和类别仍由同一 `instances.jsonl` 映射,有效性仍为 `[T]`,通过 schema 区分物理编码。允许多实例重叠,不采用后画覆盖前画。消费者按需栅格化为独立实例二值 mask;不能声称合并的单层 mask 无损。
422
+
423
+ #### 5.5.3 灰度前景强度
424
+
425
+ ReInterHand 的官方渲染 mask 为双手合并的灰度前景掩码,实测存在 0–255 的中间值,不是左右手实例编号。登记 `segment/foreground_intensity/v1`:仍存 `segment/mask.mkv`,解码为 `[T,H,W] uint16`,使用 `mkv/uint16_ffv1/v1`,此类数据优先编码为 FFV1 gray8(pixel_format=gray),读取后转 uint16。有效值范围 0–255,归一化值为 `float32(value)/255`;0 为背景端点、255 为前景端点。组件声明 `foreground_category=hand`、`entity_id=null` 和双手合并语义,不使用区域编号映射。这里保留原始渲染 mask 强度,不把它称为经过校准的概率。若任务需要二值 mask,阈值化属于任务层派生操作,记录阈值;共享层不丢弃中间灰度。不同 schema 的数值含义不同,不能将该文件按整数类别图解码。
426
+
427
+ FreiHAND 训练集的 JPEG mask 使用 `segment/foreground_intensity/v1`,逐像素保留 JPEG 解码后的灰度,`entity_id=hand_right`。该 schema 不限定双手合并:单手或合并范围由 `entity_id` 与 `coverage` 明确声明。评估集整数区域图仍用 `segment/uint16_labels/v1`,两者不能仅凭文件名使用同一种解码语义。
428
+
429
+ #### 5.5.4 coverage 与有效性
430
+
431
+ `coverage.kind=full/selected_entities/partial/unknown`。full 指声明的标注范围完整;selected_entities 还应列出目标范围。无论哪种,0 本身不自动成为背景;背景要有明确类别映射,未标注区域不能用于构造负样本。保留源逐类/逐实例 exhaustive 信息,未知不可改写为完整。
432
+
433
+ 三种表示的帧级有效性均为 `[T]`,表示该帧是否提供此分割标注;对应 valid_ref 在组件中登记,仍用小型 bool `.pt` 数组。栅格 mask 必须登记 storage,格式见 3.1.2,所有帧的整数编码或强度逐值完全相同。编码语义由 schema_id 决定,读取器不能仅依据 mask.mkv 文件名选择解码方式。
434
+
435
+ ### 5.6 contact:接触、抓取、区域与距离
436
+
437
+ #### 5.6.1 relations.jsonl 与 relations_valid.pt
438
+
439
+ `annotation/contact/relations.jsonl`,schema contact/relations/v1,每帧一行含 frame_index、relations。每条记录含 relation_type(contact/grasp)、subject_id(手槽或登记实体)、object_id、status、source_locator、provenance。status 固定为 positive/negative/unknown/target_unannotated:positive 必须有可解析目标,negative 表示源明确否定该关系,unknown 为不确定,target_unannotated 为确有接触但目标未标注。非 positive 的 object_id 可 null,不能用 null 冒充“不接触”。稀疏源无记录的帧不自动补 negative。
440
+
441
+ VISOR 的对象 mask ID 必须先按同帧 source_instance_id 解析成 object_id;hand-not-in-contact、none-of-the-above、inconclusive 分别映射 negative、target_unannotated、unknown,保留原始字符串。Dex ycb_grasp_ind 通过 ycb_ids 映射到登记物体,以 relation_type=grasp 保存;不得当作逐顶点接触。
442
+
443
+ relations 组件的 valid_ref 指向 `relations_valid.pt [T] bool`,表示该帧是否有可用源关系标注。有效帧中可以存在 status=unknown 的明确不确定标注;无源标注的帧为 valid=false、relations=[]。组件仍声明 available/provenance/source_locator。
444
+
445
+ #### 5.6.2 实体对的顶点区域与距离
446
+
447
+ 已发布的接触区域/距离按参与关系的 subject_id 与 object_id 组织,每对实体保留选定的一套结果,以精确 geometry_ref/topology_id 关联到手或物体/部件;不要求每套数据都有。顶点区域 schema contact/vertex_region/v1:bool `[T,V]` 加同形 valid;顶点距离 schema contact/vertex_distance/v1:float32 `[T,V]`、米、同形 valid,声明 source/target geometry_ref、distance_definition(signed/unsigned、测量到点集或表面等明确源定义)。geometry_ref 必须指向已登记 mesh 或由固定 MANO 模型配置确定的拓扑;拓扑/顶点数变化时按拓扑拆分片段。其他源区域表示只有在实际接入并登记 schema 后才可转换,不能随意栅格化宣称等价。
448
+
449
+ 顶点区域/距离已有存储定义,但尚未完成真实输入试点;接入时必须提供源语义与几何验收证据,不因已经登记 schema 就视为通过。
450
+
451
+ ## 附录:任务范围
452
+
453
+ 不强制收录 2D bbox、完整高频动捕、动作程序、身体 SMPL-X、点云或网络特征。范围内的接触、visibility、选定手关键点、物体几何不能因不便处理而静默丢弃。分割采用的物理编码由第 5.5 节决定,存在重叠时不能以单层标签图声称无损。
454
+
455
+ 不设置 entities_ref/segment/entities.json,不要求与 object_id 重复的 track_id。MediaPipe 不在当前关键点定义中;旧版本迁移必须保留可追溯关系,不能直接删表。手部共享表示不含独立 hand_mesh。
456
+
457
+ schema.json 是普通注册表,不是 JSON Schema 文档或可执行验收器;定义存在不代表真实数据已验证。验收须保留实测范围与未决项。
458
+
459
+ 本存储约定只更新标准,不代表既有 FFV1/depth.pt 试点已迁移。新发布必须显式写 storage 配置;旧产物按其旧定义读取,不能只改文件后缀或版本标识伪装为合规。
ReInterHand/shared-v1.0/doc/RAW_MAPPING.md ADDED
@@ -0,0 +1,43 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ # ReInterHand raw → shared-v1.0 字段映射
2
+
3
+ 本文记录已发布 ReInterHand `shared-v1.0` 的实际转换范围。共享层只提取统一规范需要的字段;raw 中的辅助拟合文件和未选用字段仍保留在 raw,不因其存在而全部复制。
4
+
5
+ ## 发布范围与布局
6
+
7
+ - 原始范围:10 个官方 capture,raw 固定清单共 879 个文件、1,557,547,443,822 字节。
8
+ - 共享范围:500 个一级序列目录、6,750 个相机视图、1,526,795 条视图帧记录。
9
+ - 一级目录:`<capture>__<render_type>__<start_source_frame_id>__<end_source_frame_id>/`。
10
+ - 二级目录:`<camera_id>/`;同一短序列的全部相机位于同一个一级目录下。
11
+ - `camera_id=ego` 为第一视角;数字相机 ID 为外部 Mugsy 相机,分别登记 `view_type=ego` 和 `view_type=exo`。
12
+ - 官方 InterWild capture 划分:train 7 个 capture / 368 个一级序列,test 3 个 capture / 132 个一级序列;官方没有独立 val capture,本发布不自造 val。
13
+
14
+ ## 样本与时间语义
15
+
16
+ | raw 渲染设置 | shared 语义 | 帧率字段 | 说明 |
17
+ |---|---|---|---|
18
+ | `envmap_per_frame` | `sample_type=image`、`sampling.type=independent` | `source_fps=null` | 每帧可独立改变背景;ego 还可逐图改变相机。MKV 仅为无损批容器,顺序不可作为时间监督。 |
19
+ | `envmap_per_segment` | `sample_type=video`、`sampling.type=dense` | `source_fps=30` | 同一动作段内具有官方视频顺序。 |
20
+
21
+ 所有视图都用 `camera/frames.jsonl` 保存本地 `frame_index` 到官方 `source_frame_id` 的显式映射。没有源时间戳时,`timestamp_ns` 与 `clock_domain` 保持空值,不用未知 FPS 推断时间戳。
22
+
23
+ ## 字段映射
24
+
25
+ | raw 来源 | shared 输出 | 转换与校验 |
26
+ |---|---|---|
27
+ | capture 根目录 `frame_list.txt` | 一级序列边界、`source_segment_id`、`source_frame_span`、`camera/frames.jsonl` | 只处理官方 frame list 中列出的帧;源帧 ID 原样登记,不改成局部零基帧号。 |
28
+ | `Ego_cameras/<render_type>.tar.gz*` 中 `images/{frame}.png` | `ego/observation/rgb.mkv` | PNG 解码为 RGB 后用 FFV1 `rgb24` 无损封装;逐帧数量和像素往返校验。 |
29
+ | `Mugsy_cameras/<render_type>.tar.gz*` 中 `images/<camera_id>/{frame}.png` | `<camera_id>/observation/rgb.mkv` | 同上。 |
30
+ | Ego 归档中的逐帧 `cam_params/{frame}.json` | `camera/intrinsic.pt`、`extrinsic.pt`、`distortion.pt` 及对应 valid 张量 | OpenCV fisheye4;R 保留,t 从毫米转换为米;外参语义为 `T_camera_from_world`。 |
31
+ | `Mugsy_cameras/cam_params.json` | `camera/intrinsic.pt`、`extrinsic.pt` 及对应 valid 张量 | pinhole;静态标定扩展到 T,R 保留,t 从毫米转换为米。 |
32
+ | `mano_fits/mano_fits.tar.gz*` 中 `params/{frame}_{left|right}.json` | `annotation/mano/motion.pt`、`motion_valid.pt` | 输出 `[T,2,61]`,手槽顺序为 left/right;MANO v1.2、flat-hand mean、左手 shapedirs 修复;根姿态和位移转到相机坐标,米/弧度。源 PLY/OBJ 仅用于独立几何复核,不重复发布。 |
33
+ | Ego `truncation_ratio.json` | `motion_valid.pt` 的官方 QA 判据 | `truncation_ratio < 0.2` 表示可见比例不足 20%,该帧两手监督标为不可用;数值本身不伪造或改写。 |
34
+ | 各渲染归档中的 `masks/.../{frame}.png` | `annotation/segment/mask.mkv`、`mask_valid.pt` | 原生 uint8 0–255 灰度前景强度无损保存为 FFV1;左右手合并、无实例身份。它不是左右手类别图,也不在共享层阈值化。 |
35
+ | 官方 InterWild loader 的 capture 列表(修订 `7c01e4ad4909652056a68af93b4c16ceabbce8fe`) | 每个 `metainfo.json` 的 `split`、`split_scheme`、`split_source_locator` | 7 个 train capture、3 个 test capture;无官方 val。 |
36
+
37
+ ## 未发布为共享组件的 raw 字段
38
+
39
+ - `orig_fits` 关键点和其他中间拟合字段不进入 shared;本版本选择 MANO 作为统一几何监督。
40
+ - 源中没有本发布可用的 depth、contact、物体姿态或物体模型,因此不虚构这些模态。
41
+ - 源 PLY/OBJ 手网格仅用于核对 MANO 参数复现与投影链路,不作为平行共享组件重复存储。
42
+
43
+ 每个视图的精确来源模板、坐标系、单位、valid 规则和省略项均以该视图的 `metainfo.json` 为准;通用组件定义见 `CONTRACT.md` 与 `schema.json`。
ReInterHand/shared-v1.0/doc/schema.json ADDED
@@ -0,0 +1,880 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "schema_version": "hand-warehouse/1.0",
3
+ "validity_revision": "usable-annotation-2026-09-20",
4
+ "annotation_validity": {
5
+ "meaning": "annotation usable for supervision, not merely record presence",
6
+ "formula": "source_annotation_present AND numerical_checks_pass AND applicable_official_QA_pass AND NOT explicitly_reviewed_local_exclusion",
7
+ "without_official_qa": "omit QA term; declare source rules; do not fabricate QA",
8
+ "policy_field": "components.<name>.valid_policy",
9
+ "visibility_is_independent": true,
10
+ "invalid_float_value": "NaN",
11
+ "hot3d": "broadcast per-camera frame manual QA conservatively to hand/object labels and pose-derived visibility; retain RGB and source calibration; keep native QA in raw and review report",
12
+ "hot3d_visibility": "native visibility_ratio[%] already ranges from 0 to 1; do not divide by 100"
13
+ },
14
+ "hand_slots": [
15
+ "left",
16
+ "right"
17
+ ],
18
+ "view_metadata": {
19
+ "required_fields": [
20
+ "view_type"
21
+ ],
22
+ "view_type_values": [
23
+ "ego",
24
+ "exo",
25
+ "unknown"
26
+ ],
27
+ "view_type_policy": "required per camera view; use ego or exo whenever the source data or capture setup establishes the viewpoint; use unknown only when no trustworthy source determines it; never omit or guess"
28
+ },
29
+ "keypoints": {
30
+ "mano21/v1": {
31
+ "count": 21,
32
+ "names": [
33
+ "wrist",
34
+ "thumb_1",
35
+ "thumb_2",
36
+ "thumb_3",
37
+ "thumb_4",
38
+ "index_1",
39
+ "index_2",
40
+ "index_3",
41
+ "index_4",
42
+ "middle_1",
43
+ "middle_2",
44
+ "middle_3",
45
+ "middle_4",
46
+ "ring_1",
47
+ "ring_2",
48
+ "ring_3",
49
+ "ring_4",
50
+ "little_1",
51
+ "little_2",
52
+ "little_3",
53
+ "little_4"
54
+ ],
55
+ "source_index_map": null,
56
+ "note": "adapter maps official MANO joint and fingertip convention"
57
+ },
58
+ "rhd21/v1": {
59
+ "count": 21,
60
+ "names": [
61
+ "wrist",
62
+ "thumb_1",
63
+ "thumb_2",
64
+ "thumb_3",
65
+ "thumb_4",
66
+ "index_1",
67
+ "index_2",
68
+ "index_3",
69
+ "index_4",
70
+ "middle_1",
71
+ "middle_2",
72
+ "middle_3",
73
+ "middle_4",
74
+ "ring_1",
75
+ "ring_2",
76
+ "ring_3",
77
+ "ring_4",
78
+ "little_1",
79
+ "little_2",
80
+ "little_3",
81
+ "little_4"
82
+ ],
83
+ "source_index_map_per_hand": [
84
+ 0,
85
+ 4,
86
+ 3,
87
+ 2,
88
+ 1,
89
+ 8,
90
+ 7,
91
+ 6,
92
+ 5,
93
+ 12,
94
+ 11,
95
+ 10,
96
+ 9,
97
+ 16,
98
+ 15,
99
+ 14,
100
+ 13,
101
+ 20,
102
+ 19,
103
+ 18,
104
+ 17
105
+ ]
106
+ }
107
+ },
108
+ "camera": {
109
+ "opencv_fisheye4": {
110
+ "K": [
111
+ 3,
112
+ 3
113
+ ],
114
+ "distortion": [
115
+ "k1",
116
+ "k2",
117
+ "k3",
118
+ "k4"
119
+ ],
120
+ "projection": "theta=atan(r); theta_d=theta*(1+k1*theta^2+k2*theta^4+k3*theta^6+k4*theta^8); source ReInterHand"
121
+ },
122
+ "pinhole": {
123
+ "K": [
124
+ 3,
125
+ 3
126
+ ]
127
+ },
128
+ "fisheye624": {
129
+ "parameters": [
130
+ "f",
131
+ "cx",
132
+ "cy",
133
+ "k0",
134
+ "k1",
135
+ "k2",
136
+ "k3",
137
+ "k4",
138
+ "k5",
139
+ "p0",
140
+ "p1",
141
+ "s0",
142
+ "s1",
143
+ "s2",
144
+ "s3"
145
+ ]
146
+ },
147
+ "rational8": {
148
+ "K": [
149
+ 3,
150
+ 3
151
+ ],
152
+ "distortion": [
153
+ "k1",
154
+ "k2",
155
+ "p1",
156
+ "p2",
157
+ "k3",
158
+ "k4",
159
+ "k5",
160
+ "k6"
161
+ ]
162
+ }
163
+ },
164
+ "segmentation": {
165
+ "segment/uint16_labels/v1": {
166
+ "storage": "mask.mkv",
167
+ "dtype": "uint16",
168
+ "mapping": "instances.jsonl",
169
+ "valid_shape": [
170
+ "T"
171
+ ],
172
+ "required_metadata": [
173
+ "segmentation_type",
174
+ "coverage",
175
+ "mapping_ref",
176
+ "storage"
177
+ ],
178
+ "shape": [
179
+ "T",
180
+ "H",
181
+ "W"
182
+ ],
183
+ "reserved_codes": {
184
+ "0": "unassigned",
185
+ "65535": "ignore"
186
+ },
187
+ "region_codes": [
188
+ 1,
189
+ 65534
190
+ ],
191
+ "allowed_storage_profiles": [
192
+ "mkv/uint16_ffv1/v1"
193
+ ]
194
+ },
195
+ "segment/instance_polygons/v1": {
196
+ "storage": "polygons.jsonl",
197
+ "mapping": "instances.jsonl",
198
+ "frame_keys": [
199
+ "frame_index",
200
+ "instances"
201
+ ],
202
+ "instance_keys": [
203
+ "mask_value",
204
+ "polygons"
205
+ ],
206
+ "coordinate_unit": "pixel",
207
+ "overlap_allowed": true,
208
+ "valid_shape": [
209
+ "T"
210
+ ],
211
+ "required_metadata": [
212
+ "segmentation_type",
213
+ "coverage",
214
+ "mapping_ref"
215
+ ],
216
+ "polygon_shape": [
217
+ "N",
218
+ 2
219
+ ],
220
+ "holes_supported": false
221
+ },
222
+ "segment/foreground_intensity/v1": {
223
+ "storage": "mask.mkv",
224
+ "dtype": "uint16",
225
+ "value_range": [
226
+ 0,
227
+ 255
228
+ ],
229
+ "normalization_scale": 0.00392156862745098,
230
+ "axes": [
231
+ "T",
232
+ "height",
233
+ "width"
234
+ ],
235
+ "meaning": "native hand foreground intensity; individual hand or union declared in metadata; not instance codes or calibrated probability",
236
+ "zero": "background",
237
+ "full_scale": "foreground",
238
+ "mapping": "foreground_category in component metadata",
239
+ "valid_shape": [
240
+ "T"
241
+ ],
242
+ "required_metadata": [
243
+ "segmentation_type",
244
+ "coverage",
245
+ "value_range",
246
+ "normalization_scale",
247
+ "foreground_category",
248
+ "entity_id",
249
+ "storage"
250
+ ],
251
+ "shape": [
252
+ "T",
253
+ "H",
254
+ "W"
255
+ ],
256
+ "allowed_storage_profiles": [
257
+ "mkv/uint16_ffv1/v1"
258
+ ]
259
+ }
260
+ },
261
+ "note": "Registry for hand-warehouse/1.0. Read CONTRACT.md for field semantics. This is not a JSON Schema document or executable validator.",
262
+ "components": {
263
+ "mano/axis_angle61/v1": {
264
+ "storage": "pt",
265
+ "dtype": "float32",
266
+ "shape": [
267
+ "T",
268
+ 2,
269
+ 61
270
+ ],
271
+ "valid_shape": [
272
+ "T",
273
+ 2
274
+ ],
275
+ "unit": "m",
276
+ "angle_unit": "rad",
277
+ "coordinate_frame": "camera",
278
+ "layout": {
279
+ "pose_axis_angle": [
280
+ 0,
281
+ 48
282
+ ],
283
+ "shape": [
284
+ 48,
285
+ 58
286
+ ],
287
+ "translation": [
288
+ 58,
289
+ 61
290
+ ]
291
+ }
292
+ },
293
+ "keypoints/uv/v1": {
294
+ "storage": "pt",
295
+ "dtype": "float32",
296
+ "shape": [
297
+ "T",
298
+ 2,
299
+ 21,
300
+ 2
301
+ ],
302
+ "valid_shape": [
303
+ "T",
304
+ 2,
305
+ 21
306
+ ],
307
+ "unit": "pixel",
308
+ "required_metadata": [
309
+ "keypoint_schema"
310
+ ]
311
+ },
312
+ "keypoints/xyz/v1": {
313
+ "storage": "pt",
314
+ "dtype": "float32",
315
+ "shape": [
316
+ "T",
317
+ 2,
318
+ 21,
319
+ 3
320
+ ],
321
+ "valid_shape": [
322
+ "T",
323
+ 2,
324
+ 21
325
+ ],
326
+ "unit": "m",
327
+ "required_metadata": [
328
+ "keypoint_schema"
329
+ ]
330
+ },
331
+ "depth/z_float32/v1": {
332
+ "storage": "mkv",
333
+ "dtype": "float32",
334
+ "shape": [
335
+ "T",
336
+ "H",
337
+ "W"
338
+ ],
339
+ "valid_shape": [
340
+ "T",
341
+ "H",
342
+ "W"
343
+ ],
344
+ "unit": "m",
345
+ "depth_type": "z",
346
+ "pixel_grid": "current_rgb",
347
+ "coordinate_frame": "current_rgb_camera",
348
+ "valid_storage": "mkv",
349
+ "allowed_storage_profiles": [
350
+ "mkv/depth_float32_bits/v1"
351
+ ],
352
+ "allowed_valid_storage_profiles": [
353
+ "mkv/bool_ffv1/v1"
354
+ ],
355
+ "required_metadata": [
356
+ "storage",
357
+ "valid_storage",
358
+ "depth_origin"
359
+ ],
360
+ "depth_origin_values": [
361
+ "measured",
362
+ "rendered",
363
+ "unknown"
364
+ ]
365
+ },
366
+ "transform/se3/v1": {
367
+ "storage": "pt",
368
+ "dtype": "float32",
369
+ "shape": [
370
+ "T",
371
+ 4,
372
+ 4
373
+ ],
374
+ "valid_shape": [
375
+ "T"
376
+ ],
377
+ "unit": "m",
378
+ "required_metadata": [
379
+ "convention"
380
+ ]
381
+ },
382
+ "object/rigid/v1": {
383
+ "storage": "pt",
384
+ "dtype": "float32",
385
+ "shape": [
386
+ "T",
387
+ 4,
388
+ 4
389
+ ],
390
+ "valid_shape": [
391
+ "T"
392
+ ],
393
+ "unit": "m",
394
+ "required_metadata": [
395
+ "convention"
396
+ ]
397
+ },
398
+ "camera/pinhole/v1": {
399
+ "storage": "pt",
400
+ "dtype": "float32",
401
+ "shape": [
402
+ "T",
403
+ 3,
404
+ 3
405
+ ],
406
+ "valid_shape": [
407
+ "T"
408
+ ]
409
+ },
410
+ "camera/rational8/v1": {
411
+ "storage": "pt",
412
+ "dtype": "float32",
413
+ "shape": [
414
+ "T",
415
+ 3,
416
+ 3
417
+ ],
418
+ "valid_shape": [
419
+ "T"
420
+ ]
421
+ },
422
+ "camera/opencv_fisheye4/v1": {
423
+ "storage": "pt",
424
+ "dtype": "float32",
425
+ "shape": [
426
+ "T",
427
+ 3,
428
+ 3
429
+ ],
430
+ "valid_shape": [
431
+ "T"
432
+ ]
433
+ },
434
+ "camera/fisheye624/v1": {
435
+ "storage": "pt",
436
+ "dtype": "float32",
437
+ "shape": [
438
+ "T",
439
+ 15
440
+ ],
441
+ "valid_shape": [
442
+ "T"
443
+ ]
444
+ },
445
+ "camera/distortion8/v1": {
446
+ "storage": "pt",
447
+ "dtype": "float32",
448
+ "shape": [
449
+ "T",
450
+ 8
451
+ ],
452
+ "valid_shape": [
453
+ "T"
454
+ ]
455
+ },
456
+ "camera/fisheye4_distortion/v1": {
457
+ "storage": "pt",
458
+ "dtype": "float32",
459
+ "shape": [
460
+ "T",
461
+ 4
462
+ ],
463
+ "valid_shape": [
464
+ "T"
465
+ ]
466
+ },
467
+ "object/joint_state/v1": {
468
+ "storage": "pt",
469
+ "dtype": "float32",
470
+ "shape": [
471
+ "T",
472
+ "J"
473
+ ],
474
+ "valid_shape": [
475
+ "T",
476
+ "J"
477
+ ],
478
+ "required_metadata": [
479
+ "joint_order"
480
+ ],
481
+ "unit_rule": "revolute radians; prismatic metres; mixed types declared per joint"
482
+ },
483
+ "object_keypoints/camera/v1": {
484
+ "storage": "pt",
485
+ "dtype": "float32",
486
+ "shape": [
487
+ "T",
488
+ "K",
489
+ 3
490
+ ],
491
+ "valid_shape": [
492
+ "T",
493
+ "K"
494
+ ],
495
+ "unit": "m",
496
+ "coordinate_frame": "camera",
497
+ "required_metadata": [
498
+ "keypoint_schema"
499
+ ]
500
+ },
501
+ "object/dimensions/v1": {
502
+ "storage": "pt",
503
+ "dtype": "float32",
504
+ "shape": [
505
+ "T",
506
+ 3
507
+ ],
508
+ "valid_shape": [
509
+ "T"
510
+ ],
511
+ "unit": "m",
512
+ "required_metadata": [
513
+ "dimensions_semantics"
514
+ ],
515
+ "axis_order": [
516
+ "length",
517
+ "width",
518
+ "height"
519
+ ],
520
+ "scale_rule": "do not apply to mesh without source-supported size/scale relation"
521
+ },
522
+ "object_keypoints/template/v1": {
523
+ "storage": "pt",
524
+ "dtype": "float32",
525
+ "shape": [
526
+ "K",
527
+ 3
528
+ ],
529
+ "valid_shape": [
530
+ "K"
531
+ ],
532
+ "unit": "m",
533
+ "coordinate_frame": "object",
534
+ "static": true,
535
+ "required_metadata": [
536
+ "keypoint_schema"
537
+ ]
538
+ },
539
+ "mesh/obj/v1": {
540
+ "storage": "obj",
541
+ "unit": "m",
542
+ "static": true,
543
+ "valid_shape": [],
544
+ "dependencies": "MTL and textures retained under owning object"
545
+ },
546
+ "rgb/uint8/v1": {
547
+ "storage": "mkv",
548
+ "dtype": "uint8",
549
+ "shape": [
550
+ "T",
551
+ "H",
552
+ "W",
553
+ 3
554
+ ],
555
+ "valid_shape": [
556
+ "T"
557
+ ],
558
+ "color_order": "RGB",
559
+ "allowed_storage_profiles": [
560
+ "mkv/mjpeg_copy/v1",
561
+ "mkv/source_copy/v1",
562
+ "mkv/h264_rgb_lossless/v1",
563
+ "mkv/ffv1_rgb/v1"
564
+ ],
565
+ "required_metadata": [
566
+ "storage"
567
+ ]
568
+ },
569
+ "contact/relations/v1": {
570
+ "storage": "jsonl",
571
+ "valid_shape": [
572
+ "T"
573
+ ],
574
+ "frame_keys": [
575
+ "frame_index",
576
+ "relations"
577
+ ],
578
+ "absence_semantics": "no record is not a negative contact annotation"
579
+ },
580
+ "contact/vertex_region/v1": {
581
+ "storage": "pt",
582
+ "dtype": "bool",
583
+ "shape": [
584
+ "T",
585
+ "V"
586
+ ],
587
+ "valid_shape": [
588
+ "T",
589
+ "V"
590
+ ],
591
+ "required_metadata": [
592
+ "source_geometry_ref",
593
+ "target_geometry_ref",
594
+ "topology_id"
595
+ ],
596
+ "pilot_status": "defined_not_empirically_validated"
597
+ },
598
+ "contact/vertex_distance/v1": {
599
+ "storage": "pt",
600
+ "dtype": "float32",
601
+ "shape": [
602
+ "T",
603
+ "V"
604
+ ],
605
+ "valid_shape": [
606
+ "T",
607
+ "V"
608
+ ],
609
+ "unit": "m",
610
+ "required_metadata": [
611
+ "source_geometry_ref",
612
+ "target_geometry_ref",
613
+ "topology_id",
614
+ "distance_definition"
615
+ ],
616
+ "pilot_status": "defined_not_empirically_validated"
617
+ },
618
+ "object/articulated/v1": {
619
+ "storage": "json",
620
+ "required_keys": [
621
+ "parts",
622
+ "joints"
623
+ ],
624
+ "part_keys": [
625
+ "part_id",
626
+ "parent_id",
627
+ "has_model",
628
+ "mesh_ref"
629
+ ],
630
+ "hierarchy_semantics": "declare mechanical articulation or semantic containment; containment alone does not imply joints",
631
+ "acyclic": true
632
+ },
633
+ "segment/uint16_labels/v1": {
634
+ "storage": "mkv",
635
+ "dtype": "uint16",
636
+ "mapping": "instances.jsonl",
637
+ "valid_shape": [
638
+ "T"
639
+ ],
640
+ "required_metadata": [
641
+ "segmentation_type",
642
+ "coverage",
643
+ "mapping_ref",
644
+ "storage"
645
+ ],
646
+ "shape": [
647
+ "T",
648
+ "H",
649
+ "W"
650
+ ],
651
+ "reserved_codes": {
652
+ "0": "unassigned",
653
+ "65535": "ignore"
654
+ },
655
+ "region_codes": [
656
+ 1,
657
+ 65534
658
+ ],
659
+ "allowed_storage_profiles": [
660
+ "mkv/uint16_ffv1/v1"
661
+ ]
662
+ },
663
+ "segment/instance_polygons/v1": {
664
+ "storage": "jsonl",
665
+ "mapping": "instances.jsonl",
666
+ "frame_keys": [
667
+ "frame_index",
668
+ "instances"
669
+ ],
670
+ "instance_keys": [
671
+ "mask_value",
672
+ "polygons"
673
+ ],
674
+ "coordinate_unit": "pixel",
675
+ "overlap_allowed": true,
676
+ "valid_shape": [
677
+ "T"
678
+ ],
679
+ "required_metadata": [
680
+ "segmentation_type",
681
+ "coverage",
682
+ "mapping_ref"
683
+ ],
684
+ "polygon_shape": [
685
+ "N",
686
+ 2
687
+ ],
688
+ "holes_supported": false
689
+ },
690
+ "segment/foreground_intensity/v1": {
691
+ "storage": "mkv",
692
+ "dtype": "uint16",
693
+ "value_range": [
694
+ 0,
695
+ 255
696
+ ],
697
+ "normalization_scale": 0.00392156862745098,
698
+ "axes": [
699
+ "T",
700
+ "height",
701
+ "width"
702
+ ],
703
+ "meaning": "native hand foreground intensity; individual hand or union declared in metadata; not instance codes or calibrated probability",
704
+ "zero": "background",
705
+ "full_scale": "foreground",
706
+ "mapping": "foreground_category in component metadata",
707
+ "valid_shape": [
708
+ "T"
709
+ ],
710
+ "required_metadata": [
711
+ "segmentation_type",
712
+ "coverage",
713
+ "value_range",
714
+ "normalization_scale",
715
+ "foreground_category",
716
+ "entity_id",
717
+ "storage"
718
+ ],
719
+ "shape": [
720
+ "T",
721
+ "H",
722
+ "W"
723
+ ],
724
+ "allowed_storage_profiles": [
725
+ "mkv/uint16_ffv1/v1"
726
+ ]
727
+ }
728
+ },
729
+ "storage_revision": "lossless-video-2026-09-18",
730
+ "sampling": {
731
+ "image": {
732
+ "single": {
733
+ "T": 1
734
+ },
735
+ "independent": {
736
+ "T": ">=2",
737
+ "required_frame_fields": [
738
+ "sample_id",
739
+ "source_locator"
740
+ ],
741
+ "temporal_relationship": false
742
+ },
743
+ "source_fps": null
744
+ },
745
+ "video": {
746
+ "sampling_types": [
747
+ "dense",
748
+ "sparse"
749
+ ]
750
+ }
751
+ },
752
+ "storage_profiles": {
753
+ "mkv/mjpeg_copy/v1": {
754
+ "container": "matroska",
755
+ "codec": "mjpeg",
756
+ "method": "stream_copy_from_source_jpeg",
757
+ "logical_dtype": "uint8",
758
+ "decoded_pixel_format": "rgb24",
759
+ "validation": [
760
+ "source_jpeg_packet_sha256_exact",
761
+ "all_packet_count_order_and_dimensions_exact",
762
+ "deterministic_decoded_rgb_sample_exact",
763
+ "pilot_and_final_selected_whole_sequences_decoded_rgb_exact"
764
+ ],
765
+ "validation_policy": {
766
+ "id": "jpeg-packets-all-rgb-sample16/v1",
767
+ "sample_count_per_view": 16,
768
+ "short_views": "all_frames_if_T_less_than_16",
769
+ "fixed_indices": "0,T-1,T//4,T//2,3*T//4, deduplicated",
770
+ "remaining_indices": "sample without replacement to min(T,16) using Python random.Random(seed)",
771
+ "seed": "first 8 bytes of SHA256(sequence_id/camera_id/20260920), big-endian integer",
772
+ "report": "policy, exact selected frame indices, seed, separate packet and pixel coverage",
773
+ "legacy_all_frame_pixel_proofs": "still accepted; preserve historical evidence"
774
+ }
775
+ },
776
+ "mkv/source_copy/v1": {
777
+ "container": "matroska",
778
+ "codec": "source_codec_declared_in_metadata",
779
+ "method": "stream_copy_only",
780
+ "logical_dtype": "uint8",
781
+ "decoded_pixel_format": "rgb24",
782
+ "validation": [
783
+ "no_reencoding",
784
+ "all_decoded_rgb_frames_exact",
785
+ "presentation_frame_order_exact"
786
+ ]
787
+ },
788
+ "mkv/h264_rgb_lossless/v1": {
789
+ "container": "matroska",
790
+ "codec": "h264",
791
+ "encoder": "libx264rgb",
792
+ "crf": 0,
793
+ "decoded_pixel_format": "rgb24",
794
+ "logical_dtype": "uint8",
795
+ "gop": "declared_in_encoder_parameters",
796
+ "validation": [
797
+ "all_decoded_rgb_frames_exact"
798
+ ],
799
+ "forbidden": [
800
+ "lossy_rate_control",
801
+ "rgb_to_yuv420_subsampling"
802
+ ]
803
+ },
804
+ "mkv/ffv1_rgb/v1": {
805
+ "container": "matroska",
806
+ "codec": "ffv1",
807
+ "decoded_pixel_format": "rgb24",
808
+ "logical_dtype": "uint8",
809
+ "validation": [
810
+ "all_decoded_rgb_frames_exact"
811
+ ]
812
+ },
813
+ "mkv/depth_float32_bits/v1": {
814
+ "container": "matroska",
815
+ "codec": "ffv1",
816
+ "pixel_format": "gray16le",
817
+ "logical_dtype": "float32",
818
+ "logical_shape": [
819
+ "T",
820
+ "H",
821
+ "W"
822
+ ],
823
+ "encoded_shape": [
824
+ "T",
825
+ "H",
826
+ "2*W"
827
+ ],
828
+ "packing": "IEEE754 little-endian float32 bits; low uint16 in first W columns, high uint16 in last W columns",
829
+ "decode": "reinterpret_float32(uint32(low) | (uint32(high) << 16))",
830
+ "validation": [
831
+ "all_float32_bits_exact_including_nan"
832
+ ]
833
+ },
834
+ "mkv/bool_ffv1/v1": {
835
+ "container": "matroska",
836
+ "codec": "ffv1",
837
+ "pixel_format": "gray",
838
+ "logical_dtype": "bool",
839
+ "stored_values": [
840
+ 0,
841
+ 1
842
+ ],
843
+ "validation": [
844
+ "all_bool_values_exact"
845
+ ]
846
+ },
847
+ "mkv/uint16_ffv1/v1": {
848
+ "container": "matroska",
849
+ "codec": "ffv1",
850
+ "pixel_formats": [
851
+ "gray",
852
+ "gray16le"
853
+ ],
854
+ "logical_dtype": "uint16",
855
+ "gray_condition": "all values <=255; decode by exact uint8-to-uint16 promotion",
856
+ "validation": [
857
+ "all_integer_values_exact"
858
+ ]
859
+ }
860
+ },
861
+ "video_metadata": {
862
+ "required": [
863
+ "profile",
864
+ "codec",
865
+ "pixel_format",
866
+ "encoded_size",
867
+ "decoder",
868
+ "encoder_parameters",
869
+ "source_lossy"
870
+ ],
871
+ "source_lossy_values": [
872
+ true,
873
+ false,
874
+ "unknown"
875
+ ],
876
+ "timebase_role": "index_only",
877
+ "lossless_reference": "source compressed packets or fixed-decoder source pixels; depth uses normalized standard float32 bits",
878
+ "selection": "choose smaller complete candidate only after exact roundtrip validation"
879
+ }
880
+ }
ReInterHand/shared-v1.0/doc/validation/full/README.md ADDED
@@ -0,0 +1,7 @@
 
 
 
 
 
 
 
 
1
+ # ReInterHand 全量自动审计
2
+
3
+ 全量转换分布在两个互斥 capture 白名单上完成。两个白名单无交集,且并集恰为 10 个官方 capture。审计覆盖最终布局、文件当前字节指纹和所有视图的帧映射统计;未发现重复一级序列、缺失 capture 或布局错误。
4
+
5
+ 合计结果:500 个一级序列(`envmap_per_frame` 250、`envmap_per_segment` 250)、6,750 个相机视图、1,526,795 条视图帧记录。机器可读汇总见 `audit.json`。
6
+
7
+ 这里的 SHA256 是“审计时当前内容的指纹”,用于后续复制和上传核对。它不独立证明当前文件与官方源摘要一致,也不证明转换语义、视觉质量或投影对齐正确;这些边界不能被自动摘要检查替代。
ReInterHand/shared-v1.0/doc/validation/full/audit.json ADDED
@@ -0,0 +1,47 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "schema": "reinterhand-full-audit-summary/v1",
3
+ "dataset_id": "ReInterHand",
4
+ "stage": "complete",
5
+ "claim_scope": "current-byte fingerprints and layout completeness only",
6
+ "partitions": {
7
+ "iipl_126": {
8
+ "captures": 5,
9
+ "sequences": 272,
10
+ "views": 3672,
11
+ "frame_rows": 773821,
12
+ "files_verified": 44675,
13
+ "bytes_verified": 551456207428,
14
+ "tree_sha256": "7eee0e81ed2351d3f1a6ccb6ca12d77e0a1b9c2ba261e1e12fb3461012c2bc60"
15
+ },
16
+ "iipl_100": {
17
+ "captures": 5,
18
+ "sequences": 228,
19
+ "views": 3078,
20
+ "frame_rows": 752974,
21
+ "files_verified": 37394,
22
+ "bytes_verified": 528569874603,
23
+ "tree_sha256": "202c3300a1886ce6b6b0ebf21012f79fe19542bd7d2e9c55eddf667d6023dac3"
24
+ }
25
+ },
26
+ "aggregate": {
27
+ "captures": 10,
28
+ "sequences": 500,
29
+ "views": 6750,
30
+ "frame_rows": 1526795,
31
+ "render_sequences": {
32
+ "envmap_per_frame": 250,
33
+ "envmap_per_segment": 250
34
+ },
35
+ "layout_errors": [],
36
+ "split_sequences": {
37
+ "train": 368,
38
+ "val": 0,
39
+ "test": 132
40
+ }
41
+ },
42
+ "not_proven": [
43
+ "agreement with an independent official checksum for converted outputs",
44
+ "semantic correctness of converted annotations",
45
+ "visual quality or alignment"
46
+ ]
47
+ }
ReInterHand/shared-v1.0/doc/validation/full_random/human-review.json ADDED
@@ -0,0 +1,10 @@
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "schema": "hand-warehouse-human-review/v1",
3
+ "dataset_id": "ReInterHand",
4
+ "stage": "full_random",
5
+ "status": "publication_authorized",
6
+ "reviewed_report": "index.html",
7
+ "publication_authorized_at": "2026-09-28T00:20:15.997860+08:00",
8
+ "authorization_statement": "Reinterhand预处理后的版本可以开始上传了,上传到hand-datasets-raw里。",
9
+ "scope_note": "Authorization followed the corrected mask renderer and MANO legend review. It covers the displayed deterministic sample and does not mean every released frame was manually inspected."
10
+ }
ReInterHand/shared-v1.0/doc/validation/full_random/index.html ADDED
@@ -0,0 +1,11 @@
 
 
 
 
 
 
 
 
 
 
 
 
1
+ <!doctype html>
2
+ <html lang="zh-CN"><head><meta charset="utf-8"><meta name="viewport" content="width=device-width,initial-scale=1"><title>ReInterHand 全量随机抽查</title><style>body{font-family:system-ui,sans-serif;max-width:920px;margin:40px auto;padding:0 20px;line-height:1.65;color:#172033}h1{margin-bottom:.3rem}.card{border:1px solid #d8dee9;border-radius:12px;padding:18px 22px;margin:18px 0;background:#fff}a{font-weight:650;color:#1456b8}.note{background:#f6f8fa;border-left:4px solid #607d9e;padding:12px 16px}code{background:#eef1f4;padding:2px 5px;border-radius:4px}</style></head><body>
3
+ <h1>ReInterHand 全量随机抽查</h1>
4
+ <p>固定随机种子:<code>20260927</code>。从两个互斥服务器分区抽取完整短序列,展示所选序列的全部相机与全部帧,覆盖 RGB、原生非二值 mask、相机参数和 MANO 网格。</p>
5
+ <div class="card"><h2>iipl_126 分区</h2><p>4 个完整短序列:<code>envmap_per_frame</code> 2 个、<code>envmap_per_segment</code> 2 个。</p><p><a href="iipl_126/index.html">打开 iipl_126 报告</a></p></div>
6
+ <div class="card"><h2>iipl_100 分区</h2><p>2 个完整短序列:两种渲染类型各 1 个。</p><p><a href="iipl_100/index.html">打开 iipl_100 报告</a></p></div>
7
+ <div class="note"><strong>显示修正:</strong>报告已按 <code>gray16le</code> 解码共享层 mask,再以其原生 0–255 强度显示;此前全黑是审查渲染器错误,源 mask 与共享层 mask 文件没有因此改动。各视频第三栏为 mask 强度图。MANO 图例为青色左手、橙色右手。</div>
8
+ <div class="note"><strong>数据语义:</strong><code>envmap_per_frame</code> 每帧可独立改变背景和相机,属于图片集合;<code>envmap_per_segment</code> 才作为时序视频审查。</div>
9
+ <div class="note"><strong>审计边界:</strong>SHA256 仅固定审计时的当前字节并支持未来复制/上传比对;它不证明当前文件与独立官方摘要一致,也不证明转换语义、视觉质量或对齐正确。这里仍需人工查看。</div>
10
+ <p>人工结论当前为:<strong>已授权发布</strong>。该结论针对固定种子抽中的完整序列及其全部相机、全部帧,不表示人工逐帧检查了全库。</p>
11
+ </body></html>
ReInterHand/shared-v1.0/doc/validation/full_random/sampling.json ADDED
@@ -0,0 +1,29 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "schema": "hand-warehouse-full-random-sampling/v1",
3
+ "dataset_id": "ReInterHand",
4
+ "seed": 20260927,
5
+ "method": "uniform complete-sequence sampling within render-type stratum on each fixed, disjoint server partition",
6
+ "population": {
7
+ "envmap_per_frame": 250,
8
+ "envmap_per_segment": 250
9
+ },
10
+ "selected_sequences": {
11
+ "iipl_126": [
12
+ "m--20210701--1058--0000000--pilot--relightablehandsy--participant0--two-hands__envmap_per_frame__184045__184799",
13
+ "m--20221110--1033--TQH976--pilot--ProjectGoliathScript--Hands--two-hands__envmap_per_frame__117234__118659",
14
+ "m--20230313--1433--TXB805--pilot--ProjectGoliath--Hands--two-hands__envmap_per_segment__98813__99353",
15
+ "m--20220628--1327--BKS383--pilot--ProjectGoliath--ContinuousHandsy--two-hands__envmap_per_segment__75733__77387"
16
+ ],
17
+ "iipl_100": [
18
+ "m--20221216--0953--NKC880--pilot--ProjectGoliathScript--Hands--two-hands__envmap_per_frame__126158__126878",
19
+ "m--20221215--0949--RNS217--pilot--ProjectGoliathScript--Hands--two-hands__envmap_per_segment__136334__137036"
20
+ ]
21
+ },
22
+ "all_cameras": true,
23
+ "all_frames": true,
24
+ "modalities_rendered": [
25
+ "rgb",
26
+ "mano_mesh_projection",
27
+ "native_non_binary_foreground_intensity_mask"
28
+ ]
29
+ }
ReInterHand/shared-v1.0/doc/validation/publication/remote-verification.json ADDED
@@ -0,0 +1,11 @@
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "stage": "published_verified",
3
+ "dataset": "ReInterHand",
4
+ "repository": "ParityLab/Hand-Datasets-Raw",
5
+ "prefix": "ReInterHand/shared-v1.0",
6
+ "final_revision": "81e89003ba63db4e0904158ee30b24a84205080a",
7
+ "files_verified": 82161,
8
+ "bytes_verified": 1080930627471,
9
+ "manifest_sha256": "8e5d689be0eaa0d2f97032e644382e0dc381f47be1bd0e7092fbba53fafb0688",
10
+ "completed_at": "2026-09-28T20:50:53.110101+08:00"
11
+ }