BOSSV2V：3D BOSS 战斗与脚本条件视频配对数据

补充批次：古树庭院 / 红甲 BOSS（局部恢复）

目录和编码说明：25段独立连续片段，共17分09秒、30,870对帧、50个720p/30fps视频。从原60分钟录制中恢复局部有效区间，保留同一源帧、相机、动作和朝向。旧整段排除不表示41分钟全坏；本批是其中连续不少于30秒的补充区间，不是新录制或连续17分钟镜头。含RGB、粉色17关节条件、数值状态、逐帧朝向及重建脚本；技术校验、图像抽查和远端逐文件校验通过。

RGB明确标记为2026-09-25资产版本重渲染，不承诺与历史有损视频逐像素相同；原有动画、粗场景和VFX表示限制见批次说明。原19分钟森林及独立4分钟环绕保留，追加后森林相关已发布时长为40分09秒。

新增批次：2026-09-16 赤甲 BOSS / 古树庭院（慢速360度环绕）

本批目录与说明：4段×60秒，共4分钟，8个720p/30fps视频，7,200对帧；两段战斗环绕、两段定格环绕。包含逐帧玩家、BOSS和相机朝向、完整60Hz原始状态及条件重建脚本。RGB与粉色火柴人条件按相同状态和相机配对，远端文件校验通过。

下方117段的规模与缺失说明描述首批数据；本批是独立追加，旧数据和一分钟预览保留。

新增批次：2026-09-16 赤甲 BOSS / 古树庭院（镜头筛选版）

本批目录与说明：19段×60秒，共19分钟，38个720p/30fps视频，34,200对帧。包含逐帧玩家、BOSS和相机朝向、完整60Hz原始状态及条件重建脚本。RGB与粉色火柴人条件按相同状态和相机配对，远端文件校验通过。

下方117段的规模与缺失说明描述首批数据；本批是独立追加，旧数据和一分钟预览保留。

新增批次：2026-09-16 石环 BOSS / 沙漠场景

本批目录与说明：60段×60秒，共1小时，120个720p/30fps视频，108,000对帧。包含逐帧玩家、BOSS和相机朝向、完整60Hz原始状态及条件重建脚本。RGB与粉色火柴人条件按相同状态和相机配对，远端文件校验通过。

下方117段的规模与缺失说明描述首批数据；本批是独立追加，旧数据和一分钟预览保留。

BOSSV2V 来自自主搭建的实时 3D BOSS 战斗 DEMO：使用 Unreal Engine 执行战斗、动画与画面渲染，再根据同一战斗状态，用脚本生成简化的角色、武器和场景条件画面。项目以高品质魂类游戏的战斗观感为制作方向。

每个样本包含两路逐帧配对视频：**rgb.mp4 是游戏渲染画面，condition.mp4 是粉色场景与火柴人组成的几何条件画面**。数据面向可控视频生成与 V2V 研究，希望让脚本负责运动和空间结构，让生成模型学习外观呈现。

当前发布规模与完整性

项目	当前发布内容
可用配对	117 段，每段 60 秒，共 117 分钟
视频数量	234 个：117 个 RGB + 117 个条件视频
分辨率 / 帧率	1280 × 720，恒定 30 fps
每段帧数	每路 1,800 帧；合计 210,600 对帧
原始计划	120 段，共 2 小时
白模视频	本批不包含 white.mp4

这些是独立的分钟级片段，片段之间可能重开战斗，不能拼接后宣称为连续无重置的两小时长镜头。

上传前已对当前发布的 234 个视频核对导出记录中的 SHA-256。原始片段编号 0042、0047、0098 存在视频校验异常，整对暂未发布；0001 的一个附属 source_take/take.json 无法读取，已省略。详见 upload_integrity.json。以本 README、dataset.json 中实际列出的片段和完整性清单为准；README_zh.md 是原始导出的历史说明。

粉色底、火柴人到底是什么？

它是一种把三维几何信息编码进 RGB 三个颜色通道的条件视频，不是普通配色的游戏画面，也不是绿幕或白模材质。颜色在这里承载数值。

每个角色简化为 17 个通用关节点及其连线；武器简化为棍状几何；场地保留粗几何。渲染使用相机和深度缓冲，因此能够表达姿态、武器位置、空间远近和粗场景遮挡。

通道	存储的信息	如何理解
R（红）	世界高度，同时给环境与角色使用不同数值区间	环境红通道较高，骨架和武器较低；不是血量或受击强度
G（绿）	持久实体身份槽 + 通用部位编号	区分玩家、BOSS，以及头、手、腿、武器等部位
B（蓝）	反向归一化的相机前向深度	越近值越大，越远值越小；不是速度或光照

为什么场地看起来是粉色？ 场景表面使用较高的红通道、零绿通道，并按距离加入蓝通道，显示出来就会呈粉红或紫红色。这里大面积的“粉色背景”主要是有高度和深度的粗场景表面；未命中任何几何的像素是黑色。粉色并不是没有信息的纯色背景。

为什么火柴人的颜色不一样、还会变化？ 每个像素的显示颜色由高度、身份/部位和深度共同决定。即使是同一只手，运动后高度和距离改变，红、蓝通道也会变化；绿色身份编号保持不变。不能简单理解为“某种肉眼颜色永远代表某个角色”。

身份、部位与数值编码

当前玩家使用身份槽 1，BOSS 使用身份槽 2。身份槽不因角色出画、重新出现或关节数量而重新分配；武器沿用所属角色的槽位。具体映射见 identity_registry.json。

编码前的标称 8-bit 绿色值为：

G_u8 = entity_slot × 32 + part_id
entity_slot = G_u8 // 32
part_id = G_u8 % 32

部位编号 1–17 对应骨盆、两级脊柱、颈、头、左右上臂/前臂/手、左右大腿/小腿/脚；18 表示武器。骨骼连线使用其子关节的部位编号。环境与空背景的 G 都为 0，需要结合其他通道区分。

高度、深度使用固定范围，不随每一帧自动缩放。令 clamp 将数值限制在 [0,1]：

h = clamp((world_height_metres + 8) / 40)
R_environment = 0.5 + 0.5 × h
R_skeleton_or_weapon = 0.2 × h
G = G_u8 / 255
B = 1 - clamp((camera_forward_depth_metres - 0.1) / (80 - 0.1))

这里的深度是相机前向的线性深度，不是 1/z，也不是到相机的欧氏距离。高度范围为 [-8,32] 米，深度范围为 [0.1,80] 米；超范围数值饱和。

RGB 与条件视频如何配对？

两路使用同一段记录的战斗状态：UE 根据状态渲染 RGB，脚本根据相同的骨骼、武器、相机和时间重建条件帧。不是分别自由运行两次战斗再靠时间猜测对齐。

• 同目录下 condition.mp4 的第 n 帧对应 rgb.mp4 的第 n 帧。
• 当前输出为 30 fps，输出帧 n 对应原始 60 fps 状态帧 2n，时间为 n/30 秒。
• pairs.jsonl 保存逐帧索引、时间、相机及状态校验信息；verification.json 保存导出时的视频检查结果。
• 对齐指状态、相机与时间一致，不意味着火柴人与精细角色的轮廓逐像素相同。

为什么采用这样的表示？

1. 保留动作，弱化外观。 通用关节和武器代理保留运动结构，减少条件对某一套服装、盔甲和角色网格的依赖，为后续换外观研究提供基础。
2. 同时表达动作与空间关系。 关节连线提供肢体方向，高度与深度补充远近和地面关系，粗场景提供遮挡与环境布局。
3. 让控制可以来自脚本。 训练时使用记录状态生成条件视频；推理端可以让实时脚本更新关节、武器、相机和场景，再按同一编码规范渲染条件视频，交给视觉模型。
4. 将信息集中在视频条件中。 这一路条件把几何与身份画进图像，可用于以视频为主要控制输入的 V2V 实验；状态文件另行保留，便于核验和重建。

以上是表示设计与研究目标。当前发布不包含训练好的生成模型，不代表已实现实时神经渲染、任意动作泛化或任意参考图换皮。 实时脚本条件的生成速度与生成模型的推理延迟是两件事。编码借鉴 Marionette 类几何条件的思路，但采用本项目的 17 关节、身份槽和固定范围，不应视为可直接输入上游模型的兼容格式。

文件组织

dataset.json                         # 实际发布片段索引
upload_integrity.json                # 上传前检查与缺失清单
identity_registry.json              # 实体身份、部位词表、参考槽
scene_proxy.json                    # 粗场景定义
capture_720p30_v1/                  # 本批导出/条件重建代码快照
session_..._clip_XXXX_.../
  rgb.mp4                           # UE 渲染目标
  condition.mp4                     # 几何编码条件
  states.npz                        # 关节、武器、根变换、相机等状态
  pairs.jsonl                       # 逐帧配对索引
  manifest.json / verification.json
  identity_registry.json / condition_profile.json / scene_proxy.json
  sample.json / binding_prompt.txt / scene_reference.png
  checks/                           # 抽样预览及 16-bit 编码检查数组
  source_take/                      # 可读取的原始骨骼、世界状态、输入日志

训练时从同一个片段、相同起止帧读取两路视频，使用一致的裁剪、缩放和时间采样。不要跨片段拼接训练窗口。需要划分训练/验证集时按片段划分，避免同一片段重叠窗口泄漏；本批单一战斗场景的片段划分也不能证明跨外观或跨场景泛化。

精度与适用边界

• condition.mp4：H.264 10-bit 4:4:4、CRF12、30 fps、full-range BT709。rgb.mp4：H.264、CRF16、30 fps。
• 条件 MP4 仍然是有损视频，不应直接从解码像素提取精确整数身份或无损深度。上述身份解码公式适用于编码前数值；压缩和边缘混合会改变像素值。
• 条件视频应按 full-range BT709 正确解码。不要施加颜色增强、自动曝光、逐帧归一化或未经约定的 sRGB 线性化；需要精确数值时使用保存状态和渲染器重建。
• 粗场景并非完整 UE 场景副本；条件不包含精细钟罩、衣物轮廓、完整碰撞体、全部特效或接触标记。被几何遮挡的骨骼不会自动透视显示。
• 参考图身份槽已预留，但本批玩家/BOSS 独立参考图槽为空，尚未接入训练后的图像身份绑定。身份槽本身不能保证模型知道该生成哪张参考图。
• 仓库提供的是数据与代码快照，不是可直接启动的完整 UE 游戏工程。

English summary

BOSSV2V contains 117 verified one-minute pairs of Unreal Engine BOSS battle RGB video and script-rendered geometric condition video, at 1280×720 / 30 fps. The pink scene and stick figures encode world height (R), persistent entity slot plus canonical body-part identity (G), and inverted normalized camera-forward depth (B). Conditions are reconstructed from the same recorded states and cameras as the RGB targets. Three pairs from the intended 120-minute collection are withheld for checksum failures. This release supports controllable V2V research; real-time neural rendering and appearance generalization have not been demonstrated by this dataset release.

新增：陨星兽 / 格密尔陨坑 2 小时

批次目录与说明：24 段 × 300 秒，48 个 720p30 配对视频，216000 对帧，附完整 60 Hz 原始动作/相机/控制记录。全部发布文件已通过远端哈希验证。独立追加批次，不含尚未完成的双 BOSS 数据。