README_CN.md

metadata

license: cc-by-nc-sa-4.0

Daimon-Infinity

全球最大规模含触觉全模态物理世界数据集

🌐 语言： 中文 | English

针对当前具身智能领域在精细操作数据上的关键瓶颈，戴盟提出了Daimon-Infinity数据集。该项目将向全行业开源超过 10,000 小时的视觉-触觉-语言-动作（VTLA）多模态数据，旨在构建以触觉为核心的具身智能数据生态，推动机器人精细操作能力的突破与规模化发展。我们相信，大规模高质量的触觉数据将成为下一代具身智能系统发展的关键驱动力。

📢 更新

• [2026年4月15日] 🆕 Daimon-Infinity 数据集已经发布！🔥

📋 目录

• Daimon-Infinity 触觉操作数据集
  • 📢 更新
  • 📋 目录
  • ✨ 概述
  • 🤖 硬件平台
    • DM-DataClaw & DM-TacClaw
    • DM-DataDex
  • 🚀 数据模态
    • DM-DataClaw
  • 🛠️ 工具仓库
  • 🎬 任务与数据内容简介
    • 语义标签
    • 数据统计
  • 📦 数据集
    • 数据集目录结构
    • 数据格式
      • 主数据文件
      • 数据字段说明
      • Observation.state 维度说明（114维）
      • Action 维度说明（111维）
      • 占位值说明
      • 视频说明
      • 触觉视频说明
      • 音频说明
    • 元数据说明episodes_metadata.json
  • 💡 训练使用建议
  • 📥数据资源获取
    • 样例数据
  • 📋 数据交流群
  • 📝 引用
  • 📄 许可证

✨ 概述

我们现正式开源 Daimon-Infinity 数据集 的首批 1000 小时数据。其中，大部分数据由 DM-DataClaw 设备采集，少部分由 DM-DataDex 获取。两种设备均支持在真实环境中的去本体化数据采集，以提升数据的泛化能力与规模化采集效率。

🤖 硬件平台

DM-DataClaw & DM-TacClaw

DM-DataClaw 是一款新一代触觉 UMI 数据采集设备，在硬件设计与用户体验方面均进行了系统性升级：

• 结构设计 —— 采用轻量化机身与优化的人机工学设计，使操作更加便捷，同时在数据采集过程中为操作者提供更直接、稳定的触觉反馈。
• 交互系统 —— 集成耳机与麦克风、手机端小程序、双物理控制按钮以及状态指示灯，构建低延迟、直观且高效的人机交互流程。
• 多模态传感集成 —— 配备紧凑型广角鱼眼相机用于视觉感知，双目相机 + IMU 模块实现高精度空间轨迹跟踪，同时集成指尖高分辨率触觉传感器与夹爪位置编码器，实现完整的视觉-触觉-运动信息采集。

DM-TacClaw 是一款与 DM-DataClaw 同构设计的电动执行夹爪，可用于对基于 DM-DataClaw 数据训练的模型进行零样本或少样本部署验证与执行：

• 多模态感知一体化 —— 内置广角鱼眼相机覆盖操作视野，二指集成高分辨率视触觉传感器，实现视觉与触觉的深度融合感知，精准捕捉环境信息与接触细节。

• 性能与适用性兼顾 —— 具备100mm大行程与0.1mm定位精度，兼顾大范围抓取与精细操作需求，适用于多类型物体的稳定夹持与复杂任务执行。

• 系统同构与灵活控制 —— 鱼眼视角下的空间构型与无本体数采夹爪保持一致，支持模型快速迁移与验证；同时开放位置、速度、力矩等参数配置，实现高灵活度的运动控制与策略适配。

DM-DataDex

DM-DataDex 是一套基于外骨骼的多模态数据采集系统，专为高保真 VTLA（视觉-触觉-语言-动作）数据采集与灵巧操作任务而设计。不同于夹爪式方案，DM-DataDex 通过可穿戴外骨骼设备直接捕捉人手的运动与接触交互，并结合高密度多模态传感，实现面向具身智能的大规模、高精度数据采集。

• 形态结构 —— 采用可穿戴外骨骼设计，在数据采集过程中最大程度保留人手的自然运动学特性与操作自由度。
• 触觉感知 —— 指尖集成高分辨率触觉传感器，可捕捉形变（deformation）、剪切（shear）及接触几何等关键接触信息。
• 手部追踪 —— 基于外骨骼关节编码器获取高精度手指姿态，并结合手腕追踪器实现完整手部位姿重建。
• 视线与头部追踪 —— 通过 VR 头显提供第一人称视角图像、眼动信息以及 6 自由度头部位姿，实现人类感知对齐的数据采集。
• 第三视角采集 —— 外部相机结合空间追踪器，实现带位姿标定的场景级观测与多视角融合。

🚀 数据模态

DM-DataClaw

模态	传感器
RGB	手腕安装的广角鱼眼相机
触觉	指尖高分辨率触觉传感器
位姿	双目视觉 + IMU 空间追踪系统
夹爪状态	夹爪位置编码器
语言	自然语言任务标注

DM-DataDex

模态	传感器
RGB（第一视角）	VR 头显第一人称相机
RGB-D（第三视角）	外部相机（带空间追踪器）
触觉	指尖高分辨率触觉传感器
手部位姿	外骨骼关节编码器
手腕位姿	手腕安装的空间追踪器
视线与头部位姿	VR 头显（眼动追踪 + 6 自由度头部位姿）
第三视角位姿	外部相机搭载的空间追踪器
语言	自然语言任务标注

所有位姿追踪器（手腕、第三视角相机、VR 头显）均基于同一套空间追踪系统，实现跨模态的统一坐标系对齐与高精度时空同步。

🛠️ 工具仓库

我们提供了数据可视化，可视化所需的urdf请于assets文件夹获取 详细内容请见开源仓库：**Daimon-Infinity-Lite** 🔥

🎬 任务与数据内容简介

本数据集覆盖分拣、装配操作、抓取放置等多种场景，包含多模态观测（RGB、触觉形变/剪切/深度、关节状态等）与丰富的原子技能（如抓取、双手操作、工具使用等）。

语义标签

数据集采用规范标注方法，为每个任务提供子任务级别的时间轴与自然语言标注。

上图为样例任务，该样例展示了如何把一段完整的机器人操作视频，按照操作状态和阶段变化拆分成多个子任务。在这个例子里，机器人已经完成抓取，当前片段对应的是 transport 阶段，也就是在保持稳定抓持的前提下，将目标物体移动到新的位置。

通过该标注方法，一段原本较长且连续的操作过程，可以被组织成更清晰的阶段序列，便于浏览、标注、检索，以及用于后续的动作理解、阶段识别和操作学习。

每条数据配套多维度语义标签信息，包括：

• 物品标签：操作对象类别（如工具、零件、日用品等）
• 技能标签：原子操作类型（如抓取、放置、旋转、插入等）
• 任务与场景标识：任务编码与场景分类
• 末端类型：DataClaw夹爪
• 语言描述：自然语言任务描述

数据统计

基于累计约 1209 小时的数据，我们从操作对象、动作语义、任务层级、数据来源构成以及动作时长等多个维度对数据集进行了系统统计分析。下图依次展示了对象词云、动作词云、任务层级结构、DM-DataClaw 与 DM-DataDex 的数据来源占比，以及不同操作动作的时长分布，有助于直观理解数据集的覆盖广度、结构组成与长尾特征。

对象词云：展示数据集中操作对象的分布情况。

动作词云：展示原子技能与动作动词的分布情况。

任务层级结构：从动作到具体实例，展示数据集的多层次组织关系。

数据来源占比：展示 DM-DataClaw 与 DM-DataDex 在数据集中的组成比例。

_{动作时长分布：展示不同操作动作在数据集中的持续时间统计。}

统计结果表明，数据集同时覆盖了日常物品、工具、容器、食品等多类对象，以及 place、insert、cover、press、secure 等高频操作技能，适合用于多任务操作学习、技能泛化和语义条件控制等研究方向。

📦 数据集

数据集目录结构

DM-DataTac双手配置：

.
├── episodes_metadata.json          # 剧集元数据（含左右设备信息、采集者、标定等）
├── audio/                          # 音频数据（任务描述等）
│   └── observation.audio.audio_pre/
│       └── chunk-000/
│           └── file-000.mp3
├── data/                           # 主数据文件（Parquet格式）
│   └── chunk-000/
│       └── file-000.parquet
├── meta/                           # 元信息
│   ├── info.json                   # 数据集配置信息
│   ├── stats.json                  # 数据统计信息
│   ├── tasks.parquet               # 任务标注数据
│   └── episodes/                   # 分集元数据
└── videos/                         # 视频数据
    ├── observation.images.left_cam_left/        # 左侧相机 (1920x1080)
    ├── observation.images.right_cam_right/      # 右侧相机 (1920x1080)
    ├── observation.images.left_gripper_left_tactile/   # 左夹爪左侧触觉 (640x480)
    ├── observation.images.left_gripper_right_tactile/  # 左夹爪右侧触觉 (640x480)
    ├── observation.images.right_gripper_left_tactile/  # 右夹爪左侧触觉 (640x480)
    ├── observation.images.right_gripper_right_tactile/ # 右夹爪右侧触觉 (640x480)
    ├── observation.deformation.*_tactile/        # 触觉形变数据 (384x288)
    ├── observation.shear.*_tactile/              # 触觉剪切数据 (384x288)
    └── observation.depth.*_tactile/              # 触觉深度数据 (384x288)

DM-DataTac单手配置：

.
├── episodes_metadata.json          # 剧集元数据（含设备信息、采集者、标定等）
├── data/                           # 主数据文件（Parquet格式）
│   └── chunk-000/
│       └── file-000.parquet
├── meta/                           # 元信息
│   ├── info.json                   # 数据集配置信息
│   ├── stats.json                  # 数据统计信息
│   ├── tasks.parquet               # 任务标注数据
│   └── episodes/                   # 分集元数据
└── videos/                         # 视频数据
    ├── observation.images.cam_*/              # 左右侧相机 (1920x1080)
    ├── observation.images.gripper_left_tactile/   # 夹爪左侧触觉 (640x480)
    ├── observation.images.gripper_right_tactile/  # 夹爪右侧触觉 (640x480)
    ├── observation.deformation.gripper_*_tactile/ # 触觉形变数据 (384x288)
    ├── observation.shear.gripper_*_tactile/       # 触觉剪切数据 (384x288)
    └── observation.depth.gripper_*_tactile/       # 触觉深度数据 (384x288)

DM-DataDex配置：

.
├── data/                           # 主数据文件（Parquet格式）
│   └── chunk-000/
│       └── file-000.parquet
├── meta/                           # 元信息
│   ├── info.json                   # 数据集配置信息
│   ├── stats.json                  # 数据统计信息
│   ├── tasks.parquet               # 任务标注数据
│   └── episodes/                   # 分集元数据
└── videos/                         # 视频数据
    ├── observation.images.cam_headset.left_frame/       # 左眼相机 (640x480)
    ├── observation.images.cam_headset.right_frame/      # 右眼相机 (640x480)
    ├── observation.images.cam_third_view/                # 第三视角相机 (640x480)
    ├── observation.deformation.*_tactile/        # 触觉形变数据 (384x288)
    ├── observation.shear.*_tactile/              # 触觉剪切数据 (384x288)
    └── observation.depth.*_tactile/              # 触觉深度数据 (384x288)

数据格式

主数据文件

• 格式： Parquet
• 路径： data/chunk-xxx/file-xxx.parquet
• 视频文件： videos/{video_key}/chunk-xxx/file-xxx.mp4
• 元信息： meta/info.json

数据字段说明

每条 parquet 样本包含以下字段：

字段名	数据类型	形状	说明
observation.state	float32	[114]	机器人状态（含位姿、关节角度、IMU等）
action	float32	[111]	机器人遥操作动作指令
score	float32	[1]	录制回合评分
timestamp	float32	[1]	时间戳
frame_index	int64	[1]	帧索引
episode_index	int64	[1]	回合索引
index	int64	[1]	数据索引
task_index	int64	[1]	任务标注索引

Observation.state 维度说明（114维）

索引范围	维度名称	说明
1-7	left_x, left_y, left_z, left_qx, left_qy, left_qz, left_qw	左臂末端位姿（位置+四元数）
8-14	right_x, right_y, right_z, right_qx, right_qy, right_qz, right_qw	右臂末端位姿（位置+四元数）
15-21	head_x ~ head_qw	头部位姿
22-28	left_eye_x ~ left_eye_qw	左眼位姿
29-35	right_eye_x ~ right_eye_qw	右眼位姿
36-42	third_x ~ third_qw	第三视角位姿
43-49	arm_left_1 ~ arm_left_7	左臂关节角度
50-56	arm_right_1 ~ arm_right_7	右臂关节角度
57-58	head_pitch, head_yaw	头部关节
59-63	hip_pitch, hip_yaw, knee, left_wheel, right_wheel	底盘状态
64	gripper	夹爪状态
65-66	gripper_left, gripper_right	左右夹爪开合角度
67-102	finger0 ~ finger35	触觉/手指传感器数据（36维）
103-108	left_Acc_X/Y/Z, left_Gyro_X/Y/Z	左侧IMU数据
109-114	right_Acc_X/Y/Z, right_Gyro_X/Y/Z	右侧IMU数据

Action 维度说明（111维）

索引范围	维度名称	说明
1-7	left_x ~ left_qw	左臂末端目标位姿
8-14	right_x ~ right_qw	右臂末端目标位姿
15-21	head_x ~ head_qw	头部目标位姿
22-28	hip_x ~ hip_qw	底盘目标位姿
29-30	v, w	底盘线速度与角速度
31-37	left_eye_x ~ left_eye_qw	左眼目标位姿
38-44	right_eye_x ~ right_eye_qw	右眼目标位姿
45-51	third_x ~ third_qw	第三视角目标位姿
52-58	arm_left_1 ~ arm_left_7	左臂关节目标
59-65	arm_right_1 ~ arm_right_7	右臂关节目标
66-67	head_pitch, head_yaw	头部关节目标
68-72	hip_pitch, hip_yaw, knee, left_wheel, right_wheel	底盘关节/轮子目标
73	gripper	夹爪目标状态
74-75	gripper_left, gripper_right	左右夹爪目标开合角度
76-111	finger0 ~ finger35	触觉/手指控制目标（36维）

占位值说明

• 数值 9930 表示"占位/无效/未启用维度"
• 训练前建议将该值转换为 mask，不建议直接当作真实物理量参与归一化

视频说明

数据集包含多路视频流，根据配置不同有所差异：

dual_ugripper 配置：

视频键名	分辨率	说明	序列号示例
observation.images.left_cam_left	1920×1080	左侧相机	-
observation.images.right_cam_right	1920×1080	右侧相机	-
observation.images.left_gripper_left_tactile	640×480	左夹爪左侧触觉传感器	X25480083
observation.images.left_gripper_right_tactile	640×480	左夹爪右侧触觉传感器	X26040033
observation.images.right_gripper_left_tactile	640×480	右夹爪左侧触觉传感器	X26040206
observation.images.right_gripper_right_tactile	640×480	右夹爪右侧触觉传感器	X26040293

ugripper_right / ugripper_left 配置：

视频键名	分辨率	说明	序列号示例
observation.images.cam_*	1920×1080	左右侧相机	-
observation.images.gripper_left_tactile	640×480	夹爪左侧触觉传感器	X25510109
observation.images.gripper_right_tactile	640×480	夹爪右侧触觉传感器	X25480013

• RGB 视频（observation.images.*）示例编码：H.264，像素格式：yuv420p，帧率：30 FPS
• 触觉派生视频（observation.deformation.* / observation.shear.* / observation.depth.*）示例格式：mov + FFV1 + gbrp16le
• 具体编码与像素格式以实际发布数据为准

触觉视频说明

触觉视频包含 deformation（形变）/ shear（剪切）/ depth（深度）数据，存储为 mov 格式。 触觉数据已做 uint16 编码，解码时请还原。

音频说明

audio 文件夹包含采集者对任务的描述音频。

元数据说明episodes_metadata.json

分别记录左右来源、采集者和标定信息。

💡 训练使用建议

• 对 9930 占位维度做 mask 处理，不建议直接当作真实物理量参与归一化
• 仅对有效维度做标准化/归一化
• 按 episode_index + frame_index 进行时序对齐，视频与状态统一 fps=30
• 触觉数据已做 uint16 编码，解码时请还原为浮点数值
• dual_ugripper 配置注意左右数据同步与对齐

📥数据资源获取

• 公开平台： 本数据集将在 ModelScope 等主流平台公开发布，旨在为国内外开发者与研究工作提供便利。

样例数据

通过以下链接可以获取DM-DataClaw和DM-DataDex的分别1回合的样例数据: 👉 Daimon-Infinity-Lite

• DM-DataClaw sample
• DM-DataDex sample

📋 数据交流群

📝 引用

如在研究中使用本数据集，请根据所使用的平台选择以下对应引用方式：

DataClaw 数据集引用

@misc{tacclaw_infinity_2026,
  title  = {TacClaw-Infinity: A Large-Scale VTLA Demonstration Dataset for Dexterous Manipulation},
  author = {...},
  year   = {2026},
  note   = {Preprint forthcoming}
}

DataDex 数据集引用

@misc{tacexogaze_2026,
  title  = {TacExoGaze: A Human-Centric Glove Interface for Multi-View Vision-Tactile Data Collection in Dexterous Manipulation},
  author = {...},
  year   = {2026},
  note   = {Preprint forthcoming}
}

这些论文的终稿都将在arXiv上发布并且同步在此更新．

📄 许可证

本数据集中的数据和代码均遵循 CC BY-NC-SA-4.0 许可协议。