license: cc-by-4.0
Mirror of GemingOne/droid-atomic-actions from ModelScope. All credit to the original authors. Not an official release from them. License unchanged (cc-by-4.0).
DROID Atomic Actions — 原子动作标注（动词+名词，588,151 段）
对 DROID（r2d2_faceblur 源）的全量细粒度原子动作标注：把 94,030 条机器人操作轨迹
按夹爪开合事件 + 末端执行器减速边界切分为 588,151 个原子段，每段标注一个
动词 + 名词 标签（封闭 27 词表），如 pick cup、open drawer、approach knob。
标注体系参照 Qwen-RobotManip（arXiv 2606.17846）的原子动作 taxonomy 并做了两项扩展： 移动类拆成 approach/pick/move/place 四相；引入邻段上下文帧消歧 approach 的宾语。
目录结构
annotations/
labels.jsonl # 588,151 条标注（每段一条）
segments.jsonl # 段定义：时间区间、切分信号、上下文元数据
meta/
tasks.jsonl # task_index -> 任务语言描述（31,306 条）
source/ # （可选镜像）LeRobot v2.1 格式源数据集
vla-lerobot-v2.1-94030-fps10/{meta,data,videos}
对应关系（labels ↔ 源数据）
seg_id 形如 droid/ep{E:06d}#s{K:02d}，其中 E = LeRobot episode_index：
| 要找 | 位置 |
|---|---|
| 低维数据（state/action） | source/.../data/chunk-{E//1000:03d}/episode_{E:06d}.parquet |
| 三路相机视频 | source/.../videos/chunk-{E//1000:03d}/{video_key}/episode_{E:06d}.mp4 |
| 段的帧范围 | segments.jsonl 的 [step_start, step_end)（10fps；parquet 第 i 行 ≙ 视频第 i 帧，严格 1:1） |
| 任务语言 | segments.jsonl 的 task_index → meta/tasks.jsonl |
三个 video_key：observation.images.observation.images.{exterior_image_1_left, exterior_image_2_left, wrist_image_left}（320×180 @10fps）。
labels.jsonl 字段
{"seg_id": "droid/ep000004#s01",
"label": {"verb": "pick", "object": "block", "verb_type": "pick", "confidence": "high"},
"model": "gpt-5.6-luna", "prompt_version": "2e05fa7e", "ts": 1784460000,
"usage": {"in": 5489, "out": 156, "cached": 3840}}
verb == verb_type，取值严格限于下方 27 词表；object为单个小写英文名词。confidence：high 79.9% / medium 19.9% / low 0.2%。
segments.jsonl 字段
seg_id, episode_id, seg_index, n_segments, step_start, step_end, n_steps_ep, gripper_state(open|closed), end_event(close|open|null), phase(travel|terminal|null), instruction, task_index, frame_steps, frames。
- 切分规则：夹爪从开到合 = 一次抓取相位结束；从合到开 = 一次放置相位结束； 在每个夹爪相位内再用 EEF 速度的"行进/减速"边界拆出 travel/terminal 子段 （对应 approach|pick 与 move|place）。
frames里的路径是构建机的本地产物，公开数据中请忽略；采样规则为段内 0/33/67/100% 四个时刻（frame_steps给出确切帧号），可据此从源视频重建。
27 类封闭动词表
移动四相：approach pick move place；操作类：flip rotate toggle open close push pull insert press click strike；人手/装配扩展：attach detach pour wipe stir fold unfold braid unbraid；特殊：handover retract none。
分布（top）：pick 136,804 / approach 125,674 / place 116,135 / move 105,415 / retract 75,037 / open 5,991 / close 4,329 / push 3,766 / insert 3,066 / rotate 2,230 …
标注方法
- 标注模型：gpt-5.6-luna（多模态），每段输入段内 4 时刻 × 3 视角帧 + 前段末时刻、 后段首末时刻的上下文帧（共 ≤18 帧）+ 夹爪/速度机械提示。
- 关键约束：
approach X仅当后续上下文中手爪真正接触 X 才成立；宾语必须是被交互 物体，禁止旁观物体；无交互段标 retract/none。 - 输出经封闭词表校验 + 失败自动修复重试；全部 588,151 段零失败。
许可与致谢
- 标注（annotations/）：CC-BY-4.0。
- 源数据：DROID（CC-BY-4.0），引用 Khazatsky et al., DROID: A Large-Scale In-The-Wild Robot Manipulation Dataset, 2024。本仓库中的 source/ 为其 r2d2_faceblur 变体的 LeRobot v2.1 格式导出（坐标映射至 droid_single_arm_left， 重采样 10fps）。
- 动词体系参照：Qwen-RobotManip Technical Report, arXiv 2606.17846。