pretty_name: Radar and Depth Dataset
tags:
- radar
- depth
- multimodal
- human-activity-recognition
configs:
- config_name: depth_frames
data_files:
- split: train
path: data/depth_frames/*.parquet
- config_name: radar_frames
data_files:
- split: train
path: data/radar_frames/*.parquet
- config_name: radar_depth_joined
data_files:
- split: train
path: data/radar_depth_joined/*.parquet
- config_name: radar_video_grouped
data_files:
- split: train
path: data/radar_video_grouped/*.parquet
Radar and Depth Dataset
这是一个面向人体活动识别的多模态 Hugging Face Dataset 仓库,包含 depth 和 radar 两种模态。data/ 目录提供同一个 dataset 的四个 subset(不同 view)。
Parquet 文件只保存文件相对路径和从文件名解析出的 metadata,不保存原始 .npy 或 .mat 文件内容。
Subsets
| Subset | 文件 | 说明 |
|---|---|---|
depth_frames |
data/depth_frames/depthdata_index.parquet |
以单个 depth frame 为单位的索引视图 |
radar_frames |
data/radar_frames/radardata_index.parquet |
以单个 radar frame 为单位的索引视图 |
radar_depth_joined |
data/radar_depth_joined/radar_depth_joined.parquet |
以 radar frame 为主表、关联两个 depth frames 的帧级视图 |
radar_video_grouped |
data/radar_video_grouped/radar_video_grouped.parquet |
以 radar video 为单位、包含关联 depth frames 的视频级视图 |
旧的 depth-first depth_radar_joined view 已删除;radar-first radar_depth_joined 是公开 subset。
Usage
from datasets import load_dataset
repo_id = "YOUR_NAMESPACE/YOUR_DATASET"
depth_frames = load_dataset(repo_id, "depth_frames")
radar_frames = load_dataset(repo_id, "radar_frames")
radar_depth = load_dataset(repo_id, "radar_depth_joined")
radar_videos = load_dataset(repo_id, "radar_video_grouped")
每个 subset 当前提供一个 train split:
video = radar_videos["train"][0]
print(video)
Depth–radar relationship
Radar frame 和 depth frame 使用以下联合键建立关系:
recording_id + subject + activity + frame_index
每个 radar frame 必须精确对应两个具有不同 local_frame_index 的 depth frames,并且所有 depth frames 都必须有对应的 radar frame。
Schema overview
depth_frames
| Column | Description |
|---|---|
relative_path |
文件相对于 features/ 的路径 |
recording_id |
记录 ID |
sequence_name |
Depth 序列名称 |
activity |
活动类别 |
subject |
被试 ID |
frame_index |
全局 depth frame 序号 |
local_frame_index |
同一 frame 内的局部 depth frame 序号 |
文件名末尾的 5 位组合索引会拆分为前 4 位 frame_index 和最后 1 位 local_frame_index。例如,00082 解析为 frame_index=8、local_frame_index=2。
radar_frames
| Column | Description |
|---|---|
relative_path |
文件相对于 features/ 的路径 |
recording_id |
记录 ID |
sequence_name |
Radar 序列名称 |
activity |
活动类别 |
subject |
被试 ID |
snaplength |
Radar snap length |
format |
Radar 数据格式 |
win_size |
Window size |
win_stride |
Window stride |
frame_index |
Radar frame 序号 |
range_bin_index |
Range-bin 序号 |
entrophy |
文件名提供的 entrophy 数值 |
radar_depth_joined
每一行对应一个 radar frame,并通过 recording_id + subject + activity + frame_index 精确关联两个 depth frames。
| Column | Description |
|---|---|
recording_id |
记录 ID |
subject |
被试 ID |
activity |
活动类别 |
frame_index |
Radar 与 depth 共用的 frame 序号 |
radar_path |
Radar 文件相对路径 |
radar_sequence_name |
Radar 序列名称 |
radar_snaplength |
Radar snap length |
radar_format |
Radar 数据格式 |
radar_win_size |
Window size |
radar_win_stride |
Window stride |
radar_range_bin_index |
Range-bin 序号 |
radar_entrophy |
Entrophy 数值 |
depth_paths |
对应的两个 depth 文件路径 |
depth_sequence_names |
对应的两个 depth 序列名称 |
depth_local_frame_indexes |
对应的两个局部 depth frame 序号 |
每个 radar row 的三个 depth list 都必须包含恰好两个对齐元素。所有 radar frames 必须匹配两个 depth frames,所有 depth frames 也必须存在对应 radar frame。
radar_video_grouped
每一行对应一个 radar video。视频使用以下字段分组:
recording_id + subject + activity + range_bin_index
组内 radar frames 按 frame_index 升序排列。
| Column | Description |
|---|---|
recording_id |
记录 ID |
subject |
被试 ID |
activity |
活动类别 |
range_bin_index |
Range-bin 序号 |
radar_sequence_name |
Radar 序列名称 |
radar_snaplength |
Radar snap length |
radar_format |
Radar 数据格式 |
radar_win_size |
Window size |
radar_win_stride |
Window stride |
frame_count |
视频中的 radar frame 数量 |
frame_indexes |
按时间排序的 radar frame 序号列表 |
radar_paths |
按时间排序的 radar 文件路径列表 |
radar_entrophies |
按时间排序的 entrophy 列表 |
depth_paths |
二维 depth 路径列表,形状为 [radar_frame][depth_local_frame] |
depth_sequence_names |
二维 depth 序列名称列表 |
depth_local_frame_indexes |
二维局部 depth frame 序号列表 |
depth_paths[N]、depth_sequence_names[N]和depth_local_frame_indexes[N]对应frame_indexes[N]指向的 radar frame。每个内层 depth list 必须包含两条数据。
Repository layout
data/
├── depth_frames/
│ └── depthdata_index.parquet
├── radar_frames/
│ └── radardata_index.parquet
├── radar_depth_joined/
│ └── radar_depth_joined.parquet
└── radar_video_grouped/
└── radar_video_grouped.parquet
scripts/
├── npy_list_to_parquet.py
├── radar_list_to_parquet.py
├── join_radar_depth_parquet.py
└── group_radar_frames_to_videos.py
Rebuilding the subsets
./scripts/build_depthdata_index.sh
./scripts/build_radardata_index.sh
./scripts/build_radar_depth_joined.sh
./scripts/build_radar_video_grouped.sh
radar_depth_joined 既是公开 subset,也是生成 radar_video_grouped 的输入。运行前可以在各 shell 脚本中设置 HOME_PATH;默认值为当前目录 ./。