---
pretty_name: Radar and Depth Dataset
tags:
  - radar
  - depth
  - multimodal
  - human-activity-recognition
configs:
  - config_name: depth_frames
    data_files:
      - split: train
        path: data/depth_frames/*.parquet
  - config_name: radar_frames
    data_files:
      - split: train
        path: data/radar_frames/*.parquet
  - config_name: radar_depth_joined
    data_files:
      - split: train
        path: data/radar_depth_joined/*.parquet
  - config_name: radar_video_grouped
    data_files:
      - split: train
        path: data/radar_video_grouped/*.parquet
---

# Radar and Depth Dataset

这是一个面向人体活动识别的多模态 Hugging Face Dataset 仓库，包含 depth 和 radar 两种模态。`data/` 目录提供同一个 dataset 的四个 subset（不同 view）。

Parquet 文件只保存文件相对路径和从文件名解析出的 metadata，不保存原始 `.npy` 或 `.mat` 文件内容。

## Subsets

| Subset | 文件 | 说明 |
| --- | --- | --- |
| `depth_frames` | `data/depth_frames/depthdata_index.parquet` | 以单个 depth frame 为单位的索引视图 |
| `radar_frames` | `data/radar_frames/radardata_index.parquet` | 以单个 radar frame 为单位的索引视图 |
| `radar_depth_joined` | `data/radar_depth_joined/radar_depth_joined.parquet` | 以 radar frame 为主表、关联两个 depth frames 的帧级视图 |
| `radar_video_grouped` | `data/radar_video_grouped/radar_video_grouped.parquet` | 以 radar video 为单位、包含关联 depth frames 的视频级视图 |

旧的 depth-first `depth_radar_joined` view 已删除；radar-first `radar_depth_joined` 是公开 subset。

## Usage

```python
from datasets import load_dataset

repo_id = "YOUR_NAMESPACE/YOUR_DATASET"

depth_frames = load_dataset(repo_id, "depth_frames")
radar_frames = load_dataset(repo_id, "radar_frames")
radar_depth = load_dataset(repo_id, "radar_depth_joined")
radar_videos = load_dataset(repo_id, "radar_video_grouped")
```

每个 subset 当前提供一个 `train` split：

```python
video = radar_videos["train"][0]
print(video)
```

## Depth–radar relationship

Radar frame 和 depth frame 使用以下联合键建立关系：

```text
recording_id + subject + activity + frame_index
```

每个 radar frame 必须精确对应两个具有不同 `local_frame_index` 的 depth frames，并且所有 depth frames 都必须有对应的 radar frame。

## Schema overview

### `depth_frames`

| Column | Description |
| --- | --- |
| `relative_path` | 文件相对于 `features/` 的路径 |
| `recording_id` | 记录 ID |
| `sequence_name` | Depth 序列名称 |
| `activity` | 活动类别 |
| `subject` | 被试 ID |
| `frame_index` | 全局 depth frame 序号 |
| `local_frame_index` | 同一 frame 内的局部 depth frame 序号 |

文件名末尾的 5 位组合索引会拆分为前 4 位 `frame_index` 和最后 1 位 `local_frame_index`。例如，`00082` 解析为 `frame_index=8`、`local_frame_index=2`。

### `radar_frames`

| Column | Description |
| --- | --- |
| `relative_path` | 文件相对于 `features/` 的路径 |
| `recording_id` | 记录 ID |
| `sequence_name` | Radar 序列名称 |
| `activity` | 活动类别 |
| `subject` | 被试 ID |
| `snaplength` | Radar snap length |
| `format` | Radar 数据格式 |
| `win_size` | Window size |
| `win_stride` | Window stride |
| `frame_index` | Radar frame 序号 |
| `range_bin_index` | Range-bin 序号 |
| `entrophy` | 文件名提供的 entrophy 数值 |

### `radar_depth_joined`

每一行对应一个 radar frame，并通过 `recording_id + subject + activity + frame_index` 精确关联两个 depth frames。

| Column | Description |
| --- | --- |
| `recording_id` | 记录 ID |
| `subject` | 被试 ID |
| `activity` | 活动类别 |
| `frame_index` | Radar 与 depth 共用的 frame 序号 |
| `radar_path` | Radar 文件相对路径 |
| `radar_sequence_name` | Radar 序列名称 |
| `radar_snaplength` | Radar snap length |
| `radar_format` | Radar 数据格式 |
| `radar_win_size` | Window size |
| `radar_win_stride` | Window stride |
| `radar_range_bin_index` | Range-bin 序号 |
| `radar_entrophy` | Entrophy 数值 |
| `depth_paths` | 对应的两个 depth 文件路径 |
| `depth_sequence_names` | 对应的两个 depth 序列名称 |
| `depth_local_frame_indexes` | 对应的两个局部 depth frame 序号 |

每个 radar row 的三个 depth list 都必须包含恰好两个对齐元素。所有 radar frames 必须匹配两个 depth frames，所有 depth frames 也必须存在对应 radar frame。

### `radar_video_grouped`

每一行对应一个 radar video。视频使用以下字段分组：

```text
recording_id + subject + activity + range_bin_index
```

组内 radar frames 按 `frame_index` 升序排列。

| Column | Description |
| --- | --- |
| `recording_id` | 记录 ID |
| `subject` | 被试 ID |
| `activity` | 活动类别 |
| `range_bin_index` | Range-bin 序号 |
| `radar_sequence_name` | Radar 序列名称 |
| `radar_snaplength` | Radar snap length |
| `radar_format` | Radar 数据格式 |
| `radar_win_size` | Window size |
| `radar_win_stride` | Window stride |
| `frame_count` | 视频中的 radar frame 数量 |
| `frame_indexes` | 按时间排序的 radar frame 序号列表 |
| `radar_paths` | 按时间排序的 radar 文件路径列表 |
| `radar_entrophies` | 按时间排序的 entrophy 列表 |
| `depth_paths` | 二维 depth 路径列表，形状为 `[radar_frame][depth_local_frame]` |
| `depth_sequence_names` | 二维 depth 序列名称列表 |
| `depth_local_frame_indexes` | 二维局部 depth frame 序号列表 |

> [!IMPORTANT]
> `depth_paths[N]`、`depth_sequence_names[N]` 和 `depth_local_frame_indexes[N]` 对应 `frame_indexes[N]` 指向的 radar frame。每个内层 depth list 必须包含两条数据。

## Repository layout

```text
data/
├── depth_frames/
│   └── depthdata_index.parquet
├── radar_frames/
│   └── radardata_index.parquet
├── radar_depth_joined/
│   └── radar_depth_joined.parquet
└── radar_video_grouped/
    └── radar_video_grouped.parquet

scripts/
├── npy_list_to_parquet.py
├── radar_list_to_parquet.py
├── join_radar_depth_parquet.py
└── group_radar_frames_to_videos.py
```

## Rebuilding the subsets

```bash
./scripts/build_depthdata_index.sh
./scripts/build_radardata_index.sh
./scripts/build_radar_depth_joined.sh
./scripts/build_radar_video_grouped.sh
```

`radar_depth_joined` 既是公开 subset，也是生成 `radar_video_grouped` 的输入。运行前可以在各 shell 脚本中设置 `HOME_PATH`；默认值为当前目录 `./`。