SignX/doc/README.md

# ASLLRP 数据集说明

## 数据概览

这个目录包含ASLLRP手语数据集的处理后数据：

- **2,108个** 手语utterance（句子）视频
- **17,522个** sign（手语词）的精确标注
- **~470,000帧** 视频帧和DWPose姿态估计

## 文件结构

```
huggingface_asllrp_repo/
├── ASLLRP_utterances_mapping.txt       # 每个视频对应的gloss序列（原始）
├── ASLLRP_utterances_with_frames.json  # 带帧号的gloss数据（JSON，推荐）★
├── ASLLRP_utterances_with_frames.txt   # 带帧号的gloss数据（可读文本）
├── ASLLRP_utterances_compact_frames.txt # 带帧号的gloss数据（紧凑格式）
├── asllrp_sentence_signs_2025_06_28.csv # 每个sign的精确时间和手型标注
├── ASLLRP_utterances_results/           # 处理后的视频和姿态数据
│   ├── 10006709/
│   │   ├── crop_frame/                  # 裁剪后的视频帧（JPG）
│   │   ├── crop_original_video.mp4      # 裁剪后的视频（24 FPS）
│   │   └── results_dwpose/npz/          # DWPose姿态估计（NPZ）
│   └── ...
├── ASLLRP_DATA_STRUCTURE.md            # 详细的数据结构说明
├── FPS_AND_FRAME_NUMBERS.md            # FPS和帧号转换说明
├── analyze_asllrp_data.py              # 数据分析脚本
├── query_asllrp_data.py                # 数据查询工具
└── generate_gloss_with_frames.py       # 生成带帧号的gloss数据
```

## 快速使用

### 1. 查询特定视频的信息

```bash
python query_asllrp_data.py --utterance 10006709
```

输出示例：
```
Utterance ID: 10006709
Gloss序列 (19个): THAT AMONG DIFFERENT KIND VARY ...
Utterance帧范围: 2400 - 2680 (总共280帧)

详细Signs列表:
序号  Gloss            原始视频帧范围    裁剪视频帧范围    类型
1     THAT             2409-2413 (4帧)   9-13              Lexical Signs
2     AMONG            2427-2432 (5帧)   27-32             Lexical Signs
...
```

### 2. 搜索特定的gloss

```bash
python query_asllrp_data.py --search THAT
```

### 3. 查看数据集统计

```bash
python query_asllrp_data.py --list
```

输出示例：
```
Mapping.txt中的utterances: 2108
CSV中的utterances: 2130
平均每个utterance: 8.0 个glosses

Sign类型分布:
  Lexical Signs: 14736
  Fingerspelled Signs: 1018
  Loan Signs: 581
```

### 4. 提取特定sign的信息

```bash
python query_asllrp_data.py --extract 10006709 THAT
```

## 数据说明

### ASLLRP_utterances_mapping.txt
简单的utterance到gloss序列的映射：
```
10006709: THAT AMONG DIFFERENT KIND VARY BELONG MEAN ...
```

### asllrp_sentence_signs_2025_06_28.csv
详细的sign级别标注（CSV格式），包含：
- **时间信息**: Sign的开始/结束帧号
- **手型信息**: 主手和副手的起始/结束手型
- **分类信息**: Sign类型（Lexical Signs, Fingerspelled Signs等）

**重要**: CSV中的帧号是相对于**原始视频**的。如果使用裁剪视频，需要减去utterance的开始帧号。

### ASLLRP_utterances_results/
每个视频的处理结果：
- `crop_frame/`: ~224张裁剪后的JPG图片（每个视频的帧数不同）
- `crop_original_video.mp4`: 裁剪后的视频文件
- `results_dwpose/npz/`: DWPose姿态估计结果（每帧一个NPZ文件）

## 新增功能：带帧号的Gloss数据 ★

现在你可以直接使用 **`ASLLRP_utterances_with_frames.json`** 获取每个gloss词的精确帧号！

### 使用JSON文件（推荐）

```python
import json

# 加载带帧号的gloss数据
with open('ASLLRP_utterances_with_frames.json', 'r') as f:
    data = json.load(f)

# 获取特定utterance的gloss和帧号
utterance = data['10006709']
print(f"总时长: {utterance['duration_seconds']} 秒")
print(f"总帧数: {utterance['total_frames_24fps']} 帧 (24fps)")

# 遍历每个gloss词
for gloss in utterance['glosses']:
    print(f"{gloss['gloss']}: "
          f"24fps[{gloss['start_24fps']}:{gloss['end_24fps']}] "
          f"持续{gloss['duration_24fps']}帧")

# 输出:
# THAT: 24fps[7:10] 持续3帧
# AMONG: 24fps[21:25] 持续4帧
# ...
```

### 使用紧凑文本格式

```python
# 读取紧凑格式（每行一个utterance）
with open('ASLLRP_utterances_compact_frames.txt', 'r') as f:
    for line in f:
        utterance_id, glosses = line.strip().split(': ', 1)
        # 格式: GLOSS1|start-end GLOSS2|start-end ...
        gloss_pairs = glosses.split()
        for pair in gloss_pairs:
            gloss, frames = pair.split('|')
            start, end = frames.split('-')
            print(f"{gloss}: 帧{start}-{end}")
```

## 代码示例

### 提取utterance的所有signs（旧方法 - 需要FPS转换）

```python
import csv

def get_signs(utterance_id):
    with open('asllrp_sentence_signs_2025_06_28.csv', 'r') as f:
        reader = csv.DictReader(f)
        for row in reader:
            if row['Utterance video filename'] == f"{utterance_id}.mp4":
                print(f"{row['Main entry gloss label']}: 帧{row['Start frame of the sign video']}-{row['End frame of the sign video']}")

get_signs("10006709")
```

### 新方法：直接使用带帧号的数据（推荐）

```python
import json

def get_signs_with_frames(utterance_id):
    """获取utterance的所有signs及其24fps帧号（已转换）"""
    with open('ASLLRP_utterances_with_frames.json', 'r') as f:
        data = json.load(f)

    if utterance_id in data:
        for gloss in data[utterance_id]['glosses']:
            print(f"{gloss['gloss']}: "
                  f"帧{gloss['start_24fps']}-{gloss['end_24fps']} "
                  f"({gloss['duration_24fps']}帧, {gloss['sign_type']})")

get_signs_with_frames("10006709")
```

### 从裁剪视频中提取sign的帧

```python
import cv2

def extract_sign(utterance_id, start_frame, end_frame):
    # 注意：需要转换为裁剪视频的帧号
    video_path = f"ASLLRP_utterances_results/{utterance_id}/crop_original_video.mp4"
    cap = cv2.VideoCapture(video_path)

    frames = []
    for frame_num in range(start_frame, end_frame + 1):
        cap.set(cv2.CAP_PROP_POS_FRAMES, frame_num)
        ret, frame = cap.read()
        if ret:
            frames.append(frame)

    cap.release()
    return frames
```

## 数据统计

| 项目 | 数量 |
|------|------|
| Utterance视频 | 2,108-2,130 |
| Sign标注 | 17,522 |
| Lexical Signs | 14,736 (84.1%) |
| Fingerspelled Signs | 1,018 (5.8%) |
| 平均每个utterance的glosses | 8.0个 |
| Gloss数量范围 | 2-30个 |

## 更多信息

详细的数据结构说明请参阅 [ASLLRP_DATA_STRUCTURE.md](ASLLRP_DATA_STRUCTURE.md)