FangSen9000

Add frame-annotated gloss files and documentation

875e074 2 months ago

raw

history blame contribute delete

6.65 kB

ASLLRP 数据集说明

数据概览

这个目录包含ASLLRP手语数据集的处理后数据：

2,108个 手语utterance（句子）视频
17,522个 sign（手语词）的精确标注
~470,000帧 视频帧和DWPose姿态估计

文件结构

huggingface_asllrp_repo/
├── ASLLRP_utterances_mapping.txt       # 每个视频对应的gloss序列（原始）
├── ASLLRP_utterances_with_frames.json  # 带帧号的gloss数据（JSON，推荐）★
├── ASLLRP_utterances_with_frames.txt   # 带帧号的gloss数据（可读文本）
├── ASLLRP_utterances_compact_frames.txt # 带帧号的gloss数据（紧凑格式）
├── asllrp_sentence_signs_2025_06_28.csv # 每个sign的精确时间和手型标注
├── ASLLRP_utterances_results/           # 处理后的视频和姿态数据
│   ├── 10006709/
│   │   ├── crop_frame/                  # 裁剪后的视频帧（JPG）
│   │   ├── crop_original_video.mp4      # 裁剪后的视频（24 FPS）
│   │   └── results_dwpose/npz/          # DWPose姿态估计（NPZ）
│   └── ...
├── ASLLRP_DATA_STRUCTURE.md            # 详细的数据结构说明
├── FPS_AND_FRAME_NUMBERS.md            # FPS和帧号转换说明
├── analyze_asllrp_data.py              # 数据分析脚本
├── query_asllrp_data.py                # 数据查询工具
└── generate_gloss_with_frames.py       # 生成带帧号的gloss数据

快速使用

1. 查询特定视频的信息

python query_asllrp_data.py --utterance 10006709

输出示例：

Utterance ID: 10006709
Gloss序列 (19个): THAT AMONG DIFFERENT KIND VARY ...
Utterance帧范围: 2400 - 2680 (总共280帧)

详细Signs列表:
序号  Gloss            原始视频帧范围    裁剪视频帧范围    类型
1     THAT             2409-2413 (4帧)   9-13              Lexical Signs
2     AMONG            2427-2432 (5帧)   27-32             Lexical Signs
...

2. 搜索特定的gloss

python query_asllrp_data.py --search THAT

3. 查看数据集统计

python query_asllrp_data.py --list

输出示例：

Mapping.txt中的utterances: 2108
CSV中的utterances: 2130
平均每个utterance: 8.0 个glosses

Sign类型分布:
  Lexical Signs: 14736
  Fingerspelled Signs: 1018
  Loan Signs: 581

4. 提取特定sign的信息

python query_asllrp_data.py --extract 10006709 THAT

数据说明

ASLLRP_utterances_mapping.txt

简单的utterance到gloss序列的映射：

10006709: THAT AMONG DIFFERENT KIND VARY BELONG MEAN ...

asllrp_sentence_signs_2025_06_28.csv

详细的sign级别标注（CSV格式），包含：

时间信息: Sign的开始/结束帧号
手型信息: 主手和副手的起始/结束手型
分类信息: Sign类型（Lexical Signs, Fingerspelled Signs等）

重要: CSV中的帧号是相对于原始视频的。如果使用裁剪视频，需要减去utterance的开始帧号。

ASLLRP_utterances_results/

每个视频的处理结果：

crop_frame/: ~224张裁剪后的JPG图片（每个视频的帧数不同）
crop_original_video.mp4: 裁剪后的视频文件
results_dwpose/npz/: DWPose姿态估计结果（每帧一个NPZ文件）

新增功能：带帧号的Gloss数据 ★

现在你可以直接使用 ASLLRP_utterances_with_frames.json 获取每个gloss词的精确帧号！

使用JSON文件（推荐）

import json

# 加载带帧号的gloss数据
with open('ASLLRP_utterances_with_frames.json', 'r') as f:
    data = json.load(f)

# 获取特定utterance的gloss和帧号
utterance = data['10006709']
print(f"总时长: {utterance['duration_seconds']} 秒")
print(f"总帧数: {utterance['total_frames_24fps']} 帧 (24fps)")

# 遍历每个gloss词
for gloss in utterance['glosses']:
    print(f"{gloss['gloss']}: "
          f"24fps[{gloss['start_24fps']}:{gloss['end_24fps']}] "
          f"持续{gloss['duration_24fps']}帧")

# 输出:
# THAT: 24fps[7:10] 持续3帧
# AMONG: 24fps[21:25] 持续4帧
# ...

使用紧凑文本格式

# 读取紧凑格式（每行一个utterance）
with open('ASLLRP_utterances_compact_frames.txt', 'r') as f:
    for line in f:
        utterance_id, glosses = line.strip().split(': ', 1)
        # 格式: GLOSS1|start-end GLOSS2|start-end ...
        gloss_pairs = glosses.split()
        for pair in gloss_pairs:
            gloss, frames = pair.split('|')
            start, end = frames.split('-')
            print(f"{gloss}: 帧{start}-{end}")

代码示例

提取utterance的所有signs（旧方法 - 需要FPS转换）

import csv

def get_signs(utterance_id):
    with open('asllrp_sentence_signs_2025_06_28.csv', 'r') as f:
        reader = csv.DictReader(f)
        for row in reader:
            if row['Utterance video filename'] == f"{utterance_id}.mp4":
                print(f"{row['Main entry gloss label']}: 帧{row['Start frame of the sign video']}-{row['End frame of the sign video']}")

get_signs("10006709")

新方法：直接使用带帧号的数据（推荐）

import json

def get_signs_with_frames(utterance_id):
    """获取utterance的所有signs及其24fps帧号（已转换）"""
    with open('ASLLRP_utterances_with_frames.json', 'r') as f:
        data = json.load(f)

    if utterance_id in data:
        for gloss in data[utterance_id]['glosses']:
            print(f"{gloss['gloss']}: "
                  f"帧{gloss['start_24fps']}-{gloss['end_24fps']} "
                  f"({gloss['duration_24fps']}帧, {gloss['sign_type']})")

get_signs_with_frames("10006709")

从裁剪视频中提取sign的帧

import cv2

def extract_sign(utterance_id, start_frame, end_frame):
    # 注意：需要转换为裁剪视频的帧号
    video_path = f"ASLLRP_utterances_results/{utterance_id}/crop_original_video.mp4"
    cap = cv2.VideoCapture(video_path)

    frames = []
    for frame_num in range(start_frame, end_frame + 1):
        cap.set(cv2.CAP_PROP_POS_FRAMES, frame_num)
        ret, frame = cap.read()
        if ret:
            frames.append(frame)

    cap.release()
    return frames

数据统计

项目	数量
Utterance视频	2,108-2,130
Sign标注	17,522
Lexical Signs	14,736 (84.1%)
Fingerspelled Signs	1,018 (5.8%)
平均每个utterance的glosses	8.0个
Gloss数量范围	2-30个

Datasets:

FangSen9000
/

ASLLRP_utterances_results