fall / PLAN.md
minhy112's picture
Upload project files excluding raw data folder
ae419ed verified
|
Raw
History Blame Contribute Delete
27.1 kB

Dưới đây là kế hoạch hoàn chỉnh phiên bản mạnh hơn cho paper phát hiện té ngã, có dataset link, mô tả dataset, method lấy từ các paper khác, proposed method, thí nghiệm, bảng kết quả và lộ trình chạy.

1. Hướng paper chốt

Tên paper đề xuất

DynaFall: Robust Skeleton-Based Fall Detection via Keypoint Dynamics and Graph-Based Benchmarking

Tên này tốt hơn tên cũ vì nó thể hiện 2 điểm:

  1. model riêng: DynaFall.
  2. benchmark với các method mạnh từ paper khác: ST-GCN, 2s-AGCN, CTR-GCN, PoseC3D, TCNTE-style.

Ý tưởng chính:

RGB Video
→ YOLO Pose
→ 17-keypoint skeleton sequence
→ Joint / Bone / Dynamics features
→ Compare with strong skeleton methods
→ Proposed DynaFall-GCN
→ Fall / Non-fall

Paper sẽ không còn đơn giản là “dùng CNN/LSTM/Transformer để phân loại té ngã”, mà thành:

Một framework phát hiện té ngã dựa trên skeleton, chạy lại các method skeleton action recognition mạnh trên cùng dataset, sau đó đề xuất model chuyên biệt cho fall detection bằng keypoint dynamics và confidence-aware dropout.


2. Dataset dùng trong paper

Tôi khuyên dùng 2 dataset chính + 1 dataset backup/extension.

Dataset chính 1: UR Fall Detection Dataset — URFD

Link dataset: UR Fall Detection Dataset. (Fenix)

Mô tả: URFD gồm 70 sequences, trong đó có 30 fall sequences40 activities of daily living — ADL sequences. Fall events được ghi bằng 2 Microsoft Kinect cameras kèm dữ liệu accelerometer; ADL events được ghi bằng camera 0 và accelerometer. (Fenix)

Vì sao nên dùng:

  • Nhỏ, dễ chạy nhanh.
  • Rất phổ biến trong fall detection.
  • Phù hợp để debug pipeline trước.
  • Có RGB video để trích xuất YOLO pose.

Vai trò trong paper:

Dataset kiểm tra nhanh + benchmark chính.

Dataset chính 2: Multiple Cameras Fall Dataset — MCFD

Link dataset: Multiple Cameras Fall Dataset. (Iro Montéal)

Mô tả: MCFD có 24 scenarios được ghi bằng 8 IP video cameras. 22 scenarios đầu chứa fall và các sự kiện gây nhầm lẫn; 2 scenarios cuối chỉ chứa các sự kiện gây nhầm lẫn. (Iro Montéal)

Vì sao nên dùng:

  • Có nhiều góc camera.
  • Phù hợp để kiểm tra robustness.
  • Paper nhìn mạnh hơn URFD-only.
  • Có các tình huống dễ gây nhầm: ngồi, cúi, nằm, chuyển động gần giống fall.

Vai trò trong paper:

Dataset kiểm tra multi-view + robustness.

Dataset backup/extension: UP-Fall Detection Dataset

Link dataset: UP-Fall / Challenge UP data page. (Google Sites)

Mô tả: Trang Challenge UP mô tả UP-Fall là dataset lớn cho fall detection, gồm 11 activities, 3 trials per activity, thực hiện bởi 12 subjects, bao gồm 6 hoạt động hằng ngày và 5 kiểu té ngã, thu bằng wearable sensors, ambient sensors và vision devices. (Google Sites) Paper gốc về UP-Fall cũng nhấn mạnh đây là dataset multimodal cho fall detection và human activity recognition. (MDPI)

Khi nào dùng:

  • Nếu MCFD tải khó hoặc xử lý annotation khó.
  • Nếu muốn paper mạnh hơn và có thêm dataset thứ 3.
  • Nếu muốn hướng “multimodal dataset nhưng chỉ dùng RGB-derived pose”.

Khuyến nghị thực tế: Paper 8 trang cho hội nghị Q4 thì dùng URFD + MCFD là đủ. UP-Fall để backup.


3. Dataset protocol chốt

Trong paper ghi rõ:

Although some datasets provide depth, accelerometer, or multimodal signals, this study only uses RGB videos to extract human skeleton keypoints. This ensures a consistent vision-based evaluation protocol across all datasets.

Tức là:

Dataset Dữ liệu gốc có gì Mình dùng gì
URFD RGB, depth, accelerometer Chỉ RGB → YOLO Pose
MCFD Multi-camera RGB video RGB → YOLO Pose
UP-Fall nếu dùng wearable, ambient, vision Chỉ RGB/vision → YOLO Pose

Điểm này rất quan trọng để reviewer thấy so sánh công bằng.


4. Proposed method

Tên model

DynaFall-GCN

Ý tưởng

Model của mình không chỉ dùng skeleton thô, mà có 3 stream:

Stream 1: Joint stream
- x, y, confidence của 17 keypoints

Stream 2: Bone stream
- vector xương giữa các keypoints

Stream 3: Dynamics stream
- velocity
- acceleration
- torso angle
- hip drop
- body aspect ratio
- center-of-body motion

Sau đó dùng:

Graph-temporal encoder
+ confidence-aware keypoint dropout
+ classification head

5. Pipeline tổng thể

Input RGB Video
    ↓
Frame Sampling
T = 32 frames
    ↓
YOLOv8/YOLO11 Pose Extraction
17 COCO keypoints per frame
    ↓
Pose Normalization
bbox-centered normalization
    ↓
Feature Construction
joint + bone + dynamics
    ↓
Comparative Methods
ST-GCN / 2s-AGCN / CTR-GCN / PoseC3D / TCNTE-style
    ↓
Proposed DynaFall-GCN
joint stream + bone stream + dynamics stream
    ↓
Robustness Evaluation
missing keypoints / lower-body occlusion / low-confidence mask
    ↓
Fall / Non-fall Prediction

6. Các method từ paper khác để chạy lại

Đây là phần giúp paper “hay hơn” và không bị đơn giản.

6.1 LSTM baseline

Dùng để kiểm tra sequence baseline.

Input:

32 frames × 17 keypoints × 3
→ flatten
→ 32 × 51

Vai trò:

Basic temporal baseline.

6.2 ST-GCN

Paper: Spatial Temporal Graph Convolutional Networks for Skeleton-Based Action Recognition, AAAI 2018.

ST-GCN mô hình hóa skeleton như một graph không-thời gian, trong đó keypoints là nodes, bones là edges, và mô hình học cả quan hệ không gian giữa khớp và quan hệ thời gian giữa frames. (AAAI Publications)

Áp dụng vào paper:

Input: N × C × T × V × M
C = 3
T = 32
V = 17
M = 1
Output = Fall / Non-fall

Vai trò:

Classic graph-based skeleton baseline.

6.3 2s-AGCN

Paper: Two-Stream Adaptive Graph Convolutional Networks for Skeleton-Based Action Recognition, CVPR 2019.

2s-AGCN mạnh hơn ST-GCN vì graph topology có thể được học thích nghi, không cố định hoàn toàn. Method này cũng dùng hai stream: joint streambone stream, trong đó bone stream chứa thông tin độ dài và hướng xương. (arXiv)

Áp dụng:

Joint stream: keypoint coordinates
Bone stream: bone vectors
Final prediction: score fusion

Vai trò:

Adaptive graph + bone information baseline.

6.4 CTR-GCN

Paper: Channel-wise Topology Refinement Graph Convolution for Skeleton-Based Action Recognition, ICCV 2021.

CTR-GCN học graph topology theo từng channel, giúp mô hình học các quan hệ khớp khác nhau cho từng loại feature. Đây là một baseline GCN mạnh cho skeleton action recognition. (arXiv)

Áp dụng:

Input: joint + bone skeleton sequence
Graph: COCO 17-keypoint topology
Output: Fall / Non-fall

Vai trò:

Strong graph-based baseline.

6.5 PoseC3D / PoseConv3D

Paper: Revisiting Skeleton-based Action Recognition, CVPR 2022.

PoseC3D/PoseConv3D không dùng graph sequence trực tiếp, mà chuyển pose thành 3D heatmap volume. Paper gốc cho rằng cách này hiệu quả hơn trong học spatiotemporal features, robust hơn với pose estimation noise và generalize tốt hơn trong cross-dataset settings. (CVF Open Access)

Áp dụng:

YOLO keypoints
→ 3D pose heatmap volume
→ 3D CNN
→ Fall / Non-fall

Vai trò:

Heatmap-based skeleton baseline.

6.6 TCNTE-style

Paper: Real-time skeleton-based fall detection algorithm based on Temporal Convolutional Networks and Transformer Encoder, 2025.

TCNTE kết hợp Temporal Convolutional Network với Transformer Encoder cho fall detection thời gian thực, dùng YOLOv8 pose extraction, BoT-SORT tracking, và weighted focal loss để xử lý mất cân bằng lớp. (ScienceDirect)

Áp dụng:

TCN + Transformer Encoder
Input: skeleton sequence
Loss: weighted focal loss
Output: Fall / Non-fall

Vai trò:

Recent fall-specific temporal baseline.

7. Bảng method chính trong paper

Nên đưa bảng này vào phần Experimental Setup.

Method Loại Nguồn gốc Input Vai trò
LSTM Sequence model baseline phổ biến joint sequence baseline cơ bản
ST-GCN Graph-based AAAI 2018 joint graph skeleton baseline kinh điển
2s-AGCN Adaptive GCN CVPR 2019 joint + bone baseline mạnh hơn ST-GCN
CTR-GCN Refined GCN ICCV 2021 joint + bone strong GCN baseline
PoseC3D Heatmap 3D CNN CVPR 2022 pose heatmap khác hướng GCN
TCNTE-style TCN + Transformer fall detection 2025 skeleton sequence fall-specific baseline
DynaFall-GCN Proposed ours joint + bone + dynamics model chính

8. Điểm mới của DynaFall-GCN so với các method kia

Thành phần ST-GCN 2s-AGCN CTR-GCN PoseC3D TCNTE DynaFall-GCN
Joint stream Heatmap
Bone stream Không Không trực tiếp Không rõ
Velocity/Acceleration Không Không Không Không trực tiếp Có thể có motion temporal Có rõ
Torso angle Không Không Không Không Không
Hip drop Không Không Không Không Không
Body aspect ratio Không Không Không Không Không
Confidence-aware dropout Không Không Không Không Không rõ
Robustness test missing keypoints Không bắt buộc Không bắt buộc Không bắt buộc Có thể robust Không bắt buộc

Thông điệp chính:

Các method skeleton action recognition mạnh học action nói chung, còn DynaFall-GCN đưa thêm fall-specific dynamics và robustness training để phù hợp hơn với bài toán té ngã.


9. Chi tiết xử lý dữ liệu

Step 1: Download dataset

Tải:

  1. URFD từ trang chính thức. (Fenix)
  2. MCFD từ trang dataset của Université de Montréal. (Iro Montéal)
  3. UP-Fall chỉ dùng nếu cần backup hoặc mở rộng. (Google Sites)

Step 2: Chuẩn hóa thư mục

fall_project/
├── data/
│   ├── raw/
│   │   ├── URFD/
│   │   ├── MCFD/
│   │   └── UPFall_optional/
│   ├── poses/
│   ├── clips/
│   └── splits/
├── src/
├── configs/
├── results/
└── paper/

Step 3: Trích xuất pose

Dùng:

YOLOv8n-pose hoặc YOLO11n-pose

Output mỗi frame:

17 keypoints × 3
x, y, confidence

Nếu có nhiều người trong frame:

Chọn người có bbox lớn nhất.

Lý do:

Fall datasets thường chỉ có một subject chính.

Step 4: Normalize keypoints

Với mỗi frame:

x_norm = (x - bbox_center_x) / bbox_width
y_norm = (y - bbox_center_y) / bbox_height
confidence giữ nguyên

Output:

T × 17 × 3

Trong đó:

T = 32 frames

Step 5: Tạo clip

Dùng:

clip length = 32 frames
stride = 16

Nếu video ngắn:

uniform sampling hoặc padding frame cuối

Quan trọng:

Chia train/val/test theo video trước, rồi mới tạo clip.
Không random clip trực tiếp vì sẽ leak dữ liệu.

10. Feature engineering cho proposed model

10.1 Joint features

x, y, confidence

Shape:

32 × 17 × 3

10.2 Bone features

Dựa trên COCO skeleton edges:

bone_vector = child_joint - parent_joint

Các cạnh chính:

nose-eye-ear
shoulder-elbow-wrist
shoulder-hip
hip-knee-ankle
left-right shoulder
left-right hip

Shape:

32 × 17 × 3

10.3 Dynamics features

Tạo thêm:

velocity = p_t - p_{t-1}
acceleration = v_t - v_{t-1}
torso angle
hip drop
body aspect ratio
center-of-body velocity

Fall thường có:

torso angle thay đổi nhanh
hip y-coordinate tụt nhanh
bbox height/width thay đổi
center-of-body velocity lớn

Đây là điểm giúp model chuyên biệt cho fall detection.


11. Mô hình DynaFall-GCN

Kiến trúc đề xuất

Input skeleton sequence
    ↓
Confidence-aware keypoint dropout
    ↓
Joint GCN branch
    ↓
Bone GCN branch
    ↓
Dynamics temporal branch
    ↓
Feature fusion
    ↓
MLP classifier
    ↓
Fall / Non-fall

Chi tiết 3 branch

Branch 1: Joint GCN

Học quan hệ giữa các khớp.

Input: normalized joint coordinates
Encoder: lightweight ST-GCN / graph-temporal block

Branch 2: Bone GCN

Học hướng và độ thay đổi của xương.

Input: bone vectors
Encoder: graph-temporal block

Branch 3: Dynamics branch

Học các đặc trưng rơi.

Input: velocity, acceleration, torso angle, hip drop, aspect ratio
Encoder: TCN + attention pooling

Fusion

f = concat(f_joint, f_bone, f_dyn)
logits = MLP(f)

12. Confidence-aware keypoint dropout

Đây là điểm mới dễ viết.

Ý tưởng

Trong thực tế, pose estimator có thể mất keypoint do:

che khuất
camera góc xấu
người nằm sát sàn
motion blur

Do đó, khi train, mình chủ động mask keypoints.

Cách làm

Nếu confidence thấp:

conf < 0.3

thì xác suất bị mask cao hơn.

Ví dụ:

high-confidence keypoint: mask probability = 0.1
low-confidence keypoint: mask probability = 0.5

Khi mask:

x = 0
y = 0
confidence = 0
velocity = 0
acceleration = 0

13. Thí nghiệm cần chạy

Experiment 1: Main comparison

Chạy tất cả method trên từng dataset.

URFD train/test
MCFD train/test

Bảng:

Method URFD Acc URFD Recall URFD F1 MCFD Acc MCFD Recall MCFD F1
LSTM
ST-GCN
2s-AGCN
CTR-GCN
PoseC3D
TCNTE-style
DynaFall-GCN

Experiment 2: Ablation study

Chỉ chạy trên model của mình.

Variant Joint Bone Dynamics Dropout F1 Recall
A1
A2
A3
A4 Random dropout
A5 Confidence-aware dropout

Mục tiêu:

Bone giúp tăng F1.
Dynamics giúp tăng Recall.
Confidence-aware dropout giúp robustness tốt hơn.

Experiment 3: Robustness under missing keypoints

Tạo test set bị mất keypoint:

Clean
Missing-10
Missing-20
Missing-30
Upper-body missing
Lower-body missing
Low-confidence masking

Bảng:

Method Clean F1 Missing-10 Missing-20 Missing-30 Lower-body missing
ST-GCN
2s-AGCN
CTR-GCN
PoseC3D
TCNTE-style
DynaFall-GCN

Đây là bảng nên nhấn mạnh trong paper.


Experiment 4: Cross-dataset generalization

Train URFD → Test MCFD
Train MCFD → Test URFD

Bảng:

Train Test ST-GCN 2s-AGCN CTR-GCN PoseC3D TCNTE-style Ours
URFD MCFD
MCFD URFD

Nếu kết quả thấp cũng không sao. Cross-dataset thường khó. Chỉ cần proposed giảm ít hơn baseline.


Experiment 5: Runtime / Efficiency

Báo cáo:

Parameters
FLOPs nếu tính được
Inference time per clip
FPS

Bảng:

Method Params FPS F1
ST-GCN
CTR-GCN
PoseC3D
TCNTE-style
DynaFall-GCN

14. Metrics bắt buộc

Dùng:

Accuracy
Precision
Recall / Sensitivity
Specificity
F1-score
Macro-F1
FPS

Trong fall detection, cần nhấn mạnh:

Recall quan trọng hơn Accuracy vì bỏ sót fall nguy hiểm hơn báo nhầm.

15. Training setup

Split

Nếu dataset nhỏ:

5-fold cross-validation

Nếu muốn nhanh:

70% train
15% validation
15% test

Nhưng phải là:

video-level split

không phải frame-level split.

Seeds

Tối thiểu:

7, 13, 21

Tốt hơn:

7, 13, 21, 42, 100

Hyperparameters gợi ý

Setting Value
Clip length 32
Stride 16
Batch size 16 hoặc 32
Epochs 80–100
Optimizer AdamW
Learning rate 1e-3 hoặc 5e-4
Weight decay 1e-4
Early stopping patience 10
Loss CrossEntropy / Weighted Focal Loss

16. Cấu trúc paper 8 trang

Title

DynaFall: Robust Skeleton-Based Fall Detection via Keypoint Dynamics and Graph-Based Benchmarking

Abstract

Nêu 5 ý:

fall detection quan trọng
RGB-based methods có privacy/computation issue
skeleton-based methods nhẹ hơn nhưng dễ bị pose noise
paper benchmark các skeleton methods mạnh
đề xuất DynaFall-GCN với dynamics + confidence-aware dropout

1. Introduction

Flow:

Fall detection quan trọng cho elderly care
Wearable sensors bất tiện, RGB video có privacy concern
Skeleton/keypoints là hướng nhẹ và privacy-preserving
Gap: nhiều bài chỉ so baseline đơn giản, ít benchmark method GCN/PoseC3D mạnh trên fall datasets
Gap: ít kiểm thử robustness khi mất keypoint
Contribution

2. Related Work

Chia 4 phần:

2.1 Vision-based fall detection
2.2 Skeleton-based action recognition
2.3 Graph-based skeleton models
2.4 Robust fall detection under occlusion

3. Proposed Method

3.1 Overview
3.2 Pose extraction
3.3 Skeleton normalization
3.4 Joint, bone, and dynamics representation
3.5 Confidence-aware keypoint dropout
3.6 DynaFall-GCN architecture

4. Experiments

4.1 Datasets
4.2 Comparative methods
4.3 Evaluation protocol
4.4 Implementation details
4.5 Metrics

5. Results and Discussion

5.1 Main comparison
5.2 Ablation study
5.3 Robustness analysis
5.4 Cross-dataset generalization
5.5 Runtime analysis
5.6 Error analysis

6. Conclusion

Nêu:

DynaFall-GCN hiệu quả và robust
skeleton giúp privacy-preserving
hạn chế: dataset vẫn là simulated falls
future work: real-world elderly care, edge deployment, multimodal fusion

17. Figures nên có

Figure 1: Overall framework

RGB Video
→ Pose Extraction
→ Skeleton Normalization
→ Joint/Bone/Dynamics Features
→ Comparative Skeleton Methods
→ DynaFall-GCN
→ Fall / Non-fall

Figure 2: DynaFall-GCN architecture

Joint Stream
Bone Stream
Dynamics Stream
→ Fusion
→ Classifier

Figure 3: Robustness scenarios

Clean skeleton
Missing-10
Missing-20
Missing-30
Lower-body occlusion

18. Bảng cần có trong paper

Tối thiểu nên có 5 bảng:

Table 1. Dataset statistics
Table 2. Main comparison with related methods
Table 3. Ablation study
Table 4. Robustness under missing keypoints
Table 5. Cross-dataset generalization

Nếu thiếu trang thì bỏ Table 5 hoặc đưa vào phụ lục, nhưng không nên bỏ Table 3 và Table 4.


19. Lộ trình chạy thực nghiệm

Phase 1: Dataset + pose extraction

Làm:

Download URFD + MCFD
Extract frames
Run YOLO pose
Save keypoints
Visual check skeleton

Output:

URFD_keypoints.pkl
MCFD_keypoints.pkl

Phase 2: Build clips

Làm:

video-level split
32-frame clips
stride 16
normalize skeleton
generate joint/bone/dynamics features

Output:

URFD_train.pkl / val.pkl / test.pkl
MCFD_train.pkl / val.pkl / test.pkl

Phase 3: Chạy baseline dễ trước

Chạy:

LSTM
ST-GCN

Mục tiêu:

kiểm tra data pipeline đúng chưa

Phase 4: Chạy method từ paper khác

Chạy:

2s-AGCN
CTR-GCN
PoseC3D
TCNTE-style

Phase 5: Chạy proposed

Chạy:

DynaFall-GCN joint only
DynaFall-GCN joint + bone
DynaFall-GCN joint + bone + dynamics
DynaFall-GCN full + confidence-aware dropout

Phase 6: Robustness test

Test tất cả model chính trên:

Clean
Missing-10
Missing-20
Missing-30
Lower-body missing
Low-confidence masking

Phase 7: Viết paper

Thứ tự viết nên là:

Method
Experiments
Results
Introduction
Related Work
Abstract
Conclusion

20. Bản tối giản nếu thiếu thời gian

Nếu deadline gấp, chỉ làm:

Datasets:
URFD + MCFD

Methods:
LSTM
ST-GCN
2s-AGCN
CTR-GCN
TCNTE-style
DynaFall-GCN

Bỏ nếu không kịp:
PoseC3D
Cross-dataset
5 seeds

Nhưng giữ bắt buộc:

Main comparison
Ablation
Robustness missing keypoints

21. Kế hoạch cuối cùng nên theo

Chốt hướng như sau:

Paper title:
DynaFall: Robust Skeleton-Based Fall Detection via Keypoint Dynamics and Graph-Based Benchmarking

Datasets:
URFD + MCFD
UP-Fall optional

Pose extractor:
YOLOv8n-pose hoặc YOLO11n-pose

Compared methods:
LSTM
ST-GCN
2s-AGCN
CTR-GCN
PoseC3D nếu kịp
TCNTE-style

Proposed:
DynaFall-GCN
= joint stream
+ bone stream
+ fall-specific dynamics stream
+ confidence-aware keypoint dropout

Experiments:
Main results
Ablation
Robustness
Cross-dataset nếu kịp
Runtime/FPS

Main claim:
DynaFall-GCN is a lightweight and privacy-preserving skeleton-based fall detection model that achieves competitive performance and better robustness under missing or unreliable keypoints.

Đây là kế hoạch hợp lý nhất cho hội nghị Q4: đủ mới, đủ method từ paper khác, đủ thí nghiệm, nhưng vẫn chạy được trong thời gian ngắn.