Gaze-LIPE / docs /ablation_study.md
thanhhuyvan's picture
Initial release of LIPE V2 GOLD
a10ba7f
|
Raw
History Blame Contribute Delete
3.92 kB

Ablation Study Plan: LIPE V2 GOLD (V5-SWA)

1. Mục tiêu (Objective)

Định lượng mức độ đóng góp của từng cải tiến công nghệ trong phiên bản V5-GOLD đối với độ chính xác hướng nhìn (Gaze Direction) và độ ổn định của hệ thống. Thí nghiệm tập trung vào việc chuyển đổi từ kiến trúc Baseline (V16) sang cấu trúc tối ưu hóa cho CPU.

2. Các biến số thí nghiệm (Experimental Variables)

Thành phần Ký hiệu Cấu hình Baseline Cấu hình Đề xuất (Proposed)
Pooling Pool Avg-Pool: Chỉ lấy trung bình đặc điểm. Dual-Pool: Kết hợp Max + Avg (Bắt pupil tốt hơn).
Loss Function Loss MSE: Lỗi bình phương trung bình. SmoothAW: Smooth Adaptive Wing Loss (Cực nhạy với lỗi nhỏ).
Distillation KD Supervised: Học trực tiếp từ Label. KD: Học từ Teacher (L2CS-Net ResNet-50).

3. Ma trận cấu hình (Ablation Matrix)

Thực hiện 8 tổ hợp để quét toàn bộ không gian tối ưu:

ID Pool Type Loss Func Distillation Ghi chú
#1 Avg MSE No Baseline thuần túy (V16)
#2 Dual MSE No Đánh giá tác động của trích xuất đặc điểm.
#3 Avg SAW No Đánh giá tác động của hàm Loss mịn.
#4 Avg MSE Yes Đánh giá tác động của tri thức từ Teacher.
#5 Dual SAW No V5-GOLD Version (Official)
#6 Dual MSE Yes Kết hợp Kiến trúc + Teacher.
#7 Avg SAW Yes Kết hợp Loss + Teacher.
#8 Dual SAW Yes Thử nghiệm KD trên nền GOLD.

4. Hệ thống Chỉ số Đánh giá (Metrics)

Sử dụng bộ chỉ số hỗn hợp giữa độ chính xác toán học và tiêu chuẩn của tập dữ liệu Gaze360.

A. Chỉ số Gaze360 (Gaze Accuracy)

Đo lường sai số góc (Angular Error) theo công thức: $E_{ang} = \arccos(\mathbf{g} \cdot \hat{\mathbf{g}})$

  • Mean Angular Error (MAE): Lỗi góc trung bình trên toàn bộ tập test (độ).
  • Frontal 120° Error: Chỉ tính cho các góc nhìn phía trước $\pm 60^\circ$ (Vùng quan trọng nhất cho UI/UX).
  • Frontal 180° Error: Tính cho phạm vi nhìn rộng phía trước.
  • Yaw/Pitch Error: Lỗi riêng biệt cho từng trục để đánh giá sự lệch hướng.

B. Chỉ số Hiệu năng (System Performance)

  • CPU Latency (ms): Thời gian xử lý 1 frame trên CPU (Target: < 33ms).
  • Jitter (deg): Độ rung lắc của hướng nhìn khi đứng yên (Đo bằng độ lệch chuẩn của 30 frames liên tiếp).
  • Convergence Epoch: Số epoch cần thiết để mô hình đạt MAE < 6.0.

5. Cấu hình Huấn luyện (Training Specs)

  • Dataset: gaze360_robust_v16.h5
  • Strategy: LOPO (Leave-One-Participant-Out).
  • Participants đại diện: p01 (Cơ bản), p08 (Thử thách cho Pooling), p11 (Thử thách cho Loss).
  • Hyper-parameters:
    • Optimizer: AdamW (Weight Decay: 1e-2)
    • Scheduler: OneCycleLR
    • Epochs: 50
    • Batch Size: 32

6. Kết quả kỳ vọng (Hypothesis)

  1. Dual-Pooling: Giảm 5-8% MAE ở các góc nhìn nghiêng (do Max-pool giữ được điểm ảnh pupil sắc nét).
  2. SmoothAWLoss: Giảm hiện tượng "phân mảnh" dự đoán, giúp MAE vùng Frontal 120° đạt dưới 4.5 độ.
  3. Knowledge Distillation: Đóng vai trò "Regularizer", giúp mô hình nhỏ hội tụ nhanh hơn và đạt độ chính xác tương đương các mạng lớn hơn 2-3 lần.