SignX/smkd/POSE_ASSIST_README.md

多模态姿势辅助功能说明

维度匹配问题

输出维度对比

模型	原始输出维度	处理后维度
ResNet34	512	512
ViT-base	768	512 (通过projection)

如何实现维度对齐？

在 PoseAssistEncoder 类中（slr_network.py:95-163），我添加了一个投影层：

class PoseAssistEncoder(nn.Module):
    def __init__(self, target_dim=512, checkpoint_path=None):
        # ViT backbone输出768维
        self.backbone = timm.create_model('vit_base_patch16_224', ...)

        # 投影到ResNet的输出维度 (512)
        self.projection = nn.Linear(768, target_dim)  # ← 关键！

流程：

视频帧 → ViT backbone → 768维特征 → Linear投影 → 512维特征
                                                    ↓
视频帧 → ResNet34     → 512维特征 ────────────────→ 相加

特征融合公式

# 在 slr_network.py:309-329 的 masked_bn 函数中
resnet_features = self.conv2d(x)              # [B*F, 512]
pose_features = self.pose_assist_encoder(x)   # [B*F, 512] (已投影)

# 加权融合
combined = resnet_features + 0.01 * pose_features

完整公式：

输出 = ResNet特征 + pose_assist_weight × ViT特征
     = [B*F, 512] + 0.01 × [B*F, 512]
     = [B*F, 512]

参数配置

配置文件 (asllrp_baseline.yaml)

model_args:
  c2d_type: resnet34
  # ... 其他参数 ...

  # 多模态姿势辅助设置
  multimodal_pose_assist: True  # 启用/禁用
  pose_assist_checkpoint: pretrained/video2text_checkpoint_epoch_14.pth
  pose_assist_weight: 0.01      # 辅助特征权重

参数说明

参数	类型	默认值	说明
multimodal_pose_assist	bool	False	是否启用姿势辅助
pose_assist_checkpoint	str	-	video2text模型checkpoint路径
pose_assist_weight	float	0.01	辅助特征的融合权重

权重影响

• pose_assist_weight = 0.01 (默认)

  • 辅助特征占1%，ResNet占99%
  • 轻微辅助，不影响主要学习

• pose_assist_weight = 0.1

  • 辅助特征占10%
  • 中等辅助强度

• pose_assist_weight = 0.5

  • ResNet和辅助特征几乎平等
  • 强辅助（可能影响ResNet学习）

实现细节

1. 自动维度对齐

# slr_network.py:195-197
self.pose_assist_encoder = PoseAssistEncoder(
    target_dim=self.backbone_feat_dim,  # ← 自动匹配ResNet维度
    checkpoint_path=pose_assist_checkpoint
)

target_dim 自动设置为ResNet的输出维度，确保可以相加。

2. 参数冻结

# slr_network.py:115-116
# Freeze all parameters
for param in self.parameters():
    param.requires_grad = False

所有姿势辅助模型的参数都被冻结，不会被训练。

3. 无梯度前向传播

# slr_network.py:159-162
def forward(self, x):
    with torch.no_grad():  # 确保无梯度
        features = self.backbone(x)
        features = self.projection(features)
    return features

使用示例

基础训练（无辅助）

# asllrp_baseline.yaml
model_args:
  multimodal_pose_assist: False

python main.py --config asllrp_baseline.yaml --device 0

启用姿势辅助

# asllrp_baseline.yaml
model_args:
  multimodal_pose_assist: True
  pose_assist_checkpoint: pretrained/video2text_checkpoint_epoch_14.pth
  pose_assist_weight: 0.01

python main.py --config asllrp_baseline.yaml --device 0

调整辅助权重

# 尝试更强的辅助
model_args:
  multimodal_pose_assist: True
  pose_assist_weight: 0.05  # 5%的辅助

原理说明

为什么需要辅助？

1. ResNet：专注于底层视觉特征（边缘、纹理、形状）
2. **ViT (video2text)**：在手语视频上训练，可能学到了手势的语义信息

融合效果

ResNet特征:     [手的形状、位置、边缘...]
                      ↓
                    相加 (加权)
                      ↓
ViT特征:        [手势语义、动作模式...] × 0.01
                      ↓
融合特征:       [形状 + 少量语义信息]
                      ↓
                Temporal模块学习序列

预期效果

• 轻微提升（0.01-0.05权重）：ResNet主导，ViT提供语义线索
• 显著变化（0.1+权重）：可能干扰ResNet学习，不推荐

训练开销

项目	无辅助	有辅助 (pose_assist_weight=0.01)
前向传播时间	基准	+30-40% (ViT推理)
显存占用	基准	+1-2GB (ViT参数)
反向传播时间	基准	无变化 (ViT冻结)
训练速度	基准	约慢30%

注意： ViT参数冻结，所以不增加反向传播开销，只增加前向传播时间。

故障排查

1. 维度不匹配错误

RuntimeError: The size of tensor a (512) must match the size of tensor b (768)

原因： projection层未正确初始化

解决： 检查 PoseAssistEncoder.__init__ 中的 self.projection 设置

2. checkpoint加载失败

[PoseAssist] Failed to load checkpoint: ...

原因： checkpoint路径错误或格式不兼容

解决：

• 检查路径是否正确：pretrained/video2text_checkpoint_epoch_14.pth
• 确认checkpoint存在且可读
• 即使加载失败，也会使用预训练的ViT继续运行

3. 显存不足

CUDA out of memory

解决：

• 减小 batch_size
• 或禁用姿势辅助：multimodal_pose_assist: False

技术总结

✅ 维度匹配：通过Linear投影层 (768→512) 实现 ✅ 参数冻结：所有姿势辅助参数 requires_grad=False ✅ 无梯度计算：with torch.no_grad() 确保不计算梯度 ✅ 加权融合：ResNet + 0.01 * ViT 保证ResNet主导 ✅ 自动对齐：target_dim=self.backbone_feat_dim 自动匹配

核心代码位置：

• slr_network.py:95-163 - PoseAssistEncoder定义
• slr_network.py:187-199 - SLRModel中初始化
• slr_network.py:315-325 - 特征融合逻辑