docs/spatial_beats_design.md

# Spatial-BEATs 接入 SPUR Spatial QA 的设计说明

## 1. 目标

本文档整理如何将 `Spatial-BEATs` 接入当前的 SPUR/Qwen spatial QA 训练链路，替换现有 `SELD233 + spatial_adapter + spatial_projector` 的空间编码路径。

目标不是修改代码，而是先明确一套可落地的设计：

- 取 `Spatial-BEATs` 的哪一层作为 LLM 的空间 token 源
- projector/bridge 应该如何设计
- 如何映射到当前 [train_spur_spatial_qa.py](/apdcephfs_cq10/share_1603164/user/schmittzhu/code/DCASE2024_seld_baseline/train_spur_spatial_qa.py) 的训练模式
- 如何分阶段训练，尽量复用现有缓存、LoRA、resume、QA 数据集逻辑

---

## 2. 当前 `train_spur_spatial_qa.py` 的关键逻辑

### 2.1 文本接口不是结构化 head，而是 spatial token 占位符

当前 collator 在 prompt 前缀里写入：

```text
<audio><spatial>
question...
```

对应逻辑见：

- [train_spur_spatial_qa.py](/apdcephfs_cq10/share_1603164/user/schmittzhu/code/DCASE2024_seld_baseline/train_spur_spatial_qa.py#L565)

也就是说，LLM 侧只知道有一串 `spatial_token` 要插入，并不要求这串 token 来自某个特定 encoder。

### 2.2 当前空间分支的三层结构

当前 Qwen spatial 路径可以抽象成：

1. `seld233_backbone`
2. `seld233_spatial_adapter`
3. `seld233_spatial_projector`

训练模式围绕这三块展开：

- `spatial_only`: 只训练 adapter + projector
- `adapter_lora`: 冻结空间 backbone，只训练 adapter + projector + LLM LoRA
- `spatial_lora`: 训练空间 backbone + adapter + projector + LLM LoRA

对应逻辑见：

- [train_spur_spatial_qa.py](/apdcephfs_cq10/share_1603164/user/schmittzhu/code/DCASE2024_seld_baseline/train_spur_spatial_qa.py#L1005)
- [train_spur_spatial_qa.py](/apdcephfs_cq10/share_1603164/user/schmittzhu/code/DCASE2024_seld_baseline/train_spur_spatial_qa.py#L1059)
- [train_spur_spatial_qa.py](/apdcephfs_cq10/share_1603164/user/schmittzhu/code/DCASE2024_seld_baseline/train_spur_spatial_qa.py#L1078)
- [train_spur_spatial_qa.py](/apdcephfs_cq10/share_1603164/user/schmittzhu/code/DCASE2024_seld_baseline/train_spur_spatial_qa.py#L1714)

### 2.3 当前缓存机制的抽象非常适合替换 encoder

collator 目前支持两种缓存输入：

1. feature cache
   - `seld233_features`: `[B, C, T_feat, M]`
   - 仍在线运行 backbone

2. hidden cache
   - `seld233_hidden_states`: `[B, T_hidden, D]`
   - 直接绕过 feature bridge + backbone

对应逻辑见：

- [train_spur_spatial_qa.py](/apdcephfs_cq10/share_1603164/user/schmittzhu/code/DCASE2024_seld_baseline/train_spur_spatial_qa.py#L630)
- [train_spur_spatial_qa.py](/apdcephfs_cq10/share_1603164/user/schmittzhu/code/DCASE2024_seld_baseline/train_spur_spatial_qa.py#L672)
- [train_spur_spatial_qa.py](/apdcephfs_cq10/share_1603164/user/schmittzhu/code/DCASE2024_seld_baseline/train_spur_spatial_qa.py#L1652)

这个抽象意味着：

- 如果 `Spatial-BEATs` 能输出 `[T_s, D]` 的时序 hidden states
- 那它可以直接替代现有 hidden cache 路径

这对工程落地非常有利。

---

## 3. `Spatial-BEATs` 当前最适合接 LLM 的层

### 3.1 不应直接用监督 head 输出

`Spatial-BEATs` 里存在多种监督读出：

- `slot_latents`
- `prediction_output`
- `mono_task_tokens`
- `mono_prediction_output`
- `pretrunk_task_tokens`
- `pretrunk_prediction_output`

这些都不适合直接喂给 LLM，原因是：

- 它们已经是任务特化后的 readout
- 信息被压缩进分类/方向/距离头
- 对 QA 这种开放式下游推理来说，保留的上下文冗余不足

### 3.2 推荐层：`fused_spatial_embeddings`

在 `readout_scheme='local_spatial'` 下，最推荐的 LLM 输入源是：

- `fused_spatial_embeddings`

对应逻辑：

- [spatial_beats.py](/apdcephfs_cq10/share_1603164/user/schmittzhu/code/unilm/beats/spatial_beats.py#L845)
- [spatial_beats.py](/apdcephfs_cq10/share_1603164/user/schmittzhu/code/unilm/beats/spatial_beats.py#L1092)

它的来源是：

1. `W` 通道经过原始 BEATs semantic path
2. `WXYZ + IVxyz` 经过 `local_spatial_encoder`
3. 两路在同一 token rate 上对齐
4. 经 `local_spatial_proj` 后加和融合

因此这层同时包含：

- 语义稳定性
- 局部空间 cues
- 时间结构

这是比单独 `spatial_embeddings` 更好的 LLM 输入层。

### 3.3 备选层：`spatial_embeddings`

如果初版想先降低复杂度，可以先接：

- `spatial_embeddings`

对应逻辑：

- [spatial_beats.py](/apdcephfs_cq10/share_1603164/user/schmittzhu/code/unilm/beats/spatial_beats.py#L736)
- [spatial_beats.py](/apdcephfs_cq10/share_1603164/user/schmittzhu/code/unilm/beats/spatial_beats.py#L985)

但在 `local_spatial` 路径下，它少了显式 local-spatial fusion，优先级低于 `fused_spatial_embeddings`。

### 3.4 token 数量建议保持低频时序接口

`Spatial-BEATs` 文档已经明确：

- 最终给 LLM 的应该是低频时序 token
- 不是 `time x slot`
- 默认接口为 `2.5 Hz`

对应说明：

- [spatial_beats_token_interface_note.md](/apdcephfs_cq10/share_1603164/user/schmittzhu/code/unilm/beats/docs/spatial_beats_token_interface_note.md#L32)

因此推荐的外部接口是：

- `10s -> 25 tokens`
- 形状：`[B, T_s, D]`

不要把内部 slot 数 `K` 展开成 `T_s * K` 个 LLM token。

---

## 4. 推荐的 bridge/projector 设计

### 4.1 当前 `Spatial-BEATs` 自带 projector

当前 projector 为：

- `Linear(D -> H)`
- `GELU`
- `LayerNorm(H)`
- `Linear(H -> d_llm)`

见：

- [spatial_modules.py](/apdcephfs_cq10/share_1603164/user/schmittzhu/code/unilm/beats/spatial_modules.py#L1159)

这作为第一版是合理的，但它是“纯 token-wise MLP”，没有显式时间建模。

### 4.2 推荐：LLM bridge 版 projector

针对 QA 下游，推荐的 bridge 设计不是只做线性升维，而是：

```text
fused_spatial_embeddings [B, T_s, D]
  -> LayerNorm
  -> temporal bridge block
  -> token projector MLP
  -> llm_spatial_tokens [B, T_s, d_llm]
```

其中：

#### 1. temporal bridge block

建议用轻量模块，1 层即可：

- 1-layer TransformerEncoder
或
- gated MLP / temporal Conv1d block

目的：

- 在进入 LLM 前，对低频空间 token 再做一次跨时间整形
- 补偿 projector 完全逐 token 独立的缺陷

推荐输入输出维度不变：

- `D = 768`

#### 2. token projector MLP

建议结构：

```text
LayerNorm(768)
Linear(768, 1536)
GELU
Linear(1536, 4096)
```

如果想更稳，可以再加：

- `LayerNorm(4096)`
或
- 一个可学习 gate

例如：

```text
proj = MLP(x)
gate = sigmoid(W_g x)
llm_tokens = gate * proj
```

但第一版不必上 gate。

### 4.3 为什么不建议直接投分类/角度/距离结果

不建议将这些 head 输出拼成 LLM 输入：

- `pred_class_logits`
- `pred_direction`
- `pred_distance`

原因：

- 这些已经是强任务约束后的压缩表示
- 会丢掉很多时序上下文和不确定性信息
- LLM 更适合消费 dense latent，而不是 encoder 的最终判决

这些输出可以作为：

- 训练时的 auxiliary supervision
- 或后续做解释性 probing

但不应作为主 token 接口。

---

## 5. 与当前 `train_spur_spatial_qa.py` 的映射设计

### 5.1 模块映射

建议把当前 `SELD233` 路径替换为：

```text
seld233_backbone          -> spatial_beats_backbone
seld233_spatial_adapter   -> spatial_beats_bridge
seld233_spatial_projector -> spatial_beats_llm_projector
```

更具体地说：

#### `spatial_beats_backbone`

包含：

- preprocessor
- BEATs trunk
- local_spatial_encoder
- local_spatial_proj
- local_spatial_fusion_norm

输出：

- `fused_spatial_embeddings`
- `temporal_padding_mask`

#### `spatial_beats_bridge`

新增的一层轻量 temporal bridge：

- 1-layer temporal adapter
- 输入输出都为 `768`

这是新设计里最关键的“LLM bridge”部分。

#### `spatial_beats_llm_projector`

将 bridge 后的 token 投到 LLM hidden size：

- `768 -> 1536 -> 4096`

输出：

- `[B, T_s, d_llm]`

### 5.2 对应当前两种 cache 语义

推荐保留当前 cache 设计思路，但改名语义如下：

#### feature cache

缓存 `Spatial-BEATs` 前端中间结果，例如：

- `foa_feat`
- 或 patch/token 级中间特征

只在你想继续训练 backbone 时使用。

#### hidden cache

缓存：

- `fused_spatial_embeddings`
或
- `bridge` 之前的 `[T_s, 768]`

这是最有用的 cache 形式。

它对应当前 `train_spur_spatial_qa.py` 的 hidden-cache 路线：

- 在线不跑空间 backbone
- 只训练 bridge/projector/LLM

对于 QA 阶段，这会是最实用的加速方案。

---

## 6. 推荐训练阶段

### 阶段 A：encoder-only 预训练

目标：

- 在 `Spatial-BEATs` 自己的监督任务上训出靠谱的 `fused_spatial_embeddings`

推荐 checkpoint：

- `ov1_local_spatial` 最优 checkpoint
- 更理想是其 balanced follow-up checkpoint

此阶段不接 LLM。

### 阶段 B：freeze Spatial-BEATs，训练 bridge + LLM LoRA

这是最推荐的第一轮接入实验。

训练参数对应当前 QA 框架可映射为：

- 冻结 `spatial_beats_backbone`
- 训练 `spatial_beats_bridge`
- 训练 `spatial_beats_llm_projector`
- 训练 `LLM LoRA`

它在当前 `train_spur_spatial_qa.py` 中最接近：

- `--train-adapter-lora`

只是把现有的 `seld233_spatial_adapter + seld233_spatial_projector`
替换成 `spatial_beats_bridge + spatial_beats_llm_projector`。

这是最值得先做的实验，因为：

- encoder 先不动，稳定
- 速度快
- 容易判断 `Spatial-BEATs` token 是否比 DCASE encoder 更有用

### 阶段 C：解冻 Spatial-BEATs 尾部，小学习率联合微调

当阶段 B 证明 token 有效后，再解冻少量模块：

- `local_spatial_proj`
- `local_spatial_fusion_norm`
- 可选 `local_spatial_encoder` 最后一层
- 可选 BEATs trunk 最后 1-2 层

训练对象：

- Spatial-BEATs 尾部
- bridge
- projector
- LLM LoRA

它在当前 QA 框架中最接近：

- `--train-spatial-lora`

但不建议一开始就这样做，因为会把“encoder 不好”与“LLM 对不上”混在一起。

### 阶段 D：hidden-cache 加速 QA 训练

当阶段 B/C 结构稳定后，推荐预先导出：

- `fused_spatial_embeddings`
- `temporal_padding_mask`

作为 hidden cache。

然后 QA 训练使用 hidden cache，避免每次在线跑 Spatial-BEATs。

这对应当前脚本里的 hidden cache 模式：

- [train_spur_spatial_qa.py](/apdcephfs_cq10/share_1603164/user/schmittzhu/code/DCASE2024_seld_baseline/train_spur_spatial_qa.py#L630)

---

## 7. 推荐的第一版落地方案

如果只做第一版、最小风险接入，建议如下：

### 7.1 encoder 输出

从 `Spatial-BEATsOutput` 里读取：

- 首选 `fused_spatial_embeddings`
- fallback `spatial_embeddings`

同时读取：

- `temporal_padding_mask`

### 7.2 bridge/projector

使用：

```text
fused_spatial_embeddings [B, T_s, 768]
  -> LayerNorm
  -> 1-layer TransformerEncoder (768)
  -> LayerNorm
  -> Linear(768, 1536)
  -> GELU
  -> Linear(1536, 4096)
```

输出：

- `llm_spatial_tokens [B, T_s, 4096]`

### 7.3 QA 训练策略

第一轮只做：

- freeze Spatial-BEATs backbone
- train bridge
- train projector
- train LLM LoRA

也就是概念上对应当前的：

- `adapter_lora`

### 7.4 不建议第一版就做的事

以下都不建议第一版就做：

- 用 slot 输出替代 dense latent
- 同时训练 Spatial-BEATs 全 backbone
- 同时改 QA prompt 设计
- 把分类/角度/距离 head 输出直接拼进 LLM token

这些会大幅增加排障复杂度。

---

## 8. 为什么这条路线比当前 DCASE encoder 更合理

当前 DCASE spatial encoder 路径的问题是：

- 更偏任务 readout
- 对 QA 来说 token 表征容量不足
- 数值空间信息学得不稳

而 `Spatial-BEATs local_spatial` 路径的优势是：

1. 有明确的低频时序 token 接口
2. `fused_spatial_embeddings` 本身就是为“投给 LLM”准备的 dense latent
3. semantic path 与 local spatial path 分工清晰
4. 已经有 projector 抽象和 token interface 文档

换句话说，`Spatial-BEATs` 的结构天然更像一个可插拔的独立 spatial encoder，而不是一个“SELD head 顺便挤出 token”。

---

## 9. 建议的下一步

建议按下面顺序推进：

1. 先实现 `Spatial-BEATs -> fused_spatial_embeddings -> bridge -> projector -> LLM spatial tokens`
2. 第一轮只做 freeze encoder + bridge/projector + LLM LoRA
3. 验证 QA 上是否比当前 DCASE spatial encoder 明显更好
4. 如果有效，再做尾部联合微调
5. 最后再做 hidden-cache 预计算优化

这样可以把风险拆开：

- encoder token 是否有效
- bridge 是否够用
- LLM 是否能消费这组 token

而不是把三个问题同时耦合起来。