Hugging Face's logo

Datasets:
schmittzhuattencent
/
30

Dataset card Files
xet
 Community
30 / docs /spatial_beats_design.md
schmittzhuattencent's picture
schmittzhuattencent
Add files using upload-large-folder tool
65ae8ca verified
preview code
|
Raw
History Blame Contribute Delete
12.8 kB

Spatial-BEATs 接入 SPUR Spatial QA 的设计说明

1. 目标

本文档整理如何将 Spatial-BEATs 接入当前的 SPUR/Qwen spatial QA 训练链路，替换现有 SELD233 + spatial_adapter + spatial_projector 的空间编码路径。

目标不是修改代码，而是先明确一套可落地的设计：

  • 取 Spatial-BEATs 的哪一层作为 LLM 的空间 token 源
  • projector/bridge 应该如何设计
  • 如何映射到当前 train_spur_spatial_qa.py 的训练模式
  • 如何分阶段训练，尽量复用现有缓存、LoRA、resume、QA 数据集逻辑

2. 当前 train_spur_spatial_qa.py 的关键逻辑

2.1 文本接口不是结构化 head，而是 spatial token 占位符

当前 collator 在 prompt 前缀里写入：

<audio><spatial>
question...

对应逻辑见：

也就是说，LLM 侧只知道有一串 spatial_token 要插入，并不要求这串 token 来自某个特定 encoder。

2.2 当前空间分支的三层结构

当前 Qwen spatial 路径可以抽象成：

  1. seld233_backbone
  2. seld233_spatial_adapter
  3. seld233_spatial_projector

训练模式围绕这三块展开：

  • spatial_only: 只训练 adapter + projector
  • adapter_lora: 冻结空间 backbone，只训练 adapter + projector + LLM LoRA
  • spatial_lora: 训练空间 backbone + adapter + projector + LLM LoRA

对应逻辑见：

2.3 当前缓存机制的抽象非常适合替换 encoder

collator 目前支持两种缓存输入：

  1. feature cache

    • seld233_features: [B, C, T_feat, M]
    • 仍在线运行 backbone

  2. hidden cache

    • seld233_hidden_states: [B, T_hidden, D]
    • 直接绕过 feature bridge + backbone

对应逻辑见：

这个抽象意味着：

  • 如果 Spatial-BEATs 能输出 [T_s, D] 的时序 hidden states
  • 那它可以直接替代现有 hidden cache 路径

这对工程落地非常有利。

3. Spatial-BEATs 当前最适合接 LLM 的层

3.1 不应直接用监督 head 输出

Spatial-BEATs 里存在多种监督读出：

  • slot_latents
  • prediction_output
  • mono_task_tokens
  • mono_prediction_output
  • pretrunk_task_tokens
  • pretrunk_prediction_output

这些都不适合直接喂给 LLM，原因是：

  • 它们已经是任务特化后的 readout
  • 信息被压缩进分类/方向/距离头
  • 对 QA 这种开放式下游推理来说，保留的上下文冗余不足

3.2 推荐层：fused_spatial_embeddings

在 readout_scheme='local_spatial' 下，最推荐的 LLM 输入源是：

  • fused_spatial_embeddings

对应逻辑：

它的来源是：

  1. W 通道经过原始 BEATs semantic path
  2. WXYZ + IVxyz 经过 local_spatial_encoder
  3. 两路在同一 token rate 上对齐
  4. 经 local_spatial_proj 后加和融合

因此这层同时包含：

  • 语义稳定性
  • 局部空间 cues
  • 时间结构

这是比单独 spatial_embeddings 更好的 LLM 输入层。

3.3 备选层：spatial_embeddings

如果初版想先降低复杂度，可以先接：

  • spatial_embeddings

对应逻辑：

但在 local_spatial 路径下，它少了显式 local-spatial fusion，优先级低于 fused_spatial_embeddings。

3.4 token 数量建议保持低频时序接口

Spatial-BEATs 文档已经明确：

  • 最终给 LLM 的应该是低频时序 token
  • 不是 time x slot
  • 默认接口为 2.5 Hz

对应说明：

因此推荐的外部接口是：

  • 10s -> 25 tokens
  • 形状：[B, T_s, D]

不要把内部 slot 数 K 展开成 T_s * K 个 LLM token。

4. 推荐的 bridge/projector 设计

4.1 当前 Spatial-BEATs 自带 projector

当前 projector 为：

  • Linear(D -> H)
  • GELU
  • LayerNorm(H)
  • Linear(H -> d_llm)

见：

这作为第一版是合理的，但它是“纯 token-wise MLP”，没有显式时间建模。

4.2 推荐：LLM bridge 版 projector

针对 QA 下游，推荐的 bridge 设计不是只做线性升维，而是：

fused_spatial_embeddings [B, T_s, D]
  -> LayerNorm
  -> temporal bridge block
  -> token projector MLP
  -> llm_spatial_tokens [B, T_s, d_llm]

其中：

1. temporal bridge block

建议用轻量模块，1 层即可：

  • 1-layer TransformerEncoder 或
  • gated MLP / temporal Conv1d block

目的：

  • 在进入 LLM 前，对低频空间 token 再做一次跨时间整形
  • 补偿 projector 完全逐 token 独立的缺陷

推荐输入输出维度不变：

  • D = 768

2. token projector MLP

建议结构：

LayerNorm(768)
Linear(768, 1536)
GELU
Linear(1536, 4096)

如果想更稳，可以再加：

  • LayerNorm(4096) 或
  • 一个可学习 gate

例如：

proj = MLP(x)
gate = sigmoid(W_g x)
llm_tokens = gate * proj

但第一版不必上 gate。

4.3 为什么不建议直接投分类/角度/距离结果

不建议将这些 head 输出拼成 LLM 输入：

  • pred_class_logits
  • pred_direction
  • pred_distance

原因：

  • 这些已经是强任务约束后的压缩表示
  • 会丢掉很多时序上下文和不确定性信息
  • LLM 更适合消费 dense latent，而不是 encoder 的最终判决

这些输出可以作为：

  • 训练时的 auxiliary supervision
  • 或后续做解释性 probing

但不应作为主 token 接口。

5. 与当前 train_spur_spatial_qa.py 的映射设计

5.1 模块映射

建议把当前 SELD233 路径替换为：

seld233_backbone          -> spatial_beats_backbone
seld233_spatial_adapter   -> spatial_beats_bridge
seld233_spatial_projector -> spatial_beats_llm_projector

更具体地说：

spatial_beats_backbone

包含：

  • preprocessor
  • BEATs trunk
  • local_spatial_encoder
  • local_spatial_proj
  • local_spatial_fusion_norm

输出：

  • fused_spatial_embeddings
  • temporal_padding_mask

spatial_beats_bridge

新增的一层轻量 temporal bridge：

  • 1-layer temporal adapter
  • 输入输出都为 768

这是新设计里最关键的“LLM bridge”部分。

spatial_beats_llm_projector

将 bridge 后的 token 投到 LLM hidden size：

  • 768 -> 1536 -> 4096

输出：

  • [B, T_s, d_llm]

5.2 对应当前两种 cache 语义

推荐保留当前 cache 设计思路，但改名语义如下：

feature cache

缓存 Spatial-BEATs 前端中间结果，例如：

  • foa_feat
  • 或 patch/token 级中间特征

只在你想继续训练 backbone 时使用。

hidden cache

缓存：

  • fused_spatial_embeddings 或
  • bridge 之前的 [T_s, 768]

这是最有用的 cache 形式。

它对应当前 train_spur_spatial_qa.py 的 hidden-cache 路线：

  • 在线不跑空间 backbone
  • 只训练 bridge/projector/LLM

对于 QA 阶段，这会是最实用的加速方案。

6. 推荐训练阶段

阶段 A：encoder-only 预训练

目标：

  • 在 Spatial-BEATs 自己的监督任务上训出靠谱的 fused_spatial_embeddings

推荐 checkpoint：

  • ov1_local_spatial 最优 checkpoint
  • 更理想是其 balanced follow-up checkpoint

此阶段不接 LLM。

阶段 B：freeze Spatial-BEATs，训练 bridge + LLM LoRA

这是最推荐的第一轮接入实验。

训练参数对应当前 QA 框架可映射为：

  • 冻结 spatial_beats_backbone
  • 训练 spatial_beats_bridge
  • 训练 spatial_beats_llm_projector
  • 训练 LLM LoRA

它在当前 train_spur_spatial_qa.py 中最接近：

  • --train-adapter-lora

只是把现有的 seld233_spatial_adapter + seld233_spatial_projector 替换成 spatial_beats_bridge + spatial_beats_llm_projector。

这是最值得先做的实验，因为：

  • encoder 先不动，稳定
  • 速度快
  • 容易判断 Spatial-BEATs token 是否比 DCASE encoder 更有用

阶段 C：解冻 Spatial-BEATs 尾部，小学习率联合微调

当阶段 B 证明 token 有效后，再解冻少量模块：

  • local_spatial_proj
  • local_spatial_fusion_norm
  • 可选 local_spatial_encoder 最后一层
  • 可选 BEATs trunk 最后 1-2 层

训练对象：

  • Spatial-BEATs 尾部
  • bridge
  • projector
  • LLM LoRA

它在当前 QA 框架中最接近：

  • --train-spatial-lora

但不建议一开始就这样做，因为会把“encoder 不好”与“LLM 对不上”混在一起。

阶段 D：hidden-cache 加速 QA 训练

当阶段 B/C 结构稳定后，推荐预先导出：

  • fused_spatial_embeddings
  • temporal_padding_mask

作为 hidden cache。

然后 QA 训练使用 hidden cache，避免每次在线跑 Spatial-BEATs。

这对应当前脚本里的 hidden cache 模式：

7. 推荐的第一版落地方案

如果只做第一版、最小风险接入，建议如下：

7.1 encoder 输出

从 Spatial-BEATsOutput 里读取：

  • 首选 fused_spatial_embeddings
  • fallback spatial_embeddings

同时读取：

  • temporal_padding_mask

7.2 bridge/projector

使用：

fused_spatial_embeddings [B, T_s, 768]
  -> LayerNorm
  -> 1-layer TransformerEncoder (768)
  -> LayerNorm
  -> Linear(768, 1536)
  -> GELU
  -> Linear(1536, 4096)

输出：

  • llm_spatial_tokens [B, T_s, 4096]

7.3 QA 训练策略

第一轮只做：

  • freeze Spatial-BEATs backbone
  • train bridge
  • train projector
  • train LLM LoRA

也就是概念上对应当前的：

  • adapter_lora

7.4 不建议第一版就做的事

以下都不建议第一版就做：

  • 用 slot 输出替代 dense latent
  • 同时训练 Spatial-BEATs 全 backbone
  • 同时改 QA prompt 设计
  • 把分类/角度/距离 head 输出直接拼进 LLM token

这些会大幅增加排障复杂度。

8. 为什么这条路线比当前 DCASE encoder 更合理

当前 DCASE spatial encoder 路径的问题是：

  • 更偏任务 readout
  • 对 QA 来说 token 表征容量不足
  • 数值空间信息学得不稳

而 Spatial-BEATs local_spatial 路径的优势是：

  1. 有明确的低频时序 token 接口
  2. fused_spatial_embeddings 本身就是为“投给 LLM”准备的 dense latent
  3. semantic path 与 local spatial path 分工清晰
  4. 已经有 projector 抽象和 token interface 文档

换句话说，Spatial-BEATs 的结构天然更像一个可插拔的独立 spatial encoder，而不是一个“SELD head 顺便挤出 token”。

9. 建议的下一步

建议按下面顺序推进：

  1. 先实现 Spatial-BEATs -> fused_spatial_embeddings -> bridge -> projector -> LLM spatial tokens
  2. 第一轮只做 freeze encoder + bridge/projector + LLM LoRA
  3. 验证 QA 上是否比当前 DCASE spatial encoder 明显更好
  4. 如果有效，再做尾部联合微调
  5. 最后再做 hidden-cache 预计算优化

这样可以把风险拆开：

  • encoder token 是否有效
  • bridge 是否够用
  • LLM 是否能消费这组 token

而不是把三个问题同时耦合起来。