Datasets:

ChipYTY
/

titans_NPC

Core：Qwen3-4B-Instruct 只负责处理一个可控窗口大小的 chunk（例如 4k）。
Long-term Memory：titans_pytorch.NeuralMemory 维护一个随 chunk 滚动更新的 memory_state（快权重/动量等状态）。
MAC（Memory-as-Context）风格注入：每个 chunk 开始时，从长期记忆 读取一小段 memory tokens，将它们 作为“额外上下文 token”前缀 拼到 chunk 前面，让 Qwen 在注意力里直接可用。

这使得整体序列长度可以远大于 Qwen 的单次可承受长度：Qwen 看到的是「当前 chunk + 记忆 tokens」，而长期信息通过 Titans 的 state 跨 chunk 保留与检索。

关键代码组件

1) `TitansLongTermMemory`：长期记忆模块封装

位置：examples/train_qwen_titans_babilong.py

内部包含：

self.neural_memory: NeuralMemory
- dim = hidden_size
- heads = config.memory_heads
- dim_head = config.memory_dim_head
- model = MemoryMLP(dim=dim_head, depth=config.memory_depth, ...)
- 写入稳定性相关配置：default_step_transform_max_lr / init_adaptive_step_bias / max_grad_norm / ...
self.memory_query_tokens: nn.Parameter
- 形状 [1, 16, hidden_size]
- 作为“从长期记忆里检索”的查询 token（可训练）
self.memory_proj: nn.Sequential
- 将 retrieve_memories() 的输出再映射回适合注入 Qwen 的表征空间

`read()`：只读检索（不会写入）

当前实现 明确避免 使用 NeuralMemory.forward(queries) 来读：

NeuralMemory.forward() 默认会同时做 store + retrieve
如果用 queries 调 forward()，会把 query 也写进记忆，造成污染

因此当前实现采用：

从 memory_state.states[0] 取出“最新快权重”作为 weights
调用 self.neural_memory.retrieve_memories(queries, weights) 完成纯检索

`write()`：写入更新（跨 chunk 不反传）

写入时调用：

self.neural_memory(hidden_states, state=..., store_mask=..., detach_mem_state=True)

其中 detach_mem_state=True 的含义是：

记忆 state 的更新过程不参与跨 chunk 的反向传播
优点：训练更稳、显存更省、避免长链条反传导致 NaN/爆显存
代价：loss 不会“端到端”优化写入更新过程（但仍可优化 query/proj 等参数）

2) `QwenTitansForBABILong`：Qwen + 记忆的主包装模型

位置：examples/train_qwen_titans_babilong.py

包含：

self.qwen: AutoModelForCausalLM 加载的 Qwen3
self.long_term_memory: TitansLongTermMemory
self.memory_gate: 当前仅占位（参数会训练/保存，但 forward 里未实际使用，目前是“纯 memory tokens 前缀注入”路线）

并做了关键的 device/dtype 对齐：

Qwen 通常用 bf16
记忆模块可以强制用 float32（config.memory_fp32=True）以降低 NaN 风险

前向流程（单个样本，Streaming）

入口：QwenTitansForBABILong.forward(input_ids, attention_mask, labels)

Step 0：输入形状与 chunk 划分

输入被固定为 seq_len = config.max_length（例如 32768）
用 chunk_size（例如 4096）切成多个 chunks（例如 8 个）
为了覆盖 chunk 边界的 next-token 预测，每个 chunk 会带 1 个 overlap token：
- proc_start = max(0, start - 1)
- 当前 chunk 实际处理 [proc_start, end)，但写入记忆只写 [start, end)（避免重复写 overlap）

Step 1：从长期记忆读取 memory tokens

初始 memory_state = None：第一段不会注入 memory tokens
从第二个 chunk 开始：
- memory_tokens = long_term_memory.read(batch_size, memory_state, num_tokens=config.num_memory_tokens)

Step 2：把 memory tokens 作为前缀注入 Qwen（MAC）

在 _process_chunk() 中完成：

先拿到 token embeddings：token_embeds = qwen.model.embed_tokens(chunk_ids)
若存在 memory tokens：
- nan_to_num + scale + clamp（避免记忆扰动太大引发不稳定）
- torch.cat([memory_tokens, token_embeds], dim=1) 作为 inputs_embeds
- 同步扩展 attention_mask：为 memory token 补 1

Step 3：调用 `self.qwen.model(...)` 做 chunk 前向

这里必须走 Qwen3Model.forward()（即 self.qwen.model），原因是：

Qwen3Attention 依赖 position_embeddings=(cos, sin) 等由 Qwen3Model 内部生成并传入
不能直接逐层调用 Qwen3DecoderLayer（会出现 cos, sin = position_embeddings 的 None 问题）

得到：

hidden_states = outputs.last_hidden_state
如果注入了 memory tokens，则把它们从输出里切掉：hidden_states = hidden_states[:, num_mem:]

Step 4：把 chunk 的 hidden 写入 Titans 记忆

写入采用：

去掉 overlap 的 chunk_hidden
store_mask 用 attention_mask（padding=0 的位置不写入）
调用 long_term_memory.write(mem_inp, state=memory_state, store_mask=...)

返回并更新：

memory_state = next_state

Step 5：只在“答案 tokens”上计算 loss（省显存）

labels 中：

prompt 与 padding 为 -100
仅答案 token 有监督标签

loss 计算策略：

只选择 labels != -100 的位置
对应 hidden 做 shift（next-token）
仅对有效位置做 lm_head 与交叉熵（避免全 vocab、全序列 logits 占用巨大显存）

分布式训练（FSDP）集成要点

代码入口仍在：examples/train_qwen_titans_babilong.py

**必须 device_map=None**：FSDP/DDP 不允许 HF 自动切分到多卡
**强制 attn_implementation="sdpa"**：避免环境里 flash-attn/torchao/torchvision 的兼容性导入问题
FSDP wrap 策略：
- 只 wrap Qwen3DecoderLayer
- ignored_modules=[model.long_term_memory, model.memory_gate]：记忆模块不参与分片（便于保存/调试，也避免小模块反复 allgather）
固定长度输入（非常关键）：
- FSDP 需要所有 rank 每步进入 collectives 的顺序一致
- 如果不同 rank 的 chunk 次数不同，会出现 _ALLGATHER_BASE / ALLREDUCE 顺序错位，从而 NCCL watchdog 超时
- 因此数据侧必须 pad 到 config.max_length，保证每步 chunk 数一致

当前实现的取舍与可改进点

memory_gate 目前未参与 forward：现在是纯“memory tokens 作为上下文前缀”的 MAC 注入；如果需要门控融合，需要在 forward 里显式引入 gate 计算与融合路径。
**detach_mem_state=True**：训练更稳/省显存，但不会端到端训练“写入更新过程”；如果后续要做更强的端到端学习，需要重新评估这条策略（以及显存与稳定性代价）。

Qwen3-4B-Instruct + Titans NeuralMemory（MAC 风格）集成流程说明

整体思路（Streaming + MAC）