bifill-dv:DV 的画布、V 端 LoRA 和路径选择器
MiniCPM5-1B 上的 DV:一次前向里,左段因果核对上一遍画布的猜测,右段 32 格双向画布猜后面的词。代码、训练方法和全部结果见 GitHub pmzzs/bifill-dv(私有)的 README。这里只放权重,都是 PyTorch .pt,用那个仓库的 code/evalgen.py 加载。
文件
| 目录 | 文件 | 是什么 | 加载方式(evalgen.py 的环境变量) |
|---|---|---|---|
canvas/ |
dva_res2.pt |
主画布:冻结主干上的 CanvasAdapter(每层 7 个秩 256 LoRA + 画布 RMSNorm + MASK embedding + residual context),在原模型的回答上训练 |
FT_CKPT |
canvas/ |
dva_cd_b2h.pt |
res2 在 g_b2h 的 V 自己的 9000 条贪心回答上续训 4500 步 | FT_CKPT |
canvas/ |
dva_cd_base2.pt |
同上,g_base2 的 V | FT_CKPT |
canvas/ |
dva_cd_light2.pt |
同上,g_light2 的 V(8579 条) | FT_CKPT |
v_lora/ |
lora_g_*.pt |
V 端(核对 / 写文本那一半)的 LoRA,秩 64,GRPO 训练;画布那一半仍用原权重 | VLORA |
selector/ |
sel_*_w8.pt |
DFlash 2 式路径选择器(约 120 万参数),从画布每格的 top-16 里挑下一遍的猜测 | SEL_CKPT |
V 端 LoRA:
| 文件 | 训练 |
|---|---|
lora_g_base.pt |
原 V 起,奖励 = 答对 + 0.25 × 速度,20 步 |
lora_g_heavy.pt |
原 V 起,奖励 = 0.25 × 答对 + 速度 |
lora_g_base2.pt |
g_base 之后同样奖励再 20 步 |
lora_g_b2h.pt |
g_base 之后偏速度的奖励再 20 步 |
lora_g_light.pt |
原 V 起,LightningRL 式 GRPO(答对和速度分开归一化、答对的回答上加 NLL、过滤题组) |
lora_g_light2.pt |
g_base 之后 LightningRL 式 20 步 |
选择器:sel_orig_w8(原 V)、sel_base2_w8、sel_b2h_w8、sel_light2_w8 都在 res2 画布上训;sel_cdb2h_w8、sel_cdbase2_w8 在对应的新画布上重训(不如在 res2 上训的旧选择器)。
主要结果(GSM8K 全部 1319 题,贪心,AR 67.3%)
| 组合 | 核对 | 每次前向的词数 | 准确率(和 AR 差) |
|---|---|---|---|
原 V + dva_res2 |
无损 | 4.01 | 67.1%(−0.2) |
lora_g_light2 + dva_res2 + sel_light2_w8 |
无损 | 4.43 | 67.2%(−0.1) |
lora_g_light2 + dva_res2 + sel_light2_w8 |
min-p 0.2(MODES=DVC TAUS=0.2 DV_FILL=0.5 ACC_EXTRA=1) |
5.10 | 67.2%(−0.1) |
lora_g_base2 + dva_res2 + sel_base2_w8 |
无损 | 5.09 | 66.2%(−1.1) |
lora_g_base2 + dva_res2 + sel_base2_w8 |
min-p 0.2 | 5.83 | 65.1%(−2.2) |
lora_g_b2h + dva_cd_b2h + sel_b2h_w8 |
无损 | 6.03 | 63.8%(−3.6) |
lora_g_b2h + dva_cd_b2h + sel_b2h_w8 |
min-p 0.2 | 7.20 | 61.1%(−6.2) |
例:
VLORA=ckpt/lora_g_light2.pt FT_CKPT=ckpt/dva_res2.pt SEL_CKPT=ckpt/sel_light2_w8.pt \
ACC_EXTRA=1 DV_FILL=0.5 N=1319 BS=64 MODES=DVC TAUS=0.2 python code/evalgen.py
Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support
Model tree for panmz/bifill-dv
Base model
openbmb/MiniCPM5-1B