You need to agree to share your Hugging Face information to access this model

This repository is publicly accessible, but you have to accept the conditions to access its files and content.

Log in or Sign Up to review the conditions and access this model content.

bifill-dv:DV 的画布、V 端 LoRA 和路径选择器

MiniCPM5-1B 上的 DV:一次前向里,左段因果核对上一遍画布的猜测,右段 32 格双向画布猜后面的词。代码、训练方法和全部结果见 GitHub pmzzs/bifill-dv(私有)的 README。这里只放权重,都是 PyTorch .pt,用那个仓库的 code/evalgen.py 加载。

文件

目录 文件 是什么 加载方式(evalgen.py 的环境变量)
canvas/ dva_res2.pt 主画布:冻结主干上的 CanvasAdapter(每层 7 个秩 256 LoRA + 画布 RMSNorm + MASK embedding + residual context),在原模型的回答上训练 FT_CKPT
canvas/ dva_cd_b2h.pt res2 在 g_b2h 的 V 自己的 9000 条贪心回答上续训 4500 步 FT_CKPT
canvas/ dva_cd_base2.pt 同上,g_base2 的 V FT_CKPT
canvas/ dva_cd_light2.pt 同上,g_light2 的 V(8579 条) FT_CKPT
v_lora/ lora_g_*.pt V 端(核对 / 写文本那一半)的 LoRA,秩 64,GRPO 训练;画布那一半仍用原权重 VLORA
selector/ sel_*_w8.pt DFlash 2 式路径选择器(约 120 万参数),从画布每格的 top-16 里挑下一遍的猜测 SEL_CKPT

V 端 LoRA:

文件 训练
lora_g_base.pt 原 V 起,奖励 = 答对 + 0.25 × 速度,20 步
lora_g_heavy.pt 原 V 起,奖励 = 0.25 × 答对 + 速度
lora_g_base2.pt g_base 之后同样奖励再 20 步
lora_g_b2h.pt g_base 之后偏速度的奖励再 20 步
lora_g_light.pt 原 V 起,LightningRL 式 GRPO(答对和速度分开归一化、答对的回答上加 NLL、过滤题组)
lora_g_light2.pt g_base 之后 LightningRL 式 20 步

选择器:sel_orig_w8(原 V)、sel_base2_w8、sel_b2h_w8、sel_light2_w8 都在 res2 画布上训;sel_cdb2h_w8、sel_cdbase2_w8 在对应的新画布上重训(不如在 res2 上训的旧选择器)。

主要结果(GSM8K 全部 1319 题,贪心,AR 67.3%)

组合 核对 每次前向的词数 准确率(和 AR 差)
原 V + dva_res2 无损 4.01 67.1%(−0.2)
lora_g_light2 + dva_res2 + sel_light2_w8 无损 4.43 67.2%(−0.1)
lora_g_light2 + dva_res2 + sel_light2_w8 min-p 0.2(MODES=DVC TAUS=0.2 DV_FILL=0.5 ACC_EXTRA=1) 5.10 67.2%(−0.1)
lora_g_base2 + dva_res2 + sel_base2_w8 无损 5.09 66.2%(−1.1)
lora_g_base2 + dva_res2 + sel_base2_w8 min-p 0.2 5.83 65.1%(−2.2)
lora_g_b2h + dva_cd_b2h + sel_b2h_w8 无损 6.03 63.8%(−3.6)
lora_g_b2h + dva_cd_b2h + sel_b2h_w8 min-p 0.2 7.20 61.1%(−6.2)

例:

VLORA=ckpt/lora_g_light2.pt FT_CKPT=ckpt/dva_res2.pt SEL_CKPT=ckpt/sel_light2_w8.pt \
ACC_EXTRA=1 DV_FILL=0.5 N=1319 BS=64 MODES=DVC TAUS=0.2 python code/evalgen.py
Downloads last month

-

Downloads are not tracked for this model. How to track
Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support

Model tree for panmz/bifill-dv

Finetuned
(66)
this model