Atriclove/table-encoder-sft-base

Table Encoder SFT Base Checkpoints

Qwen3-VL-8B-Instruct 视觉 encoder 训练产物，用于 SFT 阶段的 base encoder。 全部由新九桶 CE + wtbshort(+TableVista) 语料、完整 epoch 训练。

文件与评测（encoder 单测：base decoder + turbo6 IID600 / TableVista OOD300）

文件	说明	IID600	OOD300	张量数
frozen_full_tvas_raw.pt	推荐 SFT base：全量 ViT 完整训练（merger 冻结），wtbshort+TV全样式语料	66.83	27.63	325 (纯 ViT)
frozen_tvas_a040.pt	上者与 base 的 WiSE-FT 插值 α=0.4（保守保险）	58.33	66.01	325 (纯 ViT)
open_full_tv_both.pt	备选：全量 ViT + merger@2e-6 协同训练（wtbshort+TV单样式）	71.17*	34.00	349 (ViT+merger)

*open 的 71.17 为 MERGER=both 评测（含协同 merger）；ViT 单独（skip）为 59.83/49.01。

用法

• frozen 系（325 张量，无 merger）：SFT 时 MERGER=skip 加载（merger 用 base）， 配合 TRAIN_MERGER=1 在 SFT 中联训 merger（LR 2e-6 微动）。
• open 系（349 张量，含训过的 merger）：MERGER=both 加载全套，同样建议 TRAIN_MERGER=1 继续联训。
• loader 直接 torch.load(..., weights_only=True) 后按 visual tower 键名覆写即可（与 --encoder-state 接口一致的 encoder_state.pt 格式）。

训练配置（frozen_full_tvas_raw）

• 语料：struct_space_mmtab_v2_nomulti_ct3_wtbshort534 + TableVista 全样式 49,760 条（共 375,270 行，完整 epoch 15,637 步）
• LR 5e-6 cosine / eff batch 24 / fp32 master / decoder、patch_embed、merger 全冻
• ViT 全量参数开放，新九桶 CE

OOD 风险提示

frozen_full_tvas_raw 的 OOD（27.63）是用 base decoder 测的代理值：ViT 大位移导致 base decoder 接口失配。SFT 阶段 decoder+merger 联训会重新对齐，v12 语料中的 745 条 TableVista QA + 3,439 条 视觉 QA 用于恢复 OOD 域答题能力。若 SFT 后 OOD 验证仍不达标，切换 frozen_tvas_a040.pt（OOD 安全档）重跑 SFT。