unjustify/minestudio-gemma4-e4b-trajectory-lora

MineStudio Gemma 4 E4B Trajectory LoRA

该模型是基于 unsloth/gemma-4-E4B-it 全新训练的视觉 LoRA，用于根据 Minecraft 图像序列或单帧意图生成 Lumine 动作块。训练监督采用 action-first 协议：模型先输出可独立 解析的 JSON 动作数组，再以 Reason: 给出简短理由。

训练配置

项目	值
数据集	unjustify/minestudio-trajectory-sft-237 的 768 条版本
训练 / 测试	691 / 77，随机种子 3407
Batch size	4
LoRA rank / alpha	32 / 32
学习率	2e-4，cosine
最大序列长度	2048
最大 epoch	10
早停	每 epoch 评估，连续 2 轮 loss 不下降
实际停止	epoch 6
最佳 checkpoint	epoch 4
最佳 eval loss	0.1962518

测试结果

指标	结果
JSON 可解析率	93.51%
动作块数量正确率	93.51%
固定时长题 tick 数正确率	97.56%
动作键集合平均 F1	69.81%
动作数组完全匹配率	5.19%

模型在固定时长重建题上较稳定。开放式未来动作存在多个合理输出，因此完全匹配率只作为参考。 5/77 个测试输出出现重复 tick 并达到 512 token 上限，JSON 未闭合。部署时应在 JSON 数组闭合后 立即停止并执行，同时保留最大生成长度限制。

完整真值对照见仓库中的 EVALUATION.md，逐样本原始结果见 eval/minestudio_gemma4_e4b_test_predictions.jsonl。

加载

from unsloth import FastVisionModel

model, processor = FastVisionModel.from_pretrained(
    "unjustify/minestudio-gemma4-e4b-trajectory-lora",
    max_seq_length=2048,
    load_in_4bit=False,
)
FastVisionModel.for_inference(model)

该仓库保存 PEFT LoRA adapter，不包含 Gemma 4 基座权重。使用时需同时遵守基座模型许可。