Datasets:

---

xiaobo6668

/

math-soft-tokens

like 0

ENTROPY_THRESHOLD=0.5 # {0.3, 0.4, 0.5, 0.6} 触发 soft-thinking 的熵阈值 (infer: entropy_threshold)
SOFT_STEPS=5 # {1, 3, 5, 10} Soft 模式持续步数 (infer: soft_steps)
BEAM_SIZE=10 # {5, 10, 20, 40} Beam search 的 beam size (数据生成特有)
TEMPERATURE=0.6 # {0.8, 1.0, 1.2} 温度系数 (infer: temperature)
SOFT_TOP_K_FILTER=40 # 用于分布裁剪的 top-k 阈值 (infer: soft_top_k_filter)
SOFT_TOP_P=0.95 # {0.8, 0.95, 1.0} 过滤用的 top-p (infer: soft_top_p)
SOFT_MIN_P=0.001 # 过滤用的 min-p (infer: soft_min_p)
SOFT_TOP_K=10 # 最终输出保存的 top-k 数量，用于合成 embedding (infer: soft_top_k)
USE_NOISE=0 # {0，1}
NOISE_TYPE="gumbel" # gumbel | dirichlet
GAMMA=10.0 # dirichlet
TAU=0.5 # gumbel