Update verl_0720_main/9b.sh

verl_0720_main/9b.sh

@@ -1,46 +1,24 @@
 #!/bin/bash
-# Qwen3.5-9B Nanoclaw 多轮 GRPO — VERL 0720 + NPU SP1/31K 长轨迹正式训练版
-#
-# 关键修改：
-#   1) 入口改为 python3 -m verl.trainer.main_ppo，不再使用 recipe.grpo_mindspeed_mm.main_ppo；
-#   2) 不再使用 MM_CONFIG_FILE / MindSpeed-MM YAML；
-#   3) 显式 text-only：data.return_multi_modal_inputs=False；
-#   4) 数据输入改为 Nanoclaw base_tasks 目录，不再使用 Retool parquet/json；
-#   5) 保留 27B 作业验证过的 HCCL buffer 与端口范围，降低 HcclAllreduce socket/资源压力；
-#   6) 默认 val n=1、log_val_generations=10，先验证训练稳定性；
-#   7) 使用 FSDP2、reshard-after-forward、CPU offload policy 和 activation offload；
-#   8) 使用最新版 VERL V1/TransferQueue 和 nanoclaw_recipe，并按参考 YAML 的训练意图映射优化器与 KL；
-#   9) 恢复 Nanoclaw 正式训练需要的 22768 response / 16384 assistant 长轨迹预算；
-#  10) 启用分块 Torch LM-head，直接计算 token log-prob/entropy，避免 31K×vocab 完整 logits 常驻显存；
-#  11) 普通 entropy fallback 仍使用 256-token 分块，防止非 fused 路径产生十几 GiB 临时张量。
 
 set -x
 
-# ================= 正式长轨迹版：Qwen3.5 NPU SP1 + 约 31K =================
-# Nanoclaw 的工具 observation 也占 response budget。8K response 会让有效轨迹过早
-# 以 max_response_tokens 截断，因此正式训练恢复 22768 total response / 16384 assistant。
+
 export TRAIN_SP=1
 export QWEN35_FLA_BACKEND=disabled
 export MAX_PROMPT_LENGTH=8192
 export MAX_RESPONSE_LENGTH=22768
 export MAX_ASSISTANT_RESPONSE_LENGTH=16384
 export MAX_TOOL_RESPONSE_LENGTH=8192
-# 8192 + 22768 = 30960；向上对齐到 32768，确保单条最长样本不会超过
-# actor/ref/log-prob 动态 micro-batch 的 token 容量。
 export ACTOR_MAX_TOKEN_LEN_PER_GPU=32768
 export LOG_PROB_MAX_TOKEN_LEN_PER_GPU=32768
 export ROLLOUT_MAX_NUM_BATCHED_TOKENS=32768
 export ACTOR_STRATEGY=fsdp2
 export OFFLOAD=True
-# 当前 VERL 的 checkpointing 分支不会传递自定义 chunk size；稳定版明确关闭它，确保实际使用 256。
 export ENTROPY_FROM_LOGITS_WITH_CHUNKING=True
 export ENTROPY_FROM_LOGITS_CHUNK_SIZE=256
 export ENTROPY_CHECKPOINTING=False
-# Qwen3.5 fused Torch LM-head 按 token 分块计算全词表 log-prob/entropy，不保留
-# 完整的 [T, vocab] logits；这是 SP1/31K 相比 16K 必须增加的显存保护。
 export USE_FUSED_KERNELS=True
 export FUSED_KERNEL_BACKEND=torch
-# 正式长序列版默认打开 activation offload；保留环境变量开关用于 NPU 故障隔离。
 export ENABLE_ACTIVATION_OFFLOAD=${ENABLE_ACTIVATION_OFFLOAD:-True}