upload_clawbenchpro_base100_hard100_npu/README_UPLOAD_AND_RUN.md

ClawBenchPro base100/hard100 NPU 上传包

本目录可整体上传到实际运行 Ascend NPU 推理与评测的共享存储。模型权重不在包内； 推理时设置 MODEL_PATH，本地 Judge 评测时设置 JUDGE_MODEL_PATH。 包内 VERL 已排除历史日志、Python 缓存、测试目录和 Git 元数据。

包含内容

upload_clawbenchpro_base100_hard100_npu/
├── verl/                         # 完整修改版 VERL/Nanoclaw
├── v14/
│   ├── 0708_new/
│   │   ├── inference_clawbenchpro.sh
│   │   └── score_clawbenchpro.sh
│   └── 0710/
│       └── inference.sh
├── data/
│   └── ClawBenchPro_base100_hard100_quality/  # base 100 + hard 100
├── scripts/
│   ├── setup_full_npu_environment.sh
│   ├── verify_bundle.sh
│   └── verify_bundle.py
├── outputs/                      # 推理默认输出位置
└── README_UPLOAD_AND_RUN.md

不需要另外上传原始 ClawBenchPro、未选择的 800 条任务或完整数据适配目录。

上传后检查

cd /shared/upload_clawbenchpro_base100_hard100_npu
bash scripts/verify_bundle.sh

预期打印 tasks=200、base=100、hard=100、规则 verifier 66、LLM Judge verifier 134，最终状态为 ok。

推理

所有模型路径必须是 vLLM 可直接加载的合并 Hugging Face checkpoint，不能是 VERL/FSDP shard。直接打开 v14/0708_new/inference_clawbenchpro.sh，在脚本顶部 填写 MODEL_CHECKPOINTS。每个元素都是一个普通字符串，格式为 "唯一输出名|checkpoint绝对路径"：

MODEL_CHECKPOINTS=(
    "qwen35_27b_step_20|/shared/checkpoints/qwen35_27b_step_20/huggingface"
    "qwen35_27b_step_40|/shared/checkpoints/qwen35_27b_step_40/huggingface"
    "qwen35_27b_step_60|/shared/checkpoints/qwen35_27b_step_60/huggingface"
)

不需要 CSV、TSV 或额外配置文件。填写后可以先只检查模型配置：

MODEL_INPUT_VALIDATE_ONLY=1 \
bash v14/0708_new/inference_clawbenchpro.sh

检查通过后正式运行：

bash v14/0708_new/inference_clawbenchpro.sh

多个 checkpoint 会在同一个 Ray 集群中按清单顺序逐个加载。每个模型结束后等待 NPU 资源完全释放，再等待 MODEL_SWITCH_COOLDOWN 秒加载下一个模型。默认某个模型 失败后继续后续模型；如需首个失败立即退出，设置 CONTINUE_ON_MODEL_ERROR=0。

如果临时不想修改脚本，也仍可使用换行分隔的环境变量覆盖顶部数组：

MODEL_PATH_LIST=$'/shared/checkpoints/step20/huggingface\n/shared/checkpoints/step40/huggingface\n/shared/checkpoints/step60/huggingface' \
MODEL_NAME_LIST=$'step20\nstep40\nstep60' \
bash v14/0708_new/inference_clawbenchpro.sh

输出严格分开保存：

outputs/
├── step20/step_1/<task>_sample_<n>/
├── step40/step_1/<task>_sample_<n>/
└── step60/step_1/<task>_sample_<n>/

兼容旧的单 checkpoint 调用方式：

MODEL_PATH=/shared/checkpoints/step20/huggingface \
MODEL_NAME=step20 \
bash v14/0708_new/inference_clawbenchpro.sh

多节点必须把整个包放在所有节点可见的共享路径，并在所有节点提交同一命令。 默认单机 8 NPU、TP=4、每题 1 条轨迹。每题采样 8 次时增加：

N_RESP_PER_PROMPT=8 \
bash v14/0708_new/inference_clawbenchpro.sh

推理脚本默认 SETUP_ENVIRONMENT=1，会像训练脚本一样使用离线缓存完整安装：

• GCC 11.3.0；
• CANN toolkit、910B ops、NNAL/ATB；
• PyTorch 2.9.0、torch-npu 2.9.0、torchvision、torchaudio；
• vLLM、vLLM-Ascend；
• jemalloc；
• Triton 3.5.0、triton-ascend；
• 完整 VERL/Nanoclaw；
• transformers 5.3.0、accelerate 1.13.0；
• verifier 所需的 openai、httpx、json_repair 等依赖。

只有确认镜像已经具备完全一致环境时，才设置 SETUP_ENVIRONMENT=0。缓存路径可用 INSTALL_DIR、BKGS、COMPILED_GCC_ARCHIVE_PATH、VLLM_LATEST_PKGS、 CANN_BKGS、TRITON_ASCEND_WHL 覆盖。

完整评测：本机部署固定 Judge

先等待推理完全结束并退出 Ray/vLLM，释放 8 张 NPU，再运行评分。推荐所有被测 checkpoint 固定使用同一 Judge，不要让每个被测模型分别给自己评分。

JUDGE_MODEL_PATH=/shared/models/Qwen3.5-27B \
JUDGE_SERVED_MODEL_NAME=qwen35_27b_judge \
JUDGE_DEVICES=0,1,2,3,4,5,6,7 \
JUDGE_TP=8 \
INFERENCE_ROOT=/shared/upload_clawbenchpro_base100_hard100_npu/outputs \
bash v14/0708_new/score_clawbenchpro.sh

评分脚本默认自动发现 INFERENCE_ROOT 下所有包含 step_1/ 的模型目录，逐个评分并 生成统一 leaderboard.csv。只评部分模型时可传逗号分隔目录名：

MODELS=step20,step60 \
JUDGE_MODEL_PATH=/shared/models/Qwen3.5-27B \
bash v14/0708_new/score_clawbenchpro.sh

评分脚本同样默认 SETUP_ENVIRONMENT=1。它会先 source scripts/setup_full_npu_environment.sh，独立完成与训练/推理同源的完整环境安装， 然后才启动 Judge 和 verifier。因此评分可以作为一个全新的独立 NPU 作业提交， 不依赖推理作业遗留的 Python 进程或环境变量。

评分机器的离线依赖缓存路径与推理相同；如果评分镜像已经完整安装，也可以显式设置：

SETUP_ENVIRONMENT=0 \
JUDGE_MODEL_PATH=/shared/models/Qwen3.5-27B \
bash v14/0708_new/score_clawbenchpro.sh

使用已有 Judge API

如果 Judge 已经部署，或者使用外部兼容服务，不要重复启动模型：

START_JUDGE_SERVER=0 \
SETUP_ENVIRONMENT=1 \
JUDGE_BASE_URL=http://judge-host:8000/v1 \
JUDGE_API_KEY=dummy_key \
JUDGE_SERVED_MODEL_NAME=qwen35_27b_judge \
INFERENCE_ROOT=/shared/upload_clawbenchpro_base100_hard100_npu/outputs \
bash v14/0708_new/score_clawbenchpro.sh

服务必须实现 OpenAI-compatible /v1/models 和 /v1/chat/completions。

只检查 66 条规则任务

没有 Judge 时可以显式运行规则子集；134 条 LLM 任务会标为 skipped，不会静默 记成模型 0 分：

JUDGE_ENABLED=0 FAIL_ON_ERROR=0 \
bash v14/0708_new/score_clawbenchpro.sh

该结果不是完整 ClawBenchPro 200 条成绩。

评分输出

scores/
├── summary.json
├── leaderboard.csv
└── <model>/
    ├── scoring_results.jsonl
    └── scoring_summary.json

每个推理结果目录还会写入：

outputs/<model>/step_1/<task>_sample_<n>/
├── verifier_result.json
└── score_summary.json

汇总同时提供 overall/base/hard、逐 sample 平均、逐任务多 sample 平均、best-of-N、 通过率、Judge 错误数、失败数和跳过数。部分原始 verifier 把 workplace_score.json 写入 workspace_after/，另一些写入结果目录；专用评分器 兼容两种位置，并在每次重评前清除旧分数，避免读取陈旧结果。

默认 PASS_THRESHOLD=0.75 仅用于报告通过率；连续分数仍以 score/max_score 汇总。重新评分可设置 OVERWRITE=1 RESUME=0，断点续评保持默认 RESUME=1 OVERWRITE=0。

评测口径

任务 verifier 源码默认的模型名是 gpt-5.4。使用本地 Qwen3.5-27B Judge 可以 得到稳定的内部对比结果，但不能宣称与 GPT-5.4 Judge 的官方口径完全相同。 比较多个 checkpoint 时必须固定 Judge checkpoint、served model name、采样和 评分参数。