# ClawBenchPro base100/hard100 NPU 上传包

本目录可整体上传到实际运行 Ascend NPU 推理与评测的共享存储。模型权重不在包内；
推理时设置 `MODEL_PATH`，本地 Judge 评测时设置 `JUDGE_MODEL_PATH`。
包内 VERL 已排除历史日志、Python 缓存、测试目录和 Git 元数据。

## 包含内容

```text
upload_clawbenchpro_base100_hard100_npu/
├── verl/                         # 完整修改版 VERL/Nanoclaw
├── v14/
│   ├── 0708_new/
│   │   ├── inference_clawbenchpro.sh
│   │   └── score_clawbenchpro.sh
│   └── 0710/
│       └── inference.sh
├── data/
│   └── ClawBenchPro_base100_hard100_quality/  # base 100 + hard 100
├── scripts/
│   ├── setup_full_npu_environment.sh
│   ├── verify_bundle.sh
│   └── verify_bundle.py
├── outputs/                      # 推理默认输出位置
└── README_UPLOAD_AND_RUN.md
```

不需要另外上传原始 `ClawBenchPro`、未选择的 800 条任务或完整数据适配目录。

## 上传后检查

```bash
cd /shared/upload_clawbenchpro_base100_hard100_npu
bash scripts/verify_bundle.sh
```

预期打印 `tasks=200`、`base=100`、`hard=100`、规则 verifier 66、LLM Judge
verifier 134，最终状态为 `ok`。

## 推理

所有模型路径必须是 vLLM 可直接加载的合并 Hugging Face checkpoint，不能是
VERL/FSDP shard。直接打开 `v14/0708_new/inference_clawbenchpro.sh`，在脚本顶部
填写 `MODEL_CHECKPOINTS`。每个元素都是一个普通字符串，格式为
`"唯一输出名|checkpoint绝对路径"`：

```bash
MODEL_CHECKPOINTS=(
    "qwen35_27b_step_20|/shared/checkpoints/qwen35_27b_step_20/huggingface"
    "qwen35_27b_step_40|/shared/checkpoints/qwen35_27b_step_40/huggingface"
    "qwen35_27b_step_60|/shared/checkpoints/qwen35_27b_step_60/huggingface"
)
```

不需要 CSV、TSV 或额外配置文件。填写后可以先只检查模型配置：

```bash
MODEL_INPUT_VALIDATE_ONLY=1 \
bash v14/0708_new/inference_clawbenchpro.sh
```

检查通过后正式运行：

```bash
bash v14/0708_new/inference_clawbenchpro.sh
```

多个 checkpoint 会在同一个 Ray 集群中按清单顺序逐个加载。每个模型结束后等待
NPU 资源完全释放，再等待 `MODEL_SWITCH_COOLDOWN` 秒加载下一个模型。默认某个模型
失败后继续后续模型；如需首个失败立即退出，设置 `CONTINUE_ON_MODEL_ERROR=0`。

如果临时不想修改脚本，也仍可使用换行分隔的环境变量覆盖顶部数组：

```bash
MODEL_PATH_LIST=$'/shared/checkpoints/step20/huggingface\n/shared/checkpoints/step40/huggingface\n/shared/checkpoints/step60/huggingface' \
MODEL_NAME_LIST=$'step20\nstep40\nstep60' \
bash v14/0708_new/inference_clawbenchpro.sh
```

输出严格分开保存：

```text
outputs/
├── step20/step_1/<task>_sample_<n>/
├── step40/step_1/<task>_sample_<n>/
└── step60/step_1/<task>_sample_<n>/
```

兼容旧的单 checkpoint 调用方式：

```bash
MODEL_PATH=/shared/checkpoints/step20/huggingface \
MODEL_NAME=step20 \
bash v14/0708_new/inference_clawbenchpro.sh
```

多节点必须把整个包放在所有节点可见的共享路径，并在所有节点提交同一命令。
默认单机 8 NPU、TP=4、每题 1 条轨迹。每题采样 8 次时增加：

```bash
N_RESP_PER_PROMPT=8 \
bash v14/0708_new/inference_clawbenchpro.sh
```

推理脚本默认 `SETUP_ENVIRONMENT=1`，会像训练脚本一样使用离线缓存完整安装：

- GCC 11.3.0；
- CANN toolkit、910B ops、NNAL/ATB；
- PyTorch 2.9.0、torch-npu 2.9.0、torchvision、torchaudio；
- vLLM、vLLM-Ascend；
- jemalloc；
- Triton 3.5.0、triton-ascend；
- 完整 VERL/Nanoclaw；
- transformers 5.3.0、accelerate 1.13.0；
- verifier 所需的 openai、httpx、json_repair 等依赖。

只有确认镜像已经具备完全一致环境时，才设置 `SETUP_ENVIRONMENT=0`。缓存路径可用
`INSTALL_DIR`、`BKGS`、`COMPILED_GCC_ARCHIVE_PATH`、`VLLM_LATEST_PKGS`、
`CANN_BKGS`、`TRITON_ASCEND_WHL` 覆盖。

## 完整评测：本机部署固定 Judge

先等待推理完全结束并退出 Ray/vLLM，释放 8 张 NPU，再运行评分。推荐所有被测
checkpoint 固定使用同一 Judge，不要让每个被测模型分别给自己评分。

```bash
JUDGE_MODEL_PATH=/shared/models/Qwen3.5-27B \
JUDGE_SERVED_MODEL_NAME=qwen35_27b_judge \
JUDGE_DEVICES=0,1,2,3,4,5,6,7 \
JUDGE_TP=8 \
INFERENCE_ROOT=/shared/upload_clawbenchpro_base100_hard100_npu/outputs \
bash v14/0708_new/score_clawbenchpro.sh
```

评分脚本默认自动发现 `INFERENCE_ROOT` 下所有包含 `step_1/` 的模型目录，逐个评分并
生成统一 `leaderboard.csv`。只评部分模型时可传逗号分隔目录名：

```bash
MODELS=step20,step60 \
JUDGE_MODEL_PATH=/shared/models/Qwen3.5-27B \
bash v14/0708_new/score_clawbenchpro.sh
```

评分脚本同样默认 `SETUP_ENVIRONMENT=1`。它会先 source
`scripts/setup_full_npu_environment.sh`，独立完成与训练/推理同源的完整环境安装，
然后才启动 Judge 和 verifier。因此评分可以作为一个全新的独立 NPU 作业提交，
不依赖推理作业遗留的 Python 进程或环境变量。

评分机器的离线依赖缓存路径与推理相同；如果评分镜像已经完整安装，也可以显式设置：

```bash
SETUP_ENVIRONMENT=0 \
JUDGE_MODEL_PATH=/shared/models/Qwen3.5-27B \
bash v14/0708_new/score_clawbenchpro.sh
```

## 使用已有 Judge API

如果 Judge 已经部署，或者使用外部兼容服务，不要重复启动模型：

```bash
START_JUDGE_SERVER=0 \
SETUP_ENVIRONMENT=1 \
JUDGE_BASE_URL=http://judge-host:8000/v1 \
JUDGE_API_KEY=dummy_key \
JUDGE_SERVED_MODEL_NAME=qwen35_27b_judge \
INFERENCE_ROOT=/shared/upload_clawbenchpro_base100_hard100_npu/outputs \
bash v14/0708_new/score_clawbenchpro.sh
```

服务必须实现 OpenAI-compatible `/v1/models` 和 `/v1/chat/completions`。

## 只检查 66 条规则任务

没有 Judge 时可以显式运行规则子集；134 条 LLM 任务会标为 skipped，不会静默
记成模型 0 分：

```bash
JUDGE_ENABLED=0 FAIL_ON_ERROR=0 \
bash v14/0708_new/score_clawbenchpro.sh
```

该结果不是完整 ClawBenchPro 200 条成绩。

## 评分输出

```text
scores/
├── summary.json
├── leaderboard.csv
└── <model>/
    ├── scoring_results.jsonl
    └── scoring_summary.json
```

每个推理结果目录还会写入：

```text
outputs/<model>/step_1/<task>_sample_<n>/
├── verifier_result.json
└── score_summary.json
```

汇总同时提供 overall/base/hard、逐 sample 平均、逐任务多 sample 平均、best-of-N、
通过率、Judge 错误数、失败数和跳过数。部分原始 verifier 把
`workplace_score.json` 写入 `workspace_after/`，另一些写入结果目录；专用评分器
兼容两种位置，并在每次重评前清除旧分数，避免读取陈旧结果。

默认 `PASS_THRESHOLD=0.75` 仅用于报告通过率；连续分数仍以 `score/max_score`
汇总。重新评分可设置 `OVERWRITE=1 RESUME=0`，断点续评保持默认
`RESUME=1 OVERWRITE=0`。

## 评测口径

任务 verifier 源码默认的模型名是 `gpt-5.4`。使用本地 Qwen3.5-27B Judge 可以
得到稳定的内部对比结果，但不能宣称与 GPT-5.4 Judge 的官方口径完全相同。
比较多个 checkpoint 时必须固定 Judge checkpoint、served model name、采样和
评分参数。