evaluation/tb1/README.md

# Harbor + Terminal-Bench 1.0 本地离线评测包

本目录是可独立迁移的 Terminal-Bench 1.0 本地评测材料汇总，包含完整 Harbor
源码结构、80 个任务、对应的 80 个主容器镜像、4 个 Compose 辅助镜像、三份参考
YAML、独立 Docker daemon 启停脚本和 Terminus-2 离线 agent tools。

Harbor 不是裁剪版 `framework` 目录：`harbor/` 保留了上游仓库完整结构，包括
`src`、`packages`、`adapters`、`tests`、`docs`、`examples`、`scripts`、`skills`、
`rfcs`、项目元数据与锁文件。基线来源为
[harbor-framework/harbor](https://github.com/harbor-framework/harbor)，具体 commit
记录在 `manifests/harbor-source.json`。

## 1. 目录结构

```text
tb1/
├── harbor/                       # 完整 Harbor 源码树，不含 .git 和安装环境
├── datasets/
│   └── terminal-bench-1.0-offline/ # 80 个任务及离线 verifier/solution 资源
├── images/
│   ├── archives/                 # 80 个主镜像 tar + SHA256SUMS
│   └── aux-archives/             # 4 个 Compose 辅助镜像 tar + SHA256SUMS
├── runtime/
│   └── agent-tools/              # Terminus-2 所需 tmux 离线工具及校验文件
├── configs/
│   ├── smoke-oracle.yaml         # hello-world 单任务检查
│   ├── oracle.yaml               # 80 个任务 Oracle 参考配置
│   └── model-terminus2.yaml      # 可填写模型信息的 Terminus-2 模板
├── scripts/
│   ├── check-bundle.sh           # 发布包完整性与文本敏感信息检查
│   ├── prepare-docker-root.sh     # 创建并挂载独立 ext4 稀疏盘
│   ├── start-daemon.sh            # 启动独立 dockerd
│   ├── import-images.sh           # 校验并导入 80+4 个镜像
│   ├── pipeline.sh                # 准备 Docker、导入镜像并做容器 smoke
│   ├── run-evaluation.sh          # 执行任意 YAML
│   ├── launch.sh                  # 在 tmux 中运行 pipeline + 评测
│   ├── status.sh                  # 查看 daemon 与 tmux 状态
│   └── stop-daemon.sh             # 停止 daemon，可选卸载 ext4
├── manifests/                    # Harbor、任务和镜像清单
├── outputs/                      # 新评测输出，发布时应清空
├── SECURITY_REVIEW.md
└── THIRD_PARTY_NOTICES.md
```

## 2. 保存范围

本包保留：

- 官方 Harbor 基线中的 1,614 个文件及本地评测兼容修改；
- 80 个 `task.toml` 对应的完整任务目录；
- 80 个预构建主镜像；
- `simple-sheets-put`、`simple-web-scraper`、`security-vulhub-minio` 三个
  Compose 任务所需的 4 个辅助镜像；
- Oracle 与 Terminus-2 启动所需的最小本地脚本、配置和 agent tools；
- SHA256、来源和任务/镜像对应清单。

以下内容明确没有保存：

- Harbor 和数据集的 `.git` 历史；
- 原实验目录、临时构建脚本、重试脚本和构建日志型 JSON；
- 已有 jobs、trials、报告、日志和模型输出；
- Docker `data-root`、容器状态、挂载目录和 500GB 稀疏 ext4 运行盘；
- `.venv`、uv cache、pytest cache 及框架运行环境；
- `.env`、模型密钥、私有 endpoint 和其他 secrets；
- 带开发前缀的目录或文件。

数据集中 `tests/vendor` 下的 Python 文件、二进制依赖和部分 `__pycache__` 是离线
verifier 资产，不属于本项目的 uv/venv 中间产物，因此按任务原样保留。

## 3. 数据规模与清单

当前内容数量：

| 内容 | 数量 | 清单 |
|---|---:|---|
| Harbor 官方基线文件 | 1,614 | `manifests/harbor-official-files.txt` |
| TB1 任务 | 80 | `manifests/tasks.tsv` |
| 主镜像 tar | 80 | `manifests/images-primary.tsv` |
| 辅助镜像 tar | 4 | `manifests/images-auxiliary.tsv` |
| Compose 任务 | 3 | `manifests/tasks.tsv` 的 `compose=yes` |
| solution 文件 | 166 | `manifests/tasks.tsv` 汇总 |
| verifier/test 文件 | 352,780 | `manifests/tasks.tsv` 汇总 |

为避免在同一存储上重复占用几十 GB，数据集和 tar 当前通过硬链接汇总。硬链接是
独立目录项：删除原始源目录不会让本目录文件失效；但在任一位置原地修改文件内容会
同时改变另一目录看到的内容。发布、上传或复制到其他文件系统后会自然成为普通文件。

## 4. 主机要求

推荐使用 x86_64 Linux。独立 Docker 方案需要：

- root 权限；
- Docker CLI 和 `dockerd`；
- Docker Compose v2 插件，即 `docker compose version` 可用；
- `tmux`；
- `mount`、`findmnt`、`mkfs.ext4`、`truncate`、`sha256sum`；
- 充足的实际磁盘空间。默认创建逻辑大小 500GB 的稀疏 ext4 文件，刚创建时不占满
  500GB，但导入镜像和运行容器会持续增长；
- 独立 Docker bridge 可用，且主机允许配置 iptables 与 IP forwarding。

不要把 `EVAL_ROOT` 设置成 `/`、`/root` 或本评测包目录。建议使用专门的、可清理的
绝对路径，例如 `/data/harbor-tb1-runtime`。

## 5. 安装完整 Harbor

评测包不保存任何预建 Python/uv 环境。建议在运行机器上重新创建。

### 方式 A：uv

```bash
cd /path/to/tb1/harbor
uv sync
uv run harbor --help
```

`uv sync` 默认生成 `harbor/.venv`，这是运行时产物，重新发布本包前应删除。若希望把
环境放在包外，可设置一个外部项目环境路径：

```bash
cd /path/to/tb1/harbor
UV_PROJECT_ENVIRONMENT=/data/venvs/harbor-tb1 uv sync
UV_PROJECT_ENVIRONMENT=/data/venvs/harbor-tb1 uv run harbor --help
export HARBOR_BIN=/data/venvs/harbor-tb1/bin/harbor
```

### 方式 B：Python venv + pip

```bash
python3 -m venv /data/venvs/harbor-tb1
source /data/venvs/harbor-tb1/bin/activate
python -m pip install -U pip
python -m pip install -e /path/to/tb1/harbor
harbor --help
```

`scripts/run-evaluation.sh` 按以下顺序查找 Harbor：`HARBOR_BIN`、
`harbor/.venv/bin/harbor`、当前 `PATH` 中的 `harbor`。

## 6. 发布包完整性检查

在导入镜像前先运行快速结构检查：

```bash
cd /path/to/tb1
bash scripts/check-bundle.sh
```

检查内容包括 Harbor 官方文件清单、80 个任务、80+4 个镜像、必需配置、agent tools
SHA256、shell 语法、被排除的环境/开发目录，以及已知内部路径、域名和项目标识。

完整镜像校验需要读取约 61GB tar，可单独运行：

```bash
cd /path/to/tb1/images/archives
sha256sum -c SHA256SUMS
cd ../aux-archives
sha256sum -c SHA256SUMS
```

`import-images.sh` 在导入前也会强制完成这两组校验。

## 7. 数据集说明

`datasets/terminal-bench-1.0-offline` 是 80 任务的离线 verifier 版本。每个任务目录
至少包含 `task.toml`、指令、environment、solution 和 tests 中与该任务相关的内容。
主镜像引用记录在 `task.toml`，并汇总到 `manifests/tasks.tsv`。

这里的“离线”表示预构建镜像、solution 和 verifier 依赖已随包提供，正常运行不需要
重新构建任务镜像。参考 YAML 为复现原运行语义保留了 `allow_internet: true`；若评测
政策要求彻底禁用外网，可在充分验证 Compose 与任务行为后改为 `false`，或在主机层
实施网络隔离。

源方案曾完成 80/80 Oracle 验证；本次汇总过程没有重新执行全部容器评测，只执行包
结构、配置解析、Harbor CLI 和敏感信息检查。

## 8. 镜像与独立 Docker

80 个主 tar 与任务一一对应。4 个辅助 tar 用于数据库、API、抓取服务和 MinIO 等
Compose 服务。只导入主镜像会导致三个 Compose 任务失败，因此应始终导入两组。

### 8.1 推荐：独立 ext4 Docker daemon

overlay2 在部分共享存储上不能直接工作。脚本会在 `EVAL_ROOT` 中创建稀疏 ext4 文件，
loop mount 后启动只服务本次评测的 dockerd，使用独立 Unix socket，不污染系统 Docker。

```bash
cd /path/to/tb1
sudo -E bash scripts/pipeline.sh /data/harbor-tb1-runtime
```

流程依次执行：

1. 创建或复用 `docker-data.ext4`；
2. 挂载到 `ext4-root` 并准备 overlay2 data-root；
3. 启动独立 dockerd；
4. 校验并加载 80 个主镜像和 4 个辅助镜像；
5. 选择一个已导入镜像运行最小容器 smoke test；
6. 将 `DOCKER_HOST` 写入 `/data/harbor-tb1-runtime/state/docker.env`。

改变稀疏盘逻辑容量：

```bash
sudo -E EVAL_DOCKER_DISK_SIZE=700G \
  bash scripts/pipeline.sh /data/harbor-tb1-runtime
```

### 8.2 导入现有系统 Docker

如果系统 Docker 已确认使用合适的本地 ext4/xfs data-root，也可以手动导入：

```bash
cd /path/to/tb1/images/archives
sha256sum -c SHA256SUMS
for archive in *.tar; do docker load --input "$archive"; done

cd ../aux-archives
sha256sum -c SHA256SUMS
for archive in *.tar; do docker load --input "$archive"; done
```

随后直接运行 `scripts/run-evaluation.sh CONFIG`，不要传 `EVAL_ROOT`；它会使用当前
shell 的 `DOCKER_HOST` 或系统 Docker。

## 9. YAML 配置

三份 YAML 均使用相对于包根目录的路径，不含机器专属绝对路径。

### `configs/smoke-oracle.yaml`

只运行 `hello-world`，用于验证 Harbor、镜像、容器和 verifier 基本链路。

### `configs/oracle.yaml`

运行全部 80 个任务，默认并发 8、一次尝试。Oracle 会执行任务自带 solution，适合
验证数据集和运行基础设施，不代表模型能力。

### `configs/model-terminus2.yaml`

包含 Terminus-2 的公开模板。使用前至少修改：

```yaml
model_name: openai/your-model
api_base: https://your-openai-compatible-endpoint.example/v1
```

通过环境变量提供密钥，例如：

```bash
export OPENAI_API_KEY='replace-at-runtime'
```

不要把真实密钥写回 YAML、README 或提交 `.env`。按模型限制调整
`max_input_tokens`、`max_output_tokens`、`n_concurrent_trials` 和超时。模板将
`local_agent_tools_dir` 指向包内相对路径，并关闭终端录像，因为离线工具包没有包含
`asciinema`。

三份配置均设置 `environment.delete: false`。这是为了避免运行结束时清理预导入镜像；
代价是容器和 Compose 资源可能保留，需要在任务后检查并清理独立 daemon。不要在未
验证 Harbor 当前版本清理语义前随意改成 `true`。

## 10. 运行评测

以下命令假设独立 Docker 已准备好。

### 10.1 单任务 Oracle smoke

```bash
cd /path/to/tb1
bash scripts/run-evaluation.sh \
  configs/smoke-oracle.yaml \
  /data/harbor-tb1-runtime
```

### 10.2 全部 80 个 Oracle 任务

```bash
cd /path/to/tb1
bash scripts/run-evaluation.sh \
  configs/oracle.yaml \
  /data/harbor-tb1-runtime
```

### 10.3 Terminus-2 模型评测

```bash
cd /path/to/tb1
export OPENAI_API_KEY='replace-at-runtime'
bash scripts/run-evaluation.sh \
  configs/model-terminus2.yaml \
  /data/harbor-tb1-runtime
```

### 10.4 tmux 一键启动

`launch.sh` 会在一个 tmux session 中串行完成 Docker 准备、镜像校验/导入和评测：

```bash
cd /path/to/tb1
sudo -E bash scripts/launch.sh \
  /data/harbor-tb1-runtime \
  configs/smoke-oracle.yaml \
  harbor-tb1-smoke

tmux attach -t harbor-tb1-smoke
```

模型评测时用 `sudo -E` 需要确认当前主机 sudo 策略确实保留模型环境变量。更稳妥的
做法是先用 root 准备 Docker，再在有 socket 权限和凭据的普通 shell 中执行
`run-evaluation.sh`。

## 11. 状态、输出与清理

查看独立 daemon、镜像、容器和 tmux 最近输出：

```bash
cd /path/to/tb1
bash scripts/status.sh /data/harbor-tb1-runtime harbor-tb1-smoke
```

Harbor 结果默认写入：

```text
/path/to/tb1/outputs/jobs/
```

Docker 日志和环境文件位于：

```text
/data/harbor-tb1-runtime/logs/dockerd.log
/data/harbor-tb1-runtime/state/docker.env
```

停止独立 daemon：

```bash
sudo bash scripts/stop-daemon.sh /data/harbor-tb1-runtime
```

停止并卸载 ext4：

```bash
sudo bash scripts/stop-daemon.sh /data/harbor-tb1-runtime --unmount
```

确认 daemon 已停止、mount 已卸载后，`EVAL_ROOT` 才可作为整套可删除运行产物处理。
脚本不会自动删除稀疏盘或 jobs，防止误删结果。

## 12. 常见问题

### Harbor is not installed

按第 5 节创建环境，或设置 `HARBOR_BIN` 为可执行文件的绝对路径。

### Docker Compose v2 plugin is required

TB1 有三个 Compose 任务，必须让独立 daemon 对应的 Docker CLI 可执行
`docker compose version`。包内不保存来源不明的 Compose 二进制。

### Docker root is not on ext4

检查 `EVAL_ROOT/ext4-root` 是否正确 loop mount。共享文件系统通常不适合直接作为
overlay2 data-root，不要跳过 `prepare-docker-root.sh`。

### 镜像 SHA256 校验失败

不要导入或重新生成 checksum。文件可能复制不完整或已被修改；从可信发布源重新获取
对应 tar。

### Compose 任务提示镜像不存在

确认 `images/aux-archives` 的四个 tar 也已导入，并检查
`state/images-imported.ok` 是否记录 `primary_archives=80` 和 `aux_archives=4`。

### 运行后磁盘持续增长

`delete: false` 会保留资源，且 Docker layer/container 写入稀疏盘。先保存 Harbor 输出，
再通过独立 socket检查容器与卷，必要时清理；不要误操作系统 Docker。

### 模型请求失败

依次检查 endpoint、模型名、环境变量密钥、代理、证书、并发和超时。模板中的地址和
模型名只是占位符。

## 13. 发布前检查

每次公开发布前至少执行：

```bash
cd /path/to/tb1
bash scripts/check-bundle.sh
find . -type f \( -name '.env' -o -name '*.pem' -o -name '*.key' \) -print
find outputs -mindepth 1 ! -name '.gitkeep' -print
```

还应使用组织认可的 secret scanner、容器漏洞/许可证扫描器检查最终发布介质。
`scripts/check-bundle.sh` 会扫描普通文本，但不会解包并重写 Docker layer。镜像 tar 的
边界和剩余风险见 `SECURITY_REVIEW.md`。