Hugging Face's logo

Datasets:
KouShi2
/
ailab-code-data

Modalities:
Image
Text
Size:
100K - 1M
Dataset card Data Studio Files
xet
 Community
1
ailab-code-data / evaluation /tb1 /README.md
KouShi2's picture
KouShi2
Upload evaluation code and non-image data
1e300b7 verified
preview code
|
Raw
History Blame Contribute Delete
14.1 kB

Harbor + Terminal-Bench 1.0 本地离线评测包

本目录是可独立迁移的 Terminal-Bench 1.0 本地评测材料汇总，包含完整 Harbor 源码结构、80 个任务、对应的 80 个主容器镜像、4 个 Compose 辅助镜像、三份参考 YAML、独立 Docker daemon 启停脚本和 Terminus-2 离线 agent tools。

Harbor 不是裁剪版 framework 目录：harbor/ 保留了上游仓库完整结构，包括 src、packages、adapters、tests、docs、examples、scripts、skills、 rfcs、项目元数据与锁文件。基线来源为 harbor-framework/harbor，具体 commit 记录在 manifests/harbor-source.json。

1. 目录结构 

tb1/
├── harbor/                       # 完整 Harbor 源码树，不含 .git 和安装环境
├── datasets/
│   └── terminal-bench-1.0-offline/ # 80 个任务及离线 verifier/solution 资源
├── images/
│   ├── archives/                 # 80 个主镜像 tar + SHA256SUMS
│   └── aux-archives/             # 4 个 Compose 辅助镜像 tar + SHA256SUMS
├── runtime/
│   └── agent-tools/              # Terminus-2 所需 tmux 离线工具及校验文件
├── configs/
│   ├── smoke-oracle.yaml         # hello-world 单任务检查
│   ├── oracle.yaml               # 80 个任务 Oracle 参考配置
│   └── model-terminus2.yaml      # 可填写模型信息的 Terminus-2 模板
├── scripts/
│   ├── check-bundle.sh           # 发布包完整性与文本敏感信息检查
│   ├── prepare-docker-root.sh     # 创建并挂载独立 ext4 稀疏盘
│   ├── start-daemon.sh            # 启动独立 dockerd
│   ├── import-images.sh           # 校验并导入 80+4 个镜像
│   ├── pipeline.sh                # 准备 Docker、导入镜像并做容器 smoke
│   ├── run-evaluation.sh          # 执行任意 YAML
│   ├── launch.sh                  # 在 tmux 中运行 pipeline + 评测
│   ├── status.sh                  # 查看 daemon 与 tmux 状态
│   └── stop-daemon.sh             # 停止 daemon，可选卸载 ext4
├── manifests/                    # Harbor、任务和镜像清单
├── outputs/                      # 新评测输出，发布时应清空
├── SECURITY_REVIEW.md
└── THIRD_PARTY_NOTICES.md

2. 保存范围

本包保留：

  • 官方 Harbor 基线中的 1,614 个文件及本地评测兼容修改；
  • 80 个 task.toml 对应的完整任务目录；
  • 80 个预构建主镜像；
  • simple-sheets-put、simple-web-scraper、security-vulhub-minio 三个 Compose 任务所需的 4 个辅助镜像；
  • Oracle 与 Terminus-2 启动所需的最小本地脚本、配置和 agent tools；
  • SHA256、来源和任务/镜像对应清单。

以下内容明确没有保存：

  • Harbor 和数据集的 .git 历史；
  • 原实验目录、临时构建脚本、重试脚本和构建日志型 JSON；
  • 已有 jobs、trials、报告、日志和模型输出；
  • Docker data-root、容器状态、挂载目录和 500GB 稀疏 ext4 运行盘；
  • .venv、uv cache、pytest cache 及框架运行环境；
  • .env、模型密钥、私有 endpoint 和其他 secrets；
  • 带开发前缀的目录或文件。

数据集中 tests/vendor 下的 Python 文件、二进制依赖和部分 __pycache__ 是离线 verifier 资产，不属于本项目的 uv/venv 中间产物，因此按任务原样保留。

3. 数据规模与清单

当前内容数量：

内容 数量 清单
Harbor 官方基线文件 1,614 manifests/harbor-official-files.txt
TB1 任务 80 manifests/tasks.tsv
主镜像 tar 80 manifests/images-primary.tsv
辅助镜像 tar 4 manifests/images-auxiliary.tsv
Compose 任务 3 manifests/tasks.tsv 的 compose=yes
solution 文件 166 manifests/tasks.tsv 汇总
verifier/test 文件 352,780 manifests/tasks.tsv 汇总

为避免在同一存储上重复占用几十 GB，数据集和 tar 当前通过硬链接汇总。硬链接是 独立目录项：删除原始源目录不会让本目录文件失效；但在任一位置原地修改文件内容会 同时改变另一目录看到的内容。发布、上传或复制到其他文件系统后会自然成为普通文件。

4. 主机要求

推荐使用 x86_64 Linux。独立 Docker 方案需要：

  • root 权限；
  • Docker CLI 和 dockerd；
  • Docker Compose v2 插件，即 docker compose version 可用；
  • tmux；
  • mount、findmnt、mkfs.ext4、truncate、sha256sum；
  • 充足的实际磁盘空间。默认创建逻辑大小 500GB 的稀疏 ext4 文件，刚创建时不占满 500GB，但导入镜像和运行容器会持续增长；
  • 独立 Docker bridge 可用，且主机允许配置 iptables 与 IP forwarding。

不要把 EVAL_ROOT 设置成 /、/root 或本评测包目录。建议使用专门的、可清理的 绝对路径，例如 /data/harbor-tb1-runtime。

5. 安装完整 Harbor

评测包不保存任何预建 Python/uv 环境。建议在运行机器上重新创建。

方式 A：uv 

cd /path/to/tb1/harbor
uv sync
uv run harbor --help

uv sync 默认生成 harbor/.venv，这是运行时产物，重新发布本包前应删除。若希望把 环境放在包外，可设置一个外部项目环境路径：

cd /path/to/tb1/harbor
UV_PROJECT_ENVIRONMENT=/data/venvs/harbor-tb1 uv sync
UV_PROJECT_ENVIRONMENT=/data/venvs/harbor-tb1 uv run harbor --help
export HARBOR_BIN=/data/venvs/harbor-tb1/bin/harbor

方式 B：Python venv + pip 

python3 -m venv /data/venvs/harbor-tb1
source /data/venvs/harbor-tb1/bin/activate
python -m pip install -U pip
python -m pip install -e /path/to/tb1/harbor
harbor --help

scripts/run-evaluation.sh 按以下顺序查找 Harbor：HARBOR_BIN、 harbor/.venv/bin/harbor、当前 PATH 中的 harbor。

6. 发布包完整性检查

在导入镜像前先运行快速结构检查：

cd /path/to/tb1
bash scripts/check-bundle.sh

检查内容包括 Harbor 官方文件清单、80 个任务、80+4 个镜像、必需配置、agent tools SHA256、shell 语法、被排除的环境/开发目录，以及已知内部路径、域名和项目标识。

完整镜像校验需要读取约 61GB tar，可单独运行：

cd /path/to/tb1/images/archives
sha256sum -c SHA256SUMS
cd ../aux-archives
sha256sum -c SHA256SUMS

import-images.sh 在导入前也会强制完成这两组校验。

7. 数据集说明

datasets/terminal-bench-1.0-offline 是 80 任务的离线 verifier 版本。每个任务目录 至少包含 task.toml、指令、environment、solution 和 tests 中与该任务相关的内容。 主镜像引用记录在 task.toml，并汇总到 manifests/tasks.tsv。

这里的“离线”表示预构建镜像、solution 和 verifier 依赖已随包提供，正常运行不需要 重新构建任务镜像。参考 YAML 为复现原运行语义保留了 allow_internet: true；若评测 政策要求彻底禁用外网，可在充分验证 Compose 与任务行为后改为 false，或在主机层 实施网络隔离。

源方案曾完成 80/80 Oracle 验证；本次汇总过程没有重新执行全部容器评测，只执行包 结构、配置解析、Harbor CLI 和敏感信息检查。

8. 镜像与独立 Docker

80 个主 tar 与任务一一对应。4 个辅助 tar 用于数据库、API、抓取服务和 MinIO 等 Compose 服务。只导入主镜像会导致三个 Compose 任务失败，因此应始终导入两组。

8.1 推荐：独立 ext4 Docker daemon

overlay2 在部分共享存储上不能直接工作。脚本会在 EVAL_ROOT 中创建稀疏 ext4 文件， loop mount 后启动只服务本次评测的 dockerd，使用独立 Unix socket，不污染系统 Docker。

cd /path/to/tb1
sudo -E bash scripts/pipeline.sh /data/harbor-tb1-runtime

流程依次执行：

  1. 创建或复用 docker-data.ext4；
  2. 挂载到 ext4-root 并准备 overlay2 data-root；
  3. 启动独立 dockerd；
  4. 校验并加载 80 个主镜像和 4 个辅助镜像；
  5. 选择一个已导入镜像运行最小容器 smoke test；
  6. 将 DOCKER_HOST 写入 /data/harbor-tb1-runtime/state/docker.env。

改变稀疏盘逻辑容量：

sudo -E EVAL_DOCKER_DISK_SIZE=700G \
  bash scripts/pipeline.sh /data/harbor-tb1-runtime

8.2 导入现有系统 Docker

如果系统 Docker 已确认使用合适的本地 ext4/xfs data-root，也可以手动导入：

cd /path/to/tb1/images/archives
sha256sum -c SHA256SUMS
for archive in *.tar; do docker load --input "$archive"; done

cd ../aux-archives
sha256sum -c SHA256SUMS
for archive in *.tar; do docker load --input "$archive"; done

随后直接运行 scripts/run-evaluation.sh CONFIG，不要传 EVAL_ROOT；它会使用当前 shell 的 DOCKER_HOST 或系统 Docker。

9. YAML 配置

三份 YAML 均使用相对于包根目录的路径，不含机器专属绝对路径。

configs/smoke-oracle.yaml

只运行 hello-world，用于验证 Harbor、镜像、容器和 verifier 基本链路。

configs/oracle.yaml

运行全部 80 个任务，默认并发 8、一次尝试。Oracle 会执行任务自带 solution，适合 验证数据集和运行基础设施，不代表模型能力。

configs/model-terminus2.yaml

包含 Terminus-2 的公开模板。使用前至少修改：

model_name: openai/your-model
api_base: https://your-openai-compatible-endpoint.example/v1

通过环境变量提供密钥，例如：

export OPENAI_API_KEY='replace-at-runtime'

不要把真实密钥写回 YAML、README 或提交 .env。按模型限制调整 max_input_tokens、max_output_tokens、n_concurrent_trials 和超时。模板将 local_agent_tools_dir 指向包内相对路径，并关闭终端录像，因为离线工具包没有包含 asciinema。

三份配置均设置 environment.delete: false。这是为了避免运行结束时清理预导入镜像； 代价是容器和 Compose 资源可能保留，需要在任务后检查并清理独立 daemon。不要在未 验证 Harbor 当前版本清理语义前随意改成 true。

10. 运行评测

以下命令假设独立 Docker 已准备好。

10.1 单任务 Oracle smoke 

cd /path/to/tb1
bash scripts/run-evaluation.sh \
  configs/smoke-oracle.yaml \
  /data/harbor-tb1-runtime

10.2 全部 80 个 Oracle 任务 

cd /path/to/tb1
bash scripts/run-evaluation.sh \
  configs/oracle.yaml \
  /data/harbor-tb1-runtime

10.3 Terminus-2 模型评测 

cd /path/to/tb1
export OPENAI_API_KEY='replace-at-runtime'
bash scripts/run-evaluation.sh \
  configs/model-terminus2.yaml \
  /data/harbor-tb1-runtime

10.4 tmux 一键启动

launch.sh 会在一个 tmux session 中串行完成 Docker 准备、镜像校验/导入和评测：

cd /path/to/tb1
sudo -E bash scripts/launch.sh \
  /data/harbor-tb1-runtime \
  configs/smoke-oracle.yaml \
  harbor-tb1-smoke

tmux attach -t harbor-tb1-smoke

模型评测时用 sudo -E 需要确认当前主机 sudo 策略确实保留模型环境变量。更稳妥的 做法是先用 root 准备 Docker，再在有 socket 权限和凭据的普通 shell 中执行 run-evaluation.sh。

11. 状态、输出与清理

查看独立 daemon、镜像、容器和 tmux 最近输出：

cd /path/to/tb1
bash scripts/status.sh /data/harbor-tb1-runtime harbor-tb1-smoke

Harbor 结果默认写入：

/path/to/tb1/outputs/jobs/

Docker 日志和环境文件位于：

/data/harbor-tb1-runtime/logs/dockerd.log
/data/harbor-tb1-runtime/state/docker.env

停止独立 daemon：

sudo bash scripts/stop-daemon.sh /data/harbor-tb1-runtime

停止并卸载 ext4：

sudo bash scripts/stop-daemon.sh /data/harbor-tb1-runtime --unmount

确认 daemon 已停止、mount 已卸载后，EVAL_ROOT 才可作为整套可删除运行产物处理。 脚本不会自动删除稀疏盘或 jobs，防止误删结果。

12. 常见问题

Harbor is not installed

按第 5 节创建环境，或设置 HARBOR_BIN 为可执行文件的绝对路径。

Docker Compose v2 plugin is required

TB1 有三个 Compose 任务，必须让独立 daemon 对应的 Docker CLI 可执行 docker compose version。包内不保存来源不明的 Compose 二进制。

Docker root is not on ext4

检查 EVAL_ROOT/ext4-root 是否正确 loop mount。共享文件系统通常不适合直接作为 overlay2 data-root，不要跳过 prepare-docker-root.sh。

镜像 SHA256 校验失败

不要导入或重新生成 checksum。文件可能复制不完整或已被修改；从可信发布源重新获取 对应 tar。

Compose 任务提示镜像不存在

确认 images/aux-archives 的四个 tar 也已导入，并检查 state/images-imported.ok 是否记录 primary_archives=80 和 aux_archives=4。

运行后磁盘持续增长

delete: false 会保留资源，且 Docker layer/container 写入稀疏盘。先保存 Harbor 输出， 再通过独立 socket检查容器与卷，必要时清理；不要误操作系统 Docker。

模型请求失败

依次检查 endpoint、模型名、环境变量密钥、代理、证书、并发和超时。模板中的地址和 模型名只是占位符。

13. 发布前检查

每次公开发布前至少执行：

cd /path/to/tb1
bash scripts/check-bundle.sh
find . -type f \( -name '.env' -o -name '*.pem' -o -name '*.key' \) -print
find outputs -mindepth 1 ! -name '.gitkeep' -print

还应使用组织认可的 secret scanner、容器漏洞/许可证扫描器检查最终发布介质。 scripts/check-bundle.sh 会扫描普通文本，但不会解包并重写 Docker layer。镜像 tar 的 边界和剩余风险见 SECURITY_REVIEW.md。