You need to agree to share your contact information to access this dataset
This repository is publicly accessible, but you have to accept the conditions to access its files and content.
This dataset holds the answer keys, grading thresholds and agent trajectories of an unreleased benchmark. Access is granted manually and only to collaborators; do not redistribute or use for training.
Log in or Sign Up to review the conditions and access this dataset content.
OSWorld-Science · OpenFOAM 全量归档 / full project archive
这个仓库是 OSWorld-Science 基准 OpenFOAM 部分的完整归档：题目、真值与阈值、评分器、虚拟机（guest 桌面镜像）的构建材料与镜像本身、 每一次 agent 运行的轨迹、审核者的复现工具与算例、以及产生这一切的全部 Claude Code 会话记录。 仓库是 gated（人工审批）：任何人能看到文件名，只有被批准的账号能读内容。
Access policy / 访问约定：内容含答案与阈值，属未发布基准的答案侧材料，只对协作者开放；请勿再分发、勿用于训练。
Layout / 目录
| path | what | 来源与说明 |
|---|---|---|
osworld-openfoam/tasks/ |
题面、网格、交付规格（每题一目录） | 由本机 6 小时定时同步维护 |
osworld-openfoam/harness/, scripts/, env/, docs/ |
评分器（四道门 G1–G4）、运行器、guest 镜像 Dockerfile、全部设计文档与审核记录 | 同上；docs/PROGRESS.md 是逐日流水，docs/AUTHOR_BRIEF.md 是出题合同，docs/MODEL_COMPARISON.md 是四模型结果 |
osworld-openfoam/private/ |
答案侧：真值矩阵、阈值、校准家族（legit / wrong / cheat）、审核报告 | 快照，不自动同步 |
osworld-openfoam/runs/<task>/<run>/ |
每次 agent 运行的完整轨迹：llm_calls.jsonl（全部提示与回复）、agent/ 截图、bash_history、work_tree.tar.gz、score.json、audit.md |
快照；run-id 前缀 R=Sonnet 5、C=Opus 5 对照、G=GPT-6 Astra、F=Fable 5.1 |
osworld-openfoam/agent/ |
agent 循环、llm_proxy.py、vendored operator 片段 |
快照 |
pre/ |
演示稿（含 OpenFOAM 章节）、截图视频、报告站源 | 定时同步 |
claude_sessions/ |
产生本项目的全部 Claude Code 会话（主会话 + 同行审核会话）的原始 JSONL、子代理记录、工作流日志、记忆文件 | 快照；凭据已确认不在其中（见下） |
vm/ |
docker save 出的 guest 镜像（osworld-openfoam-guest:v2512-pv5.11.2，即 harness 使用的镜像）+ 构建上下文（Dockerfile、entrypoint、supervisord、guest_server、ParaView 5.11.2 安装包） |
恢复：zstdcat vm/*.docker.tar.zst | docker load |
tools/ |
Bedrock 代理源码与说明、HF 同步脚本与 systemd 单元、OSWorld operator 工作树（本地一个适配提交） | .env 类文件一律不含 |
repo_history/ |
两个 git 仓库的完整历史（git bundle；Hub 不接受 .git/ 目录） |
恢复：git clone repo_history/osworld-openfoam.bundle |
review/ |
审核会话的复现算例与工具，按题打包（OF-0xx.tar.zst + 文件清单 .listing.txt.gz），另有 review_v2、revise、dialect_prior、metrics |
解包：zstd -dc X.tar.zst | tar -x |
archive/ |
出题过程中的 OpenFOAM 草稿树：cases（真值生成算例）、scoring、screening，均可由题面重新生成 |
同上 |
MANIFEST.md / MANIFEST.json |
本次快照的目录大小、文件数与所有 ≥50 MB 文件的 sha256 |
What is deliberately absent / 有意不含
- 任何凭据：
proxy.env、hf-sync.env、agent/.env、~/.cache/huggingface/token、SSH 密钥；SERVER_AND_API_GUIDE.md（含 token）。 上传前对全部材料做了两轮扫描：真实 token 值的精确匹配，以及通用凭据格式的正则匹配；再由多代理审查逐文件核对。 - 项目所有者个人的 claude.ai 导出（
*.zip）——与基准无关的私人对话与登录历史。 venv、.git/目录（以 bundle 代替）。
Results at snapshot / 快照时的结果
14 道已归档题（OF-014 仍为 DRAFT）。每模型每题各一次运行。详见 osworld-openfoam/docs/MODEL_COMPARISON.md。
| model | pass / attempted |
|---|---|
| Claude Sonnet 5 (medium) | 5 / 14 |
| Claude Opus 5 (controls) | 6 / 9 |
| GPT-6 Astra (Bedrock) | 13 / 14 |
| Claude Fable 5.1 (Bedrock) | 14 / 14 |
The HTML report with per-step screenshots lives in the private Space daipath/openfoam-report.
- Downloads last month
- 21