CHENSEE/mathlib4-v4.26.0-premises

Mathlib v4.26.0 Premise Corpus (via LeanDojo-v2, fully Dockerized)

本仓库包含从 Mathlib v4.26.0(连同其全部依赖:Lean 核心库、Batteries、Aesop 等)中 提取出的全部有效 premises,以 corpus.jsonl 形式存储,可直接用于构建向量召回 / premise selection 数据库。提取过程完全在 Docker 容器内完成,无需在本机安装 lean4 / elan / lake。

项目	值
来源仓库	leanprover-community/mathlib4
版本 / commit	v4.26.0 / 2df2f0150c275ad53cb3c90f7c98ec15a56a1a67
Lean toolchain	leanprover/lean4:v4.26.0
build_deps	true(含全部依赖)
文件数	9,765
premises 总数	284,372
corpus.jsonl 大小	~103 MB
提取工具	LeanDojo-v2

---

1. 产物格式

corpus.jsonl —— 每行一个 JSON 对象,对应一个被 trace 的 .lean 文件,按依赖关系拓扑排序 (被依赖者在前):

{
  "path": "Mathlib/Tactic/Linter/DirectoryDependency.lean",  // 文件路径
  "imports": ["Mathlib/...", "..."],                          // 该文件 import 的模块
  "premises": [                                                // 该文件中定义的可被引用的 premises
    {
      "full_name": "findImports",          // 全限定名
      "code": "public def findImports ...",// 定义源码
      "start": [12, 0],                    // 起始 [行, 列](1-indexed)
      "end":   [15, 20],                   // 结束 [行, 列]
      "kind": "commanddeclaration"         // 类型(theorem / def / lemma / ...)
    }
  ]
}

premise = 一个有名字、可被其它证明引用的声明(定理 / 定义 / 引理 / 公理 等)。匿名的 example 不算 premise。

---

2. 核心工作原理

LeanDojo 的数据抽取是两阶段的:

1. Lean 侧instrumentation —— ExtractData.lean 通过 lake env lean --run ExtractData.lean 加载并重新 elaborate 仓库里每个 .lean 文件。它遍历 Lean 编译产生的 InfoTree,对每个 TermInfo 检查是否为某常量(定理/定义)的 引用,记录其全名、定义位置、所在模块与文件路径,从而抽出 premises;同时为每个文件产出 *.ast.json(语法树)与 *.dep_paths(import 依赖)。

2. Python 侧后处理 —— trace.py / traced_data.py / dataset.py 解析上述 JSON,构建文件间的依赖图(TracedRepo),再由 export_premises() 按拓扑序写出 corpus.jsonl。

本目录的 extract_premises.py 是对 LeanDojo 内部 _trace 流程的最小化复刻,关键差异:

• 始终先执行 lake exe cache get:Mathlib 体量巨大,从源码全量编译需 10+ 小时。cache get 会下载官方预编译的 oleans,使后续 lake build 秒过;真正耗时的只剩 ExtractData 对全部文件的 重新 elaborate。(LeanDojo 原版仅在 build_deps=False 时跑 cache get,本脚本无条件执行。)
• 只依赖抽取链路:容器内不安装 torch / deepspeed / ray 等训练依赖,仅装 networkx / loguru / lxml / gitpython / PyGithub 等轻量库,通过 PYTHONPATH=/workspace 直接 import lean_dojo_v2,无需 pip install -e .。

build_deps 语义(重要)

• build_deps=true → 构建文件依赖图并导出 premises(含全部依赖文件)。本语料即用此模式。
• build_deps=false → 依赖图为 None,export_premises 会写出空文件。若只想要 Mathlib 自身 的 premises 需另行裁剪,但标准做法是用 true。

---

3. 如何复现

3.1 构建镜像

docker build -t leandojo-premise ./docker

Dockerfile 内容:debian:bookworm-slim + elan(按需拉取 lean-toolchain 指定的工具链)

• 最小 Python 依赖。支持 --build-arg HTTP_PROXY=... HTTPS_PROXY=... 透传代理。

3.2 运行抽取

docker run -d --name mathlib_extract \
  -e MATHLIB_URL=https://github.com/leanprover-community/mathlib4 \
  -e MATHLIB_COMMIT=2df2f0150c275ad53cb3c90f7c98ec15a56a1a67 \
  -e BUILD_DEPS=true \
  -e NUM_PROCS=4 \
  -e PYTHONDONTWRITEBYTECODE=1 \
  -v /path/to/LeanDojo-v2:/workspace:ro \
  -v /path/to/output:/output \
  leandojo-premise
# 完成后:/path/to/output/corpus.jsonl

环境变量:MATHLIB_URL / MATHLIB_COMMIT(必填) / OUTPUT_DIR(默认 /output) / BUILD_DEPS(默认 true) / NUM_PROCS / ENV_FILE(默认 /workspace/.env,需含 GITHUB_ACCESS_TOKEN)。

容器在导入 lean_dojo_v2 之前会先 load_dotenv(/workspace/.env),因为 utils/constants.py 在 import 期就强制要求 GITHUB_ACCESS_TOKEN。

---

4. 实施过程中针对 v4.26.0 / 环境所做的修补

提取本语料时,相对 LeanDojo-v2 主干做了三处修补(已固化在对应代码中):

1. 惰性导入重型依赖:lean_dojo_v2/utils/common.py 原在模块顶层 import deepspeed / pytorch_lightning,导致轻量抽取链路也崩溃;改为在用到它们的训练函数内部惰性导入。
2. ExtractData.lean 对 Lean v4.26.0 的兼容补丁:原代码使用了较新 Lean(~v4.29)才有的 String.trimAscii / String.toString;改为 v4.26.0 即有的 String.trim / String.drop, 并离线对 Lean v4.26.0 单独编译验证通过。
3. 内存调优(避免 OOM):全量 Mathlib trace 内存峰值很高(尤其末尾 from_traced_files 将全部 AST 载入内存)。在 Windows + Docker Desktop(WSL2)下,需把 WSL2 内存调高 (本次用 .wslconfig:memory=24GB + swap=16GB)并把 NUM_PROCS 降到 4;否则会被 OOM(容器 Exited(137))。

---

5. 文件清单

• Dockerfile —— 容器化的 elan + lake + 最小 Python 抽取环境。
• extract_premises.py —— premise 抽取入口(含 lake exe cache get 优化)。
• corpus.jsonl —— 提取出的 Mathlib v4.26.0 全量 premises(本数据集主体)。