code/compact_v2_pooled/README.md

# compact_v2_pooled 实验

这是一个独立于 `system_split_code/` 的构图实验，用来验证“将节点和边放在统一存储空间”这一思路。它只读取已物化的 docking PDB；不会改写旧的 compact-v1 输出、旧 staging，也不会覆盖一个已经存在的 v2 输出目录。

这里的“统一空间”是每个 shard 内的连续 tensor pool：所有 system 的静态节点、所有 pose 的动态节点和边都通过 pointer tensor 拼接保存。不同 protein-ligand system 仍然是彼此断开的图，不能把它们按三维坐标连边；训练时 `CompactGraphDataset` 会按 pointer 恢复单个 PyG 图。

相比旧的 direct-v1 流程，v2 做了三件实质性工作：蛋白和 native ligand 只解析一次、P--P 距离只算一次、topology 特征用与旧算法等价的 CSR 稀疏计算。它也直接写 pooled shard，不落每个 pose 的中间 `.pt` 图文件。

先做最小逐 pose 对照（推荐的稳定 Medusa reference system）：

```bash
cd /work/nvme/bghp/hhao/gnncp/compact_v2_pooled
/u/hhao/anaconda3/envs/gcp/bin/python build_pooled_v2.py \
  --data-dir /work/nvme/bghp/hhao/gnncp/docking_materialized/hiqbind_5k_v1/medusagraph_full_v1 \
  --output-dir /work/nvme/bghp/hhao/gnncp/datasets_compact_hiqbind_v2_bench/medusagraph_parity_1afk_v2 \
  --method medusagraph \
  --system-id hiqbind_sm__1afk_PAP_A_125 \
  --max-poses-per-system 2 \
  --verify-reference \
  --on-error abort
```

通过后，提交 25-system 的 CPU benchmark：

```bash
sbatch run_medusa_first25_v2.sbatch
```

默认申请 32 CPU / 128 GiB，并启动 16 个 source-system worker；每个 numerical backend 都限制为单线程。输出默认在 `datasets_compact_hiqbind_v2_bench/medusagraph_first25_v2`，其中 `build_report.json` 给出耗时、失败 system 和 reader smoke test，`manifest.json` 记录最终图数与 pooled shard 大小。

## 图、原子和预测结果的对应关系

新建的 v2 输出会自动写入两个附加文件（不改变 pooled tensor，也不使用 SHA）：

- `graph_index.jsonl`：每行恰好对应 `CompactGraphDataset(dataset_root)[dataset_index]` 的一个图。
- `graph_index_manifest.json`：列定义、验证统计和训练时的 join 约定。

每行包含以下可追溯字段：`dataset_index`、本次构图局部的
`source_graph_index`、`source_system_id`、原始 pose 顺序
`raw_pose_ordinal`、`protein_path`、`native_ligand_path`、
`predicted_ligand_path`，以及 `shard_index`、`local_pose_index`、
`local_storage_system_index` 和 `storage_pose_ordinal`。其中
`source_system_id + raw_pose_ordinal + predicted_ligand_path` 是跨独立
构图运行时应保留的原始样本身份；`source_graph_index` 仅在某一次 builder
运行内部有效。

训练或推理的每一行预测结果必须保留 `dataset_index`。如要把多个运行的
预测合并，还应一并保存 `source_system_id`、`raw_pose_ordinal` 和
`predicted_ligand_path`，然后以 `dataset_index` 与本数据集的 JSONL sidecar
进行一对一 join。导出器会验证：所有 dataset index 连续且唯一、所有
source graph index 唯一、所有 shard/local pose 位置唯一、所有原始
protein/native/predicted PDB 三元组存在，且 manifest、pointer tensor 和
原始路径完全一致。

对于早于自动生成 sidecar 的已完成 v2 目录，可以单独补建一次；该工具会
拒绝覆盖任何已有 sidecar：

```bash
/u/hhao/anaconda3/envs/gcp/bin/python export_graph_index.py \
  --dataset-root /path/to/compact_v2_output

# 只读复核已有 sidecar 与原始 PDB / pooled pointers 是否仍一致
/u/hhao/anaconda3/envs/gcp/bin/python export_graph_index.py \
  --dataset-root /path/to/compact_v2_output \
  --check-only
```