compact_v2_pooled 实验
这是一个独立于 system_split_code/ 的构图实验,用来验证“将节点和边放在统一存储空间”这一思路。它只读取已物化的 docking PDB;不会改写旧的 compact-v1 输出、旧 staging,也不会覆盖一个已经存在的 v2 输出目录。
这里的“统一空间”是每个 shard 内的连续 tensor pool:所有 system 的静态节点、所有 pose 的动态节点和边都通过 pointer tensor 拼接保存。不同 protein-ligand system 仍然是彼此断开的图,不能把它们按三维坐标连边;训练时 CompactGraphDataset 会按 pointer 恢复单个 PyG 图。
相比旧的 direct-v1 流程,v2 做了三件实质性工作:蛋白和 native ligand 只解析一次、P--P 距离只算一次、topology 特征用与旧算法等价的 CSR 稀疏计算。它也直接写 pooled shard,不落每个 pose 的中间 .pt 图文件。
先做最小逐 pose 对照(推荐的稳定 Medusa reference system):
cd /work/nvme/bghp/hhao/gnncp/compact_v2_pooled
/u/hhao/anaconda3/envs/gcp/bin/python build_pooled_v2.py \
--data-dir /work/nvme/bghp/hhao/gnncp/docking_materialized/hiqbind_5k_v1/medusagraph_full_v1 \
--output-dir /work/nvme/bghp/hhao/gnncp/datasets_compact_hiqbind_v2_bench/medusagraph_parity_1afk_v2 \
--method medusagraph \
--system-id hiqbind_sm__1afk_PAP_A_125 \
--max-poses-per-system 2 \
--verify-reference \
--on-error abort
通过后,提交 25-system 的 CPU benchmark:
sbatch run_medusa_first25_v2.sbatch
默认申请 32 CPU / 128 GiB,并启动 16 个 source-system worker;每个 numerical backend 都限制为单线程。输出默认在 datasets_compact_hiqbind_v2_bench/medusagraph_first25_v2,其中 build_report.json 给出耗时、失败 system 和 reader smoke test,manifest.json 记录最终图数与 pooled shard 大小。
图、原子和预测结果的对应关系
新建的 v2 输出会自动写入两个附加文件(不改变 pooled tensor,也不使用 SHA):
graph_index.jsonl:每行恰好对应CompactGraphDataset(dataset_root)[dataset_index]的一个图。graph_index_manifest.json:列定义、验证统计和训练时的 join 约定。
每行包含以下可追溯字段:dataset_index、本次构图局部的
source_graph_index、source_system_id、原始 pose 顺序
raw_pose_ordinal、protein_path、native_ligand_path、
predicted_ligand_path,以及 shard_index、local_pose_index、
local_storage_system_index 和 storage_pose_ordinal。其中
source_system_id + raw_pose_ordinal + predicted_ligand_path 是跨独立
构图运行时应保留的原始样本身份;source_graph_index 仅在某一次 builder
运行内部有效。
训练或推理的每一行预测结果必须保留 dataset_index。如要把多个运行的
预测合并,还应一并保存 source_system_id、raw_pose_ordinal 和
predicted_ligand_path,然后以 dataset_index 与本数据集的 JSONL sidecar
进行一对一 join。导出器会验证:所有 dataset index 连续且唯一、所有
source graph index 唯一、所有 shard/local pose 位置唯一、所有原始
protein/native/predicted PDB 三元组存在,且 manifest、pointer tensor 和
原始路径完全一致。
对于早于自动生成 sidecar 的已完成 v2 目录,可以单独补建一次;该工具会 拒绝覆盖任何已有 sidecar:
/u/hhao/anaconda3/envs/gcp/bin/python export_graph_index.py \
--dataset-root /path/to/compact_v2_output
# 只读复核已有 sidecar 与原始 PDB / pooled pointers 是否仍一致
/u/hhao/anaconda3/envs/gcp/bin/python export_graph_index.py \
--dataset-root /path/to/compact_v2_output \
--check-only