copuladock / docs /COMPACT_V2_USAGE_ZH.md
liofoil's picture
Add files using upload-large-folder tool
8c74f19 verified
|
Raw
History Blame Contribute Delete
3.56 kB

HiQBind pooled-v2 compact 图数据使用说明

数据范围

本次新增两个 pooled-v2 目录,位于 data/hiqbind_5k_v1/

方法 system(protein–ligand pair) graph(docking pose) 说明
MedusaGraph 4,887 85,764 所有构图成功的已发布 pose
Protenix 4,618 90,354 4,457 个 success system,加 161 个有有效已发布 pose 的 failed system

一个 system 最多请求 20 个 pose,故 graph 数不必等于 system 数乘以 20。v2 表示 pooled 构图/存储实现,表示新的 HiQBind cohort;输入 cohort 仍是 hiqbind_5k_v1

两个目录均为 gnncp_compact_v1 格式,和本仓库旧版 DiffDock/Vina 数据使用相同的 CompactGraphDataset 接口和同一组 PyG 字段。v2 的主要差别是每个 shard 把静态节点/边和 pose 动态部分放在连续 tensor pool 中,以减少重复存储;训练端无需为 v1/v2 写不同 loader。

下载和加载

from pathlib import Path
import sys
from huggingface_hub import snapshot_download

snapshot_download(
    repo_id="liofoil/copuladock",
    repo_type="dataset",
    local_dir="copuladock",
    allow_patterns=[
        "code/compact_v2_pooled/compact_graph_dataset.py",
        "data/hiqbind_5k_v1/medusagraph_full_v2/**",
    ],
)

root = Path("copuladock")
sys.path.insert(0, str(root / "code" / "compact_v2_pooled"))
from compact_graph_dataset import CompactGraphDataset

dataset = CompactGraphDataset(
    root / "data" / "hiqbind_5k_v1" / "medusagraph_full_v2",
    max_cached_shards=2,
    strict=True,
)
assert len(dataset) == 85764
graph = dataset[0]
metadata = dataset.metadata(0)

将目录名替换为 protenix_full_v2 时,len(dataset) 应为 90354。不要直接把 shard 读成 list[Data];reader 会以 mmap 按需重建单个图。

图与预测结果的一一对应

graph_index.jsonl 每行对应 dataset[dataset_index] 的一张图。它保存 dataset_indexsource_system_idraw_pose_ordinalshard_index 和 shard 内局部位置等字段;训练/推理结果至少应保留 dataset_index,跨运行合并时也建议保留 source_system_id + raw_pose_ordinal

graph_index_manifest.json 记录该 JSONL、shard pointer 和图数量之间的校验结果。本发布对本机绝对路径做了脱敏;JSONL 中的 PDB 标识是相对 materialized-input 路径,原始 PDB 未随 compact 数据发布。因此它们适合样本 identity join,不应假定下载后可直接解析为本地 PDB 文件。

划分

必须先按 system 做训练/验证/测试划分,再展开到 graph index,避免同一 protein–ligand pair 的不同 pose 跨 split。system_index.jsongraph_to_system 提供基础映射;可先按 PLINDER 或其他外部规则生成 system 集合。

Protenix 如需只使用原状态 success 的样本,可读取同目录的 materialization_source_index.json,按 records[system_id].source_result_status == "success" 过滤 system,再用 system_index.json 展开图 index。默认完整 Protenix v2 目录包含上述 161 个有有效 pose 的 failed system,原因是其终止状态来自蛋白对齐质量门限,而不是缺少 pose 文件。

重建与代码

code/compact_v2_pooled/ 提供 pooled builder、图索引导出/审计工具、Protenix 特殊物化器和 reader。重建仍需要独立取得原始 docking common outputs 或 materialized PDB 输入;本 Hugging Face 发布只包含训练所需 compact 图和已脱敏元数据。