| # HiQBind pooled-v2 compact 图数据使用说明 |
|
|
| ## 数据范围 |
|
|
| 本次新增两个 pooled-v2 目录,位于 `data/hiqbind_5k_v1/`: |
|
|
| | 方法 | system(protein–ligand pair) | graph(docking pose) | 说明 | |
| | --- | ---: | ---: | --- | |
| | MedusaGraph | 4,887 | 85,764 | 所有构图成功的已发布 pose | |
| | Protenix | 4,618 | 90,354 | 4,457 个 success system,加 161 个有有效已发布 pose 的 failed system | |
|
|
| 一个 system 最多请求 20 个 pose,故 graph 数不必等于 system 数乘以 20。`v2` 表示 pooled 构图/存储实现,**不**表示新的 HiQBind cohort;输入 cohort 仍是 `hiqbind_5k_v1`。 |
|
|
| 两个目录均为 `gnncp_compact_v1` 格式,和本仓库旧版 DiffDock/Vina 数据使用相同的 `CompactGraphDataset` 接口和同一组 PyG 字段。v2 的主要差别是每个 shard 把静态节点/边和 pose 动态部分放在连续 tensor pool 中,以减少重复存储;训练端无需为 v1/v2 写不同 loader。 |
|
|
| ## 下载和加载 |
|
|
| ```python |
| from pathlib import Path |
| import sys |
| from huggingface_hub import snapshot_download |
| |
| snapshot_download( |
| repo_id="liofoil/copuladock", |
| repo_type="dataset", |
| local_dir="copuladock", |
| allow_patterns=[ |
| "code/compact_v2_pooled/compact_graph_dataset.py", |
| "data/hiqbind_5k_v1/medusagraph_full_v2/**", |
| ], |
| ) |
| |
| root = Path("copuladock") |
| sys.path.insert(0, str(root / "code" / "compact_v2_pooled")) |
| from compact_graph_dataset import CompactGraphDataset |
| |
| dataset = CompactGraphDataset( |
| root / "data" / "hiqbind_5k_v1" / "medusagraph_full_v2", |
| max_cached_shards=2, |
| strict=True, |
| ) |
| assert len(dataset) == 85764 |
| graph = dataset[0] |
| metadata = dataset.metadata(0) |
| ``` |
|
|
| 将目录名替换为 `protenix_full_v2` 时,`len(dataset)` 应为 `90354`。不要直接把 shard 读成 `list[Data]`;reader 会以 mmap 按需重建单个图。 |
|
|
| ## 图与预测结果的一一对应 |
|
|
| `graph_index.jsonl` 每行对应 `dataset[dataset_index]` 的一张图。它保存 `dataset_index`、`source_system_id`、`raw_pose_ordinal`、`shard_index` 和 shard 内局部位置等字段;训练/推理结果至少应保留 `dataset_index`,跨运行合并时也建议保留 `source_system_id + raw_pose_ordinal`。 |
|
|
| `graph_index_manifest.json` 记录该 JSONL、shard pointer 和图数量之间的校验结果。本发布对本机绝对路径做了脱敏;JSONL 中的 PDB 标识是相对 materialized-input 路径,原始 PDB 未随 compact 数据发布。因此它们适合样本 identity join,不应假定下载后可直接解析为本地 PDB 文件。 |
|
|
| ## 划分 |
|
|
| 必须先按 system 做训练/验证/测试划分,再展开到 graph index,避免同一 protein–ligand pair 的不同 pose 跨 split。`system_index.json` 的 `graph_to_system` 提供基础映射;可先按 PLINDER 或其他外部规则生成 system 集合。 |
|
|
| Protenix 如需只使用原状态 success 的样本,可读取同目录的 `materialization_source_index.json`,按 `records[system_id].source_result_status == "success"` 过滤 system,再用 `system_index.json` 展开图 index。默认完整 Protenix v2 目录包含上述 161 个有有效 pose 的 failed system,原因是其终止状态来自蛋白对齐质量门限,而不是缺少 pose 文件。 |
|
|
| ## 重建与代码 |
|
|
| `code/compact_v2_pooled/` 提供 pooled builder、图索引导出/审计工具、Protenix 特殊物化器和 reader。重建仍需要独立取得原始 docking common outputs 或 materialized PDB 输入;本 Hugging Face 发布只包含训练所需 compact 图和已脱敏元数据。 |
|
|