File size: 3,564 Bytes
8c74f19 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 | # HiQBind pooled-v2 compact 图数据使用说明
## 数据范围
本次新增两个 pooled-v2 目录,位于 `data/hiqbind_5k_v1/`:
| 方法 | system(protein–ligand pair) | graph(docking pose) | 说明 |
| --- | ---: | ---: | --- |
| MedusaGraph | 4,887 | 85,764 | 所有构图成功的已发布 pose |
| Protenix | 4,618 | 90,354 | 4,457 个 success system,加 161 个有有效已发布 pose 的 failed system |
一个 system 最多请求 20 个 pose,故 graph 数不必等于 system 数乘以 20。`v2` 表示 pooled 构图/存储实现,**不**表示新的 HiQBind cohort;输入 cohort 仍是 `hiqbind_5k_v1`。
两个目录均为 `gnncp_compact_v1` 格式,和本仓库旧版 DiffDock/Vina 数据使用相同的 `CompactGraphDataset` 接口和同一组 PyG 字段。v2 的主要差别是每个 shard 把静态节点/边和 pose 动态部分放在连续 tensor pool 中,以减少重复存储;训练端无需为 v1/v2 写不同 loader。
## 下载和加载
```python
from pathlib import Path
import sys
from huggingface_hub import snapshot_download
snapshot_download(
repo_id="liofoil/copuladock",
repo_type="dataset",
local_dir="copuladock",
allow_patterns=[
"code/compact_v2_pooled/compact_graph_dataset.py",
"data/hiqbind_5k_v1/medusagraph_full_v2/**",
],
)
root = Path("copuladock")
sys.path.insert(0, str(root / "code" / "compact_v2_pooled"))
from compact_graph_dataset import CompactGraphDataset
dataset = CompactGraphDataset(
root / "data" / "hiqbind_5k_v1" / "medusagraph_full_v2",
max_cached_shards=2,
strict=True,
)
assert len(dataset) == 85764
graph = dataset[0]
metadata = dataset.metadata(0)
```
将目录名替换为 `protenix_full_v2` 时,`len(dataset)` 应为 `90354`。不要直接把 shard 读成 `list[Data]`;reader 会以 mmap 按需重建单个图。
## 图与预测结果的一一对应
`graph_index.jsonl` 每行对应 `dataset[dataset_index]` 的一张图。它保存 `dataset_index`、`source_system_id`、`raw_pose_ordinal`、`shard_index` 和 shard 内局部位置等字段;训练/推理结果至少应保留 `dataset_index`,跨运行合并时也建议保留 `source_system_id + raw_pose_ordinal`。
`graph_index_manifest.json` 记录该 JSONL、shard pointer 和图数量之间的校验结果。本发布对本机绝对路径做了脱敏;JSONL 中的 PDB 标识是相对 materialized-input 路径,原始 PDB 未随 compact 数据发布。因此它们适合样本 identity join,不应假定下载后可直接解析为本地 PDB 文件。
## 划分
必须先按 system 做训练/验证/测试划分,再展开到 graph index,避免同一 protein–ligand pair 的不同 pose 跨 split。`system_index.json` 的 `graph_to_system` 提供基础映射;可先按 PLINDER 或其他外部规则生成 system 集合。
Protenix 如需只使用原状态 success 的样本,可读取同目录的 `materialization_source_index.json`,按 `records[system_id].source_result_status == "success"` 过滤 system,再用 `system_index.json` 展开图 index。默认完整 Protenix v2 目录包含上述 161 个有有效 pose 的 failed system,原因是其终止状态来自蛋白对齐质量门限,而不是缺少 pose 文件。
## 重建与代码
`code/compact_v2_pooled/` 提供 pooled builder、图索引导出/审计工具、Protenix 特殊物化器和 reader。重建仍需要独立取得原始 docking common outputs 或 materialized PDB 输入;本 Hugging Face 发布只包含训练所需 compact 图和已脱敏元数据。
|