# HiQBind pooled-v2 compact 图数据使用说明

## 数据范围

本次新增两个 pooled-v2 目录，位于 `data/hiqbind_5k_v1/`：

| 方法 | system（protein–ligand pair） | graph（docking pose） | 说明 |
| --- | ---: | ---: | --- |
| MedusaGraph | 4,887 | 85,764 | 所有构图成功的已发布 pose |
| Protenix | 4,618 | 90,354 | 4,457 个 success system，加 161 个有有效已发布 pose 的 failed system |

一个 system 最多请求 20 个 pose，故 graph 数不必等于 system 数乘以 20。`v2` 表示 pooled 构图/存储实现，**不**表示新的 HiQBind cohort；输入 cohort 仍是 `hiqbind_5k_v1`。

两个目录均为 `gnncp_compact_v1` 格式，和本仓库旧版 DiffDock/Vina 数据使用相同的 `CompactGraphDataset` 接口和同一组 PyG 字段。v2 的主要差别是每个 shard 把静态节点/边和 pose 动态部分放在连续 tensor pool 中，以减少重复存储；训练端无需为 v1/v2 写不同 loader。

## 下载和加载

```python
from pathlib import Path
import sys
from huggingface_hub import snapshot_download

snapshot_download(
    repo_id="liofoil/copuladock",
    repo_type="dataset",
    local_dir="copuladock",
    allow_patterns=[
        "code/compact_v2_pooled/compact_graph_dataset.py",
        "data/hiqbind_5k_v1/medusagraph_full_v2/**",
    ],
)

root = Path("copuladock")
sys.path.insert(0, str(root / "code" / "compact_v2_pooled"))
from compact_graph_dataset import CompactGraphDataset

dataset = CompactGraphDataset(
    root / "data" / "hiqbind_5k_v1" / "medusagraph_full_v2",
    max_cached_shards=2,
    strict=True,
)
assert len(dataset) == 85764
graph = dataset[0]
metadata = dataset.metadata(0)
```

将目录名替换为 `protenix_full_v2` 时，`len(dataset)` 应为 `90354`。不要直接把 shard 读成 `list[Data]`；reader 会以 mmap 按需重建单个图。

## 图与预测结果的一一对应

`graph_index.jsonl` 每行对应 `dataset[dataset_index]` 的一张图。它保存 `dataset_index`、`source_system_id`、`raw_pose_ordinal`、`shard_index` 和 shard 内局部位置等字段；训练/推理结果至少应保留 `dataset_index`，跨运行合并时也建议保留 `source_system_id + raw_pose_ordinal`。

`graph_index_manifest.json` 记录该 JSONL、shard pointer 和图数量之间的校验结果。本发布对本机绝对路径做了脱敏；JSONL 中的 PDB 标识是相对 materialized-input 路径，原始 PDB 未随 compact 数据发布。因此它们适合样本 identity join，不应假定下载后可直接解析为本地 PDB 文件。

## 划分

必须先按 system 做训练/验证/测试划分，再展开到 graph index，避免同一 protein–ligand pair 的不同 pose 跨 split。`system_index.json` 的 `graph_to_system` 提供基础映射；可先按 PLINDER 或其他外部规则生成 system 集合。

Protenix 如需只使用原状态 success 的样本，可读取同目录的 `materialization_source_index.json`，按 `records[system_id].source_result_status == "success"` 过滤 system，再用 `system_index.json` 展开图 index。默认完整 Protenix v2 目录包含上述 161 个有有效 pose 的 failed system，原因是其终止状态来自蛋白对齐质量门限，而不是缺少 pose 文件。

## 重建与代码

`code/compact_v2_pooled/` 提供 pooled builder、图索引导出/审计工具、Protenix 特殊物化器和 reader。重建仍需要独立取得原始 docking common outputs 或 materialized PDB 输入；本 Hugging Face 发布只包含训练所需 compact 图和已脱敏元数据。