| --- |
| license: other |
| tags: |
| - GRCh38 |
| - GRCm38 |
| language: |
| - en |
| - zh |
| --- |
| <p align="center"> |
| <strong> |
| <span style="font-size: 30px;">AlphaGenome Dataset</span> |
| </strong> |
| </p> |
| |
| ## 数据集描述 |
|
|
| AlphaGenome Dataset 是供 OneScience AlphaGenome 模型使用的参考基因组、注释文件和 TFRecord 数据整理包。 |
|
|
| 参考资源包括人类 GRCh38.p13、小鼠 GRCm38.p6、FAI 索引、Gencode 注释、剪接位点和 polyA 注释;TFRecord 数据包含 HOMO_SAPIENS VALID split 的 12 个 bundle,每个 bundle 25 个 gzip 压缩分片。 |
| |
| ## 数据集支持的任务 |
| |
| 本数据集适配 `OneScience/alphagenome/`。模型仓库默认期望本数据集位于模型包 `data/alphagenome_dataset`,用于预检、区间推理、变异评分和轨迹预测评测。 |
|
|
| ## 数据集的格式和结构 |
|
|
| TFRecord 文件路径形如: |
|
|
| ```text |
| v1/train/ALL_FOLDS/HOMO_SAPIENS/VALID/<BUNDLE>/data_chrAll_01-25.gz.tfrecord |
| ``` |
|
|
| Bundle 包括 ATAC、DNASE、PROCAP、CAGE、RNA_SEQ、CHIP_TF、CHIP_HISTONE、CONTACT_MAPS、SPLICE_SITES、SPLICE_SITE_USAGE、SPLICE_JUNCTIONS 和 SPLICE_SITE_POSITIONS。每条样本包含 DNA 序列、区间染色体/start/end 元数据、目标张量和 mask;dtype 与 resolution 见 `metadata/schema.yaml`。 |
|
|
| ## 数据集使用方式 |
|
|
| ### 文件与下载 |
|
|
| 独立下载: |
|
|
| ```bash |
| hf download --dataset OneScience-Sugon/alphagenome_dataset --local-dir . |
| ``` |
|
|
| 在模型包内使用: |
|
|
| ```bash |
| hf download --dataset OneScience-Sugon/alphagenome_dataset --local-dir data/alphagenome_dataset |
| ``` |
|
|
| ### 数据放置与验证 |
|
|
| 作为模型依赖使用时,推荐目录结构: |
|
|
| ```text |
| <model-package>/data/alphagenome_dataset/ |
| ├── manifest.yaml |
| ├── metadata/ |
| ├── reference/ |
| └── v1/train/ALL_FOLDS/HOMO_SAPIENS/VALID/ |
| ``` |
|
|
| 快速验证文件存在、大小和 gzip 可读性: |
|
|
| ```bash |
| python scripts/validate_dataset.py --root . |
| ``` |
|
|
| 全量 SHA256 验证可加 `--check-sha256`。 |
|
|
| ## OneScience 官方信息 |
|
|
| | 平台 | OneScience 主仓库 | Skills 仓库 | |
| |---|---|---| |
| | Gitee | https://gitee.com/onescience-ai/onescience | https://gitee.com/onescience-ai/oneskills | |
| | GitHub | https://github.com/onescience-ai/OneScience | https://github.com/onescience-ai/oneskills | |
|
|
| ## 限制与许可证 |
|
|
| license: mixed |
| license_note: > |
| AlphaGenome training, validation and test datasets contain reprocessed |
| data from FANTOM5, 4D Nucleome, ENCODE and GENCODE. Usage is subject |
| to the respective source-specific licenses and data-use policies. |
| Other unspecified materials are licensed under CC BY-NC 4.0. |