metadata
license: other
tags:
- chr
- mini dataset
language:
- en
- zh
Evo2 Dataset
数据集描述
Evo2 Dataset 是适配 OneScience/evo2/ 的 Evo2 mini 基因组数据集，包含人类 chr20、chr21、chr22 的 FASTA、压缩 FASTA、合并 FASTA，以及已经按 Byte-Level tokenizer 预处理好的 train、validation、test .bin/.idx split。
数据集支持的任务
该数据集不是完整 OpenGenome2 数据集，不用于复现全量预训练规模；它用于 Evo2 标准模型仓库的预检、FASTA 预测输入和 mini 训练或微调冒烟测试。
数据集的格式和结构
| 数据 | 格式 | 说明 |
|---|---|---|
| 原始序列 | FASTA / gzip FASTA | chr20、chr21、chr22 和合并 FASTA |
| 预处理训练 split | .bin + .idx |
chr20_21_22_uint8_distinct_byte-level_train |
| 预处理验证 split | .bin + .idx |
chr20_21_22_uint8_distinct_byte-level_val |
| 预处理测试 split | .bin + .idx |
chr20_21_22_uint8_distinct_byte-level_test |
| 校验清单 | TSV / SHA256 | 文件名、大小和哈希 |
数据集包内默认位置为 data_mini/genome_data/。
数据集使用方式
文件与下载
下载数据集：
hf download --dataset OneScience-Sugon/evo2_dataset
验证模型还需另下载模型权重：
hf download --model OneScience-Sugon/evo2/
数据放置与验证
模型默认数据路径：
<MODEL_REPO_ROOT>/data/evo2_dataset/data_mini/genome_data/
可将 data_mini 放到模型包：
mkdir -p <MODEL_REPO_ROOT>/data/evo2_dataset
cp -a data_mini <MODEL_REPO_ROOT>/data/evo2_dataset/data_mini
验证命令：
python scripts/validate_evo2_dataset.py --package-root . --dataset-root data_mini
如只需要快速检查结构，可加 --skip-sha256。
OneScience 官方信息
| 平台 | OneScience 主仓库 | Skills 仓库 |
|---|---|---|
| Gitee | https://gitee.com/onescience-ai/onescience | https://gitee.com/onescience-ai/oneskills |
| GitHub | https://github.com/onescience-ai/OneScience | https://github.com/onescience-ai/oneskills |
限制与许可证
Repository license: Apache-2.0 Data license: LicenseRef-UCSC-hg38-public-use Data source: UCSC hg38 / GRCh38, chromosomes 20, 21 and 22 Note: Derived bin/idx files follow the source genome data terms.