Hugging Face's logo

Datasets:
OneScience-Group
/
evo2_dataset

Languages:
English
Chinese
Tags:
chr
mini dataset
License:
Dataset card Files
xet
 Community
evo2_dataset
File size: 2,455 Bytes
7e1f9af
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
---
license: other
#用户自定义标签
tags:
  - chr
  - mini dataset
language:
  - en
  - zh
---
<p align="center">
  <strong>
    <span style="font-size: 30px;">Evo2 Dataset</span>
  </strong>
</p>

## 数据集描述

Evo2 Dataset 是适配 `OneScience/evo2/` 的 Evo2 mini 基因组数据集，包含人类 chr20、chr21、chr22 的 FASTA、压缩 FASTA、合并 FASTA，以及已经按 Byte-Level tokenizer 预处理好的 train、validation、test `.bin/.idx` split。

## 数据集支持的任务

该数据集不是完整 OpenGenome2 数据集，不用于复现全量预训练规模；它用于 Evo2 标准模型仓库的预检、FASTA 预测输入和 mini 训练或微调冒烟测试。

## 数据集的格式和结构

| 数据 | 格式 | 说明 |
|---|---|---|
| 原始序列 | FASTA / gzip FASTA | chr20、chr21、chr22 和合并 FASTA |
| 预处理训练 split | `.bin` + `.idx` | `chr20_21_22_uint8_distinct_byte-level_train` |
| 预处理验证 split | `.bin` + `.idx` | `chr20_21_22_uint8_distinct_byte-level_val` |
| 预处理测试 split | `.bin` + `.idx` | `chr20_21_22_uint8_distinct_byte-level_test` |
| 校验清单 | TSV / SHA256 | 文件名、大小和哈希 |

数据集包内默认位置为 `data_mini/genome_data/`。

## 数据集使用方式

### 文件与下载

下载数据集：
```bash
hf download --dataset OneScience-Sugon/evo2_dataset
```
验证模型还需另下载模型权重：
```bash
hf download --model OneScience-Sugon/evo2/
```
### 数据放置与验证

模型默认数据路径：

```text
<MODEL_REPO_ROOT>/data/evo2_dataset/data_mini/genome_data/
```

可将 `data_mini` 放到模型包：

```bash
mkdir -p <MODEL_REPO_ROOT>/data/evo2_dataset
cp -a data_mini <MODEL_REPO_ROOT>/data/evo2_dataset/data_mini
```

验证命令：

```bash
python scripts/validate_evo2_dataset.py --package-root . --dataset-root data_mini
```

如只需要快速检查结构，可加 `--skip-sha256`。

## OneScience 官方信息

| 平台 | OneScience 主仓库 | Skills 仓库 |
|---|---|---|
| Gitee |  https://gitee.com/onescience-ai/onescience | https://gitee.com/onescience-ai/oneskills |
| GitHub | https://github.com/onescience-ai/OneScience | https://github.com/onescience-ai/oneskills |

## 限制与许可证

Repository license: Apache-2.0
Data license: LicenseRef-UCSC-hg38-public-use
Data source: UCSC hg38 / GRCh38, chromosomes 20, 21 and 22
Note: Derived bin/idx files follow the source genome data terms.