metadata
license: other
tags:
- single cell
- ST&SE
language:
- en
- zh
State Dataset
数据集描述
State_dataset 是 State 单细胞表达建模与扰动预测任务使用的数据集合，包含 Parse、Tahoe、Replogle-Nadig 和 SE-167M-Human 四类数据。数据主体采用 AnnData/H5AD 格式，另包含基因 embedding（PyTorch .pt）、数据集切分配置（TOML）和上游许可证文件。
数据集支持的任务
该仓库与 State 目录中的实验配置对应：
ST-HVG-Parse 和 ST-SE-Parse 使用 Parse 数据进行细胞类型或供体的 few-shot/zero-shot 切分；ST-HVG-Tahoe 使用 Tahoe 数据进行泛化评测；Replogle 数据用于扰动验证；SE-600M/config.yaml 描述了大规模 cellxgene/Tahoe 训练数据和基因 embedding 的组织方式。
数据的格式和结构
以下规模由当前目录文件统计得到，文件大小可能随数据版本变化：
| 子集 | 主要文件 | 当前文件大小 |
|---|---|---|
| Parse | parse_concat_full.h5ad |
约 342.3 GiB |
| Replogle-Nadig | 5 个 .h5ad |
约 49.3 GiB |
| Tahoe smoke | c36.h5ad、c39.h5ad、c44.h5ad |
约 5.0 GiB |
| SE-167M-Human smoke | 1 个 .pt + 4 个 .h5ad |
约 607 MiB |
H5AD 文件可使用 scanpy/anndata 读取，PT 文件可使用 PyTorch 读取。配置文件中的数据路径是运行环境示例路径，迁移到本地后需要把 State 配置中的路径改为实际挂载路径。
数据集使用方式
将本目录挂载到运行环境后，在对应 TOML 中把数据路径修改为实际路径。例如：
[datasets]
parse = "/path/to/State_dataset/State-Parse-Filtered"
读取 H5AD：
import anndata as ad
adata = ad.read_h5ad("State-Parse-Filtered/parse_concat_full.h5ad", backed="r")
print(adata)
分片压缩文件
由于完整目录约 401 GiB，已按 90 GiB（二进制）切分为多个 Zstandard 压缩分片。分片是同一个压缩流的连续部分，不能单独解压；需要先按顺序合并：
cat State_dataset.tar.zst.part-* > State_dataset.tar.zst
zstd -d State_dataset.tar.zst -c | tar -xf -
也可以不落地合并文件，直接流式解压：
cat State_dataset.tar.zst.part-* | zstd -d -c | tar -xf -
分片文件名、实际大小和 SHA256 校验值请以同目录生成的 State_dataset.tar.zst.sha256 为准。
OneScience 官方信息
| 平台 | OneScience 主仓库 | Skills 仓库 |
|---|---|---|
| Gitee | https://gitee.com/onescience-ai/onescience | https://gitee.com/onescience-ai/oneskills |
| GitHub | https://github.com/onescience-ai/OneScience | https://github.com/onescience-ai/oneskills |
引用与许可证
- Parse 数据来源：Parse Biosciences，《Performance of Evercode WT v3 in Human Immune Cells (PBMCs)》，详见
State-Parse-Filtered/README.md和CC-NC-4.0-License.txt。 - Replogle-Nadig、Tahoe、SE-167M-Human 数据请遵循各上游数据集的许可证、引用和使用限制。
- 本 README 仅说明当前目录结构，不改变任何上游数据的版权或许可证条款。