--- license: other #用户自定义标签 tags: - single cell - ST&SE language: - en - zh ---
State Dataset
## 数据集描述 `State_dataset` 是 State 单细胞表达建模与扰动预测任务使用的数据集合,包含 Parse、Tahoe、Replogle-Nadig 和 SE-167M-Human 四类数据。数据主体采用 AnnData/H5AD 格式,另包含基因 embedding(PyTorch `.pt`)、数据集切分配置(TOML)和上游许可证文件。 ## 数据集支持的任务 该仓库与 `State` 目录中的实验配置对应: `ST-HVG-Parse` 和 `ST-SE-Parse` 使用 Parse 数据进行细胞类型或供体的 few-shot/zero-shot 切分;`ST-HVG-Tahoe` 使用 Tahoe 数据进行泛化评测;Replogle 数据用于扰动验证;`SE-600M/config.yaml` 描述了大规模 cellxgene/Tahoe 训练数据和基因 embedding 的组织方式。 ## 数据的格式和结构 以下规模由当前目录文件统计得到,文件大小可能随数据版本变化: | 子集 | 主要文件 | 当前文件大小 | |---|---|---:| | Parse | `parse_concat_full.h5ad` | 约 342.3 GiB | | Replogle-Nadig | 5 个 `.h5ad` | 约 49.3 GiB | | Tahoe smoke | `c36.h5ad`、`c39.h5ad`、`c44.h5ad` | 约 5.0 GiB | | SE-167M-Human smoke | 1 个 `.pt` + 4 个 `.h5ad` | 约 607 MiB | H5AD 文件可使用 `scanpy`/`anndata` 读取,PT 文件可使用 PyTorch 读取。配置文件中的数据路径是运行环境示例路径,迁移到本地后需要把 `State` 配置中的路径改为实际挂载路径。 ## 数据集使用方式 将本目录挂载到运行环境后,在对应 TOML 中把数据路径修改为实际路径。例如: ```toml [datasets] parse = "/path/to/State_dataset/State-Parse-Filtered" ``` 读取 H5AD: ```python import anndata as ad adata = ad.read_h5ad("State-Parse-Filtered/parse_concat_full.h5ad", backed="r") print(adata) ``` ### 分片压缩文件 由于完整目录约 401 GiB,已按 90 GiB(二进制)切分为多个 Zstandard 压缩分片。分片是同一个压缩流的连续部分,不能单独解压;需要先按顺序合并: ```bash cat State_dataset.tar.zst.part-* > State_dataset.tar.zst zstd -d State_dataset.tar.zst -c | tar -xf - ``` 也可以不落地合并文件,直接流式解压: ```bash cat State_dataset.tar.zst.part-* | zstd -d -c | tar -xf - ``` 分片文件名、实际大小和 SHA256 校验值请以同目录生成的 `State_dataset.tar.zst.sha256` 为准。 ## OneScience 官方信息 | 平台 | OneScience 主仓库 | Skills 仓库 | |---|---|---| | Gitee | https://gitee.com/onescience-ai/onescience | https://gitee.com/onescience-ai/oneskills | | GitHub | https://github.com/onescience-ai/OneScience | https://github.com/onescience-ai/oneskills | ## 引用与许可证 - Parse 数据来源:Parse Biosciences,《Performance of Evercode WT v3 in Human Immune Cells (PBMCs)》,详见 `State-Parse-Filtered/README.md` 和 `CC-NC-4.0-License.txt`。 - Replogle-Nadig、Tahoe、SE-167M-Human 数据请遵循各上游数据集的许可证、引用和使用限制。 - 本 README 仅说明当前目录结构,不改变任何上游数据的版权或许可证条款。