quick start for readme; dataset config for preview

.gitattributes

@@ -58,5 +58,4 @@ saved_model/**/* filter=lfs diff=lfs merge=lfs -text
 *.mp4 filter=lfs diff=lfs merge=lfs -text
 *.webm filter=lfs diff=lfs merge=lfs -text
 
-/train.parquet filter=hf-datasets-preview columns=100
-/test.parquet  filter=hf-datasets-preview columns=100
+preview.parquet*  dataset=default

README.md

@@ -14,6 +14,10 @@ tags:
 pretty_name: 450k DNA methylation tissue classification
 size_categories:
 - 10K<n<100K
+viewer:
+  config: default
+  split: preview
+  rows: 10
 ---
 
 
@@ -49,15 +53,10 @@ For each partition there are two main data types each sample:
 - `metadata` (last 5 columns): metadata containing the sample id, dataset, and UBERON tissue/cell identifiers and labels. There are two columns corresponding to UBERON identifiers, one contains the most descriptive tissue or cell term, and the second contains a more general term used to create a larger training compendium. (e.g., `pericardial fat` vs. `visceral fat`). 
 
 The full list of files include:
-- `full_ontology.edgelist`: a [networkx](https://networkx.org/documentation/stable/reference/readwrite/edgelist.html) file containing the tissue/cell ontology connecting all 86 tissue and cell terms
-- `training_ontology.edgelist`: a [networkx](https://networkx.org/documentation/stable/reference/readwrite/edgelist.html) file containing the tissue/cell ontology connecting the 55 tissue and cell terms
 - `train.parquet`: M-values for samples in train partition
 - `test.parquet`: M-values for samples in test partition
 - `metadata.parquet`: metadata for all samples
-<!-- - `training_meta.parquet`: metadata for the samples in the training partition
-- `label_transfer_meta.parquet`: metadata for the samples in the holdout partition
-- `training_mvalues.parquet`: m-values measuring DNAm at 297,598 CpG sites across the genome for samples in the training partition
-- `label_transfer_mvalues.parquet`: m-values measuring DNAm at 297,598 CpG sites across the genome for samples in the holdout partition -->
+- `preview.parquet`: subset of `train.parquet` for datacard preview
 
 Mvalue files are structured samples (rows) by probes (columns). Rows are labeled with GSM identifiers, and columns are labeled with Illumina CpG IDs (e.g., `cg03128332`).  
   
@@ -87,7 +86,7 @@ test_mv = load_dataset("ylab/methyl-classification", split="test").to_pandas().s
 metadata = load_dataset(
     "parquet",
     data_files="https://huggingface.co/datasets/ylab/methyl-classification/resolve/main/metadata.parquet"
-).to_pandas().set_index('Sample')
+)['train'].to_pandas().set_index('Sample')
 
 # View the training set metadata
 print(metadata.describe())
@@ -101,24 +100,6 @@ plt.show()
 
 ```
 
-<!-- If using our model:
-```
-git clone https://github.com/ylaboratory/methylation-classification.git
-cd methylation-classification
-conda env create -f env.yml --name methyl-classify
-conda activate methyl-classify
-mkdir download
-cd download
-huggingface-cli download ylab/methyl-classification
-```
-
-If using only our data:
-```
-mkdir methyl-classification
-cd download
-huggingface-cli download ylab/methyl-classification
-``` -->
-
 ## Code for data processing, analysis, and tissue classification
 
 This dataset, while designed to be standalone, was generated as a part of a larger paper predicting tissue and cell type.

dataset.yaml

@@ -1,6 +1,9 @@
 configs:
   - config_name: default
     data_files:
-      train: train.parquet
-      test: test.parquet
-    preview: preview.parquet
+    - split: train
+      path: "train.parquet"
+    - split: test
+      path: "test.parquet"
+    - split: preview
+      path: "preview.parquet"

full_ontology.edgelist

@@ -1,139 +0,0 @@
-UBERON:0001013 UBERON:0002190
-UBERON:0001013 UBERON:0035818
-UBERON:0002416 UBERON:0001013
-UBERON:0002416 UBERON:0000310
-UBERON:0002416 UBERON:0002097
-UBERON:0002097 UBERON:0001037
-UBERON:0002097 CL:0000148
-UBERON:0002384 UBERON:0001013
-UBERON:0002384 CL:0000057
-UBERON:0002384 UBERON:0002418
-UBERON:0000990 UBERON:0000079
-UBERON:0000990 UBERON:0000474
-UBERON:0000079 CL:0000019
-UBERON:0000079 UBERON:0002367
-UBERON:0000474 UBERON:0003134
-UBERON:0000474 UBERON:0001987
-UBERON:0003134 UBERON:0003889
-UBERON:0003134 UBERON:0000992
-UBERON:0003134 UBERON:0000002
-UBERON:0000002 UBERON:0001295
-CL:0000738 CL:2000001
-CL:0000738 CL:0000094
-CL:0000738 CL:0000235
-CL:2000001 CL:0000576
-CL:2000001 CL:0000542
-CL:0000094 CL:0000775
-CL:0000542 CL:0000236
-CL:0000542 CL:0000084
-CL:0000542 CL:0000623
-CL:0000084 CL:0000910;BTO:0000289
-UBERON:0000178 CL:0000738
-UBERON:0000178 UBERON:0012168
-UBERON:0002390 UBERON:0000178
-UBERON:0002390 UBERON:0002371
-UBERON:0002390 UBERON:0002370
-UBERON:0002390 UBERON:0002106
-UBERON:0002330 UBERON:0000310
-UBERON:0002330 UBERON:0002107
-UBERON:0002330 UBERON:0001264
-UBERON:0002330 UBERON:0001836
-UBERON:0002107 UBERON:0002394
-UBERON:0001264 UBERON:0000006
-UBERON:0001007 UBERON:0002107
-UBERON:0001007 UBERON:0001264
-UBERON:0001007 UBERON:0000160
-UBERON:0001007 UBERON:0000945
-UBERON:0001007 UBERON:0001043
-UBERON:0001007 UBERON:0001729
-UBERON:0001007 UBERON:0002424
-UBERON:0001007 UBERON:0001245
-UBERON:0000160 UBERON:0000059
-UBERON:0000160 UBERON:0002108
-UBERON:0000160 UBERON:0001242
-UBERON:0000059 UBERON:0001155
-UBERON:0000059 UBERON:0001052
-UBERON:0002108 UBERON:0002114
-UBERON:0001004 UBERON:0005384
-UBERON:0001004 UBERON:0002048
-UBERON:0001004 UBERON:0003126
-UBERON:0001004 UBERON:0001005
-UBERON:0001004 UBERON:0001737
-UBERON:0002048 UBERON:0007311
-UBERON:0003126 UBERON:0003387
-UBERON:0003126 UBERON:0001901
-UBERON:0001005 UBERON:0004802
-UBERON:0001032 UBERON:0005384
-UBERON:0001032 UBERON:0000970
-UBERON:0000970 UBERON:0000964
-UBERON:0000970 UBERON:0000966
-UBERON:0000483 UBERON:0005384
-UBERON:0000483 CL:0000115
-UBERON:0000483 UBERON:0002424
-UBERON:0000483 UBERON:0004802
-UBERON:0000483 UBERON:0000365
-UBERON:0000483 UBERON:0001901
-UBERON:0000483 UBERON:0001043
-UBERON:0000949 UBERON:0001264
-UBERON:0000949 UBERON:0002046
-UBERON:0000949 UBERON:0000007
-UBERON:0000949 UBERON:0002370
-UBERON:0000949 UBERON:0002107
-UBERON:0000949 UBERON:0000992
-UBERON:0002385 CL:0000056
-UBERON:0002385 UBERON:0001379
-UBERON:0002385 UBERON:0001135
-UBERON:0002385 UBERON:0001103
-UBERON:0001135 UBERON:0004178
-UBERON:0001135 UBERON:0003387
-UBERON:0002204 UBERON:0002385
-UBERON:0002204 UBERON:0002481
-UBERON:0002204 UBERON:0002418
-UBERON:0002481 UBERON:0002371
-UBERON:0004535 UBERON:0002079
-UBERON:0004535 UBERON:0001981
-UBERON:0001981 UBERON:0000947
-UBERON:0001981 CL:0000115
-UBERON:0000947 UBERON:0001496
-UBERON:0000947 UBERON:0004178
-UBERON:0001016 CL:0000540
-UBERON:0001016 UBERON:0001017
-UBERON:0001017 UBERON:0000955
-UBERON:0001017 UBERON:0002363
-UBERON:0000955 UBERON:0002037
-UBERON:0000955 UBERON:0002336
-UBERON:0000955 UBERON:0000956
-UBERON:0000955 UBERON:0002435
-UBERON:0000956 UBERON:0001871
-UBERON:0000956 UBERON:0001870
-UBERON:0000956 UBERON:0001872
-UBERON:0002435 UBERON:0001873
-UBERON:0002435 UBERON:0001882
-UBERON:0002435 UBERON:0001874
-UBERON:0001871 UBERON:0002728
-UBERON:0001870 UBERON:0000451
-UBERON:0001870 UBERON:0002756
-UBERON:0002050 UBERON:0001987
-UBERON:0002050 UBERON:0000922
-UBERON:0002050 UBERON:0002331
-UBERON:0002050 UBERON:0000305
-UBERON:0000922 CL:0002322;BTO:0001086
-UBERON:0002331 UBERON:0012168
-UBERON:8450002 UBERON:0000056
-UBERON:8450002 UBERON:0000365
-UBERON:8450002 UBERON:0002113
-root UBERON:0001016
-root UBERON:0004535
-root UBERON:0001004
-root UBERON:0001007
-root UBERON:0002330
-root UBERON:0002204
-root UBERON:0000949
-root UBERON:0000990
-root UBERON:0002416
-root UBERON:0001032
-root UBERON:0002384
-root UBERON:0000483
-root UBERON:0002050
-root UBERON:8450002
-root UBERON:0002390

training_ontology.edgelist

@@ -1,88 +0,0 @@
-UBERON:0002204 UBERON:0002481
-UBERON:0002204 UBERON:0002418
-UBERON:0002204 CL:0000056
-CL:2000001 CL:0000576
-CL:2000001 CL:0000542
-UBERON:0000955 UBERON:0002037
-UBERON:0000955 UBERON:0000956
-UBERON:0002331 UBERON:0012168
-UBERON:8450002 UBERON:0002113
-CL:0000094 CL:0000775
-UBERON:0000483 UBERON:0005384
-UBERON:0000483 UBERON:0002424
-UBERON:0000483 UBERON:0004802
-UBERON:0000483 UBERON:0001043
-UBERON:0003134 UBERON:0003889
-UBERON:0003134 UBERON:0000992
-UBERON:0003134 UBERON:0000002
-UBERON:0001870 UBERON:0000451
-UBERON:0000059 UBERON:0001155
-UBERON:0000059 UBERON:0001052
-UBERON:0001004 UBERON:0005384
-UBERON:0001004 UBERON:0002048
-UBERON:0001004 UBERON:0001005
-UBERON:0002050 UBERON:0001987
-UBERON:0002050 UBERON:0002331
-UBERON:0002050 CL:0002322;BTO:0001086
-UBERON:0002390 UBERON:0000178
-UBERON:0002390 UBERON:0002371
-UBERON:0000956 UBERON:0001871
-UBERON:0000956 UBERON:0001870
-UBERON:0002097 CL:0000148
-UBERON:0000990 UBERON:0000079
-UBERON:0000990 UBERON:0003134
-UBERON:0000990 UBERON:0001987
-UBERON:0001013 UBERON:0002190
-UBERON:0001013 UBERON:0035818
-UBERON:0001032 UBERON:0005384
-UBERON:0000079 CL:0000019
-UBERON:0000079 UBERON:0002367
-UBERON:0001005 UBERON:0004802
-UBERON:0000002 UBERON:0001295
-CL:0000738 CL:2000001
-CL:0000738 CL:0000094
-CL:0000542 CL:0000236
-CL:0000542 CL:0000084
-CL:0000542 CL:0000623
-UBERON:0000949 UBERON:0001264
-UBERON:0000949 UBERON:0002046
-UBERON:0000949 UBERON:0002107
-UBERON:0000949 UBERON:0000992
-CL:0000084 CL:0000910;BTO:0000289
-UBERON:0002330 UBERON:0000310
-UBERON:0002330 UBERON:0002107
-UBERON:0002330 UBERON:0001264
-UBERON:0002330 UBERON:0001836
-UBERON:0001871 UBERON:0002728
-UBERON:0001264 UBERON:0000006
-UBERON:0000178 CL:0000738
-UBERON:0000178 UBERON:0012168
-UBERON:0002481 UBERON:0002371
-UBERON:0001016 UBERON:0000955
-UBERON:0002416 UBERON:0001013
-UBERON:0002416 UBERON:0000310
-UBERON:0002416 UBERON:0002097
-UBERON:0001007 UBERON:0002107
-UBERON:0001007 UBERON:0001264
-UBERON:0001007 UBERON:0000945
-UBERON:0001007 UBERON:0001043
-UBERON:0001007 UBERON:0002424
-UBERON:0001007 UBERON:0000059
-UBERON:0002384 UBERON:0001013
-UBERON:0002384 CL:0000057
-UBERON:0002384 UBERON:0002418
-root UBERON:0002204
-root UBERON:0004535
-root UBERON:8450002
-root UBERON:0000483
-root UBERON:0001004
-root UBERON:0002050
-root UBERON:0002390
-root UBERON:0000990
-root UBERON:0001032
-root UBERON:0000949
-root UBERON:0002330
-root UBERON:0001016
-root UBERON:0002416
-root UBERON:0001007
-root UBERON:0002384