Shuang Wu
commited on
update README
Browse files
README.md
CHANGED
|
@@ -98,121 +98,19 @@ The dataset can be loaded using the Hugging Face Datasets library directly from
|
|
| 98 |
from datasets import load_dataset
|
| 99 |
|
| 100 |
# Load the flat dataset
|
| 101 |
-
flat_dataset = load_dataset("mostlyaiprize", "flat")
|
| 102 |
|
| 103 |
# Load the sequential dataset
|
| 104 |
-
sequential_dataset = load_dataset("mostlyaiprize", "sequential")
|
| 105 |
-
|
| 106 |
-
# Access the data
|
| 107 |
-
flat_data = flat_dataset["train"]
|
| 108 |
-
sequential_data = sequential_dataset["train"]
|
| 109 |
```
|
| 110 |
|
| 111 |
## Dataset Schema
|
| 112 |
|
| 113 |
-
The schema
|
| 114 |
-
|
| 115 |
-
### Flat Dataset Schema (80 columns)
|
| 116 |
-
```python
|
| 117 |
-
{
|
| 118 |
-
"dog": {"_type": "Value", "dtype": "int64"},
|
| 119 |
-
"cat": {"_type": "Value", "dtype": "string"},
|
| 120 |
-
"rabbit": {"_type": "Value", "dtype": "string"},
|
| 121 |
-
"deer": {"_type": "Value", "dtype": "float32"},
|
| 122 |
-
"panda": {"_type": "Value", "dtype": "int64"},
|
| 123 |
-
"koala": {"_type": "Value", "dtype": "string"},
|
| 124 |
-
"otter": {"_type": "Value", "dtype": "string"},
|
| 125 |
-
"hedgehog": {"_type": "Value", "dtype": "float32"},
|
| 126 |
-
"squirrel": {"_type": "Value", "dtype": "int64"},
|
| 127 |
-
"dolphin": {"_type": "Value", "dtype": "int64"},
|
| 128 |
-
"penguin": {"_type": "Value", "dtype": "float32"},
|
| 129 |
-
"turtle": {"_type": "Value", "dtype": "float32"},
|
| 130 |
-
"elephant": {"_type": "Value", "dtype": "string"},
|
| 131 |
-
"giraffe": {"_type": "Value", "dtype": "int64"},
|
| 132 |
-
"lamb": {"_type": "Value", "dtype": "string"},
|
| 133 |
-
"goat": {"_type": "Value", "dtype": "string"},
|
| 134 |
-
"cow": {"_type": "Value", "dtype": "string"},
|
| 135 |
-
"horse": {"_type": "Value", "dtype": "string"},
|
| 136 |
-
"donkey": {"_type": "Value", "dtype": "string"},
|
| 137 |
-
"pony": {"_type": "Value", "dtype": "int64"},
|
| 138 |
-
"llama": {"_type": "Value", "dtype": "string"},
|
| 139 |
-
"mouse": {"_type": "Value", "dtype": "string"},
|
| 140 |
-
"hamster": {"_type": "Value", "dtype": "string"},
|
| 141 |
-
"guinea": {"_type": "Value", "dtype": "int64"},
|
| 142 |
-
"duck": {"_type": "Value", "dtype": "string"},
|
| 143 |
-
"chicken": {"_type": "Value", "dtype": "float32"},
|
| 144 |
-
"sparrow": {"_type": "Value", "dtype": "int64"},
|
| 145 |
-
"parrot": {"_type": "Value", "dtype": "int64"},
|
| 146 |
-
"finch": {"_type": "Value", "dtype": "int64"},
|
| 147 |
-
"canary": {"_type": "Value", "dtype": "int64"},
|
| 148 |
-
"bee": {"_type": "Value", "dtype": "float32"},
|
| 149 |
-
"butterfly": {"_type": "Value", "dtype": "string"},
|
| 150 |
-
"ladybug": {"_type": "Value", "dtype": "int64"},
|
| 151 |
-
"snail": {"_type": "Value", "dtype": "float32"},
|
| 152 |
-
"frog": {"_type": "Value", "dtype": "int64"},
|
| 153 |
-
"cricket": {"_type": "Value", "dtype": "int64"},
|
| 154 |
-
"tamarin": {"_type": "Value", "dtype": "string"},
|
| 155 |
-
"wallaby": {"_type": "Value", "dtype": "string"},
|
| 156 |
-
"wombat": {"_type": "Value", "dtype": "int64"},
|
| 157 |
-
"zebra": {"_type": "Value", "dtype": "int64"},
|
| 158 |
-
"flamingo": {"_type": "Value", "dtype": "float32"},
|
| 159 |
-
"peacock": {"_type": "Value", "dtype": "int64"},
|
| 160 |
-
"bat": {"_type": "Value", "dtype": "int64"},
|
| 161 |
-
"fox": {"_type": "Value", "dtype": "int64"},
|
| 162 |
-
"beaver": {"_type": "Value", "dtype": "int64"},
|
| 163 |
-
"monkey": {"_type": "Value", "dtype": "int64"},
|
| 164 |
-
"seal": {"_type": "Value", "dtype": "int64"},
|
| 165 |
-
"robin": {"_type": "Value", "dtype": "int64"},
|
| 166 |
-
"loon": {"_type": "Value", "dtype": "string"},
|
| 167 |
-
"swan": {"_type": "Value", "dtype": "int64"},
|
| 168 |
-
"goldfish": {"_type": "Value", "dtype": "int64"},
|
| 169 |
-
"minnow": {"_type": "Value", "dtype": "string"},
|
| 170 |
-
"mole": {"_type": "Value", "dtype": "float32"},
|
| 171 |
-
"shrew": {"_type": "Value", "dtype": "int64"},
|
| 172 |
-
"puffin": {"_type": "Value", "dtype": "float32"},
|
| 173 |
-
"owl": {"_type": "Value", "dtype": "int64"},
|
| 174 |
-
"bunny": {"_type": "Value", "dtype": "int64"},
|
| 175 |
-
"bear": {"_type": "Value", "dtype": "int64"},
|
| 176 |
-
"chipmunk": {"_type": "Value", "dtype": "int64"},
|
| 177 |
-
"cub": {"_type": "Value", "dtype": "string"},
|
| 178 |
-
"acorn": {"_type": "Value", "dtype": "float32"},
|
| 179 |
-
"leaf": {"_type": "Value", "dtype": "string"},
|
| 180 |
-
"cloud": {"_type": "Value", "dtype": "float32"},
|
| 181 |
-
"rainbow": {"_type": "Value", "dtype": "int64"},
|
| 182 |
-
"puddle": {"_type": "Value", "dtype": "string"},
|
| 183 |
-
"berry": {"_type": "Value", "dtype": "float32"},
|
| 184 |
-
"apple": {"_type": "Value", "dtype": "int64"},
|
| 185 |
-
"honey": {"_type": "Value", "dtype": "int64"},
|
| 186 |
-
"pumpkin": {"_type": "Value", "dtype": "string"},
|
| 187 |
-
"teddy": {"_type": "Value", "dtype": "string"},
|
| 188 |
-
"blanket": {"_type": "Value", "dtype": "string"},
|
| 189 |
-
"button": {"_type": "Value", "dtype": "string"},
|
| 190 |
-
"whistle": {"_type": "Value", "dtype": "float32"},
|
| 191 |
-
"marble": {"_type": "Value", "dtype": "int64"},
|
| 192 |
-
"wagon": {"_type": "Value", "dtype": "string"},
|
| 193 |
-
"storybook": {"_type": "Value", "dtype": "string"},
|
| 194 |
-
"candle": {"_type": "Value", "dtype": "float32"},
|
| 195 |
-
"clover": {"_type": "Value", "dtype": "float32"},
|
| 196 |
-
"bubble": {"_type": "Value", "dtype": "int64"},
|
| 197 |
-
"cookie": {"_type": "Value", "dtype": "string"}
|
| 198 |
-
}
|
| 199 |
-
```
|
| 200 |
|
| 201 |
-
### Sequential Dataset Schema (11 columns)
|
| 202 |
```python
|
| 203 |
-
|
| 204 |
-
|
| 205 |
-
"alice": {"_type": "Value", "dtype": "string"},
|
| 206 |
-
"david": {"_type": "Value", "dtype": "float32"},
|
| 207 |
-
"emily": {"_type": "Value", "dtype": "string"},
|
| 208 |
-
"jacob": {"_type": "Value", "dtype": "string"},
|
| 209 |
-
"james": {"_type": "Value", "dtype": "float32"},
|
| 210 |
-
"john": {"_type": "Value", "dtype": "string"},
|
| 211 |
-
"mike": {"_type": "Value", "dtype": "int64"},
|
| 212 |
-
"lucas": {"_type": "Value", "dtype": "float32"},
|
| 213 |
-
"mary": {"_type": "Value", "dtype": "float32"},
|
| 214 |
-
"sarah": {"_type": "Value", "dtype": "float32"}
|
| 215 |
-
}
|
| 216 |
```
|
| 217 |
|
| 218 |
## Citation
|
|
|
|
| 98 |
from datasets import load_dataset
|
| 99 |
|
| 100 |
# Load the flat dataset
|
| 101 |
+
flat_dataset = load_dataset("mostlyai/mostlyaiprize", "flat", split="train")
|
| 102 |
|
| 103 |
# Load the sequential dataset
|
| 104 |
+
sequential_dataset = load_dataset("mostlyai/mostlyaiprize", "sequential", split="train")
|
|
|
|
|
|
|
|
|
|
|
|
|
| 105 |
```
|
| 106 |
|
| 107 |
## Dataset Schema
|
| 108 |
|
| 109 |
+
The schema of each dataset can be retrieved as follows from the `datasets.Dataset` object:
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 110 |
|
|
|
|
| 111 |
```python
|
| 112 |
+
print(flat_dataset.features)
|
| 113 |
+
print(sequential_dataset.features)
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 114 |
```
|
| 115 |
|
| 116 |
## Citation
|