Loading dataset from disk:   0%|                                                                                                                                                                                                                                                                  | 0/135 [00:00<?, ?it/s]
Loading dataset from disk: 100%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 135/135 [00:00<00:00, 26396.49it/s]

Loading checkpoint shards:   0%|                                                                                                                                                                                                                                                                    | 0/4 [00:00<?, ?it/s]
Loading checkpoint shards:  25%|███████████████████████████████████████████████████████████████                                                                                                                                                                                             | 1/4 [00:01<00:04,  1.36s/it]
Loading checkpoint shards:  50%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████                                                                                                                              | 2/4 [00:02<00:02,  1.46s/it]
Loading checkpoint shards:  75%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████                                                               | 3/4 [00:03<00:01,  1.28s/it]
Loading checkpoint shards: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 4/4 [00:04<00:00,  1.13it/s]
Loading checkpoint shards: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 4/4 [00:04<00:00,  1.06s/it]
Time to load cpu_adam op: 27.749587774276733 seconds