A6000-server-weights / multigen /run_006 /train_diffusion_pixart.log
surjo0's picture
Upload folder using huggingface_hub
aa881fd verified
Raw
History Blame Contribute Delete
30.5 kB
PixArt-alpha Stage 2 DiT: 2026-06-10 09:13:49
================================================================================
[09:13:49] PixArt-alpha Stage 2: DiT fine-tune with Stage 1 VAE
[09:13:49] Output dir : RESULTS/multigen/run_006
[09:13:49] VAE Stage 1 dir : ./weights/run_009/checkpoint-10000/autoencoderkl
[09:13:49] Data dir : ../data/multigen
[09:13:49] Loading T5 tokenizer + encoder ...
[09:13:59] Loading DDIMScheduler ...
[09:13:59] Scheduler: DDIMScheduler | T=1000
[09:13:59] Loading Transformer2DModel ...
[09:14:02] Transformer: 610,856,096 params
[09:14:03] Steps=30000 Epochs=1 Batch=4 GradAccum=1
Step 100 | Ep 0 | loss 0.161299 | avg 0.161299 | lr 1.00e-06 | 0:01:00 | ETA 5:02:46
Step 200 | Ep 0 | loss 0.152195 | avg 0.156747 | lr 2.00e-06 | 0:01:47 | ETA 4:26:33
Step 300 | Ep 0 | loss 0.009616 | avg 0.107704 | lr 3.00e-06 | 0:02:34 | ETA 4:14:11
Step 400 | Ep 0 | loss 0.127992 | avg 0.112776 | lr 4.00e-06 | 0:03:20 | ETA 4:07:41
Step 500 | Ep 0 | loss 0.205693 | avg 0.131359 | lr 5.00e-06 | 0:04:07 | ETA 4:03:30
Step 600 | Ep 0 | loss 0.127090 | avg 0.130648 | lr 6.00e-06 | 0:04:54 | ETA 4:00:22
Step 700 | Ep 0 | loss 0.077912 | avg 0.123114 | lr 7.00e-06 | 0:05:41 | ETA 3:57:54
Step 800 | Ep 0 | loss 0.035056 | avg 0.112107 | lr 8.00e-06 | 0:06:27 | ETA 3:55:52
Step 900 | Ep 0 | loss 0.054982 | avg 0.105759 | lr 9.00e-06 | 0:07:14 | ETA 3:54:06
Step 1000 | Ep 0 | loss 0.249170 | avg 0.120100 | lr 1.00e-05 | 0:08:01 | ETA 3:52:35
Step 1100 | Ep 0 | loss 0.142259 | avg 0.122115 | lr 1.00e-05 | 0:08:47 | ETA 3:51:11
Step 1200 | Ep 0 | loss 0.059400 | avg 0.116889 | lr 1.00e-05 | 0:09:34 | ETA 3:49:51
Step 1300 | Ep 0 | loss 0.467084 | avg 0.143827 | lr 1.00e-05 | 0:10:21 | ETA 3:48:47
Step 1400 | Ep 0 | loss 0.019764 | avg 0.134965 | lr 1.00e-05 | 0:11:08 | ETA 3:47:35
Step 1500 | Ep 0 | loss 0.126518 | avg 0.134402 | lr 9.99e-06 | 0:11:55 | ETA 3:46:26
Step 1600 | Ep 0 | loss 0.166875 | avg 0.136432 | lr 9.99e-06 | 0:12:41 | ETA 3:45:20
Step 1700 | Ep 0 | loss 0.127217 | avg 0.135889 | lr 9.99e-06 | 0:13:28 | ETA 3:44:15
Step 1800 | Ep 0 | loss 0.123573 | avg 0.135205 | lr 9.98e-06 | 0:14:14 | ETA 3:43:13
Step 1900 | Ep 0 | loss 0.095275 | avg 0.133104 | lr 9.98e-06 | 0:15:01 | ETA 3:42:11
Step 2000 | Ep 0 | loss 0.013776 | avg 0.127137 | lr 9.97e-06 | 0:15:47 | ETA 3:41:10
[09:29:38] Generating 4 validation images ...
[09:29:43] Saved -> RESULTS/multigen/run_006/validation/collage_step_0002000.png
Step 2100 | Ep 0 | loss 0.055099 | avg 0.123707 | lr 9.96e-06 | 0:16:40 | ETA 3:41:27
Step 2200 | Ep 0 | loss 0.202173 | avg 0.127273 | lr 9.96e-06 | 0:17:26 | ETA 3:40:23
Step 2300 | Ep 0 | loss 0.061550 | avg 0.124416 | lr 9.95e-06 | 0:18:12 | ETA 3:39:22
Step 2400 | Ep 0 | loss 0.104562 | avg 0.123589 | lr 9.94e-06 | 0:18:59 | ETA 3:38:22
Step 2500 | Ep 0 | loss 0.022645 | avg 0.119551 | lr 9.93e-06 | 0:19:45 | ETA 3:37:25
Step 2600 | Ep 0 | loss 0.143946 | avg 0.120489 | lr 9.93e-06 | 0:20:32 | ETA 3:36:27
Step 2700 | Ep 0 | loss 0.178588 | avg 0.122641 | lr 9.92e-06 | 0:21:18 | ETA 3:35:30
Step 2800 | Ep 0 | loss 0.009139 | avg 0.118587 | lr 9.91e-06 | 0:22:05 | ETA 3:34:34
Step 2900 | Ep 0 | loss 0.058707 | avg 0.116523 | lr 9.89e-06 | 0:22:51 | ETA 3:33:40
Step 3000 | Ep 0 | loss 0.277800 | avg 0.121899 | lr 9.88e-06 | 0:23:38 | ETA 3:32:45
Step 3100 | Ep 0 | loss 0.060064 | avg 0.119904 | lr 9.87e-06 | 0:24:24 | ETA 3:31:50
Step 3200 | Ep 0 | loss 0.108404 | avg 0.119544 | lr 9.86e-06 | 0:25:11 | ETA 3:30:56
Step 3300 | Ep 0 | loss 0.019402 | avg 0.116510 | lr 9.85e-06 | 0:25:57 | ETA 3:30:02
Step 3400 | Ep 0 | loss 0.197096 | avg 0.118880 | lr 9.83e-06 | 0:26:44 | ETA 3:29:10
Step 3500 | Ep 0 | loss 0.038240 | avg 0.116576 | lr 9.82e-06 | 0:27:30 | ETA 3:28:15
Step 3600 | Ep 0 | loss 0.216897 | avg 0.119363 | lr 9.80e-06 | 0:28:16 | ETA 3:27:24
Step 3700 | Ep 0 | loss 0.042844 | avg 0.117295 | lr 9.79e-06 | 0:29:03 | ETA 3:26:32
Step 3800 | Ep 0 | loss 0.180847 | avg 0.118967 | lr 9.77e-06 | 0:29:50 | ETA 3:25:42
Step 3900 | Ep 0 | loss 0.038785 | avg 0.116911 | lr 9.76e-06 | 0:30:36 | ETA 3:24:52
Step 4000 | Ep 0 | loss 0.062945 | avg 0.115562 | lr 9.74e-06 | 0:31:23 | ETA 3:24:02
[09:45:13] Generating 4 validation images ...
[09:45:18] Saved -> RESULTS/multigen/run_006/validation/collage_step_0004000.png
Step 4100 | Ep 0 | loss 0.136209 | avg 0.116066 | lr 9.72e-06 | 0:32:15 | ETA 3:23:45
Step 4200 | Ep 0 | loss 0.070628 | avg 0.114984 | lr 9.70e-06 | 0:33:01 | ETA 3:22:54
Step 4300 | Ep 0 | loss 0.142597 | avg 0.115626 | lr 9.68e-06 | 0:33:48 | ETA 3:22:03
Step 4400 | Ep 0 | loss 0.273570 | avg 0.119216 | lr 9.66e-06 | 0:34:35 | ETA 3:21:13
Step 4500 | Ep 0 | loss 0.370327 | avg 0.124796 | lr 9.64e-06 | 0:35:21 | ETA 3:20:22
Step 4600 | Ep 0 | loss 0.378719 | avg 0.130316 | lr 9.62e-06 | 0:36:08 | ETA 3:19:32
Step 4700 | Ep 0 | loss 0.268301 | avg 0.133252 | lr 9.60e-06 | 0:36:54 | ETA 3:18:42
Step 4800 | Ep 0 | loss 0.383303 | avg 0.138461 | lr 9.58e-06 | 0:37:41 | ETA 3:17:52
Step 4900 | Ep 0 | loss 0.028380 | avg 0.136215 | lr 9.56e-06 | 0:38:28 | ETA 3:17:03
Step 5000 | Ep 0 | loss 0.057260 | avg 0.134635 | lr 9.54e-06 | 0:39:14 | ETA 3:16:13
[09:53:07] Checkpoint -> RESULTS/multigen/run_006/checkpoint-5000
Step 5100 | Ep 0 | loss 0.438559 | avg 0.140595 | lr 9.51e-06 | 0:40:04 | ETA 3:15:38
Step 5200 | Ep 0 | loss 0.169973 | avg 0.141160 | lr 9.49e-06 | 0:40:50 | ETA 3:14:48
Step 5300 | Ep 0 | loss 0.130865 | avg 0.140966 | lr 9.47e-06 | 0:41:37 | ETA 3:13:58
Step 5400 | Ep 0 | loss 0.257676 | avg 0.143127 | lr 9.44e-06 | 0:42:23 | ETA 3:13:08
Step 5500 | Ep 0 | loss 0.228018 | avg 0.144670 | lr 9.42e-06 | 0:43:10 | ETA 3:12:19
Step 5600 | Ep 0 | loss 0.029623 | avg 0.142616 | lr 9.39e-06 | 0:43:57 | ETA 3:11:30
Step 5700 | Ep 0 | loss 0.001707 | avg 0.140144 | lr 9.37e-06 | 0:44:43 | ETA 3:10:41
Step 5800 | Ep 0 | loss 0.111656 | avg 0.139653 | lr 9.34e-06 | 0:45:30 | ETA 3:09:52
Step 5900 | Ep 0 | loss 0.060734 | avg 0.138315 | lr 9.31e-06 | 0:46:17 | ETA 3:09:04
Step 6000 | Ep 0 | loss 0.236245 | avg 0.139947 | lr 9.28e-06 | 0:47:03 | ETA 3:08:15
[10:00:54] Generating 4 validation images ...
[10:00:58] Saved -> RESULTS/multigen/run_006/validation/collage_step_0006000.png
Step 6100 | Ep 0 | loss 0.091760 | avg 0.139157 | lr 9.26e-06 | 0:47:56 | ETA 3:07:48
Step 6200 | Ep 0 | loss 0.130280 | avg 0.139014 | lr 9.23e-06 | 0:48:42 | ETA 3:06:59
Step 6300 | Ep 0 | loss 0.034667 | avg 0.137358 | lr 9.20e-06 | 0:49:29 | ETA 3:06:10
Step 6400 | Ep 0 | loss 0.001943 | avg 0.135242 | lr 9.17e-06 | 0:50:16 | ETA 3:05:21
Step 6500 | Ep 0 | loss 0.094822 | avg 0.134620 | lr 9.14e-06 | 0:51:02 | ETA 3:04:33
Step 6600 | Ep 0 | loss 0.252291 | avg 0.136403 | lr 9.11e-06 | 0:51:49 | ETA 3:03:44
Step 6700 | Ep 0 | loss 0.131251 | avg 0.136326 | lr 9.08e-06 | 0:52:36 | ETA 3:02:55
Step 6800 | Ep 0 | loss 0.163794 | avg 0.136730 | lr 9.05e-06 | 0:53:22 | ETA 3:02:06
Step 6900 | Ep 0 | loss 0.197946 | avg 0.137617 | lr 9.01e-06 | 0:54:09 | ETA 3:01:17
Step 7000 | Ep 0 | loss 0.069535 | avg 0.136645 | lr 8.98e-06 | 0:54:55 | ETA 3:00:28
Step 7100 | Ep 0 | loss 0.057693 | avg 0.135533 | lr 8.95e-06 | 0:55:42 | ETA 2:59:40
Step 7200 | Ep 0 | loss 0.319188 | avg 0.138083 | lr 8.91e-06 | 0:56:29 | ETA 2:58:51
Step 7300 | Ep 0 | loss 0.044946 | avg 0.136807 | lr 8.88e-06 | 0:57:15 | ETA 2:58:03
Step 7400 | Ep 0 | loss 0.182274 | avg 0.137422 | lr 8.85e-06 | 0:58:02 | ETA 2:57:15
Step 7500 | Ep 0 | loss 0.283653 | avg 0.139372 | lr 8.81e-06 | 0:58:49 | ETA 2:56:28
Step 7600 | Ep 0 | loss 0.113171 | avg 0.139027 | lr 8.78e-06 | 0:59:36 | ETA 2:55:40
Step 7700 | Ep 0 | loss 0.149876 | avg 0.139168 | lr 8.74e-06 | 1:00:23 | ETA 2:54:53
Step 7800 | Ep 0 | loss 0.238510 | avg 0.140441 | lr 8.70e-06 | 1:01:09 | ETA 2:54:05
Step 7900 | Ep 0 | loss 0.047200 | avg 0.139261 | lr 8.67e-06 | 1:01:56 | ETA 2:53:17
Step 8000 | Ep 0 | loss 0.178482 | avg 0.139751 | lr 8.63e-06 | 1:02:43 | ETA 2:52:29
[10:16:34] Generating 4 validation images ...
[10:16:38] Saved -> RESULTS/multigen/run_006/validation/collage_step_0008000.png
Step 8100 | Ep 0 | loss 0.007166 | avg 0.138115 | lr 8.59e-06 | 1:03:36 | ETA 2:51:57
Step 8200 | Ep 0 | loss 0.117599 | avg 0.137864 | lr 8.55e-06 | 1:04:22 | ETA 2:51:09
Step 8300 | Ep 0 | loss 0.246382 | avg 0.139172 | lr 8.52e-06 | 1:05:09 | ETA 2:50:21
Step 8400 | Ep 0 | loss 0.227644 | avg 0.140225 | lr 8.48e-06 | 1:05:56 | ETA 2:49:32
Step 8500 | Ep 0 | loss 0.037897 | avg 0.139021 | lr 8.44e-06 | 1:06:42 | ETA 2:48:44
Step 8600 | Ep 0 | loss 0.332812 | avg 0.141275 | lr 8.40e-06 | 1:07:29 | ETA 2:47:56
Step 8700 | Ep 0 | loss 0.108444 | avg 0.140897 | lr 8.36e-06 | 1:08:15 | ETA 2:47:08
Step 8800 | Ep 0 | loss 0.037067 | avg 0.139717 | lr 8.32e-06 | 1:09:02 | ETA 2:46:19
Step 8900 | Ep 0 | loss 0.017061 | avg 0.138339 | lr 8.28e-06 | 1:09:49 | ETA 2:45:31
Step 9000 | Ep 0 | loss 0.039136 | avg 0.137237 | lr 8.24e-06 | 1:10:35 | ETA 2:44:42
Step 9100 | Ep 0 | loss 0.086280 | avg 0.136677 | lr 8.20e-06 | 1:11:22 | ETA 2:43:54
Step 9200 | Ep 0 | loss 0.248518 | avg 0.137893 | lr 8.15e-06 | 1:12:08 | ETA 2:43:06
Step 9300 | Ep 0 | loss 0.220211 | avg 0.138778 | lr 8.11e-06 | 1:12:55 | ETA 2:42:18
Step 9400 | Ep 0 | loss 0.143558 | avg 0.138829 | lr 8.07e-06 | 1:13:42 | ETA 2:41:30
Step 9500 | Ep 0 | loss 0.040396 | avg 0.137792 | lr 8.03e-06 | 1:14:28 | ETA 2:40:42
Step 9600 | Ep 0 | loss 0.135565 | avg 0.137769 | lr 7.98e-06 | 1:15:15 | ETA 2:39:55
Step 9700 | Ep 0 | loss 0.086473 | avg 0.137240 | lr 7.94e-06 | 1:16:01 | ETA 2:39:07
Step 9800 | Ep 0 | loss 0.187395 | avg 0.137752 | lr 7.89e-06 | 1:16:48 | ETA 2:38:19
Step 9900 | Ep 0 | loss 0.026127 | avg 0.136625 | lr 7.85e-06 | 1:17:34 | ETA 2:37:30
Step 10000 | Ep 0 | loss 0.185708 | avg 0.137116 | lr 7.81e-06 | 1:18:21 | ETA 2:36:42
[10:32:13] Checkpoint -> RESULTS/multigen/run_006/checkpoint-10000
[10:32:14] Generating 4 validation images ...
[10:32:19] Saved -> RESULTS/multigen/run_006/validation/collage_step_0010000.png
Step 10100 | Ep 0 | loss 0.190613 | avg 0.137409 | lr 7.76e-06 | 1:19:15 | ETA 2:36:10
Step 10200 | Ep 0 | loss 0.302166 | avg 0.138908 | lr 7.72e-06 | 1:20:02 | ETA 2:35:21
Step 10300 | Ep 0 | loss 0.175611 | avg 0.140568 | lr 7.67e-06 | 1:20:48 | ETA 2:34:33
Step 10400 | Ep 0 | loss 0.150910 | avg 0.140798 | lr 7.62e-06 | 1:21:35 | ETA 2:33:45
Step 10500 | Ep 0 | loss 0.017795 | avg 0.138919 | lr 7.58e-06 | 1:22:21 | ETA 2:32:56
Step 10600 | Ep 0 | loss 0.088196 | avg 0.138530 | lr 7.53e-06 | 1:23:07 | ETA 2:32:08
Step 10700 | Ep 0 | loss 0.041954 | avg 0.138170 | lr 7.48e-06 | 1:23:54 | ETA 2:31:20
Step 10800 | Ep 0 | loss 0.023329 | avg 0.138053 | lr 7.44e-06 | 1:24:40 | ETA 2:30:32
Step 10900 | Ep 0 | loss 0.028556 | avg 0.137788 | lr 7.39e-06 | 1:25:26 | ETA 2:29:43
Step 11000 | Ep 0 | loss 0.052595 | avg 0.135823 | lr 7.34e-06 | 1:26:13 | ETA 2:28:55
Step 11100 | Ep 0 | loss 0.231704 | avg 0.136717 | lr 7.29e-06 | 1:26:59 | ETA 2:28:07
Step 11200 | Ep 0 | loss 0.151344 | avg 0.137637 | lr 7.25e-06 | 1:27:46 | ETA 2:27:19
Step 11300 | Ep 0 | loss 0.137553 | avg 0.134341 | lr 7.20e-06 | 1:28:32 | ETA 2:26:31
Step 11400 | Ep 0 | loss 0.018634 | avg 0.134330 | lr 7.15e-06 | 1:29:18 | ETA 2:25:43
Step 11500 | Ep 0 | loss 0.033093 | avg 0.133396 | lr 7.10e-06 | 1:30:05 | ETA 2:24:55
Step 11600 | Ep 0 | loss 0.025200 | avg 0.131979 | lr 7.05e-06 | 1:30:51 | ETA 2:24:07
Step 11700 | Ep 0 | loss 0.159036 | avg 0.132297 | lr 7.00e-06 | 1:31:37 | ETA 2:23:19
Step 11800 | Ep 0 | loss 0.028179 | avg 0.131343 | lr 6.95e-06 | 1:32:24 | ETA 2:22:31
Step 11900 | Ep 0 | loss 0.277042 | avg 0.133161 | lr 6.90e-06 | 1:33:10 | ETA 2:21:43
Step 12000 | Ep 0 | loss 0.418051 | avg 0.137204 | lr 6.85e-06 | 1:33:56 | ETA 2:20:55
[10:47:47] Generating 4 validation images ...
[10:47:51] Saved -> RESULTS/multigen/run_006/validation/collage_step_0012000.png
Step 12100 | Ep 0 | loss 0.103983 | avg 0.137693 | lr 6.80e-06 | 1:34:48 | ETA 2:20:15
Step 12200 | Ep 0 | loss 0.123511 | avg 0.136906 | lr 6.75e-06 | 1:35:34 | ETA 2:19:27
Step 12300 | Ep 0 | loss 0.133639 | avg 0.137627 | lr 6.70e-06 | 1:36:21 | ETA 2:18:39
Step 12400 | Ep 0 | loss 0.324854 | avg 0.139830 | lr 6.65e-06 | 1:37:07 | ETA 2:17:51
Step 12500 | Ep 0 | loss 0.098680 | avg 0.140590 | lr 6.60e-06 | 1:37:53 | ETA 2:17:03
Step 12600 | Ep 0 | loss 0.010799 | avg 0.139259 | lr 6.55e-06 | 1:38:40 | ETA 2:16:15
Step 12700 | Ep 0 | loss 0.147061 | avg 0.138943 | lr 6.49e-06 | 1:39:26 | ETA 2:15:27
Step 12800 | Ep 0 | loss 0.037397 | avg 0.139226 | lr 6.44e-06 | 1:40:12 | ETA 2:14:39
Step 12900 | Ep 0 | loss 0.013263 | avg 0.138771 | lr 6.39e-06 | 1:40:59 | ETA 2:13:52
Step 13000 | Ep 0 | loss 0.002782 | avg 0.136021 | lr 6.34e-06 | 1:41:45 | ETA 2:13:04
Step 13100 | Ep 0 | loss 0.086459 | avg 0.136285 | lr 6.29e-06 | 1:42:32 | ETA 2:12:16
Step 13200 | Ep 0 | loss 0.081884 | avg 0.136020 | lr 6.23e-06 | 1:43:18 | ETA 2:11:28
Step 13300 | Ep 0 | loss 0.081271 | avg 0.136639 | lr 6.18e-06 | 1:44:04 | ETA 2:10:41
Step 13400 | Ep 0 | loss 0.212109 | avg 0.136789 | lr 6.13e-06 | 1:44:51 | ETA 2:09:53
Step 13500 | Ep 0 | loss 0.078426 | avg 0.137191 | lr 6.07e-06 | 1:45:37 | ETA 2:09:06
Step 13600 | Ep 0 | loss 0.219932 | avg 0.137221 | lr 6.02e-06 | 1:46:24 | ETA 2:08:18
Step 13700 | Ep 0 | loss 0.077363 | avg 0.137566 | lr 5.97e-06 | 1:47:10 | ETA 2:07:30
Step 13800 | Ep 0 | loss 0.130525 | avg 0.137063 | lr 5.92e-06 | 1:47:56 | ETA 2:06:43
Step 13900 | Ep 0 | loss 0.133244 | avg 0.138008 | lr 5.86e-06 | 1:48:43 | ETA 2:05:55
Step 14000 | Ep 0 | loss 0.265885 | avg 0.140037 | lr 5.81e-06 | 1:49:29 | ETA 2:05:08
[11:03:19] Generating 4 validation images ...
[11:03:24] Saved -> RESULTS/multigen/run_006/validation/collage_step_0014000.png
Step 14100 | Ep 0 | loss 0.076180 | avg 0.139437 | lr 5.76e-06 | 1:50:21 | ETA 2:04:26
Step 14200 | Ep 0 | loss 0.295190 | avg 0.141682 | lr 5.70e-06 | 1:51:07 | ETA 2:03:38
Step 14300 | Ep 0 | loss 0.133522 | avg 0.141592 | lr 5.65e-06 | 1:51:53 | ETA 2:02:51
Step 14400 | Ep 0 | loss 0.177195 | avg 0.140628 | lr 5.59e-06 | 1:52:40 | ETA 2:02:03
Step 14500 | Ep 0 | loss 0.121435 | avg 0.138139 | lr 5.54e-06 | 1:53:26 | ETA 2:01:16
Step 14600 | Ep 0 | loss 0.221682 | avg 0.136569 | lr 5.49e-06 | 1:54:13 | ETA 2:00:28
Step 14700 | Ep 0 | loss 0.413453 | avg 0.138020 | lr 5.43e-06 | 1:54:59 | ETA 1:59:41
Step 14800 | Ep 0 | loss 0.099170 | avg 0.135179 | lr 5.38e-06 | 1:55:45 | ETA 1:58:53
Step 14900 | Ep 0 | loss 0.258811 | avg 0.137483 | lr 5.32e-06 | 1:56:32 | ETA 1:58:06
Step 15000 | Ep 0 | loss 0.103144 | avg 0.137942 | lr 5.27e-06 | 1:57:18 | ETA 1:57:18
[11:11:11] Checkpoint -> RESULTS/multigen/run_006/checkpoint-15000
Step 15100 | Ep 0 | loss 0.035604 | avg 0.133912 | lr 5.22e-06 | 1:58:07 | ETA 1:56:33
Step 15200 | Ep 0 | loss 0.110083 | avg 0.133313 | lr 5.16e-06 | 1:58:54 | ETA 1:55:46
Step 15300 | Ep 0 | loss 0.136757 | avg 0.133372 | lr 5.11e-06 | 1:59:40 | ETA 1:54:58
Step 15400 | Ep 0 | loss 0.058273 | avg 0.131378 | lr 5.05e-06 | 2:00:26 | ETA 1:54:11
Step 15500 | Ep 0 | loss 0.038798 | avg 0.129486 | lr 5.00e-06 | 2:01:13 | ETA 1:53:23
Step 15600 | Ep 0 | loss 0.114540 | avg 0.130335 | lr 4.95e-06 | 2:01:59 | ETA 1:52:36
Step 15700 | Ep 0 | loss 0.214346 | avg 0.132462 | lr 4.89e-06 | 2:02:45 | ETA 1:51:49
Step 15800 | Ep 0 | loss 0.165443 | avg 0.133000 | lr 4.84e-06 | 2:03:32 | ETA 1:51:01
Step 15900 | Ep 0 | loss 0.119950 | avg 0.133592 | lr 4.78e-06 | 2:04:18 | ETA 1:50:14
Step 16000 | Ep 0 | loss 0.084499 | avg 0.132074 | lr 4.73e-06 | 2:05:05 | ETA 1:49:27
[11:18:55] Generating 4 validation images ...
[11:19:00] Saved -> RESULTS/multigen/run_006/validation/collage_step_0016000.png
Step 16100 | Ep 0 | loss 0.113460 | avg 0.132291 | lr 4.68e-06 | 2:05:57 | ETA 1:48:44
Step 16200 | Ep 0 | loss 0.206095 | avg 0.133049 | lr 4.62e-06 | 2:06:43 | ETA 1:47:57
Step 16300 | Ep 0 | loss 0.154584 | avg 0.134249 | lr 4.57e-06 | 2:07:30 | ETA 1:47:09
Step 16400 | Ep 0 | loss 0.012423 | avg 0.134353 | lr 4.51e-06 | 2:08:16 | ETA 1:46:22
Step 16500 | Ep 0 | loss 0.129360 | avg 0.134699 | lr 4.46e-06 | 2:09:02 | ETA 1:45:35
Step 16600 | Ep 0 | loss 0.276748 | avg 0.134943 | lr 4.41e-06 | 2:09:49 | ETA 1:44:47
Step 16700 | Ep 0 | loss 0.022802 | avg 0.133859 | lr 4.35e-06 | 2:10:35 | ETA 1:44:00
Step 16800 | Ep 0 | loss 0.004924 | avg 0.132270 | lr 4.30e-06 | 2:11:21 | ETA 1:43:12
Step 16900 | Ep 0 | loss 0.161867 | avg 0.131909 | lr 4.24e-06 | 2:12:08 | ETA 1:42:25
Step 17000 | Ep 0 | loss 0.177015 | avg 0.132984 | lr 4.19e-06 | 2:12:54 | ETA 1:41:38
Step 17100 | Ep 0 | loss 0.033320 | avg 0.132740 | lr 4.14e-06 | 2:13:40 | ETA 1:40:50
Step 17200 | Ep 0 | loss 0.097391 | avg 0.130522 | lr 4.08e-06 | 2:14:27 | ETA 1:40:03
Step 17300 | Ep 0 | loss 0.455197 | avg 0.134625 | lr 4.03e-06 | 2:15:13 | ETA 1:39:15
Step 17400 | Ep 0 | loss 0.415325 | avg 0.136955 | lr 3.98e-06 | 2:15:59 | ETA 1:38:28
Step 17500 | Ep 0 | loss 0.024522 | avg 0.134364 | lr 3.93e-06 | 2:16:45 | ETA 1:37:41
Step 17600 | Ep 0 | loss 0.051657 | avg 0.133749 | lr 3.87e-06 | 2:17:31 | ETA 1:36:53
Step 17700 | Ep 0 | loss 0.068061 | avg 0.132931 | lr 3.82e-06 | 2:18:18 | ETA 1:36:06
Step 17800 | Ep 0 | loss 0.190417 | avg 0.132450 | lr 3.77e-06 | 2:19:04 | ETA 1:35:19
Step 17900 | Ep 0 | loss 0.015213 | avg 0.132130 | lr 3.71e-06 | 2:19:50 | ETA 1:34:31
Step 18000 | Ep 0 | loss 0.000907 | avg 0.130354 | lr 3.66e-06 | 2:20:36 | ETA 1:33:44
[11:34:27] Generating 4 validation images ...
[11:34:31] Saved -> RESULTS/multigen/run_006/validation/collage_step_0018000.png
Step 18100 | Ep 0 | loss 0.081986 | avg 0.131102 | lr 3.61e-06 | 2:21:28 | ETA 1:33:00
Step 18200 | Ep 0 | loss 0.009833 | avg 0.130025 | lr 3.56e-06 | 2:22:14 | ETA 1:32:13
Step 18300 | Ep 0 | loss 0.354575 | avg 0.131107 | lr 3.51e-06 | 2:23:01 | ETA 1:31:26
Step 18400 | Ep 0 | loss 0.208721 | avg 0.130918 | lr 3.45e-06 | 2:23:47 | ETA 1:30:38
Step 18500 | Ep 0 | loss 0.058164 | avg 0.131120 | lr 3.40e-06 | 2:24:33 | ETA 1:29:51
Step 18600 | Ep 0 | loss 0.125450 | avg 0.129047 | lr 3.35e-06 | 2:25:19 | ETA 1:29:04
Step 18700 | Ep 0 | loss 0.200049 | avg 0.129963 | lr 3.30e-06 | 2:26:06 | ETA 1:28:17
Step 18800 | Ep 0 | loss 0.098491 | avg 0.130577 | lr 3.25e-06 | 2:26:52 | ETA 1:27:30
Step 18900 | Ep 0 | loss 0.099955 | avg 0.131406 | lr 3.20e-06 | 2:27:38 | ETA 1:26:42
Step 19000 | Ep 0 | loss 0.199527 | avg 0.133010 | lr 3.15e-06 | 2:28:25 | ETA 1:25:55
Step 19100 | Ep 0 | loss 0.132676 | avg 0.133474 | lr 3.10e-06 | 2:29:11 | ETA 1:25:08
Step 19200 | Ep 0 | loss 0.069193 | avg 0.131680 | lr 3.05e-06 | 2:29:57 | ETA 1:24:21
Step 19300 | Ep 0 | loss 0.002306 | avg 0.129501 | lr 3.00e-06 | 2:30:44 | ETA 1:23:34
Step 19400 | Ep 0 | loss 0.046032 | avg 0.128526 | lr 2.95e-06 | 2:31:30 | ETA 1:22:46
Step 19500 | Ep 0 | loss 0.078934 | avg 0.128912 | lr 2.90e-06 | 2:32:16 | ETA 1:21:59
Step 19600 | Ep 0 | loss 0.172958 | avg 0.129285 | lr 2.85e-06 | 2:33:03 | ETA 1:21:12
Step 19700 | Ep 0 | loss 0.079315 | avg 0.129214 | lr 2.80e-06 | 2:33:49 | ETA 1:20:25
Step 19800 | Ep 0 | loss 0.262121 | avg 0.129961 | lr 2.75e-06 | 2:34:35 | ETA 1:19:38
Step 19900 | Ep 0 | loss 0.124002 | avg 0.130940 | lr 2.71e-06 | 2:35:21 | ETA 1:18:51
Step 20000 | Ep 0 | loss 0.061975 | avg 0.129703 | lr 2.66e-06 | 2:36:08 | ETA 1:18:04
[11:50:00] Checkpoint -> RESULTS/multigen/run_006/checkpoint-20000
[11:50:01] Generating 4 validation images ...
[11:50:06] Saved -> RESULTS/multigen/run_006/validation/collage_step_0020000.png
Step 20100 | Ep 0 | loss 0.065627 | avg 0.128453 | lr 2.61e-06 | 2:37:02 | ETA 1:17:21
Step 20200 | Ep 0 | loss 0.042888 | avg 0.125860 | lr 2.56e-06 | 2:37:49 | ETA 1:16:33
Step 20300 | Ep 0 | loss 0.056837 | avg 0.124672 | lr 2.52e-06 | 2:38:35 | ETA 1:15:46
Step 20400 | Ep 0 | loss 0.147996 | avg 0.124643 | lr 2.47e-06 | 2:39:21 | ETA 1:14:59
Step 20500 | Ep 0 | loss 0.033783 | avg 0.124803 | lr 2.42e-06 | 2:40:08 | ETA 1:14:12
Step 20600 | Ep 0 | loss 0.145596 | avg 0.125377 | lr 2.38e-06 | 2:40:54 | ETA 1:13:25
Step 20700 | Ep 0 | loss 0.142438 | avg 0.126382 | lr 2.33e-06 | 2:41:40 | ETA 1:12:38
Step 20800 | Ep 0 | loss 0.091005 | avg 0.127058 | lr 2.28e-06 | 2:42:27 | ETA 1:11:51
Step 20900 | Ep 0 | loss 0.016270 | avg 0.126936 | lr 2.24e-06 | 2:43:13 | ETA 1:11:04
Step 21000 | Ep 0 | loss 0.067277 | avg 0.127082 | lr 2.19e-06 | 2:44:00 | ETA 1:10:17
Step 21100 | Ep 0 | loss 0.113733 | avg 0.125903 | lr 2.15e-06 | 2:44:46 | ETA 1:09:30
Step 21200 | Ep 0 | loss 0.021203 | avg 0.124601 | lr 2.11e-06 | 2:45:32 | ETA 1:08:43
Step 21300 | Ep 0 | loss 0.044034 | avg 0.123666 | lr 2.06e-06 | 2:46:19 | ETA 1:07:55
Step 21400 | Ep 0 | loss 0.140650 | avg 0.124886 | lr 2.02e-06 | 2:47:05 | ETA 1:07:08
Step 21500 | Ep 0 | loss 0.157614 | avg 0.126132 | lr 1.97e-06 | 2:47:51 | ETA 1:06:21
Step 21600 | Ep 0 | loss 0.126754 | avg 0.127147 | lr 1.93e-06 | 2:48:38 | ETA 1:05:34
Step 21700 | Ep 0 | loss 0.085180 | avg 0.126408 | lr 1.89e-06 | 2:49:24 | ETA 1:04:47
Step 21800 | Ep 0 | loss 0.040077 | avg 0.126527 | lr 1.85e-06 | 2:50:10 | ETA 1:04:00
Step 21900 | Ep 0 | loss 0.098537 | avg 0.124742 | lr 1.80e-06 | 2:50:57 | ETA 1:03:13
Step 22000 | Ep 0 | loss 0.069742 | avg 0.121259 | lr 1.76e-06 | 2:51:43 | ETA 1:02:26
[12:05:33] Generating 4 validation images ...
[12:05:38] Saved -> RESULTS/multigen/run_006/validation/collage_step_0022000.png
Step 22100 | Ep 0 | loss 0.230880 | avg 0.122528 | lr 1.72e-06 | 2:52:35 | ETA 1:01:41
Step 22200 | Ep 0 | loss 0.054117 | avg 0.121834 | lr 1.68e-06 | 2:53:21 | ETA 1:00:54
Step 22300 | Ep 0 | loss 0.074105 | avg 0.121239 | lr 1.64e-06 | 2:54:07 | ETA 1:00:07
Step 22400 | Ep 0 | loss 0.012853 | avg 0.118119 | lr 1.60e-06 | 2:54:54 | ETA 0:59:20
Step 22500 | Ep 0 | loss 0.225179 | avg 0.119384 | lr 1.56e-06 | 2:55:40 | ETA 0:58:33
Step 22600 | Ep 0 | loss 0.037269 | avg 0.119649 | lr 1.52e-06 | 2:56:26 | ETA 0:57:46
Step 22700 | Ep 0 | loss 0.220450 | avg 0.120383 | lr 1.48e-06 | 2:57:13 | ETA 0:56:59
Step 22800 | Ep 0 | loss 0.214207 | avg 0.122151 | lr 1.45e-06 | 2:57:59 | ETA 0:56:12
Step 22900 | Ep 0 | loss 0.024881 | avg 0.122267 | lr 1.41e-06 | 2:58:45 | ETA 0:55:25
Step 23000 | Ep 0 | loss 0.261764 | avg 0.124857 | lr 1.37e-06 | 2:59:32 | ETA 0:54:38
Step 23100 | Ep 0 | loss 0.185295 | avg 0.125845 | lr 1.33e-06 | 3:00:18 | ETA 0:53:51
Step 23200 | Ep 0 | loss 0.058743 | avg 0.125614 | lr 1.30e-06 | 3:01:04 | ETA 0:53:04
Step 23300 | Ep 0 | loss 0.062574 | avg 0.125427 | lr 1.26e-06 | 3:01:51 | ETA 0:52:17
Step 23400 | Ep 0 | loss 0.208437 | avg 0.125390 | lr 1.22e-06 | 3:02:37 | ETA 0:51:30
Step 23500 | Ep 0 | loss 0.127018 | avg 0.125876 | lr 1.19e-06 | 3:03:23 | ETA 0:50:43
Step 23600 | Ep 0 | loss 0.090379 | avg 0.124580 | lr 1.15e-06 | 3:04:10 | ETA 0:49:56
Step 23700 | Ep 0 | loss 0.054542 | avg 0.124352 | lr 1.12e-06 | 3:04:56 | ETA 0:49:09
Step 23800 | Ep 0 | loss 0.162776 | avg 0.124675 | lr 1.09e-06 | 3:05:42 | ETA 0:48:22
Step 23900 | Ep 0 | loss 0.071989 | avg 0.124062 | lr 1.05e-06 | 3:06:29 | ETA 0:47:35
Step 24000 | Ep 0 | loss 0.215485 | avg 0.123558 | lr 1.02e-06 | 3:07:15 | ETA 0:46:48
[12:21:05] Generating 4 validation images ...
[12:21:10] Saved -> RESULTS/multigen/run_006/validation/collage_step_0024000.png
Step 24100 | Ep 0 | loss 0.376614 | avg 0.126562 | lr 9.87e-07 | 3:08:07 | ETA 0:46:03
Step 24200 | Ep 0 | loss 0.107055 | avg 0.124681 | lr 9.55e-07 | 3:08:53 | ETA 0:45:16
Step 24300 | Ep 0 | loss 0.079793 | avg 0.124144 | lr 9.23e-07 | 3:09:39 | ETA 0:44:29
Step 24400 | Ep 0 | loss 0.215492 | avg 0.124527 | lr 8.92e-07 | 3:10:26 | ETA 0:43:42
Step 24500 | Ep 0 | loss 0.308478 | avg 0.126397 | lr 8.62e-07 | 3:11:12 | ETA 0:42:55
Step 24600 | Ep 0 | loss 0.311690 | avg 0.127297 | lr 8.31e-07 | 3:11:58 | ETA 0:42:08
Step 24700 | Ep 0 | loss 0.025179 | avg 0.123415 | lr 8.02e-07 | 3:12:45 | ETA 0:41:21
Step 24800 | Ep 0 | loss 0.104098 | avg 0.123464 | lr 7.73e-07 | 3:13:31 | ETA 0:40:34
Step 24900 | Ep 0 | loss 0.046369 | avg 0.121339 | lr 7.44e-07 | 3:14:17 | ETA 0:39:47
Step 25000 | Ep 0 | loss 0.067954 | avg 0.120987 | lr 7.16e-07 | 3:15:04 | ETA 0:39:00
[12:28:56] Checkpoint -> RESULTS/multigen/run_006/checkpoint-25000
Step 25100 | Ep 0 | loss 0.271383 | avg 0.123345 | lr 6.88e-07 | 3:15:53 | ETA 0:38:14
Step 25200 | Ep 0 | loss 0.061647 | avg 0.122861 | lr 6.61e-07 | 3:16:39 | ETA 0:37:27
Step 25300 | Ep 0 | loss 0.062947 | avg 0.122123 | lr 6.34e-07 | 3:17:26 | ETA 0:36:40
Step 25400 | Ep 0 | loss 0.182991 | avg 0.123370 | lr 6.08e-07 | 3:18:12 | ETA 0:35:53
Step 25500 | Ep 0 | loss 0.065291 | avg 0.123635 | lr 5.82e-07 | 3:18:58 | ETA 0:35:06
Step 25600 | Ep 0 | loss 0.027765 | avg 0.122767 | lr 5.57e-07 | 3:19:44 | ETA 0:34:19
Step 25700 | Ep 0 | loss 0.067155 | avg 0.121295 | lr 5.33e-07 | 3:20:31 | ETA 0:33:33
Step 25800 | Ep 0 | loss 0.102308 | avg 0.120664 | lr 5.09e-07 | 3:21:17 | ETA 0:32:46
Step 25900 | Ep 0 | loss 0.353002 | avg 0.122994 | lr 4.85e-07 | 3:22:03 | ETA 0:31:59
Step 26000 | Ep 0 | loss 0.008671 | avg 0.122236 | lr 4.62e-07 | 3:22:50 | ETA 0:31:12
[12:36:40] Generating 4 validation images ...
[12:36:45] Saved -> RESULTS/multigen/run_006/validation/collage_step_0026000.png
Step 26100 | Ep 0 | loss 0.036464 | avg 0.121466 | lr 4.40e-07 | 3:23:41 | ETA 0:30:26
Step 26200 | Ep 0 | loss 0.201810 | avg 0.121423 | lr 4.18e-07 | 3:24:27 | ETA 0:29:39
Step 26300 | Ep 0 | loss 0.131322 | avg 0.121191 | lr 3.96e-07 | 3:25:14 | ETA 0:28:52
Step 26400 | Ep 0 | loss 0.296172 | avg 0.124028 | lr 3.75e-07 | 3:26:00 | ETA 0:28:05
Step 26500 | Ep 0 | loss 0.008766 | avg 0.122822 | lr 3.55e-07 | 3:26:46 | ETA 0:27:18
Step 26600 | Ep 0 | loss 0.105364 | avg 0.121108 | lr 3.35e-07 | 3:27:33 | ETA 0:26:31
Step 26700 | Ep 0 | loss 0.095347 | avg 0.121834 | lr 3.16e-07 | 3:28:19 | ETA 0:25:44
Step 26800 | Ep 0 | loss 0.014502 | avg 0.121930 | lr 2.97e-07 | 3:29:05 | ETA 0:24:58
Step 26900 | Ep 0 | loss 0.064374 | avg 0.120955 | lr 2.79e-07 | 3:29:52 | ETA 0:24:11
Step 27000 | Ep 0 | loss 0.161790 | avg 0.120802 | lr 2.62e-07 | 3:30:38 | ETA 0:23:24
Step 27100 | Ep 0 | loss 0.237259 | avg 0.122842 | lr 2.45e-07 | 3:31:24 | ETA 0:22:37
Step 27200 | Ep 0 | loss 0.009584 | avg 0.121964 | lr 2.28e-07 | 3:32:10 | ETA 0:21:50
Step 27300 | Ep 0 | loss 0.235437 | avg 0.119766 | lr 2.12e-07 | 3:32:57 | ETA 0:21:03
Step 27400 | Ep 0 | loss 0.106742 | avg 0.116680 | lr 1.97e-07 | 3:33:43 | ETA 0:20:16
Step 27500 | Ep 0 | loss 0.003430 | avg 0.116469 | lr 1.82e-07 | 3:34:29 | ETA 0:19:29
Step 27600 | Ep 0 | loss 0.033721 | avg 0.116290 | lr 1.68e-07 | 3:35:16 | ETA 0:18:43
Step 27700 | Ep 0 | loss 0.237922 | avg 0.117989 | lr 1.54e-07 | 3:36:02 | ETA 0:17:56
Step 27800 | Ep 0 | loss 0.041139 | avg 0.116496 | lr 1.41e-07 | 3:36:48 | ETA 0:17:09
Step 27900 | Ep 0 | loss 0.019396 | avg 0.116538 | lr 1.29e-07 | 3:37:35 | ETA 0:16:22
Step 28000 | Ep 0 | loss 0.013707 | avg 0.116666 | lr 1.17e-07 | 3:38:21 | ETA 0:15:35
[12:52:11] Generating 4 validation images ...
[12:52:16] Saved -> RESULTS/multigen/run_006/validation/collage_step_0028000.png
Step 28100 | Ep 0 | loss 0.056515 | avg 0.116411 | lr 1.06e-07 | 3:39:13 | ETA 0:14:49
Step 28200 | Ep 0 | loss 0.192560 | avg 0.118238 | lr 9.48e-08 | 3:39:59 | ETA 0:14:02
Step 28300 | Ep 0 | loss 0.074194 | avg 0.115434 | lr 8.46e-08 | 3:40:45 | ETA 0:13:15
Step 28400 | Ep 0 | loss 0.135216 | avg 0.114699 | lr 7.49e-08 | 3:41:32 | ETA 0:12:28
Step 28500 | Ep 0 | loss 0.028823 | avg 0.114406 | lr 6.59e-08 | 3:42:18 | ETA 0:11:42
Step 28600 | Ep 0 | loss 0.024541 | avg 0.113397 | lr 5.74e-08 | 3:43:04 | ETA 0:10:55
Step 28700 | Ep 0 | loss 0.445598 | avg 0.115852 | lr 4.95e-08 | 3:43:51 | ETA 0:10:08
Step 28800 | Ep 0 | loss 0.161613 | avg 0.116484 | lr 4.22e-08 | 3:44:37 | ETA 0:09:21
Step 28900 | Ep 0 | loss 0.018754 | avg 0.115672 | lr 3.55e-08 | 3:45:24 | ETA 0:08:34
Step 29000 | Ep 0 | loss 0.293384 | avg 0.116610 | lr 2.93e-08 | 3:46:10 | ETA 0:07:47
Step 29100 | Ep 0 | loss 0.089344 | avg 0.116177 | lr 2.37e-08 | 3:46:57 | ETA 0:07:01
Step 29200 | Ep 0 | loss 0.099512 | avg 0.116480 | lr 1.88e-08 | 3:47:43 | ETA 0:06:14
Step 29300 | Ep 0 | loss 0.116387 | avg 0.117621 | lr 1.44e-08 | 3:48:29 | ETA 0:05:27
Step 29400 | Ep 0 | loss 0.009751 | avg 0.117258 | lr 1.06e-08 | 3:49:16 | ETA 0:04:40
Step 29500 | Ep 0 | loss 0.103243 | avg 0.117501 | lr 7.33e-09 | 3:50:02 | ETA 0:03:53
Step 29600 | Ep 0 | loss 0.000777 | avg 0.115779 | lr 4.69e-09 | 3:50:49 | ETA 0:03:07
Step 29700 | Ep 0 | loss 0.034738 | avg 0.115334 | lr 2.64e-09 | 3:51:35 | ETA 0:02:20
Step 29800 | Ep 0 | loss 0.118387 | avg 0.113896 | lr 1.17e-09 | 3:52:21 | ETA 0:01:33
Step 29900 | Ep 0 | loss 0.120295 | avg 0.113859 | lr 2.93e-10 | 3:53:08 | ETA 0:00:46
Step 30000 | Ep 0 | loss 0.193836 | avg 0.115178 | lr 0.00e+00 | 3:53:54 | ETA 0:00:00
[13:07:46] Checkpoint -> RESULTS/multigen/run_006/checkpoint-30000
[13:07:46] Generating 4 validation images ...
[13:07:51] Saved -> RESULTS/multigen/run_006/validation/collage_step_0030000.png
[13:08:08] Final pipeline saved -> RESULTS/multigen/run_006
[13:08:08] SUMMARY: {'total_steps': 300, 'final_loss': 0.1938360184431076, 'avg_last_100': 0.11517775498738046, 'min_loss': 0.000776617496740073, 'total_time': '3:54:18'}