LushoAp's picture
End of training
3f55f6f verified
{
"best_metric": 0.9,
"best_model_checkpoint": "videomae-base-finetuned-ucf101-subset/checkpoint-300",
"epoch": 3.25,
"eval_steps": 500,
"global_step": 300,
"is_hyper_param_search": false,
"is_local_process_zero": true,
"is_world_process_zero": true,
"log_history": [
{
"epoch": 0.03333333333333333,
"grad_norm": 20.201610565185547,
"learning_rate": 1.6666666666666667e-05,
"loss": 2.444,
"step": 10
},
{
"epoch": 0.06666666666666667,
"grad_norm": 12.654314994812012,
"learning_rate": 3.3333333333333335e-05,
"loss": 2.3019,
"step": 20
},
{
"epoch": 0.1,
"grad_norm": 12.947044372558594,
"learning_rate": 5e-05,
"loss": 2.2352,
"step": 30
},
{
"epoch": 0.13333333333333333,
"grad_norm": 11.306678771972656,
"learning_rate": 4.814814814814815e-05,
"loss": 2.1503,
"step": 40
},
{
"epoch": 0.16666666666666666,
"grad_norm": 11.73679256439209,
"learning_rate": 4.62962962962963e-05,
"loss": 2.0142,
"step": 50
},
{
"epoch": 0.2,
"grad_norm": 17.422954559326172,
"learning_rate": 4.4444444444444447e-05,
"loss": 1.9569,
"step": 60
},
{
"epoch": 0.23333333333333334,
"grad_norm": 12.51447868347168,
"learning_rate": 4.259259259259259e-05,
"loss": 1.6397,
"step": 70
},
{
"epoch": 0.25,
"eval_accuracy": 0.4,
"eval_loss": 1.5641058683395386,
"eval_runtime": 19.6018,
"eval_samples_per_second": 3.571,
"eval_steps_per_second": 0.918,
"step": 75
},
{
"epoch": 1.0166666666666666,
"grad_norm": 13.403763771057129,
"learning_rate": 4.074074074074074e-05,
"loss": 1.3891,
"step": 80
},
{
"epoch": 1.05,
"grad_norm": 11.36450481414795,
"learning_rate": 3.888888888888889e-05,
"loss": 0.9598,
"step": 90
},
{
"epoch": 1.0833333333333333,
"grad_norm": 14.846416473388672,
"learning_rate": 3.7037037037037037e-05,
"loss": 0.8928,
"step": 100
},
{
"epoch": 1.1166666666666667,
"grad_norm": 9.266874313354492,
"learning_rate": 3.518518518518519e-05,
"loss": 0.8165,
"step": 110
},
{
"epoch": 1.15,
"grad_norm": 21.095354080200195,
"learning_rate": 3.3333333333333335e-05,
"loss": 0.8177,
"step": 120
},
{
"epoch": 1.1833333333333333,
"grad_norm": 2.8057732582092285,
"learning_rate": 3.148148148148148e-05,
"loss": 0.6388,
"step": 130
},
{
"epoch": 1.2166666666666668,
"grad_norm": 7.6457672119140625,
"learning_rate": 2.962962962962963e-05,
"loss": 0.6413,
"step": 140
},
{
"epoch": 1.25,
"grad_norm": 15.42055892944336,
"learning_rate": 2.777777777777778e-05,
"loss": 0.8215,
"step": 150
},
{
"epoch": 1.25,
"eval_accuracy": 0.6428571428571429,
"eval_loss": 0.8053566813468933,
"eval_runtime": 20.071,
"eval_samples_per_second": 3.488,
"eval_steps_per_second": 0.897,
"step": 150
},
{
"epoch": 2.033333333333333,
"grad_norm": 30.937313079833984,
"learning_rate": 2.5925925925925925e-05,
"loss": 0.6518,
"step": 160
},
{
"epoch": 2.066666666666667,
"grad_norm": 3.2372474670410156,
"learning_rate": 2.4074074074074074e-05,
"loss": 0.5538,
"step": 170
},
{
"epoch": 2.1,
"grad_norm": 6.289671421051025,
"learning_rate": 2.2222222222222223e-05,
"loss": 0.3373,
"step": 180
},
{
"epoch": 2.1333333333333333,
"grad_norm": 28.10116195678711,
"learning_rate": 2.037037037037037e-05,
"loss": 0.4068,
"step": 190
},
{
"epoch": 2.1666666666666665,
"grad_norm": 2.922621726989746,
"learning_rate": 1.8518518518518518e-05,
"loss": 0.3649,
"step": 200
},
{
"epoch": 2.2,
"grad_norm": 1.8260467052459717,
"learning_rate": 1.6666666666666667e-05,
"loss": 0.4159,
"step": 210
},
{
"epoch": 2.2333333333333334,
"grad_norm": 7.952264308929443,
"learning_rate": 1.4814814814814815e-05,
"loss": 0.2651,
"step": 220
},
{
"epoch": 2.25,
"eval_accuracy": 0.8428571428571429,
"eval_loss": 0.4285981357097626,
"eval_runtime": 19.6403,
"eval_samples_per_second": 3.564,
"eval_steps_per_second": 0.916,
"step": 225
},
{
"epoch": 3.0166666666666666,
"grad_norm": 8.908254623413086,
"learning_rate": 1.2962962962962962e-05,
"loss": 0.3064,
"step": 230
},
{
"epoch": 3.05,
"grad_norm": 27.685514450073242,
"learning_rate": 1.1111111111111112e-05,
"loss": 0.2469,
"step": 240
},
{
"epoch": 3.0833333333333335,
"grad_norm": 6.450607776641846,
"learning_rate": 9.259259259259259e-06,
"loss": 0.31,
"step": 250
},
{
"epoch": 3.1166666666666667,
"grad_norm": 0.25113508105278015,
"learning_rate": 7.4074074074074075e-06,
"loss": 0.1282,
"step": 260
},
{
"epoch": 3.15,
"grad_norm": 4.858123779296875,
"learning_rate": 5.555555555555556e-06,
"loss": 0.1547,
"step": 270
},
{
"epoch": 3.183333333333333,
"grad_norm": 10.586645126342773,
"learning_rate": 3.7037037037037037e-06,
"loss": 0.1706,
"step": 280
},
{
"epoch": 3.216666666666667,
"grad_norm": 0.892095148563385,
"learning_rate": 1.8518518518518519e-06,
"loss": 0.2138,
"step": 290
},
{
"epoch": 3.25,
"grad_norm": 4.021522521972656,
"learning_rate": 0.0,
"loss": 0.202,
"step": 300
},
{
"epoch": 3.25,
"eval_accuracy": 0.9,
"eval_loss": 0.3048226535320282,
"eval_runtime": 19.4139,
"eval_samples_per_second": 3.606,
"eval_steps_per_second": 0.927,
"step": 300
},
{
"epoch": 3.25,
"step": 300,
"total_flos": 1.495384188125184e+18,
"train_loss": 0.8815905849138895,
"train_runtime": 827.7558,
"train_samples_per_second": 1.45,
"train_steps_per_second": 0.362
},
{
"epoch": 3.25,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.31168052554130554,
"eval_runtime": 54.4422,
"eval_samples_per_second": 2.865,
"eval_steps_per_second": 0.716,
"step": 300
},
{
"epoch": 3.25,
"eval_accuracy": 0.9161290322580645,
"eval_loss": 0.3130556344985962,
"eval_runtime": 44.5775,
"eval_samples_per_second": 3.477,
"eval_steps_per_second": 0.875,
"step": 300
}
],
"logging_steps": 10,
"max_steps": 300,
"num_input_tokens_seen": 0,
"num_train_epochs": 9223372036854775807,
"save_steps": 500,
"stateful_callbacks": {
"TrainerControl": {
"args": {
"should_epoch_stop": false,
"should_evaluate": false,
"should_log": false,
"should_save": true,
"should_training_stop": true
},
"attributes": {}
}
},
"total_flos": 1.495384188125184e+18,
"train_batch_size": 4,
"trial_name": null,
"trial_params": null
}