{
  "best_metric": null,
  "best_model_checkpoint": null,
  "epoch": 1.0,
  "eval_steps": 10000,
  "global_step": 120000,
  "is_hyper_param_search": false,
  "is_local_process_zero": true,
  "is_world_process_zero": true,
  "log_history": [
    {
      "epoch": 0.08333333333333333,
      "grad_norm": 0.6651873588562012,
      "learning_rate": 0.001,
      "loss": 1.217,
      "step": 10000
    },
    {
      "epoch": 0.08333333333333333,
      "eval_loss": NaN,
      "eval_runtime": 874.824,
      "eval_samples_per_second": 157.659,
      "eval_steps_per_second": 39.415,
      "step": 10000
    },
    {
      "epoch": 0.16666666666666666,
      "grad_norm": 0.3876087963581085,
      "learning_rate": 0.001,
      "loss": 1.1568,
      "step": 20000
    },
    {
      "epoch": 0.16666666666666666,
      "eval_loss": NaN,
      "eval_runtime": 774.5634,
      "eval_samples_per_second": 178.067,
      "eval_steps_per_second": 44.517,
      "step": 20000
    },
    {
      "epoch": 0.25,
      "grad_norm": 0.2238207757472992,
      "learning_rate": 0.001,
      "loss": 1.1522,
      "step": 30000
    },
    {
      "epoch": 0.25,
      "eval_loss": NaN,
      "eval_runtime": 739.1972,
      "eval_samples_per_second": 186.586,
      "eval_steps_per_second": 46.647,
      "step": 30000
    },
    {
      "epoch": 0.3333333333333333,
      "grad_norm": 0.1445535570383072,
      "learning_rate": 0.001,
      "loss": 1.1443,
      "step": 40000
    },
    {
      "epoch": 0.3333333333333333,
      "eval_loss": NaN,
      "eval_runtime": 500.0215,
      "eval_samples_per_second": 275.836,
      "eval_steps_per_second": 68.959,
      "step": 40000
    },
    {
      "epoch": 0.4166666666666667,
      "grad_norm": 0.17618992924690247,
      "learning_rate": 0.001,
      "loss": 1.1404,
      "step": 50000
    },
    {
      "epoch": 0.4166666666666667,
      "eval_loss": NaN,
      "eval_runtime": 589.6171,
      "eval_samples_per_second": 233.921,
      "eval_steps_per_second": 58.48,
      "step": 50000
    },
    {
      "epoch": 0.5,
      "grad_norm": 0.12298904359340668,
      "learning_rate": 0.001,
      "loss": 1.1329,
      "step": 60000
    },
    {
      "epoch": 0.5,
      "eval_loss": NaN,
      "eval_runtime": 599.1773,
      "eval_samples_per_second": 230.189,
      "eval_steps_per_second": 57.547,
      "step": 60000
    },
    {
      "epoch": 0.5833333333333334,
      "grad_norm": 0.21368645131587982,
      "learning_rate": 0.001,
      "loss": 1.1323,
      "step": 70000
    },
    {
      "epoch": 0.5833333333333334,
      "eval_loss": NaN,
      "eval_runtime": 526.8173,
      "eval_samples_per_second": 261.806,
      "eval_steps_per_second": 65.452,
      "step": 70000
    },
    {
      "epoch": 0.6666666666666666,
      "grad_norm": 0.15141108632087708,
      "learning_rate": 0.001,
      "loss": 1.1292,
      "step": 80000
    },
    {
      "epoch": 0.6666666666666666,
      "eval_loss": NaN,
      "eval_runtime": 542.434,
      "eval_samples_per_second": 254.269,
      "eval_steps_per_second": 63.567,
      "step": 80000
    },
    {
      "epoch": 0.75,
      "grad_norm": 0.15512333810329437,
      "learning_rate": 0.001,
      "loss": 1.1264,
      "step": 90000
    },
    {
      "epoch": 0.75,
      "eval_loss": NaN,
      "eval_runtime": 700.6971,
      "eval_samples_per_second": 196.838,
      "eval_steps_per_second": 49.21,
      "step": 90000
    },
    {
      "epoch": 0.8333333333333334,
      "grad_norm": 0.15970458090305328,
      "learning_rate": 0.001,
      "loss": 1.1312,
      "step": 100000
    },
    {
      "epoch": 0.8333333333333334,
      "eval_loss": NaN,
      "eval_runtime": 774.1988,
      "eval_samples_per_second": 178.151,
      "eval_steps_per_second": 44.538,
      "step": 100000
    },
    {
      "epoch": 0.9166666666666666,
      "grad_norm": 0.16049639880657196,
      "learning_rate": 0.001,
      "loss": 1.1305,
      "step": 110000
    },
    {
      "epoch": 0.9166666666666666,
      "eval_loss": NaN,
      "eval_runtime": 612.5819,
      "eval_samples_per_second": 225.152,
      "eval_steps_per_second": 56.288,
      "step": 110000
    },
    {
      "epoch": 1.0,
      "grad_norm": 0.1032409593462944,
      "learning_rate": 0.001,
      "loss": 1.1285,
      "step": 120000
    },
    {
      "epoch": 1.0,
      "eval_loss": NaN,
      "eval_runtime": 585.9083,
      "eval_samples_per_second": 235.402,
      "eval_steps_per_second": 58.851,
      "step": 120000
    },
    {
      "epoch": 1.0,
      "step": 120000,
      "total_flos": 9.714412005674189e+16,
      "train_loss": 1.1434922200520834,
      "train_runtime": 17035.2815,
      "train_samples_per_second": 28.177,
      "train_steps_per_second": 7.044
    }
  ],
  "logging_steps": 10000,
  "max_steps": 120000,
  "num_input_tokens_seen": 0,
  "num_train_epochs": 9223372036854775807,
  "save_steps": 10000,
  "stateful_callbacks": {
    "TrainerControl": {
      "args": {
        "should_epoch_stop": false,
        "should_evaluate": false,
        "should_log": false,
        "should_save": true,
        "should_training_stop": true
      },
      "attributes": {}
    }
  },
  "total_flos": 9.714412005674189e+16,
  "train_batch_size": 4,
  "trial_name": null,
  "trial_params": null
}