{
  "best_metric": null,
  "best_model_checkpoint": null,
  "epoch": 0.9994666666666666,
  "eval_steps": 500,
  "global_step": 937,
  "is_hyper_param_search": false,
  "is_local_process_zero": true,
  "is_world_process_zero": true,
  "log_history": [
    {
      "epoch": 0.021333333333333333,
      "grad_norm": 0.2379150092601776,
      "learning_rate": 0.00019678111587982831,
      "loss": 1.2904,
      "step": 20
    },
    {
      "epoch": 0.042666666666666665,
      "grad_norm": 0.1779569834470749,
      "learning_rate": 0.0001924892703862661,
      "loss": 0.896,
      "step": 40
    },
    {
      "epoch": 0.064,
      "grad_norm": 0.21149799227714539,
      "learning_rate": 0.00018819742489270387,
      "loss": 0.8611,
      "step": 60
    },
    {
      "epoch": 0.08533333333333333,
      "grad_norm": 0.2307891994714737,
      "learning_rate": 0.00018390557939914164,
      "loss": 0.7618,
      "step": 80
    },
    {
      "epoch": 0.10666666666666667,
      "grad_norm": 0.15213829278945923,
      "learning_rate": 0.00017961373390557942,
      "loss": 0.7812,
      "step": 100
    },
    {
      "epoch": 0.128,
      "grad_norm": 0.18217787146568298,
      "learning_rate": 0.00017532188841201717,
      "loss": 0.7661,
      "step": 120
    },
    {
      "epoch": 0.14933333333333335,
      "grad_norm": 0.155512273311615,
      "learning_rate": 0.00017103004291845494,
      "loss": 0.6752,
      "step": 140
    },
    {
      "epoch": 0.17066666666666666,
      "grad_norm": 0.13735325634479523,
      "learning_rate": 0.00016673819742489272,
      "loss": 0.7598,
      "step": 160
    },
    {
      "epoch": 0.192,
      "grad_norm": 0.1527564525604248,
      "learning_rate": 0.0001624463519313305,
      "loss": 0.738,
      "step": 180
    },
    {
      "epoch": 0.21333333333333335,
      "grad_norm": 0.18818077445030212,
      "learning_rate": 0.00015815450643776824,
      "loss": 0.7948,
      "step": 200
    },
    {
      "epoch": 0.23466666666666666,
      "grad_norm": 0.1243327334523201,
      "learning_rate": 0.000153862660944206,
      "loss": 0.7063,
      "step": 220
    },
    {
      "epoch": 0.256,
      "grad_norm": 0.1657700538635254,
      "learning_rate": 0.00014957081545064377,
      "loss": 0.7503,
      "step": 240
    },
    {
      "epoch": 0.2773333333333333,
      "grad_norm": 0.1808568388223648,
      "learning_rate": 0.00014527896995708155,
      "loss": 0.7746,
      "step": 260
    },
    {
      "epoch": 0.2986666666666667,
      "grad_norm": 0.14259935915470123,
      "learning_rate": 0.00014098712446351932,
      "loss": 0.7132,
      "step": 280
    },
    {
      "epoch": 0.32,
      "grad_norm": 0.14360037446022034,
      "learning_rate": 0.0001366952789699571,
      "loss": 0.7314,
      "step": 300
    },
    {
      "epoch": 0.3413333333333333,
      "grad_norm": 0.14424900710582733,
      "learning_rate": 0.00013240343347639485,
      "loss": 0.698,
      "step": 320
    },
    {
      "epoch": 0.3626666666666667,
      "grad_norm": 0.17244315147399902,
      "learning_rate": 0.00012811158798283262,
      "loss": 0.7564,
      "step": 340
    },
    {
      "epoch": 0.384,
      "grad_norm": 0.14911547303199768,
      "learning_rate": 0.0001238197424892704,
      "loss": 0.7224,
      "step": 360
    },
    {
      "epoch": 0.4053333333333333,
      "grad_norm": 0.17777429521083832,
      "learning_rate": 0.00011952789699570816,
      "loss": 0.7473,
      "step": 380
    },
    {
      "epoch": 0.4266666666666667,
      "grad_norm": 0.2215341329574585,
      "learning_rate": 0.00011523605150214594,
      "loss": 0.6998,
      "step": 400
    },
    {
      "epoch": 0.448,
      "grad_norm": 0.16637006402015686,
      "learning_rate": 0.0001109442060085837,
      "loss": 0.7559,
      "step": 420
    },
    {
      "epoch": 0.4693333333333333,
      "grad_norm": 0.1766403317451477,
      "learning_rate": 0.00010665236051502145,
      "loss": 0.7349,
      "step": 440
    },
    {
      "epoch": 0.49066666666666664,
      "grad_norm": 0.18576976656913757,
      "learning_rate": 0.00010236051502145923,
      "loss": 0.7075,
      "step": 460
    },
    {
      "epoch": 0.512,
      "grad_norm": 0.1760876327753067,
      "learning_rate": 9.8068669527897e-05,
      "loss": 0.734,
      "step": 480
    },
    {
      "epoch": 0.5333333333333333,
      "grad_norm": 0.17922194302082062,
      "learning_rate": 9.377682403433476e-05,
      "loss": 0.7267,
      "step": 500
    },
    {
      "epoch": 0.5546666666666666,
      "grad_norm": 0.2062804251909256,
      "learning_rate": 8.948497854077254e-05,
      "loss": 0.7503,
      "step": 520
    },
    {
      "epoch": 0.576,
      "grad_norm": 0.1697847694158554,
      "learning_rate": 8.51931330472103e-05,
      "loss": 0.7082,
      "step": 540
    },
    {
      "epoch": 0.5973333333333334,
      "grad_norm": 0.1609833538532257,
      "learning_rate": 8.090128755364808e-05,
      "loss": 0.6985,
      "step": 560
    },
    {
      "epoch": 0.6186666666666667,
      "grad_norm": 0.15342487394809723,
      "learning_rate": 7.660944206008584e-05,
      "loss": 0.7365,
      "step": 580
    },
    {
      "epoch": 0.64,
      "grad_norm": 0.16566546261310577,
      "learning_rate": 7.23175965665236e-05,
      "loss": 0.7165,
      "step": 600
    },
    {
      "epoch": 0.6613333333333333,
      "grad_norm": 0.151028573513031,
      "learning_rate": 6.802575107296138e-05,
      "loss": 0.7017,
      "step": 620
    },
    {
      "epoch": 0.6826666666666666,
      "grad_norm": 0.1898183673620224,
      "learning_rate": 6.373390557939914e-05,
      "loss": 0.7492,
      "step": 640
    },
    {
      "epoch": 0.704,
      "grad_norm": 0.17673468589782715,
      "learning_rate": 5.944206008583692e-05,
      "loss": 0.7505,
      "step": 660
    },
    {
      "epoch": 0.7253333333333334,
      "grad_norm": 0.152029350399971,
      "learning_rate": 5.515021459227469e-05,
      "loss": 0.6886,
      "step": 680
    },
    {
      "epoch": 0.7466666666666667,
      "grad_norm": 0.17474131286144257,
      "learning_rate": 5.085836909871244e-05,
      "loss": 0.7289,
      "step": 700
    },
    {
      "epoch": 0.768,
      "grad_norm": 0.19469064474105835,
      "learning_rate": 4.656652360515021e-05,
      "loss": 0.7754,
      "step": 720
    },
    {
      "epoch": 0.7893333333333333,
      "grad_norm": 0.16251613199710846,
      "learning_rate": 4.227467811158798e-05,
      "loss": 0.7319,
      "step": 740
    },
    {
      "epoch": 0.8106666666666666,
      "grad_norm": 0.1300157904624939,
      "learning_rate": 3.798283261802575e-05,
      "loss": 0.7146,
      "step": 760
    },
    {
      "epoch": 0.832,
      "grad_norm": 0.1647961288690567,
      "learning_rate": 3.369098712446352e-05,
      "loss": 0.7055,
      "step": 780
    },
    {
      "epoch": 0.8533333333333334,
      "grad_norm": 0.1793486326932907,
      "learning_rate": 2.939914163090129e-05,
      "loss": 0.6552,
      "step": 800
    },
    {
      "epoch": 0.8746666666666667,
      "grad_norm": 0.18366052210330963,
      "learning_rate": 2.510729613733906e-05,
      "loss": 0.7316,
      "step": 820
    },
    {
      "epoch": 0.896,
      "grad_norm": 0.14859351515769958,
      "learning_rate": 2.0815450643776825e-05,
      "loss": 0.6885,
      "step": 840
    },
    {
      "epoch": 0.9173333333333333,
      "grad_norm": 0.2123899906873703,
      "learning_rate": 1.6523605150214594e-05,
      "loss": 0.7437,
      "step": 860
    },
    {
      "epoch": 0.9386666666666666,
      "grad_norm": 0.16672132909297943,
      "learning_rate": 1.2231759656652362e-05,
      "loss": 0.7165,
      "step": 880
    },
    {
      "epoch": 0.96,
      "grad_norm": 0.14547063410282135,
      "learning_rate": 7.93991416309013e-06,
      "loss": 0.6596,
      "step": 900
    },
    {
      "epoch": 0.9813333333333333,
      "grad_norm": 0.1622607707977295,
      "learning_rate": 3.648068669527897e-06,
      "loss": 0.7304,
      "step": 920
    }
  ],
  "logging_steps": 20,
  "max_steps": 937,
  "num_input_tokens_seen": 0,
  "num_train_epochs": 1,
  "save_steps": 200,
  "stateful_callbacks": {
    "TrainerControl": {
      "args": {
        "should_epoch_stop": false,
        "should_evaluate": false,
        "should_log": false,
        "should_save": true,
        "should_training_stop": true
      },
      "attributes": {}
    }
  },
  "total_flos": 2.3337708848283648e+17,
  "train_batch_size": 2,
  "trial_name": null,
  "trial_params": null
}