{
  "best_metric": 0.287933349609375,
  "best_model_checkpoint": "vit-base-kidney-stone-4-Michel_Daudon_-w256_1k_v1-_SEC\\checkpoint-500",
  "epoch": 15.0,
  "eval_steps": 100,
  "global_step": 4500,
  "is_hyper_param_search": false,
  "is_local_process_zero": true,
  "is_world_process_zero": true,
  "log_history": [
    {
      "epoch": 0.016666666666666666,
      "grad_norm": 2.094520092010498,
      "learning_rate": 0.0001997777777777778,
      "loss": 1.7334,
      "step": 5
    },
    {
      "epoch": 0.03333333333333333,
      "grad_norm": 2.5950448513031006,
      "learning_rate": 0.00019955555555555558,
      "loss": 1.5045,
      "step": 10
    },
    {
      "epoch": 0.05,
      "grad_norm": 2.59761381149292,
      "learning_rate": 0.00019933333333333334,
      "loss": 1.2995,
      "step": 15
    },
    {
      "epoch": 0.06666666666666667,
      "grad_norm": 2.3190696239471436,
      "learning_rate": 0.00019911111111111111,
      "loss": 1.0183,
      "step": 20
    },
    {
      "epoch": 0.08333333333333333,
      "grad_norm": 2.3955700397491455,
      "learning_rate": 0.0001988888888888889,
      "loss": 0.8091,
      "step": 25
    },
    {
      "epoch": 0.1,
      "grad_norm": 4.309560298919678,
      "learning_rate": 0.00019866666666666668,
      "loss": 0.7283,
      "step": 30
    },
    {
      "epoch": 0.11666666666666667,
      "grad_norm": 2.2466917037963867,
      "learning_rate": 0.00019844444444444445,
      "loss": 0.7119,
      "step": 35
    },
    {
      "epoch": 0.13333333333333333,
      "grad_norm": 3.18263840675354,
      "learning_rate": 0.00019822222222222225,
      "loss": 0.5937,
      "step": 40
    },
    {
      "epoch": 0.15,
      "grad_norm": 2.0320358276367188,
      "learning_rate": 0.00019800000000000002,
      "loss": 0.5961,
      "step": 45
    },
    {
      "epoch": 0.16666666666666666,
      "grad_norm": 6.720523357391357,
      "learning_rate": 0.00019777777777777778,
      "loss": 0.4704,
      "step": 50
    },
    {
      "epoch": 0.18333333333333332,
      "grad_norm": 4.37512731552124,
      "learning_rate": 0.00019755555555555555,
      "loss": 0.5206,
      "step": 55
    },
    {
      "epoch": 0.2,
      "grad_norm": 4.938697814941406,
      "learning_rate": 0.00019733333333333335,
      "loss": 0.3018,
      "step": 60
    },
    {
      "epoch": 0.21666666666666667,
      "grad_norm": 1.7506166696548462,
      "learning_rate": 0.00019711111111111112,
      "loss": 0.4783,
      "step": 65
    },
    {
      "epoch": 0.23333333333333334,
      "grad_norm": 2.546600580215454,
      "learning_rate": 0.0001968888888888889,
      "loss": 0.358,
      "step": 70
    },
    {
      "epoch": 0.25,
      "grad_norm": 4.485836029052734,
      "learning_rate": 0.00019666666666666666,
      "loss": 0.3466,
      "step": 75
    },
    {
      "epoch": 0.26666666666666666,
      "grad_norm": 3.5832128524780273,
      "learning_rate": 0.00019644444444444445,
      "loss": 0.2697,
      "step": 80
    },
    {
      "epoch": 0.2833333333333333,
      "grad_norm": 2.0474653244018555,
      "learning_rate": 0.00019622222222222225,
      "loss": 0.2515,
      "step": 85
    },
    {
      "epoch": 0.3,
      "grad_norm": 4.298679351806641,
      "learning_rate": 0.000196,
      "loss": 0.2979,
      "step": 90
    },
    {
      "epoch": 0.31666666666666665,
      "grad_norm": 13.717812538146973,
      "learning_rate": 0.0001957777777777778,
      "loss": 0.2635,
      "step": 95
    },
    {
      "epoch": 0.3333333333333333,
      "grad_norm": 5.417221546173096,
      "learning_rate": 0.00019555555555555556,
      "loss": 0.2837,
      "step": 100
    },
    {
      "epoch": 0.3333333333333333,
      "eval_accuracy": 0.8333333333333334,
      "eval_f1": 0.8325177594473768,
      "eval_loss": 0.5469913482666016,
      "eval_precision": 0.8692537972052442,
      "eval_recall": 0.8333333333333334,
      "eval_runtime": 9.1723,
      "eval_samples_per_second": 130.829,
      "eval_steps_per_second": 16.354,
      "step": 100
    },
    {
      "epoch": 0.35,
      "grad_norm": 2.956663131713867,
      "learning_rate": 0.00019533333333333336,
      "loss": 0.2163,
      "step": 105
    },
    {
      "epoch": 0.36666666666666664,
      "grad_norm": 3.279634714126587,
      "learning_rate": 0.0001951111111111111,
      "loss": 0.2892,
      "step": 110
    },
    {
      "epoch": 0.38333333333333336,
      "grad_norm": 5.094461917877197,
      "learning_rate": 0.0001948888888888889,
      "loss": 0.548,
      "step": 115
    },
    {
      "epoch": 0.4,
      "grad_norm": 5.9922661781311035,
      "learning_rate": 0.0001946666666666667,
      "loss": 0.4295,
      "step": 120
    },
    {
      "epoch": 0.4166666666666667,
      "grad_norm": 2.00282883644104,
      "learning_rate": 0.00019444444444444446,
      "loss": 0.423,
      "step": 125
    },
    {
      "epoch": 0.43333333333333335,
      "grad_norm": 3.8853812217712402,
      "learning_rate": 0.00019422222222222223,
      "loss": 0.2998,
      "step": 130
    },
    {
      "epoch": 0.45,
      "grad_norm": 3.23156476020813,
      "learning_rate": 0.000194,
      "loss": 0.1992,
      "step": 135
    },
    {
      "epoch": 0.4666666666666667,
      "grad_norm": 0.6419533491134644,
      "learning_rate": 0.0001937777777777778,
      "loss": 0.1476,
      "step": 140
    },
    {
      "epoch": 0.48333333333333334,
      "grad_norm": 0.6096994280815125,
      "learning_rate": 0.00019355555555555557,
      "loss": 0.2386,
      "step": 145
    },
    {
      "epoch": 0.5,
      "grad_norm": 8.845501899719238,
      "learning_rate": 0.00019333333333333333,
      "loss": 0.3548,
      "step": 150
    },
    {
      "epoch": 0.5166666666666667,
      "grad_norm": 0.300902783870697,
      "learning_rate": 0.0001931111111111111,
      "loss": 0.1953,
      "step": 155
    },
    {
      "epoch": 0.5333333333333333,
      "grad_norm": 4.513770580291748,
      "learning_rate": 0.0001928888888888889,
      "loss": 0.1638,
      "step": 160
    },
    {
      "epoch": 0.55,
      "grad_norm": 0.15910392999649048,
      "learning_rate": 0.0001926666666666667,
      "loss": 0.1545,
      "step": 165
    },
    {
      "epoch": 0.5666666666666667,
      "grad_norm": 3.734266757965088,
      "learning_rate": 0.00019244444444444444,
      "loss": 0.1168,
      "step": 170
    },
    {
      "epoch": 0.5833333333333334,
      "grad_norm": 6.254584312438965,
      "learning_rate": 0.00019222222222222224,
      "loss": 0.1849,
      "step": 175
    },
    {
      "epoch": 0.6,
      "grad_norm": 0.21409283578395844,
      "learning_rate": 0.000192,
      "loss": 0.1413,
      "step": 180
    },
    {
      "epoch": 0.6166666666666667,
      "grad_norm": 6.2548346519470215,
      "learning_rate": 0.0001917777777777778,
      "loss": 0.1125,
      "step": 185
    },
    {
      "epoch": 0.6333333333333333,
      "grad_norm": 2.980375051498413,
      "learning_rate": 0.00019155555555555554,
      "loss": 0.1318,
      "step": 190
    },
    {
      "epoch": 0.65,
      "grad_norm": 9.101261138916016,
      "learning_rate": 0.00019133333333333334,
      "loss": 0.2121,
      "step": 195
    },
    {
      "epoch": 0.6666666666666666,
      "grad_norm": 0.19027970731258392,
      "learning_rate": 0.00019111111111111114,
      "loss": 0.1498,
      "step": 200
    },
    {
      "epoch": 0.6666666666666666,
      "eval_accuracy": 0.8658333333333333,
      "eval_f1": 0.8646544293206255,
      "eval_loss": 0.419860303401947,
      "eval_precision": 0.8832829033463643,
      "eval_recall": 0.8658333333333333,
      "eval_runtime": 10.7569,
      "eval_samples_per_second": 111.557,
      "eval_steps_per_second": 13.945,
      "step": 200
    },
    {
      "epoch": 0.6833333333333333,
      "grad_norm": 2.4005630016326904,
      "learning_rate": 0.0001908888888888889,
      "loss": 0.1614,
      "step": 205
    },
    {
      "epoch": 0.7,
      "grad_norm": 1.5351110696792603,
      "learning_rate": 0.00019066666666666668,
      "loss": 0.1571,
      "step": 210
    },
    {
      "epoch": 0.7166666666666667,
      "grad_norm": 1.5578938722610474,
      "learning_rate": 0.00019044444444444444,
      "loss": 0.2876,
      "step": 215
    },
    {
      "epoch": 0.7333333333333333,
      "grad_norm": 3.241421699523926,
      "learning_rate": 0.00019022222222222224,
      "loss": 0.1895,
      "step": 220
    },
    {
      "epoch": 0.75,
      "grad_norm": 2.7596523761749268,
      "learning_rate": 0.00019,
      "loss": 0.1574,
      "step": 225
    },
    {
      "epoch": 0.7666666666666667,
      "grad_norm": 4.013001441955566,
      "learning_rate": 0.00018977777777777778,
      "loss": 0.1777,
      "step": 230
    },
    {
      "epoch": 0.7833333333333333,
      "grad_norm": 5.103011608123779,
      "learning_rate": 0.00018955555555555558,
      "loss": 0.1232,
      "step": 235
    },
    {
      "epoch": 0.8,
      "grad_norm": 0.2690665125846863,
      "learning_rate": 0.00018933333333333335,
      "loss": 0.2757,
      "step": 240
    },
    {
      "epoch": 0.8166666666666667,
      "grad_norm": 4.953329563140869,
      "learning_rate": 0.00018911111111111112,
      "loss": 0.267,
      "step": 245
    },
    {
      "epoch": 0.8333333333333334,
      "grad_norm": 0.9960665106773376,
      "learning_rate": 0.00018888888888888888,
      "loss": 0.2006,
      "step": 250
    },
    {
      "epoch": 0.85,
      "grad_norm": 9.965922355651855,
      "learning_rate": 0.00018866666666666668,
      "loss": 0.186,
      "step": 255
    },
    {
      "epoch": 0.8666666666666667,
      "grad_norm": 4.254794120788574,
      "learning_rate": 0.00018844444444444445,
      "loss": 0.1351,
      "step": 260
    },
    {
      "epoch": 0.8833333333333333,
      "grad_norm": 0.29707998037338257,
      "learning_rate": 0.00018822222222222222,
      "loss": 0.1005,
      "step": 265
    },
    {
      "epoch": 0.9,
      "grad_norm": 0.0890890508890152,
      "learning_rate": 0.000188,
      "loss": 0.1069,
      "step": 270
    },
    {
      "epoch": 0.9166666666666666,
      "grad_norm": 3.3766350746154785,
      "learning_rate": 0.00018777777777777779,
      "loss": 0.1634,
      "step": 275
    },
    {
      "epoch": 0.9333333333333333,
      "grad_norm": 3.2359774112701416,
      "learning_rate": 0.00018755555555555558,
      "loss": 0.1233,
      "step": 280
    },
    {
      "epoch": 0.95,
      "grad_norm": 4.197917461395264,
      "learning_rate": 0.00018733333333333335,
      "loss": 0.1347,
      "step": 285
    },
    {
      "epoch": 0.9666666666666667,
      "grad_norm": 1.3919925689697266,
      "learning_rate": 0.00018711111111111112,
      "loss": 0.0375,
      "step": 290
    },
    {
      "epoch": 0.9833333333333333,
      "grad_norm": 0.8729097247123718,
      "learning_rate": 0.0001868888888888889,
      "loss": 0.1717,
      "step": 295
    },
    {
      "epoch": 1.0,
      "grad_norm": 0.4583613872528076,
      "learning_rate": 0.0001866666666666667,
      "loss": 0.0979,
      "step": 300
    },
    {
      "epoch": 1.0,
      "eval_accuracy": 0.8783333333333333,
      "eval_f1": 0.8798628471879669,
      "eval_loss": 0.4712086617946625,
      "eval_precision": 0.9014733422917656,
      "eval_recall": 0.8783333333333333,
      "eval_runtime": 9.5427,
      "eval_samples_per_second": 125.75,
      "eval_steps_per_second": 15.719,
      "step": 300
    },
    {
      "epoch": 1.0166666666666666,
      "grad_norm": 3.295351982116699,
      "learning_rate": 0.00018644444444444446,
      "loss": 0.0648,
      "step": 305
    },
    {
      "epoch": 1.0333333333333334,
      "grad_norm": 0.06664576381444931,
      "learning_rate": 0.00018622222222222223,
      "loss": 0.0348,
      "step": 310
    },
    {
      "epoch": 1.05,
      "grad_norm": 5.618074893951416,
      "learning_rate": 0.00018600000000000002,
      "loss": 0.1471,
      "step": 315
    },
    {
      "epoch": 1.0666666666666667,
      "grad_norm": 0.18170194327831268,
      "learning_rate": 0.0001857777777777778,
      "loss": 0.0346,
      "step": 320
    },
    {
      "epoch": 1.0833333333333333,
      "grad_norm": 7.269393444061279,
      "learning_rate": 0.00018555555555555556,
      "loss": 0.3065,
      "step": 325
    },
    {
      "epoch": 1.1,
      "grad_norm": 0.05118568614125252,
      "learning_rate": 0.00018533333333333333,
      "loss": 0.0871,
      "step": 330
    },
    {
      "epoch": 1.1166666666666667,
      "grad_norm": 0.056858014315366745,
      "learning_rate": 0.00018511111111111113,
      "loss": 0.0244,
      "step": 335
    },
    {
      "epoch": 1.1333333333333333,
      "grad_norm": 0.053658489137887955,
      "learning_rate": 0.0001848888888888889,
      "loss": 0.0252,
      "step": 340
    },
    {
      "epoch": 1.15,
      "grad_norm": 0.07274088263511658,
      "learning_rate": 0.00018466666666666666,
      "loss": 0.0146,
      "step": 345
    },
    {
      "epoch": 1.1666666666666667,
      "grad_norm": 0.07176723331212997,
      "learning_rate": 0.00018444444444444446,
      "loss": 0.1171,
      "step": 350
    },
    {
      "epoch": 1.1833333333333333,
      "grad_norm": 4.062535762786865,
      "learning_rate": 0.00018422222222222223,
      "loss": 0.1372,
      "step": 355
    },
    {
      "epoch": 1.2,
      "grad_norm": 0.05384214222431183,
      "learning_rate": 0.00018400000000000003,
      "loss": 0.0148,
      "step": 360
    },
    {
      "epoch": 1.2166666666666668,
      "grad_norm": 0.33627206087112427,
      "learning_rate": 0.00018377777777777777,
      "loss": 0.0347,
      "step": 365
    },
    {
      "epoch": 1.2333333333333334,
      "grad_norm": 0.047418974339962006,
      "learning_rate": 0.00018355555555555557,
      "loss": 0.0122,
      "step": 370
    },
    {
      "epoch": 1.25,
      "grad_norm": 0.05968450754880905,
      "learning_rate": 0.00018333333333333334,
      "loss": 0.0116,
      "step": 375
    },
    {
      "epoch": 1.2666666666666666,
      "grad_norm": 0.03906333073973656,
      "learning_rate": 0.00018311111111111113,
      "loss": 0.0171,
      "step": 380
    },
    {
      "epoch": 1.2833333333333332,
      "grad_norm": 0.1182689443230629,
      "learning_rate": 0.00018288888888888887,
      "loss": 0.0131,
      "step": 385
    },
    {
      "epoch": 1.3,
      "grad_norm": 0.04769308120012283,
      "learning_rate": 0.00018266666666666667,
      "loss": 0.0101,
      "step": 390
    },
    {
      "epoch": 1.3166666666666667,
      "grad_norm": 3.703366756439209,
      "learning_rate": 0.00018244444444444447,
      "loss": 0.1178,
      "step": 395
    },
    {
      "epoch": 1.3333333333333333,
      "grad_norm": 0.034736987203359604,
      "learning_rate": 0.00018222222222222224,
      "loss": 0.009,
      "step": 400
    },
    {
      "epoch": 1.3333333333333333,
      "eval_accuracy": 0.885,
      "eval_f1": 0.8819427739430091,
      "eval_loss": 0.4957258999347687,
      "eval_precision": 0.893251018366683,
      "eval_recall": 0.885,
      "eval_runtime": 9.1034,
      "eval_samples_per_second": 131.818,
      "eval_steps_per_second": 16.477,
      "step": 400
    },
    {
      "epoch": 1.35,
      "grad_norm": 0.08092132210731506,
      "learning_rate": 0.000182,
      "loss": 0.063,
      "step": 405
    },
    {
      "epoch": 1.3666666666666667,
      "grad_norm": 6.757242202758789,
      "learning_rate": 0.00018177777777777778,
      "loss": 0.0531,
      "step": 410
    },
    {
      "epoch": 1.3833333333333333,
      "grad_norm": 0.0711149200797081,
      "learning_rate": 0.00018155555555555557,
      "loss": 0.0477,
      "step": 415
    },
    {
      "epoch": 1.4,
      "grad_norm": 0.045750271528959274,
      "learning_rate": 0.00018133333333333334,
      "loss": 0.3121,
      "step": 420
    },
    {
      "epoch": 1.4166666666666667,
      "grad_norm": 1.1816415786743164,
      "learning_rate": 0.0001811111111111111,
      "loss": 0.1743,
      "step": 425
    },
    {
      "epoch": 1.4333333333333333,
      "grad_norm": 0.3431260883808136,
      "learning_rate": 0.0001808888888888889,
      "loss": 0.198,
      "step": 430
    },
    {
      "epoch": 1.45,
      "grad_norm": 2.033586025238037,
      "learning_rate": 0.00018066666666666668,
      "loss": 0.1109,
      "step": 435
    },
    {
      "epoch": 1.4666666666666668,
      "grad_norm": 0.32351216673851013,
      "learning_rate": 0.00018044444444444447,
      "loss": 0.1162,
      "step": 440
    },
    {
      "epoch": 1.4833333333333334,
      "grad_norm": 3.938960313796997,
      "learning_rate": 0.00018022222222222221,
      "loss": 0.0989,
      "step": 445
    },
    {
      "epoch": 1.5,
      "grad_norm": 0.15037645399570465,
      "learning_rate": 0.00018,
      "loss": 0.0162,
      "step": 450
    },
    {
      "epoch": 1.5166666666666666,
      "grad_norm": 0.06541183590888977,
      "learning_rate": 0.00017977777777777778,
      "loss": 0.0861,
      "step": 455
    },
    {
      "epoch": 1.5333333333333332,
      "grad_norm": 2.6935458183288574,
      "learning_rate": 0.00017955555555555558,
      "loss": 0.0311,
      "step": 460
    },
    {
      "epoch": 1.55,
      "grad_norm": 0.09518030285835266,
      "learning_rate": 0.00017933333333333332,
      "loss": 0.0145,
      "step": 465
    },
    {
      "epoch": 1.5666666666666667,
      "grad_norm": 3.707491397857666,
      "learning_rate": 0.00017911111111111112,
      "loss": 0.1594,
      "step": 470
    },
    {
      "epoch": 1.5833333333333335,
      "grad_norm": 0.11083989590406418,
      "learning_rate": 0.0001788888888888889,
      "loss": 0.1209,
      "step": 475
    },
    {
      "epoch": 1.6,
      "grad_norm": 5.058346271514893,
      "learning_rate": 0.00017866666666666668,
      "loss": 0.1865,
      "step": 480
    },
    {
      "epoch": 1.6166666666666667,
      "grad_norm": 0.05349987745285034,
      "learning_rate": 0.00017844444444444445,
      "loss": 0.1861,
      "step": 485
    },
    {
      "epoch": 1.6333333333333333,
      "grad_norm": 3.0142064094543457,
      "learning_rate": 0.00017822222222222222,
      "loss": 0.058,
      "step": 490
    },
    {
      "epoch": 1.65,
      "grad_norm": 0.05148296058177948,
      "learning_rate": 0.00017800000000000002,
      "loss": 0.0751,
      "step": 495
    },
    {
      "epoch": 1.6666666666666665,
      "grad_norm": 0.1709563434123993,
      "learning_rate": 0.00017777777777777779,
      "loss": 0.0226,
      "step": 500
    },
    {
      "epoch": 1.6666666666666665,
      "eval_accuracy": 0.9241666666666667,
      "eval_f1": 0.9247640186674816,
      "eval_loss": 0.287933349609375,
      "eval_precision": 0.9296490647145426,
      "eval_recall": 0.9241666666666667,
      "eval_runtime": 8.7058,
      "eval_samples_per_second": 137.84,
      "eval_steps_per_second": 17.23,
      "step": 500
    },
    {
      "epoch": 1.6833333333333333,
      "grad_norm": 0.04490474611520767,
      "learning_rate": 0.00017755555555555556,
      "loss": 0.0178,
      "step": 505
    },
    {
      "epoch": 1.7,
      "grad_norm": 0.7536658048629761,
      "learning_rate": 0.00017733333333333335,
      "loss": 0.0916,
      "step": 510
    },
    {
      "epoch": 1.7166666666666668,
      "grad_norm": 2.1673929691314697,
      "learning_rate": 0.00017711111111111112,
      "loss": 0.1317,
      "step": 515
    },
    {
      "epoch": 1.7333333333333334,
      "grad_norm": 0.6952669620513916,
      "learning_rate": 0.0001768888888888889,
      "loss": 0.0512,
      "step": 520
    },
    {
      "epoch": 1.75,
      "grad_norm": 0.0306446123868227,
      "learning_rate": 0.00017666666666666666,
      "loss": 0.1843,
      "step": 525
    },
    {
      "epoch": 1.7666666666666666,
      "grad_norm": 2.540863513946533,
      "learning_rate": 0.00017644444444444446,
      "loss": 0.0525,
      "step": 530
    },
    {
      "epoch": 1.7833333333333332,
      "grad_norm": 9.620040893554688,
      "learning_rate": 0.00017622222222222223,
      "loss": 0.0432,
      "step": 535
    },
    {
      "epoch": 1.8,
      "grad_norm": 0.03716607764363289,
      "learning_rate": 0.00017600000000000002,
      "loss": 0.0294,
      "step": 540
    },
    {
      "epoch": 1.8166666666666667,
      "grad_norm": 8.741141319274902,
      "learning_rate": 0.0001757777777777778,
      "loss": 0.073,
      "step": 545
    },
    {
      "epoch": 1.8333333333333335,
      "grad_norm": 8.873584747314453,
      "learning_rate": 0.00017555555555555556,
      "loss": 0.3712,
      "step": 550
    },
    {
      "epoch": 1.85,
      "grad_norm": 0.024466728791594505,
      "learning_rate": 0.00017533333333333336,
      "loss": 0.0509,
      "step": 555
    },
    {
      "epoch": 1.8666666666666667,
      "grad_norm": 0.387020081281662,
      "learning_rate": 0.00017511111111111113,
      "loss": 0.1568,
      "step": 560
    },
    {
      "epoch": 1.8833333333333333,
      "grad_norm": 0.038037847727537155,
      "learning_rate": 0.0001748888888888889,
      "loss": 0.0485,
      "step": 565
    },
    {
      "epoch": 1.9,
      "grad_norm": 0.2797572612762451,
      "learning_rate": 0.00017466666666666667,
      "loss": 0.0172,
      "step": 570
    },
    {
      "epoch": 1.9166666666666665,
      "grad_norm": 4.288679122924805,
      "learning_rate": 0.00017444444444444446,
      "loss": 0.0866,
      "step": 575
    },
    {
      "epoch": 1.9333333333333333,
      "grad_norm": 0.025309836491942406,
      "learning_rate": 0.00017422222222222223,
      "loss": 0.0275,
      "step": 580
    },
    {
      "epoch": 1.95,
      "grad_norm": 0.03509178385138512,
      "learning_rate": 0.000174,
      "loss": 0.0291,
      "step": 585
    },
    {
      "epoch": 1.9666666666666668,
      "grad_norm": 7.873814582824707,
      "learning_rate": 0.0001737777777777778,
      "loss": 0.1532,
      "step": 590
    },
    {
      "epoch": 1.9833333333333334,
      "grad_norm": 10.423376083374023,
      "learning_rate": 0.00017355555555555557,
      "loss": 0.1258,
      "step": 595
    },
    {
      "epoch": 2.0,
      "grad_norm": 1.5197869539260864,
      "learning_rate": 0.00017333333333333334,
      "loss": 0.0722,
      "step": 600
    },
    {
      "epoch": 2.0,
      "eval_accuracy": 0.8875,
      "eval_f1": 0.886919672564942,
      "eval_loss": 0.44489431381225586,
      "eval_precision": 0.890625581723948,
      "eval_recall": 0.8875,
      "eval_runtime": 8.8902,
      "eval_samples_per_second": 134.98,
      "eval_steps_per_second": 16.873,
      "step": 600
    },
    {
      "epoch": 2.0166666666666666,
      "grad_norm": 3.035360097885132,
      "learning_rate": 0.0001731111111111111,
      "loss": 0.023,
      "step": 605
    },
    {
      "epoch": 2.033333333333333,
      "grad_norm": 2.728450298309326,
      "learning_rate": 0.0001728888888888889,
      "loss": 0.1447,
      "step": 610
    },
    {
      "epoch": 2.05,
      "grad_norm": 1.2610557079315186,
      "learning_rate": 0.00017266666666666667,
      "loss": 0.0112,
      "step": 615
    },
    {
      "epoch": 2.066666666666667,
      "grad_norm": 0.026023216545581818,
      "learning_rate": 0.00017244444444444444,
      "loss": 0.0921,
      "step": 620
    },
    {
      "epoch": 2.0833333333333335,
      "grad_norm": 0.029216350987553596,
      "learning_rate": 0.00017222222222222224,
      "loss": 0.0534,
      "step": 625
    },
    {
      "epoch": 2.1,
      "grad_norm": 0.06141095608472824,
      "learning_rate": 0.000172,
      "loss": 0.0784,
      "step": 630
    },
    {
      "epoch": 2.1166666666666667,
      "grad_norm": 0.029450969770550728,
      "learning_rate": 0.0001717777777777778,
      "loss": 0.0076,
      "step": 635
    },
    {
      "epoch": 2.1333333333333333,
      "grad_norm": 0.032237693667411804,
      "learning_rate": 0.00017155555555555555,
      "loss": 0.0099,
      "step": 640
    },
    {
      "epoch": 2.15,
      "grad_norm": 0.03310508653521538,
      "learning_rate": 0.00017133333333333334,
      "loss": 0.0065,
      "step": 645
    },
    {
      "epoch": 2.1666666666666665,
      "grad_norm": 0.07569865882396698,
      "learning_rate": 0.0001711111111111111,
      "loss": 0.0065,
      "step": 650
    },
    {
      "epoch": 2.183333333333333,
      "grad_norm": 0.02302989736199379,
      "learning_rate": 0.0001708888888888889,
      "loss": 0.0055,
      "step": 655
    },
    {
      "epoch": 2.2,
      "grad_norm": 0.017600221559405327,
      "learning_rate": 0.00017066666666666668,
      "loss": 0.0775,
      "step": 660
    },
    {
      "epoch": 2.216666666666667,
      "grad_norm": 0.019599907100200653,
      "learning_rate": 0.00017044444444444445,
      "loss": 0.005,
      "step": 665
    },
    {
      "epoch": 2.2333333333333334,
      "grad_norm": 0.025123627856373787,
      "learning_rate": 0.00017022222222222224,
      "loss": 0.0055,
      "step": 670
    },
    {
      "epoch": 2.25,
      "grad_norm": 0.051852647215127945,
      "learning_rate": 0.00017,
      "loss": 0.0081,
      "step": 675
    },
    {
      "epoch": 2.2666666666666666,
      "grad_norm": 0.07137607783079147,
      "learning_rate": 0.00016977777777777778,
      "loss": 0.0111,
      "step": 680
    },
    {
      "epoch": 2.283333333333333,
      "grad_norm": 0.017483599483966827,
      "learning_rate": 0.00016955555555555555,
      "loss": 0.033,
      "step": 685
    },
    {
      "epoch": 2.3,
      "grad_norm": 0.016768543049693108,
      "learning_rate": 0.00016933333333333335,
      "loss": 0.0278,
      "step": 690
    },
    {
      "epoch": 2.3166666666666664,
      "grad_norm": 5.949201583862305,
      "learning_rate": 0.00016911111111111112,
      "loss": 0.1328,
      "step": 695
    },
    {
      "epoch": 2.3333333333333335,
      "grad_norm": 0.020066458731889725,
      "learning_rate": 0.00016888888888888889,
      "loss": 0.0043,
      "step": 700
    },
    {
      "epoch": 2.3333333333333335,
      "eval_accuracy": 0.9125,
      "eval_f1": 0.9103662686510684,
      "eval_loss": 0.3699380159378052,
      "eval_precision": 0.9221452567040804,
      "eval_recall": 0.9125,
      "eval_runtime": 8.9089,
      "eval_samples_per_second": 134.696,
      "eval_steps_per_second": 16.837,
      "step": 700
    },
    {
      "epoch": 2.35,
      "grad_norm": 0.019855035468935966,
      "learning_rate": 0.00016866666666666668,
      "loss": 0.0044,
      "step": 705
    },
    {
      "epoch": 2.3666666666666667,
      "grad_norm": 16.726102828979492,
      "learning_rate": 0.00016844444444444445,
      "loss": 0.0523,
      "step": 710
    },
    {
      "epoch": 2.3833333333333333,
      "grad_norm": 0.015313220210373402,
      "learning_rate": 0.00016822222222222225,
      "loss": 0.0041,
      "step": 715
    },
    {
      "epoch": 2.4,
      "grad_norm": 0.013525288552045822,
      "learning_rate": 0.000168,
      "loss": 0.0044,
      "step": 720
    },
    {
      "epoch": 2.4166666666666665,
      "grad_norm": 0.031009405851364136,
      "learning_rate": 0.0001677777777777778,
      "loss": 0.0581,
      "step": 725
    },
    {
      "epoch": 2.4333333333333336,
      "grad_norm": 0.015008559450507164,
      "learning_rate": 0.00016755555555555556,
      "loss": 0.014,
      "step": 730
    },
    {
      "epoch": 2.45,
      "grad_norm": 0.7811341285705566,
      "learning_rate": 0.00016733333333333335,
      "loss": 0.0925,
      "step": 735
    },
    {
      "epoch": 2.466666666666667,
      "grad_norm": 0.02074337750673294,
      "learning_rate": 0.00016711111111111112,
      "loss": 0.098,
      "step": 740
    },
    {
      "epoch": 2.4833333333333334,
      "grad_norm": 0.07274883985519409,
      "learning_rate": 0.0001668888888888889,
      "loss": 0.0084,
      "step": 745
    },
    {
      "epoch": 2.5,
      "grad_norm": 0.030582820996642113,
      "learning_rate": 0.0001666666666666667,
      "loss": 0.0078,
      "step": 750
    },
    {
      "epoch": 2.5166666666666666,
      "grad_norm": 0.08020539581775665,
      "learning_rate": 0.00016644444444444446,
      "loss": 0.0717,
      "step": 755
    },
    {
      "epoch": 2.533333333333333,
      "grad_norm": 0.020973846316337585,
      "learning_rate": 0.00016622222222222223,
      "loss": 0.0048,
      "step": 760
    },
    {
      "epoch": 2.55,
      "grad_norm": 0.0248918104916811,
      "learning_rate": 0.000166,
      "loss": 0.034,
      "step": 765
    },
    {
      "epoch": 2.5666666666666664,
      "grad_norm": 0.02065400220453739,
      "learning_rate": 0.0001657777777777778,
      "loss": 0.0172,
      "step": 770
    },
    {
      "epoch": 2.5833333333333335,
      "grad_norm": 0.4219876825809479,
      "learning_rate": 0.00016555555555555556,
      "loss": 0.0045,
      "step": 775
    },
    {
      "epoch": 2.6,
      "grad_norm": 0.03037678822875023,
      "learning_rate": 0.00016533333333333333,
      "loss": 0.0331,
      "step": 780
    },
    {
      "epoch": 2.6166666666666667,
      "grad_norm": 0.018537117168307304,
      "learning_rate": 0.00016511111111111113,
      "loss": 0.0035,
      "step": 785
    },
    {
      "epoch": 2.6333333333333333,
      "grad_norm": 12.05771255493164,
      "learning_rate": 0.0001648888888888889,
      "loss": 0.1141,
      "step": 790
    },
    {
      "epoch": 2.65,
      "grad_norm": 0.41540250182151794,
      "learning_rate": 0.00016466666666666667,
      "loss": 0.0058,
      "step": 795
    },
    {
      "epoch": 2.6666666666666665,
      "grad_norm": 1.8912767171859741,
      "learning_rate": 0.00016444444444444444,
      "loss": 0.0678,
      "step": 800
    },
    {
      "epoch": 2.6666666666666665,
      "eval_accuracy": 0.8791666666666667,
      "eval_f1": 0.8760014266270074,
      "eval_loss": 0.6080715656280518,
      "eval_precision": 0.8871737513075771,
      "eval_recall": 0.8791666666666667,
      "eval_runtime": 9.4123,
      "eval_samples_per_second": 127.493,
      "eval_steps_per_second": 15.937,
      "step": 800
    },
    {
      "epoch": 2.6833333333333336,
      "grad_norm": 0.06278841942548752,
      "learning_rate": 0.00016422222222222223,
      "loss": 0.0044,
      "step": 805
    },
    {
      "epoch": 2.7,
      "grad_norm": 5.7001190185546875,
      "learning_rate": 0.000164,
      "loss": 0.0981,
      "step": 810
    },
    {
      "epoch": 2.716666666666667,
      "grad_norm": 0.6306194067001343,
      "learning_rate": 0.0001637777777777778,
      "loss": 0.0117,
      "step": 815
    },
    {
      "epoch": 2.7333333333333334,
      "grad_norm": 10.116875648498535,
      "learning_rate": 0.00016355555555555557,
      "loss": 0.0419,
      "step": 820
    },
    {
      "epoch": 2.75,
      "grad_norm": 0.14866964519023895,
      "learning_rate": 0.00016333333333333334,
      "loss": 0.0037,
      "step": 825
    },
    {
      "epoch": 2.7666666666666666,
      "grad_norm": 7.574805736541748,
      "learning_rate": 0.00016311111111111113,
      "loss": 0.0669,
      "step": 830
    },
    {
      "epoch": 2.783333333333333,
      "grad_norm": 0.010758020915091038,
      "learning_rate": 0.0001628888888888889,
      "loss": 0.0042,
      "step": 835
    },
    {
      "epoch": 2.8,
      "grad_norm": 0.017838193103671074,
      "learning_rate": 0.00016266666666666667,
      "loss": 0.003,
      "step": 840
    },
    {
      "epoch": 2.8166666666666664,
      "grad_norm": 0.011839674785733223,
      "learning_rate": 0.00016244444444444444,
      "loss": 0.0049,
      "step": 845
    },
    {
      "epoch": 2.8333333333333335,
      "grad_norm": 0.010807226411998272,
      "learning_rate": 0.00016222222222222224,
      "loss": 0.0667,
      "step": 850
    },
    {
      "epoch": 2.85,
      "grad_norm": 1.1217795610427856,
      "learning_rate": 0.000162,
      "loss": 0.0051,
      "step": 855
    },
    {
      "epoch": 2.8666666666666667,
      "grad_norm": 0.012465096078813076,
      "learning_rate": 0.00016177777777777778,
      "loss": 0.0031,
      "step": 860
    },
    {
      "epoch": 2.8833333333333333,
      "grad_norm": 2.1841752529144287,
      "learning_rate": 0.00016155555555555557,
      "loss": 0.033,
      "step": 865
    },
    {
      "epoch": 2.9,
      "grad_norm": 0.011746502481400967,
      "learning_rate": 0.00016133333333333334,
      "loss": 0.0029,
      "step": 870
    },
    {
      "epoch": 2.9166666666666665,
      "grad_norm": 0.01227295771241188,
      "learning_rate": 0.0001611111111111111,
      "loss": 0.0051,
      "step": 875
    },
    {
      "epoch": 2.9333333333333336,
      "grad_norm": 0.009608414024114609,
      "learning_rate": 0.00016088888888888888,
      "loss": 0.1673,
      "step": 880
    },
    {
      "epoch": 2.95,
      "grad_norm": 0.011681011877954006,
      "learning_rate": 0.00016066666666666668,
      "loss": 0.0784,
      "step": 885
    },
    {
      "epoch": 2.966666666666667,
      "grad_norm": 10.35761833190918,
      "learning_rate": 0.00016044444444444445,
      "loss": 0.0147,
      "step": 890
    },
    {
      "epoch": 2.9833333333333334,
      "grad_norm": 0.01789064146578312,
      "learning_rate": 0.00016022222222222222,
      "loss": 0.0686,
      "step": 895
    },
    {
      "epoch": 3.0,
      "grad_norm": 1.4722399711608887,
      "learning_rate": 0.00016,
      "loss": 0.1178,
      "step": 900
    },
    {
      "epoch": 3.0,
      "eval_accuracy": 0.8766666666666667,
      "eval_f1": 0.874387112051437,
      "eval_loss": 0.572810709476471,
      "eval_precision": 0.8747945031967642,
      "eval_recall": 0.8766666666666667,
      "eval_runtime": 8.7934,
      "eval_samples_per_second": 136.466,
      "eval_steps_per_second": 17.058,
      "step": 900
    },
    {
      "epoch": 3.0166666666666666,
      "grad_norm": 0.013766585849225521,
      "learning_rate": 0.00015977777777777778,
      "loss": 0.0062,
      "step": 905
    },
    {
      "epoch": 3.033333333333333,
      "grad_norm": 0.009404240176081657,
      "learning_rate": 0.00015955555555555558,
      "loss": 0.0027,
      "step": 910
    },
    {
      "epoch": 3.05,
      "grad_norm": 0.02348628081381321,
      "learning_rate": 0.00015933333333333332,
      "loss": 0.0028,
      "step": 915
    },
    {
      "epoch": 3.066666666666667,
      "grad_norm": 0.017192557454109192,
      "learning_rate": 0.00015911111111111112,
      "loss": 0.0026,
      "step": 920
    },
    {
      "epoch": 3.0833333333333335,
      "grad_norm": 0.010029248893260956,
      "learning_rate": 0.0001588888888888889,
      "loss": 0.0024,
      "step": 925
    },
    {
      "epoch": 3.1,
      "grad_norm": 0.012164264917373657,
      "learning_rate": 0.00015866666666666668,
      "loss": 0.0025,
      "step": 930
    },
    {
      "epoch": 3.1166666666666667,
      "grad_norm": 0.00849240180104971,
      "learning_rate": 0.00015844444444444445,
      "loss": 0.0037,
      "step": 935
    },
    {
      "epoch": 3.1333333333333333,
      "grad_norm": 0.00975767895579338,
      "learning_rate": 0.00015822222222222222,
      "loss": 0.0435,
      "step": 940
    },
    {
      "epoch": 3.15,
      "grad_norm": 0.009185855276882648,
      "learning_rate": 0.00015800000000000002,
      "loss": 0.0713,
      "step": 945
    },
    {
      "epoch": 3.1666666666666665,
      "grad_norm": 0.008643493056297302,
      "learning_rate": 0.0001577777777777778,
      "loss": 0.0029,
      "step": 950
    },
    {
      "epoch": 3.183333333333333,
      "grad_norm": 0.009480101056396961,
      "learning_rate": 0.00015755555555555556,
      "loss": 0.0025,
      "step": 955
    },
    {
      "epoch": 3.2,
      "grad_norm": 1.6199500560760498,
      "learning_rate": 0.00015733333333333333,
      "loss": 0.0044,
      "step": 960
    },
    {
      "epoch": 3.216666666666667,
      "grad_norm": 0.007941843941807747,
      "learning_rate": 0.00015711111111111112,
      "loss": 0.0021,
      "step": 965
    },
    {
      "epoch": 3.2333333333333334,
      "grad_norm": 0.00922623835504055,
      "learning_rate": 0.00015688888888888892,
      "loss": 0.0022,
      "step": 970
    },
    {
      "epoch": 3.25,
      "grad_norm": 0.009198525920510292,
      "learning_rate": 0.00015666666666666666,
      "loss": 0.0904,
      "step": 975
    },
    {
      "epoch": 3.2666666666666666,
      "grad_norm": 0.04294506832957268,
      "learning_rate": 0.00015644444444444446,
      "loss": 0.0024,
      "step": 980
    },
    {
      "epoch": 3.283333333333333,
      "grad_norm": 0.09394200891256332,
      "learning_rate": 0.00015622222222222223,
      "loss": 0.0715,
      "step": 985
    },
    {
      "epoch": 3.3,
      "grad_norm": 0.013261323794722557,
      "learning_rate": 0.00015600000000000002,
      "loss": 0.012,
      "step": 990
    },
    {
      "epoch": 3.3166666666666664,
      "grad_norm": 0.01498446799814701,
      "learning_rate": 0.00015577777777777777,
      "loss": 0.0029,
      "step": 995
    },
    {
      "epoch": 3.3333333333333335,
      "grad_norm": 0.05244194716215134,
      "learning_rate": 0.00015555555555555556,
      "loss": 0.0297,
      "step": 1000
    },
    {
      "epoch": 3.3333333333333335,
      "eval_accuracy": 0.9258333333333333,
      "eval_f1": 0.9256768439406975,
      "eval_loss": 0.3977121114730835,
      "eval_precision": 0.9267237040578263,
      "eval_recall": 0.9258333333333333,
      "eval_runtime": 8.8966,
      "eval_samples_per_second": 134.882,
      "eval_steps_per_second": 16.86,
      "step": 1000
    },
    {
      "epoch": 3.35,
      "grad_norm": 0.01046798750758171,
      "learning_rate": 0.00015533333333333333,
      "loss": 0.0024,
      "step": 1005
    },
    {
      "epoch": 3.3666666666666667,
      "grad_norm": 0.00756692374125123,
      "learning_rate": 0.00015511111111111113,
      "loss": 0.002,
      "step": 1010
    },
    {
      "epoch": 3.3833333333333333,
      "grad_norm": 0.008534146472811699,
      "learning_rate": 0.0001548888888888889,
      "loss": 0.0021,
      "step": 1015
    },
    {
      "epoch": 3.4,
      "grad_norm": 13.96424674987793,
      "learning_rate": 0.00015466666666666667,
      "loss": 0.0583,
      "step": 1020
    },
    {
      "epoch": 3.4166666666666665,
      "grad_norm": 0.03231124207377434,
      "learning_rate": 0.00015444444444444446,
      "loss": 0.0595,
      "step": 1025
    },
    {
      "epoch": 3.4333333333333336,
      "grad_norm": 10.015932083129883,
      "learning_rate": 0.00015422222222222223,
      "loss": 0.1962,
      "step": 1030
    },
    {
      "epoch": 3.45,
      "grad_norm": 0.010346735827624798,
      "learning_rate": 0.000154,
      "loss": 0.0782,
      "step": 1035
    },
    {
      "epoch": 3.466666666666667,
      "grad_norm": 0.012571693398058414,
      "learning_rate": 0.00015377777777777777,
      "loss": 0.0895,
      "step": 1040
    },
    {
      "epoch": 3.4833333333333334,
      "grad_norm": 0.023849934339523315,
      "learning_rate": 0.00015355555555555557,
      "loss": 0.0051,
      "step": 1045
    },
    {
      "epoch": 3.5,
      "grad_norm": 0.023584160953760147,
      "learning_rate": 0.00015333333333333334,
      "loss": 0.0032,
      "step": 1050
    },
    {
      "epoch": 3.5166666666666666,
      "grad_norm": 7.2678375244140625,
      "learning_rate": 0.0001531111111111111,
      "loss": 0.0454,
      "step": 1055
    },
    {
      "epoch": 3.533333333333333,
      "grad_norm": 0.31787246465682983,
      "learning_rate": 0.0001528888888888889,
      "loss": 0.0053,
      "step": 1060
    },
    {
      "epoch": 3.55,
      "grad_norm": 8.9823579788208,
      "learning_rate": 0.00015266666666666667,
      "loss": 0.2532,
      "step": 1065
    },
    {
      "epoch": 3.5666666666666664,
      "grad_norm": 0.4437325596809387,
      "learning_rate": 0.00015244444444444447,
      "loss": 0.0048,
      "step": 1070
    },
    {
      "epoch": 3.5833333333333335,
      "grad_norm": 0.010429322719573975,
      "learning_rate": 0.0001522222222222222,
      "loss": 0.0252,
      "step": 1075
    },
    {
      "epoch": 3.6,
      "grad_norm": 0.014120393432676792,
      "learning_rate": 0.000152,
      "loss": 0.082,
      "step": 1080
    },
    {
      "epoch": 3.6166666666666667,
      "grad_norm": 0.023069385439157486,
      "learning_rate": 0.00015177777777777778,
      "loss": 0.0953,
      "step": 1085
    },
    {
      "epoch": 3.6333333333333333,
      "grad_norm": 1.0645391941070557,
      "learning_rate": 0.00015155555555555557,
      "loss": 0.0297,
      "step": 1090
    },
    {
      "epoch": 3.65,
      "grad_norm": 6.408895969390869,
      "learning_rate": 0.00015133333333333334,
      "loss": 0.153,
      "step": 1095
    },
    {
      "epoch": 3.6666666666666665,
      "grad_norm": 0.08247009664773941,
      "learning_rate": 0.0001511111111111111,
      "loss": 0.0813,
      "step": 1100
    },
    {
      "epoch": 3.6666666666666665,
      "eval_accuracy": 0.8283333333333334,
      "eval_f1": 0.8153218585908976,
      "eval_loss": 1.1115546226501465,
      "eval_precision": 0.8461531497732367,
      "eval_recall": 0.8283333333333334,
      "eval_runtime": 8.72,
      "eval_samples_per_second": 137.614,
      "eval_steps_per_second": 17.202,
      "step": 1100
    },
    {
      "epoch": 3.6833333333333336,
      "grad_norm": 2.2501113414764404,
      "learning_rate": 0.0001508888888888889,
      "loss": 0.09,
      "step": 1105
    },
    {
      "epoch": 3.7,
      "grad_norm": 14.060626029968262,
      "learning_rate": 0.00015066666666666668,
      "loss": 0.0142,
      "step": 1110
    },
    {
      "epoch": 3.716666666666667,
      "grad_norm": 2.656930446624756,
      "learning_rate": 0.00015044444444444445,
      "loss": 0.1578,
      "step": 1115
    },
    {
      "epoch": 3.7333333333333334,
      "grad_norm": 4.284609317779541,
      "learning_rate": 0.00015022222222222222,
      "loss": 0.0625,
      "step": 1120
    },
    {
      "epoch": 3.75,
      "grad_norm": 0.9886121153831482,
      "learning_rate": 0.00015000000000000001,
      "loss": 0.0056,
      "step": 1125
    },
    {
      "epoch": 3.7666666666666666,
      "grad_norm": 0.025414209812879562,
      "learning_rate": 0.00014977777777777778,
      "loss": 0.0073,
      "step": 1130
    },
    {
      "epoch": 3.783333333333333,
      "grad_norm": 0.011270332150161266,
      "learning_rate": 0.00014955555555555555,
      "loss": 0.1558,
      "step": 1135
    },
    {
      "epoch": 3.8,
      "grad_norm": 0.23654381930828094,
      "learning_rate": 0.00014933333333333335,
      "loss": 0.0033,
      "step": 1140
    },
    {
      "epoch": 3.8166666666666664,
      "grad_norm": 0.030226262286305428,
      "learning_rate": 0.00014911111111111112,
      "loss": 0.0035,
      "step": 1145
    },
    {
      "epoch": 3.8333333333333335,
      "grad_norm": 0.008868388831615448,
      "learning_rate": 0.0001488888888888889,
      "loss": 0.0816,
      "step": 1150
    },
    {
      "epoch": 3.85,
      "grad_norm": 0.011427161283791065,
      "learning_rate": 0.00014866666666666666,
      "loss": 0.0098,
      "step": 1155
    },
    {
      "epoch": 3.8666666666666667,
      "grad_norm": 0.008781285025179386,
      "learning_rate": 0.00014844444444444445,
      "loss": 0.0837,
      "step": 1160
    },
    {
      "epoch": 3.8833333333333333,
      "grad_norm": 2.3426361083984375,
      "learning_rate": 0.00014822222222222225,
      "loss": 0.0325,
      "step": 1165
    },
    {
      "epoch": 3.9,
      "grad_norm": 1.9499034881591797,
      "learning_rate": 0.000148,
      "loss": 0.0078,
      "step": 1170
    },
    {
      "epoch": 3.9166666666666665,
      "grad_norm": 0.01272586639970541,
      "learning_rate": 0.0001477777777777778,
      "loss": 0.066,
      "step": 1175
    },
    {
      "epoch": 3.9333333333333336,
      "grad_norm": 6.519887447357178,
      "learning_rate": 0.00014755555555555556,
      "loss": 0.1084,
      "step": 1180
    },
    {
      "epoch": 3.95,
      "grad_norm": 0.03018871136009693,
      "learning_rate": 0.00014733333333333335,
      "loss": 0.0411,
      "step": 1185
    },
    {
      "epoch": 3.966666666666667,
      "grad_norm": 0.020697273313999176,
      "learning_rate": 0.00014711111111111112,
      "loss": 0.0026,
      "step": 1190
    },
    {
      "epoch": 3.9833333333333334,
      "grad_norm": 0.014702321030199528,
      "learning_rate": 0.0001468888888888889,
      "loss": 0.0949,
      "step": 1195
    },
    {
      "epoch": 4.0,
      "grad_norm": 10.576664924621582,
      "learning_rate": 0.00014666666666666666,
      "loss": 0.0336,
      "step": 1200
    },
    {
      "epoch": 4.0,
      "eval_accuracy": 0.82,
      "eval_f1": 0.8154829066505986,
      "eval_loss": 0.9245908856391907,
      "eval_precision": 0.8214551336163639,
      "eval_recall": 0.82,
      "eval_runtime": 9.3954,
      "eval_samples_per_second": 127.723,
      "eval_steps_per_second": 15.965,
      "step": 1200
    },
    {
      "epoch": 4.016666666666667,
      "grad_norm": 7.6925950050354,
      "learning_rate": 0.00014644444444444446,
      "loss": 0.0736,
      "step": 1205
    },
    {
      "epoch": 4.033333333333333,
      "grad_norm": 0.06486380845308304,
      "learning_rate": 0.00014622222222222223,
      "loss": 0.0029,
      "step": 1210
    },
    {
      "epoch": 4.05,
      "grad_norm": 0.027041492983698845,
      "learning_rate": 0.000146,
      "loss": 0.1858,
      "step": 1215
    },
    {
      "epoch": 4.066666666666666,
      "grad_norm": 0.05339476093649864,
      "learning_rate": 0.0001457777777777778,
      "loss": 0.0326,
      "step": 1220
    },
    {
      "epoch": 4.083333333333333,
      "grad_norm": 0.019409481436014175,
      "learning_rate": 0.00014555555555555556,
      "loss": 0.011,
      "step": 1225
    },
    {
      "epoch": 4.1,
      "grad_norm": 0.015091550536453724,
      "learning_rate": 0.00014533333333333333,
      "loss": 0.1539,
      "step": 1230
    },
    {
      "epoch": 4.116666666666666,
      "grad_norm": 6.112548828125,
      "learning_rate": 0.0001451111111111111,
      "loss": 0.0081,
      "step": 1235
    },
    {
      "epoch": 4.133333333333334,
      "grad_norm": 14.19621467590332,
      "learning_rate": 0.0001448888888888889,
      "loss": 0.0621,
      "step": 1240
    },
    {
      "epoch": 4.15,
      "grad_norm": 0.012991376221179962,
      "learning_rate": 0.0001446666666666667,
      "loss": 0.0026,
      "step": 1245
    },
    {
      "epoch": 4.166666666666667,
      "grad_norm": 0.021972861140966415,
      "learning_rate": 0.00014444444444444444,
      "loss": 0.0053,
      "step": 1250
    },
    {
      "epoch": 4.183333333333334,
      "grad_norm": 0.7917935848236084,
      "learning_rate": 0.00014422222222222223,
      "loss": 0.0118,
      "step": 1255
    },
    {
      "epoch": 4.2,
      "grad_norm": 0.13153262436389923,
      "learning_rate": 0.000144,
      "loss": 0.0213,
      "step": 1260
    },
    {
      "epoch": 4.216666666666667,
      "grad_norm": 0.008815348148345947,
      "learning_rate": 0.0001437777777777778,
      "loss": 0.2134,
      "step": 1265
    },
    {
      "epoch": 4.233333333333333,
      "grad_norm": 0.013245672918856144,
      "learning_rate": 0.00014355555555555554,
      "loss": 0.0038,
      "step": 1270
    },
    {
      "epoch": 4.25,
      "grad_norm": 0.024122415110468864,
      "learning_rate": 0.00014333333333333334,
      "loss": 0.0438,
      "step": 1275
    },
    {
      "epoch": 4.266666666666667,
      "grad_norm": 0.047088611871004105,
      "learning_rate": 0.0001431111111111111,
      "loss": 0.0031,
      "step": 1280
    },
    {
      "epoch": 4.283333333333333,
      "grad_norm": 0.02412225492298603,
      "learning_rate": 0.0001428888888888889,
      "loss": 0.0087,
      "step": 1285
    },
    {
      "epoch": 4.3,
      "grad_norm": 0.007503437343984842,
      "learning_rate": 0.00014266666666666667,
      "loss": 0.0268,
      "step": 1290
    },
    {
      "epoch": 4.316666666666666,
      "grad_norm": 0.006883990950882435,
      "learning_rate": 0.00014244444444444444,
      "loss": 0.0034,
      "step": 1295
    },
    {
      "epoch": 4.333333333333333,
      "grad_norm": 0.006626887246966362,
      "learning_rate": 0.00014222222222222224,
      "loss": 0.0291,
      "step": 1300
    },
    {
      "epoch": 4.333333333333333,
      "eval_accuracy": 0.8808333333333334,
      "eval_f1": 0.8818847899230836,
      "eval_loss": 0.6674115061759949,
      "eval_precision": 0.8979551136113476,
      "eval_recall": 0.8808333333333334,
      "eval_runtime": 8.9056,
      "eval_samples_per_second": 134.747,
      "eval_steps_per_second": 16.843,
      "step": 1300
    },
    {
      "epoch": 4.35,
      "grad_norm": 0.014695021323859692,
      "learning_rate": 0.000142,
      "loss": 0.0018,
      "step": 1305
    },
    {
      "epoch": 4.366666666666666,
      "grad_norm": 3.8195853233337402,
      "learning_rate": 0.00014177777777777778,
      "loss": 0.0054,
      "step": 1310
    },
    {
      "epoch": 4.383333333333334,
      "grad_norm": 0.00899900309741497,
      "learning_rate": 0.00014155555555555555,
      "loss": 0.0461,
      "step": 1315
    },
    {
      "epoch": 4.4,
      "grad_norm": 0.009712768718600273,
      "learning_rate": 0.00014133333333333334,
      "loss": 0.1141,
      "step": 1320
    },
    {
      "epoch": 4.416666666666667,
      "grad_norm": 0.008229678496718407,
      "learning_rate": 0.00014111111111111111,
      "loss": 0.0637,
      "step": 1325
    },
    {
      "epoch": 4.433333333333334,
      "grad_norm": 0.007422121241688728,
      "learning_rate": 0.00014088888888888888,
      "loss": 0.0021,
      "step": 1330
    },
    {
      "epoch": 4.45,
      "grad_norm": 0.007581421639770269,
      "learning_rate": 0.00014066666666666668,
      "loss": 0.0041,
      "step": 1335
    },
    {
      "epoch": 4.466666666666667,
      "grad_norm": 0.05982397124171257,
      "learning_rate": 0.00014044444444444445,
      "loss": 0.0025,
      "step": 1340
    },
    {
      "epoch": 4.483333333333333,
      "grad_norm": 0.0070072985254228115,
      "learning_rate": 0.00014022222222222225,
      "loss": 0.0074,
      "step": 1345
    },
    {
      "epoch": 4.5,
      "grad_norm": 0.007918662391602993,
      "learning_rate": 0.00014,
      "loss": 0.0016,
      "step": 1350
    },
    {
      "epoch": 4.516666666666667,
      "grad_norm": 0.00740545429289341,
      "learning_rate": 0.00013977777777777778,
      "loss": 0.0018,
      "step": 1355
    },
    {
      "epoch": 4.533333333333333,
      "grad_norm": 0.006233560387045145,
      "learning_rate": 0.00013955555555555558,
      "loss": 0.0275,
      "step": 1360
    },
    {
      "epoch": 4.55,
      "grad_norm": 0.006288221105933189,
      "learning_rate": 0.00013933333333333335,
      "loss": 0.0365,
      "step": 1365
    },
    {
      "epoch": 4.566666666666666,
      "grad_norm": 0.006922436412423849,
      "learning_rate": 0.00013911111111111112,
      "loss": 0.0483,
      "step": 1370
    },
    {
      "epoch": 4.583333333333333,
      "grad_norm": 0.007000603713095188,
      "learning_rate": 0.0001388888888888889,
      "loss": 0.0015,
      "step": 1375
    },
    {
      "epoch": 4.6,
      "grad_norm": 0.006079886574298143,
      "learning_rate": 0.00013866666666666669,
      "loss": 0.0046,
      "step": 1380
    },
    {
      "epoch": 4.616666666666667,
      "grad_norm": 7.380216598510742,
      "learning_rate": 0.00013844444444444445,
      "loss": 0.0951,
      "step": 1385
    },
    {
      "epoch": 4.633333333333333,
      "grad_norm": 19.818767547607422,
      "learning_rate": 0.00013822222222222222,
      "loss": 0.0372,
      "step": 1390
    },
    {
      "epoch": 4.65,
      "grad_norm": 8.859148979187012,
      "learning_rate": 0.000138,
      "loss": 0.1111,
      "step": 1395
    },
    {
      "epoch": 4.666666666666667,
      "grad_norm": 2.000274896621704,
      "learning_rate": 0.0001377777777777778,
      "loss": 0.1018,
      "step": 1400
    },
    {
      "epoch": 4.666666666666667,
      "eval_accuracy": 0.8666666666666667,
      "eval_f1": 0.8641354523943355,
      "eval_loss": 0.725638210773468,
      "eval_precision": 0.8759810095375427,
      "eval_recall": 0.8666666666666667,
      "eval_runtime": 9.1439,
      "eval_samples_per_second": 131.236,
      "eval_steps_per_second": 16.404,
      "step": 1400
    },
    {
      "epoch": 4.683333333333334,
      "grad_norm": 0.006057216320186853,
      "learning_rate": 0.00013755555555555556,
      "loss": 0.1316,
      "step": 1405
    },
    {
      "epoch": 4.7,
      "grad_norm": 0.007651118095964193,
      "learning_rate": 0.00013733333333333333,
      "loss": 0.022,
      "step": 1410
    },
    {
      "epoch": 4.716666666666667,
      "grad_norm": 6.4687089920043945,
      "learning_rate": 0.00013711111111111113,
      "loss": 0.0286,
      "step": 1415
    },
    {
      "epoch": 4.733333333333333,
      "grad_norm": 21.748414993286133,
      "learning_rate": 0.0001368888888888889,
      "loss": 0.2241,
      "step": 1420
    },
    {
      "epoch": 4.75,
      "grad_norm": 0.01065212395042181,
      "learning_rate": 0.00013666666666666666,
      "loss": 0.0017,
      "step": 1425
    },
    {
      "epoch": 4.766666666666667,
      "grad_norm": 0.007719677872955799,
      "learning_rate": 0.00013644444444444443,
      "loss": 0.0039,
      "step": 1430
    },
    {
      "epoch": 4.783333333333333,
      "grad_norm": 0.011384508572518826,
      "learning_rate": 0.00013622222222222223,
      "loss": 0.0018,
      "step": 1435
    },
    {
      "epoch": 4.8,
      "grad_norm": 0.1700707972049713,
      "learning_rate": 0.00013600000000000003,
      "loss": 0.0021,
      "step": 1440
    },
    {
      "epoch": 4.816666666666666,
      "grad_norm": 5.172432899475098,
      "learning_rate": 0.00013577777777777777,
      "loss": 0.0165,
      "step": 1445
    },
    {
      "epoch": 4.833333333333333,
      "grad_norm": 6.091001987457275,
      "learning_rate": 0.00013555555555555556,
      "loss": 0.347,
      "step": 1450
    },
    {
      "epoch": 4.85,
      "grad_norm": 0.007254641503095627,
      "learning_rate": 0.00013533333333333333,
      "loss": 0.1225,
      "step": 1455
    },
    {
      "epoch": 4.866666666666667,
      "grad_norm": 1.1256836652755737,
      "learning_rate": 0.00013511111111111113,
      "loss": 0.4221,
      "step": 1460
    },
    {
      "epoch": 4.883333333333333,
      "grad_norm": 4.4282546043396,
      "learning_rate": 0.0001348888888888889,
      "loss": 0.6962,
      "step": 1465
    },
    {
      "epoch": 4.9,
      "grad_norm": 0.02394678071141243,
      "learning_rate": 0.00013466666666666667,
      "loss": 0.2208,
      "step": 1470
    },
    {
      "epoch": 4.916666666666667,
      "grad_norm": 0.13218070566654205,
      "learning_rate": 0.00013444444444444447,
      "loss": 0.1753,
      "step": 1475
    },
    {
      "epoch": 4.933333333333334,
      "grad_norm": 0.04028937593102455,
      "learning_rate": 0.00013422222222222224,
      "loss": 0.0081,
      "step": 1480
    },
    {
      "epoch": 4.95,
      "grad_norm": 0.1361488401889801,
      "learning_rate": 0.000134,
      "loss": 0.0079,
      "step": 1485
    },
    {
      "epoch": 4.966666666666667,
      "grad_norm": 6.192990303039551,
      "learning_rate": 0.00013377777777777777,
      "loss": 0.1243,
      "step": 1490
    },
    {
      "epoch": 4.983333333333333,
      "grad_norm": 0.018544616177678108,
      "learning_rate": 0.00013355555555555557,
      "loss": 0.0036,
      "step": 1495
    },
    {
      "epoch": 5.0,
      "grad_norm": 7.941421031951904,
      "learning_rate": 0.00013333333333333334,
      "loss": 0.0739,
      "step": 1500
    },
    {
      "epoch": 5.0,
      "eval_accuracy": 0.8908333333333334,
      "eval_f1": 0.8913409167235566,
      "eval_loss": 0.4148966670036316,
      "eval_precision": 0.9082009655928012,
      "eval_recall": 0.8908333333333334,
      "eval_runtime": 9.0116,
      "eval_samples_per_second": 133.161,
      "eval_steps_per_second": 16.645,
      "step": 1500
    },
    {
      "epoch": 5.016666666666667,
      "grad_norm": 0.1697550266981125,
      "learning_rate": 0.0001331111111111111,
      "loss": 0.0033,
      "step": 1505
    },
    {
      "epoch": 5.033333333333333,
      "grad_norm": 1.809443712234497,
      "learning_rate": 0.00013288888888888888,
      "loss": 0.1276,
      "step": 1510
    },
    {
      "epoch": 5.05,
      "grad_norm": 0.23678617179393768,
      "learning_rate": 0.00013266666666666667,
      "loss": 0.0563,
      "step": 1515
    },
    {
      "epoch": 5.066666666666666,
      "grad_norm": 0.01901991292834282,
      "learning_rate": 0.00013244444444444447,
      "loss": 0.0039,
      "step": 1520
    },
    {
      "epoch": 5.083333333333333,
      "grad_norm": 0.5607277750968933,
      "learning_rate": 0.00013222222222222221,
      "loss": 0.0407,
      "step": 1525
    },
    {
      "epoch": 5.1,
      "grad_norm": 0.011591259390115738,
      "learning_rate": 0.000132,
      "loss": 0.038,
      "step": 1530
    },
    {
      "epoch": 5.116666666666666,
      "grad_norm": 11.2507905960083,
      "learning_rate": 0.00013177777777777778,
      "loss": 0.1,
      "step": 1535
    },
    {
      "epoch": 5.133333333333334,
      "grad_norm": 0.020763032138347626,
      "learning_rate": 0.00013155555555555558,
      "loss": 0.0103,
      "step": 1540
    },
    {
      "epoch": 5.15,
      "grad_norm": 0.009966735728085041,
      "learning_rate": 0.00013133333333333332,
      "loss": 0.0023,
      "step": 1545
    },
    {
      "epoch": 5.166666666666667,
      "grad_norm": 9.604549407958984,
      "learning_rate": 0.00013111111111111111,
      "loss": 0.1445,
      "step": 1550
    },
    {
      "epoch": 5.183333333333334,
      "grad_norm": 0.05882574990391731,
      "learning_rate": 0.0001308888888888889,
      "loss": 0.0025,
      "step": 1555
    },
    {
      "epoch": 5.2,
      "grad_norm": 2.026946544647217,
      "learning_rate": 0.00013066666666666668,
      "loss": 0.0119,
      "step": 1560
    },
    {
      "epoch": 5.216666666666667,
      "grad_norm": 0.01480905245989561,
      "learning_rate": 0.00013044444444444445,
      "loss": 0.0221,
      "step": 1565
    },
    {
      "epoch": 5.233333333333333,
      "grad_norm": 0.00867718830704689,
      "learning_rate": 0.00013022222222222222,
      "loss": 0.0033,
      "step": 1570
    },
    {
      "epoch": 5.25,
      "grad_norm": 0.0071746413595974445,
      "learning_rate": 0.00013000000000000002,
      "loss": 0.0504,
      "step": 1575
    },
    {
      "epoch": 5.266666666666667,
      "grad_norm": 1.9358389377593994,
      "learning_rate": 0.00012977777777777779,
      "loss": 0.0949,
      "step": 1580
    },
    {
      "epoch": 5.283333333333333,
      "grad_norm": 0.011087492108345032,
      "learning_rate": 0.00012955555555555555,
      "loss": 0.0028,
      "step": 1585
    },
    {
      "epoch": 5.3,
      "grad_norm": 0.12059392035007477,
      "learning_rate": 0.00012933333333333332,
      "loss": 0.0021,
      "step": 1590
    },
    {
      "epoch": 5.316666666666666,
      "grad_norm": 0.006728324573487043,
      "learning_rate": 0.00012911111111111112,
      "loss": 0.0084,
      "step": 1595
    },
    {
      "epoch": 5.333333333333333,
      "grad_norm": 0.007860877551138401,
      "learning_rate": 0.00012888888888888892,
      "loss": 0.0017,
      "step": 1600
    },
    {
      "epoch": 5.333333333333333,
      "eval_accuracy": 0.9208333333333333,
      "eval_f1": 0.9218711422212893,
      "eval_loss": 0.35528847575187683,
      "eval_precision": 0.9290955015139318,
      "eval_recall": 0.9208333333333333,
      "eval_runtime": 9.1722,
      "eval_samples_per_second": 130.83,
      "eval_steps_per_second": 16.354,
      "step": 1600
    },
    {
      "epoch": 5.35,
      "grad_norm": 0.009050875902175903,
      "learning_rate": 0.00012866666666666666,
      "loss": 0.0028,
      "step": 1605
    },
    {
      "epoch": 5.366666666666666,
      "grad_norm": 13.488404273986816,
      "learning_rate": 0.00012844444444444446,
      "loss": 0.0193,
      "step": 1610
    },
    {
      "epoch": 5.383333333333334,
      "grad_norm": 0.006627243012189865,
      "learning_rate": 0.00012822222222222222,
      "loss": 0.057,
      "step": 1615
    },
    {
      "epoch": 5.4,
      "grad_norm": 0.011821187101304531,
      "learning_rate": 0.00012800000000000002,
      "loss": 0.0016,
      "step": 1620
    },
    {
      "epoch": 5.416666666666667,
      "grad_norm": 0.006330575793981552,
      "learning_rate": 0.00012777777777777776,
      "loss": 0.0016,
      "step": 1625
    },
    {
      "epoch": 5.433333333333334,
      "grad_norm": 0.005689023528248072,
      "learning_rate": 0.00012755555555555556,
      "loss": 0.0015,
      "step": 1630
    },
    {
      "epoch": 5.45,
      "grad_norm": 0.005445361137390137,
      "learning_rate": 0.00012733333333333336,
      "loss": 0.0075,
      "step": 1635
    },
    {
      "epoch": 5.466666666666667,
      "grad_norm": 0.005431692115962505,
      "learning_rate": 0.00012711111111111113,
      "loss": 0.0015,
      "step": 1640
    },
    {
      "epoch": 5.483333333333333,
      "grad_norm": 0.008906959556043148,
      "learning_rate": 0.0001268888888888889,
      "loss": 0.0023,
      "step": 1645
    },
    {
      "epoch": 5.5,
      "grad_norm": 0.006748711224645376,
      "learning_rate": 0.00012666666666666666,
      "loss": 0.0017,
      "step": 1650
    },
    {
      "epoch": 5.516666666666667,
      "grad_norm": 0.005468005780130625,
      "learning_rate": 0.00012644444444444446,
      "loss": 0.0019,
      "step": 1655
    },
    {
      "epoch": 5.533333333333333,
      "grad_norm": 0.005720044951885939,
      "learning_rate": 0.00012622222222222223,
      "loss": 0.0013,
      "step": 1660
    },
    {
      "epoch": 5.55,
      "grad_norm": 0.006592278368771076,
      "learning_rate": 0.000126,
      "loss": 0.0013,
      "step": 1665
    },
    {
      "epoch": 5.566666666666666,
      "grad_norm": 0.013585134409368038,
      "learning_rate": 0.0001257777777777778,
      "loss": 0.0019,
      "step": 1670
    },
    {
      "epoch": 5.583333333333333,
      "grad_norm": 0.004472634755074978,
      "learning_rate": 0.00012555555555555557,
      "loss": 0.0012,
      "step": 1675
    },
    {
      "epoch": 5.6,
      "grad_norm": 0.005990944802761078,
      "learning_rate": 0.00012533333333333334,
      "loss": 0.0013,
      "step": 1680
    },
    {
      "epoch": 5.616666666666667,
      "grad_norm": 0.005291386973112822,
      "learning_rate": 0.0001251111111111111,
      "loss": 0.0012,
      "step": 1685
    },
    {
      "epoch": 5.633333333333333,
      "grad_norm": 0.00506833428516984,
      "learning_rate": 0.0001248888888888889,
      "loss": 0.0012,
      "step": 1690
    },
    {
      "epoch": 5.65,
      "grad_norm": 0.00418440718203783,
      "learning_rate": 0.00012466666666666667,
      "loss": 0.0011,
      "step": 1695
    },
    {
      "epoch": 5.666666666666667,
      "grad_norm": 0.005168416071683168,
      "learning_rate": 0.00012444444444444444,
      "loss": 0.0011,
      "step": 1700
    },
    {
      "epoch": 5.666666666666667,
      "eval_accuracy": 0.915,
      "eval_f1": 0.9156919420620937,
      "eval_loss": 0.39337947964668274,
      "eval_precision": 0.9187612753473896,
      "eval_recall": 0.915,
      "eval_runtime": 9.2574,
      "eval_samples_per_second": 129.626,
      "eval_steps_per_second": 16.203,
      "step": 1700
    },
    {
      "epoch": 5.683333333333334,
      "grad_norm": 0.004368654917925596,
      "learning_rate": 0.0001242222222222222,
      "loss": 0.0012,
      "step": 1705
    },
    {
      "epoch": 5.7,
      "grad_norm": 0.004496621899306774,
      "learning_rate": 0.000124,
      "loss": 0.0011,
      "step": 1710
    },
    {
      "epoch": 5.716666666666667,
      "grad_norm": 0.005269372370094061,
      "learning_rate": 0.0001237777777777778,
      "loss": 0.0011,
      "step": 1715
    },
    {
      "epoch": 5.733333333333333,
      "grad_norm": 0.005132489372044802,
      "learning_rate": 0.00012355555555555557,
      "loss": 0.0011,
      "step": 1720
    },
    {
      "epoch": 5.75,
      "grad_norm": 0.004739060997962952,
      "learning_rate": 0.00012333333333333334,
      "loss": 0.0164,
      "step": 1725
    },
    {
      "epoch": 5.766666666666667,
      "grad_norm": 0.004856698680669069,
      "learning_rate": 0.0001231111111111111,
      "loss": 0.0011,
      "step": 1730
    },
    {
      "epoch": 5.783333333333333,
      "grad_norm": 0.02996119298040867,
      "learning_rate": 0.0001228888888888889,
      "loss": 0.0013,
      "step": 1735
    },
    {
      "epoch": 5.8,
      "grad_norm": 0.0049500358290970325,
      "learning_rate": 0.00012266666666666668,
      "loss": 0.0011,
      "step": 1740
    },
    {
      "epoch": 5.816666666666666,
      "grad_norm": 0.004583208356052637,
      "learning_rate": 0.00012244444444444445,
      "loss": 0.0011,
      "step": 1745
    },
    {
      "epoch": 5.833333333333333,
      "grad_norm": 3.4176456928253174,
      "learning_rate": 0.00012222222222222224,
      "loss": 0.0068,
      "step": 1750
    },
    {
      "epoch": 5.85,
      "grad_norm": 0.005449202377349138,
      "learning_rate": 0.000122,
      "loss": 0.0011,
      "step": 1755
    },
    {
      "epoch": 5.866666666666667,
      "grad_norm": 0.004618548322468996,
      "learning_rate": 0.0001217777777777778,
      "loss": 0.0011,
      "step": 1760
    },
    {
      "epoch": 5.883333333333333,
      "grad_norm": 0.003689804347231984,
      "learning_rate": 0.00012155555555555555,
      "loss": 0.001,
      "step": 1765
    },
    {
      "epoch": 5.9,
      "grad_norm": 4.3718976974487305,
      "learning_rate": 0.00012133333333333335,
      "loss": 0.0796,
      "step": 1770
    },
    {
      "epoch": 5.916666666666667,
      "grad_norm": 0.004823042079806328,
      "learning_rate": 0.0001211111111111111,
      "loss": 0.0012,
      "step": 1775
    },
    {
      "epoch": 5.933333333333334,
      "grad_norm": 0.021751277148723602,
      "learning_rate": 0.0001208888888888889,
      "loss": 0.0012,
      "step": 1780
    },
    {
      "epoch": 5.95,
      "grad_norm": 0.006205986253917217,
      "learning_rate": 0.00012066666666666668,
      "loss": 0.0441,
      "step": 1785
    },
    {
      "epoch": 5.966666666666667,
      "grad_norm": 4.960291862487793,
      "learning_rate": 0.00012044444444444445,
      "loss": 0.007,
      "step": 1790
    },
    {
      "epoch": 5.983333333333333,
      "grad_norm": 0.03210550174117088,
      "learning_rate": 0.00012022222222222223,
      "loss": 0.0011,
      "step": 1795
    },
    {
      "epoch": 6.0,
      "grad_norm": 2.1738221645355225,
      "learning_rate": 0.00012,
      "loss": 0.0056,
      "step": 1800
    },
    {
      "epoch": 6.0,
      "eval_accuracy": 0.8725,
      "eval_f1": 0.8733475224272235,
      "eval_loss": 0.8180264234542847,
      "eval_precision": 0.9138964084798945,
      "eval_recall": 0.8725,
      "eval_runtime": 9.0457,
      "eval_samples_per_second": 132.659,
      "eval_steps_per_second": 16.582,
      "step": 1800
    },
    {
      "epoch": 6.016666666666667,
      "grad_norm": 10.007519721984863,
      "learning_rate": 0.00011977777777777779,
      "loss": 0.0819,
      "step": 1805
    },
    {
      "epoch": 6.033333333333333,
      "grad_norm": 0.039866480976343155,
      "learning_rate": 0.00011955555555555556,
      "loss": 0.0012,
      "step": 1810
    },
    {
      "epoch": 6.05,
      "grad_norm": 1.0947333574295044,
      "learning_rate": 0.00011933333333333334,
      "loss": 0.096,
      "step": 1815
    },
    {
      "epoch": 6.066666666666666,
      "grad_norm": 0.005668656900525093,
      "learning_rate": 0.00011911111111111111,
      "loss": 0.1822,
      "step": 1820
    },
    {
      "epoch": 6.083333333333333,
      "grad_norm": 0.004341856576502323,
      "learning_rate": 0.00011888888888888889,
      "loss": 0.0168,
      "step": 1825
    },
    {
      "epoch": 6.1,
      "grad_norm": 0.022069284692406654,
      "learning_rate": 0.00011866666666666669,
      "loss": 0.004,
      "step": 1830
    },
    {
      "epoch": 6.116666666666666,
      "grad_norm": 0.04373789578676224,
      "learning_rate": 0.00011844444444444444,
      "loss": 0.0023,
      "step": 1835
    },
    {
      "epoch": 6.133333333333334,
      "grad_norm": 0.010069535113871098,
      "learning_rate": 0.00011822222222222224,
      "loss": 0.0016,
      "step": 1840
    },
    {
      "epoch": 6.15,
      "grad_norm": 0.004669378511607647,
      "learning_rate": 0.000118,
      "loss": 0.0012,
      "step": 1845
    },
    {
      "epoch": 6.166666666666667,
      "grad_norm": 0.006976722739636898,
      "learning_rate": 0.00011777777777777779,
      "loss": 0.0012,
      "step": 1850
    },
    {
      "epoch": 6.183333333333334,
      "grad_norm": 0.004174215253442526,
      "learning_rate": 0.00011755555555555555,
      "loss": 0.0012,
      "step": 1855
    },
    {
      "epoch": 6.2,
      "grad_norm": 0.006201991345733404,
      "learning_rate": 0.00011733333333333334,
      "loss": 0.0011,
      "step": 1860
    },
    {
      "epoch": 6.216666666666667,
      "grad_norm": 0.005096946842968464,
      "learning_rate": 0.00011711111111111113,
      "loss": 0.001,
      "step": 1865
    },
    {
      "epoch": 6.233333333333333,
      "grad_norm": 0.004020958207547665,
      "learning_rate": 0.0001168888888888889,
      "loss": 0.001,
      "step": 1870
    },
    {
      "epoch": 6.25,
      "grad_norm": 0.003921661525964737,
      "learning_rate": 0.00011666666666666668,
      "loss": 0.001,
      "step": 1875
    },
    {
      "epoch": 6.266666666666667,
      "grad_norm": 0.004293323494493961,
      "learning_rate": 0.00011644444444444445,
      "loss": 0.001,
      "step": 1880
    },
    {
      "epoch": 6.283333333333333,
      "grad_norm": 0.004199922550469637,
      "learning_rate": 0.00011622222222222223,
      "loss": 0.0016,
      "step": 1885
    },
    {
      "epoch": 6.3,
      "grad_norm": 0.003749808296561241,
      "learning_rate": 0.000116,
      "loss": 0.0009,
      "step": 1890
    },
    {
      "epoch": 6.316666666666666,
      "grad_norm": 0.013614035211503506,
      "learning_rate": 0.00011577777777777778,
      "loss": 0.001,
      "step": 1895
    },
    {
      "epoch": 6.333333333333333,
      "grad_norm": 0.0038896454498171806,
      "learning_rate": 0.00011555555555555555,
      "loss": 0.001,
      "step": 1900
    },
    {
      "epoch": 6.333333333333333,
      "eval_accuracy": 0.9225,
      "eval_f1": 0.9217165407686349,
      "eval_loss": 0.37899690866470337,
      "eval_precision": 0.9215822896962885,
      "eval_recall": 0.9225,
      "eval_runtime": 9.1716,
      "eval_samples_per_second": 130.839,
      "eval_steps_per_second": 16.355,
      "step": 1900
    },
    {
      "epoch": 6.35,
      "grad_norm": 0.004115717485547066,
      "learning_rate": 0.00011533333333333334,
      "loss": 0.0009,
      "step": 1905
    },
    {
      "epoch": 6.366666666666666,
      "grad_norm": 0.0038395130541175604,
      "learning_rate": 0.00011511111111111112,
      "loss": 0.0011,
      "step": 1910
    },
    {
      "epoch": 6.383333333333334,
      "grad_norm": 0.0042407214641571045,
      "learning_rate": 0.00011488888888888889,
      "loss": 0.0019,
      "step": 1915
    },
    {
      "epoch": 6.4,
      "grad_norm": 9.046331405639648,
      "learning_rate": 0.00011466666666666667,
      "loss": 0.0723,
      "step": 1920
    },
    {
      "epoch": 6.416666666666667,
      "grad_norm": 0.0031926233787089586,
      "learning_rate": 0.00011444444444444444,
      "loss": 0.0011,
      "step": 1925
    },
    {
      "epoch": 6.433333333333334,
      "grad_norm": 0.0039981659501791,
      "learning_rate": 0.00011422222222222224,
      "loss": 0.0009,
      "step": 1930
    },
    {
      "epoch": 6.45,
      "grad_norm": 0.004228394012898207,
      "learning_rate": 0.00011399999999999999,
      "loss": 0.0009,
      "step": 1935
    },
    {
      "epoch": 6.466666666666667,
      "grad_norm": 0.0033803812693804502,
      "learning_rate": 0.00011377777777777779,
      "loss": 0.056,
      "step": 1940
    },
    {
      "epoch": 6.483333333333333,
      "grad_norm": 0.004213247913867235,
      "learning_rate": 0.00011355555555555557,
      "loss": 0.0009,
      "step": 1945
    },
    {
      "epoch": 6.5,
      "grad_norm": 0.004235486499965191,
      "learning_rate": 0.00011333333333333334,
      "loss": 0.0009,
      "step": 1950
    },
    {
      "epoch": 6.516666666666667,
      "grad_norm": 0.004624640103429556,
      "learning_rate": 0.00011311111111111112,
      "loss": 0.0009,
      "step": 1955
    },
    {
      "epoch": 6.533333333333333,
      "grad_norm": 0.004162618424743414,
      "learning_rate": 0.0001128888888888889,
      "loss": 0.0009,
      "step": 1960
    },
    {
      "epoch": 6.55,
      "grad_norm": 0.020908009260892868,
      "learning_rate": 0.00011266666666666668,
      "loss": 0.0009,
      "step": 1965
    },
    {
      "epoch": 6.566666666666666,
      "grad_norm": 0.0076496838591992855,
      "learning_rate": 0.00011244444444444445,
      "loss": 0.001,
      "step": 1970
    },
    {
      "epoch": 6.583333333333333,
      "grad_norm": 0.004684626590460539,
      "learning_rate": 0.00011222222222222223,
      "loss": 0.0008,
      "step": 1975
    },
    {
      "epoch": 6.6,
      "grad_norm": 0.003952477592974901,
      "learning_rate": 0.00011200000000000001,
      "loss": 0.0009,
      "step": 1980
    },
    {
      "epoch": 6.616666666666667,
      "grad_norm": 0.011655239388346672,
      "learning_rate": 0.00011177777777777778,
      "loss": 0.0009,
      "step": 1985
    },
    {
      "epoch": 6.633333333333333,
      "grad_norm": 0.0041701640002429485,
      "learning_rate": 0.00011155555555555556,
      "loss": 0.0009,
      "step": 1990
    },
    {
      "epoch": 6.65,
      "grad_norm": 0.0033458974212408066,
      "learning_rate": 0.00011133333333333333,
      "loss": 0.0009,
      "step": 1995
    },
    {
      "epoch": 6.666666666666667,
      "grad_norm": 0.0040951939299702644,
      "learning_rate": 0.00011111111111111112,
      "loss": 0.0055,
      "step": 2000
    },
    {
      "epoch": 6.666666666666667,
      "eval_accuracy": 0.88,
      "eval_f1": 0.8765154783218433,
      "eval_loss": 0.6404462456703186,
      "eval_precision": 0.8910099976266666,
      "eval_recall": 0.88,
      "eval_runtime": 9.3084,
      "eval_samples_per_second": 128.915,
      "eval_steps_per_second": 16.114,
      "step": 2000
    },
    {
      "epoch": 6.683333333333334,
      "grad_norm": 0.003667522454634309,
      "learning_rate": 0.00011088888888888889,
      "loss": 0.0009,
      "step": 2005
    },
    {
      "epoch": 6.7,
      "grad_norm": 0.005424621514976025,
      "learning_rate": 0.00011066666666666667,
      "loss": 0.001,
      "step": 2010
    },
    {
      "epoch": 6.716666666666667,
      "grad_norm": 0.0038851965218782425,
      "learning_rate": 0.00011044444444444444,
      "loss": 0.0009,
      "step": 2015
    },
    {
      "epoch": 6.733333333333333,
      "grad_norm": 0.0028759173583239317,
      "learning_rate": 0.00011022222222222222,
      "loss": 0.0577,
      "step": 2020
    },
    {
      "epoch": 6.75,
      "grad_norm": 0.016843006014823914,
      "learning_rate": 0.00011000000000000002,
      "loss": 0.0009,
      "step": 2025
    },
    {
      "epoch": 6.766666666666667,
      "grad_norm": 0.0035899400245398283,
      "learning_rate": 0.00010977777777777777,
      "loss": 0.0011,
      "step": 2030
    },
    {
      "epoch": 6.783333333333333,
      "grad_norm": 0.0035740456078201532,
      "learning_rate": 0.00010955555555555557,
      "loss": 0.0008,
      "step": 2035
    },
    {
      "epoch": 6.8,
      "grad_norm": 0.0029519391246140003,
      "learning_rate": 0.00010933333333333333,
      "loss": 0.0044,
      "step": 2040
    },
    {
      "epoch": 6.816666666666666,
      "grad_norm": 0.0030879683326929808,
      "learning_rate": 0.00010911111111111112,
      "loss": 0.0008,
      "step": 2045
    },
    {
      "epoch": 6.833333333333333,
      "grad_norm": 0.0035639044363051653,
      "learning_rate": 0.00010888888888888889,
      "loss": 0.0391,
      "step": 2050
    },
    {
      "epoch": 6.85,
      "grad_norm": 0.0032893861643970013,
      "learning_rate": 0.00010866666666666667,
      "loss": 0.0008,
      "step": 2055
    },
    {
      "epoch": 6.866666666666667,
      "grad_norm": 0.002927222289144993,
      "learning_rate": 0.00010844444444444446,
      "loss": 0.0007,
      "step": 2060
    },
    {
      "epoch": 6.883333333333333,
      "grad_norm": 0.003143918002024293,
      "learning_rate": 0.00010822222222222223,
      "loss": 0.0008,
      "step": 2065
    },
    {
      "epoch": 6.9,
      "grad_norm": 0.004873975645750761,
      "learning_rate": 0.00010800000000000001,
      "loss": 0.0008,
      "step": 2070
    },
    {
      "epoch": 6.916666666666667,
      "grad_norm": 0.003287004306912422,
      "learning_rate": 0.00010777777777777778,
      "loss": 0.0015,
      "step": 2075
    },
    {
      "epoch": 6.933333333333334,
      "grad_norm": 0.0029774790164083242,
      "learning_rate": 0.00010755555555555556,
      "loss": 0.0008,
      "step": 2080
    },
    {
      "epoch": 6.95,
      "grad_norm": 0.0033549952786415815,
      "learning_rate": 0.00010733333333333333,
      "loss": 0.0007,
      "step": 2085
    },
    {
      "epoch": 6.966666666666667,
      "grad_norm": 0.0030331043526530266,
      "learning_rate": 0.00010711111111111111,
      "loss": 0.0008,
      "step": 2090
    },
    {
      "epoch": 6.983333333333333,
      "grad_norm": 0.0031924110371619463,
      "learning_rate": 0.00010688888888888891,
      "loss": 0.0008,
      "step": 2095
    },
    {
      "epoch": 7.0,
      "grad_norm": 0.004495875909924507,
      "learning_rate": 0.00010666666666666667,
      "loss": 0.0007,
      "step": 2100
    },
    {
      "epoch": 7.0,
      "eval_accuracy": 0.9016666666666666,
      "eval_f1": 0.9022896089979678,
      "eval_loss": 0.513279139995575,
      "eval_precision": 0.9073285165778966,
      "eval_recall": 0.9016666666666666,
      "eval_runtime": 8.8762,
      "eval_samples_per_second": 135.193,
      "eval_steps_per_second": 16.899,
      "step": 2100
    },
    {
      "epoch": 7.016666666666667,
      "grad_norm": 0.0027291111182421446,
      "learning_rate": 0.00010644444444444446,
      "loss": 0.0502,
      "step": 2105
    },
    {
      "epoch": 7.033333333333333,
      "grad_norm": 0.004291346296668053,
      "learning_rate": 0.00010622222222222222,
      "loss": 0.0007,
      "step": 2110
    },
    {
      "epoch": 7.05,
      "grad_norm": 0.002866696799173951,
      "learning_rate": 0.00010600000000000002,
      "loss": 0.0007,
      "step": 2115
    },
    {
      "epoch": 7.066666666666666,
      "grad_norm": 0.003109701443463564,
      "learning_rate": 0.00010577777777777777,
      "loss": 0.0008,
      "step": 2120
    },
    {
      "epoch": 7.083333333333333,
      "grad_norm": 0.47143256664276123,
      "learning_rate": 0.00010555555555555557,
      "loss": 0.0012,
      "step": 2125
    },
    {
      "epoch": 7.1,
      "grad_norm": 3.4080772399902344,
      "learning_rate": 0.00010533333333333332,
      "loss": 0.1117,
      "step": 2130
    },
    {
      "epoch": 7.116666666666666,
      "grad_norm": 0.006505741272121668,
      "learning_rate": 0.00010511111111111112,
      "loss": 0.0007,
      "step": 2135
    },
    {
      "epoch": 7.133333333333334,
      "grad_norm": 1.339626431465149,
      "learning_rate": 0.0001048888888888889,
      "loss": 0.1048,
      "step": 2140
    },
    {
      "epoch": 7.15,
      "grad_norm": 0.007603372447192669,
      "learning_rate": 0.00010466666666666667,
      "loss": 0.0864,
      "step": 2145
    },
    {
      "epoch": 7.166666666666667,
      "grad_norm": 0.08342389017343521,
      "learning_rate": 0.00010444444444444445,
      "loss": 0.0015,
      "step": 2150
    },
    {
      "epoch": 7.183333333333334,
      "grad_norm": 0.007539236452430487,
      "learning_rate": 0.00010422222222222222,
      "loss": 0.0129,
      "step": 2155
    },
    {
      "epoch": 7.2,
      "grad_norm": 0.009512491524219513,
      "learning_rate": 0.00010400000000000001,
      "loss": 0.0014,
      "step": 2160
    },
    {
      "epoch": 7.216666666666667,
      "grad_norm": 0.004037383943796158,
      "learning_rate": 0.00010377777777777778,
      "loss": 0.0014,
      "step": 2165
    },
    {
      "epoch": 7.233333333333333,
      "grad_norm": 0.00470249867066741,
      "learning_rate": 0.00010355555555555556,
      "loss": 0.0012,
      "step": 2170
    },
    {
      "epoch": 7.25,
      "grad_norm": 0.0068421997129917145,
      "learning_rate": 0.00010333333333333334,
      "loss": 0.0012,
      "step": 2175
    },
    {
      "epoch": 7.266666666666667,
      "grad_norm": 0.0033109283540397882,
      "learning_rate": 0.00010311111111111111,
      "loss": 0.001,
      "step": 2180
    },
    {
      "epoch": 7.283333333333333,
      "grad_norm": 0.005019412841647863,
      "learning_rate": 0.0001028888888888889,
      "loss": 0.001,
      "step": 2185
    },
    {
      "epoch": 7.3,
      "grad_norm": 0.0040481314063072205,
      "learning_rate": 0.00010266666666666666,
      "loss": 0.0009,
      "step": 2190
    },
    {
      "epoch": 7.316666666666666,
      "grad_norm": 0.004464903846383095,
      "learning_rate": 0.00010244444444444446,
      "loss": 0.0009,
      "step": 2195
    },
    {
      "epoch": 7.333333333333333,
      "grad_norm": 0.005483436398208141,
      "learning_rate": 0.00010222222222222222,
      "loss": 0.0009,
      "step": 2200
    },
    {
      "epoch": 7.333333333333333,
      "eval_accuracy": 0.92,
      "eval_f1": 0.9188676080530397,
      "eval_loss": 0.4627692699432373,
      "eval_precision": 0.9295730753386685,
      "eval_recall": 0.92,
      "eval_runtime": 9.2891,
      "eval_samples_per_second": 129.184,
      "eval_steps_per_second": 16.148,
      "step": 2200
    },
    {
      "epoch": 7.35,
      "grad_norm": 0.0038702059537172318,
      "learning_rate": 0.00010200000000000001,
      "loss": 0.001,
      "step": 2205
    },
    {
      "epoch": 7.366666666666666,
      "grad_norm": 0.0038493280299007893,
      "learning_rate": 0.00010177777777777777,
      "loss": 0.0306,
      "step": 2210
    },
    {
      "epoch": 7.383333333333334,
      "grad_norm": 0.003938222303986549,
      "learning_rate": 0.00010155555555555557,
      "loss": 0.0009,
      "step": 2215
    },
    {
      "epoch": 7.4,
      "grad_norm": 11.445056915283203,
      "learning_rate": 0.00010133333333333335,
      "loss": 0.0125,
      "step": 2220
    },
    {
      "epoch": 7.416666666666667,
      "grad_norm": 0.009006889536976814,
      "learning_rate": 0.00010111111111111112,
      "loss": 0.001,
      "step": 2225
    },
    {
      "epoch": 7.433333333333334,
      "grad_norm": 6.714020729064941,
      "learning_rate": 0.0001008888888888889,
      "loss": 0.0703,
      "step": 2230
    },
    {
      "epoch": 7.45,
      "grad_norm": 0.00743318535387516,
      "learning_rate": 0.00010066666666666667,
      "loss": 0.0011,
      "step": 2235
    },
    {
      "epoch": 7.466666666666667,
      "grad_norm": 0.005387397017329931,
      "learning_rate": 0.00010044444444444445,
      "loss": 0.0082,
      "step": 2240
    },
    {
      "epoch": 7.483333333333333,
      "grad_norm": 0.0055194636806845665,
      "learning_rate": 0.00010022222222222222,
      "loss": 0.0017,
      "step": 2245
    },
    {
      "epoch": 7.5,
      "grad_norm": 0.005403581541031599,
      "learning_rate": 0.0001,
      "loss": 0.001,
      "step": 2250
    },
    {
      "epoch": 7.516666666666667,
      "grad_norm": 0.006349413655698299,
      "learning_rate": 9.977777777777779e-05,
      "loss": 0.0199,
      "step": 2255
    },
    {
      "epoch": 7.533333333333333,
      "grad_norm": 0.003940677270293236,
      "learning_rate": 9.955555555555556e-05,
      "loss": 0.0014,
      "step": 2260
    },
    {
      "epoch": 7.55,
      "grad_norm": 0.003352801315486431,
      "learning_rate": 9.933333333333334e-05,
      "loss": 0.0007,
      "step": 2265
    },
    {
      "epoch": 7.566666666666666,
      "grad_norm": 0.00606605876237154,
      "learning_rate": 9.911111111111112e-05,
      "loss": 0.0007,
      "step": 2270
    },
    {
      "epoch": 7.583333333333333,
      "grad_norm": 0.002844355534762144,
      "learning_rate": 9.888888888888889e-05,
      "loss": 0.0008,
      "step": 2275
    },
    {
      "epoch": 7.6,
      "grad_norm": 0.004068328067660332,
      "learning_rate": 9.866666666666668e-05,
      "loss": 0.0008,
      "step": 2280
    },
    {
      "epoch": 7.616666666666667,
      "grad_norm": 0.10972823947668076,
      "learning_rate": 9.844444444444444e-05,
      "loss": 0.0008,
      "step": 2285
    },
    {
      "epoch": 7.633333333333333,
      "grad_norm": 0.06738967448472977,
      "learning_rate": 9.822222222222223e-05,
      "loss": 0.0008,
      "step": 2290
    },
    {
      "epoch": 7.65,
      "grad_norm": 0.003215282689779997,
      "learning_rate": 9.8e-05,
      "loss": 0.0007,
      "step": 2295
    },
    {
      "epoch": 7.666666666666667,
      "grad_norm": 0.005502969957888126,
      "learning_rate": 9.777777777777778e-05,
      "loss": 0.0007,
      "step": 2300
    },
    {
      "epoch": 7.666666666666667,
      "eval_accuracy": 0.8616666666666667,
      "eval_f1": 0.8580765993362992,
      "eval_loss": 0.8404937982559204,
      "eval_precision": 0.8743688645847988,
      "eval_recall": 0.8616666666666667,
      "eval_runtime": 9.0873,
      "eval_samples_per_second": 132.052,
      "eval_steps_per_second": 16.506,
      "step": 2300
    },
    {
      "epoch": 7.683333333333334,
      "grad_norm": 0.00322489975951612,
      "learning_rate": 9.755555555555555e-05,
      "loss": 0.0007,
      "step": 2305
    },
    {
      "epoch": 7.7,
      "grad_norm": 0.0035562338307499886,
      "learning_rate": 9.733333333333335e-05,
      "loss": 0.0007,
      "step": 2310
    },
    {
      "epoch": 7.716666666666667,
      "grad_norm": 0.02213164046406746,
      "learning_rate": 9.711111111111111e-05,
      "loss": 0.0008,
      "step": 2315
    },
    {
      "epoch": 7.733333333333333,
      "grad_norm": 0.003759977640584111,
      "learning_rate": 9.68888888888889e-05,
      "loss": 0.0619,
      "step": 2320
    },
    {
      "epoch": 7.75,
      "grad_norm": 0.003205573884770274,
      "learning_rate": 9.666666666666667e-05,
      "loss": 0.0019,
      "step": 2325
    },
    {
      "epoch": 7.766666666666667,
      "grad_norm": 0.0031685142312198877,
      "learning_rate": 9.644444444444445e-05,
      "loss": 0.0007,
      "step": 2330
    },
    {
      "epoch": 7.783333333333333,
      "grad_norm": 0.002831936115399003,
      "learning_rate": 9.622222222222222e-05,
      "loss": 0.0007,
      "step": 2335
    },
    {
      "epoch": 7.8,
      "grad_norm": 0.0028455930296331644,
      "learning_rate": 9.6e-05,
      "loss": 0.0007,
      "step": 2340
    },
    {
      "epoch": 7.816666666666666,
      "grad_norm": 0.003487803041934967,
      "learning_rate": 9.577777777777777e-05,
      "loss": 0.0007,
      "step": 2345
    },
    {
      "epoch": 7.833333333333333,
      "grad_norm": 0.002750263549387455,
      "learning_rate": 9.555555555555557e-05,
      "loss": 0.0006,
      "step": 2350
    },
    {
      "epoch": 7.85,
      "grad_norm": 0.002780881943181157,
      "learning_rate": 9.533333333333334e-05,
      "loss": 0.0007,
      "step": 2355
    },
    {
      "epoch": 7.866666666666667,
      "grad_norm": 0.003107690252363682,
      "learning_rate": 9.511111111111112e-05,
      "loss": 0.0006,
      "step": 2360
    },
    {
      "epoch": 7.883333333333333,
      "grad_norm": 0.002554483013227582,
      "learning_rate": 9.488888888888889e-05,
      "loss": 0.0058,
      "step": 2365
    },
    {
      "epoch": 7.9,
      "grad_norm": 0.002461701864376664,
      "learning_rate": 9.466666666666667e-05,
      "loss": 0.0021,
      "step": 2370
    },
    {
      "epoch": 7.916666666666667,
      "grad_norm": 0.0027203867211937904,
      "learning_rate": 9.444444444444444e-05,
      "loss": 0.022,
      "step": 2375
    },
    {
      "epoch": 7.933333333333334,
      "grad_norm": 0.01714247837662697,
      "learning_rate": 9.422222222222223e-05,
      "loss": 0.0007,
      "step": 2380
    },
    {
      "epoch": 7.95,
      "grad_norm": 0.003183771623298526,
      "learning_rate": 9.4e-05,
      "loss": 0.0007,
      "step": 2385
    },
    {
      "epoch": 7.966666666666667,
      "grad_norm": 0.00454747723415494,
      "learning_rate": 9.377777777777779e-05,
      "loss": 0.0007,
      "step": 2390
    },
    {
      "epoch": 7.983333333333333,
      "grad_norm": 0.0063476236537098885,
      "learning_rate": 9.355555555555556e-05,
      "loss": 0.0036,
      "step": 2395
    },
    {
      "epoch": 8.0,
      "grad_norm": 0.0034718092065304518,
      "learning_rate": 9.333333333333334e-05,
      "loss": 0.1144,
      "step": 2400
    },
    {
      "epoch": 8.0,
      "eval_accuracy": 0.8591666666666666,
      "eval_f1": 0.8566505610455221,
      "eval_loss": 1.0096209049224854,
      "eval_precision": 0.8953787726867342,
      "eval_recall": 0.8591666666666666,
      "eval_runtime": 9.0144,
      "eval_samples_per_second": 133.121,
      "eval_steps_per_second": 16.64,
      "step": 2400
    },
    {
      "epoch": 8.016666666666667,
      "grad_norm": 0.004157599527388811,
      "learning_rate": 9.311111111111111e-05,
      "loss": 0.0009,
      "step": 2405
    },
    {
      "epoch": 8.033333333333333,
      "grad_norm": 0.003612968372181058,
      "learning_rate": 9.28888888888889e-05,
      "loss": 0.0069,
      "step": 2410
    },
    {
      "epoch": 8.05,
      "grad_norm": 0.007817140780389309,
      "learning_rate": 9.266666666666666e-05,
      "loss": 0.001,
      "step": 2415
    },
    {
      "epoch": 8.066666666666666,
      "grad_norm": 0.013179785571992397,
      "learning_rate": 9.244444444444445e-05,
      "loss": 0.001,
      "step": 2420
    },
    {
      "epoch": 8.083333333333334,
      "grad_norm": 0.0026954005006700754,
      "learning_rate": 9.222222222222223e-05,
      "loss": 0.0011,
      "step": 2425
    },
    {
      "epoch": 8.1,
      "grad_norm": 0.011307265609502792,
      "learning_rate": 9.200000000000001e-05,
      "loss": 0.0014,
      "step": 2430
    },
    {
      "epoch": 8.116666666666667,
      "grad_norm": 0.008847853168845177,
      "learning_rate": 9.177777777777778e-05,
      "loss": 0.0031,
      "step": 2435
    },
    {
      "epoch": 8.133333333333333,
      "grad_norm": 0.004717275965958834,
      "learning_rate": 9.155555555555557e-05,
      "loss": 0.0009,
      "step": 2440
    },
    {
      "epoch": 8.15,
      "grad_norm": 0.0026141307316720486,
      "learning_rate": 9.133333333333334e-05,
      "loss": 0.0008,
      "step": 2445
    },
    {
      "epoch": 8.166666666666666,
      "grad_norm": 0.0034364291932433844,
      "learning_rate": 9.111111111111112e-05,
      "loss": 0.0008,
      "step": 2450
    },
    {
      "epoch": 8.183333333333334,
      "grad_norm": 0.002849441021680832,
      "learning_rate": 9.088888888888889e-05,
      "loss": 0.0023,
      "step": 2455
    },
    {
      "epoch": 8.2,
      "grad_norm": 0.002371673472225666,
      "learning_rate": 9.066666666666667e-05,
      "loss": 0.0006,
      "step": 2460
    },
    {
      "epoch": 8.216666666666667,
      "grad_norm": 0.0027296023909002542,
      "learning_rate": 9.044444444444445e-05,
      "loss": 0.0006,
      "step": 2465
    },
    {
      "epoch": 8.233333333333333,
      "grad_norm": 0.0031319886911660433,
      "learning_rate": 9.022222222222224e-05,
      "loss": 0.0006,
      "step": 2470
    },
    {
      "epoch": 8.25,
      "grad_norm": 3.0190951824188232,
      "learning_rate": 9e-05,
      "loss": 0.0034,
      "step": 2475
    },
    {
      "epoch": 8.266666666666667,
      "grad_norm": 0.002362746512517333,
      "learning_rate": 8.977777777777779e-05,
      "loss": 0.0008,
      "step": 2480
    },
    {
      "epoch": 8.283333333333333,
      "grad_norm": 0.002748653991147876,
      "learning_rate": 8.955555555555556e-05,
      "loss": 0.0006,
      "step": 2485
    },
    {
      "epoch": 8.3,
      "grad_norm": 0.002949667163193226,
      "learning_rate": 8.933333333333334e-05,
      "loss": 0.0006,
      "step": 2490
    },
    {
      "epoch": 8.316666666666666,
      "grad_norm": 0.0026178290136158466,
      "learning_rate": 8.911111111111111e-05,
      "loss": 0.0007,
      "step": 2495
    },
    {
      "epoch": 8.333333333333334,
      "grad_norm": 0.02263638749718666,
      "learning_rate": 8.888888888888889e-05,
      "loss": 0.0007,
      "step": 2500
    },
    {
      "epoch": 8.333333333333334,
      "eval_accuracy": 0.8983333333333333,
      "eval_f1": 0.8976649402627712,
      "eval_loss": 0.6318230032920837,
      "eval_precision": 0.9113461415944607,
      "eval_recall": 0.8983333333333333,
      "eval_runtime": 8.6994,
      "eval_samples_per_second": 137.94,
      "eval_steps_per_second": 17.243,
      "step": 2500
    },
    {
      "epoch": 8.35,
      "grad_norm": 0.002701874589547515,
      "learning_rate": 8.871111111111111e-05,
      "loss": 0.1442,
      "step": 2505
    },
    {
      "epoch": 8.366666666666667,
      "grad_norm": 0.0022215063218027353,
      "learning_rate": 8.848888888888888e-05,
      "loss": 0.0006,
      "step": 2510
    },
    {
      "epoch": 8.383333333333333,
      "grad_norm": 0.0026255231350660324,
      "learning_rate": 8.826666666666668e-05,
      "loss": 0.0006,
      "step": 2515
    },
    {
      "epoch": 8.4,
      "grad_norm": 0.002894973149523139,
      "learning_rate": 8.804444444444445e-05,
      "loss": 0.0006,
      "step": 2520
    },
    {
      "epoch": 8.416666666666666,
      "grad_norm": 0.015029179863631725,
      "learning_rate": 8.782222222222223e-05,
      "loss": 0.0006,
      "step": 2525
    },
    {
      "epoch": 8.433333333333334,
      "grad_norm": 0.0026033129543066025,
      "learning_rate": 8.76e-05,
      "loss": 0.0006,
      "step": 2530
    },
    {
      "epoch": 8.45,
      "grad_norm": 0.002333854790776968,
      "learning_rate": 8.737777777777778e-05,
      "loss": 0.0006,
      "step": 2535
    },
    {
      "epoch": 8.466666666666667,
      "grad_norm": 0.19166003167629242,
      "learning_rate": 8.715555555555555e-05,
      "loss": 0.0008,
      "step": 2540
    },
    {
      "epoch": 8.483333333333333,
      "grad_norm": 0.0025082379579544067,
      "learning_rate": 8.693333333333334e-05,
      "loss": 0.0006,
      "step": 2545
    },
    {
      "epoch": 8.5,
      "grad_norm": 0.002988095860928297,
      "learning_rate": 8.671111111111112e-05,
      "loss": 0.0006,
      "step": 2550
    },
    {
      "epoch": 8.516666666666667,
      "grad_norm": 0.015436955727636814,
      "learning_rate": 8.64888888888889e-05,
      "loss": 0.0006,
      "step": 2555
    },
    {
      "epoch": 8.533333333333333,
      "grad_norm": 0.0026744387578219175,
      "learning_rate": 8.626666666666667e-05,
      "loss": 0.0006,
      "step": 2560
    },
    {
      "epoch": 8.55,
      "grad_norm": 0.0023288645315915346,
      "learning_rate": 8.604444444444445e-05,
      "loss": 0.0005,
      "step": 2565
    },
    {
      "epoch": 8.566666666666666,
      "grad_norm": 0.002271852223202586,
      "learning_rate": 8.582222222222222e-05,
      "loss": 0.0005,
      "step": 2570
    },
    {
      "epoch": 8.583333333333334,
      "grad_norm": 0.002292939694598317,
      "learning_rate": 8.560000000000001e-05,
      "loss": 0.0005,
      "step": 2575
    },
    {
      "epoch": 8.6,
      "grad_norm": 0.0026951031759381294,
      "learning_rate": 8.537777777777778e-05,
      "loss": 0.0005,
      "step": 2580
    },
    {
      "epoch": 8.616666666666667,
      "grad_norm": 0.0020404551178216934,
      "learning_rate": 8.515555555555556e-05,
      "loss": 0.0005,
      "step": 2585
    },
    {
      "epoch": 8.633333333333333,
      "grad_norm": 0.002124678110703826,
      "learning_rate": 8.493333333333334e-05,
      "loss": 0.0005,
      "step": 2590
    },
    {
      "epoch": 8.65,
      "grad_norm": 0.002617035061120987,
      "learning_rate": 8.471111111111113e-05,
      "loss": 0.0005,
      "step": 2595
    },
    {
      "epoch": 8.666666666666666,
      "grad_norm": 0.0023833417799323797,
      "learning_rate": 8.44888888888889e-05,
      "loss": 0.0005,
      "step": 2600
    },
    {
      "epoch": 8.666666666666666,
      "eval_accuracy": 0.9075,
      "eval_f1": 0.9075779982976345,
      "eval_loss": 0.4929398000240326,
      "eval_precision": 0.913531408065764,
      "eval_recall": 0.9075,
      "eval_runtime": 8.7396,
      "eval_samples_per_second": 137.307,
      "eval_steps_per_second": 17.163,
      "step": 2600
    },
    {
      "epoch": 8.683333333333334,
      "grad_norm": 0.0072664739564061165,
      "learning_rate": 8.426666666666668e-05,
      "loss": 0.0006,
      "step": 2605
    },
    {
      "epoch": 8.7,
      "grad_norm": 0.003575860522687435,
      "learning_rate": 8.404444444444445e-05,
      "loss": 0.0005,
      "step": 2610
    },
    {
      "epoch": 8.716666666666667,
      "grad_norm": 0.0023656003177165985,
      "learning_rate": 8.382222222222223e-05,
      "loss": 0.0005,
      "step": 2615
    },
    {
      "epoch": 8.733333333333333,
      "grad_norm": 0.0021548669319599867,
      "learning_rate": 8.36e-05,
      "loss": 0.0005,
      "step": 2620
    },
    {
      "epoch": 8.75,
      "grad_norm": 0.002350074239075184,
      "learning_rate": 8.337777777777778e-05,
      "loss": 0.0005,
      "step": 2625
    },
    {
      "epoch": 8.766666666666667,
      "grad_norm": 0.00198245607316494,
      "learning_rate": 8.315555555555557e-05,
      "loss": 0.0005,
      "step": 2630
    },
    {
      "epoch": 8.783333333333333,
      "grad_norm": 0.0026818939950317144,
      "learning_rate": 8.293333333333333e-05,
      "loss": 0.0005,
      "step": 2635
    },
    {
      "epoch": 8.8,
      "grad_norm": 0.00213441695086658,
      "learning_rate": 8.271111111111112e-05,
      "loss": 0.0005,
      "step": 2640
    },
    {
      "epoch": 8.816666666666666,
      "grad_norm": 0.00199462310411036,
      "learning_rate": 8.248888888888889e-05,
      "loss": 0.0625,
      "step": 2645
    },
    {
      "epoch": 8.833333333333334,
      "grad_norm": 0.002970196306705475,
      "learning_rate": 8.226666666666667e-05,
      "loss": 0.0005,
      "step": 2650
    },
    {
      "epoch": 8.85,
      "grad_norm": 0.0022520183119922876,
      "learning_rate": 8.204444444444445e-05,
      "loss": 0.0005,
      "step": 2655
    },
    {
      "epoch": 8.866666666666667,
      "grad_norm": 0.002168370643630624,
      "learning_rate": 8.182222222222222e-05,
      "loss": 0.05,
      "step": 2660
    },
    {
      "epoch": 8.883333333333333,
      "grad_norm": 0.0019246897427365184,
      "learning_rate": 8.16e-05,
      "loss": 0.0005,
      "step": 2665
    },
    {
      "epoch": 8.9,
      "grad_norm": 0.0021600283216685057,
      "learning_rate": 8.137777777777779e-05,
      "loss": 0.0005,
      "step": 2670
    },
    {
      "epoch": 8.916666666666666,
      "grad_norm": 0.0019825389608740807,
      "learning_rate": 8.115555555555556e-05,
      "loss": 0.0005,
      "step": 2675
    },
    {
      "epoch": 8.933333333333334,
      "grad_norm": 0.0021105220075696707,
      "learning_rate": 8.093333333333334e-05,
      "loss": 0.0005,
      "step": 2680
    },
    {
      "epoch": 8.95,
      "grad_norm": 0.0022172259632498026,
      "learning_rate": 8.071111111111111e-05,
      "loss": 0.0005,
      "step": 2685
    },
    {
      "epoch": 8.966666666666667,
      "grad_norm": 0.0020157459657639265,
      "learning_rate": 8.048888888888889e-05,
      "loss": 0.0005,
      "step": 2690
    },
    {
      "epoch": 8.983333333333333,
      "grad_norm": 0.001888310769572854,
      "learning_rate": 8.026666666666666e-05,
      "loss": 0.0005,
      "step": 2695
    },
    {
      "epoch": 9.0,
      "grad_norm": 0.002337431302294135,
      "learning_rate": 8.004444444444444e-05,
      "loss": 0.0013,
      "step": 2700
    },
    {
      "epoch": 9.0,
      "eval_accuracy": 0.8883333333333333,
      "eval_f1": 0.8866242978039846,
      "eval_loss": 0.6147955060005188,
      "eval_precision": 0.8954714957688243,
      "eval_recall": 0.8883333333333333,
      "eval_runtime": 8.6706,
      "eval_samples_per_second": 138.399,
      "eval_steps_per_second": 17.3,
      "step": 2700
    },
    {
      "epoch": 9.016666666666667,
      "grad_norm": 0.0021448228508234024,
      "learning_rate": 7.982222222222223e-05,
      "loss": 0.0005,
      "step": 2705
    },
    {
      "epoch": 9.033333333333333,
      "grad_norm": 0.002005399903282523,
      "learning_rate": 7.960000000000001e-05,
      "loss": 0.0005,
      "step": 2710
    },
    {
      "epoch": 9.05,
      "grad_norm": 0.002082452178001404,
      "learning_rate": 7.937777777777778e-05,
      "loss": 0.0005,
      "step": 2715
    },
    {
      "epoch": 9.066666666666666,
      "grad_norm": 0.002291712909936905,
      "learning_rate": 7.915555555555556e-05,
      "loss": 0.0006,
      "step": 2720
    },
    {
      "epoch": 9.083333333333334,
      "grad_norm": 0.0019869068637490273,
      "learning_rate": 7.893333333333333e-05,
      "loss": 0.0005,
      "step": 2725
    },
    {
      "epoch": 9.1,
      "grad_norm": 0.002225055592134595,
      "learning_rate": 7.871111111111111e-05,
      "loss": 0.056,
      "step": 2730
    },
    {
      "epoch": 9.116666666666667,
      "grad_norm": 0.0023728287778794765,
      "learning_rate": 7.848888888888888e-05,
      "loss": 0.0005,
      "step": 2735
    },
    {
      "epoch": 9.133333333333333,
      "grad_norm": 0.0025133767630904913,
      "learning_rate": 7.826666666666667e-05,
      "loss": 0.0005,
      "step": 2740
    },
    {
      "epoch": 9.15,
      "grad_norm": 0.0024501134175807238,
      "learning_rate": 7.804444444444445e-05,
      "loss": 0.0005,
      "step": 2745
    },
    {
      "epoch": 9.166666666666666,
      "grad_norm": 0.002170259365811944,
      "learning_rate": 7.782222222222223e-05,
      "loss": 0.0824,
      "step": 2750
    },
    {
      "epoch": 9.183333333333334,
      "grad_norm": 0.0020907267462462187,
      "learning_rate": 7.76e-05,
      "loss": 0.0005,
      "step": 2755
    },
    {
      "epoch": 9.2,
      "grad_norm": 0.016857612878084183,
      "learning_rate": 7.737777777777779e-05,
      "loss": 0.0005,
      "step": 2760
    },
    {
      "epoch": 9.216666666666667,
      "grad_norm": 0.0036360421217978,
      "learning_rate": 7.715555555555555e-05,
      "loss": 0.0005,
      "step": 2765
    },
    {
      "epoch": 9.233333333333333,
      "grad_norm": 0.0021989084780216217,
      "learning_rate": 7.693333333333334e-05,
      "loss": 0.0005,
      "step": 2770
    },
    {
      "epoch": 9.25,
      "grad_norm": 0.002929615555331111,
      "learning_rate": 7.671111111111111e-05,
      "loss": 0.0005,
      "step": 2775
    },
    {
      "epoch": 9.266666666666667,
      "grad_norm": 0.0027474237140268087,
      "learning_rate": 7.648888888888889e-05,
      "loss": 0.0005,
      "step": 2780
    },
    {
      "epoch": 9.283333333333333,
      "grad_norm": 0.0020394984167069197,
      "learning_rate": 7.626666666666667e-05,
      "loss": 0.0005,
      "step": 2785
    },
    {
      "epoch": 9.3,
      "grad_norm": 0.003086272394284606,
      "learning_rate": 7.604444444444446e-05,
      "loss": 0.0006,
      "step": 2790
    },
    {
      "epoch": 9.316666666666666,
      "grad_norm": 0.002187043195590377,
      "learning_rate": 7.582222222222223e-05,
      "loss": 0.0005,
      "step": 2795
    },
    {
      "epoch": 9.333333333333334,
      "grad_norm": 0.0019564388785511255,
      "learning_rate": 7.560000000000001e-05,
      "loss": 0.001,
      "step": 2800
    },
    {
      "epoch": 9.333333333333334,
      "eval_accuracy": 0.8391666666666666,
      "eval_f1": 0.8355014662750649,
      "eval_loss": 1.0043078660964966,
      "eval_precision": 0.8537693903648741,
      "eval_recall": 0.8391666666666666,
      "eval_runtime": 8.7685,
      "eval_samples_per_second": 136.853,
      "eval_steps_per_second": 17.107,
      "step": 2800
    },
    {
      "epoch": 9.35,
      "grad_norm": 0.0023370555136352777,
      "learning_rate": 7.537777777777778e-05,
      "loss": 0.0005,
      "step": 2805
    },
    {
      "epoch": 9.366666666666667,
      "grad_norm": 0.0036235542502254248,
      "learning_rate": 7.515555555555556e-05,
      "loss": 0.0005,
      "step": 2810
    },
    {
      "epoch": 9.383333333333333,
      "grad_norm": 0.002710876753553748,
      "learning_rate": 7.493333333333333e-05,
      "loss": 0.0005,
      "step": 2815
    },
    {
      "epoch": 9.4,
      "grad_norm": 0.0018823477439582348,
      "learning_rate": 7.471111111111111e-05,
      "loss": 0.0005,
      "step": 2820
    },
    {
      "epoch": 9.416666666666666,
      "grad_norm": 0.0022119719069451094,
      "learning_rate": 7.44888888888889e-05,
      "loss": 0.0005,
      "step": 2825
    },
    {
      "epoch": 9.433333333333334,
      "grad_norm": 0.0016949023120105267,
      "learning_rate": 7.426666666666668e-05,
      "loss": 0.0004,
      "step": 2830
    },
    {
      "epoch": 9.45,
      "grad_norm": 0.002440515672788024,
      "learning_rate": 7.404444444444445e-05,
      "loss": 0.0005,
      "step": 2835
    },
    {
      "epoch": 9.466666666666667,
      "grad_norm": 0.0021370667964220047,
      "learning_rate": 7.382222222222223e-05,
      "loss": 0.0005,
      "step": 2840
    },
    {
      "epoch": 9.483333333333333,
      "grad_norm": 0.002197230700403452,
      "learning_rate": 7.36e-05,
      "loss": 0.0005,
      "step": 2845
    },
    {
      "epoch": 9.5,
      "grad_norm": 0.0017998211551457644,
      "learning_rate": 7.337777777777778e-05,
      "loss": 0.0004,
      "step": 2850
    },
    {
      "epoch": 9.516666666666667,
      "grad_norm": 0.00197867420502007,
      "learning_rate": 7.315555555555555e-05,
      "loss": 0.0005,
      "step": 2855
    },
    {
      "epoch": 9.533333333333333,
      "grad_norm": 0.0017671356908977032,
      "learning_rate": 7.293333333333334e-05,
      "loss": 0.0005,
      "step": 2860
    },
    {
      "epoch": 9.55,
      "grad_norm": 0.0018047916237264872,
      "learning_rate": 7.271111111111112e-05,
      "loss": 0.0004,
      "step": 2865
    },
    {
      "epoch": 9.566666666666666,
      "grad_norm": 0.0019530983408913016,
      "learning_rate": 7.24888888888889e-05,
      "loss": 0.0004,
      "step": 2870
    },
    {
      "epoch": 9.583333333333334,
      "grad_norm": 0.0023714504204690456,
      "learning_rate": 7.226666666666667e-05,
      "loss": 0.0005,
      "step": 2875
    },
    {
      "epoch": 9.6,
      "grad_norm": 0.0018033410888165236,
      "learning_rate": 7.204444444444445e-05,
      "loss": 0.0004,
      "step": 2880
    },
    {
      "epoch": 9.616666666666667,
      "grad_norm": 0.001679600914940238,
      "learning_rate": 7.182222222222222e-05,
      "loss": 0.0004,
      "step": 2885
    },
    {
      "epoch": 9.633333333333333,
      "grad_norm": 0.0019220479298382998,
      "learning_rate": 7.16e-05,
      "loss": 0.0004,
      "step": 2890
    },
    {
      "epoch": 9.65,
      "grad_norm": 0.0016886014491319656,
      "learning_rate": 7.137777777777778e-05,
      "loss": 0.0004,
      "step": 2895
    },
    {
      "epoch": 9.666666666666666,
      "grad_norm": 0.0017252883408218622,
      "learning_rate": 7.115555555555556e-05,
      "loss": 0.0004,
      "step": 2900
    },
    {
      "epoch": 9.666666666666666,
      "eval_accuracy": 0.8425,
      "eval_f1": 0.839044312251403,
      "eval_loss": 0.9713382720947266,
      "eval_precision": 0.8555598799278704,
      "eval_recall": 0.8425,
      "eval_runtime": 8.757,
      "eval_samples_per_second": 137.033,
      "eval_steps_per_second": 17.129,
      "step": 2900
    },
    {
      "epoch": 9.683333333333334,
      "grad_norm": 0.0018420044798403978,
      "learning_rate": 7.093333333333334e-05,
      "loss": 0.0004,
      "step": 2905
    },
    {
      "epoch": 9.7,
      "grad_norm": 0.001870230888016522,
      "learning_rate": 7.071111111111111e-05,
      "loss": 0.0004,
      "step": 2910
    },
    {
      "epoch": 9.716666666666667,
      "grad_norm": 0.0017706936923786998,
      "learning_rate": 7.048888888888889e-05,
      "loss": 0.0004,
      "step": 2915
    },
    {
      "epoch": 9.733333333333333,
      "grad_norm": 0.00181799684651196,
      "learning_rate": 7.026666666666668e-05,
      "loss": 0.0004,
      "step": 2920
    },
    {
      "epoch": 9.75,
      "grad_norm": 0.0021147856023162603,
      "learning_rate": 7.004444444444445e-05,
      "loss": 0.0004,
      "step": 2925
    },
    {
      "epoch": 9.766666666666667,
      "grad_norm": 0.0017670233501121402,
      "learning_rate": 6.982222222222223e-05,
      "loss": 0.0253,
      "step": 2930
    },
    {
      "epoch": 9.783333333333333,
      "grad_norm": 0.0016911533894017339,
      "learning_rate": 6.96e-05,
      "loss": 0.0004,
      "step": 2935
    },
    {
      "epoch": 9.8,
      "grad_norm": 0.09431944042444229,
      "learning_rate": 6.937777777777778e-05,
      "loss": 0.0005,
      "step": 2940
    },
    {
      "epoch": 9.816666666666666,
      "grad_norm": 0.0031416493002325296,
      "learning_rate": 6.915555555555556e-05,
      "loss": 0.0004,
      "step": 2945
    },
    {
      "epoch": 9.833333333333334,
      "grad_norm": 0.030228257179260254,
      "learning_rate": 6.893333333333333e-05,
      "loss": 0.0005,
      "step": 2950
    },
    {
      "epoch": 9.85,
      "grad_norm": 0.0018424312584102154,
      "learning_rate": 6.871111111111112e-05,
      "loss": 0.0004,
      "step": 2955
    },
    {
      "epoch": 9.866666666666667,
      "grad_norm": 0.002024059183895588,
      "learning_rate": 6.848888888888889e-05,
      "loss": 0.007,
      "step": 2960
    },
    {
      "epoch": 9.883333333333333,
      "grad_norm": 0.0016998681239783764,
      "learning_rate": 6.826666666666667e-05,
      "loss": 0.0004,
      "step": 2965
    },
    {
      "epoch": 9.9,
      "grad_norm": 0.001817559590563178,
      "learning_rate": 6.804444444444444e-05,
      "loss": 0.0004,
      "step": 2970
    },
    {
      "epoch": 9.916666666666666,
      "grad_norm": 0.0015695680631324649,
      "learning_rate": 6.782222222222222e-05,
      "loss": 0.0004,
      "step": 2975
    },
    {
      "epoch": 9.933333333333334,
      "grad_norm": 0.002028900198638439,
      "learning_rate": 6.76e-05,
      "loss": 0.0004,
      "step": 2980
    },
    {
      "epoch": 9.95,
      "grad_norm": 0.0017572618089616299,
      "learning_rate": 6.737777777777779e-05,
      "loss": 0.0004,
      "step": 2985
    },
    {
      "epoch": 9.966666666666667,
      "grad_norm": 0.0017639102879911661,
      "learning_rate": 6.715555555555556e-05,
      "loss": 0.0005,
      "step": 2990
    },
    {
      "epoch": 9.983333333333333,
      "grad_norm": 0.0016930252313613892,
      "learning_rate": 6.693333333333334e-05,
      "loss": 0.0004,
      "step": 2995
    },
    {
      "epoch": 10.0,
      "grad_norm": 0.001576974056661129,
      "learning_rate": 6.671111111111111e-05,
      "loss": 0.0004,
      "step": 3000
    },
    {
      "epoch": 10.0,
      "eval_accuracy": 0.865,
      "eval_f1": 0.8634011663700998,
      "eval_loss": 0.9736536741256714,
      "eval_precision": 0.8977383102517487,
      "eval_recall": 0.865,
      "eval_runtime": 8.9319,
      "eval_samples_per_second": 134.349,
      "eval_steps_per_second": 16.794,
      "step": 3000
    },
    {
      "epoch": 10.016666666666667,
      "grad_norm": 0.0017630534712225199,
      "learning_rate": 6.648888888888889e-05,
      "loss": 0.0004,
      "step": 3005
    },
    {
      "epoch": 10.033333333333333,
      "grad_norm": 0.0016518434276804328,
      "learning_rate": 6.626666666666666e-05,
      "loss": 0.0004,
      "step": 3010
    },
    {
      "epoch": 10.05,
      "grad_norm": 0.0016534999012947083,
      "learning_rate": 6.604444444444444e-05,
      "loss": 0.0004,
      "step": 3015
    },
    {
      "epoch": 10.066666666666666,
      "grad_norm": 0.0023231450468301773,
      "learning_rate": 6.582222222222223e-05,
      "loss": 0.0004,
      "step": 3020
    },
    {
      "epoch": 10.083333333333334,
      "grad_norm": 0.00218407204374671,
      "learning_rate": 6.560000000000001e-05,
      "loss": 0.0004,
      "step": 3025
    },
    {
      "epoch": 10.1,
      "grad_norm": 0.001522357459180057,
      "learning_rate": 6.537777777777778e-05,
      "loss": 0.0004,
      "step": 3030
    },
    {
      "epoch": 10.116666666666667,
      "grad_norm": 0.001639814581722021,
      "learning_rate": 6.515555555555556e-05,
      "loss": 0.0004,
      "step": 3035
    },
    {
      "epoch": 10.133333333333333,
      "grad_norm": 0.0015798534732311964,
      "learning_rate": 6.493333333333333e-05,
      "loss": 0.0004,
      "step": 3040
    },
    {
      "epoch": 10.15,
      "grad_norm": 0.0016330722719430923,
      "learning_rate": 6.471111111111111e-05,
      "loss": 0.0004,
      "step": 3045
    },
    {
      "epoch": 10.166666666666666,
      "grad_norm": 0.0017252028919756413,
      "learning_rate": 6.448888888888888e-05,
      "loss": 0.0004,
      "step": 3050
    },
    {
      "epoch": 10.183333333333334,
      "grad_norm": 0.0014770685229450464,
      "learning_rate": 6.426666666666668e-05,
      "loss": 0.0004,
      "step": 3055
    },
    {
      "epoch": 10.2,
      "grad_norm": 0.0016806750791147351,
      "learning_rate": 6.404444444444445e-05,
      "loss": 0.0004,
      "step": 3060
    },
    {
      "epoch": 10.216666666666667,
      "grad_norm": 0.0016221856931224465,
      "learning_rate": 6.382222222222223e-05,
      "loss": 0.0004,
      "step": 3065
    },
    {
      "epoch": 10.233333333333333,
      "grad_norm": 0.001631515333428979,
      "learning_rate": 6.36e-05,
      "loss": 0.0004,
      "step": 3070
    },
    {
      "epoch": 10.25,
      "grad_norm": 0.0018513079266995192,
      "learning_rate": 6.337777777777778e-05,
      "loss": 0.0004,
      "step": 3075
    },
    {
      "epoch": 10.266666666666667,
      "grad_norm": 0.001737007056362927,
      "learning_rate": 6.315555555555555e-05,
      "loss": 0.0004,
      "step": 3080
    },
    {
      "epoch": 10.283333333333333,
      "grad_norm": 0.002178404713049531,
      "learning_rate": 6.293333333333334e-05,
      "loss": 0.0007,
      "step": 3085
    },
    {
      "epoch": 10.3,
      "grad_norm": 0.0014280934119597077,
      "learning_rate": 6.27111111111111e-05,
      "loss": 0.0004,
      "step": 3090
    },
    {
      "epoch": 10.316666666666666,
      "grad_norm": 0.0017538231331855059,
      "learning_rate": 6.24888888888889e-05,
      "loss": 0.0004,
      "step": 3095
    },
    {
      "epoch": 10.333333333333334,
      "grad_norm": 0.0015305355191230774,
      "learning_rate": 6.226666666666667e-05,
      "loss": 0.0004,
      "step": 3100
    },
    {
      "epoch": 10.333333333333334,
      "eval_accuracy": 0.8683333333333333,
      "eval_f1": 0.8672688728417894,
      "eval_loss": 0.8766095042228699,
      "eval_precision": 0.8834686543360615,
      "eval_recall": 0.8683333333333333,
      "eval_runtime": 8.7857,
      "eval_samples_per_second": 136.586,
      "eval_steps_per_second": 17.073,
      "step": 3100
    },
    {
      "epoch": 10.35,
      "grad_norm": 0.0016507635591551661,
      "learning_rate": 6.204444444444445e-05,
      "loss": 0.0004,
      "step": 3105
    },
    {
      "epoch": 10.366666666666667,
      "grad_norm": 0.0015841227723285556,
      "learning_rate": 6.182222222222222e-05,
      "loss": 0.0004,
      "step": 3110
    },
    {
      "epoch": 10.383333333333333,
      "grad_norm": 0.0014933596830815077,
      "learning_rate": 6.16e-05,
      "loss": 0.0004,
      "step": 3115
    },
    {
      "epoch": 10.4,
      "grad_norm": 0.0015191114507615566,
      "learning_rate": 6.137777777777778e-05,
      "loss": 0.0004,
      "step": 3120
    },
    {
      "epoch": 10.416666666666666,
      "grad_norm": 0.0018466806504875422,
      "learning_rate": 6.115555555555556e-05,
      "loss": 0.0004,
      "step": 3125
    },
    {
      "epoch": 10.433333333333334,
      "grad_norm": 0.0014217080315575004,
      "learning_rate": 6.093333333333333e-05,
      "loss": 0.0004,
      "step": 3130
    },
    {
      "epoch": 10.45,
      "grad_norm": 0.0015350885223597288,
      "learning_rate": 6.071111111111112e-05,
      "loss": 0.0004,
      "step": 3135
    },
    {
      "epoch": 10.466666666666667,
      "grad_norm": 0.001358456676825881,
      "learning_rate": 6.0488888888888894e-05,
      "loss": 0.0004,
      "step": 3140
    },
    {
      "epoch": 10.483333333333333,
      "grad_norm": 0.0014088960597291589,
      "learning_rate": 6.026666666666667e-05,
      "loss": 0.0004,
      "step": 3145
    },
    {
      "epoch": 10.5,
      "grad_norm": 0.0016752199735492468,
      "learning_rate": 6.0044444444444446e-05,
      "loss": 0.0004,
      "step": 3150
    },
    {
      "epoch": 10.516666666666667,
      "grad_norm": 0.001581695512868464,
      "learning_rate": 5.982222222222222e-05,
      "loss": 0.0004,
      "step": 3155
    },
    {
      "epoch": 10.533333333333333,
      "grad_norm": 0.0014856350608170033,
      "learning_rate": 5.96e-05,
      "loss": 0.0004,
      "step": 3160
    },
    {
      "epoch": 10.55,
      "grad_norm": 0.0015191832790151238,
      "learning_rate": 5.9377777777777775e-05,
      "loss": 0.0004,
      "step": 3165
    },
    {
      "epoch": 10.566666666666666,
      "grad_norm": 0.0016729123890399933,
      "learning_rate": 5.915555555555555e-05,
      "loss": 0.0004,
      "step": 3170
    },
    {
      "epoch": 10.583333333333334,
      "grad_norm": 0.001545134000480175,
      "learning_rate": 5.893333333333334e-05,
      "loss": 0.0004,
      "step": 3175
    },
    {
      "epoch": 10.6,
      "grad_norm": 0.0014318125322461128,
      "learning_rate": 5.871111111111112e-05,
      "loss": 0.0003,
      "step": 3180
    },
    {
      "epoch": 10.616666666666667,
      "grad_norm": 0.0015923676546663046,
      "learning_rate": 5.848888888888889e-05,
      "loss": 0.0004,
      "step": 3185
    },
    {
      "epoch": 10.633333333333333,
      "grad_norm": 0.0013957154005765915,
      "learning_rate": 5.826666666666667e-05,
      "loss": 0.0003,
      "step": 3190
    },
    {
      "epoch": 10.65,
      "grad_norm": 0.0013489658012986183,
      "learning_rate": 5.8044444444444445e-05,
      "loss": 0.0004,
      "step": 3195
    },
    {
      "epoch": 10.666666666666666,
      "grad_norm": 0.0015690665459260345,
      "learning_rate": 5.782222222222222e-05,
      "loss": 0.0004,
      "step": 3200
    },
    {
      "epoch": 10.666666666666666,
      "eval_accuracy": 0.8683333333333333,
      "eval_f1": 0.8672104291214,
      "eval_loss": 0.8619822263717651,
      "eval_precision": 0.8807859437436307,
      "eval_recall": 0.8683333333333333,
      "eval_runtime": 8.6662,
      "eval_samples_per_second": 138.469,
      "eval_steps_per_second": 17.309,
      "step": 3200
    },
    {
      "epoch": 10.683333333333334,
      "grad_norm": 0.0016232639318332076,
      "learning_rate": 5.76e-05,
      "loss": 0.0004,
      "step": 3205
    },
    {
      "epoch": 10.7,
      "grad_norm": 0.001365366275422275,
      "learning_rate": 5.737777777777779e-05,
      "loss": 0.0004,
      "step": 3210
    },
    {
      "epoch": 10.716666666666667,
      "grad_norm": 0.004492928273975849,
      "learning_rate": 5.715555555555556e-05,
      "loss": 0.0004,
      "step": 3215
    },
    {
      "epoch": 10.733333333333333,
      "grad_norm": 0.001459599006921053,
      "learning_rate": 5.693333333333334e-05,
      "loss": 0.0004,
      "step": 3220
    },
    {
      "epoch": 10.75,
      "grad_norm": 0.0019528093980625272,
      "learning_rate": 5.6711111111111116e-05,
      "loss": 0.0003,
      "step": 3225
    },
    {
      "epoch": 10.766666666666667,
      "grad_norm": 0.0015766863944008946,
      "learning_rate": 5.648888888888889e-05,
      "loss": 0.0004,
      "step": 3230
    },
    {
      "epoch": 10.783333333333333,
      "grad_norm": 0.0015353673370555043,
      "learning_rate": 5.626666666666667e-05,
      "loss": 0.0003,
      "step": 3235
    },
    {
      "epoch": 10.8,
      "grad_norm": 0.0014093808131292462,
      "learning_rate": 5.6044444444444444e-05,
      "loss": 0.0003,
      "step": 3240
    },
    {
      "epoch": 10.816666666666666,
      "grad_norm": 0.0015860378043726087,
      "learning_rate": 5.582222222222222e-05,
      "loss": 0.0003,
      "step": 3245
    },
    {
      "epoch": 10.833333333333334,
      "grad_norm": 0.0015200646594166756,
      "learning_rate": 5.560000000000001e-05,
      "loss": 0.0003,
      "step": 3250
    },
    {
      "epoch": 10.85,
      "grad_norm": 0.0017400592332705855,
      "learning_rate": 5.5377777777777786e-05,
      "loss": 0.0004,
      "step": 3255
    },
    {
      "epoch": 10.866666666666667,
      "grad_norm": 0.0014500817051157355,
      "learning_rate": 5.515555555555556e-05,
      "loss": 0.0003,
      "step": 3260
    },
    {
      "epoch": 10.883333333333333,
      "grad_norm": 0.0013500393833965063,
      "learning_rate": 5.493333333333334e-05,
      "loss": 0.0003,
      "step": 3265
    },
    {
      "epoch": 10.9,
      "grad_norm": 0.0014088648604229093,
      "learning_rate": 5.4711111111111114e-05,
      "loss": 0.0004,
      "step": 3270
    },
    {
      "epoch": 10.916666666666666,
      "grad_norm": 0.0012949000811204314,
      "learning_rate": 5.448888888888889e-05,
      "loss": 0.0003,
      "step": 3275
    },
    {
      "epoch": 10.933333333333334,
      "grad_norm": 0.0015401594573631883,
      "learning_rate": 5.4266666666666667e-05,
      "loss": 0.0003,
      "step": 3280
    },
    {
      "epoch": 10.95,
      "grad_norm": 0.0014829623978585005,
      "learning_rate": 5.404444444444444e-05,
      "loss": 0.0004,
      "step": 3285
    },
    {
      "epoch": 10.966666666666667,
      "grad_norm": 0.0013861841289326549,
      "learning_rate": 5.382222222222223e-05,
      "loss": 0.0003,
      "step": 3290
    },
    {
      "epoch": 10.983333333333333,
      "grad_norm": 0.001427426002919674,
      "learning_rate": 5.360000000000001e-05,
      "loss": 0.0003,
      "step": 3295
    },
    {
      "epoch": 11.0,
      "grad_norm": 0.0013756147818639874,
      "learning_rate": 5.3377777777777785e-05,
      "loss": 0.0003,
      "step": 3300
    },
    {
      "epoch": 11.0,
      "eval_accuracy": 0.8675,
      "eval_f1": 0.8664972207320928,
      "eval_loss": 0.8669463992118835,
      "eval_precision": 0.8802983508363542,
      "eval_recall": 0.8675,
      "eval_runtime": 8.744,
      "eval_samples_per_second": 137.236,
      "eval_steps_per_second": 17.155,
      "step": 3300
    },
    {
      "epoch": 11.016666666666667,
      "grad_norm": 0.0013855983270332217,
      "learning_rate": 5.315555555555556e-05,
      "loss": 0.0003,
      "step": 3305
    },
    {
      "epoch": 11.033333333333333,
      "grad_norm": 0.001469676150009036,
      "learning_rate": 5.293333333333334e-05,
      "loss": 0.0003,
      "step": 3310
    },
    {
      "epoch": 11.05,
      "grad_norm": 0.001486792229115963,
      "learning_rate": 5.271111111111111e-05,
      "loss": 0.0003,
      "step": 3315
    },
    {
      "epoch": 11.066666666666666,
      "grad_norm": 0.0014611890073865652,
      "learning_rate": 5.248888888888889e-05,
      "loss": 0.0003,
      "step": 3320
    },
    {
      "epoch": 11.083333333333334,
      "grad_norm": 0.0013100306969136,
      "learning_rate": 5.2266666666666665e-05,
      "loss": 0.0003,
      "step": 3325
    },
    {
      "epoch": 11.1,
      "grad_norm": 0.0013590678572654724,
      "learning_rate": 5.204444444444445e-05,
      "loss": 0.0003,
      "step": 3330
    },
    {
      "epoch": 11.116666666666667,
      "grad_norm": 0.0013976647751405835,
      "learning_rate": 5.1822222222222224e-05,
      "loss": 0.0003,
      "step": 3335
    },
    {
      "epoch": 11.133333333333333,
      "grad_norm": 0.0015161761548370123,
      "learning_rate": 5.16e-05,
      "loss": 0.0003,
      "step": 3340
    },
    {
      "epoch": 11.15,
      "grad_norm": 0.0017038207734003663,
      "learning_rate": 5.1377777777777784e-05,
      "loss": 0.0003,
      "step": 3345
    },
    {
      "epoch": 11.166666666666666,
      "grad_norm": 0.0014242614852264524,
      "learning_rate": 5.115555555555556e-05,
      "loss": 0.0003,
      "step": 3350
    },
    {
      "epoch": 11.183333333333334,
      "grad_norm": 0.0012530774110928178,
      "learning_rate": 5.0933333333333336e-05,
      "loss": 0.0003,
      "step": 3355
    },
    {
      "epoch": 11.2,
      "grad_norm": 0.0014741942286491394,
      "learning_rate": 5.071111111111111e-05,
      "loss": 0.0003,
      "step": 3360
    },
    {
      "epoch": 11.216666666666667,
      "grad_norm": 0.0015505342744290829,
      "learning_rate": 5.0488888888888895e-05,
      "loss": 0.0003,
      "step": 3365
    },
    {
      "epoch": 11.233333333333333,
      "grad_norm": 0.0015625719679519534,
      "learning_rate": 5.026666666666667e-05,
      "loss": 0.0003,
      "step": 3370
    },
    {
      "epoch": 11.25,
      "grad_norm": 0.0020433268509805202,
      "learning_rate": 5.004444444444445e-05,
      "loss": 0.0003,
      "step": 3375
    },
    {
      "epoch": 11.266666666666667,
      "grad_norm": 0.00148200208786875,
      "learning_rate": 4.982222222222222e-05,
      "loss": 0.0003,
      "step": 3380
    },
    {
      "epoch": 11.283333333333333,
      "grad_norm": 0.0013692934298887849,
      "learning_rate": 4.96e-05,
      "loss": 0.0003,
      "step": 3385
    },
    {
      "epoch": 11.3,
      "grad_norm": 0.0014999666018411517,
      "learning_rate": 4.9377777777777776e-05,
      "loss": 0.0003,
      "step": 3390
    },
    {
      "epoch": 11.316666666666666,
      "grad_norm": 0.0014691624091938138,
      "learning_rate": 4.915555555555556e-05,
      "loss": 0.0003,
      "step": 3395
    },
    {
      "epoch": 11.333333333333334,
      "grad_norm": 0.001634411164559424,
      "learning_rate": 4.8933333333333335e-05,
      "loss": 0.0003,
      "step": 3400
    },
    {
      "epoch": 11.333333333333334,
      "eval_accuracy": 0.8666666666666667,
      "eval_f1": 0.8656499718144649,
      "eval_loss": 0.8712210059165955,
      "eval_precision": 0.8789211668533486,
      "eval_recall": 0.8666666666666667,
      "eval_runtime": 8.7741,
      "eval_samples_per_second": 136.766,
      "eval_steps_per_second": 17.096,
      "step": 3400
    },
    {
      "epoch": 11.35,
      "grad_norm": 0.0013492413563653827,
      "learning_rate": 4.871111111111111e-05,
      "loss": 0.0003,
      "step": 3405
    },
    {
      "epoch": 11.366666666666667,
      "grad_norm": 0.0015173647552728653,
      "learning_rate": 4.848888888888889e-05,
      "loss": 0.0003,
      "step": 3410
    },
    {
      "epoch": 11.383333333333333,
      "grad_norm": 0.00131409359164536,
      "learning_rate": 4.826666666666667e-05,
      "loss": 0.0003,
      "step": 3415
    },
    {
      "epoch": 11.4,
      "grad_norm": 0.001343966694548726,
      "learning_rate": 4.8044444444444446e-05,
      "loss": 0.0003,
      "step": 3420
    },
    {
      "epoch": 11.416666666666666,
      "grad_norm": 0.0015383169520646334,
      "learning_rate": 4.782222222222222e-05,
      "loss": 0.0003,
      "step": 3425
    },
    {
      "epoch": 11.433333333333334,
      "grad_norm": 0.0012521313037723303,
      "learning_rate": 4.76e-05,
      "loss": 0.0003,
      "step": 3430
    },
    {
      "epoch": 11.45,
      "grad_norm": 0.0012338070664554834,
      "learning_rate": 4.737777777777778e-05,
      "loss": 0.0003,
      "step": 3435
    },
    {
      "epoch": 11.466666666666667,
      "grad_norm": 0.0013147456338629127,
      "learning_rate": 4.715555555555556e-05,
      "loss": 0.0003,
      "step": 3440
    },
    {
      "epoch": 11.483333333333333,
      "grad_norm": 0.0013508305419236422,
      "learning_rate": 4.6933333333333333e-05,
      "loss": 0.0003,
      "step": 3445
    },
    {
      "epoch": 11.5,
      "grad_norm": 0.001194002223201096,
      "learning_rate": 4.671111111111111e-05,
      "loss": 0.0003,
      "step": 3450
    },
    {
      "epoch": 11.516666666666667,
      "grad_norm": 0.0014793997397646308,
      "learning_rate": 4.648888888888889e-05,
      "loss": 0.0003,
      "step": 3455
    },
    {
      "epoch": 11.533333333333333,
      "grad_norm": 0.0015307717258110642,
      "learning_rate": 4.626666666666667e-05,
      "loss": 0.0003,
      "step": 3460
    },
    {
      "epoch": 11.55,
      "grad_norm": 0.0011680274037644267,
      "learning_rate": 4.6044444444444445e-05,
      "loss": 0.0003,
      "step": 3465
    },
    {
      "epoch": 11.566666666666666,
      "grad_norm": 0.0012772997142747045,
      "learning_rate": 4.582222222222222e-05,
      "loss": 0.0003,
      "step": 3470
    },
    {
      "epoch": 11.583333333333334,
      "grad_norm": 0.0013468469260260463,
      "learning_rate": 4.5600000000000004e-05,
      "loss": 0.0003,
      "step": 3475
    },
    {
      "epoch": 11.6,
      "grad_norm": 0.0015031713992357254,
      "learning_rate": 4.537777777777778e-05,
      "loss": 0.0003,
      "step": 3480
    },
    {
      "epoch": 11.616666666666667,
      "grad_norm": 0.0012913452228531241,
      "learning_rate": 4.5155555555555556e-05,
      "loss": 0.0003,
      "step": 3485
    },
    {
      "epoch": 11.633333333333333,
      "grad_norm": 0.0011666440404951572,
      "learning_rate": 4.493333333333333e-05,
      "loss": 0.0003,
      "step": 3490
    },
    {
      "epoch": 11.65,
      "grad_norm": 0.0013022670755162835,
      "learning_rate": 4.4711111111111115e-05,
      "loss": 0.0003,
      "step": 3495
    },
    {
      "epoch": 11.666666666666666,
      "grad_norm": 0.0012802903074771166,
      "learning_rate": 4.448888888888889e-05,
      "loss": 0.0003,
      "step": 3500
    },
    {
      "epoch": 11.666666666666666,
      "eval_accuracy": 0.8675,
      "eval_f1": 0.8664509243028131,
      "eval_loss": 0.8731843829154968,
      "eval_precision": 0.8796750748307246,
      "eval_recall": 0.8675,
      "eval_runtime": 8.6182,
      "eval_samples_per_second": 139.24,
      "eval_steps_per_second": 17.405,
      "step": 3500
    },
    {
      "epoch": 11.683333333333334,
      "grad_norm": 0.0012312504695728421,
      "learning_rate": 4.426666666666667e-05,
      "loss": 0.0003,
      "step": 3505
    },
    {
      "epoch": 11.7,
      "grad_norm": 0.0014792318688705564,
      "learning_rate": 4.404444444444445e-05,
      "loss": 0.0003,
      "step": 3510
    },
    {
      "epoch": 11.716666666666667,
      "grad_norm": 0.0012576222652569413,
      "learning_rate": 4.3822222222222227e-05,
      "loss": 0.0003,
      "step": 3515
    },
    {
      "epoch": 11.733333333333333,
      "grad_norm": 0.0013079774798825383,
      "learning_rate": 4.36e-05,
      "loss": 0.0003,
      "step": 3520
    },
    {
      "epoch": 11.75,
      "grad_norm": 0.0014835356269031763,
      "learning_rate": 4.337777777777778e-05,
      "loss": 0.0003,
      "step": 3525
    },
    {
      "epoch": 11.766666666666667,
      "grad_norm": 0.0012923425529152155,
      "learning_rate": 4.315555555555556e-05,
      "loss": 0.0003,
      "step": 3530
    },
    {
      "epoch": 11.783333333333333,
      "grad_norm": 0.0014406447298824787,
      "learning_rate": 4.293333333333334e-05,
      "loss": 0.0003,
      "step": 3535
    },
    {
      "epoch": 11.8,
      "grad_norm": 0.001297832583077252,
      "learning_rate": 4.2711111111111114e-05,
      "loss": 0.0003,
      "step": 3540
    },
    {
      "epoch": 11.816666666666666,
      "grad_norm": 0.0013922001235187054,
      "learning_rate": 4.248888888888889e-05,
      "loss": 0.0003,
      "step": 3545
    },
    {
      "epoch": 11.833333333333334,
      "grad_norm": 0.0014182201121002436,
      "learning_rate": 4.226666666666667e-05,
      "loss": 0.0003,
      "step": 3550
    },
    {
      "epoch": 11.85,
      "grad_norm": 0.001190654467791319,
      "learning_rate": 4.204444444444445e-05,
      "loss": 0.0003,
      "step": 3555
    },
    {
      "epoch": 11.866666666666667,
      "grad_norm": 0.0014475686475634575,
      "learning_rate": 4.1822222222222225e-05,
      "loss": 0.0003,
      "step": 3560
    },
    {
      "epoch": 11.883333333333333,
      "grad_norm": 0.0012144987704232335,
      "learning_rate": 4.16e-05,
      "loss": 0.0003,
      "step": 3565
    },
    {
      "epoch": 11.9,
      "grad_norm": 0.001303923549130559,
      "learning_rate": 4.1377777777777784e-05,
      "loss": 0.0003,
      "step": 3570
    },
    {
      "epoch": 11.916666666666666,
      "grad_norm": 0.0011201715096831322,
      "learning_rate": 4.115555555555556e-05,
      "loss": 0.0003,
      "step": 3575
    },
    {
      "epoch": 11.933333333333334,
      "grad_norm": 0.001429400290362537,
      "learning_rate": 4.093333333333334e-05,
      "loss": 0.0003,
      "step": 3580
    },
    {
      "epoch": 11.95,
      "grad_norm": 0.0012173567665740848,
      "learning_rate": 4.071111111111111e-05,
      "loss": 0.0003,
      "step": 3585
    },
    {
      "epoch": 11.966666666666667,
      "grad_norm": 0.0011366313556209207,
      "learning_rate": 4.0488888888888896e-05,
      "loss": 0.0003,
      "step": 3590
    },
    {
      "epoch": 11.983333333333333,
      "grad_norm": 0.0011451077880337834,
      "learning_rate": 4.026666666666667e-05,
      "loss": 0.0003,
      "step": 3595
    },
    {
      "epoch": 12.0,
      "grad_norm": 0.0013503000373020768,
      "learning_rate": 4.004444444444445e-05,
      "loss": 0.0003,
      "step": 3600
    },
    {
      "epoch": 12.0,
      "eval_accuracy": 0.8658333333333333,
      "eval_f1": 0.8648485396675931,
      "eval_loss": 0.8754047751426697,
      "eval_precision": 0.8781736371766995,
      "eval_recall": 0.8658333333333333,
      "eval_runtime": 8.8462,
      "eval_samples_per_second": 135.651,
      "eval_steps_per_second": 16.956,
      "step": 3600
    },
    {
      "epoch": 12.016666666666667,
      "grad_norm": 0.0012377443490549922,
      "learning_rate": 3.9822222222222224e-05,
      "loss": 0.0003,
      "step": 3605
    },
    {
      "epoch": 12.033333333333333,
      "grad_norm": 0.0012060811277478933,
      "learning_rate": 3.960000000000001e-05,
      "loss": 0.0003,
      "step": 3610
    },
    {
      "epoch": 12.05,
      "grad_norm": 0.0012494130060076714,
      "learning_rate": 3.937777777777778e-05,
      "loss": 0.0003,
      "step": 3615
    },
    {
      "epoch": 12.066666666666666,
      "grad_norm": 0.0011834870092570782,
      "learning_rate": 3.915555555555556e-05,
      "loss": 0.0003,
      "step": 3620
    },
    {
      "epoch": 12.083333333333334,
      "grad_norm": 0.0014142082072794437,
      "learning_rate": 3.8933333333333336e-05,
      "loss": 0.0003,
      "step": 3625
    },
    {
      "epoch": 12.1,
      "grad_norm": 0.0013811722164973617,
      "learning_rate": 3.871111111111111e-05,
      "loss": 0.0003,
      "step": 3630
    },
    {
      "epoch": 12.116666666666667,
      "grad_norm": 0.0011979426490142941,
      "learning_rate": 3.848888888888889e-05,
      "loss": 0.0003,
      "step": 3635
    },
    {
      "epoch": 12.133333333333333,
      "grad_norm": 0.0011874254560098052,
      "learning_rate": 3.8266666666666664e-05,
      "loss": 0.0003,
      "step": 3640
    },
    {
      "epoch": 12.15,
      "grad_norm": 0.001683311304077506,
      "learning_rate": 3.804444444444445e-05,
      "loss": 0.0003,
      "step": 3645
    },
    {
      "epoch": 12.166666666666666,
      "grad_norm": 0.0012872721999883652,
      "learning_rate": 3.782222222222222e-05,
      "loss": 0.0003,
      "step": 3650
    },
    {
      "epoch": 12.183333333333334,
      "grad_norm": 0.001244611106812954,
      "learning_rate": 3.76e-05,
      "loss": 0.0003,
      "step": 3655
    },
    {
      "epoch": 12.2,
      "grad_norm": 0.0011427892604842782,
      "learning_rate": 3.7377777777777775e-05,
      "loss": 0.0003,
      "step": 3660
    },
    {
      "epoch": 12.216666666666667,
      "grad_norm": 0.0011601883452385664,
      "learning_rate": 3.715555555555555e-05,
      "loss": 0.0003,
      "step": 3665
    },
    {
      "epoch": 12.233333333333333,
      "grad_norm": 0.0011345295934006572,
      "learning_rate": 3.6933333333333334e-05,
      "loss": 0.0003,
      "step": 3670
    },
    {
      "epoch": 12.25,
      "grad_norm": 0.0012015951797366142,
      "learning_rate": 3.671111111111111e-05,
      "loss": 0.0003,
      "step": 3675
    },
    {
      "epoch": 12.266666666666667,
      "grad_norm": 0.0011617689160630107,
      "learning_rate": 3.648888888888889e-05,
      "loss": 0.0003,
      "step": 3680
    },
    {
      "epoch": 12.283333333333333,
      "grad_norm": 0.0011175741674378514,
      "learning_rate": 3.626666666666667e-05,
      "loss": 0.0003,
      "step": 3685
    },
    {
      "epoch": 12.3,
      "grad_norm": 0.0011912286281585693,
      "learning_rate": 3.6044444444444446e-05,
      "loss": 0.0003,
      "step": 3690
    },
    {
      "epoch": 12.316666666666666,
      "grad_norm": 0.0012151793343946338,
      "learning_rate": 3.582222222222222e-05,
      "loss": 0.0003,
      "step": 3695
    },
    {
      "epoch": 12.333333333333334,
      "grad_norm": 0.00123394129332155,
      "learning_rate": 3.56e-05,
      "loss": 0.0003,
      "step": 3700
    },
    {
      "epoch": 12.333333333333334,
      "eval_accuracy": 0.8658333333333333,
      "eval_f1": 0.8648485396675931,
      "eval_loss": 0.8774574995040894,
      "eval_precision": 0.8781736371766995,
      "eval_recall": 0.8658333333333333,
      "eval_runtime": 8.8374,
      "eval_samples_per_second": 135.787,
      "eval_steps_per_second": 16.973,
      "step": 3700
    },
    {
      "epoch": 12.35,
      "grad_norm": 0.0011844802647829056,
      "learning_rate": 3.537777777777778e-05,
      "loss": 0.0003,
      "step": 3705
    },
    {
      "epoch": 12.366666666666667,
      "grad_norm": 0.0013751405058428645,
      "learning_rate": 3.515555555555556e-05,
      "loss": 0.0003,
      "step": 3710
    },
    {
      "epoch": 12.383333333333333,
      "grad_norm": 0.0012453541858121753,
      "learning_rate": 3.493333333333333e-05,
      "loss": 0.0003,
      "step": 3715
    },
    {
      "epoch": 12.4,
      "grad_norm": 0.0011301401536911726,
      "learning_rate": 3.471111111111111e-05,
      "loss": 0.0003,
      "step": 3720
    },
    {
      "epoch": 12.416666666666666,
      "grad_norm": 0.0011625487823039293,
      "learning_rate": 3.448888888888889e-05,
      "loss": 0.0003,
      "step": 3725
    },
    {
      "epoch": 12.433333333333334,
      "grad_norm": 0.0011589243076741695,
      "learning_rate": 3.426666666666667e-05,
      "loss": 0.0003,
      "step": 3730
    },
    {
      "epoch": 12.45,
      "grad_norm": 0.001597474212758243,
      "learning_rate": 3.4044444444444445e-05,
      "loss": 0.0003,
      "step": 3735
    },
    {
      "epoch": 12.466666666666667,
      "grad_norm": 0.0012961538741365075,
      "learning_rate": 3.382222222222222e-05,
      "loss": 0.0003,
      "step": 3740
    },
    {
      "epoch": 12.483333333333333,
      "grad_norm": 0.001345766824670136,
      "learning_rate": 3.3600000000000004e-05,
      "loss": 0.0003,
      "step": 3745
    },
    {
      "epoch": 12.5,
      "grad_norm": 0.001106693409383297,
      "learning_rate": 3.337777777777778e-05,
      "loss": 0.0003,
      "step": 3750
    },
    {
      "epoch": 12.516666666666667,
      "grad_norm": 0.0014159840065985918,
      "learning_rate": 3.3155555555555556e-05,
      "loss": 0.0003,
      "step": 3755
    },
    {
      "epoch": 12.533333333333333,
      "grad_norm": 0.0012483290629461408,
      "learning_rate": 3.293333333333333e-05,
      "loss": 0.0003,
      "step": 3760
    },
    {
      "epoch": 12.55,
      "grad_norm": 0.0012055583065375686,
      "learning_rate": 3.2711111111111115e-05,
      "loss": 0.0003,
      "step": 3765
    },
    {
      "epoch": 12.566666666666666,
      "grad_norm": 0.001105763716623187,
      "learning_rate": 3.248888888888889e-05,
      "loss": 0.0003,
      "step": 3770
    },
    {
      "epoch": 12.583333333333334,
      "grad_norm": 0.0010725751053541899,
      "learning_rate": 3.226666666666667e-05,
      "loss": 0.0003,
      "step": 3775
    },
    {
      "epoch": 12.6,
      "grad_norm": 0.0012152667623013258,
      "learning_rate": 3.204444444444444e-05,
      "loss": 0.0003,
      "step": 3780
    },
    {
      "epoch": 12.616666666666667,
      "grad_norm": 0.001342304516583681,
      "learning_rate": 3.1822222222222226e-05,
      "loss": 0.0003,
      "step": 3785
    },
    {
      "epoch": 12.633333333333333,
      "grad_norm": 0.0011890253517776728,
      "learning_rate": 3.16e-05,
      "loss": 0.0003,
      "step": 3790
    },
    {
      "epoch": 12.65,
      "grad_norm": 0.0012855774257332087,
      "learning_rate": 3.137777777777778e-05,
      "loss": 0.0003,
      "step": 3795
    },
    {
      "epoch": 12.666666666666666,
      "grad_norm": 0.0013620613608509302,
      "learning_rate": 3.1155555555555555e-05,
      "loss": 0.0003,
      "step": 3800
    },
    {
      "epoch": 12.666666666666666,
      "eval_accuracy": 0.865,
      "eval_f1": 0.8639568372982853,
      "eval_loss": 0.8797401189804077,
      "eval_precision": 0.8771671695085966,
      "eval_recall": 0.865,
      "eval_runtime": 8.6917,
      "eval_samples_per_second": 138.062,
      "eval_steps_per_second": 17.258,
      "step": 3800
    },
    {
      "epoch": 12.683333333333334,
      "grad_norm": 0.001143083325587213,
      "learning_rate": 3.093333333333334e-05,
      "loss": 0.0003,
      "step": 3805
    },
    {
      "epoch": 12.7,
      "grad_norm": 0.0010956920450553298,
      "learning_rate": 3.0711111111111114e-05,
      "loss": 0.0003,
      "step": 3810
    },
    {
      "epoch": 12.716666666666667,
      "grad_norm": 0.001186209381558001,
      "learning_rate": 3.048888888888889e-05,
      "loss": 0.0003,
      "step": 3815
    },
    {
      "epoch": 12.733333333333333,
      "grad_norm": 0.0011497860541567206,
      "learning_rate": 3.0266666666666666e-05,
      "loss": 0.0003,
      "step": 3820
    },
    {
      "epoch": 12.75,
      "grad_norm": 0.0012297664070501924,
      "learning_rate": 3.004444444444445e-05,
      "loss": 0.0003,
      "step": 3825
    },
    {
      "epoch": 12.766666666666667,
      "grad_norm": 0.0012275415938347578,
      "learning_rate": 2.9822222222222225e-05,
      "loss": 0.0003,
      "step": 3830
    },
    {
      "epoch": 12.783333333333333,
      "grad_norm": 0.0011654600966721773,
      "learning_rate": 2.96e-05,
      "loss": 0.0003,
      "step": 3835
    },
    {
      "epoch": 12.8,
      "grad_norm": 0.0011115495581179857,
      "learning_rate": 2.937777777777778e-05,
      "loss": 0.0003,
      "step": 3840
    },
    {
      "epoch": 12.816666666666666,
      "grad_norm": 0.0012001224095001817,
      "learning_rate": 2.9155555555555557e-05,
      "loss": 0.0003,
      "step": 3845
    },
    {
      "epoch": 12.833333333333334,
      "grad_norm": 0.0014960315311327577,
      "learning_rate": 2.8933333333333333e-05,
      "loss": 0.0003,
      "step": 3850
    },
    {
      "epoch": 12.85,
      "grad_norm": 0.0013169238809496164,
      "learning_rate": 2.8711111111111113e-05,
      "loss": 0.0003,
      "step": 3855
    },
    {
      "epoch": 12.866666666666667,
      "grad_norm": 0.00105232372879982,
      "learning_rate": 2.8488888888888892e-05,
      "loss": 0.0003,
      "step": 3860
    },
    {
      "epoch": 12.883333333333333,
      "grad_norm": 0.0012663820525631309,
      "learning_rate": 2.8266666666666668e-05,
      "loss": 0.0003,
      "step": 3865
    },
    {
      "epoch": 12.9,
      "grad_norm": 0.0010811660904437304,
      "learning_rate": 2.8044444444444444e-05,
      "loss": 0.0003,
      "step": 3870
    },
    {
      "epoch": 12.916666666666666,
      "grad_norm": 0.0011347184190526605,
      "learning_rate": 2.782222222222222e-05,
      "loss": 0.0003,
      "step": 3875
    },
    {
      "epoch": 12.933333333333334,
      "grad_norm": 0.0011647987412288785,
      "learning_rate": 2.7600000000000003e-05,
      "loss": 0.0003,
      "step": 3880
    },
    {
      "epoch": 12.95,
      "grad_norm": 0.0011163457529619336,
      "learning_rate": 2.737777777777778e-05,
      "loss": 0.0003,
      "step": 3885
    },
    {
      "epoch": 12.966666666666667,
      "grad_norm": 0.0011493131751194596,
      "learning_rate": 2.7155555555555556e-05,
      "loss": 0.0003,
      "step": 3890
    },
    {
      "epoch": 12.983333333333333,
      "grad_norm": 0.0012797286035493016,
      "learning_rate": 2.6933333333333332e-05,
      "loss": 0.0003,
      "step": 3895
    },
    {
      "epoch": 13.0,
      "grad_norm": 0.001068892772309482,
      "learning_rate": 2.6711111111111115e-05,
      "loss": 0.0003,
      "step": 3900
    },
    {
      "epoch": 13.0,
      "eval_accuracy": 0.865,
      "eval_f1": 0.8639568372982853,
      "eval_loss": 0.8815808296203613,
      "eval_precision": 0.8771671695085966,
      "eval_recall": 0.865,
      "eval_runtime": 8.6462,
      "eval_samples_per_second": 138.789,
      "eval_steps_per_second": 17.349,
      "step": 3900
    },
    {
      "epoch": 13.016666666666667,
      "grad_norm": 0.0011061946861445904,
      "learning_rate": 2.648888888888889e-05,
      "loss": 0.0003,
      "step": 3905
    },
    {
      "epoch": 13.033333333333333,
      "grad_norm": 0.0011850951705127954,
      "learning_rate": 2.6266666666666667e-05,
      "loss": 0.0003,
      "step": 3910
    },
    {
      "epoch": 13.05,
      "grad_norm": 0.0011355183087289333,
      "learning_rate": 2.6044444444444443e-05,
      "loss": 0.0003,
      "step": 3915
    },
    {
      "epoch": 13.066666666666666,
      "grad_norm": 0.001199902966618538,
      "learning_rate": 2.5822222222222226e-05,
      "loss": 0.0003,
      "step": 3920
    },
    {
      "epoch": 13.083333333333334,
      "grad_norm": 0.001144452951848507,
      "learning_rate": 2.5600000000000002e-05,
      "loss": 0.0003,
      "step": 3925
    },
    {
      "epoch": 13.1,
      "grad_norm": 0.0014269945677369833,
      "learning_rate": 2.537777777777778e-05,
      "loss": 0.0003,
      "step": 3930
    },
    {
      "epoch": 13.116666666666667,
      "grad_norm": 0.0011528640752658248,
      "learning_rate": 2.5155555555555555e-05,
      "loss": 0.0003,
      "step": 3935
    },
    {
      "epoch": 13.133333333333333,
      "grad_norm": 0.001104240189306438,
      "learning_rate": 2.4933333333333334e-05,
      "loss": 0.0003,
      "step": 3940
    },
    {
      "epoch": 13.15,
      "grad_norm": 0.0010808241786435246,
      "learning_rate": 2.4711111111111114e-05,
      "loss": 0.0003,
      "step": 3945
    },
    {
      "epoch": 13.166666666666666,
      "grad_norm": 0.0010614326456561685,
      "learning_rate": 2.448888888888889e-05,
      "loss": 0.0003,
      "step": 3950
    },
    {
      "epoch": 13.183333333333334,
      "grad_norm": 0.0011093121720477939,
      "learning_rate": 2.426666666666667e-05,
      "loss": 0.0003,
      "step": 3955
    },
    {
      "epoch": 13.2,
      "grad_norm": 0.0010701032588258386,
      "learning_rate": 2.4044444444444445e-05,
      "loss": 0.0003,
      "step": 3960
    },
    {
      "epoch": 13.216666666666667,
      "grad_norm": 0.0010772089008241892,
      "learning_rate": 2.3822222222222225e-05,
      "loss": 0.0003,
      "step": 3965
    },
    {
      "epoch": 13.233333333333333,
      "grad_norm": 0.001020741881802678,
      "learning_rate": 2.36e-05,
      "loss": 0.0003,
      "step": 3970
    },
    {
      "epoch": 13.25,
      "grad_norm": 0.0012026976328343153,
      "learning_rate": 2.337777777777778e-05,
      "loss": 0.0003,
      "step": 3975
    },
    {
      "epoch": 13.266666666666667,
      "grad_norm": 0.0012304243864491582,
      "learning_rate": 2.3155555555555557e-05,
      "loss": 0.0003,
      "step": 3980
    },
    {
      "epoch": 13.283333333333333,
      "grad_norm": 0.0010464118095114827,
      "learning_rate": 2.2933333333333333e-05,
      "loss": 0.0003,
      "step": 3985
    },
    {
      "epoch": 13.3,
      "grad_norm": 0.0011980553390458226,
      "learning_rate": 2.2711111111111112e-05,
      "loss": 0.0003,
      "step": 3990
    },
    {
      "epoch": 13.316666666666666,
      "grad_norm": 0.0011164234019815922,
      "learning_rate": 2.248888888888889e-05,
      "loss": 0.0003,
      "step": 3995
    },
    {
      "epoch": 13.333333333333334,
      "grad_norm": 0.0010173667687922716,
      "learning_rate": 2.2266666666666668e-05,
      "loss": 0.0003,
      "step": 4000
    },
    {
      "epoch": 13.333333333333334,
      "eval_accuracy": 0.865,
      "eval_f1": 0.8639568372982853,
      "eval_loss": 0.8835201859474182,
      "eval_precision": 0.8771671695085966,
      "eval_recall": 0.865,
      "eval_runtime": 8.7269,
      "eval_samples_per_second": 137.506,
      "eval_steps_per_second": 17.188,
      "step": 4000
    },
    {
      "epoch": 13.35,
      "grad_norm": 0.0013030015397816896,
      "learning_rate": 2.2044444444444444e-05,
      "loss": 0.0003,
      "step": 4005
    },
    {
      "epoch": 13.366666666666667,
      "grad_norm": 0.001178473001345992,
      "learning_rate": 2.1822222222222224e-05,
      "loss": 0.0003,
      "step": 4010
    },
    {
      "epoch": 13.383333333333333,
      "grad_norm": 0.0010858841706067324,
      "learning_rate": 2.16e-05,
      "loss": 0.0003,
      "step": 4015
    },
    {
      "epoch": 13.4,
      "grad_norm": 0.0011301807826384902,
      "learning_rate": 2.137777777777778e-05,
      "loss": 0.0003,
      "step": 4020
    },
    {
      "epoch": 13.416666666666666,
      "grad_norm": 0.0012026125332340598,
      "learning_rate": 2.1155555555555556e-05,
      "loss": 0.0003,
      "step": 4025
    },
    {
      "epoch": 13.433333333333334,
      "grad_norm": 0.001104360562749207,
      "learning_rate": 2.0933333333333335e-05,
      "loss": 0.0003,
      "step": 4030
    },
    {
      "epoch": 13.45,
      "grad_norm": 0.001135478145442903,
      "learning_rate": 2.071111111111111e-05,
      "loss": 0.0003,
      "step": 4035
    },
    {
      "epoch": 13.466666666666667,
      "grad_norm": 0.0011783160734921694,
      "learning_rate": 2.048888888888889e-05,
      "loss": 0.0003,
      "step": 4040
    },
    {
      "epoch": 13.483333333333333,
      "grad_norm": 0.0010429169051349163,
      "learning_rate": 2.0266666666666667e-05,
      "loss": 0.0003,
      "step": 4045
    },
    {
      "epoch": 13.5,
      "grad_norm": 0.0011852631578221917,
      "learning_rate": 2.0044444444444446e-05,
      "loss": 0.0003,
      "step": 4050
    },
    {
      "epoch": 13.516666666666667,
      "grad_norm": 0.0011296626180410385,
      "learning_rate": 1.9822222222222223e-05,
      "loss": 0.0003,
      "step": 4055
    },
    {
      "epoch": 13.533333333333333,
      "grad_norm": 0.0013597178040072322,
      "learning_rate": 1.9600000000000002e-05,
      "loss": 0.0003,
      "step": 4060
    },
    {
      "epoch": 13.55,
      "grad_norm": 0.0011956783710047603,
      "learning_rate": 1.9377777777777778e-05,
      "loss": 0.0003,
      "step": 4065
    },
    {
      "epoch": 13.566666666666666,
      "grad_norm": 0.0010459318291395903,
      "learning_rate": 1.9155555555555558e-05,
      "loss": 0.0003,
      "step": 4070
    },
    {
      "epoch": 13.583333333333334,
      "grad_norm": 0.0013178768567740917,
      "learning_rate": 1.8933333333333334e-05,
      "loss": 0.0003,
      "step": 4075
    },
    {
      "epoch": 13.6,
      "grad_norm": 0.0011479385429993272,
      "learning_rate": 1.8711111111111113e-05,
      "loss": 0.0003,
      "step": 4080
    },
    {
      "epoch": 13.616666666666667,
      "grad_norm": 0.001239644130691886,
      "learning_rate": 1.848888888888889e-05,
      "loss": 0.0003,
      "step": 4085
    },
    {
      "epoch": 13.633333333333333,
      "grad_norm": 0.0010465586092323065,
      "learning_rate": 1.826666666666667e-05,
      "loss": 0.0003,
      "step": 4090
    },
    {
      "epoch": 13.65,
      "grad_norm": 0.0010365034686401486,
      "learning_rate": 1.8044444444444445e-05,
      "loss": 0.0003,
      "step": 4095
    },
    {
      "epoch": 13.666666666666666,
      "grad_norm": 0.0010266521712765098,
      "learning_rate": 1.7822222222222225e-05,
      "loss": 0.0003,
      "step": 4100
    },
    {
      "epoch": 13.666666666666666,
      "eval_accuracy": 0.865,
      "eval_f1": 0.8638699547721866,
      "eval_loss": 0.8843516111373901,
      "eval_precision": 0.876911872767441,
      "eval_recall": 0.865,
      "eval_runtime": 8.761,
      "eval_samples_per_second": 136.971,
      "eval_steps_per_second": 17.121,
      "step": 4100
    },
    {
      "epoch": 13.683333333333334,
      "grad_norm": 0.0011248545488342643,
      "learning_rate": 1.76e-05,
      "loss": 0.0003,
      "step": 4105
    },
    {
      "epoch": 13.7,
      "grad_norm": 0.0010886488016694784,
      "learning_rate": 1.737777777777778e-05,
      "loss": 0.0003,
      "step": 4110
    },
    {
      "epoch": 13.716666666666667,
      "grad_norm": 0.0011789542622864246,
      "learning_rate": 1.7155555555555557e-05,
      "loss": 0.0003,
      "step": 4115
    },
    {
      "epoch": 13.733333333333333,
      "grad_norm": 0.0010775367263704538,
      "learning_rate": 1.6933333333333333e-05,
      "loss": 0.0002,
      "step": 4120
    },
    {
      "epoch": 13.75,
      "grad_norm": 0.0011304522631689906,
      "learning_rate": 1.6711111111111112e-05,
      "loss": 0.0003,
      "step": 4125
    },
    {
      "epoch": 13.766666666666667,
      "grad_norm": 0.0011598627315834165,
      "learning_rate": 1.648888888888889e-05,
      "loss": 0.0003,
      "step": 4130
    },
    {
      "epoch": 13.783333333333333,
      "grad_norm": 0.0010697310790419579,
      "learning_rate": 1.6266666666666665e-05,
      "loss": 0.0003,
      "step": 4135
    },
    {
      "epoch": 13.8,
      "grad_norm": 0.0009994825813919306,
      "learning_rate": 1.6044444444444444e-05,
      "loss": 0.0003,
      "step": 4140
    },
    {
      "epoch": 13.816666666666666,
      "grad_norm": 0.0009824333246797323,
      "learning_rate": 1.582222222222222e-05,
      "loss": 0.0003,
      "step": 4145
    },
    {
      "epoch": 13.833333333333334,
      "grad_norm": 0.0012159179896116257,
      "learning_rate": 1.56e-05,
      "loss": 0.0003,
      "step": 4150
    },
    {
      "epoch": 13.85,
      "grad_norm": 0.001191070070490241,
      "learning_rate": 1.537777777777778e-05,
      "loss": 0.0003,
      "step": 4155
    },
    {
      "epoch": 13.866666666666667,
      "grad_norm": 0.0010004476644098759,
      "learning_rate": 1.5155555555555555e-05,
      "loss": 0.0002,
      "step": 4160
    },
    {
      "epoch": 13.883333333333333,
      "grad_norm": 0.001056639477610588,
      "learning_rate": 1.4933333333333335e-05,
      "loss": 0.0002,
      "step": 4165
    },
    {
      "epoch": 13.9,
      "grad_norm": 0.0010250782361254096,
      "learning_rate": 1.4711111111111111e-05,
      "loss": 0.0002,
      "step": 4170
    },
    {
      "epoch": 13.916666666666666,
      "grad_norm": 0.0011177286505699158,
      "learning_rate": 1.448888888888889e-05,
      "loss": 0.0003,
      "step": 4175
    },
    {
      "epoch": 13.933333333333334,
      "grad_norm": 0.0010102269006893039,
      "learning_rate": 1.4266666666666667e-05,
      "loss": 0.0002,
      "step": 4180
    },
    {
      "epoch": 13.95,
      "grad_norm": 0.001302611199207604,
      "learning_rate": 1.4044444444444446e-05,
      "loss": 0.0003,
      "step": 4185
    },
    {
      "epoch": 13.966666666666667,
      "grad_norm": 0.0010963728418573737,
      "learning_rate": 1.3822222222222222e-05,
      "loss": 0.0003,
      "step": 4190
    },
    {
      "epoch": 13.983333333333333,
      "grad_norm": 0.0011449832236394286,
      "learning_rate": 1.3600000000000002e-05,
      "loss": 0.0003,
      "step": 4195
    },
    {
      "epoch": 14.0,
      "grad_norm": 0.0013344212202355266,
      "learning_rate": 1.3377777777777778e-05,
      "loss": 0.0003,
      "step": 4200
    },
    {
      "epoch": 14.0,
      "eval_accuracy": 0.8658333333333333,
      "eval_f1": 0.864772411072535,
      "eval_loss": 0.8851977586746216,
      "eval_precision": 0.8774500229438801,
      "eval_recall": 0.8658333333333333,
      "eval_runtime": 8.7523,
      "eval_samples_per_second": 137.106,
      "eval_steps_per_second": 17.138,
      "step": 4200
    },
    {
      "epoch": 14.016666666666667,
      "grad_norm": 0.0010773298563435674,
      "learning_rate": 1.3155555555555558e-05,
      "loss": 0.0002,
      "step": 4205
    },
    {
      "epoch": 14.033333333333333,
      "grad_norm": 0.0010212394408881664,
      "learning_rate": 1.2933333333333334e-05,
      "loss": 0.0002,
      "step": 4210
    },
    {
      "epoch": 14.05,
      "grad_norm": 0.0010528103448450565,
      "learning_rate": 1.2711111111111113e-05,
      "loss": 0.0003,
      "step": 4215
    },
    {
      "epoch": 14.066666666666666,
      "grad_norm": 0.0011596691329032183,
      "learning_rate": 1.248888888888889e-05,
      "loss": 0.0003,
      "step": 4220
    },
    {
      "epoch": 14.083333333333334,
      "grad_norm": 0.0010695427190512419,
      "learning_rate": 1.2266666666666667e-05,
      "loss": 0.0002,
      "step": 4225
    },
    {
      "epoch": 14.1,
      "grad_norm": 0.0010904432274401188,
      "learning_rate": 1.2044444444444445e-05,
      "loss": 0.0002,
      "step": 4230
    },
    {
      "epoch": 14.116666666666667,
      "grad_norm": 0.0010752944508567452,
      "learning_rate": 1.1822222222222223e-05,
      "loss": 0.0003,
      "step": 4235
    },
    {
      "epoch": 14.133333333333333,
      "grad_norm": 0.001142247929237783,
      "learning_rate": 1.16e-05,
      "loss": 0.0002,
      "step": 4240
    },
    {
      "epoch": 14.15,
      "grad_norm": 0.0011914742644876242,
      "learning_rate": 1.1377777777777779e-05,
      "loss": 0.0003,
      "step": 4245
    },
    {
      "epoch": 14.166666666666666,
      "grad_norm": 0.0009855281095951796,
      "learning_rate": 1.1155555555555556e-05,
      "loss": 0.0002,
      "step": 4250
    },
    {
      "epoch": 14.183333333333334,
      "grad_norm": 0.0011030682362616062,
      "learning_rate": 1.0933333333333334e-05,
      "loss": 0.0003,
      "step": 4255
    },
    {
      "epoch": 14.2,
      "grad_norm": 0.0011177739361301064,
      "learning_rate": 1.0711111111111112e-05,
      "loss": 0.0003,
      "step": 4260
    },
    {
      "epoch": 14.216666666666667,
      "grad_norm": 0.0010945629328489304,
      "learning_rate": 1.048888888888889e-05,
      "loss": 0.0003,
      "step": 4265
    },
    {
      "epoch": 14.233333333333333,
      "grad_norm": 0.001030478859320283,
      "learning_rate": 1.0266666666666668e-05,
      "loss": 0.0003,
      "step": 4270
    },
    {
      "epoch": 14.25,
      "grad_norm": 0.0010587117867544293,
      "learning_rate": 1.0044444444444446e-05,
      "loss": 0.0003,
      "step": 4275
    },
    {
      "epoch": 14.266666666666667,
      "grad_norm": 0.001136370119638741,
      "learning_rate": 9.822222222222223e-06,
      "loss": 0.0003,
      "step": 4280
    },
    {
      "epoch": 14.283333333333333,
      "grad_norm": 0.0010694278171285987,
      "learning_rate": 9.600000000000001e-06,
      "loss": 0.0003,
      "step": 4285
    },
    {
      "epoch": 14.3,
      "grad_norm": 0.0010130051523447037,
      "learning_rate": 9.377777777777779e-06,
      "loss": 0.0002,
      "step": 4290
    },
    {
      "epoch": 14.316666666666666,
      "grad_norm": 0.0011200030567124486,
      "learning_rate": 9.155555555555557e-06,
      "loss": 0.0002,
      "step": 4295
    },
    {
      "epoch": 14.333333333333334,
      "grad_norm": 0.0011837815400213003,
      "learning_rate": 8.933333333333333e-06,
      "loss": 0.0002,
      "step": 4300
    },
    {
      "epoch": 14.333333333333334,
      "eval_accuracy": 0.8666666666666667,
      "eval_f1": 0.8655065650778513,
      "eval_loss": 0.8859169483184814,
      "eval_precision": 0.8780092573305005,
      "eval_recall": 0.8666666666666667,
      "eval_runtime": 8.9748,
      "eval_samples_per_second": 133.708,
      "eval_steps_per_second": 16.713,
      "step": 4300
    },
    {
      "epoch": 14.35,
      "grad_norm": 0.001022560172714293,
      "learning_rate": 8.711111111111111e-06,
      "loss": 0.0003,
      "step": 4305
    },
    {
      "epoch": 14.366666666666667,
      "grad_norm": 0.0011229522060602903,
      "learning_rate": 8.488888888888889e-06,
      "loss": 0.0002,
      "step": 4310
    },
    {
      "epoch": 14.383333333333333,
      "grad_norm": 0.0010528706479817629,
      "learning_rate": 8.266666666666667e-06,
      "loss": 0.0002,
      "step": 4315
    },
    {
      "epoch": 14.4,
      "grad_norm": 0.0009704012772999704,
      "learning_rate": 8.044444444444444e-06,
      "loss": 0.0002,
      "step": 4320
    },
    {
      "epoch": 14.416666666666666,
      "grad_norm": 0.001067544799298048,
      "learning_rate": 7.822222222222222e-06,
      "loss": 0.0002,
      "step": 4325
    },
    {
      "epoch": 14.433333333333334,
      "grad_norm": 0.0010662697022780776,
      "learning_rate": 7.6e-06,
      "loss": 0.0003,
      "step": 4330
    },
    {
      "epoch": 14.45,
      "grad_norm": 0.001365316566079855,
      "learning_rate": 7.377777777777778e-06,
      "loss": 0.0002,
      "step": 4335
    },
    {
      "epoch": 14.466666666666667,
      "grad_norm": 0.0010876398300752044,
      "learning_rate": 7.155555555555556e-06,
      "loss": 0.0002,
      "step": 4340
    },
    {
      "epoch": 14.483333333333333,
      "grad_norm": 0.0010216524824500084,
      "learning_rate": 6.933333333333334e-06,
      "loss": 0.0002,
      "step": 4345
    },
    {
      "epoch": 14.5,
      "grad_norm": 0.0011582544539123774,
      "learning_rate": 6.711111111111111e-06,
      "loss": 0.0003,
      "step": 4350
    },
    {
      "epoch": 14.516666666666667,
      "grad_norm": 0.0010756350820884109,
      "learning_rate": 6.488888888888888e-06,
      "loss": 0.0002,
      "step": 4355
    },
    {
      "epoch": 14.533333333333333,
      "grad_norm": 0.0010925354436039925,
      "learning_rate": 6.266666666666666e-06,
      "loss": 0.0002,
      "step": 4360
    },
    {
      "epoch": 14.55,
      "grad_norm": 0.0010358369909226894,
      "learning_rate": 6.044444444444445e-06,
      "loss": 0.0002,
      "step": 4365
    },
    {
      "epoch": 14.566666666666666,
      "grad_norm": 0.0011336365714669228,
      "learning_rate": 5.822222222222223e-06,
      "loss": 0.0002,
      "step": 4370
    },
    {
      "epoch": 14.583333333333334,
      "grad_norm": 0.0009533088305033743,
      "learning_rate": 5.600000000000001e-06,
      "loss": 0.0002,
      "step": 4375
    },
    {
      "epoch": 14.6,
      "grad_norm": 0.0010233690263703465,
      "learning_rate": 5.3777777777777784e-06,
      "loss": 0.0002,
      "step": 4380
    },
    {
      "epoch": 14.616666666666667,
      "grad_norm": 0.00106341193895787,
      "learning_rate": 5.155555555555555e-06,
      "loss": 0.0003,
      "step": 4385
    },
    {
      "epoch": 14.633333333333333,
      "grad_norm": 0.0011896209325641394,
      "learning_rate": 4.933333333333333e-06,
      "loss": 0.0002,
      "step": 4390
    },
    {
      "epoch": 14.65,
      "grad_norm": 0.0009764400310814381,
      "learning_rate": 4.711111111111111e-06,
      "loss": 0.0002,
      "step": 4395
    },
    {
      "epoch": 14.666666666666666,
      "grad_norm": 0.0010263704461976886,
      "learning_rate": 4.488888888888889e-06,
      "loss": 0.0002,
      "step": 4400
    },
    {
      "epoch": 14.666666666666666,
      "eval_accuracy": 0.8675,
      "eval_f1": 0.8664075418050818,
      "eval_loss": 0.886491060256958,
      "eval_precision": 0.8785525357447224,
      "eval_recall": 0.8675,
      "eval_runtime": 8.677,
      "eval_samples_per_second": 138.296,
      "eval_steps_per_second": 17.287,
      "step": 4400
    },
    {
      "epoch": 14.683333333333334,
      "grad_norm": 0.0011988108744844794,
      "learning_rate": 4.266666666666667e-06,
      "loss": 0.0003,
      "step": 4405
    },
    {
      "epoch": 14.7,
      "grad_norm": 0.0011937118833884597,
      "learning_rate": 4.044444444444445e-06,
      "loss": 0.0003,
      "step": 4410
    },
    {
      "epoch": 14.716666666666667,
      "grad_norm": 0.0009335481445305049,
      "learning_rate": 3.8222222222222224e-06,
      "loss": 0.0002,
      "step": 4415
    },
    {
      "epoch": 14.733333333333333,
      "grad_norm": 0.0010479808552190661,
      "learning_rate": 3.6e-06,
      "loss": 0.0002,
      "step": 4420
    },
    {
      "epoch": 14.75,
      "grad_norm": 0.0010983319953083992,
      "learning_rate": 3.3777777777777777e-06,
      "loss": 0.0002,
      "step": 4425
    },
    {
      "epoch": 14.766666666666667,
      "grad_norm": 0.0009977829176932573,
      "learning_rate": 3.155555555555556e-06,
      "loss": 0.0002,
      "step": 4430
    },
    {
      "epoch": 14.783333333333333,
      "grad_norm": 0.0009531559189781547,
      "learning_rate": 2.9333333333333333e-06,
      "loss": 0.0002,
      "step": 4435
    },
    {
      "epoch": 14.8,
      "grad_norm": 0.0011039418168365955,
      "learning_rate": 2.711111111111111e-06,
      "loss": 0.0003,
      "step": 4440
    },
    {
      "epoch": 14.816666666666666,
      "grad_norm": 0.0010257798712700605,
      "learning_rate": 2.488888888888889e-06,
      "loss": 0.0002,
      "step": 4445
    },
    {
      "epoch": 14.833333333333334,
      "grad_norm": 0.0011711401166394353,
      "learning_rate": 2.266666666666667e-06,
      "loss": 0.0002,
      "step": 4450
    },
    {
      "epoch": 14.85,
      "grad_norm": 0.0010498231276869774,
      "learning_rate": 2.0444444444444447e-06,
      "loss": 0.0002,
      "step": 4455
    },
    {
      "epoch": 14.866666666666667,
      "grad_norm": 0.001068166340701282,
      "learning_rate": 1.8222222222222223e-06,
      "loss": 0.0002,
      "step": 4460
    },
    {
      "epoch": 14.883333333333333,
      "grad_norm": 0.0011594470124691725,
      "learning_rate": 1.6000000000000001e-06,
      "loss": 0.0002,
      "step": 4465
    },
    {
      "epoch": 14.9,
      "grad_norm": 0.0011387591948732734,
      "learning_rate": 1.3777777777777778e-06,
      "loss": 0.0002,
      "step": 4470
    },
    {
      "epoch": 14.916666666666666,
      "grad_norm": 0.001029514241963625,
      "learning_rate": 1.1555555555555556e-06,
      "loss": 0.0002,
      "step": 4475
    },
    {
      "epoch": 14.933333333333334,
      "grad_norm": 0.0011991695500910282,
      "learning_rate": 9.333333333333334e-07,
      "loss": 0.0002,
      "step": 4480
    },
    {
      "epoch": 14.95,
      "grad_norm": 0.0010637246305122972,
      "learning_rate": 7.111111111111112e-07,
      "loss": 0.0002,
      "step": 4485
    },
    {
      "epoch": 14.966666666666667,
      "grad_norm": 0.0010687781032174826,
      "learning_rate": 4.888888888888889e-07,
      "loss": 0.0002,
      "step": 4490
    },
    {
      "epoch": 14.983333333333333,
      "grad_norm": 0.0010918622137978673,
      "learning_rate": 2.6666666666666667e-07,
      "loss": 0.0002,
      "step": 4495
    },
    {
      "epoch": 15.0,
      "grad_norm": 0.0011024625273421407,
      "learning_rate": 4.444444444444445e-08,
      "loss": 0.0002,
      "step": 4500
    },
    {
      "epoch": 15.0,
      "eval_accuracy": 0.8675,
      "eval_f1": 0.8664075418050818,
      "eval_loss": 0.8867737054824829,
      "eval_precision": 0.8785525357447224,
      "eval_recall": 0.8675,
      "eval_runtime": 8.813,
      "eval_samples_per_second": 136.163,
      "eval_steps_per_second": 17.02,
      "step": 4500
    },
    {
      "epoch": 15.0,
      "step": 4500,
      "total_flos": 5.57962327867392e+18,
      "train_loss": 0.042441848201884166,
      "train_runtime": 1173.35,
      "train_samples_per_second": 61.363,
      "train_steps_per_second": 3.835
    }
  ],
  "logging_steps": 5,
  "max_steps": 4500,
  "num_input_tokens_seen": 0,
  "num_train_epochs": 15,
  "save_steps": 100,
  "stateful_callbacks": {
    "TrainerControl": {
      "args": {
        "should_epoch_stop": false,
        "should_evaluate": false,
        "should_log": false,
        "should_save": true,
        "should_training_stop": true
      },
      "attributes": {}
    }
  },
  "total_flos": 5.57962327867392e+18,
  "train_batch_size": 16,
  "trial_name": null,
  "trial_params": null
}