{
  "best_metric": 0.39458876848220825,
  "best_model_checkpoint": "vit-base-kidney-stone-5-Michel_Daudon_-w256_1k_v1-_MIX\\checkpoint-600",
  "epoch": 15.0,
  "eval_steps": 100,
  "global_step": 9000,
  "is_hyper_param_search": false,
  "is_local_process_zero": true,
  "is_world_process_zero": true,
  "log_history": [
    {
      "epoch": 0.008333333333333333,
      "grad_norm": 1.8733360767364502,
      "learning_rate": 0.0001998888888888889,
      "loss": 1.72,
      "step": 5
    },
    {
      "epoch": 0.016666666666666666,
      "grad_norm": 2.7065865993499756,
      "learning_rate": 0.0001997777777777778,
      "loss": 1.6202,
      "step": 10
    },
    {
      "epoch": 0.025,
      "grad_norm": 2.092071533203125,
      "learning_rate": 0.00019966666666666668,
      "loss": 1.3275,
      "step": 15
    },
    {
      "epoch": 0.03333333333333333,
      "grad_norm": 4.325212478637695,
      "learning_rate": 0.00019955555555555558,
      "loss": 1.183,
      "step": 20
    },
    {
      "epoch": 0.041666666666666664,
      "grad_norm": 2.4228861331939697,
      "learning_rate": 0.00019944444444444445,
      "loss": 1.0439,
      "step": 25
    },
    {
      "epoch": 0.05,
      "grad_norm": 2.269360303878784,
      "learning_rate": 0.00019933333333333334,
      "loss": 0.8498,
      "step": 30
    },
    {
      "epoch": 0.058333333333333334,
      "grad_norm": 3.503404378890991,
      "learning_rate": 0.00019922222222222222,
      "loss": 1.015,
      "step": 35
    },
    {
      "epoch": 0.06666666666666667,
      "grad_norm": 3.6987109184265137,
      "learning_rate": 0.00019911111111111111,
      "loss": 0.8764,
      "step": 40
    },
    {
      "epoch": 0.075,
      "grad_norm": 2.630554676055908,
      "learning_rate": 0.000199,
      "loss": 0.7688,
      "step": 45
    },
    {
      "epoch": 0.08333333333333333,
      "grad_norm": 2.910963535308838,
      "learning_rate": 0.0001988888888888889,
      "loss": 0.7048,
      "step": 50
    },
    {
      "epoch": 0.09166666666666666,
      "grad_norm": 2.9217097759246826,
      "learning_rate": 0.0001987777777777778,
      "loss": 0.834,
      "step": 55
    },
    {
      "epoch": 0.1,
      "grad_norm": 2.0169248580932617,
      "learning_rate": 0.00019866666666666668,
      "loss": 0.7717,
      "step": 60
    },
    {
      "epoch": 0.10833333333333334,
      "grad_norm": 2.9981653690338135,
      "learning_rate": 0.00019855555555555555,
      "loss": 0.5818,
      "step": 65
    },
    {
      "epoch": 0.11666666666666667,
      "grad_norm": 2.6307337284088135,
      "learning_rate": 0.00019844444444444445,
      "loss": 0.4924,
      "step": 70
    },
    {
      "epoch": 0.125,
      "grad_norm": 3.917867422103882,
      "learning_rate": 0.00019833333333333335,
      "loss": 0.6063,
      "step": 75
    },
    {
      "epoch": 0.13333333333333333,
      "grad_norm": 5.583375453948975,
      "learning_rate": 0.00019822222222222225,
      "loss": 0.4283,
      "step": 80
    },
    {
      "epoch": 0.14166666666666666,
      "grad_norm": 3.45548677444458,
      "learning_rate": 0.00019811111111111112,
      "loss": 0.4094,
      "step": 85
    },
    {
      "epoch": 0.15,
      "grad_norm": 2.4086368083953857,
      "learning_rate": 0.00019800000000000002,
      "loss": 0.3866,
      "step": 90
    },
    {
      "epoch": 0.15833333333333333,
      "grad_norm": 4.664669513702393,
      "learning_rate": 0.0001978888888888889,
      "loss": 0.4353,
      "step": 95
    },
    {
      "epoch": 0.16666666666666666,
      "grad_norm": 7.055613040924072,
      "learning_rate": 0.00019777777777777778,
      "loss": 0.5771,
      "step": 100
    },
    {
      "epoch": 0.16666666666666666,
      "eval_accuracy": 0.7929166666666667,
      "eval_f1": 0.7924720164320402,
      "eval_loss": 0.6379483342170715,
      "eval_precision": 0.8436161079959208,
      "eval_recall": 0.7929166666666667,
      "eval_runtime": 17.5081,
      "eval_samples_per_second": 137.08,
      "eval_steps_per_second": 17.135,
      "step": 100
    },
    {
      "epoch": 0.175,
      "grad_norm": 4.535651206970215,
      "learning_rate": 0.00019766666666666666,
      "loss": 0.5026,
      "step": 105
    },
    {
      "epoch": 0.18333333333333332,
      "grad_norm": 6.4834723472595215,
      "learning_rate": 0.00019755555555555555,
      "loss": 0.3958,
      "step": 110
    },
    {
      "epoch": 0.19166666666666668,
      "grad_norm": 2.508756160736084,
      "learning_rate": 0.00019744444444444445,
      "loss": 0.4298,
      "step": 115
    },
    {
      "epoch": 0.2,
      "grad_norm": 3.5929512977600098,
      "learning_rate": 0.00019733333333333335,
      "loss": 0.3236,
      "step": 120
    },
    {
      "epoch": 0.20833333333333334,
      "grad_norm": 1.4468514919281006,
      "learning_rate": 0.00019722222222222225,
      "loss": 0.2379,
      "step": 125
    },
    {
      "epoch": 0.21666666666666667,
      "grad_norm": 2.1756131649017334,
      "learning_rate": 0.00019711111111111112,
      "loss": 0.1828,
      "step": 130
    },
    {
      "epoch": 0.225,
      "grad_norm": 8.054126739501953,
      "learning_rate": 0.00019700000000000002,
      "loss": 0.3159,
      "step": 135
    },
    {
      "epoch": 0.23333333333333334,
      "grad_norm": 8.342427253723145,
      "learning_rate": 0.0001968888888888889,
      "loss": 0.4544,
      "step": 140
    },
    {
      "epoch": 0.24166666666666667,
      "grad_norm": 4.72334623336792,
      "learning_rate": 0.0001967777777777778,
      "loss": 0.2995,
      "step": 145
    },
    {
      "epoch": 0.25,
      "grad_norm": 5.661319255828857,
      "learning_rate": 0.00019666666666666666,
      "loss": 0.2674,
      "step": 150
    },
    {
      "epoch": 0.25833333333333336,
      "grad_norm": 4.029603004455566,
      "learning_rate": 0.00019655555555555556,
      "loss": 0.3836,
      "step": 155
    },
    {
      "epoch": 0.26666666666666666,
      "grad_norm": 0.2886287569999695,
      "learning_rate": 0.00019644444444444445,
      "loss": 0.3879,
      "step": 160
    },
    {
      "epoch": 0.275,
      "grad_norm": 4.93954610824585,
      "learning_rate": 0.00019633333333333335,
      "loss": 0.3732,
      "step": 165
    },
    {
      "epoch": 0.2833333333333333,
      "grad_norm": 6.061533451080322,
      "learning_rate": 0.00019622222222222225,
      "loss": 0.4446,
      "step": 170
    },
    {
      "epoch": 0.2916666666666667,
      "grad_norm": 7.444933891296387,
      "learning_rate": 0.00019611111111111112,
      "loss": 0.6082,
      "step": 175
    },
    {
      "epoch": 0.3,
      "grad_norm": 0.6507499814033508,
      "learning_rate": 0.000196,
      "loss": 0.2665,
      "step": 180
    },
    {
      "epoch": 0.30833333333333335,
      "grad_norm": 1.6666679382324219,
      "learning_rate": 0.0001958888888888889,
      "loss": 0.2631,
      "step": 185
    },
    {
      "epoch": 0.31666666666666665,
      "grad_norm": 0.40229442715644836,
      "learning_rate": 0.0001957777777777778,
      "loss": 0.2405,
      "step": 190
    },
    {
      "epoch": 0.325,
      "grad_norm": 3.9505903720855713,
      "learning_rate": 0.0001956666666666667,
      "loss": 0.2686,
      "step": 195
    },
    {
      "epoch": 0.3333333333333333,
      "grad_norm": 5.1185150146484375,
      "learning_rate": 0.00019555555555555556,
      "loss": 0.3294,
      "step": 200
    },
    {
      "epoch": 0.3333333333333333,
      "eval_accuracy": 0.7991666666666667,
      "eval_f1": 0.7914963079510723,
      "eval_loss": 0.7346078753471375,
      "eval_precision": 0.8341616077338836,
      "eval_recall": 0.7991666666666667,
      "eval_runtime": 18.7068,
      "eval_samples_per_second": 128.296,
      "eval_steps_per_second": 16.037,
      "step": 200
    },
    {
      "epoch": 0.3416666666666667,
      "grad_norm": 3.92641019821167,
      "learning_rate": 0.00019544444444444446,
      "loss": 0.6978,
      "step": 205
    },
    {
      "epoch": 0.35,
      "grad_norm": 5.933396339416504,
      "learning_rate": 0.00019533333333333336,
      "loss": 0.5121,
      "step": 210
    },
    {
      "epoch": 0.35833333333333334,
      "grad_norm": 3.9508216381073,
      "learning_rate": 0.00019522222222222223,
      "loss": 0.3435,
      "step": 215
    },
    {
      "epoch": 0.36666666666666664,
      "grad_norm": 3.432419776916504,
      "learning_rate": 0.0001951111111111111,
      "loss": 0.2594,
      "step": 220
    },
    {
      "epoch": 0.375,
      "grad_norm": 2.5728299617767334,
      "learning_rate": 0.000195,
      "loss": 0.3382,
      "step": 225
    },
    {
      "epoch": 0.38333333333333336,
      "grad_norm": 3.313610792160034,
      "learning_rate": 0.0001948888888888889,
      "loss": 0.4869,
      "step": 230
    },
    {
      "epoch": 0.39166666666666666,
      "grad_norm": 1.897950291633606,
      "learning_rate": 0.0001947777777777778,
      "loss": 0.1675,
      "step": 235
    },
    {
      "epoch": 0.4,
      "grad_norm": 2.9434032440185547,
      "learning_rate": 0.0001946666666666667,
      "loss": 0.2263,
      "step": 240
    },
    {
      "epoch": 0.4083333333333333,
      "grad_norm": 2.7343685626983643,
      "learning_rate": 0.00019455555555555556,
      "loss": 0.2264,
      "step": 245
    },
    {
      "epoch": 0.4166666666666667,
      "grad_norm": 4.627928733825684,
      "learning_rate": 0.00019444444444444446,
      "loss": 0.2524,
      "step": 250
    },
    {
      "epoch": 0.425,
      "grad_norm": 5.505866527557373,
      "learning_rate": 0.00019433333333333333,
      "loss": 0.3852,
      "step": 255
    },
    {
      "epoch": 0.43333333333333335,
      "grad_norm": 0.8929603099822998,
      "learning_rate": 0.00019422222222222223,
      "loss": 0.3464,
      "step": 260
    },
    {
      "epoch": 0.44166666666666665,
      "grad_norm": 0.5840181112289429,
      "learning_rate": 0.0001941111111111111,
      "loss": 0.1646,
      "step": 265
    },
    {
      "epoch": 0.45,
      "grad_norm": 0.20096927881240845,
      "learning_rate": 0.000194,
      "loss": 0.2161,
      "step": 270
    },
    {
      "epoch": 0.4583333333333333,
      "grad_norm": 5.3548078536987305,
      "learning_rate": 0.0001938888888888889,
      "loss": 0.3079,
      "step": 275
    },
    {
      "epoch": 0.4666666666666667,
      "grad_norm": 0.8642127513885498,
      "learning_rate": 0.0001937777777777778,
      "loss": 0.0764,
      "step": 280
    },
    {
      "epoch": 0.475,
      "grad_norm": 3.4479801654815674,
      "learning_rate": 0.0001936666666666667,
      "loss": 0.2641,
      "step": 285
    },
    {
      "epoch": 0.48333333333333334,
      "grad_norm": 5.343433380126953,
      "learning_rate": 0.00019355555555555557,
      "loss": 0.1935,
      "step": 290
    },
    {
      "epoch": 0.49166666666666664,
      "grad_norm": 0.18568462133407593,
      "learning_rate": 0.00019344444444444446,
      "loss": 0.1624,
      "step": 295
    },
    {
      "epoch": 0.5,
      "grad_norm": 3.775005340576172,
      "learning_rate": 0.00019333333333333333,
      "loss": 0.5113,
      "step": 300
    },
    {
      "epoch": 0.5,
      "eval_accuracy": 0.86375,
      "eval_f1": 0.8624755686139628,
      "eval_loss": 0.5429470539093018,
      "eval_precision": 0.8829202002603623,
      "eval_recall": 0.86375,
      "eval_runtime": 18.2103,
      "eval_samples_per_second": 131.793,
      "eval_steps_per_second": 16.474,
      "step": 300
    },
    {
      "epoch": 0.5083333333333333,
      "grad_norm": 3.382256031036377,
      "learning_rate": 0.00019322222222222223,
      "loss": 0.1704,
      "step": 305
    },
    {
      "epoch": 0.5166666666666667,
      "grad_norm": 9.698805809020996,
      "learning_rate": 0.0001931111111111111,
      "loss": 0.1754,
      "step": 310
    },
    {
      "epoch": 0.525,
      "grad_norm": 3.613770008087158,
      "learning_rate": 0.000193,
      "loss": 0.1657,
      "step": 315
    },
    {
      "epoch": 0.5333333333333333,
      "grad_norm": 0.2300715446472168,
      "learning_rate": 0.0001928888888888889,
      "loss": 0.1701,
      "step": 320
    },
    {
      "epoch": 0.5416666666666666,
      "grad_norm": 2.982713222503662,
      "learning_rate": 0.0001927777777777778,
      "loss": 0.0481,
      "step": 325
    },
    {
      "epoch": 0.55,
      "grad_norm": 0.1172705665230751,
      "learning_rate": 0.0001926666666666667,
      "loss": 0.1834,
      "step": 330
    },
    {
      "epoch": 0.5583333333333333,
      "grad_norm": 10.199723243713379,
      "learning_rate": 0.00019255555555555557,
      "loss": 0.259,
      "step": 335
    },
    {
      "epoch": 0.5666666666666667,
      "grad_norm": 3.1174509525299072,
      "learning_rate": 0.00019244444444444444,
      "loss": 0.3103,
      "step": 340
    },
    {
      "epoch": 0.575,
      "grad_norm": 0.23056557774543762,
      "learning_rate": 0.00019233333333333334,
      "loss": 0.2171,
      "step": 345
    },
    {
      "epoch": 0.5833333333333334,
      "grad_norm": 4.739628314971924,
      "learning_rate": 0.00019222222222222224,
      "loss": 0.199,
      "step": 350
    },
    {
      "epoch": 0.5916666666666667,
      "grad_norm": 0.36267417669296265,
      "learning_rate": 0.00019211111111111113,
      "loss": 0.0813,
      "step": 355
    },
    {
      "epoch": 0.6,
      "grad_norm": 1.0416065454483032,
      "learning_rate": 0.000192,
      "loss": 0.2491,
      "step": 360
    },
    {
      "epoch": 0.6083333333333333,
      "grad_norm": 3.492692232131958,
      "learning_rate": 0.0001918888888888889,
      "loss": 0.2164,
      "step": 365
    },
    {
      "epoch": 0.6166666666666667,
      "grad_norm": 3.682056427001953,
      "learning_rate": 0.0001917777777777778,
      "loss": 0.3884,
      "step": 370
    },
    {
      "epoch": 0.625,
      "grad_norm": 5.282874584197998,
      "learning_rate": 0.00019166666666666667,
      "loss": 0.4233,
      "step": 375
    },
    {
      "epoch": 0.6333333333333333,
      "grad_norm": 2.9351537227630615,
      "learning_rate": 0.00019155555555555554,
      "loss": 0.152,
      "step": 380
    },
    {
      "epoch": 0.6416666666666667,
      "grad_norm": 4.310608863830566,
      "learning_rate": 0.00019144444444444444,
      "loss": 0.1086,
      "step": 385
    },
    {
      "epoch": 0.65,
      "grad_norm": 7.050065040588379,
      "learning_rate": 0.00019133333333333334,
      "loss": 0.2987,
      "step": 390
    },
    {
      "epoch": 0.6583333333333333,
      "grad_norm": 1.6708794832229614,
      "learning_rate": 0.00019122222222222224,
      "loss": 0.175,
      "step": 395
    },
    {
      "epoch": 0.6666666666666666,
      "grad_norm": 0.2624286413192749,
      "learning_rate": 0.00019111111111111114,
      "loss": 0.1584,
      "step": 400
    },
    {
      "epoch": 0.6666666666666666,
      "eval_accuracy": 0.8304166666666667,
      "eval_f1": 0.83082802694549,
      "eval_loss": 0.6326966285705566,
      "eval_precision": 0.8612443073586068,
      "eval_recall": 0.8304166666666667,
      "eval_runtime": 17.6878,
      "eval_samples_per_second": 135.686,
      "eval_steps_per_second": 16.961,
      "step": 400
    },
    {
      "epoch": 0.675,
      "grad_norm": 0.16820381581783295,
      "learning_rate": 0.000191,
      "loss": 0.1788,
      "step": 405
    },
    {
      "epoch": 0.6833333333333333,
      "grad_norm": 1.2109065055847168,
      "learning_rate": 0.0001908888888888889,
      "loss": 0.1288,
      "step": 410
    },
    {
      "epoch": 0.6916666666666667,
      "grad_norm": 1.204472303390503,
      "learning_rate": 0.00019077777777777778,
      "loss": 0.2044,
      "step": 415
    },
    {
      "epoch": 0.7,
      "grad_norm": 2.013197183609009,
      "learning_rate": 0.00019066666666666668,
      "loss": 0.1239,
      "step": 420
    },
    {
      "epoch": 0.7083333333333334,
      "grad_norm": 0.3538632392883301,
      "learning_rate": 0.00019055555555555555,
      "loss": 0.1326,
      "step": 425
    },
    {
      "epoch": 0.7166666666666667,
      "grad_norm": 0.08081372827291489,
      "learning_rate": 0.00019044444444444444,
      "loss": 0.0261,
      "step": 430
    },
    {
      "epoch": 0.725,
      "grad_norm": 6.441840648651123,
      "learning_rate": 0.00019033333333333334,
      "loss": 0.1957,
      "step": 435
    },
    {
      "epoch": 0.7333333333333333,
      "grad_norm": 3.6211514472961426,
      "learning_rate": 0.00019022222222222224,
      "loss": 0.1612,
      "step": 440
    },
    {
      "epoch": 0.7416666666666667,
      "grad_norm": 4.970942497253418,
      "learning_rate": 0.00019011111111111114,
      "loss": 0.1597,
      "step": 445
    },
    {
      "epoch": 0.75,
      "grad_norm": 0.14875800907611847,
      "learning_rate": 0.00019,
      "loss": 0.1302,
      "step": 450
    },
    {
      "epoch": 0.7583333333333333,
      "grad_norm": 9.693745613098145,
      "learning_rate": 0.00018988888888888888,
      "loss": 0.2717,
      "step": 455
    },
    {
      "epoch": 0.7666666666666667,
      "grad_norm": 0.1694258153438568,
      "learning_rate": 0.00018977777777777778,
      "loss": 0.147,
      "step": 460
    },
    {
      "epoch": 0.775,
      "grad_norm": 1.1374925374984741,
      "learning_rate": 0.00018966666666666668,
      "loss": 0.2289,
      "step": 465
    },
    {
      "epoch": 0.7833333333333333,
      "grad_norm": 0.9219683408737183,
      "learning_rate": 0.00018955555555555558,
      "loss": 0.2036,
      "step": 470
    },
    {
      "epoch": 0.7916666666666666,
      "grad_norm": 1.6647804975509644,
      "learning_rate": 0.00018944444444444445,
      "loss": 0.1314,
      "step": 475
    },
    {
      "epoch": 0.8,
      "grad_norm": 14.001605987548828,
      "learning_rate": 0.00018933333333333335,
      "loss": 0.3174,
      "step": 480
    },
    {
      "epoch": 0.8083333333333333,
      "grad_norm": 8.502405166625977,
      "learning_rate": 0.00018922222222222224,
      "loss": 0.1982,
      "step": 485
    },
    {
      "epoch": 0.8166666666666667,
      "grad_norm": 12.529969215393066,
      "learning_rate": 0.00018911111111111112,
      "loss": 0.1407,
      "step": 490
    },
    {
      "epoch": 0.825,
      "grad_norm": 4.442591190338135,
      "learning_rate": 0.00018899999999999999,
      "loss": 0.1658,
      "step": 495
    },
    {
      "epoch": 0.8333333333333334,
      "grad_norm": 4.2770514488220215,
      "learning_rate": 0.00018888888888888888,
      "loss": 0.2638,
      "step": 500
    },
    {
      "epoch": 0.8333333333333334,
      "eval_accuracy": 0.7575,
      "eval_f1": 0.7622750468578577,
      "eval_loss": 1.0157067775726318,
      "eval_precision": 0.7964356338532029,
      "eval_recall": 0.7575,
      "eval_runtime": 18.2796,
      "eval_samples_per_second": 131.294,
      "eval_steps_per_second": 16.412,
      "step": 500
    },
    {
      "epoch": 0.8416666666666667,
      "grad_norm": 2.6866612434387207,
      "learning_rate": 0.00018877777777777778,
      "loss": 0.3589,
      "step": 505
    },
    {
      "epoch": 0.85,
      "grad_norm": 4.356877326965332,
      "learning_rate": 0.00018866666666666668,
      "loss": 0.3502,
      "step": 510
    },
    {
      "epoch": 0.8583333333333333,
      "grad_norm": 3.4535648822784424,
      "learning_rate": 0.00018855555555555558,
      "loss": 0.2319,
      "step": 515
    },
    {
      "epoch": 0.8666666666666667,
      "grad_norm": 3.7990269660949707,
      "learning_rate": 0.00018844444444444445,
      "loss": 0.073,
      "step": 520
    },
    {
      "epoch": 0.875,
      "grad_norm": 1.4722867012023926,
      "learning_rate": 0.00018833333333333335,
      "loss": 0.2562,
      "step": 525
    },
    {
      "epoch": 0.8833333333333333,
      "grad_norm": 7.119235992431641,
      "learning_rate": 0.00018822222222222222,
      "loss": 0.2741,
      "step": 530
    },
    {
      "epoch": 0.8916666666666667,
      "grad_norm": 1.1700948476791382,
      "learning_rate": 0.00018811111111111112,
      "loss": 0.3614,
      "step": 535
    },
    {
      "epoch": 0.9,
      "grad_norm": 5.6286468505859375,
      "learning_rate": 0.000188,
      "loss": 0.0496,
      "step": 540
    },
    {
      "epoch": 0.9083333333333333,
      "grad_norm": 0.074297696352005,
      "learning_rate": 0.0001878888888888889,
      "loss": 0.0263,
      "step": 545
    },
    {
      "epoch": 0.9166666666666666,
      "grad_norm": 3.9861373901367188,
      "learning_rate": 0.00018777777777777779,
      "loss": 0.174,
      "step": 550
    },
    {
      "epoch": 0.925,
      "grad_norm": 5.8733906745910645,
      "learning_rate": 0.00018766666666666668,
      "loss": 0.4059,
      "step": 555
    },
    {
      "epoch": 0.9333333333333333,
      "grad_norm": 0.09167947620153427,
      "learning_rate": 0.00018755555555555558,
      "loss": 0.1458,
      "step": 560
    },
    {
      "epoch": 0.9416666666666667,
      "grad_norm": 4.969386100769043,
      "learning_rate": 0.00018744444444444445,
      "loss": 0.1659,
      "step": 565
    },
    {
      "epoch": 0.95,
      "grad_norm": 0.1638045310974121,
      "learning_rate": 0.00018733333333333335,
      "loss": 0.2298,
      "step": 570
    },
    {
      "epoch": 0.9583333333333334,
      "grad_norm": 2.7378833293914795,
      "learning_rate": 0.00018722222222222222,
      "loss": 0.2021,
      "step": 575
    },
    {
      "epoch": 0.9666666666666667,
      "grad_norm": 7.879828929901123,
      "learning_rate": 0.00018711111111111112,
      "loss": 0.2305,
      "step": 580
    },
    {
      "epoch": 0.975,
      "grad_norm": 5.224721431732178,
      "learning_rate": 0.00018700000000000002,
      "loss": 0.1849,
      "step": 585
    },
    {
      "epoch": 0.9833333333333333,
      "grad_norm": 2.2520031929016113,
      "learning_rate": 0.0001868888888888889,
      "loss": 0.1467,
      "step": 590
    },
    {
      "epoch": 0.9916666666666667,
      "grad_norm": 1.7552119493484497,
      "learning_rate": 0.0001867777777777778,
      "loss": 0.2003,
      "step": 595
    },
    {
      "epoch": 1.0,
      "grad_norm": 2.708836078643799,
      "learning_rate": 0.0001866666666666667,
      "loss": 0.2057,
      "step": 600
    },
    {
      "epoch": 1.0,
      "eval_accuracy": 0.88875,
      "eval_f1": 0.8871125111810537,
      "eval_loss": 0.39458876848220825,
      "eval_precision": 0.8974543575746378,
      "eval_recall": 0.88875,
      "eval_runtime": 17.8156,
      "eval_samples_per_second": 134.713,
      "eval_steps_per_second": 16.839,
      "step": 600
    },
    {
      "epoch": 1.0083333333333333,
      "grad_norm": 5.190550327301025,
      "learning_rate": 0.00018655555555555558,
      "loss": 0.1851,
      "step": 605
    },
    {
      "epoch": 1.0166666666666666,
      "grad_norm": 3.7078304290771484,
      "learning_rate": 0.00018644444444444446,
      "loss": 0.1938,
      "step": 610
    },
    {
      "epoch": 1.025,
      "grad_norm": 6.819977760314941,
      "learning_rate": 0.00018633333333333333,
      "loss": 0.1143,
      "step": 615
    },
    {
      "epoch": 1.0333333333333334,
      "grad_norm": 5.258234024047852,
      "learning_rate": 0.00018622222222222223,
      "loss": 0.1107,
      "step": 620
    },
    {
      "epoch": 1.0416666666666667,
      "grad_norm": 2.1101744174957275,
      "learning_rate": 0.00018611111111111112,
      "loss": 0.2198,
      "step": 625
    },
    {
      "epoch": 1.05,
      "grad_norm": 0.18570120632648468,
      "learning_rate": 0.00018600000000000002,
      "loss": 0.0506,
      "step": 630
    },
    {
      "epoch": 1.0583333333333333,
      "grad_norm": 4.46303653717041,
      "learning_rate": 0.0001858888888888889,
      "loss": 0.1997,
      "step": 635
    },
    {
      "epoch": 1.0666666666666667,
      "grad_norm": 5.00273323059082,
      "learning_rate": 0.0001857777777777778,
      "loss": 0.0364,
      "step": 640
    },
    {
      "epoch": 1.075,
      "grad_norm": 1.9977484941482544,
      "learning_rate": 0.0001856666666666667,
      "loss": 0.128,
      "step": 645
    },
    {
      "epoch": 1.0833333333333333,
      "grad_norm": 0.08719918131828308,
      "learning_rate": 0.00018555555555555556,
      "loss": 0.0543,
      "step": 650
    },
    {
      "epoch": 1.0916666666666666,
      "grad_norm": 0.5175608992576599,
      "learning_rate": 0.00018544444444444443,
      "loss": 0.0247,
      "step": 655
    },
    {
      "epoch": 1.1,
      "grad_norm": 0.05421482399106026,
      "learning_rate": 0.00018533333333333333,
      "loss": 0.0222,
      "step": 660
    },
    {
      "epoch": 1.1083333333333334,
      "grad_norm": 1.745843529701233,
      "learning_rate": 0.00018522222222222223,
      "loss": 0.0141,
      "step": 665
    },
    {
      "epoch": 1.1166666666666667,
      "grad_norm": 0.03375735878944397,
      "learning_rate": 0.00018511111111111113,
      "loss": 0.0997,
      "step": 670
    },
    {
      "epoch": 1.125,
      "grad_norm": 0.05710075795650482,
      "learning_rate": 0.00018500000000000002,
      "loss": 0.0722,
      "step": 675
    },
    {
      "epoch": 1.1333333333333333,
      "grad_norm": 3.78722882270813,
      "learning_rate": 0.0001848888888888889,
      "loss": 0.1492,
      "step": 680
    },
    {
      "epoch": 1.1416666666666666,
      "grad_norm": 0.9008678197860718,
      "learning_rate": 0.0001847777777777778,
      "loss": 0.0531,
      "step": 685
    },
    {
      "epoch": 1.15,
      "grad_norm": 6.39724063873291,
      "learning_rate": 0.00018466666666666666,
      "loss": 0.1829,
      "step": 690
    },
    {
      "epoch": 1.1583333333333332,
      "grad_norm": 1.0451244115829468,
      "learning_rate": 0.00018455555555555556,
      "loss": 0.0213,
      "step": 695
    },
    {
      "epoch": 1.1666666666666667,
      "grad_norm": 7.204558849334717,
      "learning_rate": 0.00018444444444444446,
      "loss": 0.1699,
      "step": 700
    },
    {
      "epoch": 1.1666666666666667,
      "eval_accuracy": 0.79875,
      "eval_f1": 0.8004089682913922,
      "eval_loss": 0.7518543601036072,
      "eval_precision": 0.8372951474278508,
      "eval_recall": 0.79875,
      "eval_runtime": 17.6929,
      "eval_samples_per_second": 135.648,
      "eval_steps_per_second": 16.956,
      "step": 700
    },
    {
      "epoch": 1.175,
      "grad_norm": 0.4495665729045868,
      "learning_rate": 0.00018433333333333333,
      "loss": 0.1208,
      "step": 705
    },
    {
      "epoch": 1.1833333333333333,
      "grad_norm": 7.243679046630859,
      "learning_rate": 0.00018422222222222223,
      "loss": 0.1203,
      "step": 710
    },
    {
      "epoch": 1.1916666666666667,
      "grad_norm": 2.1052699089050293,
      "learning_rate": 0.00018411111111111113,
      "loss": 0.1621,
      "step": 715
    },
    {
      "epoch": 1.2,
      "grad_norm": 2.4424147605895996,
      "learning_rate": 0.00018400000000000003,
      "loss": 0.0476,
      "step": 720
    },
    {
      "epoch": 1.2083333333333333,
      "grad_norm": 6.617985725402832,
      "learning_rate": 0.0001838888888888889,
      "loss": 0.152,
      "step": 725
    },
    {
      "epoch": 1.2166666666666668,
      "grad_norm": 0.43077871203422546,
      "learning_rate": 0.00018377777777777777,
      "loss": 0.0138,
      "step": 730
    },
    {
      "epoch": 1.225,
      "grad_norm": 0.07198466360569,
      "learning_rate": 0.00018366666666666667,
      "loss": 0.1339,
      "step": 735
    },
    {
      "epoch": 1.2333333333333334,
      "grad_norm": 0.6551660895347595,
      "learning_rate": 0.00018355555555555557,
      "loss": 0.056,
      "step": 740
    },
    {
      "epoch": 1.2416666666666667,
      "grad_norm": 0.2904645800590515,
      "learning_rate": 0.00018344444444444446,
      "loss": 0.2073,
      "step": 745
    },
    {
      "epoch": 1.25,
      "grad_norm": 6.343700885772705,
      "learning_rate": 0.00018333333333333334,
      "loss": 0.1059,
      "step": 750
    },
    {
      "epoch": 1.2583333333333333,
      "grad_norm": 0.14593662321567535,
      "learning_rate": 0.00018322222222222223,
      "loss": 0.0417,
      "step": 755
    },
    {
      "epoch": 1.2666666666666666,
      "grad_norm": 5.131787300109863,
      "learning_rate": 0.00018311111111111113,
      "loss": 0.2048,
      "step": 760
    },
    {
      "epoch": 1.275,
      "grad_norm": 0.7536936402320862,
      "learning_rate": 0.000183,
      "loss": 0.1034,
      "step": 765
    },
    {
      "epoch": 1.2833333333333332,
      "grad_norm": 8.90077018737793,
      "learning_rate": 0.00018288888888888887,
      "loss": 0.0599,
      "step": 770
    },
    {
      "epoch": 1.2916666666666667,
      "grad_norm": 4.549215316772461,
      "learning_rate": 0.00018277777777777777,
      "loss": 0.0746,
      "step": 775
    },
    {
      "epoch": 1.3,
      "grad_norm": 0.9085738658905029,
      "learning_rate": 0.00018266666666666667,
      "loss": 0.1226,
      "step": 780
    },
    {
      "epoch": 1.3083333333333333,
      "grad_norm": 5.179378032684326,
      "learning_rate": 0.00018255555555555557,
      "loss": 0.1018,
      "step": 785
    },
    {
      "epoch": 1.3166666666666667,
      "grad_norm": 5.689704418182373,
      "learning_rate": 0.00018244444444444447,
      "loss": 0.2044,
      "step": 790
    },
    {
      "epoch": 1.325,
      "grad_norm": 2.0223228931427,
      "learning_rate": 0.00018233333333333334,
      "loss": 0.0961,
      "step": 795
    },
    {
      "epoch": 1.3333333333333333,
      "grad_norm": 0.10174084454774857,
      "learning_rate": 0.00018222222222222224,
      "loss": 0.1526,
      "step": 800
    },
    {
      "epoch": 1.3333333333333333,
      "eval_accuracy": 0.8341666666666666,
      "eval_f1": 0.8372397458363278,
      "eval_loss": 0.7252515554428101,
      "eval_precision": 0.8726816834008599,
      "eval_recall": 0.8341666666666666,
      "eval_runtime": 17.9874,
      "eval_samples_per_second": 133.427,
      "eval_steps_per_second": 16.678,
      "step": 800
    },
    {
      "epoch": 1.3416666666666668,
      "grad_norm": 2.904458999633789,
      "learning_rate": 0.00018211111111111113,
      "loss": 0.0377,
      "step": 805
    },
    {
      "epoch": 1.35,
      "grad_norm": 0.05837200954556465,
      "learning_rate": 0.000182,
      "loss": 0.0704,
      "step": 810
    },
    {
      "epoch": 1.3583333333333334,
      "grad_norm": 0.42031654715538025,
      "learning_rate": 0.0001818888888888889,
      "loss": 0.0712,
      "step": 815
    },
    {
      "epoch": 1.3666666666666667,
      "grad_norm": 0.5152967572212219,
      "learning_rate": 0.00018177777777777778,
      "loss": 0.1377,
      "step": 820
    },
    {
      "epoch": 1.375,
      "grad_norm": 0.8342171907424927,
      "learning_rate": 0.00018166666666666667,
      "loss": 0.0436,
      "step": 825
    },
    {
      "epoch": 1.3833333333333333,
      "grad_norm": 5.569330215454102,
      "learning_rate": 0.00018155555555555557,
      "loss": 0.1325,
      "step": 830
    },
    {
      "epoch": 1.3916666666666666,
      "grad_norm": 2.096158266067505,
      "learning_rate": 0.00018144444444444447,
      "loss": 0.1376,
      "step": 835
    },
    {
      "epoch": 1.4,
      "grad_norm": 0.03108242154121399,
      "learning_rate": 0.00018133333333333334,
      "loss": 0.0378,
      "step": 840
    },
    {
      "epoch": 1.4083333333333332,
      "grad_norm": 0.05029093474149704,
      "learning_rate": 0.00018122222222222224,
      "loss": 0.0611,
      "step": 845
    },
    {
      "epoch": 1.4166666666666667,
      "grad_norm": 0.04915205389261246,
      "learning_rate": 0.0001811111111111111,
      "loss": 0.0238,
      "step": 850
    },
    {
      "epoch": 1.425,
      "grad_norm": 0.33658233284950256,
      "learning_rate": 0.000181,
      "loss": 0.029,
      "step": 855
    },
    {
      "epoch": 1.4333333333333333,
      "grad_norm": 7.762981414794922,
      "learning_rate": 0.0001808888888888889,
      "loss": 0.1429,
      "step": 860
    },
    {
      "epoch": 1.4416666666666667,
      "grad_norm": 0.026526333764195442,
      "learning_rate": 0.00018077777777777778,
      "loss": 0.0337,
      "step": 865
    },
    {
      "epoch": 1.45,
      "grad_norm": 3.737543821334839,
      "learning_rate": 0.00018066666666666668,
      "loss": 0.0475,
      "step": 870
    },
    {
      "epoch": 1.4583333333333333,
      "grad_norm": 1.0969120264053345,
      "learning_rate": 0.00018055555555555557,
      "loss": 0.0713,
      "step": 875
    },
    {
      "epoch": 1.4666666666666668,
      "grad_norm": 0.45271745324134827,
      "learning_rate": 0.00018044444444444447,
      "loss": 0.0119,
      "step": 880
    },
    {
      "epoch": 1.475,
      "grad_norm": 0.029802873730659485,
      "learning_rate": 0.00018033333333333334,
      "loss": 0.0077,
      "step": 885
    },
    {
      "epoch": 1.4833333333333334,
      "grad_norm": 0.034355923533439636,
      "learning_rate": 0.00018022222222222221,
      "loss": 0.0326,
      "step": 890
    },
    {
      "epoch": 1.4916666666666667,
      "grad_norm": 0.18712371587753296,
      "learning_rate": 0.0001801111111111111,
      "loss": 0.0489,
      "step": 895
    },
    {
      "epoch": 1.5,
      "grad_norm": 1.3559157848358154,
      "learning_rate": 0.00018,
      "loss": 0.0361,
      "step": 900
    },
    {
      "epoch": 1.5,
      "eval_accuracy": 0.7829166666666667,
      "eval_f1": 0.7747896944850635,
      "eval_loss": 1.0151267051696777,
      "eval_precision": 0.8063794910433087,
      "eval_recall": 0.7829166666666667,
      "eval_runtime": 17.8014,
      "eval_samples_per_second": 134.821,
      "eval_steps_per_second": 16.853,
      "step": 900
    },
    {
      "epoch": 1.5083333333333333,
      "grad_norm": 0.12585686147212982,
      "learning_rate": 0.0001798888888888889,
      "loss": 0.0189,
      "step": 905
    },
    {
      "epoch": 1.5166666666666666,
      "grad_norm": 0.21475127339363098,
      "learning_rate": 0.00017977777777777778,
      "loss": 0.056,
      "step": 910
    },
    {
      "epoch": 1.525,
      "grad_norm": 25.202194213867188,
      "learning_rate": 0.00017966666666666668,
      "loss": 0.0503,
      "step": 915
    },
    {
      "epoch": 1.5333333333333332,
      "grad_norm": 5.95808744430542,
      "learning_rate": 0.00017955555555555558,
      "loss": 0.0149,
      "step": 920
    },
    {
      "epoch": 1.5416666666666665,
      "grad_norm": 0.02669188380241394,
      "learning_rate": 0.00017944444444444445,
      "loss": 0.0815,
      "step": 925
    },
    {
      "epoch": 1.55,
      "grad_norm": 4.774548530578613,
      "learning_rate": 0.00017933333333333332,
      "loss": 0.1317,
      "step": 930
    },
    {
      "epoch": 1.5583333333333333,
      "grad_norm": 0.07058402895927429,
      "learning_rate": 0.00017922222222222222,
      "loss": 0.1055,
      "step": 935
    },
    {
      "epoch": 1.5666666666666667,
      "grad_norm": 6.625515937805176,
      "learning_rate": 0.00017911111111111112,
      "loss": 0.0251,
      "step": 940
    },
    {
      "epoch": 1.575,
      "grad_norm": 6.0176286697387695,
      "learning_rate": 0.00017900000000000001,
      "loss": 0.1585,
      "step": 945
    },
    {
      "epoch": 1.5833333333333335,
      "grad_norm": 3.70636248588562,
      "learning_rate": 0.0001788888888888889,
      "loss": 0.0547,
      "step": 950
    },
    {
      "epoch": 1.5916666666666668,
      "grad_norm": 14.267446517944336,
      "learning_rate": 0.00017877777777777778,
      "loss": 0.2453,
      "step": 955
    },
    {
      "epoch": 1.6,
      "grad_norm": 9.072842597961426,
      "learning_rate": 0.00017866666666666668,
      "loss": 0.0899,
      "step": 960
    },
    {
      "epoch": 1.6083333333333334,
      "grad_norm": 5.615912914276123,
      "learning_rate": 0.00017855555555555555,
      "loss": 0.0253,
      "step": 965
    },
    {
      "epoch": 1.6166666666666667,
      "grad_norm": 24.947677612304688,
      "learning_rate": 0.00017844444444444445,
      "loss": 0.2091,
      "step": 970
    },
    {
      "epoch": 1.625,
      "grad_norm": 2.843770742416382,
      "learning_rate": 0.00017833333333333335,
      "loss": 0.1609,
      "step": 975
    },
    {
      "epoch": 1.6333333333333333,
      "grad_norm": 0.05001997575163841,
      "learning_rate": 0.00017822222222222222,
      "loss": 0.0982,
      "step": 980
    },
    {
      "epoch": 1.6416666666666666,
      "grad_norm": 0.6303101778030396,
      "learning_rate": 0.00017811111111111112,
      "loss": 0.2476,
      "step": 985
    },
    {
      "epoch": 1.65,
      "grad_norm": 0.051040977239608765,
      "learning_rate": 0.00017800000000000002,
      "loss": 0.1254,
      "step": 990
    },
    {
      "epoch": 1.6583333333333332,
      "grad_norm": 5.920875072479248,
      "learning_rate": 0.00017788888888888892,
      "loss": 0.1514,
      "step": 995
    },
    {
      "epoch": 1.6666666666666665,
      "grad_norm": 0.8504155874252319,
      "learning_rate": 0.00017777777777777779,
      "loss": 0.0756,
      "step": 1000
    },
    {
      "epoch": 1.6666666666666665,
      "eval_accuracy": 0.8625,
      "eval_f1": 0.8646920747751043,
      "eval_loss": 0.6614357829093933,
      "eval_precision": 0.8860041543060578,
      "eval_recall": 0.8625,
      "eval_runtime": 17.5762,
      "eval_samples_per_second": 136.548,
      "eval_steps_per_second": 17.069,
      "step": 1000
    },
    {
      "epoch": 1.675,
      "grad_norm": 0.6305421590805054,
      "learning_rate": 0.00017766666666666666,
      "loss": 0.0512,
      "step": 1005
    },
    {
      "epoch": 1.6833333333333333,
      "grad_norm": 8.141460418701172,
      "learning_rate": 0.00017755555555555556,
      "loss": 0.0796,
      "step": 1010
    },
    {
      "epoch": 1.6916666666666667,
      "grad_norm": 5.672058582305908,
      "learning_rate": 0.00017744444444444445,
      "loss": 0.228,
      "step": 1015
    },
    {
      "epoch": 1.7,
      "grad_norm": 0.13320106267929077,
      "learning_rate": 0.00017733333333333335,
      "loss": 0.008,
      "step": 1020
    },
    {
      "epoch": 1.7083333333333335,
      "grad_norm": 8.979616165161133,
      "learning_rate": 0.00017722222222222222,
      "loss": 0.049,
      "step": 1025
    },
    {
      "epoch": 1.7166666666666668,
      "grad_norm": 0.021595889702439308,
      "learning_rate": 0.00017711111111111112,
      "loss": 0.0074,
      "step": 1030
    },
    {
      "epoch": 1.725,
      "grad_norm": 0.08250109851360321,
      "learning_rate": 0.00017700000000000002,
      "loss": 0.1144,
      "step": 1035
    },
    {
      "epoch": 1.7333333333333334,
      "grad_norm": 0.01635359786450863,
      "learning_rate": 0.0001768888888888889,
      "loss": 0.1734,
      "step": 1040
    },
    {
      "epoch": 1.7416666666666667,
      "grad_norm": 0.3833844065666199,
      "learning_rate": 0.00017677777777777776,
      "loss": 0.0082,
      "step": 1045
    },
    {
      "epoch": 1.75,
      "grad_norm": 3.554133176803589,
      "learning_rate": 0.00017666666666666666,
      "loss": 0.154,
      "step": 1050
    },
    {
      "epoch": 1.7583333333333333,
      "grad_norm": 2.301884889602661,
      "learning_rate": 0.00017655555555555556,
      "loss": 0.092,
      "step": 1055
    },
    {
      "epoch": 1.7666666666666666,
      "grad_norm": 3.561600923538208,
      "learning_rate": 0.00017644444444444446,
      "loss": 0.1087,
      "step": 1060
    },
    {
      "epoch": 1.775,
      "grad_norm": 0.22606121003627777,
      "learning_rate": 0.00017633333333333335,
      "loss": 0.0228,
      "step": 1065
    },
    {
      "epoch": 1.7833333333333332,
      "grad_norm": 0.018015572801232338,
      "learning_rate": 0.00017622222222222223,
      "loss": 0.0617,
      "step": 1070
    },
    {
      "epoch": 1.7916666666666665,
      "grad_norm": 8.11860466003418,
      "learning_rate": 0.00017611111111111112,
      "loss": 0.1184,
      "step": 1075
    },
    {
      "epoch": 1.8,
      "grad_norm": 0.12891323864459991,
      "learning_rate": 0.00017600000000000002,
      "loss": 0.0315,
      "step": 1080
    },
    {
      "epoch": 1.8083333333333333,
      "grad_norm": 8.783900260925293,
      "learning_rate": 0.0001758888888888889,
      "loss": 0.159,
      "step": 1085
    },
    {
      "epoch": 1.8166666666666667,
      "grad_norm": 1.1562530994415283,
      "learning_rate": 0.0001757777777777778,
      "loss": 0.1181,
      "step": 1090
    },
    {
      "epoch": 1.825,
      "grad_norm": 4.944476127624512,
      "learning_rate": 0.00017566666666666666,
      "loss": 0.1459,
      "step": 1095
    },
    {
      "epoch": 1.8333333333333335,
      "grad_norm": 0.8096005916595459,
      "learning_rate": 0.00017555555555555556,
      "loss": 0.0267,
      "step": 1100
    },
    {
      "epoch": 1.8333333333333335,
      "eval_accuracy": 0.8154166666666667,
      "eval_f1": 0.8195031261591144,
      "eval_loss": 0.916286826133728,
      "eval_precision": 0.8321358425680409,
      "eval_recall": 0.8154166666666667,
      "eval_runtime": 17.7487,
      "eval_samples_per_second": 135.221,
      "eval_steps_per_second": 16.903,
      "step": 1100
    },
    {
      "epoch": 1.8416666666666668,
      "grad_norm": 0.03136048465967178,
      "learning_rate": 0.00017544444444444446,
      "loss": 0.0102,
      "step": 1105
    },
    {
      "epoch": 1.85,
      "grad_norm": 0.016204537823796272,
      "learning_rate": 0.00017533333333333336,
      "loss": 0.0564,
      "step": 1110
    },
    {
      "epoch": 1.8583333333333334,
      "grad_norm": 5.846640586853027,
      "learning_rate": 0.00017522222222222223,
      "loss": 0.1104,
      "step": 1115
    },
    {
      "epoch": 1.8666666666666667,
      "grad_norm": 0.6325001120567322,
      "learning_rate": 0.00017511111111111113,
      "loss": 0.0161,
      "step": 1120
    },
    {
      "epoch": 1.875,
      "grad_norm": 1.2196465730667114,
      "learning_rate": 0.000175,
      "loss": 0.1996,
      "step": 1125
    },
    {
      "epoch": 1.8833333333333333,
      "grad_norm": 3.5975499153137207,
      "learning_rate": 0.0001748888888888889,
      "loss": 0.1352,
      "step": 1130
    },
    {
      "epoch": 1.8916666666666666,
      "grad_norm": 2.0284111499786377,
      "learning_rate": 0.0001747777777777778,
      "loss": 0.0777,
      "step": 1135
    },
    {
      "epoch": 1.9,
      "grad_norm": 1.8433558940887451,
      "learning_rate": 0.00017466666666666667,
      "loss": 0.0739,
      "step": 1140
    },
    {
      "epoch": 1.9083333333333332,
      "grad_norm": 2.201446533203125,
      "learning_rate": 0.00017455555555555556,
      "loss": 0.1088,
      "step": 1145
    },
    {
      "epoch": 1.9166666666666665,
      "grad_norm": 0.29783114790916443,
      "learning_rate": 0.00017444444444444446,
      "loss": 0.0382,
      "step": 1150
    },
    {
      "epoch": 1.925,
      "grad_norm": 0.050920043140649796,
      "learning_rate": 0.00017433333333333336,
      "loss": 0.1243,
      "step": 1155
    },
    {
      "epoch": 1.9333333333333333,
      "grad_norm": 0.12383639067411423,
      "learning_rate": 0.00017422222222222223,
      "loss": 0.0935,
      "step": 1160
    },
    {
      "epoch": 1.9416666666666667,
      "grad_norm": 4.055761337280273,
      "learning_rate": 0.0001741111111111111,
      "loss": 0.1779,
      "step": 1165
    },
    {
      "epoch": 1.95,
      "grad_norm": 0.3914005160331726,
      "learning_rate": 0.000174,
      "loss": 0.6406,
      "step": 1170
    },
    {
      "epoch": 1.9583333333333335,
      "grad_norm": 0.1113491803407669,
      "learning_rate": 0.0001738888888888889,
      "loss": 0.0426,
      "step": 1175
    },
    {
      "epoch": 1.9666666666666668,
      "grad_norm": 0.3459608852863312,
      "learning_rate": 0.0001737777777777778,
      "loss": 0.2269,
      "step": 1180
    },
    {
      "epoch": 1.975,
      "grad_norm": 0.21329687535762787,
      "learning_rate": 0.00017366666666666667,
      "loss": 0.1098,
      "step": 1185
    },
    {
      "epoch": 1.9833333333333334,
      "grad_norm": 0.18347907066345215,
      "learning_rate": 0.00017355555555555557,
      "loss": 0.0887,
      "step": 1190
    },
    {
      "epoch": 1.9916666666666667,
      "grad_norm": 0.07281428575515747,
      "learning_rate": 0.00017344444444444447,
      "loss": 0.0137,
      "step": 1195
    },
    {
      "epoch": 2.0,
      "grad_norm": 0.038814522325992584,
      "learning_rate": 0.00017333333333333334,
      "loss": 0.1447,
      "step": 1200
    },
    {
      "epoch": 2.0,
      "eval_accuracy": 0.8270833333333333,
      "eval_f1": 0.8244318411057698,
      "eval_loss": 0.7084296941757202,
      "eval_precision": 0.8381319558931056,
      "eval_recall": 0.8270833333333333,
      "eval_runtime": 17.9969,
      "eval_samples_per_second": 133.356,
      "eval_steps_per_second": 16.67,
      "step": 1200
    },
    {
      "epoch": 2.0083333333333333,
      "grad_norm": 0.09199836850166321,
      "learning_rate": 0.00017322222222222223,
      "loss": 0.0337,
      "step": 1205
    },
    {
      "epoch": 2.0166666666666666,
      "grad_norm": 0.03164709731936455,
      "learning_rate": 0.0001731111111111111,
      "loss": 0.0293,
      "step": 1210
    },
    {
      "epoch": 2.025,
      "grad_norm": 0.1048315167427063,
      "learning_rate": 0.000173,
      "loss": 0.0338,
      "step": 1215
    },
    {
      "epoch": 2.033333333333333,
      "grad_norm": 5.334856986999512,
      "learning_rate": 0.0001728888888888889,
      "loss": 0.0244,
      "step": 1220
    },
    {
      "epoch": 2.0416666666666665,
      "grad_norm": 0.04372807592153549,
      "learning_rate": 0.0001727777777777778,
      "loss": 0.1352,
      "step": 1225
    },
    {
      "epoch": 2.05,
      "grad_norm": 0.10769517719745636,
      "learning_rate": 0.00017266666666666667,
      "loss": 0.0061,
      "step": 1230
    },
    {
      "epoch": 2.058333333333333,
      "grad_norm": 0.9355013370513916,
      "learning_rate": 0.00017255555555555557,
      "loss": 0.0461,
      "step": 1235
    },
    {
      "epoch": 2.066666666666667,
      "grad_norm": 4.637552738189697,
      "learning_rate": 0.00017244444444444444,
      "loss": 0.0661,
      "step": 1240
    },
    {
      "epoch": 2.075,
      "grad_norm": 0.021802879869937897,
      "learning_rate": 0.00017233333333333334,
      "loss": 0.0647,
      "step": 1245
    },
    {
      "epoch": 2.0833333333333335,
      "grad_norm": 8.047889709472656,
      "learning_rate": 0.00017222222222222224,
      "loss": 0.0724,
      "step": 1250
    },
    {
      "epoch": 2.091666666666667,
      "grad_norm": 1.2695510387420654,
      "learning_rate": 0.0001721111111111111,
      "loss": 0.0057,
      "step": 1255
    },
    {
      "epoch": 2.1,
      "grad_norm": 2.473524570465088,
      "learning_rate": 0.000172,
      "loss": 0.0854,
      "step": 1260
    },
    {
      "epoch": 2.1083333333333334,
      "grad_norm": 13.952597618103027,
      "learning_rate": 0.0001718888888888889,
      "loss": 0.1471,
      "step": 1265
    },
    {
      "epoch": 2.1166666666666667,
      "grad_norm": 0.10217456519603729,
      "learning_rate": 0.0001717777777777778,
      "loss": 0.06,
      "step": 1270
    },
    {
      "epoch": 2.125,
      "grad_norm": 26.351154327392578,
      "learning_rate": 0.00017166666666666667,
      "loss": 0.2103,
      "step": 1275
    },
    {
      "epoch": 2.1333333333333333,
      "grad_norm": 0.07564105093479156,
      "learning_rate": 0.00017155555555555555,
      "loss": 0.0051,
      "step": 1280
    },
    {
      "epoch": 2.1416666666666666,
      "grad_norm": 0.020206160843372345,
      "learning_rate": 0.00017144444444444444,
      "loss": 0.0131,
      "step": 1285
    },
    {
      "epoch": 2.15,
      "grad_norm": 11.467910766601562,
      "learning_rate": 0.00017133333333333334,
      "loss": 0.0646,
      "step": 1290
    },
    {
      "epoch": 2.158333333333333,
      "grad_norm": 0.756274938583374,
      "learning_rate": 0.00017122222222222224,
      "loss": 0.1397,
      "step": 1295
    },
    {
      "epoch": 2.1666666666666665,
      "grad_norm": 0.012717624194920063,
      "learning_rate": 0.0001711111111111111,
      "loss": 0.0132,
      "step": 1300
    },
    {
      "epoch": 2.1666666666666665,
      "eval_accuracy": 0.8354166666666667,
      "eval_f1": 0.8378136710221971,
      "eval_loss": 0.8918755054473877,
      "eval_precision": 0.8758446534919354,
      "eval_recall": 0.8354166666666667,
      "eval_runtime": 17.8209,
      "eval_samples_per_second": 134.673,
      "eval_steps_per_second": 16.834,
      "step": 1300
    },
    {
      "epoch": 2.175,
      "grad_norm": 0.08167925477027893,
      "learning_rate": 0.000171,
      "loss": 0.0047,
      "step": 1305
    },
    {
      "epoch": 2.183333333333333,
      "grad_norm": 5.449997425079346,
      "learning_rate": 0.0001708888888888889,
      "loss": 0.1176,
      "step": 1310
    },
    {
      "epoch": 2.191666666666667,
      "grad_norm": 0.015109891071915627,
      "learning_rate": 0.00017077777777777778,
      "loss": 0.0798,
      "step": 1315
    },
    {
      "epoch": 2.2,
      "grad_norm": 0.07088598608970642,
      "learning_rate": 0.00017066666666666668,
      "loss": 0.0081,
      "step": 1320
    },
    {
      "epoch": 2.2083333333333335,
      "grad_norm": 4.491578578948975,
      "learning_rate": 0.00017055555555555555,
      "loss": 0.0203,
      "step": 1325
    },
    {
      "epoch": 2.216666666666667,
      "grad_norm": 0.010484328493475914,
      "learning_rate": 0.00017044444444444445,
      "loss": 0.0048,
      "step": 1330
    },
    {
      "epoch": 2.225,
      "grad_norm": 0.13232919573783875,
      "learning_rate": 0.00017033333333333334,
      "loss": 0.0051,
      "step": 1335
    },
    {
      "epoch": 2.2333333333333334,
      "grad_norm": 0.02636362612247467,
      "learning_rate": 0.00017022222222222224,
      "loss": 0.0039,
      "step": 1340
    },
    {
      "epoch": 2.2416666666666667,
      "grad_norm": 6.260144233703613,
      "learning_rate": 0.00017011111111111111,
      "loss": 0.0571,
      "step": 1345
    },
    {
      "epoch": 2.25,
      "grad_norm": 9.199549674987793,
      "learning_rate": 0.00017,
      "loss": 0.2115,
      "step": 1350
    },
    {
      "epoch": 2.2583333333333333,
      "grad_norm": 5.037546634674072,
      "learning_rate": 0.0001698888888888889,
      "loss": 0.063,
      "step": 1355
    },
    {
      "epoch": 2.2666666666666666,
      "grad_norm": 0.02216896414756775,
      "learning_rate": 0.00016977777777777778,
      "loss": 0.2259,
      "step": 1360
    },
    {
      "epoch": 2.275,
      "grad_norm": 0.14683176577091217,
      "learning_rate": 0.00016966666666666668,
      "loss": 0.0566,
      "step": 1365
    },
    {
      "epoch": 2.283333333333333,
      "grad_norm": 1.680610179901123,
      "learning_rate": 0.00016955555555555555,
      "loss": 0.0755,
      "step": 1370
    },
    {
      "epoch": 2.2916666666666665,
      "grad_norm": 0.16391471028327942,
      "learning_rate": 0.00016944444444444445,
      "loss": 0.0041,
      "step": 1375
    },
    {
      "epoch": 2.3,
      "grad_norm": 0.013741361908614635,
      "learning_rate": 0.00016933333333333335,
      "loss": 0.0444,
      "step": 1380
    },
    {
      "epoch": 2.3083333333333336,
      "grad_norm": 0.009647690691053867,
      "learning_rate": 0.00016922222222222225,
      "loss": 0.0055,
      "step": 1385
    },
    {
      "epoch": 2.3166666666666664,
      "grad_norm": 0.1262177973985672,
      "learning_rate": 0.00016911111111111112,
      "loss": 0.0419,
      "step": 1390
    },
    {
      "epoch": 2.325,
      "grad_norm": 0.017546096816658974,
      "learning_rate": 0.00016900000000000002,
      "loss": 0.018,
      "step": 1395
    },
    {
      "epoch": 2.3333333333333335,
      "grad_norm": 0.021930988878011703,
      "learning_rate": 0.00016888888888888889,
      "loss": 0.0254,
      "step": 1400
    },
    {
      "epoch": 2.3333333333333335,
      "eval_accuracy": 0.84875,
      "eval_f1": 0.8504608291781783,
      "eval_loss": 0.7531205415725708,
      "eval_precision": 0.8772286114671974,
      "eval_recall": 0.84875,
      "eval_runtime": 17.9854,
      "eval_samples_per_second": 133.441,
      "eval_steps_per_second": 16.68,
      "step": 1400
    },
    {
      "epoch": 2.341666666666667,
      "grad_norm": 0.015738027170300484,
      "learning_rate": 0.00016877777777777778,
      "loss": 0.0025,
      "step": 1405
    },
    {
      "epoch": 2.35,
      "grad_norm": 0.011058777570724487,
      "learning_rate": 0.00016866666666666668,
      "loss": 0.0612,
      "step": 1410
    },
    {
      "epoch": 2.3583333333333334,
      "grad_norm": 0.02612924389541149,
      "learning_rate": 0.00016855555555555555,
      "loss": 0.0395,
      "step": 1415
    },
    {
      "epoch": 2.3666666666666667,
      "grad_norm": 0.018870584666728973,
      "learning_rate": 0.00016844444444444445,
      "loss": 0.0965,
      "step": 1420
    },
    {
      "epoch": 2.375,
      "grad_norm": 0.00941607728600502,
      "learning_rate": 0.00016833333333333335,
      "loss": 0.0351,
      "step": 1425
    },
    {
      "epoch": 2.3833333333333333,
      "grad_norm": 4.440942287445068,
      "learning_rate": 0.00016822222222222225,
      "loss": 0.1115,
      "step": 1430
    },
    {
      "epoch": 2.3916666666666666,
      "grad_norm": 0.012335088104009628,
      "learning_rate": 0.00016811111111111112,
      "loss": 0.0994,
      "step": 1435
    },
    {
      "epoch": 2.4,
      "grad_norm": 0.01052209734916687,
      "learning_rate": 0.000168,
      "loss": 0.0669,
      "step": 1440
    },
    {
      "epoch": 2.408333333333333,
      "grad_norm": 0.12476002424955368,
      "learning_rate": 0.0001678888888888889,
      "loss": 0.0293,
      "step": 1445
    },
    {
      "epoch": 2.4166666666666665,
      "grad_norm": 0.012637284584343433,
      "learning_rate": 0.0001677777777777778,
      "loss": 0.0045,
      "step": 1450
    },
    {
      "epoch": 2.425,
      "grad_norm": 0.015369030646979809,
      "learning_rate": 0.00016766666666666669,
      "loss": 0.08,
      "step": 1455
    },
    {
      "epoch": 2.4333333333333336,
      "grad_norm": 0.05247833952307701,
      "learning_rate": 0.00016755555555555556,
      "loss": 0.0862,
      "step": 1460
    },
    {
      "epoch": 2.4416666666666664,
      "grad_norm": 0.009109685197472572,
      "learning_rate": 0.00016744444444444445,
      "loss": 0.0498,
      "step": 1465
    },
    {
      "epoch": 2.45,
      "grad_norm": 0.01543606910854578,
      "learning_rate": 0.00016733333333333335,
      "loss": 0.0034,
      "step": 1470
    },
    {
      "epoch": 2.4583333333333335,
      "grad_norm": 5.914150238037109,
      "learning_rate": 0.00016722222222222222,
      "loss": 0.0541,
      "step": 1475
    },
    {
      "epoch": 2.466666666666667,
      "grad_norm": 0.3496047258377075,
      "learning_rate": 0.00016711111111111112,
      "loss": 0.005,
      "step": 1480
    },
    {
      "epoch": 2.475,
      "grad_norm": 0.014042253606021404,
      "learning_rate": 0.000167,
      "loss": 0.0029,
      "step": 1485
    },
    {
      "epoch": 2.4833333333333334,
      "grad_norm": 0.02053564414381981,
      "learning_rate": 0.0001668888888888889,
      "loss": 0.004,
      "step": 1490
    },
    {
      "epoch": 2.4916666666666667,
      "grad_norm": 0.01029284205287695,
      "learning_rate": 0.0001667777777777778,
      "loss": 0.0028,
      "step": 1495
    },
    {
      "epoch": 2.5,
      "grad_norm": 25.791231155395508,
      "learning_rate": 0.0001666666666666667,
      "loss": 0.0848,
      "step": 1500
    },
    {
      "epoch": 2.5,
      "eval_accuracy": 0.8733333333333333,
      "eval_f1": 0.8764933869073707,
      "eval_loss": 0.6490734815597534,
      "eval_precision": 0.8841435817731688,
      "eval_recall": 0.8733333333333333,
      "eval_runtime": 18.1522,
      "eval_samples_per_second": 132.216,
      "eval_steps_per_second": 16.527,
      "step": 1500
    },
    {
      "epoch": 2.5083333333333333,
      "grad_norm": 0.0122717609629035,
      "learning_rate": 0.00016655555555555556,
      "loss": 0.0024,
      "step": 1505
    },
    {
      "epoch": 2.5166666666666666,
      "grad_norm": 0.014324542135000229,
      "learning_rate": 0.00016644444444444446,
      "loss": 0.0025,
      "step": 1510
    },
    {
      "epoch": 2.525,
      "grad_norm": 0.010405826382339,
      "learning_rate": 0.00016633333333333333,
      "loss": 0.0293,
      "step": 1515
    },
    {
      "epoch": 2.533333333333333,
      "grad_norm": 0.01062853541225195,
      "learning_rate": 0.00016622222222222223,
      "loss": 0.0049,
      "step": 1520
    },
    {
      "epoch": 2.5416666666666665,
      "grad_norm": 0.007715370040386915,
      "learning_rate": 0.00016611111111111113,
      "loss": 0.0058,
      "step": 1525
    },
    {
      "epoch": 2.55,
      "grad_norm": 0.007967700250446796,
      "learning_rate": 0.000166,
      "loss": 0.0019,
      "step": 1530
    },
    {
      "epoch": 2.5583333333333336,
      "grad_norm": 0.009896897710859776,
      "learning_rate": 0.0001658888888888889,
      "loss": 0.0024,
      "step": 1535
    },
    {
      "epoch": 2.5666666666666664,
      "grad_norm": 0.2179703265428543,
      "learning_rate": 0.0001657777777777778,
      "loss": 0.0375,
      "step": 1540
    },
    {
      "epoch": 2.575,
      "grad_norm": 0.04127330332994461,
      "learning_rate": 0.0001656666666666667,
      "loss": 0.0022,
      "step": 1545
    },
    {
      "epoch": 2.5833333333333335,
      "grad_norm": 0.008996847085654736,
      "learning_rate": 0.00016555555555555556,
      "loss": 0.0021,
      "step": 1550
    },
    {
      "epoch": 2.591666666666667,
      "grad_norm": 0.00877330545336008,
      "learning_rate": 0.00016544444444444443,
      "loss": 0.1539,
      "step": 1555
    },
    {
      "epoch": 2.6,
      "grad_norm": 0.012761748395860195,
      "learning_rate": 0.00016533333333333333,
      "loss": 0.0763,
      "step": 1560
    },
    {
      "epoch": 2.6083333333333334,
      "grad_norm": 0.017992554232478142,
      "learning_rate": 0.00016522222222222223,
      "loss": 0.0031,
      "step": 1565
    },
    {
      "epoch": 2.6166666666666667,
      "grad_norm": 7.978610038757324,
      "learning_rate": 0.00016511111111111113,
      "loss": 0.1668,
      "step": 1570
    },
    {
      "epoch": 2.625,
      "grad_norm": 0.017655787989497185,
      "learning_rate": 0.000165,
      "loss": 0.0035,
      "step": 1575
    },
    {
      "epoch": 2.6333333333333333,
      "grad_norm": 0.02371293678879738,
      "learning_rate": 0.0001648888888888889,
      "loss": 0.0076,
      "step": 1580
    },
    {
      "epoch": 2.6416666666666666,
      "grad_norm": 0.01055715512484312,
      "learning_rate": 0.0001647777777777778,
      "loss": 0.0022,
      "step": 1585
    },
    {
      "epoch": 2.65,
      "grad_norm": 0.02987174689769745,
      "learning_rate": 0.00016466666666666667,
      "loss": 0.0035,
      "step": 1590
    },
    {
      "epoch": 2.658333333333333,
      "grad_norm": 9.894449234008789,
      "learning_rate": 0.00016455555555555556,
      "loss": 0.0269,
      "step": 1595
    },
    {
      "epoch": 2.6666666666666665,
      "grad_norm": 0.28751644492149353,
      "learning_rate": 0.00016444444444444444,
      "loss": 0.0605,
      "step": 1600
    },
    {
      "epoch": 2.6666666666666665,
      "eval_accuracy": 0.855,
      "eval_f1": 0.8514572070049548,
      "eval_loss": 0.704536497592926,
      "eval_precision": 0.8707997271183329,
      "eval_recall": 0.855,
      "eval_runtime": 17.6132,
      "eval_samples_per_second": 136.262,
      "eval_steps_per_second": 17.033,
      "step": 1600
    },
    {
      "epoch": 2.675,
      "grad_norm": 0.01105113048106432,
      "learning_rate": 0.00016433333333333333,
      "loss": 0.0637,
      "step": 1605
    },
    {
      "epoch": 2.6833333333333336,
      "grad_norm": 11.10192584991455,
      "learning_rate": 0.00016422222222222223,
      "loss": 0.2375,
      "step": 1610
    },
    {
      "epoch": 2.6916666666666664,
      "grad_norm": 0.05340499430894852,
      "learning_rate": 0.00016411111111111113,
      "loss": 0.015,
      "step": 1615
    },
    {
      "epoch": 2.7,
      "grad_norm": 0.01471757236868143,
      "learning_rate": 0.000164,
      "loss": 0.0497,
      "step": 1620
    },
    {
      "epoch": 2.7083333333333335,
      "grad_norm": 0.007092489395290613,
      "learning_rate": 0.0001638888888888889,
      "loss": 0.0834,
      "step": 1625
    },
    {
      "epoch": 2.716666666666667,
      "grad_norm": 3.1816787719726562,
      "learning_rate": 0.0001637777777777778,
      "loss": 0.146,
      "step": 1630
    },
    {
      "epoch": 2.725,
      "grad_norm": 1.596754550933838,
      "learning_rate": 0.00016366666666666667,
      "loss": 0.0623,
      "step": 1635
    },
    {
      "epoch": 2.7333333333333334,
      "grad_norm": 3.6930975914001465,
      "learning_rate": 0.00016355555555555557,
      "loss": 0.0638,
      "step": 1640
    },
    {
      "epoch": 2.7416666666666667,
      "grad_norm": 0.07302063703536987,
      "learning_rate": 0.00016344444444444444,
      "loss": 0.0151,
      "step": 1645
    },
    {
      "epoch": 2.75,
      "grad_norm": 0.042825885117053986,
      "learning_rate": 0.00016333333333333334,
      "loss": 0.0634,
      "step": 1650
    },
    {
      "epoch": 2.7583333333333333,
      "grad_norm": 0.008094933815300465,
      "learning_rate": 0.00016322222222222224,
      "loss": 0.0978,
      "step": 1655
    },
    {
      "epoch": 2.7666666666666666,
      "grad_norm": 6.224243640899658,
      "learning_rate": 0.00016311111111111113,
      "loss": 0.0103,
      "step": 1660
    },
    {
      "epoch": 2.775,
      "grad_norm": 1.989881157875061,
      "learning_rate": 0.000163,
      "loss": 0.1124,
      "step": 1665
    },
    {
      "epoch": 2.783333333333333,
      "grad_norm": 6.942758083343506,
      "learning_rate": 0.0001628888888888889,
      "loss": 0.1504,
      "step": 1670
    },
    {
      "epoch": 2.7916666666666665,
      "grad_norm": 9.232417106628418,
      "learning_rate": 0.00016277777777777777,
      "loss": 0.2334,
      "step": 1675
    },
    {
      "epoch": 2.8,
      "grad_norm": 0.04442553222179413,
      "learning_rate": 0.00016266666666666667,
      "loss": 0.0177,
      "step": 1680
    },
    {
      "epoch": 2.8083333333333336,
      "grad_norm": 5.330965995788574,
      "learning_rate": 0.00016255555555555557,
      "loss": 0.1854,
      "step": 1685
    },
    {
      "epoch": 2.8166666666666664,
      "grad_norm": 2.9190051555633545,
      "learning_rate": 0.00016244444444444444,
      "loss": 0.0912,
      "step": 1690
    },
    {
      "epoch": 2.825,
      "grad_norm": 0.023649603128433228,
      "learning_rate": 0.00016233333333333334,
      "loss": 0.0042,
      "step": 1695
    },
    {
      "epoch": 2.8333333333333335,
      "grad_norm": 0.031780656427145004,
      "learning_rate": 0.00016222222222222224,
      "loss": 0.0085,
      "step": 1700
    },
    {
      "epoch": 2.8333333333333335,
      "eval_accuracy": 0.7991666666666667,
      "eval_f1": 0.7878837267742715,
      "eval_loss": 1.165194034576416,
      "eval_precision": 0.8305386249952103,
      "eval_recall": 0.7991666666666667,
      "eval_runtime": 17.8949,
      "eval_samples_per_second": 134.116,
      "eval_steps_per_second": 16.765,
      "step": 1700
    },
    {
      "epoch": 2.841666666666667,
      "grad_norm": 5.5896477699279785,
      "learning_rate": 0.00016211111111111114,
      "loss": 0.2678,
      "step": 1705
    },
    {
      "epoch": 2.85,
      "grad_norm": 0.04524345323443413,
      "learning_rate": 0.000162,
      "loss": 0.005,
      "step": 1710
    },
    {
      "epoch": 2.8583333333333334,
      "grad_norm": 0.021848680451512337,
      "learning_rate": 0.00016188888888888888,
      "loss": 0.112,
      "step": 1715
    },
    {
      "epoch": 2.8666666666666667,
      "grad_norm": 0.6494468450546265,
      "learning_rate": 0.00016177777777777778,
      "loss": 0.1048,
      "step": 1720
    },
    {
      "epoch": 2.875,
      "grad_norm": 0.017003502696752548,
      "learning_rate": 0.00016166666666666668,
      "loss": 0.0839,
      "step": 1725
    },
    {
      "epoch": 2.8833333333333333,
      "grad_norm": 0.01373227871954441,
      "learning_rate": 0.00016155555555555557,
      "loss": 0.0795,
      "step": 1730
    },
    {
      "epoch": 2.8916666666666666,
      "grad_norm": 0.01091931015253067,
      "learning_rate": 0.00016144444444444444,
      "loss": 0.0065,
      "step": 1735
    },
    {
      "epoch": 2.9,
      "grad_norm": 0.02011205069720745,
      "learning_rate": 0.00016133333333333334,
      "loss": 0.0398,
      "step": 1740
    },
    {
      "epoch": 2.908333333333333,
      "grad_norm": 4.78287410736084,
      "learning_rate": 0.00016122222222222224,
      "loss": 0.0447,
      "step": 1745
    },
    {
      "epoch": 2.9166666666666665,
      "grad_norm": 0.055088840425014496,
      "learning_rate": 0.0001611111111111111,
      "loss": 0.1189,
      "step": 1750
    },
    {
      "epoch": 2.925,
      "grad_norm": 0.0623779371380806,
      "learning_rate": 0.000161,
      "loss": 0.0239,
      "step": 1755
    },
    {
      "epoch": 2.9333333333333336,
      "grad_norm": 0.14503592252731323,
      "learning_rate": 0.00016088888888888888,
      "loss": 0.0207,
      "step": 1760
    },
    {
      "epoch": 2.9416666666666664,
      "grad_norm": 2.4126644134521484,
      "learning_rate": 0.00016077777777777778,
      "loss": 0.0315,
      "step": 1765
    },
    {
      "epoch": 2.95,
      "grad_norm": 0.17061221599578857,
      "learning_rate": 0.00016066666666666668,
      "loss": 0.0186,
      "step": 1770
    },
    {
      "epoch": 2.9583333333333335,
      "grad_norm": 0.23446772992610931,
      "learning_rate": 0.00016055555555555558,
      "loss": 0.0556,
      "step": 1775
    },
    {
      "epoch": 2.966666666666667,
      "grad_norm": 0.012085097841918468,
      "learning_rate": 0.00016044444444444445,
      "loss": 0.0077,
      "step": 1780
    },
    {
      "epoch": 2.975,
      "grad_norm": 0.01964978128671646,
      "learning_rate": 0.00016033333333333335,
      "loss": 0.0418,
      "step": 1785
    },
    {
      "epoch": 2.9833333333333334,
      "grad_norm": 0.012114602141082287,
      "learning_rate": 0.00016022222222222222,
      "loss": 0.0866,
      "step": 1790
    },
    {
      "epoch": 2.9916666666666667,
      "grad_norm": 0.007485591806471348,
      "learning_rate": 0.00016011111111111111,
      "loss": 0.0889,
      "step": 1795
    },
    {
      "epoch": 3.0,
      "grad_norm": 0.008622219786047935,
      "learning_rate": 0.00016,
      "loss": 0.1798,
      "step": 1800
    },
    {
      "epoch": 3.0,
      "eval_accuracy": 0.8075,
      "eval_f1": 0.8075307424901883,
      "eval_loss": 0.9388825297355652,
      "eval_precision": 0.8349515341483075,
      "eval_recall": 0.8075,
      "eval_runtime": 18.0135,
      "eval_samples_per_second": 133.234,
      "eval_steps_per_second": 16.654,
      "step": 1800
    },
    {
      "epoch": 3.0083333333333333,
      "grad_norm": 6.038804531097412,
      "learning_rate": 0.00015988888888888888,
      "loss": 0.0138,
      "step": 1805
    },
    {
      "epoch": 3.0166666666666666,
      "grad_norm": 2.0199670791625977,
      "learning_rate": 0.00015977777777777778,
      "loss": 0.1745,
      "step": 1810
    },
    {
      "epoch": 3.025,
      "grad_norm": 0.5957000851631165,
      "learning_rate": 0.00015966666666666668,
      "loss": 0.0303,
      "step": 1815
    },
    {
      "epoch": 3.033333333333333,
      "grad_norm": 6.116579532623291,
      "learning_rate": 0.00015955555555555558,
      "loss": 0.1189,
      "step": 1820
    },
    {
      "epoch": 3.0416666666666665,
      "grad_norm": 0.03807820379734039,
      "learning_rate": 0.00015944444444444445,
      "loss": 0.0044,
      "step": 1825
    },
    {
      "epoch": 3.05,
      "grad_norm": 0.01202304195612669,
      "learning_rate": 0.00015933333333333332,
      "loss": 0.0035,
      "step": 1830
    },
    {
      "epoch": 3.058333333333333,
      "grad_norm": 0.17519143223762512,
      "learning_rate": 0.00015922222222222222,
      "loss": 0.006,
      "step": 1835
    },
    {
      "epoch": 3.066666666666667,
      "grad_norm": 0.010127468034625053,
      "learning_rate": 0.00015911111111111112,
      "loss": 0.0233,
      "step": 1840
    },
    {
      "epoch": 3.075,
      "grad_norm": 4.891150951385498,
      "learning_rate": 0.00015900000000000002,
      "loss": 0.2344,
      "step": 1845
    },
    {
      "epoch": 3.0833333333333335,
      "grad_norm": 3.608386993408203,
      "learning_rate": 0.0001588888888888889,
      "loss": 0.1033,
      "step": 1850
    },
    {
      "epoch": 3.091666666666667,
      "grad_norm": 8.33594036102295,
      "learning_rate": 0.00015877777777777779,
      "loss": 0.0424,
      "step": 1855
    },
    {
      "epoch": 3.1,
      "grad_norm": 0.019695265218615532,
      "learning_rate": 0.00015866666666666668,
      "loss": 0.0261,
      "step": 1860
    },
    {
      "epoch": 3.1083333333333334,
      "grad_norm": 9.241170883178711,
      "learning_rate": 0.00015855555555555558,
      "loss": 0.0984,
      "step": 1865
    },
    {
      "epoch": 3.1166666666666667,
      "grad_norm": 0.01948627643287182,
      "learning_rate": 0.00015844444444444445,
      "loss": 0.1546,
      "step": 1870
    },
    {
      "epoch": 3.125,
      "grad_norm": 1.0605406761169434,
      "learning_rate": 0.00015833333333333332,
      "loss": 0.0674,
      "step": 1875
    },
    {
      "epoch": 3.1333333333333333,
      "grad_norm": 0.2889007329940796,
      "learning_rate": 0.00015822222222222222,
      "loss": 0.2474,
      "step": 1880
    },
    {
      "epoch": 3.1416666666666666,
      "grad_norm": 0.009712276048958302,
      "learning_rate": 0.00015811111111111112,
      "loss": 0.0056,
      "step": 1885
    },
    {
      "epoch": 3.15,
      "grad_norm": 6.857295036315918,
      "learning_rate": 0.00015800000000000002,
      "loss": 0.0443,
      "step": 1890
    },
    {
      "epoch": 3.158333333333333,
      "grad_norm": 0.010296912863850594,
      "learning_rate": 0.0001578888888888889,
      "loss": 0.0021,
      "step": 1895
    },
    {
      "epoch": 3.1666666666666665,
      "grad_norm": 0.015680111944675446,
      "learning_rate": 0.0001577777777777778,
      "loss": 0.0555,
      "step": 1900
    },
    {
      "epoch": 3.1666666666666665,
      "eval_accuracy": 0.8420833333333333,
      "eval_f1": 0.8452283093868966,
      "eval_loss": 0.7451426386833191,
      "eval_precision": 0.8592991091310582,
      "eval_recall": 0.8420833333333333,
      "eval_runtime": 17.6931,
      "eval_samples_per_second": 135.646,
      "eval_steps_per_second": 16.956,
      "step": 1900
    },
    {
      "epoch": 3.175,
      "grad_norm": 2.0370585918426514,
      "learning_rate": 0.00015766666666666669,
      "loss": 0.1906,
      "step": 1905
    },
    {
      "epoch": 3.183333333333333,
      "grad_norm": 0.044594161212444305,
      "learning_rate": 0.00015755555555555556,
      "loss": 0.0024,
      "step": 1910
    },
    {
      "epoch": 3.191666666666667,
      "grad_norm": 7.890293598175049,
      "learning_rate": 0.00015744444444444446,
      "loss": 0.106,
      "step": 1915
    },
    {
      "epoch": 3.2,
      "grad_norm": 0.14074882864952087,
      "learning_rate": 0.00015733333333333333,
      "loss": 0.0046,
      "step": 1920
    },
    {
      "epoch": 3.2083333333333335,
      "grad_norm": 2.402353286743164,
      "learning_rate": 0.00015722222222222223,
      "loss": 0.0788,
      "step": 1925
    },
    {
      "epoch": 3.216666666666667,
      "grad_norm": 11.96264934539795,
      "learning_rate": 0.00015711111111111112,
      "loss": 0.0935,
      "step": 1930
    },
    {
      "epoch": 3.225,
      "grad_norm": 0.07098950445652008,
      "learning_rate": 0.00015700000000000002,
      "loss": 0.0066,
      "step": 1935
    },
    {
      "epoch": 3.2333333333333334,
      "grad_norm": 0.07756258547306061,
      "learning_rate": 0.00015688888888888892,
      "loss": 0.0881,
      "step": 1940
    },
    {
      "epoch": 3.2416666666666667,
      "grad_norm": 0.7739878296852112,
      "learning_rate": 0.0001567777777777778,
      "loss": 0.0294,
      "step": 1945
    },
    {
      "epoch": 3.25,
      "grad_norm": 0.00779741769656539,
      "learning_rate": 0.00015666666666666666,
      "loss": 0.0509,
      "step": 1950
    },
    {
      "epoch": 3.2583333333333333,
      "grad_norm": 0.01283693965524435,
      "learning_rate": 0.00015655555555555556,
      "loss": 0.0241,
      "step": 1955
    },
    {
      "epoch": 3.2666666666666666,
      "grad_norm": 0.012340818531811237,
      "learning_rate": 0.00015644444444444446,
      "loss": 0.0025,
      "step": 1960
    },
    {
      "epoch": 3.275,
      "grad_norm": 0.008717671036720276,
      "learning_rate": 0.00015633333333333333,
      "loss": 0.0435,
      "step": 1965
    },
    {
      "epoch": 3.283333333333333,
      "grad_norm": 0.01582471840083599,
      "learning_rate": 0.00015622222222222223,
      "loss": 0.0025,
      "step": 1970
    },
    {
      "epoch": 3.2916666666666665,
      "grad_norm": 0.12965992093086243,
      "learning_rate": 0.00015611111111111113,
      "loss": 0.0531,
      "step": 1975
    },
    {
      "epoch": 3.3,
      "grad_norm": 0.0066141001880168915,
      "learning_rate": 0.00015600000000000002,
      "loss": 0.0623,
      "step": 1980
    },
    {
      "epoch": 3.3083333333333336,
      "grad_norm": 0.03851990029215813,
      "learning_rate": 0.0001558888888888889,
      "loss": 0.0024,
      "step": 1985
    },
    {
      "epoch": 3.3166666666666664,
      "grad_norm": 0.008132941089570522,
      "learning_rate": 0.00015577777777777777,
      "loss": 0.0017,
      "step": 1990
    },
    {
      "epoch": 3.325,
      "grad_norm": 0.675399661064148,
      "learning_rate": 0.00015566666666666666,
      "loss": 0.0688,
      "step": 1995
    },
    {
      "epoch": 3.3333333333333335,
      "grad_norm": 0.02622748538851738,
      "learning_rate": 0.00015555555555555556,
      "loss": 0.0245,
      "step": 2000
    },
    {
      "epoch": 3.3333333333333335,
      "eval_accuracy": 0.88875,
      "eval_f1": 0.8879508557623638,
      "eval_loss": 0.4728924632072449,
      "eval_precision": 0.8942098469901674,
      "eval_recall": 0.88875,
      "eval_runtime": 17.6761,
      "eval_samples_per_second": 135.777,
      "eval_steps_per_second": 16.972,
      "step": 2000
    },
    {
      "epoch": 3.341666666666667,
      "grad_norm": 0.007458475884050131,
      "learning_rate": 0.00015544444444444446,
      "loss": 0.0723,
      "step": 2005
    },
    {
      "epoch": 3.35,
      "grad_norm": 6.658570766448975,
      "learning_rate": 0.00015533333333333333,
      "loss": 0.0194,
      "step": 2010
    },
    {
      "epoch": 3.3583333333333334,
      "grad_norm": 0.008413088507950306,
      "learning_rate": 0.00015522222222222223,
      "loss": 0.0918,
      "step": 2015
    },
    {
      "epoch": 3.3666666666666667,
      "grad_norm": 6.3754472732543945,
      "learning_rate": 0.00015511111111111113,
      "loss": 0.0264,
      "step": 2020
    },
    {
      "epoch": 3.375,
      "grad_norm": 0.0351998433470726,
      "learning_rate": 0.000155,
      "loss": 0.0399,
      "step": 2025
    },
    {
      "epoch": 3.3833333333333333,
      "grad_norm": 0.6598736047744751,
      "learning_rate": 0.0001548888888888889,
      "loss": 0.0042,
      "step": 2030
    },
    {
      "epoch": 3.3916666666666666,
      "grad_norm": 0.01643461175262928,
      "learning_rate": 0.00015477777777777777,
      "loss": 0.045,
      "step": 2035
    },
    {
      "epoch": 3.4,
      "grad_norm": 16.378459930419922,
      "learning_rate": 0.00015466666666666667,
      "loss": 0.1166,
      "step": 2040
    },
    {
      "epoch": 3.408333333333333,
      "grad_norm": 0.036649271845817566,
      "learning_rate": 0.00015455555555555557,
      "loss": 0.0223,
      "step": 2045
    },
    {
      "epoch": 3.4166666666666665,
      "grad_norm": 0.061544399708509445,
      "learning_rate": 0.00015444444444444446,
      "loss": 0.0097,
      "step": 2050
    },
    {
      "epoch": 3.425,
      "grad_norm": 0.005355335772037506,
      "learning_rate": 0.00015433333333333334,
      "loss": 0.0339,
      "step": 2055
    },
    {
      "epoch": 3.4333333333333336,
      "grad_norm": 0.006875131744891405,
      "learning_rate": 0.00015422222222222223,
      "loss": 0.044,
      "step": 2060
    },
    {
      "epoch": 3.4416666666666664,
      "grad_norm": 0.1025986447930336,
      "learning_rate": 0.0001541111111111111,
      "loss": 0.002,
      "step": 2065
    },
    {
      "epoch": 3.45,
      "grad_norm": 0.010226873680949211,
      "learning_rate": 0.000154,
      "loss": 0.0017,
      "step": 2070
    },
    {
      "epoch": 3.4583333333333335,
      "grad_norm": 0.021139761433005333,
      "learning_rate": 0.0001538888888888889,
      "loss": 0.0027,
      "step": 2075
    },
    {
      "epoch": 3.466666666666667,
      "grad_norm": 0.009047227911651134,
      "learning_rate": 0.00015377777777777777,
      "loss": 0.0031,
      "step": 2080
    },
    {
      "epoch": 3.475,
      "grad_norm": 0.00644953828305006,
      "learning_rate": 0.00015366666666666667,
      "loss": 0.0017,
      "step": 2085
    },
    {
      "epoch": 3.4833333333333334,
      "grad_norm": 0.2894017696380615,
      "learning_rate": 0.00015355555555555557,
      "loss": 0.0021,
      "step": 2090
    },
    {
      "epoch": 3.4916666666666667,
      "grad_norm": 0.14105430245399475,
      "learning_rate": 0.00015344444444444447,
      "loss": 0.0028,
      "step": 2095
    },
    {
      "epoch": 3.5,
      "grad_norm": 0.43127837777137756,
      "learning_rate": 0.00015333333333333334,
      "loss": 0.0017,
      "step": 2100
    },
    {
      "epoch": 3.5,
      "eval_accuracy": 0.8629166666666667,
      "eval_f1": 0.8663007840189326,
      "eval_loss": 0.7607943415641785,
      "eval_precision": 0.8859333431604353,
      "eval_recall": 0.8629166666666667,
      "eval_runtime": 17.8414,
      "eval_samples_per_second": 134.518,
      "eval_steps_per_second": 16.815,
      "step": 2100
    },
    {
      "epoch": 3.5083333333333333,
      "grad_norm": 0.014029905200004578,
      "learning_rate": 0.0001532222222222222,
      "loss": 0.0013,
      "step": 2105
    },
    {
      "epoch": 3.5166666666666666,
      "grad_norm": 0.006604045629501343,
      "learning_rate": 0.0001531111111111111,
      "loss": 0.0012,
      "step": 2110
    },
    {
      "epoch": 3.525,
      "grad_norm": 0.004230346996337175,
      "learning_rate": 0.000153,
      "loss": 0.0011,
      "step": 2115
    },
    {
      "epoch": 3.533333333333333,
      "grad_norm": 0.005337957292795181,
      "learning_rate": 0.0001528888888888889,
      "loss": 0.0012,
      "step": 2120
    },
    {
      "epoch": 3.5416666666666665,
      "grad_norm": 0.006809934042394161,
      "learning_rate": 0.00015277777777777777,
      "loss": 0.0011,
      "step": 2125
    },
    {
      "epoch": 3.55,
      "grad_norm": 0.0038667037151753902,
      "learning_rate": 0.00015266666666666667,
      "loss": 0.0014,
      "step": 2130
    },
    {
      "epoch": 3.5583333333333336,
      "grad_norm": 0.005061076022684574,
      "learning_rate": 0.00015255555555555557,
      "loss": 0.0011,
      "step": 2135
    },
    {
      "epoch": 3.5666666666666664,
      "grad_norm": 0.004374251235276461,
      "learning_rate": 0.00015244444444444447,
      "loss": 0.001,
      "step": 2140
    },
    {
      "epoch": 3.575,
      "grad_norm": 0.010831950232386589,
      "learning_rate": 0.00015233333333333334,
      "loss": 0.0012,
      "step": 2145
    },
    {
      "epoch": 3.5833333333333335,
      "grad_norm": 0.004416628275066614,
      "learning_rate": 0.0001522222222222222,
      "loss": 0.0611,
      "step": 2150
    },
    {
      "epoch": 3.591666666666667,
      "grad_norm": 4.889925003051758,
      "learning_rate": 0.0001521111111111111,
      "loss": 0.0446,
      "step": 2155
    },
    {
      "epoch": 3.6,
      "grad_norm": 5.258359909057617,
      "learning_rate": 0.000152,
      "loss": 0.137,
      "step": 2160
    },
    {
      "epoch": 3.6083333333333334,
      "grad_norm": 0.005917548667639494,
      "learning_rate": 0.0001518888888888889,
      "loss": 0.0015,
      "step": 2165
    },
    {
      "epoch": 3.6166666666666667,
      "grad_norm": 0.01139781903475523,
      "learning_rate": 0.00015177777777777778,
      "loss": 0.0014,
      "step": 2170
    },
    {
      "epoch": 3.625,
      "grad_norm": 0.00826791301369667,
      "learning_rate": 0.00015166666666666668,
      "loss": 0.0235,
      "step": 2175
    },
    {
      "epoch": 3.6333333333333333,
      "grad_norm": 0.0062650227919220924,
      "learning_rate": 0.00015155555555555557,
      "loss": 0.0721,
      "step": 2180
    },
    {
      "epoch": 3.6416666666666666,
      "grad_norm": 0.006428518332540989,
      "learning_rate": 0.00015144444444444445,
      "loss": 0.0039,
      "step": 2185
    },
    {
      "epoch": 3.65,
      "grad_norm": 0.09625259786844254,
      "learning_rate": 0.00015133333333333334,
      "loss": 0.0014,
      "step": 2190
    },
    {
      "epoch": 3.658333333333333,
      "grad_norm": 0.005219860002398491,
      "learning_rate": 0.00015122222222222221,
      "loss": 0.0013,
      "step": 2195
    },
    {
      "epoch": 3.6666666666666665,
      "grad_norm": 0.005664038937538862,
      "learning_rate": 0.0001511111111111111,
      "loss": 0.0266,
      "step": 2200
    },
    {
      "epoch": 3.6666666666666665,
      "eval_accuracy": 0.8570833333333333,
      "eval_f1": 0.8578119694567002,
      "eval_loss": 0.7795335054397583,
      "eval_precision": 0.8668014903433141,
      "eval_recall": 0.8570833333333333,
      "eval_runtime": 17.7196,
      "eval_samples_per_second": 135.443,
      "eval_steps_per_second": 16.93,
      "step": 2200
    },
    {
      "epoch": 3.675,
      "grad_norm": 0.006001358851790428,
      "learning_rate": 0.000151,
      "loss": 0.0195,
      "step": 2205
    },
    {
      "epoch": 3.6833333333333336,
      "grad_norm": 3.9506289958953857,
      "learning_rate": 0.0001508888888888889,
      "loss": 0.1701,
      "step": 2210
    },
    {
      "epoch": 3.6916666666666664,
      "grad_norm": 0.006929721683263779,
      "learning_rate": 0.0001507777777777778,
      "loss": 0.0012,
      "step": 2215
    },
    {
      "epoch": 3.7,
      "grad_norm": 1.5117665529251099,
      "learning_rate": 0.00015066666666666668,
      "loss": 0.0404,
      "step": 2220
    },
    {
      "epoch": 3.7083333333333335,
      "grad_norm": 0.0043594506569206715,
      "learning_rate": 0.00015055555555555555,
      "loss": 0.0031,
      "step": 2225
    },
    {
      "epoch": 3.716666666666667,
      "grad_norm": 0.020033447071909904,
      "learning_rate": 0.00015044444444444445,
      "loss": 0.1427,
      "step": 2230
    },
    {
      "epoch": 3.725,
      "grad_norm": 0.09645174443721771,
      "learning_rate": 0.00015033333333333335,
      "loss": 0.0014,
      "step": 2235
    },
    {
      "epoch": 3.7333333333333334,
      "grad_norm": 0.04260542616248131,
      "learning_rate": 0.00015022222222222222,
      "loss": 0.0625,
      "step": 2240
    },
    {
      "epoch": 3.7416666666666667,
      "grad_norm": 10.168899536132812,
      "learning_rate": 0.00015011111111111112,
      "loss": 0.0946,
      "step": 2245
    },
    {
      "epoch": 3.75,
      "grad_norm": 0.033041998744010925,
      "learning_rate": 0.00015000000000000001,
      "loss": 0.0542,
      "step": 2250
    },
    {
      "epoch": 3.7583333333333333,
      "grad_norm": 4.151155948638916,
      "learning_rate": 0.0001498888888888889,
      "loss": 0.025,
      "step": 2255
    },
    {
      "epoch": 3.7666666666666666,
      "grad_norm": 0.009388050995767117,
      "learning_rate": 0.00014977777777777778,
      "loss": 0.1203,
      "step": 2260
    },
    {
      "epoch": 3.775,
      "grad_norm": 0.013355497270822525,
      "learning_rate": 0.00014966666666666665,
      "loss": 0.0573,
      "step": 2265
    },
    {
      "epoch": 3.783333333333333,
      "grad_norm": 7.407387733459473,
      "learning_rate": 0.00014955555555555555,
      "loss": 0.0754,
      "step": 2270
    },
    {
      "epoch": 3.7916666666666665,
      "grad_norm": 0.012465682812035084,
      "learning_rate": 0.00014944444444444445,
      "loss": 0.0074,
      "step": 2275
    },
    {
      "epoch": 3.8,
      "grad_norm": 4.683460712432861,
      "learning_rate": 0.00014933333333333335,
      "loss": 0.065,
      "step": 2280
    },
    {
      "epoch": 3.8083333333333336,
      "grad_norm": 0.010469313710927963,
      "learning_rate": 0.00014922222222222222,
      "loss": 0.0015,
      "step": 2285
    },
    {
      "epoch": 3.8166666666666664,
      "grad_norm": 8.735543251037598,
      "learning_rate": 0.00014911111111111112,
      "loss": 0.1453,
      "step": 2290
    },
    {
      "epoch": 3.825,
      "grad_norm": 0.04992089420557022,
      "learning_rate": 0.00014900000000000002,
      "loss": 0.0014,
      "step": 2295
    },
    {
      "epoch": 3.8333333333333335,
      "grad_norm": 2.7298457622528076,
      "learning_rate": 0.0001488888888888889,
      "loss": 0.0072,
      "step": 2300
    },
    {
      "epoch": 3.8333333333333335,
      "eval_accuracy": 0.8595833333333334,
      "eval_f1": 0.8600365391514408,
      "eval_loss": 0.6486960053443909,
      "eval_precision": 0.8861845887349693,
      "eval_recall": 0.8595833333333334,
      "eval_runtime": 18.0772,
      "eval_samples_per_second": 132.764,
      "eval_steps_per_second": 16.596,
      "step": 2300
    },
    {
      "epoch": 3.841666666666667,
      "grad_norm": 1.3823113441467285,
      "learning_rate": 0.00014877777777777779,
      "loss": 0.0853,
      "step": 2305
    },
    {
      "epoch": 3.85,
      "grad_norm": 0.025435389950871468,
      "learning_rate": 0.00014866666666666666,
      "loss": 0.0029,
      "step": 2310
    },
    {
      "epoch": 3.8583333333333334,
      "grad_norm": 0.7203134298324585,
      "learning_rate": 0.00014855555555555556,
      "loss": 0.0586,
      "step": 2315
    },
    {
      "epoch": 3.8666666666666667,
      "grad_norm": 0.0576460175216198,
      "learning_rate": 0.00014844444444444445,
      "loss": 0.0046,
      "step": 2320
    },
    {
      "epoch": 3.875,
      "grad_norm": 0.01612784154713154,
      "learning_rate": 0.00014833333333333335,
      "loss": 0.0024,
      "step": 2325
    },
    {
      "epoch": 3.8833333333333333,
      "grad_norm": 0.007820934988558292,
      "learning_rate": 0.00014822222222222225,
      "loss": 0.0019,
      "step": 2330
    },
    {
      "epoch": 3.8916666666666666,
      "grad_norm": 0.010970867238938808,
      "learning_rate": 0.00014811111111111112,
      "loss": 0.0379,
      "step": 2335
    },
    {
      "epoch": 3.9,
      "grad_norm": 0.008627883158624172,
      "learning_rate": 0.000148,
      "loss": 0.0013,
      "step": 2340
    },
    {
      "epoch": 3.908333333333333,
      "grad_norm": 0.005331000313162804,
      "learning_rate": 0.0001478888888888889,
      "loss": 0.0072,
      "step": 2345
    },
    {
      "epoch": 3.9166666666666665,
      "grad_norm": 0.09385349601507187,
      "learning_rate": 0.0001477777777777778,
      "loss": 0.0072,
      "step": 2350
    },
    {
      "epoch": 3.925,
      "grad_norm": 12.897124290466309,
      "learning_rate": 0.00014766666666666666,
      "loss": 0.017,
      "step": 2355
    },
    {
      "epoch": 3.9333333333333336,
      "grad_norm": 0.004505774937570095,
      "learning_rate": 0.00014755555555555556,
      "loss": 0.0073,
      "step": 2360
    },
    {
      "epoch": 3.9416666666666664,
      "grad_norm": 0.0060596223920583725,
      "learning_rate": 0.00014744444444444446,
      "loss": 0.0012,
      "step": 2365
    },
    {
      "epoch": 3.95,
      "grad_norm": 0.004745068494230509,
      "learning_rate": 0.00014733333333333335,
      "loss": 0.0048,
      "step": 2370
    },
    {
      "epoch": 3.9583333333333335,
      "grad_norm": 0.0082352664321661,
      "learning_rate": 0.00014722222222222223,
      "loss": 0.0011,
      "step": 2375
    },
    {
      "epoch": 3.966666666666667,
      "grad_norm": 0.0048789046704769135,
      "learning_rate": 0.00014711111111111112,
      "loss": 0.0073,
      "step": 2380
    },
    {
      "epoch": 3.975,
      "grad_norm": 0.1403874009847641,
      "learning_rate": 0.000147,
      "loss": 0.0019,
      "step": 2385
    },
    {
      "epoch": 3.9833333333333334,
      "grad_norm": 0.003692981321364641,
      "learning_rate": 0.0001468888888888889,
      "loss": 0.0303,
      "step": 2390
    },
    {
      "epoch": 3.9916666666666667,
      "grad_norm": 0.009545552544295788,
      "learning_rate": 0.0001467777777777778,
      "loss": 0.0012,
      "step": 2395
    },
    {
      "epoch": 4.0,
      "grad_norm": 0.004156113602221012,
      "learning_rate": 0.00014666666666666666,
      "loss": 0.0019,
      "step": 2400
    },
    {
      "epoch": 4.0,
      "eval_accuracy": 0.87125,
      "eval_f1": 0.8723190074217727,
      "eval_loss": 0.6297110915184021,
      "eval_precision": 0.8845738325878223,
      "eval_recall": 0.87125,
      "eval_runtime": 17.7844,
      "eval_samples_per_second": 134.949,
      "eval_steps_per_second": 16.869,
      "step": 2400
    },
    {
      "epoch": 4.008333333333334,
      "grad_norm": 0.004093517083674669,
      "learning_rate": 0.00014655555555555556,
      "loss": 0.001,
      "step": 2405
    },
    {
      "epoch": 4.016666666666667,
      "grad_norm": 0.005497384816408157,
      "learning_rate": 0.00014644444444444446,
      "loss": 0.004,
      "step": 2410
    },
    {
      "epoch": 4.025,
      "grad_norm": 0.003740140004083514,
      "learning_rate": 0.00014633333333333336,
      "loss": 0.0022,
      "step": 2415
    },
    {
      "epoch": 4.033333333333333,
      "grad_norm": 0.004058548714965582,
      "learning_rate": 0.00014622222222222223,
      "loss": 0.0011,
      "step": 2420
    },
    {
      "epoch": 4.041666666666667,
      "grad_norm": 0.00335061177611351,
      "learning_rate": 0.0001461111111111111,
      "loss": 0.0008,
      "step": 2425
    },
    {
      "epoch": 4.05,
      "grad_norm": 0.003328882157802582,
      "learning_rate": 0.000146,
      "loss": 0.0741,
      "step": 2430
    },
    {
      "epoch": 4.058333333333334,
      "grad_norm": 0.003820803016424179,
      "learning_rate": 0.0001458888888888889,
      "loss": 0.0023,
      "step": 2435
    },
    {
      "epoch": 4.066666666666666,
      "grad_norm": 0.00437189219519496,
      "learning_rate": 0.0001457777777777778,
      "loss": 0.0008,
      "step": 2440
    },
    {
      "epoch": 4.075,
      "grad_norm": 8.280853271484375,
      "learning_rate": 0.0001456666666666667,
      "loss": 0.1001,
      "step": 2445
    },
    {
      "epoch": 4.083333333333333,
      "grad_norm": 0.0038172011263668537,
      "learning_rate": 0.00014555555555555556,
      "loss": 0.0008,
      "step": 2450
    },
    {
      "epoch": 4.091666666666667,
      "grad_norm": 0.004792292136698961,
      "learning_rate": 0.00014544444444444446,
      "loss": 0.1038,
      "step": 2455
    },
    {
      "epoch": 4.1,
      "grad_norm": 0.018136419355869293,
      "learning_rate": 0.00014533333333333333,
      "loss": 0.0013,
      "step": 2460
    },
    {
      "epoch": 4.108333333333333,
      "grad_norm": 0.02474875934422016,
      "learning_rate": 0.00014522222222222223,
      "loss": 0.0026,
      "step": 2465
    },
    {
      "epoch": 4.116666666666666,
      "grad_norm": 0.03996818885207176,
      "learning_rate": 0.0001451111111111111,
      "loss": 0.0267,
      "step": 2470
    },
    {
      "epoch": 4.125,
      "grad_norm": 0.008494713343679905,
      "learning_rate": 0.000145,
      "loss": 0.0147,
      "step": 2475
    },
    {
      "epoch": 4.133333333333334,
      "grad_norm": 9.90688419342041,
      "learning_rate": 0.0001448888888888889,
      "loss": 0.0367,
      "step": 2480
    },
    {
      "epoch": 4.141666666666667,
      "grad_norm": 0.006889900658279657,
      "learning_rate": 0.0001447777777777778,
      "loss": 0.0013,
      "step": 2485
    },
    {
      "epoch": 4.15,
      "grad_norm": 0.007075532805174589,
      "learning_rate": 0.0001446666666666667,
      "loss": 0.0012,
      "step": 2490
    },
    {
      "epoch": 4.158333333333333,
      "grad_norm": 0.01418127678334713,
      "learning_rate": 0.00014455555555555557,
      "loss": 0.001,
      "step": 2495
    },
    {
      "epoch": 4.166666666666667,
      "grad_norm": 0.00444397795945406,
      "learning_rate": 0.00014444444444444444,
      "loss": 0.001,
      "step": 2500
    },
    {
      "epoch": 4.166666666666667,
      "eval_accuracy": 0.8679166666666667,
      "eval_f1": 0.869175866371453,
      "eval_loss": 0.8345706462860107,
      "eval_precision": 0.8848864582712878,
      "eval_recall": 0.8679166666666667,
      "eval_runtime": 17.4982,
      "eval_samples_per_second": 137.157,
      "eval_steps_per_second": 17.145,
      "step": 2500
    },
    {
      "epoch": 4.175,
      "grad_norm": 0.006646075285971165,
      "learning_rate": 0.00014433333333333334,
      "loss": 0.001,
      "step": 2505
    },
    {
      "epoch": 4.183333333333334,
      "grad_norm": 0.01672314666211605,
      "learning_rate": 0.00014422222222222223,
      "loss": 0.001,
      "step": 2510
    },
    {
      "epoch": 4.191666666666666,
      "grad_norm": 0.003943693358451128,
      "learning_rate": 0.0001441111111111111,
      "loss": 0.0575,
      "step": 2515
    },
    {
      "epoch": 4.2,
      "grad_norm": 0.025032391771674156,
      "learning_rate": 0.000144,
      "loss": 0.0009,
      "step": 2520
    },
    {
      "epoch": 4.208333333333333,
      "grad_norm": 7.426961421966553,
      "learning_rate": 0.0001438888888888889,
      "loss": 0.024,
      "step": 2525
    },
    {
      "epoch": 4.216666666666667,
      "grad_norm": 0.0051858434453606606,
      "learning_rate": 0.0001437777777777778,
      "loss": 0.0008,
      "step": 2530
    },
    {
      "epoch": 4.225,
      "grad_norm": 0.02550991252064705,
      "learning_rate": 0.00014366666666666667,
      "loss": 0.0165,
      "step": 2535
    },
    {
      "epoch": 4.233333333333333,
      "grad_norm": 0.003796850796788931,
      "learning_rate": 0.00014355555555555554,
      "loss": 0.0058,
      "step": 2540
    },
    {
      "epoch": 4.241666666666666,
      "grad_norm": 0.003410373581573367,
      "learning_rate": 0.00014344444444444444,
      "loss": 0.0008,
      "step": 2545
    },
    {
      "epoch": 4.25,
      "grad_norm": 0.004083513747900724,
      "learning_rate": 0.00014333333333333334,
      "loss": 0.0009,
      "step": 2550
    },
    {
      "epoch": 4.258333333333334,
      "grad_norm": 0.003246829379349947,
      "learning_rate": 0.00014322222222222224,
      "loss": 0.0008,
      "step": 2555
    },
    {
      "epoch": 4.266666666666667,
      "grad_norm": 6.913228988647461,
      "learning_rate": 0.0001431111111111111,
      "loss": 0.0681,
      "step": 2560
    },
    {
      "epoch": 4.275,
      "grad_norm": 0.004143088590353727,
      "learning_rate": 0.000143,
      "loss": 0.0008,
      "step": 2565
    },
    {
      "epoch": 4.283333333333333,
      "grad_norm": 0.0038783547934144735,
      "learning_rate": 0.0001428888888888889,
      "loss": 0.0008,
      "step": 2570
    },
    {
      "epoch": 4.291666666666667,
      "grad_norm": 0.00929002184420824,
      "learning_rate": 0.00014277777777777778,
      "loss": 0.0312,
      "step": 2575
    },
    {
      "epoch": 4.3,
      "grad_norm": 0.003677333937957883,
      "learning_rate": 0.00014266666666666667,
      "loss": 0.0324,
      "step": 2580
    },
    {
      "epoch": 4.308333333333334,
      "grad_norm": 0.40464895963668823,
      "learning_rate": 0.00014255555555555555,
      "loss": 0.0789,
      "step": 2585
    },
    {
      "epoch": 4.316666666666666,
      "grad_norm": 0.0031581397633999586,
      "learning_rate": 0.00014244444444444444,
      "loss": 0.0011,
      "step": 2590
    },
    {
      "epoch": 4.325,
      "grad_norm": 0.004624571651220322,
      "learning_rate": 0.00014233333333333334,
      "loss": 0.0706,
      "step": 2595
    },
    {
      "epoch": 4.333333333333333,
      "grad_norm": 0.003699724329635501,
      "learning_rate": 0.00014222222222222224,
      "loss": 0.0014,
      "step": 2600
    },
    {
      "epoch": 4.333333333333333,
      "eval_accuracy": 0.8633333333333333,
      "eval_f1": 0.867057335364067,
      "eval_loss": 0.8441413640975952,
      "eval_precision": 0.8869383318236161,
      "eval_recall": 0.8633333333333333,
      "eval_runtime": 17.835,
      "eval_samples_per_second": 134.567,
      "eval_steps_per_second": 16.821,
      "step": 2600
    },
    {
      "epoch": 4.341666666666667,
      "grad_norm": 0.004122032318264246,
      "learning_rate": 0.00014211111111111114,
      "loss": 0.0029,
      "step": 2605
    },
    {
      "epoch": 4.35,
      "grad_norm": 0.003066674340516329,
      "learning_rate": 0.000142,
      "loss": 0.0009,
      "step": 2610
    },
    {
      "epoch": 4.358333333333333,
      "grad_norm": 0.02021237276494503,
      "learning_rate": 0.00014188888888888888,
      "loss": 0.0009,
      "step": 2615
    },
    {
      "epoch": 4.366666666666666,
      "grad_norm": 0.0033467106986790895,
      "learning_rate": 0.00014177777777777778,
      "loss": 0.0008,
      "step": 2620
    },
    {
      "epoch": 4.375,
      "grad_norm": 0.0056647732853889465,
      "learning_rate": 0.00014166666666666668,
      "loss": 0.0012,
      "step": 2625
    },
    {
      "epoch": 4.383333333333334,
      "grad_norm": 0.030728355050086975,
      "learning_rate": 0.00014155555555555555,
      "loss": 0.0009,
      "step": 2630
    },
    {
      "epoch": 4.391666666666667,
      "grad_norm": 0.003348300466313958,
      "learning_rate": 0.00014144444444444445,
      "loss": 0.0008,
      "step": 2635
    },
    {
      "epoch": 4.4,
      "grad_norm": 4.26076078414917,
      "learning_rate": 0.00014133333333333334,
      "loss": 0.0069,
      "step": 2640
    },
    {
      "epoch": 4.408333333333333,
      "grad_norm": 0.0481274388730526,
      "learning_rate": 0.00014122222222222224,
      "loss": 0.0009,
      "step": 2645
    },
    {
      "epoch": 4.416666666666667,
      "grad_norm": 1.7025071382522583,
      "learning_rate": 0.00014111111111111111,
      "loss": 0.007,
      "step": 2650
    },
    {
      "epoch": 4.425,
      "grad_norm": 0.0033827335573732853,
      "learning_rate": 0.000141,
      "loss": 0.0047,
      "step": 2655
    },
    {
      "epoch": 4.433333333333334,
      "grad_norm": 0.0028285242151468992,
      "learning_rate": 0.00014088888888888888,
      "loss": 0.0007,
      "step": 2660
    },
    {
      "epoch": 4.441666666666666,
      "grad_norm": 10.927861213684082,
      "learning_rate": 0.00014077777777777778,
      "loss": 0.0646,
      "step": 2665
    },
    {
      "epoch": 4.45,
      "grad_norm": 0.025840938091278076,
      "learning_rate": 0.00014066666666666668,
      "loss": 0.1137,
      "step": 2670
    },
    {
      "epoch": 4.458333333333333,
      "grad_norm": 0.005245420150458813,
      "learning_rate": 0.00014055555555555555,
      "loss": 0.0008,
      "step": 2675
    },
    {
      "epoch": 4.466666666666667,
      "grad_norm": 0.006807553581893444,
      "learning_rate": 0.00014044444444444445,
      "loss": 0.0011,
      "step": 2680
    },
    {
      "epoch": 4.475,
      "grad_norm": 0.0033852423075586557,
      "learning_rate": 0.00014033333333333335,
      "loss": 0.0112,
      "step": 2685
    },
    {
      "epoch": 4.483333333333333,
      "grad_norm": 0.01263294368982315,
      "learning_rate": 0.00014022222222222225,
      "loss": 0.0015,
      "step": 2690
    },
    {
      "epoch": 4.491666666666666,
      "grad_norm": 0.01592080481350422,
      "learning_rate": 0.00014011111111111112,
      "loss": 0.0861,
      "step": 2695
    },
    {
      "epoch": 4.5,
      "grad_norm": 1.7376705408096313,
      "learning_rate": 0.00014,
      "loss": 0.0068,
      "step": 2700
    },
    {
      "epoch": 4.5,
      "eval_accuracy": 0.86625,
      "eval_f1": 0.8648832756406764,
      "eval_loss": 0.7031516432762146,
      "eval_precision": 0.8768764893170985,
      "eval_recall": 0.86625,
      "eval_runtime": 17.6732,
      "eval_samples_per_second": 135.799,
      "eval_steps_per_second": 16.975,
      "step": 2700
    },
    {
      "epoch": 4.508333333333333,
      "grad_norm": 0.079666368663311,
      "learning_rate": 0.00013988888888888889,
      "loss": 0.0016,
      "step": 2705
    },
    {
      "epoch": 4.516666666666667,
      "grad_norm": 0.006211498752236366,
      "learning_rate": 0.00013977777777777778,
      "loss": 0.0039,
      "step": 2710
    },
    {
      "epoch": 4.525,
      "grad_norm": 0.0040027666836977005,
      "learning_rate": 0.00013966666666666668,
      "loss": 0.0013,
      "step": 2715
    },
    {
      "epoch": 4.533333333333333,
      "grad_norm": 0.0033918784465640783,
      "learning_rate": 0.00013955555555555558,
      "loss": 0.0033,
      "step": 2720
    },
    {
      "epoch": 4.541666666666667,
      "grad_norm": 0.035676244646310806,
      "learning_rate": 0.00013944444444444445,
      "loss": 0.0461,
      "step": 2725
    },
    {
      "epoch": 4.55,
      "grad_norm": 9.575560569763184,
      "learning_rate": 0.00013933333333333335,
      "loss": 0.085,
      "step": 2730
    },
    {
      "epoch": 4.558333333333334,
      "grad_norm": 0.015587440691888332,
      "learning_rate": 0.00013922222222222222,
      "loss": 0.0009,
      "step": 2735
    },
    {
      "epoch": 4.566666666666666,
      "grad_norm": 0.1992381364107132,
      "learning_rate": 0.00013911111111111112,
      "loss": 0.0736,
      "step": 2740
    },
    {
      "epoch": 4.575,
      "grad_norm": 0.020382491871714592,
      "learning_rate": 0.000139,
      "loss": 0.001,
      "step": 2745
    },
    {
      "epoch": 4.583333333333333,
      "grad_norm": 0.007111522369086742,
      "learning_rate": 0.0001388888888888889,
      "loss": 0.0022,
      "step": 2750
    },
    {
      "epoch": 4.591666666666667,
      "grad_norm": 2.362596035003662,
      "learning_rate": 0.0001387777777777778,
      "loss": 0.0855,
      "step": 2755
    },
    {
      "epoch": 4.6,
      "grad_norm": 0.009619721211493015,
      "learning_rate": 0.00013866666666666669,
      "loss": 0.0016,
      "step": 2760
    },
    {
      "epoch": 4.608333333333333,
      "grad_norm": 0.004192822612822056,
      "learning_rate": 0.00013855555555555558,
      "loss": 0.0956,
      "step": 2765
    },
    {
      "epoch": 4.616666666666667,
      "grad_norm": 0.11680568754673004,
      "learning_rate": 0.00013844444444444445,
      "loss": 0.1036,
      "step": 2770
    },
    {
      "epoch": 4.625,
      "grad_norm": 11.861618995666504,
      "learning_rate": 0.00013833333333333333,
      "loss": 0.113,
      "step": 2775
    },
    {
      "epoch": 4.633333333333333,
      "grad_norm": 0.5052495002746582,
      "learning_rate": 0.00013822222222222222,
      "loss": 0.0021,
      "step": 2780
    },
    {
      "epoch": 4.641666666666667,
      "grad_norm": 0.007560345809906721,
      "learning_rate": 0.00013811111111111112,
      "loss": 0.0079,
      "step": 2785
    },
    {
      "epoch": 4.65,
      "grad_norm": 0.010225359350442886,
      "learning_rate": 0.000138,
      "loss": 0.0013,
      "step": 2790
    },
    {
      "epoch": 4.658333333333333,
      "grad_norm": 0.008363712579011917,
      "learning_rate": 0.0001378888888888889,
      "loss": 0.0017,
      "step": 2795
    },
    {
      "epoch": 4.666666666666667,
      "grad_norm": 0.04517216980457306,
      "learning_rate": 0.0001377777777777778,
      "loss": 0.0014,
      "step": 2800
    },
    {
      "epoch": 4.666666666666667,
      "eval_accuracy": 0.86,
      "eval_f1": 0.856498016392365,
      "eval_loss": 0.7378690838813782,
      "eval_precision": 0.8794756104835943,
      "eval_recall": 0.86,
      "eval_runtime": 17.6468,
      "eval_samples_per_second": 136.002,
      "eval_steps_per_second": 17.0,
      "step": 2800
    },
    {
      "epoch": 4.675,
      "grad_norm": 7.113086700439453,
      "learning_rate": 0.0001376666666666667,
      "loss": 0.0201,
      "step": 2805
    },
    {
      "epoch": 4.683333333333334,
      "grad_norm": 0.10622886568307877,
      "learning_rate": 0.00013755555555555556,
      "loss": 0.0413,
      "step": 2810
    },
    {
      "epoch": 4.691666666666666,
      "grad_norm": 0.0050419592298567295,
      "learning_rate": 0.00013744444444444443,
      "loss": 0.1093,
      "step": 2815
    },
    {
      "epoch": 4.7,
      "grad_norm": 0.01142599806189537,
      "learning_rate": 0.00013733333333333333,
      "loss": 0.0012,
      "step": 2820
    },
    {
      "epoch": 4.708333333333333,
      "grad_norm": 0.007318420335650444,
      "learning_rate": 0.00013722222222222223,
      "loss": 0.0014,
      "step": 2825
    },
    {
      "epoch": 4.716666666666667,
      "grad_norm": 0.022237708792090416,
      "learning_rate": 0.00013711111111111113,
      "loss": 0.0104,
      "step": 2830
    },
    {
      "epoch": 4.725,
      "grad_norm": 0.010645824484527111,
      "learning_rate": 0.00013700000000000002,
      "loss": 0.0012,
      "step": 2835
    },
    {
      "epoch": 4.733333333333333,
      "grad_norm": 0.016393473371863365,
      "learning_rate": 0.0001368888888888889,
      "loss": 0.0038,
      "step": 2840
    },
    {
      "epoch": 4.741666666666667,
      "grad_norm": 0.004855298437178135,
      "learning_rate": 0.0001367777777777778,
      "loss": 0.0164,
      "step": 2845
    },
    {
      "epoch": 4.75,
      "grad_norm": 0.0049490248784422874,
      "learning_rate": 0.00013666666666666666,
      "loss": 0.0009,
      "step": 2850
    },
    {
      "epoch": 4.758333333333333,
      "grad_norm": 0.003782103303819895,
      "learning_rate": 0.00013655555555555556,
      "loss": 0.006,
      "step": 2855
    },
    {
      "epoch": 4.766666666666667,
      "grad_norm": 0.003957286477088928,
      "learning_rate": 0.00013644444444444443,
      "loss": 0.0009,
      "step": 2860
    },
    {
      "epoch": 4.775,
      "grad_norm": 0.0048890565522015095,
      "learning_rate": 0.00013633333333333333,
      "loss": 0.0009,
      "step": 2865
    },
    {
      "epoch": 4.783333333333333,
      "grad_norm": 0.011455290019512177,
      "learning_rate": 0.00013622222222222223,
      "loss": 0.1344,
      "step": 2870
    },
    {
      "epoch": 4.791666666666667,
      "grad_norm": 6.414525985717773,
      "learning_rate": 0.00013611111111111113,
      "loss": 0.0212,
      "step": 2875
    },
    {
      "epoch": 4.8,
      "grad_norm": 0.004069310612976551,
      "learning_rate": 0.00013600000000000003,
      "loss": 0.0011,
      "step": 2880
    },
    {
      "epoch": 4.808333333333334,
      "grad_norm": 0.01548823807388544,
      "learning_rate": 0.0001358888888888889,
      "loss": 0.0014,
      "step": 2885
    },
    {
      "epoch": 4.816666666666666,
      "grad_norm": 0.0035564403515309095,
      "learning_rate": 0.00013577777777777777,
      "loss": 0.0056,
      "step": 2890
    },
    {
      "epoch": 4.825,
      "grad_norm": 13.866901397705078,
      "learning_rate": 0.00013566666666666667,
      "loss": 0.1251,
      "step": 2895
    },
    {
      "epoch": 4.833333333333333,
      "grad_norm": 0.4682888090610504,
      "learning_rate": 0.00013555555555555556,
      "loss": 0.0951,
      "step": 2900
    },
    {
      "epoch": 4.833333333333333,
      "eval_accuracy": 0.8979166666666667,
      "eval_f1": 0.8983580295562262,
      "eval_loss": 0.5959630012512207,
      "eval_precision": 0.9085539523008734,
      "eval_recall": 0.8979166666666667,
      "eval_runtime": 17.5622,
      "eval_samples_per_second": 136.657,
      "eval_steps_per_second": 17.082,
      "step": 2900
    },
    {
      "epoch": 4.841666666666667,
      "grad_norm": 0.0031024643685668707,
      "learning_rate": 0.00013544444444444444,
      "loss": 0.0678,
      "step": 2905
    },
    {
      "epoch": 4.85,
      "grad_norm": 0.016712656244635582,
      "learning_rate": 0.00013533333333333333,
      "loss": 0.0781,
      "step": 2910
    },
    {
      "epoch": 4.858333333333333,
      "grad_norm": 0.0033077143598347902,
      "learning_rate": 0.00013522222222222223,
      "loss": 0.0294,
      "step": 2915
    },
    {
      "epoch": 4.866666666666667,
      "grad_norm": 0.012865016236901283,
      "learning_rate": 0.00013511111111111113,
      "loss": 0.001,
      "step": 2920
    },
    {
      "epoch": 4.875,
      "grad_norm": 5.207073211669922,
      "learning_rate": 0.00013500000000000003,
      "loss": 0.1359,
      "step": 2925
    },
    {
      "epoch": 4.883333333333333,
      "grad_norm": 0.30686891078948975,
      "learning_rate": 0.0001348888888888889,
      "loss": 0.0538,
      "step": 2930
    },
    {
      "epoch": 4.891666666666667,
      "grad_norm": 11.519688606262207,
      "learning_rate": 0.00013477777777777777,
      "loss": 0.0217,
      "step": 2935
    },
    {
      "epoch": 4.9,
      "grad_norm": 1.03629469871521,
      "learning_rate": 0.00013466666666666667,
      "loss": 0.0655,
      "step": 2940
    },
    {
      "epoch": 4.908333333333333,
      "grad_norm": 0.004741353448480368,
      "learning_rate": 0.00013455555555555557,
      "loss": 0.001,
      "step": 2945
    },
    {
      "epoch": 4.916666666666667,
      "grad_norm": 0.37751495838165283,
      "learning_rate": 0.00013444444444444447,
      "loss": 0.008,
      "step": 2950
    },
    {
      "epoch": 4.925,
      "grad_norm": 0.005485796835273504,
      "learning_rate": 0.00013433333333333334,
      "loss": 0.125,
      "step": 2955
    },
    {
      "epoch": 4.933333333333334,
      "grad_norm": 0.005086090881377459,
      "learning_rate": 0.00013422222222222224,
      "loss": 0.0155,
      "step": 2960
    },
    {
      "epoch": 4.941666666666666,
      "grad_norm": 0.005503931548446417,
      "learning_rate": 0.00013411111111111113,
      "loss": 0.001,
      "step": 2965
    },
    {
      "epoch": 4.95,
      "grad_norm": 0.007343043107539415,
      "learning_rate": 0.000134,
      "loss": 0.2139,
      "step": 2970
    },
    {
      "epoch": 4.958333333333333,
      "grad_norm": 8.107624053955078,
      "learning_rate": 0.00013388888888888888,
      "loss": 0.181,
      "step": 2975
    },
    {
      "epoch": 4.966666666666667,
      "grad_norm": 0.018030492588877678,
      "learning_rate": 0.00013377777777777777,
      "loss": 0.1018,
      "step": 2980
    },
    {
      "epoch": 4.975,
      "grad_norm": 0.004852823447436094,
      "learning_rate": 0.00013366666666666667,
      "loss": 0.0728,
      "step": 2985
    },
    {
      "epoch": 4.983333333333333,
      "grad_norm": 0.00489714415743947,
      "learning_rate": 0.00013355555555555557,
      "loss": 0.0651,
      "step": 2990
    },
    {
      "epoch": 4.991666666666667,
      "grad_norm": 0.019398244097828865,
      "learning_rate": 0.00013344444444444447,
      "loss": 0.0429,
      "step": 2995
    },
    {
      "epoch": 5.0,
      "grad_norm": 0.011832326650619507,
      "learning_rate": 0.00013333333333333334,
      "loss": 0.0439,
      "step": 3000
    },
    {
      "epoch": 5.0,
      "eval_accuracy": 0.8708333333333333,
      "eval_f1": 0.869882256664728,
      "eval_loss": 0.6975178122520447,
      "eval_precision": 0.8901744947242861,
      "eval_recall": 0.8708333333333333,
      "eval_runtime": 17.8323,
      "eval_samples_per_second": 134.587,
      "eval_steps_per_second": 16.823,
      "step": 3000
    },
    {
      "epoch": 5.008333333333334,
      "grad_norm": 0.05310284346342087,
      "learning_rate": 0.00013322222222222224,
      "loss": 0.004,
      "step": 3005
    },
    {
      "epoch": 5.016666666666667,
      "grad_norm": 0.017676139250397682,
      "learning_rate": 0.0001331111111111111,
      "loss": 0.0611,
      "step": 3010
    },
    {
      "epoch": 5.025,
      "grad_norm": 13.482112884521484,
      "learning_rate": 0.000133,
      "loss": 0.0332,
      "step": 3015
    },
    {
      "epoch": 5.033333333333333,
      "grad_norm": 0.5532886981964111,
      "learning_rate": 0.00013288888888888888,
      "loss": 0.1373,
      "step": 3020
    },
    {
      "epoch": 5.041666666666667,
      "grad_norm": 0.013696291483938694,
      "learning_rate": 0.00013277777777777778,
      "loss": 0.0316,
      "step": 3025
    },
    {
      "epoch": 5.05,
      "grad_norm": 0.007116522639989853,
      "learning_rate": 0.00013266666666666667,
      "loss": 0.0011,
      "step": 3030
    },
    {
      "epoch": 5.058333333333334,
      "grad_norm": 0.026699328795075417,
      "learning_rate": 0.00013255555555555557,
      "loss": 0.0245,
      "step": 3035
    },
    {
      "epoch": 5.066666666666666,
      "grad_norm": 0.07274293154478073,
      "learning_rate": 0.00013244444444444447,
      "loss": 0.0237,
      "step": 3040
    },
    {
      "epoch": 5.075,
      "grad_norm": 0.006671610288321972,
      "learning_rate": 0.00013233333333333334,
      "loss": 0.0011,
      "step": 3045
    },
    {
      "epoch": 5.083333333333333,
      "grad_norm": 3.106027603149414,
      "learning_rate": 0.00013222222222222221,
      "loss": 0.1585,
      "step": 3050
    },
    {
      "epoch": 5.091666666666667,
      "grad_norm": 7.674259662628174,
      "learning_rate": 0.0001321111111111111,
      "loss": 0.0088,
      "step": 3055
    },
    {
      "epoch": 5.1,
      "grad_norm": 0.018917083740234375,
      "learning_rate": 0.000132,
      "loss": 0.0173,
      "step": 3060
    },
    {
      "epoch": 5.108333333333333,
      "grad_norm": 0.010149200446903706,
      "learning_rate": 0.0001318888888888889,
      "loss": 0.0011,
      "step": 3065
    },
    {
      "epoch": 5.116666666666666,
      "grad_norm": 0.0033476664684712887,
      "learning_rate": 0.00013177777777777778,
      "loss": 0.1426,
      "step": 3070
    },
    {
      "epoch": 5.125,
      "grad_norm": 0.02095763385295868,
      "learning_rate": 0.00013166666666666668,
      "loss": 0.0099,
      "step": 3075
    },
    {
      "epoch": 5.133333333333334,
      "grad_norm": 6.734473705291748,
      "learning_rate": 0.00013155555555555558,
      "loss": 0.0579,
      "step": 3080
    },
    {
      "epoch": 5.141666666666667,
      "grad_norm": 0.011852886527776718,
      "learning_rate": 0.00013144444444444445,
      "loss": 0.016,
      "step": 3085
    },
    {
      "epoch": 5.15,
      "grad_norm": 0.004162777215242386,
      "learning_rate": 0.00013133333333333332,
      "loss": 0.0851,
      "step": 3090
    },
    {
      "epoch": 5.158333333333333,
      "grad_norm": 0.01821710355579853,
      "learning_rate": 0.00013122222222222222,
      "loss": 0.0718,
      "step": 3095
    },
    {
      "epoch": 5.166666666666667,
      "grad_norm": 3.184248447418213,
      "learning_rate": 0.00013111111111111111,
      "loss": 0.1022,
      "step": 3100
    },
    {
      "epoch": 5.166666666666667,
      "eval_accuracy": 0.83625,
      "eval_f1": 0.8312170376538142,
      "eval_loss": 1.023087739944458,
      "eval_precision": 0.8702676186763407,
      "eval_recall": 0.83625,
      "eval_runtime": 17.6061,
      "eval_samples_per_second": 136.316,
      "eval_steps_per_second": 17.04,
      "step": 3100
    },
    {
      "epoch": 5.175,
      "grad_norm": 0.004108671564608812,
      "learning_rate": 0.000131,
      "loss": 0.003,
      "step": 3105
    },
    {
      "epoch": 5.183333333333334,
      "grad_norm": 0.010104715824127197,
      "learning_rate": 0.0001308888888888889,
      "loss": 0.0453,
      "step": 3110
    },
    {
      "epoch": 5.191666666666666,
      "grad_norm": 0.007280545309185982,
      "learning_rate": 0.00013077777777777778,
      "loss": 0.0246,
      "step": 3115
    },
    {
      "epoch": 5.2,
      "grad_norm": 0.004370388574898243,
      "learning_rate": 0.00013066666666666668,
      "loss": 0.0033,
      "step": 3120
    },
    {
      "epoch": 5.208333333333333,
      "grad_norm": 0.009508529677987099,
      "learning_rate": 0.00013055555555555555,
      "loss": 0.1299,
      "step": 3125
    },
    {
      "epoch": 5.216666666666667,
      "grad_norm": 0.016570573672652245,
      "learning_rate": 0.00013044444444444445,
      "loss": 0.0649,
      "step": 3130
    },
    {
      "epoch": 5.225,
      "grad_norm": 0.312264084815979,
      "learning_rate": 0.00013033333333333332,
      "loss": 0.0057,
      "step": 3135
    },
    {
      "epoch": 5.233333333333333,
      "grad_norm": 0.0034067577216774225,
      "learning_rate": 0.00013022222222222222,
      "loss": 0.0645,
      "step": 3140
    },
    {
      "epoch": 5.241666666666666,
      "grad_norm": 0.2959745228290558,
      "learning_rate": 0.00013011111111111112,
      "loss": 0.0015,
      "step": 3145
    },
    {
      "epoch": 5.25,
      "grad_norm": 0.3317006528377533,
      "learning_rate": 0.00013000000000000002,
      "loss": 0.0459,
      "step": 3150
    },
    {
      "epoch": 5.258333333333334,
      "grad_norm": 0.07435103505849838,
      "learning_rate": 0.00012988888888888891,
      "loss": 0.0439,
      "step": 3155
    },
    {
      "epoch": 5.266666666666667,
      "grad_norm": 0.11521896719932556,
      "learning_rate": 0.00012977777777777779,
      "loss": 0.072,
      "step": 3160
    },
    {
      "epoch": 5.275,
      "grad_norm": 9.332180976867676,
      "learning_rate": 0.00012966666666666666,
      "loss": 0.035,
      "step": 3165
    },
    {
      "epoch": 5.283333333333333,
      "grad_norm": 0.00452330382540822,
      "learning_rate": 0.00012955555555555555,
      "loss": 0.0076,
      "step": 3170
    },
    {
      "epoch": 5.291666666666667,
      "grad_norm": 0.0030817307997494936,
      "learning_rate": 0.00012944444444444445,
      "loss": 0.001,
      "step": 3175
    },
    {
      "epoch": 5.3,
      "grad_norm": 0.16176429390907288,
      "learning_rate": 0.00012933333333333332,
      "loss": 0.0743,
      "step": 3180
    },
    {
      "epoch": 5.308333333333334,
      "grad_norm": 0.02077769860625267,
      "learning_rate": 0.00012922222222222222,
      "loss": 0.0009,
      "step": 3185
    },
    {
      "epoch": 5.316666666666666,
      "grad_norm": 0.0024831921327859163,
      "learning_rate": 0.00012911111111111112,
      "loss": 0.0059,
      "step": 3190
    },
    {
      "epoch": 5.325,
      "grad_norm": 0.07320116460323334,
      "learning_rate": 0.00012900000000000002,
      "loss": 0.0648,
      "step": 3195
    },
    {
      "epoch": 5.333333333333333,
      "grad_norm": 0.003460445674136281,
      "learning_rate": 0.00012888888888888892,
      "loss": 0.0239,
      "step": 3200
    },
    {
      "epoch": 5.333333333333333,
      "eval_accuracy": 0.8683333333333333,
      "eval_f1": 0.8690071100035404,
      "eval_loss": 0.7746148705482483,
      "eval_precision": 0.8766589898083106,
      "eval_recall": 0.8683333333333333,
      "eval_runtime": 17.7286,
      "eval_samples_per_second": 135.374,
      "eval_steps_per_second": 16.922,
      "step": 3200
    },
    {
      "epoch": 5.341666666666667,
      "grad_norm": 10.459663391113281,
      "learning_rate": 0.0001287777777777778,
      "loss": 0.0436,
      "step": 3205
    },
    {
      "epoch": 5.35,
      "grad_norm": 0.002911374205723405,
      "learning_rate": 0.00012866666666666666,
      "loss": 0.0007,
      "step": 3210
    },
    {
      "epoch": 5.358333333333333,
      "grad_norm": 0.09474685788154602,
      "learning_rate": 0.00012855555555555556,
      "loss": 0.0011,
      "step": 3215
    },
    {
      "epoch": 5.366666666666666,
      "grad_norm": 6.386326789855957,
      "learning_rate": 0.00012844444444444446,
      "loss": 0.018,
      "step": 3220
    },
    {
      "epoch": 5.375,
      "grad_norm": 0.005601835902780294,
      "learning_rate": 0.00012833333333333335,
      "loss": 0.0033,
      "step": 3225
    },
    {
      "epoch": 5.383333333333334,
      "grad_norm": 0.00302872690372169,
      "learning_rate": 0.00012822222222222222,
      "loss": 0.0007,
      "step": 3230
    },
    {
      "epoch": 5.391666666666667,
      "grad_norm": 0.015087662264704704,
      "learning_rate": 0.00012811111111111112,
      "loss": 0.0534,
      "step": 3235
    },
    {
      "epoch": 5.4,
      "grad_norm": 0.00419669970870018,
      "learning_rate": 0.00012800000000000002,
      "loss": 0.0144,
      "step": 3240
    },
    {
      "epoch": 5.408333333333333,
      "grad_norm": 0.00570315308868885,
      "learning_rate": 0.0001278888888888889,
      "loss": 0.0009,
      "step": 3245
    },
    {
      "epoch": 5.416666666666667,
      "grad_norm": 3.3375439643859863,
      "learning_rate": 0.00012777777777777776,
      "loss": 0.0046,
      "step": 3250
    },
    {
      "epoch": 5.425,
      "grad_norm": 1.5349102020263672,
      "learning_rate": 0.00012766666666666666,
      "loss": 0.0894,
      "step": 3255
    },
    {
      "epoch": 5.433333333333334,
      "grad_norm": 0.07724875211715698,
      "learning_rate": 0.00012755555555555556,
      "loss": 0.0034,
      "step": 3260
    },
    {
      "epoch": 5.441666666666666,
      "grad_norm": 0.24360187351703644,
      "learning_rate": 0.00012744444444444446,
      "loss": 0.0833,
      "step": 3265
    },
    {
      "epoch": 5.45,
      "grad_norm": 0.010486065410077572,
      "learning_rate": 0.00012733333333333336,
      "loss": 0.0789,
      "step": 3270
    },
    {
      "epoch": 5.458333333333333,
      "grad_norm": 7.839888572692871,
      "learning_rate": 0.00012722222222222223,
      "loss": 0.0697,
      "step": 3275
    },
    {
      "epoch": 5.466666666666667,
      "grad_norm": 0.31942346692085266,
      "learning_rate": 0.00012711111111111113,
      "loss": 0.0015,
      "step": 3280
    },
    {
      "epoch": 5.475,
      "grad_norm": 0.0063882190734148026,
      "learning_rate": 0.000127,
      "loss": 0.0997,
      "step": 3285
    },
    {
      "epoch": 5.483333333333333,
      "grad_norm": 0.005820386577397585,
      "learning_rate": 0.0001268888888888889,
      "loss": 0.0013,
      "step": 3290
    },
    {
      "epoch": 5.491666666666666,
      "grad_norm": 2.9349565505981445,
      "learning_rate": 0.00012677777777777777,
      "loss": 0.0759,
      "step": 3295
    },
    {
      "epoch": 5.5,
      "grad_norm": 0.004671607166528702,
      "learning_rate": 0.00012666666666666666,
      "loss": 0.0087,
      "step": 3300
    },
    {
      "epoch": 5.5,
      "eval_accuracy": 0.8566666666666667,
      "eval_f1": 0.8561053136734595,
      "eval_loss": 0.8245525360107422,
      "eval_precision": 0.8700251809892253,
      "eval_recall": 0.8566666666666667,
      "eval_runtime": 17.9113,
      "eval_samples_per_second": 133.994,
      "eval_steps_per_second": 16.749,
      "step": 3300
    },
    {
      "epoch": 5.508333333333333,
      "grad_norm": 1.411318302154541,
      "learning_rate": 0.00012655555555555556,
      "loss": 0.0996,
      "step": 3305
    },
    {
      "epoch": 5.516666666666667,
      "grad_norm": 0.006672142539173365,
      "learning_rate": 0.00012644444444444446,
      "loss": 0.0196,
      "step": 3310
    },
    {
      "epoch": 5.525,
      "grad_norm": 0.03050571121275425,
      "learning_rate": 0.00012633333333333336,
      "loss": 0.0039,
      "step": 3315
    },
    {
      "epoch": 5.533333333333333,
      "grad_norm": 0.02429865300655365,
      "learning_rate": 0.00012622222222222223,
      "loss": 0.0362,
      "step": 3320
    },
    {
      "epoch": 5.541666666666667,
      "grad_norm": 0.04177388176321983,
      "learning_rate": 0.0001261111111111111,
      "loss": 0.0034,
      "step": 3325
    },
    {
      "epoch": 5.55,
      "grad_norm": 0.016133148223161697,
      "learning_rate": 0.000126,
      "loss": 0.0031,
      "step": 3330
    },
    {
      "epoch": 5.558333333333334,
      "grad_norm": 0.08667922765016556,
      "learning_rate": 0.0001258888888888889,
      "loss": 0.072,
      "step": 3335
    },
    {
      "epoch": 5.566666666666666,
      "grad_norm": 12.491804122924805,
      "learning_rate": 0.0001257777777777778,
      "loss": 0.0434,
      "step": 3340
    },
    {
      "epoch": 5.575,
      "grad_norm": 0.004881351254880428,
      "learning_rate": 0.00012566666666666667,
      "loss": 0.0487,
      "step": 3345
    },
    {
      "epoch": 5.583333333333333,
      "grad_norm": 0.17418737709522247,
      "learning_rate": 0.00012555555555555557,
      "loss": 0.0038,
      "step": 3350
    },
    {
      "epoch": 5.591666666666667,
      "grad_norm": 0.7067363262176514,
      "learning_rate": 0.00012544444444444446,
      "loss": 0.0072,
      "step": 3355
    },
    {
      "epoch": 5.6,
      "grad_norm": 0.23283904790878296,
      "learning_rate": 0.00012533333333333334,
      "loss": 0.0017,
      "step": 3360
    },
    {
      "epoch": 5.608333333333333,
      "grad_norm": 0.0070110405795276165,
      "learning_rate": 0.0001252222222222222,
      "loss": 0.0015,
      "step": 3365
    },
    {
      "epoch": 5.616666666666667,
      "grad_norm": 1.5366392135620117,
      "learning_rate": 0.0001251111111111111,
      "loss": 0.0031,
      "step": 3370
    },
    {
      "epoch": 5.625,
      "grad_norm": 0.14865219593048096,
      "learning_rate": 0.000125,
      "loss": 0.0015,
      "step": 3375
    },
    {
      "epoch": 5.633333333333333,
      "grad_norm": 0.0025471330154687166,
      "learning_rate": 0.0001248888888888889,
      "loss": 0.0023,
      "step": 3380
    },
    {
      "epoch": 5.641666666666667,
      "grad_norm": 0.009977825917303562,
      "learning_rate": 0.0001247777777777778,
      "loss": 0.0765,
      "step": 3385
    },
    {
      "epoch": 5.65,
      "grad_norm": 0.018318727612495422,
      "learning_rate": 0.00012466666666666667,
      "loss": 0.0016,
      "step": 3390
    },
    {
      "epoch": 5.658333333333333,
      "grad_norm": 0.005253891926258802,
      "learning_rate": 0.00012455555555555557,
      "loss": 0.001,
      "step": 3395
    },
    {
      "epoch": 5.666666666666667,
      "grad_norm": 0.008021626621484756,
      "learning_rate": 0.00012444444444444444,
      "loss": 0.001,
      "step": 3400
    },
    {
      "epoch": 5.666666666666667,
      "eval_accuracy": 0.82375,
      "eval_f1": 0.820807020112293,
      "eval_loss": 1.0920567512512207,
      "eval_precision": 0.8483812346056916,
      "eval_recall": 0.82375,
      "eval_runtime": 17.5905,
      "eval_samples_per_second": 136.437,
      "eval_steps_per_second": 17.055,
      "step": 3400
    },
    {
      "epoch": 5.675,
      "grad_norm": 0.0022669394966214895,
      "learning_rate": 0.00012433333333333334,
      "loss": 0.0802,
      "step": 3405
    },
    {
      "epoch": 5.683333333333334,
      "grad_norm": 0.11735565215349197,
      "learning_rate": 0.0001242222222222222,
      "loss": 0.0224,
      "step": 3410
    },
    {
      "epoch": 5.691666666666666,
      "grad_norm": 0.004474390298128128,
      "learning_rate": 0.0001241111111111111,
      "loss": 0.0024,
      "step": 3415
    },
    {
      "epoch": 5.7,
      "grad_norm": 0.003485420485958457,
      "learning_rate": 0.000124,
      "loss": 0.0063,
      "step": 3420
    },
    {
      "epoch": 5.708333333333333,
      "grad_norm": 0.003741451073437929,
      "learning_rate": 0.0001238888888888889,
      "loss": 0.017,
      "step": 3425
    },
    {
      "epoch": 5.716666666666667,
      "grad_norm": 0.0027441075071692467,
      "learning_rate": 0.0001237777777777778,
      "loss": 0.01,
      "step": 3430
    },
    {
      "epoch": 5.725,
      "grad_norm": 12.134818077087402,
      "learning_rate": 0.00012366666666666667,
      "loss": 0.0162,
      "step": 3435
    },
    {
      "epoch": 5.733333333333333,
      "grad_norm": 1.68990159034729,
      "learning_rate": 0.00012355555555555557,
      "loss": 0.0893,
      "step": 3440
    },
    {
      "epoch": 5.741666666666667,
      "grad_norm": 0.0056391432881355286,
      "learning_rate": 0.00012344444444444444,
      "loss": 0.0108,
      "step": 3445
    },
    {
      "epoch": 5.75,
      "grad_norm": 1.821960210800171,
      "learning_rate": 0.00012333333333333334,
      "loss": 0.0896,
      "step": 3450
    },
    {
      "epoch": 5.758333333333333,
      "grad_norm": 0.013545507565140724,
      "learning_rate": 0.00012322222222222224,
      "loss": 0.187,
      "step": 3455
    },
    {
      "epoch": 5.766666666666667,
      "grad_norm": 0.005719029810279608,
      "learning_rate": 0.0001231111111111111,
      "loss": 0.0401,
      "step": 3460
    },
    {
      "epoch": 5.775,
      "grad_norm": 3.6244189739227295,
      "learning_rate": 0.000123,
      "loss": 0.01,
      "step": 3465
    },
    {
      "epoch": 5.783333333333333,
      "grad_norm": 0.0029548904858529568,
      "learning_rate": 0.0001228888888888889,
      "loss": 0.0174,
      "step": 3470
    },
    {
      "epoch": 5.791666666666667,
      "grad_norm": 0.008194697089493275,
      "learning_rate": 0.0001227777777777778,
      "loss": 0.001,
      "step": 3475
    },
    {
      "epoch": 5.8,
      "grad_norm": 0.24506497383117676,
      "learning_rate": 0.00012266666666666668,
      "loss": 0.1224,
      "step": 3480
    },
    {
      "epoch": 5.808333333333334,
      "grad_norm": 0.014896071515977383,
      "learning_rate": 0.00012255555555555555,
      "loss": 0.001,
      "step": 3485
    },
    {
      "epoch": 5.816666666666666,
      "grad_norm": 0.0050362758338451385,
      "learning_rate": 0.00012244444444444445,
      "loss": 0.0017,
      "step": 3490
    },
    {
      "epoch": 5.825,
      "grad_norm": 0.5633776783943176,
      "learning_rate": 0.00012233333333333334,
      "loss": 0.0025,
      "step": 3495
    },
    {
      "epoch": 5.833333333333333,
      "grad_norm": 0.0035552482586354017,
      "learning_rate": 0.00012222222222222224,
      "loss": 0.0056,
      "step": 3500
    },
    {
      "epoch": 5.833333333333333,
      "eval_accuracy": 0.8533333333333334,
      "eval_f1": 0.8523883677193149,
      "eval_loss": 0.7430915236473083,
      "eval_precision": 0.8562359076502929,
      "eval_recall": 0.8533333333333334,
      "eval_runtime": 17.9474,
      "eval_samples_per_second": 133.724,
      "eval_steps_per_second": 16.715,
      "step": 3500
    },
    {
      "epoch": 5.841666666666667,
      "grad_norm": 0.002727176994085312,
      "learning_rate": 0.0001221111111111111,
      "loss": 0.0011,
      "step": 3505
    },
    {
      "epoch": 5.85,
      "grad_norm": 0.028056958690285683,
      "learning_rate": 0.000122,
      "loss": 0.0009,
      "step": 3510
    },
    {
      "epoch": 5.858333333333333,
      "grad_norm": 4.075783729553223,
      "learning_rate": 0.0001218888888888889,
      "loss": 0.0989,
      "step": 3515
    },
    {
      "epoch": 5.866666666666667,
      "grad_norm": 0.002606675261631608,
      "learning_rate": 0.0001217777777777778,
      "loss": 0.0491,
      "step": 3520
    },
    {
      "epoch": 5.875,
      "grad_norm": 0.003920426592230797,
      "learning_rate": 0.00012166666666666667,
      "loss": 0.0703,
      "step": 3525
    },
    {
      "epoch": 5.883333333333333,
      "grad_norm": 0.012770233675837517,
      "learning_rate": 0.00012155555555555555,
      "loss": 0.001,
      "step": 3530
    },
    {
      "epoch": 5.891666666666667,
      "grad_norm": 0.004948839545249939,
      "learning_rate": 0.00012144444444444445,
      "loss": 0.0025,
      "step": 3535
    },
    {
      "epoch": 5.9,
      "grad_norm": 0.011348344385623932,
      "learning_rate": 0.00012133333333333335,
      "loss": 0.1438,
      "step": 3540
    },
    {
      "epoch": 5.908333333333333,
      "grad_norm": 0.0076131755486130714,
      "learning_rate": 0.00012122222222222223,
      "loss": 0.0543,
      "step": 3545
    },
    {
      "epoch": 5.916666666666667,
      "grad_norm": 2.1395180225372314,
      "learning_rate": 0.0001211111111111111,
      "loss": 0.0031,
      "step": 3550
    },
    {
      "epoch": 5.925,
      "grad_norm": 0.06599913537502289,
      "learning_rate": 0.000121,
      "loss": 0.0091,
      "step": 3555
    },
    {
      "epoch": 5.933333333333334,
      "grad_norm": 0.01366125512868166,
      "learning_rate": 0.0001208888888888889,
      "loss": 0.0011,
      "step": 3560
    },
    {
      "epoch": 5.941666666666666,
      "grad_norm": 0.02936609461903572,
      "learning_rate": 0.00012077777777777778,
      "loss": 0.001,
      "step": 3565
    },
    {
      "epoch": 5.95,
      "grad_norm": 0.003532723756507039,
      "learning_rate": 0.00012066666666666668,
      "loss": 0.0182,
      "step": 3570
    },
    {
      "epoch": 5.958333333333333,
      "grad_norm": 0.014330475591123104,
      "learning_rate": 0.00012055555555555555,
      "loss": 0.0012,
      "step": 3575
    },
    {
      "epoch": 5.966666666666667,
      "grad_norm": 0.023788172751665115,
      "learning_rate": 0.00012044444444444445,
      "loss": 0.2194,
      "step": 3580
    },
    {
      "epoch": 5.975,
      "grad_norm": 0.004087766632437706,
      "learning_rate": 0.00012033333333333335,
      "loss": 0.0013,
      "step": 3585
    },
    {
      "epoch": 5.983333333333333,
      "grad_norm": 0.002865949645638466,
      "learning_rate": 0.00012022222222222223,
      "loss": 0.001,
      "step": 3590
    },
    {
      "epoch": 5.991666666666667,
      "grad_norm": 0.006721322424709797,
      "learning_rate": 0.0001201111111111111,
      "loss": 0.0973,
      "step": 3595
    },
    {
      "epoch": 6.0,
      "grad_norm": 0.0047563305124640465,
      "learning_rate": 0.00012,
      "loss": 0.0007,
      "step": 3600
    },
    {
      "epoch": 6.0,
      "eval_accuracy": 0.82125,
      "eval_f1": 0.82696991610933,
      "eval_loss": 0.8992307782173157,
      "eval_precision": 0.8462900740551167,
      "eval_recall": 0.82125,
      "eval_runtime": 17.8737,
      "eval_samples_per_second": 134.275,
      "eval_steps_per_second": 16.784,
      "step": 3600
    },
    {
      "epoch": 6.008333333333334,
      "grad_norm": 0.015898410230875015,
      "learning_rate": 0.0001198888888888889,
      "loss": 0.0009,
      "step": 3605
    },
    {
      "epoch": 6.016666666666667,
      "grad_norm": 0.004556844010949135,
      "learning_rate": 0.00011977777777777779,
      "loss": 0.1016,
      "step": 3610
    },
    {
      "epoch": 6.025,
      "grad_norm": 0.0027492837980389595,
      "learning_rate": 0.00011966666666666668,
      "loss": 0.0012,
      "step": 3615
    },
    {
      "epoch": 6.033333333333333,
      "grad_norm": 0.005988289602100849,
      "learning_rate": 0.00011955555555555556,
      "loss": 0.0151,
      "step": 3620
    },
    {
      "epoch": 6.041666666666667,
      "grad_norm": 0.0073300935328006744,
      "learning_rate": 0.00011944444444444445,
      "loss": 0.0011,
      "step": 3625
    },
    {
      "epoch": 6.05,
      "grad_norm": 0.10268886387348175,
      "learning_rate": 0.00011933333333333334,
      "loss": 0.0562,
      "step": 3630
    },
    {
      "epoch": 6.058333333333334,
      "grad_norm": 1.6615068912506104,
      "learning_rate": 0.00011922222222222224,
      "loss": 0.1091,
      "step": 3635
    },
    {
      "epoch": 6.066666666666666,
      "grad_norm": 2.5022921562194824,
      "learning_rate": 0.00011911111111111111,
      "loss": 0.0069,
      "step": 3640
    },
    {
      "epoch": 6.075,
      "grad_norm": 0.00882572028785944,
      "learning_rate": 0.000119,
      "loss": 0.001,
      "step": 3645
    },
    {
      "epoch": 6.083333333333333,
      "grad_norm": 0.012001000344753265,
      "learning_rate": 0.00011888888888888889,
      "loss": 0.0041,
      "step": 3650
    },
    {
      "epoch": 6.091666666666667,
      "grad_norm": 0.00805607344955206,
      "learning_rate": 0.00011877777777777779,
      "loss": 0.0012,
      "step": 3655
    },
    {
      "epoch": 6.1,
      "grad_norm": 0.01687360368669033,
      "learning_rate": 0.00011866666666666669,
      "loss": 0.001,
      "step": 3660
    },
    {
      "epoch": 6.108333333333333,
      "grad_norm": 0.011002098210155964,
      "learning_rate": 0.00011855555555555556,
      "loss": 0.0026,
      "step": 3665
    },
    {
      "epoch": 6.116666666666666,
      "grad_norm": 20.697240829467773,
      "learning_rate": 0.00011844444444444444,
      "loss": 0.014,
      "step": 3670
    },
    {
      "epoch": 6.125,
      "grad_norm": 0.0025711357593536377,
      "learning_rate": 0.00011833333333333334,
      "loss": 0.0008,
      "step": 3675
    },
    {
      "epoch": 6.133333333333334,
      "grad_norm": 0.005028142593801022,
      "learning_rate": 0.00011822222222222224,
      "loss": 0.0863,
      "step": 3680
    },
    {
      "epoch": 6.141666666666667,
      "grad_norm": 0.0037248600274324417,
      "learning_rate": 0.00011811111111111111,
      "loss": 0.0008,
      "step": 3685
    },
    {
      "epoch": 6.15,
      "grad_norm": 15.80911922454834,
      "learning_rate": 0.000118,
      "loss": 0.0179,
      "step": 3690
    },
    {
      "epoch": 6.158333333333333,
      "grad_norm": 3.694631814956665,
      "learning_rate": 0.0001178888888888889,
      "loss": 0.0784,
      "step": 3695
    },
    {
      "epoch": 6.166666666666667,
      "grad_norm": 1.5491454601287842,
      "learning_rate": 0.00011777777777777779,
      "loss": 0.0041,
      "step": 3700
    },
    {
      "epoch": 6.166666666666667,
      "eval_accuracy": 0.84375,
      "eval_f1": 0.8454474597737149,
      "eval_loss": 0.853111207485199,
      "eval_precision": 0.875730508891462,
      "eval_recall": 0.84375,
      "eval_runtime": 17.8257,
      "eval_samples_per_second": 134.637,
      "eval_steps_per_second": 16.83,
      "step": 3700
    },
    {
      "epoch": 6.175,
      "grad_norm": 0.0031573197338730097,
      "learning_rate": 0.00011766666666666668,
      "loss": 0.0007,
      "step": 3705
    },
    {
      "epoch": 6.183333333333334,
      "grad_norm": 0.0047944760881364346,
      "learning_rate": 0.00011755555555555555,
      "loss": 0.0561,
      "step": 3710
    },
    {
      "epoch": 6.191666666666666,
      "grad_norm": 0.021305598318576813,
      "learning_rate": 0.00011744444444444445,
      "loss": 0.0689,
      "step": 3715
    },
    {
      "epoch": 6.2,
      "grad_norm": 0.0035813457798212767,
      "learning_rate": 0.00011733333333333334,
      "loss": 0.0016,
      "step": 3720
    },
    {
      "epoch": 6.208333333333333,
      "grad_norm": 0.0030547145288437605,
      "learning_rate": 0.00011722222222222223,
      "loss": 0.0009,
      "step": 3725
    },
    {
      "epoch": 6.216666666666667,
      "grad_norm": 0.0027788986917585135,
      "learning_rate": 0.00011711111111111113,
      "loss": 0.0049,
      "step": 3730
    },
    {
      "epoch": 6.225,
      "grad_norm": 0.0030563282780349255,
      "learning_rate": 0.000117,
      "loss": 0.0075,
      "step": 3735
    },
    {
      "epoch": 6.233333333333333,
      "grad_norm": 0.9115859866142273,
      "learning_rate": 0.0001168888888888889,
      "loss": 0.002,
      "step": 3740
    },
    {
      "epoch": 6.241666666666666,
      "grad_norm": 0.002057858044281602,
      "learning_rate": 0.00011677777777777778,
      "loss": 0.0012,
      "step": 3745
    },
    {
      "epoch": 6.25,
      "grad_norm": 0.3435441851615906,
      "learning_rate": 0.00011666666666666668,
      "loss": 0.0013,
      "step": 3750
    },
    {
      "epoch": 6.258333333333334,
      "grad_norm": 0.14982356131076813,
      "learning_rate": 0.00011655555555555555,
      "loss": 0.0212,
      "step": 3755
    },
    {
      "epoch": 6.266666666666667,
      "grad_norm": 0.003578887553885579,
      "learning_rate": 0.00011644444444444445,
      "loss": 0.0007,
      "step": 3760
    },
    {
      "epoch": 6.275,
      "grad_norm": 1.076271653175354,
      "learning_rate": 0.00011633333333333333,
      "loss": 0.0087,
      "step": 3765
    },
    {
      "epoch": 6.283333333333333,
      "grad_norm": 0.0024111506063491106,
      "learning_rate": 0.00011622222222222223,
      "loss": 0.0006,
      "step": 3770
    },
    {
      "epoch": 6.291666666666667,
      "grad_norm": 0.009305336512625217,
      "learning_rate": 0.00011611111111111113,
      "loss": 0.0008,
      "step": 3775
    },
    {
      "epoch": 6.3,
      "grad_norm": 0.0026035017799586058,
      "learning_rate": 0.000116,
      "loss": 0.0427,
      "step": 3780
    },
    {
      "epoch": 6.308333333333334,
      "grad_norm": 0.001866367761977017,
      "learning_rate": 0.00011588888888888889,
      "loss": 0.0015,
      "step": 3785
    },
    {
      "epoch": 6.316666666666666,
      "grad_norm": 0.004866224713623524,
      "learning_rate": 0.00011577777777777778,
      "loss": 0.0007,
      "step": 3790
    },
    {
      "epoch": 6.325,
      "grad_norm": 0.005528921261429787,
      "learning_rate": 0.00011566666666666668,
      "loss": 0.0204,
      "step": 3795
    },
    {
      "epoch": 6.333333333333333,
      "grad_norm": 0.00691802566871047,
      "learning_rate": 0.00011555555555555555,
      "loss": 0.0138,
      "step": 3800
    },
    {
      "epoch": 6.333333333333333,
      "eval_accuracy": 0.8820833333333333,
      "eval_f1": 0.8809412600011998,
      "eval_loss": 0.6642717719078064,
      "eval_precision": 0.891842560642033,
      "eval_recall": 0.8820833333333333,
      "eval_runtime": 17.9609,
      "eval_samples_per_second": 133.624,
      "eval_steps_per_second": 16.703,
      "step": 3800
    },
    {
      "epoch": 6.341666666666667,
      "grad_norm": 0.0027826749719679356,
      "learning_rate": 0.00011544444444444444,
      "loss": 0.0013,
      "step": 3805
    },
    {
      "epoch": 6.35,
      "grad_norm": 0.002000717446208,
      "learning_rate": 0.00011533333333333334,
      "loss": 0.0007,
      "step": 3810
    },
    {
      "epoch": 6.358333333333333,
      "grad_norm": 0.0020251444075256586,
      "learning_rate": 0.00011522222222222223,
      "loss": 0.0071,
      "step": 3815
    },
    {
      "epoch": 6.366666666666666,
      "grad_norm": 0.0022259976249188185,
      "learning_rate": 0.00011511111111111112,
      "loss": 0.0005,
      "step": 3820
    },
    {
      "epoch": 6.375,
      "grad_norm": 0.007537148892879486,
      "learning_rate": 0.00011499999999999999,
      "loss": 0.0006,
      "step": 3825
    },
    {
      "epoch": 6.383333333333334,
      "grad_norm": 0.0033524460159242153,
      "learning_rate": 0.00011488888888888889,
      "loss": 0.0006,
      "step": 3830
    },
    {
      "epoch": 6.391666666666667,
      "grad_norm": 0.004466146696358919,
      "learning_rate": 0.00011477777777777779,
      "loss": 0.0005,
      "step": 3835
    },
    {
      "epoch": 6.4,
      "grad_norm": 0.0021752887405455112,
      "learning_rate": 0.00011466666666666667,
      "loss": 0.0004,
      "step": 3840
    },
    {
      "epoch": 6.408333333333333,
      "grad_norm": 0.0039328704588115215,
      "learning_rate": 0.00011455555555555557,
      "loss": 0.0188,
      "step": 3845
    },
    {
      "epoch": 6.416666666666667,
      "grad_norm": 0.001654318650253117,
      "learning_rate": 0.00011444444444444444,
      "loss": 0.0004,
      "step": 3850
    },
    {
      "epoch": 6.425,
      "grad_norm": 0.0029013208113610744,
      "learning_rate": 0.00011433333333333334,
      "loss": 0.0006,
      "step": 3855
    },
    {
      "epoch": 6.433333333333334,
      "grad_norm": 0.12504693865776062,
      "learning_rate": 0.00011422222222222224,
      "loss": 0.0005,
      "step": 3860
    },
    {
      "epoch": 6.441666666666666,
      "grad_norm": 0.0015768642770126462,
      "learning_rate": 0.00011411111111111112,
      "loss": 0.0004,
      "step": 3865
    },
    {
      "epoch": 6.45,
      "grad_norm": 0.001969625474885106,
      "learning_rate": 0.00011399999999999999,
      "loss": 0.1022,
      "step": 3870
    },
    {
      "epoch": 6.458333333333333,
      "grad_norm": 0.0019073793664574623,
      "learning_rate": 0.00011388888888888889,
      "loss": 0.0007,
      "step": 3875
    },
    {
      "epoch": 6.466666666666667,
      "grad_norm": 0.0051873126067221165,
      "learning_rate": 0.00011377777777777779,
      "loss": 0.0005,
      "step": 3880
    },
    {
      "epoch": 6.475,
      "grad_norm": 0.003736154641956091,
      "learning_rate": 0.00011366666666666667,
      "loss": 0.001,
      "step": 3885
    },
    {
      "epoch": 6.483333333333333,
      "grad_norm": 0.006075987592339516,
      "learning_rate": 0.00011355555555555557,
      "loss": 0.0009,
      "step": 3890
    },
    {
      "epoch": 6.491666666666666,
      "grad_norm": 0.007382012903690338,
      "learning_rate": 0.00011344444444444444,
      "loss": 0.0009,
      "step": 3895
    },
    {
      "epoch": 6.5,
      "grad_norm": 0.002914606826379895,
      "learning_rate": 0.00011333333333333334,
      "loss": 0.0005,
      "step": 3900
    },
    {
      "epoch": 6.5,
      "eval_accuracy": 0.88625,
      "eval_f1": 0.887680920559507,
      "eval_loss": 0.677900493144989,
      "eval_precision": 0.8969631287845544,
      "eval_recall": 0.88625,
      "eval_runtime": 17.6383,
      "eval_samples_per_second": 136.067,
      "eval_steps_per_second": 17.008,
      "step": 3900
    },
    {
      "epoch": 6.508333333333333,
      "grad_norm": 0.005006021354347467,
      "learning_rate": 0.00011322222222222223,
      "loss": 0.0007,
      "step": 3905
    },
    {
      "epoch": 6.516666666666667,
      "grad_norm": 0.002609898103401065,
      "learning_rate": 0.00011311111111111112,
      "loss": 0.0005,
      "step": 3910
    },
    {
      "epoch": 6.525,
      "grad_norm": 0.0032972253393381834,
      "learning_rate": 0.000113,
      "loss": 0.0006,
      "step": 3915
    },
    {
      "epoch": 6.533333333333333,
      "grad_norm": 0.0017457870999351144,
      "learning_rate": 0.0001128888888888889,
      "loss": 0.0005,
      "step": 3920
    },
    {
      "epoch": 6.541666666666667,
      "grad_norm": 0.0021495262626558542,
      "learning_rate": 0.00011277777777777778,
      "loss": 0.0007,
      "step": 3925
    },
    {
      "epoch": 6.55,
      "grad_norm": 0.0034065977670252323,
      "learning_rate": 0.00011266666666666668,
      "loss": 0.0006,
      "step": 3930
    },
    {
      "epoch": 6.558333333333334,
      "grad_norm": 0.001958308042958379,
      "learning_rate": 0.00011255555555555557,
      "loss": 0.0005,
      "step": 3935
    },
    {
      "epoch": 6.566666666666666,
      "grad_norm": 0.004007254261523485,
      "learning_rate": 0.00011244444444444445,
      "loss": 0.0005,
      "step": 3940
    },
    {
      "epoch": 6.575,
      "grad_norm": 6.189584255218506,
      "learning_rate": 0.00011233333333333333,
      "loss": 0.081,
      "step": 3945
    },
    {
      "epoch": 6.583333333333333,
      "grad_norm": 0.002297882689163089,
      "learning_rate": 0.00011222222222222223,
      "loss": 0.0004,
      "step": 3950
    },
    {
      "epoch": 6.591666666666667,
      "grad_norm": 0.0024510289076715708,
      "learning_rate": 0.00011211111111111113,
      "loss": 0.0005,
      "step": 3955
    },
    {
      "epoch": 6.6,
      "grad_norm": 0.003787066088989377,
      "learning_rate": 0.00011200000000000001,
      "loss": 0.0004,
      "step": 3960
    },
    {
      "epoch": 6.608333333333333,
      "grad_norm": 0.0021600041072815657,
      "learning_rate": 0.00011188888888888888,
      "loss": 0.0005,
      "step": 3965
    },
    {
      "epoch": 6.616666666666667,
      "grad_norm": 0.002123131649568677,
      "learning_rate": 0.00011177777777777778,
      "loss": 0.0511,
      "step": 3970
    },
    {
      "epoch": 6.625,
      "grad_norm": 0.0017918198136612773,
      "learning_rate": 0.00011166666666666668,
      "loss": 0.0006,
      "step": 3975
    },
    {
      "epoch": 6.633333333333333,
      "grad_norm": 0.0017677696887403727,
      "learning_rate": 0.00011155555555555556,
      "loss": 0.0004,
      "step": 3980
    },
    {
      "epoch": 6.641666666666667,
      "grad_norm": 0.004216803703457117,
      "learning_rate": 0.00011144444444444444,
      "loss": 0.0004,
      "step": 3985
    },
    {
      "epoch": 6.65,
      "grad_norm": 0.0025569782592356205,
      "learning_rate": 0.00011133333333333333,
      "loss": 0.0004,
      "step": 3990
    },
    {
      "epoch": 6.658333333333333,
      "grad_norm": 0.0030140315648168325,
      "learning_rate": 0.00011122222222222223,
      "loss": 0.0005,
      "step": 3995
    },
    {
      "epoch": 6.666666666666667,
      "grad_norm": 0.001857127994298935,
      "learning_rate": 0.00011111111111111112,
      "loss": 0.0005,
      "step": 4000
    },
    {
      "epoch": 6.666666666666667,
      "eval_accuracy": 0.8891666666666667,
      "eval_f1": 0.8903144587985433,
      "eval_loss": 0.7109169363975525,
      "eval_precision": 0.9030401695414889,
      "eval_recall": 0.8891666666666667,
      "eval_runtime": 17.9982,
      "eval_samples_per_second": 133.347,
      "eval_steps_per_second": 16.668,
      "step": 4000
    },
    {
      "epoch": 6.675,
      "grad_norm": 0.0015963059850037098,
      "learning_rate": 0.00011100000000000001,
      "loss": 0.0004,
      "step": 4005
    },
    {
      "epoch": 6.683333333333334,
      "grad_norm": 0.0014552235370501876,
      "learning_rate": 0.00011088888888888889,
      "loss": 0.0004,
      "step": 4010
    },
    {
      "epoch": 6.691666666666666,
      "grad_norm": 4.652849197387695,
      "learning_rate": 0.00011077777777777778,
      "loss": 0.03,
      "step": 4015
    },
    {
      "epoch": 6.7,
      "grad_norm": 0.007081941235810518,
      "learning_rate": 0.00011066666666666667,
      "loss": 0.0011,
      "step": 4020
    },
    {
      "epoch": 6.708333333333333,
      "grad_norm": 0.004752547480165958,
      "learning_rate": 0.00011055555555555557,
      "loss": 0.0005,
      "step": 4025
    },
    {
      "epoch": 6.716666666666667,
      "grad_norm": 0.0017495618667453527,
      "learning_rate": 0.00011044444444444444,
      "loss": 0.0014,
      "step": 4030
    },
    {
      "epoch": 6.725,
      "grad_norm": 0.001585668884217739,
      "learning_rate": 0.00011033333333333334,
      "loss": 0.0063,
      "step": 4035
    },
    {
      "epoch": 6.733333333333333,
      "grad_norm": 0.0014280473114922643,
      "learning_rate": 0.00011022222222222222,
      "loss": 0.0003,
      "step": 4040
    },
    {
      "epoch": 6.741666666666667,
      "grad_norm": 0.001857844414189458,
      "learning_rate": 0.00011011111111111112,
      "loss": 0.0004,
      "step": 4045
    },
    {
      "epoch": 6.75,
      "grad_norm": 0.018540307879447937,
      "learning_rate": 0.00011000000000000002,
      "loss": 0.0004,
      "step": 4050
    },
    {
      "epoch": 6.758333333333333,
      "grad_norm": 0.0015795695362612605,
      "learning_rate": 0.00010988888888888889,
      "loss": 0.0004,
      "step": 4055
    },
    {
      "epoch": 6.766666666666667,
      "grad_norm": 0.0021537081338465214,
      "learning_rate": 0.00010977777777777777,
      "loss": 0.0004,
      "step": 4060
    },
    {
      "epoch": 6.775,
      "grad_norm": 0.0015842942520976067,
      "learning_rate": 0.00010966666666666667,
      "loss": 0.0004,
      "step": 4065
    },
    {
      "epoch": 6.783333333333333,
      "grad_norm": 0.0015607716049998999,
      "learning_rate": 0.00010955555555555557,
      "loss": 0.0029,
      "step": 4070
    },
    {
      "epoch": 6.791666666666667,
      "grad_norm": 0.0021270981524139643,
      "learning_rate": 0.00010944444444444445,
      "loss": 0.0003,
      "step": 4075
    },
    {
      "epoch": 6.8,
      "grad_norm": 0.0021719764918088913,
      "learning_rate": 0.00010933333333333333,
      "loss": 0.0005,
      "step": 4080
    },
    {
      "epoch": 6.808333333333334,
      "grad_norm": 0.002089936751872301,
      "learning_rate": 0.00010922222222222222,
      "loss": 0.0004,
      "step": 4085
    },
    {
      "epoch": 6.816666666666666,
      "grad_norm": 0.0015130958054214716,
      "learning_rate": 0.00010911111111111112,
      "loss": 0.0451,
      "step": 4090
    },
    {
      "epoch": 6.825,
      "grad_norm": 0.3682219684123993,
      "learning_rate": 0.000109,
      "loss": 0.0017,
      "step": 4095
    },
    {
      "epoch": 6.833333333333333,
      "grad_norm": 0.0013856925070285797,
      "learning_rate": 0.00010888888888888889,
      "loss": 0.0005,
      "step": 4100
    },
    {
      "epoch": 6.833333333333333,
      "eval_accuracy": 0.8908333333333334,
      "eval_f1": 0.8910856059650877,
      "eval_loss": 0.7191147804260254,
      "eval_precision": 0.9013000939126712,
      "eval_recall": 0.8908333333333334,
      "eval_runtime": 17.5737,
      "eval_samples_per_second": 136.567,
      "eval_steps_per_second": 17.071,
      "step": 4100
    },
    {
      "epoch": 6.841666666666667,
      "grad_norm": 0.00264734192751348,
      "learning_rate": 0.00010877777777777778,
      "loss": 0.0003,
      "step": 4105
    },
    {
      "epoch": 6.85,
      "grad_norm": 0.0013885940425097942,
      "learning_rate": 0.00010866666666666667,
      "loss": 0.0003,
      "step": 4110
    },
    {
      "epoch": 6.858333333333333,
      "grad_norm": 2.302518606185913,
      "learning_rate": 0.00010855555555555557,
      "loss": 0.0974,
      "step": 4115
    },
    {
      "epoch": 6.866666666666667,
      "grad_norm": 0.012984915636479855,
      "learning_rate": 0.00010844444444444446,
      "loss": 0.001,
      "step": 4120
    },
    {
      "epoch": 6.875,
      "grad_norm": 0.002832703059539199,
      "learning_rate": 0.00010833333333333333,
      "loss": 0.0064,
      "step": 4125
    },
    {
      "epoch": 6.883333333333333,
      "grad_norm": 0.0026731824036687613,
      "learning_rate": 0.00010822222222222223,
      "loss": 0.0005,
      "step": 4130
    },
    {
      "epoch": 6.891666666666667,
      "grad_norm": 0.00171130511444062,
      "learning_rate": 0.00010811111111111112,
      "loss": 0.0012,
      "step": 4135
    },
    {
      "epoch": 6.9,
      "grad_norm": 0.001482763676904142,
      "learning_rate": 0.00010800000000000001,
      "loss": 0.0011,
      "step": 4140
    },
    {
      "epoch": 6.908333333333333,
      "grad_norm": 0.004705236293375492,
      "learning_rate": 0.00010788888888888888,
      "loss": 0.0027,
      "step": 4145
    },
    {
      "epoch": 6.916666666666667,
      "grad_norm": 0.0014030507300049067,
      "learning_rate": 0.00010777777777777778,
      "loss": 0.0006,
      "step": 4150
    },
    {
      "epoch": 6.925,
      "grad_norm": 0.004011844750493765,
      "learning_rate": 0.00010766666666666668,
      "loss": 0.0005,
      "step": 4155
    },
    {
      "epoch": 6.933333333333334,
      "grad_norm": 0.017218710854649544,
      "learning_rate": 0.00010757777777777777,
      "loss": 0.0811,
      "step": 4160
    },
    {
      "epoch": 6.941666666666666,
      "grad_norm": 1.8638877868652344,
      "learning_rate": 0.00010746666666666667,
      "loss": 0.1077,
      "step": 4165
    },
    {
      "epoch": 6.95,
      "grad_norm": 0.12551726400852203,
      "learning_rate": 0.00010735555555555557,
      "loss": 0.0935,
      "step": 4170
    },
    {
      "epoch": 6.958333333333333,
      "grad_norm": 0.00303368316963315,
      "learning_rate": 0.00010724444444444446,
      "loss": 0.0005,
      "step": 4175
    },
    {
      "epoch": 6.966666666666667,
      "grad_norm": 7.445676803588867,
      "learning_rate": 0.00010713333333333333,
      "loss": 0.0652,
      "step": 4180
    },
    {
      "epoch": 6.975,
      "grad_norm": 0.005305835977196693,
      "learning_rate": 0.00010702222222222222,
      "loss": 0.0019,
      "step": 4185
    },
    {
      "epoch": 6.983333333333333,
      "grad_norm": 0.012942172586917877,
      "learning_rate": 0.00010691111111111112,
      "loss": 0.0006,
      "step": 4190
    },
    {
      "epoch": 6.991666666666667,
      "grad_norm": 0.0033504976890981197,
      "learning_rate": 0.00010680000000000001,
      "loss": 0.0019,
      "step": 4195
    },
    {
      "epoch": 7.0,
      "grad_norm": 0.00300675630569458,
      "learning_rate": 0.0001066888888888889,
      "loss": 0.0006,
      "step": 4200
    },
    {
      "epoch": 7.0,
      "eval_accuracy": 0.8675,
      "eval_f1": 0.8634552231559953,
      "eval_loss": 0.8572850823402405,
      "eval_precision": 0.8846433853813509,
      "eval_recall": 0.8675,
      "eval_runtime": 17.8703,
      "eval_samples_per_second": 134.301,
      "eval_steps_per_second": 16.788,
      "step": 4200
    },
    {
      "epoch": 7.008333333333334,
      "grad_norm": 0.001872102846391499,
      "learning_rate": 0.00010657777777777778,
      "loss": 0.0922,
      "step": 4205
    },
    {
      "epoch": 7.016666666666667,
      "grad_norm": 0.0019333426607772708,
      "learning_rate": 0.00010646666666666668,
      "loss": 0.0016,
      "step": 4210
    },
    {
      "epoch": 7.025,
      "grad_norm": 3.4976391792297363,
      "learning_rate": 0.00010635555555555556,
      "loss": 0.1673,
      "step": 4215
    },
    {
      "epoch": 7.033333333333333,
      "grad_norm": 0.03397229313850403,
      "learning_rate": 0.00010624444444444446,
      "loss": 0.0006,
      "step": 4220
    },
    {
      "epoch": 7.041666666666667,
      "grad_norm": 0.0030787033028900623,
      "learning_rate": 0.00010613333333333333,
      "loss": 0.0009,
      "step": 4225
    },
    {
      "epoch": 7.05,
      "grad_norm": 0.0017266592476516962,
      "learning_rate": 0.00010602222222222223,
      "loss": 0.0083,
      "step": 4230
    },
    {
      "epoch": 7.058333333333334,
      "grad_norm": 0.16440650820732117,
      "learning_rate": 0.00010591111111111111,
      "loss": 0.0014,
      "step": 4235
    },
    {
      "epoch": 7.066666666666666,
      "grad_norm": 0.031047193333506584,
      "learning_rate": 0.00010580000000000001,
      "loss": 0.0008,
      "step": 4240
    },
    {
      "epoch": 7.075,
      "grad_norm": 0.0025150838773697615,
      "learning_rate": 0.00010568888888888891,
      "loss": 0.0126,
      "step": 4245
    },
    {
      "epoch": 7.083333333333333,
      "grad_norm": 0.0019325135508552194,
      "learning_rate": 0.00010557777777777778,
      "loss": 0.0015,
      "step": 4250
    },
    {
      "epoch": 7.091666666666667,
      "grad_norm": 3.4447216987609863,
      "learning_rate": 0.00010546666666666666,
      "loss": 0.1321,
      "step": 4255
    },
    {
      "epoch": 7.1,
      "grad_norm": 0.0039043042343109846,
      "learning_rate": 0.00010535555555555556,
      "loss": 0.0005,
      "step": 4260
    },
    {
      "epoch": 7.108333333333333,
      "grad_norm": 3.80583119392395,
      "learning_rate": 0.00010524444444444446,
      "loss": 0.0099,
      "step": 4265
    },
    {
      "epoch": 7.116666666666666,
      "grad_norm": 0.0022183824330568314,
      "learning_rate": 0.00010513333333333333,
      "loss": 0.0009,
      "step": 4270
    },
    {
      "epoch": 7.125,
      "grad_norm": 0.025279399007558823,
      "learning_rate": 0.00010502222222222222,
      "loss": 0.0008,
      "step": 4275
    },
    {
      "epoch": 7.133333333333334,
      "grad_norm": 0.002866545459255576,
      "learning_rate": 0.00010491111111111111,
      "loss": 0.0182,
      "step": 4280
    },
    {
      "epoch": 7.141666666666667,
      "grad_norm": 0.011078579351305962,
      "learning_rate": 0.00010480000000000001,
      "loss": 0.0023,
      "step": 4285
    },
    {
      "epoch": 7.15,
      "grad_norm": 0.0036771807353943586,
      "learning_rate": 0.0001046888888888889,
      "loss": 0.0007,
      "step": 4290
    },
    {
      "epoch": 7.158333333333333,
      "grad_norm": 0.032981276512145996,
      "learning_rate": 0.00010457777777777777,
      "loss": 0.1045,
      "step": 4295
    },
    {
      "epoch": 7.166666666666667,
      "grad_norm": 0.005906511098146439,
      "learning_rate": 0.00010446666666666667,
      "loss": 0.064,
      "step": 4300
    },
    {
      "epoch": 7.166666666666667,
      "eval_accuracy": 0.8608333333333333,
      "eval_f1": 0.8602817551681242,
      "eval_loss": 0.9180358052253723,
      "eval_precision": 0.8742762076758769,
      "eval_recall": 0.8608333333333333,
      "eval_runtime": 17.8056,
      "eval_samples_per_second": 134.789,
      "eval_steps_per_second": 16.849,
      "step": 4300
    },
    {
      "epoch": 7.175,
      "grad_norm": 0.03005875274538994,
      "learning_rate": 0.00010435555555555557,
      "loss": 0.1309,
      "step": 4305
    },
    {
      "epoch": 7.183333333333334,
      "grad_norm": 1.8904587030410767,
      "learning_rate": 0.00010424444444444445,
      "loss": 0.0036,
      "step": 4310
    },
    {
      "epoch": 7.191666666666666,
      "grad_norm": 0.002807587618008256,
      "learning_rate": 0.00010413333333333335,
      "loss": 0.0009,
      "step": 4315
    },
    {
      "epoch": 7.2,
      "grad_norm": 0.004454689100384712,
      "learning_rate": 0.00010402222222222222,
      "loss": 0.0231,
      "step": 4320
    },
    {
      "epoch": 7.208333333333333,
      "grad_norm": 0.00804955419152975,
      "learning_rate": 0.00010391111111111112,
      "loss": 0.0009,
      "step": 4325
    },
    {
      "epoch": 7.216666666666667,
      "grad_norm": 0.011561740189790726,
      "learning_rate": 0.0001038,
      "loss": 0.0011,
      "step": 4330
    },
    {
      "epoch": 7.225,
      "grad_norm": 0.00208841054700315,
      "learning_rate": 0.0001036888888888889,
      "loss": 0.0261,
      "step": 4335
    },
    {
      "epoch": 7.233333333333333,
      "grad_norm": 0.02342510223388672,
      "learning_rate": 0.00010357777777777777,
      "loss": 0.0011,
      "step": 4340
    },
    {
      "epoch": 7.241666666666666,
      "grad_norm": 0.004247964825481176,
      "learning_rate": 0.00010346666666666667,
      "loss": 0.0008,
      "step": 4345
    },
    {
      "epoch": 7.25,
      "grad_norm": 0.06160565838217735,
      "learning_rate": 0.00010335555555555555,
      "loss": 0.0018,
      "step": 4350
    },
    {
      "epoch": 7.258333333333334,
      "grad_norm": 0.009931156411767006,
      "learning_rate": 0.00010324444444444445,
      "loss": 0.0694,
      "step": 4355
    },
    {
      "epoch": 7.266666666666667,
      "grad_norm": 0.011976277455687523,
      "learning_rate": 0.00010313333333333335,
      "loss": 0.0284,
      "step": 4360
    },
    {
      "epoch": 7.275,
      "grad_norm": 0.035305630415678024,
      "learning_rate": 0.00010302222222222222,
      "loss": 0.0008,
      "step": 4365
    },
    {
      "epoch": 7.283333333333333,
      "grad_norm": 0.006426774896681309,
      "learning_rate": 0.00010291111111111112,
      "loss": 0.1108,
      "step": 4370
    },
    {
      "epoch": 7.291666666666667,
      "grad_norm": 13.338603973388672,
      "learning_rate": 0.0001028,
      "loss": 0.0853,
      "step": 4375
    },
    {
      "epoch": 7.3,
      "grad_norm": 0.0033709716517478228,
      "learning_rate": 0.0001026888888888889,
      "loss": 0.0012,
      "step": 4380
    },
    {
      "epoch": 7.308333333333334,
      "grad_norm": 0.0050594802014529705,
      "learning_rate": 0.00010257777777777777,
      "loss": 0.0007,
      "step": 4385
    },
    {
      "epoch": 7.316666666666666,
      "grad_norm": 0.007840968668460846,
      "learning_rate": 0.00010246666666666667,
      "loss": 0.0019,
      "step": 4390
    },
    {
      "epoch": 7.325,
      "grad_norm": 0.004523419309407473,
      "learning_rate": 0.00010235555555555556,
      "loss": 0.0007,
      "step": 4395
    },
    {
      "epoch": 7.333333333333333,
      "grad_norm": 0.0023576763924211264,
      "learning_rate": 0.00010224444444444446,
      "loss": 0.0005,
      "step": 4400
    },
    {
      "epoch": 7.333333333333333,
      "eval_accuracy": 0.8766666666666667,
      "eval_f1": 0.876334387424711,
      "eval_loss": 0.7650930881500244,
      "eval_precision": 0.8884679568078566,
      "eval_recall": 0.8766666666666667,
      "eval_runtime": 17.6161,
      "eval_samples_per_second": 136.239,
      "eval_steps_per_second": 17.03,
      "step": 4400
    },
    {
      "epoch": 7.341666666666667,
      "grad_norm": 0.0032953000627458096,
      "learning_rate": 0.00010213333333333335,
      "loss": 0.0037,
      "step": 4405
    },
    {
      "epoch": 7.35,
      "grad_norm": 0.0023809412959963083,
      "learning_rate": 0.00010202222222222222,
      "loss": 0.0005,
      "step": 4410
    },
    {
      "epoch": 7.358333333333333,
      "grad_norm": 0.0035799772012978792,
      "learning_rate": 0.00010191111111111111,
      "loss": 0.0006,
      "step": 4415
    },
    {
      "epoch": 7.366666666666666,
      "grad_norm": 0.006155406590551138,
      "learning_rate": 0.00010180000000000001,
      "loss": 0.0011,
      "step": 4420
    },
    {
      "epoch": 7.375,
      "grad_norm": 0.0018179472535848618,
      "learning_rate": 0.0001016888888888889,
      "loss": 0.0016,
      "step": 4425
    },
    {
      "epoch": 7.383333333333334,
      "grad_norm": 0.003593284636735916,
      "learning_rate": 0.00010157777777777778,
      "loss": 0.0016,
      "step": 4430
    },
    {
      "epoch": 7.391666666666667,
      "grad_norm": 0.0023757279850542545,
      "learning_rate": 0.00010146666666666666,
      "loss": 0.0005,
      "step": 4435
    },
    {
      "epoch": 7.4,
      "grad_norm": 0.0021535351406782866,
      "learning_rate": 0.00010135555555555556,
      "loss": 0.0004,
      "step": 4440
    },
    {
      "epoch": 7.408333333333333,
      "grad_norm": 0.0018348058219999075,
      "learning_rate": 0.00010124444444444446,
      "loss": 0.0005,
      "step": 4445
    },
    {
      "epoch": 7.416666666666667,
      "grad_norm": 0.0016968719428405166,
      "learning_rate": 0.00010113333333333334,
      "loss": 0.0027,
      "step": 4450
    },
    {
      "epoch": 7.425,
      "grad_norm": 0.002038604114204645,
      "learning_rate": 0.00010102222222222221,
      "loss": 0.0005,
      "step": 4455
    },
    {
      "epoch": 7.433333333333334,
      "grad_norm": 0.002401932841166854,
      "learning_rate": 0.00010091111111111111,
      "loss": 0.0005,
      "step": 4460
    },
    {
      "epoch": 7.441666666666666,
      "grad_norm": 0.0027511727530509233,
      "learning_rate": 0.00010080000000000001,
      "loss": 0.0008,
      "step": 4465
    },
    {
      "epoch": 7.45,
      "grad_norm": 0.0019992548041045666,
      "learning_rate": 0.0001006888888888889,
      "loss": 0.0392,
      "step": 4470
    },
    {
      "epoch": 7.458333333333333,
      "grad_norm": 0.0023829143028706312,
      "learning_rate": 0.0001005777777777778,
      "loss": 0.0004,
      "step": 4475
    },
    {
      "epoch": 7.466666666666667,
      "grad_norm": 0.0016873718705028296,
      "learning_rate": 0.00010046666666666666,
      "loss": 0.0004,
      "step": 4480
    },
    {
      "epoch": 7.475,
      "grad_norm": 0.001677104039117694,
      "learning_rate": 0.00010035555555555556,
      "loss": 0.0007,
      "step": 4485
    },
    {
      "epoch": 7.483333333333333,
      "grad_norm": 0.0016911347629502416,
      "learning_rate": 0.00010024444444444445,
      "loss": 0.0004,
      "step": 4490
    },
    {
      "epoch": 7.491666666666666,
      "grad_norm": 0.00178688601590693,
      "learning_rate": 0.00010013333333333335,
      "loss": 0.0004,
      "step": 4495
    },
    {
      "epoch": 7.5,
      "grad_norm": 0.31950849294662476,
      "learning_rate": 0.00010002222222222222,
      "loss": 0.0007,
      "step": 4500
    },
    {
      "epoch": 7.5,
      "eval_accuracy": 0.8570833333333333,
      "eval_f1": 0.8569494632032394,
      "eval_loss": 0.8157705664634705,
      "eval_precision": 0.8702882990244503,
      "eval_recall": 0.8570833333333333,
      "eval_runtime": 17.4348,
      "eval_samples_per_second": 137.656,
      "eval_steps_per_second": 17.207,
      "step": 4500
    },
    {
      "epoch": 7.508333333333333,
      "grad_norm": 0.0013031589332967997,
      "learning_rate": 9.991111111111112e-05,
      "loss": 0.0237,
      "step": 4505
    },
    {
      "epoch": 7.516666666666667,
      "grad_norm": 7.622598648071289,
      "learning_rate": 9.98e-05,
      "loss": 0.0073,
      "step": 4510
    },
    {
      "epoch": 7.525,
      "grad_norm": 0.0018956756684929132,
      "learning_rate": 9.96888888888889e-05,
      "loss": 0.0004,
      "step": 4515
    },
    {
      "epoch": 7.533333333333333,
      "grad_norm": 0.001703087124042213,
      "learning_rate": 9.957777777777778e-05,
      "loss": 0.0004,
      "step": 4520
    },
    {
      "epoch": 7.541666666666667,
      "grad_norm": 0.0015113058034330606,
      "learning_rate": 9.94888888888889e-05,
      "loss": 0.0212,
      "step": 4525
    },
    {
      "epoch": 7.55,
      "grad_norm": 0.0022206841967999935,
      "learning_rate": 9.937777777777778e-05,
      "loss": 0.1159,
      "step": 4530
    },
    {
      "epoch": 7.558333333333334,
      "grad_norm": 0.0072467997670173645,
      "learning_rate": 9.926666666666668e-05,
      "loss": 0.0014,
      "step": 4535
    },
    {
      "epoch": 7.566666666666666,
      "grad_norm": 0.2828713357448578,
      "learning_rate": 9.915555555555556e-05,
      "loss": 0.0024,
      "step": 4540
    },
    {
      "epoch": 7.575,
      "grad_norm": 0.021632516756653786,
      "learning_rate": 9.904444444444445e-05,
      "loss": 0.0019,
      "step": 4545
    },
    {
      "epoch": 7.583333333333333,
      "grad_norm": 0.030635377392172813,
      "learning_rate": 9.893333333333333e-05,
      "loss": 0.0014,
      "step": 4550
    },
    {
      "epoch": 7.591666666666667,
      "grad_norm": 0.022421959787607193,
      "learning_rate": 9.882222222222223e-05,
      "loss": 0.0015,
      "step": 4555
    },
    {
      "epoch": 7.6,
      "grad_norm": 0.0028858650475740433,
      "learning_rate": 9.871111111111113e-05,
      "loss": 0.0004,
      "step": 4560
    },
    {
      "epoch": 7.608333333333333,
      "grad_norm": 0.0035289034713059664,
      "learning_rate": 9.86e-05,
      "loss": 0.0004,
      "step": 4565
    },
    {
      "epoch": 7.616666666666667,
      "grad_norm": 0.0017709039384499192,
      "learning_rate": 9.84888888888889e-05,
      "loss": 0.0004,
      "step": 4570
    },
    {
      "epoch": 7.625,
      "grad_norm": 0.0017233736580237746,
      "learning_rate": 9.837777777777778e-05,
      "loss": 0.0004,
      "step": 4575
    },
    {
      "epoch": 7.633333333333333,
      "grad_norm": 0.011356516741216183,
      "learning_rate": 9.826666666666668e-05,
      "loss": 0.0004,
      "step": 4580
    },
    {
      "epoch": 7.641666666666667,
      "grad_norm": 0.0015865819295868278,
      "learning_rate": 9.815555555555555e-05,
      "loss": 0.0004,
      "step": 4585
    },
    {
      "epoch": 7.65,
      "grad_norm": 0.0019711442291736603,
      "learning_rate": 9.804444444444445e-05,
      "loss": 0.0006,
      "step": 4590
    },
    {
      "epoch": 7.658333333333333,
      "grad_norm": 0.0023874149192124605,
      "learning_rate": 9.793333333333333e-05,
      "loss": 0.0003,
      "step": 4595
    },
    {
      "epoch": 7.666666666666667,
      "grad_norm": 0.005106983240693808,
      "learning_rate": 9.782222222222223e-05,
      "loss": 0.0004,
      "step": 4600
    },
    {
      "epoch": 7.666666666666667,
      "eval_accuracy": 0.8504166666666667,
      "eval_f1": 0.8517010923449378,
      "eval_loss": 0.8328909277915955,
      "eval_precision": 0.8708783657002872,
      "eval_recall": 0.8504166666666667,
      "eval_runtime": 17.8974,
      "eval_samples_per_second": 134.098,
      "eval_steps_per_second": 16.762,
      "step": 4600
    },
    {
      "epoch": 7.675,
      "grad_norm": 0.0020999081898480654,
      "learning_rate": 9.771111111111112e-05,
      "loss": 0.0004,
      "step": 4605
    },
    {
      "epoch": 7.683333333333334,
      "grad_norm": 0.04411549121141434,
      "learning_rate": 9.76e-05,
      "loss": 0.001,
      "step": 4610
    },
    {
      "epoch": 7.691666666666666,
      "grad_norm": 0.004576282110065222,
      "learning_rate": 9.74888888888889e-05,
      "loss": 0.0003,
      "step": 4615
    },
    {
      "epoch": 7.7,
      "grad_norm": 0.0018562593031674623,
      "learning_rate": 9.737777777777778e-05,
      "loss": 0.0007,
      "step": 4620
    },
    {
      "epoch": 7.708333333333333,
      "grad_norm": 0.0016532030422240496,
      "learning_rate": 9.726666666666667e-05,
      "loss": 0.0004,
      "step": 4625
    },
    {
      "epoch": 7.716666666666667,
      "grad_norm": 0.0014369841665029526,
      "learning_rate": 9.715555555555555e-05,
      "loss": 0.0003,
      "step": 4630
    },
    {
      "epoch": 7.725,
      "grad_norm": 0.0014892934123054147,
      "learning_rate": 9.704444444444445e-05,
      "loss": 0.0004,
      "step": 4635
    },
    {
      "epoch": 7.733333333333333,
      "grad_norm": 0.0018167197704315186,
      "learning_rate": 9.693333333333335e-05,
      "loss": 0.0003,
      "step": 4640
    },
    {
      "epoch": 7.741666666666667,
      "grad_norm": 0.0015318125952035189,
      "learning_rate": 9.682222222222222e-05,
      "loss": 0.0003,
      "step": 4645
    },
    {
      "epoch": 7.75,
      "grad_norm": 0.0013449795078486204,
      "learning_rate": 9.671111111111112e-05,
      "loss": 0.0003,
      "step": 4650
    },
    {
      "epoch": 7.758333333333333,
      "grad_norm": 0.004665527027100325,
      "learning_rate": 9.66e-05,
      "loss": 0.0004,
      "step": 4655
    },
    {
      "epoch": 7.766666666666667,
      "grad_norm": 0.0013909881236031651,
      "learning_rate": 9.64888888888889e-05,
      "loss": 0.0003,
      "step": 4660
    },
    {
      "epoch": 7.775,
      "grad_norm": 0.003060440067201853,
      "learning_rate": 9.637777777777777e-05,
      "loss": 0.0004,
      "step": 4665
    },
    {
      "epoch": 7.783333333333333,
      "grad_norm": 0.0013534630415961146,
      "learning_rate": 9.626666666666667e-05,
      "loss": 0.0003,
      "step": 4670
    },
    {
      "epoch": 7.791666666666667,
      "grad_norm": 0.0013337901327759027,
      "learning_rate": 9.615555555555557e-05,
      "loss": 0.0003,
      "step": 4675
    },
    {
      "epoch": 7.8,
      "grad_norm": 0.0016765191685408354,
      "learning_rate": 9.604444444444445e-05,
      "loss": 0.0003,
      "step": 4680
    },
    {
      "epoch": 7.808333333333334,
      "grad_norm": 0.016086332499980927,
      "learning_rate": 9.593333333333334e-05,
      "loss": 0.0004,
      "step": 4685
    },
    {
      "epoch": 7.816666666666666,
      "grad_norm": 0.0012272667372599244,
      "learning_rate": 9.582222222222222e-05,
      "loss": 0.0003,
      "step": 4690
    },
    {
      "epoch": 7.825,
      "grad_norm": 0.013386140577495098,
      "learning_rate": 9.571111111111112e-05,
      "loss": 0.0003,
      "step": 4695
    },
    {
      "epoch": 7.833333333333333,
      "grad_norm": 0.003228516085073352,
      "learning_rate": 9.56e-05,
      "loss": 0.0003,
      "step": 4700
    },
    {
      "epoch": 7.833333333333333,
      "eval_accuracy": 0.8454166666666667,
      "eval_f1": 0.8446089111908549,
      "eval_loss": 0.9077838063240051,
      "eval_precision": 0.860496804305692,
      "eval_recall": 0.8454166666666667,
      "eval_runtime": 17.8507,
      "eval_samples_per_second": 134.449,
      "eval_steps_per_second": 16.806,
      "step": 4700
    },
    {
      "epoch": 7.841666666666667,
      "grad_norm": 0.0013362496392801404,
      "learning_rate": 9.548888888888889e-05,
      "loss": 0.0003,
      "step": 4705
    },
    {
      "epoch": 7.85,
      "grad_norm": 0.0013151665916666389,
      "learning_rate": 9.537777777777778e-05,
      "loss": 0.0003,
      "step": 4710
    },
    {
      "epoch": 7.858333333333333,
      "grad_norm": 0.008522583171725273,
      "learning_rate": 9.526666666666667e-05,
      "loss": 0.0003,
      "step": 4715
    },
    {
      "epoch": 7.866666666666667,
      "grad_norm": 0.0024109911173582077,
      "learning_rate": 9.515555555555556e-05,
      "loss": 0.0003,
      "step": 4720
    },
    {
      "epoch": 7.875,
      "grad_norm": 0.001079835114069283,
      "learning_rate": 9.504444444444444e-05,
      "loss": 0.0003,
      "step": 4725
    },
    {
      "epoch": 7.883333333333333,
      "grad_norm": 0.0028729771729558706,
      "learning_rate": 9.493333333333334e-05,
      "loss": 0.0003,
      "step": 4730
    },
    {
      "epoch": 7.891666666666667,
      "grad_norm": 0.0014013086911290884,
      "learning_rate": 9.482222222222223e-05,
      "loss": 0.0003,
      "step": 4735
    },
    {
      "epoch": 7.9,
      "grad_norm": 0.0011888521257787943,
      "learning_rate": 9.471111111111111e-05,
      "loss": 0.0003,
      "step": 4740
    },
    {
      "epoch": 7.908333333333333,
      "grad_norm": 0.9168736934661865,
      "learning_rate": 9.46e-05,
      "loss": 0.0022,
      "step": 4745
    },
    {
      "epoch": 7.916666666666667,
      "grad_norm": 0.0020458372309803963,
      "learning_rate": 9.44888888888889e-05,
      "loss": 0.0003,
      "step": 4750
    },
    {
      "epoch": 7.925,
      "grad_norm": 0.0011045648716390133,
      "learning_rate": 9.437777777777779e-05,
      "loss": 0.0003,
      "step": 4755
    },
    {
      "epoch": 7.933333333333334,
      "grad_norm": 0.0013099927455186844,
      "learning_rate": 9.426666666666666e-05,
      "loss": 0.0003,
      "step": 4760
    },
    {
      "epoch": 7.941666666666666,
      "grad_norm": 0.001339830458164215,
      "learning_rate": 9.415555555555556e-05,
      "loss": 0.0824,
      "step": 4765
    },
    {
      "epoch": 7.95,
      "grad_norm": 0.0013667815364897251,
      "learning_rate": 9.404444444444445e-05,
      "loss": 0.0003,
      "step": 4770
    },
    {
      "epoch": 7.958333333333333,
      "grad_norm": 0.010506984777748585,
      "learning_rate": 9.393333333333334e-05,
      "loss": 0.0003,
      "step": 4775
    },
    {
      "epoch": 7.966666666666667,
      "grad_norm": 0.00126397714484483,
      "learning_rate": 9.382222222222223e-05,
      "loss": 0.0003,
      "step": 4780
    },
    {
      "epoch": 7.975,
      "grad_norm": 0.01096300594508648,
      "learning_rate": 9.371111111111111e-05,
      "loss": 0.0003,
      "step": 4785
    },
    {
      "epoch": 7.983333333333333,
      "grad_norm": 0.0015251425793394446,
      "learning_rate": 9.360000000000001e-05,
      "loss": 0.0003,
      "step": 4790
    },
    {
      "epoch": 7.991666666666667,
      "grad_norm": 0.00494209723547101,
      "learning_rate": 9.34888888888889e-05,
      "loss": 0.0003,
      "step": 4795
    },
    {
      "epoch": 8.0,
      "grad_norm": 0.001162649830803275,
      "learning_rate": 9.337777777777778e-05,
      "loss": 0.0003,
      "step": 4800
    },
    {
      "epoch": 8.0,
      "eval_accuracy": 0.8529166666666667,
      "eval_f1": 0.8537630366991478,
      "eval_loss": 0.8859494924545288,
      "eval_precision": 0.8684256803794218,
      "eval_recall": 0.8529166666666667,
      "eval_runtime": 17.992,
      "eval_samples_per_second": 133.393,
      "eval_steps_per_second": 16.674,
      "step": 4800
    },
    {
      "epoch": 8.008333333333333,
      "grad_norm": 0.001297607901506126,
      "learning_rate": 9.326666666666667e-05,
      "loss": 0.0003,
      "step": 4805
    },
    {
      "epoch": 8.016666666666667,
      "grad_norm": 0.06664685159921646,
      "learning_rate": 9.315555555555556e-05,
      "loss": 0.0004,
      "step": 4810
    },
    {
      "epoch": 8.025,
      "grad_norm": 0.001477699726819992,
      "learning_rate": 9.304444444444445e-05,
      "loss": 0.0003,
      "step": 4815
    },
    {
      "epoch": 8.033333333333333,
      "grad_norm": 0.0012760881800204515,
      "learning_rate": 9.293333333333333e-05,
      "loss": 0.0003,
      "step": 4820
    },
    {
      "epoch": 8.041666666666666,
      "grad_norm": 0.001282070646993816,
      "learning_rate": 9.282222222222222e-05,
      "loss": 0.0003,
      "step": 4825
    },
    {
      "epoch": 8.05,
      "grad_norm": 0.0016295078676193953,
      "learning_rate": 9.271111111111112e-05,
      "loss": 0.0004,
      "step": 4830
    },
    {
      "epoch": 8.058333333333334,
      "grad_norm": 0.0011541735148057342,
      "learning_rate": 9.260000000000001e-05,
      "loss": 0.0003,
      "step": 4835
    },
    {
      "epoch": 8.066666666666666,
      "grad_norm": 0.0011969672050327063,
      "learning_rate": 9.248888888888889e-05,
      "loss": 0.0003,
      "step": 4840
    },
    {
      "epoch": 8.075,
      "grad_norm": 0.0015183680225163698,
      "learning_rate": 9.237777777777778e-05,
      "loss": 0.0003,
      "step": 4845
    },
    {
      "epoch": 8.083333333333334,
      "grad_norm": 0.0012419737176969647,
      "learning_rate": 9.226666666666667e-05,
      "loss": 0.0003,
      "step": 4850
    },
    {
      "epoch": 8.091666666666667,
      "grad_norm": 0.001174188102595508,
      "learning_rate": 9.215555555555557e-05,
      "loss": 0.0003,
      "step": 4855
    },
    {
      "epoch": 8.1,
      "grad_norm": 0.0012216637842357159,
      "learning_rate": 9.204444444444444e-05,
      "loss": 0.0003,
      "step": 4860
    },
    {
      "epoch": 8.108333333333333,
      "grad_norm": 0.004191269166767597,
      "learning_rate": 9.193333333333334e-05,
      "loss": 0.0003,
      "step": 4865
    },
    {
      "epoch": 8.116666666666667,
      "grad_norm": 0.0011422616662457585,
      "learning_rate": 9.182222222222223e-05,
      "loss": 0.0003,
      "step": 4870
    },
    {
      "epoch": 8.125,
      "grad_norm": 0.001069438410922885,
      "learning_rate": 9.171111111111112e-05,
      "loss": 0.0003,
      "step": 4875
    },
    {
      "epoch": 8.133333333333333,
      "grad_norm": 0.0011419167276471853,
      "learning_rate": 9.16e-05,
      "loss": 0.0003,
      "step": 4880
    },
    {
      "epoch": 8.141666666666667,
      "grad_norm": 0.0011525445152074099,
      "learning_rate": 9.148888888888889e-05,
      "loss": 0.0003,
      "step": 4885
    },
    {
      "epoch": 8.15,
      "grad_norm": 0.0012822315329685807,
      "learning_rate": 9.137777777777779e-05,
      "loss": 0.0002,
      "step": 4890
    },
    {
      "epoch": 8.158333333333333,
      "grad_norm": 0.001296607661060989,
      "learning_rate": 9.126666666666667e-05,
      "loss": 0.0003,
      "step": 4895
    },
    {
      "epoch": 8.166666666666666,
      "grad_norm": 0.0011342760408297181,
      "learning_rate": 9.115555555555556e-05,
      "loss": 0.0003,
      "step": 4900
    },
    {
      "epoch": 8.166666666666666,
      "eval_accuracy": 0.8479166666666667,
      "eval_f1": 0.8491055470920763,
      "eval_loss": 0.9302530884742737,
      "eval_precision": 0.866948845458872,
      "eval_recall": 0.8479166666666667,
      "eval_runtime": 17.7286,
      "eval_samples_per_second": 135.375,
      "eval_steps_per_second": 16.922,
      "step": 4900
    },
    {
      "epoch": 8.175,
      "grad_norm": 0.0012127027148380876,
      "learning_rate": 9.104444444444444e-05,
      "loss": 0.0003,
      "step": 4905
    },
    {
      "epoch": 8.183333333333334,
      "grad_norm": 0.0010252180509269238,
      "learning_rate": 9.093333333333334e-05,
      "loss": 0.0003,
      "step": 4910
    },
    {
      "epoch": 8.191666666666666,
      "grad_norm": 0.0021335419733077288,
      "learning_rate": 9.082222222222224e-05,
      "loss": 0.0003,
      "step": 4915
    },
    {
      "epoch": 8.2,
      "grad_norm": 0.0010765870101749897,
      "learning_rate": 9.071111111111111e-05,
      "loss": 0.0003,
      "step": 4920
    },
    {
      "epoch": 8.208333333333334,
      "grad_norm": 0.00101432204246521,
      "learning_rate": 9.06e-05,
      "loss": 0.0002,
      "step": 4925
    },
    {
      "epoch": 8.216666666666667,
      "grad_norm": 0.00101744185667485,
      "learning_rate": 9.048888888888889e-05,
      "loss": 0.0002,
      "step": 4930
    },
    {
      "epoch": 8.225,
      "grad_norm": 0.0011877423385158181,
      "learning_rate": 9.037777777777779e-05,
      "loss": 0.0003,
      "step": 4935
    },
    {
      "epoch": 8.233333333333333,
      "grad_norm": 0.0011153037194162607,
      "learning_rate": 9.026666666666666e-05,
      "loss": 0.0002,
      "step": 4940
    },
    {
      "epoch": 8.241666666666667,
      "grad_norm": 0.0009225099929608405,
      "learning_rate": 9.015555555555556e-05,
      "loss": 0.0002,
      "step": 4945
    },
    {
      "epoch": 8.25,
      "grad_norm": 0.0012204222148284316,
      "learning_rate": 9.004444444444446e-05,
      "loss": 0.0003,
      "step": 4950
    },
    {
      "epoch": 8.258333333333333,
      "grad_norm": 0.0009675981709733605,
      "learning_rate": 8.993333333333334e-05,
      "loss": 0.0003,
      "step": 4955
    },
    {
      "epoch": 8.266666666666667,
      "grad_norm": 0.002452743472531438,
      "learning_rate": 8.982222222222223e-05,
      "loss": 0.0003,
      "step": 4960
    },
    {
      "epoch": 8.275,
      "grad_norm": 0.000977073679678142,
      "learning_rate": 8.971111111111111e-05,
      "loss": 0.0003,
      "step": 4965
    },
    {
      "epoch": 8.283333333333333,
      "grad_norm": 0.2070561945438385,
      "learning_rate": 8.960000000000001e-05,
      "loss": 0.0005,
      "step": 4970
    },
    {
      "epoch": 8.291666666666666,
      "grad_norm": 0.0011603733291849494,
      "learning_rate": 8.94888888888889e-05,
      "loss": 0.0002,
      "step": 4975
    },
    {
      "epoch": 8.3,
      "grad_norm": 0.001174473320133984,
      "learning_rate": 8.937777777777778e-05,
      "loss": 0.0003,
      "step": 4980
    },
    {
      "epoch": 8.308333333333334,
      "grad_norm": 0.0010505870450288057,
      "learning_rate": 8.926666666666668e-05,
      "loss": 0.0002,
      "step": 4985
    },
    {
      "epoch": 8.316666666666666,
      "grad_norm": 0.0010044332593679428,
      "learning_rate": 8.915555555555556e-05,
      "loss": 0.0002,
      "step": 4990
    },
    {
      "epoch": 8.325,
      "grad_norm": 0.0010988047579303384,
      "learning_rate": 8.904444444444445e-05,
      "loss": 0.0002,
      "step": 4995
    },
    {
      "epoch": 8.333333333333334,
      "grad_norm": 0.0010180884273722768,
      "learning_rate": 8.893333333333333e-05,
      "loss": 0.0002,
      "step": 5000
    },
    {
      "epoch": 8.333333333333334,
      "eval_accuracy": 0.8475,
      "eval_f1": 0.8483309102094442,
      "eval_loss": 0.9324232935905457,
      "eval_precision": 0.8675764531015357,
      "eval_recall": 0.8475,
      "eval_runtime": 17.7552,
      "eval_samples_per_second": 135.172,
      "eval_steps_per_second": 16.896,
      "step": 5000
    },
    {
      "epoch": 8.341666666666667,
      "grad_norm": 0.0010718151461333036,
      "learning_rate": 8.882222222222223e-05,
      "loss": 0.0002,
      "step": 5005
    },
    {
      "epoch": 8.35,
      "grad_norm": 0.0009335693903267384,
      "learning_rate": 8.871111111111111e-05,
      "loss": 0.0002,
      "step": 5010
    },
    {
      "epoch": 8.358333333333333,
      "grad_norm": 0.0013561573578044772,
      "learning_rate": 8.86e-05,
      "loss": 0.0002,
      "step": 5015
    },
    {
      "epoch": 8.366666666666667,
      "grad_norm": 0.0009395399829372764,
      "learning_rate": 8.848888888888888e-05,
      "loss": 0.0004,
      "step": 5020
    },
    {
      "epoch": 8.375,
      "grad_norm": 0.001285072066821158,
      "learning_rate": 8.837777777777778e-05,
      "loss": 0.0002,
      "step": 5025
    },
    {
      "epoch": 8.383333333333333,
      "grad_norm": 0.0011300599435344338,
      "learning_rate": 8.826666666666668e-05,
      "loss": 0.0003,
      "step": 5030
    },
    {
      "epoch": 8.391666666666667,
      "grad_norm": 0.001103556132875383,
      "learning_rate": 8.815555555555556e-05,
      "loss": 0.0002,
      "step": 5035
    },
    {
      "epoch": 8.4,
      "grad_norm": 0.0008615066180936992,
      "learning_rate": 8.804444444444445e-05,
      "loss": 0.0002,
      "step": 5040
    },
    {
      "epoch": 8.408333333333333,
      "grad_norm": 0.0008903077687136829,
      "learning_rate": 8.793333333333333e-05,
      "loss": 0.0002,
      "step": 5045
    },
    {
      "epoch": 8.416666666666666,
      "grad_norm": 0.0010764147154986858,
      "learning_rate": 8.782222222222223e-05,
      "loss": 0.0002,
      "step": 5050
    },
    {
      "epoch": 8.425,
      "grad_norm": 0.0010327142663300037,
      "learning_rate": 8.771111111111112e-05,
      "loss": 0.0002,
      "step": 5055
    },
    {
      "epoch": 8.433333333333334,
      "grad_norm": 0.0009678674978204072,
      "learning_rate": 8.76e-05,
      "loss": 0.0002,
      "step": 5060
    },
    {
      "epoch": 8.441666666666666,
      "grad_norm": 0.0010621880646795034,
      "learning_rate": 8.74888888888889e-05,
      "loss": 0.0002,
      "step": 5065
    },
    {
      "epoch": 8.45,
      "grad_norm": 0.0010617547668516636,
      "learning_rate": 8.737777777777778e-05,
      "loss": 0.0002,
      "step": 5070
    },
    {
      "epoch": 8.458333333333334,
      "grad_norm": 0.0009842420695349574,
      "learning_rate": 8.726666666666667e-05,
      "loss": 0.0002,
      "step": 5075
    },
    {
      "epoch": 8.466666666666667,
      "grad_norm": 0.001750033930875361,
      "learning_rate": 8.715555555555555e-05,
      "loss": 0.0002,
      "step": 5080
    },
    {
      "epoch": 8.475,
      "grad_norm": 0.0009820456616580486,
      "learning_rate": 8.704444444444445e-05,
      "loss": 0.0002,
      "step": 5085
    },
    {
      "epoch": 8.483333333333333,
      "grad_norm": 0.001024408615194261,
      "learning_rate": 8.693333333333334e-05,
      "loss": 0.0004,
      "step": 5090
    },
    {
      "epoch": 8.491666666666667,
      "grad_norm": 0.0008960573468357325,
      "learning_rate": 8.682222222222222e-05,
      "loss": 0.0002,
      "step": 5095
    },
    {
      "epoch": 8.5,
      "grad_norm": 0.000853886129334569,
      "learning_rate": 8.671111111111112e-05,
      "loss": 0.0002,
      "step": 5100
    },
    {
      "epoch": 8.5,
      "eval_accuracy": 0.8533333333333334,
      "eval_f1": 0.8543826043043716,
      "eval_loss": 0.9206276535987854,
      "eval_precision": 0.873321263827393,
      "eval_recall": 0.8533333333333334,
      "eval_runtime": 17.9314,
      "eval_samples_per_second": 133.844,
      "eval_steps_per_second": 16.73,
      "step": 5100
    },
    {
      "epoch": 8.508333333333333,
      "grad_norm": 0.0010315602412447333,
      "learning_rate": 8.66e-05,
      "loss": 0.0002,
      "step": 5105
    },
    {
      "epoch": 8.516666666666667,
      "grad_norm": 0.0008879353408701718,
      "learning_rate": 8.64888888888889e-05,
      "loss": 0.0002,
      "step": 5110
    },
    {
      "epoch": 8.525,
      "grad_norm": 0.000903288193512708,
      "learning_rate": 8.637777777777777e-05,
      "loss": 0.0003,
      "step": 5115
    },
    {
      "epoch": 8.533333333333333,
      "grad_norm": 0.0009785142028704286,
      "learning_rate": 8.626666666666667e-05,
      "loss": 0.0002,
      "step": 5120
    },
    {
      "epoch": 8.541666666666666,
      "grad_norm": 0.001157713937573135,
      "learning_rate": 8.615555555555556e-05,
      "loss": 0.0002,
      "step": 5125
    },
    {
      "epoch": 8.55,
      "grad_norm": 0.0010983831016346812,
      "learning_rate": 8.604444444444445e-05,
      "loss": 0.0002,
      "step": 5130
    },
    {
      "epoch": 8.558333333333334,
      "grad_norm": 0.0011577247641980648,
      "learning_rate": 8.593333333333333e-05,
      "loss": 0.0002,
      "step": 5135
    },
    {
      "epoch": 8.566666666666666,
      "grad_norm": 0.000983387348242104,
      "learning_rate": 8.582222222222222e-05,
      "loss": 0.0002,
      "step": 5140
    },
    {
      "epoch": 8.575,
      "grad_norm": 0.0008838397334329784,
      "learning_rate": 8.571111111111112e-05,
      "loss": 0.0002,
      "step": 5145
    },
    {
      "epoch": 8.583333333333334,
      "grad_norm": 0.19661791622638702,
      "learning_rate": 8.560000000000001e-05,
      "loss": 0.0004,
      "step": 5150
    },
    {
      "epoch": 8.591666666666667,
      "grad_norm": 0.000897708348929882,
      "learning_rate": 8.548888888888889e-05,
      "loss": 0.0002,
      "step": 5155
    },
    {
      "epoch": 8.6,
      "grad_norm": 0.0009713134495541453,
      "learning_rate": 8.537777777777778e-05,
      "loss": 0.0002,
      "step": 5160
    },
    {
      "epoch": 8.608333333333333,
      "grad_norm": 0.0009074251283891499,
      "learning_rate": 8.526666666666667e-05,
      "loss": 0.0002,
      "step": 5165
    },
    {
      "epoch": 8.616666666666667,
      "grad_norm": 0.0008851289167068899,
      "learning_rate": 8.515555555555556e-05,
      "loss": 0.0002,
      "step": 5170
    },
    {
      "epoch": 8.625,
      "grad_norm": 0.0008061833214014769,
      "learning_rate": 8.504444444444444e-05,
      "loss": 0.0002,
      "step": 5175
    },
    {
      "epoch": 8.633333333333333,
      "grad_norm": 0.0009142612689174712,
      "learning_rate": 8.493333333333334e-05,
      "loss": 0.0002,
      "step": 5180
    },
    {
      "epoch": 8.641666666666667,
      "grad_norm": 0.0009267337154597044,
      "learning_rate": 8.482222222222223e-05,
      "loss": 0.0002,
      "step": 5185
    },
    {
      "epoch": 8.65,
      "grad_norm": 0.0007860268233343959,
      "learning_rate": 8.471111111111113e-05,
      "loss": 0.0002,
      "step": 5190
    },
    {
      "epoch": 8.658333333333333,
      "grad_norm": 0.0009737007203511894,
      "learning_rate": 8.46e-05,
      "loss": 0.0002,
      "step": 5195
    },
    {
      "epoch": 8.666666666666666,
      "grad_norm": 0.0008524195873178542,
      "learning_rate": 8.44888888888889e-05,
      "loss": 0.0002,
      "step": 5200
    },
    {
      "epoch": 8.666666666666666,
      "eval_accuracy": 0.8620833333333333,
      "eval_f1": 0.8630005480037821,
      "eval_loss": 0.8745471239089966,
      "eval_precision": 0.881293749823802,
      "eval_recall": 0.8620833333333333,
      "eval_runtime": 17.5111,
      "eval_samples_per_second": 137.056,
      "eval_steps_per_second": 17.132,
      "step": 5200
    },
    {
      "epoch": 8.675,
      "grad_norm": 0.000863404362462461,
      "learning_rate": 8.437777777777778e-05,
      "loss": 0.0002,
      "step": 5205
    },
    {
      "epoch": 8.683333333333334,
      "grad_norm": 0.0008700790349394083,
      "learning_rate": 8.426666666666668e-05,
      "loss": 0.0002,
      "step": 5210
    },
    {
      "epoch": 8.691666666666666,
      "grad_norm": 0.0008448922890238464,
      "learning_rate": 8.415555555555555e-05,
      "loss": 0.0002,
      "step": 5215
    },
    {
      "epoch": 8.7,
      "grad_norm": 0.0008744701044633985,
      "learning_rate": 8.404444444444445e-05,
      "loss": 0.0002,
      "step": 5220
    },
    {
      "epoch": 8.708333333333334,
      "grad_norm": 0.0007712200749665499,
      "learning_rate": 8.393333333333335e-05,
      "loss": 0.0002,
      "step": 5225
    },
    {
      "epoch": 8.716666666666667,
      "grad_norm": 0.0007872559945099056,
      "learning_rate": 8.382222222222223e-05,
      "loss": 0.0002,
      "step": 5230
    },
    {
      "epoch": 8.725,
      "grad_norm": 0.0009845792083069682,
      "learning_rate": 8.371111111111111e-05,
      "loss": 0.0002,
      "step": 5235
    },
    {
      "epoch": 8.733333333333333,
      "grad_norm": 0.0007937625050544739,
      "learning_rate": 8.36e-05,
      "loss": 0.0002,
      "step": 5240
    },
    {
      "epoch": 8.741666666666667,
      "grad_norm": 0.0008785384125076234,
      "learning_rate": 8.34888888888889e-05,
      "loss": 0.0002,
      "step": 5245
    },
    {
      "epoch": 8.75,
      "grad_norm": 0.0011185506591573358,
      "learning_rate": 8.337777777777778e-05,
      "loss": 0.0003,
      "step": 5250
    },
    {
      "epoch": 8.758333333333333,
      "grad_norm": 0.0008613589452579618,
      "learning_rate": 8.326666666666667e-05,
      "loss": 0.0002,
      "step": 5255
    },
    {
      "epoch": 8.766666666666667,
      "grad_norm": 0.0009293723851442337,
      "learning_rate": 8.315555555555557e-05,
      "loss": 0.0002,
      "step": 5260
    },
    {
      "epoch": 8.775,
      "grad_norm": 0.0008605967741459608,
      "learning_rate": 8.304444444444445e-05,
      "loss": 0.0002,
      "step": 5265
    },
    {
      "epoch": 8.783333333333333,
      "grad_norm": 0.000903976324480027,
      "learning_rate": 8.293333333333333e-05,
      "loss": 0.0002,
      "step": 5270
    },
    {
      "epoch": 8.791666666666666,
      "grad_norm": 0.0009276269120164216,
      "learning_rate": 8.282222222222222e-05,
      "loss": 0.0002,
      "step": 5275
    },
    {
      "epoch": 8.8,
      "grad_norm": 0.0008367274422198534,
      "learning_rate": 8.271111111111112e-05,
      "loss": 0.0002,
      "step": 5280
    },
    {
      "epoch": 8.808333333333334,
      "grad_norm": 0.0008433223119936883,
      "learning_rate": 8.26e-05,
      "loss": 0.0002,
      "step": 5285
    },
    {
      "epoch": 8.816666666666666,
      "grad_norm": 0.0008212274988181889,
      "learning_rate": 8.248888888888889e-05,
      "loss": 0.0002,
      "step": 5290
    },
    {
      "epoch": 8.825,
      "grad_norm": 0.0009094767738133669,
      "learning_rate": 8.237777777777778e-05,
      "loss": 0.0002,
      "step": 5295
    },
    {
      "epoch": 8.833333333333334,
      "grad_norm": 0.0010882619535550475,
      "learning_rate": 8.226666666666667e-05,
      "loss": 0.0002,
      "step": 5300
    },
    {
      "epoch": 8.833333333333334,
      "eval_accuracy": 0.8566666666666667,
      "eval_f1": 0.8575363213558347,
      "eval_loss": 0.9207696318626404,
      "eval_precision": 0.8763903729892801,
      "eval_recall": 0.8566666666666667,
      "eval_runtime": 17.6989,
      "eval_samples_per_second": 135.601,
      "eval_steps_per_second": 16.95,
      "step": 5300
    },
    {
      "epoch": 8.841666666666667,
      "grad_norm": 0.0008032301557250321,
      "learning_rate": 8.215555555555557e-05,
      "loss": 0.0002,
      "step": 5305
    },
    {
      "epoch": 8.85,
      "grad_norm": 0.0007662142743356526,
      "learning_rate": 8.204444444444445e-05,
      "loss": 0.0002,
      "step": 5310
    },
    {
      "epoch": 8.858333333333333,
      "grad_norm": 0.0008172841044142842,
      "learning_rate": 8.193333333333334e-05,
      "loss": 0.0002,
      "step": 5315
    },
    {
      "epoch": 8.866666666666667,
      "grad_norm": 0.0008703434723429382,
      "learning_rate": 8.182222222222222e-05,
      "loss": 0.0002,
      "step": 5320
    },
    {
      "epoch": 8.875,
      "grad_norm": 0.0008864572737365961,
      "learning_rate": 8.171111111111112e-05,
      "loss": 0.0002,
      "step": 5325
    },
    {
      "epoch": 8.883333333333333,
      "grad_norm": 0.001003938727080822,
      "learning_rate": 8.16e-05,
      "loss": 0.0002,
      "step": 5330
    },
    {
      "epoch": 8.891666666666667,
      "grad_norm": 0.000756080902647227,
      "learning_rate": 8.148888888888889e-05,
      "loss": 0.0002,
      "step": 5335
    },
    {
      "epoch": 8.9,
      "grad_norm": 0.0007636448717676103,
      "learning_rate": 8.137777777777779e-05,
      "loss": 0.0002,
      "step": 5340
    },
    {
      "epoch": 8.908333333333333,
      "grad_norm": 0.000880583596881479,
      "learning_rate": 8.126666666666667e-05,
      "loss": 0.0002,
      "step": 5345
    },
    {
      "epoch": 8.916666666666666,
      "grad_norm": 0.0007904941448941827,
      "learning_rate": 8.115555555555556e-05,
      "loss": 0.0002,
      "step": 5350
    },
    {
      "epoch": 8.925,
      "grad_norm": 0.0007818402373231947,
      "learning_rate": 8.104444444444444e-05,
      "loss": 0.0002,
      "step": 5355
    },
    {
      "epoch": 8.933333333333334,
      "grad_norm": 0.0007937632617540658,
      "learning_rate": 8.093333333333334e-05,
      "loss": 0.0002,
      "step": 5360
    },
    {
      "epoch": 8.941666666666666,
      "grad_norm": 0.0007890406413935125,
      "learning_rate": 8.082222222222222e-05,
      "loss": 0.0002,
      "step": 5365
    },
    {
      "epoch": 8.95,
      "grad_norm": 0.0024882464203983545,
      "learning_rate": 8.071111111111111e-05,
      "loss": 0.0002,
      "step": 5370
    },
    {
      "epoch": 8.958333333333334,
      "grad_norm": 0.0007867809617891908,
      "learning_rate": 8.060000000000001e-05,
      "loss": 0.0002,
      "step": 5375
    },
    {
      "epoch": 8.966666666666667,
      "grad_norm": 0.0007461189525201917,
      "learning_rate": 8.048888888888889e-05,
      "loss": 0.0002,
      "step": 5380
    },
    {
      "epoch": 8.975,
      "grad_norm": 0.0008273970452137291,
      "learning_rate": 8.037777777777779e-05,
      "loss": 0.0002,
      "step": 5385
    },
    {
      "epoch": 8.983333333333333,
      "grad_norm": 0.0013716424582526088,
      "learning_rate": 8.026666666666666e-05,
      "loss": 0.0002,
      "step": 5390
    },
    {
      "epoch": 8.991666666666667,
      "grad_norm": 0.0007500736392103136,
      "learning_rate": 8.015555555555556e-05,
      "loss": 0.0002,
      "step": 5395
    },
    {
      "epoch": 9.0,
      "grad_norm": 0.0008506547310389578,
      "learning_rate": 8.004444444444444e-05,
      "loss": 0.0002,
      "step": 5400
    },
    {
      "epoch": 9.0,
      "eval_accuracy": 0.8583333333333333,
      "eval_f1": 0.8592438196384616,
      "eval_loss": 0.9220913648605347,
      "eval_precision": 0.8776224514906439,
      "eval_recall": 0.8583333333333333,
      "eval_runtime": 18.0922,
      "eval_samples_per_second": 132.653,
      "eval_steps_per_second": 16.582,
      "step": 5400
    },
    {
      "epoch": 9.008333333333333,
      "grad_norm": 0.0007833146955817938,
      "learning_rate": 7.993333333333334e-05,
      "loss": 0.0002,
      "step": 5405
    },
    {
      "epoch": 9.016666666666667,
      "grad_norm": 0.0007916683680377901,
      "learning_rate": 7.982222222222223e-05,
      "loss": 0.0002,
      "step": 5410
    },
    {
      "epoch": 9.025,
      "grad_norm": 0.0007246225723065436,
      "learning_rate": 7.971111111111111e-05,
      "loss": 0.0002,
      "step": 5415
    },
    {
      "epoch": 9.033333333333333,
      "grad_norm": 0.0006999715114943683,
      "learning_rate": 7.960000000000001e-05,
      "loss": 0.0002,
      "step": 5420
    },
    {
      "epoch": 9.041666666666666,
      "grad_norm": 0.0007413090788759291,
      "learning_rate": 7.94888888888889e-05,
      "loss": 0.0002,
      "step": 5425
    },
    {
      "epoch": 9.05,
      "grad_norm": 0.0007284480961970985,
      "learning_rate": 7.937777777777778e-05,
      "loss": 0.0002,
      "step": 5430
    },
    {
      "epoch": 9.058333333333334,
      "grad_norm": 0.0007152552716434002,
      "learning_rate": 7.926666666666666e-05,
      "loss": 0.0002,
      "step": 5435
    },
    {
      "epoch": 9.066666666666666,
      "grad_norm": 0.0007759174914099276,
      "learning_rate": 7.915555555555556e-05,
      "loss": 0.0002,
      "step": 5440
    },
    {
      "epoch": 9.075,
      "grad_norm": 0.000707657600287348,
      "learning_rate": 7.904444444444445e-05,
      "loss": 0.0002,
      "step": 5445
    },
    {
      "epoch": 9.083333333333334,
      "grad_norm": 0.0010369977680966258,
      "learning_rate": 7.893333333333333e-05,
      "loss": 0.0002,
      "step": 5450
    },
    {
      "epoch": 9.091666666666667,
      "grad_norm": 0.0006986180669628084,
      "learning_rate": 7.882222222222223e-05,
      "loss": 0.0002,
      "step": 5455
    },
    {
      "epoch": 9.1,
      "grad_norm": 0.0007513111340813339,
      "learning_rate": 7.871111111111111e-05,
      "loss": 0.0002,
      "step": 5460
    },
    {
      "epoch": 9.108333333333333,
      "grad_norm": 0.0009072872344404459,
      "learning_rate": 7.860000000000001e-05,
      "loss": 0.0002,
      "step": 5465
    },
    {
      "epoch": 9.116666666666667,
      "grad_norm": 0.0007445378578267992,
      "learning_rate": 7.848888888888888e-05,
      "loss": 0.0002,
      "step": 5470
    },
    {
      "epoch": 9.125,
      "grad_norm": 0.0006787905585952103,
      "learning_rate": 7.837777777777778e-05,
      "loss": 0.0002,
      "step": 5475
    },
    {
      "epoch": 9.133333333333333,
      "grad_norm": 0.0007693706429563463,
      "learning_rate": 7.826666666666667e-05,
      "loss": 0.0002,
      "step": 5480
    },
    {
      "epoch": 9.141666666666667,
      "grad_norm": 0.0007618898525834084,
      "learning_rate": 7.815555555555557e-05,
      "loss": 0.0002,
      "step": 5485
    },
    {
      "epoch": 9.15,
      "grad_norm": 0.000811454257927835,
      "learning_rate": 7.804444444444445e-05,
      "loss": 0.0002,
      "step": 5490
    },
    {
      "epoch": 9.158333333333333,
      "grad_norm": 0.0006392633076757193,
      "learning_rate": 7.793333333333333e-05,
      "loss": 0.0002,
      "step": 5495
    },
    {
      "epoch": 9.166666666666666,
      "grad_norm": 0.0006653604796156287,
      "learning_rate": 7.782222222222223e-05,
      "loss": 0.0002,
      "step": 5500
    },
    {
      "epoch": 9.166666666666666,
      "eval_accuracy": 0.85875,
      "eval_f1": 0.8596388787770131,
      "eval_loss": 0.9254677295684814,
      "eval_precision": 0.8777241597089418,
      "eval_recall": 0.85875,
      "eval_runtime": 17.8453,
      "eval_samples_per_second": 134.489,
      "eval_steps_per_second": 16.811,
      "step": 5500
    },
    {
      "epoch": 9.175,
      "grad_norm": 0.0009219839703291655,
      "learning_rate": 7.771111111111112e-05,
      "loss": 0.0002,
      "step": 5505
    },
    {
      "epoch": 9.183333333333334,
      "grad_norm": 0.0007213072967715561,
      "learning_rate": 7.76e-05,
      "loss": 0.0002,
      "step": 5510
    },
    {
      "epoch": 9.191666666666666,
      "grad_norm": 0.0007901560747995973,
      "learning_rate": 7.748888888888889e-05,
      "loss": 0.0002,
      "step": 5515
    },
    {
      "epoch": 9.2,
      "grad_norm": 0.000688356754835695,
      "learning_rate": 7.737777777777779e-05,
      "loss": 0.0002,
      "step": 5520
    },
    {
      "epoch": 9.208333333333334,
      "grad_norm": 0.0007784771150909364,
      "learning_rate": 7.726666666666667e-05,
      "loss": 0.0002,
      "step": 5525
    },
    {
      "epoch": 9.216666666666667,
      "grad_norm": 0.000780765141826123,
      "learning_rate": 7.715555555555555e-05,
      "loss": 0.0002,
      "step": 5530
    },
    {
      "epoch": 9.225,
      "grad_norm": 0.0006465475889854133,
      "learning_rate": 7.704444444444445e-05,
      "loss": 0.0002,
      "step": 5535
    },
    {
      "epoch": 9.233333333333333,
      "grad_norm": 0.0006643991800956428,
      "learning_rate": 7.693333333333334e-05,
      "loss": 0.0002,
      "step": 5540
    },
    {
      "epoch": 9.241666666666667,
      "grad_norm": 0.0008203398901969194,
      "learning_rate": 7.682222222222222e-05,
      "loss": 0.0002,
      "step": 5545
    },
    {
      "epoch": 9.25,
      "grad_norm": 0.0006901727756485343,
      "learning_rate": 7.671111111111111e-05,
      "loss": 0.0002,
      "step": 5550
    },
    {
      "epoch": 9.258333333333333,
      "grad_norm": 0.0007929878192953765,
      "learning_rate": 7.66e-05,
      "loss": 0.0002,
      "step": 5555
    },
    {
      "epoch": 9.266666666666667,
      "grad_norm": 0.0006334966165013611,
      "learning_rate": 7.648888888888889e-05,
      "loss": 0.0002,
      "step": 5560
    },
    {
      "epoch": 9.275,
      "grad_norm": 0.0009073656983673573,
      "learning_rate": 7.637777777777779e-05,
      "loss": 0.0002,
      "step": 5565
    },
    {
      "epoch": 9.283333333333333,
      "grad_norm": 0.0008622353198006749,
      "learning_rate": 7.626666666666667e-05,
      "loss": 0.0002,
      "step": 5570
    },
    {
      "epoch": 9.291666666666666,
      "grad_norm": 0.001026063458994031,
      "learning_rate": 7.615555555555556e-05,
      "loss": 0.0002,
      "step": 5575
    },
    {
      "epoch": 9.3,
      "grad_norm": 0.000763825373724103,
      "learning_rate": 7.604444444444446e-05,
      "loss": 0.0002,
      "step": 5580
    },
    {
      "epoch": 9.308333333333334,
      "grad_norm": 0.0009143128991127014,
      "learning_rate": 7.593333333333334e-05,
      "loss": 0.0002,
      "step": 5585
    },
    {
      "epoch": 9.316666666666666,
      "grad_norm": 0.0006767276208847761,
      "learning_rate": 7.582222222222223e-05,
      "loss": 0.0002,
      "step": 5590
    },
    {
      "epoch": 9.325,
      "grad_norm": 0.0007591968751512468,
      "learning_rate": 7.571111111111111e-05,
      "loss": 0.0002,
      "step": 5595
    },
    {
      "epoch": 9.333333333333334,
      "grad_norm": 0.0006795215304009616,
      "learning_rate": 7.560000000000001e-05,
      "loss": 0.0002,
      "step": 5600
    },
    {
      "epoch": 9.333333333333334,
      "eval_accuracy": 0.8583333333333333,
      "eval_f1": 0.8592316111333391,
      "eval_loss": 0.9285181760787964,
      "eval_precision": 0.8772312009280839,
      "eval_recall": 0.8583333333333333,
      "eval_runtime": 17.8723,
      "eval_samples_per_second": 134.286,
      "eval_steps_per_second": 16.786,
      "step": 5600
    },
    {
      "epoch": 9.341666666666667,
      "grad_norm": 0.0006932305404916406,
      "learning_rate": 7.548888888888889e-05,
      "loss": 0.0002,
      "step": 5605
    },
    {
      "epoch": 9.35,
      "grad_norm": 0.0007514107273891568,
      "learning_rate": 7.537777777777778e-05,
      "loss": 0.0002,
      "step": 5610
    },
    {
      "epoch": 9.358333333333333,
      "grad_norm": 0.0007628946914337575,
      "learning_rate": 7.526666666666668e-05,
      "loss": 0.0002,
      "step": 5615
    },
    {
      "epoch": 9.366666666666667,
      "grad_norm": 0.0006862448644824326,
      "learning_rate": 7.515555555555556e-05,
      "loss": 0.0002,
      "step": 5620
    },
    {
      "epoch": 9.375,
      "grad_norm": 0.0007812300464138389,
      "learning_rate": 7.504444444444444e-05,
      "loss": 0.0002,
      "step": 5625
    },
    {
      "epoch": 9.383333333333333,
      "grad_norm": 0.0007436853484250605,
      "learning_rate": 7.493333333333333e-05,
      "loss": 0.0002,
      "step": 5630
    },
    {
      "epoch": 9.391666666666667,
      "grad_norm": 0.0006703116814605892,
      "learning_rate": 7.482222222222223e-05,
      "loss": 0.0002,
      "step": 5635
    },
    {
      "epoch": 9.4,
      "grad_norm": 0.0006663707899861038,
      "learning_rate": 7.471111111111111e-05,
      "loss": 0.0002,
      "step": 5640
    },
    {
      "epoch": 9.408333333333333,
      "grad_norm": 0.0006545536452904344,
      "learning_rate": 7.46e-05,
      "loss": 0.0002,
      "step": 5645
    },
    {
      "epoch": 9.416666666666666,
      "grad_norm": 0.0016236812807619572,
      "learning_rate": 7.44888888888889e-05,
      "loss": 0.0002,
      "step": 5650
    },
    {
      "epoch": 9.425,
      "grad_norm": 0.0007942994125187397,
      "learning_rate": 7.437777777777778e-05,
      "loss": 0.0002,
      "step": 5655
    },
    {
      "epoch": 9.433333333333334,
      "grad_norm": 0.0007176902145147324,
      "learning_rate": 7.426666666666668e-05,
      "loss": 0.0002,
      "step": 5660
    },
    {
      "epoch": 9.441666666666666,
      "grad_norm": 0.0006668177084065974,
      "learning_rate": 7.415555555555555e-05,
      "loss": 0.0002,
      "step": 5665
    },
    {
      "epoch": 9.45,
      "grad_norm": 0.0005914100329391658,
      "learning_rate": 7.404444444444445e-05,
      "loss": 0.0001,
      "step": 5670
    },
    {
      "epoch": 9.458333333333334,
      "grad_norm": 0.0006953361444175243,
      "learning_rate": 7.393333333333333e-05,
      "loss": 0.0002,
      "step": 5675
    },
    {
      "epoch": 9.466666666666667,
      "grad_norm": 0.0006580462213605642,
      "learning_rate": 7.382222222222223e-05,
      "loss": 0.0002,
      "step": 5680
    },
    {
      "epoch": 9.475,
      "grad_norm": 0.0006653693853877485,
      "learning_rate": 7.371111111111112e-05,
      "loss": 0.0002,
      "step": 5685
    },
    {
      "epoch": 9.483333333333333,
      "grad_norm": 0.0006721411482430995,
      "learning_rate": 7.36e-05,
      "loss": 0.0001,
      "step": 5690
    },
    {
      "epoch": 9.491666666666667,
      "grad_norm": 0.0006975532160140574,
      "learning_rate": 7.34888888888889e-05,
      "loss": 0.0002,
      "step": 5695
    },
    {
      "epoch": 9.5,
      "grad_norm": 0.0006243110983632505,
      "learning_rate": 7.337777777777778e-05,
      "loss": 0.0001,
      "step": 5700
    },
    {
      "epoch": 9.5,
      "eval_accuracy": 0.8591666666666666,
      "eval_f1": 0.8600871452131499,
      "eval_loss": 0.9287878274917603,
      "eval_precision": 0.8779798503464472,
      "eval_recall": 0.8591666666666666,
      "eval_runtime": 18.7652,
      "eval_samples_per_second": 127.896,
      "eval_steps_per_second": 15.987,
      "step": 5700
    },
    {
      "epoch": 9.508333333333333,
      "grad_norm": 0.0006654307362623513,
      "learning_rate": 7.326666666666667e-05,
      "loss": 0.0001,
      "step": 5705
    },
    {
      "epoch": 9.516666666666667,
      "grad_norm": 0.0006589008262380958,
      "learning_rate": 7.315555555555555e-05,
      "loss": 0.0001,
      "step": 5710
    },
    {
      "epoch": 9.525,
      "grad_norm": 0.0006779271643608809,
      "learning_rate": 7.304444444444445e-05,
      "loss": 0.0002,
      "step": 5715
    },
    {
      "epoch": 9.533333333333333,
      "grad_norm": 0.0007315660477615893,
      "learning_rate": 7.293333333333334e-05,
      "loss": 0.0002,
      "step": 5720
    },
    {
      "epoch": 9.541666666666666,
      "grad_norm": 0.0007655544904991984,
      "learning_rate": 7.282222222222222e-05,
      "loss": 0.0002,
      "step": 5725
    },
    {
      "epoch": 9.55,
      "grad_norm": 0.0006496033747680485,
      "learning_rate": 7.271111111111112e-05,
      "loss": 0.0001,
      "step": 5730
    },
    {
      "epoch": 9.558333333333334,
      "grad_norm": 0.0007303851307369769,
      "learning_rate": 7.26e-05,
      "loss": 0.0001,
      "step": 5735
    },
    {
      "epoch": 9.566666666666666,
      "grad_norm": 0.0006737509975209832,
      "learning_rate": 7.24888888888889e-05,
      "loss": 0.0002,
      "step": 5740
    },
    {
      "epoch": 9.575,
      "grad_norm": 0.0006592345889657736,
      "learning_rate": 7.237777777777777e-05,
      "loss": 0.0002,
      "step": 5745
    },
    {
      "epoch": 9.583333333333334,
      "grad_norm": 0.0005898099625483155,
      "learning_rate": 7.226666666666667e-05,
      "loss": 0.0001,
      "step": 5750
    },
    {
      "epoch": 9.591666666666667,
      "grad_norm": 0.0006932693650014699,
      "learning_rate": 7.215555555555556e-05,
      "loss": 0.0001,
      "step": 5755
    },
    {
      "epoch": 9.6,
      "grad_norm": 0.0006531852995976806,
      "learning_rate": 7.204444444444445e-05,
      "loss": 0.0001,
      "step": 5760
    },
    {
      "epoch": 9.608333333333333,
      "grad_norm": 0.0006229663267731667,
      "learning_rate": 7.193333333333334e-05,
      "loss": 0.0001,
      "step": 5765
    },
    {
      "epoch": 9.616666666666667,
      "grad_norm": 0.0006488837534561753,
      "learning_rate": 7.182222222222222e-05,
      "loss": 0.0002,
      "step": 5770
    },
    {
      "epoch": 9.625,
      "grad_norm": 0.0006982512422837317,
      "learning_rate": 7.171111111111112e-05,
      "loss": 0.0001,
      "step": 5775
    },
    {
      "epoch": 9.633333333333333,
      "grad_norm": 0.0006952796829864383,
      "learning_rate": 7.16e-05,
      "loss": 0.0001,
      "step": 5780
    },
    {
      "epoch": 9.641666666666667,
      "grad_norm": 0.0006103411433286965,
      "learning_rate": 7.148888888888889e-05,
      "loss": 0.0001,
      "step": 5785
    },
    {
      "epoch": 9.65,
      "grad_norm": 0.0007080843206495047,
      "learning_rate": 7.137777777777778e-05,
      "loss": 0.0001,
      "step": 5790
    },
    {
      "epoch": 9.658333333333333,
      "grad_norm": 0.0006860504508949816,
      "learning_rate": 7.126666666666667e-05,
      "loss": 0.0002,
      "step": 5795
    },
    {
      "epoch": 9.666666666666666,
      "grad_norm": 0.000668805674649775,
      "learning_rate": 7.115555555555556e-05,
      "loss": 0.0001,
      "step": 5800
    },
    {
      "epoch": 9.666666666666666,
      "eval_accuracy": 0.8595833333333334,
      "eval_f1": 0.8605083881166342,
      "eval_loss": 0.9305446147918701,
      "eval_precision": 0.8781781565396746,
      "eval_recall": 0.8595833333333334,
      "eval_runtime": 17.9017,
      "eval_samples_per_second": 134.065,
      "eval_steps_per_second": 16.758,
      "step": 5800
    },
    {
      "epoch": 9.675,
      "grad_norm": 0.0006059257430024445,
      "learning_rate": 7.104444444444444e-05,
      "loss": 0.0001,
      "step": 5805
    },
    {
      "epoch": 9.683333333333334,
      "grad_norm": 0.0006197522743605077,
      "learning_rate": 7.093333333333334e-05,
      "loss": 0.0001,
      "step": 5810
    },
    {
      "epoch": 9.691666666666666,
      "grad_norm": 0.0006716429488733411,
      "learning_rate": 7.082222222222223e-05,
      "loss": 0.0001,
      "step": 5815
    },
    {
      "epoch": 9.7,
      "grad_norm": 0.0007204015273600817,
      "learning_rate": 7.071111111111111e-05,
      "loss": 0.0001,
      "step": 5820
    },
    {
      "epoch": 9.708333333333334,
      "grad_norm": 0.0006403136067092419,
      "learning_rate": 7.06e-05,
      "loss": 0.0001,
      "step": 5825
    },
    {
      "epoch": 9.716666666666667,
      "grad_norm": 0.0006370324990712106,
      "learning_rate": 7.048888888888889e-05,
      "loss": 0.0001,
      "step": 5830
    },
    {
      "epoch": 9.725,
      "grad_norm": 0.0005907082813791931,
      "learning_rate": 7.037777777777778e-05,
      "loss": 0.0001,
      "step": 5835
    },
    {
      "epoch": 9.733333333333333,
      "grad_norm": 0.0016973271267488599,
      "learning_rate": 7.026666666666668e-05,
      "loss": 0.0001,
      "step": 5840
    },
    {
      "epoch": 9.741666666666667,
      "grad_norm": 0.0006083085900172591,
      "learning_rate": 7.015555555555556e-05,
      "loss": 0.0001,
      "step": 5845
    },
    {
      "epoch": 9.75,
      "grad_norm": 0.0008695241995155811,
      "learning_rate": 7.004444444444445e-05,
      "loss": 0.0001,
      "step": 5850
    },
    {
      "epoch": 9.758333333333333,
      "grad_norm": 0.0005629376391880214,
      "learning_rate": 6.993333333333334e-05,
      "loss": 0.0001,
      "step": 5855
    },
    {
      "epoch": 9.766666666666667,
      "grad_norm": 0.0006146965315565467,
      "learning_rate": 6.982222222222223e-05,
      "loss": 0.0001,
      "step": 5860
    },
    {
      "epoch": 9.775,
      "grad_norm": 0.0006506453501060605,
      "learning_rate": 6.971111111111111e-05,
      "loss": 0.0001,
      "step": 5865
    },
    {
      "epoch": 9.783333333333333,
      "grad_norm": 0.0005555370589718223,
      "learning_rate": 6.96e-05,
      "loss": 0.0001,
      "step": 5870
    },
    {
      "epoch": 9.791666666666666,
      "grad_norm": 0.0005798389902338386,
      "learning_rate": 6.94888888888889e-05,
      "loss": 0.0001,
      "step": 5875
    },
    {
      "epoch": 9.8,
      "grad_norm": 0.0005860737292096019,
      "learning_rate": 6.937777777777778e-05,
      "loss": 0.0001,
      "step": 5880
    },
    {
      "epoch": 9.808333333333334,
      "grad_norm": 0.0006587072857655585,
      "learning_rate": 6.926666666666667e-05,
      "loss": 0.0001,
      "step": 5885
    },
    {
      "epoch": 9.816666666666666,
      "grad_norm": 0.0006248616264201701,
      "learning_rate": 6.915555555555556e-05,
      "loss": 0.0001,
      "step": 5890
    },
    {
      "epoch": 9.825,
      "grad_norm": 0.000710328749846667,
      "learning_rate": 6.904444444444445e-05,
      "loss": 0.0002,
      "step": 5895
    },
    {
      "epoch": 9.833333333333334,
      "grad_norm": 0.001140324049629271,
      "learning_rate": 6.893333333333333e-05,
      "loss": 0.0002,
      "step": 5900
    },
    {
      "epoch": 9.833333333333334,
      "eval_accuracy": 0.8595833333333334,
      "eval_f1": 0.8605083881166342,
      "eval_loss": 0.9322934746742249,
      "eval_precision": 0.8781781565396746,
      "eval_recall": 0.8595833333333334,
      "eval_runtime": 17.9025,
      "eval_samples_per_second": 134.059,
      "eval_steps_per_second": 16.757,
      "step": 5900
    },
    {
      "epoch": 9.841666666666667,
      "grad_norm": 0.0006538056768476963,
      "learning_rate": 6.882222222222222e-05,
      "loss": 0.0001,
      "step": 5905
    },
    {
      "epoch": 9.85,
      "grad_norm": 0.0006130404071882367,
      "learning_rate": 6.871111111111112e-05,
      "loss": 0.0001,
      "step": 5910
    },
    {
      "epoch": 9.858333333333333,
      "grad_norm": 0.0007690146449021995,
      "learning_rate": 6.860000000000001e-05,
      "loss": 0.0001,
      "step": 5915
    },
    {
      "epoch": 9.866666666666667,
      "grad_norm": 0.0006232189480215311,
      "learning_rate": 6.848888888888889e-05,
      "loss": 0.0001,
      "step": 5920
    },
    {
      "epoch": 9.875,
      "grad_norm": 0.0006202129879966378,
      "learning_rate": 6.837777777777778e-05,
      "loss": 0.0001,
      "step": 5925
    },
    {
      "epoch": 9.883333333333333,
      "grad_norm": 0.0006964713684283197,
      "learning_rate": 6.826666666666667e-05,
      "loss": 0.0001,
      "step": 5930
    },
    {
      "epoch": 9.891666666666667,
      "grad_norm": 0.0005425720009952784,
      "learning_rate": 6.815555555555557e-05,
      "loss": 0.0001,
      "step": 5935
    },
    {
      "epoch": 9.9,
      "grad_norm": 0.0006255876505747437,
      "learning_rate": 6.804444444444444e-05,
      "loss": 0.0001,
      "step": 5940
    },
    {
      "epoch": 9.908333333333333,
      "grad_norm": 0.0006726389401592314,
      "learning_rate": 6.793333333333334e-05,
      "loss": 0.0001,
      "step": 5945
    },
    {
      "epoch": 9.916666666666666,
      "grad_norm": 0.0009403957519680262,
      "learning_rate": 6.782222222222222e-05,
      "loss": 0.0001,
      "step": 5950
    },
    {
      "epoch": 9.925,
      "grad_norm": 0.0006465443293564022,
      "learning_rate": 6.771111111111112e-05,
      "loss": 0.0001,
      "step": 5955
    },
    {
      "epoch": 9.933333333333334,
      "grad_norm": 0.0006916632992215455,
      "learning_rate": 6.76e-05,
      "loss": 0.0001,
      "step": 5960
    },
    {
      "epoch": 9.941666666666666,
      "grad_norm": 0.0005848212167620659,
      "learning_rate": 6.748888888888889e-05,
      "loss": 0.0001,
      "step": 5965
    },
    {
      "epoch": 9.95,
      "grad_norm": 0.001072445884346962,
      "learning_rate": 6.737777777777779e-05,
      "loss": 0.0001,
      "step": 5970
    },
    {
      "epoch": 9.958333333333334,
      "grad_norm": 0.0005446453578770161,
      "learning_rate": 6.726666666666667e-05,
      "loss": 0.0001,
      "step": 5975
    },
    {
      "epoch": 9.966666666666667,
      "grad_norm": 0.0006005938048474491,
      "learning_rate": 6.715555555555556e-05,
      "loss": 0.0001,
      "step": 5980
    },
    {
      "epoch": 9.975,
      "grad_norm": 0.000577567785512656,
      "learning_rate": 6.704444444444444e-05,
      "loss": 0.0001,
      "step": 5985
    },
    {
      "epoch": 9.983333333333333,
      "grad_norm": 0.0006079412996768951,
      "learning_rate": 6.693333333333334e-05,
      "loss": 0.0001,
      "step": 5990
    },
    {
      "epoch": 9.991666666666667,
      "grad_norm": 0.0005508824833668768,
      "learning_rate": 6.682222222222224e-05,
      "loss": 0.0001,
      "step": 5995
    },
    {
      "epoch": 10.0,
      "grad_norm": 0.0005475003272294998,
      "learning_rate": 6.671111111111111e-05,
      "loss": 0.0001,
      "step": 6000
    },
    {
      "epoch": 10.0,
      "eval_accuracy": 0.8595833333333334,
      "eval_f1": 0.8605954825974167,
      "eval_loss": 0.9335494041442871,
      "eval_precision": 0.8781542123362706,
      "eval_recall": 0.8595833333333334,
      "eval_runtime": 17.4493,
      "eval_samples_per_second": 137.541,
      "eval_steps_per_second": 17.193,
      "step": 6000
    },
    {
      "epoch": 10.008333333333333,
      "grad_norm": 0.0006880290457047522,
      "learning_rate": 6.66e-05,
      "loss": 0.0001,
      "step": 6005
    },
    {
      "epoch": 10.016666666666667,
      "grad_norm": 0.0005680427420884371,
      "learning_rate": 6.648888888888889e-05,
      "loss": 0.0001,
      "step": 6010
    },
    {
      "epoch": 10.025,
      "grad_norm": 0.000540893932338804,
      "learning_rate": 6.637777777777779e-05,
      "loss": 0.0001,
      "step": 6015
    },
    {
      "epoch": 10.033333333333333,
      "grad_norm": 0.001683706883341074,
      "learning_rate": 6.626666666666666e-05,
      "loss": 0.0001,
      "step": 6020
    },
    {
      "epoch": 10.041666666666666,
      "grad_norm": 0.0006932148826308548,
      "learning_rate": 6.615555555555556e-05,
      "loss": 0.0001,
      "step": 6025
    },
    {
      "epoch": 10.05,
      "grad_norm": 0.0015074125258252025,
      "learning_rate": 6.604444444444444e-05,
      "loss": 0.0001,
      "step": 6030
    },
    {
      "epoch": 10.058333333333334,
      "grad_norm": 0.0005608284845948219,
      "learning_rate": 6.593333333333334e-05,
      "loss": 0.0001,
      "step": 6035
    },
    {
      "epoch": 10.066666666666666,
      "grad_norm": 0.0006992816342972219,
      "learning_rate": 6.582222222222223e-05,
      "loss": 0.0001,
      "step": 6040
    },
    {
      "epoch": 10.075,
      "grad_norm": 0.0006348059978336096,
      "learning_rate": 6.571111111111111e-05,
      "loss": 0.0001,
      "step": 6045
    },
    {
      "epoch": 10.083333333333334,
      "grad_norm": 0.0006189782288856804,
      "learning_rate": 6.560000000000001e-05,
      "loss": 0.0001,
      "step": 6050
    },
    {
      "epoch": 10.091666666666667,
      "grad_norm": 0.0005095533560961485,
      "learning_rate": 6.54888888888889e-05,
      "loss": 0.0001,
      "step": 6055
    },
    {
      "epoch": 10.1,
      "grad_norm": 0.0005815329495817423,
      "learning_rate": 6.537777777777778e-05,
      "loss": 0.0001,
      "step": 6060
    },
    {
      "epoch": 10.108333333333333,
      "grad_norm": 0.0005626227939501405,
      "learning_rate": 6.526666666666666e-05,
      "loss": 0.0001,
      "step": 6065
    },
    {
      "epoch": 10.116666666666667,
      "grad_norm": 0.0006474355468526483,
      "learning_rate": 6.515555555555556e-05,
      "loss": 0.0001,
      "step": 6070
    },
    {
      "epoch": 10.125,
      "grad_norm": 0.0007257965044118464,
      "learning_rate": 6.504444444444445e-05,
      "loss": 0.0001,
      "step": 6075
    },
    {
      "epoch": 10.133333333333333,
      "grad_norm": 0.0006023642490617931,
      "learning_rate": 6.493333333333333e-05,
      "loss": 0.0001,
      "step": 6080
    },
    {
      "epoch": 10.141666666666667,
      "grad_norm": 0.0006534933927468956,
      "learning_rate": 6.482222222222223e-05,
      "loss": 0.0001,
      "step": 6085
    },
    {
      "epoch": 10.15,
      "grad_norm": 0.00054128811461851,
      "learning_rate": 6.471111111111111e-05,
      "loss": 0.0001,
      "step": 6090
    },
    {
      "epoch": 10.158333333333333,
      "grad_norm": 0.000626757275313139,
      "learning_rate": 6.460000000000001e-05,
      "loss": 0.0001,
      "step": 6095
    },
    {
      "epoch": 10.166666666666666,
      "grad_norm": 0.0007810430251993239,
      "learning_rate": 6.448888888888888e-05,
      "loss": 0.0001,
      "step": 6100
    },
    {
      "epoch": 10.166666666666666,
      "eval_accuracy": 0.8608333333333333,
      "eval_f1": 0.8618618173011343,
      "eval_loss": 0.9336147308349609,
      "eval_precision": 0.8790793742730831,
      "eval_recall": 0.8608333333333333,
      "eval_runtime": 17.7394,
      "eval_samples_per_second": 135.292,
      "eval_steps_per_second": 16.911,
      "step": 6100
    },
    {
      "epoch": 10.175,
      "grad_norm": 0.0007821578765287995,
      "learning_rate": 6.437777777777778e-05,
      "loss": 0.0001,
      "step": 6105
    },
    {
      "epoch": 10.183333333333334,
      "grad_norm": 0.0006824150332249701,
      "learning_rate": 6.426666666666668e-05,
      "loss": 0.0001,
      "step": 6110
    },
    {
      "epoch": 10.191666666666666,
      "grad_norm": 0.0005564666935242712,
      "learning_rate": 6.415555555555556e-05,
      "loss": 0.0001,
      "step": 6115
    },
    {
      "epoch": 10.2,
      "grad_norm": 0.0005571764195337892,
      "learning_rate": 6.404444444444445e-05,
      "loss": 0.0001,
      "step": 6120
    },
    {
      "epoch": 10.208333333333334,
      "grad_norm": 0.0005152855883352458,
      "learning_rate": 6.393333333333333e-05,
      "loss": 0.0001,
      "step": 6125
    },
    {
      "epoch": 10.216666666666667,
      "grad_norm": 0.0005357482586987317,
      "learning_rate": 6.382222222222223e-05,
      "loss": 0.0001,
      "step": 6130
    },
    {
      "epoch": 10.225,
      "grad_norm": 0.0005692402482964098,
      "learning_rate": 6.371111111111112e-05,
      "loss": 0.0001,
      "step": 6135
    },
    {
      "epoch": 10.233333333333333,
      "grad_norm": 0.0005685407086275518,
      "learning_rate": 6.36e-05,
      "loss": 0.0001,
      "step": 6140
    },
    {
      "epoch": 10.241666666666667,
      "grad_norm": 0.0006036214763298631,
      "learning_rate": 6.348888888888889e-05,
      "loss": 0.0001,
      "step": 6145
    },
    {
      "epoch": 10.25,
      "grad_norm": 0.0005159304710105062,
      "learning_rate": 6.337777777777778e-05,
      "loss": 0.0001,
      "step": 6150
    },
    {
      "epoch": 10.258333333333333,
      "grad_norm": 0.00052189378766343,
      "learning_rate": 6.326666666666667e-05,
      "loss": 0.0001,
      "step": 6155
    },
    {
      "epoch": 10.266666666666667,
      "grad_norm": 0.0005473686615005136,
      "learning_rate": 6.315555555555555e-05,
      "loss": 0.0001,
      "step": 6160
    },
    {
      "epoch": 10.275,
      "grad_norm": 0.0005693456041626632,
      "learning_rate": 6.304444444444445e-05,
      "loss": 0.0001,
      "step": 6165
    },
    {
      "epoch": 10.283333333333333,
      "grad_norm": 0.000654654751997441,
      "learning_rate": 6.293333333333334e-05,
      "loss": 0.0001,
      "step": 6170
    },
    {
      "epoch": 10.291666666666666,
      "grad_norm": 0.0005565749015659094,
      "learning_rate": 6.282222222222222e-05,
      "loss": 0.0001,
      "step": 6175
    },
    {
      "epoch": 10.3,
      "grad_norm": 0.0005859580123797059,
      "learning_rate": 6.27111111111111e-05,
      "loss": 0.0001,
      "step": 6180
    },
    {
      "epoch": 10.308333333333334,
      "grad_norm": 0.0006288384902291,
      "learning_rate": 6.26e-05,
      "loss": 0.0001,
      "step": 6185
    },
    {
      "epoch": 10.316666666666666,
      "grad_norm": 0.0006000176072120667,
      "learning_rate": 6.24888888888889e-05,
      "loss": 0.0001,
      "step": 6190
    },
    {
      "epoch": 10.325,
      "grad_norm": 0.0005746729439124465,
      "learning_rate": 6.237777777777777e-05,
      "loss": 0.0001,
      "step": 6195
    },
    {
      "epoch": 10.333333333333334,
      "grad_norm": 0.0005503713036887348,
      "learning_rate": 6.226666666666667e-05,
      "loss": 0.0001,
      "step": 6200
    },
    {
      "epoch": 10.333333333333334,
      "eval_accuracy": 0.86125,
      "eval_f1": 0.8622802919134737,
      "eval_loss": 0.9360036253929138,
      "eval_precision": 0.8795082837515825,
      "eval_recall": 0.86125,
      "eval_runtime": 18.0259,
      "eval_samples_per_second": 133.141,
      "eval_steps_per_second": 16.643,
      "step": 6200
    },
    {
      "epoch": 10.341666666666667,
      "grad_norm": 0.0005797314224764705,
      "learning_rate": 6.215555555555556e-05,
      "loss": 0.0001,
      "step": 6205
    },
    {
      "epoch": 10.35,
      "grad_norm": 0.0005725340452045202,
      "learning_rate": 6.204444444444445e-05,
      "loss": 0.0001,
      "step": 6210
    },
    {
      "epoch": 10.358333333333333,
      "grad_norm": 0.000593249686062336,
      "learning_rate": 6.193333333333333e-05,
      "loss": 0.0001,
      "step": 6215
    },
    {
      "epoch": 10.366666666666667,
      "grad_norm": 0.0005028356099501252,
      "learning_rate": 6.182222222222222e-05,
      "loss": 0.0001,
      "step": 6220
    },
    {
      "epoch": 10.375,
      "grad_norm": 0.0006420842255465686,
      "learning_rate": 6.171111111111112e-05,
      "loss": 0.0001,
      "step": 6225
    },
    {
      "epoch": 10.383333333333333,
      "grad_norm": 0.0005680840113200247,
      "learning_rate": 6.16e-05,
      "loss": 0.0001,
      "step": 6230
    },
    {
      "epoch": 10.391666666666667,
      "grad_norm": 0.00048172613605856895,
      "learning_rate": 6.148888888888889e-05,
      "loss": 0.0001,
      "step": 6235
    },
    {
      "epoch": 10.4,
      "grad_norm": 0.0005682430346496403,
      "learning_rate": 6.137777777777778e-05,
      "loss": 0.0001,
      "step": 6240
    },
    {
      "epoch": 10.408333333333333,
      "grad_norm": 0.0006199650815688074,
      "learning_rate": 6.126666666666667e-05,
      "loss": 0.0001,
      "step": 6245
    },
    {
      "epoch": 10.416666666666666,
      "grad_norm": 0.0005899781244806945,
      "learning_rate": 6.115555555555556e-05,
      "loss": 0.0001,
      "step": 6250
    },
    {
      "epoch": 10.425,
      "grad_norm": 0.0005266563384793699,
      "learning_rate": 6.104444444444444e-05,
      "loss": 0.0001,
      "step": 6255
    },
    {
      "epoch": 10.433333333333334,
      "grad_norm": 0.00048131062067113817,
      "learning_rate": 6.093333333333333e-05,
      "loss": 0.0001,
      "step": 6260
    },
    {
      "epoch": 10.441666666666666,
      "grad_norm": 0.0005518671241588891,
      "learning_rate": 6.0822222222222226e-05,
      "loss": 0.0001,
      "step": 6265
    },
    {
      "epoch": 10.45,
      "grad_norm": 0.0005395474727265537,
      "learning_rate": 6.071111111111112e-05,
      "loss": 0.0001,
      "step": 6270
    },
    {
      "epoch": 10.458333333333334,
      "grad_norm": 0.0006055827252566814,
      "learning_rate": 6.06e-05,
      "loss": 0.0001,
      "step": 6275
    },
    {
      "epoch": 10.466666666666667,
      "grad_norm": 0.0005455645150505006,
      "learning_rate": 6.0488888888888894e-05,
      "loss": 0.0001,
      "step": 6280
    },
    {
      "epoch": 10.475,
      "grad_norm": 0.0005159983993507922,
      "learning_rate": 6.037777777777778e-05,
      "loss": 0.0001,
      "step": 6285
    },
    {
      "epoch": 10.483333333333333,
      "grad_norm": 0.0004888669936917722,
      "learning_rate": 6.026666666666667e-05,
      "loss": 0.0001,
      "step": 6290
    },
    {
      "epoch": 10.491666666666667,
      "grad_norm": 0.000505080446600914,
      "learning_rate": 6.0155555555555555e-05,
      "loss": 0.0001,
      "step": 6295
    },
    {
      "epoch": 10.5,
      "grad_norm": 0.0004888027324341238,
      "learning_rate": 6.0044444444444446e-05,
      "loss": 0.0001,
      "step": 6300
    },
    {
      "epoch": 10.5,
      "eval_accuracy": 0.8625,
      "eval_f1": 0.8635151005261724,
      "eval_loss": 0.9374474883079529,
      "eval_precision": 0.8803150684075676,
      "eval_recall": 0.8625,
      "eval_runtime": 17.868,
      "eval_samples_per_second": 134.318,
      "eval_steps_per_second": 16.79,
      "step": 6300
    },
    {
      "epoch": 10.508333333333333,
      "grad_norm": 0.0005120612913742661,
      "learning_rate": 5.9933333333333345e-05,
      "loss": 0.0001,
      "step": 6305
    },
    {
      "epoch": 10.516666666666667,
      "grad_norm": 0.0005288263782858849,
      "learning_rate": 5.982222222222222e-05,
      "loss": 0.0001,
      "step": 6310
    },
    {
      "epoch": 10.525,
      "grad_norm": 0.0005131441866979003,
      "learning_rate": 5.971111111111112e-05,
      "loss": 0.0001,
      "step": 6315
    },
    {
      "epoch": 10.533333333333333,
      "grad_norm": 0.0004975821357220411,
      "learning_rate": 5.96e-05,
      "loss": 0.0001,
      "step": 6320
    },
    {
      "epoch": 10.541666666666666,
      "grad_norm": 0.0020626094192266464,
      "learning_rate": 5.94888888888889e-05,
      "loss": 0.0001,
      "step": 6325
    },
    {
      "epoch": 10.55,
      "grad_norm": 0.00044352607801556587,
      "learning_rate": 5.9377777777777775e-05,
      "loss": 0.0001,
      "step": 6330
    },
    {
      "epoch": 10.558333333333334,
      "grad_norm": 0.0005273933638818562,
      "learning_rate": 5.926666666666667e-05,
      "loss": 0.0001,
      "step": 6335
    },
    {
      "epoch": 10.566666666666666,
      "grad_norm": 0.0005176348495297134,
      "learning_rate": 5.915555555555555e-05,
      "loss": 0.0001,
      "step": 6340
    },
    {
      "epoch": 10.575,
      "grad_norm": 0.0007038883632048965,
      "learning_rate": 5.904444444444445e-05,
      "loss": 0.0001,
      "step": 6345
    },
    {
      "epoch": 10.583333333333334,
      "grad_norm": 0.000479163252748549,
      "learning_rate": 5.893333333333334e-05,
      "loss": 0.0001,
      "step": 6350
    },
    {
      "epoch": 10.591666666666667,
      "grad_norm": 0.0005660353926941752,
      "learning_rate": 5.8822222222222225e-05,
      "loss": 0.0001,
      "step": 6355
    },
    {
      "epoch": 10.6,
      "grad_norm": 0.0004604604037012905,
      "learning_rate": 5.871111111111112e-05,
      "loss": 0.0001,
      "step": 6360
    },
    {
      "epoch": 10.608333333333333,
      "grad_norm": 0.0005081344861537218,
      "learning_rate": 5.86e-05,
      "loss": 0.0001,
      "step": 6365
    },
    {
      "epoch": 10.616666666666667,
      "grad_norm": 0.0007604947895742953,
      "learning_rate": 5.848888888888889e-05,
      "loss": 0.0001,
      "step": 6370
    },
    {
      "epoch": 10.625,
      "grad_norm": 0.0005040605319663882,
      "learning_rate": 5.837777777777778e-05,
      "loss": 0.0001,
      "step": 6375
    },
    {
      "epoch": 10.633333333333333,
      "grad_norm": 0.00047927084960974753,
      "learning_rate": 5.826666666666667e-05,
      "loss": 0.0001,
      "step": 6380
    },
    {
      "epoch": 10.641666666666667,
      "grad_norm": 0.0005049301544204354,
      "learning_rate": 5.815555555555556e-05,
      "loss": 0.0001,
      "step": 6385
    },
    {
      "epoch": 10.65,
      "grad_norm": 0.00047228264156728983,
      "learning_rate": 5.8044444444444445e-05,
      "loss": 0.0001,
      "step": 6390
    },
    {
      "epoch": 10.658333333333333,
      "grad_norm": 0.0005168607458472252,
      "learning_rate": 5.7933333333333337e-05,
      "loss": 0.0001,
      "step": 6395
    },
    {
      "epoch": 10.666666666666666,
      "grad_norm": 0.000507501361425966,
      "learning_rate": 5.782222222222222e-05,
      "loss": 0.0001,
      "step": 6400
    },
    {
      "epoch": 10.666666666666666,
      "eval_accuracy": 0.8629166666666667,
      "eval_f1": 0.863976118532175,
      "eval_loss": 0.9406227469444275,
      "eval_precision": 0.8809496812032618,
      "eval_recall": 0.8629166666666667,
      "eval_runtime": 17.9843,
      "eval_samples_per_second": 133.45,
      "eval_steps_per_second": 16.681,
      "step": 6400
    },
    {
      "epoch": 10.675,
      "grad_norm": 0.0005097007378935814,
      "learning_rate": 5.771111111111111e-05,
      "loss": 0.0001,
      "step": 6405
    },
    {
      "epoch": 10.683333333333334,
      "grad_norm": 0.00046295675565488636,
      "learning_rate": 5.76e-05,
      "loss": 0.0001,
      "step": 6410
    },
    {
      "epoch": 10.691666666666666,
      "grad_norm": 0.0005811122828163207,
      "learning_rate": 5.748888888888889e-05,
      "loss": 0.0001,
      "step": 6415
    },
    {
      "epoch": 10.7,
      "grad_norm": 0.0004564827249851078,
      "learning_rate": 5.737777777777779e-05,
      "loss": 0.0001,
      "step": 6420
    },
    {
      "epoch": 10.708333333333334,
      "grad_norm": 0.00048139519640244544,
      "learning_rate": 5.726666666666667e-05,
      "loss": 0.0001,
      "step": 6425
    },
    {
      "epoch": 10.716666666666667,
      "grad_norm": 0.0008310183184221387,
      "learning_rate": 5.715555555555556e-05,
      "loss": 0.0001,
      "step": 6430
    },
    {
      "epoch": 10.725,
      "grad_norm": 0.0006086085340939462,
      "learning_rate": 5.704444444444445e-05,
      "loss": 0.0001,
      "step": 6435
    },
    {
      "epoch": 10.733333333333333,
      "grad_norm": 0.0005086006713099778,
      "learning_rate": 5.693333333333334e-05,
      "loss": 0.0001,
      "step": 6440
    },
    {
      "epoch": 10.741666666666667,
      "grad_norm": 0.0004650794726330787,
      "learning_rate": 5.6822222222222224e-05,
      "loss": 0.0001,
      "step": 6445
    },
    {
      "epoch": 10.75,
      "grad_norm": 0.00044577676453627646,
      "learning_rate": 5.6711111111111116e-05,
      "loss": 0.0001,
      "step": 6450
    },
    {
      "epoch": 10.758333333333333,
      "grad_norm": 0.0004945948021486402,
      "learning_rate": 5.66e-05,
      "loss": 0.0001,
      "step": 6455
    },
    {
      "epoch": 10.766666666666667,
      "grad_norm": 0.000563543348107487,
      "learning_rate": 5.648888888888889e-05,
      "loss": 0.0001,
      "step": 6460
    },
    {
      "epoch": 10.775,
      "grad_norm": 0.0005701874615624547,
      "learning_rate": 5.637777777777778e-05,
      "loss": 0.0001,
      "step": 6465
    },
    {
      "epoch": 10.783333333333333,
      "grad_norm": 0.00044597816304303706,
      "learning_rate": 5.626666666666667e-05,
      "loss": 0.0001,
      "step": 6470
    },
    {
      "epoch": 10.791666666666666,
      "grad_norm": 0.00045350115397013724,
      "learning_rate": 5.615555555555556e-05,
      "loss": 0.0001,
      "step": 6475
    },
    {
      "epoch": 10.8,
      "grad_norm": 0.0005076673114672303,
      "learning_rate": 5.6044444444444444e-05,
      "loss": 0.0001,
      "step": 6480
    },
    {
      "epoch": 10.808333333333334,
      "grad_norm": 0.0004851439443882555,
      "learning_rate": 5.5933333333333335e-05,
      "loss": 0.0001,
      "step": 6485
    },
    {
      "epoch": 10.816666666666666,
      "grad_norm": 0.0005291787092573941,
      "learning_rate": 5.582222222222222e-05,
      "loss": 0.0001,
      "step": 6490
    },
    {
      "epoch": 10.825,
      "grad_norm": 0.00046938733430579305,
      "learning_rate": 5.571111111111111e-05,
      "loss": 0.0001,
      "step": 6495
    },
    {
      "epoch": 10.833333333333334,
      "grad_norm": 0.0005532752256840467,
      "learning_rate": 5.560000000000001e-05,
      "loss": 0.0001,
      "step": 6500
    },
    {
      "epoch": 10.833333333333334,
      "eval_accuracy": 0.8633333333333333,
      "eval_f1": 0.864330066328504,
      "eval_loss": 0.9419732689857483,
      "eval_precision": 0.8810107513206229,
      "eval_recall": 0.8633333333333333,
      "eval_runtime": 17.5492,
      "eval_samples_per_second": 136.758,
      "eval_steps_per_second": 17.095,
      "step": 6500
    },
    {
      "epoch": 10.841666666666667,
      "grad_norm": 0.0004755690461024642,
      "learning_rate": 5.548888888888889e-05,
      "loss": 0.0001,
      "step": 6505
    },
    {
      "epoch": 10.85,
      "grad_norm": 0.0004330916272010654,
      "learning_rate": 5.5377777777777786e-05,
      "loss": 0.0001,
      "step": 6510
    },
    {
      "epoch": 10.858333333333333,
      "grad_norm": 0.0004950022557750344,
      "learning_rate": 5.5266666666666664e-05,
      "loss": 0.0001,
      "step": 6515
    },
    {
      "epoch": 10.866666666666667,
      "grad_norm": 0.0005625162157230079,
      "learning_rate": 5.515555555555556e-05,
      "loss": 0.0001,
      "step": 6520
    },
    {
      "epoch": 10.875,
      "grad_norm": 0.00046001223381608725,
      "learning_rate": 5.504444444444444e-05,
      "loss": 0.0001,
      "step": 6525
    },
    {
      "epoch": 10.883333333333333,
      "grad_norm": 0.000445921701611951,
      "learning_rate": 5.493333333333334e-05,
      "loss": 0.0001,
      "step": 6530
    },
    {
      "epoch": 10.891666666666667,
      "grad_norm": 0.00042444499558769166,
      "learning_rate": 5.482222222222223e-05,
      "loss": 0.0001,
      "step": 6535
    },
    {
      "epoch": 10.9,
      "grad_norm": 0.0004891196731477976,
      "learning_rate": 5.4711111111111114e-05,
      "loss": 0.0001,
      "step": 6540
    },
    {
      "epoch": 10.908333333333333,
      "grad_norm": 0.0004370837123133242,
      "learning_rate": 5.4600000000000006e-05,
      "loss": 0.0001,
      "step": 6545
    },
    {
      "epoch": 10.916666666666666,
      "grad_norm": 0.00047660767449997365,
      "learning_rate": 5.448888888888889e-05,
      "loss": 0.0001,
      "step": 6550
    },
    {
      "epoch": 10.925,
      "grad_norm": 0.00043646254925988615,
      "learning_rate": 5.437777777777778e-05,
      "loss": 0.0001,
      "step": 6555
    },
    {
      "epoch": 10.933333333333334,
      "grad_norm": 0.0004981097881682217,
      "learning_rate": 5.4266666666666667e-05,
      "loss": 0.0001,
      "step": 6560
    },
    {
      "epoch": 10.941666666666666,
      "grad_norm": 0.0006116084405221045,
      "learning_rate": 5.415555555555556e-05,
      "loss": 0.0001,
      "step": 6565
    },
    {
      "epoch": 10.95,
      "grad_norm": 0.00048679483006708324,
      "learning_rate": 5.404444444444444e-05,
      "loss": 0.0001,
      "step": 6570
    },
    {
      "epoch": 10.958333333333334,
      "grad_norm": 0.000427069520810619,
      "learning_rate": 5.3933333333333334e-05,
      "loss": 0.0001,
      "step": 6575
    },
    {
      "epoch": 10.966666666666667,
      "grad_norm": 0.0006863399175927043,
      "learning_rate": 5.382222222222223e-05,
      "loss": 0.0001,
      "step": 6580
    },
    {
      "epoch": 10.975,
      "grad_norm": 0.0005324517842382193,
      "learning_rate": 5.371111111111111e-05,
      "loss": 0.0001,
      "step": 6585
    },
    {
      "epoch": 10.983333333333333,
      "grad_norm": 0.0004454237932804972,
      "learning_rate": 5.360000000000001e-05,
      "loss": 0.0001,
      "step": 6590
    },
    {
      "epoch": 10.991666666666667,
      "grad_norm": 0.0005078949616290629,
      "learning_rate": 5.3488888888888886e-05,
      "loss": 0.0001,
      "step": 6595
    },
    {
      "epoch": 11.0,
      "grad_norm": 0.00042813902837224305,
      "learning_rate": 5.3377777777777785e-05,
      "loss": 0.0001,
      "step": 6600
    },
    {
      "epoch": 11.0,
      "eval_accuracy": 0.8633333333333333,
      "eval_f1": 0.864330066328504,
      "eval_loss": 0.944277822971344,
      "eval_precision": 0.8810107513206229,
      "eval_recall": 0.8633333333333333,
      "eval_runtime": 17.6021,
      "eval_samples_per_second": 136.348,
      "eval_steps_per_second": 17.043,
      "step": 6600
    },
    {
      "epoch": 11.008333333333333,
      "grad_norm": 0.0004080507205799222,
      "learning_rate": 5.326666666666666e-05,
      "loss": 0.0001,
      "step": 6605
    },
    {
      "epoch": 11.016666666666667,
      "grad_norm": 0.00044348958181217313,
      "learning_rate": 5.315555555555556e-05,
      "loss": 0.0001,
      "step": 6610
    },
    {
      "epoch": 11.025,
      "grad_norm": 0.0004283771850168705,
      "learning_rate": 5.304444444444445e-05,
      "loss": 0.0001,
      "step": 6615
    },
    {
      "epoch": 11.033333333333333,
      "grad_norm": 0.000530613586306572,
      "learning_rate": 5.293333333333334e-05,
      "loss": 0.0001,
      "step": 6620
    },
    {
      "epoch": 11.041666666666666,
      "grad_norm": 0.000475798879051581,
      "learning_rate": 5.282222222222223e-05,
      "loss": 0.0001,
      "step": 6625
    },
    {
      "epoch": 11.05,
      "grad_norm": 0.0004414960276335478,
      "learning_rate": 5.271111111111111e-05,
      "loss": 0.0001,
      "step": 6630
    },
    {
      "epoch": 11.058333333333334,
      "grad_norm": 0.0004929006681777537,
      "learning_rate": 5.2600000000000005e-05,
      "loss": 0.0001,
      "step": 6635
    },
    {
      "epoch": 11.066666666666666,
      "grad_norm": 0.00043918314622715116,
      "learning_rate": 5.248888888888889e-05,
      "loss": 0.0001,
      "step": 6640
    },
    {
      "epoch": 11.075,
      "grad_norm": 0.000489605707116425,
      "learning_rate": 5.237777777777778e-05,
      "loss": 0.0001,
      "step": 6645
    },
    {
      "epoch": 11.083333333333334,
      "grad_norm": 0.00045447825687006116,
      "learning_rate": 5.2266666666666665e-05,
      "loss": 0.0001,
      "step": 6650
    },
    {
      "epoch": 11.091666666666667,
      "grad_norm": 0.0004913217853754759,
      "learning_rate": 5.215555555555556e-05,
      "loss": 0.0001,
      "step": 6655
    },
    {
      "epoch": 11.1,
      "grad_norm": 0.0005261662299744785,
      "learning_rate": 5.204444444444445e-05,
      "loss": 0.0001,
      "step": 6660
    },
    {
      "epoch": 11.108333333333333,
      "grad_norm": 0.0004136196512263268,
      "learning_rate": 5.193333333333333e-05,
      "loss": 0.0001,
      "step": 6665
    },
    {
      "epoch": 11.116666666666667,
      "grad_norm": 0.00047265374450944364,
      "learning_rate": 5.1822222222222224e-05,
      "loss": 0.0001,
      "step": 6670
    },
    {
      "epoch": 11.125,
      "grad_norm": 0.0004815269785467535,
      "learning_rate": 5.171111111111111e-05,
      "loss": 0.0001,
      "step": 6675
    },
    {
      "epoch": 11.133333333333333,
      "grad_norm": 0.0004838843015022576,
      "learning_rate": 5.16e-05,
      "loss": 0.0001,
      "step": 6680
    },
    {
      "epoch": 11.141666666666667,
      "grad_norm": 0.0003990000404883176,
      "learning_rate": 5.1488888888888885e-05,
      "loss": 0.0001,
      "step": 6685
    },
    {
      "epoch": 11.15,
      "grad_norm": 0.0004049370181746781,
      "learning_rate": 5.1377777777777784e-05,
      "loss": 0.0001,
      "step": 6690
    },
    {
      "epoch": 11.158333333333333,
      "grad_norm": 0.000451495434390381,
      "learning_rate": 5.1266666666666675e-05,
      "loss": 0.0001,
      "step": 6695
    },
    {
      "epoch": 11.166666666666666,
      "grad_norm": 0.0005391688900999725,
      "learning_rate": 5.115555555555556e-05,
      "loss": 0.0001,
      "step": 6700
    },
    {
      "epoch": 11.166666666666666,
      "eval_accuracy": 0.8633333333333333,
      "eval_f1": 0.864330066328504,
      "eval_loss": 0.9452080130577087,
      "eval_precision": 0.8810107513206229,
      "eval_recall": 0.8633333333333333,
      "eval_runtime": 17.6489,
      "eval_samples_per_second": 135.986,
      "eval_steps_per_second": 16.998,
      "step": 6700
    },
    {
      "epoch": 11.175,
      "grad_norm": 0.0008758002077229321,
      "learning_rate": 5.104444444444445e-05,
      "loss": 0.0001,
      "step": 6705
    },
    {
      "epoch": 11.183333333333334,
      "grad_norm": 0.000414313719375059,
      "learning_rate": 5.0933333333333336e-05,
      "loss": 0.0001,
      "step": 6710
    },
    {
      "epoch": 11.191666666666666,
      "grad_norm": 0.0004753426765091717,
      "learning_rate": 5.082222222222223e-05,
      "loss": 0.0001,
      "step": 6715
    },
    {
      "epoch": 11.2,
      "grad_norm": 0.00041702896123752,
      "learning_rate": 5.071111111111111e-05,
      "loss": 0.0001,
      "step": 6720
    },
    {
      "epoch": 11.208333333333334,
      "grad_norm": 0.00044887737021781504,
      "learning_rate": 5.0600000000000003e-05,
      "loss": 0.0001,
      "step": 6725
    },
    {
      "epoch": 11.216666666666667,
      "grad_norm": 0.00044703646562993526,
      "learning_rate": 5.0488888888888895e-05,
      "loss": 0.0001,
      "step": 6730
    },
    {
      "epoch": 11.225,
      "grad_norm": 0.00042375276098027825,
      "learning_rate": 5.037777777777778e-05,
      "loss": 0.0001,
      "step": 6735
    },
    {
      "epoch": 11.233333333333333,
      "grad_norm": 0.0006920126033946872,
      "learning_rate": 5.026666666666667e-05,
      "loss": 0.0001,
      "step": 6740
    },
    {
      "epoch": 11.241666666666667,
      "grad_norm": 0.0004402459890116006,
      "learning_rate": 5.0155555555555556e-05,
      "loss": 0.0001,
      "step": 6745
    },
    {
      "epoch": 11.25,
      "grad_norm": 0.0003952866536565125,
      "learning_rate": 5.004444444444445e-05,
      "loss": 0.0001,
      "step": 6750
    },
    {
      "epoch": 11.258333333333333,
      "grad_norm": 0.0004042323853354901,
      "learning_rate": 4.993333333333334e-05,
      "loss": 0.0001,
      "step": 6755
    },
    {
      "epoch": 11.266666666666667,
      "grad_norm": 0.0005386861157603562,
      "learning_rate": 4.982222222222222e-05,
      "loss": 0.0001,
      "step": 6760
    },
    {
      "epoch": 11.275,
      "grad_norm": 0.00046076817670837045,
      "learning_rate": 4.9711111111111115e-05,
      "loss": 0.0001,
      "step": 6765
    },
    {
      "epoch": 11.283333333333333,
      "grad_norm": 0.004599251784384251,
      "learning_rate": 4.96e-05,
      "loss": 0.0001,
      "step": 6770
    },
    {
      "epoch": 11.291666666666666,
      "grad_norm": 0.000450208259280771,
      "learning_rate": 4.948888888888889e-05,
      "loss": 0.0001,
      "step": 6775
    },
    {
      "epoch": 11.3,
      "grad_norm": 0.00040485328645445406,
      "learning_rate": 4.9377777777777776e-05,
      "loss": 0.0001,
      "step": 6780
    },
    {
      "epoch": 11.308333333333334,
      "grad_norm": 0.00040774387889541686,
      "learning_rate": 4.926666666666667e-05,
      "loss": 0.0001,
      "step": 6785
    },
    {
      "epoch": 11.316666666666666,
      "grad_norm": 0.0005254891002550721,
      "learning_rate": 4.915555555555556e-05,
      "loss": 0.0001,
      "step": 6790
    },
    {
      "epoch": 11.325,
      "grad_norm": 0.00043615917093120515,
      "learning_rate": 4.904444444444445e-05,
      "loss": 0.0001,
      "step": 6795
    },
    {
      "epoch": 11.333333333333334,
      "grad_norm": 0.0003923718468286097,
      "learning_rate": 4.8933333333333335e-05,
      "loss": 0.0001,
      "step": 6800
    },
    {
      "epoch": 11.333333333333334,
      "eval_accuracy": 0.86375,
      "eval_f1": 0.864725711242429,
      "eval_loss": 0.9476115703582764,
      "eval_precision": 0.881273140242747,
      "eval_recall": 0.86375,
      "eval_runtime": 17.8683,
      "eval_samples_per_second": 134.316,
      "eval_steps_per_second": 16.79,
      "step": 6800
    },
    {
      "epoch": 11.341666666666667,
      "grad_norm": 0.0006180760683491826,
      "learning_rate": 4.8822222222222226e-05,
      "loss": 0.0001,
      "step": 6805
    },
    {
      "epoch": 11.35,
      "grad_norm": 0.0005142093868926167,
      "learning_rate": 4.871111111111111e-05,
      "loss": 0.0001,
      "step": 6810
    },
    {
      "epoch": 11.358333333333333,
      "grad_norm": 0.0005631820531561971,
      "learning_rate": 4.86e-05,
      "loss": 0.0001,
      "step": 6815
    },
    {
      "epoch": 11.366666666666667,
      "grad_norm": 0.00036497414112091064,
      "learning_rate": 4.848888888888889e-05,
      "loss": 0.0001,
      "step": 6820
    },
    {
      "epoch": 11.375,
      "grad_norm": 0.00045805441914126277,
      "learning_rate": 4.837777777777778e-05,
      "loss": 0.0001,
      "step": 6825
    },
    {
      "epoch": 11.383333333333333,
      "grad_norm": 0.00042192343971692026,
      "learning_rate": 4.826666666666667e-05,
      "loss": 0.0001,
      "step": 6830
    },
    {
      "epoch": 11.391666666666667,
      "grad_norm": 0.0004165252030361444,
      "learning_rate": 4.815555555555556e-05,
      "loss": 0.0001,
      "step": 6835
    },
    {
      "epoch": 11.4,
      "grad_norm": 0.00045163309550844133,
      "learning_rate": 4.8044444444444446e-05,
      "loss": 0.0001,
      "step": 6840
    },
    {
      "epoch": 11.408333333333333,
      "grad_norm": 0.0006483788602054119,
      "learning_rate": 4.793333333333334e-05,
      "loss": 0.0001,
      "step": 6845
    },
    {
      "epoch": 11.416666666666666,
      "grad_norm": 0.00038957633660174906,
      "learning_rate": 4.782222222222222e-05,
      "loss": 0.0001,
      "step": 6850
    },
    {
      "epoch": 11.425,
      "grad_norm": 0.00040401823935098946,
      "learning_rate": 4.7711111111111114e-05,
      "loss": 0.0001,
      "step": 6855
    },
    {
      "epoch": 11.433333333333334,
      "grad_norm": 0.0004593126941472292,
      "learning_rate": 4.76e-05,
      "loss": 0.0001,
      "step": 6860
    },
    {
      "epoch": 11.441666666666666,
      "grad_norm": 0.0007922137156128883,
      "learning_rate": 4.7488888888888897e-05,
      "loss": 0.0001,
      "step": 6865
    },
    {
      "epoch": 11.45,
      "grad_norm": 0.00043834865209646523,
      "learning_rate": 4.737777777777778e-05,
      "loss": 0.0001,
      "step": 6870
    },
    {
      "epoch": 11.458333333333334,
      "grad_norm": 0.00047634841757826507,
      "learning_rate": 4.726666666666667e-05,
      "loss": 0.0001,
      "step": 6875
    },
    {
      "epoch": 11.466666666666667,
      "grad_norm": 0.00041717017302289605,
      "learning_rate": 4.715555555555556e-05,
      "loss": 0.0001,
      "step": 6880
    },
    {
      "epoch": 11.475,
      "grad_norm": 0.00038402125937864184,
      "learning_rate": 4.704444444444445e-05,
      "loss": 0.0001,
      "step": 6885
    },
    {
      "epoch": 11.483333333333333,
      "grad_norm": 0.000405224651331082,
      "learning_rate": 4.6933333333333333e-05,
      "loss": 0.0001,
      "step": 6890
    },
    {
      "epoch": 11.491666666666667,
      "grad_norm": 0.0004862651403527707,
      "learning_rate": 4.6822222222222225e-05,
      "loss": 0.0001,
      "step": 6895
    },
    {
      "epoch": 11.5,
      "grad_norm": 0.0004960226942785084,
      "learning_rate": 4.671111111111111e-05,
      "loss": 0.0001,
      "step": 6900
    },
    {
      "epoch": 11.5,
      "eval_accuracy": 0.86375,
      "eval_f1": 0.864725711242429,
      "eval_loss": 0.9494975805282593,
      "eval_precision": 0.881273140242747,
      "eval_recall": 0.86375,
      "eval_runtime": 17.7012,
      "eval_samples_per_second": 135.584,
      "eval_steps_per_second": 16.948,
      "step": 6900
    },
    {
      "epoch": 11.508333333333333,
      "grad_norm": 0.00045664506615139544,
      "learning_rate": 4.660000000000001e-05,
      "loss": 0.0001,
      "step": 6905
    },
    {
      "epoch": 11.516666666666667,
      "grad_norm": 0.0003789587353821844,
      "learning_rate": 4.648888888888889e-05,
      "loss": 0.0001,
      "step": 6910
    },
    {
      "epoch": 11.525,
      "grad_norm": 0.0004992129979655147,
      "learning_rate": 4.6377777777777784e-05,
      "loss": 0.0001,
      "step": 6915
    },
    {
      "epoch": 11.533333333333333,
      "grad_norm": 0.00041672177030704916,
      "learning_rate": 4.626666666666667e-05,
      "loss": 0.0001,
      "step": 6920
    },
    {
      "epoch": 11.541666666666666,
      "grad_norm": 0.000472287560114637,
      "learning_rate": 4.615555555555556e-05,
      "loss": 0.0001,
      "step": 6925
    },
    {
      "epoch": 11.55,
      "grad_norm": 0.0003784792497754097,
      "learning_rate": 4.6044444444444445e-05,
      "loss": 0.0001,
      "step": 6930
    },
    {
      "epoch": 11.558333333333334,
      "grad_norm": 0.00038753426633775234,
      "learning_rate": 4.5933333333333336e-05,
      "loss": 0.0001,
      "step": 6935
    },
    {
      "epoch": 11.566666666666666,
      "grad_norm": 0.0004541143134701997,
      "learning_rate": 4.582222222222222e-05,
      "loss": 0.0001,
      "step": 6940
    },
    {
      "epoch": 11.575,
      "grad_norm": 0.0004766097117681056,
      "learning_rate": 4.571111111111111e-05,
      "loss": 0.0001,
      "step": 6945
    },
    {
      "epoch": 11.583333333333334,
      "grad_norm": 0.00040916597936302423,
      "learning_rate": 4.5600000000000004e-05,
      "loss": 0.0001,
      "step": 6950
    },
    {
      "epoch": 11.591666666666667,
      "grad_norm": 0.0004146838327869773,
      "learning_rate": 4.5488888888888895e-05,
      "loss": 0.0001,
      "step": 6955
    },
    {
      "epoch": 11.6,
      "grad_norm": 0.0003820495621766895,
      "learning_rate": 4.537777777777778e-05,
      "loss": 0.0001,
      "step": 6960
    },
    {
      "epoch": 11.608333333333333,
      "grad_norm": 0.00039827125146985054,
      "learning_rate": 4.526666666666667e-05,
      "loss": 0.0001,
      "step": 6965
    },
    {
      "epoch": 11.616666666666667,
      "grad_norm": 0.0003548276727087796,
      "learning_rate": 4.5155555555555556e-05,
      "loss": 0.0001,
      "step": 6970
    },
    {
      "epoch": 11.625,
      "grad_norm": 0.00035903521347790956,
      "learning_rate": 4.504444444444445e-05,
      "loss": 0.0001,
      "step": 6975
    },
    {
      "epoch": 11.633333333333333,
      "grad_norm": 0.00040117025491781533,
      "learning_rate": 4.493333333333333e-05,
      "loss": 0.0001,
      "step": 6980
    },
    {
      "epoch": 11.641666666666667,
      "grad_norm": 0.0004281914443708956,
      "learning_rate": 4.4822222222222224e-05,
      "loss": 0.0001,
      "step": 6985
    },
    {
      "epoch": 11.65,
      "grad_norm": 0.0003815935051534325,
      "learning_rate": 4.4711111111111115e-05,
      "loss": 0.0001,
      "step": 6990
    },
    {
      "epoch": 11.658333333333333,
      "grad_norm": 0.00040500544128008187,
      "learning_rate": 4.46e-05,
      "loss": 0.0001,
      "step": 6995
    },
    {
      "epoch": 11.666666666666666,
      "grad_norm": 0.0004268348857294768,
      "learning_rate": 4.448888888888889e-05,
      "loss": 0.0001,
      "step": 7000
    },
    {
      "epoch": 11.666666666666666,
      "eval_accuracy": 0.8641666666666666,
      "eval_f1": 0.865192640846848,
      "eval_loss": 0.9501057863235474,
      "eval_precision": 0.8817847290698438,
      "eval_recall": 0.8641666666666666,
      "eval_runtime": 17.6649,
      "eval_samples_per_second": 135.863,
      "eval_steps_per_second": 16.983,
      "step": 7000
    },
    {
      "epoch": 11.675,
      "grad_norm": 0.0004832124977838248,
      "learning_rate": 4.4377777777777776e-05,
      "loss": 0.0001,
      "step": 7005
    },
    {
      "epoch": 11.683333333333334,
      "grad_norm": 0.00037888638325966895,
      "learning_rate": 4.426666666666667e-05,
      "loss": 0.0001,
      "step": 7010
    },
    {
      "epoch": 11.691666666666666,
      "grad_norm": 0.0005194320692680776,
      "learning_rate": 4.415555555555556e-05,
      "loss": 0.0001,
      "step": 7015
    },
    {
      "epoch": 11.7,
      "grad_norm": 0.0003643563250079751,
      "learning_rate": 4.404444444444445e-05,
      "loss": 0.0001,
      "step": 7020
    },
    {
      "epoch": 11.708333333333334,
      "grad_norm": 0.0003845335158985108,
      "learning_rate": 4.3933333333333335e-05,
      "loss": 0.0001,
      "step": 7025
    },
    {
      "epoch": 11.716666666666667,
      "grad_norm": 0.00039979955181479454,
      "learning_rate": 4.3822222222222227e-05,
      "loss": 0.0001,
      "step": 7030
    },
    {
      "epoch": 11.725,
      "grad_norm": 0.0004408396780490875,
      "learning_rate": 4.371111111111111e-05,
      "loss": 0.0001,
      "step": 7035
    },
    {
      "epoch": 11.733333333333333,
      "grad_norm": 0.0003687916905619204,
      "learning_rate": 4.36e-05,
      "loss": 0.0001,
      "step": 7040
    },
    {
      "epoch": 11.741666666666667,
      "grad_norm": 0.00040316517697647214,
      "learning_rate": 4.348888888888889e-05,
      "loss": 0.0001,
      "step": 7045
    },
    {
      "epoch": 11.75,
      "grad_norm": 0.00042843411210924387,
      "learning_rate": 4.337777777777778e-05,
      "loss": 0.0001,
      "step": 7050
    },
    {
      "epoch": 11.758333333333333,
      "grad_norm": 0.0005045508150942624,
      "learning_rate": 4.3266666666666664e-05,
      "loss": 0.0001,
      "step": 7055
    },
    {
      "epoch": 11.766666666666667,
      "grad_norm": 0.0003871293447446078,
      "learning_rate": 4.315555555555556e-05,
      "loss": 0.0001,
      "step": 7060
    },
    {
      "epoch": 11.775,
      "grad_norm": 0.00043972762068733573,
      "learning_rate": 4.3044444444444446e-05,
      "loss": 0.0001,
      "step": 7065
    },
    {
      "epoch": 11.783333333333333,
      "grad_norm": 0.00036679417826235294,
      "learning_rate": 4.293333333333334e-05,
      "loss": 0.0001,
      "step": 7070
    },
    {
      "epoch": 11.791666666666666,
      "grad_norm": 0.0003923789190594107,
      "learning_rate": 4.282222222222222e-05,
      "loss": 0.0001,
      "step": 7075
    },
    {
      "epoch": 11.8,
      "grad_norm": 0.0004212481144350022,
      "learning_rate": 4.2711111111111114e-05,
      "loss": 0.0001,
      "step": 7080
    },
    {
      "epoch": 11.808333333333334,
      "grad_norm": 0.0004436822491697967,
      "learning_rate": 4.26e-05,
      "loss": 0.0001,
      "step": 7085
    },
    {
      "epoch": 11.816666666666666,
      "grad_norm": 0.0003616039757616818,
      "learning_rate": 4.248888888888889e-05,
      "loss": 0.0001,
      "step": 7090
    },
    {
      "epoch": 11.825,
      "grad_norm": 0.0004137093492317945,
      "learning_rate": 4.2377777777777775e-05,
      "loss": 0.0001,
      "step": 7095
    },
    {
      "epoch": 11.833333333333334,
      "grad_norm": 0.0004276591644156724,
      "learning_rate": 4.226666666666667e-05,
      "loss": 0.0001,
      "step": 7100
    },
    {
      "epoch": 11.833333333333334,
      "eval_accuracy": 0.8645833333333334,
      "eval_f1": 0.865587189127395,
      "eval_loss": 0.9527958035469055,
      "eval_precision": 0.8820469811739925,
      "eval_recall": 0.8645833333333334,
      "eval_runtime": 17.538,
      "eval_samples_per_second": 136.845,
      "eval_steps_per_second": 17.106,
      "step": 7100
    },
    {
      "epoch": 11.841666666666667,
      "grad_norm": 0.00041507623973302543,
      "learning_rate": 4.215555555555556e-05,
      "loss": 0.0001,
      "step": 7105
    },
    {
      "epoch": 11.85,
      "grad_norm": 0.00039873557398095727,
      "learning_rate": 4.204444444444445e-05,
      "loss": 0.0001,
      "step": 7110
    },
    {
      "epoch": 11.858333333333333,
      "grad_norm": 0.00038960357778705657,
      "learning_rate": 4.1933333333333334e-05,
      "loss": 0.0001,
      "step": 7115
    },
    {
      "epoch": 11.866666666666667,
      "grad_norm": 0.0003736205107998103,
      "learning_rate": 4.1822222222222225e-05,
      "loss": 0.0001,
      "step": 7120
    },
    {
      "epoch": 11.875,
      "grad_norm": 0.00036938345874659717,
      "learning_rate": 4.171111111111111e-05,
      "loss": 0.0001,
      "step": 7125
    },
    {
      "epoch": 11.883333333333333,
      "grad_norm": 0.0004335915145929903,
      "learning_rate": 4.16e-05,
      "loss": 0.0001,
      "step": 7130
    },
    {
      "epoch": 11.891666666666667,
      "grad_norm": 0.0003679069341160357,
      "learning_rate": 4.1488888888888886e-05,
      "loss": 0.0001,
      "step": 7135
    },
    {
      "epoch": 11.9,
      "grad_norm": 0.0003678735811263323,
      "learning_rate": 4.1377777777777784e-05,
      "loss": 0.0001,
      "step": 7140
    },
    {
      "epoch": 11.908333333333333,
      "grad_norm": 0.0004684336599893868,
      "learning_rate": 4.126666666666667e-05,
      "loss": 0.0001,
      "step": 7145
    },
    {
      "epoch": 11.916666666666666,
      "grad_norm": 0.0003672477323561907,
      "learning_rate": 4.115555555555556e-05,
      "loss": 0.0001,
      "step": 7150
    },
    {
      "epoch": 11.925,
      "grad_norm": 0.0003758821403607726,
      "learning_rate": 4.1044444444444445e-05,
      "loss": 0.0001,
      "step": 7155
    },
    {
      "epoch": 11.933333333333334,
      "grad_norm": 0.0003522721817716956,
      "learning_rate": 4.093333333333334e-05,
      "loss": 0.0001,
      "step": 7160
    },
    {
      "epoch": 11.941666666666666,
      "grad_norm": 0.00039247781387530267,
      "learning_rate": 4.082222222222222e-05,
      "loss": 0.0001,
      "step": 7165
    },
    {
      "epoch": 11.95,
      "grad_norm": 0.0003704825940076262,
      "learning_rate": 4.071111111111111e-05,
      "loss": 0.0001,
      "step": 7170
    },
    {
      "epoch": 11.958333333333334,
      "grad_norm": 0.0005218173027969897,
      "learning_rate": 4.0600000000000004e-05,
      "loss": 0.0001,
      "step": 7175
    },
    {
      "epoch": 11.966666666666667,
      "grad_norm": 0.0003855483082588762,
      "learning_rate": 4.0488888888888896e-05,
      "loss": 0.0001,
      "step": 7180
    },
    {
      "epoch": 11.975,
      "grad_norm": 0.00038799666799604893,
      "learning_rate": 4.037777777777778e-05,
      "loss": 0.0001,
      "step": 7185
    },
    {
      "epoch": 11.983333333333333,
      "grad_norm": 0.0003974661522079259,
      "learning_rate": 4.026666666666667e-05,
      "loss": 0.0001,
      "step": 7190
    },
    {
      "epoch": 11.991666666666667,
      "grad_norm": 0.001106299925595522,
      "learning_rate": 4.0155555555555557e-05,
      "loss": 0.0001,
      "step": 7195
    },
    {
      "epoch": 12.0,
      "grad_norm": 0.0003653400926850736,
      "learning_rate": 4.004444444444445e-05,
      "loss": 0.0001,
      "step": 7200
    },
    {
      "epoch": 12.0,
      "eval_accuracy": 0.8645833333333334,
      "eval_f1": 0.865587189127395,
      "eval_loss": 0.9546656012535095,
      "eval_precision": 0.8820469811739925,
      "eval_recall": 0.8645833333333334,
      "eval_runtime": 17.5361,
      "eval_samples_per_second": 136.86,
      "eval_steps_per_second": 17.108,
      "step": 7200
    },
    {
      "epoch": 12.008333333333333,
      "grad_norm": 0.0003662406525108963,
      "learning_rate": 3.993333333333333e-05,
      "loss": 0.0001,
      "step": 7205
    },
    {
      "epoch": 12.016666666666667,
      "grad_norm": 0.0003610979183577001,
      "learning_rate": 3.9822222222222224e-05,
      "loss": 0.0001,
      "step": 7210
    },
    {
      "epoch": 12.025,
      "grad_norm": 0.0004870605771429837,
      "learning_rate": 3.9711111111111116e-05,
      "loss": 0.0001,
      "step": 7215
    },
    {
      "epoch": 12.033333333333333,
      "grad_norm": 0.000390051951399073,
      "learning_rate": 3.960000000000001e-05,
      "loss": 0.0001,
      "step": 7220
    },
    {
      "epoch": 12.041666666666666,
      "grad_norm": 0.0003631895233411342,
      "learning_rate": 3.948888888888889e-05,
      "loss": 0.0001,
      "step": 7225
    },
    {
      "epoch": 12.05,
      "grad_norm": 0.0003436820115894079,
      "learning_rate": 3.937777777777778e-05,
      "loss": 0.0001,
      "step": 7230
    },
    {
      "epoch": 12.058333333333334,
      "grad_norm": 0.00039814377669245005,
      "learning_rate": 3.926666666666667e-05,
      "loss": 0.0001,
      "step": 7235
    },
    {
      "epoch": 12.066666666666666,
      "grad_norm": 0.00036083022132515907,
      "learning_rate": 3.915555555555556e-05,
      "loss": 0.0001,
      "step": 7240
    },
    {
      "epoch": 12.075,
      "grad_norm": 0.0003873124369420111,
      "learning_rate": 3.9044444444444444e-05,
      "loss": 0.0001,
      "step": 7245
    },
    {
      "epoch": 12.083333333333334,
      "grad_norm": 0.0003957589506171644,
      "learning_rate": 3.8933333333333336e-05,
      "loss": 0.0001,
      "step": 7250
    },
    {
      "epoch": 12.091666666666667,
      "grad_norm": 0.0003347657329868525,
      "learning_rate": 3.882222222222223e-05,
      "loss": 0.0001,
      "step": 7255
    },
    {
      "epoch": 12.1,
      "grad_norm": 0.0003653514140751213,
      "learning_rate": 3.871111111111111e-05,
      "loss": 0.0001,
      "step": 7260
    },
    {
      "epoch": 12.108333333333333,
      "grad_norm": 0.00044814677676185966,
      "learning_rate": 3.86e-05,
      "loss": 0.0001,
      "step": 7265
    },
    {
      "epoch": 12.116666666666667,
      "grad_norm": 0.0003516363794915378,
      "learning_rate": 3.848888888888889e-05,
      "loss": 0.0001,
      "step": 7270
    },
    {
      "epoch": 12.125,
      "grad_norm": 0.0003772056370507926,
      "learning_rate": 3.837777777777778e-05,
      "loss": 0.0001,
      "step": 7275
    },
    {
      "epoch": 12.133333333333333,
      "grad_norm": 0.00041462588706053793,
      "learning_rate": 3.8266666666666664e-05,
      "loss": 0.0001,
      "step": 7280
    },
    {
      "epoch": 12.141666666666667,
      "grad_norm": 0.00036860586260445416,
      "learning_rate": 3.8155555555555555e-05,
      "loss": 0.0001,
      "step": 7285
    },
    {
      "epoch": 12.15,
      "grad_norm": 0.00040421748417429626,
      "learning_rate": 3.804444444444445e-05,
      "loss": 0.0001,
      "step": 7290
    },
    {
      "epoch": 12.158333333333333,
      "grad_norm": 0.0003685371484607458,
      "learning_rate": 3.793333333333334e-05,
      "loss": 0.0001,
      "step": 7295
    },
    {
      "epoch": 12.166666666666666,
      "grad_norm": 0.0003591340791899711,
      "learning_rate": 3.782222222222222e-05,
      "loss": 0.0001,
      "step": 7300
    },
    {
      "epoch": 12.166666666666666,
      "eval_accuracy": 0.8645833333333334,
      "eval_f1": 0.865587189127395,
      "eval_loss": 0.9573516845703125,
      "eval_precision": 0.8820469811739925,
      "eval_recall": 0.8645833333333334,
      "eval_runtime": 17.7288,
      "eval_samples_per_second": 135.373,
      "eval_steps_per_second": 16.922,
      "step": 7300
    },
    {
      "epoch": 12.175,
      "grad_norm": 0.00040932194679044187,
      "learning_rate": 3.7711111111111114e-05,
      "loss": 0.0001,
      "step": 7305
    },
    {
      "epoch": 12.183333333333334,
      "grad_norm": 0.00033335015177726746,
      "learning_rate": 3.76e-05,
      "loss": 0.0001,
      "step": 7310
    },
    {
      "epoch": 12.191666666666666,
      "grad_norm": 0.00044575653737410903,
      "learning_rate": 3.748888888888889e-05,
      "loss": 0.0001,
      "step": 7315
    },
    {
      "epoch": 12.2,
      "grad_norm": 0.00040500701288692653,
      "learning_rate": 3.7377777777777775e-05,
      "loss": 0.0001,
      "step": 7320
    },
    {
      "epoch": 12.208333333333334,
      "grad_norm": 0.00036840682150796056,
      "learning_rate": 3.726666666666667e-05,
      "loss": 0.0001,
      "step": 7325
    },
    {
      "epoch": 12.216666666666667,
      "grad_norm": 0.0005750312120653689,
      "learning_rate": 3.715555555555555e-05,
      "loss": 0.0001,
      "step": 7330
    },
    {
      "epoch": 12.225,
      "grad_norm": 0.0004222468414809555,
      "learning_rate": 3.704444444444445e-05,
      "loss": 0.0001,
      "step": 7335
    },
    {
      "epoch": 12.233333333333333,
      "grad_norm": 0.0004027243994642049,
      "learning_rate": 3.6933333333333334e-05,
      "loss": 0.0001,
      "step": 7340
    },
    {
      "epoch": 12.241666666666667,
      "grad_norm": 0.00036358527722768486,
      "learning_rate": 3.6822222222222226e-05,
      "loss": 0.0001,
      "step": 7345
    },
    {
      "epoch": 12.25,
      "grad_norm": 0.00043411835213191807,
      "learning_rate": 3.671111111111111e-05,
      "loss": 0.0001,
      "step": 7350
    },
    {
      "epoch": 12.258333333333333,
      "grad_norm": 0.0003523237246554345,
      "learning_rate": 3.66e-05,
      "loss": 0.0001,
      "step": 7355
    },
    {
      "epoch": 12.266666666666667,
      "grad_norm": 0.0004175624926574528,
      "learning_rate": 3.648888888888889e-05,
      "loss": 0.0001,
      "step": 7360
    },
    {
      "epoch": 12.275,
      "grad_norm": 0.0003597544855438173,
      "learning_rate": 3.637777777777778e-05,
      "loss": 0.0001,
      "step": 7365
    },
    {
      "epoch": 12.283333333333333,
      "grad_norm": 0.00035675588878802955,
      "learning_rate": 3.626666666666667e-05,
      "loss": 0.0001,
      "step": 7370
    },
    {
      "epoch": 12.291666666666666,
      "grad_norm": 0.00034360712743364275,
      "learning_rate": 3.615555555555556e-05,
      "loss": 0.0001,
      "step": 7375
    },
    {
      "epoch": 12.3,
      "grad_norm": 0.0003390805213712156,
      "learning_rate": 3.6044444444444446e-05,
      "loss": 0.0001,
      "step": 7380
    },
    {
      "epoch": 12.308333333333334,
      "grad_norm": 0.0004194314533378929,
      "learning_rate": 3.593333333333334e-05,
      "loss": 0.0001,
      "step": 7385
    },
    {
      "epoch": 12.316666666666666,
      "grad_norm": 0.0003593381552491337,
      "learning_rate": 3.582222222222222e-05,
      "loss": 0.0001,
      "step": 7390
    },
    {
      "epoch": 12.325,
      "grad_norm": 0.00040089330286718905,
      "learning_rate": 3.571111111111111e-05,
      "loss": 0.0001,
      "step": 7395
    },
    {
      "epoch": 12.333333333333334,
      "grad_norm": 0.0003728847368620336,
      "learning_rate": 3.56e-05,
      "loss": 0.0001,
      "step": 7400
    },
    {
      "epoch": 12.333333333333334,
      "eval_accuracy": 0.8645833333333334,
      "eval_f1": 0.865587189127395,
      "eval_loss": 0.9585687518119812,
      "eval_precision": 0.8820469811739925,
      "eval_recall": 0.8645833333333334,
      "eval_runtime": 17.7207,
      "eval_samples_per_second": 135.434,
      "eval_steps_per_second": 16.929,
      "step": 7400
    },
    {
      "epoch": 12.341666666666667,
      "grad_norm": 0.00035744474735111,
      "learning_rate": 3.548888888888889e-05,
      "loss": 0.0001,
      "step": 7405
    },
    {
      "epoch": 12.35,
      "grad_norm": 0.0003528539673425257,
      "learning_rate": 3.537777777777778e-05,
      "loss": 0.0001,
      "step": 7410
    },
    {
      "epoch": 12.358333333333333,
      "grad_norm": 0.0003264168044552207,
      "learning_rate": 3.526666666666667e-05,
      "loss": 0.0001,
      "step": 7415
    },
    {
      "epoch": 12.366666666666667,
      "grad_norm": 0.0003701722889672965,
      "learning_rate": 3.515555555555556e-05,
      "loss": 0.0001,
      "step": 7420
    },
    {
      "epoch": 12.375,
      "grad_norm": 0.0003455628757365048,
      "learning_rate": 3.504444444444445e-05,
      "loss": 0.0001,
      "step": 7425
    },
    {
      "epoch": 12.383333333333333,
      "grad_norm": 0.0003329861501697451,
      "learning_rate": 3.493333333333333e-05,
      "loss": 0.0001,
      "step": 7430
    },
    {
      "epoch": 12.391666666666667,
      "grad_norm": 0.0004842393100261688,
      "learning_rate": 3.4822222222222225e-05,
      "loss": 0.0001,
      "step": 7435
    },
    {
      "epoch": 12.4,
      "grad_norm": 0.0003474503755569458,
      "learning_rate": 3.471111111111111e-05,
      "loss": 0.0001,
      "step": 7440
    },
    {
      "epoch": 12.408333333333333,
      "grad_norm": 0.000346761429682374,
      "learning_rate": 3.46e-05,
      "loss": 0.0001,
      "step": 7445
    },
    {
      "epoch": 12.416666666666666,
      "grad_norm": 0.0003638790512923151,
      "learning_rate": 3.448888888888889e-05,
      "loss": 0.0001,
      "step": 7450
    },
    {
      "epoch": 12.425,
      "grad_norm": 0.00038869131822139025,
      "learning_rate": 3.4377777777777784e-05,
      "loss": 0.0001,
      "step": 7455
    },
    {
      "epoch": 12.433333333333334,
      "grad_norm": 0.00033984091714955866,
      "learning_rate": 3.426666666666667e-05,
      "loss": 0.0001,
      "step": 7460
    },
    {
      "epoch": 12.441666666666666,
      "grad_norm": 0.00031711068004369736,
      "learning_rate": 3.415555555555556e-05,
      "loss": 0.0001,
      "step": 7465
    },
    {
      "epoch": 12.45,
      "grad_norm": 0.00031471136026084423,
      "learning_rate": 3.4044444444444445e-05,
      "loss": 0.0001,
      "step": 7470
    },
    {
      "epoch": 12.458333333333334,
      "grad_norm": 0.00038867161492817104,
      "learning_rate": 3.3933333333333336e-05,
      "loss": 0.0001,
      "step": 7475
    },
    {
      "epoch": 12.466666666666667,
      "grad_norm": 0.0004215965745970607,
      "learning_rate": 3.382222222222222e-05,
      "loss": 0.0001,
      "step": 7480
    },
    {
      "epoch": 12.475,
      "grad_norm": 0.00034399592550471425,
      "learning_rate": 3.371111111111111e-05,
      "loss": 0.0001,
      "step": 7485
    },
    {
      "epoch": 12.483333333333333,
      "grad_norm": 0.0003386371536180377,
      "learning_rate": 3.3600000000000004e-05,
      "loss": 0.0001,
      "step": 7490
    },
    {
      "epoch": 12.491666666666667,
      "grad_norm": 0.0003174695011693984,
      "learning_rate": 3.3488888888888895e-05,
      "loss": 0.0001,
      "step": 7495
    },
    {
      "epoch": 12.5,
      "grad_norm": 0.00035014082095585763,
      "learning_rate": 3.337777777777778e-05,
      "loss": 0.0001,
      "step": 7500
    },
    {
      "epoch": 12.5,
      "eval_accuracy": 0.8645833333333334,
      "eval_f1": 0.865587189127395,
      "eval_loss": 0.9593654274940491,
      "eval_precision": 0.8820469811739925,
      "eval_recall": 0.8645833333333334,
      "eval_runtime": 17.4463,
      "eval_samples_per_second": 137.565,
      "eval_steps_per_second": 17.196,
      "step": 7500
    },
    {
      "epoch": 12.508333333333333,
      "grad_norm": 0.00033302445081062615,
      "learning_rate": 3.326666666666667e-05,
      "loss": 0.0001,
      "step": 7505
    },
    {
      "epoch": 12.516666666666667,
      "grad_norm": 0.00036470082704909146,
      "learning_rate": 3.3155555555555556e-05,
      "loss": 0.0001,
      "step": 7510
    },
    {
      "epoch": 12.525,
      "grad_norm": 0.00031504439539276063,
      "learning_rate": 3.304444444444445e-05,
      "loss": 0.0001,
      "step": 7515
    },
    {
      "epoch": 12.533333333333333,
      "grad_norm": 0.0003465847694315016,
      "learning_rate": 3.293333333333333e-05,
      "loss": 0.0001,
      "step": 7520
    },
    {
      "epoch": 12.541666666666666,
      "grad_norm": 0.0004055178433191031,
      "learning_rate": 3.2822222222222223e-05,
      "loss": 0.0001,
      "step": 7525
    },
    {
      "epoch": 12.55,
      "grad_norm": 0.0003628117556218058,
      "learning_rate": 3.2711111111111115e-05,
      "loss": 0.0001,
      "step": 7530
    },
    {
      "epoch": 12.558333333333334,
      "grad_norm": 0.000350547197740525,
      "learning_rate": 3.26e-05,
      "loss": 0.0001,
      "step": 7535
    },
    {
      "epoch": 12.566666666666666,
      "grad_norm": 0.0003339095273986459,
      "learning_rate": 3.248888888888889e-05,
      "loss": 0.0001,
      "step": 7540
    },
    {
      "epoch": 12.575,
      "grad_norm": 0.00032325348001904786,
      "learning_rate": 3.2377777777777776e-05,
      "loss": 0.0001,
      "step": 7545
    },
    {
      "epoch": 12.583333333333334,
      "grad_norm": 0.0003439257270656526,
      "learning_rate": 3.226666666666667e-05,
      "loss": 0.0001,
      "step": 7550
    },
    {
      "epoch": 12.591666666666667,
      "grad_norm": 0.0003353119536768645,
      "learning_rate": 3.215555555555556e-05,
      "loss": 0.0001,
      "step": 7555
    },
    {
      "epoch": 12.6,
      "grad_norm": 0.0003376305685378611,
      "learning_rate": 3.204444444444444e-05,
      "loss": 0.0001,
      "step": 7560
    },
    {
      "epoch": 12.608333333333333,
      "grad_norm": 0.00032603071304038167,
      "learning_rate": 3.1933333333333335e-05,
      "loss": 0.0001,
      "step": 7565
    },
    {
      "epoch": 12.616666666666667,
      "grad_norm": 0.0003268581349402666,
      "learning_rate": 3.1822222222222226e-05,
      "loss": 0.0001,
      "step": 7570
    },
    {
      "epoch": 12.625,
      "grad_norm": 0.00038268559728749096,
      "learning_rate": 3.171111111111111e-05,
      "loss": 0.0001,
      "step": 7575
    },
    {
      "epoch": 12.633333333333333,
      "grad_norm": 0.0003358358808327466,
      "learning_rate": 3.16e-05,
      "loss": 0.0001,
      "step": 7580
    },
    {
      "epoch": 12.641666666666667,
      "grad_norm": 0.00031553235021419823,
      "learning_rate": 3.148888888888889e-05,
      "loss": 0.0001,
      "step": 7585
    },
    {
      "epoch": 12.65,
      "grad_norm": 0.0003590410924516618,
      "learning_rate": 3.137777777777778e-05,
      "loss": 0.0001,
      "step": 7590
    },
    {
      "epoch": 12.658333333333333,
      "grad_norm": 0.00038025534013286233,
      "learning_rate": 3.126666666666666e-05,
      "loss": 0.0001,
      "step": 7595
    },
    {
      "epoch": 12.666666666666666,
      "grad_norm": 0.000332056573824957,
      "learning_rate": 3.1155555555555555e-05,
      "loss": 0.0001,
      "step": 7600
    },
    {
      "epoch": 12.666666666666666,
      "eval_accuracy": 0.8645833333333334,
      "eval_f1": 0.865587189127395,
      "eval_loss": 0.96112459897995,
      "eval_precision": 0.8820469811739925,
      "eval_recall": 0.8645833333333334,
      "eval_runtime": 17.7319,
      "eval_samples_per_second": 135.349,
      "eval_steps_per_second": 16.919,
      "step": 7600
    },
    {
      "epoch": 12.675,
      "grad_norm": 0.00032077901414595544,
      "learning_rate": 3.1044444444444446e-05,
      "loss": 0.0001,
      "step": 7605
    },
    {
      "epoch": 12.683333333333334,
      "grad_norm": 0.00035103983827866614,
      "learning_rate": 3.093333333333334e-05,
      "loss": 0.0001,
      "step": 7610
    },
    {
      "epoch": 12.691666666666666,
      "grad_norm": 0.0003372014907654375,
      "learning_rate": 3.082222222222222e-05,
      "loss": 0.0001,
      "step": 7615
    },
    {
      "epoch": 12.7,
      "grad_norm": 0.0003348416357766837,
      "learning_rate": 3.0711111111111114e-05,
      "loss": 0.0001,
      "step": 7620
    },
    {
      "epoch": 12.708333333333334,
      "grad_norm": 0.00034717508242465556,
      "learning_rate": 3.06e-05,
      "loss": 0.0001,
      "step": 7625
    },
    {
      "epoch": 12.716666666666667,
      "grad_norm": 0.00034517323365435004,
      "learning_rate": 3.048888888888889e-05,
      "loss": 0.0001,
      "step": 7630
    },
    {
      "epoch": 12.725,
      "grad_norm": 0.0003300884854979813,
      "learning_rate": 3.0377777777777778e-05,
      "loss": 0.0001,
      "step": 7635
    },
    {
      "epoch": 12.733333333333333,
      "grad_norm": 0.0003249687433708459,
      "learning_rate": 3.0266666666666666e-05,
      "loss": 0.0001,
      "step": 7640
    },
    {
      "epoch": 12.741666666666667,
      "grad_norm": 0.0003320074174553156,
      "learning_rate": 3.0155555555555557e-05,
      "loss": 0.0001,
      "step": 7645
    },
    {
      "epoch": 12.75,
      "grad_norm": 0.00042673959978856146,
      "learning_rate": 3.004444444444445e-05,
      "loss": 0.0001,
      "step": 7650
    },
    {
      "epoch": 12.758333333333333,
      "grad_norm": 0.00040425368933938444,
      "learning_rate": 2.9933333333333337e-05,
      "loss": 0.0001,
      "step": 7655
    },
    {
      "epoch": 12.766666666666667,
      "grad_norm": 0.0003544795326888561,
      "learning_rate": 2.9822222222222225e-05,
      "loss": 0.0001,
      "step": 7660
    },
    {
      "epoch": 12.775,
      "grad_norm": 0.00033589056693017483,
      "learning_rate": 2.9711111111111113e-05,
      "loss": 0.0001,
      "step": 7665
    },
    {
      "epoch": 12.783333333333333,
      "grad_norm": 0.00037719120155088603,
      "learning_rate": 2.96e-05,
      "loss": 0.0001,
      "step": 7670
    },
    {
      "epoch": 12.791666666666666,
      "grad_norm": 0.0002941965649370104,
      "learning_rate": 2.948888888888889e-05,
      "loss": 0.0001,
      "step": 7675
    },
    {
      "epoch": 12.8,
      "grad_norm": 0.0003433612291701138,
      "learning_rate": 2.937777777777778e-05,
      "loss": 0.0001,
      "step": 7680
    },
    {
      "epoch": 12.808333333333334,
      "grad_norm": 0.00029390249983407557,
      "learning_rate": 2.926666666666667e-05,
      "loss": 0.0001,
      "step": 7685
    },
    {
      "epoch": 12.816666666666666,
      "grad_norm": 0.00035500366357155144,
      "learning_rate": 2.9155555555555557e-05,
      "loss": 0.0001,
      "step": 7690
    },
    {
      "epoch": 12.825,
      "grad_norm": 0.0004333957040216774,
      "learning_rate": 2.9044444444444445e-05,
      "loss": 0.0001,
      "step": 7695
    },
    {
      "epoch": 12.833333333333334,
      "grad_norm": 0.0003310588072054088,
      "learning_rate": 2.8933333333333333e-05,
      "loss": 0.0001,
      "step": 7700
    },
    {
      "epoch": 12.833333333333334,
      "eval_accuracy": 0.8645833333333334,
      "eval_f1": 0.865587189127395,
      "eval_loss": 0.9626559615135193,
      "eval_precision": 0.8820469811739925,
      "eval_recall": 0.8645833333333334,
      "eval_runtime": 17.753,
      "eval_samples_per_second": 135.188,
      "eval_steps_per_second": 16.899,
      "step": 7700
    },
    {
      "epoch": 12.841666666666667,
      "grad_norm": 0.0003392478683963418,
      "learning_rate": 2.882222222222222e-05,
      "loss": 0.0001,
      "step": 7705
    },
    {
      "epoch": 12.85,
      "grad_norm": 0.0003188283590134233,
      "learning_rate": 2.8711111111111113e-05,
      "loss": 0.0001,
      "step": 7710
    },
    {
      "epoch": 12.858333333333333,
      "grad_norm": 0.0003504438791424036,
      "learning_rate": 2.86e-05,
      "loss": 0.0001,
      "step": 7715
    },
    {
      "epoch": 12.866666666666667,
      "grad_norm": 0.0003973241546191275,
      "learning_rate": 2.8488888888888892e-05,
      "loss": 0.0001,
      "step": 7720
    },
    {
      "epoch": 12.875,
      "grad_norm": 0.00029623613227158785,
      "learning_rate": 2.837777777777778e-05,
      "loss": 0.0001,
      "step": 7725
    },
    {
      "epoch": 12.883333333333333,
      "grad_norm": 0.000314823177177459,
      "learning_rate": 2.8266666666666668e-05,
      "loss": 0.0001,
      "step": 7730
    },
    {
      "epoch": 12.891666666666667,
      "grad_norm": 0.00035934970946982503,
      "learning_rate": 2.8155555555555556e-05,
      "loss": 0.0001,
      "step": 7735
    },
    {
      "epoch": 12.9,
      "grad_norm": 0.0003560608602128923,
      "learning_rate": 2.8044444444444444e-05,
      "loss": 0.0001,
      "step": 7740
    },
    {
      "epoch": 12.908333333333333,
      "grad_norm": 0.0003571741108316928,
      "learning_rate": 2.7933333333333332e-05,
      "loss": 0.0001,
      "step": 7745
    },
    {
      "epoch": 12.916666666666666,
      "grad_norm": 0.0003410628705751151,
      "learning_rate": 2.782222222222222e-05,
      "loss": 0.0001,
      "step": 7750
    },
    {
      "epoch": 12.925,
      "grad_norm": 0.000322529609547928,
      "learning_rate": 2.771111111111111e-05,
      "loss": 0.0001,
      "step": 7755
    },
    {
      "epoch": 12.933333333333334,
      "grad_norm": 0.0003246671403758228,
      "learning_rate": 2.7600000000000003e-05,
      "loss": 0.0001,
      "step": 7760
    },
    {
      "epoch": 12.941666666666666,
      "grad_norm": 0.0003139252949040383,
      "learning_rate": 2.748888888888889e-05,
      "loss": 0.0001,
      "step": 7765
    },
    {
      "epoch": 12.95,
      "grad_norm": 0.0003654337197076529,
      "learning_rate": 2.737777777777778e-05,
      "loss": 0.0001,
      "step": 7770
    },
    {
      "epoch": 12.958333333333334,
      "grad_norm": 0.0003760287072509527,
      "learning_rate": 2.7266666666666668e-05,
      "loss": 0.0001,
      "step": 7775
    },
    {
      "epoch": 12.966666666666667,
      "grad_norm": 0.00032198926783166826,
      "learning_rate": 2.7155555555555556e-05,
      "loss": 0.0001,
      "step": 7780
    },
    {
      "epoch": 12.975,
      "grad_norm": 0.00038704334292560816,
      "learning_rate": 2.7044444444444444e-05,
      "loss": 0.0001,
      "step": 7785
    },
    {
      "epoch": 12.983333333333333,
      "grad_norm": 0.0003314315981697291,
      "learning_rate": 2.6933333333333332e-05,
      "loss": 0.0001,
      "step": 7790
    },
    {
      "epoch": 12.991666666666667,
      "grad_norm": 0.00036573471152223647,
      "learning_rate": 2.682222222222222e-05,
      "loss": 0.0001,
      "step": 7795
    },
    {
      "epoch": 13.0,
      "grad_norm": 0.0003320177202112973,
      "learning_rate": 2.6711111111111115e-05,
      "loss": 0.0001,
      "step": 7800
    },
    {
      "epoch": 13.0,
      "eval_accuracy": 0.8645833333333334,
      "eval_f1": 0.865587189127395,
      "eval_loss": 0.9639073610305786,
      "eval_precision": 0.8820469811739925,
      "eval_recall": 0.8645833333333334,
      "eval_runtime": 17.8577,
      "eval_samples_per_second": 134.396,
      "eval_steps_per_second": 16.8,
      "step": 7800
    },
    {
      "epoch": 13.008333333333333,
      "grad_norm": 0.0003666125703603029,
      "learning_rate": 2.6600000000000003e-05,
      "loss": 0.0001,
      "step": 7805
    },
    {
      "epoch": 13.016666666666667,
      "grad_norm": 0.00048466725274920464,
      "learning_rate": 2.648888888888889e-05,
      "loss": 0.0001,
      "step": 7810
    },
    {
      "epoch": 13.025,
      "grad_norm": 0.00037589692510664463,
      "learning_rate": 2.637777777777778e-05,
      "loss": 0.0001,
      "step": 7815
    },
    {
      "epoch": 13.033333333333333,
      "grad_norm": 0.0003019583527930081,
      "learning_rate": 2.6266666666666667e-05,
      "loss": 0.0001,
      "step": 7820
    },
    {
      "epoch": 13.041666666666666,
      "grad_norm": 0.0003713055921252817,
      "learning_rate": 2.6155555555555555e-05,
      "loss": 0.0001,
      "step": 7825
    },
    {
      "epoch": 13.05,
      "grad_norm": 0.00031494672293774784,
      "learning_rate": 2.6044444444444443e-05,
      "loss": 0.0001,
      "step": 7830
    },
    {
      "epoch": 13.058333333333334,
      "grad_norm": 0.00034609794965945184,
      "learning_rate": 2.5933333333333338e-05,
      "loss": 0.0001,
      "step": 7835
    },
    {
      "epoch": 13.066666666666666,
      "grad_norm": 0.00031799072166904807,
      "learning_rate": 2.5822222222222226e-05,
      "loss": 0.0001,
      "step": 7840
    },
    {
      "epoch": 13.075,
      "grad_norm": 0.0003262283862568438,
      "learning_rate": 2.5711111111111114e-05,
      "loss": 0.0001,
      "step": 7845
    },
    {
      "epoch": 13.083333333333334,
      "grad_norm": 0.00036262886715121567,
      "learning_rate": 2.5600000000000002e-05,
      "loss": 0.0001,
      "step": 7850
    },
    {
      "epoch": 13.091666666666667,
      "grad_norm": 0.00035631045466288924,
      "learning_rate": 2.548888888888889e-05,
      "loss": 0.0001,
      "step": 7855
    },
    {
      "epoch": 13.1,
      "grad_norm": 0.00029357249150052667,
      "learning_rate": 2.537777777777778e-05,
      "loss": 0.0001,
      "step": 7860
    },
    {
      "epoch": 13.108333333333333,
      "grad_norm": 0.00033006296143867075,
      "learning_rate": 2.5266666666666666e-05,
      "loss": 0.0001,
      "step": 7865
    },
    {
      "epoch": 13.116666666666667,
      "grad_norm": 0.0003028307983186096,
      "learning_rate": 2.5155555555555555e-05,
      "loss": 0.0001,
      "step": 7870
    },
    {
      "epoch": 13.125,
      "grad_norm": 0.0003277836076449603,
      "learning_rate": 2.504444444444445e-05,
      "loss": 0.0001,
      "step": 7875
    },
    {
      "epoch": 13.133333333333333,
      "grad_norm": 0.0002865967690013349,
      "learning_rate": 2.4933333333333334e-05,
      "loss": 0.0001,
      "step": 7880
    },
    {
      "epoch": 13.141666666666667,
      "grad_norm": 0.0003001636068802327,
      "learning_rate": 2.4822222222222225e-05,
      "loss": 0.0001,
      "step": 7885
    },
    {
      "epoch": 13.15,
      "grad_norm": 0.00031909107929095626,
      "learning_rate": 2.4711111111111114e-05,
      "loss": 0.0001,
      "step": 7890
    },
    {
      "epoch": 13.158333333333333,
      "grad_norm": 0.00033786686253733933,
      "learning_rate": 2.46e-05,
      "loss": 0.0001,
      "step": 7895
    },
    {
      "epoch": 13.166666666666666,
      "grad_norm": 0.0003008818021044135,
      "learning_rate": 2.448888888888889e-05,
      "loss": 0.0001,
      "step": 7900
    },
    {
      "epoch": 13.166666666666666,
      "eval_accuracy": 0.8645833333333334,
      "eval_f1": 0.865587189127395,
      "eval_loss": 0.9655697345733643,
      "eval_precision": 0.8820469811739925,
      "eval_recall": 0.8645833333333334,
      "eval_runtime": 17.5584,
      "eval_samples_per_second": 136.687,
      "eval_steps_per_second": 17.086,
      "step": 7900
    },
    {
      "epoch": 13.175,
      "grad_norm": 0.00032737653236836195,
      "learning_rate": 2.437777777777778e-05,
      "loss": 0.0001,
      "step": 7905
    },
    {
      "epoch": 13.183333333333334,
      "grad_norm": 0.00031556232715956867,
      "learning_rate": 2.426666666666667e-05,
      "loss": 0.0001,
      "step": 7910
    },
    {
      "epoch": 13.191666666666666,
      "grad_norm": 0.00031697534723207355,
      "learning_rate": 2.4155555555555557e-05,
      "loss": 0.0001,
      "step": 7915
    },
    {
      "epoch": 13.2,
      "grad_norm": 0.000308387418044731,
      "learning_rate": 2.4044444444444445e-05,
      "loss": 0.0001,
      "step": 7920
    },
    {
      "epoch": 13.208333333333334,
      "grad_norm": 0.00039142376044765115,
      "learning_rate": 2.3933333333333337e-05,
      "loss": 0.0001,
      "step": 7925
    },
    {
      "epoch": 13.216666666666667,
      "grad_norm": 0.0002837567881215364,
      "learning_rate": 2.3822222222222225e-05,
      "loss": 0.0001,
      "step": 7930
    },
    {
      "epoch": 13.225,
      "grad_norm": 0.00047886421089060605,
      "learning_rate": 2.3711111111111113e-05,
      "loss": 0.0001,
      "step": 7935
    },
    {
      "epoch": 13.233333333333333,
      "grad_norm": 0.00030585797503590584,
      "learning_rate": 2.36e-05,
      "loss": 0.0001,
      "step": 7940
    },
    {
      "epoch": 13.241666666666667,
      "grad_norm": 0.0003038716677110642,
      "learning_rate": 2.3488888888888893e-05,
      "loss": 0.0001,
      "step": 7945
    },
    {
      "epoch": 13.25,
      "grad_norm": 0.0003066827484872192,
      "learning_rate": 2.337777777777778e-05,
      "loss": 0.0001,
      "step": 7950
    },
    {
      "epoch": 13.258333333333333,
      "grad_norm": 0.00030949179199524224,
      "learning_rate": 2.326666666666667e-05,
      "loss": 0.0001,
      "step": 7955
    },
    {
      "epoch": 13.266666666666667,
      "grad_norm": 0.0003003813326358795,
      "learning_rate": 2.3155555555555557e-05,
      "loss": 0.0001,
      "step": 7960
    },
    {
      "epoch": 13.275,
      "grad_norm": 0.0002910624025389552,
      "learning_rate": 2.3044444444444445e-05,
      "loss": 0.0001,
      "step": 7965
    },
    {
      "epoch": 13.283333333333333,
      "grad_norm": 0.0003311701584607363,
      "learning_rate": 2.2933333333333333e-05,
      "loss": 0.0001,
      "step": 7970
    },
    {
      "epoch": 13.291666666666666,
      "grad_norm": 0.00037477308069355786,
      "learning_rate": 2.282222222222222e-05,
      "loss": 0.0001,
      "step": 7975
    },
    {
      "epoch": 13.3,
      "grad_norm": 0.0002823363756760955,
      "learning_rate": 2.2711111111111112e-05,
      "loss": 0.0001,
      "step": 7980
    },
    {
      "epoch": 13.308333333333334,
      "grad_norm": 0.0002898516831919551,
      "learning_rate": 2.26e-05,
      "loss": 0.0001,
      "step": 7985
    },
    {
      "epoch": 13.316666666666666,
      "grad_norm": 0.00029295778949745,
      "learning_rate": 2.248888888888889e-05,
      "loss": 0.0001,
      "step": 7990
    },
    {
      "epoch": 13.325,
      "grad_norm": 0.00029870355501770973,
      "learning_rate": 2.2377777777777777e-05,
      "loss": 0.0001,
      "step": 7995
    },
    {
      "epoch": 13.333333333333334,
      "grad_norm": 0.0002985547762364149,
      "learning_rate": 2.2266666666666668e-05,
      "loss": 0.0001,
      "step": 8000
    },
    {
      "epoch": 13.333333333333334,
      "eval_accuracy": 0.8645833333333334,
      "eval_f1": 0.8655130845942653,
      "eval_loss": 0.9661634564399719,
      "eval_precision": 0.8820249693519275,
      "eval_recall": 0.8645833333333334,
      "eval_runtime": 17.9823,
      "eval_samples_per_second": 133.464,
      "eval_steps_per_second": 16.683,
      "step": 8000
    },
    {
      "epoch": 13.341666666666667,
      "grad_norm": 0.00029364932561293244,
      "learning_rate": 2.2155555555555556e-05,
      "loss": 0.0001,
      "step": 8005
    },
    {
      "epoch": 13.35,
      "grad_norm": 0.00027930334908887744,
      "learning_rate": 2.2044444444444444e-05,
      "loss": 0.0001,
      "step": 8010
    },
    {
      "epoch": 13.358333333333333,
      "grad_norm": 0.00029892328893765807,
      "learning_rate": 2.1933333333333332e-05,
      "loss": 0.0001,
      "step": 8015
    },
    {
      "epoch": 13.366666666666667,
      "grad_norm": 0.0003346849698573351,
      "learning_rate": 2.1822222222222224e-05,
      "loss": 0.0001,
      "step": 8020
    },
    {
      "epoch": 13.375,
      "grad_norm": 0.0003122373600490391,
      "learning_rate": 2.1711111111111112e-05,
      "loss": 0.0001,
      "step": 8025
    },
    {
      "epoch": 13.383333333333333,
      "grad_norm": 0.00029581954004243016,
      "learning_rate": 2.16e-05,
      "loss": 0.0001,
      "step": 8030
    },
    {
      "epoch": 13.391666666666667,
      "grad_norm": 0.000331258139340207,
      "learning_rate": 2.1488888888888888e-05,
      "loss": 0.0001,
      "step": 8035
    },
    {
      "epoch": 13.4,
      "grad_norm": 0.0003178161568939686,
      "learning_rate": 2.137777777777778e-05,
      "loss": 0.0001,
      "step": 8040
    },
    {
      "epoch": 13.408333333333333,
      "grad_norm": 0.0002902974665630609,
      "learning_rate": 2.1266666666666667e-05,
      "loss": 0.0001,
      "step": 8045
    },
    {
      "epoch": 13.416666666666666,
      "grad_norm": 0.00027343060355633497,
      "learning_rate": 2.1155555555555556e-05,
      "loss": 0.0001,
      "step": 8050
    },
    {
      "epoch": 13.425,
      "grad_norm": 0.0003113217244390398,
      "learning_rate": 2.1044444444444444e-05,
      "loss": 0.0001,
      "step": 8055
    },
    {
      "epoch": 13.433333333333334,
      "grad_norm": 0.00037928749225102365,
      "learning_rate": 2.0933333333333335e-05,
      "loss": 0.0001,
      "step": 8060
    },
    {
      "epoch": 13.441666666666666,
      "grad_norm": 0.00029145553708076477,
      "learning_rate": 2.0822222222222223e-05,
      "loss": 0.0001,
      "step": 8065
    },
    {
      "epoch": 13.45,
      "grad_norm": 0.0003217304474674165,
      "learning_rate": 2.071111111111111e-05,
      "loss": 0.0001,
      "step": 8070
    },
    {
      "epoch": 13.458333333333334,
      "grad_norm": 0.00027243312797509134,
      "learning_rate": 2.06e-05,
      "loss": 0.0001,
      "step": 8075
    },
    {
      "epoch": 13.466666666666667,
      "grad_norm": 0.0002745520032476634,
      "learning_rate": 2.048888888888889e-05,
      "loss": 0.0001,
      "step": 8080
    },
    {
      "epoch": 13.475,
      "grad_norm": 0.0002973123046103865,
      "learning_rate": 2.037777777777778e-05,
      "loss": 0.0001,
      "step": 8085
    },
    {
      "epoch": 13.483333333333333,
      "grad_norm": 0.0003073549596592784,
      "learning_rate": 2.0266666666666667e-05,
      "loss": 0.0001,
      "step": 8090
    },
    {
      "epoch": 13.491666666666667,
      "grad_norm": 0.00032074202317744493,
      "learning_rate": 2.0155555555555555e-05,
      "loss": 0.0001,
      "step": 8095
    },
    {
      "epoch": 13.5,
      "grad_norm": 0.00031028318335302174,
      "learning_rate": 2.0044444444444446e-05,
      "loss": 0.0001,
      "step": 8100
    },
    {
      "epoch": 13.5,
      "eval_accuracy": 0.8641666666666666,
      "eval_f1": 0.8651319285733844,
      "eval_loss": 0.9674767851829529,
      "eval_precision": 0.8815447587493253,
      "eval_recall": 0.8641666666666666,
      "eval_runtime": 17.6631,
      "eval_samples_per_second": 135.877,
      "eval_steps_per_second": 16.985,
      "step": 8100
    },
    {
      "epoch": 13.508333333333333,
      "grad_norm": 0.0003002169542014599,
      "learning_rate": 1.9933333333333334e-05,
      "loss": 0.0001,
      "step": 8105
    },
    {
      "epoch": 13.516666666666667,
      "grad_norm": 0.0002900571853388101,
      "learning_rate": 1.9822222222222223e-05,
      "loss": 0.0001,
      "step": 8110
    },
    {
      "epoch": 13.525,
      "grad_norm": 0.00033345320844091475,
      "learning_rate": 1.971111111111111e-05,
      "loss": 0.0001,
      "step": 8115
    },
    {
      "epoch": 13.533333333333333,
      "grad_norm": 0.0002935565134976059,
      "learning_rate": 1.9600000000000002e-05,
      "loss": 0.0001,
      "step": 8120
    },
    {
      "epoch": 13.541666666666666,
      "grad_norm": 0.0003587972023524344,
      "learning_rate": 1.948888888888889e-05,
      "loss": 0.0001,
      "step": 8125
    },
    {
      "epoch": 13.55,
      "grad_norm": 0.00033963218447752297,
      "learning_rate": 1.9377777777777778e-05,
      "loss": 0.0001,
      "step": 8130
    },
    {
      "epoch": 13.558333333333334,
      "grad_norm": 0.00027277693152427673,
      "learning_rate": 1.926666666666667e-05,
      "loss": 0.0001,
      "step": 8135
    },
    {
      "epoch": 13.566666666666666,
      "grad_norm": 0.0003427852934692055,
      "learning_rate": 1.9155555555555558e-05,
      "loss": 0.0001,
      "step": 8140
    },
    {
      "epoch": 13.575,
      "grad_norm": 0.00028528113034553826,
      "learning_rate": 1.9044444444444446e-05,
      "loss": 0.0001,
      "step": 8145
    },
    {
      "epoch": 13.583333333333334,
      "grad_norm": 0.0002744171069934964,
      "learning_rate": 1.8933333333333334e-05,
      "loss": 0.0001,
      "step": 8150
    },
    {
      "epoch": 13.591666666666667,
      "grad_norm": 0.0002622625033836812,
      "learning_rate": 1.8822222222222225e-05,
      "loss": 0.0001,
      "step": 8155
    },
    {
      "epoch": 13.6,
      "grad_norm": 0.0003044198965653777,
      "learning_rate": 1.8711111111111113e-05,
      "loss": 0.0001,
      "step": 8160
    },
    {
      "epoch": 13.608333333333333,
      "grad_norm": 0.0002709534019231796,
      "learning_rate": 1.86e-05,
      "loss": 0.0001,
      "step": 8165
    },
    {
      "epoch": 13.616666666666667,
      "grad_norm": 0.0003510649548843503,
      "learning_rate": 1.848888888888889e-05,
      "loss": 0.0001,
      "step": 8170
    },
    {
      "epoch": 13.625,
      "grad_norm": 0.00036484005977399647,
      "learning_rate": 1.837777777777778e-05,
      "loss": 0.0001,
      "step": 8175
    },
    {
      "epoch": 13.633333333333333,
      "grad_norm": 0.00033360716770403087,
      "learning_rate": 1.826666666666667e-05,
      "loss": 0.0001,
      "step": 8180
    },
    {
      "epoch": 13.641666666666667,
      "grad_norm": 0.00029489153530448675,
      "learning_rate": 1.8155555555555557e-05,
      "loss": 0.0001,
      "step": 8185
    },
    {
      "epoch": 13.65,
      "grad_norm": 0.00028650168678723276,
      "learning_rate": 1.8044444444444445e-05,
      "loss": 0.0001,
      "step": 8190
    },
    {
      "epoch": 13.658333333333333,
      "grad_norm": 0.00046503014164045453,
      "learning_rate": 1.7933333333333337e-05,
      "loss": 0.0001,
      "step": 8195
    },
    {
      "epoch": 13.666666666666666,
      "grad_norm": 0.0005788379930891097,
      "learning_rate": 1.7822222222222225e-05,
      "loss": 0.0001,
      "step": 8200
    },
    {
      "epoch": 13.666666666666666,
      "eval_accuracy": 0.8641666666666666,
      "eval_f1": 0.8650912921458316,
      "eval_loss": 0.9683814644813538,
      "eval_precision": 0.8813541633932012,
      "eval_recall": 0.8641666666666666,
      "eval_runtime": 18.142,
      "eval_samples_per_second": 132.29,
      "eval_steps_per_second": 16.536,
      "step": 8200
    },
    {
      "epoch": 13.675,
      "grad_norm": 0.00028897100128233433,
      "learning_rate": 1.7711111111111113e-05,
      "loss": 0.0001,
      "step": 8205
    },
    {
      "epoch": 13.683333333333334,
      "grad_norm": 0.000324864435242489,
      "learning_rate": 1.76e-05,
      "loss": 0.0001,
      "step": 8210
    },
    {
      "epoch": 13.691666666666666,
      "grad_norm": 0.0003167319227941334,
      "learning_rate": 1.7488888888888892e-05,
      "loss": 0.0001,
      "step": 8215
    },
    {
      "epoch": 13.7,
      "grad_norm": 0.0003065659839194268,
      "learning_rate": 1.737777777777778e-05,
      "loss": 0.0001,
      "step": 8220
    },
    {
      "epoch": 13.708333333333334,
      "grad_norm": 0.0003105399664491415,
      "learning_rate": 1.726666666666667e-05,
      "loss": 0.0001,
      "step": 8225
    },
    {
      "epoch": 13.716666666666667,
      "grad_norm": 0.00033366880961693823,
      "learning_rate": 1.7155555555555557e-05,
      "loss": 0.0001,
      "step": 8230
    },
    {
      "epoch": 13.725,
      "grad_norm": 0.0003003220190294087,
      "learning_rate": 1.7044444444444445e-05,
      "loss": 0.0001,
      "step": 8235
    },
    {
      "epoch": 13.733333333333333,
      "grad_norm": 0.0003196639008820057,
      "learning_rate": 1.6933333333333333e-05,
      "loss": 0.0001,
      "step": 8240
    },
    {
      "epoch": 13.741666666666667,
      "grad_norm": 0.000309289462165907,
      "learning_rate": 1.6822222222222224e-05,
      "loss": 0.0001,
      "step": 8245
    },
    {
      "epoch": 13.75,
      "grad_norm": 0.0002991973015014082,
      "learning_rate": 1.6711111111111112e-05,
      "loss": 0.0001,
      "step": 8250
    },
    {
      "epoch": 13.758333333333333,
      "grad_norm": 0.0002868894371204078,
      "learning_rate": 1.66e-05,
      "loss": 0.0001,
      "step": 8255
    },
    {
      "epoch": 13.766666666666667,
      "grad_norm": 0.00027869842597283423,
      "learning_rate": 1.648888888888889e-05,
      "loss": 0.0001,
      "step": 8260
    },
    {
      "epoch": 13.775,
      "grad_norm": 0.0003072340041399002,
      "learning_rate": 1.6377777777777776e-05,
      "loss": 0.0001,
      "step": 8265
    },
    {
      "epoch": 13.783333333333333,
      "grad_norm": 0.0003308375889901072,
      "learning_rate": 1.6266666666666665e-05,
      "loss": 0.0001,
      "step": 8270
    },
    {
      "epoch": 13.791666666666666,
      "grad_norm": 0.00038359867176041007,
      "learning_rate": 1.6155555555555556e-05,
      "loss": 0.0001,
      "step": 8275
    },
    {
      "epoch": 13.8,
      "grad_norm": 0.00030811098986305296,
      "learning_rate": 1.6044444444444444e-05,
      "loss": 0.0001,
      "step": 8280
    },
    {
      "epoch": 13.808333333333334,
      "grad_norm": 0.0002668479864951223,
      "learning_rate": 1.5933333333333332e-05,
      "loss": 0.0001,
      "step": 8285
    },
    {
      "epoch": 13.816666666666666,
      "grad_norm": 0.0002894680364988744,
      "learning_rate": 1.582222222222222e-05,
      "loss": 0.0001,
      "step": 8290
    },
    {
      "epoch": 13.825,
      "grad_norm": 0.00028664738056249917,
      "learning_rate": 1.571111111111111e-05,
      "loss": 0.0001,
      "step": 8295
    },
    {
      "epoch": 13.833333333333334,
      "grad_norm": 0.000275155995041132,
      "learning_rate": 1.56e-05,
      "loss": 0.0001,
      "step": 8300
    },
    {
      "epoch": 13.833333333333334,
      "eval_accuracy": 0.8645833333333334,
      "eval_f1": 0.8655534928066008,
      "eval_loss": 0.9694656133651733,
      "eval_precision": 0.8818216080302108,
      "eval_recall": 0.8645833333333334,
      "eval_runtime": 17.883,
      "eval_samples_per_second": 134.206,
      "eval_steps_per_second": 16.776,
      "step": 8300
    },
    {
      "epoch": 13.841666666666667,
      "grad_norm": 0.00028099745395593345,
      "learning_rate": 1.5488888888888888e-05,
      "loss": 0.0001,
      "step": 8305
    },
    {
      "epoch": 13.85,
      "grad_norm": 0.0003023278550244868,
      "learning_rate": 1.537777777777778e-05,
      "loss": 0.0001,
      "step": 8310
    },
    {
      "epoch": 13.858333333333333,
      "grad_norm": 0.0002764986711554229,
      "learning_rate": 1.5266666666666667e-05,
      "loss": 0.0001,
      "step": 8315
    },
    {
      "epoch": 13.866666666666667,
      "grad_norm": 0.00028961614589206874,
      "learning_rate": 1.5155555555555555e-05,
      "loss": 0.0001,
      "step": 8320
    },
    {
      "epoch": 13.875,
      "grad_norm": 0.0002666592481546104,
      "learning_rate": 1.5044444444444445e-05,
      "loss": 0.0001,
      "step": 8325
    },
    {
      "epoch": 13.883333333333333,
      "grad_norm": 0.0003317090158816427,
      "learning_rate": 1.4933333333333335e-05,
      "loss": 0.0001,
      "step": 8330
    },
    {
      "epoch": 13.891666666666667,
      "grad_norm": 0.0002613783290144056,
      "learning_rate": 1.4822222222222223e-05,
      "loss": 0.0001,
      "step": 8335
    },
    {
      "epoch": 13.9,
      "grad_norm": 0.00028162298258394003,
      "learning_rate": 1.4711111111111111e-05,
      "loss": 0.0001,
      "step": 8340
    },
    {
      "epoch": 13.908333333333333,
      "grad_norm": 0.0002737943723332137,
      "learning_rate": 1.4599999999999999e-05,
      "loss": 0.0001,
      "step": 8345
    },
    {
      "epoch": 13.916666666666666,
      "grad_norm": 0.0002648706140462309,
      "learning_rate": 1.448888888888889e-05,
      "loss": 0.0001,
      "step": 8350
    },
    {
      "epoch": 13.925,
      "grad_norm": 0.00027594546554610133,
      "learning_rate": 1.4377777777777779e-05,
      "loss": 0.0001,
      "step": 8355
    },
    {
      "epoch": 13.933333333333334,
      "grad_norm": 0.0002848596195690334,
      "learning_rate": 1.4266666666666667e-05,
      "loss": 0.0001,
      "step": 8360
    },
    {
      "epoch": 13.941666666666666,
      "grad_norm": 0.0003569278051145375,
      "learning_rate": 1.4155555555555555e-05,
      "loss": 0.0001,
      "step": 8365
    },
    {
      "epoch": 13.95,
      "grad_norm": 0.00029933819314464927,
      "learning_rate": 1.4044444444444446e-05,
      "loss": 0.0001,
      "step": 8370
    },
    {
      "epoch": 13.958333333333334,
      "grad_norm": 0.0002620650047902018,
      "learning_rate": 1.3933333333333334e-05,
      "loss": 0.0001,
      "step": 8375
    },
    {
      "epoch": 13.966666666666667,
      "grad_norm": 0.0003387379692867398,
      "learning_rate": 1.3822222222222222e-05,
      "loss": 0.0001,
      "step": 8380
    },
    {
      "epoch": 13.975,
      "grad_norm": 0.0002666247310116887,
      "learning_rate": 1.371111111111111e-05,
      "loss": 0.0001,
      "step": 8385
    },
    {
      "epoch": 13.983333333333333,
      "grad_norm": 0.00026383399381302297,
      "learning_rate": 1.3600000000000002e-05,
      "loss": 0.0001,
      "step": 8390
    },
    {
      "epoch": 13.991666666666667,
      "grad_norm": 0.0002912683121394366,
      "learning_rate": 1.348888888888889e-05,
      "loss": 0.0001,
      "step": 8395
    },
    {
      "epoch": 14.0,
      "grad_norm": 0.00029058466316200793,
      "learning_rate": 1.3377777777777778e-05,
      "loss": 0.0001,
      "step": 8400
    },
    {
      "epoch": 14.0,
      "eval_accuracy": 0.8645833333333334,
      "eval_f1": 0.8655534928066008,
      "eval_loss": 0.970553994178772,
      "eval_precision": 0.8818216080302108,
      "eval_recall": 0.8645833333333334,
      "eval_runtime": 17.8637,
      "eval_samples_per_second": 134.351,
      "eval_steps_per_second": 16.794,
      "step": 8400
    },
    {
      "epoch": 14.008333333333333,
      "grad_norm": 0.0003351667255628854,
      "learning_rate": 1.3266666666666666e-05,
      "loss": 0.0001,
      "step": 8405
    },
    {
      "epoch": 14.016666666666667,
      "grad_norm": 0.0002875874924939126,
      "learning_rate": 1.3155555555555558e-05,
      "loss": 0.0001,
      "step": 8410
    },
    {
      "epoch": 14.025,
      "grad_norm": 0.00026043475372716784,
      "learning_rate": 1.3044444444444446e-05,
      "loss": 0.0001,
      "step": 8415
    },
    {
      "epoch": 14.033333333333333,
      "grad_norm": 0.00029799758340232074,
      "learning_rate": 1.2933333333333334e-05,
      "loss": 0.0001,
      "step": 8420
    },
    {
      "epoch": 14.041666666666666,
      "grad_norm": 0.00026349571999162436,
      "learning_rate": 1.2822222222222222e-05,
      "loss": 0.0001,
      "step": 8425
    },
    {
      "epoch": 14.05,
      "grad_norm": 0.00027295196196064353,
      "learning_rate": 1.2711111111111113e-05,
      "loss": 0.0001,
      "step": 8430
    },
    {
      "epoch": 14.058333333333334,
      "grad_norm": 0.00030823927954770625,
      "learning_rate": 1.2600000000000001e-05,
      "loss": 0.0001,
      "step": 8435
    },
    {
      "epoch": 14.066666666666666,
      "grad_norm": 0.0002883310371544212,
      "learning_rate": 1.248888888888889e-05,
      "loss": 0.0001,
      "step": 8440
    },
    {
      "epoch": 14.075,
      "grad_norm": 0.0002946144377347082,
      "learning_rate": 1.237777777777778e-05,
      "loss": 0.0001,
      "step": 8445
    },
    {
      "epoch": 14.083333333333334,
      "grad_norm": 0.0002969089546240866,
      "learning_rate": 1.2266666666666667e-05,
      "loss": 0.0001,
      "step": 8450
    },
    {
      "epoch": 14.091666666666667,
      "grad_norm": 0.00031827171915210783,
      "learning_rate": 1.2155555555555555e-05,
      "loss": 0.0001,
      "step": 8455
    },
    {
      "epoch": 14.1,
      "grad_norm": 0.00027874024817720056,
      "learning_rate": 1.2044444444444445e-05,
      "loss": 0.0001,
      "step": 8460
    },
    {
      "epoch": 14.108333333333333,
      "grad_norm": 0.00026565982261672616,
      "learning_rate": 1.1933333333333333e-05,
      "loss": 0.0001,
      "step": 8465
    },
    {
      "epoch": 14.116666666666667,
      "grad_norm": 0.0003010579966939986,
      "learning_rate": 1.1822222222222223e-05,
      "loss": 0.0001,
      "step": 8470
    },
    {
      "epoch": 14.125,
      "grad_norm": 0.00033108374918811023,
      "learning_rate": 1.1711111111111111e-05,
      "loss": 0.0001,
      "step": 8475
    },
    {
      "epoch": 14.133333333333333,
      "grad_norm": 0.0002860900422092527,
      "learning_rate": 1.16e-05,
      "loss": 0.0001,
      "step": 8480
    },
    {
      "epoch": 14.141666666666667,
      "grad_norm": 0.0002796270127873868,
      "learning_rate": 1.1488888888888889e-05,
      "loss": 0.0001,
      "step": 8485
    },
    {
      "epoch": 14.15,
      "grad_norm": 0.00032849228591658175,
      "learning_rate": 1.1377777777777779e-05,
      "loss": 0.0001,
      "step": 8490
    },
    {
      "epoch": 14.158333333333333,
      "grad_norm": 0.0004960786900483072,
      "learning_rate": 1.1266666666666667e-05,
      "loss": 0.0001,
      "step": 8495
    },
    {
      "epoch": 14.166666666666666,
      "grad_norm": 0.000264934787992388,
      "learning_rate": 1.1155555555555556e-05,
      "loss": 0.0001,
      "step": 8500
    },
    {
      "epoch": 14.166666666666666,
      "eval_accuracy": 0.8645833333333334,
      "eval_f1": 0.8655534928066008,
      "eval_loss": 0.9713877439498901,
      "eval_precision": 0.8818216080302108,
      "eval_recall": 0.8645833333333334,
      "eval_runtime": 18.09,
      "eval_samples_per_second": 132.67,
      "eval_steps_per_second": 16.584,
      "step": 8500
    },
    {
      "epoch": 14.175,
      "grad_norm": 0.0002892408228944987,
      "learning_rate": 1.1044444444444444e-05,
      "loss": 0.0001,
      "step": 8505
    },
    {
      "epoch": 14.183333333333334,
      "grad_norm": 0.0002825518895406276,
      "learning_rate": 1.0933333333333334e-05,
      "loss": 0.0001,
      "step": 8510
    },
    {
      "epoch": 14.191666666666666,
      "grad_norm": 0.000303393549984321,
      "learning_rate": 1.0822222222222222e-05,
      "loss": 0.0001,
      "step": 8515
    },
    {
      "epoch": 14.2,
      "grad_norm": 0.0002896820951718837,
      "learning_rate": 1.0711111111111112e-05,
      "loss": 0.0001,
      "step": 8520
    },
    {
      "epoch": 14.208333333333334,
      "grad_norm": 0.00027915125247091055,
      "learning_rate": 1.06e-05,
      "loss": 0.0001,
      "step": 8525
    },
    {
      "epoch": 14.216666666666667,
      "grad_norm": 0.0002753811131697148,
      "learning_rate": 1.048888888888889e-05,
      "loss": 0.0001,
      "step": 8530
    },
    {
      "epoch": 14.225,
      "grad_norm": 0.00026418486959300935,
      "learning_rate": 1.0377777777777778e-05,
      "loss": 0.0001,
      "step": 8535
    },
    {
      "epoch": 14.233333333333333,
      "grad_norm": 0.000306279951473698,
      "learning_rate": 1.0266666666666668e-05,
      "loss": 0.0001,
      "step": 8540
    },
    {
      "epoch": 14.241666666666667,
      "grad_norm": 0.000322838022839278,
      "learning_rate": 1.0155555555555556e-05,
      "loss": 0.0001,
      "step": 8545
    },
    {
      "epoch": 14.25,
      "grad_norm": 0.0002856504579540342,
      "learning_rate": 1.0044444444444446e-05,
      "loss": 0.0001,
      "step": 8550
    },
    {
      "epoch": 14.258333333333333,
      "grad_norm": 0.00026352572604082525,
      "learning_rate": 9.933333333333334e-06,
      "loss": 0.0001,
      "step": 8555
    },
    {
      "epoch": 14.266666666666667,
      "grad_norm": 0.0002761766663752496,
      "learning_rate": 9.822222222222223e-06,
      "loss": 0.0001,
      "step": 8560
    },
    {
      "epoch": 14.275,
      "grad_norm": 0.00028820475563406944,
      "learning_rate": 9.711111111111111e-06,
      "loss": 0.0001,
      "step": 8565
    },
    {
      "epoch": 14.283333333333333,
      "grad_norm": 0.00030262942891567945,
      "learning_rate": 9.600000000000001e-06,
      "loss": 0.0001,
      "step": 8570
    },
    {
      "epoch": 14.291666666666666,
      "grad_norm": 0.0002623991167638451,
      "learning_rate": 9.48888888888889e-06,
      "loss": 0.0001,
      "step": 8575
    },
    {
      "epoch": 14.3,
      "grad_norm": 0.00043471393291838467,
      "learning_rate": 9.377777777777779e-06,
      "loss": 0.0001,
      "step": 8580
    },
    {
      "epoch": 14.308333333333334,
      "grad_norm": 0.00029479770455509424,
      "learning_rate": 9.266666666666667e-06,
      "loss": 0.0001,
      "step": 8585
    },
    {
      "epoch": 14.316666666666666,
      "grad_norm": 0.00029411507421173155,
      "learning_rate": 9.155555555555557e-06,
      "loss": 0.0001,
      "step": 8590
    },
    {
      "epoch": 14.325,
      "grad_norm": 0.00029756082221865654,
      "learning_rate": 9.044444444444445e-06,
      "loss": 0.0001,
      "step": 8595
    },
    {
      "epoch": 14.333333333333334,
      "grad_norm": 0.00024343344557564706,
      "learning_rate": 8.933333333333333e-06,
      "loss": 0.0001,
      "step": 8600
    },
    {
      "epoch": 14.333333333333334,
      "eval_accuracy": 0.8645833333333334,
      "eval_f1": 0.8655534928066008,
      "eval_loss": 0.9723678827285767,
      "eval_precision": 0.8818216080302108,
      "eval_recall": 0.8645833333333334,
      "eval_runtime": 17.8277,
      "eval_samples_per_second": 134.622,
      "eval_steps_per_second": 16.828,
      "step": 8600
    },
    {
      "epoch": 14.341666666666667,
      "grad_norm": 0.00025106105022132397,
      "learning_rate": 8.822222222222223e-06,
      "loss": 0.0001,
      "step": 8605
    },
    {
      "epoch": 14.35,
      "grad_norm": 0.0002503236464690417,
      "learning_rate": 8.711111111111111e-06,
      "loss": 0.0001,
      "step": 8610
    },
    {
      "epoch": 14.358333333333333,
      "grad_norm": 0.0002787497651297599,
      "learning_rate": 8.599999999999999e-06,
      "loss": 0.0001,
      "step": 8615
    },
    {
      "epoch": 14.366666666666667,
      "grad_norm": 0.00026048257132060826,
      "learning_rate": 8.488888888888889e-06,
      "loss": 0.0001,
      "step": 8620
    },
    {
      "epoch": 14.375,
      "grad_norm": 0.0002827429270837456,
      "learning_rate": 8.377777777777779e-06,
      "loss": 0.0001,
      "step": 8625
    },
    {
      "epoch": 14.383333333333333,
      "grad_norm": 0.00026899334625341,
      "learning_rate": 8.266666666666667e-06,
      "loss": 0.0001,
      "step": 8630
    },
    {
      "epoch": 14.391666666666667,
      "grad_norm": 0.00025853089755401015,
      "learning_rate": 8.155555555555556e-06,
      "loss": 0.0001,
      "step": 8635
    },
    {
      "epoch": 14.4,
      "grad_norm": 0.00032365735387429595,
      "learning_rate": 8.044444444444444e-06,
      "loss": 0.0001,
      "step": 8640
    },
    {
      "epoch": 14.408333333333333,
      "grad_norm": 0.0002683000930119306,
      "learning_rate": 7.933333333333334e-06,
      "loss": 0.0001,
      "step": 8645
    },
    {
      "epoch": 14.416666666666666,
      "grad_norm": 0.0002931165508925915,
      "learning_rate": 7.822222222222222e-06,
      "loss": 0.0001,
      "step": 8650
    },
    {
      "epoch": 14.425,
      "grad_norm": 0.00028275258955545723,
      "learning_rate": 7.711111111111112e-06,
      "loss": 0.0001,
      "step": 8655
    },
    {
      "epoch": 14.433333333333334,
      "grad_norm": 0.00033853674540296197,
      "learning_rate": 7.6e-06,
      "loss": 0.0001,
      "step": 8660
    },
    {
      "epoch": 14.441666666666666,
      "grad_norm": 0.00028160022338852286,
      "learning_rate": 7.48888888888889e-06,
      "loss": 0.0001,
      "step": 8665
    },
    {
      "epoch": 14.45,
      "grad_norm": 0.0002686377556528896,
      "learning_rate": 7.377777777777778e-06,
      "loss": 0.0001,
      "step": 8670
    },
    {
      "epoch": 14.458333333333334,
      "grad_norm": 0.0002782607916742563,
      "learning_rate": 7.266666666666668e-06,
      "loss": 0.0001,
      "step": 8675
    },
    {
      "epoch": 14.466666666666667,
      "grad_norm": 0.0004173423512838781,
      "learning_rate": 7.155555555555556e-06,
      "loss": 0.0001,
      "step": 8680
    },
    {
      "epoch": 14.475,
      "grad_norm": 0.000271602621069178,
      "learning_rate": 7.0444444444444455e-06,
      "loss": 0.0001,
      "step": 8685
    },
    {
      "epoch": 14.483333333333333,
      "grad_norm": 0.0002598474093247205,
      "learning_rate": 6.933333333333334e-06,
      "loss": 0.0001,
      "step": 8690
    },
    {
      "epoch": 14.491666666666667,
      "grad_norm": 0.00026553586940281093,
      "learning_rate": 6.8222222222222225e-06,
      "loss": 0.0001,
      "step": 8695
    },
    {
      "epoch": 14.5,
      "grad_norm": 0.0002625197812449187,
      "learning_rate": 6.711111111111111e-06,
      "loss": 0.0001,
      "step": 8700
    },
    {
      "epoch": 14.5,
      "eval_accuracy": 0.8645833333333334,
      "eval_f1": 0.8655534928066008,
      "eval_loss": 0.9727227687835693,
      "eval_precision": 0.8818216080302108,
      "eval_recall": 0.8645833333333334,
      "eval_runtime": 17.8249,
      "eval_samples_per_second": 134.643,
      "eval_steps_per_second": 16.83,
      "step": 8700
    },
    {
      "epoch": 14.508333333333333,
      "grad_norm": 0.00026177967083640397,
      "learning_rate": 6.6e-06,
      "loss": 0.0001,
      "step": 8705
    },
    {
      "epoch": 14.516666666666667,
      "grad_norm": 0.0002823032555170357,
      "learning_rate": 6.488888888888888e-06,
      "loss": 0.0001,
      "step": 8710
    },
    {
      "epoch": 14.525,
      "grad_norm": 0.0003675920597743243,
      "learning_rate": 6.377777777777778e-06,
      "loss": 0.0001,
      "step": 8715
    },
    {
      "epoch": 14.533333333333333,
      "grad_norm": 0.00031327627948485315,
      "learning_rate": 6.266666666666666e-06,
      "loss": 0.0001,
      "step": 8720
    },
    {
      "epoch": 14.541666666666666,
      "grad_norm": 0.0002919466933235526,
      "learning_rate": 6.155555555555556e-06,
      "loss": 0.0001,
      "step": 8725
    },
    {
      "epoch": 14.55,
      "grad_norm": 0.0002894210338126868,
      "learning_rate": 6.044444444444445e-06,
      "loss": 0.0001,
      "step": 8730
    },
    {
      "epoch": 14.558333333333334,
      "grad_norm": 0.00028641961398534477,
      "learning_rate": 5.933333333333334e-06,
      "loss": 0.0001,
      "step": 8735
    },
    {
      "epoch": 14.566666666666666,
      "grad_norm": 0.0003039570292457938,
      "learning_rate": 5.822222222222223e-06,
      "loss": 0.0001,
      "step": 8740
    },
    {
      "epoch": 14.575,
      "grad_norm": 0.0002516819804441184,
      "learning_rate": 5.711111111111112e-06,
      "loss": 0.0001,
      "step": 8745
    },
    {
      "epoch": 14.583333333333334,
      "grad_norm": 0.0003196315374225378,
      "learning_rate": 5.600000000000001e-06,
      "loss": 0.0001,
      "step": 8750
    },
    {
      "epoch": 14.591666666666667,
      "grad_norm": 0.00027055697864852846,
      "learning_rate": 5.4888888888888895e-06,
      "loss": 0.0001,
      "step": 8755
    },
    {
      "epoch": 14.6,
      "grad_norm": 0.0003650990256574005,
      "learning_rate": 5.3777777777777784e-06,
      "loss": 0.0001,
      "step": 8760
    },
    {
      "epoch": 14.608333333333333,
      "grad_norm": 0.0002693237329367548,
      "learning_rate": 5.266666666666667e-06,
      "loss": 0.0001,
      "step": 8765
    },
    {
      "epoch": 14.616666666666667,
      "grad_norm": 0.00031075056176632643,
      "learning_rate": 5.155555555555555e-06,
      "loss": 0.0001,
      "step": 8770
    },
    {
      "epoch": 14.625,
      "grad_norm": 0.00028005705098621547,
      "learning_rate": 5.044444444444444e-06,
      "loss": 0.0001,
      "step": 8775
    },
    {
      "epoch": 14.633333333333333,
      "grad_norm": 0.0003621780779212713,
      "learning_rate": 4.933333333333333e-06,
      "loss": 0.0001,
      "step": 8780
    },
    {
      "epoch": 14.641666666666667,
      "grad_norm": 0.0002721006458159536,
      "learning_rate": 4.822222222222222e-06,
      "loss": 0.0001,
      "step": 8785
    },
    {
      "epoch": 14.65,
      "grad_norm": 0.00025536533212289214,
      "learning_rate": 4.711111111111111e-06,
      "loss": 0.0001,
      "step": 8790
    },
    {
      "epoch": 14.658333333333333,
      "grad_norm": 0.00029890218866057694,
      "learning_rate": 4.6e-06,
      "loss": 0.0001,
      "step": 8795
    },
    {
      "epoch": 14.666666666666666,
      "grad_norm": 0.0002793815219774842,
      "learning_rate": 4.488888888888889e-06,
      "loss": 0.0001,
      "step": 8800
    },
    {
      "epoch": 14.666666666666666,
      "eval_accuracy": 0.8645833333333334,
      "eval_f1": 0.8655534928066008,
      "eval_loss": 0.9732563495635986,
      "eval_precision": 0.8818216080302108,
      "eval_recall": 0.8645833333333334,
      "eval_runtime": 17.9719,
      "eval_samples_per_second": 133.542,
      "eval_steps_per_second": 16.693,
      "step": 8800
    },
    {
      "epoch": 14.675,
      "grad_norm": 0.00031287388992495835,
      "learning_rate": 4.377777777777778e-06,
      "loss": 0.0001,
      "step": 8805
    },
    {
      "epoch": 14.683333333333334,
      "grad_norm": 0.00033274898305535316,
      "learning_rate": 4.266666666666667e-06,
      "loss": 0.0001,
      "step": 8810
    },
    {
      "epoch": 14.691666666666666,
      "grad_norm": 0.00026065955171361566,
      "learning_rate": 4.155555555555556e-06,
      "loss": 0.0001,
      "step": 8815
    },
    {
      "epoch": 14.7,
      "grad_norm": 0.00031672065961174667,
      "learning_rate": 4.044444444444445e-06,
      "loss": 0.0001,
      "step": 8820
    },
    {
      "epoch": 14.708333333333334,
      "grad_norm": 0.0002584578178357333,
      "learning_rate": 3.9333333333333335e-06,
      "loss": 0.0001,
      "step": 8825
    },
    {
      "epoch": 14.716666666666667,
      "grad_norm": 0.00032442633528262377,
      "learning_rate": 3.8222222222222224e-06,
      "loss": 0.0001,
      "step": 8830
    },
    {
      "epoch": 14.725,
      "grad_norm": 0.00028894038405269384,
      "learning_rate": 3.711111111111111e-06,
      "loss": 0.0001,
      "step": 8835
    },
    {
      "epoch": 14.733333333333333,
      "grad_norm": 0.0002662071492522955,
      "learning_rate": 3.6e-06,
      "loss": 0.0001,
      "step": 8840
    },
    {
      "epoch": 14.741666666666667,
      "grad_norm": 0.0002818013890646398,
      "learning_rate": 3.4888888888888888e-06,
      "loss": 0.0001,
      "step": 8845
    },
    {
      "epoch": 14.75,
      "grad_norm": 0.000403431971790269,
      "learning_rate": 3.3777777777777777e-06,
      "loss": 0.0001,
      "step": 8850
    },
    {
      "epoch": 14.758333333333333,
      "grad_norm": 0.00027758695068769157,
      "learning_rate": 3.2666666666666666e-06,
      "loss": 0.0001,
      "step": 8855
    },
    {
      "epoch": 14.766666666666667,
      "grad_norm": 0.0002634673728607595,
      "learning_rate": 3.155555555555556e-06,
      "loss": 0.0001,
      "step": 8860
    },
    {
      "epoch": 14.775,
      "grad_norm": 0.00029198359698057175,
      "learning_rate": 3.0444444444444444e-06,
      "loss": 0.0001,
      "step": 8865
    },
    {
      "epoch": 14.783333333333333,
      "grad_norm": 0.0002891220501624048,
      "learning_rate": 2.9333333333333333e-06,
      "loss": 0.0001,
      "step": 8870
    },
    {
      "epoch": 14.791666666666666,
      "grad_norm": 0.0002755385357886553,
      "learning_rate": 2.8222222222222223e-06,
      "loss": 0.0001,
      "step": 8875
    },
    {
      "epoch": 14.8,
      "grad_norm": 0.0002838819636963308,
      "learning_rate": 2.711111111111111e-06,
      "loss": 0.0001,
      "step": 8880
    },
    {
      "epoch": 14.808333333333334,
      "grad_norm": 0.00028913418645970523,
      "learning_rate": 2.6e-06,
      "loss": 0.0001,
      "step": 8885
    },
    {
      "epoch": 14.816666666666666,
      "grad_norm": 0.0002961423306260258,
      "learning_rate": 2.488888888888889e-06,
      "loss": 0.0001,
      "step": 8890
    },
    {
      "epoch": 14.825,
      "grad_norm": 0.00028803726308979094,
      "learning_rate": 2.377777777777778e-06,
      "loss": 0.0001,
      "step": 8895
    },
    {
      "epoch": 14.833333333333334,
      "grad_norm": 0.00031385591137222946,
      "learning_rate": 2.266666666666667e-06,
      "loss": 0.0001,
      "step": 8900
    },
    {
      "epoch": 14.833333333333334,
      "eval_accuracy": 0.8645833333333334,
      "eval_f1": 0.8655534928066008,
      "eval_loss": 0.973447859287262,
      "eval_precision": 0.8818216080302108,
      "eval_recall": 0.8645833333333334,
      "eval_runtime": 18.0278,
      "eval_samples_per_second": 133.127,
      "eval_steps_per_second": 16.641,
      "step": 8900
    },
    {
      "epoch": 14.841666666666667,
      "grad_norm": 0.00030394201166927814,
      "learning_rate": 2.1555555555555558e-06,
      "loss": 0.0001,
      "step": 8905
    },
    {
      "epoch": 14.85,
      "grad_norm": 0.0003038286231458187,
      "learning_rate": 2.0444444444444447e-06,
      "loss": 0.0001,
      "step": 8910
    },
    {
      "epoch": 14.858333333333333,
      "grad_norm": 0.0003093095147050917,
      "learning_rate": 1.9333333333333336e-06,
      "loss": 0.0001,
      "step": 8915
    },
    {
      "epoch": 14.866666666666667,
      "grad_norm": 0.00031016833963803947,
      "learning_rate": 1.8222222222222223e-06,
      "loss": 0.0001,
      "step": 8920
    },
    {
      "epoch": 14.875,
      "grad_norm": 0.000292935932520777,
      "learning_rate": 1.7111111111111112e-06,
      "loss": 0.0001,
      "step": 8925
    },
    {
      "epoch": 14.883333333333333,
      "grad_norm": 0.0002557552943471819,
      "learning_rate": 1.6000000000000001e-06,
      "loss": 0.0001,
      "step": 8930
    },
    {
      "epoch": 14.891666666666667,
      "grad_norm": 0.00029264407930895686,
      "learning_rate": 1.488888888888889e-06,
      "loss": 0.0001,
      "step": 8935
    },
    {
      "epoch": 14.9,
      "grad_norm": 0.00025718670804053545,
      "learning_rate": 1.3777777777777778e-06,
      "loss": 0.0001,
      "step": 8940
    },
    {
      "epoch": 14.908333333333333,
      "grad_norm": 0.00029327237280085683,
      "learning_rate": 1.2666666666666667e-06,
      "loss": 0.0001,
      "step": 8945
    },
    {
      "epoch": 14.916666666666666,
      "grad_norm": 0.00028618110809475183,
      "learning_rate": 1.1555555555555556e-06,
      "loss": 0.0001,
      "step": 8950
    },
    {
      "epoch": 14.925,
      "grad_norm": 0.00028966180980205536,
      "learning_rate": 1.0444444444444445e-06,
      "loss": 0.0001,
      "step": 8955
    },
    {
      "epoch": 14.933333333333334,
      "grad_norm": 0.0002749352715909481,
      "learning_rate": 9.333333333333334e-07,
      "loss": 0.0001,
      "step": 8960
    },
    {
      "epoch": 14.941666666666666,
      "grad_norm": 0.00029763791826553643,
      "learning_rate": 8.222222222222223e-07,
      "loss": 0.0001,
      "step": 8965
    },
    {
      "epoch": 14.95,
      "grad_norm": 0.0003002292651217431,
      "learning_rate": 7.111111111111112e-07,
      "loss": 0.0001,
      "step": 8970
    },
    {
      "epoch": 14.958333333333334,
      "grad_norm": 0.00026165915187448263,
      "learning_rate": 6.000000000000001e-07,
      "loss": 0.0001,
      "step": 8975
    },
    {
      "epoch": 14.966666666666667,
      "grad_norm": 0.000293093005893752,
      "learning_rate": 4.888888888888889e-07,
      "loss": 0.0001,
      "step": 8980
    },
    {
      "epoch": 14.975,
      "grad_norm": 0.0002678176970221102,
      "learning_rate": 3.777777777777778e-07,
      "loss": 0.0001,
      "step": 8985
    },
    {
      "epoch": 14.983333333333333,
      "grad_norm": 0.00025644173729233444,
      "learning_rate": 2.6666666666666667e-07,
      "loss": 0.0001,
      "step": 8990
    },
    {
      "epoch": 14.991666666666667,
      "grad_norm": 0.00025797917624004185,
      "learning_rate": 1.5555555555555556e-07,
      "loss": 0.0001,
      "step": 8995
    },
    {
      "epoch": 15.0,
      "grad_norm": 0.00029763500788249075,
      "learning_rate": 4.444444444444445e-08,
      "loss": 0.0001,
      "step": 9000
    },
    {
      "epoch": 15.0,
      "eval_accuracy": 0.8645833333333334,
      "eval_f1": 0.8655534928066008,
      "eval_loss": 0.9736008644104004,
      "eval_precision": 0.8818216080302108,
      "eval_recall": 0.8645833333333334,
      "eval_runtime": 18.0136,
      "eval_samples_per_second": 133.232,
      "eval_steps_per_second": 16.654,
      "step": 9000
    },
    {
      "epoch": 15.0,
      "step": 9000,
      "total_flos": 1.115924655734784e+19,
      "train_loss": 0.042448300742440756,
      "train_runtime": 3099.7983,
      "train_samples_per_second": 46.455,
      "train_steps_per_second": 2.903
    }
  ],
  "logging_steps": 5,
  "max_steps": 9000,
  "num_input_tokens_seen": 0,
  "num_train_epochs": 15,
  "save_steps": 100,
  "stateful_callbacks": {
    "TrainerControl": {
      "args": {
        "should_epoch_stop": false,
        "should_evaluate": false,
        "should_log": false,
        "should_save": true,
        "should_training_stop": true
      },
      "attributes": {}
    }
  },
  "total_flos": 1.115924655734784e+19,
  "train_batch_size": 16,
  "trial_name": null,
  "trial_params": null
}