{
  "best_metric": null,
  "best_model_checkpoint": null,
  "epoch": 3.0,
  "global_step": 300000,
  "is_hyper_param_search": false,
  "is_local_process_zero": true,
  "is_world_process_zero": true,
  "log_history": [
    {
      "epoch": 0.01,
      "learning_rate": 4.991666666666667e-05,
      "loss": 2.5794,
      "step": 500
    },
    {
      "epoch": 0.01,
      "learning_rate": 4.9833333333333336e-05,
      "loss": 1.2867,
      "step": 1000
    },
    {
      "epoch": 0.01,
      "learning_rate": 4.975e-05,
      "loss": 2.9805,
      "step": 1500
    },
    {
      "epoch": 0.02,
      "learning_rate": 4.966666666666667e-05,
      "loss": 1.0974,
      "step": 2000
    },
    {
      "epoch": 0.03,
      "learning_rate": 4.958333333333334e-05,
      "loss": 1.0133,
      "step": 2500
    },
    {
      "epoch": 0.03,
      "learning_rate": 4.9500000000000004e-05,
      "loss": 0.9627,
      "step": 3000
    },
    {
      "epoch": 0.04,
      "learning_rate": 4.9416666666666664e-05,
      "loss": 0.9287,
      "step": 3500
    },
    {
      "epoch": 0.04,
      "learning_rate": 4.933333333333334e-05,
      "loss": 0.8813,
      "step": 4000
    },
    {
      "epoch": 0.04,
      "learning_rate": 4.9250000000000004e-05,
      "loss": 0.8475,
      "step": 4500
    },
    {
      "epoch": 0.05,
      "learning_rate": 4.9166666666666665e-05,
      "loss": 0.8279,
      "step": 5000
    },
    {
      "epoch": 0.06,
      "learning_rate": 4.908333333333334e-05,
      "loss": 0.7999,
      "step": 5500
    },
    {
      "epoch": 0.06,
      "learning_rate": 4.9e-05,
      "loss": 0.7866,
      "step": 6000
    },
    {
      "epoch": 0.07,
      "learning_rate": 4.891666666666667e-05,
      "loss": 0.7644,
      "step": 6500
    },
    {
      "epoch": 0.07,
      "learning_rate": 4.883333333333334e-05,
      "loss": 0.7476,
      "step": 7000
    },
    {
      "epoch": 0.07,
      "learning_rate": 4.875e-05,
      "loss": 0.7244,
      "step": 7500
    },
    {
      "epoch": 0.08,
      "learning_rate": 4.866666666666667e-05,
      "loss": 0.7125,
      "step": 8000
    },
    {
      "epoch": 0.09,
      "learning_rate": 4.858333333333333e-05,
      "loss": 0.7027,
      "step": 8500
    },
    {
      "epoch": 0.09,
      "learning_rate": 4.85e-05,
      "loss": 0.7018,
      "step": 9000
    },
    {
      "epoch": 0.1,
      "learning_rate": 4.8416666666666673e-05,
      "loss": 0.685,
      "step": 9500
    },
    {
      "epoch": 0.1,
      "learning_rate": 4.8333333333333334e-05,
      "loss": 0.6716,
      "step": 10000
    },
    {
      "epoch": 0.1,
      "learning_rate": 4.825e-05,
      "loss": 0.6638,
      "step": 10500
    },
    {
      "epoch": 0.11,
      "learning_rate": 4.8166666666666674e-05,
      "loss": 0.6577,
      "step": 11000
    },
    {
      "epoch": 0.12,
      "learning_rate": 4.8083333333333334e-05,
      "loss": 0.6389,
      "step": 11500
    },
    {
      "epoch": 0.12,
      "learning_rate": 4.8e-05,
      "loss": 0.6342,
      "step": 12000
    },
    {
      "epoch": 0.12,
      "learning_rate": 4.791666666666667e-05,
      "loss": 0.6353,
      "step": 12500
    },
    {
      "epoch": 0.13,
      "learning_rate": 4.7833333333333335e-05,
      "loss": 0.6251,
      "step": 13000
    },
    {
      "epoch": 0.14,
      "learning_rate": 4.775e-05,
      "loss": 0.6162,
      "step": 13500
    },
    {
      "epoch": 0.14,
      "learning_rate": 4.766666666666667e-05,
      "loss": 0.6097,
      "step": 14000
    },
    {
      "epoch": 0.14,
      "learning_rate": 4.7583333333333336e-05,
      "loss": 0.5953,
      "step": 14500
    },
    {
      "epoch": 0.15,
      "learning_rate": 4.75e-05,
      "loss": 0.5895,
      "step": 15000
    },
    {
      "epoch": 0.15,
      "learning_rate": 4.741666666666667e-05,
      "loss": 0.5859,
      "step": 15500
    },
    {
      "epoch": 0.16,
      "learning_rate": 4.7333333333333336e-05,
      "loss": 0.5818,
      "step": 16000
    },
    {
      "epoch": 0.17,
      "learning_rate": 4.7249999999999997e-05,
      "loss": 0.5742,
      "step": 16500
    },
    {
      "epoch": 0.17,
      "learning_rate": 4.716666666666667e-05,
      "loss": 0.5575,
      "step": 17000
    },
    {
      "epoch": 0.17,
      "learning_rate": 4.708333333333334e-05,
      "loss": 0.5608,
      "step": 17500
    },
    {
      "epoch": 0.18,
      "learning_rate": 4.7e-05,
      "loss": 0.5508,
      "step": 18000
    },
    {
      "epoch": 0.18,
      "learning_rate": 4.691666666666667e-05,
      "loss": 0.5401,
      "step": 18500
    },
    {
      "epoch": 0.19,
      "learning_rate": 4.683333333333334e-05,
      "loss": 0.5422,
      "step": 19000
    },
    {
      "epoch": 0.2,
      "learning_rate": 4.6750000000000005e-05,
      "loss": 0.5439,
      "step": 19500
    },
    {
      "epoch": 0.2,
      "learning_rate": 4.666666666666667e-05,
      "loss": 0.5303,
      "step": 20000
    },
    {
      "epoch": 0.2,
      "learning_rate": 4.658333333333333e-05,
      "loss": 0.5284,
      "step": 20500
    },
    {
      "epoch": 0.21,
      "learning_rate": 4.6500000000000005e-05,
      "loss": 0.5206,
      "step": 21000
    },
    {
      "epoch": 0.21,
      "learning_rate": 4.641666666666667e-05,
      "loss": 0.5125,
      "step": 21500
    },
    {
      "epoch": 0.22,
      "learning_rate": 4.633333333333333e-05,
      "loss": 0.513,
      "step": 22000
    },
    {
      "epoch": 0.23,
      "learning_rate": 4.6250000000000006e-05,
      "loss": 0.5089,
      "step": 22500
    },
    {
      "epoch": 0.23,
      "learning_rate": 4.6166666666666666e-05,
      "loss": 0.5016,
      "step": 23000
    },
    {
      "epoch": 0.23,
      "learning_rate": 4.608333333333333e-05,
      "loss": 0.4934,
      "step": 23500
    },
    {
      "epoch": 0.24,
      "learning_rate": 4.600000000000001e-05,
      "loss": 0.4935,
      "step": 24000
    },
    {
      "epoch": 0.24,
      "learning_rate": 4.591666666666667e-05,
      "loss": 0.4953,
      "step": 24500
    },
    {
      "epoch": 0.25,
      "learning_rate": 4.5833333333333334e-05,
      "loss": 0.484,
      "step": 25000
    },
    {
      "epoch": 0.26,
      "learning_rate": 4.575e-05,
      "loss": 0.4857,
      "step": 25500
    },
    {
      "epoch": 0.26,
      "learning_rate": 4.566666666666667e-05,
      "loss": 0.4739,
      "step": 26000
    },
    {
      "epoch": 0.27,
      "learning_rate": 4.5583333333333335e-05,
      "loss": 0.4847,
      "step": 26500
    },
    {
      "epoch": 0.27,
      "learning_rate": 4.55e-05,
      "loss": 0.48,
      "step": 27000
    },
    {
      "epoch": 0.28,
      "learning_rate": 4.541666666666667e-05,
      "loss": 0.4694,
      "step": 27500
    },
    {
      "epoch": 0.28,
      "learning_rate": 4.5333333333333335e-05,
      "loss": 0.4673,
      "step": 28000
    },
    {
      "epoch": 0.28,
      "learning_rate": 4.525e-05,
      "loss": 0.4654,
      "step": 28500
    },
    {
      "epoch": 0.29,
      "learning_rate": 4.516666666666667e-05,
      "loss": 0.4569,
      "step": 29000
    },
    {
      "epoch": 0.29,
      "learning_rate": 4.5083333333333336e-05,
      "loss": 0.4574,
      "step": 29500
    },
    {
      "epoch": 0.3,
      "learning_rate": 4.5e-05,
      "loss": 0.4605,
      "step": 30000
    },
    {
      "epoch": 0.3,
      "learning_rate": 4.491666666666667e-05,
      "loss": 0.4542,
      "step": 30500
    },
    {
      "epoch": 0.31,
      "learning_rate": 4.483333333333333e-05,
      "loss": 0.4457,
      "step": 31000
    },
    {
      "epoch": 0.32,
      "learning_rate": 4.4750000000000004e-05,
      "loss": 0.4444,
      "step": 31500
    },
    {
      "epoch": 0.32,
      "learning_rate": 4.466666666666667e-05,
      "loss": 0.4426,
      "step": 32000
    },
    {
      "epoch": 0.33,
      "learning_rate": 4.458333333333334e-05,
      "loss": 0.4447,
      "step": 32500
    },
    {
      "epoch": 0.33,
      "learning_rate": 4.4500000000000004e-05,
      "loss": 0.4434,
      "step": 33000
    },
    {
      "epoch": 0.34,
      "learning_rate": 4.4416666666666664e-05,
      "loss": 0.4366,
      "step": 33500
    },
    {
      "epoch": 0.34,
      "learning_rate": 4.433333333333334e-05,
      "loss": 0.4306,
      "step": 34000
    },
    {
      "epoch": 0.34,
      "learning_rate": 4.4250000000000005e-05,
      "loss": 0.4321,
      "step": 34500
    },
    {
      "epoch": 0.35,
      "learning_rate": 4.4166666666666665e-05,
      "loss": 0.4183,
      "step": 35000
    },
    {
      "epoch": 0.35,
      "learning_rate": 4.408333333333334e-05,
      "loss": 0.42,
      "step": 35500
    },
    {
      "epoch": 0.36,
      "learning_rate": 4.4000000000000006e-05,
      "loss": 0.4207,
      "step": 36000
    },
    {
      "epoch": 0.36,
      "learning_rate": 4.3916666666666666e-05,
      "loss": 0.4261,
      "step": 36500
    },
    {
      "epoch": 0.37,
      "learning_rate": 4.383333333333334e-05,
      "loss": 0.4126,
      "step": 37000
    },
    {
      "epoch": 0.38,
      "learning_rate": 4.375e-05,
      "loss": 0.4188,
      "step": 37500
    },
    {
      "epoch": 0.38,
      "learning_rate": 4.3666666666666666e-05,
      "loss": 0.4133,
      "step": 38000
    },
    {
      "epoch": 0.39,
      "learning_rate": 4.358333333333334e-05,
      "loss": 0.4032,
      "step": 38500
    },
    {
      "epoch": 0.39,
      "learning_rate": 4.35e-05,
      "loss": 0.4065,
      "step": 39000
    },
    {
      "epoch": 0.4,
      "learning_rate": 4.341666666666667e-05,
      "loss": 0.405,
      "step": 39500
    },
    {
      "epoch": 0.4,
      "learning_rate": 4.3333333333333334e-05,
      "loss": 0.3982,
      "step": 40000
    },
    {
      "epoch": 0.41,
      "learning_rate": 4.325e-05,
      "loss": 0.3953,
      "step": 40500
    },
    {
      "epoch": 0.41,
      "learning_rate": 4.316666666666667e-05,
      "loss": 0.3937,
      "step": 41000
    },
    {
      "epoch": 0.41,
      "learning_rate": 4.3083333333333335e-05,
      "loss": 0.393,
      "step": 41500
    },
    {
      "epoch": 0.42,
      "learning_rate": 4.3e-05,
      "loss": 0.3907,
      "step": 42000
    },
    {
      "epoch": 0.42,
      "learning_rate": 4.291666666666667e-05,
      "loss": 0.3939,
      "step": 42500
    },
    {
      "epoch": 0.43,
      "learning_rate": 4.2833333333333335e-05,
      "loss": 0.3922,
      "step": 43000
    },
    {
      "epoch": 0.43,
      "learning_rate": 4.275e-05,
      "loss": 0.3872,
      "step": 43500
    },
    {
      "epoch": 0.44,
      "learning_rate": 4.266666666666667e-05,
      "loss": 0.3772,
      "step": 44000
    },
    {
      "epoch": 0.45,
      "learning_rate": 4.2583333333333336e-05,
      "loss": 0.3818,
      "step": 44500
    },
    {
      "epoch": 0.45,
      "learning_rate": 4.25e-05,
      "loss": 0.3784,
      "step": 45000
    },
    {
      "epoch": 0.46,
      "learning_rate": 4.241666666666667e-05,
      "loss": 0.3793,
      "step": 45500
    },
    {
      "epoch": 0.46,
      "learning_rate": 4.233333333333334e-05,
      "loss": 0.3806,
      "step": 46000
    },
    {
      "epoch": 0.47,
      "learning_rate": 4.2250000000000004e-05,
      "loss": 0.3868,
      "step": 46500
    },
    {
      "epoch": 0.47,
      "learning_rate": 4.216666666666667e-05,
      "loss": 0.3764,
      "step": 47000
    },
    {
      "epoch": 0.47,
      "learning_rate": 4.208333333333334e-05,
      "loss": 0.3753,
      "step": 47500
    },
    {
      "epoch": 0.48,
      "learning_rate": 4.2e-05,
      "loss": 0.369,
      "step": 48000
    },
    {
      "epoch": 0.48,
      "learning_rate": 4.191666666666667e-05,
      "loss": 0.3612,
      "step": 48500
    },
    {
      "epoch": 0.49,
      "learning_rate": 4.183333333333334e-05,
      "loss": 0.3717,
      "step": 49000
    },
    {
      "epoch": 0.49,
      "learning_rate": 4.175e-05,
      "loss": 0.3686,
      "step": 49500
    },
    {
      "epoch": 0.5,
      "learning_rate": 4.166666666666667e-05,
      "loss": 0.3654,
      "step": 50000
    },
    {
      "epoch": 0.51,
      "learning_rate": 4.158333333333333e-05,
      "loss": 0.3653,
      "step": 50500
    },
    {
      "epoch": 0.51,
      "learning_rate": 4.15e-05,
      "loss": 0.368,
      "step": 51000
    },
    {
      "epoch": 0.52,
      "learning_rate": 4.141666666666667e-05,
      "loss": 0.3613,
      "step": 51500
    },
    {
      "epoch": 0.52,
      "learning_rate": 4.133333333333333e-05,
      "loss": 0.3647,
      "step": 52000
    },
    {
      "epoch": 0.53,
      "learning_rate": 4.125e-05,
      "loss": 0.3603,
      "step": 52500
    },
    {
      "epoch": 0.53,
      "learning_rate": 4.116666666666667e-05,
      "loss": 0.352,
      "step": 53000
    },
    {
      "epoch": 0.54,
      "learning_rate": 4.1083333333333334e-05,
      "loss": 0.3561,
      "step": 53500
    },
    {
      "epoch": 0.54,
      "learning_rate": 4.1e-05,
      "loss": 0.3553,
      "step": 54000
    },
    {
      "epoch": 0.55,
      "learning_rate": 4.091666666666667e-05,
      "loss": 0.3572,
      "step": 54500
    },
    {
      "epoch": 0.55,
      "learning_rate": 4.0833333333333334e-05,
      "loss": 0.3547,
      "step": 55000
    },
    {
      "epoch": 0.56,
      "learning_rate": 4.075e-05,
      "loss": 0.3542,
      "step": 55500
    },
    {
      "epoch": 0.56,
      "learning_rate": 4.066666666666667e-05,
      "loss": 0.3521,
      "step": 56000
    },
    {
      "epoch": 0.56,
      "learning_rate": 4.0583333333333335e-05,
      "loss": 0.3539,
      "step": 56500
    },
    {
      "epoch": 0.57,
      "learning_rate": 4.05e-05,
      "loss": 0.3532,
      "step": 57000
    },
    {
      "epoch": 0.57,
      "learning_rate": 4.041666666666667e-05,
      "loss": 0.3486,
      "step": 57500
    },
    {
      "epoch": 0.58,
      "learning_rate": 4.0333333333333336e-05,
      "loss": 0.3487,
      "step": 58000
    },
    {
      "epoch": 0.58,
      "learning_rate": 4.025e-05,
      "loss": 0.344,
      "step": 58500
    },
    {
      "epoch": 0.59,
      "learning_rate": 4.016666666666667e-05,
      "loss": 0.3394,
      "step": 59000
    },
    {
      "epoch": 0.59,
      "learning_rate": 4.0083333333333336e-05,
      "loss": 0.3381,
      "step": 59500
    },
    {
      "epoch": 0.6,
      "learning_rate": 4e-05,
      "loss": 0.3438,
      "step": 60000
    },
    {
      "epoch": 0.6,
      "learning_rate": 3.991666666666667e-05,
      "loss": 0.3378,
      "step": 60500
    },
    {
      "epoch": 0.61,
      "learning_rate": 3.983333333333333e-05,
      "loss": 0.3397,
      "step": 61000
    },
    {
      "epoch": 0.61,
      "learning_rate": 3.9750000000000004e-05,
      "loss": 0.3384,
      "step": 61500
    },
    {
      "epoch": 0.62,
      "learning_rate": 3.966666666666667e-05,
      "loss": 0.3332,
      "step": 62000
    },
    {
      "epoch": 0.62,
      "learning_rate": 3.958333333333333e-05,
      "loss": 0.337,
      "step": 62500
    },
    {
      "epoch": 0.63,
      "learning_rate": 3.9500000000000005e-05,
      "loss": 0.3349,
      "step": 63000
    },
    {
      "epoch": 0.64,
      "learning_rate": 3.941666666666667e-05,
      "loss": 0.3357,
      "step": 63500
    },
    {
      "epoch": 0.64,
      "learning_rate": 3.933333333333333e-05,
      "loss": 0.3359,
      "step": 64000
    },
    {
      "epoch": 0.65,
      "learning_rate": 3.9250000000000005e-05,
      "loss": 0.3309,
      "step": 64500
    },
    {
      "epoch": 0.65,
      "learning_rate": 3.9166666666666665e-05,
      "loss": 0.3374,
      "step": 65000
    },
    {
      "epoch": 0.66,
      "learning_rate": 3.908333333333333e-05,
      "loss": 0.3264,
      "step": 65500
    },
    {
      "epoch": 0.66,
      "learning_rate": 3.9000000000000006e-05,
      "loss": 0.3249,
      "step": 66000
    },
    {
      "epoch": 0.67,
      "learning_rate": 3.8916666666666666e-05,
      "loss": 0.321,
      "step": 66500
    },
    {
      "epoch": 0.67,
      "learning_rate": 3.883333333333333e-05,
      "loss": 0.324,
      "step": 67000
    },
    {
      "epoch": 0.68,
      "learning_rate": 3.875e-05,
      "loss": 0.3297,
      "step": 67500
    },
    {
      "epoch": 0.68,
      "learning_rate": 3.866666666666667e-05,
      "loss": 0.3228,
      "step": 68000
    },
    {
      "epoch": 0.69,
      "learning_rate": 3.8583333333333334e-05,
      "loss": 0.3168,
      "step": 68500
    },
    {
      "epoch": 0.69,
      "learning_rate": 3.85e-05,
      "loss": 0.3195,
      "step": 69000
    },
    {
      "epoch": 0.69,
      "learning_rate": 3.841666666666667e-05,
      "loss": 0.3217,
      "step": 69500
    },
    {
      "epoch": 0.7,
      "learning_rate": 3.8333333333333334e-05,
      "loss": 0.3189,
      "step": 70000
    },
    {
      "epoch": 0.7,
      "learning_rate": 3.825e-05,
      "loss": 0.3213,
      "step": 70500
    },
    {
      "epoch": 0.71,
      "learning_rate": 3.816666666666667e-05,
      "loss": 0.3159,
      "step": 71000
    },
    {
      "epoch": 0.71,
      "learning_rate": 3.8083333333333335e-05,
      "loss": 0.3154,
      "step": 71500
    },
    {
      "epoch": 0.72,
      "learning_rate": 3.8e-05,
      "loss": 0.3142,
      "step": 72000
    },
    {
      "epoch": 0.72,
      "learning_rate": 3.791666666666667e-05,
      "loss": 0.314,
      "step": 72500
    },
    {
      "epoch": 0.73,
      "learning_rate": 3.7833333333333336e-05,
      "loss": 0.3115,
      "step": 73000
    },
    {
      "epoch": 0.73,
      "learning_rate": 3.775e-05,
      "loss": 0.3155,
      "step": 73500
    },
    {
      "epoch": 0.74,
      "learning_rate": 3.766666666666667e-05,
      "loss": 0.3157,
      "step": 74000
    },
    {
      "epoch": 0.74,
      "learning_rate": 3.7583333333333337e-05,
      "loss": 0.3121,
      "step": 74500
    },
    {
      "epoch": 0.75,
      "learning_rate": 3.7500000000000003e-05,
      "loss": 0.3102,
      "step": 75000
    },
    {
      "epoch": 0.76,
      "learning_rate": 3.7416666666666664e-05,
      "loss": 0.3125,
      "step": 75500
    },
    {
      "epoch": 0.76,
      "learning_rate": 3.733333333333334e-05,
      "loss": 0.3114,
      "step": 76000
    },
    {
      "epoch": 0.77,
      "learning_rate": 3.7250000000000004e-05,
      "loss": 0.3098,
      "step": 76500
    },
    {
      "epoch": 0.77,
      "learning_rate": 3.7166666666666664e-05,
      "loss": 0.3082,
      "step": 77000
    },
    {
      "epoch": 0.78,
      "learning_rate": 3.708333333333334e-05,
      "loss": 0.3064,
      "step": 77500
    },
    {
      "epoch": 0.78,
      "learning_rate": 3.7e-05,
      "loss": 0.3082,
      "step": 78000
    },
    {
      "epoch": 0.79,
      "learning_rate": 3.6916666666666665e-05,
      "loss": 0.311,
      "step": 78500
    },
    {
      "epoch": 0.79,
      "learning_rate": 3.683333333333334e-05,
      "loss": 0.3073,
      "step": 79000
    },
    {
      "epoch": 0.8,
      "learning_rate": 3.675e-05,
      "loss": 0.3068,
      "step": 79500
    },
    {
      "epoch": 0.8,
      "learning_rate": 3.6666666666666666e-05,
      "loss": 0.3023,
      "step": 80000
    },
    {
      "epoch": 0.81,
      "learning_rate": 3.658333333333334e-05,
      "loss": 0.3029,
      "step": 80500
    },
    {
      "epoch": 0.81,
      "learning_rate": 3.65e-05,
      "loss": 0.3046,
      "step": 81000
    },
    {
      "epoch": 0.81,
      "learning_rate": 3.641666666666667e-05,
      "loss": 0.3062,
      "step": 81500
    },
    {
      "epoch": 0.82,
      "learning_rate": 3.633333333333333e-05,
      "loss": 0.3017,
      "step": 82000
    },
    {
      "epoch": 0.82,
      "learning_rate": 3.625e-05,
      "loss": 0.2915,
      "step": 82500
    },
    {
      "epoch": 0.83,
      "learning_rate": 3.6166666666666674e-05,
      "loss": 0.3026,
      "step": 83000
    },
    {
      "epoch": 0.83,
      "learning_rate": 3.6083333333333334e-05,
      "loss": 0.2988,
      "step": 83500
    },
    {
      "epoch": 0.84,
      "learning_rate": 3.6e-05,
      "loss": 0.2992,
      "step": 84000
    },
    {
      "epoch": 0.84,
      "learning_rate": 3.591666666666667e-05,
      "loss": 0.3005,
      "step": 84500
    },
    {
      "epoch": 0.85,
      "learning_rate": 3.5833333333333335e-05,
      "loss": 0.2951,
      "step": 85000
    },
    {
      "epoch": 0.85,
      "learning_rate": 3.575e-05,
      "loss": 0.2985,
      "step": 85500
    },
    {
      "epoch": 0.86,
      "learning_rate": 3.566666666666667e-05,
      "loss": 0.2976,
      "step": 86000
    },
    {
      "epoch": 0.86,
      "learning_rate": 3.5583333333333335e-05,
      "loss": 0.3006,
      "step": 86500
    },
    {
      "epoch": 0.87,
      "learning_rate": 3.55e-05,
      "loss": 0.2969,
      "step": 87000
    },
    {
      "epoch": 0.88,
      "learning_rate": 3.541666666666667e-05,
      "loss": 0.2909,
      "step": 87500
    },
    {
      "epoch": 0.88,
      "learning_rate": 3.5333333333333336e-05,
      "loss": 0.2902,
      "step": 88000
    },
    {
      "epoch": 0.89,
      "learning_rate": 3.525e-05,
      "loss": 0.2902,
      "step": 88500
    },
    {
      "epoch": 0.89,
      "learning_rate": 3.516666666666667e-05,
      "loss": 0.2868,
      "step": 89000
    },
    {
      "epoch": 0.9,
      "learning_rate": 3.508333333333334e-05,
      "loss": 0.2966,
      "step": 89500
    },
    {
      "epoch": 0.9,
      "learning_rate": 3.5e-05,
      "loss": 0.2896,
      "step": 90000
    },
    {
      "epoch": 0.91,
      "learning_rate": 3.491666666666667e-05,
      "loss": 0.2899,
      "step": 90500
    },
    {
      "epoch": 0.91,
      "learning_rate": 3.483333333333334e-05,
      "loss": 0.29,
      "step": 91000
    },
    {
      "epoch": 0.92,
      "learning_rate": 3.475e-05,
      "loss": 0.2897,
      "step": 91500
    },
    {
      "epoch": 0.92,
      "learning_rate": 3.466666666666667e-05,
      "loss": 0.2846,
      "step": 92000
    },
    {
      "epoch": 0.93,
      "learning_rate": 3.458333333333333e-05,
      "loss": 0.2899,
      "step": 92500
    },
    {
      "epoch": 0.93,
      "learning_rate": 3.45e-05,
      "loss": 0.2885,
      "step": 93000
    },
    {
      "epoch": 0.94,
      "learning_rate": 3.441666666666667e-05,
      "loss": 0.2889,
      "step": 93500
    },
    {
      "epoch": 0.94,
      "learning_rate": 3.433333333333333e-05,
      "loss": 0.2881,
      "step": 94000
    },
    {
      "epoch": 0.94,
      "learning_rate": 3.4250000000000006e-05,
      "loss": 0.2899,
      "step": 94500
    },
    {
      "epoch": 0.95,
      "learning_rate": 3.4166666666666666e-05,
      "loss": 0.2799,
      "step": 95000
    },
    {
      "epoch": 0.95,
      "learning_rate": 3.408333333333333e-05,
      "loss": 0.2832,
      "step": 95500
    },
    {
      "epoch": 0.96,
      "learning_rate": 3.4000000000000007e-05,
      "loss": 0.2836,
      "step": 96000
    },
    {
      "epoch": 0.96,
      "learning_rate": 3.391666666666667e-05,
      "loss": 0.2805,
      "step": 96500
    },
    {
      "epoch": 0.97,
      "learning_rate": 3.3833333333333334e-05,
      "loss": 0.2836,
      "step": 97000
    },
    {
      "epoch": 0.97,
      "learning_rate": 3.375000000000001e-05,
      "loss": 0.2838,
      "step": 97500
    },
    {
      "epoch": 0.98,
      "learning_rate": 3.366666666666667e-05,
      "loss": 0.2817,
      "step": 98000
    },
    {
      "epoch": 0.98,
      "learning_rate": 3.3583333333333334e-05,
      "loss": 0.2839,
      "step": 98500
    },
    {
      "epoch": 0.99,
      "learning_rate": 3.35e-05,
      "loss": 0.2836,
      "step": 99000
    },
    {
      "epoch": 0.99,
      "learning_rate": 3.341666666666667e-05,
      "loss": 0.2834,
      "step": 99500
    },
    {
      "epoch": 1.0,
      "learning_rate": 3.3333333333333335e-05,
      "loss": 0.2784,
      "step": 100000
    },
    {
      "epoch": 1.0,
      "learning_rate": 3.325e-05,
      "loss": 0.2752,
      "step": 100500
    },
    {
      "epoch": 1.01,
      "learning_rate": 3.316666666666667e-05,
      "loss": 0.2744,
      "step": 101000
    },
    {
      "epoch": 1.01,
      "learning_rate": 3.3083333333333336e-05,
      "loss": 0.2779,
      "step": 101500
    },
    {
      "epoch": 1.02,
      "learning_rate": 3.3e-05,
      "loss": 0.2759,
      "step": 102000
    },
    {
      "epoch": 1.02,
      "learning_rate": 3.291666666666667e-05,
      "loss": 0.272,
      "step": 102500
    },
    {
      "epoch": 1.03,
      "learning_rate": 3.283333333333333e-05,
      "loss": 0.2742,
      "step": 103000
    },
    {
      "epoch": 1.03,
      "learning_rate": 3.275e-05,
      "loss": 0.2769,
      "step": 103500
    },
    {
      "epoch": 1.04,
      "learning_rate": 3.266666666666667e-05,
      "loss": 0.2801,
      "step": 104000
    },
    {
      "epoch": 1.04,
      "learning_rate": 3.258333333333333e-05,
      "loss": 0.2732,
      "step": 104500
    },
    {
      "epoch": 1.05,
      "learning_rate": 3.2500000000000004e-05,
      "loss": 0.2755,
      "step": 105000
    },
    {
      "epoch": 1.05,
      "learning_rate": 3.2416666666666664e-05,
      "loss": 0.276,
      "step": 105500
    },
    {
      "epoch": 1.06,
      "learning_rate": 3.233333333333333e-05,
      "loss": 0.274,
      "step": 106000
    },
    {
      "epoch": 1.06,
      "learning_rate": 3.2250000000000005e-05,
      "loss": 0.2761,
      "step": 106500
    },
    {
      "epoch": 1.07,
      "learning_rate": 3.2166666666666665e-05,
      "loss": 0.2734,
      "step": 107000
    },
    {
      "epoch": 1.07,
      "learning_rate": 3.208333333333334e-05,
      "loss": 0.2712,
      "step": 107500
    },
    {
      "epoch": 1.08,
      "learning_rate": 3.2000000000000005e-05,
      "loss": 0.2772,
      "step": 108000
    },
    {
      "epoch": 1.08,
      "learning_rate": 3.1916666666666665e-05,
      "loss": 0.2724,
      "step": 108500
    },
    {
      "epoch": 1.09,
      "learning_rate": 3.183333333333334e-05,
      "loss": 0.2721,
      "step": 109000
    },
    {
      "epoch": 1.09,
      "learning_rate": 3.175e-05,
      "loss": 0.2714,
      "step": 109500
    },
    {
      "epoch": 1.1,
      "learning_rate": 3.1666666666666666e-05,
      "loss": 0.2636,
      "step": 110000
    },
    {
      "epoch": 1.1,
      "learning_rate": 3.158333333333334e-05,
      "loss": 0.2719,
      "step": 110500
    },
    {
      "epoch": 1.11,
      "learning_rate": 3.15e-05,
      "loss": 0.2723,
      "step": 111000
    },
    {
      "epoch": 1.11,
      "learning_rate": 3.141666666666667e-05,
      "loss": 0.2705,
      "step": 111500
    },
    {
      "epoch": 1.12,
      "learning_rate": 3.1333333333333334e-05,
      "loss": 0.2728,
      "step": 112000
    },
    {
      "epoch": 1.12,
      "learning_rate": 3.125e-05,
      "loss": 0.2638,
      "step": 112500
    },
    {
      "epoch": 1.13,
      "learning_rate": 3.116666666666667e-05,
      "loss": 0.2689,
      "step": 113000
    },
    {
      "epoch": 1.14,
      "learning_rate": 3.1083333333333334e-05,
      "loss": 0.2676,
      "step": 113500
    },
    {
      "epoch": 1.14,
      "learning_rate": 3.1e-05,
      "loss": 0.266,
      "step": 114000
    },
    {
      "epoch": 1.15,
      "learning_rate": 3.091666666666667e-05,
      "loss": 0.2658,
      "step": 114500
    },
    {
      "epoch": 1.15,
      "learning_rate": 3.0833333333333335e-05,
      "loss": 0.2613,
      "step": 115000
    },
    {
      "epoch": 1.16,
      "learning_rate": 3.075e-05,
      "loss": 0.265,
      "step": 115500
    },
    {
      "epoch": 1.16,
      "learning_rate": 3.066666666666667e-05,
      "loss": 0.2651,
      "step": 116000
    },
    {
      "epoch": 1.17,
      "learning_rate": 3.0583333333333336e-05,
      "loss": 0.2672,
      "step": 116500
    },
    {
      "epoch": 1.17,
      "learning_rate": 3.05e-05,
      "loss": 0.2669,
      "step": 117000
    },
    {
      "epoch": 1.18,
      "learning_rate": 3.0416666666666666e-05,
      "loss": 0.2602,
      "step": 117500
    },
    {
      "epoch": 1.18,
      "learning_rate": 3.0333333333333337e-05,
      "loss": 0.2665,
      "step": 118000
    },
    {
      "epoch": 1.19,
      "learning_rate": 3.025e-05,
      "loss": 0.2636,
      "step": 118500
    },
    {
      "epoch": 1.19,
      "learning_rate": 3.016666666666667e-05,
      "loss": 0.262,
      "step": 119000
    },
    {
      "epoch": 1.2,
      "learning_rate": 3.0083333333333337e-05,
      "loss": 0.2596,
      "step": 119500
    },
    {
      "epoch": 1.2,
      "learning_rate": 3e-05,
      "loss": 0.255,
      "step": 120000
    },
    {
      "epoch": 1.21,
      "learning_rate": 2.991666666666667e-05,
      "loss": 0.261,
      "step": 120500
    },
    {
      "epoch": 1.21,
      "learning_rate": 2.9833333333333335e-05,
      "loss": 0.2611,
      "step": 121000
    },
    {
      "epoch": 1.22,
      "learning_rate": 2.975e-05,
      "loss": 0.2631,
      "step": 121500
    },
    {
      "epoch": 1.22,
      "learning_rate": 2.9666666666666672e-05,
      "loss": 0.2641,
      "step": 122000
    },
    {
      "epoch": 1.23,
      "learning_rate": 2.9583333333333335e-05,
      "loss": 0.2599,
      "step": 122500
    },
    {
      "epoch": 1.23,
      "learning_rate": 2.95e-05,
      "loss": 0.2596,
      "step": 123000
    },
    {
      "epoch": 1.23,
      "learning_rate": 2.941666666666667e-05,
      "loss": 0.2592,
      "step": 123500
    },
    {
      "epoch": 1.24,
      "learning_rate": 2.9333333333333336e-05,
      "loss": 0.2617,
      "step": 124000
    },
    {
      "epoch": 1.25,
      "learning_rate": 2.925e-05,
      "loss": 0.26,
      "step": 124500
    },
    {
      "epoch": 1.25,
      "learning_rate": 2.916666666666667e-05,
      "loss": 0.2533,
      "step": 125000
    },
    {
      "epoch": 1.25,
      "learning_rate": 2.9083333333333333e-05,
      "loss": 0.2581,
      "step": 125500
    },
    {
      "epoch": 1.26,
      "learning_rate": 2.9e-05,
      "loss": 0.2559,
      "step": 126000
    },
    {
      "epoch": 1.27,
      "learning_rate": 2.891666666666667e-05,
      "loss": 0.2618,
      "step": 126500
    },
    {
      "epoch": 1.27,
      "learning_rate": 2.8833333333333334e-05,
      "loss": 0.2567,
      "step": 127000
    },
    {
      "epoch": 1.27,
      "learning_rate": 2.8749999999999997e-05,
      "loss": 0.2582,
      "step": 127500
    },
    {
      "epoch": 1.28,
      "learning_rate": 2.8666666666666668e-05,
      "loss": 0.2544,
      "step": 128000
    },
    {
      "epoch": 1.28,
      "learning_rate": 2.8583333333333335e-05,
      "loss": 0.2554,
      "step": 128500
    },
    {
      "epoch": 1.29,
      "learning_rate": 2.8499999999999998e-05,
      "loss": 0.2532,
      "step": 129000
    },
    {
      "epoch": 1.29,
      "learning_rate": 2.841666666666667e-05,
      "loss": 0.2534,
      "step": 129500
    },
    {
      "epoch": 1.3,
      "learning_rate": 2.8333333333333335e-05,
      "loss": 0.257,
      "step": 130000
    },
    {
      "epoch": 1.3,
      "learning_rate": 2.825e-05,
      "loss": 0.2562,
      "step": 130500
    },
    {
      "epoch": 1.31,
      "learning_rate": 2.816666666666667e-05,
      "loss": 0.2538,
      "step": 131000
    },
    {
      "epoch": 1.31,
      "learning_rate": 2.8083333333333333e-05,
      "loss": 0.2543,
      "step": 131500
    },
    {
      "epoch": 1.32,
      "learning_rate": 2.8000000000000003e-05,
      "loss": 0.2532,
      "step": 132000
    },
    {
      "epoch": 1.32,
      "learning_rate": 2.791666666666667e-05,
      "loss": 0.2548,
      "step": 132500
    },
    {
      "epoch": 1.33,
      "learning_rate": 2.7833333333333333e-05,
      "loss": 0.2533,
      "step": 133000
    },
    {
      "epoch": 1.33,
      "learning_rate": 2.7750000000000004e-05,
      "loss": 0.2562,
      "step": 133500
    },
    {
      "epoch": 1.34,
      "learning_rate": 2.7666666666666667e-05,
      "loss": 0.2545,
      "step": 134000
    },
    {
      "epoch": 1.34,
      "learning_rate": 2.7583333333333334e-05,
      "loss": 0.2551,
      "step": 134500
    },
    {
      "epoch": 1.35,
      "learning_rate": 2.7500000000000004e-05,
      "loss": 0.2507,
      "step": 135000
    },
    {
      "epoch": 1.35,
      "learning_rate": 2.7416666666666668e-05,
      "loss": 0.2529,
      "step": 135500
    },
    {
      "epoch": 1.36,
      "learning_rate": 2.733333333333333e-05,
      "loss": 0.2527,
      "step": 136000
    },
    {
      "epoch": 1.36,
      "learning_rate": 2.725e-05,
      "loss": 0.2527,
      "step": 136500
    },
    {
      "epoch": 1.37,
      "learning_rate": 2.716666666666667e-05,
      "loss": 0.2506,
      "step": 137000
    },
    {
      "epoch": 1.38,
      "learning_rate": 2.7083333333333332e-05,
      "loss": 0.2529,
      "step": 137500
    },
    {
      "epoch": 1.38,
      "learning_rate": 2.7000000000000002e-05,
      "loss": 0.2497,
      "step": 138000
    },
    {
      "epoch": 1.39,
      "learning_rate": 2.691666666666667e-05,
      "loss": 0.2517,
      "step": 138500
    },
    {
      "epoch": 1.39,
      "learning_rate": 2.6833333333333333e-05,
      "loss": 0.2501,
      "step": 139000
    },
    {
      "epoch": 1.4,
      "learning_rate": 2.6750000000000003e-05,
      "loss": 0.2532,
      "step": 139500
    },
    {
      "epoch": 1.4,
      "learning_rate": 2.6666666666666667e-05,
      "loss": 0.247,
      "step": 140000
    },
    {
      "epoch": 1.41,
      "learning_rate": 2.6583333333333333e-05,
      "loss": 0.2531,
      "step": 140500
    },
    {
      "epoch": 1.41,
      "learning_rate": 2.6500000000000004e-05,
      "loss": 0.2472,
      "step": 141000
    },
    {
      "epoch": 1.42,
      "learning_rate": 2.6416666666666667e-05,
      "loss": 0.2454,
      "step": 141500
    },
    {
      "epoch": 1.42,
      "learning_rate": 2.633333333333333e-05,
      "loss": 0.2491,
      "step": 142000
    },
    {
      "epoch": 1.43,
      "learning_rate": 2.625e-05,
      "loss": 0.2476,
      "step": 142500
    },
    {
      "epoch": 1.43,
      "learning_rate": 2.6166666666666668e-05,
      "loss": 0.2466,
      "step": 143000
    },
    {
      "epoch": 1.44,
      "learning_rate": 2.608333333333333e-05,
      "loss": 0.2496,
      "step": 143500
    },
    {
      "epoch": 1.44,
      "learning_rate": 2.6000000000000002e-05,
      "loss": 0.2516,
      "step": 144000
    },
    {
      "epoch": 1.45,
      "learning_rate": 2.5916666666666665e-05,
      "loss": 0.2474,
      "step": 144500
    },
    {
      "epoch": 1.45,
      "learning_rate": 2.5833333333333336e-05,
      "loss": 0.2482,
      "step": 145000
    },
    {
      "epoch": 1.46,
      "learning_rate": 2.5750000000000002e-05,
      "loss": 0.2449,
      "step": 145500
    },
    {
      "epoch": 1.46,
      "learning_rate": 2.5666666666666666e-05,
      "loss": 0.2442,
      "step": 146000
    },
    {
      "epoch": 1.47,
      "learning_rate": 2.5583333333333336e-05,
      "loss": 0.245,
      "step": 146500
    },
    {
      "epoch": 1.47,
      "learning_rate": 2.5500000000000003e-05,
      "loss": 0.2479,
      "step": 147000
    },
    {
      "epoch": 1.48,
      "learning_rate": 2.5416666666666667e-05,
      "loss": 0.2488,
      "step": 147500
    },
    {
      "epoch": 1.48,
      "learning_rate": 2.5333333333333337e-05,
      "loss": 0.2491,
      "step": 148000
    },
    {
      "epoch": 1.48,
      "learning_rate": 2.525e-05,
      "loss": 0.2466,
      "step": 148500
    },
    {
      "epoch": 1.49,
      "learning_rate": 2.5166666666666667e-05,
      "loss": 0.2436,
      "step": 149000
    },
    {
      "epoch": 1.5,
      "learning_rate": 2.5083333333333338e-05,
      "loss": 0.2458,
      "step": 149500
    },
    {
      "epoch": 1.5,
      "learning_rate": 2.5e-05,
      "loss": 0.2435,
      "step": 150000
    },
    {
      "epoch": 1.5,
      "learning_rate": 2.4916666666666668e-05,
      "loss": 0.2449,
      "step": 150500
    },
    {
      "epoch": 1.51,
      "learning_rate": 2.4833333333333335e-05,
      "loss": 0.2451,
      "step": 151000
    },
    {
      "epoch": 1.52,
      "learning_rate": 2.4750000000000002e-05,
      "loss": 0.2425,
      "step": 151500
    },
    {
      "epoch": 1.52,
      "learning_rate": 2.466666666666667e-05,
      "loss": 0.2457,
      "step": 152000
    },
    {
      "epoch": 1.52,
      "learning_rate": 2.4583333333333332e-05,
      "loss": 0.2471,
      "step": 152500
    },
    {
      "epoch": 1.53,
      "learning_rate": 2.45e-05,
      "loss": 0.2444,
      "step": 153000
    },
    {
      "epoch": 1.54,
      "learning_rate": 2.441666666666667e-05,
      "loss": 0.2457,
      "step": 153500
    },
    {
      "epoch": 1.54,
      "learning_rate": 2.4333333333333336e-05,
      "loss": 0.2422,
      "step": 154000
    },
    {
      "epoch": 1.54,
      "learning_rate": 2.425e-05,
      "loss": 0.242,
      "step": 154500
    },
    {
      "epoch": 1.55,
      "learning_rate": 2.4166666666666667e-05,
      "loss": 0.2458,
      "step": 155000
    },
    {
      "epoch": 1.56,
      "learning_rate": 2.4083333333333337e-05,
      "loss": 0.2436,
      "step": 155500
    },
    {
      "epoch": 1.56,
      "learning_rate": 2.4e-05,
      "loss": 0.2405,
      "step": 156000
    },
    {
      "epoch": 1.56,
      "learning_rate": 2.3916666666666668e-05,
      "loss": 0.2399,
      "step": 156500
    },
    {
      "epoch": 1.57,
      "learning_rate": 2.3833333333333334e-05,
      "loss": 0.2443,
      "step": 157000
    },
    {
      "epoch": 1.57,
      "learning_rate": 2.375e-05,
      "loss": 0.2415,
      "step": 157500
    },
    {
      "epoch": 1.58,
      "learning_rate": 2.3666666666666668e-05,
      "loss": 0.2376,
      "step": 158000
    },
    {
      "epoch": 1.58,
      "learning_rate": 2.3583333333333335e-05,
      "loss": 0.2386,
      "step": 158500
    },
    {
      "epoch": 1.59,
      "learning_rate": 2.35e-05,
      "loss": 0.2381,
      "step": 159000
    },
    {
      "epoch": 1.59,
      "learning_rate": 2.341666666666667e-05,
      "loss": 0.2419,
      "step": 159500
    },
    {
      "epoch": 1.6,
      "learning_rate": 2.3333333333333336e-05,
      "loss": 0.2426,
      "step": 160000
    },
    {
      "epoch": 1.6,
      "learning_rate": 2.3250000000000003e-05,
      "loss": 0.2416,
      "step": 160500
    },
    {
      "epoch": 1.61,
      "learning_rate": 2.3166666666666666e-05,
      "loss": 0.2401,
      "step": 161000
    },
    {
      "epoch": 1.61,
      "learning_rate": 2.3083333333333333e-05,
      "loss": 0.2403,
      "step": 161500
    },
    {
      "epoch": 1.62,
      "learning_rate": 2.3000000000000003e-05,
      "loss": 0.2384,
      "step": 162000
    },
    {
      "epoch": 1.62,
      "learning_rate": 2.2916666666666667e-05,
      "loss": 0.2369,
      "step": 162500
    },
    {
      "epoch": 1.63,
      "learning_rate": 2.2833333333333334e-05,
      "loss": 0.2398,
      "step": 163000
    },
    {
      "epoch": 1.64,
      "learning_rate": 2.275e-05,
      "loss": 0.2369,
      "step": 163500
    },
    {
      "epoch": 1.64,
      "learning_rate": 2.2666666666666668e-05,
      "loss": 0.2342,
      "step": 164000
    },
    {
      "epoch": 1.65,
      "learning_rate": 2.2583333333333335e-05,
      "loss": 0.2366,
      "step": 164500
    },
    {
      "epoch": 1.65,
      "learning_rate": 2.25e-05,
      "loss": 0.2365,
      "step": 165000
    },
    {
      "epoch": 1.66,
      "learning_rate": 2.2416666666666665e-05,
      "loss": 0.2428,
      "step": 165500
    },
    {
      "epoch": 1.66,
      "learning_rate": 2.2333333333333335e-05,
      "loss": 0.2417,
      "step": 166000
    },
    {
      "epoch": 1.67,
      "learning_rate": 2.2250000000000002e-05,
      "loss": 0.2401,
      "step": 166500
    },
    {
      "epoch": 1.67,
      "learning_rate": 2.216666666666667e-05,
      "loss": 0.2416,
      "step": 167000
    },
    {
      "epoch": 1.68,
      "learning_rate": 2.2083333333333333e-05,
      "loss": 0.2357,
      "step": 167500
    },
    {
      "epoch": 1.68,
      "learning_rate": 2.2000000000000003e-05,
      "loss": 0.2389,
      "step": 168000
    },
    {
      "epoch": 1.69,
      "learning_rate": 2.191666666666667e-05,
      "loss": 0.2395,
      "step": 168500
    },
    {
      "epoch": 1.69,
      "learning_rate": 2.1833333333333333e-05,
      "loss": 0.2358,
      "step": 169000
    },
    {
      "epoch": 1.69,
      "learning_rate": 2.175e-05,
      "loss": 0.2392,
      "step": 169500
    },
    {
      "epoch": 1.7,
      "learning_rate": 2.1666666666666667e-05,
      "loss": 0.2379,
      "step": 170000
    },
    {
      "epoch": 1.71,
      "learning_rate": 2.1583333333333334e-05,
      "loss": 0.2341,
      "step": 170500
    },
    {
      "epoch": 1.71,
      "learning_rate": 2.15e-05,
      "loss": 0.2348,
      "step": 171000
    },
    {
      "epoch": 1.71,
      "learning_rate": 2.1416666666666668e-05,
      "loss": 0.2364,
      "step": 171500
    },
    {
      "epoch": 1.72,
      "learning_rate": 2.1333333333333335e-05,
      "loss": 0.2365,
      "step": 172000
    },
    {
      "epoch": 1.73,
      "learning_rate": 2.125e-05,
      "loss": 0.2361,
      "step": 172500
    },
    {
      "epoch": 1.73,
      "learning_rate": 2.116666666666667e-05,
      "loss": 0.2329,
      "step": 173000
    },
    {
      "epoch": 1.73,
      "learning_rate": 2.1083333333333335e-05,
      "loss": 0.2369,
      "step": 173500
    },
    {
      "epoch": 1.74,
      "learning_rate": 2.1e-05,
      "loss": 0.2374,
      "step": 174000
    },
    {
      "epoch": 1.75,
      "learning_rate": 2.091666666666667e-05,
      "loss": 0.2387,
      "step": 174500
    },
    {
      "epoch": 1.75,
      "learning_rate": 2.0833333333333336e-05,
      "loss": 0.2337,
      "step": 175000
    },
    {
      "epoch": 1.75,
      "learning_rate": 2.075e-05,
      "loss": 0.2366,
      "step": 175500
    },
    {
      "epoch": 1.76,
      "learning_rate": 2.0666666666666666e-05,
      "loss": 0.2311,
      "step": 176000
    },
    {
      "epoch": 1.77,
      "learning_rate": 2.0583333333333333e-05,
      "loss": 0.2356,
      "step": 176500
    },
    {
      "epoch": 1.77,
      "learning_rate": 2.05e-05,
      "loss": 0.2328,
      "step": 177000
    },
    {
      "epoch": 1.77,
      "learning_rate": 2.0416666666666667e-05,
      "loss": 0.2399,
      "step": 177500
    },
    {
      "epoch": 1.78,
      "learning_rate": 2.0333333333333334e-05,
      "loss": 0.2352,
      "step": 178000
    },
    {
      "epoch": 1.79,
      "learning_rate": 2.025e-05,
      "loss": 0.235,
      "step": 178500
    },
    {
      "epoch": 1.79,
      "learning_rate": 2.0166666666666668e-05,
      "loss": 0.2346,
      "step": 179000
    },
    {
      "epoch": 1.79,
      "learning_rate": 2.0083333333333335e-05,
      "loss": 0.2317,
      "step": 179500
    },
    {
      "epoch": 1.8,
      "learning_rate": 2e-05,
      "loss": 0.2355,
      "step": 180000
    },
    {
      "epoch": 1.81,
      "learning_rate": 1.9916666666666665e-05,
      "loss": 0.2295,
      "step": 180500
    },
    {
      "epoch": 1.81,
      "learning_rate": 1.9833333333333335e-05,
      "loss": 0.2369,
      "step": 181000
    },
    {
      "epoch": 1.81,
      "learning_rate": 1.9750000000000002e-05,
      "loss": 0.2324,
      "step": 181500
    },
    {
      "epoch": 1.82,
      "learning_rate": 1.9666666666666666e-05,
      "loss": 0.2332,
      "step": 182000
    },
    {
      "epoch": 1.82,
      "learning_rate": 1.9583333333333333e-05,
      "loss": 0.2315,
      "step": 182500
    },
    {
      "epoch": 1.83,
      "learning_rate": 1.9500000000000003e-05,
      "loss": 0.2342,
      "step": 183000
    },
    {
      "epoch": 1.83,
      "learning_rate": 1.9416666666666667e-05,
      "loss": 0.2333,
      "step": 183500
    },
    {
      "epoch": 1.84,
      "learning_rate": 1.9333333333333333e-05,
      "loss": 0.2341,
      "step": 184000
    },
    {
      "epoch": 1.84,
      "learning_rate": 1.925e-05,
      "loss": 0.2358,
      "step": 184500
    },
    {
      "epoch": 1.85,
      "learning_rate": 1.9166666666666667e-05,
      "loss": 0.2355,
      "step": 185000
    },
    {
      "epoch": 1.85,
      "learning_rate": 1.9083333333333334e-05,
      "loss": 0.2314,
      "step": 185500
    },
    {
      "epoch": 1.86,
      "learning_rate": 1.9e-05,
      "loss": 0.2311,
      "step": 186000
    },
    {
      "epoch": 1.86,
      "learning_rate": 1.8916666666666668e-05,
      "loss": 0.2353,
      "step": 186500
    },
    {
      "epoch": 1.87,
      "learning_rate": 1.8833333333333335e-05,
      "loss": 0.2321,
      "step": 187000
    },
    {
      "epoch": 1.88,
      "learning_rate": 1.8750000000000002e-05,
      "loss": 0.2299,
      "step": 187500
    },
    {
      "epoch": 1.88,
      "learning_rate": 1.866666666666667e-05,
      "loss": 0.2345,
      "step": 188000
    },
    {
      "epoch": 1.89,
      "learning_rate": 1.8583333333333332e-05,
      "loss": 0.2305,
      "step": 188500
    },
    {
      "epoch": 1.89,
      "learning_rate": 1.85e-05,
      "loss": 0.2329,
      "step": 189000
    },
    {
      "epoch": 1.9,
      "learning_rate": 1.841666666666667e-05,
      "loss": 0.2318,
      "step": 189500
    },
    {
      "epoch": 1.9,
      "learning_rate": 1.8333333333333333e-05,
      "loss": 0.2275,
      "step": 190000
    },
    {
      "epoch": 1.91,
      "learning_rate": 1.825e-05,
      "loss": 0.2315,
      "step": 190500
    },
    {
      "epoch": 1.91,
      "learning_rate": 1.8166666666666667e-05,
      "loss": 0.2301,
      "step": 191000
    },
    {
      "epoch": 1.92,
      "learning_rate": 1.8083333333333337e-05,
      "loss": 0.2319,
      "step": 191500
    },
    {
      "epoch": 1.92,
      "learning_rate": 1.8e-05,
      "loss": 0.2264,
      "step": 192000
    },
    {
      "epoch": 1.93,
      "learning_rate": 1.7916666666666667e-05,
      "loss": 0.2296,
      "step": 192500
    },
    {
      "epoch": 1.93,
      "learning_rate": 1.7833333333333334e-05,
      "loss": 0.231,
      "step": 193000
    },
    {
      "epoch": 1.94,
      "learning_rate": 1.775e-05,
      "loss": 0.2287,
      "step": 193500
    },
    {
      "epoch": 1.94,
      "learning_rate": 1.7666666666666668e-05,
      "loss": 0.2294,
      "step": 194000
    },
    {
      "epoch": 1.94,
      "learning_rate": 1.7583333333333335e-05,
      "loss": 0.2285,
      "step": 194500
    },
    {
      "epoch": 1.95,
      "learning_rate": 1.75e-05,
      "loss": 0.2285,
      "step": 195000
    },
    {
      "epoch": 1.96,
      "learning_rate": 1.741666666666667e-05,
      "loss": 0.2283,
      "step": 195500
    },
    {
      "epoch": 1.96,
      "learning_rate": 1.7333333333333336e-05,
      "loss": 0.2291,
      "step": 196000
    },
    {
      "epoch": 1.96,
      "learning_rate": 1.725e-05,
      "loss": 0.2297,
      "step": 196500
    },
    {
      "epoch": 1.97,
      "learning_rate": 1.7166666666666666e-05,
      "loss": 0.2261,
      "step": 197000
    },
    {
      "epoch": 1.98,
      "learning_rate": 1.7083333333333333e-05,
      "loss": 0.226,
      "step": 197500
    },
    {
      "epoch": 1.98,
      "learning_rate": 1.7000000000000003e-05,
      "loss": 0.2255,
      "step": 198000
    },
    {
      "epoch": 1.98,
      "learning_rate": 1.6916666666666667e-05,
      "loss": 0.2311,
      "step": 198500
    },
    {
      "epoch": 1.99,
      "learning_rate": 1.6833333333333334e-05,
      "loss": 0.23,
      "step": 199000
    },
    {
      "epoch": 2.0,
      "learning_rate": 1.675e-05,
      "loss": 0.2301,
      "step": 199500
    },
    {
      "epoch": 2.0,
      "learning_rate": 1.6666666666666667e-05,
      "loss": 0.2307,
      "step": 200000
    },
    {
      "epoch": 2.0,
      "learning_rate": 1.6583333333333334e-05,
      "loss": 0.2259,
      "step": 200500
    },
    {
      "epoch": 2.01,
      "learning_rate": 1.65e-05,
      "loss": 0.2249,
      "step": 201000
    },
    {
      "epoch": 2.02,
      "learning_rate": 1.6416666666666665e-05,
      "loss": 0.2274,
      "step": 201500
    },
    {
      "epoch": 2.02,
      "learning_rate": 1.6333333333333335e-05,
      "loss": 0.2286,
      "step": 202000
    },
    {
      "epoch": 2.02,
      "learning_rate": 1.6250000000000002e-05,
      "loss": 0.2258,
      "step": 202500
    },
    {
      "epoch": 2.03,
      "learning_rate": 1.6166666666666665e-05,
      "loss": 0.2276,
      "step": 203000
    },
    {
      "epoch": 2.04,
      "learning_rate": 1.6083333333333332e-05,
      "loss": 0.2265,
      "step": 203500
    },
    {
      "epoch": 2.04,
      "learning_rate": 1.6000000000000003e-05,
      "loss": 0.2279,
      "step": 204000
    },
    {
      "epoch": 2.04,
      "learning_rate": 1.591666666666667e-05,
      "loss": 0.2235,
      "step": 204500
    },
    {
      "epoch": 2.05,
      "learning_rate": 1.5833333333333333e-05,
      "loss": 0.2244,
      "step": 205000
    },
    {
      "epoch": 2.06,
      "learning_rate": 1.575e-05,
      "loss": 0.2225,
      "step": 205500
    },
    {
      "epoch": 2.06,
      "learning_rate": 1.5666666666666667e-05,
      "loss": 0.2264,
      "step": 206000
    },
    {
      "epoch": 2.06,
      "learning_rate": 1.5583333333333334e-05,
      "loss": 0.2264,
      "step": 206500
    },
    {
      "epoch": 2.07,
      "learning_rate": 1.55e-05,
      "loss": 0.224,
      "step": 207000
    },
    {
      "epoch": 2.08,
      "learning_rate": 1.5416666666666668e-05,
      "loss": 0.228,
      "step": 207500
    },
    {
      "epoch": 2.08,
      "learning_rate": 1.5333333333333334e-05,
      "loss": 0.223,
      "step": 208000
    },
    {
      "epoch": 2.08,
      "learning_rate": 1.525e-05,
      "loss": 0.2242,
      "step": 208500
    },
    {
      "epoch": 2.09,
      "learning_rate": 1.5166666666666668e-05,
      "loss": 0.224,
      "step": 209000
    },
    {
      "epoch": 2.1,
      "learning_rate": 1.5083333333333335e-05,
      "loss": 0.2228,
      "step": 209500
    },
    {
      "epoch": 2.1,
      "learning_rate": 1.5e-05,
      "loss": 0.2223,
      "step": 210000
    },
    {
      "epoch": 2.1,
      "learning_rate": 1.4916666666666667e-05,
      "loss": 0.2244,
      "step": 210500
    },
    {
      "epoch": 2.11,
      "learning_rate": 1.4833333333333336e-05,
      "loss": 0.2257,
      "step": 211000
    },
    {
      "epoch": 2.12,
      "learning_rate": 1.475e-05,
      "loss": 0.2238,
      "step": 211500
    },
    {
      "epoch": 2.12,
      "learning_rate": 1.4666666666666668e-05,
      "loss": 0.2235,
      "step": 212000
    },
    {
      "epoch": 2.12,
      "learning_rate": 1.4583333333333335e-05,
      "loss": 0.223,
      "step": 212500
    },
    {
      "epoch": 2.13,
      "learning_rate": 1.45e-05,
      "loss": 0.2232,
      "step": 213000
    },
    {
      "epoch": 2.13,
      "learning_rate": 1.4416666666666667e-05,
      "loss": 0.223,
      "step": 213500
    },
    {
      "epoch": 2.14,
      "learning_rate": 1.4333333333333334e-05,
      "loss": 0.221,
      "step": 214000
    },
    {
      "epoch": 2.15,
      "learning_rate": 1.4249999999999999e-05,
      "loss": 0.2244,
      "step": 214500
    },
    {
      "epoch": 2.15,
      "learning_rate": 1.4166666666666668e-05,
      "loss": 0.2267,
      "step": 215000
    },
    {
      "epoch": 2.15,
      "learning_rate": 1.4083333333333335e-05,
      "loss": 0.226,
      "step": 215500
    },
    {
      "epoch": 2.16,
      "learning_rate": 1.4000000000000001e-05,
      "loss": 0.2227,
      "step": 216000
    },
    {
      "epoch": 2.17,
      "learning_rate": 1.3916666666666667e-05,
      "loss": 0.2244,
      "step": 216500
    },
    {
      "epoch": 2.17,
      "learning_rate": 1.3833333333333334e-05,
      "loss": 0.224,
      "step": 217000
    },
    {
      "epoch": 2.17,
      "learning_rate": 1.3750000000000002e-05,
      "loss": 0.2194,
      "step": 217500
    },
    {
      "epoch": 2.18,
      "learning_rate": 1.3666666666666666e-05,
      "loss": 0.2224,
      "step": 218000
    },
    {
      "epoch": 2.19,
      "learning_rate": 1.3583333333333334e-05,
      "loss": 0.2228,
      "step": 218500
    },
    {
      "epoch": 2.19,
      "learning_rate": 1.3500000000000001e-05,
      "loss": 0.2239,
      "step": 219000
    },
    {
      "epoch": 2.19,
      "learning_rate": 1.3416666666666666e-05,
      "loss": 0.2241,
      "step": 219500
    },
    {
      "epoch": 2.2,
      "learning_rate": 1.3333333333333333e-05,
      "loss": 0.2214,
      "step": 220000
    },
    {
      "epoch": 2.21,
      "learning_rate": 1.3250000000000002e-05,
      "loss": 0.223,
      "step": 220500
    },
    {
      "epoch": 2.21,
      "learning_rate": 1.3166666666666665e-05,
      "loss": 0.2221,
      "step": 221000
    },
    {
      "epoch": 2.21,
      "learning_rate": 1.3083333333333334e-05,
      "loss": 0.2238,
      "step": 221500
    },
    {
      "epoch": 2.22,
      "learning_rate": 1.3000000000000001e-05,
      "loss": 0.2206,
      "step": 222000
    },
    {
      "epoch": 2.23,
      "learning_rate": 1.2916666666666668e-05,
      "loss": 0.2202,
      "step": 222500
    },
    {
      "epoch": 2.23,
      "learning_rate": 1.2833333333333333e-05,
      "loss": 0.2221,
      "step": 223000
    },
    {
      "epoch": 2.23,
      "learning_rate": 1.2750000000000002e-05,
      "loss": 0.2244,
      "step": 223500
    },
    {
      "epoch": 2.24,
      "learning_rate": 1.2666666666666668e-05,
      "loss": 0.2225,
      "step": 224000
    },
    {
      "epoch": 2.25,
      "learning_rate": 1.2583333333333334e-05,
      "loss": 0.2248,
      "step": 224500
    },
    {
      "epoch": 2.25,
      "learning_rate": 1.25e-05,
      "loss": 0.2211,
      "step": 225000
    },
    {
      "epoch": 2.25,
      "learning_rate": 1.2416666666666667e-05,
      "loss": 0.2203,
      "step": 225500
    },
    {
      "epoch": 2.26,
      "learning_rate": 1.2333333333333334e-05,
      "loss": 0.2202,
      "step": 226000
    },
    {
      "epoch": 2.27,
      "learning_rate": 1.225e-05,
      "loss": 0.2223,
      "step": 226500
    },
    {
      "epoch": 2.27,
      "learning_rate": 1.2166666666666668e-05,
      "loss": 0.2249,
      "step": 227000
    },
    {
      "epoch": 2.27,
      "learning_rate": 1.2083333333333333e-05,
      "loss": 0.2173,
      "step": 227500
    },
    {
      "epoch": 2.28,
      "learning_rate": 1.2e-05,
      "loss": 0.2234,
      "step": 228000
    },
    {
      "epoch": 2.29,
      "learning_rate": 1.1916666666666667e-05,
      "loss": 0.2203,
      "step": 228500
    },
    {
      "epoch": 2.29,
      "learning_rate": 1.1833333333333334e-05,
      "loss": 0.2224,
      "step": 229000
    },
    {
      "epoch": 2.29,
      "learning_rate": 1.175e-05,
      "loss": 0.2176,
      "step": 229500
    },
    {
      "epoch": 2.3,
      "learning_rate": 1.1666666666666668e-05,
      "loss": 0.2204,
      "step": 230000
    },
    {
      "epoch": 2.31,
      "learning_rate": 1.1583333333333333e-05,
      "loss": 0.2227,
      "step": 230500
    },
    {
      "epoch": 2.31,
      "learning_rate": 1.1500000000000002e-05,
      "loss": 0.2199,
      "step": 231000
    },
    {
      "epoch": 2.31,
      "learning_rate": 1.1416666666666667e-05,
      "loss": 0.2214,
      "step": 231500
    },
    {
      "epoch": 2.32,
      "learning_rate": 1.1333333333333334e-05,
      "loss": 0.2173,
      "step": 232000
    },
    {
      "epoch": 2.33,
      "learning_rate": 1.125e-05,
      "loss": 0.2216,
      "step": 232500
    },
    {
      "epoch": 2.33,
      "learning_rate": 1.1166666666666668e-05,
      "loss": 0.2217,
      "step": 233000
    },
    {
      "epoch": 2.33,
      "learning_rate": 1.1083333333333335e-05,
      "loss": 0.2235,
      "step": 233500
    },
    {
      "epoch": 2.34,
      "learning_rate": 1.1000000000000001e-05,
      "loss": 0.2214,
      "step": 234000
    },
    {
      "epoch": 2.34,
      "learning_rate": 1.0916666666666667e-05,
      "loss": 0.2155,
      "step": 234500
    },
    {
      "epoch": 2.35,
      "learning_rate": 1.0833333333333334e-05,
      "loss": 0.2226,
      "step": 235000
    },
    {
      "epoch": 2.35,
      "learning_rate": 1.075e-05,
      "loss": 0.2215,
      "step": 235500
    },
    {
      "epoch": 2.36,
      "learning_rate": 1.0666666666666667e-05,
      "loss": 0.2191,
      "step": 236000
    },
    {
      "epoch": 2.37,
      "learning_rate": 1.0583333333333334e-05,
      "loss": 0.2227,
      "step": 236500
    },
    {
      "epoch": 2.37,
      "learning_rate": 1.05e-05,
      "loss": 0.2199,
      "step": 237000
    },
    {
      "epoch": 2.38,
      "learning_rate": 1.0416666666666668e-05,
      "loss": 0.2238,
      "step": 237500
    },
    {
      "epoch": 2.38,
      "learning_rate": 1.0333333333333333e-05,
      "loss": 0.2134,
      "step": 238000
    },
    {
      "epoch": 2.38,
      "learning_rate": 1.025e-05,
      "loss": 0.2183,
      "step": 238500
    },
    {
      "epoch": 2.39,
      "learning_rate": 1.0166666666666667e-05,
      "loss": 0.2193,
      "step": 239000
    },
    {
      "epoch": 2.4,
      "learning_rate": 1.0083333333333334e-05,
      "loss": 0.2207,
      "step": 239500
    },
    {
      "epoch": 2.4,
      "learning_rate": 1e-05,
      "loss": 0.2217,
      "step": 240000
    },
    {
      "epoch": 2.41,
      "learning_rate": 9.916666666666668e-06,
      "loss": 0.22,
      "step": 240500
    },
    {
      "epoch": 2.41,
      "learning_rate": 9.833333333333333e-06,
      "loss": 0.2214,
      "step": 241000
    },
    {
      "epoch": 2.42,
      "learning_rate": 9.750000000000002e-06,
      "loss": 0.2195,
      "step": 241500
    },
    {
      "epoch": 2.42,
      "learning_rate": 9.666666666666667e-06,
      "loss": 0.2192,
      "step": 242000
    },
    {
      "epoch": 2.42,
      "learning_rate": 9.583333333333334e-06,
      "loss": 0.2197,
      "step": 242500
    },
    {
      "epoch": 2.43,
      "learning_rate": 9.5e-06,
      "loss": 0.2185,
      "step": 243000
    },
    {
      "epoch": 2.44,
      "learning_rate": 9.416666666666667e-06,
      "loss": 0.2226,
      "step": 243500
    },
    {
      "epoch": 2.44,
      "learning_rate": 9.333333333333334e-06,
      "loss": 0.2146,
      "step": 244000
    },
    {
      "epoch": 2.44,
      "learning_rate": 9.25e-06,
      "loss": 0.2201,
      "step": 244500
    },
    {
      "epoch": 2.45,
      "learning_rate": 9.166666666666666e-06,
      "loss": 0.2204,
      "step": 245000
    },
    {
      "epoch": 2.46,
      "learning_rate": 9.083333333333333e-06,
      "loss": 0.2185,
      "step": 245500
    },
    {
      "epoch": 2.46,
      "learning_rate": 9e-06,
      "loss": 0.2181,
      "step": 246000
    },
    {
      "epoch": 2.46,
      "learning_rate": 8.916666666666667e-06,
      "loss": 0.2149,
      "step": 246500
    },
    {
      "epoch": 2.47,
      "learning_rate": 8.833333333333334e-06,
      "loss": 0.219,
      "step": 247000
    },
    {
      "epoch": 2.48,
      "learning_rate": 8.75e-06,
      "loss": 0.2186,
      "step": 247500
    },
    {
      "epoch": 2.48,
      "learning_rate": 8.666666666666668e-06,
      "loss": 0.2209,
      "step": 248000
    },
    {
      "epoch": 2.48,
      "learning_rate": 8.583333333333333e-06,
      "loss": 0.2191,
      "step": 248500
    },
    {
      "epoch": 2.49,
      "learning_rate": 8.500000000000002e-06,
      "loss": 0.2166,
      "step": 249000
    },
    {
      "epoch": 2.5,
      "learning_rate": 8.416666666666667e-06,
      "loss": 0.2138,
      "step": 249500
    },
    {
      "epoch": 2.5,
      "learning_rate": 8.333333333333334e-06,
      "loss": 0.2206,
      "step": 250000
    },
    {
      "epoch": 2.5,
      "learning_rate": 8.25e-06,
      "loss": 0.216,
      "step": 250500
    },
    {
      "epoch": 2.51,
      "learning_rate": 8.166666666666668e-06,
      "loss": 0.2162,
      "step": 251000
    },
    {
      "epoch": 2.52,
      "learning_rate": 8.083333333333333e-06,
      "loss": 0.2186,
      "step": 251500
    },
    {
      "epoch": 2.52,
      "learning_rate": 8.000000000000001e-06,
      "loss": 0.2141,
      "step": 252000
    },
    {
      "epoch": 2.52,
      "learning_rate": 7.916666666666667e-06,
      "loss": 0.2167,
      "step": 252500
    },
    {
      "epoch": 2.53,
      "learning_rate": 7.833333333333333e-06,
      "loss": 0.2192,
      "step": 253000
    },
    {
      "epoch": 2.54,
      "learning_rate": 7.75e-06,
      "loss": 0.2197,
      "step": 253500
    },
    {
      "epoch": 2.54,
      "learning_rate": 7.666666666666667e-06,
      "loss": 0.2194,
      "step": 254000
    },
    {
      "epoch": 2.54,
      "learning_rate": 7.583333333333334e-06,
      "loss": 0.2178,
      "step": 254500
    },
    {
      "epoch": 2.55,
      "learning_rate": 7.5e-06,
      "loss": 0.2166,
      "step": 255000
    },
    {
      "epoch": 2.56,
      "learning_rate": 7.416666666666668e-06,
      "loss": 0.2151,
      "step": 255500
    },
    {
      "epoch": 2.56,
      "learning_rate": 7.333333333333334e-06,
      "loss": 0.2163,
      "step": 256000
    },
    {
      "epoch": 2.56,
      "learning_rate": 7.25e-06,
      "loss": 0.2164,
      "step": 256500
    },
    {
      "epoch": 2.57,
      "learning_rate": 7.166666666666667e-06,
      "loss": 0.219,
      "step": 257000
    },
    {
      "epoch": 2.58,
      "learning_rate": 7.083333333333334e-06,
      "loss": 0.217,
      "step": 257500
    },
    {
      "epoch": 2.58,
      "learning_rate": 7.000000000000001e-06,
      "loss": 0.2173,
      "step": 258000
    },
    {
      "epoch": 2.58,
      "learning_rate": 6.916666666666667e-06,
      "loss": 0.2204,
      "step": 258500
    },
    {
      "epoch": 2.59,
      "learning_rate": 6.833333333333333e-06,
      "loss": 0.2166,
      "step": 259000
    },
    {
      "epoch": 2.59,
      "learning_rate": 6.750000000000001e-06,
      "loss": 0.2181,
      "step": 259500
    },
    {
      "epoch": 2.6,
      "learning_rate": 6.666666666666667e-06,
      "loss": 0.2162,
      "step": 260000
    },
    {
      "epoch": 2.6,
      "learning_rate": 6.583333333333333e-06,
      "loss": 0.2179,
      "step": 260500
    },
    {
      "epoch": 2.61,
      "learning_rate": 6.5000000000000004e-06,
      "loss": 0.221,
      "step": 261000
    },
    {
      "epoch": 2.62,
      "learning_rate": 6.4166666666666665e-06,
      "loss": 0.2199,
      "step": 261500
    },
    {
      "epoch": 2.62,
      "learning_rate": 6.333333333333334e-06,
      "loss": 0.2188,
      "step": 262000
    },
    {
      "epoch": 2.62,
      "learning_rate": 6.25e-06,
      "loss": 0.217,
      "step": 262500
    },
    {
      "epoch": 2.63,
      "learning_rate": 6.166666666666667e-06,
      "loss": 0.2133,
      "step": 263000
    },
    {
      "epoch": 2.63,
      "learning_rate": 6.083333333333334e-06,
      "loss": 0.2168,
      "step": 263500
    },
    {
      "epoch": 2.64,
      "learning_rate": 6e-06,
      "loss": 0.2149,
      "step": 264000
    },
    {
      "epoch": 2.65,
      "learning_rate": 5.916666666666667e-06,
      "loss": 0.2206,
      "step": 264500
    },
    {
      "epoch": 2.65,
      "learning_rate": 5.833333333333334e-06,
      "loss": 0.2174,
      "step": 265000
    },
    {
      "epoch": 2.66,
      "learning_rate": 5.750000000000001e-06,
      "loss": 0.2176,
      "step": 265500
    },
    {
      "epoch": 2.66,
      "learning_rate": 5.666666666666667e-06,
      "loss": 0.2133,
      "step": 266000
    },
    {
      "epoch": 2.67,
      "learning_rate": 5.583333333333334e-06,
      "loss": 0.2165,
      "step": 266500
    },
    {
      "epoch": 2.67,
      "learning_rate": 5.500000000000001e-06,
      "loss": 0.2144,
      "step": 267000
    },
    {
      "epoch": 2.67,
      "learning_rate": 5.416666666666667e-06,
      "loss": 0.2148,
      "step": 267500
    },
    {
      "epoch": 2.68,
      "learning_rate": 5.333333333333334e-06,
      "loss": 0.2146,
      "step": 268000
    },
    {
      "epoch": 2.69,
      "learning_rate": 5.25e-06,
      "loss": 0.2204,
      "step": 268500
    },
    {
      "epoch": 2.69,
      "learning_rate": 5.166666666666667e-06,
      "loss": 0.2158,
      "step": 269000
    },
    {
      "epoch": 2.69,
      "learning_rate": 5.0833333333333335e-06,
      "loss": 0.217,
      "step": 269500
    },
    {
      "epoch": 2.7,
      "learning_rate": 5e-06,
      "loss": 0.2169,
      "step": 270000
    },
    {
      "epoch": 2.71,
      "learning_rate": 4.9166666666666665e-06,
      "loss": 0.2186,
      "step": 270500
    },
    {
      "epoch": 2.71,
      "learning_rate": 4.833333333333333e-06,
      "loss": 0.2164,
      "step": 271000
    },
    {
      "epoch": 2.71,
      "learning_rate": 4.75e-06,
      "loss": 0.2176,
      "step": 271500
    },
    {
      "epoch": 2.72,
      "learning_rate": 4.666666666666667e-06,
      "loss": 0.2154,
      "step": 272000
    },
    {
      "epoch": 2.73,
      "learning_rate": 4.583333333333333e-06,
      "loss": 0.2157,
      "step": 272500
    },
    {
      "epoch": 2.73,
      "learning_rate": 4.5e-06,
      "loss": 0.2162,
      "step": 273000
    },
    {
      "epoch": 2.73,
      "learning_rate": 4.416666666666667e-06,
      "loss": 0.2164,
      "step": 273500
    },
    {
      "epoch": 2.74,
      "learning_rate": 4.333333333333334e-06,
      "loss": 0.2168,
      "step": 274000
    },
    {
      "epoch": 2.75,
      "learning_rate": 4.250000000000001e-06,
      "loss": 0.219,
      "step": 274500
    },
    {
      "epoch": 2.75,
      "learning_rate": 4.166666666666667e-06,
      "loss": 0.2142,
      "step": 275000
    },
    {
      "epoch": 2.75,
      "learning_rate": 4.083333333333334e-06,
      "loss": 0.2168,
      "step": 275500
    },
    {
      "epoch": 2.76,
      "learning_rate": 4.000000000000001e-06,
      "loss": 0.2205,
      "step": 276000
    },
    {
      "epoch": 2.77,
      "learning_rate": 3.916666666666667e-06,
      "loss": 0.2156,
      "step": 276500
    },
    {
      "epoch": 2.77,
      "learning_rate": 3.833333333333334e-06,
      "loss": 0.2136,
      "step": 277000
    },
    {
      "epoch": 2.77,
      "learning_rate": 3.75e-06,
      "loss": 0.2126,
      "step": 277500
    },
    {
      "epoch": 2.78,
      "learning_rate": 3.666666666666667e-06,
      "loss": 0.2163,
      "step": 278000
    },
    {
      "epoch": 2.79,
      "learning_rate": 3.5833333333333335e-06,
      "loss": 0.214,
      "step": 278500
    },
    {
      "epoch": 2.79,
      "learning_rate": 3.5000000000000004e-06,
      "loss": 0.2215,
      "step": 279000
    },
    {
      "epoch": 2.79,
      "learning_rate": 3.4166666666666664e-06,
      "loss": 0.2126,
      "step": 279500
    },
    {
      "epoch": 2.8,
      "learning_rate": 3.3333333333333333e-06,
      "loss": 0.2139,
      "step": 280000
    },
    {
      "epoch": 2.81,
      "learning_rate": 3.2500000000000002e-06,
      "loss": 0.2166,
      "step": 280500
    },
    {
      "epoch": 2.81,
      "learning_rate": 3.166666666666667e-06,
      "loss": 0.2174,
      "step": 281000
    },
    {
      "epoch": 2.81,
      "learning_rate": 3.0833333333333336e-06,
      "loss": 0.2164,
      "step": 281500
    },
    {
      "epoch": 2.82,
      "learning_rate": 3e-06,
      "loss": 0.2154,
      "step": 282000
    },
    {
      "epoch": 2.83,
      "learning_rate": 2.916666666666667e-06,
      "loss": 0.2155,
      "step": 282500
    },
    {
      "epoch": 2.83,
      "learning_rate": 2.8333333333333335e-06,
      "loss": 0.2182,
      "step": 283000
    },
    {
      "epoch": 2.83,
      "learning_rate": 2.7500000000000004e-06,
      "loss": 0.2147,
      "step": 283500
    },
    {
      "epoch": 2.84,
      "learning_rate": 2.666666666666667e-06,
      "loss": 0.214,
      "step": 284000
    },
    {
      "epoch": 2.84,
      "learning_rate": 2.5833333333333333e-06,
      "loss": 0.2139,
      "step": 284500
    },
    {
      "epoch": 2.85,
      "learning_rate": 2.5e-06,
      "loss": 0.2149,
      "step": 285000
    },
    {
      "epoch": 2.85,
      "learning_rate": 2.4166666666666667e-06,
      "loss": 0.2164,
      "step": 285500
    },
    {
      "epoch": 2.86,
      "learning_rate": 2.3333333333333336e-06,
      "loss": 0.2133,
      "step": 286000
    },
    {
      "epoch": 2.87,
      "learning_rate": 2.25e-06,
      "loss": 0.2168,
      "step": 286500
    },
    {
      "epoch": 2.87,
      "learning_rate": 2.166666666666667e-06,
      "loss": 0.2178,
      "step": 287000
    },
    {
      "epoch": 2.88,
      "learning_rate": 2.0833333333333334e-06,
      "loss": 0.2144,
      "step": 287500
    },
    {
      "epoch": 2.88,
      "learning_rate": 2.0000000000000003e-06,
      "loss": 0.2141,
      "step": 288000
    },
    {
      "epoch": 2.88,
      "learning_rate": 1.916666666666667e-06,
      "loss": 0.2171,
      "step": 288500
    },
    {
      "epoch": 2.89,
      "learning_rate": 1.8333333333333335e-06,
      "loss": 0.2153,
      "step": 289000
    },
    {
      "epoch": 2.9,
      "learning_rate": 1.7500000000000002e-06,
      "loss": 0.2165,
      "step": 289500
    },
    {
      "epoch": 2.9,
      "learning_rate": 1.6666666666666667e-06,
      "loss": 0.2175,
      "step": 290000
    },
    {
      "epoch": 2.91,
      "learning_rate": 1.5833333333333336e-06,
      "loss": 0.2135,
      "step": 290500
    },
    {
      "epoch": 2.91,
      "learning_rate": 1.5e-06,
      "loss": 0.2129,
      "step": 291000
    },
    {
      "epoch": 2.92,
      "learning_rate": 1.4166666666666667e-06,
      "loss": 0.2164,
      "step": 291500
    },
    {
      "epoch": 2.92,
      "learning_rate": 1.3333333333333334e-06,
      "loss": 0.2144,
      "step": 292000
    },
    {
      "epoch": 2.92,
      "learning_rate": 1.25e-06,
      "loss": 0.219,
      "step": 292500
    },
    {
      "epoch": 2.93,
      "learning_rate": 1.1666666666666668e-06,
      "loss": 0.2167,
      "step": 293000
    },
    {
      "epoch": 2.94,
      "learning_rate": 1.0833333333333335e-06,
      "loss": 0.2144,
      "step": 293500
    },
    {
      "epoch": 2.94,
      "learning_rate": 1.0000000000000002e-06,
      "loss": 0.2182,
      "step": 294000
    },
    {
      "epoch": 2.94,
      "learning_rate": 9.166666666666667e-07,
      "loss": 0.2173,
      "step": 294500
    },
    {
      "epoch": 2.95,
      "learning_rate": 8.333333333333333e-07,
      "loss": 0.2116,
      "step": 295000
    },
    {
      "epoch": 2.96,
      "learning_rate": 7.5e-07,
      "loss": 0.2134,
      "step": 295500
    },
    {
      "epoch": 2.96,
      "learning_rate": 6.666666666666667e-07,
      "loss": 0.2092,
      "step": 296000
    },
    {
      "epoch": 2.96,
      "learning_rate": 5.833333333333334e-07,
      "loss": 0.2189,
      "step": 296500
    },
    {
      "epoch": 2.97,
      "learning_rate": 5.000000000000001e-07,
      "loss": 0.2131,
      "step": 297000
    },
    {
      "epoch": 2.98,
      "learning_rate": 4.1666666666666667e-07,
      "loss": 0.2139,
      "step": 297500
    },
    {
      "epoch": 2.98,
      "learning_rate": 3.3333333333333335e-07,
      "loss": 0.2139,
      "step": 298000
    },
    {
      "epoch": 2.98,
      "learning_rate": 2.5000000000000004e-07,
      "loss": 0.2135,
      "step": 298500
    },
    {
      "epoch": 2.99,
      "learning_rate": 1.6666666666666668e-07,
      "loss": 0.2134,
      "step": 299000
    },
    {
      "epoch": 3.0,
      "learning_rate": 8.333333333333334e-08,
      "loss": 0.2091,
      "step": 299500
    },
    {
      "epoch": 3.0,
      "learning_rate": 0.0,
      "loss": 0.2148,
      "step": 300000
    },
    {
      "epoch": 3.0,
      "step": 300000,
      "total_flos": 1.3142957243536835e+18,
      "train_loss": 0.3054900775909424,
      "train_runtime": 95690.1423,
      "train_samples_per_second": 100.324,
      "train_steps_per_second": 3.135
    }
  ],
  "max_steps": 300000,
  "num_train_epochs": 3,
  "total_flos": 1.3142957243536835e+18,
  "trial_name": null,
  "trial_params": null
}