|
{ |
|
"best_metric": 1.432803750038147, |
|
"best_model_checkpoint": "miner_id_24/checkpoint-100", |
|
"epoch": 0.8333333333333334, |
|
"eval_steps": 50, |
|
"global_step": 100, |
|
"is_hyper_param_search": false, |
|
"is_local_process_zero": true, |
|
"is_world_process_zero": true, |
|
"log_history": [ |
|
{ |
|
"epoch": 0.008333333333333333, |
|
"grad_norm": 2.193002700805664, |
|
"learning_rate": 1.6666666666666668e-07, |
|
"loss": 1.6678, |
|
"step": 1 |
|
}, |
|
{ |
|
"epoch": 0.008333333333333333, |
|
"eval_loss": 1.8303579092025757, |
|
"eval_runtime": 17.8237, |
|
"eval_samples_per_second": 11.333, |
|
"eval_steps_per_second": 1.459, |
|
"step": 1 |
|
}, |
|
{ |
|
"epoch": 0.016666666666666666, |
|
"grad_norm": 2.2676687240600586, |
|
"learning_rate": 3.3333333333333335e-07, |
|
"loss": 1.7249, |
|
"step": 2 |
|
}, |
|
{ |
|
"epoch": 0.025, |
|
"grad_norm": 2.5093438625335693, |
|
"learning_rate": 5.000000000000001e-07, |
|
"loss": 1.6924, |
|
"step": 3 |
|
}, |
|
{ |
|
"epoch": 0.03333333333333333, |
|
"grad_norm": 2.5828299522399902, |
|
"learning_rate": 6.666666666666667e-07, |
|
"loss": 1.7607, |
|
"step": 4 |
|
}, |
|
{ |
|
"epoch": 0.041666666666666664, |
|
"grad_norm": 2.562546730041504, |
|
"learning_rate": 8.333333333333333e-07, |
|
"loss": 1.7681, |
|
"step": 5 |
|
}, |
|
{ |
|
"epoch": 0.05, |
|
"grad_norm": 2.679736375808716, |
|
"learning_rate": 1.0000000000000002e-06, |
|
"loss": 1.8704, |
|
"step": 6 |
|
}, |
|
{ |
|
"epoch": 0.058333333333333334, |
|
"grad_norm": 2.74782657623291, |
|
"learning_rate": 1.1666666666666668e-06, |
|
"loss": 1.8647, |
|
"step": 7 |
|
}, |
|
{ |
|
"epoch": 0.06666666666666667, |
|
"grad_norm": 2.830510377883911, |
|
"learning_rate": 1.3333333333333334e-06, |
|
"loss": 1.7699, |
|
"step": 8 |
|
}, |
|
{ |
|
"epoch": 0.075, |
|
"grad_norm": 2.945965051651001, |
|
"learning_rate": 1.5e-06, |
|
"loss": 1.8945, |
|
"step": 9 |
|
}, |
|
{ |
|
"epoch": 0.08333333333333333, |
|
"grad_norm": 2.8825716972351074, |
|
"learning_rate": 1.6666666666666667e-06, |
|
"loss": 1.728, |
|
"step": 10 |
|
}, |
|
{ |
|
"epoch": 0.09166666666666666, |
|
"grad_norm": 2.9562220573425293, |
|
"learning_rate": 1.8333333333333333e-06, |
|
"loss": 1.758, |
|
"step": 11 |
|
}, |
|
{ |
|
"epoch": 0.1, |
|
"grad_norm": 3.0584299564361572, |
|
"learning_rate": 2.0000000000000003e-06, |
|
"loss": 1.8568, |
|
"step": 12 |
|
}, |
|
{ |
|
"epoch": 0.10833333333333334, |
|
"grad_norm": 2.785897731781006, |
|
"learning_rate": 2.166666666666667e-06, |
|
"loss": 1.8015, |
|
"step": 13 |
|
}, |
|
{ |
|
"epoch": 0.11666666666666667, |
|
"grad_norm": 3.1666276454925537, |
|
"learning_rate": 2.3333333333333336e-06, |
|
"loss": 1.7935, |
|
"step": 14 |
|
}, |
|
{ |
|
"epoch": 0.125, |
|
"grad_norm": 2.8410186767578125, |
|
"learning_rate": 2.5e-06, |
|
"loss": 1.7066, |
|
"step": 15 |
|
}, |
|
{ |
|
"epoch": 0.13333333333333333, |
|
"grad_norm": 3.0526387691497803, |
|
"learning_rate": 2.666666666666667e-06, |
|
"loss": 1.7519, |
|
"step": 16 |
|
}, |
|
{ |
|
"epoch": 0.14166666666666666, |
|
"grad_norm": 2.8805489540100098, |
|
"learning_rate": 2.8333333333333335e-06, |
|
"loss": 1.8215, |
|
"step": 17 |
|
}, |
|
{ |
|
"epoch": 0.15, |
|
"grad_norm": 3.070573091506958, |
|
"learning_rate": 3e-06, |
|
"loss": 1.836, |
|
"step": 18 |
|
}, |
|
{ |
|
"epoch": 0.15833333333333333, |
|
"grad_norm": 3.3029866218566895, |
|
"learning_rate": 3.1666666666666667e-06, |
|
"loss": 1.8686, |
|
"step": 19 |
|
}, |
|
{ |
|
"epoch": 0.16666666666666666, |
|
"grad_norm": 3.120896577835083, |
|
"learning_rate": 3.3333333333333333e-06, |
|
"loss": 1.736, |
|
"step": 20 |
|
}, |
|
{ |
|
"epoch": 0.175, |
|
"grad_norm": 3.3216803073883057, |
|
"learning_rate": 3.5e-06, |
|
"loss": 1.6797, |
|
"step": 21 |
|
}, |
|
{ |
|
"epoch": 0.18333333333333332, |
|
"grad_norm": 3.1758008003234863, |
|
"learning_rate": 3.6666666666666666e-06, |
|
"loss": 1.8891, |
|
"step": 22 |
|
}, |
|
{ |
|
"epoch": 0.19166666666666668, |
|
"grad_norm": 3.430830478668213, |
|
"learning_rate": 3.833333333333334e-06, |
|
"loss": 1.7783, |
|
"step": 23 |
|
}, |
|
{ |
|
"epoch": 0.2, |
|
"grad_norm": 3.41802716255188, |
|
"learning_rate": 4.000000000000001e-06, |
|
"loss": 1.7093, |
|
"step": 24 |
|
}, |
|
{ |
|
"epoch": 0.20833333333333334, |
|
"grad_norm": 3.6462295055389404, |
|
"learning_rate": 4.166666666666667e-06, |
|
"loss": 1.8002, |
|
"step": 25 |
|
}, |
|
{ |
|
"epoch": 0.21666666666666667, |
|
"grad_norm": 3.947563648223877, |
|
"learning_rate": 4.333333333333334e-06, |
|
"loss": 1.8184, |
|
"step": 26 |
|
}, |
|
{ |
|
"epoch": 0.225, |
|
"grad_norm": 4.078182697296143, |
|
"learning_rate": 4.5e-06, |
|
"loss": 1.8465, |
|
"step": 27 |
|
}, |
|
{ |
|
"epoch": 0.23333333333333334, |
|
"grad_norm": 4.82006311416626, |
|
"learning_rate": 4.666666666666667e-06, |
|
"loss": 1.8502, |
|
"step": 28 |
|
}, |
|
{ |
|
"epoch": 0.24166666666666667, |
|
"grad_norm": 5.71830415725708, |
|
"learning_rate": 4.833333333333333e-06, |
|
"loss": 1.7772, |
|
"step": 29 |
|
}, |
|
{ |
|
"epoch": 0.25, |
|
"grad_norm": 1.742307186126709, |
|
"learning_rate": 5e-06, |
|
"loss": 1.6434, |
|
"step": 30 |
|
}, |
|
{ |
|
"epoch": 0.25833333333333336, |
|
"grad_norm": 1.7842572927474976, |
|
"learning_rate": 4.997482666353287e-06, |
|
"loss": 1.6195, |
|
"step": 31 |
|
}, |
|
{ |
|
"epoch": 0.26666666666666666, |
|
"grad_norm": 1.9394738674163818, |
|
"learning_rate": 4.989935734988098e-06, |
|
"loss": 1.682, |
|
"step": 32 |
|
}, |
|
{ |
|
"epoch": 0.275, |
|
"grad_norm": 2.0066277980804443, |
|
"learning_rate": 4.977374404419838e-06, |
|
"loss": 1.5336, |
|
"step": 33 |
|
}, |
|
{ |
|
"epoch": 0.2833333333333333, |
|
"grad_norm": 1.9997456073760986, |
|
"learning_rate": 4.959823971496575e-06, |
|
"loss": 1.6568, |
|
"step": 34 |
|
}, |
|
{ |
|
"epoch": 0.2916666666666667, |
|
"grad_norm": 1.9965749979019165, |
|
"learning_rate": 4.937319780454559e-06, |
|
"loss": 1.5007, |
|
"step": 35 |
|
}, |
|
{ |
|
"epoch": 0.3, |
|
"grad_norm": 2.0607056617736816, |
|
"learning_rate": 4.909907151739634e-06, |
|
"loss": 1.6947, |
|
"step": 36 |
|
}, |
|
{ |
|
"epoch": 0.30833333333333335, |
|
"grad_norm": 2.056346893310547, |
|
"learning_rate": 4.8776412907378845e-06, |
|
"loss": 1.642, |
|
"step": 37 |
|
}, |
|
{ |
|
"epoch": 0.31666666666666665, |
|
"grad_norm": 2.023026704788208, |
|
"learning_rate": 4.8405871765993435e-06, |
|
"loss": 1.484, |
|
"step": 38 |
|
}, |
|
{ |
|
"epoch": 0.325, |
|
"grad_norm": 2.1136856079101562, |
|
"learning_rate": 4.7988194313786275e-06, |
|
"loss": 1.5379, |
|
"step": 39 |
|
}, |
|
{ |
|
"epoch": 0.3333333333333333, |
|
"grad_norm": 2.121776819229126, |
|
"learning_rate": 4.752422169756048e-06, |
|
"loss": 1.4887, |
|
"step": 40 |
|
}, |
|
{ |
|
"epoch": 0.3416666666666667, |
|
"grad_norm": 2.03586745262146, |
|
"learning_rate": 4.701488829641845e-06, |
|
"loss": 1.4386, |
|
"step": 41 |
|
}, |
|
{ |
|
"epoch": 0.35, |
|
"grad_norm": 2.109388589859009, |
|
"learning_rate": 4.646121984004666e-06, |
|
"loss": 1.6085, |
|
"step": 42 |
|
}, |
|
{ |
|
"epoch": 0.35833333333333334, |
|
"grad_norm": 2.128593683242798, |
|
"learning_rate": 4.586433134303257e-06, |
|
"loss": 1.4975, |
|
"step": 43 |
|
}, |
|
{ |
|
"epoch": 0.36666666666666664, |
|
"grad_norm": 2.236626625061035, |
|
"learning_rate": 4.522542485937369e-06, |
|
"loss": 1.5386, |
|
"step": 44 |
|
}, |
|
{ |
|
"epoch": 0.375, |
|
"grad_norm": 2.1447949409484863, |
|
"learning_rate": 4.454578706170075e-06, |
|
"loss": 1.4146, |
|
"step": 45 |
|
}, |
|
{ |
|
"epoch": 0.38333333333333336, |
|
"grad_norm": 2.2322142124176025, |
|
"learning_rate": 4.382678665009028e-06, |
|
"loss": 1.4012, |
|
"step": 46 |
|
}, |
|
{ |
|
"epoch": 0.39166666666666666, |
|
"grad_norm": 2.282254457473755, |
|
"learning_rate": 4.3069871595684795e-06, |
|
"loss": 1.4278, |
|
"step": 47 |
|
}, |
|
{ |
|
"epoch": 0.4, |
|
"grad_norm": 2.3113062381744385, |
|
"learning_rate": 4.227656622467162e-06, |
|
"loss": 1.4053, |
|
"step": 48 |
|
}, |
|
{ |
|
"epoch": 0.4083333333333333, |
|
"grad_norm": 2.546379566192627, |
|
"learning_rate": 4.144846814849282e-06, |
|
"loss": 1.4014, |
|
"step": 49 |
|
}, |
|
{ |
|
"epoch": 0.4166666666666667, |
|
"grad_norm": 2.592524290084839, |
|
"learning_rate": 4.058724504646834e-06, |
|
"loss": 1.4471, |
|
"step": 50 |
|
}, |
|
{ |
|
"epoch": 0.4166666666666667, |
|
"eval_loss": 1.4636348485946655, |
|
"eval_runtime": 18.2002, |
|
"eval_samples_per_second": 11.099, |
|
"eval_steps_per_second": 1.429, |
|
"step": 50 |
|
}, |
|
{ |
|
"epoch": 0.425, |
|
"grad_norm": 2.499925136566162, |
|
"learning_rate": 3.969463130731183e-06, |
|
"loss": 1.4591, |
|
"step": 51 |
|
}, |
|
{ |
|
"epoch": 0.43333333333333335, |
|
"grad_norm": 2.638784170150757, |
|
"learning_rate": 3.8772424536302565e-06, |
|
"loss": 1.3876, |
|
"step": 52 |
|
}, |
|
{ |
|
"epoch": 0.44166666666666665, |
|
"grad_norm": 2.7035515308380127, |
|
"learning_rate": 3.782248193514766e-06, |
|
"loss": 1.4014, |
|
"step": 53 |
|
}, |
|
{ |
|
"epoch": 0.45, |
|
"grad_norm": 3.1544301509857178, |
|
"learning_rate": 3.684671656182497e-06, |
|
"loss": 1.3941, |
|
"step": 54 |
|
}, |
|
{ |
|
"epoch": 0.4583333333333333, |
|
"grad_norm": 2.7896924018859863, |
|
"learning_rate": 3.5847093477938955e-06, |
|
"loss": 1.3751, |
|
"step": 55 |
|
}, |
|
{ |
|
"epoch": 0.4666666666666667, |
|
"grad_norm": 3.281968832015991, |
|
"learning_rate": 3.4825625791348093e-06, |
|
"loss": 1.2745, |
|
"step": 56 |
|
}, |
|
{ |
|
"epoch": 0.475, |
|
"grad_norm": 3.6155593395233154, |
|
"learning_rate": 3.3784370602033572e-06, |
|
"loss": 1.1763, |
|
"step": 57 |
|
}, |
|
{ |
|
"epoch": 0.48333333333333334, |
|
"grad_norm": 4.625380039215088, |
|
"learning_rate": 3.272542485937369e-06, |
|
"loss": 1.407, |
|
"step": 58 |
|
}, |
|
{ |
|
"epoch": 0.49166666666666664, |
|
"grad_norm": 2.164090633392334, |
|
"learning_rate": 3.165092113916688e-06, |
|
"loss": 1.6163, |
|
"step": 59 |
|
}, |
|
{ |
|
"epoch": 0.5, |
|
"grad_norm": 2.391841173171997, |
|
"learning_rate": 3.056302334890786e-06, |
|
"loss": 1.6369, |
|
"step": 60 |
|
}, |
|
{ |
|
"epoch": 0.5083333333333333, |
|
"grad_norm": 2.4509174823760986, |
|
"learning_rate": 2.946392236996592e-06, |
|
"loss": 1.6073, |
|
"step": 61 |
|
}, |
|
{ |
|
"epoch": 0.5166666666666667, |
|
"grad_norm": 2.255946397781372, |
|
"learning_rate": 2.835583164544139e-06, |
|
"loss": 1.5379, |
|
"step": 62 |
|
}, |
|
{ |
|
"epoch": 0.525, |
|
"grad_norm": 2.5381131172180176, |
|
"learning_rate": 2.724098272258584e-06, |
|
"loss": 1.5004, |
|
"step": 63 |
|
}, |
|
{ |
|
"epoch": 0.5333333333333333, |
|
"grad_norm": 2.5868146419525146, |
|
"learning_rate": 2.6121620758762877e-06, |
|
"loss": 1.606, |
|
"step": 64 |
|
}, |
|
{ |
|
"epoch": 0.5416666666666666, |
|
"grad_norm": 2.215385675430298, |
|
"learning_rate": 2.5e-06, |
|
"loss": 1.4491, |
|
"step": 65 |
|
}, |
|
{ |
|
"epoch": 0.55, |
|
"grad_norm": 2.145747423171997, |
|
"learning_rate": 2.3878379241237136e-06, |
|
"loss": 1.4185, |
|
"step": 66 |
|
}, |
|
{ |
|
"epoch": 0.5583333333333333, |
|
"grad_norm": 2.2999093532562256, |
|
"learning_rate": 2.2759017277414165e-06, |
|
"loss": 1.5598, |
|
"step": 67 |
|
}, |
|
{ |
|
"epoch": 0.5666666666666667, |
|
"grad_norm": 1.975134253501892, |
|
"learning_rate": 2.1644168354558623e-06, |
|
"loss": 1.4346, |
|
"step": 68 |
|
}, |
|
{ |
|
"epoch": 0.575, |
|
"grad_norm": 2.072296380996704, |
|
"learning_rate": 2.053607763003409e-06, |
|
"loss": 1.4922, |
|
"step": 69 |
|
}, |
|
{ |
|
"epoch": 0.5833333333333334, |
|
"grad_norm": 2.083237409591675, |
|
"learning_rate": 1.9436976651092143e-06, |
|
"loss": 1.5104, |
|
"step": 70 |
|
}, |
|
{ |
|
"epoch": 0.5916666666666667, |
|
"grad_norm": 2.030505418777466, |
|
"learning_rate": 1.8349078860833125e-06, |
|
"loss": 1.5242, |
|
"step": 71 |
|
}, |
|
{ |
|
"epoch": 0.6, |
|
"grad_norm": 2.030874013900757, |
|
"learning_rate": 1.7274575140626318e-06, |
|
"loss": 1.4069, |
|
"step": 72 |
|
}, |
|
{ |
|
"epoch": 0.6083333333333333, |
|
"grad_norm": 2.0785183906555176, |
|
"learning_rate": 1.6215629397966432e-06, |
|
"loss": 1.4527, |
|
"step": 73 |
|
}, |
|
{ |
|
"epoch": 0.6166666666666667, |
|
"grad_norm": 2.0005362033843994, |
|
"learning_rate": 1.5174374208651913e-06, |
|
"loss": 1.3144, |
|
"step": 74 |
|
}, |
|
{ |
|
"epoch": 0.625, |
|
"grad_norm": 2.1211068630218506, |
|
"learning_rate": 1.415290652206105e-06, |
|
"loss": 1.3169, |
|
"step": 75 |
|
}, |
|
{ |
|
"epoch": 0.6333333333333333, |
|
"grad_norm": 2.2621371746063232, |
|
"learning_rate": 1.3153283438175036e-06, |
|
"loss": 1.366, |
|
"step": 76 |
|
}, |
|
{ |
|
"epoch": 0.6416666666666667, |
|
"grad_norm": 2.462306022644043, |
|
"learning_rate": 1.217751806485235e-06, |
|
"loss": 1.4933, |
|
"step": 77 |
|
}, |
|
{ |
|
"epoch": 0.65, |
|
"grad_norm": 2.303489923477173, |
|
"learning_rate": 1.122757546369744e-06, |
|
"loss": 1.3751, |
|
"step": 78 |
|
}, |
|
{ |
|
"epoch": 0.6583333333333333, |
|
"grad_norm": 2.918320655822754, |
|
"learning_rate": 1.0305368692688175e-06, |
|
"loss": 1.3268, |
|
"step": 79 |
|
}, |
|
{ |
|
"epoch": 0.6666666666666666, |
|
"grad_norm": 2.8498406410217285, |
|
"learning_rate": 9.412754953531664e-07, |
|
"loss": 1.3434, |
|
"step": 80 |
|
}, |
|
{ |
|
"epoch": 0.675, |
|
"grad_norm": 2.950571060180664, |
|
"learning_rate": 8.551531851507186e-07, |
|
"loss": 1.4753, |
|
"step": 81 |
|
}, |
|
{ |
|
"epoch": 0.6833333333333333, |
|
"grad_norm": 2.9567456245422363, |
|
"learning_rate": 7.723433775328385e-07, |
|
"loss": 1.3351, |
|
"step": 82 |
|
}, |
|
{ |
|
"epoch": 0.6916666666666667, |
|
"grad_norm": 3.1769864559173584, |
|
"learning_rate": 6.930128404315214e-07, |
|
"loss": 1.2743, |
|
"step": 83 |
|
}, |
|
{ |
|
"epoch": 0.7, |
|
"grad_norm": 3.6151397228240967, |
|
"learning_rate": 6.17321334990973e-07, |
|
"loss": 1.252, |
|
"step": 84 |
|
}, |
|
{ |
|
"epoch": 0.7083333333333334, |
|
"grad_norm": 3.4306578636169434, |
|
"learning_rate": 5.454212938299256e-07, |
|
"loss": 1.3465, |
|
"step": 85 |
|
}, |
|
{ |
|
"epoch": 0.7166666666666667, |
|
"grad_norm": 4.3413190841674805, |
|
"learning_rate": 4.774575140626317e-07, |
|
"loss": 1.3886, |
|
"step": 86 |
|
}, |
|
{ |
|
"epoch": 0.725, |
|
"grad_norm": 4.907854080200195, |
|
"learning_rate": 4.1356686569674344e-07, |
|
"loss": 1.3077, |
|
"step": 87 |
|
}, |
|
{ |
|
"epoch": 0.7333333333333333, |
|
"grad_norm": 1.6578599214553833, |
|
"learning_rate": 3.538780159953348e-07, |
|
"loss": 1.4823, |
|
"step": 88 |
|
}, |
|
{ |
|
"epoch": 0.7416666666666667, |
|
"grad_norm": 1.7607696056365967, |
|
"learning_rate": 2.98511170358155e-07, |
|
"loss": 1.463, |
|
"step": 89 |
|
}, |
|
{ |
|
"epoch": 0.75, |
|
"grad_norm": 1.810681939125061, |
|
"learning_rate": 2.4757783024395244e-07, |
|
"loss": 1.5727, |
|
"step": 90 |
|
}, |
|
{ |
|
"epoch": 0.7583333333333333, |
|
"grad_norm": 1.8448772430419922, |
|
"learning_rate": 2.0118056862137358e-07, |
|
"loss": 1.4929, |
|
"step": 91 |
|
}, |
|
{ |
|
"epoch": 0.7666666666666667, |
|
"grad_norm": 1.8057886362075806, |
|
"learning_rate": 1.59412823400657e-07, |
|
"loss": 1.4789, |
|
"step": 92 |
|
}, |
|
{ |
|
"epoch": 0.775, |
|
"grad_norm": 1.8964967727661133, |
|
"learning_rate": 1.223587092621162e-07, |
|
"loss": 1.4743, |
|
"step": 93 |
|
}, |
|
{ |
|
"epoch": 0.7833333333333333, |
|
"grad_norm": 1.8288004398345947, |
|
"learning_rate": 9.00928482603669e-08, |
|
"loss": 1.551, |
|
"step": 94 |
|
}, |
|
{ |
|
"epoch": 0.7916666666666666, |
|
"grad_norm": 1.9121664762496948, |
|
"learning_rate": 6.268021954544095e-08, |
|
"loss": 1.4186, |
|
"step": 95 |
|
}, |
|
{ |
|
"epoch": 0.8, |
|
"grad_norm": 1.9532289505004883, |
|
"learning_rate": 4.017602850342584e-08, |
|
"loss": 1.3801, |
|
"step": 96 |
|
}, |
|
{ |
|
"epoch": 0.8083333333333333, |
|
"grad_norm": 1.8921444416046143, |
|
"learning_rate": 2.262559558016325e-08, |
|
"loss": 1.4542, |
|
"step": 97 |
|
}, |
|
{ |
|
"epoch": 0.8166666666666667, |
|
"grad_norm": 1.967811107635498, |
|
"learning_rate": 1.006426501190233e-08, |
|
"loss": 1.406, |
|
"step": 98 |
|
}, |
|
{ |
|
"epoch": 0.825, |
|
"grad_norm": 1.9999773502349854, |
|
"learning_rate": 2.5173336467135266e-09, |
|
"loss": 1.4997, |
|
"step": 99 |
|
}, |
|
{ |
|
"epoch": 0.8333333333333334, |
|
"grad_norm": 2.0562117099761963, |
|
"learning_rate": 0.0, |
|
"loss": 1.3896, |
|
"step": 100 |
|
}, |
|
{ |
|
"epoch": 0.8333333333333334, |
|
"eval_loss": 1.432803750038147, |
|
"eval_runtime": 18.1946, |
|
"eval_samples_per_second": 11.102, |
|
"eval_steps_per_second": 1.429, |
|
"step": 100 |
|
} |
|
], |
|
"logging_steps": 1, |
|
"max_steps": 100, |
|
"num_input_tokens_seen": 0, |
|
"num_train_epochs": 1, |
|
"save_steps": 50, |
|
"stateful_callbacks": { |
|
"EarlyStoppingCallback": { |
|
"args": { |
|
"early_stopping_patience": 5, |
|
"early_stopping_threshold": 0.0 |
|
}, |
|
"attributes": { |
|
"early_stopping_patience_counter": 0 |
|
} |
|
}, |
|
"TrainerControl": { |
|
"args": { |
|
"should_epoch_stop": false, |
|
"should_evaluate": false, |
|
"should_log": false, |
|
"should_save": true, |
|
"should_training_stop": true |
|
}, |
|
"attributes": {} |
|
} |
|
}, |
|
"total_flos": 1.563282263506944e+17, |
|
"train_batch_size": 8, |
|
"trial_name": null, |
|
"trial_params": null |
|
} |
|
|