|
{ |
|
"best_metric": null, |
|
"best_model_checkpoint": null, |
|
"epoch": 0.0024875621890547263, |
|
"eval_steps": 1000, |
|
"global_step": 100, |
|
"is_hyper_param_search": false, |
|
"is_local_process_zero": true, |
|
"is_world_process_zero": true, |
|
"log_history": [ |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 0, |
|
"loss": 1.5524, |
|
"step": 1 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 0.0, |
|
"loss": 2.1402, |
|
"step": 2 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 0.0, |
|
"loss": 1.6536, |
|
"step": 3 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 8.613531161467861e-05, |
|
"loss": 1.7934, |
|
"step": 4 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 0.00013652123889719707, |
|
"loss": 1.8117, |
|
"step": 5 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 0.00017227062322935723, |
|
"loss": 1.618, |
|
"step": 6 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 0.00017227062322935723, |
|
"loss": 1.4355, |
|
"step": 7 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 0.0002, |
|
"loss": 1.4779, |
|
"step": 8 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 0.0002, |
|
"loss": 1.7512, |
|
"step": 9 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 0.0002, |
|
"loss": 1.6407, |
|
"step": 10 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 0.0001979166666666667, |
|
"loss": 1.4995, |
|
"step": 11 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 0.00019583333333333334, |
|
"loss": 1.8377, |
|
"step": 12 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 0.00019375000000000002, |
|
"loss": 1.6649, |
|
"step": 13 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 0.00019166666666666667, |
|
"loss": 1.8315, |
|
"step": 14 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 0.00018958333333333332, |
|
"loss": 1.6504, |
|
"step": 15 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 0.0001875, |
|
"loss": 1.6062, |
|
"step": 16 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 0.00018541666666666668, |
|
"loss": 1.7712, |
|
"step": 17 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 0.00018333333333333334, |
|
"loss": 1.7817, |
|
"step": 18 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 0.00018125000000000001, |
|
"loss": 1.7626, |
|
"step": 19 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 0.0001791666666666667, |
|
"loss": 1.5501, |
|
"step": 20 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 0.00017708333333333335, |
|
"loss": 1.8781, |
|
"step": 21 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 0.000175, |
|
"loss": 1.5841, |
|
"step": 22 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 0.00017291666666666668, |
|
"loss": 1.3914, |
|
"step": 23 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 0.00017083333333333333, |
|
"loss": 1.3798, |
|
"step": 24 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 0.00016875, |
|
"loss": 1.599, |
|
"step": 25 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 0.0001666666666666667, |
|
"loss": 1.5245, |
|
"step": 26 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 0.00016458333333333334, |
|
"loss": 1.719, |
|
"step": 27 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 0.00016250000000000002, |
|
"loss": 1.8812, |
|
"step": 28 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 0.00016041666666666667, |
|
"loss": 1.4837, |
|
"step": 29 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 0.00015833333333333332, |
|
"loss": 1.6244, |
|
"step": 30 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 0.00015625, |
|
"loss": 1.7895, |
|
"step": 31 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 0.00015416666666666668, |
|
"loss": 1.4903, |
|
"step": 32 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 0.00015208333333333333, |
|
"loss": 1.7662, |
|
"step": 33 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 0.00015000000000000001, |
|
"loss": 1.668, |
|
"step": 34 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 0.0001479166666666667, |
|
"loss": 1.4777, |
|
"step": 35 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 0.00014583333333333335, |
|
"loss": 1.6102, |
|
"step": 36 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 0.00014375, |
|
"loss": 1.5228, |
|
"step": 37 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 0.00014166666666666668, |
|
"loss": 1.5251, |
|
"step": 38 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 0.00013958333333333333, |
|
"loss": 1.4569, |
|
"step": 39 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 0.0001375, |
|
"loss": 1.5586, |
|
"step": 40 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 0.0001354166666666667, |
|
"loss": 1.6027, |
|
"step": 41 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 0.00013333333333333334, |
|
"loss": 1.5661, |
|
"step": 42 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 0.00013125000000000002, |
|
"loss": 1.4163, |
|
"step": 43 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 0.00012916666666666667, |
|
"loss": 1.2751, |
|
"step": 44 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 0.00012708333333333332, |
|
"loss": 1.7024, |
|
"step": 45 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 0.000125, |
|
"loss": 1.4381, |
|
"step": 46 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 0.00012291666666666668, |
|
"loss": 1.4661, |
|
"step": 47 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 0.00012083333333333333, |
|
"loss": 1.6117, |
|
"step": 48 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 0.00011875, |
|
"loss": 1.4635, |
|
"step": 49 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 0.00011666666666666668, |
|
"loss": 1.3727, |
|
"step": 50 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 0.00011458333333333333, |
|
"loss": 1.7153, |
|
"step": 51 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 0.00011250000000000001, |
|
"loss": 1.6515, |
|
"step": 52 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 0.00011041666666666668, |
|
"loss": 1.6403, |
|
"step": 53 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 0.00010833333333333333, |
|
"loss": 1.4329, |
|
"step": 54 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 0.00010625000000000001, |
|
"loss": 1.6322, |
|
"step": 55 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 0.00010416666666666667, |
|
"loss": 1.5179, |
|
"step": 56 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 0.00010208333333333333, |
|
"loss": 1.8221, |
|
"step": 57 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 0.0001, |
|
"loss": 1.486, |
|
"step": 58 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 9.791666666666667e-05, |
|
"loss": 1.5899, |
|
"step": 59 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 9.583333333333334e-05, |
|
"loss": 1.9237, |
|
"step": 60 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 9.375e-05, |
|
"loss": 1.5147, |
|
"step": 61 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 9.166666666666667e-05, |
|
"loss": 1.7256, |
|
"step": 62 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 8.958333333333335e-05, |
|
"loss": 1.3188, |
|
"step": 63 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 8.75e-05, |
|
"loss": 1.7062, |
|
"step": 64 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 8.541666666666666e-05, |
|
"loss": 1.6038, |
|
"step": 65 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 8.333333333333334e-05, |
|
"loss": 1.3076, |
|
"step": 66 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 8.125000000000001e-05, |
|
"loss": 1.5869, |
|
"step": 67 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 7.916666666666666e-05, |
|
"loss": 1.5563, |
|
"step": 68 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 7.708333333333334e-05, |
|
"loss": 1.7162, |
|
"step": 69 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 7.500000000000001e-05, |
|
"loss": 1.8046, |
|
"step": 70 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 7.291666666666667e-05, |
|
"loss": 1.8195, |
|
"step": 71 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 7.083333333333334e-05, |
|
"loss": 1.7427, |
|
"step": 72 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 6.875e-05, |
|
"loss": 1.164, |
|
"step": 73 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 6.666666666666667e-05, |
|
"loss": 1.6653, |
|
"step": 74 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 6.458333333333334e-05, |
|
"loss": 1.6099, |
|
"step": 75 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 6.25e-05, |
|
"loss": 1.6574, |
|
"step": 76 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 6.041666666666667e-05, |
|
"loss": 1.6743, |
|
"step": 77 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 5.833333333333334e-05, |
|
"loss": 1.5, |
|
"step": 78 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 5.6250000000000005e-05, |
|
"loss": 1.8009, |
|
"step": 79 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 5.4166666666666664e-05, |
|
"loss": 1.5946, |
|
"step": 80 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 5.208333333333334e-05, |
|
"loss": 1.7701, |
|
"step": 81 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 5e-05, |
|
"loss": 1.3302, |
|
"step": 82 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 4.791666666666667e-05, |
|
"loss": 1.7082, |
|
"step": 83 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 4.5833333333333334e-05, |
|
"loss": 1.3644, |
|
"step": 84 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 4.375e-05, |
|
"loss": 1.1494, |
|
"step": 85 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 4.166666666666667e-05, |
|
"loss": 1.7472, |
|
"step": 86 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 3.958333333333333e-05, |
|
"loss": 1.4859, |
|
"step": 87 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 3.7500000000000003e-05, |
|
"loss": 1.5887, |
|
"step": 88 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 3.541666666666667e-05, |
|
"loss": 1.6093, |
|
"step": 89 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 3.3333333333333335e-05, |
|
"loss": 1.814, |
|
"step": 90 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 3.125e-05, |
|
"loss": 1.5288, |
|
"step": 91 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 2.916666666666667e-05, |
|
"loss": 1.3786, |
|
"step": 92 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 2.7083333333333332e-05, |
|
"loss": 1.3912, |
|
"step": 93 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 2.5e-05, |
|
"loss": 1.6132, |
|
"step": 94 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 2.2916666666666667e-05, |
|
"loss": 1.7836, |
|
"step": 95 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 2.0833333333333336e-05, |
|
"loss": 1.5794, |
|
"step": 96 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 1.8750000000000002e-05, |
|
"loss": 1.6676, |
|
"step": 97 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 1.6666666666666667e-05, |
|
"loss": 1.4828, |
|
"step": 98 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 1.4583333333333335e-05, |
|
"loss": 1.5134, |
|
"step": 99 |
|
}, |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 1.25e-05, |
|
"loss": 1.8423, |
|
"step": 100 |
|
} |
|
], |
|
"logging_steps": 1, |
|
"max_steps": 101, |
|
"num_train_epochs": 1, |
|
"save_steps": 50, |
|
"total_flos": 6150946682830848.0, |
|
"trial_name": null, |
|
"trial_params": null |
|
} |
|
|