|
{ |
|
"best_metric": 0.790682602817108, |
|
"best_model_checkpoint": "outputs/time_lm_nli/checkpoint-2954", |
|
"epoch": 14.0, |
|
"global_step": 2954, |
|
"is_hyper_param_search": false, |
|
"is_local_process_zero": true, |
|
"is_world_process_zero": true, |
|
"log_history": [ |
|
{ |
|
"epoch": 1.0, |
|
"learning_rate": 9.666666666666666e-07, |
|
"loss": 0.5392, |
|
"step": 211 |
|
}, |
|
{ |
|
"epoch": 1.0, |
|
"eval_accuracy": 0.7, |
|
"eval_f1": 0.6998718119161117, |
|
"eval_loss": 0.4048246741294861, |
|
"eval_runtime": 5.0256, |
|
"eval_samples_per_second": 596.939, |
|
"eval_steps_per_second": 74.617, |
|
"step": 211 |
|
}, |
|
{ |
|
"epoch": 2.0, |
|
"learning_rate": 9.333333333333333e-07, |
|
"loss": 0.3725, |
|
"step": 422 |
|
}, |
|
{ |
|
"epoch": 2.0, |
|
"eval_accuracy": 0.759, |
|
"eval_f1": 0.7583549419422403, |
|
"eval_loss": 0.3489450216293335, |
|
"eval_runtime": 5.103, |
|
"eval_samples_per_second": 587.885, |
|
"eval_steps_per_second": 73.486, |
|
"step": 422 |
|
}, |
|
{ |
|
"epoch": 3.0, |
|
"learning_rate": 9e-07, |
|
"loss": 0.3158, |
|
"step": 633 |
|
}, |
|
{ |
|
"epoch": 3.0, |
|
"eval_accuracy": 0.7613333333333333, |
|
"eval_f1": 0.7569694772671423, |
|
"eval_loss": 0.3286795914173126, |
|
"eval_runtime": 5.4646, |
|
"eval_samples_per_second": 548.991, |
|
"eval_steps_per_second": 68.624, |
|
"step": 633 |
|
}, |
|
{ |
|
"epoch": 4.0, |
|
"learning_rate": 8.666666666666667e-07, |
|
"loss": 0.289, |
|
"step": 844 |
|
}, |
|
{ |
|
"epoch": 4.0, |
|
"eval_accuracy": 0.769, |
|
"eval_f1": 0.7684440341259363, |
|
"eval_loss": 0.33065709471702576, |
|
"eval_runtime": 5.2159, |
|
"eval_samples_per_second": 575.162, |
|
"eval_steps_per_second": 71.895, |
|
"step": 844 |
|
}, |
|
{ |
|
"epoch": 5.0, |
|
"learning_rate": 8.333333333333333e-07, |
|
"loss": 0.2716, |
|
"step": 1055 |
|
}, |
|
{ |
|
"epoch": 5.0, |
|
"eval_accuracy": 0.7766666666666666, |
|
"eval_f1": 0.775028474008066, |
|
"eval_loss": 0.3240624666213989, |
|
"eval_runtime": 5.2721, |
|
"eval_samples_per_second": 569.029, |
|
"eval_steps_per_second": 71.129, |
|
"step": 1055 |
|
}, |
|
{ |
|
"epoch": 6.0, |
|
"learning_rate": 8e-07, |
|
"loss": 0.2575, |
|
"step": 1266 |
|
}, |
|
{ |
|
"epoch": 6.0, |
|
"eval_accuracy": 0.7786666666666666, |
|
"eval_f1": 0.7782108653517272, |
|
"eval_loss": 0.32720017433166504, |
|
"eval_runtime": 5.4144, |
|
"eval_samples_per_second": 554.075, |
|
"eval_steps_per_second": 69.259, |
|
"step": 1266 |
|
}, |
|
{ |
|
"epoch": 7.0, |
|
"learning_rate": 7.666666666666667e-07, |
|
"loss": 0.2441, |
|
"step": 1477 |
|
}, |
|
{ |
|
"epoch": 7.0, |
|
"eval_accuracy": 0.7783333333333333, |
|
"eval_f1": 0.7775937336504917, |
|
"eval_loss": 0.3257558345794678, |
|
"eval_runtime": 5.0695, |
|
"eval_samples_per_second": 591.777, |
|
"eval_steps_per_second": 73.972, |
|
"step": 1477 |
|
}, |
|
{ |
|
"epoch": 8.0, |
|
"learning_rate": 7.333333333333332e-07, |
|
"loss": 0.2363, |
|
"step": 1688 |
|
}, |
|
{ |
|
"epoch": 8.0, |
|
"eval_accuracy": 0.7776666666666666, |
|
"eval_f1": 0.777267505288088, |
|
"eval_loss": 0.331592321395874, |
|
"eval_runtime": 5.1518, |
|
"eval_samples_per_second": 582.323, |
|
"eval_steps_per_second": 72.79, |
|
"step": 1688 |
|
}, |
|
{ |
|
"epoch": 9.0, |
|
"learning_rate": 7e-07, |
|
"loss": 0.2262, |
|
"step": 1899 |
|
}, |
|
{ |
|
"epoch": 9.0, |
|
"eval_accuracy": 0.7843333333333333, |
|
"eval_f1": 0.7814767734353214, |
|
"eval_loss": 0.3149881064891815, |
|
"eval_runtime": 5.1238, |
|
"eval_samples_per_second": 585.508, |
|
"eval_steps_per_second": 73.188, |
|
"step": 1899 |
|
}, |
|
{ |
|
"epoch": 10.0, |
|
"learning_rate": 6.666666666666666e-07, |
|
"loss": 0.2191, |
|
"step": 2110 |
|
}, |
|
{ |
|
"epoch": 10.0, |
|
"eval_accuracy": 0.7813333333333333, |
|
"eval_f1": 0.7801938582947333, |
|
"eval_loss": 0.32408154010772705, |
|
"eval_runtime": 5.366, |
|
"eval_samples_per_second": 559.08, |
|
"eval_steps_per_second": 69.885, |
|
"step": 2110 |
|
}, |
|
{ |
|
"epoch": 11.0, |
|
"learning_rate": 6.333333333333332e-07, |
|
"loss": 0.2112, |
|
"step": 2321 |
|
}, |
|
{ |
|
"epoch": 11.0, |
|
"eval_accuracy": 0.7866666666666666, |
|
"eval_f1": 0.785979422813256, |
|
"eval_loss": 0.3275919258594513, |
|
"eval_runtime": 5.1309, |
|
"eval_samples_per_second": 584.694, |
|
"eval_steps_per_second": 73.087, |
|
"step": 2321 |
|
}, |
|
{ |
|
"epoch": 12.0, |
|
"learning_rate": 6e-07, |
|
"loss": 0.2047, |
|
"step": 2532 |
|
}, |
|
{ |
|
"epoch": 12.0, |
|
"eval_accuracy": 0.7896666666666666, |
|
"eval_f1": 0.7886408467585846, |
|
"eval_loss": 0.32662513852119446, |
|
"eval_runtime": 5.3907, |
|
"eval_samples_per_second": 556.515, |
|
"eval_steps_per_second": 69.564, |
|
"step": 2532 |
|
}, |
|
{ |
|
"epoch": 13.0, |
|
"learning_rate": 5.666666666666666e-07, |
|
"loss": 0.1973, |
|
"step": 2743 |
|
}, |
|
{ |
|
"epoch": 13.0, |
|
"eval_accuracy": 0.7893333333333333, |
|
"eval_f1": 0.7883928571428571, |
|
"eval_loss": 0.3298616409301758, |
|
"eval_runtime": 5.1275, |
|
"eval_samples_per_second": 585.084, |
|
"eval_steps_per_second": 73.135, |
|
"step": 2743 |
|
}, |
|
{ |
|
"epoch": 14.0, |
|
"learning_rate": 5.333333333333333e-07, |
|
"loss": 0.1897, |
|
"step": 2954 |
|
}, |
|
{ |
|
"epoch": 14.0, |
|
"eval_accuracy": 0.792, |
|
"eval_f1": 0.790682602817108, |
|
"eval_loss": 0.3300517499446869, |
|
"eval_runtime": 5.2516, |
|
"eval_samples_per_second": 571.251, |
|
"eval_steps_per_second": 71.406, |
|
"step": 2954 |
|
} |
|
], |
|
"max_steps": 6330, |
|
"num_train_epochs": 30, |
|
"total_flos": 2.008091470853261e+16, |
|
"trial_name": null, |
|
"trial_params": null |
|
} |
|
|