| { | |
| "best_metric": 0.7925361349683366, | |
| "best_model_checkpoint": "outputs/time_lm_nli/checkpoint-3165", | |
| "epoch": 16.0, | |
| "global_step": 3376, | |
| "is_hyper_param_search": false, | |
| "is_local_process_zero": true, | |
| "is_world_process_zero": true, | |
| "log_history": [ | |
| { | |
| "epoch": 1.0, | |
| "learning_rate": 9.666666666666666e-07, | |
| "loss": 0.5392, | |
| "step": 211 | |
| }, | |
| { | |
| "epoch": 1.0, | |
| "eval_accuracy": 0.7, | |
| "eval_f1": 0.6998718119161117, | |
| "eval_loss": 0.4048246741294861, | |
| "eval_runtime": 5.0256, | |
| "eval_samples_per_second": 596.939, | |
| "eval_steps_per_second": 74.617, | |
| "step": 211 | |
| }, | |
| { | |
| "epoch": 2.0, | |
| "learning_rate": 9.333333333333333e-07, | |
| "loss": 0.3725, | |
| "step": 422 | |
| }, | |
| { | |
| "epoch": 2.0, | |
| "eval_accuracy": 0.759, | |
| "eval_f1": 0.7583549419422403, | |
| "eval_loss": 0.3489450216293335, | |
| "eval_runtime": 5.103, | |
| "eval_samples_per_second": 587.885, | |
| "eval_steps_per_second": 73.486, | |
| "step": 422 | |
| }, | |
| { | |
| "epoch": 3.0, | |
| "learning_rate": 9e-07, | |
| "loss": 0.3158, | |
| "step": 633 | |
| }, | |
| { | |
| "epoch": 3.0, | |
| "eval_accuracy": 0.7613333333333333, | |
| "eval_f1": 0.7569694772671423, | |
| "eval_loss": 0.3286795914173126, | |
| "eval_runtime": 5.4646, | |
| "eval_samples_per_second": 548.991, | |
| "eval_steps_per_second": 68.624, | |
| "step": 633 | |
| }, | |
| { | |
| "epoch": 4.0, | |
| "learning_rate": 8.666666666666667e-07, | |
| "loss": 0.289, | |
| "step": 844 | |
| }, | |
| { | |
| "epoch": 4.0, | |
| "eval_accuracy": 0.769, | |
| "eval_f1": 0.7684440341259363, | |
| "eval_loss": 0.33065709471702576, | |
| "eval_runtime": 5.2159, | |
| "eval_samples_per_second": 575.162, | |
| "eval_steps_per_second": 71.895, | |
| "step": 844 | |
| }, | |
| { | |
| "epoch": 5.0, | |
| "learning_rate": 8.333333333333333e-07, | |
| "loss": 0.2716, | |
| "step": 1055 | |
| }, | |
| { | |
| "epoch": 5.0, | |
| "eval_accuracy": 0.7766666666666666, | |
| "eval_f1": 0.775028474008066, | |
| "eval_loss": 0.3240624666213989, | |
| "eval_runtime": 5.2721, | |
| "eval_samples_per_second": 569.029, | |
| "eval_steps_per_second": 71.129, | |
| "step": 1055 | |
| }, | |
| { | |
| "epoch": 6.0, | |
| "learning_rate": 8e-07, | |
| "loss": 0.2575, | |
| "step": 1266 | |
| }, | |
| { | |
| "epoch": 6.0, | |
| "eval_accuracy": 0.7786666666666666, | |
| "eval_f1": 0.7782108653517272, | |
| "eval_loss": 0.32720017433166504, | |
| "eval_runtime": 5.4144, | |
| "eval_samples_per_second": 554.075, | |
| "eval_steps_per_second": 69.259, | |
| "step": 1266 | |
| }, | |
| { | |
| "epoch": 7.0, | |
| "learning_rate": 7.666666666666667e-07, | |
| "loss": 0.2441, | |
| "step": 1477 | |
| }, | |
| { | |
| "epoch": 7.0, | |
| "eval_accuracy": 0.7783333333333333, | |
| "eval_f1": 0.7775937336504917, | |
| "eval_loss": 0.3257558345794678, | |
| "eval_runtime": 5.0695, | |
| "eval_samples_per_second": 591.777, | |
| "eval_steps_per_second": 73.972, | |
| "step": 1477 | |
| }, | |
| { | |
| "epoch": 8.0, | |
| "learning_rate": 7.333333333333332e-07, | |
| "loss": 0.2363, | |
| "step": 1688 | |
| }, | |
| { | |
| "epoch": 8.0, | |
| "eval_accuracy": 0.7776666666666666, | |
| "eval_f1": 0.777267505288088, | |
| "eval_loss": 0.331592321395874, | |
| "eval_runtime": 5.1518, | |
| "eval_samples_per_second": 582.323, | |
| "eval_steps_per_second": 72.79, | |
| "step": 1688 | |
| }, | |
| { | |
| "epoch": 9.0, | |
| "learning_rate": 7e-07, | |
| "loss": 0.2262, | |
| "step": 1899 | |
| }, | |
| { | |
| "epoch": 9.0, | |
| "eval_accuracy": 0.7843333333333333, | |
| "eval_f1": 0.7814767734353214, | |
| "eval_loss": 0.3149881064891815, | |
| "eval_runtime": 5.1238, | |
| "eval_samples_per_second": 585.508, | |
| "eval_steps_per_second": 73.188, | |
| "step": 1899 | |
| }, | |
| { | |
| "epoch": 10.0, | |
| "learning_rate": 6.666666666666666e-07, | |
| "loss": 0.2191, | |
| "step": 2110 | |
| }, | |
| { | |
| "epoch": 10.0, | |
| "eval_accuracy": 0.7813333333333333, | |
| "eval_f1": 0.7801938582947333, | |
| "eval_loss": 0.32408154010772705, | |
| "eval_runtime": 5.366, | |
| "eval_samples_per_second": 559.08, | |
| "eval_steps_per_second": 69.885, | |
| "step": 2110 | |
| }, | |
| { | |
| "epoch": 11.0, | |
| "learning_rate": 6.333333333333332e-07, | |
| "loss": 0.2112, | |
| "step": 2321 | |
| }, | |
| { | |
| "epoch": 11.0, | |
| "eval_accuracy": 0.7866666666666666, | |
| "eval_f1": 0.785979422813256, | |
| "eval_loss": 0.3275919258594513, | |
| "eval_runtime": 5.1309, | |
| "eval_samples_per_second": 584.694, | |
| "eval_steps_per_second": 73.087, | |
| "step": 2321 | |
| }, | |
| { | |
| "epoch": 12.0, | |
| "learning_rate": 6e-07, | |
| "loss": 0.2047, | |
| "step": 2532 | |
| }, | |
| { | |
| "epoch": 12.0, | |
| "eval_accuracy": 0.7896666666666666, | |
| "eval_f1": 0.7886408467585846, | |
| "eval_loss": 0.32662513852119446, | |
| "eval_runtime": 5.3907, | |
| "eval_samples_per_second": 556.515, | |
| "eval_steps_per_second": 69.564, | |
| "step": 2532 | |
| }, | |
| { | |
| "epoch": 13.0, | |
| "learning_rate": 5.666666666666666e-07, | |
| "loss": 0.1973, | |
| "step": 2743 | |
| }, | |
| { | |
| "epoch": 13.0, | |
| "eval_accuracy": 0.7893333333333333, | |
| "eval_f1": 0.7883928571428571, | |
| "eval_loss": 0.3298616409301758, | |
| "eval_runtime": 5.1275, | |
| "eval_samples_per_second": 585.084, | |
| "eval_steps_per_second": 73.135, | |
| "step": 2743 | |
| }, | |
| { | |
| "epoch": 14.0, | |
| "learning_rate": 5.333333333333333e-07, | |
| "loss": 0.1897, | |
| "step": 2954 | |
| }, | |
| { | |
| "epoch": 14.0, | |
| "eval_accuracy": 0.792, | |
| "eval_f1": 0.790682602817108, | |
| "eval_loss": 0.3300517499446869, | |
| "eval_runtime": 5.2516, | |
| "eval_samples_per_second": 571.251, | |
| "eval_steps_per_second": 71.406, | |
| "step": 2954 | |
| }, | |
| { | |
| "epoch": 15.0, | |
| "learning_rate": 5e-07, | |
| "loss": 0.1862, | |
| "step": 3165 | |
| }, | |
| { | |
| "epoch": 15.0, | |
| "eval_accuracy": 0.794, | |
| "eval_f1": 0.7925361349683366, | |
| "eval_loss": 0.3283214867115021, | |
| "eval_runtime": 5.2002, | |
| "eval_samples_per_second": 576.904, | |
| "eval_steps_per_second": 72.113, | |
| "step": 3165 | |
| }, | |
| { | |
| "epoch": 16.0, | |
| "learning_rate": 4.6666666666666666e-07, | |
| "loss": 0.1802, | |
| "step": 3376 | |
| }, | |
| { | |
| "epoch": 16.0, | |
| "eval_accuracy": 0.7906666666666666, | |
| "eval_f1": 0.7902606112099692, | |
| "eval_loss": 0.34650853276252747, | |
| "eval_runtime": 5.3305, | |
| "eval_samples_per_second": 562.794, | |
| "eval_steps_per_second": 70.349, | |
| "step": 3376 | |
| } | |
| ], | |
| "max_steps": 6330, | |
| "num_train_epochs": 30, | |
| "total_flos": 2.2943950474362624e+16, | |
| "trial_name": null, | |
| "trial_params": null | |
| } | |