anoaky commited on
Commit
cbf6e72
·
verified ·
1 Parent(s): a78839c

Training in progress, epoch 4, checkpoint

Browse files
checkpoint-2770/model.safetensors CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:c834c91d7fc206a30ca686ce2f2fbf86f2a637469a340b1cfd6483c158127195
3
  size 1629432864
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:cc2ad7c90df9104ba4fb5af90174c4bd580a60de332134ed436364f8ba63fb0b
3
  size 1629432864
checkpoint-2770/trainer_state.json CHANGED
@@ -2,7 +2,7 @@
2
  "best_metric": null,
3
  "best_model_checkpoint": null,
4
  "epoch": 4.991437584497522,
5
- "eval_steps": 693,
6
  "global_step": 2770,
7
  "is_hyper_param_search": false,
8
  "is_local_process_zero": true,
@@ -10,2005 +10,89 @@
10
  "log_history": [
11
  {
12
  "epoch": 0,
13
- "eval_f1": 0.6193506281612009,
14
- "eval_fn": 512,
15
- "eval_fp": 1821,
16
- "eval_loss": 0.736859142780304,
17
- "eval_precision": 0.5103522452272116,
18
- "eval_recall": 0.787551867219917,
19
- "eval_runtime": 69.9291,
20
- "eval_samples_per_second": 66.825,
21
- "eval_steps_per_second": 8.366,
22
- "eval_tn": 442,
23
- "eval_tp": 1898,
24
  "step": 0
25
  },
26
  {
27
- "epoch": 0.018026137899954935,
28
- "grad_norm": 32.56014633178711,
29
- "learning_rate": 4.981949458483755e-05,
30
- "loss": 0.8382,
31
- "step": 10
32
  },
33
  {
34
- "epoch": 0.03605227579990987,
35
- "grad_norm": 27.728681564331055,
36
- "learning_rate": 4.963898916967509e-05,
37
- "loss": 0.5565,
38
- "step": 20
 
 
 
 
39
  },
40
  {
41
- "epoch": 0.054078413699864804,
42
- "grad_norm": 26.70035171508789,
43
- "learning_rate": 4.945848375451264e-05,
44
- "loss": 0.5545,
45
- "step": 30
46
- },
47
- {
48
- "epoch": 0.07210455159981974,
49
- "grad_norm": 23.187734603881836,
50
- "learning_rate": 4.927797833935018e-05,
51
- "loss": 0.6027,
52
- "step": 40
53
- },
54
- {
55
- "epoch": 0.09013068949977468,
56
- "grad_norm": 35.976619720458984,
57
- "learning_rate": 4.909747292418773e-05,
58
- "loss": 0.5741,
59
- "step": 50
60
- },
61
- {
62
- "epoch": 0.10815682739972961,
63
- "grad_norm": 27.495447158813477,
64
- "learning_rate": 4.891696750902527e-05,
65
- "loss": 0.4941,
66
- "step": 60
67
- },
68
- {
69
- "epoch": 0.12618296529968454,
70
- "grad_norm": 25.021883010864258,
71
- "learning_rate": 4.873646209386282e-05,
72
- "loss": 0.457,
73
- "step": 70
74
- },
75
- {
76
- "epoch": 0.14420910319963948,
77
- "grad_norm": 29.016551971435547,
78
- "learning_rate": 4.855595667870036e-05,
79
- "loss": 0.4215,
80
- "step": 80
81
- },
82
- {
83
- "epoch": 0.16223524109959442,
84
- "grad_norm": 25.652786254882812,
85
- "learning_rate": 4.837545126353791e-05,
86
- "loss": 0.4292,
87
- "step": 90
88
- },
89
- {
90
- "epoch": 0.18026137899954936,
91
- "grad_norm": 24.254980087280273,
92
- "learning_rate": 4.819494584837546e-05,
93
- "loss": 0.4559,
94
- "step": 100
95
- },
96
- {
97
- "epoch": 0.19828751689950427,
98
- "grad_norm": 43.745643615722656,
99
- "learning_rate": 4.8014440433213e-05,
100
- "loss": 0.4536,
101
- "step": 110
102
- },
103
- {
104
- "epoch": 0.21631365479945922,
105
- "grad_norm": 19.265901565551758,
106
- "learning_rate": 4.783393501805055e-05,
107
- "loss": 0.4634,
108
- "step": 120
109
- },
110
- {
111
- "epoch": 0.23433979269941416,
112
- "grad_norm": 75.13768768310547,
113
- "learning_rate": 4.765342960288809e-05,
114
- "loss": 0.4067,
115
- "step": 130
116
- },
117
- {
118
- "epoch": 0.25236593059936907,
119
- "grad_norm": 24.337844848632812,
120
- "learning_rate": 4.747292418772563e-05,
121
- "loss": 0.4483,
122
- "step": 140
123
- },
124
- {
125
- "epoch": 0.270392068499324,
126
- "grad_norm": 27.518775939941406,
127
- "learning_rate": 4.7292418772563177e-05,
128
- "loss": 0.4524,
129
- "step": 150
130
- },
131
- {
132
- "epoch": 0.28841820639927895,
133
- "grad_norm": 23.281097412109375,
134
- "learning_rate": 4.711191335740072e-05,
135
- "loss": 0.4443,
136
- "step": 160
137
- },
138
- {
139
- "epoch": 0.3064443442992339,
140
- "grad_norm": 12.933683395385742,
141
- "learning_rate": 4.693140794223827e-05,
142
- "loss": 0.472,
143
- "step": 170
144
- },
145
- {
146
- "epoch": 0.32447048219918884,
147
- "grad_norm": 16.49010467529297,
148
- "learning_rate": 4.675090252707581e-05,
149
- "loss": 0.4549,
150
- "step": 180
151
- },
152
- {
153
- "epoch": 0.3424966200991438,
154
- "grad_norm": 19.209016799926758,
155
- "learning_rate": 4.657039711191336e-05,
156
- "loss": 0.4628,
157
- "step": 190
158
- },
159
- {
160
- "epoch": 0.3605227579990987,
161
- "grad_norm": 19.71845054626465,
162
- "learning_rate": 4.63898916967509e-05,
163
- "loss": 0.4281,
164
- "step": 200
165
- },
166
- {
167
- "epoch": 0.3785488958990536,
168
- "grad_norm": 19.700483322143555,
169
- "learning_rate": 4.620938628158845e-05,
170
- "loss": 0.4427,
171
- "step": 210
172
- },
173
- {
174
- "epoch": 0.39657503379900855,
175
- "grad_norm": 19.06282615661621,
176
- "learning_rate": 4.602888086642599e-05,
177
- "loss": 0.4214,
178
- "step": 220
179
- },
180
- {
181
- "epoch": 0.4146011716989635,
182
- "grad_norm": 14.681564331054688,
183
- "learning_rate": 4.584837545126354e-05,
184
- "loss": 0.4279,
185
- "step": 230
186
- },
187
- {
188
- "epoch": 0.43262730959891843,
189
- "grad_norm": 28.783143997192383,
190
- "learning_rate": 4.566787003610109e-05,
191
- "loss": 0.4475,
192
- "step": 240
193
- },
194
- {
195
- "epoch": 0.45065344749887337,
196
- "grad_norm": 14.686984062194824,
197
- "learning_rate": 4.548736462093863e-05,
198
- "loss": 0.4232,
199
- "step": 250
200
- },
201
- {
202
- "epoch": 0.4686795853988283,
203
- "grad_norm": 15.651535987854004,
204
- "learning_rate": 4.530685920577618e-05,
205
- "loss": 0.4026,
206
- "step": 260
207
- },
208
- {
209
- "epoch": 0.48670572329878325,
210
- "grad_norm": 17.506153106689453,
211
- "learning_rate": 4.5126353790613716e-05,
212
- "loss": 0.416,
213
- "step": 270
214
- },
215
- {
216
- "epoch": 0.5047318611987381,
217
- "grad_norm": 23.381561279296875,
218
- "learning_rate": 4.494584837545127e-05,
219
- "loss": 0.385,
220
- "step": 280
221
- },
222
- {
223
- "epoch": 0.5227579990986931,
224
- "grad_norm": 18.458227157592773,
225
- "learning_rate": 4.4765342960288806e-05,
226
- "loss": 0.4352,
227
- "step": 290
228
- },
229
- {
230
- "epoch": 0.540784136998648,
231
- "grad_norm": 16.285743713378906,
232
- "learning_rate": 4.458483754512636e-05,
233
- "loss": 0.4191,
234
- "step": 300
235
- },
236
- {
237
- "epoch": 0.558810274898603,
238
- "grad_norm": 22.14523696899414,
239
- "learning_rate": 4.44043321299639e-05,
240
- "loss": 0.4525,
241
- "step": 310
242
- },
243
- {
244
- "epoch": 0.5768364127985579,
245
- "grad_norm": 12.94579029083252,
246
- "learning_rate": 4.422382671480145e-05,
247
- "loss": 0.4335,
248
- "step": 320
249
- },
250
- {
251
- "epoch": 0.5948625506985128,
252
- "grad_norm": 29.218290328979492,
253
- "learning_rate": 4.404332129963899e-05,
254
- "loss": 0.4194,
255
- "step": 330
256
- },
257
- {
258
- "epoch": 0.6128886885984678,
259
- "grad_norm": 20.067014694213867,
260
- "learning_rate": 4.386281588447654e-05,
261
- "loss": 0.4016,
262
- "step": 340
263
- },
264
- {
265
- "epoch": 0.6309148264984227,
266
- "grad_norm": 15.315394401550293,
267
- "learning_rate": 4.368231046931408e-05,
268
- "loss": 0.4293,
269
- "step": 350
270
- },
271
- {
272
- "epoch": 0.6489409643983777,
273
- "grad_norm": 28.87151527404785,
274
- "learning_rate": 4.350180505415163e-05,
275
- "loss": 0.3952,
276
- "step": 360
277
- },
278
- {
279
- "epoch": 0.6669671022983326,
280
- "grad_norm": 12.91943645477295,
281
- "learning_rate": 4.332129963898917e-05,
282
- "loss": 0.4276,
283
- "step": 370
284
- },
285
- {
286
- "epoch": 0.6849932401982876,
287
- "grad_norm": 18.917442321777344,
288
- "learning_rate": 4.314079422382672e-05,
289
- "loss": 0.3843,
290
- "step": 380
291
- },
292
- {
293
- "epoch": 0.7030193780982424,
294
- "grad_norm": 16.344675064086914,
295
- "learning_rate": 4.296028880866426e-05,
296
- "loss": 0.4283,
297
- "step": 390
298
- },
299
- {
300
- "epoch": 0.7210455159981974,
301
- "grad_norm": 27.420021057128906,
302
- "learning_rate": 4.277978339350181e-05,
303
- "loss": 0.4663,
304
- "step": 400
305
- },
306
- {
307
- "epoch": 0.7390716538981523,
308
- "grad_norm": 37.13134765625,
309
- "learning_rate": 4.259927797833935e-05,
310
- "loss": 0.4338,
311
- "step": 410
312
- },
313
- {
314
- "epoch": 0.7570977917981072,
315
- "grad_norm": 23.59578514099121,
316
- "learning_rate": 4.24187725631769e-05,
317
- "loss": 0.3714,
318
- "step": 420
319
- },
320
- {
321
- "epoch": 0.7751239296980622,
322
- "grad_norm": 30.009662628173828,
323
- "learning_rate": 4.223826714801444e-05,
324
- "loss": 0.3775,
325
- "step": 430
326
- },
327
- {
328
- "epoch": 0.7931500675980171,
329
- "grad_norm": 13.575807571411133,
330
- "learning_rate": 4.205776173285199e-05,
331
- "loss": 0.4104,
332
- "step": 440
333
- },
334
- {
335
- "epoch": 0.8111762054979721,
336
- "grad_norm": 18.727609634399414,
337
- "learning_rate": 4.187725631768953e-05,
338
- "loss": 0.3804,
339
- "step": 450
340
- },
341
- {
342
- "epoch": 0.829202343397927,
343
- "grad_norm": 14.367807388305664,
344
- "learning_rate": 4.169675090252708e-05,
345
- "loss": 0.4124,
346
- "step": 460
347
- },
348
- {
349
- "epoch": 0.847228481297882,
350
- "grad_norm": 12.945828437805176,
351
- "learning_rate": 4.151624548736462e-05,
352
- "loss": 0.4149,
353
- "step": 470
354
- },
355
- {
356
- "epoch": 0.8652546191978369,
357
- "grad_norm": 24.02052116394043,
358
- "learning_rate": 4.1335740072202167e-05,
359
- "loss": 0.4093,
360
- "step": 480
361
- },
362
- {
363
- "epoch": 0.8832807570977917,
364
- "grad_norm": 15.609790802001953,
365
- "learning_rate": 4.115523465703972e-05,
366
- "loss": 0.3874,
367
- "step": 490
368
- },
369
- {
370
- "epoch": 0.9013068949977467,
371
- "grad_norm": 25.04174041748047,
372
- "learning_rate": 4.0974729241877256e-05,
373
- "loss": 0.391,
374
- "step": 500
375
- },
376
- {
377
- "epoch": 0.9193330328977016,
378
- "grad_norm": 20.739681243896484,
379
- "learning_rate": 4.079422382671481e-05,
380
- "loss": 0.3939,
381
- "step": 510
382
- },
383
- {
384
- "epoch": 0.9373591707976566,
385
- "grad_norm": 16.13037872314453,
386
- "learning_rate": 4.0613718411552346e-05,
387
- "loss": 0.4004,
388
- "step": 520
389
- },
390
- {
391
- "epoch": 0.9553853086976115,
392
- "grad_norm": 21.17761993408203,
393
- "learning_rate": 4.043321299638989e-05,
394
- "loss": 0.3978,
395
- "step": 530
396
- },
397
- {
398
- "epoch": 0.9734114465975665,
399
- "grad_norm": 27.03806495666504,
400
- "learning_rate": 4.0252707581227436e-05,
401
- "loss": 0.4391,
402
- "step": 540
403
- },
404
- {
405
- "epoch": 0.9914375844975214,
406
- "grad_norm": 15.054065704345703,
407
- "learning_rate": 4.007220216606498e-05,
408
- "loss": 0.4187,
409
- "step": 550
410
- },
411
- {
412
- "epoch": 1.0090130689499774,
413
- "grad_norm": 22.64523696899414,
414
- "learning_rate": 3.989169675090253e-05,
415
- "loss": 0.3444,
416
- "step": 560
417
- },
418
- {
419
- "epoch": 1.0270392068499323,
420
- "grad_norm": 21.697904586791992,
421
- "learning_rate": 3.971119133574007e-05,
422
- "loss": 0.2976,
423
- "step": 570
424
- },
425
- {
426
- "epoch": 1.0450653447498874,
427
- "grad_norm": 14.764150619506836,
428
- "learning_rate": 3.953068592057762e-05,
429
- "loss": 0.3295,
430
- "step": 580
431
- },
432
- {
433
- "epoch": 1.0630914826498423,
434
- "grad_norm": 25.92884635925293,
435
- "learning_rate": 3.935018050541516e-05,
436
- "loss": 0.2984,
437
- "step": 590
438
- },
439
- {
440
- "epoch": 1.0811176205497972,
441
- "grad_norm": 23.327699661254883,
442
- "learning_rate": 3.916967509025271e-05,
443
- "loss": 0.3668,
444
- "step": 600
445
- },
446
- {
447
- "epoch": 1.099143758449752,
448
- "grad_norm": 27.034189224243164,
449
- "learning_rate": 3.898916967509025e-05,
450
- "loss": 0.2852,
451
- "step": 610
452
- },
453
- {
454
- "epoch": 1.117169896349707,
455
- "grad_norm": 29.098979949951172,
456
- "learning_rate": 3.88086642599278e-05,
457
- "loss": 0.2913,
458
- "step": 620
459
- },
460
- {
461
- "epoch": 1.135196034249662,
462
- "grad_norm": 21.875049591064453,
463
- "learning_rate": 3.862815884476535e-05,
464
- "loss": 0.2853,
465
- "step": 630
466
- },
467
- {
468
- "epoch": 1.153222172149617,
469
- "grad_norm": 15.405293464660645,
470
- "learning_rate": 3.844765342960289e-05,
471
- "loss": 0.3296,
472
- "step": 640
473
- },
474
- {
475
- "epoch": 1.1712483100495719,
476
- "grad_norm": 21.292566299438477,
477
- "learning_rate": 3.826714801444044e-05,
478
- "loss": 0.2739,
479
- "step": 650
480
- },
481
- {
482
- "epoch": 1.1892744479495267,
483
- "grad_norm": 17.985347747802734,
484
- "learning_rate": 3.8086642599277976e-05,
485
- "loss": 0.3034,
486
- "step": 660
487
- },
488
- {
489
- "epoch": 1.2073005858494819,
490
- "grad_norm": 16.177711486816406,
491
- "learning_rate": 3.790613718411553e-05,
492
- "loss": 0.3032,
493
- "step": 670
494
- },
495
- {
496
- "epoch": 1.2253267237494367,
497
- "grad_norm": 38.261051177978516,
498
- "learning_rate": 3.7725631768953066e-05,
499
- "loss": 0.2819,
500
- "step": 680
501
- },
502
- {
503
- "epoch": 1.2433528616493916,
504
- "grad_norm": 24.247678756713867,
505
- "learning_rate": 3.754512635379062e-05,
506
- "loss": 0.3527,
507
- "step": 690
508
- },
509
- {
510
- "epoch": 1.2487607030193781,
511
- "eval_f1": 0.8497959183673469,
512
- "eval_fn": 328,
513
- "eval_fp": 408,
514
- "eval_loss": 0.36085668206214905,
515
- "eval_precision": 0.8361445783132531,
516
- "eval_recall": 0.8639004149377594,
517
- "eval_runtime": 63.9221,
518
- "eval_samples_per_second": 73.105,
519
- "eval_steps_per_second": 9.152,
520
- "eval_tn": 1855,
521
- "eval_tp": 2082,
522
- "step": 693
523
- },
524
- {
525
- "epoch": 1.2613789995493465,
526
- "grad_norm": 26.0637149810791,
527
- "learning_rate": 3.7364620938628155e-05,
528
- "loss": 0.2519,
529
- "step": 700
530
- },
531
- {
532
- "epoch": 1.2794051374493014,
533
- "grad_norm": 22.626008987426758,
534
- "learning_rate": 3.718411552346571e-05,
535
- "loss": 0.2764,
536
- "step": 710
537
- },
538
- {
539
- "epoch": 1.2974312753492563,
540
- "grad_norm": 24.119760513305664,
541
- "learning_rate": 3.700361010830325e-05,
542
- "loss": 0.3114,
543
- "step": 720
544
- },
545
- {
546
- "epoch": 1.3154574132492114,
547
- "grad_norm": 25.81672477722168,
548
- "learning_rate": 3.68231046931408e-05,
549
- "loss": 0.2792,
550
- "step": 730
551
- },
552
- {
553
- "epoch": 1.3334835511491663,
554
- "grad_norm": 15.591266632080078,
555
- "learning_rate": 3.664259927797834e-05,
556
- "loss": 0.2857,
557
- "step": 740
558
- },
559
- {
560
- "epoch": 1.3515096890491212,
561
- "grad_norm": 21.272573471069336,
562
- "learning_rate": 3.646209386281589e-05,
563
- "loss": 0.2894,
564
- "step": 750
565
- },
566
- {
567
- "epoch": 1.3695358269490763,
568
- "grad_norm": 24.08788299560547,
569
- "learning_rate": 3.628158844765343e-05,
570
- "loss": 0.2806,
571
- "step": 760
572
- },
573
- {
574
- "epoch": 1.3875619648490312,
575
- "grad_norm": 20.197420120239258,
576
- "learning_rate": 3.610108303249098e-05,
577
- "loss": 0.3313,
578
- "step": 770
579
- },
580
- {
581
- "epoch": 1.405588102748986,
582
- "grad_norm": 22.551584243774414,
583
- "learning_rate": 3.592057761732852e-05,
584
- "loss": 0.3261,
585
- "step": 780
586
- },
587
- {
588
- "epoch": 1.423614240648941,
589
- "grad_norm": 15.885344505310059,
590
- "learning_rate": 3.574007220216607e-05,
591
- "loss": 0.3198,
592
- "step": 790
593
- },
594
- {
595
- "epoch": 1.4416403785488958,
596
- "grad_norm": 30.44365882873535,
597
- "learning_rate": 3.555956678700361e-05,
598
- "loss": 0.3143,
599
- "step": 800
600
- },
601
- {
602
- "epoch": 1.4596665164488507,
603
- "grad_norm": 18.411624908447266,
604
- "learning_rate": 3.537906137184116e-05,
605
- "loss": 0.2787,
606
- "step": 810
607
- },
608
- {
609
- "epoch": 1.4776926543488058,
610
- "grad_norm": 18.90251922607422,
611
- "learning_rate": 3.51985559566787e-05,
612
- "loss": 0.2858,
613
- "step": 820
614
- },
615
- {
616
- "epoch": 1.4957187922487607,
617
- "grad_norm": 28.24523162841797,
618
- "learning_rate": 3.5018050541516247e-05,
619
- "loss": 0.2856,
620
- "step": 830
621
- },
622
- {
623
- "epoch": 1.5137449301487156,
624
- "grad_norm": 20.0897216796875,
625
- "learning_rate": 3.483754512635379e-05,
626
- "loss": 0.324,
627
- "step": 840
628
- },
629
- {
630
- "epoch": 1.5317710680486707,
631
- "grad_norm": 20.818204879760742,
632
- "learning_rate": 3.4657039711191336e-05,
633
- "loss": 0.2933,
634
- "step": 850
635
- },
636
- {
637
- "epoch": 1.5497972059486256,
638
- "grad_norm": 25.051939010620117,
639
- "learning_rate": 3.447653429602888e-05,
640
- "loss": 0.2948,
641
- "step": 860
642
- },
643
- {
644
- "epoch": 1.5678233438485805,
645
- "grad_norm": 32.370933532714844,
646
- "learning_rate": 3.4296028880866426e-05,
647
- "loss": 0.2847,
648
- "step": 870
649
- },
650
- {
651
- "epoch": 1.5858494817485354,
652
- "grad_norm": 34.086158752441406,
653
- "learning_rate": 3.411552346570397e-05,
654
- "loss": 0.2805,
655
- "step": 880
656
- },
657
- {
658
- "epoch": 1.6038756196484902,
659
- "grad_norm": 17.575464248657227,
660
- "learning_rate": 3.3935018050541516e-05,
661
- "loss": 0.3013,
662
- "step": 890
663
- },
664
- {
665
- "epoch": 1.6219017575484451,
666
- "grad_norm": 16.147525787353516,
667
- "learning_rate": 3.375451263537907e-05,
668
- "loss": 0.3257,
669
- "step": 900
670
- },
671
- {
672
- "epoch": 1.6399278954484002,
673
- "grad_norm": 23.968366622924805,
674
- "learning_rate": 3.3574007220216606e-05,
675
- "loss": 0.3042,
676
- "step": 910
677
- },
678
- {
679
- "epoch": 1.6579540333483551,
680
- "grad_norm": 24.20454216003418,
681
- "learning_rate": 3.339350180505416e-05,
682
- "loss": 0.3174,
683
- "step": 920
684
- },
685
- {
686
- "epoch": 1.67598017124831,
687
- "grad_norm": 14.595170021057129,
688
- "learning_rate": 3.3212996389891696e-05,
689
- "loss": 0.305,
690
- "step": 930
691
- },
692
- {
693
- "epoch": 1.694006309148265,
694
- "grad_norm": 46.18140411376953,
695
- "learning_rate": 3.303249097472924e-05,
696
- "loss": 0.3085,
697
- "step": 940
698
- },
699
- {
700
- "epoch": 1.71203244704822,
701
- "grad_norm": 25.23206329345703,
702
- "learning_rate": 3.2851985559566786e-05,
703
- "loss": 0.2921,
704
- "step": 950
705
- },
706
- {
707
- "epoch": 1.7300585849481749,
708
- "grad_norm": 18.097789764404297,
709
- "learning_rate": 3.267148014440433e-05,
710
- "loss": 0.2792,
711
- "step": 960
712
- },
713
- {
714
- "epoch": 1.7480847228481298,
715
- "grad_norm": 25.6617488861084,
716
- "learning_rate": 3.249097472924188e-05,
717
- "loss": 0.3027,
718
- "step": 970
719
- },
720
- {
721
- "epoch": 1.7661108607480847,
722
- "grad_norm": 33.289459228515625,
723
- "learning_rate": 3.231046931407942e-05,
724
- "loss": 0.2854,
725
- "step": 980
726
- },
727
- {
728
- "epoch": 1.7841369986480395,
729
- "grad_norm": 20.507280349731445,
730
- "learning_rate": 3.212996389891697e-05,
731
- "loss": 0.3646,
732
- "step": 990
733
- },
734
- {
735
- "epoch": 1.8021631365479944,
736
- "grad_norm": 17.23845100402832,
737
- "learning_rate": 3.194945848375451e-05,
738
- "loss": 0.2958,
739
- "step": 1000
740
- },
741
- {
742
- "epoch": 1.8201892744479495,
743
- "grad_norm": 23.676586151123047,
744
- "learning_rate": 3.176895306859206e-05,
745
- "loss": 0.2935,
746
- "step": 1010
747
- },
748
- {
749
- "epoch": 1.8382154123479044,
750
- "grad_norm": 12.614605903625488,
751
- "learning_rate": 3.15884476534296e-05,
752
- "loss": 0.2903,
753
- "step": 1020
754
- },
755
- {
756
- "epoch": 1.8562415502478595,
757
- "grad_norm": 42.599510192871094,
758
- "learning_rate": 3.140794223826715e-05,
759
- "loss": 0.3415,
760
- "step": 1030
761
- },
762
- {
763
- "epoch": 1.8742676881478144,
764
- "grad_norm": 31.382732391357422,
765
- "learning_rate": 3.12274368231047e-05,
766
- "loss": 0.31,
767
- "step": 1040
768
- },
769
- {
770
- "epoch": 1.8922938260477693,
771
- "grad_norm": 41.608890533447266,
772
- "learning_rate": 3.104693140794224e-05,
773
- "loss": 0.2515,
774
- "step": 1050
775
- },
776
- {
777
- "epoch": 1.9103199639477242,
778
- "grad_norm": 28.570653915405273,
779
- "learning_rate": 3.086642599277979e-05,
780
- "loss": 0.325,
781
- "step": 1060
782
- },
783
- {
784
- "epoch": 1.928346101847679,
785
- "grad_norm": 28.502283096313477,
786
- "learning_rate": 3.0685920577617325e-05,
787
- "loss": 0.2759,
788
- "step": 1070
789
- },
790
- {
791
- "epoch": 1.946372239747634,
792
- "grad_norm": 16.24626350402832,
793
- "learning_rate": 3.0505415162454877e-05,
794
- "loss": 0.2995,
795
- "step": 1080
796
- },
797
- {
798
- "epoch": 1.9643983776475888,
799
- "grad_norm": 27.27639389038086,
800
- "learning_rate": 3.032490974729242e-05,
801
- "loss": 0.2787,
802
- "step": 1090
803
- },
804
- {
805
- "epoch": 1.982424515547544,
806
- "grad_norm": 27.928380966186523,
807
- "learning_rate": 3.0144404332129967e-05,
808
- "loss": 0.2762,
809
- "step": 1100
810
- },
811
- {
812
- "epoch": 2.0,
813
- "grad_norm": 22.15119743347168,
814
- "learning_rate": 2.996389891696751e-05,
815
- "loss": 0.2623,
816
- "step": 1110
817
- },
818
- {
819
- "epoch": 2.018026137899955,
820
- "grad_norm": 20.76552963256836,
821
- "learning_rate": 2.9783393501805057e-05,
822
- "loss": 0.1688,
823
- "step": 1120
824
- },
825
- {
826
- "epoch": 2.0360522757999098,
827
- "grad_norm": 32.505191802978516,
828
- "learning_rate": 2.9602888086642598e-05,
829
- "loss": 0.1477,
830
- "step": 1130
831
- },
832
- {
833
- "epoch": 2.0540784136998647,
834
- "grad_norm": 29.859451293945312,
835
- "learning_rate": 2.9422382671480147e-05,
836
- "loss": 0.1473,
837
- "step": 1140
838
- },
839
- {
840
- "epoch": 2.0721045515998195,
841
- "grad_norm": 22.375699996948242,
842
- "learning_rate": 2.924187725631769e-05,
843
- "loss": 0.1156,
844
- "step": 1150
845
- },
846
- {
847
- "epoch": 2.090130689499775,
848
- "grad_norm": 26.230262756347656,
849
- "learning_rate": 2.906137184115524e-05,
850
- "loss": 0.1923,
851
- "step": 1160
852
- },
853
- {
854
- "epoch": 2.1081568273997298,
855
- "grad_norm": 29.501089096069336,
856
- "learning_rate": 2.888086642599278e-05,
857
- "loss": 0.1694,
858
- "step": 1170
859
- },
860
- {
861
- "epoch": 2.1261829652996846,
862
- "grad_norm": 46.50517654418945,
863
- "learning_rate": 2.870036101083033e-05,
864
- "loss": 0.1945,
865
- "step": 1180
866
- },
867
- {
868
- "epoch": 2.1442091031996395,
869
- "grad_norm": 45.4150276184082,
870
- "learning_rate": 2.851985559566787e-05,
871
- "loss": 0.1391,
872
- "step": 1190
873
- },
874
- {
875
- "epoch": 2.1622352410995944,
876
- "grad_norm": 19.459104537963867,
877
- "learning_rate": 2.8339350180505413e-05,
878
- "loss": 0.1817,
879
- "step": 1200
880
- },
881
- {
882
- "epoch": 2.1802613789995493,
883
- "grad_norm": 23.73355484008789,
884
- "learning_rate": 2.815884476534296e-05,
885
- "loss": 0.144,
886
- "step": 1210
887
- },
888
- {
889
- "epoch": 2.198287516899504,
890
- "grad_norm": 31.736591339111328,
891
- "learning_rate": 2.7978339350180506e-05,
892
- "loss": 0.1532,
893
- "step": 1220
894
- },
895
- {
896
- "epoch": 2.216313654799459,
897
- "grad_norm": 17.197023391723633,
898
- "learning_rate": 2.779783393501805e-05,
899
- "loss": 0.2099,
900
- "step": 1230
901
- },
902
- {
903
- "epoch": 2.234339792699414,
904
- "grad_norm": 16.515472412109375,
905
- "learning_rate": 2.7617328519855596e-05,
906
- "loss": 0.1429,
907
- "step": 1240
908
- },
909
- {
910
- "epoch": 2.2523659305993693,
911
- "grad_norm": 42.32828140258789,
912
- "learning_rate": 2.7436823104693144e-05,
913
- "loss": 0.1326,
914
- "step": 1250
915
- },
916
- {
917
- "epoch": 2.270392068499324,
918
- "grad_norm": 48.43349075317383,
919
- "learning_rate": 2.7256317689530686e-05,
920
- "loss": 0.2316,
921
- "step": 1260
922
- },
923
- {
924
- "epoch": 2.288418206399279,
925
- "grad_norm": 21.47289276123047,
926
- "learning_rate": 2.7075812274368234e-05,
927
- "loss": 0.1538,
928
- "step": 1270
929
- },
930
- {
931
- "epoch": 2.306444344299234,
932
- "grad_norm": 61.8057861328125,
933
- "learning_rate": 2.6895306859205776e-05,
934
- "loss": 0.1624,
935
- "step": 1280
936
- },
937
- {
938
- "epoch": 2.324470482199189,
939
- "grad_norm": 22.287643432617188,
940
- "learning_rate": 2.6714801444043324e-05,
941
- "loss": 0.1518,
942
- "step": 1290
943
- },
944
- {
945
- "epoch": 2.3424966200991437,
946
- "grad_norm": 50.18746566772461,
947
- "learning_rate": 2.6534296028880866e-05,
948
- "loss": 0.1767,
949
- "step": 1300
950
- },
951
- {
952
- "epoch": 2.3605227579990986,
953
- "grad_norm": 52.100826263427734,
954
- "learning_rate": 2.6353790613718414e-05,
955
- "loss": 0.1942,
956
- "step": 1310
957
- },
958
- {
959
- "epoch": 2.3785488958990535,
960
- "grad_norm": 22.549230575561523,
961
- "learning_rate": 2.617328519855596e-05,
962
- "loss": 0.159,
963
- "step": 1320
964
- },
965
- {
966
- "epoch": 2.3965750337990084,
967
- "grad_norm": 33.591896057128906,
968
- "learning_rate": 2.59927797833935e-05,
969
- "loss": 0.2036,
970
- "step": 1330
971
- },
972
- {
973
- "epoch": 2.4146011716989637,
974
- "grad_norm": 31.62824058532715,
975
- "learning_rate": 2.581227436823105e-05,
976
- "loss": 0.1464,
977
- "step": 1340
978
- },
979
- {
980
- "epoch": 2.4326273095989186,
981
- "grad_norm": 28.01429557800293,
982
- "learning_rate": 2.563176895306859e-05,
983
- "loss": 0.1617,
984
- "step": 1350
985
- },
986
- {
987
- "epoch": 2.4506534474988735,
988
- "grad_norm": 55.43074417114258,
989
- "learning_rate": 2.545126353790614e-05,
990
- "loss": 0.1415,
991
- "step": 1360
992
- },
993
- {
994
- "epoch": 2.4686795853988284,
995
- "grad_norm": 20.73956298828125,
996
- "learning_rate": 2.527075812274368e-05,
997
- "loss": 0.1929,
998
- "step": 1370
999
- },
1000
- {
1001
- "epoch": 2.4867057232987833,
1002
- "grad_norm": 33.961395263671875,
1003
- "learning_rate": 2.509025270758123e-05,
1004
- "loss": 0.173,
1005
- "step": 1380
1006
- },
1007
- {
1008
- "epoch": 2.4975214060387563,
1009
- "eval_f1": 0.8451639684516397,
1010
- "eval_fn": 374,
1011
- "eval_fp": 372,
1012
- "eval_loss": 0.4756762683391571,
1013
- "eval_precision": 0.845514950166113,
1014
- "eval_recall": 0.8448132780082988,
1015
- "eval_runtime": 55.8639,
1016
- "eval_samples_per_second": 83.65,
1017
- "eval_steps_per_second": 10.472,
1018
- "eval_tn": 1891,
1019
- "eval_tp": 2036,
1020
- "step": 1386
1021
- },
1022
- {
1023
- "epoch": 2.504731861198738,
1024
- "grad_norm": 28.332387924194336,
1025
- "learning_rate": 2.4909747292418774e-05,
1026
- "loss": 0.1992,
1027
- "step": 1390
1028
- },
1029
- {
1030
- "epoch": 2.522757999098693,
1031
- "grad_norm": 35.882781982421875,
1032
- "learning_rate": 2.472924187725632e-05,
1033
- "loss": 0.2178,
1034
- "step": 1400
1035
- },
1036
- {
1037
- "epoch": 2.540784136998648,
1038
- "grad_norm": 15.528435707092285,
1039
- "learning_rate": 2.4548736462093864e-05,
1040
- "loss": 0.1745,
1041
- "step": 1410
1042
- },
1043
- {
1044
- "epoch": 2.558810274898603,
1045
- "grad_norm": 35.54289627075195,
1046
- "learning_rate": 2.436823104693141e-05,
1047
- "loss": 0.1731,
1048
- "step": 1420
1049
- },
1050
- {
1051
- "epoch": 2.576836412798558,
1052
- "grad_norm": 394.8744201660156,
1053
- "learning_rate": 2.4187725631768953e-05,
1054
- "loss": 0.1702,
1055
- "step": 1430
1056
- },
1057
- {
1058
- "epoch": 2.5948625506985126,
1059
- "grad_norm": 27.29697036743164,
1060
- "learning_rate": 2.40072202166065e-05,
1061
- "loss": 0.1576,
1062
- "step": 1440
1063
- },
1064
- {
1065
- "epoch": 2.612888688598468,
1066
- "grad_norm": 27.070558547973633,
1067
- "learning_rate": 2.3826714801444043e-05,
1068
- "loss": 0.2202,
1069
- "step": 1450
1070
- },
1071
- {
1072
- "epoch": 2.630914826498423,
1073
- "grad_norm": 36.06498718261719,
1074
- "learning_rate": 2.3646209386281588e-05,
1075
- "loss": 0.1796,
1076
- "step": 1460
1077
- },
1078
- {
1079
- "epoch": 2.6489409643983777,
1080
- "grad_norm": 24.6717529296875,
1081
- "learning_rate": 2.3465703971119137e-05,
1082
- "loss": 0.1501,
1083
- "step": 1470
1084
- },
1085
- {
1086
- "epoch": 2.6669671022983326,
1087
- "grad_norm": 30.312421798706055,
1088
- "learning_rate": 2.328519855595668e-05,
1089
- "loss": 0.1834,
1090
- "step": 1480
1091
- },
1092
- {
1093
- "epoch": 2.6849932401982874,
1094
- "grad_norm": 27.66963005065918,
1095
- "learning_rate": 2.3104693140794227e-05,
1096
- "loss": 0.1464,
1097
- "step": 1490
1098
- },
1099
- {
1100
- "epoch": 2.7030193780982423,
1101
- "grad_norm": 28.956432342529297,
1102
- "learning_rate": 2.292418772563177e-05,
1103
- "loss": 0.1877,
1104
- "step": 1500
1105
- },
1106
- {
1107
- "epoch": 2.721045515998197,
1108
- "grad_norm": 20.93885040283203,
1109
- "learning_rate": 2.2743682310469316e-05,
1110
- "loss": 0.1781,
1111
- "step": 1510
1112
- },
1113
- {
1114
- "epoch": 2.7390716538981525,
1115
- "grad_norm": 15.14222526550293,
1116
- "learning_rate": 2.2563176895306858e-05,
1117
- "loss": 0.1837,
1118
- "step": 1520
1119
- },
1120
- {
1121
- "epoch": 2.757097791798107,
1122
- "grad_norm": 32.12163543701172,
1123
- "learning_rate": 2.2382671480144403e-05,
1124
- "loss": 0.1547,
1125
- "step": 1530
1126
- },
1127
- {
1128
- "epoch": 2.7751239296980623,
1129
- "grad_norm": 12.95942211151123,
1130
- "learning_rate": 2.220216606498195e-05,
1131
- "loss": 0.1912,
1132
- "step": 1540
1133
- },
1134
- {
1135
- "epoch": 2.793150067598017,
1136
- "grad_norm": 19.13577651977539,
1137
- "learning_rate": 2.2021660649819496e-05,
1138
- "loss": 0.1703,
1139
- "step": 1550
1140
- },
1141
- {
1142
- "epoch": 2.811176205497972,
1143
- "grad_norm": 25.11808204650879,
1144
- "learning_rate": 2.184115523465704e-05,
1145
- "loss": 0.1786,
1146
- "step": 1560
1147
- },
1148
- {
1149
- "epoch": 2.829202343397927,
1150
- "grad_norm": 38.005741119384766,
1151
- "learning_rate": 2.1660649819494586e-05,
1152
- "loss": 0.191,
1153
- "step": 1570
1154
- },
1155
- {
1156
- "epoch": 2.847228481297882,
1157
- "grad_norm": 28.062721252441406,
1158
- "learning_rate": 2.148014440433213e-05,
1159
- "loss": 0.1384,
1160
- "step": 1580
1161
- },
1162
- {
1163
- "epoch": 2.8652546191978367,
1164
- "grad_norm": 38.120235443115234,
1165
- "learning_rate": 2.1299638989169676e-05,
1166
- "loss": 0.1778,
1167
- "step": 1590
1168
- },
1169
- {
1170
- "epoch": 2.8832807570977916,
1171
- "grad_norm": 25.847713470458984,
1172
- "learning_rate": 2.111913357400722e-05,
1173
- "loss": 0.1676,
1174
- "step": 1600
1175
- },
1176
- {
1177
- "epoch": 2.901306894997747,
1178
- "grad_norm": 23.463483810424805,
1179
- "learning_rate": 2.0938628158844766e-05,
1180
- "loss": 0.173,
1181
- "step": 1610
1182
- },
1183
- {
1184
- "epoch": 2.9193330328977014,
1185
- "grad_norm": 28.62253761291504,
1186
- "learning_rate": 2.075812274368231e-05,
1187
- "loss": 0.1739,
1188
- "step": 1620
1189
- },
1190
- {
1191
- "epoch": 2.9373591707976567,
1192
- "grad_norm": 16.46048355102539,
1193
- "learning_rate": 2.057761732851986e-05,
1194
- "loss": 0.1495,
1195
- "step": 1630
1196
- },
1197
- {
1198
- "epoch": 2.9553853086976116,
1199
- "grad_norm": 24.875967025756836,
1200
- "learning_rate": 2.0397111913357404e-05,
1201
- "loss": 0.1416,
1202
- "step": 1640
1203
- },
1204
- {
1205
- "epoch": 2.9734114465975665,
1206
- "grad_norm": 46.05429458618164,
1207
- "learning_rate": 2.0216606498194946e-05,
1208
- "loss": 0.1659,
1209
- "step": 1650
1210
- },
1211
- {
1212
- "epoch": 2.9914375844975214,
1213
- "grad_norm": 19.724300384521484,
1214
- "learning_rate": 2.003610108303249e-05,
1215
- "loss": 0.1417,
1216
- "step": 1660
1217
- },
1218
- {
1219
- "epoch": 3.0090130689499777,
1220
- "grad_norm": 6.316404342651367,
1221
- "learning_rate": 1.9855595667870036e-05,
1222
- "loss": 0.1246,
1223
- "step": 1670
1224
- },
1225
- {
1226
- "epoch": 3.0270392068499326,
1227
- "grad_norm": 35.23857879638672,
1228
- "learning_rate": 1.967509025270758e-05,
1229
- "loss": 0.0565,
1230
- "step": 1680
1231
- },
1232
- {
1233
- "epoch": 3.0450653447498874,
1234
- "grad_norm": 35.49019241333008,
1235
- "learning_rate": 1.9494584837545125e-05,
1236
- "loss": 0.0669,
1237
- "step": 1690
1238
- },
1239
- {
1240
- "epoch": 3.0630914826498423,
1241
- "grad_norm": 110.1063461303711,
1242
- "learning_rate": 1.9314079422382674e-05,
1243
- "loss": 0.1124,
1244
- "step": 1700
1245
- },
1246
- {
1247
- "epoch": 3.081117620549797,
1248
- "grad_norm": 34.99469757080078,
1249
- "learning_rate": 1.913357400722022e-05,
1250
- "loss": 0.0338,
1251
- "step": 1710
1252
- },
1253
- {
1254
- "epoch": 3.099143758449752,
1255
- "grad_norm": 26.450838088989258,
1256
- "learning_rate": 1.8953068592057764e-05,
1257
- "loss": 0.0639,
1258
- "step": 1720
1259
- },
1260
- {
1261
- "epoch": 3.117169896349707,
1262
- "grad_norm": 77.21393585205078,
1263
- "learning_rate": 1.877256317689531e-05,
1264
- "loss": 0.0778,
1265
- "step": 1730
1266
- },
1267
- {
1268
- "epoch": 3.135196034249662,
1269
- "grad_norm": 23.50945281982422,
1270
- "learning_rate": 1.8592057761732854e-05,
1271
- "loss": 0.0827,
1272
- "step": 1740
1273
- },
1274
- {
1275
- "epoch": 3.1532221721496168,
1276
- "grad_norm": 25.54047203063965,
1277
- "learning_rate": 1.84115523465704e-05,
1278
- "loss": 0.0737,
1279
- "step": 1750
1280
- },
1281
- {
1282
- "epoch": 3.171248310049572,
1283
- "grad_norm": 14.785638809204102,
1284
- "learning_rate": 1.8231046931407943e-05,
1285
- "loss": 0.0707,
1286
- "step": 1760
1287
- },
1288
- {
1289
- "epoch": 3.189274447949527,
1290
- "grad_norm": 19.547487258911133,
1291
- "learning_rate": 1.805054151624549e-05,
1292
- "loss": 0.0541,
1293
- "step": 1770
1294
- },
1295
- {
1296
- "epoch": 3.207300585849482,
1297
- "grad_norm": 24.53461456298828,
1298
- "learning_rate": 1.7870036101083033e-05,
1299
- "loss": 0.0774,
1300
- "step": 1780
1301
- },
1302
- {
1303
- "epoch": 3.2253267237494367,
1304
- "grad_norm": 10.091083526611328,
1305
- "learning_rate": 1.768953068592058e-05,
1306
- "loss": 0.0892,
1307
- "step": 1790
1308
- },
1309
- {
1310
- "epoch": 3.2433528616493916,
1311
- "grad_norm": 12.438738822937012,
1312
- "learning_rate": 1.7509025270758123e-05,
1313
- "loss": 0.0806,
1314
- "step": 1800
1315
- },
1316
- {
1317
- "epoch": 3.2613789995493465,
1318
- "grad_norm": 35.19310760498047,
1319
- "learning_rate": 1.7328519855595668e-05,
1320
- "loss": 0.0587,
1321
- "step": 1810
1322
- },
1323
- {
1324
- "epoch": 3.2794051374493014,
1325
- "grad_norm": 66.27088165283203,
1326
- "learning_rate": 1.7148014440433213e-05,
1327
- "loss": 0.1149,
1328
- "step": 1820
1329
- },
1330
- {
1331
- "epoch": 3.2974312753492563,
1332
- "grad_norm": 38.344879150390625,
1333
- "learning_rate": 1.6967509025270758e-05,
1334
- "loss": 0.0885,
1335
- "step": 1830
1336
- },
1337
- {
1338
- "epoch": 3.315457413249211,
1339
- "grad_norm": 24.388492584228516,
1340
- "learning_rate": 1.6787003610108303e-05,
1341
- "loss": 0.0749,
1342
- "step": 1840
1343
- },
1344
- {
1345
- "epoch": 3.3334835511491665,
1346
- "grad_norm": 13.80942440032959,
1347
- "learning_rate": 1.6606498194945848e-05,
1348
- "loss": 0.0619,
1349
- "step": 1850
1350
- },
1351
- {
1352
- "epoch": 3.3515096890491214,
1353
- "grad_norm": 21.927907943725586,
1354
- "learning_rate": 1.6425992779783393e-05,
1355
- "loss": 0.066,
1356
- "step": 1860
1357
- },
1358
- {
1359
- "epoch": 3.3695358269490763,
1360
- "grad_norm": 17.157190322875977,
1361
- "learning_rate": 1.624548736462094e-05,
1362
- "loss": 0.077,
1363
- "step": 1870
1364
- },
1365
- {
1366
- "epoch": 3.387561964849031,
1367
- "grad_norm": 65.74653625488281,
1368
- "learning_rate": 1.6064981949458486e-05,
1369
- "loss": 0.0761,
1370
- "step": 1880
1371
- },
1372
- {
1373
- "epoch": 3.405588102748986,
1374
- "grad_norm": 24.20794677734375,
1375
- "learning_rate": 1.588447653429603e-05,
1376
- "loss": 0.0887,
1377
- "step": 1890
1378
- },
1379
- {
1380
- "epoch": 3.423614240648941,
1381
- "grad_norm": 62.70228958129883,
1382
- "learning_rate": 1.5703971119133576e-05,
1383
- "loss": 0.0937,
1384
- "step": 1900
1385
- },
1386
- {
1387
- "epoch": 3.441640378548896,
1388
- "grad_norm": 29.74757957458496,
1389
- "learning_rate": 1.552346570397112e-05,
1390
- "loss": 0.0636,
1391
- "step": 1910
1392
- },
1393
- {
1394
- "epoch": 3.4596665164488507,
1395
- "grad_norm": 42.17036819458008,
1396
- "learning_rate": 1.5342960288808663e-05,
1397
- "loss": 0.0871,
1398
- "step": 1920
1399
- },
1400
- {
1401
- "epoch": 3.4776926543488056,
1402
- "grad_norm": 36.15501403808594,
1403
- "learning_rate": 1.516245487364621e-05,
1404
- "loss": 0.1034,
1405
- "step": 1930
1406
- },
1407
- {
1408
- "epoch": 3.495718792248761,
1409
- "grad_norm": 16.554231643676758,
1410
- "learning_rate": 1.4981949458483754e-05,
1411
- "loss": 0.0552,
1412
- "step": 1940
1413
- },
1414
- {
1415
- "epoch": 3.5137449301487154,
1416
- "grad_norm": 27.479389190673828,
1417
- "learning_rate": 1.4801444043321299e-05,
1418
- "loss": 0.0792,
1419
- "step": 1950
1420
- },
1421
- {
1422
- "epoch": 3.5317710680486707,
1423
- "grad_norm": 51.35026550292969,
1424
- "learning_rate": 1.4620938628158846e-05,
1425
- "loss": 0.0735,
1426
- "step": 1960
1427
- },
1428
- {
1429
- "epoch": 3.5497972059486256,
1430
- "grad_norm": 28.704710006713867,
1431
- "learning_rate": 1.444043321299639e-05,
1432
- "loss": 0.0746,
1433
- "step": 1970
1434
- },
1435
- {
1436
- "epoch": 3.5678233438485805,
1437
- "grad_norm": 50.08689880371094,
1438
- "learning_rate": 1.4259927797833936e-05,
1439
- "loss": 0.0678,
1440
- "step": 1980
1441
- },
1442
- {
1443
- "epoch": 3.5858494817485354,
1444
- "grad_norm": 7.874759674072266,
1445
- "learning_rate": 1.407942238267148e-05,
1446
- "loss": 0.0526,
1447
- "step": 1990
1448
- },
1449
- {
1450
- "epoch": 3.6038756196484902,
1451
- "grad_norm": 75.26201629638672,
1452
- "learning_rate": 1.3898916967509026e-05,
1453
- "loss": 0.076,
1454
- "step": 2000
1455
- },
1456
- {
1457
- "epoch": 3.621901757548445,
1458
- "grad_norm": 30.040180206298828,
1459
- "learning_rate": 1.3718411552346572e-05,
1460
- "loss": 0.0842,
1461
- "step": 2010
1462
- },
1463
- {
1464
- "epoch": 3.6399278954484,
1465
- "grad_norm": 68.3320541381836,
1466
- "learning_rate": 1.3537906137184117e-05,
1467
- "loss": 0.0782,
1468
- "step": 2020
1469
- },
1470
- {
1471
- "epoch": 3.6579540333483553,
1472
- "grad_norm": 47.21413040161133,
1473
- "learning_rate": 1.3357400722021662e-05,
1474
- "loss": 0.0938,
1475
- "step": 2030
1476
- },
1477
- {
1478
- "epoch": 3.67598017124831,
1479
- "grad_norm": 51.68861389160156,
1480
- "learning_rate": 1.3176895306859207e-05,
1481
- "loss": 0.0618,
1482
- "step": 2040
1483
- },
1484
- {
1485
- "epoch": 3.694006309148265,
1486
- "grad_norm": 15.36585807800293,
1487
- "learning_rate": 1.299638989169675e-05,
1488
- "loss": 0.07,
1489
- "step": 2050
1490
- },
1491
- {
1492
- "epoch": 3.71203244704822,
1493
- "grad_norm": 27.488054275512695,
1494
- "learning_rate": 1.2815884476534295e-05,
1495
- "loss": 0.0917,
1496
- "step": 2060
1497
- },
1498
- {
1499
- "epoch": 3.730058584948175,
1500
- "grad_norm": 12.570659637451172,
1501
- "learning_rate": 1.263537906137184e-05,
1502
- "loss": 0.0868,
1503
- "step": 2070
1504
- },
1505
- {
1506
- "epoch": 3.7462821090581344,
1507
- "eval_f1": 0.8361511166771028,
1508
- "eval_fn": 407,
1509
- "eval_fp": 378,
1510
- "eval_loss": 0.7050483822822571,
1511
- "eval_precision": 0.8412431751364973,
1512
- "eval_recall": 0.8311203319502075,
1513
- "eval_runtime": 66.9536,
1514
- "eval_samples_per_second": 69.795,
1515
- "eval_steps_per_second": 8.737,
1516
- "eval_tn": 1885,
1517
- "eval_tp": 2003,
1518
- "step": 2079
1519
- },
1520
- {
1521
- "epoch": 3.7480847228481298,
1522
- "grad_norm": 21.334257125854492,
1523
- "learning_rate": 1.2454873646209387e-05,
1524
- "loss": 0.0991,
1525
- "step": 2080
1526
- },
1527
- {
1528
- "epoch": 3.7661108607480847,
1529
- "grad_norm": 43.5160026550293,
1530
- "learning_rate": 1.2274368231046932e-05,
1531
- "loss": 0.0589,
1532
- "step": 2090
1533
- },
1534
- {
1535
- "epoch": 3.7841369986480395,
1536
- "grad_norm": 37.79927062988281,
1537
- "learning_rate": 1.2093862815884477e-05,
1538
- "loss": 0.0828,
1539
- "step": 2100
1540
- },
1541
- {
1542
- "epoch": 3.8021631365479944,
1543
- "grad_norm": 41.13615417480469,
1544
- "learning_rate": 1.1913357400722022e-05,
1545
- "loss": 0.0978,
1546
- "step": 2110
1547
- },
1548
- {
1549
- "epoch": 3.8201892744479498,
1550
- "grad_norm": 17.815465927124023,
1551
- "learning_rate": 1.1732851985559568e-05,
1552
- "loss": 0.0855,
1553
- "step": 2120
1554
- },
1555
- {
1556
- "epoch": 3.838215412347904,
1557
- "grad_norm": 29.20524787902832,
1558
- "learning_rate": 1.1552346570397113e-05,
1559
- "loss": 0.0737,
1560
- "step": 2130
1561
- },
1562
- {
1563
- "epoch": 3.8562415502478595,
1564
- "grad_norm": 70.78984069824219,
1565
- "learning_rate": 1.1371841155234658e-05,
1566
- "loss": 0.107,
1567
- "step": 2140
1568
- },
1569
- {
1570
- "epoch": 3.8742676881478144,
1571
- "grad_norm": 11.879849433898926,
1572
- "learning_rate": 1.1191335740072201e-05,
1573
- "loss": 0.0916,
1574
- "step": 2150
1575
- },
1576
- {
1577
- "epoch": 3.8922938260477693,
1578
- "grad_norm": 26.21539306640625,
1579
- "learning_rate": 1.1010830324909748e-05,
1580
- "loss": 0.0862,
1581
- "step": 2160
1582
- },
1583
- {
1584
- "epoch": 3.910319963947724,
1585
- "grad_norm": 18.701679229736328,
1586
- "learning_rate": 1.0830324909747293e-05,
1587
- "loss": 0.0589,
1588
- "step": 2170
1589
- },
1590
- {
1591
- "epoch": 3.928346101847679,
1592
- "grad_norm": 27.045053482055664,
1593
- "learning_rate": 1.0649819494584838e-05,
1594
- "loss": 0.0513,
1595
- "step": 2180
1596
  },
1597
  {
1598
- "epoch": 3.946372239747634,
1599
- "grad_norm": 28.006908416748047,
1600
- "learning_rate": 1.0469314079422383e-05,
1601
- "loss": 0.0476,
1602
- "step": 2190
 
 
 
 
1603
  },
1604
  {
1605
- "epoch": 3.964398377647589,
1606
- "grad_norm": 36.951419830322266,
1607
- "learning_rate": 1.028880866425993e-05,
1608
- "loss": 0.0904,
1609
- "step": 2200
1610
  },
1611
  {
1612
- "epoch": 3.982424515547544,
1613
- "grad_norm": 70.6955337524414,
1614
- "learning_rate": 1.0108303249097473e-05,
1615
- "loss": 0.1079,
1616
- "step": 2210
 
 
 
 
1617
  },
1618
  {
1619
  "epoch": 4.0,
1620
- "grad_norm": 23.484031677246094,
1621
  "learning_rate": 9.927797833935018e-06,
1622
- "loss": 0.0614,
1623
  "step": 2220
1624
  },
1625
  {
1626
- "epoch": 4.018026137899955,
1627
- "grad_norm": 19.981300354003906,
1628
- "learning_rate": 9.747292418772563e-06,
1629
- "loss": 0.0286,
1630
- "step": 2230
1631
- },
1632
- {
1633
- "epoch": 4.03605227579991,
1634
- "grad_norm": 35.96101379394531,
1635
- "learning_rate": 9.56678700361011e-06,
1636
- "loss": 0.0341,
1637
- "step": 2240
1638
- },
1639
- {
1640
- "epoch": 4.054078413699865,
1641
- "grad_norm": 24.119760513305664,
1642
- "learning_rate": 9.386281588447654e-06,
1643
- "loss": 0.0344,
1644
- "step": 2250
1645
- },
1646
- {
1647
- "epoch": 4.0721045515998195,
1648
- "grad_norm": 22.60484504699707,
1649
- "learning_rate": 9.2057761732852e-06,
1650
- "loss": 0.0399,
1651
- "step": 2260
1652
- },
1653
- {
1654
- "epoch": 4.090130689499775,
1655
- "grad_norm": 18.592531204223633,
1656
- "learning_rate": 9.025270758122744e-06,
1657
- "loss": 0.045,
1658
- "step": 2270
1659
- },
1660
- {
1661
- "epoch": 4.108156827399729,
1662
- "grad_norm": 63.02653884887695,
1663
- "learning_rate": 8.84476534296029e-06,
1664
- "loss": 0.0531,
1665
- "step": 2280
1666
- },
1667
- {
1668
- "epoch": 4.126182965299685,
1669
- "grad_norm": 36.79388427734375,
1670
- "learning_rate": 8.664259927797834e-06,
1671
- "loss": 0.0432,
1672
- "step": 2290
1673
- },
1674
- {
1675
- "epoch": 4.144209103199639,
1676
- "grad_norm": 3.6419107913970947,
1677
- "learning_rate": 8.483754512635379e-06,
1678
- "loss": 0.0728,
1679
- "step": 2300
1680
- },
1681
- {
1682
- "epoch": 4.162235241099594,
1683
- "grad_norm": 4.659115791320801,
1684
- "learning_rate": 8.303249097472924e-06,
1685
- "loss": 0.0212,
1686
- "step": 2310
1687
- },
1688
- {
1689
- "epoch": 4.18026137899955,
1690
- "grad_norm": 25.78754425048828,
1691
- "learning_rate": 8.12274368231047e-06,
1692
- "loss": 0.0248,
1693
- "step": 2320
1694
- },
1695
- {
1696
- "epoch": 4.198287516899504,
1697
- "grad_norm": 30.966909408569336,
1698
- "learning_rate": 7.942238267148016e-06,
1699
- "loss": 0.0703,
1700
- "step": 2330
1701
- },
1702
- {
1703
- "epoch": 4.2163136547994595,
1704
- "grad_norm": 28.843400955200195,
1705
- "learning_rate": 7.76173285198556e-06,
1706
- "loss": 0.0457,
1707
- "step": 2340
1708
- },
1709
- {
1710
- "epoch": 4.234339792699414,
1711
- "grad_norm": 0.7049341201782227,
1712
- "learning_rate": 7.581227436823105e-06,
1713
- "loss": 0.0225,
1714
- "step": 2350
1715
- },
1716
- {
1717
- "epoch": 4.252365930599369,
1718
- "grad_norm": 46.65751266479492,
1719
- "learning_rate": 7.4007220216606496e-06,
1720
- "loss": 0.0337,
1721
- "step": 2360
1722
- },
1723
- {
1724
- "epoch": 4.270392068499324,
1725
- "grad_norm": 82.9363784790039,
1726
- "learning_rate": 7.220216606498195e-06,
1727
- "loss": 0.0327,
1728
- "step": 2370
1729
- },
1730
- {
1731
- "epoch": 4.288418206399279,
1732
- "grad_norm": 5.899658203125,
1733
- "learning_rate": 7.03971119133574e-06,
1734
- "loss": 0.0043,
1735
- "step": 2380
1736
- },
1737
- {
1738
- "epoch": 4.3064443442992335,
1739
- "grad_norm": 34.57490921020508,
1740
- "learning_rate": 6.859205776173286e-06,
1741
- "loss": 0.0307,
1742
- "step": 2390
1743
- },
1744
- {
1745
- "epoch": 4.324470482199189,
1746
- "grad_norm": 12.653234481811523,
1747
- "learning_rate": 6.678700361010831e-06,
1748
- "loss": 0.0523,
1749
- "step": 2400
1750
- },
1751
- {
1752
- "epoch": 4.342496620099144,
1753
- "grad_norm": 3.5938429832458496,
1754
- "learning_rate": 6.498194945848375e-06,
1755
- "loss": 0.0306,
1756
- "step": 2410
1757
- },
1758
- {
1759
- "epoch": 4.360522757999099,
1760
- "grad_norm": 20.71294593811035,
1761
- "learning_rate": 6.31768953068592e-06,
1762
- "loss": 0.049,
1763
- "step": 2420
1764
- },
1765
- {
1766
- "epoch": 4.378548895899054,
1767
- "grad_norm": 5.795297622680664,
1768
- "learning_rate": 6.137184115523466e-06,
1769
- "loss": 0.0358,
1770
- "step": 2430
1771
- },
1772
- {
1773
- "epoch": 4.396575033799008,
1774
- "grad_norm": 34.56690979003906,
1775
- "learning_rate": 5.956678700361011e-06,
1776
- "loss": 0.0508,
1777
- "step": 2440
1778
- },
1779
- {
1780
- "epoch": 4.414601171698964,
1781
- "grad_norm": 63.80348587036133,
1782
- "learning_rate": 5.776173285198557e-06,
1783
- "loss": 0.0511,
1784
- "step": 2450
1785
- },
1786
- {
1787
- "epoch": 4.432627309598918,
1788
- "grad_norm": 2.4131686687469482,
1789
- "learning_rate": 5.595667870036101e-06,
1790
- "loss": 0.049,
1791
- "step": 2460
1792
- },
1793
- {
1794
- "epoch": 4.4506534474988735,
1795
- "grad_norm": 52.36531448364258,
1796
- "learning_rate": 5.4151624548736465e-06,
1797
- "loss": 0.022,
1798
- "step": 2470
1799
- },
1800
- {
1801
- "epoch": 4.468679585398828,
1802
- "grad_norm": 0.7890565395355225,
1803
- "learning_rate": 5.2346570397111915e-06,
1804
- "loss": 0.0281,
1805
- "step": 2480
1806
- },
1807
- {
1808
- "epoch": 4.486705723298783,
1809
- "grad_norm": 70.13034057617188,
1810
- "learning_rate": 5.054151624548736e-06,
1811
- "loss": 0.0542,
1812
- "step": 2490
1813
- },
1814
- {
1815
- "epoch": 4.504731861198739,
1816
- "grad_norm": 100.14163208007812,
1817
- "learning_rate": 4.873646209386281e-06,
1818
- "loss": 0.0388,
1819
- "step": 2500
1820
- },
1821
- {
1822
- "epoch": 4.522757999098693,
1823
- "grad_norm": 0.7780297994613647,
1824
- "learning_rate": 4.693140794223827e-06,
1825
- "loss": 0.0489,
1826
- "step": 2510
1827
- },
1828
- {
1829
- "epoch": 4.540784136998648,
1830
- "grad_norm": 49.03726577758789,
1831
- "learning_rate": 4.512635379061372e-06,
1832
- "loss": 0.0548,
1833
- "step": 2520
1834
- },
1835
- {
1836
- "epoch": 4.558810274898603,
1837
- "grad_norm": 54.46559143066406,
1838
- "learning_rate": 4.332129963898917e-06,
1839
- "loss": 0.038,
1840
- "step": 2530
1841
- },
1842
- {
1843
- "epoch": 4.576836412798558,
1844
- "grad_norm": 34.701942443847656,
1845
- "learning_rate": 4.151624548736462e-06,
1846
- "loss": 0.0418,
1847
- "step": 2540
1848
- },
1849
- {
1850
- "epoch": 4.594862550698513,
1851
- "grad_norm": 87.46144104003906,
1852
- "learning_rate": 3.971119133574008e-06,
1853
- "loss": 0.0768,
1854
- "step": 2550
1855
- },
1856
- {
1857
- "epoch": 4.612888688598468,
1858
- "grad_norm": 86.79228210449219,
1859
- "learning_rate": 3.7906137184115523e-06,
1860
- "loss": 0.0274,
1861
- "step": 2560
1862
- },
1863
- {
1864
- "epoch": 4.630914826498422,
1865
- "grad_norm": 18.837629318237305,
1866
- "learning_rate": 3.6101083032490977e-06,
1867
- "loss": 0.028,
1868
- "step": 2570
1869
- },
1870
- {
1871
- "epoch": 4.648940964398378,
1872
- "grad_norm": 71.06475067138672,
1873
- "learning_rate": 3.429602888086643e-06,
1874
- "loss": 0.0434,
1875
- "step": 2580
1876
- },
1877
- {
1878
- "epoch": 4.666967102298333,
1879
- "grad_norm": 36.30558395385742,
1880
- "learning_rate": 3.2490974729241876e-06,
1881
- "loss": 0.0457,
1882
- "step": 2590
1883
- },
1884
- {
1885
- "epoch": 4.6849932401982874,
1886
- "grad_norm": 26.01364517211914,
1887
- "learning_rate": 3.068592057761733e-06,
1888
- "loss": 0.0248,
1889
- "step": 2600
1890
- },
1891
- {
1892
- "epoch": 4.703019378098243,
1893
- "grad_norm": 65.48623657226562,
1894
- "learning_rate": 2.8880866425992783e-06,
1895
- "loss": 0.0402,
1896
- "step": 2610
1897
- },
1898
- {
1899
- "epoch": 4.721045515998197,
1900
- "grad_norm": 54.232330322265625,
1901
- "learning_rate": 2.7075812274368233e-06,
1902
- "loss": 0.0196,
1903
- "step": 2620
1904
- },
1905
- {
1906
- "epoch": 4.7390716538981525,
1907
- "grad_norm": 0.7030893564224243,
1908
- "learning_rate": 2.527075812274368e-06,
1909
- "loss": 0.036,
1910
- "step": 2630
1911
- },
1912
- {
1913
- "epoch": 4.757097791798107,
1914
- "grad_norm": 5.075647830963135,
1915
- "learning_rate": 2.3465703971119136e-06,
1916
- "loss": 0.0163,
1917
- "step": 2640
1918
- },
1919
- {
1920
- "epoch": 4.775123929698062,
1921
- "grad_norm": 30.817026138305664,
1922
- "learning_rate": 2.1660649819494585e-06,
1923
- "loss": 0.0351,
1924
- "step": 2650
1925
- },
1926
- {
1927
- "epoch": 4.793150067598017,
1928
- "grad_norm": 1.8076817989349365,
1929
- "learning_rate": 1.985559566787004e-06,
1930
- "loss": 0.0154,
1931
- "step": 2660
1932
- },
1933
- {
1934
- "epoch": 4.811176205497972,
1935
- "grad_norm": 9.753203392028809,
1936
- "learning_rate": 1.8050541516245488e-06,
1937
- "loss": 0.0244,
1938
- "step": 2670
1939
- },
1940
- {
1941
- "epoch": 4.829202343397927,
1942
- "grad_norm": 20.44203758239746,
1943
- "learning_rate": 1.6245487364620938e-06,
1944
- "loss": 0.0357,
1945
- "step": 2680
1946
- },
1947
- {
1948
- "epoch": 4.847228481297882,
1949
- "grad_norm": 23.524141311645508,
1950
- "learning_rate": 1.4440433212996392e-06,
1951
- "loss": 0.0469,
1952
- "step": 2690
1953
- },
1954
- {
1955
- "epoch": 4.865254619197837,
1956
- "grad_norm": 115.92428588867188,
1957
- "learning_rate": 1.263537906137184e-06,
1958
- "loss": 0.0205,
1959
- "step": 2700
1960
- },
1961
- {
1962
- "epoch": 4.883280757097792,
1963
- "grad_norm": 4.06036376953125,
1964
- "learning_rate": 1.0830324909747293e-06,
1965
- "loss": 0.0252,
1966
- "step": 2710
1967
- },
1968
- {
1969
- "epoch": 4.901306894997747,
1970
- "grad_norm": 72.22532653808594,
1971
- "learning_rate": 9.025270758122744e-07,
1972
- "loss": 0.032,
1973
- "step": 2720
1974
- },
1975
- {
1976
- "epoch": 4.919333032897701,
1977
- "grad_norm": 67.36674499511719,
1978
- "learning_rate": 7.220216606498196e-07,
1979
- "loss": 0.0533,
1980
- "step": 2730
1981
- },
1982
- {
1983
- "epoch": 4.937359170797657,
1984
- "grad_norm": 39.58537292480469,
1985
- "learning_rate": 5.415162454873646e-07,
1986
- "loss": 0.0687,
1987
- "step": 2740
1988
- },
1989
- {
1990
- "epoch": 4.955385308697611,
1991
- "grad_norm": 1.2294623851776123,
1992
- "learning_rate": 3.610108303249098e-07,
1993
- "loss": 0.0383,
1994
- "step": 2750
1995
- },
1996
- {
1997
- "epoch": 4.9734114465975665,
1998
- "grad_norm": 58.341033935546875,
1999
- "learning_rate": 1.805054151624549e-07,
2000
- "loss": 0.0379,
2001
- "step": 2760
2002
- },
2003
- {
2004
- "epoch": 4.991437584497522,
2005
- "grad_norm": 2.680495023727417,
2006
- "learning_rate": 0.0,
2007
- "loss": 0.014,
2008
- "step": 2770
2009
  }
2010
  ],
2011
- "logging_steps": 10,
2012
  "max_steps": 2770,
2013
  "num_input_tokens_seen": 0,
2014
  "num_train_epochs": 5,
 
2
  "best_metric": null,
3
  "best_model_checkpoint": null,
4
  "epoch": 4.991437584497522,
5
+ "eval_steps": 500,
6
  "global_step": 2770,
7
  "is_hyper_param_search": false,
8
  "is_local_process_zero": true,
 
10
  "log_history": [
11
  {
12
  "epoch": 0,
13
+ "eval_f1": 0.6600234466588512,
14
+ "eval_loss": 0.7671048641204834,
15
+ "eval_precision": 0.5101948346171273,
16
+ "eval_recall": 0.9344398340248963,
17
+ "eval_runtime": 51.027,
18
+ "eval_samples_per_second": 91.579,
19
+ "eval_steps_per_second": 11.465,
 
 
 
 
20
  "step": 0
21
  },
22
  {
23
+ "epoch": 1.0,
24
+ "grad_norm": 15.12405776977539,
25
+ "learning_rate": 3.998194945848376e-05,
26
+ "loss": 0.4466,
27
+ "step": 555
28
  },
29
  {
30
+ "epoch": 1.0,
31
+ "eval_f1": 0.853844648796713,
32
+ "eval_loss": 0.3588806986808777,
33
+ "eval_precision": 0.8078489448352462,
34
+ "eval_recall": 0.9053941908713693,
35
+ "eval_runtime": 50.9684,
36
+ "eval_samples_per_second": 91.684,
37
+ "eval_steps_per_second": 11.478,
38
+ "step": 555
39
  },
40
  {
41
+ "epoch": 2.0,
42
+ "grad_norm": 23.096698760986328,
43
+ "learning_rate": 2.996389891696751e-05,
44
+ "loss": 0.301,
45
+ "step": 1110
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
46
  },
47
  {
48
+ "epoch": 2.0,
49
+ "eval_f1": 0.8517921868707209,
50
+ "eval_loss": 0.3814432919025421,
51
+ "eval_precision": 0.8274647887323944,
52
+ "eval_recall": 0.8775933609958506,
53
+ "eval_runtime": 39.2431,
54
+ "eval_samples_per_second": 119.078,
55
+ "eval_steps_per_second": 14.907,
56
+ "step": 1110
57
  },
58
  {
59
+ "epoch": 3.0,
60
+ "grad_norm": 24.367385864257812,
61
+ "learning_rate": 1.9945848375451266e-05,
62
+ "loss": 0.1689,
63
+ "step": 1665
64
  },
65
  {
66
+ "epoch": 3.0,
67
+ "eval_f1": 0.8443708609271523,
68
+ "eval_loss": 0.4720623791217804,
69
+ "eval_precision": 0.8422791081750619,
70
+ "eval_recall": 0.8464730290456431,
71
+ "eval_runtime": 38.3517,
72
+ "eval_samples_per_second": 121.846,
73
+ "eval_steps_per_second": 15.254,
74
+ "step": 1665
75
  },
76
  {
77
  "epoch": 4.0,
78
+ "grad_norm": 16.34662437438965,
79
  "learning_rate": 9.927797833935018e-06,
80
+ "loss": 0.0831,
81
  "step": 2220
82
  },
83
  {
84
+ "epoch": 4.0,
85
+ "eval_f1": 0.8335074159181115,
86
+ "eval_loss": 0.7186992168426514,
87
+ "eval_precision": 0.8392932267564156,
88
+ "eval_recall": 0.8278008298755186,
89
+ "eval_runtime": 38.6473,
90
+ "eval_samples_per_second": 120.914,
91
+ "eval_steps_per_second": 15.137,
92
+ "step": 2220
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
93
  }
94
  ],
95
+ "logging_steps": 500,
96
  "max_steps": 2770,
97
  "num_input_tokens_seen": 0,
98
  "num_train_epochs": 5,
checkpoint-2770/training_args.bin CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:8bac6e5d54145c75fc6db520c88eaa2ca8beb7fe2c31ead4c74ee603f7febb3f
3
- size 5432
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:c4b703b9b5a5ee2dd4eebb5df4d4cc66ab650c29868c89595e619adb071d90c5
3
+ size 5368