DuniaComGroup/wav2vec2-large-xlsr-53-common-voice-sw

wav2vec2-common_voice_sw

This model is a fine-tuned version of facebook/wav2vec2-large-xlsr-53 on the MOZILLA-FOUNDATION/COMMON_VOICE_13_0 - SW dataset. It achieves the following results on the evaluation set:

• Loss: inf
• Wer: 0.1963

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

• learning_rate: 0.0003
• train_batch_size: 4
• eval_batch_size: 8
• seed: 42
• gradient_accumulation_steps: 2
• total_train_batch_size: 8
• optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
• lr_scheduler_type: linear
• lr_scheduler_warmup_steps: 500
• num_epochs: 15.0

Training results

Training Loss	Epoch	Step	Validation Loss	Wer
No log	0.02	100	inf	1.0
No log	0.03	200	inf	1.0
No log	0.05	300	inf	1.0000
No log	0.07	400	inf	0.7648
3.8863	0.09	500	inf	0.6947
3.8863	0.1	600	inf	0.6413
3.8863	0.12	700	inf	0.5954
3.8863	0.14	800	inf	0.6195
3.8863	0.16	900	inf	0.5306
0.5864	0.17	1000	inf	0.5510
0.5864	0.19	1100	inf	0.5625
0.5864	0.21	1200	inf	0.5269
0.5864	0.22	1300	inf	0.4834
0.5864	0.24	1400	inf	0.4874
0.4471	0.26	1500	inf	0.4666
0.4471	0.28	1600	inf	0.4633
0.4471	0.29	1700	inf	0.4523
0.4471	0.31	1800	inf	0.4511
0.4471	0.33	1900	inf	0.4631
0.4075	0.35	2000	inf	0.4615
0.4075	0.36	2100	inf	0.4452
0.4075	0.38	2200	inf	0.4384
0.4075	0.4	2300	inf	0.4395
0.4075	0.42	2400	inf	0.4329
0.3885	0.43	2500	inf	0.4255
0.3885	0.45	2600	inf	0.4184
0.3885	0.47	2700	inf	0.4229
0.3885	0.48	2800	inf	0.4086
0.3885	0.5	2900	inf	0.4102
0.3744	0.52	3000	inf	0.3904
0.3744	0.54	3100	inf	0.3941
0.3744	0.55	3200	inf	0.3853
0.3744	0.57	3300	inf	0.3873
0.3744	0.59	3400	inf	0.3932
0.3538	0.61	3500	inf	0.3886
0.3538	0.62	3600	inf	0.4129
0.3538	0.64	3700	inf	0.3857
0.3538	0.66	3800	inf	0.3827
0.3538	0.67	3900	inf	0.3911
0.3577	0.69	4000	inf	0.4018
0.3577	0.71	4100	inf	0.3913
0.3577	0.73	4200	inf	0.3795
0.3577	0.74	4300	inf	0.3949
0.3577	0.76	4400	inf	0.3838
0.349	0.78	4500	inf	0.3718
0.349	0.8	4600	inf	0.3644
0.349	0.81	4700	inf	0.3592
0.349	0.83	4800	inf	0.3694
0.349	0.85	4900	inf	0.3622
0.327	0.86	5000	inf	0.3591
0.327	0.88	5100	inf	0.3707
0.327	0.9	5200	inf	0.3561
0.327	0.92	5300	inf	0.3559
0.327	0.93	5400	inf	0.3629
0.3328	0.95	5500	inf	0.3518
0.3328	0.97	5600	inf	0.3455
0.3328	0.99	5700	inf	0.3792
0.3328	1.0	5800	inf	0.3564
0.3328	1.02	5900	inf	0.3562
0.2984	1.04	6000	inf	0.3436
0.2984	1.05	6100	inf	0.3488
0.2984	1.07	6200	inf	0.3465
0.2984	1.09	6300	inf	0.3366
0.2984	1.11	6400	inf	0.3418
0.2773	1.12	6500	inf	0.3393
0.2773	1.14	6600	inf	0.3426
0.2773	1.16	6700	inf	0.3334
0.2773	1.18	6800	inf	0.3470
0.2773	1.19	6900	inf	0.3310
0.2777	1.21	7000	inf	0.3326
0.2777	1.23	7100	inf	0.3391
0.2777	1.25	7200	inf	0.3459
0.2777	1.26	7300	inf	0.3288
0.2777	1.28	7400	inf	0.3484
0.2775	1.3	7500	inf	0.3394
0.2775	1.31	7600	inf	0.3363
0.2775	1.33	7700	inf	0.3464
0.2775	1.35	7800	inf	0.3530
0.2775	1.37	7900	inf	0.3384
0.2833	1.38	8000	inf	0.3381
0.2833	1.4	8100	inf	0.3408
0.2833	1.42	8200	inf	0.3334
0.2833	1.44	8300	inf	0.3391
0.2833	1.45	8400	inf	0.3305
0.2793	1.47	8500	inf	0.3472
0.2793	1.49	8600	inf	0.3245
0.2793	1.5	8700	inf	0.3266
0.2793	1.52	8800	inf	0.3236
0.2793	1.54	8900	inf	0.3253
0.2693	1.56	9000	inf	0.3281
0.2693	1.57	9100	inf	0.3276
0.2693	1.59	9200	inf	0.3404
0.2693	1.61	9300	inf	0.3477
0.2693	1.63	9400	inf	0.3247
0.2735	1.64	9500	inf	0.3283
0.2735	1.66	9600	inf	0.3272
0.2735	1.68	9700	inf	0.3346
0.2735	1.69	9800	inf	0.3417
0.2735	1.71	9900	inf	0.3228
0.27	1.73	10000	inf	0.3264
0.27	1.75	10100	inf	0.3197
0.27	1.76	10200	inf	0.3207
0.27	1.78	10300	inf	0.3161
0.27	1.8	10400	inf	0.3093
0.2632	1.82	10500	inf	0.3203
0.2632	1.83	10600	inf	0.3160
0.2632	1.85	10700	inf	0.3172
0.2632	1.87	10800	inf	0.3213
0.2632	1.89	10900	inf	0.3136
0.2615	1.9	11000	inf	0.3119
0.2615	1.92	11100	inf	0.3112
0.2615	1.94	11200	inf	0.3304
0.2615	1.95	11300	inf	0.3118
0.2615	1.97	11400	inf	0.3164
0.2665	1.99	11500	inf	0.3105
0.2665	2.01	11600	inf	0.2990
0.2665	2.02	11700	inf	0.3091
0.2665	2.04	11800	inf	0.2995
0.2665	2.06	11900	inf	0.3046
0.2272	2.08	12000	inf	0.3161
0.2272	2.09	12100	inf	0.3145
0.2272	2.11	12200	inf	0.3084
0.2272	2.13	12300	inf	0.3082
0.2272	2.14	12400	inf	0.3014
0.2235	2.16	12500	inf	0.3140
0.2235	2.18	12600	inf	0.3093
0.2235	2.2	12700	inf	0.3025
0.2235	2.21	12800	inf	0.3109
0.2235	2.23	12900	inf	0.2989
0.2287	2.25	13000	inf	0.3071
0.2287	2.27	13100	inf	0.3116
0.2287	2.28	13200	inf	0.3078
0.2287	2.3	13300	inf	0.3072
0.2287	2.32	13400	inf	0.3042
0.2343	2.33	13500	inf	0.2994
0.2343	2.35	13600	inf	0.3026
0.2343	2.37	13700	inf	0.3072
0.2343	2.39	13800	inf	0.3103
0.2343	2.4	13900	inf	0.3075
0.2255	2.42	14000	inf	0.3033
0.2255	2.44	14100	inf	0.3017
0.2255	2.46	14200	inf	0.3095
0.2255	2.47	14300	inf	0.3030
0.2255	2.49	14400	inf	0.2988
0.2266	2.51	14500	inf	0.3070
0.2266	2.53	14600	inf	0.2939
0.2266	2.54	14700	inf	0.3025
0.2266	2.56	14800	inf	0.3054
0.2266	2.58	14900	inf	0.3079
0.2298	2.59	15000	inf	0.2883
0.2298	2.61	15100	inf	0.2941
0.2298	2.63	15200	inf	0.2995
0.2298	2.65	15300	inf	0.3018
0.2298	2.66	15400	inf	0.3027
0.2269	2.68	15500	inf	0.2941
0.2269	2.7	15600	inf	0.2966
0.2269	2.72	15700	inf	0.2904
0.2269	2.73	15800	inf	0.2978
0.2269	2.75	15900	inf	0.2868
0.2222	2.77	16000	inf	0.3008
0.2222	2.78	16100	inf	0.2976
0.2222	2.8	16200	inf	0.2939
0.2222	2.82	16300	inf	0.2977
0.2222	2.84	16400	inf	0.2914
0.2336	2.85	16500	inf	0.2863
0.2336	2.87	16600	inf	0.2922
0.2336	2.89	16700	inf	0.2932
0.2336	2.91	16800	inf	0.2960
0.2336	2.92	16900	inf	0.2904
0.2275	2.94	17000	inf	0.2958
0.2275	2.96	17100	inf	0.2988
0.2275	2.97	17200	inf	0.2909
0.2275	2.99	17300	inf	0.3047
0.2275	3.01	17400	inf	0.3058
0.2208	3.03	17500	inf	0.2900
0.2208	3.04	17600	inf	0.2941
0.2208	3.06	17700	inf	0.2898
0.2208	3.08	17800	inf	0.2869
0.2208	3.1	17900	inf	0.3041
0.192	3.11	18000	inf	0.2954
0.192	3.13	18100	inf	0.2847
0.192	3.15	18200	inf	0.3000
0.192	3.16	18300	inf	0.2889
0.192	3.18	18400	inf	0.2884
0.1883	3.2	18500	inf	0.2957
0.1883	3.22	18600	inf	0.2895
0.1883	3.23	18700	inf	0.2830
0.1883	3.25	18800	inf	0.2869
0.1883	3.27	18900	inf	0.2808
0.195	3.29	19000	inf	0.2824
0.195	3.3	19100	inf	0.2911
0.195	3.32	19200	inf	0.2887
0.195	3.34	19300	inf	0.2807
0.195	3.36	19400	inf	0.2817
0.1917	3.37	19500	inf	0.2916
0.1917	3.39	19600	inf	0.2861
0.1917	3.41	19700	inf	0.2871
0.1917	3.42	19800	inf	0.2876
0.1917	3.44	19900	inf	0.2808
0.1925	3.46	20000	inf	0.2911
0.1925	3.48	20100	inf	0.2812
0.1925	3.49	20200	inf	0.2797
0.1925	3.51	20300	inf	0.2825
0.1925	3.53	20400	inf	0.2877
0.1952	3.55	20500	inf	0.2850
0.1952	3.56	20600	inf	0.2827
0.1952	3.58	20700	inf	0.2861
0.1952	3.6	20800	inf	0.2843
0.1952	3.61	20900	inf	0.2958
0.194	3.63	21000	inf	0.2868
0.194	3.65	21100	inf	0.2838
0.194	3.67	21200	inf	0.2772
0.194	3.68	21300	inf	0.2796
0.194	3.7	21400	inf	0.2793
0.1912	3.72	21500	inf	0.2811
0.1912	3.74	21600	inf	0.2758
0.1912	3.75	21700	inf	0.2832
0.1912	3.77	21800	inf	0.2731
0.1912	3.79	21900	inf	0.2767
0.1966	3.8	22000	inf	0.2791
0.1966	3.82	22100	inf	0.2866
0.1966	3.84	22200	inf	0.2849
0.1966	3.86	22300	inf	0.2873
0.1966	3.87	22400	inf	0.2835
0.1932	3.89	22500	inf	0.2781
0.1932	3.91	22600	inf	0.2751
0.1932	3.93	22700	inf	0.2871
0.1932	3.94	22800	inf	0.2715
0.1932	3.96	22900	inf	0.2823
0.1928	3.98	23000	inf	0.2819
0.1928	4.0	23100	inf	0.2785
0.1928	4.01	23200	inf	0.2747
0.1928	4.03	23300	inf	0.2716
0.1928	4.05	23400	inf	0.2673
0.1651	4.06	23500	inf	0.2796
0.1651	4.08	23600	inf	0.2787
0.1651	4.1	23700	inf	0.2709
0.1651	4.12	23800	inf	0.2835
0.1651	4.13	23900	inf	0.2775
0.1678	4.15	24000	inf	0.2735
0.1678	4.17	24100	inf	0.2739
0.1678	4.19	24200	inf	0.2723
0.1678	4.2	24300	inf	0.2721
0.1678	4.22	24400	inf	0.2683
0.1701	4.24	24500	inf	0.2705
0.1701	4.25	24600	inf	0.2744
0.1701	4.27	24700	inf	0.2675
0.1701	4.29	24800	inf	0.2721
0.1701	4.31	24900	inf	0.2701
0.1681	4.32	25000	inf	0.2697
0.1681	4.34	25100	inf	0.2636
0.1681	4.36	25200	inf	0.2710
0.1681	4.38	25300	inf	0.2672
0.1681	4.39	25400	inf	0.2663
0.1686	4.41	25500	inf	0.2682
0.1686	4.43	25600	inf	0.2665
0.1686	4.44	25700	inf	0.2659
0.1686	4.46	25800	inf	0.2638
0.1686	4.48	25900	inf	0.2654
0.1704	4.5	26000	inf	0.2694
0.1704	4.51	26100	inf	0.2657
0.1704	4.53	26200	inf	0.2674
0.1704	4.55	26300	inf	0.2720
0.1704	4.57	26400	inf	0.2743
0.1646	4.58	26500	inf	0.2735
0.1646	4.6	26600	inf	0.2659
0.1646	4.62	26700	inf	0.2675
0.1646	4.64	26800	inf	0.2743
0.1646	4.65	26900	inf	0.2642
0.1662	4.67	27000	inf	0.2652
0.1662	4.69	27100	inf	0.2677
0.1662	4.7	27200	inf	0.2699
0.1662	4.72	27300	inf	0.2649
0.1662	4.74	27400	inf	0.2639
0.1713	4.76	27500	inf	0.2634
0.1713	4.77	27600	inf	0.2640
0.1713	4.79	27700	inf	0.2605
0.1713	4.81	27800	inf	0.2577
0.1713	4.83	27900	inf	0.2647
0.1674	4.84	28000	inf	0.2605
0.1674	4.86	28100	inf	0.2552
0.1674	4.88	28200	inf	0.2640
0.1674	4.89	28300	inf	0.2616
0.1674	4.91	28400	inf	0.2625
0.1627	4.93	28500	inf	0.2596
0.1627	4.95	28600	inf	0.2588
0.1627	4.96	28700	inf	0.2719
0.1627	4.98	28800	inf	0.2625
0.1627	5.0	28900	inf	0.2631
0.162	5.02	29000	inf	0.2619
0.162	5.03	29100	inf	0.2595
0.162	5.05	29200	inf	0.2668
0.162	5.07	29300	inf	0.2600
0.162	5.08	29400	inf	0.2609
0.147	5.1	29500	inf	0.2655
0.147	5.12	29600	inf	0.2615
0.147	5.14	29700	inf	0.2627
0.147	5.15	29800	inf	0.2619
0.147	5.17	29900	inf	0.2622
0.1441	5.19	30000	inf	0.2587
0.1441	5.21	30100	inf	0.2595
0.1441	5.22	30200	inf	0.2589
0.1441	5.24	30300	inf	0.2569
0.1441	5.26	30400	inf	0.2657
0.1446	5.27	30500	inf	0.2649
0.1446	5.29	30600	inf	0.2589
0.1446	5.31	30700	inf	0.2551
0.1446	5.33	30800	inf	0.2589
0.1446	5.34	30900	inf	0.2544
0.146	5.36	31000	inf	0.2523
0.146	5.38	31100	inf	0.2580
0.146	5.4	31200	inf	0.2597
0.146	5.41	31300	inf	0.2649
0.146	5.43	31400	inf	0.2614
0.1512	5.45	31500	inf	0.2577
0.1512	5.47	31600	inf	0.2623
0.1512	5.48	31700	inf	0.2552
0.1512	5.5	31800	inf	0.2526
0.1512	5.52	31900	inf	0.2569
0.1489	5.53	32000	inf	0.2556
0.1489	5.55	32100	inf	0.2576
0.1489	5.57	32200	inf	0.2543
0.1489	5.59	32300	inf	0.2534
0.1489	5.6	32400	inf	0.2511
0.1482	5.62	32500	inf	0.2582
0.1482	5.64	32600	inf	0.2594
0.1482	5.66	32700	inf	0.2546
0.1482	5.67	32800	inf	0.2480
0.1482	5.69	32900	inf	0.2610
0.1379	5.71	33000	inf	0.2550
0.1379	5.72	33100	inf	0.2584
0.1379	5.74	33200	inf	0.2569
0.1379	5.76	33300	inf	0.2581
0.1379	5.78	33400	inf	0.2632
0.1469	5.79	33500	inf	0.2573
0.1469	5.81	33600	inf	0.2502
0.1469	5.83	33700	inf	0.2565
0.1469	5.85	33800	inf	0.2574
0.1469	5.86	33900	inf	0.2573
0.1502	5.88	34000	inf	0.2602
0.1502	5.9	34100	inf	0.2496
0.1502	5.91	34200	inf	0.2542
0.1502	5.93	34300	inf	0.2475
0.1502	5.95	34400	inf	0.2489
0.1414	5.97	34500	inf	0.2520
0.1414	5.98	34600	inf	0.2486
0.1414	6.0	34700	inf	0.2602
0.1414	6.02	34800	inf	0.2517
0.1414	6.04	34900	inf	0.2564
0.1385	6.05	35000	inf	0.2501
0.1385	6.07	35100	inf	0.2477
0.1385	6.09	35200	inf	0.2500
0.1385	6.11	35300	inf	0.2557
0.1385	6.12	35400	inf	0.2520
0.1265	6.14	35500	inf	0.2568
0.1265	6.16	35600	inf	0.2496
0.1265	6.17	35700	inf	0.2564
0.1265	6.19	35800	inf	0.2512
0.1265	6.21	35900	inf	0.2512
0.1267	6.23	36000	inf	0.2540
0.1267	6.24	36100	inf	0.25
0.1267	6.26	36200	inf	0.2543
0.1267	6.28	36300	inf	0.2606
0.1267	6.3	36400	inf	0.2528
0.1271	6.31	36500	inf	0.2536
0.1271	6.33	36600	inf	0.2473
0.1271	6.35	36700	inf	0.2505
0.1271	6.36	36800	inf	0.2545
0.1271	6.38	36900	inf	0.2512
0.1269	6.4	37000	inf	0.2501
0.1269	6.42	37100	inf	0.2481
0.1269	6.43	37200	inf	0.2452
0.1269	6.45	37300	inf	0.2427
0.1269	6.47	37400	inf	0.2533
0.1304	6.49	37500	inf	0.2552
0.1304	6.5	37600	inf	0.2482
0.1304	6.52	37700	inf	0.2476
0.1304	6.54	37800	inf	0.2530
0.1304	6.55	37900	inf	0.2427
0.1259	6.57	38000	inf	0.2445
0.1259	6.59	38100	inf	0.2452
0.1259	6.61	38200	inf	0.2510
0.1259	6.62	38300	inf	0.2455
0.1259	6.64	38400	inf	0.2479
0.1244	6.66	38500	inf	0.2517
0.1244	6.68	38600	inf	0.2500
0.1244	6.69	38700	inf	0.2422
0.1244	6.71	38800	inf	0.2516
0.1244	6.73	38900	inf	0.2450
0.1281	6.75	39000	inf	0.2463
0.1281	6.76	39100	inf	0.2481
0.1281	6.78	39200	inf	0.2480
0.1281	6.8	39300	inf	0.2460
0.1281	6.81	39400	inf	0.2489
0.1287	6.83	39500	inf	0.2485
0.1287	6.85	39600	inf	0.2455
0.1287	6.87	39700	inf	0.2451
0.1287	6.88	39800	inf	0.2473
0.1287	6.9	39900	inf	0.2500
0.1308	6.92	40000	inf	0.2451
0.1308	6.94	40100	inf	0.2406
0.1308	6.95	40200	inf	0.2393
0.1308	6.97	40300	inf	0.2414
0.1308	6.99	40400	inf	0.2399
0.1189	7.0	40500	inf	0.2382
0.1189	7.02	40600	inf	0.2400
0.1189	7.04	40700	inf	0.2420
0.1189	7.06	40800	inf	0.2407
0.1189	7.07	40900	inf	0.2414
0.1132	7.09	41000	inf	0.2425
0.1132	7.11	41100	inf	0.2377
0.1132	7.13	41200	inf	0.2390
0.1132	7.14	41300	inf	0.2395
0.1132	7.16	41400	inf	0.2417
0.1058	7.18	41500	inf	0.2392
0.1058	7.19	41600	inf	0.2394
0.1058	7.21	41700	inf	0.2388
0.1058	7.23	41800	inf	0.2412
0.1058	7.25	41900	inf	0.2451
0.1038	7.26	42000	inf	0.2420
0.1038	7.28	42100	inf	0.2400
0.1038	7.3	42200	inf	0.2410
0.1038	7.32	42300	inf	0.2378
0.1038	7.33	42400	inf	0.2406
0.1084	7.35	42500	inf	0.2357
0.1084	7.37	42600	inf	0.2368
0.1084	7.38	42700	inf	0.2358
0.1084	7.4	42800	inf	0.2402
0.1084	7.42	42900	inf	0.2380
0.1094	7.44	43000	inf	0.2391
0.1094	7.45	43100	inf	0.2422
0.1094	7.47	43200	inf	0.2383
0.1094	7.49	43300	inf	0.2365
0.1094	7.51	43400	inf	0.2389
0.1088	7.52	43500	inf	0.2360
0.1088	7.54	43600	inf	0.2407
0.1088	7.56	43700	inf	0.2374
0.1088	7.58	43800	inf	0.2344
0.1088	7.59	43900	inf	0.2355
0.1082	7.61	44000	inf	0.2396
0.1082	7.63	44100	inf	0.2347
0.1082	7.64	44200	inf	0.2344
0.1082	7.66	44300	inf	0.2360
0.1082	7.68	44400	inf	0.2406
0.1101	7.7	44500	inf	0.2365
0.1101	7.71	44600	inf	0.2359
0.1101	7.73	44700	inf	0.2444
0.1101	7.75	44800	inf	0.2376
0.1101	7.77	44900	inf	0.2360
0.1114	7.78	45000	inf	0.2358
0.1114	7.8	45100	inf	0.2365
0.1114	7.82	45200	inf	0.2381
0.1114	7.83	45300	inf	0.2350
0.1114	7.85	45400	inf	0.2359
0.1133	7.87	45500	inf	0.2368
0.1133	7.89	45600	inf	0.2408
0.1133	7.9	45700	inf	0.2374
0.1133	7.92	45800	inf	0.2360
0.1133	7.94	45900	inf	0.2318
0.1058	7.96	46000	inf	0.2322
0.1058	7.97	46100	inf	0.2374
0.1058	7.99	46200	inf	0.2322
0.1058	8.01	46300	inf	0.2361
0.1058	8.02	46400	inf	0.2352
0.1024	8.04	46500	inf	0.2330
0.1024	8.06	46600	inf	0.2315
0.1024	8.08	46700	inf	0.2315
0.1024	8.09	46800	inf	0.2345
0.1024	8.11	46900	inf	0.2372
0.093	8.13	47000	inf	0.2356
0.093	8.15	47100	inf	0.2338
0.093	8.16	47200	inf	0.2303
0.093	8.18	47300	inf	0.2337
0.093	8.2	47400	inf	0.2333
0.0907	8.22	47500	inf	0.2335
0.0907	8.23	47600	inf	0.2339
0.0907	8.25	47700	inf	0.2312
0.0907	8.27	47800	inf	0.2334
0.0907	8.28	47900	inf	0.2311
0.0909	8.3	48000	inf	0.2335
0.0909	8.32	48100	inf	0.2348
0.0909	8.34	48200	inf	0.2290
0.0909	8.35	48300	inf	0.2355
0.0909	8.37	48400	inf	0.2323
0.0956	8.39	48500	inf	0.2293
0.0956	8.41	48600	inf	0.2290
0.0956	8.42	48700	inf	0.2279
0.0956	8.44	48800	inf	0.2311
0.0956	8.46	48900	inf	0.2305
0.0923	8.47	49000	inf	0.2332
0.0923	8.49	49100	inf	0.2293
0.0923	8.51	49200	inf	0.2290
0.0923	8.53	49300	inf	0.2333
0.0923	8.54	49400	inf	0.2310
0.0922	8.56	49500	inf	0.2294
0.0922	8.58	49600	inf	0.2278
0.0922	8.6	49700	inf	0.2302
0.0922	8.61	49800	inf	0.2311
0.0922	8.63	49900	inf	0.2247
0.0922	8.65	50000	inf	0.2296
0.0922	8.66	50100	inf	0.2300
0.0922	8.68	50200	inf	0.2265
0.0922	8.7	50300	inf	0.2261
0.0922	8.72	50400	inf	0.2271
0.0963	8.73	50500	inf	0.2271
0.0963	8.75	50600	inf	0.2282
0.0963	8.77	50700	inf	0.2309
0.0963	8.79	50800	inf	0.2300
0.0963	8.8	50900	inf	0.2318
0.0922	8.82	51000	inf	0.2307
0.0922	8.84	51100	inf	0.2277
0.0922	8.86	51200	inf	0.2309
0.0922	8.87	51300	inf	0.2261
0.0922	8.89	51400	inf	0.2297
0.0959	8.91	51500	inf	0.2276
0.0959	8.92	51600	inf	0.2245
0.0959	8.94	51700	inf	0.2251
0.0959	8.96	51800	inf	0.2244
0.0959	8.98	51900	inf	0.2264
0.0936	8.99	52000	inf	0.2268
0.0936	9.01	52100	inf	0.2266
0.0936	9.03	52200	inf	0.2268
0.0936	9.05	52300	inf	0.2291
0.0936	9.06	52400	inf	0.2295
0.0829	9.08	52500	inf	0.2252
0.0829	9.1	52600	inf	0.2258
0.0829	9.11	52700	inf	0.2294
0.0829	9.13	52800	inf	0.2281
0.0829	9.15	52900	inf	0.2287
0.0759	9.17	53000	inf	0.2263
0.0759	9.18	53100	inf	0.2283
0.0759	9.2	53200	inf	0.2241
0.0759	9.22	53300	inf	0.2242
0.0759	9.24	53400	inf	0.2249
0.0775	9.25	53500	inf	0.2265
0.0775	9.27	53600	inf	0.2252
0.0775	9.29	53700	inf	0.2256
0.0775	9.3	53800	inf	0.2250
0.0775	9.32	53900	inf	0.2238
0.0763	9.34	54000	inf	0.2233
0.0763	9.36	54100	inf	0.2227
0.0763	9.37	54200	inf	0.2256
0.0763	9.39	54300	inf	0.2248
0.0763	9.41	54400	inf	0.2252
0.0736	9.43	54500	inf	0.2254
0.0736	9.44	54600	inf	0.2294
0.0736	9.46	54700	inf	0.2285
0.0736	9.48	54800	inf	0.2244
0.0736	9.49	54900	inf	0.2260
0.0787	9.51	55000	inf	0.2214
0.0787	9.53	55100	inf	0.2235
0.0787	9.55	55200	inf	0.2234
0.0787	9.56	55300	inf	0.2244
0.0787	9.58	55400	inf	0.2268
0.078	9.6	55500	inf	0.2223
0.078	9.62	55600	inf	0.2227
0.078	9.63	55700	inf	0.2240
0.078	9.65	55800	inf	0.2246
0.078	9.67	55900	inf	0.2249
0.0784	9.69	56000	inf	0.2239
0.0784	9.7	56100	inf	0.2214
0.0784	9.72	56200	inf	0.2242
0.0784	9.74	56300	inf	0.2221
0.0784	9.75	56400	inf	0.2241
0.0771	9.77	56500	inf	0.2238
0.0771	9.79	56600	inf	0.2222
0.0771	9.81	56700	inf	0.2246
0.0771	9.82	56800	inf	0.2232
0.0771	9.84	56900	inf	0.2237
0.076	9.86	57000	inf	0.2246
0.076	9.88	57100	inf	0.2202
0.076	9.89	57200	inf	0.2222
0.076	9.91	57300	inf	0.2244
0.076	9.93	57400	inf	0.2244
0.0777	9.94	57500	inf	0.2210
0.0777	9.96	57600	inf	0.2182
0.0777	9.98	57700	inf	0.2208
0.0777	10.0	57800	inf	0.2210
0.0777	10.01	57900	inf	0.2203
0.0745	10.03	58000	inf	0.2221
0.0745	10.05	58100	inf	0.2204
0.0745	10.07	58200	inf	0.2222
0.0745	10.08	58300	inf	0.2190
0.0745	10.1	58400	inf	0.2216
0.0656	10.12	58500	inf	0.2211
0.0656	10.13	58600	inf	0.2213
0.0656	10.15	58700	inf	0.2230
0.0656	10.17	58800	inf	0.2234
0.0656	10.19	58900	inf	0.2239
0.0688	10.2	59000	inf	0.2223
0.0688	10.22	59100	inf	0.2175
0.0688	10.24	59200	inf	0.2191
0.0688	10.26	59300	inf	0.2226
0.0688	10.27	59400	inf	0.2179
0.0633	10.29	59500	inf	0.2197
0.0633	10.31	59600	inf	0.2212
0.0633	10.33	59700	inf	0.2192
0.0633	10.34	59800	inf	0.2195
0.0633	10.36	59900	inf	0.2175
0.0646	10.38	60000	inf	0.2155
0.0646	10.39	60100	inf	0.2160
0.0646	10.41	60200	inf	0.2181
0.0646	10.43	60300	inf	0.2196
0.0646	10.45	60400	inf	0.2204
0.0617	10.46	60500	inf	0.2191
0.0617	10.48	60600	inf	0.2202
0.0617	10.5	60700	inf	0.2235
0.0617	10.52	60800	inf	0.2167
0.0617	10.53	60900	inf	0.2203
0.0662	10.55	61000	inf	0.2182
0.0662	10.57	61100	inf	0.2171
0.0662	10.58	61200	inf	0.2190
0.0662	10.6	61300	inf	0.2221
0.0662	10.62	61400	inf	0.2224
0.0656	10.64	61500	inf	0.2215
0.0656	10.65	61600	inf	0.2196
0.0656	10.67	61700	inf	0.2201
0.0656	10.69	61800	inf	0.2185
0.0656	10.71	61900	inf	0.2174
0.0636	10.72	62000	inf	0.2189
0.0636	10.74	62100	inf	0.2205
0.0636	10.76	62200	inf	0.2204
0.0636	10.77	62300	inf	0.2217
0.0636	10.79	62400	inf	0.2192
0.0626	10.81	62500	inf	0.2175
0.0626	10.83	62600	inf	0.2192
0.0626	10.84	62700	inf	0.2187
0.0626	10.86	62800	inf	0.2171
0.0626	10.88	62900	inf	0.2155
0.0641	10.9	63000	inf	0.2168
0.0641	10.91	63100	inf	0.2183
0.0641	10.93	63200	inf	0.2177
0.0641	10.95	63300	inf	0.2180
0.0641	10.97	63400	inf	0.2180
0.064	10.98	63500	inf	0.2186
0.064	11.0	63600	inf	0.2192
0.064	11.02	63700	inf	0.2194
0.064	11.03	63800	inf	0.2177
0.064	11.05	63900	inf	0.2173
0.0571	11.07	64000	inf	0.2199
0.0571	11.09	64100	inf	0.2177
0.0571	11.1	64200	inf	0.2178
0.0571	11.12	64300	inf	0.2196
0.0571	11.14	64400	inf	0.2154
0.0536	11.16	64500	inf	0.2140
0.0536	11.17	64600	inf	0.2151
0.0536	11.19	64700	inf	0.2156
0.0536	11.21	64800	inf	0.2181
0.0536	11.22	64900	inf	0.2173
0.0544	11.24	65000	inf	0.2162
0.0544	11.26	65100	inf	0.2146
0.0544	11.28	65200	inf	0.2201
0.0544	11.29	65300	inf	0.2159
0.0544	11.31	65400	inf	0.2159
0.0546	11.33	65500	inf	0.2158
0.0546	11.35	65600	inf	0.2160
0.0546	11.36	65700	inf	0.2172
0.0546	11.38	65800	inf	0.2170
0.0546	11.4	65900	inf	0.2161
0.0545	11.41	66000	inf	0.2185
0.0545	11.43	66100	inf	0.2169
0.0545	11.45	66200	inf	0.2166
0.0545	11.47	66300	inf	0.2143
0.0545	11.48	66400	inf	0.2138
0.0539	11.5	66500	inf	0.2147
0.0539	11.52	66600	inf	0.2144
0.0539	11.54	66700	inf	0.2142
0.0539	11.55	66800	inf	0.2141
0.0539	11.57	66900	inf	0.2136
0.0545	11.59	67000	inf	0.2158
0.0545	11.6	67100	inf	0.2178
0.0545	11.62	67200	inf	0.2166
0.0545	11.64	67300	inf	0.2140
0.0545	11.66	67400	inf	0.2143
0.0538	11.67	67500	inf	0.2141
0.0538	11.69	67600	inf	0.2166
0.0538	11.71	67700	inf	0.2144
0.0538	11.73	67800	inf	0.2121
0.0538	11.74	67900	inf	0.2133
0.0529	11.76	68000	inf	0.2136
0.0529	11.78	68100	inf	0.2163
0.0529	11.8	68200	inf	0.2139
0.0529	11.81	68300	inf	0.2130
0.0529	11.83	68400	inf	0.2108
0.0528	11.85	68500	inf	0.2116
0.0528	11.86	68600	inf	0.2103
0.0528	11.88	68700	inf	0.2112
0.0528	11.9	68800	inf	0.2124
0.0528	11.92	68900	inf	0.2114
0.0523	11.93	69000	inf	0.2138
0.0523	11.95	69100	inf	0.2135
0.0523	11.97	69200	inf	0.2115
0.0523	11.99	69300	inf	0.2101
0.0523	12.0	69400	inf	0.2105
0.052	12.02	69500	inf	0.2116
0.052	12.04	69600	inf	0.2127
0.052	12.05	69700	inf	0.2115
0.052	12.07	69800	inf	0.2094
0.052	12.09	69900	inf	0.2106
0.0499	12.11	70000	inf	0.2111
0.0499	12.12	70100	inf	0.2113
0.0499	12.14	70200	inf	0.2125
0.0499	12.16	70300	inf	0.2101
0.0499	12.18	70400	inf	0.2115
0.0466	12.19	70500	inf	0.2119
0.0466	12.21	70600	inf	0.2102
0.0466	12.23	70700	inf	0.2121
0.0466	12.24	70800	inf	0.2091
0.0466	12.26	70900	inf	0.2092
0.0475	12.28	71000	inf	0.2102
0.0475	12.3	71100	inf	0.2094
0.0475	12.31	71200	inf	0.2086
0.0475	12.33	71300	inf	0.2068
0.0475	12.35	71400	inf	0.2077
0.0433	12.37	71500	inf	0.2090
0.0433	12.38	71600	inf	0.2091
0.0433	12.4	71700	inf	0.2120
0.0433	12.42	71800	inf	0.2089
0.0433	12.44	71900	inf	0.2095
0.0457	12.45	72000	inf	0.2090
0.0457	12.47	72100	inf	0.2088
0.0457	12.49	72200	inf	0.2080
0.0457	12.5	72300	inf	0.2066
0.0457	12.52	72400	inf	0.2098
0.0446	12.54	72500	inf	0.2076
0.0446	12.56	72600	inf	0.2068
0.0446	12.57	72700	inf	0.2080
0.0446	12.59	72800	inf	0.2129
0.0446	12.61	72900	inf	0.2116
0.0423	12.63	73000	inf	0.2108
0.0423	12.64	73100	inf	0.2083
0.0423	12.66	73200	inf	0.2079
0.0423	12.68	73300	inf	0.2073
0.0423	12.69	73400	inf	0.2074
0.0443	12.71	73500	inf	0.2066
0.0443	12.73	73600	inf	0.2070
0.0443	12.75	73700	inf	0.2054
0.0443	12.76	73800	inf	0.2044
0.0443	12.78	73900	inf	0.2045
0.0431	12.8	74000	inf	0.2055
0.0431	12.82	74100	inf	0.2055
0.0431	12.83	74200	inf	0.2086
0.0431	12.85	74300	inf	0.2084
0.0431	12.87	74400	inf	0.2061
0.045	12.88	74500	inf	0.2069
0.045	12.9	74600	inf	0.2073
0.045	12.92	74700	inf	0.2057
0.045	12.94	74800	inf	0.2081
0.045	12.95	74900	inf	0.2059
0.0434	12.97	75000	inf	0.2050
0.0434	12.99	75100	inf	0.2042
0.0434	13.01	75200	inf	0.2042
0.0434	13.02	75300	inf	0.2035
0.0434	13.04	75400	inf	0.2044
0.0388	13.06	75500	inf	0.2026
0.0388	13.08	75600	inf	0.2037
0.0388	13.09	75700	inf	0.2043
0.0388	13.11	75800	inf	0.2038
0.0388	13.13	75900	inf	0.2040
0.0391	13.14	76000	inf	0.2055
0.0391	13.16	76100	inf	0.2059
0.0391	13.18	76200	inf	0.2057
0.0391	13.2	76300	inf	0.2044
0.0391	13.21	76400	inf	0.2048
0.0416	13.23	76500	inf	0.2041
0.0416	13.25	76600	inf	0.2031
0.0416	13.27	76700	inf	0.2035
0.0416	13.28	76800	inf	0.2036
0.0416	13.3	76900	inf	0.2027
0.0387	13.32	77000	inf	0.2026
0.0387	13.33	77100	inf	0.2027
0.0387	13.35	77200	inf	0.2020
0.0387	13.37	77300	inf	0.2015
0.0387	13.39	77400	inf	0.2021
0.0388	13.4	77500	inf	0.2026
0.0388	13.42	77600	inf	0.2025
0.0388	13.44	77700	inf	0.2026
0.0388	13.46	77800	inf	0.2017
0.0388	13.47	77900	inf	0.2024
0.0393	13.49	78000	inf	0.2022
0.0393	13.51	78100	inf	0.2027
0.0393	13.52	78200	inf	0.2027
0.0393	13.54	78300	inf	0.2013
0.0393	13.56	78400	inf	0.2011
0.0389	13.58	78500	inf	0.2009
0.0389	13.59	78600	inf	0.2009
0.0389	13.61	78700	inf	0.2006
0.0389	13.63	78800	inf	0.2014
0.0389	13.65	78900	inf	0.2009
0.0413	13.66	79000	inf	0.2019
0.0413	13.68	79100	inf	0.2022
0.0413	13.7	79200	inf	0.2019
0.0413	13.71	79300	inf	0.2029
0.0413	13.73	79400	inf	0.2020
0.0384	13.75	79500	inf	0.2013
0.0384	13.77	79600	inf	0.2008
0.0384	13.78	79700	inf	0.2013
0.0384	13.8	79800	inf	0.2007
0.0384	13.82	79900	inf	0.2007
0.0366	13.84	80000	inf	0.2013
0.0366	13.85	80100	inf	0.2008
0.0366	13.87	80200	inf	0.2003
0.0366	13.89	80300	inf	0.1996
0.0366	13.91	80400	inf	0.1994
0.0368	13.92	80500	inf	0.2001
0.0368	13.94	80600	inf	0.1995
0.0368	13.96	80700	inf	0.2001
0.0368	13.97	80800	inf	0.1990
0.0368	13.99	80900	inf	0.2001
0.0362	14.01	81000	inf	0.1990
0.0362	14.03	81100	inf	0.1981
0.0362	14.04	81200	inf	0.1986
0.0362	14.06	81300	inf	0.1979
0.0362	14.08	81400	inf	0.1973
0.0353	14.1	81500	inf	0.1980
0.0353	14.11	81600	inf	0.1987
0.0353	14.13	81700	inf	0.1979
0.0353	14.15	81800	inf	0.1972
0.0353	14.16	81900	inf	0.1980
0.0344	14.18	82000	inf	0.1978
0.0344	14.2	82100	inf	0.1987
0.0344	14.22	82200	inf	0.1975
0.0344	14.23	82300	inf	0.1975
0.0344	14.25	82400	inf	0.1974
0.0348	14.27	82500	inf	0.1974
0.0348	14.29	82600	inf	0.1974
0.0348	14.3	82700	inf	0.1976
0.0348	14.32	82800	inf	0.1973
0.0348	14.34	82900	inf	0.1974
0.0328	14.35	83000	inf	0.1980
0.0328	14.37	83100	inf	0.1979
0.0328	14.39	83200	inf	0.1974
0.0328	14.41	83300	inf	0.1974
0.0328	14.42	83400	inf	0.1973
0.0351	14.44	83500	inf	0.1973
0.0351	14.46	83600	inf	0.1972
0.0351	14.48	83700	inf	0.1976
0.0351	14.49	83800	inf	0.1969
0.0351	14.51	83900	inf	0.1969
0.0329	14.53	84000	inf	0.1965
0.0329	14.55	84100	inf	0.1966
0.0329	14.56	84200	inf	0.1964
0.0329	14.58	84300	inf	0.1968
0.0329	14.6	84400	inf	0.1964
0.036	14.61	84500	inf	0.1965
0.036	14.63	84600	inf	0.1964
0.036	14.65	84700	inf	0.1968
0.036	14.67	84800	inf	0.1969
0.036	14.68	84900	inf	0.1967
0.0322	14.7	85000	inf	0.1966
0.0322	14.72	85100	inf	0.1967
0.0322	14.74	85200	inf	0.1965
0.0322	14.75	85300	inf	0.1964
0.0322	14.77	85400	inf	0.1964
0.0321	14.79	85500	inf	0.1964
0.0321	14.8	85600	inf	0.1962
0.0321	14.82	85700	inf	0.1960
0.0321	14.84	85800	inf	0.1959
0.0321	14.86	85900	inf	0.1962
0.0341	14.87	86000	inf	0.1961
0.0341	14.89	86100	inf	0.1964
0.0341	14.91	86200	inf	0.1962
0.0341	14.93	86300	inf	0.1962
0.0341	14.94	86400	inf	0.1963
0.0338	14.96	86500	inf	0.1963
0.0338	14.98	86600	inf	0.1963
0.0338	14.99	86700	inf	0.1963

Framework versions

• Transformers 4.31.0.dev0
• Pytorch 2.0.1+cu117
• Datasets 2.13.0
• Tokenizers 0.13.3