wav2vec2-large-Rw-cv-50hr-v10

This model is a fine-tuned version of facebook/wav2vec2-large on an unknown dataset. It achieves the following results on the evaluation set:

• Loss: 0.7559
• Model Preparation Time: 0.0077
• Wer: 0.3941
• Cer: 0.1108

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

• learning_rate: 5e-05
• train_batch_size: 16
• eval_batch_size: 8
• seed: 42
• gradient_accumulation_steps: 2
• total_train_batch_size: 32
• optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
• lr_scheduler_type: linear
• lr_scheduler_warmup_ratio: 0.05
• num_epochs: 100
• mixed_precision_training: Native AMP

Training results

Training Loss	Epoch	Step	Validation Loss	Model Preparation Time	Wer	Cer
3.5285	1.0	1096	1.3545	0.0077	0.9132	0.3520
0.8376	2.0	2192	1.0804	0.0077	0.8368	0.2844
0.6459	3.0	3288	1.0143	0.0077	0.7575	0.2694
0.5613	4.0	4384	0.9451	0.0077	0.7124	0.2476
0.5137	5.0	5480	0.9013	0.0077	0.6907	0.2378
0.4686	6.0	6576	0.8787	0.0077	0.6624	0.2334
0.4268	7.0	7672	0.8358	0.0077	0.6396	0.2209
0.3921	8.0	8768	0.8302	0.0077	0.6321	0.2216
0.3681	9.0	9864	0.8227	0.0077	0.6231	0.2185
0.3448	10.0	10960	0.8056	0.0077	0.6087	0.2112
0.3219	11.0	12056	0.8047	0.0077	0.6069	0.2075
0.3062	12.0	13152	0.7863	0.0077	0.5911	0.2047
0.2886	13.0	14248	0.8122	0.0077	0.5874	0.2045
0.2744	14.0	15344	0.8093	0.0077	0.5734	0.1990
0.2631	15.0	16440	0.8182	0.0077	0.5913	0.2052
0.2492	16.0	17536	0.8216	0.0077	0.5797	0.2002
0.2392	17.0	18632	0.8095	0.0077	0.5759	0.2000
0.2285	18.0	19728	0.8000	0.0077	0.5647	0.1954
0.2177	19.0	20824	0.7704	0.0077	0.5592	0.1947
0.2092	20.0	21920	0.8111	0.0077	0.5592	0.1945
0.2006	21.0	23016	0.7907	0.0077	0.5606	0.1940
0.1921	22.0	24112	0.8085	0.0077	0.5706	0.2012
0.1851	23.0	25208	0.8196	0.0077	0.5584	0.1957
0.1792	24.0	26304	0.8313	0.0077	0.5620	0.1951
0.1725	25.0	27400	0.8311	0.0077	0.5525	0.1929
0.1663	26.0	28496	0.8223	0.0077	0.5534	0.1914
0.1591	27.0	29592	0.8364	0.0077	0.5500	0.1945
0.1553	28.0	30688	0.8350	0.0077	0.5509	0.1927
0.1493	29.0	31784	0.8417	0.0077	0.5493	0.1929
0.142	30.0	32880	0.8134	0.0077	0.5484	0.1878
0.1394	31.0	33976	0.8643	0.0077	0.5447	0.1872
0.1345	32.0	35072	0.8856	0.0077	0.5389	0.1865
0.1314	33.0	36168	0.8545	0.0077	0.5511	0.1893
0.1277	34.0	37264	0.9312	0.0077	0.5462	0.1933
0.1236	35.0	38360	0.8589	0.0077	0.5350	0.1883
0.1209	36.0	39456	0.8951	0.0077	0.5340	0.1849
0.1171	37.0	40552	0.8578	0.0077	0.5347	0.1854
0.1127	38.0	41648	0.8785	0.0077	0.5343	0.1879
0.1091	39.0	42744	0.8679	0.0077	0.5368	0.1865
0.1064	40.0	43840	0.8993	0.0077	0.5480	0.1914
0.1023	41.0	44936	0.9021	0.0077	0.5458	0.1938
0.102	42.0	46032	0.9321	0.0077	0.5496	0.1938
0.0985	43.0	47128	0.9311	0.0077	0.5368	0.1883
0.0949	44.0	48224	0.9423	0.0077	0.5325	0.1857
0.0923	45.0	49320	0.9172	0.0077	0.5395	0.1888
0.0902	46.0	50416	0.9284	0.0077	0.5339	0.1870
0.0887	47.0	51512	0.9267	0.0077	0.5319	0.1870
0.0863	48.0	52608	0.9270	0.0077	0.5224	0.1831
0.0836	49.0	53704	0.9620	0.0077	0.5334	0.1874
0.0825	50.0	54800	0.9651	0.0077	0.5282	0.1861
0.0802	51.0	55896	0.9674	0.0077	0.5292	0.1874
0.078	52.0	56992	0.9891	0.0077	0.5340	0.1870
0.0761	53.0	58088	0.9665	0.0077	0.5196	0.1837
0.0748	54.0	59184	0.9742	0.0077	0.5191	0.1821
0.0739	55.0	60280	1.0035	0.0077	0.5238	0.1869
0.072	56.0	61376	1.0044	0.0077	0.5209	0.1844
0.0705	57.0	62472	1.0159	0.0077	0.5289	0.1893
0.0674	58.0	63568	1.0134	0.0077	0.5213	0.1849
0.0662	59.0	64664	0.9790	0.0077	0.5197	0.1844
0.0646	60.0	65760	1.0580	0.0077	0.5151	0.1816
0.0637	61.0	66856	1.0238	0.0077	0.5189	0.1831
0.0617	62.0	67952	1.0152	0.0077	0.5203	0.1844
0.0606	63.0	69048	1.0315	0.0077	0.5153	0.1823
0.0594	64.0	70144	1.0712	0.0077	0.5201	0.1853
0.0585	65.0	71240	1.0727	0.0077	0.5147	0.1864
0.0568	66.0	72336	1.0626	0.0077	0.5186	0.1871
0.0555	67.0	73432	1.1293	0.0077	0.5178	0.1836
0.0538	68.0	74528	1.1628	0.0077	0.5172	0.1839
0.0531	69.0	75624	1.1102	0.0077	0.5202	0.1862
0.0518	70.0	76720	1.1404	0.0077	0.5234	0.1855
0.0516	71.0	77816	1.0966	0.0077	0.5119	0.1826
0.0501	72.0	78912	1.0855	0.0077	0.5134	0.1826
0.0491	73.0	80008	1.1353	0.0077	0.5120	0.1828
0.0478	74.0	81104	1.1550	0.0077	0.5160	0.1881
0.0473	75.0	82200	1.1713	0.0077	0.5128	0.1864
0.0451	76.0	83296	1.1405	0.0077	0.5204	0.1864
0.0457	77.0	84392	1.1450	0.0077	0.5133	0.1841
0.0437	78.0	85488	1.1293	0.0077	0.5171	0.1869
0.0426	79.0	86584	1.1652	0.0077	0.5119	0.1822
0.0425	80.0	87680	1.1638	0.0077	0.5102	0.1852
0.0413	81.0	88776	1.1470	0.0077	0.5099	0.1813
0.0414	82.0	89872	1.1773	0.0077	0.5169	0.1838
0.0394	83.0	90968	1.2032	0.0077	0.5186	0.1867
0.039	84.0	92064	1.2134	0.0077	0.5174	0.1853
0.0382	85.0	93160	1.2106	0.0077	0.5159	0.1849
0.0371	86.0	94256	1.2558	0.0077	0.5175	0.1873
0.0377	87.0	95352	1.2510	0.0077	0.5175	0.1881
0.0363	88.0	96448	1.2421	0.0077	0.5167	0.1877
0.0355	89.0	97544	1.2231	0.0077	0.5139	0.1847
0.0345	90.0	98640	1.2441	0.0077	0.5111	0.1841
0.033	91.0	99736	1.2254	0.0077	0.5135	0.1855

Framework versions

• Transformers 4.45.2
• Pytorch 2.1.0+cu118
• Datasets 2.20.0
• Tokenizers 0.20.0