Hugging Face's logo

Datasets:
BrunoHays
/
ESLO

Tasks:
Automatic Speech Recognition
Languages:
French
License:
Dataset card Files
xet
Community
BrunoHays commited on
Commit
7deab40
·
1 Parent(s): f38d442

Create ESLO.py

Browse files
Files changed (1) hide show
  1. ESLO.py +380 -0
ESLO.py ADDED
@@ -0,0 +1,380 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ import os
2
+ import re
3
+ from ctypes import Array
4
+ from dataclasses import dataclass
5
+ from typing import List
6
+ import xml.etree.ElementTree as ET
7
+ import ffmpeg
8
+
9
+ import datasets
10
+ import numpy as np
11
+
12
+ _CITATION = """\
13
+ @misc{11403/eslo/v1,
14
+ title = {ESLO},
15
+ author = {LLL},
16
+ url = {https://hdl.handle.net/11403/eslo/v1},
17
+ note = {{ORTOLANG} ({Open} {Resources} {and} {TOols} {for} {LANGuage}) \textendash www.ortolang.fr},
18
+ copyright = {Licence Creative Commons Attribution - Pas d'Utilisation Commerciale - Partage dans les Mêmes Conditions 4.0 International},
19
+ year = {2023}
20
+ }
21
+ """
22
+
23
+ _DESCRIPTION = """\
24
+ ESLO dataset, each utterance are taken out individually
25
+ """
26
+ SAMPLING_RATE = 16000
27
+ AUDIO_FOLDER = "audio"
28
+ AUDIO_FILES = ['ESLO2_ITI_1073.mp4', 'ESLO1_ENT_117.mp4', 'ESLO1_ENT_103.mp4', 'ESLO2_ITI_1098.mp4',
29
+ 'ESLO1_ENTCONT_237.mp4', 'ESLO1_ENTCONT_223.mp4', 'ESLO2_RUMEUR_1339.mp4', 'ESLO2_INTPERS_1245.mp4',
30
+ 'ESLO1_TEL_364.mp4', 'ESLO2_ITI_1107.mp4', 'ESLO1_CONF_503.mp4', 'ESLO1_MAG_631.mp4',
31
+ 'ESLO1_MAG_625.mp4', 'ESLO1_TEL_370.mp4', 'ESLO2_ITI_1113.mp4', 'ESLO1_ENT_063.mp4',
32
+ 'ESLO2_LIVRENF_1317.mp4', 'ESLO2_LIVRENF_1303.mp4', 'ESLO1_ENT_077.mp4', 'ESLO2_ENT_1022.mp4',
33
+ 'ESLO2_ENT_1036.mp4', 'ESLO1_INTPERS_406.mp4', 'ESLO1_ENT_088.mp4', 'ESLO1_ENT_089.mp4',
34
+ 'ESLO1_INTPERS_407.mp4', 'ESLO2_ENT_1037.mp4', 'ESLO2_ENT_1023.mp4', 'ESLO2_LIVRENF_1302.mp4',
35
+ 'ESLO1_ENT_076.mp4', 'ESLO1_ENT_062.mp4', 'ESLO2_LIVRENF_1316.mp4', 'ESLO2_ITI_1112.mp4',
36
+ 'ESLO1_TEL_371.mp4', 'ESLO1_MAG_630.mp4', 'ESLO1_CONF_502.mp4', 'ESLO2_ITI_1106.mp4',
37
+ 'ESLO1_TEL_365.mp4', 'ESLO2_RUMEUR_1338.mp4', 'ESLO1_ENTCONT_236.mp4', 'ESLO1_VISIT_601.mp4',
38
+ 'ESLO1_REU_542.mp4', 'ESLO2_ITI_1099.mp4', 'ESLO1_ENT_102.mp4', 'ESLO1_ENT_116.mp4',
39
+ 'ESLO2_ITI_1072.mp4', 'ESLO1_ENT_128.mp4', 'ESLO1_ENT_100.mp4', 'ESLO1_ENT_114.mp4', 'ESLO1_REU_554.mp4',
40
+ 'ESLO1_ENTCONT_208.mp4', 'ESLO1_VISIT_603.mp4', 'ESLO1_ENT_048.mp4', 'ESLO1_MAG_626.mp4',
41
+ 'ESLO1_TEL_373.mp4', 'ESLO2_ITI_1110.mp4', 'ESLO2_LIVRENF_1328.mp4', 'ESLO1_TEL_367.mp4',
42
+ 'ESLO2_ITI_1104.mp4', 'ESLO2_LIVRENF_1314.mp4', 'ESLO1_ENT_060.mp4', 'ESLO2_ITI_1138.mp4',
43
+ 'ESLO2_ENT_1035.mp4', 'ESLO2_ENT_1021.mp4', 'ESLO1_INTPERS_439.mp4', 'ESLO2_ENT_1009.mp4',
44
+ 'ESLO2_ENT_1008.mp4', 'ESLO1_INTPERS_438.mp4', 'ESLO2_ENT_1020.mp4', 'ESLO2_ENT_1034.mp4',
45
+ 'ESLO2_LIVRENF_1315.mp4', 'ESLO2_ITI_1139.mp4', 'ESLO1_ENT_061.mp4', 'ESLO1_ENT_075.mp4',
46
+ 'ESLO2_ITI_1105.mp4', 'ESLO1_TEL_366.mp4', 'ESLO2_ITI_1111.mp4', 'ESLO1_MAG_627.mp4',
47
+ 'ESLO1_ENTCONT_235.mp4', 'ESLO1_VISIT_602.mp4', 'ESLO1_ENT_115.mp4', 'ESLO1_ENT_101.mp4',
48
+ 'ESLO1_ENT_129.mp4', 'ESLO1_ENT_105.mp4', 'ESLO1_ENT_111.mp4', 'ESLO1_ENT_139.mp4',
49
+ 'ESLO1_ENTCONT_225.mp4', 'ESLO1_ENTCONT_219.mp4', 'ESLO1_REU_551.mp4', 'ESLO2_ENTJEUN_1228.mp4',
50
+ 'ESLO2_LIVRENF_1305.mp4', 'ESLO2_ITI_1129.mp4', 'ESLO1_ENT_071.mp4', 'ESLO1_ENT_065.mp4',
51
+ 'ESLO2_LIVRENF_1311.mp4', 'ESLO2_ITI_1115.mp4', 'ESLO1_TEL_362.mp4', 'ESLO2_ITI_1101.mp4',
52
+ 'ESLO1_ENT_059.mp4', 'ESLO1_CONF_505.mp4', 'ESLO2_ENT_1018.mp4', 'ESLO2_ENT_1030.mp4',
53
+ 'ESLO1_INTPERS_414.mp4', 'ESLO2_ENT_1024.mp4', 'ESLO2_ENT_1025.mp4', 'ESLO1_INTPERS_415.mp4',
54
+ 'ESLO1_INTPERS_401.mp4', 'ESLO2_ENT_1031.mp4', 'ESLO1_INTPERS_429.mp4', 'ESLO2_ENT_1019.mp4',
55
+ 'ESLO1_CONF_504.mp4', 'ESLO1_ENT_058.mp4', 'ESLO2_ITI_1100.mp4', 'ESLO2_ITI_1114.mp4',
56
+ 'ESLO1_ENT_064.mp4', 'ESLO2_LIVRENF_1310.mp4', 'ESLO2_LIVRENF_1304.mp4', 'ESLO1_ENT_070.mp4',
57
+ 'ESLO2_ITI_1128.mp4', 'ESLO2_ENTJEUN_1229.mp4', 'ESLO1_ENTCONT_218.mp4', 'ESLO1_ENTCONT_230.mp4',
58
+ 'ESLO1_ENTCONT_224.mp4', 'ESLO1_ENT_138.mp4', 'ESLO1_ENT_110.mp4', 'ESLO1_ENT_104.mp4',
59
+ 'ESLO1_ENT_112.mp4', 'ESLO1_ENT_106.mp4', 'ESLO2_ITI_1089.mp4', 'ESLO1_ENTCONT_226.mp4',
60
+ 'ESLO2_DISC_1239.mp4', 'ESLO2_LIVRENF_1312.mp4', 'ESLO1_ENT_066.mp4', 'ESLO1_TEL_349.mp4',
61
+ 'ESLO1_ENT_072.mp4', 'ESLO2_LIVRENF_1306.mp4', 'ESLO1_TEL_361.mp4', 'ESLO2_ITI_1102.mp4',
62
+ 'ESLO1_MAG_634.mp4', 'ESLO2_ITI_1116.mp4', 'ESLO1_INTPERS_417.mp4', 'ESLO1_ENT_099.mp4',
63
+ 'ESLO2_ENT_1027.mp4', 'ESLO2_ENT_1033.mp4', 'ESLO1_INTPERS_403.mp4', 'ESLO1_INTPERS_402.mp4',
64
+ 'ESLO2_ENT_1032.mp4', 'ESLO2_ENT_1026.mp4', 'ESLO1_ENT_098.mp4', 'ESLO1_INTPERS_416.mp4',
65
+ 'ESLO2_ITI_1117.mp4', 'ESLO2_ITI_1103.mp4', 'ESLO1_TEL_360.mp4', 'ESLO1_ENT_073.mp4',
66
+ 'ESLO1_TEL_348.mp4', 'ESLO2_LIVRENF_1307.mp4', 'ESLO2_LIVRENF_1313.mp4', 'ESLO1_ENT_067.mp4',
67
+ 'ESLO2_DISC_1238.mp4', 'ESLO2_ITI_1088.mp4', 'ESLO1_ENT_107.mp4', 'ESLO1_ENT_113.mp4',
68
+ 'ESLO1_ENT_148.mp4', 'ESLO1_ENT_160.mp4', 'ESLO2_ECOLE_1290.mp4', 'ESLO2_ECOLE_1284.mp4',
69
+ 'ESLO1_REU_520.mp4', 'ESLO2_CINE_1207.mp4', 'ESLO2_CINE_1213.mp4', 'ESLO1_CONSCMPP_717.mp4',
70
+ 'ESLO1_CONSCMPP_703.mp4', 'ESLO1_TEL_307.mp4', 'ESLO2_ENT_1082.mp4', 'ESLO2_ITI_1164.mp4',
71
+ 'ESLO2_ITI_1170.mp4', 'ESLO1_ENT_028.mp4', 'ESLO2_REPAS_1260.mp4', 'ESLO2_ITI_1158.mp4',
72
+ 'ESLO1_ENT_014.mp4', 'ESLO2_ENT_1041.mp4', 'ESLO2_ENT_1055.mp4', 'ESLO1_ENTCLO_259.mp4',
73
+ 'ESLO2_ENT_1069.mp4', 'ESLO2_ENT_1068.mp4', 'ESLO2_ENT_1054.mp4', 'ESLO1_ENTCLO_264.mp4',
74
+ 'ESLO2_ENT_1040.mp4', 'ESLO1_ENT_015.mp4', 'ESLO1_ENT_001.mp4', 'ESLO2_ITI_1159.mp4',
75
+ 'ESLO2_REPAS_1261.mp4', 'ESLO1_ENT_029.mp4', 'ESLO2_ITI_1171.mp4', 'ESLO1_TEL_312.mp4',
76
+ 'ESLO2_ITI_1165.mp4', 'ESLO2_ENT_1083.mp4', 'ESLO1_CONSCMPP_702.mp4', 'ESLO1_CONSCMPP_716.mp4',
77
+ 'ESLO2_CINE_1212.mp4', 'ESLO2_CINE_1206.mp4', 'ESLO2_ECOLE_1285.mp4', 'ESLO1_ENTOUV_257.mp4',
78
+ 'ESLO2_ECOLE_1291.mp4', 'ESLO1_ENT_161.mp4', 'ESLO2_CONF_1074.mp4', 'ESLO2_ECOLE_1252.mp4',
79
+ 'ESLO1_ENT_149.mp4', 'ESLO2_CINE_1199.mp4', 'ESLO1_REPAS_278.mp4', 'ESLO1_ENT_163.mp4',
80
+ 'ESLO2_ECOLE_1278.mp4', 'ESLO2_ECOLE_1287.mp4', 'ESLO2_ECOLE_1293.mp4', 'ESLO2_CINE_1210.mp4',
81
+ 'ESLO1_CONSCMPP_728.mp4', 'ESLO2_CINE_1204.mp4', 'ESLO2_ITI_1173.mp4', 'ESLO1_MAG_645.mp4',
82
+ 'ESLO2_ENT_1081.mp4', 'ESLO2_ITI_1167.mp4', 'ESLO1_ENT_017.mp4', 'ESLO1_TEL_338.mp4',
83
+ 'ESLO2_REPAS_1263.mp4', 'ESLO1_ENT_003.mp4', 'ESLO2_ENT_1056.mp4', 'ESLO2_ENT_1042.mp4',
84
+ 'ESLO2_ENT_1043.mp4', 'ESLO2_ENT_1057.mp4', 'ESLO1_ENT_002.mp4', 'ESLO2_REPAS_1262.mp4',
85
+ 'ESLO2_ITI_1166.mp4', 'ESLO2_ENT_1080.mp4', 'ESLO1_MAG_650.mp4', 'ESLO2_ITI_1172.mp4',
86
+ 'ESLO1_CONSCMPP_701.mp4', 'ESLO2_CINE_1205.mp4', 'ESLO2_CINE_1211.mp4', 'ESLO2_ECOLE_1292.mp4',
87
+ 'ESLO1_ENTOUV_254.mp4', 'ESLO2_ECOLE_1286.mp4', 'ESLO2_ECOLE_1279.mp4', 'ESLO1_REPAS_279.mp4',
88
+ 'ESLO2_CINE_1198.mp4', 'ESLO1_ENT_166.mp4', 'ESLO2_CINE_1188.mp4', 'ESLO1_ENT_172.mp4',
89
+ 'ESLO2_ECOLE_1282.mp4', 'ESLO2_ECOLE_1296.mp4', 'ESLO2_CINE_1177.mp4', 'ESLO1_CONSCMPP_705.mp4',
90
+ 'ESLO1_CONSCMPP_711.mp4', 'ESLO2_CINE_1215.mp4', 'ESLO2_CINE_1201.mp4', 'ESLO1_ENT_012.mp4',
91
+ 'ESLO2_REPAS_1266.mp4', 'ESLO1_ENT_006.mp4', 'ESLO1_TEL_301.mp4', 'ESLO2_ITI_1162.mp4',
92
+ 'ESLO2_ENT_1084.mp4', 'ESLO1_INTPERS_463.mp4', 'ESLO2_ENT_1053.mp4', 'ESLO2_ENT_1047.mp4',
93
+ 'ESLO2_ENT_1046.mp4', 'ESLO2_ENT_1052.mp4', 'ESLO1_INTPERS_462.mp4', 'ESLO2_ENT_1085.mp4',
94
+ 'ESLO2_ITI_1163.mp4', 'ESLO1_ENT_007.mp4', 'ESLO2_REPAS_1267.mp4', 'ESLO1_ENT_013.mp4',
95
+ 'ESLO2_CINE_1200.mp4', 'ESLO2_CINE_1214.mp4', 'ESLO1_CONSCMPP_710.mp4', 'ESLO1_CONSCMPP_704.mp4',
96
+ 'ESLO1_REU_296.mp4', 'ESLO2_CINE_1176.mp4', 'ESLO2_ECOLE_1297.mp4', 'ESLO2_ECOLE_1283.mp4',
97
+ 'ESLO1_ENT_173.mp4', 'ESLO2_CINE_1189.mp4', 'ESLO1_ENT_167.mp4', 'ESLO1_ENT_165.mp4',
98
+ 'ESLO1_ENT_159.mp4', 'ESLO2_ECOLE_1295.mp4', 'ESLO2_ECOLE_1281.mp4', 'ESLO1_REU_519.mp4',
99
+ 'ESLO1_MAG_290.mp4', 'ESLO1_REU_294.mp4', 'ESLO1_CONSCMPP_712.mp4', 'ESLO2_CINE_1202.mp4',
100
+ 'ESLO2_CINE_1216.mp4', 'ESLO2_REPAS_1265.mp4', 'ESLO1_ENT_005.mp4', 'ESLO1_ENT_011.mp4',
101
+ 'ESLO2_REPAS_1271.mp4', 'ESLO2_ITI_1149.mp4', 'ESLO1_TEL_302.mp4', 'ESLO2_REPAS_1259.mp4',
102
+ 'ESLO2_ITI_1161.mp4', 'ESLO1_TEL_316.mp4', 'ESLO2_ITI_1175.mp4', 'ESLO1_INTPERS_448.mp4',
103
+ 'ESLO2_ENT_1078.mp4', 'ESLO2_ENT_1044.mp4', 'ESLO2_ENT_1050.mp4', 'ESLO2_ENT_1051.mp4',
104
+ 'ESLO1_INTPERS_461.mp4', 'ESLO2_ENT_1045.mp4', 'ESLO2_ENT_1079.mp4', 'ESLO1_INTPERS_449.mp4',
105
+ 'ESLO2_ITI_1174.mp4', 'ESLO1_TEL_317.mp4', 'ESLO2_ITI_1160.mp4', 'ESLO2_REPAS_1258.mp4',
106
+ 'ESLO2_ITI_1148.mp4', 'ESLO2_REPAS_1270.mp4', 'ESLO1_ENT_010.mp4', 'ESLO1_ENT_004.mp4',
107
+ 'ESLO2_REPAS_1264.mp4', 'ESLO2_CINE_1217.mp4', 'ESLO2_CINE_1203.mp4', 'ESLO1_CONSCMPP_707.mp4',
108
+ 'ESLO1_CONSCMPP_713.mp4', 'ESLO2_ECOLE_1280.mp4', 'ESLO2_ECOLE_1294.mp4', 'ESLO1_ENTOUV_252.mp4',
109
+ 'ESLO1_ENT_164.mp4', 'ESLO1_ENT_170.mp4', 'ESLO2_CINE_1193.mp4', 'ESLO1_REPAS_272.mp4',
110
+ 'ESLO1_ENT_169.mp4', 'ESLO2_CINE_1187.mp4', 'ESLO1_ENT_155.mp4', 'ESLO1_ENT_141.mp4',
111
+ 'ESLO1_ENTOUV_263.mp4', 'ESLO2_ECOLE_1299.mp4', 'ESLO2_CINE_1178.mp4', 'ESLO2_CONF_1242.mp4',
112
+ 'ESLO1_CONSCMPP_722.mp4', 'ESLO2_ITI_1145.mp4', 'ESLO1_MAG_673.mp4', 'ESLO1_ENT_009.mp4',
113
+ 'ESLO2_REPAS_1269.mp4', 'ESLO1_TEL_332.mp4', 'ESLO2_ITI_1151.mp4', 'ESLO1_ENT_021.mp4',
114
+ 'ESLO2_REPAS_1255.mp4', 'ESLO1_INTPERS_450.mp4', 'ESLO2_ENT_1060.mp4', 'ESLO2_ENT_1048.mp4',
115
+ 'ESLO2_ENT_1049.mp4', 'ESLO1_INTPERS_445.mp4', 'ESLO2_ENT_1075.mp4', 'ESLO2_ENT_1061.mp4',
116
+ 'ESLO1_INTPERS_451.mp4', 'ESLO2_REPAS_1254.mp4', 'ESLO1_ENT_020.mp4', 'ESLO2_ITI_1150.mp4',
117
+ 'ESLO2_REPAS_1268.mp4', 'ESLO1_ENT_008.mp4', 'ESLO2_ITI_1144.mp4', 'ESLO1_CONSCMPP_723.mp4',
118
+ 'ESLO1_CONSCMPP_737.mp4', 'ESLO2_MEDIA_1248.mp4', 'ESLO2_CONF_1243.mp4', 'ESLO2_CINE_1179.mp4',
119
+ 'ESLO2_ECOLE_1298.mp4', 'ESLO1_ENT_140.mp4', 'ESLO2_CINE_1186.mp4', 'ESLO2_ECOLE_1273.mp4',
120
+ 'ESLO1_REPAS_273.mp4', 'ESLO2_CINE_1192.mp4', 'ESLO2_CINE_1184.mp4', 'ESLO2_CINE_1190.mp4',
121
+ 'ESLO1_ENT_142.mp4', 'ESLO1_ENT_156.mp4', 'ESLO1_ENTOUV_260.mp4', 'ESLO2_CONF_1241.mp4',
122
+ 'ESLO2_ENT_1329.mp4', 'ESLO1_CONSCMPP_709.mp4', 'ESLO1_CONSCMPP_721.mp4', 'ESLO1_CONSCMPP_735.mp4',
123
+ 'ESLO2_CINE_1219.mp4', 'ESLO2_ITI_1152.mp4', 'ESLO2_ITI_1146.mp4', 'ESLO2_REPAS_1256.mp4',
124
+ 'ESLO1_ENT_022.mp4', 'ESLO1_TEL_319.mp4', 'ESLO1_ENTCLO_253.mp4', 'ESLO2_ENT_1077.mp4',
125
+ 'ESLO1_INTPERS_447.mp4', 'ESLO1_INTPERS_453.mp4', 'ESLO2_ENT_1063.mp4', 'ESLO2_ENT_1062.mp4',
126
+ 'ESLO1_INTPERS_452.mp4', 'ESLO1_INTPERS_446.mp4', 'ESLO2_ENT_1076.mp4', 'ESLO1_TEL_318.mp4',
127
+ 'ESLO1_ENT_023.mp4', 'ESLO2_REPAS_1257.mp4', 'ESLO2_ITI_1147.mp4', 'ESLO2_ITI_1153.mp4',
128
+ 'ESLO1_CONSCMPP_734.mp4', 'ESLO2_CINE_1218.mp4', 'ESLO1_CONSCMPP_720.mp4', 'ESLO1_CONSCMPP_708.mp4',
129
+ 'ESLO2_CONF_1240.mp4', 'ESLO1_REU_517.mp4', 'ESLO1_ENT_143.mp4', 'ESLO1_REPAS_270.mp4',
130
+ 'ESLO2_CINE_1191.mp4', 'ESLO2_CINE_1185.mp4', 'ESLO1_ENT_147.mp4', 'ESLO1_ENT_153.mp4',
131
+ 'ESLO2_CINE_1181.mp4', 'ESLO1_REPAS_274.mp4', 'ESLO2_CINE_1195.mp4', 'ESLO2_ECOLE_1274.mp4',
132
+ 'ESLO1_REU_513.mp4', 'ESLO2_CONF_1244.mp4', 'ESLO1_CONSCMPP_724.mp4', 'ESLO2_CINE_1208.mp4',
133
+ 'ESLO1_CONSCMPP_730.mp4', 'ESLO1_CONSCMPP_718.mp4', 'ESLO2_CINE_1220.mp4', 'ESLO2_REPAS_1253.mp4',
134
+ 'ESLO1_TEL_308.mp4', 'ESLO1_ENT_027.mp4', 'ESLO2_REPAS_1247.mp4', 'ESLO1_TEL_334.mp4',
135
+ 'ESLO2_ITI_1157.mp4', 'ESLO2_ITI_1143.mp4', 'ESLO2_ECOLE_1300.mp4', 'ESLO1_ENTCLO_256.mp4',
136
+ 'ESLO2_ENT_1066.mp4', 'ESLO2_ENT_1067.mp4', 'ESLO2_ECOLE_1301.mp4', 'ESLO2_ITI_1142.mp4',
137
+ 'ESLO2_ITI_1156.mp4', 'ESLO1_ENT_026.mp4', 'ESLO1_CONSCMPP_731.mp4', 'ESLO1_CONSCMPP_725.mp4',
138
+ 'ESLO2_CINE_1209.mp4', 'ESLO1_ENTOUV_258.mp4', 'ESLO2_ECOLE_1275.mp4', 'ESLO2_CINE_1194.mp4',
139
+ 'ESLO1_REPAS_275.mp4', 'ESLO2_CINE_1180.mp4', 'ESLO1_ENT_152.mp4', 'ESLO1_ENT_146.mp4',
140
+ 'ESLO1_ENT_150.mp4', 'ESLO2_REPAS_1330.mp4', 'ESLO1_ENT_144.mp4', 'ESLO2_CINE_1196.mp4',
141
+ 'ESLO2_ECOLE_1277.mp4', 'ESLO2_CINE_1182.mp4', 'ESLO2_ECOLE_1288.mp4', 'ESLO1_CONSCMPP_733.mp4',
142
+ 'ESLO1_CONSCMPP_727.mp4', 'ESLO1_ENT_024.mp4', 'ESLO1_DIV_292.mp4', 'ESLO2_ITI_1168.mp4',
143
+ 'ESLO1_ENT_030.mp4', 'ESLO2_ITI_1140.mp4', 'ESLO1_ENT_018.mp4', 'ESLO1_MAG_662.mp4',
144
+ 'ESLO2_ITI_1154.mp4', 'ESLO2_ENT_1059.mp4', 'ESLO2_ENT_1065.mp4', 'ESLO1_ENTCLO_255.mp4',
145
+ 'ESLO2_ENT_1071.mp4', 'ESLO1_INTPERS_441.mp4', 'ESLO1_INTPERS_440.mp4', 'ESLO2_ENT_1070.mp4',
146
+ 'ESLO2_ENT_1064.mp4', 'ESLO2_ENT_1058.mp4', 'ESLO2_ITI_1155.mp4', 'ESLO1_TEL_336.mp4',
147
+ 'ESLO1_ENT_019.mp4', 'ESLO2_ITI_1141.mp4', 'ESLO2_ITI_1169.mp4', 'ESLO1_ENT_025.mp4',
148
+ 'ESLO2_ENT_1272.mp4', 'ESLO1_CONSCMPP_726.mp4', 'ESLO1_CONSCMPP_732.mp4', 'ESLO2_24H_1249.mp4',
149
+ 'ESLO2_ECOLE_1289.mp4', 'ESLO2_CINE_1183.mp4', 'ESLO2_ECOLE_1276.mp4', 'ESLO2_CINE_1197.mp4',
150
+ 'ESLO1_ENT_145.mp4', 'ESLO1_ENT_151.mp4', 'ESLO1_ENT_136.mp4', 'ESLO1_ENT_122.mp4', 'ESLO2_ITI_1091.mp4',
151
+ 'ESLO2_BOUL_1332.mp4', 'ESLO2_DIA_1226.mp4', 'ESLO1_ENTCONT_216.mp4', 'ESLO1_ENTCONT_202.mp4',
152
+ 'ESLO2_ENTJEUN_1233.mp4', 'ESLO1_CONSCMPP_741.mp4', 'ESLO1_TEL_345.mp4', 'ESLO2_ITI_1126.mp4',
153
+ 'ESLO1_TEL_351.mp4', 'ESLO2_ITI_1132.mp4', 'ESLO1_ENT_042.mp4', 'ESLO2_LIVRENF_1322.mp4',
154
+ 'ESLO1_ENT_056.mp4', 'ESLO2_ENT_1003.mp4', 'ESLO1_INTPERS_427.mp4', 'ESLO2_ENT_1017.mp4',
155
+ 'ESLO1_ENT_081.mp4', 'ESLO1_ENT_095.mp4', 'ESLO1_ENT_094.mp4', 'ESLO1_ENT_080.mp4', 'ESLO2_ENT_1016.mp4',
156
+ 'ESLO1_INTPERS_426.mp4', 'ESLO2_ENT_1002.mp4', 'ESLO2_LIVRENF_1323.mp4', 'ESLO1_ENT_057.mp4',
157
+ 'ESLO1_ENT_043.mp4', 'ESLO2_ITI_1133.mp4', 'ESLO1_TEL_350.mp4', 'ESLO2_ITI_1127.mp4',
158
+ 'ESLO1_CONSCMPP_740.mp4', 'ESLO2_ENTJEUN_1232.mp4', 'ESLO1_ENTCONT_203.mp4', 'ESLO1_ENTCONT_217.mp4',
159
+ 'ESLO2_DIA_1227.mp4', 'ESLO2_ITI_1090.mp4', 'ESLO1_ENT_123.mp4', 'ESLO1_ENT_137.mp4',
160
+ 'ESLO1_ENT_109.mp4', 'ESLO1_ENT_121.mp4', 'ESLO1_ENT_135.mp4', 'ESLO2_ITI_1086.mp4',
161
+ 'ESLO2_ITI_1092.mp4', 'ESLO2_DIA_1225.mp4', 'ESLO1_ENTCONT_229.mp4', 'ESLO1_ENTCONT_201.mp4',
162
+ 'ESLO1_ENTCONT_215.mp4', 'ESLO2_ENTJEUN_1230.mp4', 'ESLO1_CONSCMPP_742.mp4', 'ESLO1_TEL_352.mp4',
163
+ 'ESLO2_ITI_1131.mp4', 'ESLO1_ENT_069.mp4', 'ESLO2_LIVRENF_1309.mp4', 'ESLO1_TEL_346.mp4',
164
+ 'ESLO2_ITI_1125.mp4', 'ESLO1_ENT_055.mp4', 'ESLO2_LIVRENF_1321.mp4', 'ESLO2_ITI_1119.mp4',
165
+ 'ESLO1_ENT_041.mp4', 'ESLO1_INTPERS_424.mp4', 'ESLO2_ENT_1014.mp4', 'ESLO1_INTPERS_430.mp4',
166
+ 'ESLO2_ENT_1028.mp4', 'ESLO1_INTPERS_418.mp4', 'ESLO1_ENT_096.mp4', 'ESLO1_ENT_082.mp4',
167
+ 'ESLO1_ENT_083.mp4', 'ESLO1_ENT_097.mp4', 'ESLO1_INTPERS_419.mp4', 'ESLO2_ENT_1029.mp4',
168
+ 'ESLO1_INTPERS_431.mp4', 'ESLO2_ENT_1001.mp4', 'ESLO2_BOUL_1250.mp4', 'ESLO2_ENT_1015.mp4',
169
+ 'ESLO1_INTPERS_425.mp4', 'ESLO2_ITI_1118.mp4', 'ESLO1_ENT_054.mp4', 'ESLO2_LIVRENF_1320.mp4',
170
+ 'ESLO2_LIVRENF_1308.mp4', 'ESLO2_ITI_1124.mp4', 'ESLO1_TEL_347.mp4', 'ESLO1_ENT_068.mp4',
171
+ 'ESLO2_ITI_1130.mp4', 'ESLO1_TEL_353.mp4', 'ESLO1_CONSCMPP_743.mp4', 'ESLO2_DISC_1237.mp4',
172
+ 'ESLO2_ENTJEUN_1231.mp4', 'ESLO1_MAR_612.mp4', 'ESLO1_ENTCONT_214.mp4', 'ESLO1_ENTCONT_228.mp4',
173
+ 'ESLO2_DIA_1224.mp4', 'ESLO2_ITI_1093.mp4', 'ESLO2_ITI_1087.mp4', 'ESLO1_ENT_120.mp4',
174
+ 'ESLO1_ENT_108.mp4', 'ESLO1_ENT_124.mp4', 'ESLO1_ENT_130.mp4', 'ESLO1_ENT_118.mp4', 'ESLO2_ITI_1097.mp4',
175
+ 'ESLO1_ENTCONT_204.mp4', 'ESLO1_ENTCONT_238.mp4', 'ESLO2_ENTJEUN_1235.mp4', 'ESLO2_RUMEUR_1336.mp4',
176
+ 'ESLO2_LIVRENF_1324.mp4', 'ESLO1_ENT_050.mp4', 'ESLO2_ITI_1108.mp4', 'ESLO1_ENT_044.mp4',
177
+ 'ESLO2_LIVRENF_1318.mp4', 'ESLO2_ITI_1134.mp4', 'ESLO1_ENT_078.mp4', 'ESLO1_TEL_343.mp4',
178
+ 'ESLO2_ITI_1120.mp4', 'ESLO1_ENT_093.mp4', 'ESLO1_INTPERS_409.mp4', 'ESLO1_ENT_087.mp4',
179
+ 'ESLO2_ENT_1039.mp4', 'ESLO1_INTPERS_421.mp4', 'ESLO2_ENT_1011.mp4', 'ESLO2_ENT_1005.mp4',
180
+ 'ESLO1_INTPERS_435.mp4', 'ESLO2_ENT_1004.mp4', 'ESLO2_ENT_1010.mp4', 'ESLO1_INTPERS_420.mp4',
181
+ 'ESLO2_ENT_1038.mp4', 'ESLO1_ENT_086.mp4', 'ESLO1_INTPERS_408.mp4', 'ESLO1_ENT_092.mp4',
182
+ 'ESLO2_ITI_1121.mp4', 'ESLO1_ENT_079.mp4', 'ESLO2_LIVRENF_1319.mp4', 'ESLO2_ITI_1135.mp4',
183
+ 'ESLO1_ENT_045.mp4', 'ESLO2_LIVRENF_1331.mp4', 'ESLO2_LIVRENF_1325.mp4', 'ESLO2_ITI_1109.mp4',
184
+ 'ESLO1_ENT_051.mp4', 'ESLO1_CONSCMPP_752.mp4', 'ESLO2_RUMEUR_1337.mp4', 'ESLO2_ENTJEUN_1234.mp4',
185
+ 'ESLO1_MAR_617.mp4', 'ESLO1_ENTCONT_239.mp4', 'ESLO1_ENTCONT_211.mp4', 'ESLO1_ENTCONT_205.mp4',
186
+ 'ESLO2_ITI_1096.mp4', 'ESLO2_DIA_1221.mp4', 'ESLO1_ENT_119.mp4', 'ESLO1_ENT_131.mp4',
187
+ 'ESLO2_LIVRENF_1251.mp4', 'ESLO1_ENT_125.mp4', 'ESLO1_ENT_133.mp4', 'ESLO1_ENT_127.mp4',
188
+ 'ESLO2_DIA_1223.mp4', 'ESLO2_ITI_1094.mp4', 'ESLO1_ENTCONT_213.mp4', 'ESLO1_ENTCONT_207.mp4',
189
+ 'ESLO2_ENTJEUN_1236.mp4', 'ESLO2_RUMEUR_1335.mp4', 'ESLO1_ENT_047.mp4', 'ESLO1_MAG_629.mp4',
190
+ 'ESLO1_ENT_053.mp4', 'ESLO2_LIVRENF_1327.mp4', 'ESLO2_ITI_1123.mp4', 'ESLO1_TEL_354.mp4',
191
+ 'ESLO2_ITI_1137.mp4', 'ESLO1_ENT_084.mp4', 'ESLO1_ENT_090.mp4', 'ESLO2_ENT_1006.mp4',
192
+ 'ESLO1_INTPERS_436.mp4', 'ESLO1_INTPERS_422.mp4', 'ESLO2_ENT_1012.mp4', 'ESLO2_ENT_1013.mp4',
193
+ 'ESLO1_INTPERS_423.mp4', 'ESLO1_INTPERS_437.mp4', 'ESLO2_ENT_1007.mp4', 'ESLO1_ENT_091.mp4',
194
+ 'ESLO1_ENT_085.mp4', 'ESLO2_ITI_1136.mp4', 'ESLO1_TEL_355.mp4', 'ESLO2_ITI_1122.mp4',
195
+ 'ESLO1_TEL_341.mp4', 'ESLO1_ENT_052.mp4', 'ESLO2_LIVRENF_1326.mp4', 'ESLO1_ENT_046.mp4',
196
+ 'ESLO1_CONSCMPP_751.mp4', 'ESLO2_RUMEUR_1334.mp4', 'ESLO1_ENTCONT_206.mp4', 'ESLO1_ENTCONT_212.mp4',
197
+ 'ESLO2_ITI_1095.mp4', 'ESLO2_DIA_1222.mp4', 'ESLO1_ENT_126.mp4', 'ESLO1_ENT_132.mp4']
198
+
199
+
200
+ @dataclass
201
+ class Utterance:
202
+ speaker: str
203
+ sentence: str
204
+ start_timestamp: float
205
+ end_timestamp: float
206
+ overlap: bool
207
+
208
+
209
+ class ESLOConfig(datasets.BuilderConfig):
210
+ """BuilderConfig for MultilingualLibrispeech."""
211
+
212
+ def __init__(self, name, **kwargs):
213
+ """
214
+ Args:
215
+ name: `string`, name of dataset config (=language)
216
+ **kwargs: keyword arguments forwarded to super.
217
+ """
218
+ super(ESLOConfig, self).__init__(
219
+ version=datasets.Version("2.11.0", ""), name=name, **kwargs
220
+ )
221
+ if "no_overlap" in name:
222
+ self.overlap = False
223
+ else:
224
+ self.overlap = True
225
+ if "no_hesitation" in name:
226
+ self.hesitation = False
227
+ else:
228
+ self.hesitation = True
229
+
230
+
231
+ class MultilingualLibrispeech(datasets.GeneratorBasedBuilder):
232
+ """Multilingual Librispeech dataset."""
233
+
234
+ BUILDER_CONFIGS = [
235
+ ESLOConfig(name="no_overlap_no_hesitation", description="ESLO dataset, removed hesitations from samples"
236
+ " and all samples with overlap"),
237
+ ESLOConfig(name="no_hesitation", description="ESLO dataset, removed hesitations from samples"),
238
+ ESLOConfig(name="no_overlap", description="ESLO dataset, removed all samples with overlap"),
239
+ ESLOConfig(name="raw", description="ESLO dataset"),
240
+ ]
241
+
242
+ DEFAULT_CONFIG_NAME = "no_overlap_no_hesitation"
243
+
244
+ def _info(self):
245
+ return datasets.DatasetInfo(
246
+ description=_DESCRIPTION,
247
+ features=datasets.Features(
248
+ {
249
+ "file": datasets.Value("string"),
250
+ "audio": datasets.features.Audio(sampling_rate=SAMPLING_RATE),
251
+ "sentence": datasets.Value("string"),
252
+ "speaker": datasets.Value("string"),
253
+ "start_timestamp": datasets.Value("float"),
254
+ "end_timestamp": datasets.Value("float"),
255
+ "overlap": datasets.Value("bool"),
256
+ }
257
+ ),
258
+ citation=_CITATION,
259
+ )
260
+
261
+ def _split_generators(self, dl_manager):
262
+
263
+ transcripts = dl_manager.download({
264
+ "train": "transcripts_deduplicated_train.zip",
265
+ "test": "transcripts_deduplicated_test.zip",
266
+ })
267
+ audio_files = dl_manager.download(
268
+ {audio_file: os.path.join(AUDIO_FOLDER, audio_file) for audio_file in AUDIO_FILES})
269
+ splits = [
270
+ datasets.SplitGenerator(
271
+ name=datasets.Split.TRAIN,
272
+ gen_kwargs={
273
+ "transcripts_paths": dl_manager.iter_archive(transcripts["train"]),
274
+ "audio_files": audio_files
275
+ }
276
+ ),
277
+ datasets.SplitGenerator(
278
+ name=datasets.Split.TEST,
279
+ gen_kwargs={
280
+ "transcripts_paths": dl_manager.iter_archive(transcripts["test"]),
281
+ "audio_files": audio_files
282
+ }
283
+ ),
284
+
285
+ ]
286
+
287
+ return splits
288
+
289
+ @staticmethod
290
+ def extract_text(elem):
291
+ text = elem.text or ''
292
+ for child in elem:
293
+ text += MultilingualLibrispeech.extract_text(child)
294
+ if child.tail:
295
+ text += child.tail
296
+ return text
297
+
298
+ def clean_text(self, text: str) -> str:
299
+ def replace_uppercase(match):
300
+ """replaces BRUNO spelling by B R U N O"""
301
+ return ' '.join(match.group(1))
302
+
303
+ text = re.sub(r"\bNPERS\b", "", text)
304
+ text = re.sub('\bOK\b', 'ok', text)
305
+ text = re.sub(r'\b([A-Z]+)\b', replace_uppercase, text)
306
+ if not self.config.hesitation:
307
+ text = re.sub(r"(euh)|(hm)|(\b\w*\-\s)", "", text)
308
+ return re.sub(r" +", " ", text).strip()
309
+
310
+ def load_one(self, file) -> List[Utterance]:
311
+ first_line = file.readline().decode()
312
+ encoding = re.search(r'encoding=["\']([^"]+)["\']', first_line).group(1)
313
+ text_content = file.read().decode(encoding)
314
+ root = ET.fromstring(text_content)
315
+ utts = []
316
+ for turn in root.findall(".//Turn"):
317
+ speaker = turn.get('speaker')
318
+ if not speaker:
319
+ continue
320
+ start_time = float(turn.get('startTime'))
321
+ end_time = float(turn.get('endTime'))
322
+ text = re.sub(r"[\r\n\s]+", " ", MultilingualLibrispeech.extract_text(turn).strip())
323
+ text = self.clean_text(text)
324
+ if text:
325
+ utts.append(Utterance(
326
+ speaker=speaker,
327
+ sentence=text,
328
+ start_timestamp=start_time,
329
+ end_timestamp=end_time,
330
+ overlap=len(speaker.split(" ")) > 1,
331
+ ))
332
+ return utts
333
+
334
+ @staticmethod
335
+ def load_audio(file: str, sr: int = SAMPLING_RATE):
336
+ """
337
+ Open an audio file and read as mono waveform, resampling as necessary
338
+ Parameters
339
+ ----------
340
+ file:The audio file to read
341
+ sr: int
342
+ The sample rate to resample the audio if necessary
343
+ Returns
344
+ -------
345
+ A NumPy array containing the audio waveform, in float32 dtype.
346
+ """
347
+ try:
348
+ # This launches a subprocess to decode audio while down-mixing and resampling as necessary.
349
+ # Requires the ffmpeg CLI and `ffmpeg-python` package to be installed.
350
+ out, _ = (
351
+ ffmpeg.input(file)
352
+ .output('-', format='s16le', acodec='pcm_s16le', ac=1, ar=sr)
353
+ .run(capture_stdout=True, capture_stderr=True)
354
+ )
355
+ except ffmpeg.Error as e:
356
+ raise RuntimeError(f"Failed to load audio: {e.stderr.decode()}") from e
357
+ return np.frombuffer(out, np.int16).flatten().astype(np.float32) / 32768.0
358
+
359
+ @staticmethod
360
+ def _cut_audio(audio: Array, start_timestamp: float, end_timestamp: float):
361
+ return audio[int(round(start_timestamp * SAMPLING_RATE)): int(round(end_timestamp * SAMPLING_RATE)) + 1]
362
+
363
+ def _generate_examples(self, transcripts_paths, audio_files):
364
+ for path, file in transcripts_paths:
365
+ file_name = os.path.splitext(os.path.basename(path))[0][:-2]
366
+ audio_path = f"{file_name}.mp4"
367
+ audio = self.load_audio(audio_files[audio_path])
368
+ for utterance in self.load_one(file):
369
+ if not self.config.overlap and utterance.overlap:
370
+ continue
371
+ yield f"{file_name}_{utterance.start_timestamp}-{utterance.end_timestamp}", {
372
+ "file": file_name,
373
+ "sentence": utterance.sentence,
374
+ "start_timestamp": utterance.start_timestamp,
375
+ "end_timestamp": utterance.end_timestamp,
376
+ "speaker": utterance.speaker,
377
+ "overlap": utterance.overlap,
378
+ "audio": {"path": audio_path,
379
+ "array": self._cut_audio(audio, utterance.start_timestamp, utterance.end_timestamp),
380
+ "sampling_rate": 16000}}