text
stringlengths
1
6.06k
source
stringclasses
375 values
page
int64
0
1.49k
book
stringclasses
375 values
chunk_index
int64
0
0
Reconnaissance de la parole et du locuteur 25 j d ij F I i Fig. 2 – Exemple de graphe dans lequel on veut recherche le chemin de coût minimum entre deux points I et F. 4 Modèles de Markov Discrets La plupart des systèmes modernes de reconnaissance automatique de la parole sont basés sur la théorie des “modèles de Marko...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
34
2 intro_ASR_f
0
afin de pouvoir y introduire de possibles contraintes temporelles concernant les séquences possibles de classes). La topologie (connections possibles entre les états ql) utilisée peut donc aller du graphe entièrement connecté (voir, par exemple, Figure 3) au graphe orienté (par exemple, strictement gauche-droite). 19. ...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
34
2 intro_ASR_f
0
Reconnaissance de la parole et du locuteur 26 Si nous définissons par: – qn l’état particulier de M visité à l’instant n, – qn ll’événement {qn = ql}, signifiant que l’état particulier visité à l’instant n est ql, un modèle de Markov est alors paramétrisé en termes d’un ensemble de probabilités de transition P(qn l|qn−...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
35
2 intro_ASR_f
0
P11 P12 . . . P1L P21 P22 . . . P2L . . . . . . . . . . . . . . . . . . PL1 PL2 . . . PLL <unk> <unk> <unk> <unk> <unk> <unk> <unk> <unk> <unk> contenant éventuellement des 0 pour les connexions manquantes. 3. Une distribution de probabilités des états initiaux: Π = (PI1, . . . ,PIl, . . . ,PIL) où I représente un état...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
35
2 intro_ASR_f
0
Reconnaissance de la parole et du locuteur 27 a c b = = = = = = = = = Fig. 3 – Un exemple de modèle de Markov discret entièrement connecté avec trois classes {a,b,c} et probabilités de transition. être décrit par une des classes de Ω= {a,b,c}, avec la classe “a” correspondant à “pluie ou neige”, la classe “b” correspon...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
36
2 intro_ASR_f
0
Reconnaissance de la parole et du locuteur 28 4.2.2 Problème 2: Distribution de “durée” Etant donné que le modèle est dans un état connu qi à l’instant initial, quelle est la probabilité qu’il reste dans ce même état pour exactement d jours? La séquence d’observations à considérer est alors Q = {q0 i ,q1 i ,q2 i , . . ...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
37
2 intro_ASR_f
0
les prédécesseurs possibles de ql. Cette recurrence peut être calculée pour tout état qldu modèle, et pour tout instant n. Dans notre cas, la solution du problème est donnée par: P(qN j |q0 i ) = αN(j) Comme nous le verrons plus loin, une récurrence similaire, dénommée “récurrence avant” (forward recurrence), est régul...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
37
2 intro_ASR_f
0
Reconnaissance de la parole et du locuteur 29 un autre type de récurrence dans laquelle on définit P n(k) comme étant la probabilité du meilleur chemin pour aller de l’état qi à qk en n observations. Nous avons alors la récurrence suivante: P n+1(l) = max k P n(k)Pkl (42) équivalente à (41) dans laquelle la somme a été...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
38
2 intro_ASR_f
0
ces cas, nous sommes passés d’un modèle de Markov discret à un modèle de Markov caché, et les observations ne sont plus qu’une fonction stochastique des variables qui nous intéressent. Un autre exemple illustrant cette différence [86] consiste à modéliser la séquence d’ob- servations résultant du lancement d’une pièce ...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
38
2 intro_ASR_f
0
Reconnaissance de la parole et du locuteur 30 5 Modèles de Markov Cachés (HMM) 5.1 Définition Dans le cas des modèles de Markov dits “cachés” (HMM, pour “Hidden Markov Models”), et contrairement aux modèles de Markov discrets standards, les observations ne sont plus univoquement liées à une seule classe bien déterminée...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
39
2 intro_ASR_f
0
e (y compris le modèle entièrement connecté). 2. Un ensemble d’observations possibles (qui ne sont maintenant plus directement asso- ciées aux classes et états), parfois appelé “alphabet” A dans le cas d’observations dis- crètes (ou dans le cas d’observations continues qui ont été quantifiées – Section 2.7.4). L’observ...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
39
2 intro_ASR_f
0
Reconnaissance de la parole et du locuteur 31 matrice B = {bk(i)} dans laquelle bk(i) = P(vi|ωk), avec 1 ≤k ≤K et 1 ≤i ≤ I. – Dans le cas continus: Les paramètres de K densités de probabilités p(xn|ωk), typiquement supposées être représentées par: – des multi-gaussiennes, telles que (10), paramétrisées par l’ensemble d...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
40
2 intro_ASR_f
0
X étant donné un modèle M. Bien que discuté plus en détail dans la Section 9, le problème de la reconnaissance consistera donc à trouver le modèle HMM (parmi un ensemble de modèles HMM possibles, correspondant à l’ensemble des phrases possibles) qui est le plus probable d’avoir généré la séquence.
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
40
2 intro_ASR_f
0
Reconnaissance de la parole et du locuteur 32 Ces modèles HMM peuvent toutefois toujours être utilisés pour générer des séquences stochastiques stationnaires par morceaux. Supposons avoir un modèle HMM avec son en- semble de paramètres Θ. Pour générer une séquence temporelle à partir de ce modèle, il suffit de: 1. A pa...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
41
2 intro_ASR_f
0
. Nous savons donc que la séquence d’états minimisant la probabilité d’erreur est celle qui maximise la probabilité a posteriori P(Q|X) = p(X|Q)P(Q) p(X) (43) Etant donné que la séquence d’états est supposée former une chaîne de Markov d’ordre 1, nous avons donc: P(Q) = P(q1, . . . ,qn, . . . ,qN) = N Y n=1 P(qn|qn−1) ...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
41
2 intro_ASR_f
0
Reconnaissance de la parole et du locuteur 33 et en supposant que les observations xn sont des variables aléatoires indépendantes et que leur probabilité d’observation sur un état particulier qn associé à une classe particulière ω(qn) ∈Ωest conditionnellement indépendante des états précédents, nous obtenons: p(X|Q) = N...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
42
2 intro_ASR_f
0
observations ne sont pas indépendantes (c’est-à-dire lorsque les observations de la séquence sont corré- lées). Une solution possible est alors de supposer que la sous-séquence d’observations xn,xn+1, . . . ,xn+m associées à un même état qlest elle-même une séquence markovienne d’ordre 1 dont la densité jointe est alor...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
42
2 intro_ASR_f
0
Reconnaissance de la parole et du locuteur 34 dans laquelle alsont les paramètres (une matrice, si xn est vectoriel) du modèle AR associé à l’état (plus précisément, la classe associée à) qlet el,n sont les exitations successives du modèle AR et sont supposées être des variables aléatoires gaussiennes iid, de moyenne n...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
43
2 intro_ASR_f
0
me s’étend à tous les chemins possibles dans M, conduisant rapidement à un large problème combinatoire. En effet, l’énumération de tous les chemins possibles conduirait à un nombre d’opérations proportionnel à LN, où L est le nombre d’états dans le modèle M. Heureusement, comme déjà brièvement abordé dans la Section 4,...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
43
2 intro_ASR_f
0
Reconnaissance de la parole et du locuteur 35 La distribution de séquences X est supposée être caractérisée par l’ensemble Θ des paramètres HMM, à savoir: la matrice de probabilités de transition A = {P(ql|qk)} de dimension (L × L), et B, les paramètres des probabilités d’emission (par exemple, une matrice {P(vi|ωk)} d...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
44
2 intro_ASR_f
0
ithme itératif EM et peut se résumer comme suit. A par- tir de valeurs de paramètres Θ(t) = {A(t),B(t)} à l’itération t, il sera nécessaire d’estimer (étape E) les probabilités (a posteriori) de transition et d’émission, connaissant toute la séquence d’entraînement X, c’est-à-dire: 1. La probabilité d’être sur l’état q...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
44
2 intro_ASR_f
0
Reconnaissance de la parole et du locuteur 36 où la somme sur n est utilisée pour calculer la probabilité de transition de l’état qk à l’état qlà n’importe quel instant n. Intuitivement, l’équation (54) représente la probabilité jointe moyenne (sur le temps) de deux états successifs divisée par la probabilité moyenne d...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
45
2 intro_ASR_f
0
, les valeurs de paramètres Θ(t+1) des probabilités de transition (54) et d’émission (55 ou 56) sont mises à jour de façon à garantir que p(X|A(t+1),B(t+1)) > p(X|A(t),B(t)). On peut démontrer la convergence de ce processus itératif qui sera alors arrêté lorsqu’une nouvelle itération ne conduit plus à une modification ...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
45
2 intro_ASR_f
0
Reconnaissance de la parole et du locuteur 37 Analyse Acoustique S equence acoustique Classi cation Lo cale mo d eles des sous-unit es lexicales Analyse S eman tique Analyse Syn taxique D eco dage Lexical P arole Phrase reconn ue grammaire dictionnaire en termes de sous-unit es s eman tique Fig. 5 – Schéma-bloc génériq...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
46
2 intro_ASR_f
0
s des caractéristiques de la source ou du pré-traitement. Etant donné que la plupart des méthodes d’analyse acoustiques ont déjà été discutées dans le Chapitre 3, seules les caractéristiques typiques à la reconnaissance de la parole seront brièvement discutées dans la Section 7. 2. Classification locale et décodage lex...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
46
2 intro_ASR_f
0
Reconnaissance de la parole et du locuteur 38 n eu n z i g t au s en d Fig. 6 – Exemple de spectrogramme résultant de l’analyse acoustique. Chaque tranche acoustique de 10 ms résulte d’une analyse spectrale sur une fenêtre de 30 ms sur laquelle on a préalablement appliqué une fenêtre de Hamming. Ces tranches sont envoy...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
47
2 intro_ASR_f
0
taxiques sont appliquées dans une phase ultérieure. – Evaluation des nouvelles hypothèses de mots ou de phrases, éventuellement suivie d’une sélection des hypothèses les plus prometteuses qui seront étendues. Dans ce module, les coûts locaux associés aux sous-unités élémentaires (phonèmes)
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
47
2 intro_ASR_f
0
Reconnaissance de la parole et du locuteur 39 sont donc calculés et intégrés dans des coûts globaux correspondant à des séquences d’unités linguistiques élémentaires (par exemple un mot ou une séquence de mots). Comme discuté par la suite, cette intégration temporelle peut se faire soit par algo- rithme DTW (Section 8)...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
48
2 intro_ASR_f
0
souvent supposé que les paramètres de ces deux modèles sont indépendants (ce qui est certainement faux). L’introduction de contraintes syntaxiques dans les systèmes modernes de reconnais- sance de parole continue sera discutée plus en détail dans la Section 14.3. Les systèmes de reconnaissance de la parole sont actuell...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
48
2 intro_ASR_f
0
Reconnaissance de la parole et du locuteur 40 contexte acoustique. Les mots sont alors représentés sous formes de séquences de phonèmes (contraintes par des règles phonologiques) et les phrases sous formes de séquences de mots (éventuellement contraintes par des règles syntaxiques). Pendant la reconnaissance, ces modèl...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
49
2 intro_ASR_f
0
elles) premières et secondes [33]. Ces paramètres sont souvent appelés coefficients delta et peuvent être estimés selon: 23 ∆xn = 1 P+c k=−c k2 c X k=−c kxn+c où xn représente un paramètre acoustique particulier à l’instant n. A ces vecteurs sont éga- lement souvent ajoutés les paramètres d’énergie absolue (log-énergie...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
49
2 intro_ASR_f
0
Reconnaissance de la parole et du locuteur 41 traite (et probablement perçoit) les sons selon une échelle de fréquence non uniforme. Les paramètres PLP (Perceptual Linear Prediction) [39] sont calculés à partir d’un spectre représentant le contenu fréquentiel du signal suivant l’échelle des Bark (correspondant à l’éche...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
50
2 intro_ASR_f
0
bande de fréquence). Malheureusement, dans la plupart des cas réels, le bruit n’est pas stationnaire et est constitué à la fois de bruit additif et de bruit de convolution. Parmi les autres techniques parfois utilisées pour l’extraction des vecteurs caractéris- tiques, nous pouvons encore citer: – Le modèle auditif – C...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
50
2 intro_ASR_f
0
Reconnaissance de la parole et du locuteur 42 traits et minimiser le taux d’erreur on leur applique parfois une analyse discriminante linéaire. Dans ce cas, il est alors habituel de prendre une petite séquence de plusieurs de ces vecteurs (de façon à capturer le contexte acoustique) dont on réduit ensuite la dimension ...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
51
2 intro_ASR_f
0
prononciations (par exemple, les liaisons en français). Finalement, pendant la reconnaissance (ainsi que souvent pendant l’entraînement), la segmentation phonétique n’est pas connue. Etant donné les erreurs de classification locale, il est souvent préférable de ne pas passer par une étape de segmentation explicite avan...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
51
2 intro_ASR_f
0
Reconnaissance de la parole et du locuteur 43 comme séquence de référence. Cette séquence de référence sera dénotée Y = {y1, . . . ,yj, . . . ,yJ}. Le problème traité dans cette section consiste alors à comparer une séquence d’entrée X à un ensemble de séquences de référence Y k (1 ≤k ≤K), où K représente le nombre de ...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
52
2 intro_ASR_f
0
En principe, cette pondération (appelée “liftering”, en anglais) a pour but d’égaliser la variance des différente composantes [86]. Evidemment, une autre solution consisterait à pondérer chacune des composantes en fonction de la variance de celle-ci calculée sur plusieurs phrases. Suite à cette extraction de caractéris...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
52
2 intro_ASR_f
0
dire que N <unk>= J(k)], le calcul de cette distance devra faire intervenir une normalisation temporelle. Pour pouvoir calculer la distance “globale” (aussi appelée “distorsion”) entre deux sé- quences de vecteurs acoustiques (avec déformation temporelle et fréquencielle), il faut com-
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
52
2 intro_ASR_f
0
Reconnaissance de la parole et du locuteur 44 x N d x N x N x N x x x n x d x d x nd x n x x x x x n Fig. 7 – Exemple de “gabarit” de mot (“template”, en anglais) utilisé comme forme de référence et représenté par une séquence X = {x1,x2, . . . ,xN} de N vecteurs acoustiques (cepstraux) xn = {xn1,xn2, . . . ,xnd}, N ét...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
53
2 intro_ASR_f
0
Reconnaissance de la parole et du locuteur 45 l’axe du temps. Comme illustré à la Figure 8, cette solution consiste simplement à associer plusieurs vecteurs de référence à un seul vecteur d’entrée (ou inversement, selon la séquence la plus longue). Y X x x N x y k J (k ) y k j y k y k Fig. 8 – Déformation temporelle li...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
54
2 intro_ASR_f
0
chaque référence Y k une matrice D de dimension (N × J(k)) (où N et J(k) sont respectivement le nombre de vecteurs dans la séquence de test et de référence). A chaque entrée (n,j) de cette matrice on y associe la distance locale d(xn,yk j ) comme définie par (57). Pour rechercher la meilleure distance D(X,Y k) entre la...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
54
2 intro_ASR_f
0
Reconnaissance de la parole et du locuteur 46 de référence Y k, il suffit alors de recherche le “chemin” dans cette matrice D de façon à minimiser la somme des distances locales rencontrées pour aller d’un point initial [généra- lement (1,1), correspondant au début des deux séquences] à un point final [généralement (N,...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
55
2 intro_ASR_f
0
) j j-1 (c) n-1 n-2 n n-1 n n-1 n Fig. 9 – Exemples de contraintes locales types pour la programmation dynamique: n est l’indice temporel de la fenêtre d’entrée courante, et j l’indice de la fenêtre de référence. Comme illustré à la Figure 10, l’application de la récurrence (60) nous définit le chemin optimal (déformat...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
55
2 intro_ASR_f
0
Reconnaissance de la parole et du locuteur 47 j 1 1 n N Y k X J (k ) Fig. 10 – Comparaison DTW de la séquence d’entrée X et de la séquence de référence Y k. En chaque point (n,j) est associé une distance locale d(n,j) et une distance accumulée D(n,j) = d(n,j)+min {D(n −1,j),D(n,j −1),D(n −1,j −1)} (dans le cas des cont...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
56
2 intro_ASR_f
0
j) t(p(n,j),(n,j))} (61) où t(p(n,j),(n,j)) représente le facteur de pondération de la distance locale associé à la transition de p(n,j) à (n,j). Pour une discussion détaillée des différentes pondérations possibles, nous renvoyons le lecteur à [86].
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
56
2 intro_ASR_f
0
Reconnaissance de la parole et du locuteur 48 recherche zone de y k y k J (k ) X Y k x n x N x Fig. 11 – Un exemple type de contrainte temporelle (contrainte sur la déformation maxi- male) du chemin de DTW. Dans certains cas, cette pénalité de transition (voir modèles HMM) pourra être ad- ditive, auquel cas nous aurons...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
57
2 intro_ASR_f
0
Reconnaissance de la parole et du locuteur 49 comme suit: 1. Calculer les distances locales pour tous les éléments de la 1ère colonne de D (c’est- à-dire les distances entre le 1er vecteur de test et tous les vecteurs de référence). 2. Si la transition verticale est acceptée, calculer les distances accumulées correspon...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
58
2 intro_ASR_f
0
les méthodes discutées dans le Chapitre 4 dans lesquelles la distance entre deux mots est définie en termes de distance globale DTW. 8.2.3 Normalisation En plus des problèmes qui seront discutés par la suite, nous mentionnons ici un pro- blème potentiel de l’approche DTW. En fonction du choix de prédécesseurs possibles...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
58
2 intro_ASR_f
0
Reconnaissance de la parole et du locuteur 50 cepstraux, une solution brièvement mentionnée au début de la Section 8.2 consiste à pon- dérer en fonction de leur indice. D’un point de vue statistique, et en supposant que chaque composante est distribuée selon une gaussienne, on peut également diviser chaque compo- sante...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
59
2 intro_ASR_f
0
lés que des mots enchaînés. Ceci explique la raison pour laquelle la plupart des produits commerciaux d’aujourd’hui (tels que machines à dicter) requiert une légère pause entre chaque mot. Il est donc nécessaire de pouvoir détecter automatiquement le début et la fin de chaque mot. Evidemment, une approche alternative c...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
59
2 intro_ASR_f
0
Reconnaissance de la parole et du locuteur 51 tard, étant donné qu’ils permettent l’extraction automatique des modèles de mots (ou d’unités plus petites) à partir de phrases et de mots qui n’ont pas été explicitement isolés. 8.5 Reconnaissance de mots enchaînés Que ce passe-t-il lorsque nous essayons de passer de la re...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
60
2 intro_ASR_f
0
mots avant d’en faire la reconnaissance. – L’algorithme à construction de niveaux (level building) proposé par Rabiner [86]: Dans ce cas, la reconnaissance se fait en plusieurs passes successives, la K-ième passe trouvant, à partir des résultats de la passe K −1 la meilleure séquence de K mots associée à la phrase. L’a...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
60
2 intro_ASR_f
0
Reconnaissance de la parole et du locuteur 52 d’autres mots, si on dénote par Y k = {yk 1,yk 2, . . . ,yk J(k)}, k = 1, . . . ,K la séquence de vecteurs acoustiques correspondant au k-ième mot de référence, avec J(k) étant la longueur de cette référence, et xn (n = 1, . . . ,N) la séquence de vecteurs acous- tiques con...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
61
2 intro_ASR_f
0
dynamique s’écrivent donc: D(n,j,k) = d(n,j,k) + min p(n,j,k) {D(p(n,j,k))} (63) où D(n,j,k) représente la distance accumulée à l’instant n pour le j-ième vecteur de la k-ième référence. Comme dans le cas de mots isolés, on ajoutera éventuellement à cette récurrence une pénalité (multiplicative ou additive) t(p(n,j,k),...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
61
2 intro_ASR_f
0
Reconnaissance de la parole et du locuteur 53 , k J (k 0 ) ; k 0 j j - j - (a) (b) n - n - n n Fig. 13 – Contraintes locales lors de la DTW pour les mots enchaînés: (a) à l’intérieur d’un mot et (b) à la frontière de deux mots. X J K k 00 k 0 J (K ) J (k 00 ) J (k 0 ) J () x x n x N Fig. 14 – Exemple de chemin DTW dans...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
62
2 intro_ASR_f
0
Reconnaissance de la parole et du locuteur 54 optimal peut alors se retrouver facilement comme suit: 1. T(N) = dernier mot reconnu 2. n = F(T(N)) = instant n où ce mot a commencé 3. Mot précédent = T(n), et on remonte ainsi jusqu’au premier mot prononcé. En ce qui concerne la gestion des distances locales et accumulées...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
63
2 intro_ASR_f
0
e zlle plus proche. Ceci permet donc de gagner beaucoup de place mémoire pour la représentation des références, tout en économisant beaucoup de temps de calcul. En effet, à chaque instant n, le calcul des distances locales se résume au calcul de L distances d(xn,zl) qui seront ensuite placées aux bons endroits dans la ...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
63
2 intro_ASR_f
0
Reconnaissance de la parole et du locuteur 55 segmentation explicite. Les définitions de distances locales peuvent également être adap- tées de façon à tenir compte du type de caractéristiques acoustiques utilisées (par exemple, distance euclidienne ou distance d’Itakura) ou de l’importance relative des différentes com...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
64
2 intro_ASR_f
0
hui l’approche dominante en recon- naissance de la parole. Pour la plupart de ces systèmes de reconnaissance, la parole est supposée avoir été générée selon un ensemble de distributions statistiques. Par définition, une distribution unique ne peut générer qu’un processus stationnaire. Etant donné que la parole est ce- ...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
64
2 intro_ASR_f
0
Reconnaissance de la parole et du locuteur 56 9.2 Approche générale Nous commençons par rappeler la loi de Bayes qui est à la base des système de recon- naissance HMM: P(Mj|X) = p(X|Mj)P(Mj) p(X) (64) où, dans notre cas, la classe Mj est le j-ième modèle statistique de phrase, avec 0 ≤j ≤J, et X est la séquence de vect...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
65
2 intro_ASR_f
0
|Θ) p(X|Θ) (67) Dans le cas de la reconnaissance de la parole, P(Mj|Θ) dans (67) représente la probabi- lité à priori du modèle M, et reprend donc la contribution du modèle de langage. En effet, il est généralement possible de prédire la probabilité d’une séquence de mots sans observa- tions acoustiques. Dans le cas le...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
65
2 intro_ASR_f
0
Reconnaissance de la parole et du locuteur 57 un ensemble de paramètres ΘL. Bien que cette hypothèse ne soit que partiellement vraie, 28 elle a l’avantage de découpler deux phénomènes complexes. Ceci permet aussi d’entraîner les paramètres ΘL sur des grandes bases de données de texte, sans devoir requérir aux bases de ...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
66
2 intro_ASR_f
0
e 15 shématise donc la règle de décision finale, en supposant l’indépendance des deux ensembles de paramètres. Les prochaines sections vont se limiter à la discussion des modèles acoustiques estimant p(X|Mj,ΘA) 30 pour tous les modèles Mj de phrases possibles. L’estimation du modèle de langage et son intégration avec l...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
66
2 intro_ASR_f
0
Reconnaissance de la parole et du locuteur 58 9.3 Modèle acoustique HMM Selon le formalisme des modèles de Markov cachés (HMM), le signal de parole est supposé être produit par un automate stochastique fini construit à partir d’un ensemble d’états stationnaires {q1, . . . ,ql, . . . qL} régis par des lois statistiques....
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
67
2 intro_ASR_f
0
q k P (q i jq i ) P (q j jq j ) P (q k jq k ) p(x n jq k ) p(x n jq j ) P (q k jq j ) P (q j jq i ) Fig. 16 – Modèle de Markov caché à trois états (qi, qj et qk). Chaque état est caractérisé par une distribution de probabilité (par exemple, p(xn|qj)). Les transitions d’un état à un autre sont caractérisées par une prob...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
67
2 intro_ASR_f
0
Reconnaissance de la parole et du locuteur 59 et les phrases en terme de séquences de mots (en utilisant une syntaxe et, éventuellement, des contraintes sémantiques). Chaque état stationnaire est représenté par les paramètres de fonctions statistiques invariables, par exemple la moyenne et la variance d’une distributio...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
68
2 intro_ASR_f
0
thèses sous-jacentes est donnée dans [14]. Pour une description détaillée d’un système de reconnaissance HMM moderne, voir [58]. 9.4 Paramétrisation et estimation des probabilités Etant donné un modèle M avec ses paramètres acoustiques ΘA (ses états, sa topolo- gie, ses probabilités de transition et les paramètres décr...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
68
2 intro_ASR_f
0
Reconnaissance de la parole et du locuteur 60 9.4.1 Estimation de la vraisemblance “totale” En supposant que les paramètres acoustiques ΘA sont fixes (et en les supposant impli- cites dans toutes les équations), le problème consiste donc à calculer p(X|M) étant donné une séquence d’observation X = {x1,...xN} de longueu...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
69
2 intro_ASR_f
0
factoriser en: p(qn l,X|M) = p(qn l,Xn 1 |M)p(XN n+1|qn l,Xn 1 ,M) (71) où Xn m représente une séquence partielle de vecteurs d’observation {xm,...,xn}. La probabilité p(X|M) s’exprime donc sous forme de la somme du produit de deux probabilités: 1. Probabilité “avant” (“forward probability”): αn(l|M) = p(qn l,Xn 1 |M) ...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
69
2 intro_ASR_f
0
Reconnaissance de la parole et du locuteur 61 où la somme se fait sur l’ensemble des prédécesseurs possibles qk de l’état ql. L’ini- tialisation de cette récurrence est donnée par: α1(l|M) = PIl(M) où {PIl(M)} représente la distribution initiale des états de M. 2. Probabilité “arrière” (“backward probability”): βn(l|M)...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
70
2 intro_ASR_f
0
βn(l|M) = X {F} αN(F|M) = X {I} β0(I|M) où qI et qF représentent respectivement les états initiaux et finaux de M (et pour lesquels les sommes disparaissent dans le cas d’un seul état initial et final). La probabilité conditionnelle p(qn l,xn|qn−1 k ,Xn−1 1 ,M) dans (73) est généralement appe- lée contribution locale o...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
70
2 intro_ASR_f
0
Reconnaissance de la parole et du locuteur 62 Après avoir décomposé cette probabilité comme suit: p(qn l,xn|qn−1 k ,Xn−1 1 ,M) = p(qn l|qn−1 k ,Xn−1 1 ,M)p(xn|qn l,qn−1 k ,Xn−1 1 ,M) (77) on doit généralement poser les hypothèses suivantes: – Les modèles de Markov sont d’ordre 1, c’est-à-dire que, comme dans le cas des...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
71
2 intro_ASR_f
0
modèle M et sont généralement supposées être caractérisées par une distribution gaussienne ou multi-gaussienne (voir Section 10). Pour des mots particu- lièrement difficiles à reconnaître (comme, par exemple, les lettres de l’alphabet ou les articles), il est toutefois possible de définir des densités propres à chaque ...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
71
2 intro_ASR_f
0
Reconnaissance de la parole et du locuteur 63 et la récurrence “avant” (73) s’écrit: αn(l|M) = p(xn|ql) L X k=1 αn−1(k|M)P(ql|qk,M) (82) Cette récurrence nous permet donc de calculer la probabilité de toute une séquence X à partir des probabilités d’émission et de transition locales. 9.4.2 Approximation Viterbi: estima...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
72
2 intro_ASR_f
0
73) devient: p(qn l,Xn 1 |M) = max k p(qn−1 k ,Xn−1 1 |M)p(qn l,xn|qn−1 k ,Xn−1 1 ,M) (83) où p(qn l,Xn 1 |M) représente la probabilité du meilleur chemin partiel allant de l’état initial qI à l’état qlde M, en ayant émis les n premiers vecteurs Xn 1 de la séquence X. Sous les mêmes hypothèses d’indépendance et de prem...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
72
2 intro_ASR_f
0
Reconnaissance de la parole et du locuteur 64 où qF est l’état final de M. En interprétant le logarithme de probabilités locales comme des distances négatives, la récurrence (85) nous définit donc la distance accumulée (globale) en un état particulier qlà l’instant n comme étant la somme de la distance locale (−log p(x...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
73
2 intro_ASR_f
0
une comparaison directe de leurs scores. Etant donné cette dualité entre la récurrence Viterbi et les algorithmes DTW décrits dans la Section 8, il est clair que les algorithmes de programmation dynamique présentés dans la Section 8 peuvent être utilisés pour la reconnaissance HMM de mots isolés et de parole continue, ...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
73
2 intro_ASR_f
0
Reconnaissance de la parole et du locuteur 65 Dans le cas de reconnaissance de mots isolés, les mots sont généralement supposés équi- probables a priori, et il suffit donc de rechercher Mk tel que Mk = argmax Mi P(Mi|X) (87) Dans le cas de parole continue et de l’utilisation de probabilités linguistiques, le score du m...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
74
2 intro_ASR_f
0
l’algorithme DTW), on ne considère que les mots suc- cesseurs permis et on ajoute éventuellement au score global la pénalité de transition donnée par la grammaire. Cette technique d’élagage (beam search) est relativement efficace, avec cependant le risque de perdre la solution optimale. Elle a aussi l’avan- tage de res...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
74
2 intro_ASR_f
0
Reconnaissance de la parole et du locuteur 66 – Etant donné que les différentes entrées dans la pile correspondent à des séquences de longueurs différentes, le choix de la meilleure hypothèse (et aussi l’élagage, étant donné la taille finie de la pile) est réalisé sur base du score partiel auquel on ajoute une estimati...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
75
2 intro_ASR_f
0
séquence d’observations. Etant donné les hypothèses faites, cette intégration se résume à un produit de probabilités d’emission et de probabilités de transition. En supposant ensuite que les paramètres du modèle de langage sont indépendants des paramètres des modèles acoustiques, nous avons montré que l’application de ...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
75
2 intro_ASR_f
0
Reconnaissance de la parole et du locuteur 67 transcription en termes de mots prononcés, parfois même en termes d’unités phonétiques. Malheureusement, on ne connait que rarement (surtout dans le cas de très grandes bases de données d’entraînement) la segmentation phonétique, et encore moins la segmentation sous-phonéti...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
76
2 intro_ASR_f
0
les chemins possibles dans Mj ou seulement le meilleur chemin. De façon générale, et comme pour l’algorithme EM, on part d’un ensemble de paramètres initiaux Θ(0), et les paramètres Θ optimaux sont obtenus itérativement de façon à maximiser (88) à chaque itération t. Dans le cas des modèles HMM, les variables “manquant...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
76
2 intro_ASR_f
0
Reconnaissance de la parole et du locuteur 68 5. Evaluer les nouveaux modèles en fonction d’un certain critère d’arrêt (par exemple, si la vraisemblance n’augmente plus de façon significative, ou si le taux de reconnais- sance sur une base de données indépendante atteint un maximum): si le critère est vérifié, on arrêt...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
77
2 intro_ASR_f
0
obser- vées et cachées (étant donné les paramètres courants). Dans le cas des modèles HMM, les variables cachées sont les séquences d’états, et on peut montrer que la maximisation de J X j=1 log p(Xj|Mj,Θ) (logarithme de la vraisemblance totale) est équivalente à la maximisation (itérative) de la fonction auxilaire Q(Θ...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
77
2 intro_ASR_f
0
Reconnaissance de la parole et du locuteur 69 seul but de simplifier les notations), la fonction auxiliaire (89) peut donc aussi s’écrire: Q(Θ,Θ(t)) = N X n=1 L X k=1 P(qn k|X,M,Θ(t)) log p(xn|qn k,Θ(t)) + N X n=1 L X k=1 L X l=1 P(qn k,qn+1 l |X,M,Θ(t)) log P(qn+1 l |qn k,M,Θ(t)) (90) Cette décomposition fait donc app...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
78
2 intro_ASR_f
0
’est-à- dire les contraintes sur les séquences de classes possibles) imposées par les modèles HMM. Cette estimation requiert l’utilisation de récurrences “avant” et “arrière” qui sont décrites ci- dessous. Cet algorithme, aussi appelé “algorithme de Baum-Welch”, a été décrit par Baum et ses collègues dans une série de ...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
78
2 intro_ASR_f
0
Reconnaissance de la parole et du locuteur 70 donné ses caractéristiques, cet algorithme est souvent appelé entraînement “Avant-Arrière” (“Forward-Backward”) ou encore algorithme de Baum-Welch. Etant donné la valeur des paramètres à l’itération t, commençons par rappeler la ré- currence “avant” (73): αn(l|M,Θ(t)) = p(X...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
79
2 intro_ASR_f
0
qk à l’instant n et sur l’état qlà l’instant n + 1, étant donné l’ensemble de la séquence X et les paramètres courants Θ(t). Cette probabilité est donnée par: ξn(k,l|M,Θ(t)) = P(qn k,qn+1 l |X,M) = p(qn k,qn+1 l ,X|M,Θ(t)) p(X|M) = p(qn k,qn+1 l ,X|M,Θ(t)) PL k=1 PL l=1 p(qn k,qn+1 l ,X|M,Θ(t)) (94) En faisant les hypo...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
79
2 intro_ASR_f
0
Reconnaissance de la parole et du locuteur 71 = P(qn+1 l ,xn+1,XN n+2|qn k,Xn 1 )αn(k) = P(XN n+2|qn+1 l ,qn k,Xn 1 ,xn+1)P(qn+1 l ,xn+1|qn k,Xn 1 )αn(k) ≈ P(XN n+2|qn+1 l ,Xn 1 ,xn+1)P(qn+1 l ,xn+1|qn k,Xn 1 )αn(k) = βn+1(l)P(qn+1 l ,xn+1|qn k,Xn 1 )αn(k) ≈ βn+1(l)P(qn+1 l ,xn+1|qn k)αn(k) = βn+1(l)P(xn+1|qn+1 l ,qn k...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
80
2 intro_ASR_f
0
→ql(sans spécifier l’instant), nous avons: ξ(k,l|M,Θ(t)) = P(qk,ql|X,M,Θ(t)) = N X n=1 ξn(k,l|M,Θ(t)) (97) q k q ` n (k jM ) P (q ` jq k ; M ) p(x n+ jq ` ) n+ (`jM ) Fig. 17 – Illustration de l’utilisation des récurrences “avant” et “arrière” pour le calcul de la distribution a posteriori des transitions. 2. Distribut...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
80
2 intro_ASR_f
0
Reconnaissance de la parole et du locuteur 72 Ces probabilités γn(k|M,Θ(t)) et γ(k|M,Θ(t)) seront utilisées comme facteurs de pon- dération lors de la mise à jour des estimateurs de probabilités d’émission. 10.2.3 Etape de maximisation: Mise à jour des paramètres A partir de ces distributions a posteriori des variables...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
81
2 intro_ASR_f
0
,M) −1 ! On obtient finalement: P (t+1)(ql|qk,M) = E(qk →ql|M) E(qk|M) = ξ(k,l|M) γ(k|M) (102) où E représente l’espérance mathématique. Le calcul de la dérivée seconde nous permettra de vérifier que cette solution correspond bien à un maximum (et non un minimum) de Q. 39. Supposons que nous désirons trouver la valeur ...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
81
2 intro_ASR_f
0
Reconnaissance de la parole et du locuteur 73 2. Probabilités d’émission Dans le cas de distributions discrètes, on commence par quantifier chaque vecteur acoustique xn en le remplaçant par l’étiquette j du prototype yj le plus proche. 40 L’ensemble des probabilités d’émission est alors représenté par une matrice B de ...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
82
2 intro_ASR_f
0
PN n=1 xnP(qn l|X,M,Θ(t)) P ql∈ωk PN n=1 P(qn l|X,M,Θ(t)) = PN n=1 xnγn(k|M,Θ(t)) γ(k|M,Θ(t)) (104) De même pour la matrice de covariance, nous aurons: Σ(t+1) k = PN n=1 γn(k|M,Θ(t))(xn −μ(t) k )(xn −μ(t) k )T γ(k|M,Θ(t)) (105) 10.2.4 Procédure d’entraînement Comme pour l’algorithme EM, l’entraînement Baum-Welch résult...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
82
2 intro_ASR_f
0
Reconnaissance de la parole et du locuteur 74 2. Etape de maximisation: mise à jour des paramètres de façon à maximiser la fonction de vraisemblance. 3. Itération: aussi longtemps que Q continue a augmenter, t = t + 1, et retour à l’étape d’estimation. 10.3 Entraînement Viterbi 10.3.1 Algorithme général Dans le cas de ...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
83
2 intro_ASR_f
0
3.2 Etape d’estimation Etant donné un ensemble de paramètres Θ(t) à l’itération t, comment trouver la meilleure segmentation de chaque séquence de vecteurs acoustiques d’entraînement X de façon à maximiser p(X|M,Θ(t))? En fait, la réponse à cette question a déjà été donnée précédem- ment dans un autre contexte. Nous sa...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
83
2 intro_ASR_f
0
Reconnaissance de la parole et du locuteur 75 : it eration 0 (segmen tation lin eaire) : it eration (nouv elle segmen tation) q q q M j X j Fig. 18 – Illustration de l’algorithme d’entraînement itératif Viterbi. A partir d’une seg- mentation initiale (linéaire ou autre, comme illustrée par les traits pointillés), et po...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
84
2 intro_ASR_f
0
Reconnaissance de la parole et du locuteur 76 les probabilités de transition sont estimées par simple comptage: P (t+1)(ql|qk) = nkl nk (106) où nklreprésente le nombre de transitions de qk à qlet nk le nombre de transitions sortant de qk (le nombre de fois que l’état qk a été visité) tels qu’observés le long du meille...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
85
2 intro_ASR_f
0
terbi selon laquelle on ne prend en compte que le meilleur chemin, la probabilité P(qn l|X) dans (108) est égale à 1 ou 0 et est obtenue par pro- grammation dynamique (donnant la meilleure segmentation), et le dénominateur est égal à Nk = P x∈ωk 1, le nombre total de vecteurs acoustiques associés à la classe ωk. L’es- ...
/home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf
85
2 intro_ASR_f
0