text stringlengths 1 6.06k | source stringclasses 375
values | page int64 0 1.49k | book stringclasses 375
values | chunk_index int64 0 0 |
|---|---|---|---|---|
Reconnaissance de la parole et du locuteur 77 Pour que ce processus itératif converge vers une solution acceptable, il est cependant né- cessaire de l’initialiser avec des valeurs de paramètres pas trop mauvaises ou trop singulières (comme, par exemple, une distribution uniforme des paramètres). Pour l’entraînement Vi-... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 86 | 2 intro_ASR_f | 0 |
différents états HMM. Une phase de quantification vectorielle préa- lable est donc nécessaire pendant laquelle les vecteurs d’entraînement seront regroupés en classes discrètes, par exemple en utilisant la méthode des K-moyennes (K-means). Une autre solution consiste à appliquer une quantification hiérarchique telle qu... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 86 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 78 Finalement, pendant la phase d’entraînement, cet ensemble de prototypes (appelé “co- debook”, en anglais) est alors utilisé pour estimer les probabilités d’émission comme ex- pliqué précédemment. Si nous avons I prototype et K classes HMM, ces probabilités sont stockées dan... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 87 | 2 intro_ASR_f | 0 |
tifs et l’ensemble des données d’entraînement associé à chaque classe ne permet pas d’obtenir un bon estimateur de cette matrice de covariance pleine. Par conséquent, il est maintenant plus courant d’utiliser des gaussiennes plus simples (avec matrice de covariance diagonale) qui seront combinées de façon à approximer ... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 87 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 79 que pour entraîner (sur base de l’algorithme Avant-Arrière ou Viterbi) les différents para- mètres (incluant maintenant aussi les coefficients de mixage cjk). Une autre solution consiste à utiliser des distributions multi-gaussiennes partagées. Dans ce cas, toutes les proba... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 88 | 2 intro_ASR_f | 0 |
anglais) peuvent également être utilisés pour estimer les probabilités d’émission locales des modèles HMM. Cette approche est cependant suf- fisamment différente de ce qui a été fait précédemment (différentes hypothèses, critère d’otpimisation, etc.), ce qui justifie qu’elle sera traitée dans les sections qui suivent. ... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 88 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 80 de catégories phonétiques et de paramètres, et moins il y aura d’exemples pour entraîner ces paramètres. Nous sommes donc face à un compromis entre: 1. Peu de classes, pas très détaillées (et ne modélisant donc pas bien les variations phonétiques) mais bien entraînées. 2. B... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 89 | 2 intro_ASR_f | 0 |
s les limites des hypothèses) qui donne généralement de très bons résul- tats. Initialement proposée dans [44], elle s’inspire directement de certaines méthodes d’apprentissage des modèles HMM (plus particulièrement, l’entraînement “Avant- Arrière”). Plutôt que de choisir l’estimateur à utiliser, ils sont tous utilisés... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 89 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 81 rithme de Viterbi, basé sur la programmation dynamique) et pour l’entraînement au- tomatique (algorithme “Forward-Backward” de Baum-Welch) semi-supervisé (il suffit de connaître la séquence des unités de parole contenues dans les phrases d’entraînement, et il n’est pas néce... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 90 | 2 intro_ASR_f | 0 |
est pas prise en compte lors de la classification lo- cale. En fait, à l’intérieur de chaque état HMM, l’ordre de ces vecteurs n’a aucune importance et différentes séquences des mêmes vecteurs conduiront aux même proba- bilités. Seulement une partie de cette corrélation temporelle est modélisée à travers la topologie d... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 90 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 82 – En entraînant les paramètres des modèles HMM selon un critère ML, plutôt que selon le critère MAP optimal, on réduit fortement les propriétés discriminantes des modèles. En effet, lors de l’entraînement ML, les paramètres de chacun des modèles sont entraînés de façon à ma... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 91 | 2 intro_ASR_f | 0 |
{Mj,Xj} couvre l’ensemble des phrases d’entraînement. Ep(Mj,Xj|Θ) représente l’espérance mathé- matique associée à une fonction de densité p(Mj,Xj|Θ). En considérant une paire particulière {Mj,Xj}, nous avons alors: I(Mj,Xj|Θ) = log p(Mj,Xj|Θ) P(Mj|Θ)p(Xj|Θ) = log p(Xj|Mj,Θ) PI i=1 p(Xj|Mi,Θ)P(Mi|Θ) (112) où la somme a... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 91 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 83 Il est évident que (112) et (113) sont des critères discriminants. Dans [4], on montre qu’il est possible de maximiser ces critères dans le cadre des algorithmes d’entraînement HMM, et plus particulièrement d’une variante de l’algorithme EM (et de l’algorithme “Avant- Arriè... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 92 | 2 intro_ASR_f | 0 |
impossibles ainsi que des phrases licites qui ne font pas nécessairement partie de l’ensemble des phrases rivales. 2. Estimer le dénominateur de (112) en reconnaisant les N meilleures phrases associées à chaque séquence acoustique d’entraînement. Cet ensemble représente donc les N phrases les plus “rivales” et la somme... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 92 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 84 de P(Mj|Xj,Θ) au sous-espace des paramètres Θj présents dans Mj, ce qui a pour consé- quence de réduire le pouvoir discriminant des modèles. La maximisation de (115) par rapport à l’ensemble des paramètres revient à maximiser 1 1 + P i<unk>=j p(Xj|Mi,Θi)P(Mi|ΘL) p(Xj|Mj,Θj)... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 93 | 2 intro_ASR_f | 0 |
’il soit plus facile de traiter l’un ou l’autre critère. Par exemple, comme nous le verrons dans la Section 13, les systèmes hybrides HMM/ANN utilisant conjointement des modèles HMM avec des modèles de réseaux de neurones peuvent estimer directement les probabilités a posteriori P(Mi|Xi,Θ) et optimiser les paramètres Θ... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 93 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 85 incorrect. Donc, si Mc est le modèle correct associé à X et Mr le modèle correspondant à la vraisemblance maximale, nous avons: Si p(X|Mr,Θ) ≥p(X|Mc,Θ) + ∆ Alors Θ =⇒Θ∗ tel que: p(X|Mc,Θ∗) ≥p(X|Mc,Θ) p(X|Mr,Θ∗) ≤p(X|Mr,Θ) Pour plus de détails, nous renvoyons le lecteur à [5... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 94 | 2 intro_ASR_f | 0 |
- pendant, comme cette fonction sera ensuite utilisée dans une mesure discriminante prenant toutes les classes en compte, on peut facilement montrer que le choix du MMI ou de la vraisemblance comme fonction discriminante conduira (du moins en théorie) à la même solution. Après entraînement des paramètres Θ, la reconnai... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 94 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 86 dans laquelle I représente le nombre total de modèles de référence possibles. On peut également voir que si η = 1, (120) est alors équivalent à l’information mutuelle (113) dans laquelle toutes les probabilités a priori ont été supposées égales à 1/I. La mesure d’erreur (12... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 95 | 2 intro_ASR_f | 0 |
”, correspondant aux propriétés conductrices des synapses) des potentiels des neurones qui lui sont connectés passe au-dessus d’un certain seuil. Déjà largement étudiés dans les années 1950-60 [94, 80], ces modèles avaient montré leur potentiel important mais avaient ensuite été abandonnés par manque d’algorithmes d’en... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 95 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 87 12.1 Description générale Le formalisme général des réseaux de neurones artificels (ANN) consiste à connecter un grand nombre de “neurones”, chacun de ceux-ci calculant une somme pondérée de ses entrées avant de passer ce résultat au travers d’une fonction non-linéaire, gén... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 96 | 2 intro_ASR_f | 0 |
ajoute à cette somme un seuil w0. Une fonction non-linéaire F est finalement appliquée au résultat. Cette fonction non-linéaire est généralement une sigmoŃde dont le gain β vaut 1: F(x) = 1 (1 + e−βx) (122) Sur les couches cachées, cette fonction a pour but de générer des combinaisons non-linéaires (moments d’ordre élé... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 96 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 88 Σ Σ Σ Σ Σ x x x d q q k q unit es de sortie unit es cac h ees unit es d'en tr ee Fig. 20 – Architecture type d’un perceptron multi-couches (MLP). Chaque unité (percep- tron) de la couche cachée ou de la couche de sortie réalise l’opération élémentaire repré- sentée à la Fig... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 97 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 89 – dk(xn) la valeur de sortie désirée pour la k-ième sortie du réseaux étant donné xn à l’entrée. Comme l’entraînement des réseaux de neurones considérés ici est générale- ment supervisé, cette sortie désirée est supposée connue. Dans le cas de classification, celle-ci sera ... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 98 | 2 intro_ASR_f | 0 |
înés. Ils ont en outre plusieurs propriétés particulièrement intéressantes, à savoir: – Leur entraînement est basé sur des critères discriminants. – Il a été démontré qu’en théorie ces réseaux de neurones peuvent approximer n’im- porte quelle fonction de régression non linéaire transformant l’espace d’entrée en l’espac... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 98 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 90 – Grâce à leurs propriétés d’interpolation, ces réseaux sont capables de bonnes classi- fications statistiques sur des espaces sous-échantillonnés sans devoir requérir à trop d’hypothèses simplificatrices [79]. – Les hypothèses sous-jacentes sont relativement faibles et il ... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 99 | 2 intro_ASR_f | 0 |
s dans le registre. – Cette approche ne semble pas adaptée à la reconnaissance de parole continue, c’est- à-dire de séquences dans lesquelles se trouvent plus d’une classe de sortie. 12.4.2 Réseaux récurrents La formule idéale de réseau pour la reconnaissance de séquences est sans doute les réseaux récurrents. Dans ce ... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 99 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 91 algorithme ont été proposées et testées sur des tâches difficiles mais limitées à quelques mots ou phonèmes isolés [110]. Pour des séquences plus longues, cette approche devient rapidement impraticable. 12.4.3 Réseaux à rétroaction Une autre façon assez populaire de traiter... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 100 | 2 intro_ASR_f | 0 |
des réseaux de neurones. En ce qui concerne l’entraînement, il y a également le problème de définir les sorties désirées, ce qui est difficile si les données ne sont pas préala- blement segmentées. Même si la segmentation est connue, la valeur à imposer aux sorties pour l’intérieur des segments n’est toujours pas clair... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 100 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 92 Markov. Dans [52, 18], on montre également qu’il est possible de reformuler parfaitement l’algorithme d’entraînement des modèles de Markov (“Forward-Backward”) en terme d’une variante de l’algorithme de rétro-propagation dans le temps appliqué à une forme parti- culière de ... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 101 | 2 intro_ASR_f | 0 |
,x), nous obtenons: E = Z K X i=1 " K X k=1 K X l=1 [gl(x) −dl(x)]2 P(qk|x) # p(qi,x) dx En ajoutant et soustrayant p2(ql|x) à cette équation, nous obtenons: E = Z K X i=1 " K X l=1 3 g2 l(x) −2gl(x)P(ql|x) + P 2(ql|x) ́# p(qi,x) dx + Z K X i=1 " K X l=1 3 P(ql|x) −P 2(ql|x) ́# p(qi,x) dx = Z K X i=1 " K X l=1 (gl(x) −... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 101 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 93 réseau minimisant le premier terme qui n’est rien d’autre que la fonction des moindres car- rés entre les sorties gl(x) et les probabilités a posteriori P(ql|x). La minimisation de (126) conduit donc à des sorties gk(xn) du réseaux estimant les probabilités a posteriori: gk... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 102 | 2 intro_ASR_f | 0 |
pour la classification de son entrée Xn+c n−c = {xn−c, . . . ,xn, . . . ,xn+c} (vecteur acoustique à l’intant n dans son contexte) en classes qk (k = 1, . . . ,K). Par la suite, chacun des états HMM sera associé à une de ces classes. On peut également montrer [89] que cette conclusion reste valable dans le cas de sorti... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 102 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 94 Markov, cumulant ainsi les avantages respectifs des deux approches, à savoir: – Pour les modèles de Markov: bonne modélisation du caractère séquentiel de la parole et algorithmes efficaces pour le reconnaissance et pour l’entraînement (pour lequel on ne doit pas connaître a... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 103 | 2 intro_ASR_f | 0 |
exemple complexes [14], il a été montré que la meilleure solution consistait souvent à prendre un réseau de neurones relativement simple (avec une seule couche cachée) avec un très grand nombre de paramètres, et d’y appliquer un algorithme de validation croi- sée (voir plus loin) lors de l’entraînement pour éviter les ... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 103 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 95 12.5.3 Validation croisée Lors de l’entraînement de réseaux de neurones sur des tâches particulièrement difficiles, telles que la classification phonétique (classification locale) de vecteurs acoustiques, il est souvent nécessaire de devoir requérir à des réseaux dont le no... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 104 | 2 intro_ASR_f | 0 |
posteriori. De nombreuses expériences ont montré qu’un réseau de neurones conduisait souvent à de meilleures ré- sultats de classification que d’autres classificateurs statistiques plus standards tels que les multi-gaussiennes (voir, par exemple, [14] dans le cas de classification locale de vecteurs acoustiques). Une a... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 104 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 96 vecteurs acoustiques), la Figure 22 52 nous montre que les courbes de performances pour l’ensemble d’entraînement et de validation croisée sont effectivement proches de la diago- nale, ce qui caractérise un bon classificateur bayesien. Evidemment, les points au-dessus de la... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 105 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 97 présente alors plusieurs avantages supplémentaires dans le cadre de la reconnaissance de la parole: – Meilleur modèle ne nécessitant pas d’hypothèses sur la forme des distributions (gaus- sienne ou multigaussienne) statistiques associées à chaque état des HMM. En effet, il ... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 106 | 2 intro_ASR_f | 0 |
avantages potentiels mais sont cependant mal adaptés à traiter les signaux séquentiels. Il a également été montré que ces réseaux de neurones (y compris des réseaux récurrents complexes) ne sont pas capables de modéliser les dépendances à long terme, ce que fait par contre très bien un modèle HMM par l’intermédiaire de... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 106 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 98 L’entraînement des ANN étant souvent supervisé, les algorithmes d’entraînement HMM fourniront alors un contexte général pour l’entraînement des ANN en nous fournissant les sorties cibles pour leur entraînement avec simple supervision au niveau global (séquences de mots). Pl... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 107 | 2 intro_ASR_f | 0 |
de l’approximation Viterbi prendra uniquement le chemin de probabilité maximale et les sommes seront remplacées des opérateurs max. Si nous considérons une séquence d’états particulière, la probabilité a posteriori de cette séquence d’états peut alors se décomposer en un produit de contributions acoustiques et de proba... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 107 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 99 deux facteurs de (130) se simplifient en: P(q1 l1, . . . ,qN lN |X) = P(q1 l1|X)P(q2 l2|X,q1 l1) . . . P(qN lN |X,q1 l1, . . . ,qN−1 lN−1) = N Y n=1 P(qn ln|X,Qn−1 1 ) <unk> N Y n=1 P(qn ln|Xn+c n−c,qn−1 ln−1) (131) où Qn−1 1 = {q1,q2, . . . ,qn−1} représente la séquence d’... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 108 | 2 intro_ASR_f | 0 |
contient donc maintenant trois ensembles de probabilités a priori: 1. P(qn l|qn−1 k ) qui représente l’information à priori présente dans l’ensemble d’entraîne- ment. 2. P(qn l|qn−1 k ,M) les probabilités a priori relatives à la topologie du modèle de Markov M. En fait, ces probabilités sont équivalentes aux probabilit... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 108 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 100 Cette équation nous dit donc que les sorties d’un réseau de neurones tel que représenté à la Figure 21 et estimant donc les probabilités P(ql|Xn+c n−c) doivent être divisées par une estimation de la probabilité a priori P(ql) associée à chaque classe ql. En général, cette ... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 109 | 2 intro_ASR_f | 0 |
étant nécessaire pour pouvoir exprimer les récurrences en termes des sorties P(qk|xn) du réseau de neurones. Supposons que l’on dispose d’un estimateur de P(qk), nous pouvons alors calculer les sorties désirées pour l’entraînement du réseau de neurones: P(qn k|X,M) = γn(k|M) = p(qn k,X|M) p(X|M) = αn(k|M)βn(k|M) P lαn(... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 109 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 101 Xn+c n−c = {xn−c, . . . ,xn, . . . ,xn+c}. Dans ce cas, toutes les équations ci-dessus reste valables, simplement en remplacant P(qk|xn) par P(qk|Xn+c n−c) représentant les probabilités a poste- riori alors estimées à la sortie du réseau. Des études empiriques ont montré q... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 110 | 2 intro_ASR_f | 0 |
l’ensemble des paramètres Θ maximisant (134), c’est- à-dire: argmax Θ X l1,...,lN " N Y n=1 P(qn ln|Xn+c n−c,Θ)P(qn ln|M) P(qn ln) # P(M) (140) Selon le même principe que l’entraînement Baum-Welch des modèles HMM discuté dans la Section 10.2, il est toujours possible de définir une fonction auxilaire (voir [15] pour le... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 110 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 102 – Les nouveaux estimateurs des probabilités a priori (138). 3. Etape de maximisation (M): Nouvel entraînement (EBP) du réseau de neurones avec P(qn k|X,M,Θ(t)) (137) comme sorties désirées. On peut montrer que cet entraînement ANN conduit à un nouvel ensemble de paramètres... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 111 | 2 intro_ASR_f | 0 |
k) initiale, ou – Entraîner un réseau à partir d’une segmentation initiale (linéaire ou autre) de la base d’entraînement. A partir de cette segmentation initiale, estimer les pro- babilités a priori initiales P(qk) par simple comptage (approximation Viterbi de l’estimateur (138, c’est-à-dire le nombre de fois que chaqu... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 111 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 103 et indépendant de la classe dans cette étape, ceci nous donne donc une grandeur proportionnelle à la vraisemblance qui peut être utilisée dans un algorithme de pro- grammation dynamique standard, pour générer une nouvelle segmentation en termes de classes qk. 3. Etape de m... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 112 | 2 intro_ASR_f | 0 |
, les réseaux de neurones (MLP ou réseaux ré- currents) sont donc utilisés comme estimateurs de probabilités d’émission locales. Ils per- mettent de calculer la probabilité (a posteriori) que des vecteurs acoustiques appartiennent à différentes classes, chaque classe étant associée à un état stationnaire de l’ensemble ... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 112 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 104 HMM n 0 N ANN K k 1 j q j q i q k P (q ) P (q j ) P (q k ) P (q K ) q k P (q j jx n ) P (q j ) x n (X n+c n<unk>c ) P (q k jx n ) P (q k ) Fig. 23 – Schéma de fonctionnement d’un système hybride HMM/ANN: pour chaque vec- teur xn (dans son contexte) présenté à l’entrée du r... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 113 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 105 13.5 Autres approches ANN Nous mentionnons ici brièvement d’autres approches ANN qui sont également utilisées en reconnaissance de la parole: – Réseaux de neurones prédictifs — Dans ce cas, pour chaque classe qk, un réseau de neurones est entraîné de façon à générer (estim... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 114 | 2 intro_ASR_f | 0 |
54]). – Adaptation — Les réseaux de neurones ont également été testés pour adapter les vecteurs acoustiques au locuteur [43], ou pour tranformer de la parole bruitée en parole claire [102]. – Post-traitement — Dans ce cas, les réseaux de neurones sont entraînés pour re-estimer les vraisemblances des hypothèses de phras... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 114 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 106 et que les mots étaient créés, à partir d’un dictionnaire donnant la transcription phoné- tique des différents mots de vocabulaire, en concaténant les modèles constituant chacun des mots. Cependant, le rôle de la parole est avant tout de communiquer et il est impossible de... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 115 | 2 intro_ASR_f | 0 |
MM) the a dog cat 0.2 0.1 0.3 0.1 Grammar (n−gram) Parser Semantics Fig. 24 – Une architecture typique de système complet de reconnaissance de parole conti- nue. Le premier bloc (signal processing) fait l’analyse acoustique du signal, comme discuté dans la Section 7. Le second bloc (phone likelihood estimator) calcule ... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 115 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 107 le cas d’un système hybride HMM/ANN où les probabilités d’émission sont estimées par un réseau de neurones). Dans les sections précedentes, nous avons donc décrit les trois premiers modules de ce système (traitement du signal, estimation de probabilités locales, décodage b... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 116 | 2 intro_ASR_f | 0 |
est en effet clair que certaines regularités dans la façon de prononcer les mots pourraient être exploitées. Etant donné que la variabilité de prononciation est souvent liée à différents paramètres tels que contexte phonétique, vitesse d’élocution, accent, stress, etc., les chercheurs essaient maintenant d’inclure cert... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 116 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 108 Chacun des états dans ces modèles peut représenter un modèle phonétique HMM éventuel- lement constitué de plusieurs états (associés à des distibutions acoustiques). Ces modèles de mots comprennent des probabilités de transition entre phonèmes qui peuvent être apprises sur ... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 117 | 2 intro_ASR_f | 0 |
es comme représentés dans la Figure 25. 54 4. Mettre à jour les probabilités de transition entre phonèmes en fonction du nombre relatif d’observations de ces transitions sur toute la base d’entraînement. 5. Elaguer les représentations ou les graphes de façon à ne garder que les prononciations les plus probables, et ren... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 117 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 109 P(ax | dh) = .7 END START P(ah | START) = .5 P(v | ah) = .4 ax iy dh v ax ah P(v | acoustics) = .9 ah -ah-v-dh-ax-ax-ax ax-ax-ax-v-dx-iy-iy Fig. 26 – Exemple de chemins d’alignement Viterbi forcé pour la séquence de deux mots courts ayant chacun deux prononciations possibl... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 118 | 2 intro_ASR_f | 0 |
façon robuste la probabilité de séquences de mots. 55 Typiquement, l’entraîne- 55. Même en se limitant à des séquences de trois mots, à partir d’un vocabulaire de 10000 mots, nous aurions un milliard de possibilités et de paramètres! | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 118 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 110 ment de ces probabilités est fait sur base d’un ensemble énorme de documents écrits de différentes natures (et contenant au total plusieurs milliards de mots). Malheureusement, ceci n’est toujours pas suffisant. De plus, les statistiques estimées sur du texte écrit ne cor-... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 119 | 2 intro_ASR_f | 0 |
correspond malheureusement pas fort aux caractéristiques du langage parlé. 58 Comme dans le cas des modèles acoustiques, les questions concernant le modèle de langage, et que nous aborderons dans cette section, sont les suivantes: 1. Entraînement: comment estimer ΘL? 2. Estimation: comment estimer P(M|ΘL)? 3. Décodage:... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 119 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 111 d’incertitude moyen de chaque mot de vocabulaire étant donné le pouvoir de prédiction du modèle de langage. Cette perplexité est définie comme étant 2H, où H est l’entropie moyenne du modèle de langage. 60 Dans le cas le plus simple où chaque mot peut être suivi de n’impor... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 120 | 2 intro_ASR_f | 0 |
. Une généralisation de cette approche consiste à assigner une probabilité à l’ensemble de tous les successeurs possibles pour chaque mot du vocabulaire. Ceci est alors appelé un modèle bigramme. De façon similaire, si les contraintes syntaxiques sont représentées sous forme de probabilités des successeurs possibles de... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 120 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 112 où W0 désigne un état initial non associé à un mot de vocabulaire. Comme décrit dans la Section 4, ceci correspond donc à un modèle de Markov discret ou chaque noeud est associé à un mot de vocabulaire. En supposant que ce modèle est d’ordre N, l’estimateur (144) de P(M) d... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 121 | 2 intro_ASR_f | 0 |
s d’entraînement. Comme pour les estimateurs acoustiques, et afin d’obtenir des estimateurs suffisamment représentifs (qui généraliseront au mieux sur les données de test), il faut également faire appel à des techniques de lissage, souvent très semblables à celles présentées dans la Section 10.5: 1. Méthode de “repli”:... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 121 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 113 à appréhender automatiquement à travers l’entraînement de N-grammes. C’est pourquoi beaucoup d’efforts de recherche en reconnaissance de la parole sont actuellement investis dans le domaine de la modélisation syntaxique et sémantique, surtout appliquée au lan- gage parlé p... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 122 | 2 intro_ASR_f | 0 |
un modèle de Markov d’ordre plus élevé. Comme discuté ci-dessus, ceci né- cessite cependant une révision importante de l’algorithme de recherche et requiert rapidement une mémoire et un temps de calcul prohibitifs. 2. Utiliser une technique de décodage en pile (stack decoding ou “depth-first search”, en anglais); voir ... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 122 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 114 servant à limiter l’espace de recherche. Ces stratégies en passes multiples (intégrant des contraintes de plus en plus complexes) sont notamment discutées dans [99]. 15 Autres Considérations 15.1 Topologies Beaucoup de topologies différentes de modèles HMM ont été testées ... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 123 | 2 intro_ASR_f | 0 |
le même état (donc associé à la même densité de probabilité d’émission) est répété plusieurs fois, sans permettre le saut d’état. Dans ce cas, le nombre de répétitions de l’état est alors souvent proportionnel à la durée moyenne du phonème comme observé à la fin d’un entraînement (Viterbi). 61 qk qk qk Fig. 27 – Illust... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 123 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 115 donnée par un dictionnaire). Ces modèles de base peuvent ensuite éventuellement être amé- liorés, soit en y ajoutant des prononciations alternatives (par exemple, incluant des règles ou des variantes phonologiques connues), soit en estimant ces prononciations alternatives ... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 124 | 2 intro_ASR_f | 0 |
réduire les différences acoustiques consiste à ajuster les paramètres acoustiques du signal de parole de façon à ce que ceux-ci correspondent mieux aux modèles. Ceci peut se faire de faire de façon aveugle ou supervisée. Parmi les ap- proches aveugles, nous mentionnerons ici les approches populaires de soustraction de ... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 124 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 116 gradient en ligne dérivé, de façon à augmenter la vraisemblance des modèles cor- rects. Cependant, étant donné le grand nombre de paramètres de ces modèles et le volume limité de données d’adaptation, il faudra souvent inclure des contraintes supplémentaires. Deux exemples... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 125 | 2 intro_ASR_f | 0 |
mots clés” (“keyword spotting”, en an- glais). Le but est donc de reconnaître des mots à partir d’un vocabulaire assez limité, mais noyés dans des phrases libres non-contraintes. Dans de tels systèmes, nous ne sommes pas intéressés uniquement au taux de reconnaissance, mais aussi au rejet correct des mots qui ne font p... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 125 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 117 2. Une mesure de fiabilité associée soit à l’ensemble de la phrase reconnue soit à chacun des éléments (typiquement les mots) constituant cette phrase. 3. Un critère de rejet basé sur cette mesure de fiabilité. Concernant le premier critère, la modélisation de tous les “so... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 126 | 2 intro_ASR_f | 0 |
comme dans le cas de la reconnaissance de la parole continue, on applique alors un algorithme de décodage (typi- quement Viterbi) pour parole continue avec une grammaire particulière qui nous dit où peuvent se trouver les mots clés. Par exemple, si l’on veut reconnaître un seul mot clé dans chacune des phrases prononcé... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 126 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 118 où Mk représente le modèle du mot testé et la somme au dénominateur porte sur tous les modèles rivaux possibles. En supposant une distribution uniforme des probabilités a priori P(Mk), l’estimation de cette probabilité est souvent remplacée par l’estimation du rapport de v... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 127 | 2 intro_ASR_f | 0 |
les chemins possibles à travers un modèle de Markov contenant tous les modèles de phonèmes entièrement connectés (HMM ergodique). 3. Approximation du dénominateur par la probabilité d’un modèle “poubelle”, ce qui revient a estimer le niveau de fiabilité en comparant la vraisemblance du modèle reconnu à la vraisemblance... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 127 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 119 17 Reconnaissance du Locuteur 17.1 Introduction L’expression vocale contient des caractéristiques propres au locuteur; ainsi est-il gé- néralement possible, dans des conditions normales, de reconnaître son correspondant au cours d’une conversation téléphonique. Les variati... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 128 | 2 intro_ASR_f | 0 |
cartes téléphoniques), le contrôle d’accès à des bases de données (téléphoniques ou bancaires) et bâtiments protégés, commerce électronique, services d’information et de réservations, accès distant à un réseau d’ordinateur, etc. L’identification et la vérification du locuteur nécessitent donc le calcul d’un score reflé... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 128 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 120 ergodiques (entièrement connectés) alors que dans le cas de la reconnaissance dépendante du texte les modèles représenteront les mots ou phrases considérées (et contiennent donc l’information lexicale en plus des caractéristiques spécifiques à la voix du locuteur). Lors de... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 129 | 2 intro_ASR_f | 0 |
le spectre à court-terme et moyen-terme, ainsi que sur l’énergie. La fréquence fondamentale est parfois aussi utilisée si elle peut être mesurée de façon précise [2, 68]. Finalement, afin d’atténuer l’effet des variations du canal de transmission, les tech- niques utilisées en reconnaissance (par exemple, soustraction ... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 129 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 121 possibles. En général, cet ensemble sera très grand et, dans le cas de la vérification du locu- teur, devrait inclure tous les imposteurs possibles, ce qui est bien évidemment impossible. Comme pour la reconnaissance de la parole, les paramètres des différentes densités de... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 130 | 2 intro_ASR_f | 0 |
|X) = P(S1 ou S2 ou . . . ou Si<unk>=c|X) = X i<unk>=c P(Si|X) si les événements Si sont indépendants (ce qui est évidemment le cas) et collectivement exhaustifs (ce qui sera souvent faux), en utilisant (148), et en supposant que tous les locuteurs ont la même probabilité a priori P(S) = P(Si), ∀i, le critère (151) dev... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 130 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 122 où ∆c = log δc. En général, une valeur suffisamment positive de cette différence indiquera que l’identité de Sc est validée, alors qu’elle sera rejectée dans le cas d’une valeur inférieure au seuil de décision. Finalement, la mise en oeuvre d’un système de vérification du ... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 131 | 2 intro_ASR_f | 0 |
imation log p(X|Sc) ≈ max Si ∈R,i <unk>= c log p(X|S) (155) Ces solutions sont malheureusement peu pratiques étant donné que: 1. Dans les deux cas, il est nécessaire de calculer les probabilités conditionnelles par rapport à tous les locuteurs de références, ce qui sera souvent trop coûteux en temps de calcul. 2. Dans ... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 131 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 123 dans laquelle Rc représente la cohorte associée au locuteur Sc. Les résultats expérimen- taux montrent que ce type de normalisation améliore la séparation des locuteurs et réduit l’influence de la valeur absolue du seuil de décision. Plus récemment, et se rapprochant de (1... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 132 | 2 intro_ASR_f | 0 |
brièvement les approches les plus couramment utilisées en vérification du locuteur [35]. 17.4 Vérification du locuteur dépendante du texte En reconnaissance du locuteur dépendante du texte, le système connait par avance le mot (ou phrase) de passe du locuteur. A chaque locuteur est donc associé un modèle qui encode à l... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 132 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 124 Viterbi (meilleur chemin) ou par les récurrences “avant” (somme de tous les chemins possibles). Comme dans le cas de la reconnaissance de la parole, il a été montré que cette approche HMM, plus coûteuse à l’entraînement, conduisait à des performances significativement meil... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 133 | 2 intro_ASR_f | 0 |
ordre 2 ou 3. De plus, la normalisation des distances selon un critère de probabilité a posteriori semble ici essentielle à l’obtention de bons résultats. 2. Méthodes basées sur la quantification vectorielle: dans ce cas, l’idée générale est de représenter les caractéristiques spectrales de chaque locuteur sur base de ... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 133 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 125 ont été testés. 3. Modèles HMM entièrement connectés (ergodiques): Dans ce cas, un modèle HMM entièrement connecté est entraîné pour chaque locuteur. Les états peuvent alors être définis de façon arbitraire et non supervisée 68 ou être associés à des classes bien spéci- fi... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 134 | 2 intro_ASR_f | 0 |
uteur ainsi que sur un grand nombre de locuteurs rivaux de façon à être activé uniquement dans le cas où des exemples propres au locuteur associés sont présentés à l’entrée. 17.6 Vérification du locuteur sur base de texte présenté En général, les systèmes de reconnaissance du locuteur dépendants du texte sont plus robu... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 134 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 126 la fois la validité de la phrase prononcée (par un système dépendant ou indépendant du locuteur) ainsi que l’identité de la personne proclamée. Finalement, dans le cas de faux rejet (ou de doute), l’utilisateur pourra être invité à prononcer une nouvelle phrase. Etant donn... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 135 | 2 intro_ASR_f | 0 |
locuteur est reconnu comme étant celui associé au modèle conduisant au meilleur score. Dans le cas de la vérification, seulement les score correspondant au modèle associé à l’identité proclamée et aux modèles de la cohorte (si une normalisation de type (156) est effectuée) sont calculés. Comme illustré à la Figure 28, ... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 135 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 127 0 0.0005 0.001 0.0015 0.002 0.0025 -2000 -1500 -1000 -500 0 500 1000 1500 2000 2500 train inter train intra test inter test intra threshold Fig. 28 – Exemple d’approximations gaussiennes pour les distributions de p(X|S <unk>= Sc) (les 2 gaussiennes de gauche, correspondant... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 136 | 2 intro_ASR_f | 0 |
section, nous commençons par donner une idée des performances actuelle- ment atteintes en laboratoire par les meilleurs systèmes de reconnaissance sur des tâches de complexité différente. Nous discutons ensuite quelques une des applications les plus typiques. 18.1 Performances types des systèmes de reconnaissance Selon... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 136 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 128 bulaires, perplexités, syntaxes). Problème Tâche Mode Vocabulaire Taux d’erreur Mots Mots DL 10 chiffres 0% Isolés equiprobables 39 alpha-numériques 4.5% 1109 anglais de base 4.3% IL 10 chiffres 0.1% 39 alpha-numériques 7.0% 1218 noms 4.7% Mots Séquences de chiffres DL 10 ... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 137 | 2 intro_ASR_f | 0 |
Subsets and Splits
No community queries yet
The top public SQL queries from the community will appear here once available.