text stringlengths 1 6.06k | source stringclasses 375
values | page int64 0 1.49k | book stringclasses 375
values | chunk_index int64 0 0 |
|---|---|---|---|---|
(c) Giovanni De Micheli 24 Example – minimum area cover o w y z a b c d x N N N I I v v v v Network Subject graph Vertex Match Gate Cost x t2 NAND2(b,c) 3 y t1 INV(a) 2 t3 AND2(y,z) 6 + 4 + 2 = 12 z t2 NAND2(x,d) 3+3 = 6 w t2 NAND2(y,z) 3+6+ 2 = 11 o t1 INV(w) 2+11 = 13 t6B AOI21(x,d,a) 6 + 3 = 9 NArea cost: INV:2 NAND... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/DT15 (lib).pdf | 21 | DT15 (lib) | 0 |
(c) Giovanni De Micheli 25 Example – minimum delay cover N Fixed delays: INV:2 NAND2:4 AND2: 5 AOI21: 10 N All inputs are stable at time 0, except for td = 6 o w y z a b c d x N N N I I v v v v Network Subject graph Vertex Match Gate Cost x t2 NAND2(b,c) 4 y t1 INV(a) 2 t3 AND2(y,z) 10 + 5 = 15 z t2 NAND2(x,d) 6+4 = 10... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/DT15 (lib).pdf | 22 | DT15 (lib) | 0 |
(c) Giovanni De Micheli 26 Minimum-delay cover for load-dependent delays N Model L Gate delay is d = α + β cap_load L Capacitive load depends on the driven cells (fanout cone) L There is a finite (possibly small) set of capacitive loads N Algorithm L Visit subject tree bottom up L Compute an array of solutions for each... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/DT15 (lib).pdf | 23 | DT15 (lib) | 0 |
(c) Giovanni De Micheli 27 Example – minimum delay cover N Delays: INV:1+load NAND2: 3+load AND2: 4+load AOI21: 9+load N All inputs are stable at time 0, except for td = 6 N All loads are 1 o w y z a b c d x N N N I I v v v v Network Subject graph Vertex Match Gate Cost x t2 NAND2(b,c) 4 y t1 INV(a) 2 t3 AND2(y,z) 10 +... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/DT15 (lib).pdf | 24 | DT15 (lib) | 0 |
(c) Giovanni De Micheli 28 Example – minimum delay cover N Delays: INV: 1+load NAND2: 3+load AND2: 4+load AOI21: 9+load N All inputs are stable at time 0, except for td = 6 N All loads are 1 (for cells seen so far) N Add new cell SINV with delay 1 + 1⁄2 load and load 2 N The sub-network drives a load of 5 | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/DT15 (lib).pdf | 25 | DT15 (lib) | 0 |
(c) Giovanni De Micheli 29 Example – minimum delay cover t3 AND2(y,z) 19 o t1 INV(w) 20 o w y z a b c d x N N N I I v v v v Network Subject graph Vertex Match Gate Cost Load=1 Load=2 Load=5 x t2 NAND2(b,c) 4 5 8 y t1 INV(a) 2 3 6 z t2 NAND2(x,d) 10 11 14 w t2 NAND2(y,z) 14 15 18 t6B AOI21(x,d,a) 20 SINV(w) 18.5 | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/DT15 (lib).pdf | 26 | DT15 (lib) | 0 |
(c) Giovanni De Micheli 36 Module 2 NObjectives LBoolean covering LBoolean matching LSimultaneous optimization and binding LExtensions to Boolean methods | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/DT15 (lib).pdf | 27 | DT15 (lib) | 0 |
(c) Giovanni De Micheli 37 Boolean covering NDecompose network into base functions NPartition network into cones NApply bottom-up covering to each cone L When considering vertex v: M Construct clusters by local elimination M Limit the depth of the cluster by limiting the support of the function M Associate several func... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/DT15 (lib).pdf | 28 | DT15 (lib) | 0 |
(c) Giovanni De Micheli 38 Boolean matching P-equivalence NCluster function f(x) LSub-network behavior NPattern function g(y) LCell behavior NP-equivalence LIs there a permutation operator P, such that f(x) = g ( P x) is a tautology? NApproaches: LTautology check over all input permutations LMulti-rooted pattern ROBDD ... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/DT15 (lib).pdf | 29 | DT15 (lib) | 0 |
(c) Giovanni De Micheli 39 Input/output polarity assignment NNPN classification of logic functions NNPN-equivalence LThere exist a permutation operator P and complementation operators Ni and No, such that f(x) = No g ( P Ni x ) is a tautology NVariations: LN-equivalence LPN-equivalence | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/DT15 (lib).pdf | 30 | DT15 (lib) | 0 |
(c) Giovanni De Micheli 40 NPin assignment problem: LMap cluster variables x to pattern variables y LCharacteristic equation: A(x,y) = 1 NPattern function under variable assignment: L gA (x) = Sy ( A (x,y) g (y) ) NTautology problem L f(x) = gA (x) L"x f(x) = Sy ( A (x,y) g (y) ) Boolean matching & x1 x2 f g y1y2 | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/DT15 (lib).pdf | 31 | DT15 (lib) | 0 |
(c) Giovanni De Micheli 41 NCluster terminals: x -- cell terminals: y NAssign x1 to y’2 and x2 to y1 NCharacteristic equation LA (x1,x2,y1,y2) = (x1 Å y2) (x2 y1) NAND pattern function Lg = y1 y2 NPattern function under assignment LSy1y2 A g = Sy1y2 ((x1 Å y2) (x2 y1) y1 y2 ) = x2 x’1 Example x1 x2 f g y1y2 Å Å | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/DT15 (lib).pdf | 32 | DT15 (lib) | 0 |
(c) Giovanni De Micheli 42 Signatures and filters NCapture some properties of Boolean functions NIf signatures do not match, there is no match NSignatures are used as filters to reduce computation NSignatures: LUnateness LSymmetries LCo-factor sizes LSpectra | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/DT15 (lib).pdf | 33 | DT15 (lib) | 0 |
(c) Giovanni De Micheli 43 Filters based on unateness and symmetries NAny pin assignment must associate: LUnate variables in f(x) with unate variables in g(y) LBinate variables in f(x) with binate variables in g(y) NVariables or group of variables: LThat are interchangeable in f(x) must be interchangeable in g(y) | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/DT15 (lib).pdf | 34 | DT15 (lib) | 0 |
(c) Giovanni De Micheli 44 Example N Cluster function: f = abc L Symmetries { { a,b,c} } L Unate N Pattern functions L g1 = a + b + c M Symmetries { { a,b,c} } M Unate L g2 = ab +c M Symmetries { {a,b}, {c} } M Unate L g3 = abc’ + a’b’c M Symmetries { {a,b,c} } M Binate | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/DT15 (lib).pdf | 35 | DT15 (lib) | 0 |
(c) Giovanni De Micheli 45 Concurrent optimization and library binding NMotivation LLogic simplification is usually done prior to binding LLogic simplification and substitution can be combined with binding NMechanism LBinding induces some don’t care conditions LExploit don’t cares as degrees of freedom in matching | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/DT15 (lib).pdf | 36 | DT15 (lib) | 0 |
(c) Giovanni De Micheli 46 Example | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/DT15 (lib).pdf | 37 | DT15 (lib) | 0 |
(c) Giovanni De Micheli 47 Boolean matching with don’t care conditions NGiven f(x), fDC(x) and g(y) Lg matches f, if g is equivalent to h, where: f f’DC ≤ h ≤ f + fDC NMatching condition: "x ( fDC(x) + f(x) Sy ( A (x,y) g(y) ) ) Å | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/DT15 (lib).pdf | 38 | DT15 (lib) | 0 |
(c) Giovanni De Micheli 48 Example NAssume vx is bound to an OR3(c’,b,e) NDon’t care set includes x Å (c’+b+e) NConsider fj = x(a+c) with CDC = x’c’ NNo simplification. L Mapping into AOI gate. NMatching with DCs. L Map to a MUX gate. | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/DT15 (lib).pdf | 39 | DT15 (lib) | 0 |
(c) Giovanni De Micheli 49 Example | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/DT15 (lib).pdf | 40 | DT15 (lib) | 0 |
(c) Giovanni De Micheli 50 Extended matching N Motivation: L Search implicitly for best pin assignment L Make a single test, determining matching and assignment N Technique: L Construct BDD model of cell and assignments N Visual intuition: L Imagine to place MUX function at cell inputs L Each cell input can be routed t... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/DT15 (lib).pdf | 41 | DT15 (lib) | 0 |
(c) Giovanni De Micheli 51 Example Ng = y1 + y2 y’3 Ny1 (c,x) = (c0c1x1 + c0c’1x2 + c’0c1x3) Å c2 NG = y1 (c,x) + y2(c,x) y3(c,x)’ NAn EXOR gate can be placed at the gate output to support NPN-equivalence check | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/DT15 (lib).pdf | 42 | DT15 (lib) | 0 |
(c) Giovanni De Micheli 52 Extended matching modeling NModel composite functions with ROBDDs LAssume n-input cluster and m-input cell LFor each cell input: M ┌log2 n ┐variables for pin permutation M One variable for input polarity LTotal size of c: m( ┌log2 n ┐+ 1 ) LOne additional variable for output polarity NA match... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/DT15 (lib).pdf | 43 | DT15 (lib) | 0 |
NCell: g=x’y NCluster: f = wz’ NG(a,b,c,d) = (cÅ(za+wa’))’(dÅ(zb+wb’)) NF G=(wz) (cÅ(za+wa’))’(dÅzb+wb’)) NM(c) = ab’c’d’ + a’bcd Å Å (c) Giovanni De Micheli 53 Example & z w f & 0 1 0 1 z w a c b d x y G | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/DT15 (lib).pdf | 44 | DT15 (lib) | 0 |
(c) Giovanni De Micheli 54 Extended matching NExtended matching captures implicitly all possible matches NNo extra burden when exploiting don’t care sets NM (c) = "x [ G(x,c) f(x) + fDC(x) ] NEfficient BDD representation NExtensions: LSupport multiple-output matching LFull library representation Å | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/DT15 (lib).pdf | 45 | DT15 (lib) | 0 |
(c) Giovanni De Micheli 55 Full library model NRepresent full library with L(x,c) LOne single (large) BDD NVisual intuition LAll composite cells connected to a MUX NCompare cluster to library L(x,c) LM (c) = "x [ L(x,c) f(x) + fDC(x) ] LVector c determines: M Feasible cell matches M Feasible pin assignments M Feasible ... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/DT15 (lib).pdf | 46 | DT15 (lib) | 0 |
(c) Giovanni De Micheli 56 Summary NLibrary binding is a key step in synthesis NMost systems use some rules together with heuristic algorithms that concentrate on combinational logic LBest results are obtained with Boolean matching LSometimes structural matching is used for speed NLibrary binding is tightly linked to b... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/DT15 (lib).pdf | 47 | DT15 (lib) | 0 |
RECONNAISSANCE DE LA PAROLE ET DU LOCUTEUR Prof. Hervé Bourlard bourlard@idiap.ch http://www.idiap.ch IDIAP Research Institute Ecole Polytechnique Fédérale de Lausanne “Nous ne sommes hommes et nous ne tenons les uns aux autres que par la parole.” Montaigne (Michel Eyquem de), Essais, I,9. | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 0 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur i Table des matières Notations v Acronymes vii 1 Introduction 1 1.1 Niveaux de complexité . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 1.2 Méthodes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3 2 Classification Statistique de Form... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 2 | 2 intro_ASR_f | 0 |
. . . . . . . . . . . . . . . . . 12 2.5.1 Fonctions discriminantes linéaires . . . . . . . . . . . . . . . . . . . . 12 2.5.2 Densité de probabilité gaussienne . . . . . . . . . . . . . . . . . . . . 13 2.6 Entraînement . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14 2.6.1 Entraînement supervi... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 2 | 2 intro_ASR_f | 0 |
. . 16 2.7.2 Convergence . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18 2.7.3 EM pour une distribution multi-gaussienne . . . . . . . . . . . . . . 19 2.7.4 Quantification Vectorielle . . . . . . . . . . . . . . . . . . . . . . . . 22 2.8 Classification de données réelles . . . . . . . . . . . . . .... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 2 | 2 intro_ASR_f | 0 |
. . . 28 4.2.3 Problème 3: Probabilité de passer d’un état à un autre en N obser- vations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 28 4.2.4 Problème 4: Probabilité du meilleur chemin de longueur N entre deux états . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 28 4.3 Du m... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 2 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur ii 5.5 Modèles HMM pour la classification de séquences . . . . . . . . . . . . . . . 34 5.6 Estimation des paramètres HMM . . . . . . . . . . . . . . . . . . . . . . . . 34 6 Reconnaissance de la Parole: Schéma-Bloc 36 7 Caractérisation du Signal de Parole 40 8 Reconnaissance ... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 3 | 2 intro_ASR_f | 0 |
Distances . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 49 8.4 Détection de début et fin de mot . . . . . . . . . . . . . . . . . . . . . . . . 50 8.5 Reconnaissance de mots enchaînés . . . . . . . . . . . . . . . . . . . . . . . 51 8.6 Discussion . . . . . . . . . . . . . . . . . . . . . . ... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 3 | 2 intro_ASR_f | 0 |
. . . . . . . . . . . . . . . . . . . . . 58 9.4 Paramétrisation et estimation des probabilités . . . . . . . . . . . . . . . . . 59 9.4.1 Estimation de la vraisemblance “totale” . . . . . . . . . . . . . . . . 60 9.4.2 Approximation Viterbi: estimation du meilleur chemin . . . . . . . . 63 9.5 Reconnaissance HMM . . .... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 3 | 2 intro_ASR_f | 0 |
tape de maximisation: Mise à jour des paramètres . . . . . . . . . . 72 10.2.4 Procédure d’entraînement . . . . . . . . . . . . . . . . . . . . . . . . 73 10.3 Entraînement Viterbi . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 74 10.3.1 Algorithme général . . . . . . . . . . . . . . . . . . . . . . . . ... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 3 | 2 intro_ASR_f | 0 |
. . . 77 10.4.1 Distributions discrètes . . . . . . . . . . . . . . . . . . . . . . . . . . 77 10.4.2 Distributions gaussiennes . . . . . . . . . . . . . . . . . . . . . . . . 78 10.4.3 Réseaux de neurones artificiels (ANN) . . . . . . . . . . . . . . . . . 79 10.5 Lissage des paramètres . . . . . . . . . . . . . . . .... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 3 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur iii 11 Limitations des Modèles HMM 80 11.1 Hypothèses HMM . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 80 11.2 Discrimination . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 81 11.2.1 Information mutuelle maximum . . . . . . . . . . . .... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 4 | 2 intro_ASR_f | 0 |
. . . . . 87 12.2 Entraînement des réseaux de neurones . . . . . . . . . . . . . . . . . . . . . 88 12.3 Propriétés des réseaux de neurones . . . . . . . . . . . . . . . . . . . . . . . 89 12.4 Réseaux de neurones et séquences temporelles . . . . . . . . . . . . . . . . . 90 12.4.1 Registres à décalage . . . . . . . . ... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 4 | 2 intro_ASR_f | 0 |
. . . . 91 12.5 Réseaux de neurones et inférence statistique . . . . . . . . . . . . . . . . . . 92 12.5.1 Démonstration théorique . . . . . . . . . . . . . . . . . . . . . . . . . 92 12.5.2 Discussion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 94 12.5.3 Validation croisée . . . . . . . . . . . .... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 4 | 2 intro_ASR_f | 0 |
. 97 13.2 Paramétrisation et estimation des probabilités . . . . . . . . . . . . . . . . . 98 13.3 Entraînement et reconnaissance par modèles HMM/ANN . . . . . . . . . . 101 13.3.1 Entraînement “Avant-Arrière” (Baum-Welch) . . . . . . . . . . . . . 101 13.3.2 Entraînement Viterbi . . . . . . . . . . . . . . . . . . . .... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 4 | 2 intro_ASR_f | 0 |
. . . . . . . . . . . . . . . . . . . . . 105 14.2 Modèles phonologiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 107 14.3 Modèles de langage . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 109 14.3.1 Généralités . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 109 14.3... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 4 | 2 intro_ASR_f | 0 |
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 114 15.2 Adaptation des Systèmes de Reconnaissance . . . . . . . . . . . . . . . . . . 115 | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 4 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur iv 16 Mots Clés et Fiabilité 116 16.1 Reconnaissance de mots clés . . . . . . . . . . . . . . . . . . . . . . . . . . . 116 16.2 Niveau de fiabilité . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 117 17 Reconnaissance du Locuteur 119 17.1 Introduction . . . . ... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 5 | 2 intro_ASR_f | 0 |
. . . . . . . . . 124 17.6 Vérification du locuteur sur base de texte présenté . . . . . . . . . . . . . . 125 17.7 Identification, vérification et seuil de décision . . . . . . . . . . . . . . . . . 126 18 Performances des Systèmes et Applications 127 18.1 Performances types des systèmes de reconnaissance . . . . . . ... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 5 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur v Notations - xn = (xn1,xn2, . . . ,xnd)T : vecteur (acoustique) à l’instant n - d: dimension de vecteurs acoustiques - xn = (1,xn1,xn2, . . . ,xnd)T : vecteur acoustique augmenté à l’instant n - T: transposée - ωk ou qk: une classe (statistique) - K: nombre de classes statist... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 6 | 2 intro_ASR_f | 0 |
dans la cas de distributions gaussiennes. - Σk, σk: matrice de covariance pleine ou vecteur de variance (matrice de covariance dia- gonale) associés à ωk ou qk - qn k: événement qn = qk (états qk visité à l’instant n). - qn: état HMM observé à l’instant n - Q = {q1, . . . ,qn, . . . ,qN}: un chemin particulier de longu... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 6 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur vi - F(·): fonction linéaire (habituellement une fonction sigmoide) utilisée en réseaux de neu- rones - E: fonction d’erreur (typiquement critère de moindres carrés) minimisée lors de l’entraî- nement de fonctions discriminantes ou d’un réseau de neurones. - d(xn) = {d1(xn), .... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 7 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur vii Acronymes - HMM: modèle de Markov caché (Hidden Markov Model) - MAP: maximum a posteriori - ML: maximum de vraisemblance (Maximum Likelihood) - iid: indépendantes et identiquement distribuées (hypothèse habituellement faite concer- nant une séquence de variables aléatoires... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 8 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur viii | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 9 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 1 INTRODUCTION A LA RECONNAISSANCE DE LA PAROLE ET DU LOCUTEUR Prof. Hervé Bourlard IDIAP Research Institute and Ecole Polytechnique Fédérale de Lausanne 1 Introduction Le problème de la reconnaissance automatique de la parole consiste à extraire, à l’aide d’un ordinateur, l’i... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 10 | 2 intro_ASR_f | 0 |
la grammaire utilisée dans le language parlé (et plus particulièrement le language naturel). Parallèlement à ces déve- loppements, de nombreux progrès relatifs à la perception de la parole et aux propriétés psycho-acoustiques propres à l’homme ont également été réalisés [71]. Bien que ces pro- priétés ne seront pas dis... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 10 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 2 au début de ce chapitre, la mesure de ce signal de parole est fortement influencée par la fonction de transfert du système de reconnaissance (comprenant les appareils d’acquisition et de transmission), ainsi que par le milieu ambiant. 1.1 Niveaux de complexité Pour bien appr... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 11 | 2 intro_ASR_f | 0 |
re la séquence de mots constituant une phrase. En effet, dans ce dernier cas, non seulement la frontière entre mots n’est plus connue mais, de plus, les mots deviennent fortement articulés (c’est-à-dire que la prononciation de chaque mot est affectée par le mot qui précède ainsi que par celui qui suit — un exemple simp... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 11 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 3 En effet, de nombreuses variables pouvant affecter significativement les performances des systèmes de reconnaissance ont été identifiées [34]: – Les bruits d’environnement tels que bruits additifs stationnaires ou non-stationnnaires (par exemple, dans une voiture ou dans une... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 12 | 2 intro_ASR_f | 0 |
traitement du signal et d’analyse acoustique (feature extrcation, en anglais) transformant le signal de parole en une séquence de vecteurs acous- tiques. 2. Un générateur d’hypothèses locales qui produira une étiquette ou des hypo- thèses locales correpondant à chaque segment élémentaire de parole (associé à un ou plus... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 12 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 4 basé sur la reconnaissance de formes, ou via des modèles de Markov cachés comme présentés dans la Section 9. 4. Un module syntaxique interagissant avec le module d’alignement temporel et qui forcera le reconnaisseur à intégrer les contraintes syntaxiques (et éventuellement s... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 13 | 2 intro_ASR_f | 0 |
utiliser des modèles de phonèmes, ce qui limitera le nombre de paramètres à estimer. Dans ce dernier cas, lors de la reconnaissance, les mots seront alors construits (dynamiquement) en termes de séquence de phonèmes et les phrases en termes de séquences de mots. Disons simplement que les modèles HMM supposent que chaqu... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 13 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 5 de performances de reconnaissance. Comme nous le verrons par la suite, des algorithmes puissants ont cependant été développés afin d’obtenir, à l’aide d’un processus itératif, cette segmentation “optimale” à partir d’une segmentation arbitraire, ou de pouvoir estimer les par... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 14 | 2 intro_ASR_f | 0 |
chastiques nous permet souvent de com- penser notre ignorance par l’entraînement de modèles assez généraux sur un grand ensemble de données. 2.1 Modèles de classification de formes Un classificateur de formes est souvent constitué de deux modules principaux: un ex- tracteur de caractéristiques, suivi d’un classificateu... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 14 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 6 exemple, en reconnaissance de la parole, la transformation d’une séquence d’échantillons en une séquence de représentations spectrales court-terme est connue comme étant une bonne solution. Ceci est généralement vérifié en pratique bien que, en théorie, des tech- niques de t... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 15 | 2 intro_ASR_f | 0 |
instant n. Après extraction des caractéristiques, un mot ou une phrase est alors représenté sous la forme d’une séquence de vecteurs caracté- ristiques X = {x1, . . . ,xn, . . . ,xN}. Le problème consiste alors à classer ces vecteurs caractéristiques en terme d’unités de parole élémentaires qui pourront servir de base ... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 15 | 2 intro_ASR_f | 0 |
reconnue comme standard multi-media. 7. De manière plus générale, un coût différent peut être associé à différents types d’erreur, auquel cas le classificateur de moindre coût ne correspond plus nécessairement au minimum d’erreurs. | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 15 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 7 ne dépend pas de façon critique d’hypothèses fausses faites lors de la représentation du signal. 2.2 Règles simples à retenir Dans ce chapitre, nous utiliserons la notation P(a) pour les probabilités (dans le cas où la variable a est discrète) et p(a) pour les densités de pr... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 16 | 2 intro_ASR_f | 0 |
la statistique bayesienne Pour développer un système d’apprentissage et de classification statistique [31], on com- mence par définir un modèle génératif M à partir duquel les observations X = {x1, . . . ,xn, . . . ,xN} sont supposées avoir été générées. Ce modèle M dépendra d’un ensemble de paramètres Θ a priori incon... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 16 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 8 Dans le cas de plusieurs modèles Mk partageant le même ensemble de paramètres, la fonction de vraisemblance est alors définie comme: p(X|Mk,Θ) Dans l’approche “Bayesienne pure”, on suppose alors que l’ensemble des paramètres Θ sont eux-mêmes des variables aléatoires de distr... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 17 | 2 intro_ASR_f | 0 |
tère du maximum a posteriori (MAP): si on essaie de maximiser directement les probabilités a posteriori P(Mk|X,Θ) ou P(Mk,Θ|X). – Critère du maximum de vraisemblance (ML) (Maximum Likelihood, en anglais): si on maximise seulement la fonction de vraisemblance p(X|Mk,Θ) ou p(X,Θ|Mk) (en supposant une distribution uniform... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 17 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 9 “standard” pour le lissage des paramètres et ne considérerons que la distribution a priori sur l’ensemble des classes. 9 Utilisant les notations déjà introduites, nous définirons la probabilité P(ωk) (avec 0 ≤P(ωk) ≤1) qu’une forme appartienne à la classe ωk. Etant donné que... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 18 | 2 intro_ASR_f | 0 |
y a plusieurs choix possibles pour cette fonction, chacun de ceux-ci conduisant à des classificateurs dont les propriétés seront différentes. Il est donc bon de toujours garder en mémoire que toutes les probabilités introduites par la suite sont conditionnées sur un ensemble de paramètres Θ. Pendant la classification c... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 18 | 2 intro_ASR_f | 0 |
section précédente, nous devrions donc utiliser les 9. Cette remarque est importante étant donné que nous avons souvent observé une confusion de termi- nologie lorsque nous parlons, comme dans la suite de ce chapitre, de probabilités a priori. | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 18 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 10 P(ωk|x) comme fonctions discriminantes. Cette stratégie optimale, souvent appelée règle de décision de Bayes, revient simplement à assigner une forme à la classe associée à la plus grande probabilité a posteriori (étant donné x). Au vu de l’optimalité de cette règle, la pro... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 19 | 2 intro_ASR_f | 0 |
x) s’exprime en termes du produit d’une fonction de vraisemblance (densité de probabilité) p(x|ωk) pour le vecteur d’observation x et de la probabilité a priori P(ωk). Le dénominateur dans (6) est simplement une constante de normalisation (étant donné qu’elle ne dépend pas de la classe) garantissant que toutes les prob... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 19 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 11 problème de discrimination est dû au fait que, pendant l’entraînement, le dénomina- teur de (6) n’est pas constant et dépend des paramètres de toutes les classes. Utilisant la loi de Bayes (et en acceptant ses limitations), nous assignerons alors l’observa- tion x à la clas... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 20 | 2 intro_ASR_f | 0 |
. Voir Figure 1 pour une illustration de distributions gaussiennes. Bien qu’il puisse sembler que le choix de cette distribution particulière soit quelque peu arbitraire, les distributions gaussiennes ont plusieurs propriétés intéressantes qui en font de bons modèles, à commencer par le fait qu’elles constituent souven... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 20 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 12 = J X j=1 cjk N (x,μj,Σj) (10) où J est le nombre de gaussiennes et les paramètres P(j|ωk) = cjk représentent des facteurs de pondération (probabilités a priori de la gaussienne j pour la classe ωk) et sont des paramètres supplémentaires qui devront être déterminés pendant ... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 21 | 2 intro_ASR_f | 0 |
vecteur wk = (wk0,wk1,wk2, . . . ,wkd)T représente les paramètres caractéristiques de la classe ωk (avec wk0 généralement appelé “biais” de la classe ωk). Comme discuté dans la Section 12, ces fonctions discriminantes linéaires sont à la base des réseaux de neurones et réalisent la fonction de base du perceptron représ... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 21 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 13 Les fonctions discriminantes découpent donc l’espace d’entrée en segments d’hyperplans definis par les équations gk(x) −gj(x) = 0. L’entraînement consiste alors à trouver l’en- semble de paramètres qui garantit au mieux (selon un certain critère, typiquement taux d’erreur m... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 22 | 2 intro_ASR_f | 0 |
est alors indépendant de k). En prenant le logarithme des densités gaussiennes (8) et en supposant que toutes les classes ωk ont la même matrice de covariance Σk = Σ, le critère de classification bayesienne peut alors s’exprimer sur base de la fonction: gk(x) = −1 2(x −μk)T Σ−1(x −μk) + log p(ωk) (16) Le terme quadrati... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 22 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 14 2.6 Entraînement Dans chacune des expressions ci-dessus, il y a un certain nombre de paramètres Θ qui doivent être determinés pour permettre l’estimation des probabilités. Ceci se fait à partir de données, appelées données d’entraînement (ou base d’entraînement), qui peuven... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 23 | 2 intro_ASR_f | 0 |
de nouvelles observations. Evidement, les performances du système dépendront de la manière dont les nouvelles données correspondent au modèle sélectionné, mais en général les classificateurs Bayesiens, même basés sur des hypothèses paramétriques simples, conduiront à des résultats acceptables. Il est bon de rappeler ic... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 23 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 15 la distribution de probabilités conditionnelles: p(y|x,Θ) En pratique, nous n’avons pas qu’une seule paire de vecteurs (x,y) mais un ensemble (X,Y ) de paires d’entraînement (X,Y ) = {(xn,yn)}N n=1 et les paramètres doivent donc être déterminés de façon à maximiser la vrais... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 24 | 2 intro_ASR_f | 0 |
. Toutes les méthodes de maximisation sont cependant basées sur un algorithme très général et très puissant, appelé algorihtme EM, et qui est brièvement décrit dans la section suivante. Une adaptation de cet algorithme à l’entraînement des modèles de Markov cachés généralement utilisés pour la reconnaissance de la paro... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 24 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 16 2.7 Algorithme d’Estimation et Maximisation (EM) 2.7.1 Description générale Initialement introduit dans [6, 7, 26], l’algorithme EM est à la base de beaucoup d’en- traînements statistiques faisant intervenir des variables “manquantes” (missing variables, en anglais), aussi ... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 25 | 2 intro_ASR_f | 0 |
k-means” – voir Chapitre 4) mais pourra avoir été générée par chacune des gaussiennes avec une certaine vraisemblance. Ce type de quantification s’appelle parfois aussi “quantifica- tion vectorielle floue”. – Beaucoup de problèmes faisant intervenir des variables manquantes, par exemple lorsque une partie des observati... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 25 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 17 – Définissons une fonction auxiliaire Q(Θ,Θ(t)) incluant les paramètres Θ et une esti- mation courante Θ(t) de ceux-ci (à l’itération t), les variables observées et les variables cachées, et pour laquelle on peut montrer que sa maximisation conduit à la maximi- sation de la... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 26 | 2 intro_ASR_f | 0 |
) = log p(X|Θ) = log X Y p(X,Y |Θ) (20) où la somme sur Y représente l’intégration sur toutes les variables cachées possibles (sup- posées exhaustives et mutuellement exclusives). En supposant que toutes les variables (ob- servées et cachées) sont indépendantes et identiquement distribuées (iid), nous obtenons: p(X,Y |... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 26 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 18 Dans l’étape de maximisation, nous recherchons, par les méthodes habituelles d’optimi- sation de fonctions statistiques, l’ensemble des paramètres à utiliser dans l’itération (t+1) tel que: Θ(t+1) = argmax Θ Q(Θ,Θ(t)) (23) Comme nous le verrons par la suite, l’algorithme d’... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 27 | 2 intro_ASR_f | 0 |
t), on a alors: Q(Θ(t),Θ(t)) = log p(X|Θ(t)) + X Y P(Y |X,Θ(t)) log P(Y |X,Θ(t)) (25) En soustrayant (25) de (24), et en regroupant les termes, on obtient alors: log p(X|Θ) −log p(X|Θ(t)) = Q(Θ,Θ(t)) −Q(Θ(t),Θ(t)) + X Y P(Y |X,Θ(t)) log P(Y |X,Θ(t)) P(Y |X,Θ) (26) Le dernier terme de (26) n’est autre que la divergence ... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 27 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 19 2.7.3 EM pour une distribution multi-gaussienne Pour illustrer l’utilisation de cet algorithme EM sur un cas simple, nous considérons ici la modélisation d’un ensemble de vecteurs iid X = {x1, . . . ,xn, . . . ,xN} par un mélange de J densités gaussiennes. Comme dans (10), ... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 28 | 2 intro_ASR_f | 0 |
croissement de l’espérance mathématique de log p(x,j|Θ) conduit à une augmentation de la vraisemblance des données p(x|Θ). Dans le cas d’une distribution multi-gaussienne, et en prenant l’espérance mathéma- tique de la densité jointe sur les variables observées xn et cachées j, la fonction auxiliaire Q s’écrit alors: Q... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 28 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 20 où C contient toutes les constantes qui disparaîtront dans les dérivées qui suivront. Pour des paramètres Θ(t) donnés, les paramètres optimaux sont alors obtenus en annulant la dérivée partielle de Q par rapport à chacun de ceux-ci. Dans le cas de la moyenne μj, nous avons ... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 29 | 2 intro_ASR_f | 0 |
t)) + λ( J X j=1 P(j|Θ) −1) (35) où λ représente le multiplicateur de Lagrange. En annulant la dérivée partielle de Q∗par rapport à P(j|Θ) (ce qui fait disparaître les termes contenant les moyennes et les variances), nous obtenons: ∂Q∗ ∂P(j|Θ) = 1 P(j|Θ) N X n=1 P(j|xn,Θ(t)) + λ = 0 (36) En sommant cette expression sur... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 29 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 21 ce qui ne contient que des termes que nous pouvons évaluer à partir des paramètres courants Θ(t). −25 −20 −15 −10 −5 0 5 10 15 20 25 0 10 20 30 40 50 60 70 Histogram of Sampled X Values and Gaussian Fits One Iteration of EM X Fig. 1 – Illustration de la convergence de l’alg... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 30 | 2 intro_ASR_f | 0 |
de l’algorithme EM, et nous donne le facteur de pondération (distri- bution des variables cachées) dans la fonction auxiliaire (29). A partir de cette estimation, nous pouvons alors mettre à jour (étape de maximisation) la valeur des paramètres en ultilisant (32), (33), et (37). En itérant ce processus (t = t + 1), ces... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 30 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 22 2.7.4 Quantification Vectorielle Nous notons ici que les algorithmes de quantification vectorielle présentés dans le Cha- pitre 4 sont des cas particuliers d’entraînement non supervisé. En appliquant l’algorithme EM de façon non supervisée à un ensemble de vecteurs X = {x1,... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 31 | 2 intro_ASR_f | 0 |
ume pas à l’apprentissage d’une fonction entre les formes observées et l’ensemble de ses paramètres sur un ensemble d’apprentissage (et éventuellement les classes qui y sont associées, dans le cas d’entraînement supervisé). En effet, dans la plupart des problèmes réels, nous serons en présence d’un très grand nombre (s... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 31 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 23 le 1% de différence représente 10000 formes. D’un autre côté, le même taux d’erreur sur un ensemble de 100 formes n’est pas différent du hasard. Pour rappel, dans le cas de l’hypothèse de distribution binomiale, la déviation standard équivalente est √npq, où n représente le... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 32 | 2 intro_ASR_f | 0 |
sont souvent trop limitées (même pour l’exemple mentionné ci-dessus). Dans ce cas, il sera toujours bénéfique d’utiliser des connaissances a priori concernant le domaine étudié afin d’introduire des contraintes qui réduiront la tendance des classificateurs à se spécialiser sur l’ensemble d’entraînement. En reconnaissan... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 32 | 2 intro_ASR_f | 0 |
Reconnaissance de la parole et du locuteur 24 Contrairement à la reconnaissance stochastique de formes statiques, le but de la re- connaissance de la parole n’est cependant pas d’assigner chaque vecteur caractéristique à une classe (par exemple phonétique), mais bien de reconnaître la séquence de ces vecteurs comme une... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 33 | 2 intro_ASR_f | 0 |
dij la coût pour aller du noeud i au noeud j (la distance entre deux villes, ou le coût en carburant), et d(i) le coût de passage par le noeud i (par exemple, le droit d’entrée pour la ville i), le chemin de coût optimal est obtenu en utilisant la récurrence D(I,j) = d(j) + min i {dij + D(I,i)} pour tous les noeuds j d... | /home/ricoiban/GEMMA/mnlp_chatsplaining/RAG/2 intro_ASR_f.pdf | 33 | 2 intro_ASR_f | 0 |
Subsets and Splits
No community queries yet
The top public SQL queries from the community will appear here once available.