{ "paper_id": "F12-1010", "header": { "generated_with": "S2ORC 1.0.0", "date_generated": "2023-01-19T09:44:13.693490Z" }, "title": "Mapping de l'espace spectral vers l'espace visuel de la parole: Les voyelles du Fran\u00e7ais en Langue Fran\u00e7aise Parl\u00e9e Compl\u00e9t\u00e9e", "authors": [ { "first": "Zuheng", "middle": [], "last": "Ming", "suffix": "", "affiliation": { "laboratory": ") Gipsa-lab", "institution": "", "location": { "addrLine": "11 rue des Math\u00e9matiques, BP 46", "postCode": "F -38402", "settlement": "Grenoble Campus, SAINT MARTIN D'HERES Cedex" } }, "email": "" }, { "first": "Gang", "middle": [], "last": "Feng", "suffix": "", "affiliation": { "laboratory": ") Gipsa-lab", "institution": "", "location": { "addrLine": "11 rue des Math\u00e9matiques, BP 46", "postCode": "F -38402", "settlement": "Grenoble Campus, SAINT MARTIN D'HERES Cedex" } }, "email": "" }, { "first": "Denis", "middle": [], "last": "Beautemps", "suffix": "", "affiliation": { "laboratory": ") Gipsa-lab", "institution": "", "location": { "addrLine": "11 rue des Math\u00e9matiques, BP 46", "postCode": "F -38402", "settlement": "Grenoble Campus, SAINT MARTIN D'HERES Cedex" } }, "email": "denis.beautemps@grenoble-inp.fr" } ], "year": "", "venue": null, "identifiers": {}, "abstract": "Cet article pr\u00e9sente les r\u00e9sultats de l'approche statistique GMM pour le mapping des param\u00e8 tres spectraux du signal acoustique de la parole vers les param\u00e8 tres visuels de la Langue Parl\u00e9 e Compl\u00e9 t\u00e9 e (LPC) au sens des moindres carr\u00e9 s, \u00e0 un bas niveau d'interfa\u00e7age ce qui est innovant par rapport \u00e0 l'approche classique texte-parole visuelle. A toute fin d'\u00e9valuation de l'approche GMM, nous pr\u00e9sentons aussi les r\u00e9sultats de l'approche de mod\u00e9lisation multi-lin\u00e9 aire. Les r\u00e9 sultats montrent que la m\u00e9 thode GMM am\u00e9 liore tr\u00e8 s significativement le mapping, tout particuli\u00e8 rement dans le cas de faible niveau de corr\u00e9 lation entre certains param\u00e8 tres cibles comme ceux du LPC et les pr\u00e9 dicteurs constitu\u00e9 s des param\u00e8 tres spectraux du signal acoustique de parole. ABSTRACT ________________________________________________________________________________________________________________ Mapping of the spectral space to the visual speech space for French vowels cued in Cued Speech In this paper, we present a statistical method based on GMM modeling to map the acoustic speech spectral features to visual features of Cued Speech in the sense of least square error in a low signal level which is innovative and different with the classic text-tovisual approach. In comparison with the GMM based mapping modeling we first present the results with the use of a multi-linear model also at the low signal level and study the limitation of the approach. The experimental results demonstrate that the GMM based mapping method can significant improve the mapping performance compared with the multi-linear based mapping model especial in the sense of the weak linear correlation between the target and the predictor such as the hand positions of Cued Speech and the acoustic speech spectral features.", "pdf_parse": { "paper_id": "F12-1010", "_pdf_hash": "", "abstract": [ { "text": "Cet article pr\u00e9sente les r\u00e9sultats de l'approche statistique GMM pour le mapping des param\u00e8 tres spectraux du signal acoustique de la parole vers les param\u00e8 tres visuels de la Langue Parl\u00e9 e Compl\u00e9 t\u00e9 e (LPC) au sens des moindres carr\u00e9 s, \u00e0 un bas niveau d'interfa\u00e7age ce qui est innovant par rapport \u00e0 l'approche classique texte-parole visuelle. A toute fin d'\u00e9valuation de l'approche GMM, nous pr\u00e9sentons aussi les r\u00e9sultats de l'approche de mod\u00e9lisation multi-lin\u00e9 aire. Les r\u00e9 sultats montrent que la m\u00e9 thode GMM am\u00e9 liore tr\u00e8 s significativement le mapping, tout particuli\u00e8 rement dans le cas de faible niveau de corr\u00e9 lation entre certains param\u00e8 tres cibles comme ceux du LPC et les pr\u00e9 dicteurs constitu\u00e9 s des param\u00e8 tres spectraux du signal acoustique de parole. ABSTRACT ________________________________________________________________________________________________________________ Mapping of the spectral space to the visual speech space for French vowels cued in Cued Speech In this paper, we present a statistical method based on GMM modeling to map the acoustic speech spectral features to visual features of Cued Speech in the sense of least square error in a low signal level which is innovative and different with the classic text-tovisual approach. In comparison with the GMM based mapping modeling we first present the results with the use of a multi-linear model also at the low signal level and study the limitation of the approach. The experimental results demonstrate that the GMM based mapping method can significant improve the mapping performance compared with the multi-linear based mapping model especial in the sense of the weak linear correlation between the target and the predictor such as the hand positions of Cued Speech and the acoustic speech spectral features.", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "Abstract", "sec_num": null } ], "body_text": [ { "text": "Le cadre de cet article est la communication parl\u00e9 e chez les personnes sourdes. En France, cinq \u00e0 six millions de personnes sont atteintes de surdit\u00e9 . Le recours \u00e0 la lecture labiale est dans ce cas primordial pour la perception de la parole. Or l'information fournie par la forme des l\u00e8 vres est ambig\u00fc e au sens o\u00f9 plusieurs sons de paroles peuvent avoir des formes aux l\u00e8 vres similaires ([p] , [b] , [m] par exemple) ce qui de ce fait rend difficile la perception compl\u00e8 te de la parole sans information compl\u00e9 mentaire (auditive, s\u00e9mantique,\u2026). Avec des cons\u00e9 quences pour le d\u00e9veloppement du langage chez l'enfant. La m\u00e9 thode du Cued Speech (Cornett, 1967) a \u00e9 t\u00e9 introduite pour combler ce manque. C'est un code manuel con\u00e7 u pour d\u00e9 sambigu\u00ef ser la lecture labiale. Le locuteur, tandis qu'il parle, utilise une de ses mains pour pointer des positions particuli\u00e8 res sur le visage, le c\u00f4 t\u00e9 du visage ou le cou (pour coder les voyelles) tout en pr\u00e9 sentant le dos de la main avec des formes particuli\u00e8 res (8 cl\u00e9 s digitales pour coder les consonnes). La main en position et pr\u00e9 sentant une cl\u00e9 digitale code ainsi une syllabe Consonne-Voyelle. Avec ce syst\u00e8 me, les sons similaires aux l\u00e8 vres sont d\u00e9 sambigu\u00ef s\u00e9 s par des positions ou cl\u00e9 s digitales distinctes. Etendue \u00e0 plus de 60 langues depuis son invention en 1967, dont la langue Fran\u00e7 aise avec la Langue Parl\u00e9 e Compl\u00e9 t\u00e9 e (LPC), cette m\u00e9 thode permet aux enfants sourds cong\u00e9 nitaux stimul\u00e9 s par cette m\u00e9 thode depuis leur plus jeune \u00e2 ge d'acc\u00e9 der \u00e0 un syst\u00e8 me phonologique complet de la langue parl\u00e9 e et d'avoir un d\u00e9 veloppement du langage similaire \u00e0 des enfants normo-entendants (Leybaert, 2000) . Enfin, cette m\u00e9 thode renvoie vers l'audition comme l'indique son utilisation dans la pratique orthophoniste des enfants implant\u00e9 s cochl\u00e9 aires. L'objectif du travail pr\u00e9sent\u00e9 dans cet article est la conversion automatique du son de parole en param\u00e8 tres de formes labiales et LPC. Ces param\u00e8 tres sont les sorties des syst\u00e8 mes de synth\u00e8 se visuelle incluant la modalit\u00e9 LPC (voir par exemple Attina et al., 2004 ; Gibert et al., 2005) . Des travaux ant\u00e9 rieurs ont d\u00e9 velopp\u00e9 de nombreux dispositifs visant \u00e0 traduire automatiquement le son de parole en cl\u00e9 s LPC. Tous s'appuient sur le couplage d'un syst\u00e8me de reconnaissance automatique avec un syst\u00e8 me visuel de g\u00e9 n\u00e9 ration des cl\u00e9 s du LPC (Autocuer, Cornett, 1988) ou un syst\u00e8 me de synth\u00e8 se de la main (Duchnovski et al., 2000) ou encore un syst\u00e8 me de parole audio visuelle (Attina, et al., 2004 ; Gibert et al., 2005 ; Beautemps et al., 2007) . Dans ces diff\u00e9 rents dispositifs le recours au niveau syntaxique est une des cl\u00e9 s du syst\u00e8 me. Ceci a l'inconv\u00e9nient de perdre la richesse contenue dans la variabilit\u00e9 du signal de parole. L'objectif vis\u00e9 ici est ainsi d'\u00e9tudier les m\u00e9 thodes de mapping des param\u00e8 tres acoustiques du son de parole vers les param\u00e8 tres visuels (labiaux et LPC) en utilisant un bas niveau d'interfa\u00e7age de type signal et donc sans le recours \u00e0 la reconnaissance automatique de la parole. L'introduction de la composante manuelle du LPC dans ce programme constitue une v\u00e9 ritable originalit\u00e9 de ce travail avec des retomb\u00e9 es claires pour les syst\u00e8 mes de communication utilisant le geste associ\u00e9 \u00e0 la parole ou non, tels que le LPC mais aussi des gestes de pointage ou la Langue des Signes. Nous abordons ce programme en traitant le cas des voyelles orales du Fran\u00e7 ais. Le mapping consistera ici \u00e0 d\u00e9 terminer les coefficients d'une combinaison lin\u00e9aire reliant les param\u00e8tres de l'espace acoustique (les pr\u00e9dicteurs) aux param\u00e8 tres de l'espace visuel (l\u00e8 vres et LPC) en minimisant l'erreur au sens des moindres carr\u00e9 s entre le r\u00e9 sultat de la pr\u00e9 diction et les valeurs des param\u00e8 tres visuels. Dans la suite, nous pr\u00e9 senterons tout d'abord l'exp\u00e9rimentation et les param\u00e8 tres consid\u00e9 r\u00e9 s pour caract\u00e9 riser chacun des espaces, puis nous \u00e9 tudierons les limites de l'approche par pr\u00e9diction multi-lin\u00e9 aire pour finir par les r\u00e9 sultats de la pr\u00e9 diction multigaussiennne GMM.", "cite_spans": [ { "start": 393, "end": 397, "text": "([p]", "ref_id": null }, { "start": 400, "end": 403, "text": "[b]", "ref_id": null }, { "start": 406, "end": 409, "text": "[m]", "ref_id": null }, { "start": 650, "end": 665, "text": "(Cornett, 1967)", "ref_id": "BIBREF2" }, { "start": 1662, "end": 1678, "text": "(Leybaert, 2000)", "ref_id": "BIBREF9" }, { "start": 2076, "end": 2097, "text": "Attina et al., 2004 ;", "ref_id": "BIBREF0" }, { "start": 2098, "end": 2118, "text": "Gibert et al., 2005)", "ref_id": "BIBREF5" }, { "start": 2392, "end": 2406, "text": "Cornett, 1988)", "ref_id": "BIBREF3" }, { "start": 2446, "end": 2471, "text": "(Duchnovski et al., 2000)", "ref_id": "BIBREF4" }, { "start": 2519, "end": 2542, "text": "(Attina, et al., 2004 ;", "ref_id": "BIBREF0" }, { "start": 2543, "end": 2564, "text": "Gibert et al., 2005 ;", "ref_id": "BIBREF5" }, { "start": 2565, "end": 2588, "text": "Beautemps et al., 2007)", "ref_id": "BIBREF1" } ], "ref_spans": [], "eq_spans": [], "section": "Introduction", "sec_num": "1" }, { "text": "Les donn\u00e9es sont compos\u00e9es d'un enregistrement vid\u00e9o d'un locuteur pronon\u00e7ant et codant un corpus de 50 mots isol\u00e9 s. Les mots \u00e9 taient constitu\u00e9 s de 32 nombres (de z\u00e9 ro \u00e0 31), des douze mois de l'ann\u00e9e et de six mots couramment rencontr\u00e9s en Fran\u00e7 ais. Chaque mot \u00e9 tait pr\u00e9 sent\u00e9 sur un moniteur plac\u00e9 en face du locuteur, dans un ordre al\u00e9 atoire. Le corpus a ainsi \u00e9 t\u00e9 r\u00e9 p\u00e9 t\u00e9 10 fois. Le locuteur est une femme de langue maternelle fran\u00e7 aise, codeuse et dipl\u00f4m\u00e9e en LPC. L'enregistrement a \u00e9t\u00e9 r\u00e9alis\u00e9 en chambre sourde \u00e0 la fr\u00e9 quence vid\u00e9 o de 25 Hz conform\u00e9 ment au banc exp\u00e9 rimental vid\u00e9 o du laboratoire. Le locuteur \u00e9tait assis en face de la cam\u00e9ra et d'un micro pour la bande son num\u00e9 ris\u00e9 e \u00e0 la fr\u00e9 quence de 44100 Hz. Des pastilles color\u00e9 es \u00e9 taient plac\u00e9 es sur la peau entre les arcades sourcili\u00e8 res et \u00e0 l'extr\u00e9mit\u00e9 des doigts pour permettre l'extraction des coordonn\u00e9 es apr\u00e8 s num\u00e9 risation des images. Enfin, un panneau quadrill\u00e9 plac\u00e9 dans le plan du visage a \u00e9 t\u00e9 enregistr\u00e9 par la cam\u00e9 ra pour permettre une conversion pixel/centim\u00e8tre pour la suite des traitements. L'enregistrement vid\u00e9o r\u00e9alis\u00e9 en format PAL, a \u00e9t\u00e9 num\u00e9ris\u00e9 comme des images RGB constitu\u00e9es de l'entrelacement des deux \u00bd trames vid\u00e9 o (compos\u00e9 es des lignes impaires et paires respectivement). Pour chaque image ainsi num\u00e9 ris\u00e9 e, les deux \u00bd trames ont \u00e9 t\u00e9 reconstitu\u00e9 es et pour chacune les lignes manquantes obtenues par interpolation lin\u00e9 aire des autres lignes de fa\u00e7 on \u00e0 obtenir deux images compl\u00e8 tes s\u00e9 par\u00e9 es de 20 ms.", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "Dispositif exp\u00e9 rimental", "sec_num": "2.1." }, { "text": "Ces trames d\u00e9finissent l'ensemble des images \u00e0 la cadence de 50 Hz auxquelles il sera fait r\u00e9 f\u00e9 rence dans la suite. De cet ensemble de donn\u00e9 es, des images correspondant aux instants t0 des voyelles en position labiale cible ont \u00e9 t\u00e9 s\u00e9 lectionn\u00e9 es manuellement par un des exp\u00e9rimentateurs ainsi que l'extraction des coordonn\u00e9es du contour interne des l\u00e8vres desquels les param\u00e8tres labiaux d'\u00e9tirement (A), d'aperture (B) et d'aire int\u00e9 rolabiale (S) ont alors \u00e9 t\u00e9 calcul\u00e9 s selon les formules classiques dans le domaine (Lallouache, 1991) . De m\u00ea me, les images correspondants aux instants t1 auxquels la main pointant la position LPC atteint la cible de la voyelle ont \u00e9 t\u00e9 s\u00e9 lectionn\u00e9 es et les coordonn\u00e9 es (x,y) de l'extr\u00e9mit\u00e9 du doigt \u00ab pointeur \u00bb ont \u00e9 t\u00e9 extraites en r\u00e9 f\u00e9 rence au centre de la pastille plac\u00e9 e entre les arcades sourcill\u00e8 res. Enfin pour chaque instant t0, deux extraits du son de parole correspondant (pond\u00e9 r\u00e9 s par une fen\u00ea tre de Hamming) d'une dur\u00e9e de 20 et 32 ms centr\u00e9s sur t0 sont utilis\u00e9 s pour le calcul des 16 coefficients spectraux LSP et MFCC respectivement. Enfin, 4 formants ont \u00e9t\u00e9 extraits de l'enveloppe spectrale obtenue \u00e0 partir des coefficients LSP. L'ensemble de ces traitements a ainsi permis de constituer deux bases de donn\u00e9 es de 331 et 263 \u00e9 l\u00e9 ments (Table 1) ", "cite_spans": [ { "start": 526, "end": 544, "text": "(Lallouache, 1991)", "ref_id": null } ], "ref_spans": [ { "start": 1312, "end": 1321, "text": "(Table 1)", "ref_id": null } ], "eq_spans": [], "section": "Extraction des param\u00e8 tres de l\u00e8 vres, de main et spectraux", "sec_num": "2.2." }, { "text": "1 1 2 2 ... p p B k F k F k F B \uf03d \uf02b \uf02b \uf02b \uf02b", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "Extraction des param\u00e8 tres de l\u00e8 vres, de main et spectraux", "sec_num": "2.2." }, { "text": "Cette formule de pr\u00e9 diction a \u00e9 t\u00e9 appliqu\u00e9 e aux param\u00e8 tres labiaux (A,B,S) \u00e0 partir de l'analyse de la base de donn\u00e9es compos\u00e9 e des 331 observations des voyelles (Table 1) . La figure 1 pr\u00e9 sente les r\u00e9 sultats de pr\u00e9 diction. Elle montre une d\u00e9 croissance de la variance r\u00e9 siduelle en fonction du nombre de pr\u00e9 dicteurs. Ce r\u00e9 sultat conduit \u00e0 trois remarques. ", "cite_spans": [], "ref_spans": [ { "start": 167, "end": 176, "text": "(Table 1)", "ref_id": null } ], "eq_spans": [], "section": "R\u00e9 sultats sur les param\u00e8 tres labiaux", "sec_num": "3.2." }, { "text": "La m\u00eame m\u00e9thode d'analyse a \u00e9t\u00e9 appliqu\u00e9e pour les coordonn\u00e9 es (x,y) de la main. La valeur finale de la variance r\u00e9 siduelle atteint 40,8 % pour la coordonn\u00e9 e x et 35,5% pour y, m\u00ea me dans le cas des meilleurs pr\u00e9 dicteurs constitu\u00e9 s de l'ensemble des param\u00e8tres LSPs et MFCCs. Cette valeur \u00e9 lev\u00e9 e de la variance r\u00e9siduelle finale s'explique par les valeurs faibles des corr\u00e9 lations \uf072 (0,43 et 0, 42 respectivement pour les coordonn\u00e9 es x et y). Cette faible corr\u00e9lation est vraisemblablement li\u00e9e \u00e0 la relation d'ordre entre les coordonn\u00e9 es et les param\u00e8 tres spectraux, ce qui constitue une limite de la m\u00e9 thode. Afin de v\u00e9 rifier cette hypoth\u00e8 se nous avons redistribu\u00e9 les positions (x, y) du LPC de fa\u00e7 on 1 ( )", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "R\u00e9 sultats sur les param\u00e8 tres LPC de main", "sec_num": "3.3" }, { "text": "YX XX i i i W \uf02d \uf03d \uf0e5\uf0e5 1 ( ) YX XX Y X i i i i i b \uf06d \uf06d \uf02d \uf03d \uf02d \uf0e5\uf0e5 1 ( , , ) ( | ) ( , , ) XX X i i i i m XX X p p p p Nx P c x Nx \uf061 \uf06d \uf061 \uf06d \uf03d \uf03d \uf0e5 \uf0e5 \uf0e5", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "R\u00e9 sultats sur les param\u00e8 tres LPC de main", "sec_num": "3.3" }, { "text": "coh\u00e9rente avec le triangle vocalique d\u00e9fini par l'espace des deux premiers formants, \u00e9tant donn\u00e9 la forte corr\u00e9 lation entre les formants et les param\u00e8 tres spectraux (0,96 et 0,98 pour les 2 premiers formants). Nous avons alors pu observer une grande baisse de la variance r\u00e9 siduelle pour atteindre finalement 7,85% et 7,08% respectivement pour x et y). [\uf0bf\uf02c\uf020\uf08d] . Pour les coordonn\u00e9 es de main, le nombre de gaussiennes a \u00e9 t\u00e9 fix\u00e9 \u00e0 m=5 pour rendre compte des 5 positions du LPC pour les voyelles du Fran\u00e7 ais ce qui donne dans ce cas 5 sous-ensembles de voyelles : [y,e] . Les moyennes et matrices de covariances des mod\u00e8 les gaussiens ont \u00e9 t\u00e9 calcul\u00e9 es sur ces sous-ensembles. Enfin, les 16 composantes spectrales sont ordonn\u00e9es dans l'ordre d\u00e9croissant de leur explication de la variance du param\u00e8tre estim\u00e9 . Les N composantes du vecteur x sont alors les N premi\u00e8 res composantes selon cet ordre.", "cite_spans": [ { "start": 356, "end": 362, "text": "[\uf0bf\uf02c\uf020\uf08d]", "ref_id": null }, { "start": 568, "end": 573, "text": "[y,e]", "ref_id": null } ], "ref_spans": [], "eq_spans": [], "section": "R\u00e9 sultats sur les param\u00e8 tres LPC de main", "sec_num": "3.3" }, { "text": "[a, o, \uf0bf], [i], [\uf045,u,\uf08d], [\uf04f] et", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "R\u00e9 sultats sur les param\u00e8 tres LPC de main", "sec_num": "3.3" }, { "text": "Nous avons appliqu\u00e9 la mod\u00e9lisation au corpus d'apprentissage des 331 observations des voyelles (Table 1) . La Figure 2 pr\u00e9sente les r\u00e9sultats de l'analyse de la variance des", "cite_spans": [], "ref_spans": [ { "start": 96, "end": 105, "text": "(Table 1)", "ref_id": null }, { "start": 111, "end": 119, "text": "Figure 2", "ref_id": "FIGREF2" } ], "eq_spans": [], "section": "R\u00e9 sultats de la mod\u00e9 lisation", "sec_num": "4.2" }, { "text": "1 ( ) ( ) ( | ) m i i i i y F x W x b P c x \uf03d \uf03d \uf03d \uf02b \uf0d7 \uf0e5", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "R\u00e9 sultats de la mod\u00e9 lisation", "sec_num": "4.2" }, { "text": "donn\u00e9 es. Elle montre une d\u00e9 croissance de la variance r\u00e9 siduelle en fonction de la dimension de l'espace spectral pour atteindre une valeur tr\u00e8s basse en dessous de 5%. En comparaison des meilleurs r\u00e9 sultats de la mod\u00e9 lisation lin\u00e9 aire, on observe une am\u00e9 lioration significative. La d\u00e9 croissance rapide montre que la m\u00e9 thode converge avec peu de dimensions (5 pour les l\u00e8vres et 8 pour la main). Nous avons tent\u00e9 d'am\u00e9liorer ce r\u00e9sultat en utilisant l'algorithme k-means et l'algorithme EM (Expected Maximization). Nous n'avons pas obtenu de meilleurs r\u00e9sultats m\u00eame en augmentant le nombre de gaussiennes de mani\u00e8 re significative. ", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "R\u00e9 sultats de la mod\u00e9 lisation", "sec_num": "4.2" }, { "text": "L'\u00e9valuation consiste \u00e0 tester l'estimateur en fonction des dimensions de l'espace spectral sur la base des donn\u00e9 es de test (Table 1) . Nous pr\u00e9sentons les r\u00e9sultats de l'\u00e9valuation tout d'abord en terme de variance expliqu\u00e9e (Figure 3 ) pour permettre une comparaison avec la phase d'analyse puis en terme d'erreur quadratique moyenne (Figure 4 ). Ainsi sur la Figure 3 relative au param\u00e8 tre labial A, le point de la courbe \u00e0 l'abscisse p correspond au r\u00e9sultat du test en utilisant l'estimateur compos\u00e9 de 3 gaussiennes \u00e0 p dimensions dont les param\u00e8tres ont \u00e9t\u00e9 calcul\u00e9s sur la base d'apprentissage. De fa\u00e7on similaire sur la courbe correspondant \u00e0 la coordonn\u00e9 e y, le point \u00e0 l'abscisse p correspond au r\u00e9 sultat du test en utilisant l'estimateur compos\u00e9 de 5 gaussiennes \u00e0 p dimensions dont les param\u00e8tres ont \u00e9t\u00e9 calcul\u00e9s sur la base d'apprentissage. Les valeurs finales de la Figure 3 sont de l'ordre de 10 \u00e0 12 %. Ces valeurs sont sup\u00e9rieures \u00e0 celles obtenues avec les donn\u00e9es d'apprentissage tout en restant proches. Avec l'ordre d\u00e9termin\u00e9 dans l'apprentissage, on constate de l\u00e9g\u00e8res fluctuations dans la d\u00e9croissance. N\u00e9anmoins, la d\u00e9croissance reste rapide. L'ensemble montre une bonne ad\u00e9 quation du mod\u00e8 le. Ainsi la Figure 4 montre que les erreurs quadratiques moyennes suivent la m\u00ea me \u00e9 volution pour atteindre une pr\u00e9 cision finale de 0,4 cm, 0,15 cm et 0,6 cm2 pour A, B et S respectivement et 1 cm pour les coordonn\u00e9 es x et y. Pour ces derniers, la variance de la pr\u00e9 diction \u00e0 l'int\u00e9rieur de chaque position LPC est similaire \u00e0 celle des donn\u00e9es et est centr\u00e9e sur leur valeur moyenne. ", "cite_spans": [], "ref_spans": [ { "start": 125, "end": 134, "text": "(Table 1)", "ref_id": null }, { "start": 227, "end": 236, "text": "(Figure 3", "ref_id": null }, { "start": 337, "end": 346, "text": "(Figure 4", "ref_id": null }, { "start": 363, "end": 371, "text": "Figure 3", "ref_id": null }, { "start": 886, "end": 894, "text": "Figure 3", "ref_id": null }, { "start": 1235, "end": 1243, "text": "Figure 4", "ref_id": null } ], "eq_spans": [], "section": "Evaluation", "sec_num": "4.3" }, { "text": "Cet article \u00e9tudie les relations entre l'espace des param\u00e8tres spectraux de la parole et l'espace visuel de la parole et de la Langue parl\u00e9e Compl\u00e9t\u00e9e (LPC) dans l'objectif d'un mapping de l'un vers l'autre. Nous avons abord\u00e9 ce programme avec le cas des voyelles du Fran\u00e7ais. Ainsi nous avons tout d'abord explor\u00e9 la mod\u00e9lisation multi-lin\u00e9 aire pour convertir les param\u00e8 tres spectraux vers les param\u00e8 tres labiaux ainsi que les param\u00e8 tres de la Langue Parl\u00e9 e Compl\u00e9 t\u00e9 e. Les r\u00e9 sultats montrent que les meilleurs pr\u00e9 dicteurs sont 16 param\u00e8tres issus d'une analyse en composantes principales de l'ensemble compos\u00e9 de 16 coefficients LSP et 16 coefficients MFCC. L'approche lin\u00e9aire a montr\u00e9 ses limites pour le cas de la composante manuelle du LPC. Nous avons ensuite test\u00e9 l'approche GMM avec la mod\u00e9 lisation multi-gaussienne de l'espace spectral. Les r\u00e9sultats ont \u00e9t\u00e9 am\u00e9 lior\u00e9 s aussi bien pour les param\u00e8 tres de l\u00e8 vres que pour ceux de la composante LPC avec une explication de 95% de la variance totale sur le corpus d'apprentissage. Ces r\u00e9 sultats (les meilleurs obtenus) ont \u00e9 t\u00e9 observ\u00e9 s lorsque les gaussiennes \u00e9 taient distribu\u00e9 es en fonction de connaissances phon\u00e9 tiques sur les repr\u00e9 sentations labiales et LPC des voyelles du Fran\u00e7 ais. Dans le cadre de la conversion automatique, ces r\u00e9 sultats prometteurs restent \u00e0 \u00ea tre int\u00e9 gr\u00e9 s dans les syst\u00e8 mes de synth\u00e8 se visuelle de la parole pour une \u00e9 valuation perceptive aupr\u00e8 s des personnes sourdes utilisatrices du LPC.", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "Conclusion", "sec_num": "5" } ], "back_matter": [ { "text": "Les auteurs souhaitent remercier Myriam Diboui, la codeuse en LPC, pour avoir accept\u00e9 les contraintes d'enregistrement. Ces travaux sont soutenus par l'Agence Nationale de la Recherche Fran\u00e7 aise au travers des projets TELMA et PLASMODY.", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "Remerciements", "sec_num": null } ], "bib_entries": { "BIBREF0": { "ref_id": "b0", "title": "A pilot study of temporal organization in Cued Speech production of French syllables: rules for Cued Speech synthesizer", "authors": [ { "first": "V", "middle": [], "last": "Attina", "suffix": "" }, { "first": "D", "middle": [], "last": "Beautemps", "suffix": "" }, { "first": "M", "middle": [ "A" ], "last": "Cathiard", "suffix": "" }, { "first": "M", "middle": [], "last": "Odisio", "suffix": "" } ], "year": 2004, "venue": "Speech Communication", "volume": "44", "issue": "", "pages": "197--214", "other_ids": {}, "num": null, "urls": [], "raw_text": "ATTINA, V., BEAUTEMPS, D., CATHIARD, M. A. & ODISIO, M. (2004). \"A pilot study of temporal organization in Cued Speech production of French syllables: rules for Cued Speech synthesizer,\" Speech Communication, vol. 44, pp. 197-214.", "links": null }, "BIBREF1": { "ref_id": "b1", "title": "TELMA: Telephony for the Hearing-Impaired People, From Models to User Tests", "authors": [ { "first": "D", "middle": [], "last": "Beautemps", "suffix": "" }, { "first": "L", "middle": [], "last": "Girin", "suffix": "" }, { "first": "N", "middle": [], "last": "Aboutabit", "suffix": "" }, { "first": "G", "middle": [], "last": "Bailly", "suffix": "" }, { "first": "L", "middle": [], "last": "Besacier", "suffix": "" }, { "first": "G", "middle": [], "last": "Breton", "suffix": "" }, { "first": "T", "middle": [], "last": "Burger", "suffix": "" }, { "first": "A", "middle": [], "last": "Caplier", "suffix": "" }, { "first": "M", "middle": [ "A" ], "last": "Cathiard", "suffix": "" }, { "first": "D", "middle": [], "last": "Ch\u00eane", "suffix": "" }, { "first": "J", "middle": [], "last": "Clarke", "suffix": "" }, { "first": "F", "middle": [], "last": "Elisei", "suffix": "" }, { "first": "O", "middle": [], "last": "Govokhina", "suffix": "" }, { "first": "V", "middle": [ "B" ], "last": "Le", "suffix": "" }, { "first": "M", "middle": [], "last": "Marthouret", "suffix": "" }, { "first": "S", "middle": [], "last": "Mancini", "suffix": "" }, { "first": "Y", "middle": [], "last": "Mathieu", "suffix": "" }, { "first": "P", "middle": [], "last": "Perret", "suffix": "" }, { "first": "B", "middle": [], "last": "Rivet", "suffix": "" }, { "first": "P", "middle": [], "last": "Sacher", "suffix": "" }, { "first": "C", "middle": [], "last": "Savariaux", "suffix": "" }, { "first": "S", "middle": [], "last": "Schmerber", "suffix": "" }, { "first": "J", "middle": [ "F" ], "last": "S\u00e9rignat", "suffix": "" }, { "first": "M", "middle": [], "last": "Tribout", "suffix": "" }, { "first": "S", "middle": [], "last": "Vidal", "suffix": "" } ], "year": 2007, "venue": "Proceedings of. ASSISTH", "volume": "", "issue": "", "pages": "201--208", "other_ids": {}, "num": null, "urls": [], "raw_text": "BEAUTEMPS, D., GIRIN, L., ABOUTABIT, N., BAILLY, G., BESACIER, L., BRETON, G., BURGER, T., CAPLIER, A., CATHIARD, M.A., CH\u00caNE, D., CLARKE, J., ELISEI, F., GOVOKHINA, O., LE, V.B., MARTHOURET, M., MANCINI, S., MATHIEU, Y., PERRET, P., RIVET, B., SACHER, P., SAVARIAUX, C., SCHMERBER, S., S\u00c9RIGNAT, J.F., TRIBOUT, M., VIDAL, S. (2007), \"TELMA: Telephony for the Hearing-Impaired People, From Models to User Tests,\" In Proceedings of. ASSISTH 2007, pp. 201-208.", "links": null }, "BIBREF2": { "ref_id": "b2", "title": "Cued Speech", "authors": [ { "first": "R", "middle": [ "O" ], "last": "Cornett", "suffix": "" } ], "year": 1967, "venue": "American Annals of the Deaf", "volume": "112", "issue": "", "pages": "3--13", "other_ids": {}, "num": null, "urls": [], "raw_text": "CORNETT, R. O. (1967). \"Cued Speech,\" American Annals of the Deaf ,112, 3-13, 1967.", "links": null }, "BIBREF3": { "ref_id": "b3", "title": "Cued Speech, manual complement to lipreading, for visual reception of spoken language", "authors": [ { "first": "R", "middle": [ "O" ], "last": "Cornett", "suffix": "" } ], "year": 1988, "venue": "Acta Oto-Rhino-Laryngologica Belgica", "volume": "42", "issue": "3", "pages": "375--384", "other_ids": {}, "num": null, "urls": [], "raw_text": "CORNETT, R. O. (1988). \"Cued Speech, manual complement to lipreading, for visual reception of spoken language.\" Principles, practice and prospects for automation. Acta Oto-Rhino-Laryngologica Belgica 42(3): 375-384.", "links": null }, "BIBREF4": { "ref_id": "b4", "title": "Development of speechreading supplements based on automatic speech recognition", "authors": [ { "first": "P", "middle": [], "last": "Duchnovski", "suffix": "" }, { "first": "D", "middle": [ "S" ], "last": "Lum", "suffix": "" }, { "first": "J", "middle": [ "C" ], "last": "Krause", "suffix": "" }, { "first": "M", "middle": [ "G" ], "last": "Sexton", "suffix": "" }, { "first": "M", "middle": [ "S D" ], "last": "Bratakos And L", "suffix": "" }, { "first": "", "middle": [], "last": "Braida", "suffix": "" } ], "year": 2000, "venue": "IEEE Transactions on Biomedical Engineering", "volume": "47", "issue": "4", "pages": "487--496", "other_ids": {}, "num": null, "urls": [], "raw_text": "DUCHNOVSKI, P., D. S. LUM, J. C. KRAUSE, M. G. SEXTON, M. S. BRATAKOS AND L. D. BRAIDA (2000). \"Development of speechreading supplements based on automatic speech recognition.\" IEEE Transactions on Biomedical Engineering 47(4): 487-496.", "links": null }, "BIBREF5": { "ref_id": "b5", "title": "Analysis and synthesis of the 3D movements of the head, face and hand of a speaker using Cued Speech", "authors": [ { "first": "G", "middle": [], "last": "Gibert", "suffix": "" }, { "first": "G", "middle": [], "last": "Bailly", "suffix": "" }, { "first": "D", "middle": [], "last": "Beautemps", "suffix": "" }, { "first": "F", "middle": [], "last": "Elisei", "suffix": "" }, { "first": "R", "middle": [], "last": "Brun", "suffix": "" } ], "year": 2005, "venue": "J. Acoust. Soc. Am", "volume": "118", "issue": "2", "pages": "1144--1153", "other_ids": {}, "num": null, "urls": [], "raw_text": "GIBERT, G., BAILLY, G., BEAUTEMPS, D., ELISEI, F., & BRUN, R. (2005). \"Analysis and synthesis of the 3D movements of the head, face and hand of a speaker using Cued Speech,\" J. Acoust. Soc. Am., vol. 118(2), pp. 1144-1153.", "links": null }, "BIBREF6": { "ref_id": "b6", "title": "Statistical Mapping between Articulatory and Acoustic Data for an Ultrasound-based Silent Speech Interface", "authors": [ { "first": "T", "middle": [], "last": "Hueber", "suffix": "" }, { "first": "E", "middle": [ "L" ], "last": "Benaroya", "suffix": "" }, { "first": "B", "middle": [], "last": "Denby", "suffix": "" }, { "first": "G", "middle": [], "last": "Chollet", "suffix": "" } ], "year": 2011, "venue": "Proceedings of Interspeech", "volume": "", "issue": "", "pages": "593--596", "other_ids": {}, "num": null, "urls": [], "raw_text": "HUEBER, T., BENAROYA, E.L, DENBY, B., CHOLLET, G. (2011). \"Statistical Mapping between Articulatory and Acoustic Data for an Ultrasound-based Silent Speech Interface\", Proceedings of Interspeech, pp. 593-596, Firenze, Italia.", "links": null }, "BIBREF7": { "ref_id": "b7", "title": "High-resolution voice transformation (PhD", "authors": [ { "first": "A", "middle": [], "last": "Kain", "suffix": "" } ], "year": 2001, "venue": "", "volume": "", "issue": "", "pages": "", "other_ids": {}, "num": null, "urls": [], "raw_text": "KAIN, A. (2001). High-resolution voice transformation (PhD, OGI School of Science & Engineering, Oregon Health & Science University).", "links": null }, "BIBREF9": { "ref_id": "b9", "title": "PHONOLOGY ACQUIRED THROUGH THE EYES AND SPELLING IN DEAF CHILDREN", "authors": [ { "first": "J", "middle": [], "last": "Leybaert", "suffix": "" } ], "year": 2000, "venue": "JOURNAL OF EXPERIMENTAL CHILD PSYCHOLOGY", "volume": "75", "issue": "", "pages": "291--318", "other_ids": {}, "num": null, "urls": [], "raw_text": "LEYBAERT, J., 2000. PHONOLOGY ACQUIRED THROUGH THE EYES AND SPELLING IN DEAF CHILDREN. JOURNAL OF EXPERIMENTAL CHILD PSYCHOLOGY 75, 291-318.", "links": null } }, "ref_entries": { "FIGREF0": { "text": "Variance r\u00e9 siduelle de la pr\u00e9 diction des param\u00e8 tres labiaux, de gauche \u00e0 droite respectivement A, B et S, exprim\u00e9 s chacun relativement \u00e0 leur variance totale, en fonction du nombre de pr\u00e9 dicteurs (leurs composantes principales) et pour chaque ensemble de pr\u00e9 dicteurs : 2, 4 formants (fmt), MFCC, LSP et l'ensemble de MFCC-LSP.", "num": null, "uris": null, "type_str": "figure" }, "FIGREF2": { "text": "Variance r\u00e9 siduelle des param\u00e8 tres labiaux et de main exprim\u00e9 s chacun relativement \u00e0 leur variance totale, en fonction de la dimension de l'espace spectral.", "num": null, "uris": null, "type_str": "figure" }, "FIGREF4": { "text": "Variance r\u00e9 siduelle sur les donn\u00e9 es de test des param\u00e8 tres labiaux et de main exprim\u00e9 s chacun relativement \u00e0 leur variance totale, en fonction de la dimension de la dimension de l'espace spectral. Erreur quadratique moyenne (RMSE) sur les donn\u00e9 es de test des param\u00e8 tres labiaux et de main en fonction de la dimension de l'espace spectral.", "num": null, "uris": null, "type_str": "figure" }, "TABREF0": { "text": "avec pour chacun, les 4 composantes principales (par Analyse en Composantes Principales) de l'ensemble des 4 formants, les 16 composantes principales des coefficients LSP, ceux des coefficients MFCCs, les 32 composantes principales de l'ensemble des coefficients LSP et MFCC, les coordonn\u00e9 es (x,y) li\u00e9 s \u00e0 la main et les 3 param\u00e8 tres labiaux (A,B,S).Table 1-Bases de donn\u00e9 es des 331 voyelles pour l'apprentissage et 263 pour le test. M\u00e9 thode L'objectif de cette partie est de pr\u00e9dire les param\u00e8 tres labiaux (A,B,S) et de main (x,y) \u00e0 partir des param\u00e8 tres spectraux (leurs composantes principales Fi) par la m\u00e9thode de pr\u00e9diction multi-lin\u00e9aire. De fa\u00e7on \u00e0 ordonner ces pr\u00e9dicteurs Fi, le coefficient de corr\u00e9lation \uf072\uf020de chacun des i F avec le param\u00e8tre \u00e0 pr\u00e9dire est calcul\u00e9. Les pr\u00e9 dicteurs sont alors ordonn\u00e9 s dans le sens d\u00e9 croissant des valeurs de leur \uf072 pour donner un ensemble ordonn\u00e9 {F 1 ,F 2 ,\u2026F 32 }. Ainsi pour le param\u00e8 tre B, celui-ci est tout d'abord centr\u00e9 sur sa valeur moyenne puis soumis \u00e0 une r\u00e9 gression lin\u00e9 aire avec F 1 ce qui permet d'obtenir le coefficient 1 k de r\u00e9gression lin\u00e9aire. L'erreur r\u00e9siduelle de pr\u00e9diction est alors soumise \u00e0 une r\u00e9 gression lin\u00e9 aire avec F 2 et ainsi de suite jusqu'\u00e0 l'ordre p (p entier tel que 1\u2264p\u226432). La formule de pr\u00e9diction \u00e0 l'ordre p s'\u00e9crit alors :", "html": null, "num": null, "content": "
Taille[a] [i] [u] [y] \uf05b\uf04f\uf05d\uf020 \uf05b\uf0bf\uf05d\uf020[e] \uf05b\uf045\uf05d\uf020 [o] \uf05b\uf08d\uf05d\uf020
331 (apprentissage) 24 67 22 10 28 37 51 68 15 9
263 (test)35 51 14 14 14 19 50 42 15 9
3 La mod\u00e9 lisation multi-lin\u00e9 aire
3.1.
", "type_str": "table" }, "TABREF2": { "text": "la matrice de covariance entre x et le y calcul\u00e9 e sur le sous-ensemble de donn\u00e9 es i et Y i \uf06d la moyenne du param\u00e8 tre y de ce m\u00ea me sous-ensemble. Dans cette exp\u00e9 rience, le nombre de gaussiennes a \u00e9 t\u00e9 fix\u00e9 \u00e0 m=3 pour l'estimation des param\u00e8tres labiaux. En effet dans cet espace les voyelles sont traditionnellement r\u00e9 parties en 3 sousensembles de voyelles (les vis\u00e8 mes) : [a,i,e,\uf045],[y,o,u,\uf04f] et", "html": null, "num": null, "content": "
4 La mod\u00e9 lisation multi-gaussienne GMM
4.1. M\u00e9 thode
Dans cette partie, l'espace spectral est caract\u00e9 ris\u00e9 par les 16 premi\u00e8 res composantes
principales de l'ensemble des coefficients LSP et MFCC, composant les \u00e9l\u00e9ments du
vecteur x de dimension N (1\u2264N\u226432): En r\u00e9 f\u00e9 rence \u00e0 la formulation de Kain (2001) (voir
aussi Hueber et al., 2011), l'estimateur (au sens des moindres carr\u00e9 s) du param\u00e8 tre y est
une combinaison de l'observation x pond\u00e9 r\u00e9 es par les m probabilit\u00e9 s P(ci/x) additionn\u00e9 e
d'un biais :
P(ci/x) \u00e9 tant la probabilit\u00e9 conditionnelle a posteriori que l'observation x soit g\u00e9 n\u00e9 r\u00e9 e par le mod\u00e8 le gaussien ci (de moyenne X i \uf06d et de covariance YX i \uf0e5 ),
i W et
", "type_str": "table" } } } }