{ "paper_id": "F13-1033", "header": { "generated_with": "S2ORC 1.0.0", "date_generated": "2023-01-19T09:42:04.547298Z" }, "title": "Un cadre d'apprentissage int\u00e9gralement discriminant pour la traduction statistique", "authors": [ { "first": "Thomas", "middle": [], "last": "Lavergne", "suffix": "", "affiliation": { "laboratory": "", "institution": "Universit\u00e9 Paris Sud 91", "location": {} }, "email": "lavergne@limsi.fr" }, { "first": "Alexandre", "middle": [], "last": "Allauzen", "suffix": "", "affiliation": { "laboratory": "", "institution": "Universit\u00e9 Paris Sud 91", "location": {} }, "email": "allauzen@limsi.fr" }, { "first": "Fran\u00e7ois", "middle": [], "last": "Yvon", "suffix": "", "affiliation": { "laboratory": "", "institution": "Universit\u00e9 Paris Sud 91", "location": {} }, "email": "yvon@limsi.fr" } ], "year": "", "venue": null, "identifiers": {}, "abstract": "Une faiblesse des syst\u00e8mes de traduction statistiques est le caract\u00e8re ad hoc du processus d'apprentissage, qui repose sur un empilement d'heuristiques et conduit \u00e0 apprendre des param\u00e8tres dont la valeur est sous-optimale. Dans ce travail, nous reformulons la traduction automatique sous la forme famili\u00e8re de l'apprentissage d'un mod\u00e8le probabiliste structur\u00e9 utilisant une param\u00e9trisation log-lin\u00e9aire. Cette entreprise est rendue possible par le d\u00e9veloppement d'une implantation efficace qui permet en particulier de prendre en compte la pr\u00e9sence de variables latentes dans le mod\u00e8le. Notre approche est compar\u00e9e, avec succ\u00e8s, avec une approche de l'\u00e9tat de l'art sur la t\u00e2che de traduction de donn\u00e9es du BTEC pour le couple Fran\u00e7ais-Anglais.", "pdf_parse": { "paper_id": "F13-1033", "_pdf_hash": "", "abstract": [ { "text": "Une faiblesse des syst\u00e8mes de traduction statistiques est le caract\u00e8re ad hoc du processus d'apprentissage, qui repose sur un empilement d'heuristiques et conduit \u00e0 apprendre des param\u00e8tres dont la valeur est sous-optimale. Dans ce travail, nous reformulons la traduction automatique sous la forme famili\u00e8re de l'apprentissage d'un mod\u00e8le probabiliste structur\u00e9 utilisant une param\u00e9trisation log-lin\u00e9aire. Cette entreprise est rendue possible par le d\u00e9veloppement d'une implantation efficace qui permet en particulier de prendre en compte la pr\u00e9sence de variables latentes dans le mod\u00e8le. Notre approche est compar\u00e9e, avec succ\u00e8s, avec une approche de l'\u00e9tat de l'art sur la t\u00e2che de traduction de donn\u00e9es du BTEC pour le couple Fran\u00e7ais-Anglais.", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "Abstract", "sec_num": null } ], "body_text": [ { "text": "L'objectif d'un syst\u00e8me de traduction statistique (STS) consiste \u00e0 calculer, pour toute phrase en langue source s, la traduction t * qui lui est la plus probablement associ\u00e9e. Ce r\u00e9sultat est typiquement obtenu en maximisant une fonction de score \u03a6 \u03b8 (s, t), param\u00e9tris\u00e9e par le vecteur \u03b8 , sur l'ensemble de toutes les traductions possibles de s. Un choix raisonnable pour \u03a6 est la probabilit\u00e9 conditionnelle de t sachant s p \u03b8 (t | s).", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "Introduction", "sec_num": "1" }, { "text": "\u00c9tant donn\u00e9e la taille des espaces d'entr\u00e9e et de sortie sur lesquels de tels mod\u00e8les probabilistes TALN-R\u00c9CITAL 2013, 17-21 Juin, Les Sables d'Olonne doivent \u00eatre d\u00e9finis, un mod\u00e8le pour t sachant s doit \u00eatre d\u00e9compos\u00e9 en mod\u00e9lisant la traduction par une s\u00e9quence d'\u00e9tapes de d\u00e9rivation. Dans les syst\u00e8mes \u00e0 base de segments (phrase-based systems) (Zens et al., 2002; Koehn et al., 2003) , qui seront consid\u00e9r\u00e9s dans cette \u00e9tude, ces \u00e9tapes de d\u00e9rivation correspondent \u00e0 des d\u00e9cisions qui portent (a) sur la d\u00e9limitation des unit\u00e9s de traduction en langue source, (b) sur le choix d'un \u00e9quivalent de traduction pour chaque unit\u00e9 d\u00e9finie en (a) ; enfin sur l'ordre relatif dans lequel sont r\u00e9arrang\u00e9es (on dira r\u00e9ordonn\u00e9es) les unit\u00e9s cibles s\u00e9lectionn\u00e9es en (b). Dans la mesure o\u00f9 l'apprentissage se fonde uniquement sur l'observation des paires (s, t), ces d\u00e9rivations ne sont pas observ\u00e9es pendant l'apprentissage et doivent \u00eatre incorpor\u00e9es sous la forme de variables latentes.", "cite_spans": [ { "start": 100, "end": 124, "text": "TALN-R\u00c9CITAL 2013, 17-21", "ref_id": null }, { "start": 349, "end": 368, "text": "(Zens et al., 2002;", "ref_id": "BIBREF38" }, { "start": 369, "end": 388, "text": "Koehn et al., 2003)", "ref_id": "BIBREF16" } ], "ref_spans": [], "eq_spans": [], "section": "Introduction", "sec_num": "1" }, { "text": "Chacune de ces \u00e9tapes de d\u00e9rivation doit \u00eatre mod\u00e9lis\u00e9e et associ\u00e9e \u00e0 un param\u00e8tre num\u00e9rique, qui est r\u00e9gl\u00e9 de fa\u00e7on \u00e0 ce que le syst\u00e8me r\u00e9sultant engendre les meilleures traductions possibles. Ainsi, dans les syst\u00e8mes \u00e0 base de segments, chaque unit\u00e9 de traduction source est nantie d'un ensemble de param\u00e8tres qui valuent les diff\u00e9rentes alternatives de traduction et de r\u00e9ordonnancement pour ce segment.", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "Introduction", "sec_num": "1" }, { "text": "Dans la plupart des syst\u00e8mes de traduction (voir (Koehn, 2010) pour un \u00e9tat de l'art r\u00e9cent, ou, en fran\u00e7ais ), l'apprentissage de ces param\u00e8tres s'effectue en deux temps : (i) en premier lieu, plusieurs mod\u00e8les probabilistes sont estim\u00e9s de mani\u00e8re ind\u00e9pendante, en utilisant de tr\u00e8s gros corpus monolingues ou bilingues parall\u00e8les. Une \u00e9tape suppl\u00e9mentaire (ii) d'apprentissage (souvent d\u00e9sign\u00e9e sous le nom de tuning) est ensuite n\u00e9cessaire pour \u00e9quilibrer la contribution de chacun de ces mod\u00e8les \u00e0 la fonction de score. Cette seconde \u00e9tape, r\u00e9alis\u00e9e sur des corpus de d\u00e9veloppement de taille r\u00e9duite, conduit au calcul de param\u00e8tres globaux (un pour chaque mod\u00e8le estim\u00e9 en (i)), qui sont r\u00e9gl\u00e9s de mani\u00e8re discriminante, c'est-\u00e0-dire en cherchant \u00e0 maximiser explicitement une mesure de qualit\u00e9 de la traduction, sous l'hypoth\u00e8se que les scores se combinent lin\u00e9airement. Ceci implique, par exemple, que le param\u00e8tre \u03b8 (s,t) qui \u00e9value la plausibilit\u00e9 que le segment 1 source s se traduise t est calcul\u00e9 comme le produit d'un poids global, r\u00e9gl\u00e9 de mani\u00e8re discriminante sur un ensemble de d\u00e9veloppement, avec un score local, calcul\u00e9 de mani\u00e8re heuristique sur de larges corpus. Comme soulign\u00e9 dans de nombreuses \u00e9tudes, ce processus \u00e0 deux \u00e9tages conduit \u00e0 des param\u00e8tres sous-optimaux ; pour obtenir des r\u00e9sultats stables, il est \u00e9galement n\u00e9cessaire de limiter le nombre de mod\u00e8les combin\u00e9s en (ii) \u00e0 quelques dizaines d'unit\u00e9s (voir cependant (Liang et al., 2006; Chiang et al., 2009; Blunsom et al., 2008; Simianer et al., 2012) pour des tentatives de contourner cette limitation).", "cite_spans": [ { "start": 49, "end": 62, "text": "(Koehn, 2010)", "ref_id": "BIBREF14" }, { "start": 1453, "end": 1473, "text": "(Liang et al., 2006;", "ref_id": "BIBREF21" }, { "start": 1474, "end": 1494, "text": "Chiang et al., 2009;", "ref_id": "BIBREF6" }, { "start": 1495, "end": 1516, "text": "Blunsom et al., 2008;", "ref_id": "BIBREF2" }, { "start": 1517, "end": 1539, "text": "Simianer et al., 2012)", "ref_id": "BIBREF29" } ], "ref_spans": [], "eq_spans": [], "section": "Introduction", "sec_num": "1" }, { "text": "Dans ce travail, \u00e0 la suite de (Liang et al., 2006; Blunsom et al., 2008; Dyer et Resnik, 2010) , nous explorons une approche alternative, dans laquelle tous les param\u00e8tres du mod\u00e8le sont appris simultan\u00e9ment (plut\u00f4t qu'ind\u00e9pendamment) et de mani\u00e8re discriminante (plut\u00f4t qu'heuristique) ; cet apprentissage est r\u00e9alis\u00e9 en optimisant une fonction objectif bien connue sur l'int\u00e9gralit\u00e9 des donn\u00e9es d'entra\u00eenement (plut\u00f4t qu'un petit ensemble de d\u00e9veloppement). Notre architecture permet de se dispenser presqu'enti\u00e8rement du besoin d'estimer des mod\u00e8les s\u00e9par\u00e9s puis de r\u00e9gler les param\u00e8tres pour les recombiner : ces deux \u00e9tapes sont ici r\u00e9alis\u00e9es simultan\u00e9ment.", "cite_spans": [ { "start": 31, "end": 51, "text": "(Liang et al., 2006;", "ref_id": "BIBREF21" }, { "start": 52, "end": 73, "text": "Blunsom et al., 2008;", "ref_id": "BIBREF2" }, { "start": 74, "end": 95, "text": "Dyer et Resnik, 2010)", "ref_id": "BIBREF11" } ], "ref_spans": [], "eq_spans": [], "section": "Introduction", "sec_num": "1" }, { "text": "Dans cette approche, l'apprentissage ne demande que (a) un corpus parall\u00e8le, (b) un inventaire des unit\u00e9s de traductions et (c) un m\u00e9canisme pour produire des hypoth\u00e8ses de r\u00e9ordonnancement. Il est important de noter que (b) peut \u00eatre obtenu de plusieurs mani\u00e8res, par exemple en fouillant des corpus comparables, et/ou en exploitant des dictionnaires et des terminologies bilingues. De m\u00eame, plusieurs options existent pour (c), comme d'utiliser des mod\u00e8les de r\u00e9ordonnancement simples tels que IBM-n (Tillmann et Ney, 2003) et WJ-n (Kumar et Byrne, 2005) ou encore d'apprendre les r\u00e8gles de r\u00e9ordonnancement, comme nous le ferons ici. L'implantation d'un cadre discriminant int\u00e9gr\u00e9 pour la traduction statistique implique toutefois de r\u00e9soudre plusieurs probl\u00e8mes pratiques et th\u00e9oriques li\u00e9s \u00e0 la pr\u00e9sence de variables latentes dans le mod\u00e8le et \u00e0 l'impossibilit\u00e9 de disposer de donn\u00e9es de supervision pour certaines paires de phrases lorsque la traduction de r\u00e9f\u00e9rence ne peut \u00eatre produite par le mod\u00e8le (on dit alors que la r\u00e9f\u00e9rence est non atteignable). Ces probl\u00e8mes sont r\u00e9solus respectivement en sommant (marginalisant) sur toutes les d\u00e9rivations possibles et en recourant \u00e0 des traductions oracles.", "cite_spans": [ { "start": 502, "end": 525, "text": "(Tillmann et Ney, 2003)", "ref_id": "BIBREF35" }, { "start": 534, "end": 556, "text": "(Kumar et Byrne, 2005)", "ref_id": "BIBREF17" } ], "ref_spans": [], "eq_spans": [], "section": "Introduction", "sec_num": "1" }, { "text": "Les contributions de ce travail, qui d\u00e9veloppe et \u00e9tend la proposition pr\u00e9sent\u00e9e dans (Lavergne et al., 2011) en s'affranchissant du besoin de disposer d'alignements de r\u00e9f\u00e9rence, sont multiples : la conception d'un mod\u00e8le int\u00e9gr\u00e9 pour la traduction automatique, qui rend possible l'utilisation d'un grand nombre de traits linguistiques ; une impl\u00e9mentation modulaire qui, en s'appuyant sur le formalisme des transducteurs finis pond\u00e9r\u00e9s (WFST), b\u00e9n\u00e9ficie d'algorithmes efficaces aussi bien pour l'apprentissage que pour l'inf\u00e9rence ; et l'\u00e9tude de plusieurs mani\u00e8res de traiter le probl\u00e8me des r\u00e9f\u00e9rences non atteignables. Notre contribution est aussi exp\u00e9rimentale, puisque nous montrons que le syst\u00e8me ainsi construit s'av\u00e8re capable de surpasser un syst\u00e8me tr\u00e8s performant sur une t\u00e2che de complexit\u00e9 moyenne.", "cite_spans": [ { "start": 86, "end": 109, "text": "(Lavergne et al., 2011)", "ref_id": "BIBREF20" } ], "ref_spans": [], "eq_spans": [], "section": "Introduction", "sec_num": "1" }, { "text": "Le reste de cet article est organis\u00e9 comme suit. Nous commen\u00e7ons par clarifier, \u00e0 la section 2, les concepts n\u00e9cessaires \u00e0 la formulation de notre cadre discriminant et comparons notre approche avec d'autres implantations de l'apprentissage discriminant en traduction automatique. Nous introduisons ensuite plus pr\u00e9cis\u00e9ment (section 3), notre mod\u00e8le de traduction et discutons plusieurs d\u00e9tails d'implantation. Les sections ult\u00e9rieures sont consacr\u00e9es respectivement \u00e0 deux aspects pratiques : le probl\u00e8me des r\u00e9f\u00e9rences non atteignables (Section 4), puis la conception d'un ensemble performant de descripteurs (section 5). Nous d\u00e9crivons \u00e0 la section 6 les principaux r\u00e9sultats exp\u00e9rimentaux obtenus sur la t\u00e2che de traduction fran\u00e7ais-anglais utilisant les donn\u00e9es du corpus BTEC. Les sections conclusives permettent finalement de positionner notre travail par rapport \u00e0 l'\u00e9tat de l'art (section 7), puis de pr\u00e9senter bri\u00e8vement diverses extensions de cette approche.", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "Introduction", "sec_num": "1" }, { "text": "Comme expliqu\u00e9 supra, les STS mod\u00e9lisent le processus de g\u00e9n\u00e9ration d'une traduction sous la forme d'une successions d'\u00e9tapes de d\u00e9rivation. Ainsi, dans l'approche \u00e0 base de n-gramme (Mari\u00f1o et al., 2006; Crego et Mari\u00f1o, 2007) , sur laquelle nous nous appuyons principalement dans cet article, les traductions sont engendr\u00e9es de la mani\u00e8re suivante 2 :", "cite_spans": [ { "start": 183, "end": 204, "text": "(Mari\u00f1o et al., 2006;", "ref_id": "BIBREF22" }, { "start": 205, "end": 227, "text": "Crego et Mari\u00f1o, 2007)", "ref_id": "BIBREF7" } ], "ref_spans": [], "eq_spans": [], "section": "Apprentissage discriminant en traduction statistique 2.1 Inf\u00e9rence", "sec_num": "2" }, { "text": "1. la phrase source est r\u00e9ordonn\u00e9e de mani\u00e8re non-d\u00e9terministe et transform\u00e9e en un graphe de r\u00e9ordonnancement ;", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "Apprentissage discriminant en traduction statistique 2.1 Inf\u00e9rence", "sec_num": "2" }, { "text": "2. ce graphe est ensuite \u00e9tendu en consid\u00e9rant toutes les d\u00e9compositions possibles de la phrase source en segments ;", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "Apprentissage discriminant en traduction statistique 2.1 Inf\u00e9rence", "sec_num": "2" }, { "text": "2. Les d\u00e9rivations des syst\u00e8mes \u00e0 base de segment telles que formul\u00e9es dans (Koehn et al., 2007) 3. un mod\u00e8le de traduction est alors appliqu\u00e9 sur cette entr\u00e9e \u00e9tendue, de mani\u00e8re \u00e0 g\u00e9n\u00e9rer le graphe de recherche de toutes les traductions possibles ;", "cite_spans": [ { "start": 76, "end": 96, "text": "(Koehn et al., 2007)", "ref_id": "BIBREF15" } ], "ref_spans": [], "eq_spans": [], "section": "Apprentissage discriminant en traduction statistique 2.1 Inf\u00e9rence", "sec_num": "2" }, { "text": "4. ce graphe est finalement parcouru pour rechercher la traduction de meilleur score.", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "Apprentissage discriminant en traduction statistique 2.1 Inf\u00e9rence", "sec_num": "2" }, { "text": "Chaque hypoth\u00e8se de traduction t d'une phrase source s est ainsi associ\u00e9e \u00e0 une ou plusieurs d\u00e9rivations latentes a, o\u00f9 a repr\u00e9sente toutes les variables qui sont impliqu\u00e9es dans les \u00e9tapes de d\u00e9rivation (1-3). Chaque triplet (s, a, t) est repr\u00e9sent\u00e9 comme un vecteur de caract\u00e9ristiques G et son score est calcul\u00e9 par le produit scalaire (\u03b8 est le vecteur de param\u00e8tres) :", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "Apprentissage discriminant en traduction statistique 2.1 Inf\u00e9rence", "sec_num": "2" }, { "text": "EQUATION", "cite_spans": [], "ref_spans": [], "eq_spans": [ { "start": 0, "end": 8, "text": "EQUATION", "ref_id": "EQREF", "raw_str": "\u03a6(s, a, t) = \u03b8 T G(s, a, t)", "eq_num": "(1)" } ], "section": "Apprentissage discriminant en traduction statistique 2.1 Inf\u00e9rence", "sec_num": "2" }, { "text": "Il est ais\u00e9 de transformer ces scores en probabilit\u00e9s en d\u00e9finissant p \u03b8 (t, a | s) comme suit :", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "Apprentissage discriminant en traduction statistique 2.1 Inf\u00e9rence", "sec_num": "2" }, { "text": "EQUATION", "cite_spans": [], "ref_spans": [], "eq_spans": [ { "start": 0, "end": 8, "text": "EQUATION", "ref_id": "EQREF", "raw_str": "p \u03b8 (t, a | s) = exp \u03b8 G(t, a, s) a \u2208 (s) t \u2208 (a ,s) exp \u03b8 G(t , a , s) ,", "eq_num": "(2)" } ], "section": "Apprentissage discriminant en traduction statistique 2.1 Inf\u00e9rence", "sec_num": "2" }, { "text": "o\u00f9 (s) est l'ensemble de toutes les assignations possibles des variables latentes et o\u00f9 (a, s) repr\u00e9sente l'ensemble de toutes les traductions possibles de s sachant une assignation particuli\u00e8re de a. La probabilit\u00e9 conditionnelle de t sachant s s'en d\u00e9duit par sommation selon :", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "Apprentissage discriminant en traduction statistique 2.1 Inf\u00e9rence", "sec_num": "2" }, { "text": "EQUATION", "cite_spans": [], "ref_spans": [], "eq_spans": [ { "start": 0, "end": 8, "text": "EQUATION", "ref_id": "EQREF", "raw_str": "p \u03b8 (t | s) = a\u2208 (s) p \u03b8 (t, a | s)", "eq_num": "(3)" } ], "section": "Apprentissage discriminant en traduction statistique 2.1 Inf\u00e9rence", "sec_num": "2" }, { "text": "La r\u00e8gle d'inf\u00e9rence optimale consiste \u00e0 choisir la meilleure traduction t * pour s selon :", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "Apprentissage discriminant en traduction statistique 2.1 Inf\u00e9rence", "sec_num": "2" }, { "text": "EQUATION", "cite_spans": [], "ref_spans": [], "eq_spans": [ { "start": 0, "end": 8, "text": "EQUATION", "ref_id": "EQREF", "raw_str": "t * = arg max t p \u03b8 (t | s) = arg max t a\u2208 (s) p \u03b8 (t, a | s),", "eq_num": "(4)" } ], "section": "Apprentissage discriminant en traduction statistique 2.1 Inf\u00e9rence", "sec_num": "2" }, { "text": "La somme (4) devant \u00eatre r\u00e9alis\u00e9e pour chaque traduction possible t, il s'av\u00e8re toutefois que l'inf\u00e9rence ainsi d\u00e9finie donne lieu \u00e0 un probl\u00e8me combinatoire NP-difficile. C'est pourquoi la plupart des syst\u00e8mes de traduction se contentent d'utiliser une approximation, dite de Viterbi, qui correspond \u00e0 l'utilisation de la r\u00e8gle d'inf\u00e9rence plus simple suivante :", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "Apprentissage discriminant en traduction statistique 2.1 Inf\u00e9rence", "sec_num": "2" }, { "text": "EQUATION", "cite_spans": [], "ref_spans": [], "eq_spans": [ { "start": 0, "end": 8, "text": "EQUATION", "ref_id": "EQREF", "raw_str": "t * = h \u03b8 (s) = arg max t,a p \u03b8 (t, a | s),", "eq_num": "(5)" } ], "section": "Apprentissage discriminant en traduction statistique 2.1 Inf\u00e9rence", "sec_num": "2" }, { "text": "On notera que cette r\u00e8gle permet \u00e9galement de recouvrer la d\u00e9rivation latente optimale a * .", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "Apprentissage discriminant en traduction statistique 2.1 Inf\u00e9rence", "sec_num": "2" }, { "text": "Le mod\u00e8le introduit ci-dessus est suffisamment g\u00e9n\u00e9ral pour rendre compte de la plupart des syst\u00e8mes \u00e0 base de segments et peut \u00eatre instanci\u00e9 de multiples mani\u00e8res. Comme mentionn\u00e9 plus haut, l'architecture la plus utilis\u00e9e (Koehn, 2010) s'appuie sur plusieurs couches de mod\u00e9lisation statistique. La premi\u00e8re couche correspond \u00e0 l'estimation, sur des corpus monolingues et/ou parall\u00e8les, d'un ensemble de mod\u00e8les probabilistes, les plus importants \u00e9tant le mod\u00e8le de langue, le mod\u00e8le de traduction et le mod\u00e8le de r\u00e9ordonnancement, qui sont usuellement estim\u00e9s au maximum de vraisemblance 3 . Chaque mod\u00e8le ainsi calcul\u00e9 correspond \u00e0 une composante du vecteur G introduit en (1) : G k (t, a, s) est le score, pour le k \u00e8me mod\u00e8le, de la d\u00e9rivation a qui produit t \u00e0 partir de s.", "cite_spans": [ { "start": 225, "end": 238, "text": "(Koehn, 2010)", "ref_id": "BIBREF14" } ], "ref_spans": [], "eq_spans": [], "section": "Apprentissage discriminant (version standard)", "sec_num": "2.2" }, { "text": "Le seconde couche d'apprentissage est effectu\u00e9e de mani\u00e8re discriminante : son implantation la plus utilis\u00e9e, Minimum Error Rate Training (MERT) (Och, 2003) , consiste \u00e0 r\u00e9soudre le probl\u00e8me d'optimisation suivant : \u00e9tant donn\u00e9 un ensemble de couples entr\u00e9e/sortie {(s n , t n ), n = 1 . . . N }, trouver les param\u00e8tres optimaux satisfaisant :", "cite_spans": [ { "start": 145, "end": 156, "text": "(Och, 2003)", "ref_id": "BIBREF23" } ], "ref_spans": [], "eq_spans": [], "section": "Apprentissage discriminant (version standard)", "sec_num": "2.2" }, { "text": "EQUATION", "cite_spans": [], "ref_spans": [], "eq_spans": [ { "start": 0, "end": 8, "text": "EQUATION", "ref_id": "EQREF", "raw_str": "\u03b8 * = arg max BLEU {(s n , h \u03b8 (s n ), t n ), n = 1 . . . N } ,", "eq_num": "(6)" } ], "section": "Apprentissage discriminant (version standard)", "sec_num": "2.2" }, { "text": "o\u00f9 BLEU (Papineni et al., 2002) est une mesure automatique de la qualit\u00e9 de traduction. La r\u00e9solution de ce probl\u00e8me n'est en pratique faisable que lorsque \u03b8 est de dimension r\u00e9duite. On retiendra \u00e9galement que sa r\u00e9solution requiert d'identifier une d\u00e9rivation optimale, par exemple celle qui conduit au meilleur score BLEU parmi une liste de n meilleurs candidats.", "cite_spans": [ { "start": 8, "end": 31, "text": "(Papineni et al., 2002)", "ref_id": "BIBREF24" } ], "ref_spans": [], "eq_spans": [], "section": "Apprentissage discriminant (version standard)", "sec_num": "2.2" }, { "text": "Dans cette section, nous proposons une autre instanciation du cadre d'apprentissage d\u00e9crit ci-dessus, dans lequel l'estimation de tous les param\u00e8tres du mod\u00e8le est r\u00e9alis\u00e9e de mani\u00e8re int\u00e9gr\u00e9e et discriminante, ce qui constitue une diff\u00e9rence fondamentale avec la plupart des autres approches discriminantes en traduction statistique (voir \u00e9galement la discussion de la section 7). Comme on le verra, notre mod\u00e8le s'inspire largement du mod\u00e8le des champs al\u00e9atoires conditionnels (CRF, voir (Lafferty et al., 2001 )) qu'il \u00e9tend de plusieurs mani\u00e8res.", "cite_spans": [ { "start": 491, "end": 513, "text": "(Lafferty et al., 2001", "ref_id": "BIBREF19" } ], "ref_spans": [], "eq_spans": [], "section": "Apprentissage discriminant (version int\u00e9gr\u00e9e)", "sec_num": "3" }, { "text": "L'apprentissage est r\u00e9alis\u00e9 en maximisant la (log) vraisemblance conditionnelle d\u00e9finie par :", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "Apprentissage du mod\u00e8le", "sec_num": "3.1" }, { "text": "EQUATION", "cite_spans": [], "ref_spans": [], "eq_spans": [ { "start": 0, "end": 8, "text": "EQUATION", "ref_id": "EQREF", "raw_str": "(\u03b8 ) = n \uf8ee \uf8ef \uf8ef \uf8f0 log a\u2208 (s n ) exp \u03b8 G(t n , a, s n ) \u2212 log a\u2208 (s n ) t\u2208 (a,s n ) exp \u03b8 G(t, a, s n ) \uf8f9 \uf8fa \uf8fa \uf8fb", "eq_num": "(7)" } ], "section": "Apprentissage du mod\u00e8le", "sec_num": "3.1" }, { "text": "Comme expliqu\u00e9 ci-dessus, nous ne consid\u00e9rons que des d\u00e9rivations a qui sont rationnelles et correspondent \u00e0 la s\u00e9rie d'\u00e9tapes (1-3) introduites \u00e0 la section 2.", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "Apprentissage du mod\u00e8le", "sec_num": "3.1" }, { "text": "L'introduction de variables latentes fait que la fonction objectif (7) n'est pas convexe, contrairement au cas des CRF standard (Sutton et McCallum, 2006) . En pratique, son optimisation reste possible, et, si elle ne conduit qu'\u00e0 des optimums locaux, les r\u00e9sultats obtenus ne semblent pas trop d\u00e9pendants des conditions initiales. Comme d\u00e9taill\u00e9 \u00e0 la section 3.3, l'optimisation repose sur un algorithme de descente de gradient qui demande de calculer le gradient suivant :", "cite_spans": [ { "start": 128, "end": 154, "text": "(Sutton et McCallum, 2006)", "ref_id": "BIBREF31" } ], "ref_spans": [], "eq_spans": [], "section": "Apprentissage du mod\u00e8le", "sec_num": "3.1" }, { "text": "\u2202 (\u03b8 ) \u2202 \u03b8 k = n \uf8ee \uf8ef \uf8ef \uf8f0 a\u2208 (s n ) G k (t n , a, s n ) \u2212 a\u2208 (s n ) t\u2208 (a,s n ) \u03b8 k G k (t, a, s n )p \u03b8 (t, a | s n ), \uf8f9 \uf8fa \uf8fa \uf8fb (8)", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "Apprentissage du mod\u00e8le", "sec_num": "3.1" }, { "text": "Dans cette \u00e9quation, les deux termes repr\u00e9sentent respectivement l'esp\u00e9rance empirique et l'esp\u00e9rance pour le mod\u00e8le calcul\u00e9es sur l'ensemble des donn\u00e9es d'apprentissage.", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "Apprentissage du mod\u00e8le", "sec_num": "3.1" }, { "text": "En th\u00e9orie, dans cette approche, les composants de G peuvent tester des propri\u00e9t\u00e9s arbitraires du triplet (t n , a, s n ) ; en pratique, toutefois, le choix des caract\u00e9ristiques a un impact sur la complexit\u00e9 computationnelle des algorithmes d'inf\u00e9rence et d'apprentissage. Dans cette \u00e9tude, nous nous limitons \u00e0 des caract\u00e9ristiques de port\u00e9e locale, reproduisant les d\u00e9pendances locales qui sont mod\u00e9lis\u00e9es dans un CRF lin\u00e9aire standard (Lafferty et al., 2001) : la port\u00e9e d'une caract\u00e9ristique ne peut exc\u00e9der un bigramme de segments cibles. Cette restriction permet de calculer efficacement les deux termes de l'\u00e9quation (8) en utilisant une variante de l'algorithme forward-backward (voir, par exemple, (Dreyer et al., 2008) pour une pr\u00e9sentation d\u00e9taill\u00e9e de l'apprentissage de mod\u00e8les globalement normalis\u00e9s avec des variables latentes).", "cite_spans": [ { "start": 438, "end": 461, "text": "(Lafferty et al., 2001)", "ref_id": "BIBREF19" }, { "start": 707, "end": 728, "text": "(Dreyer et al., 2008)", "ref_id": "BIBREF10" } ], "ref_spans": [], "eq_spans": [], "section": "Apprentissage du mod\u00e8le", "sec_num": "3.1" }, { "text": "La fonction objectif est usuellement augment\u00e9e d'un terme de r\u00e9gularisation pour limiter les probl\u00e8mes de sur-apprentissage. Dans cette \u00e9tude, nous utilisons une r\u00e9gularisation 1 (Tibshirani, 1996) , qui permet d'aboutir \u00e0 des ensembles de param\u00e8tres \u00ab creux \u00bb et donc implicitement de s\u00e9lectionner les caract\u00e9ristiques les plus importantes.", "cite_spans": [ { "start": 179, "end": 197, "text": "(Tibshirani, 1996)", "ref_id": "BIBREF33" } ], "ref_spans": [], "eq_spans": [], "section": "Apprentissage du mod\u00e8le", "sec_num": "3.1" }, { "text": "L'inf\u00e9rence est d\u00e9finie par l'\u00e9quation (4), qui exige en principe de sommer sur toutes les variables latentes pour calculer l'hypoth\u00e8se de traduction optimale. Cette t\u00e2che correspond \u00e0 un probl\u00e8me NP-difficile ; en pratique, il est possible de l'approximer de mani\u00e8re efficace en \u00e9laguant et d\u00e9terminisant l'espace de recherche, comme expliqu\u00e9 section 3.3.", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "Inf\u00e9rence", "sec_num": "3.2" }, { "text": "Il est important de noter que les d\u00e9pendances qui sont mod\u00e9lis\u00e9es se limitent \u00e0 des bigrammes de segments cibles qui ne fournissent qu'une tr\u00e8s mauvaise approximation des contraintes syntaxiques \u00e0 respecter en langue cible. Pour compenser cette faiblesse, nous utilisons durant l'inf\u00e9rence un mod\u00e8le de langue n-gramme d'un ordre sup\u00e9rieur \u00e0 deux, ce qui permet d'am\u00e9liorer sensiblement les performances du seul mod\u00e8le CRF.", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "Inf\u00e9rence", "sec_num": "3.2" }, { "text": "Transducteurs finis Toutes les op\u00e9rations n\u00e9cessaires pour r\u00e9aliser l'apprentissage et l'inf\u00e9rence sont implant\u00e9es comme des op\u00e9rations standard sur des transducteurs pond\u00e9r\u00e9s. Pour l'essentiel, nous nous reposons sur les fonctionnalit\u00e9s g\u00e9n\u00e9riques de la biblioth\u00e8que OpenFst (Allauzen et al., 2007) ; pour des raisons d'efficacit\u00e9, nous avons toutefois r\u00e9implant\u00e9 une version optimis\u00e9e de l'algorithme forward-backward et des interactions avec le mod\u00e8le de traduction.", "cite_spans": [ { "start": 276, "end": 299, "text": "(Allauzen et al., 2007)", "ref_id": "BIBREF1" } ], "ref_spans": [], "eq_spans": [], "section": "D\u00e9tails d'implantation", "sec_num": "3.3" }, { "text": "Pour l'essentiel, notre d\u00e9codeur est donc implant\u00e9 comme une cascade de transducteurs finis, impliquant les \u00e9tapes suivantes : (i) r\u00e9ordonnancement et segmentation de la phrase source ;", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "D\u00e9tails d'implantation", "sec_num": "3.3" }, { "text": "(ii) application du mod\u00e8le de traduction et (optionnellement) (iii) composition avec un mod\u00e8le de langue cible, une architecture tr\u00e8s similaire \u00e0 celle propos\u00e9e par (Kumar et al., 2006) . Plus pr\u00e9cis\u00e9ment, \u00e9tant donn\u00e9s un mod\u00e8le de r\u00e9ordonnancement et un inventaire d'unit\u00e9s, nous d\u00e9rivons les transducteurs suivants : -I, un accepteur pour la phrase source s ; -R, qui impl\u00e9mente les r\u00e8gles de r\u00e9ordonnancement ; -C, qui regroupe des s\u00e9quences de mots sources en segments de taille variable ; -T , qui r\u00e9alise l'association entre segments sources et toutes leurs traductions possibles. Si l'on note \u2022 l'op\u00e9ration de composition entre transducteurs, alors S = I \u2022 R \u2022 C \u2022 T d\u00e9finit l'espace de recherche qui est utilis\u00e9 pour l'apprentissage et pour l'inf\u00e9rence.", "cite_spans": [ { "start": 165, "end": 185, "text": "(Kumar et al., 2006)", "ref_id": "BIBREF18" } ], "ref_spans": [], "eq_spans": [], "section": "D\u00e9tails d'implantation", "sec_num": "3.3" }, { "text": "Apprentissage du mod\u00e8le L'optimisation de la log-vraisemblance (\u00e9quation (7)) est effectu\u00e9e en utilisant l'algorithme R-Prop (Riedmiller et Braun, 1993) qui impl\u00e9mente une strat\u00e9gie de descente de gradient adapt\u00e9e \u00e0 l'optimisation des mod\u00e8les log-lin\u00e9aires \u00e0 grande \u00e9chelle. Cet algorithme demande de calculer les esp\u00e9rances d\u00e9finies par l'\u00e9quation (8). Le premier terme est obtenu en collectant les statistiques pour les caract\u00e9ristiques actives dans le transducteur d\u00e9fini par S \u2022 O, o\u00f9 O est l'accepteur repr\u00e9sentant la traduction de r\u00e9f\u00e9rence. La seconde esp\u00e9rance demande de collecter ces m\u00eames statistiques sur l'int\u00e9gralit\u00e9 de l'espace de recherche S, de nouveau par application de l'algorithme forward-backward.", "cite_spans": [ { "start": 125, "end": 152, "text": "(Riedmiller et Braun, 1993)", "ref_id": "BIBREF27" } ], "ref_spans": [], "eq_spans": [], "section": "D\u00e9tails d'implantation", "sec_num": "3.3" }, { "text": "Inf\u00e9rence des traductions Dans notre implantation, l'inf\u00e9rence est r\u00e9alis\u00e9e en quatre temps :", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "D\u00e9tails d'implantation", "sec_num": "3.3" }, { "text": "S est tout d'abord reparcouru pour calculer la probabilit\u00e9 a posteriori de chaque arc ; nous d\u00e9terminisons ensuite le transducteur ainsi repond\u00e9r\u00e9, ce qui a pour effet de r\u00e9aliser la somme impliqu\u00e9e par l'\u00e9quation (4) ; le score du mod\u00e8le de langue est ensuite ajout\u00e9 simplement par une op\u00e9ration de composition pond\u00e9r\u00e9e (le poids du mod\u00e8le de langue est obtenu par une recherche sur un corpus de d\u00e9veloppement) ; finalement, le meilleur chemin dans le transducteur est extrait. Dans la mesure o\u00f9 l'op\u00e9ration de d\u00e9terminisation est la plus exigeante en temps, nous la r\u00e9alisons de mani\u00e8re approch\u00e9e en ne consid\u00e9rant \u00e0 ce stade que les n-meilleures hypoth\u00e8ses de l'espace de recherche. La somme (4) est donc seulement calcul\u00e9e sur ces n meilleures hypoth\u00e8ses, ce qui ne semble pas trop limitant en pratique.", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "D\u00e9tails d'implantation", "sec_num": "3.3" }, { "text": "Un probl\u00e8me sp\u00e9cifique qui se pose dans le cadre de l'apprentissage discriminant pour la traduction est celui de la non atteignabilit\u00e9 des r\u00e9f\u00e9rences, correspondant aux situations o\u00f9 la traduction de r\u00e9f\u00e9rence ne peut pas \u00eatre d\u00e9riv\u00e9e dans le mod\u00e8le (Liang et al., 2006) . Cela arrive, par exemple, quand on utilise un inventaire d'unit\u00e9s bilingues trop restreint, ou que l'on consid\u00e8re des r\u00e9ordonnancements trop limit\u00e9s. Il est alors possible qu'une traduction de r\u00e9f\u00e9rence contienne une traduction inconnue d'un mot source connu, ou bien des d\u00e9placements de groupes qui vont au-del\u00e0 de ceux qu'explore le d\u00e9codeur. Un rem\u00e8de radical consiste alors \u00e0 supprimer ces cas probl\u00e9matiques du corpus d'apprentissage (Blunsom et al., 2008; Dyer et Resnik, 2010 ) -conduisant ainsi \u00e0 abandonner de nombreux exemples potentiellement utiles.", "cite_spans": [ { "start": 250, "end": 270, "text": "(Liang et al., 2006)", "ref_id": "BIBREF21" }, { "start": 712, "end": 734, "text": "(Blunsom et al., 2008;", "ref_id": "BIBREF2" }, { "start": 735, "end": 755, "text": "Dyer et Resnik, 2010", "ref_id": "BIBREF11" } ], "ref_spans": [], "eq_spans": [], "section": "Les r\u00e9f\u00e9rences non atteignables", "sec_num": "4" }, { "text": "Une autre solution simple, utilis\u00e9e dans plusieurs \u00e9tudes, consiste \u00e0 utiliser des pseudo-r\u00e9f\u00e9rences oracles, qui sont les meilleures hypoth\u00e8ses (au sens de la m\u00e9trique d'\u00e9valuation) r\u00e9ellement pr\u00e9sentes dans l'espace de recherche. Comme le soulignent les auteurs de (Liang et al., 2006) , une bonne traduction (au sens de la m\u00e9trique) peut toutefois s'appuyer localement sur des \u00e9tapes de d\u00e9rivation qui ont une tr\u00e8s faible probabilit\u00e9, et ne devraient pas \u00eatre utilis\u00e9es comme exemple. Cette observation sugg\u00e8re des strat\u00e9gies plus prudentes, selon lesquelles l'oracle est choisi parmi les n hypoth\u00e8ses les plus probables (au sens du mod\u00e8le). Des strat\u00e9gies hybrides sont \u00e9galement envisageables, selon lesquelles les oracles sont choisis parmi les hypoth\u00e8ses qui sont \u00e0 la fois proches de la r\u00e9f\u00e9rence et bien \u00e9valu\u00e9es par le mod\u00e8le.", "cite_spans": [ { "start": 267, "end": 287, "text": "(Liang et al., 2006)", "ref_id": "BIBREF21" } ], "ref_spans": [], "eq_spans": [], "section": "Les r\u00e9f\u00e9rences non atteignables", "sec_num": "4" }, { "text": "Diverses strat\u00e9gies ont \u00e9t\u00e9 implant\u00e9es et \u00e9valu\u00e9es dans nos exp\u00e9riences. La premi\u00e8re consiste \u00e0 supprimer tous les exemples non atteignables. Une seconde alternative consiste \u00e0 augmenter le mod\u00e8le localement de fa\u00e7on \u00e0 compenser les lacunes du mod\u00e8le : dans notre architecture, cela revient par exemple \u00e0 simuler l'existence d'unit\u00e9s de traduction qui seraient manquantes. La troisi\u00e8me alternative, qui s'est av\u00e9r\u00e9e la meilleure, consiste \u00e0 utiliser des pseudo-r\u00e9f\u00e9rence oracles calcul\u00e9es non pas sur des listes de n-meilleures hypoth\u00e8ses, mais sur l'int\u00e9gralit\u00e9 de l'espace de recherche (voir (Sokolov et al., 2012) pour une description des algorithmes permettant de calculer ces oracles lorsque la m\u00e9trique mesurant la qualit\u00e9 des traductions est le score BLEU).", "cite_spans": [ { "start": 594, "end": 616, "text": "(Sokolov et al., 2012)", "ref_id": "BIBREF30" } ], "ref_spans": [], "eq_spans": [], "section": "Les r\u00e9f\u00e9rences non atteignables", "sec_num": "4" }, { "text": "Pour pr\u00e9senter les principales caract\u00e9ristiques utilis\u00e9es dans notre mod\u00e8le, reportons nous \u00e0 la Figure 1 Les r\u00e9ordonnancements sont \u00e9valu\u00e9s par un autre ensemble de caract\u00e9ristiques int\u00e9grant des tests qui simulent les mod\u00e8les de r\u00e9ordonnancement lexicalis\u00e9s standard (Tillman, 2004; Crego et al., 2011) . Dans notre approche, cinq classes de d\u00e9placements sont consid\u00e9r\u00e9es : 'monotone', 'swap', 'left discontinuous', 'right discontinuous' and 'other'. Pour chaque cat\u00e9gorie, deux caract\u00e9ristiques testent respectivement l'association avec le segment cible et la s\u00e9quence de POS correspondante.", "cite_spans": [ { "start": 269, "end": 284, "text": "(Tillman, 2004;", "ref_id": "BIBREF34" }, { "start": 285, "end": 304, "text": "Crego et al., 2011)", "ref_id": "BIBREF9" } ], "ref_spans": [ { "start": 97, "end": 105, "text": "Figure 1", "ref_id": "FIGREF0" } ], "eq_spans": [], "section": "Caract\u00e9ristiques", "sec_num": "5" }, { "text": "Nous utilisons finalement deux caract\u00e9ristiques suppl\u00e9mentaires : la premi\u00e8re est toujours active et permet d' \u00ab encourager \u00bb l'insertion de nouveaux segments dans la phrase en construction. La seconde est relative aux recopies, et est active quand les mots source et cibles sont identiques, ce qui permet de \u00ab r\u00e9compenser \u00bb la recopie d'un mot source inconnu dans la cible, une strat\u00e9gie qui s'av\u00e8re souvent gagnante. (pour les noms propres, les dates, etc)", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "Caract\u00e9ristiques", "sec_num": "5" }, { "text": "6 Exp\u00e9riences", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "Caract\u00e9ristiques", "sec_num": "5" }, { "text": "La t\u00e2che de traduction consid\u00e9r\u00e9e utilise les donn\u00e9es parall\u00e8les fran\u00e7ais/anglais du Basic Traveling Expression Corpus (BTEC), tel qu'il a \u00e9t\u00e9 utilis\u00e9 dans les \u00e9valuations internationales de l'atelier IWSLT. Ce corpus contient des phrases semblables \u00e0 ce que l'on peut trouver dans des guides touristiques, en plusieurs langues (Takezawa et al., 2002) . Le corpus de d\u00e9veloppement est devel03, qui contient 506 lignes et 16 r\u00e9f\u00e9rences par lignes ; nous utilisons comme jeu de test les corpus test09 et test10 qui contiennent respectivement 469 lignes et 464 lignes, avec 7 traductions de r\u00e9f\u00e9rence. Notre mesure principale de la qualit\u00e9 des traductions est le score BLEU calcul\u00e9 en utilisant le maximum de r\u00e9f\u00e9rences disponibles. Cette t\u00e2che est souvent consid\u00e9r\u00e9e comme relativement simple, au vu de la longueur moyenne des phrases, et du relativement faible nombre de donn\u00e9es d'apprentissage : l'utilisation de notre cadre int\u00e9gr\u00e9 d'apprentissage discriminant implique toutefois d'entrainer le syst\u00e8me sur environ 20K phrases, soit 10 fois plus que ce qui est usuellement utilis\u00e9 pour entrainer discrimininativement (avec MERT) des syst\u00e8mes standard sur des \u00ab grosses \u00bb t\u00e2ches.", "cite_spans": [ { "start": 328, "end": 351, "text": "(Takezawa et al., 2002)", "ref_id": "BIBREF32" } ], "ref_spans": [], "eq_spans": [], "section": "Corpus et syst\u00e8me de base", "sec_num": "6.1" }, { "text": "Notre syst\u00e8me de base est n-code 4 (Crego et al., 2011) , une implantation domaine public de l'approche \u00e0 base de n-gram introduite dans (Mari\u00f1o et al., 2006) . Selon cette approche, le mod\u00e8le de traduction est repr\u00e9sent\u00e9 par un transducteur stochastique correspondant \u00e0 un mod\u00e8le n-gramme de couples de segments (n = 3 dans nos exp\u00e9riences). L'entra\u00eenement d'un tel mod\u00e8le demande au pr\u00e9alable de r\u00e9ordonner les phrases sources pour reproduire l'ordre des mots en langue cible. Ce r\u00e9ordonnancement est \u00e9galement effectu\u00e9 par un transducteur fini non-d\u00e9terministe, qui utilise des informations morpho-syntaxiques (calcul\u00e9es par le TreeTagger 5 ) pour g\u00e9n\u00e9raliser les r\u00e8gles de reordonnancement au niveau des POS.", "cite_spans": [ { "start": 35, "end": 55, "text": "(Crego et al., 2011)", "ref_id": "BIBREF9" }, { "start": 137, "end": 158, "text": "(Mari\u00f1o et al., 2006)", "ref_id": "BIBREF22" } ], "ref_spans": [], "eq_spans": [], "section": "Corpus et syst\u00e8me de base", "sec_num": "6.1" }, { "text": "Le mod\u00e8le complet utilise quatorze caract\u00e9ristiques : le mod\u00e8le de traduction, un mod\u00e8le (trigramme) de langue cible, quatre mod\u00e8les d'alignement lexicalis\u00e9s 6 , six mod\u00e8les de r\u00e9ordonnancement lexicalis\u00e9s (Tillman, 2004; Crego et al., 2011) ; un mod\u00e8le de distortion ainsi que deux mod\u00e8les suppl\u00e9mentaires qui encouragent respectivement la g\u00e9n\u00e9ration de mots et de segments cibles. Les poids des diff\u00e9rents mod\u00e8les sont estim\u00e9s en utilisant la proc\u00e9dure MERT (Och, 2003) .", "cite_spans": [ { "start": 158, "end": 159, "text": "6", "ref_id": null }, { "start": 206, "end": 221, "text": "(Tillman, 2004;", "ref_id": "BIBREF34" }, { "start": 222, "end": 241, "text": "Crego et al., 2011)", "ref_id": "BIBREF9" }, { "start": 460, "end": 471, "text": "(Och, 2003)", "ref_id": "BIBREF23" } ], "ref_spans": [], "eq_spans": [], "section": "Corpus et syst\u00e8me de base", "sec_num": "6.1" }, { "text": "Pour toutes nos exp\u00e9riences, le mod\u00e8le de langue cible est estim\u00e9 en utilisant un lissage de Kneser-Ney modifi\u00e9 (Chen et Goodman, 1996) . Notons \u00e9galement que tous les syst\u00e8mes \u00e9valu\u00e9s ci-desous utilisent le m\u00eame inventaire d'unit\u00e9s de traduction et le m\u00eame m\u00e9canisme de r\u00e9ordonnancement, qui sont ceux construits pour le syst\u00e8me de base, ce qui permet une comparaison \u00e9quitable entre syst\u00e8mes. Tous nos r\u00e9sultats respectent les contraintes de la t\u00e2che sp\u00e9cifi\u00e9e pour la campagne IWSLT 2010, et peuvent \u00eatre directement compar\u00e9s avec les r\u00e9sultats de (Paul et al., 2010) .", "cite_spans": [ { "start": 112, "end": 135, "text": "(Chen et Goodman, 1996)", "ref_id": "BIBREF3" }, { "start": 551, "end": 570, "text": "(Paul et al., 2010)", "ref_id": "BIBREF25" } ], "ref_spans": [], "eq_spans": [], "section": "Corpus et syst\u00e8me de base", "sec_num": "6.1" }, { "text": "Le tableau 2 r\u00e9capitule nos principaux r\u00e9sultats en termes de scores BLEU. Premi\u00e8re observation : le syst\u00e8me de base est l\u00e9g\u00e8rement meilleur que le meilleur syst\u00e8me ayant particip\u00e9 \u00e0 la campagne IWSLT 2010 ((Paul et al., 2010, p.20) mentionne un score de 52, 69 pour le meilleur syst\u00e8me). Trois configurations diff\u00e9rentes du syst\u00e8me discriminant sont compar\u00e9es : la premi\u00e8re r\u00e9alise l'inf\u00e9rence en utilisant l'approximation dite de Viterbi (\u00e9quation (5)) et obtient des performances tr\u00e8s inf\u00e9rieures au syst\u00e8me n-code ; la seconde configuration implante la proc\u00e9dure de marginalisation approximative d\u00e9crite \u00e0 la section 3.3, ce qui permet une l\u00e9g\u00e8re am\u00e9lioration des performances. La troisi\u00e8me configuration (+LM cible) int\u00e8gre \u00e9galement, comme c'est le cas pour les syst\u00e8mes n-code, un mod\u00e8le trigramme en langue cible et permet de surpasser l\u00e9g\u00e8rement le syst\u00e8me de base sur les deux jeux de test. \u00c0 l'initialisation de l'apprentissage, le mod\u00e8le de traduction contient environ 13 millions de caract\u00e9ristiques. Au terme de l'apprentissage, seulement 4% sont s\u00e9lectionn\u00e9es, les autres \u00e9tant \u00e9limin\u00e9es du mod\u00e8le sous l'action de la p\u00e9nalit\u00e9 1 . Au total, apprendre un tel mod\u00e8le prend une dizaine de minutes sur un gros serveur de calcul et la traduction du jeu de test ne demande que 4. Accessible depuis ncode.limsi.fr/. 5. Accessible depuis www.ims.uni-stuttgart.de/projekte/corplex/TreeTagger/.", "cite_spans": [ { "start": 206, "end": 232, "text": "((Paul et al., 2010, p.20)", "ref_id": null } ], "ref_spans": [], "eq_spans": [], "section": "R\u00e9sultats", "sec_num": "6.2" }, { "text": "6. Ces mod\u00e8les sont similaires \u00e0 ceux qui sont utilis\u00e9s dans les syst\u00e8mes standard. ", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "R\u00e9sultats", "sec_num": "6.2" }, { "text": "L'approche standard en traduction statistique, rappel\u00e9e \u00e0 la section 2, r\u00e9alise l'apprentissage des mod\u00e8les en deux \u00e9tapes successives et repose grandement sur une proc\u00e9dure d'optimisation ad hoc, connue sous le nom de MERT (Och, 2003) . De nombreux travaux r\u00e9cents ont tent\u00e9 de reformuler MERT comme un probl\u00e8me d'apprentissage standard, afin de le rendre plus robuste \u00e0 des situations o\u00f9 le nombre de caract\u00e9ristiques est grand. MERT a ainsi \u00e9t\u00e9 reformul\u00e9 par exemple comme un probl\u00e8me d'apprentissage structur\u00e9 (Tillmann et Zhang, 2006; Watanabe et al., 2007; Cherry et Foster, 2012 ) ou encore comme un probl\u00e8me d'apprentissage de fonction d'ordonnancement (Hopkins et May, 2011) . Ces approches visent \u00e0 am\u00e9liorer la seconde \u00e9tape de l'apprentissage, sans remettre toutefois en cause l'architecture globale du syst\u00e8me. Par comparaison, les travaux cherchant \u00e0 d\u00e9finir des cadres d'apprentissage int\u00e9gr\u00e9s sont plus rares.", "cite_spans": [ { "start": 224, "end": 235, "text": "(Och, 2003)", "ref_id": "BIBREF23" }, { "start": 514, "end": 539, "text": "(Tillmann et Zhang, 2006;", "ref_id": "BIBREF36" }, { "start": 540, "end": 562, "text": "Watanabe et al., 2007;", "ref_id": "BIBREF37" }, { "start": 563, "end": 585, "text": "Cherry et Foster, 2012", "ref_id": "BIBREF4" }, { "start": 661, "end": 683, "text": "(Hopkins et May, 2011)", "ref_id": "BIBREF13" } ], "ref_spans": [], "eq_spans": [], "section": "Discussion", "sec_num": "7" }, { "text": "Un pas important dans cette direction est le mod\u00e8le de Liang et al. (2006) , qui utilise un perceptron structur\u00e9 pour apprendre les param\u00e8tres du mod\u00e8le. Cette approche requiert toutefois de fixer la valeur des variables latentes impliqu\u00e9es dans une d\u00e9rivation aussi bien \u00e0 l'apprentissage que lors de l'inf\u00e9rence, l\u00e0 o\u00f9 nous utilisons une proc\u00e9dure de marginalisation. Une autre diff\u00e9rence avec notre travail est l'utilisation d'un mod\u00e8le de r\u00e9ordonnancement plus simple. Une autre source 7. Ces r\u00e9sultats sont obtenus pour la strat\u00e9gie d'inf\u00e9rence dite de Viterbi.", "cite_spans": [ { "start": 55, "end": 74, "text": "Liang et al. (2006)", "ref_id": "BIBREF21" } ], "ref_spans": [], "eq_spans": [], "section": "Discussion", "sec_num": "7" }, { "text": "d'inspiration est le travail d\u00e9crit dans (Blunsom et al., 2008) , qui d\u00e9crit une version discriminante du mod\u00e8le hi\u00e9rarchique de Chiang (2005) . Comme dans notre approche, l'apprentissage repose sur l'optimisation de la log-vraisemblance conditionnelle, impliquant de sommer sur toutes les d\u00e9rivations (hors-contexte) d'une traduction. La complexit\u00e9 de l'algorithme de parsage sousjacent au calcul du gradient O(|t| 3 |s| 3 ) semble toutefois limiter l'approche \u00e0 des phrases courtes 8 . Une diff\u00e9rence significative avec notre travail est la gestion des r\u00e9f\u00e9rences non-atteignables, qui sont purement et simplement supprim\u00e9es du corpus d'apprentissage. Le travail plus r\u00e9cent de Dyer et Resnik (2010) m\u00e9rite enfin mention, puisqu'il utilise la m\u00eame architecture que la n\u00f4tre, \u00e0 la diff\u00e9rence pr\u00e8s que le mod\u00e8le de r\u00e9ordonnancement est un mod\u00e8le hors-contexte plut\u00f4t que rationnel. Ce travail est toutefois focalis\u00e9 sur l'apprentissage du mod\u00e8le de r\u00e9ordonnancement et conserve le besoin d'entra\u00eener s\u00e9par\u00e9ment le mod\u00e8le de traduction.", "cite_spans": [ { "start": 41, "end": 63, "text": "(Blunsom et al., 2008)", "ref_id": "BIBREF2" }, { "start": 129, "end": 142, "text": "Chiang (2005)", "ref_id": "BIBREF5" }, { "start": 677, "end": 701, "text": "de Dyer et Resnik (2010)", "ref_id": null } ], "ref_spans": [], "eq_spans": [], "section": "Discussion", "sec_num": "7" }, { "text": "En r\u00e9sum\u00e9, notre approche se distingue de la plupart des approches discriminantes en traduction statistique en ceci que nous r\u00e9alisons l'apprentissage simultan\u00e9 de tous les param\u00e8tres du mod\u00e8le de mani\u00e8re int\u00e9gr\u00e9e, par optimisation d'une fonction objectif bien fond\u00e9e th\u00e9oriquement (la log-vraisemblance conditionnelle r\u00e9gularis\u00e9e).", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "Discussion", "sec_num": "7" }, { "text": "Nous avons pr\u00e9sent\u00e9 une architecture int\u00e9gr\u00e9e pour r\u00e9aliser en une seule \u00e9tape l'apprentissage discriminant de tous les param\u00e8tres des syst\u00e8mes de traduction. Cette architecture, qui emprunte beaucoup \u00e0 des techniques d'apprentissage bien connues, permet d'introduire dans le mod\u00e8le un tr\u00e8s grand nombre de caract\u00e9ristiques. En utilisant cette architecture, nous avons d\u00e9velopp\u00e9 un syst\u00e8me qui surpasse un syst\u00e8me de base tr\u00e8s performant sur la t\u00e2che de traduction du BTEC. Notons en particulier que notre approche conduit \u00e0 des meilleurs scores BLEU que n-code, qui est pourtant sp\u00e9cifiquement entra\u00een\u00e9 pour optimiser cette m\u00e9trique. Une propri\u00e9t\u00e9 importante de notre approche est son caract\u00e8re modulaire, puisqu'elle s'accomode d'inventaires d'unit\u00e9s et de mod\u00e8les de r\u00e9ordonnancement vari\u00e9s.", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "Conclusion", "sec_num": null }, { "text": "Dans le futur, la priorit\u00e9 principale sera de r\u00e9aliser des exp\u00e9riences sur des t\u00e2ches plus complexes, impliquant \u00e0 la fois de plus gros corpus d'apprentissage et des langues plus \u00e9loign\u00e9es. Diverses am\u00e9liorations du mod\u00e8le pr\u00e9sent\u00e9 ici sont \u00e9galement \u00e0 l'\u00e9tude : ainsi l'utilisation de mod\u00e8les de r\u00e9ordonnancement plus puissants, \u00e0 la mani\u00e8re de Dyer et Resnik (2010) ; l'utilisation d'unit\u00e9s de traduction avec trous, poursuivant les propositions de (Simard et al., 2005; Crego et Yvon, 2009) ; ou l'utilisation d'une fonction objectif int\u00e9grant une mesure plus directe de la qualit\u00e9 de traduction, \u00e0 l'instar par exemple de (Gimpel et Smith, 2010) .", "cite_spans": [ { "start": 451, "end": 472, "text": "(Simard et al., 2005;", "ref_id": "BIBREF28" }, { "start": 473, "end": 493, "text": "Crego et Yvon, 2009)", "ref_id": "BIBREF8" }, { "start": 626, "end": 649, "text": "(Gimpel et Smith, 2010)", "ref_id": "BIBREF12" } ], "ref_spans": [], "eq_spans": [], "section": "Conclusion", "sec_num": null }, { "text": "c ATALA", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "", "sec_num": null }, { "text": ". L'estimation du mod\u00e8le de traduction est en fait plus complexe et implique un empilement d'\u00e9tapes heuristiques : calcul d'alignements de mots asym\u00e9triques, sym\u00e9trisation des alignements, extraction et \u00e9valuation des couples bilingues de segments, etc.", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "", "sec_num": null } ], "back_matter": [ { "text": "Ce travail a \u00e9t\u00e9 partiellement financ\u00e9 par OSEO dans le cadre du programme Quaero. ", "cite_spans": [], "ref_spans": [], "eq_spans": [], "section": "Remerciements", "sec_num": null } ], "bib_entries": { "BIBREF0": { "ref_id": "b0", "title": "M\u00e9thodes statistiques pour la traduction automatique", "authors": [ { "first": "A", "middle": [], "last": "Allauzen", "suffix": "" }, { "first": "F", "middle": [], "last": "Yvon", "suffix": "" }, { "first": "E", "middle": [], "last": "Gaussier", "suffix": "" }, { "first": "F", "middle": [], "last": "Yvon", "suffix": "" } ], "year": 2011, "venue": "\u00e9diteurs : Mod\u00e8les statistiques pour l'acc\u00e8s \u00e0 l'information textuelle", "volume": "", "issue": "", "pages": "271--356", "other_ids": {}, "num": null, "urls": [], "raw_text": "ALLAUZEN, A. et YVON, F. (2011). M\u00e9thodes statistiques pour la traduction automatique. In GAUSSIER, E. et YVON, F., \u00e9diteurs : Mod\u00e8les statistiques pour l'acc\u00e8s \u00e0 l'information textuelle, chapitre 7, pages 271-356. Herm\u00e8s, Paris.", "links": null }, "BIBREF1": { "ref_id": "b1", "title": "OpenFst : A general and efficient weighted finite-state transducer library", "authors": [ { "first": "C", "middle": [], "last": "Allauzen", "suffix": "" }, { "first": "M", "middle": [], "last": "Riley", "suffix": "" }, { "first": "J", "middle": [], "last": "Schalkwyk", "suffix": "" }, { "first": "W", "middle": [], "last": "Skut", "suffix": "" }, { "first": "M", "middle": [], "last": "Mohri", "suffix": "" } ], "year": 2007, "venue": "Proc. of CIAA", "volume": "", "issue": "", "pages": "11--23", "other_ids": {}, "num": null, "urls": [], "raw_text": "ALLAUZEN, C., RILEY, M., SCHALKWYK, J., SKUT, W. et MOHRI, M. (2007). OpenFst : A general and efficient weighted finite-state transducer library. In Proc. of CIAA, pages 11-23.", "links": null }, "BIBREF2": { "ref_id": "b2", "title": "A discriminative latent variable model for statistical machine translation", "authors": [ { "first": "P", "middle": [], "last": "Blunsom", "suffix": "" }, { "first": "T", "middle": [], "last": "Cohn", "suffix": "" }, { "first": "M", "middle": [], "last": "Osborne", "suffix": "" } ], "year": 2008, "venue": "Proc. ACL/HLT", "volume": "", "issue": "", "pages": "200--208", "other_ids": {}, "num": null, "urls": [], "raw_text": "BLUNSOM, P., COHN, T. et OSBORNE, M. (2008). A discriminative latent variable model for statistical machine translation. In Proc. ACL/HLT, pages 200-208.", "links": null }, "BIBREF3": { "ref_id": "b3", "title": "An empirical study of smoothing techniques for language modeling", "authors": [ { "first": "S", "middle": [ "F" ], "last": "Chen", "suffix": "" }, { "first": "J", "middle": [ "T" ], "last": "Goodman", "suffix": "" } ], "year": 1996, "venue": "Proc. ACL", "volume": "", "issue": "", "pages": "310--318", "other_ids": {}, "num": null, "urls": [], "raw_text": "CHEN, S. F. et GOODMAN, J. T. (1996). An empirical study of smoothing techniques for language modeling. In Proc. ACL, pages 310-318.", "links": null }, "BIBREF4": { "ref_id": "b4", "title": "Batch tuning strategies for statistical machine translation", "authors": [ { "first": "C", "middle": [], "last": "Cherry", "suffix": "" }, { "first": "G", "middle": [], "last": "Foster", "suffix": "" } ], "year": 2012, "venue": "Proc. of the 2012 Conf. HLT-NAACL", "volume": "", "issue": "", "pages": "427--436", "other_ids": {}, "num": null, "urls": [], "raw_text": "CHERRY, C. et FOSTER, G. (2012). Batch tuning strategies for statistical machine translation. In Proc. of the 2012 Conf. HLT-NAACL, pages 427-436.", "links": null }, "BIBREF5": { "ref_id": "b5", "title": "A hierarchical phrase-based model for statistical machine translation", "authors": [ { "first": "D", "middle": [], "last": "Chiang", "suffix": "" } ], "year": 2005, "venue": "Proc. ACL", "volume": "", "issue": "", "pages": "263--270", "other_ids": {}, "num": null, "urls": [], "raw_text": "CHIANG, D. (2005). A hierarchical phrase-based model for statistical machine translation. In Proc. ACL, pages 263-270.", "links": null }, "BIBREF6": { "ref_id": "b6", "title": "11,001 new features for statistical machine translation", "authors": [ { "first": "D", "middle": [], "last": "Chiang", "suffix": "" }, { "first": "K", "middle": [], "last": "Knight", "suffix": "" }, { "first": "W", "middle": [], "last": "Wang", "suffix": "" } ], "year": 2009, "venue": "Proc. NAACL/HLT", "volume": "", "issue": "", "pages": "218--226", "other_ids": {}, "num": null, "urls": [], "raw_text": "CHIANG, D., KNIGHT, K. et WANG, W. (2009). 11,001 new features for statistical machine translation. In Proc. NAACL/HLT, pages 218-226.", "links": null }, "BIBREF7": { "ref_id": "b7", "title": "Improving SMT by coupling reordering and decoding", "authors": [ { "first": "J", "middle": [ "M" ], "last": "Crego", "suffix": "" }, { "first": "J", "middle": [ "B" ], "last": "Mari\u00f1o", "suffix": "" } ], "year": 2007, "venue": "Machine Translation", "volume": "20", "issue": "3", "pages": "199--215", "other_ids": {}, "num": null, "urls": [], "raw_text": "CREGO, J. M. et MARI\u00d1O, J. B. (2007). Improving SMT by coupling reordering and decoding. Machine Translation, 20(3):199-215.", "links": null }, "BIBREF8": { "ref_id": "b8", "title": "Gappy translation units under left-to-right SMT decoding", "authors": [ { "first": "J", "middle": [ "M" ], "last": "Crego", "suffix": "" }, { "first": "F", "middle": [], "last": "Yvon", "suffix": "" } ], "year": 2009, "venue": "Proc. of the conf. EAMT", "volume": "", "issue": "", "pages": "66--73", "other_ids": {}, "num": null, "urls": [], "raw_text": "CREGO, J. M. et YVON, F. (2009). Gappy translation units under left-to-right SMT decoding. In Proc. of the conf. EAMT, pages 66-73.", "links": null }, "BIBREF9": { "ref_id": "b9", "title": "N-code : an open-source Bilingual N-gram SMT Toolkit", "authors": [ { "first": "J", "middle": [ "M" ], "last": "Crego", "suffix": "" }, { "first": "F", "middle": [], "last": "Yvon", "suffix": "" }, { "first": "J", "middle": [ "B" ], "last": "Mari\u00f1o", "suffix": "" } ], "year": 2011, "venue": "Prague Bulletin of Mathematical Linguistics", "volume": "96", "issue": "", "pages": "49--58", "other_ids": {}, "num": null, "urls": [], "raw_text": "CREGO, J. M., YVON, F. et MARI\u00d1O, J. B. (2011). N-code : an open-source Bilingual N-gram SMT Toolkit. Prague Bulletin of Mathematical Linguistics, 96:49-58.", "links": null }, "BIBREF10": { "ref_id": "b10", "title": "Latent-variable modeling of string transductions with finite-state methods", "authors": [ { "first": "M", "middle": [], "last": "Dreyer", "suffix": "" }, { "first": "J", "middle": [], "last": "Smith", "suffix": "" }, { "first": "J", "middle": [], "last": "Eisner", "suffix": "" } ], "year": 2008, "venue": "Proc. EMNLP", "volume": "", "issue": "", "pages": "1080--1089", "other_ids": {}, "num": null, "urls": [], "raw_text": "DREYER, M., SMITH, J. et EISNER, J. (2008). Latent-variable modeling of string transductions with finite-state methods. In Proc. EMNLP, pages 1080-1089.", "links": null }, "BIBREF11": { "ref_id": "b11", "title": "Context-free reordering, finite-state translation", "authors": [ { "first": "C", "middle": [], "last": "Dyer", "suffix": "" }, { "first": "P", "middle": [], "last": "Resnik", "suffix": "" } ], "year": 2010, "venue": "Proc NAACL/HLT", "volume": "", "issue": "", "pages": "858--866", "other_ids": {}, "num": null, "urls": [], "raw_text": "DYER, C. et RESNIK, P. (2010). Context-free reordering, finite-state translation. In Proc NAACL/HLT, pages 858-866, Los Angeles.", "links": null }, "BIBREF12": { "ref_id": "b12", "title": "Softmax-margin CRFs : training log-linear models with cost functions", "authors": [ { "first": "K", "middle": [], "last": "Gimpel", "suffix": "" }, { "first": "N", "middle": [ "A" ], "last": "Smith", "suffix": "" } ], "year": 2010, "venue": "Proc. HLT-NAACL, HLT '10", "volume": "", "issue": "", "pages": "733--736", "other_ids": {}, "num": null, "urls": [], "raw_text": "GIMPEL, K. et SMITH, N. A. (2010). Softmax-margin CRFs : training log-linear models with cost functions. In Proc. HLT-NAACL, HLT '10, pages 733-736.", "links": null }, "BIBREF13": { "ref_id": "b13", "title": "Tuning as ranking", "authors": [ { "first": "M", "middle": [], "last": "Hopkins", "suffix": "" }, { "first": "J", "middle": [], "last": "May", "suffix": "" } ], "year": 2011, "venue": "Proc. EMNLP", "volume": "", "issue": "", "pages": "1352--1362", "other_ids": {}, "num": null, "urls": [], "raw_text": "HOPKINS, M. et MAY, J. (2011). Tuning as ranking. In Proc. EMNLP, pages 1352-1362.", "links": null }, "BIBREF14": { "ref_id": "b14", "title": "Statistical Machine Translation", "authors": [ { "first": "P", "middle": [], "last": "Koehn", "suffix": "" } ], "year": 2010, "venue": "", "volume": "", "issue": "", "pages": "", "other_ids": {}, "num": null, "urls": [], "raw_text": "KOEHN, P. (2010). Statistical Machine Translation. Cambridge University Press.", "links": null }, "BIBREF15": { "ref_id": "b15", "title": "Moses : Open source toolkit for statistical machine translation", "authors": [ { "first": "P", "middle": [], "last": "Koehn", "suffix": "" }, { "first": "H", "middle": [], "last": "Hoang", "suffix": "" }, { "first": "A", "middle": [], "last": "Birch", "suffix": "" }, { "first": "C", "middle": [], "last": "Callison-Burch", "suffix": "" }, { "first": "M", "middle": [], "last": "Federico", "suffix": "" }, { "first": "N", "middle": [], "last": "Bertoldi", "suffix": "" }, { "first": "B", "middle": [], "last": "Cowan", "suffix": "" }, { "first": "W", "middle": [], "last": "Shen", "suffix": "" }, { "first": "C", "middle": [], "last": "Moran", "suffix": "" }, { "first": "R", "middle": [], "last": "Zens", "suffix": "" }, { "first": "C", "middle": [], "last": "Dyer", "suffix": "" }, { "first": "O", "middle": [], "last": "Bojar", "suffix": "" }, { "first": "A", "middle": [], "last": "Constantin", "suffix": "" }, { "first": "E", "middle": [], "last": "Herbst", "suffix": "" } ], "year": 2007, "venue": "Proc. ACL", "volume": "", "issue": "", "pages": "177--180", "other_ids": {}, "num": null, "urls": [], "raw_text": "KOEHN, P., HOANG, H., BIRCH, A., CALLISON-BURCH, C., FEDERICO, M., BERTOLDI, N., COWAN, B., SHEN, W., MORAN, C., ZENS, R., DYER, C., BOJAR, O., CONSTANTIN, A. et HERBST, E. (2007). Moses : Open source toolkit for statistical machine translation. In Proc. ACL, pages 177-180.", "links": null }, "BIBREF16": { "ref_id": "b16", "title": "Statistical phrase-based translation", "authors": [ { "first": "P", "middle": [], "last": "Koehn", "suffix": "" }, { "first": "F", "middle": [ "J" ], "last": "Och", "suffix": "" }, { "first": "D", "middle": [], "last": "Marcu", "suffix": "" } ], "year": 2003, "venue": "Proc of the conf. HLT-NAACL", "volume": "", "issue": "", "pages": "127--133", "other_ids": {}, "num": null, "urls": [], "raw_text": "KOEHN, P., OCH, F. J. et MARCU, D. (2003). Statistical phrase-based translation. In Proc of the conf. HLT-NAACL, pages 127-133.", "links": null }, "BIBREF17": { "ref_id": "b17", "title": "Local phrase reordering models for statistical machine translation", "authors": [ { "first": "S", "middle": [], "last": "Kumar", "suffix": "" }, { "first": "W", "middle": [], "last": "Byrne", "suffix": "" } ], "year": 2005, "venue": "Proc. HLT-EMNLP", "volume": "", "issue": "", "pages": "161--168", "other_ids": {}, "num": null, "urls": [], "raw_text": "KUMAR, S. et BYRNE, W. (2005). Local phrase reordering models for statistical machine translation. In Proc. HLT-EMNLP, pages 161-168.", "links": null }, "BIBREF18": { "ref_id": "b18", "title": "A weighted finite state transducer translation template model for statistical machine translation", "authors": [ { "first": "S", "middle": [], "last": "Kumar", "suffix": "" }, { "first": "Y", "middle": [], "last": "Deng", "suffix": "" }, { "first": "W", "middle": [], "last": "Byrne", "suffix": "" } ], "year": 2006, "venue": "Natural Language Engineering", "volume": "12", "issue": "1", "pages": "35--75", "other_ids": {}, "num": null, "urls": [], "raw_text": "KUMAR, S., DENG, Y. et BYRNE, W. (2006). A weighted finite state transducer translation template model for statistical machine translation. Natural Language Engineering, 12(1):35-75.", "links": null }, "BIBREF19": { "ref_id": "b19", "title": "Conditional random fields : probabilistic models for segmenting and labeling sequence data", "authors": [ { "first": "J", "middle": [], "last": "Lafferty", "suffix": "" }, { "first": "A", "middle": [], "last": "Mccallum", "suffix": "" }, { "first": "F", "middle": [], "last": "Pereira", "suffix": "" } ], "year": 2001, "venue": "Proc. ICML", "volume": "", "issue": "", "pages": "282--289", "other_ids": {}, "num": null, "urls": [], "raw_text": "LAFFERTY, J., MCCALLUM, A. et PEREIRA, F. (2001). Conditional random fields : probabilistic models for segmenting and labeling sequence data. In Proc. ICML, pages 282-289.", "links": null }, "BIBREF20": { "ref_id": "b20", "title": "From n-gram-based to CRF-based translation models", "authors": [ { "first": "T", "middle": [], "last": "Lavergne", "suffix": "" }, { "first": "A", "middle": [], "last": "Allauzen", "suffix": "" }, { "first": "J", "middle": [ "M" ], "last": "Crego", "suffix": "" }, { "first": "F", "middle": [], "last": "Yvon", "suffix": "" } ], "year": 2011, "venue": "Proc. WMT", "volume": "", "issue": "", "pages": "542--553", "other_ids": {}, "num": null, "urls": [], "raw_text": "LAVERGNE, T., ALLAUZEN, A., CREGO, J. M. et YVON, F. (2011). From n-gram-based to CRF-based translation models. In Proc. WMT, pages 542-553.", "links": null }, "BIBREF21": { "ref_id": "b21", "title": "An end-to-end discriminative approach to machine translation", "authors": [ { "first": "P", "middle": [], "last": "Liang", "suffix": "" }, { "first": "A", "middle": [], "last": "Bouchard-C\u00f4t\u00e9", "suffix": "" }, { "first": "D", "middle": [], "last": "Klein", "suffix": "" }, { "first": "B", "middle": [], "last": "Taskar", "suffix": "" } ], "year": 2006, "venue": "Proc. ACL", "volume": "", "issue": "", "pages": "761--768", "other_ids": {}, "num": null, "urls": [], "raw_text": "LIANG, P., BOUCHARD-C\u00d4T\u00c9, A., KLEIN, D. et TASKAR, B. (2006). An end-to-end discriminative approach to machine translation. In Proc. ACL, pages 761-768.", "links": null }, "BIBREF22": { "ref_id": "b22", "title": "N-gram-based machine translation", "authors": [ { "first": "J", "middle": [ "B" ], "last": "Mari\u00f1o", "suffix": "" }, { "first": "R", "middle": [ "E" ], "last": "Banchs", "suffix": "" }, { "first": "J", "middle": [ "M" ], "last": "Crego", "suffix": "" }, { "first": "Gispert", "middle": [], "last": "De", "suffix": "" }, { "first": "A", "middle": [], "last": "Lambert", "suffix": "" }, { "first": "P", "middle": [], "last": "Fonollosa", "suffix": "" }, { "first": "J", "middle": [ "A" ], "last": "Costa-Juss\u00e0", "suffix": "" }, { "first": "M", "middle": [ "R" ], "last": "", "suffix": "" } ], "year": 2006, "venue": "Comp. Ling", "volume": "32", "issue": "4", "pages": "527--549", "other_ids": {}, "num": null, "urls": [], "raw_text": "MARI\u00d1O, J. B., BANCHS, R. E., CREGO, J. M., de GISPERT, A., LAMBERT, P., FONOLLOSA, J. A. et COSTA-JUSS\u00c0, M. R. (2006). N-gram-based machine translation. Comp. Ling., 32(4):527-549.", "links": null }, "BIBREF23": { "ref_id": "b23", "title": "Minimum error rate training in statistical machine translation", "authors": [ { "first": "F", "middle": [ "J" ], "last": "Och", "suffix": "" } ], "year": 2003, "venue": "Proc. ACL", "volume": "", "issue": "", "pages": "160--167", "other_ids": {}, "num": null, "urls": [], "raw_text": "OCH, F. J. (2003). Minimum error rate training in statistical machine translation. In Proc. ACL, pages 160-167.", "links": null }, "BIBREF24": { "ref_id": "b24", "title": "BLEU : a method for automatic evaluation of machine translation", "authors": [ { "first": "K", "middle": [], "last": "Papineni", "suffix": "" }, { "first": "S", "middle": [], "last": "Roukos", "suffix": "" }, { "first": "T", "middle": [], "last": "Ward", "suffix": "" }, { "first": "W.-J", "middle": [], "last": "Zhu", "suffix": "" } ], "year": 2002, "venue": "Proc. ACL", "volume": "", "issue": "", "pages": "311--318", "other_ids": {}, "num": null, "urls": [], "raw_text": "PAPINENI, K., ROUKOS, S., WARD, T. et ZHU, W.-J. (2002). BLEU : a method for automatic evaluation of machine translation. In Proc. ACL, pages 311-318.", "links": null }, "BIBREF25": { "ref_id": "b25", "title": "Overview of the IWSLT 2010 Evaluation Campaign", "authors": [ { "first": "M", "middle": [], "last": "Paul", "suffix": "" }, { "first": "M", "middle": [], "last": "Federico", "suffix": "" }, { "first": "S", "middle": [], "last": "St\u00fccker", "suffix": "" } ], "year": 2010, "venue": "", "volume": "", "issue": "", "pages": "", "other_ids": {}, "num": null, "urls": [], "raw_text": "PAUL, M., FEDERICO, M. et ST\u00dcCKER, S. (2010). Overview of the IWSLT 2010 Evaluation Campaign.", "links": null }, "BIBREF26": { "ref_id": "b26", "title": "\u00e9diteurs : Proc. IWSLT", "authors": [ { "first": "Federico", "middle": [], "last": "In", "suffix": "" }, { "first": "M", "middle": [], "last": "Lane", "suffix": "" }, { "first": "I", "middle": [], "last": "Paul", "suffix": "" }, { "first": "M", "middle": [], "last": "Yvon", "suffix": "" }, { "first": "F", "middle": [], "last": "", "suffix": "" } ], "year": null, "venue": "", "volume": "", "issue": "", "pages": "3--27", "other_ids": {}, "num": null, "urls": [], "raw_text": "In FEDERICO, M., LANE, I., PAUL, M. et YVON, F., \u00e9diteurs : Proc. IWSLT, pages 3-27.", "links": null }, "BIBREF27": { "ref_id": "b27", "title": "A direct adaptive method for faster backpropagation learning : The RPROP algorithm", "authors": [ { "first": "M", "middle": [], "last": "Riedmiller", "suffix": "" }, { "first": "H", "middle": [], "last": "Braun", "suffix": "" } ], "year": 1993, "venue": "Proc. ICNN", "volume": "", "issue": "", "pages": "586--591", "other_ids": {}, "num": null, "urls": [], "raw_text": "RIEDMILLER, M. et BRAUN, H. (1993). A direct adaptive method for faster backpropagation learning : The RPROP algorithm. In Proc. ICNN, pages 586-591.", "links": null }, "BIBREF28": { "ref_id": "b28", "title": "Translating with non-contiguous phrases", "authors": [ { "first": "M", "middle": [], "last": "Simard", "suffix": "" }, { "first": "N", "middle": [], "last": "Cancedda", "suffix": "" }, { "first": "B", "middle": [], "last": "Cavestro", "suffix": "" }, { "first": "M", "middle": [], "last": "Dymetman", "suffix": "" }, { "first": "E", "middle": [], "last": "Gaussier", "suffix": "" }, { "first": "C", "middle": [], "last": "Goutte", "suffix": "" }, { "first": "K", "middle": [], "last": "Yamada", "suffix": "" }, { "first": "P", "middle": [], "last": "Langlais", "suffix": "" }, { "first": "A", "middle": [], "last": "Mauser", "suffix": "" } ], "year": 2005, "venue": "Proc. HLT-EMNLP", "volume": "", "issue": "", "pages": "755--762", "other_ids": {}, "num": null, "urls": [], "raw_text": "SIMARD, M., CANCEDDA, N., CAVESTRO, B., DYMETMAN, M., GAUSSIER, E., GOUTTE, C., YAMADA, K., LANGLAIS, P. et MAUSER, A. (2005). Translating with non-contiguous phrases. In Proc. HLT-EMNLP, pages 755-762.", "links": null }, "BIBREF29": { "ref_id": "b29", "title": "Joint feature selection in distributed stochastic learning for large-scale discriminative training in SMT", "authors": [ { "first": "P", "middle": [], "last": "Simianer", "suffix": "" }, { "first": "S", "middle": [], "last": "Riezler", "suffix": "" }, { "first": "C", "middle": [], "last": "Dyer", "suffix": "" } ], "year": 2012, "venue": "Proc. ACL", "volume": "", "issue": "", "pages": "11--21", "other_ids": {}, "num": null, "urls": [], "raw_text": "SIMIANER, P., RIEZLER, S. et DYER, C. (2012). Joint feature selection in distributed stochastic learning for large-scale discriminative training in SMT. In Proc. ACL, pages 11-21.", "links": null }, "BIBREF30": { "ref_id": "b30", "title": "Computing lattice BLEU oracle scores for machine translation", "authors": [ { "first": "A", "middle": [], "last": "Sokolov", "suffix": "" }, { "first": "G", "middle": [], "last": "Wisniewski", "suffix": "" }, { "first": "F", "middle": [], "last": "Yvon", "suffix": "" } ], "year": 2012, "venue": "Proc. EACL", "volume": "", "issue": "", "pages": "120--129", "other_ids": {}, "num": null, "urls": [], "raw_text": "SOKOLOV, A., WISNIEWSKI, G. et YVON, F. (2012). Computing lattice BLEU oracle scores for machine translation. In Proc. EACL, pages 120-129.", "links": null }, "BIBREF31": { "ref_id": "b31", "title": "An introduction to conditional random fields for relational learning", "authors": [ { "first": "C", "middle": [], "last": "Sutton", "suffix": "" }, { "first": "A", "middle": [], "last": "Mccallum", "suffix": "" } ], "year": 2006, "venue": "GETOOR, L. et TASKAR, B., \u00e9diteurs : Introduction to Statistical Relational Learning", "volume": "", "issue": "", "pages": "", "other_ids": {}, "num": null, "urls": [], "raw_text": "SUTTON, C. et MCCALLUM, A. (2006). An introduction to conditional random fields for relational learning. In GETOOR, L. et TASKAR, B., \u00e9diteurs : Introduction to Statistical Relational Learning. The MIT Press.", "links": null }, "BIBREF32": { "ref_id": "b32", "title": "Toward a broadcoverage bilingual corpus for speech translation of travel conversations in the real world", "authors": [ { "first": "T", "middle": [], "last": "Takezawa", "suffix": "" }, { "first": "E", "middle": [], "last": "Sumita", "suffix": "" }, { "first": "F", "middle": [], "last": "Sugaya", "suffix": "" }, { "first": "H", "middle": [], "last": "Yamamoto", "suffix": "" }, { "first": "S", "middle": [], "last": "Yamamoto", "suffix": "" } ], "year": 2002, "venue": "Proc. of LREC", "volume": "1", "issue": "", "pages": "147--152", "other_ids": {}, "num": null, "urls": [], "raw_text": "TAKEZAWA, T., SUMITA, E., SUGAYA, F., YAMAMOTO, H. et YAMAMOTO, S. (2002). Toward a broad- coverage bilingual corpus for speech translation of travel conversations in the real world. In Proc. of LREC, volume 1, pages 147-152.", "links": null }, "BIBREF33": { "ref_id": "b33", "title": "Regression shrinkage and selection via the Lasso", "authors": [ { "first": "R", "middle": [], "last": "Tibshirani", "suffix": "" } ], "year": 1996, "venue": "J.R.Statist.Soc.B", "volume": "58", "issue": "1", "pages": "267--288", "other_ids": {}, "num": null, "urls": [], "raw_text": "TIBSHIRANI, R. (1996). Regression shrinkage and selection via the Lasso. J.R.Statist.Soc.B, 58(1):267-288.", "links": null }, "BIBREF34": { "ref_id": "b34", "title": "A unigram orientation model for statistical machine translation", "authors": [ { "first": "C", "middle": [], "last": "Tillman", "suffix": "" }, { "first": "S", "middle": [], "last": "Dumais", "suffix": "" }, { "first": "D", "middle": [], "last": "Marcu", "suffix": "" }, { "first": "S", "middle": [], "last": "Roukos", "suffix": "" } ], "year": 2004, "venue": "\u00e9diteurs : HLT-NAACL 2004 : Short Papers", "volume": "", "issue": "", "pages": "101--104", "other_ids": {}, "num": null, "urls": [], "raw_text": "TILLMAN, C. (2004). A unigram orientation model for statistical machine translation. In DUMAIS, S., MARCU, D. et ROUKOS, S., \u00e9diteurs : HLT-NAACL 2004 : Short Papers, pages 101-104.", "links": null }, "BIBREF35": { "ref_id": "b35", "title": "Word reordering and a dynamic programming beam search algorithm for statistical machine translation", "authors": [ { "first": "C", "middle": [], "last": "Tillmann", "suffix": "" }, { "first": "H", "middle": [], "last": "Ney", "suffix": "" } ], "year": 2003, "venue": "Comp. Ling", "volume": "29", "issue": "1", "pages": "97--133", "other_ids": {}, "num": null, "urls": [], "raw_text": "TILLMANN, C. et NEY, H. (2003). Word reordering and a dynamic programming beam search algorithm for statistical machine translation. Comp. Ling., 29(1):97-133.", "links": null }, "BIBREF36": { "ref_id": "b36", "title": "A discriminative global training algorithm for statistical mt", "authors": [ { "first": "C", "middle": [], "last": "Tillmann", "suffix": "" }, { "first": "T", "middle": [], "last": "Zhang", "suffix": "" } ], "year": 2006, "venue": "Proc. of the conf. of the ACL", "volume": "", "issue": "", "pages": "721--728", "other_ids": {}, "num": null, "urls": [], "raw_text": "TILLMANN, C. et ZHANG, T. (2006). A discriminative global training algorithm for statistical mt. In Proc. of the conf. of the ACL, pages 721-728.", "links": null }, "BIBREF37": { "ref_id": "b37", "title": "Online large-margin training for statistical machine translation", "authors": [ { "first": "T", "middle": [], "last": "Watanabe", "suffix": "" }, { "first": "J", "middle": [], "last": "Suzuki", "suffix": "" }, { "first": "H", "middle": [], "last": "Tsukada", "suffix": "" }, { "first": "H", "middle": [], "last": "Isozaki", "suffix": "" } ], "year": 2007, "venue": "Proc. of EMNLP-CoNLL", "volume": "", "issue": "", "pages": "764--773", "other_ids": {}, "num": null, "urls": [], "raw_text": "WATANABE, T., SUZUKI, J., TSUKADA, H. et ISOZAKI, H. (2007). Online large-margin training for statistical machine translation. In Proc. of EMNLP-CoNLL, pages 764-773.", "links": null }, "BIBREF38": { "ref_id": "b38", "title": "Phrase-based statistical machine translation", "authors": [ { "first": "R", "middle": [], "last": "Zens", "suffix": "" }, { "first": "F", "middle": [ "J" ], "last": "Och", "suffix": "" }, { "first": "H", "middle": [], "last": "Ney", "suffix": "" }, { "first": "M", "middle": [], "last": "Jarke", "suffix": "" }, { "first": "J", "middle": [], "last": "Koehler", "suffix": "" }, { "first": "G", "middle": [], "last": "Lakemeyer", "suffix": "" } ], "year": 2002, "venue": "Advances in AI, volume 2479 de LNAI", "volume": "", "issue": "", "pages": "18--32", "other_ids": {}, "num": null, "urls": [], "raw_text": "ZENS, R., OCH, F. J. et NEY, H. (2002). Phrase-based statistical machine translation. In JARKE, M., KOEHLER, J. et LAKEMEYER, G., \u00e9diteurs : KI-2002 : Advances in AI, volume 2479 de LNAI, pages 18-32. Springer.", "links": null } }, "ref_entries": { "FIGREF0": { "num": null, "text": "Deux arcs cons\u00e9cutifs dans l'espace de recherche : informations dont sont d\u00e9riv\u00e9es les caract\u00e9ristiques.", "type_str": "figure", "uris": null }, "FIGREF1": { "num": null, "text": "qui donne \u00e0 voir deux arcs cons\u00e9cutifs dans l'espace de recherche S. Chaque arc porte toutes les informations n\u00e9cessaires au calcul des caract\u00e9ristiques : les segments source et cible (sw et tw), les s\u00e9quences de parties du discours (POS) associ\u00e9es (sp et t p ), ainsi que les positions originales (avant r\u00e9ordonnancement) des mots sources (sr). Les indices i et i \u22121 servent seulement \u00e0 noter le fait que l'arc i \u2212 1 pr\u00e9c\u00e8de l'arc i et constitue le contexte gauche de l'arc courant. \u00c9tant donn\u00e9e cette repr\u00e9sentation, il est possible de d\u00e9finir des caract\u00e9ristiques binaires qui chacune teste une propri\u00e9t\u00e9 particuli\u00e8re du couple d'arcs (i \u2212 1, i). La liste de descripteurs de base est dans le tableau 1.", "type_str": "figure", "uris": null }, "FIGREF2": { "num": null, "text": "Figure 1. et bigrammes respectivement de segments de mots et de POS. L'autre groupe principal de caract\u00e9ristiques, not\u00e9 TM :* mod\u00e9lise les relations de traduction. Il comprend des caract\u00e9ristiques ind\u00e9pendantes du contexte (qui ne regardent que le segment courant) TM :ci-phrp et TM :ciposp qui testent respectivement l'association d'un segment source avec un segment cible au niveau lexical et au niveau des \u00e9tiquettes grammaticales ; les caract\u00e9ristiques d\u00e9pendantes du contexte gauche (TM :cd*) sont plus sp\u00e9cifiques et prennent en compte le segment pr\u00e9c\u00e9dent.", "type_str": "figure", "uris": null }, "TABREF0": { "content": "", "text": "ou dans(Kumar et al., 2006) utilisent essentiellement le m\u00eame ensemble de variables latentes, alors que le mod\u00e8le hi\u00e9rarchique de Chiang (2005) utilise les d\u00e9rivations d'une grammaire hors-contexte synchrone.", "type_str": "table", "html": null, "num": null }, "TABREF2": { "content": "
Configurationdevel03 test09 test10
Syst\u00e8me n-code
Mod\u00e8le de traduction 2g68,761,1-
Mod\u00e8le de traduction 3g68,061,653,4
Syst\u00e8me entra\u00een\u00e9 discriminativement
Inf\u00e9rence Viterbi64,058,851,5
+ marginalisation + LM cible64,7 67,759,3 61,752,0 53,9
TABLE 2 -Performance des syst\u00e8mes de traduction (scores BLEU).
deux ou trois minutes.
Le tableau 3 compare les diff\u00e9rentes mani\u00e8re de g\u00e9rer les r\u00e9f\u00e9rences non atteignables (voir
section 4) 7 . Configurationdevel03 test09
Suppression59,252,6
Augmentation locale62,456,4
Pseudo-r\u00e9f\u00e9rences64,058,8
", "text": "Il apparait clairement que supprimer les exemples pour laquelle la r\u00e9f\u00e9rence est non atteignable est la pire, puisque dans notre cas elle conduit \u00e0 abandonner environ 8% des exemples. Augmenter localement le mod\u00e8le de traduction permet d'am\u00e9liorer tr\u00e8s nettement les r\u00e9sultats ; la strat\u00e9gie la plus efficace consiste toutefois \u00e0 utiliser des pseudo-r\u00e9f\u00e9rences oracles.", "type_str": "table", "html": null, "num": null }, "TABREF3": { "content": "", "text": "Diff\u00e9rentes mani\u00e8res de g\u00e9rer les r\u00e9f\u00e9rences non atteignables", "type_str": "table", "html": null, "num": null } } } }