| { |
| "paper_id": "F13-1002", |
| "header": { |
| "generated_with": "S2ORC 1.0.0", |
| "date_generated": "2023-01-19T09:41:11.914142Z" |
| }, |
| "title": "Apprentissage symbolique et statistique pour le chunking: comparaison et combinaisons", |
| "authors": [ |
| { |
| "first": "Isabelle", |
| "middle": [], |
| "last": "Tellier", |
| "suffix": "", |
| "affiliation": { |
| "laboratory": "Laboratoire Lattice", |
| "institution": "", |
| "location": { |
| "addrLine": "1 rue Maurice Arnoux", |
| "postCode": "92320", |
| "settlement": "Montrouge", |
| "region": "R\u00c9SUM\u00c9" |
| } |
| }, |
| "email": "" |
| }, |
| { |
| "first": "Yoann", |
| "middle": [], |
| "last": "Dupont", |
| "suffix": "", |
| "affiliation": { |
| "laboratory": "Laboratoire Lattice", |
| "institution": "", |
| "location": { |
| "addrLine": "1 rue Maurice Arnoux", |
| "postCode": "92320", |
| "settlement": "Montrouge", |
| "region": "R\u00c9SUM\u00c9" |
| } |
| }, |
| "email": "" |
| } |
| ], |
| "year": "", |
| "venue": null, |
| "identifiers": {}, |
| "abstract": "Nous d\u00e9crivons dans cet article l'utilisation d'algorithmes d'inf\u00e9rence grammaticale pour la t\u00e2che de chunking, pour ensuite les comparer et les combiner avec des CRF (Conditional Random Fields), \u00e0 l'efficacit\u00e9 \u00e9prouv\u00e9e pour cette t\u00e2che. Notre corpus est extrait du French TreeBank. Nous proposons et \u00e9valuons deux mani\u00e8res diff\u00e9rentes de combiner mod\u00e8le symbolique et mod\u00e8le statistique appris par un CRF et montrons qu'ils b\u00e9n\u00e9ficient dans les deux cas l'un de l'autre.", |
| "pdf_parse": { |
| "paper_id": "F13-1002", |
| "_pdf_hash": "", |
| "abstract": [ |
| { |
| "text": "Nous d\u00e9crivons dans cet article l'utilisation d'algorithmes d'inf\u00e9rence grammaticale pour la t\u00e2che de chunking, pour ensuite les comparer et les combiner avec des CRF (Conditional Random Fields), \u00e0 l'efficacit\u00e9 \u00e9prouv\u00e9e pour cette t\u00e2che. Notre corpus est extrait du French TreeBank. Nous proposons et \u00e9valuons deux mani\u00e8res diff\u00e9rentes de combiner mod\u00e8le symbolique et mod\u00e8le statistique appris par un CRF et montrons qu'ils b\u00e9n\u00e9ficient dans les deux cas l'un de l'autre.", |
| "cite_spans": [], |
| "ref_spans": [], |
| "eq_spans": [], |
| "section": "Abstract", |
| "sec_num": null |
| } |
| ], |
| "body_text": [ |
| { |
| "text": "L'apprentissage automatique supervis\u00e9, surtout lorsqu'une grande quantit\u00e9 de donn\u00e9es annot\u00e9es est disponible, a largement prouv\u00e9 son efficacit\u00e9 pour les t\u00e2ches de fouille de textes classiques comme la classification ou l'annotation. Les bases th\u00e9oriques des techniques d'apprentissage les plus performantes rel\u00e8vent en g\u00e9n\u00e9ral des statistiques (Naive Bayes), de l'optimisation (SVM) ou des deux (HMM, CRF). L'inconv\u00e9nient principal des mod\u00e8les produits par ces m\u00e9thodes est qu'ils sont difficilement lisibles par un humain.", |
| "cite_spans": [], |
| "ref_spans": [], |
| "eq_spans": [], |
| "section": "Introduction", |
| "sec_num": "1" |
| }, |
| { |
| "text": "Il existe pourtant aussi d'autres branches de l'apprentissage automatique, qualifi\u00e9es de symbolique, qui ont la particularit\u00e9 d'offrir une sortie g\u00e9n\u00e9ralement plus lisible par un \u00eatre humain. Les plus illustres membres de cette famille sont les arbres de d\u00e9cision, la Programmation Logique Inductive (PLI) ou l'Inf\u00e9rence Grammaticale (IG par la suite) (de la Higuera, 2010). C'est cette derni\u00e8re qui nous int\u00e9resse ici. On peut la d\u00e9finir comme l'\u00e9tude des techniques permettant d'apprendre une grammaire formelle ou tout autre mod\u00e8le capable de repr\u00e9senter un langage (comme un automate, une expression r\u00e9guli\u00e8re, etc...) \u00e0 partir d'exemples de s\u00e9quences (\u00e9ventuellement enrichies) appartenant (ou non) \u00e0 ce langage. Ce domaine, qui a son origine dans l'informatique th\u00e9orique et la th\u00e9orie des langages formels, est souvent m\u00e9connu. Les algorithmes d'IG sont en effet r\u00e9put\u00e9s ne pas tr\u00e8s bien se comporter sur des donn\u00e9es r\u00e9elles : ils sont souvent algorithmiquement complexes, sensibles aux erreurs et peu adapt\u00e9s aux langages fond\u00e9s sur de grands alphabets (ce qui est le cas quand l'alphabet est l'ensemble des mots d'une langue naturelle).", |
| "cite_spans": [], |
| "ref_spans": [], |
| "eq_spans": [], |
| "section": "Introduction", |
| "sec_num": "1" |
| }, |
| { |
| "text": "Dans cet article, nous voulons donner leur chance \u00e0 des algorithmes classiques d'IG pour les comparer aux m\u00e9thodes d'apprentissage automatique statistique \u00e9tat de l'art, en l'occurrence les CRF (Lafferty et al., 2001) . La t\u00e2che consid\u00e9r\u00e9e est le chunking (Abney, 1991) du fran\u00e7ais, qui peut en effet tr\u00e8s bien \u00eatre r\u00e9alis\u00e9e \u00e0 l'aide d'automates construits manuellement (Antoine et al., 2008; Blanc et al., 2010) . \u00c0 notre connaissance, essayer d'apprendre automatiquement ces automates au lieu de les \u00e9crire \u00e0 la main n'a encore pas jamais \u00e9t\u00e9 test\u00e9, pour quelque langue que ce soit. Par ailleurs, le chunking peut \u00e9galement \u00eatre vu comme une t\u00e2che d'annotation (objet de la Shared Task CoNLL'2000) et de ce fait abord\u00e9 via des m\u00e9thodes d'apprentissage statistique. Ce contexte nous semblait par cons\u00e9quent id\u00e9al pour comparer les deux approches.", |
| "cite_spans": [ |
| { |
| "start": 194, |
| "end": 217, |
| "text": "(Lafferty et al., 2001)", |
| "ref_id": "BIBREF20" |
| }, |
| { |
| "start": 256, |
| "end": 269, |
| "text": "(Abney, 1991)", |
| "ref_id": "BIBREF2" |
| }, |
| { |
| "start": 370, |
| "end": 392, |
| "text": "(Antoine et al., 2008;", |
| "ref_id": "BIBREF5" |
| }, |
| { |
| "start": 393, |
| "end": 412, |
| "text": "Blanc et al., 2010)", |
| "ref_id": "BIBREF6" |
| } |
| ], |
| "ref_spans": [], |
| "eq_spans": [], |
| "section": "Introduction", |
| "sec_num": "1" |
| }, |
| { |
| "text": "Cette comparaison n'est cependant pas notre seul but. Notre intuition est que les deux techniques sont compl\u00e9mentaires car elles se concentrent sur des propri\u00e9t\u00e9s distinctes des donn\u00e9es d'apprentissage. Nous proposons donc \u00e9galement dans cet article deux mani\u00e8res diff\u00e9rentes de les combiner, en fonction du but vis\u00e9. La premi\u00e8re mani\u00e8re est orient\u00e9e vers l'efficacit\u00e9 : elle vise \u00e0 enrichir un mod\u00e8le CRF \u00e0 l'aide d'informations extraites des automates. La seconde privil\u00e9gie la lisibilit\u00e9 : elle propose d'analyser les automates appris par IG \u00e0 l'aide de poids calcul\u00e9s par un CRF, poids qui seront tous interpr\u00e9tables relativement \u00e0 cet automate. L'article suit le plan suivant. Dans la premi\u00e8re section, nous introduisons la t\u00e2che de chunking et d\u00e9crivons les donn\u00e9es utilis\u00e9es pour nos exp\u00e9riences. La deuxi\u00e8me section est d\u00e9di\u00e9e \u00e0 l'inf\u00e9rence grammaticale. Apr\u00e8s un bref \u00e9tat de l'art, nous d\u00e9taillons la famille des algorithmes k-RI (Angluin, 1982) et donnons les meilleurs r\u00e9sultats exp\u00e9rimentaux qu'ils permettent d'atteindre pour le chunking. Dans la section qui suit, nous appliquons les CRF \u00e0 la m\u00eame t\u00e2che. Comme on pouvait s'y attendre, les CRF donnent de bien meilleurs r\u00e9sultats que ceux obtenus par IG. Dans la derni\u00e8re section, nous d\u00e9crivons et \u00e9valuons deux mani\u00e8res de combiner automates et CRF. Les r\u00e9sultats obtenus pour chacune de ces combinaisons sont prometteurs et sugg\u00e8rent des pistes originales pour associer mod\u00e8les symboliques et apprentissage statistique.", |
| "cite_spans": [ |
| { |
| "start": 940, |
| "end": 955, |
| "text": "(Angluin, 1982)", |
| "ref_id": "BIBREF4" |
| } |
| ], |
| "ref_spans": [], |
| "eq_spans": [], |
| "section": "Introduction", |
| "sec_num": "1" |
| }, |
| { |
| "text": "Nous d\u00e9crivons ici la t\u00e2che de chunking par annotation et nous pr\u00e9sentons les donn\u00e9es d'apprentissage que nous avons utilis\u00e9es pour nos exp\u00e9riences. Ces derni\u00e8res reprennent et prolongent celles pr\u00e9sent\u00e9es dans (Tellier et al., 2012) . Notre but \u00e9tant de construire un chunker pour le fran\u00e7ais, nous sommes partis du French Tree Bank (Abeill\u00e9 et al., 2003) .", |
| "cite_spans": [ |
| { |
| "start": 211, |
| "end": 233, |
| "text": "(Tellier et al., 2012)", |
| "ref_id": "BIBREF28" |
| }, |
| { |
| "start": 334, |
| "end": 356, |
| "text": "(Abeill\u00e9 et al., 2003)", |
| "ref_id": "BIBREF1" |
| } |
| ], |
| "ref_spans": [], |
| "eq_spans": [], |
| "section": "Chunking: la t\u00e2che et les donn\u00e9es", |
| "sec_num": "2" |
| }, |
| { |
| "text": "La t\u00e2che de chunking, \u00e9galement appel\u00e9e analyse syntaxique de surface, a pour but d'identifier les groupes syntaxiques \u00e9l\u00e9mentaires des phrases. Les chunks sont en effet des s\u00e9quences contig\u00fces et non-r\u00e9cursives d'unit\u00e9s lexicales li\u00e9es \u00e0 une unique t\u00eate forte (Abney, 1991) . Chacun est caract\u00e9ris\u00e9 par le type (ou \u00e9tiquette Part-Of-Speech (POS)) de sa t\u00eate. Il y a ainsi autant de types de chunks que de types de t\u00eates fortes possibles.", |
| "cite_spans": [ |
| { |
| "start": 261, |
| "end": 274, |
| "text": "(Abney, 1991)", |
| "ref_id": "BIBREF2" |
| } |
| ], |
| "ref_spans": [], |
| "eq_spans": [], |
| "section": "La t\u00e2che", |
| "sec_num": "2.1" |
| }, |
| { |
| "text": "La t\u00e2che de chunking a fait l'objet de de la comp\u00e9tition CoNLL'2000 1 , dont le corpus d'apprentissage \u00e9tait constitu\u00e9 d'environ 9 000 phrases issues du Penn Treebank, associ\u00e9es \u00e0 deux niveaux d'annotion : un niveau POS donn\u00e9 par l'\u00e9tiqueteur Brill et un de chunking. Les vainqueurs avaient utilis\u00e9 des SVM et des \"Weighted Probability Distribution Voting\". Ce m\u00eame corpus a aussi servi plus tard \u00e0 montrer l'efficacit\u00e9 des CRF (Sha and Pereira, 2003) .", |
| "cite_spans": [ |
| { |
| "start": 68, |
| "end": 69, |
| "text": "1", |
| "ref_id": null |
| }, |
| { |
| "start": 428, |
| "end": 451, |
| "text": "(Sha and Pereira, 2003)", |
| "ref_id": "BIBREF26" |
| } |
| ], |
| "ref_spans": [], |
| "eq_spans": [], |
| "section": "La t\u00e2che", |
| "sec_num": "2.1" |
| }, |
| { |
| "text": "Le French TreeBank (FTB) est un recueil de phrases extraites d'articles du journal \"Le Monde\" publi\u00e9s entre 1989 et 1993 (Abeill\u00e9 et al., 2003 . Les phrases ont \u00e9t\u00e9 tokenis\u00e9es (en conservant certaines unit\u00e9s multi-mots), lemmatis\u00e9es, \u00e9tiquet\u00e9es et analys\u00e9es syntaxiquement. Il existe plusieurs variantes du FTB, celle que nous avons utilis\u00e9e contenait environ 8 600 arbres XML enrichis de fonctions syntaxiques (parfois n\u00e9cessaires pour identifier certains chunks). Pour le POS, nous avons repris les 30 \u00e9tiquettes morpho-syntaxiques d\u00e9finies dans (Crabb\u00e9 and Candito, 2008) , assurant ainsi la continuit\u00e9 avec nos pr\u00e9c\u00e9dents travaux (Constant et al., 2011) .", |
| "cite_spans": [ |
| { |
| "start": 108, |
| "end": 112, |
| "text": "1989", |
| "ref_id": null |
| }, |
| { |
| "start": 113, |
| "end": 120, |
| "text": "et 1993", |
| "ref_id": null |
| }, |
| { |
| "start": 121, |
| "end": 142, |
| "text": "(Abeill\u00e9 et al., 2003", |
| "ref_id": "BIBREF1" |
| }, |
| { |
| "start": 548, |
| "end": 574, |
| "text": "(Crabb\u00e9 and Candito, 2008)", |
| "ref_id": "BIBREF9" |
| }, |
| { |
| "start": 634, |
| "end": 657, |
| "text": "(Constant et al., 2011)", |
| "ref_id": "BIBREF8" |
| } |
| ], |
| "ref_spans": [], |
| "eq_spans": [], |
| "section": "Les donn\u00e9es", |
| "sec_num": "2.2" |
| }, |
| { |
| "text": "Nous consid\u00e9rons 7 types de chunks distincts : AP (Adjectival Phrase), AdP (Adverbial Phrase), CONJ (Conjonctions), NP (Noun Phrase), PP (Prepositional Phrase), VP (verbal Phrase) et UNKONWN (coquilles ou certains mots \u00e9trangers, eux-m\u00eames \u00e9tiquet\u00e9s UNKNOWN). Les marques de ponctuations, sauf exceptions (certains guillemets par exemple) sont hors chunks (\u00e9tiquette O comme Out). Nous avons d\u00e9cid\u00e9 de modifier certains choix que nous avions faits dans (Tellier et al., 2012) . Par exemple, le chunk CONJ contient seulement la conjonction. Le PP, en revanche, int\u00e8gre toujours le chunk introduit par la pr\u00e9position. Et, \u00e0 l'inverse de (Paroubek et al., 2006) , les adjectifs \u00e9pith\u00e8tes appartiennent toujours au chunk NP contenant le nom qu'ils qualifient, qu'ils soient situ\u00e9s avant ou apr\u00e8s lui. Les chunks AP sont donc assez rares car ils ne correspondent qu'aux adjectifs s\u00e9par\u00e9s d'un groupe nominal, comme les attributs du sujet ou de l'objet (les fonctions syntaxiques disponibles dans les arbres XML sont n\u00e9cessaires pour identifier ces derniers). La phrase suivante illustre notre notion de parenth\u00e9sage en chunks 2 : (la/DET d\u00e9pr\u00e9ciation/NC) N P (par_rapport_au/P dollar/NC) P P (a/V \u00e9t\u00e9/VPP limit\u00e9e/VPP) V P (\u00e0/P 2,5/DET %/NC) P P Nous avons extrait du FTB deux corpus distincts, chacun repr\u00e9sentant un chunking diff\u00e9rent :", |
| "cite_spans": [ |
| { |
| "start": 453, |
| "end": 475, |
| "text": "(Tellier et al., 2012)", |
| "ref_id": "BIBREF28" |
| }, |
| { |
| "start": 635, |
| "end": 658, |
| "text": "(Paroubek et al., 2006)", |
| "ref_id": "BIBREF23" |
| } |
| ], |
| "ref_spans": [], |
| "eq_spans": [], |
| "section": "Les donn\u00e9es", |
| "sec_num": "2.2" |
| }, |
| { |
| "text": "\u2022 un corpus o\u00f9 tous les chunks sont extraits et \u00e9tiquet\u00e9s selon le mod\u00e8le BIO (Begin/In/Out). , o\u00f9 \u03a3 est l'alphabet du langage), aucun exemple positif n'est en mesure de le contredire, alors m\u00eame qu'il a peut-\u00eatre surg\u00e9n\u00e9ralis\u00e9.", |
| "cite_spans": [], |
| "ref_spans": [], |
| "eq_spans": [], |
| "section": "Les donn\u00e9es", |
| "sec_num": "2.2" |
| }, |
| { |
| "text": "La premi\u00e8re chose que l'IG se doit de fournir est une d\u00e9finition pr\u00e9cise de ce qu' \"apprendre une langue par exemples positifs\" signifie pour un programme. Le crit\u00e8re d'apprenabilit\u00e9 est th\u00e9orique et formel et non pas empirique. Faisons le parall\u00e8le avec l'acquisition du langage chez les enfants. Un enfant n'est pas \"programm\u00e9\" pour une langue pr\u00e9cise, il est capable d'acqu\u00e9rir n'importe laquelle parl\u00e9e dans son environnement. De m\u00eame, un programme d'IG par pr\u00e9sentation positive doit \u00eatre en mesure d'apprendre une classe de langages formels, c'est-\u00e0-dire d'identifier n'importe lequel de ses membres \u00e0 l'aide d'exemples de s\u00e9quences (phrases) lui appartenant. Les principaux crit\u00e8res possibles qui caract\u00e9risent la notion d\"'apprenabilit\u00e9 d'une classe de langages\" en IG (aussi appel\u00e9s mod\u00e8les d'apprentissage) sont \"l'identification \u00e0 la limite\" (Gold, 1967) et \"l'apprentissage PAC\" (Valiant, 1984) , que nous ne pouvons d\u00e9tailler ici.", |
| "cite_spans": [ |
| { |
| "start": 853, |
| "end": 865, |
| "text": "(Gold, 1967)", |
| "ref_id": "BIBREF16" |
| }, |
| { |
| "start": 891, |
| "end": 906, |
| "text": "(Valiant, 1984)", |
| "ref_id": "BIBREF32" |
| } |
| ], |
| "ref_spans": [], |
| "eq_spans": [], |
| "section": "Les donn\u00e9es", |
| "sec_num": "2.2" |
| }, |
| { |
| "text": "Malheureusement, m\u00eame pour la classe des langages r\u00e9guliers, la plus simple dans la hi\u00e9rarchie de Chomsky, ces crit\u00e8res sont impossibles \u00e0 satisfaire : il n'existe aucun algorithme capable d'apprendre par pr\u00e9sentation positive la classe compl\u00e8te des langages r\u00e9guliers dans ces mod\u00e8les (Gold, 1967; Kearns and Vazirani, 1994) . Les recherches se sont donc orient\u00e9es vers des classes plus petites, ou transverses \u00e0 la hi\u00e9rarchie de Chomsky, et apprenables, caract\u00e9ris\u00e9es notamment dans (Angluin, 1980) . Les classes de langages k-r\u00e9versibles (Angluin, 1982) entrent dans ce cadre, elles constituent le point de d\u00e9part de nos exp\u00e9riences. Depuis, bien d'autres classes apprenables par pr\u00e9sentation positive ont \u00e9t\u00e9 d\u00e9crites et \u00e9tudi\u00e9es (Garcia and Vidal, 1990; Denis et al., 2002; Kanazawa, 1998; Koshiba et al., 2000; Yokomori, 2003) . Des avanc\u00e9es r\u00e9centes dans le domaine concernent aussi l'apprenabilit\u00e9 de dispositifs int\u00e9grant des probabilit\u00e9s, comme les automates probabilistes et leurs liens avec les HHM (Thollard et al., 2000; Dupont et al., 2005) . Parall\u00e8lement, des comp\u00e9titions 3 ont permis de tester l'efficacit\u00e9 des algorithmes propos\u00e9s lorsqu'ils sont confront\u00e9s \u00e0 des donn\u00e9es r\u00e9elles. ", |
| "cite_spans": [ |
| { |
| "start": 286, |
| "end": 298, |
| "text": "(Gold, 1967;", |
| "ref_id": "BIBREF16" |
| }, |
| { |
| "start": 299, |
| "end": 325, |
| "text": "Kearns and Vazirani, 1994)", |
| "ref_id": "BIBREF18" |
| }, |
| { |
| "start": 485, |
| "end": 500, |
| "text": "(Angluin, 1980)", |
| "ref_id": "BIBREF3" |
| }, |
| { |
| "start": 541, |
| "end": 556, |
| "text": "(Angluin, 1982)", |
| "ref_id": "BIBREF4" |
| }, |
| { |
| "start": 734, |
| "end": 758, |
| "text": "(Garcia and Vidal, 1990;", |
| "ref_id": "BIBREF15" |
| }, |
| { |
| "start": 759, |
| "end": 778, |
| "text": "Denis et al., 2002;", |
| "ref_id": "BIBREF11" |
| }, |
| { |
| "start": 779, |
| "end": 794, |
| "text": "Kanazawa, 1998;", |
| "ref_id": "BIBREF17" |
| }, |
| { |
| "start": 795, |
| "end": 816, |
| "text": "Koshiba et al., 2000;", |
| "ref_id": "BIBREF19" |
| }, |
| { |
| "start": 817, |
| "end": 832, |
| "text": "Yokomori, 2003)", |
| "ref_id": "BIBREF33" |
| }, |
| { |
| "start": 1011, |
| "end": 1034, |
| "text": "(Thollard et al., 2000;", |
| "ref_id": "BIBREF30" |
| }, |
| { |
| "start": 1035, |
| "end": 1055, |
| "text": "Dupont et al., 2005)", |
| "ref_id": "BIBREF12" |
| } |
| ], |
| "ref_spans": [], |
| "eq_spans": [], |
| "section": "Les donn\u00e9es", |
| "sec_num": "2.2" |
| }, |
| { |
| "text": "Dans cette section, nous d\u00e9crivons les algorithmes d'IG par pr\u00e9sentation positive utilis\u00e9s dans nos exp\u00e9riences. Ils sont destin\u00e9s \u00e0 apprendre un automate pour un type sp\u00e9cifique de chunk, \u00e0 partir uniquement des diff\u00e9rentes s\u00e9quences de POS aparaissant dans ce type de chunks dans les donn\u00e9es d'apprentissage. Les algorithmes d'IG par exemples positifs semblent adapt\u00e9s \u00e0 ce probl\u00e8me en raison du vocabulaire restreint mis en jeu (au maximum les 30 \u00e9tiquettes POS) et de la relativement faible variabilit\u00e9 des s\u00e9quences de POS pouvant d\u00e9crire un m\u00eame chunk. L'algorithme k-Reversible Inference (k-RI) (Angluin, 1982) ", |
| "cite_spans": [ |
| { |
| "start": 602, |
| "end": 617, |
| "text": "(Angluin, 1982)", |
| "ref_id": "BIBREF4" |
| } |
| ], |
| "ref_spans": [], |
| "eq_spans": [], |
| "section": "L'algorithme k-RI", |
| "sec_num": "3.2" |
| }, |
| { |
| "text": "Nous avons appliqu\u00e9 k-RI pour diff\u00e9rentes valeurs de k (k = 0, k = 1, k = 2) sur les s\u00e9quences d'\u00e9tiquettes POS correspondant \u00e0 un m\u00eame chunk. Les annotations BIO sont obtenues en utilisant les automates appris comme des expressions r\u00e9guli\u00e8res selon un parcours s\u00e9quentiel de la phrase. Nous avons cherch\u00e9 \u00e0 recona\u00eetre soit les s\u00e9quences les plus longues (\"Longest Match\", LM) soit les s\u00e9quences les plus courtes (\"Shortest Match\", SM ", |
| "cite_spans": [], |
| "ref_spans": [], |
| "eq_spans": [], |
| "section": "R\u00e9sultats des exp\u00e9riences d'IG sur le chunking NP", |
| "sec_num": "3.3" |
| }, |
| { |
| "text": "Dans cette section, nous nous concentrons sur la meilleure approche statistique actuelle pour une t\u00e2che d'annotation : les Conditional Random Fields (CRF), qui se comportent tr\u00e8s bien sur notre probl\u00e8me (Tellier et al., 2012) . Nous rappelons aussi comment un HMM peut \u00eatre \"transform\u00e9\" en un CRF, parce que cette transformation sera une source d'inspiration pour une des combinaisons pr\u00e9sent\u00e9es par la suite.", |
| "cite_spans": [ |
| { |
| "start": 203, |
| "end": 225, |
| "text": "(Tellier et al., 2012)", |
| "ref_id": "BIBREF28" |
| } |
| ], |
| "ref_spans": [], |
| "eq_spans": [], |
| "section": "Apprentissage statistique pour l'annotation", |
| "sec_num": "4" |
| }, |
| { |
| "text": "Les CRF, introduits par (Lafferty et al., 2001 ) sont de la famille des mod\u00e8les graphiques. Lorsque que le graphe exprimant les d\u00e9pendances entre \u00e9tiquettes est lin\u00e9aire (ce qui est g\u00e9n\u00e9ralement le cas pour \u00e9tiqueter des s\u00e9quences), la distribution de probabilit\u00e9 d'une s\u00e9quence d'annotations y connaissant une s\u00e9quence observable x est d\u00e9finie par :", |
| "cite_spans": [ |
| { |
| "start": 24, |
| "end": 46, |
| "text": "(Lafferty et al., 2001", |
| "ref_id": "BIBREF20" |
| } |
| ], |
| "ref_spans": [], |
| "eq_spans": [], |
| "section": "Conditional Random Fields et HMMs", |
| "sec_num": "4.1" |
| }, |
| { |
| "text": "p( y|x) = 1 Z(x) t exp K k=1 \u03bb k f k (t, y t , y t\u22121 , x)", |
| "cite_spans": [], |
| "ref_spans": [], |
| "eq_spans": [], |
| "section": "Conditional Random Fields et HMMs", |
| "sec_num": "4.1" |
| }, |
| { |
| "text": "O\u00f9 Z(x) est un facteur de normalisation d\u00e9pendant de x et les K features (ou fonctions caract\u00e9ristiques) f k des fonctions fournies par l'utilisateur. Une feature f k est v\u00e9rifi\u00e9e (i.e. f k (t, y t , y t\u22121 , x) = 1) si, \u00e0 la position courante t, une configuration entre x, y t et y t\u22121 est observ\u00e9e (elle vaut 0 sinon). \u00c0 chaque feature f k est associ\u00e9 un poids \u03bb k . Ces poids constituent les param\u00e8tres du mod\u00e8le devant \u00eatre estim\u00e9s au cours de l'apprentissage. Pour d\u00e9finir un grand nombre de features, les programmes impl\u00e9mentant les CRF permettent d'avoir recours \u00e0 des patrons (ou templates) qui seront instanci\u00e9s en autant de features qu'il y a de positions sur les donn\u00e9es d'entra\u00eenement o\u00f9 ils peuvent s'appliquer. L'impl\u00e9mentation la plus efficace \u00e0 l'heure actuelle des CRF lin\u00e9aires est fournie par Wapiti 5 , qui utilise des p\u00e9nalisations pour s\u00e9lectionner les features les plus pertinentes (Lavergne et al., 2010) . C'est le logiciel que nous avons utilis\u00e9.", |
| "cite_spans": [ |
| { |
| "start": 904, |
| "end": 927, |
| "text": "(Lavergne et al., 2010)", |
| "ref_id": "BIBREF21" |
| } |
| ], |
| "ref_spans": [], |
| "eq_spans": [], |
| "section": "Conditional Random Fields et HMMs", |
| "sec_num": "4.1" |
| }, |
| { |
| "text": "Les CRF se sont montr\u00e9s efficaces sur de nombreuses t\u00e2ches d'annotation, notamment l'\u00e9tiquetage POS (Lafferty et al., 2001) , la reconnaissance d'entit\u00e9s nomm\u00e9es (McCallum and Li, 2003) , le chunking (Sha and Pereira, 2003) Les HMM, qui \u00e9taient parmi les meilleures m\u00e9thodes d'annotation statistique avant que les CRF n'apparaissent, pr\u00e9sentent quant \u00e0 eux l'avantage d'\u00eatre plus interpr\u00e9tables. Cependant, tout HMM peut \u00eatre \"transform\u00e9\" en un CRF d\u00e9finissant la m\u00eame distribution de probabilit\u00e9 (Sutton and McCallum, 2006; Tellier and Tommasi, 2011) . Pour ce faire, pour un HMM donn\u00e9, nous devons d\u00e9finir deux familles de features :", |
| "cite_spans": [ |
| { |
| "start": 100, |
| "end": 123, |
| "text": "(Lafferty et al., 2001)", |
| "ref_id": "BIBREF20" |
| }, |
| { |
| "start": 162, |
| "end": 185, |
| "text": "(McCallum and Li, 2003)", |
| "ref_id": "BIBREF22" |
| }, |
| { |
| "start": 200, |
| "end": 223, |
| "text": "(Sha and Pereira, 2003)", |
| "ref_id": "BIBREF26" |
| }, |
| { |
| "start": 497, |
| "end": 524, |
| "text": "(Sutton and McCallum, 2006;", |
| "ref_id": "BIBREF27" |
| }, |
| { |
| "start": 525, |
| "end": 551, |
| "text": "Tellier and Tommasi, 2011)", |
| "ref_id": "BIBREF29" |
| } |
| ], |
| "ref_spans": [], |
| "eq_spans": [], |
| "section": "Conditional Random Fields et HMMs", |
| "sec_num": "4.1" |
| }, |
| { |
| "text": "\u2022 les features de la forme f ( y t , x t ) associant une seule \u00e9tiquette y t avec une seule entr\u00e9e de m\u00eame position x t : elles valent 1 quand l'\u00e9tats y t du HMM \u00e9met x t ;", |
| "cite_spans": [], |
| "ref_spans": [], |
| "eq_spans": [], |
| "section": "Conditional Random Fields et HMMs", |
| "sec_num": "4.1" |
| }, |
| { |
| "text": "\u2022 les features de la forme f ( y t\u22121 , y t ) qui associent deux \u00e9tats y t\u22121 et y t du HMM ; elles valent 1 quand la transition entre ces deux \u00e9tats est utilis\u00e9e.", |
| "cite_spans": [], |
| "ref_spans": [], |
| "eq_spans": [], |
| "section": "Conditional Random Fields et HMMs", |
| "sec_num": "4.1" |
| }, |
| { |
| "text": "Si \u03b8 est une probabilit\u00e9 d'\u00e9mission ou de transition du HMM, alors on choisit \u03bb = log(\u03b8 ) comme poids pour la feature correspondant dans le CRF. Le calcul de p( y|x) s'\u00e9crira alors exactement de la m\u00eame fa\u00e7on dans les deux cas. Un HMM peut ainsi \u00eatre vu comme un cas particulier de CRF. Mais les CRF sont plus g\u00e9n\u00e9raux car ils permettent d'avoir recours \u00e0 d'autres features que celles utilis\u00e9es dans la transformation. Cette correspondance nous a inspir\u00e9s pour exploiter les CRF afin de diagnostiquer les automates appris par IG. Cette id\u00e9e sera \u00e9tudi\u00e9e dans la section 5. Mais auparavant, nous pr\u00e9sentons les r\u00e9sultats obtenus avec les CRF seuls sur nos donn\u00e9es.", |
| "cite_spans": [], |
| "ref_spans": [], |
| "eq_spans": [], |
| "section": "Conditional Random Fields et HMMs", |
| "sec_num": "4.1" |
| }, |
| { |
| "text": "Les tableaux 2 montrent les patrons de features utilis\u00e9s ainsi que les r\u00e9sultats obtenus avec les CRF seuls sur les deux t\u00e2ches de chunking. Pour ces exp\u00e9riences, comme en section 3.3, nous avons suivi un protocole de validation crois\u00e9e \u00e0 5 plis et un crit\u00e8re d'\u00e9galit\u00e9 stricte des chunks. Pour la t\u00e2che de chunking complet, nous avons calcul\u00e9 les micro et macro-average, qui correspondent aux moyennes des F1-mesures des diff\u00e9rents types de chunks, pond\u00e9r\u00e9es (micro) ou pas (macro) par leur proportion. Comme attendu, les CRF seuls sont tr\u00e8s performants. Remarquons toutefois qu'ils exploitent dans leurs features \u00e0 la fois des mots et des \u00e9tiquettes POS pr\u00e9sents dans les donn\u00e9es, alors que les algorithmes d'IG n'ont acc\u00e8s qu'aux seuls POS.", |
| "cite_spans": [], |
| "ref_spans": [], |
| "eq_spans": [], |
| "section": "R\u00e9sultats des exp\u00e9riences", |
| "sec_num": "4.2" |
| }, |
| { |
| "text": "On peut comparer ces r\u00e9sultats avec ceux obtenus lors de la campagne PASSAGE (Paroubek et al., 2006) , m\u00eame si les notions de chunks adopt\u00e9es de part et d'autre diff\u00e8rent (dans PASSAGE, les adjectifs \u00e9pith\u00e8tes situ\u00e9s apr\u00e8s un nom ne font pas partie du chunk nomimal, par exemple) et si les corpus ne sont pas les m\u00eames. Les meilleurs participants de la campagne PASSAGE atteignaient une micro-average de 92,7, ce qui situe tout de m\u00eame la performance de nos CRF. ", |
| "cite_spans": [ |
| { |
| "start": 77, |
| "end": 100, |
| "text": "(Paroubek et al., 2006)", |
| "ref_id": "BIBREF23" |
| } |
| ], |
| "ref_spans": [], |
| "eq_spans": [], |
| "section": "R\u00e9sultats des exp\u00e9riences", |
| "sec_num": "4.2" |
| }, |
| { |
| "text": "Dans les sections pr\u00e9c\u00e9dentes, nous avons appliqu\u00e9 \u00e0 la t\u00e2che de chunking une approche soit purement symbolique soit purement statistique. Dans cette section, nous allons combiner les deux approches, cette combinaison pouvant s'envisager selon deux axes distincts :", |
| "cite_spans": [], |
| "ref_spans": [], |
| "eq_spans": [], |
| "section": "Combinaisons", |
| "sec_num": "5" |
| }, |
| { |
| "text": "\u2022 Soit le but est la seule performance, auquel cas il faut privil\u00e9gier l'apprentissage statistique. Cependant, les automates obtenus par IG offrent une vision globale (et non locale, comme c'est le cas dans les features) des relations entre les \u00e9tiquettes POS d'un m\u00eame chunk qui pourrait s'av\u00e9rer utile dans un CRF. Nous pouvons donc chercher \u00e0 int\u00e9grer les r\u00e9sultats de l'apprentissage symbolique en tant que ressource externe de l'apprentissage statistique.", |
| "cite_spans": [], |
| "ref_spans": [], |
| "eq_spans": [], |
| "section": "Combinaisons", |
| "sec_num": "5" |
| }, |
| { |
| "text": "\u2022 Soit nos fins sont plus en rapport avec la lisibilit\u00e9, auquel cas nous favoriserons les automates produits par IG. Or, comme \u00e9voqu\u00e9 en 4.1, il est tout \u00e0 fait possible de simuler la structure d'un HMM (et, similairement, d'un automate) avec les features d'un CRF. On pourrait donc \u00e9valuer la qualit\u00e9 des \u00e9tats et des transitions d'un automate en fonction des poids associ\u00e9s aux features qui les repr\u00e9sentent dans un CRF, offrant ainsi par la m\u00eame occasion un moyen de l'am\u00e9liorer.", |
| "cite_spans": [], |
| "ref_spans": [], |
| "eq_spans": [], |
| "section": "Combinaisons", |
| "sec_num": "5" |
| }, |
| { |
| "text": "Nous nous attaquons ici aux deux types de chunking. Le premier mode de combinaison envisag\u00e9 consiste \u00e0 enrichir les donn\u00e9es du CRF avec des attributs provenant de la ressource externe, \u00e0 la fa\u00e7on de (Constant and Tellier, 2012) . Dans le cas du chunking complet, nous appliquons l'IG \u00e0 chaque type de chunk distinct, produisant ainsi autant d'automates qu'il y a de types de chunks selon un protocole de validation crois\u00e9e \u00e0 5 plis (les PTA dans ces exp\u00e9riences sont donc uniquement extraits des corpus d'apprentissage). Chacun des automates de chunk fournit un \u00e9tiquetage BIO ind\u00e9pendant, comme dans le tableau 3 (les automates sont ici suppos\u00e9s fournir un \u00e9tiquetage parfait). Il y a donc dans nos donn\u00e9es autant d'attributs nouveaux que de chunks.", |
| "cite_spans": [ |
| { |
| "start": 199, |
| "end": 227, |
| "text": "(Constant and Tellier, 2012)", |
| "ref_id": "BIBREF7" |
| } |
| ], |
| "ref_spans": [], |
| "eq_spans": [], |
| "section": "Les automates en tant que ressource externe", |
| "sec_num": "5.1" |
| }, |
| { |
| "text": "Les tableaux de gauche dans les tables 4 donnent les patrons aboutissant aux meilleurs r\u00e9sultats (micro resp. macro-average resp. F-mesure) pour le chunking complet ou le chunking NP. La ligne \"Automate\" prend en compte la sortie de chaque automate ind\u00e9pendamment alors que \"POS+Automates\" repr\u00e9sente la concat\u00e9nation des colonnes POS et des sorties de tous les automates. Les r\u00e9sultats correspondants sont donn\u00e9s dans les tableaux de droite. Ils montrent que les attributs provenant des automates permettent d'am\u00e9liorer significativement les r\u00e9sultats des CRF. C'est particuli\u00e8rement vrai pour la macro-average, qui donne un poids \u00e9quivalent \u00e0 la F1-mesure de chaque type de chunk. Les informations issues des automates am\u00e9liorent donc surtout les performances de reconnaissance des chunks rares. Dans l'exp\u00e9rience permettant d'obtenir la meilleure macro, les trois am\u00e9liorations les plus significatives en terme de F-mesure sont : UNKNOWN (de 41.67 \u00e0 61.22), AP (de 96.78 \u00e0 97.44) et AdP (de 98.72 \u00e0 98.92). ", |
| "cite_spans": [], |
| "ref_spans": [], |
| "eq_spans": [], |
| "section": "Les automates en tant que ressource externe", |
| "sec_num": "5.1" |
| }, |
| { |
| "text": "Nous voulons ici obtenir des informations sur l'automate produit par IG \u00e0 l'aide des CRF, en faisant un apprentissage n'utilisant que des features interpr\u00e9tables relativement \u00e0 lui. Les poids associ\u00e9s par le CRF \u00e0 ces features fourniront un diagnostic fin de l'automate. Cette id\u00e9e se rapproche de (Roark and Saraclar, 2004) , o\u00f9 un CRF \u00e9tait appris selon la structure d'un automate pond\u00e9r\u00e9 pour le \"corriger\" gr\u00e2ce \u00e0 l'estimation des poids. Elle en diff\u00e8re toutefois car nous ne cherchons pas \u00e0 obtenir un automate pond\u00e9r\u00e9 mais \u00e0 trouver d'\u00e9ventuelles modifications \u00e0 effectuer sur l'automate selon le diagnostic fourni par le CRF, tout en pr\u00e9servant sa nature purement symbolique. Pour illustrer cette approche, nous nous concentrons sur la t\u00e2che de chunking NP seul car elle ne n\u00e9cessite la prise en compte que d'un seul automate. Il peut \u00eatre plus facile pour comprendre la suite de se repr\u00e9senter les automates finis d\u00e9terministes (AFD) \"\u00e0 la Unitex\" (http://www-igm.univ-mlv.fr/ unitex/). Ainsi, le r\u00e9sultat de l'algorithme ZR sur la figure 1 (l'automate final, en bas \u00e0 droite) est identique \u00e0 celui de la figure 2. Cette repr\u00e9sentation a l'avantage de montrer les \u00e9tiquettes POS et les transitions entre deux \u00e9tiquettes POS comme deux objets diff\u00e9rents. Pour construire un CRF \u00e0 partir d'un tel automate, nous consid\u00e9rons surtout les sorties en termes d'\u00e9tiquetage BIO que cet automate produit (partie droite de la Table 3 ).", |
| "cite_spans": [ |
| { |
| "start": 298, |
| "end": 324, |
| "text": "(Roark and Saraclar, 2004)", |
| "ref_id": "BIBREF25" |
| } |
| ], |
| "ref_spans": [ |
| { |
| "start": 1423, |
| "end": 1430, |
| "text": "Table 3", |
| "ref_id": "TABREF4" |
| } |
| ], |
| "eq_spans": [], |
| "section": "Diagnostiquer un automate \u00e0 l'aide d'un CRF", |
| "sec_num": "5.2" |
| }, |
| { |
| "text": "Nous inspirant de la relation entre les HMM et les CRF \u00e9voqu\u00e9e en section 4.1, nous d\u00e9finissons des patrons de features qui peuvent s'interpr\u00e9ter relativement \u00e0 l'automate : Il est \u00e0 noter que les mots eux-m\u00eames ne sont pas pris en compte dans ces patrons, afin de pr\u00e9server l'interpr\u00e9tation des features relativement \u00e0 l'automate, d'o\u00f9 les mots sont absents.", |
| "cite_spans": [], |
| "ref_spans": [], |
| "eq_spans": [], |
| "section": "Diagnostiquer un automate \u00e0 l'aide d'un CRF", |
| "sec_num": "5.2" |
| }, |
| { |
| "text": "La bleu : continuation intempestive de chunk. cyan : arr\u00eat pr\u00e9matur\u00e9 de chunk. Table 6 laissent en effet supposer qu'\u00e0 de nombreuses occasions le CRF a eu raison de prendre une d\u00e9cision diff\u00e9rente de celle pr\u00e9conis\u00e9e par l'automate.", |
| "cite_spans": [], |
| "ref_spans": [ |
| { |
| "start": 79, |
| "end": 86, |
| "text": "Table 6", |
| "ref_id": "TABREF10" |
| } |
| ], |
| "eq_spans": [], |
| "section": "Diagnostiquer un automate \u00e0 l'aide d'un CRF", |
| "sec_num": "5.2" |
| }, |
| { |
| "text": "Dans cet article, nous avons appliqu\u00e9 deux m\u00e9thodes d'apprentissage automatique sur le m\u00eame jeu de donn\u00e9es et avons propos\u00e9 deux fa\u00e7ons diff\u00e9rentes de les combiner.", |
| "cite_spans": [], |
| "ref_spans": [], |
| "eq_spans": [], |
| "section": "Conclusion et perspectives", |
| "sec_num": null |
| }, |
| { |
| "text": "Pour ce qui est de l'apprentissage symbolique seul, il est possible que d'autres algorithmes d'IG par pr\u00e9sentation positive pourraient donner de meilleurs r\u00e9sultats que les n\u00f4tres, comme ceux de (Garcia and Vidal, 1990; Denis et al., 2002) . Le choix d'une grande valeur de k dans certains cas peut \u00eatre important, mais il s'accompagne d'une plus grande complexit\u00e9 de calculs 6 .", |
| "cite_spans": [ |
| { |
| "start": 195, |
| "end": 219, |
| "text": "(Garcia and Vidal, 1990;", |
| "ref_id": "BIBREF15" |
| }, |
| { |
| "start": 220, |
| "end": 239, |
| "text": "Denis et al., 2002)", |
| "ref_id": "BIBREF11" |
| }, |
| { |
| "start": 376, |
| "end": 377, |
| "text": "6", |
| "ref_id": "BIBREF1" |
| } |
| ], |
| "ref_spans": [], |
| "eq_spans": [], |
| "section": "Conclusion et perspectives", |
| "sec_num": null |
| }, |
| { |
| "text": "Mais la partie la plus originale de notre travail concerne les combinaisons automates/CRF. Notons que ces combinaisons peuvent tout autant s'appliquer \u00e0 des automates \u00e9crits \u00e0 la main, g\u00e9n\u00e9ralement plus pertinents d'un point de vue linguistique que ceux obtenus par IG. Nous nous sommes concentr\u00e9s ici sur des automates appris automatiquement pour montrer que, m\u00eame sans ressource ni expertise linguistique, il est possible de combiner mod\u00e8les symboliques et statistiques. L'intuition derri\u00e8re ce travail est que ces deux types de mod\u00e8les sont compl\u00e9mentaires, et qu'ils peuvent chacun b\u00e9n\u00e9ficier de l'autre. Les CRF sont bas\u00e9s sur un grand nombre de configurations locales pond\u00e9r\u00e9es. Il est th\u00e9oriquement possible d'utiliser dans un CRF des features portant sur l'int\u00e9gralit\u00e9 de la s\u00e9quence x mais dans la pratique, cela est rarement fait. L'IG au contraire s'applique \u00e0 un ensemble de s\u00e9quences globales qu'elle est capable de g\u00e9n\u00e9raliser. Il a d\u00e9j\u00e0 \u00e9t\u00e9 observ\u00e9 que les CRF gagnent \u00e0 recourir \u00e0 des features exprimant des propri\u00e9t\u00e9s plus g\u00e9n\u00e9rales que de simples configurations locales (Pu et al., 2010) . Notre pari \u00e9tait que l'IG pouvait fournir ce type de g\u00e9n\u00e9ralisation, via le premier mode de combinaison. Les r\u00e9sultats obtenus vont dans ce sens. Il est aussi int\u00e9ressant de constater que les mod\u00e8les symboliques permettent d'am\u00e9liorer le traitement des cas rares, mal pris en compte par les mod\u00e8les statistiques.", |
| "cite_spans": [ |
| { |
| "start": 1088, |
| "end": 1105, |
| "text": "(Pu et al., 2010)", |
| "ref_id": "BIBREF24" |
| } |
| ], |
| "ref_spans": [], |
| "eq_spans": [], |
| "section": "Conclusion et perspectives", |
| "sec_num": null |
| }, |
| { |
| "text": "Les CRF construits sur des automates restent encore \u00e0 \u00e9tudier, notamment pour interpr\u00e9ter et exploiter au mieux les matrices de confusion qu'ils produisent. Certaines cases de ces matrices sont vides car Wapiti \u00e9limine les features non pertinentes de l'ensemble de d\u00e9part selon un crit\u00e8re de p\u00e9nalit\u00e9. Il devrait \u00eatre possible, \u00e0 l'aide de ces informations, de modifier l'automate sur lequel se base le CRF en supprimant ou ajoutant des \u00e9tats ou des transitions pour se conformer au diagnostic fourni par une table. Une IG dirig\u00e9e par des CRF reste encore \u00e0 d\u00e9finir ! Un autre 6 la complexit\u00e9 algorithmique de k-RI est |\u03a3| k |Q| k+3 o\u00f9 |Q| est le nombre d'\u00e9tats du PTA", |
| "cite_spans": [ |
| { |
| "start": 577, |
| "end": 578, |
| "text": "6", |
| "ref_id": "BIBREF1" |
| } |
| ], |
| "ref_spans": [], |
| "eq_spans": [], |
| "section": "Conclusion et perspectives", |
| "sec_num": null |
| }, |
| { |
| "text": "l'automate miroir est obtenu en transformant les \u00e9tats initiaux de l'automate de d\u00e9part en \u00e9tats finaux, ses \u00e9tats finaux en initiaux, et en retournant le sens de ses transitions", |
| "cite_spans": [], |
| "ref_spans": [], |
| "eq_spans": [], |
| "section": "", |
| "sec_num": null |
| }, |
| { |
| "text": "c ATALA", |
| "cite_spans": [], |
| "ref_spans": [], |
| "eq_spans": [], |
| "section": "", |
| "sec_num": null |
| } |
| ], |
| "back_matter": [], |
| "bib_entries": { |
| "BIBREF0": { |
| "ref_id": "b0", |
| "title": "d\u00e9fi serait l'\u00e9tude du lien entre les automates associ\u00e9s aux poids calcul\u00e9s par CRF que nous d\u00e9finissons et les plus classiques HMM ou automates probabilistes pour lesquels des algorithmes d'apprentissage existent d\u00e9j\u00e0", |
| "authors": [ |
| { |
| "first": "", |
| "middle": [], |
| "last": "Thollard", |
| "suffix": "" |
| } |
| ], |
| "year": 2000, |
| "venue": "", |
| "volume": "", |
| "issue": "", |
| "pages": "", |
| "other_ids": {}, |
| "num": null, |
| "urls": [], |
| "raw_text": "d\u00e9fi serait l'\u00e9tude du lien entre les automates associ\u00e9s aux poids calcul\u00e9s par CRF que nous d\u00e9finissons et les plus classiques HMM ou automates probabilistes pour lesquels des algorithmes d'apprentissage existent d\u00e9j\u00e0 (Thollard et al., 2000).", |
| "links": null |
| }, |
| "BIBREF1": { |
| "ref_id": "b1", |
| "title": "Building a treebank for french", |
| "authors": [ |
| { |
| "first": "A", |
| "middle": [], |
| "last": "R\u00e9f\u00e9rences Abeill\u00e9", |
| "suffix": "" |
| }, |
| { |
| "first": "L", |
| "middle": [], |
| "last": "Cl\u00e9ment", |
| "suffix": "" |
| }, |
| { |
| "first": "F", |
| "middle": [], |
| "last": "Toussenel", |
| "suffix": "" |
| } |
| ], |
| "year": 2003, |
| "venue": "", |
| "volume": "", |
| "issue": "", |
| "pages": "", |
| "other_ids": {}, |
| "num": null, |
| "urls": [], |
| "raw_text": "R\u00e9f\u00e9rences Abeill\u00e9, A., Cl\u00e9ment, L., and Toussenel, F. (2003). Building a treebank for french. In Abeill\u00e9, A., editor, Treebanks. Kluwer, Dordrecht.", |
| "links": null |
| }, |
| "BIBREF2": { |
| "ref_id": "b2", |
| "title": "Parsing by chunks", |
| "authors": [ |
| { |
| "first": "S", |
| "middle": [], |
| "last": "Abney", |
| "suffix": "" |
| } |
| ], |
| "year": 1991, |
| "venue": "Principle-based Parsing", |
| "volume": "", |
| "issue": "", |
| "pages": "", |
| "other_ids": {}, |
| "num": null, |
| "urls": [], |
| "raw_text": "Abney, S. (1991). Parsing by chunks. In Berwick, R., Abney, R., and Tenny, C., editors, Principle-based Parsing. Kluwer Academic Publisher.", |
| "links": null |
| }, |
| "BIBREF3": { |
| "ref_id": "b3", |
| "title": "Inductive inference of formal languages from positive data", |
| "authors": [ |
| { |
| "first": "D", |
| "middle": [], |
| "last": "Angluin", |
| "suffix": "" |
| } |
| ], |
| "year": 1980, |
| "venue": "Information and Control", |
| "volume": "45", |
| "issue": "2", |
| "pages": "117--135", |
| "other_ids": {}, |
| "num": null, |
| "urls": [], |
| "raw_text": "Angluin, D. (1980). Inductive inference of formal languages from positive data. Information and Control, 45(2):117-135.", |
| "links": null |
| }, |
| "BIBREF4": { |
| "ref_id": "b4", |
| "title": "Inference of reversible languages", |
| "authors": [ |
| { |
| "first": "D", |
| "middle": [], |
| "last": "Angluin", |
| "suffix": "" |
| } |
| ], |
| "year": 1982, |
| "venue": "Journal of the ACM", |
| "volume": "29", |
| "issue": "3", |
| "pages": "741--765", |
| "other_ids": {}, |
| "num": null, |
| "urls": [], |
| "raw_text": "Angluin, D. (1982). Inference of reversible languages. Journal of the ACM, 29(3):741-765.", |
| "links": null |
| }, |
| "BIBREF5": { |
| "ref_id": "b5", |
| "title": "Automatic rich annotation of large corpus of conversational transcribed speech: the chunking task of the epac project", |
| "authors": [ |
| { |
| "first": "J.-Y", |
| "middle": [], |
| "last": "Antoine", |
| "suffix": "" |
| }, |
| { |
| "first": "A", |
| "middle": [], |
| "last": "Mokrane", |
| "suffix": "" |
| }, |
| { |
| "first": "N", |
| "middle": [], |
| "last": "Friburger", |
| "suffix": "" |
| } |
| ], |
| "year": 2008, |
| "venue": "Proceedings of LREC", |
| "volume": "", |
| "issue": "", |
| "pages": "", |
| "other_ids": {}, |
| "num": null, |
| "urls": [], |
| "raw_text": "Antoine, J.-Y., Mokrane, A., and Friburger, N. (2008). Automatic rich annotation of large corpus of conversational transcribed speech: the chunking task of the epac project. In Proceedings of LREC'2008.", |
| "links": null |
| }, |
| "BIBREF6": { |
| "ref_id": "b6", |
| "title": "Partial parsing of spontaneous spoken french", |
| "authors": [ |
| { |
| "first": "O", |
| "middle": [], |
| "last": "Blanc", |
| "suffix": "" |
| }, |
| { |
| "first": "M", |
| "middle": [], |
| "last": "Constant", |
| "suffix": "" |
| }, |
| { |
| "first": "A", |
| "middle": [], |
| "last": "Dister", |
| "suffix": "" |
| }, |
| { |
| "first": "P", |
| "middle": [], |
| "last": "Watrin", |
| "suffix": "" |
| } |
| ], |
| "year": 2010, |
| "venue": "Proceedings of LREC", |
| "volume": "", |
| "issue": "", |
| "pages": "", |
| "other_ids": {}, |
| "num": null, |
| "urls": [], |
| "raw_text": "Blanc, O., Constant, M., Dister, A., and Watrin, P. (2010). Partial parsing of spontaneous spoken french. In Proceedings of LREC'2010.", |
| "links": null |
| }, |
| "BIBREF7": { |
| "ref_id": "b7", |
| "title": "Evaluating the impact of external lexical resources unto a crf-based multiword segmenter and part-of-speech tagger", |
| "authors": [ |
| { |
| "first": "M", |
| "middle": [], |
| "last": "Constant", |
| "suffix": "" |
| }, |
| { |
| "first": "I", |
| "middle": [], |
| "last": "Tellier", |
| "suffix": "" |
| } |
| ], |
| "year": 2012, |
| "venue": "Proceedings of LREC", |
| "volume": "", |
| "issue": "", |
| "pages": "", |
| "other_ids": {}, |
| "num": null, |
| "urls": [], |
| "raw_text": "Constant, M. and Tellier, I. (2012). Evaluating the impact of external lexical resources unto a crf-based multiword segmenter and part-of-speech tagger. In Proceedings of LREC 2012.", |
| "links": null |
| }, |
| "BIBREF8": { |
| "ref_id": "b8", |
| "title": "Int\u00e9grer des connaissances linguistiques dans un CRF : application \u00e0 l'apprentissage d'un segmenteur\u00e9tiqueteur du fran\u00e7ais", |
| "authors": [ |
| { |
| "first": "M", |
| "middle": [], |
| "last": "Constant", |
| "suffix": "" |
| }, |
| { |
| "first": "I", |
| "middle": [], |
| "last": "Tellier", |
| "suffix": "" |
| }, |
| { |
| "first": "D", |
| "middle": [], |
| "last": "Duchier", |
| "suffix": "" |
| }, |
| { |
| "first": "Y", |
| "middle": [], |
| "last": "Dupont", |
| "suffix": "" |
| }, |
| { |
| "first": "A", |
| "middle": [], |
| "last": "Sigogne", |
| "suffix": "" |
| }, |
| { |
| "first": "S", |
| "middle": [], |
| "last": "Billot", |
| "suffix": "" |
| } |
| ], |
| "year": 2011, |
| "venue": "Actes de TALN'11", |
| "volume": "", |
| "issue": "", |
| "pages": "", |
| "other_ids": {}, |
| "num": null, |
| "urls": [], |
| "raw_text": "Constant, M., Tellier, I., Duchier, D., Dupont, Y., Sigogne, A., and Billot, S. (2011). Int\u00e9grer des connaissances linguistiques dans un CRF : application \u00e0 l'apprentissage d'un segmenteur- \u00e9tiqueteur du fran\u00e7ais. In Actes de TALN'11.", |
| "links": null |
| }, |
| "BIBREF9": { |
| "ref_id": "b9", |
| "title": "Exp\u00e9riences d'analyse syntaxique statistique du fran\u00e7ais", |
| "authors": [ |
| { |
| "first": "B", |
| "middle": [], |
| "last": "Crabb\u00e9", |
| "suffix": "" |
| }, |
| { |
| "first": "M", |
| "middle": [ |
| "H" |
| ], |
| "last": "Candito", |
| "suffix": "" |
| } |
| ], |
| "year": 2008, |
| "venue": "Actes de TALN'08", |
| "volume": "", |
| "issue": "", |
| "pages": "", |
| "other_ids": {}, |
| "num": null, |
| "urls": [], |
| "raw_text": "Crabb\u00e9, B. and Candito, M. H. (2008). Exp\u00e9riences d'analyse syntaxique statistique du fran\u00e7ais. In Actes de TALN'08.", |
| "links": null |
| }, |
| "BIBREF10": { |
| "ref_id": "b10", |
| "title": "Grammatical Inference: Learning Automata and Grammars", |
| "authors": [ |
| { |
| "first": "C", |
| "middle": [], |
| "last": "De La Higuera", |
| "suffix": "" |
| } |
| ], |
| "year": 2010, |
| "venue": "", |
| "volume": "", |
| "issue": "", |
| "pages": "", |
| "other_ids": {}, |
| "num": null, |
| "urls": [], |
| "raw_text": "de la Higuera, C. (2010). Grammatical Inference: Learning Automata and Grammars. CU Press.", |
| "links": null |
| }, |
| "BIBREF11": { |
| "ref_id": "b11", |
| "title": "Some language classes identifiable in the limit from positive data", |
| "authors": [ |
| { |
| "first": "F", |
| "middle": [], |
| "last": "Denis", |
| "suffix": "" |
| }, |
| { |
| "first": "A", |
| "middle": [], |
| "last": "Lemay", |
| "suffix": "" |
| }, |
| { |
| "first": "A", |
| "middle": [], |
| "last": "Terlutte", |
| "suffix": "" |
| } |
| ], |
| "year": 2002, |
| "venue": "ICGI 2002, number 2484 in LNAI", |
| "volume": "", |
| "issue": "", |
| "pages": "63--76", |
| "other_ids": {}, |
| "num": null, |
| "urls": [], |
| "raw_text": "Denis, F., Lemay, A., and Terlutte, A. (2002). Some language classes identifiable in the limit from positive data. In ICGI 2002, number 2484 in LNAI, pages 63-76. Springer Verlag.", |
| "links": null |
| }, |
| "BIBREF12": { |
| "ref_id": "b12", |
| "title": "Links between probabilistic automata and hidden markov models: probability distributions, learning models and induction algorithms", |
| "authors": [ |
| { |
| "first": "P", |
| "middle": [], |
| "last": "Dupont", |
| "suffix": "" |
| }, |
| { |
| "first": "F", |
| "middle": [], |
| "last": "Denis", |
| "suffix": "" |
| }, |
| { |
| "first": "Y", |
| "middle": [], |
| "last": "Esposito", |
| "suffix": "" |
| } |
| ], |
| "year": 2005, |
| "venue": "Pattern Recognition", |
| "volume": "38", |
| "issue": "9", |
| "pages": "1349--1371", |
| "other_ids": {}, |
| "num": null, |
| "urls": [], |
| "raw_text": "Dupont, P., Denis, F., and Esposito, Y. (2005). Links between probabilistic automata and hidden markov models: probability distributions, learning models and induction algorithms. Pattern Recognition, 38(9):1349-1371.", |
| "links": null |
| }, |
| "BIBREF13": { |
| "ref_id": "b13", |
| "title": "What is the search space of the regular inference", |
| "authors": [ |
| { |
| "first": "P", |
| "middle": [], |
| "last": "Dupont", |
| "suffix": "" |
| }, |
| { |
| "first": "L", |
| "middle": [], |
| "last": "Miclet", |
| "suffix": "" |
| }, |
| { |
| "first": "E", |
| "middle": [], |
| "last": "Vidal", |
| "suffix": "" |
| } |
| ], |
| "year": 1994, |
| "venue": "ICGI'94 -LNCS", |
| "volume": "862", |
| "issue": "", |
| "pages": "25--37", |
| "other_ids": {}, |
| "num": null, |
| "urls": [], |
| "raw_text": "Dupont, P., Miclet, L., and Vidal, E. (1994). What is the search space of the regular inference. In ICGI'94 -LNCS, volume 862 -Grammatical Inference and Applications, pages 25-37, Heidelberg.", |
| "links": null |
| }, |
| "BIBREF14": { |
| "ref_id": "b14", |
| "title": "Efficient, feature-based, conditional random field parsing", |
| "authors": [ |
| { |
| "first": "J", |
| "middle": [ |
| "R" |
| ], |
| "last": "Finkel", |
| "suffix": "" |
| }, |
| { |
| "first": "A", |
| "middle": [], |
| "last": "Kleeman", |
| "suffix": "" |
| }, |
| { |
| "first": "C", |
| "middle": [ |
| "D" |
| ], |
| "last": "Manning", |
| "suffix": "" |
| } |
| ], |
| "year": 2008, |
| "venue": "Proceedings of ACL'2008", |
| "volume": "", |
| "issue": "", |
| "pages": "959--967", |
| "other_ids": {}, |
| "num": null, |
| "urls": [], |
| "raw_text": "Finkel, J. R., Kleeman, A., and Manning, C. D. (2008). Efficient, feature-based, conditional random field parsing. In Proceedings of ACL'2008, pages 959-967.", |
| "links": null |
| }, |
| "BIBREF15": { |
| "ref_id": "b15", |
| "title": "Inference of k-testable languages in the strict sense and application to syntactic pattern recognition", |
| "authors": [ |
| { |
| "first": "P", |
| "middle": [], |
| "last": "Garcia", |
| "suffix": "" |
| }, |
| { |
| "first": "E", |
| "middle": [], |
| "last": "Vidal", |
| "suffix": "" |
| } |
| ], |
| "year": 1990, |
| "venue": "IEEE TPAMI", |
| "volume": "12", |
| "issue": "9", |
| "pages": "920--925", |
| "other_ids": {}, |
| "num": null, |
| "urls": [], |
| "raw_text": "Garcia, P. and Vidal, E. (1990). Inference of k-testable languages in the strict sense and application to syntactic pattern recognition. IEEE TPAMI, 12(9):920-925.", |
| "links": null |
| }, |
| "BIBREF16": { |
| "ref_id": "b16", |
| "title": "Language identification in the limit", |
| "authors": [ |
| { |
| "first": "E", |
| "middle": [], |
| "last": "Gold", |
| "suffix": "" |
| } |
| ], |
| "year": 1967, |
| "venue": "Information and Control", |
| "volume": "10", |
| "issue": "", |
| "pages": "447--474", |
| "other_ids": {}, |
| "num": null, |
| "urls": [], |
| "raw_text": "Gold, E. (1967). Language identification in the limit. Information and Control, 10:447-474.", |
| "links": null |
| }, |
| "BIBREF17": { |
| "ref_id": "b17", |
| "title": "Learnable Classes of Categorial Grammars. FoLLI", |
| "authors": [ |
| { |
| "first": "M", |
| "middle": [], |
| "last": "Kanazawa", |
| "suffix": "" |
| } |
| ], |
| "year": 1998, |
| "venue": "", |
| "volume": "", |
| "issue": "", |
| "pages": "", |
| "other_ids": {}, |
| "num": null, |
| "urls": [], |
| "raw_text": "Kanazawa, M. (1998). Learnable Classes of Categorial Grammars. FoLLI. CLSI Publications.", |
| "links": null |
| }, |
| "BIBREF18": { |
| "ref_id": "b18", |
| "title": "An Introduction to Computational Learning Theory", |
| "authors": [ |
| { |
| "first": "M", |
| "middle": [ |
| "J" |
| ], |
| "last": "Kearns", |
| "suffix": "" |
| }, |
| { |
| "first": "U", |
| "middle": [ |
| "V" |
| ], |
| "last": "Vazirani", |
| "suffix": "" |
| } |
| ], |
| "year": 1994, |
| "venue": "", |
| "volume": "", |
| "issue": "", |
| "pages": "", |
| "other_ids": {}, |
| "num": null, |
| "urls": [], |
| "raw_text": "Kearns, M. J. and Vazirani, U. V. (1994). An Introduction to Computational Learning Theory. MIT Press.", |
| "links": null |
| }, |
| "BIBREF19": { |
| "ref_id": "b19", |
| "title": "Inferring pure context-free languages from positive data", |
| "authors": [ |
| { |
| "first": "T", |
| "middle": [], |
| "last": "Koshiba", |
| "suffix": "" |
| }, |
| { |
| "first": "E", |
| "middle": [], |
| "last": "M\u00e4kinen", |
| "suffix": "" |
| }, |
| { |
| "first": "Y", |
| "middle": [], |
| "last": "Takada", |
| "suffix": "" |
| } |
| ], |
| "year": 2000, |
| "venue": "Acta Cybernetica", |
| "volume": "14", |
| "issue": "3", |
| "pages": "469--477", |
| "other_ids": {}, |
| "num": null, |
| "urls": [], |
| "raw_text": "Koshiba, T., M\u00e4kinen, E., and Takada, Y. (2000). Inferring pure context-free languages from positive data. Acta Cybernetica, 14(3):469-477.", |
| "links": null |
| }, |
| "BIBREF20": { |
| "ref_id": "b20", |
| "title": "Conditional random fields: Probabilistic models for segmenting and labeling sequence data", |
| "authors": [ |
| { |
| "first": "J", |
| "middle": [], |
| "last": "Lafferty", |
| "suffix": "" |
| }, |
| { |
| "first": "A", |
| "middle": [], |
| "last": "Mccallum", |
| "suffix": "" |
| }, |
| { |
| "first": "F", |
| "middle": [], |
| "last": "Pereira", |
| "suffix": "" |
| } |
| ], |
| "year": 2001, |
| "venue": "Proceedings of ICML 2001", |
| "volume": "", |
| "issue": "", |
| "pages": "282--289", |
| "other_ids": {}, |
| "num": null, |
| "urls": [], |
| "raw_text": "Lafferty, J., McCallum, A., and Pereira, F. (2001). Conditional random fields: Probabilistic models for segmenting and labeling sequence data. In Proceedings of ICML 2001, pages 282-289.", |
| "links": null |
| }, |
| "BIBREF21": { |
| "ref_id": "b21", |
| "title": "Practical very large scale CRFs", |
| "authors": [ |
| { |
| "first": "T", |
| "middle": [], |
| "last": "Lavergne", |
| "suffix": "" |
| }, |
| { |
| "first": "O", |
| "middle": [], |
| "last": "Capp\u00e9", |
| "suffix": "" |
| }, |
| { |
| "first": "F", |
| "middle": [], |
| "last": "Yvon", |
| "suffix": "" |
| } |
| ], |
| "year": 2010, |
| "venue": "Proceedings of ACL'2010", |
| "volume": "", |
| "issue": "", |
| "pages": "504--513", |
| "other_ids": {}, |
| "num": null, |
| "urls": [], |
| "raw_text": "Lavergne, T., Capp\u00e9, O., and Yvon, F. (2010). Practical very large scale CRFs. In Proceedings of ACL'2010, pages 504-513. Association for Computational Linguistics.", |
| "links": null |
| }, |
| "BIBREF22": { |
| "ref_id": "b22", |
| "title": "Early results for named entity recognition with conditional random fields", |
| "authors": [ |
| { |
| "first": "A", |
| "middle": [], |
| "last": "Mccallum", |
| "suffix": "" |
| }, |
| { |
| "first": "W", |
| "middle": [], |
| "last": "Li", |
| "suffix": "" |
| } |
| ], |
| "year": 2003, |
| "venue": "Proceedings of CoNLL", |
| "volume": "", |
| "issue": "", |
| "pages": "", |
| "other_ids": {}, |
| "num": null, |
| "urls": [], |
| "raw_text": "McCallum, A. and Li, W. (2003). Early results for named entity recognition with conditional random fields. In Proceedings of CoNLL'2003.", |
| "links": null |
| }, |
| "BIBREF23": { |
| "ref_id": "b23", |
| "title": "Data annotations and measures in easy, the evaluation campain for parsers of french", |
| "authors": [ |
| { |
| "first": "P", |
| "middle": [], |
| "last": "Paroubek", |
| "suffix": "" |
| }, |
| { |
| "first": "I", |
| "middle": [], |
| "last": "Robba", |
| "suffix": "" |
| }, |
| { |
| "first": "A", |
| "middle": [], |
| "last": "Vilnat", |
| "suffix": "" |
| }, |
| { |
| "first": "C", |
| "middle": [], |
| "last": "", |
| "suffix": "" |
| }, |
| { |
| "first": "A", |
| "middle": [], |
| "last": "", |
| "suffix": "" |
| } |
| ], |
| "year": 2006, |
| "venue": "Proceedings of LREC'2006", |
| "volume": "", |
| "issue": "", |
| "pages": "315--320", |
| "other_ids": {}, |
| "num": null, |
| "urls": [], |
| "raw_text": "Paroubek, P., Robba, I., Vilnat, A., and C., A. (2006). Data annotations and measures in easy, the evaluation campain for parsers of french. In Proceedings of LREC'2006, pages 315-320.", |
| "links": null |
| }, |
| "BIBREF24": { |
| "ref_id": "b24", |
| "title": "Chinese named entity recognition with the improved smoothed conditional random fields", |
| "authors": [ |
| { |
| "first": "X", |
| "middle": [], |
| "last": "Pu", |
| "suffix": "" |
| }, |
| { |
| "first": "Q", |
| "middle": [], |
| "last": "Mao", |
| "suffix": "" |
| }, |
| { |
| "first": "G", |
| "middle": [], |
| "last": "Wu", |
| "suffix": "" |
| }, |
| { |
| "first": "C", |
| "middle": [], |
| "last": "Yuan", |
| "suffix": "" |
| } |
| ], |
| "year": 2010, |
| "venue": "Research in Computing Science", |
| "volume": "46", |
| "issue": "", |
| "pages": "90--103", |
| "other_ids": {}, |
| "num": null, |
| "urls": [], |
| "raw_text": "Pu, X., Mao, Q., Wu, G., and Yuan, C. (2010). Chinese named entity recognition with the improved smoothed conditional random fields. Research in Computing Science, 46:90-103.", |
| "links": null |
| }, |
| "BIBREF25": { |
| "ref_id": "b25", |
| "title": "Discriminative language modeling with conditional random fields and the perceptron algorithm", |
| "authors": [ |
| { |
| "first": "B", |
| "middle": [], |
| "last": "Roark", |
| "suffix": "" |
| }, |
| { |
| "first": "M", |
| "middle": [], |
| "last": "Saraclar", |
| "suffix": "" |
| } |
| ], |
| "year": 2004, |
| "venue": "Proceedings of ACL'2004", |
| "volume": "", |
| "issue": "", |
| "pages": "47--54", |
| "other_ids": {}, |
| "num": null, |
| "urls": [], |
| "raw_text": "Roark, B. and Saraclar, M. (2004). Discriminative language modeling with conditional random fields and the perceptron algorithm. In Proceedings of ACL'2004, pages 47-54.", |
| "links": null |
| }, |
| "BIBREF26": { |
| "ref_id": "b26", |
| "title": "Shallow parsing with conditional random fields", |
| "authors": [ |
| { |
| "first": "F", |
| "middle": [], |
| "last": "Sha", |
| "suffix": "" |
| }, |
| { |
| "first": "F", |
| "middle": [], |
| "last": "Pereira", |
| "suffix": "" |
| } |
| ], |
| "year": 2003, |
| "venue": "Proceedings of HLT-NAACL 2003", |
| "volume": "", |
| "issue": "", |
| "pages": "213--220", |
| "other_ids": {}, |
| "num": null, |
| "urls": [], |
| "raw_text": "Sha, F. and Pereira, F. (2003). Shallow parsing with conditional random fields. In Proceedings of HLT-NAACL 2003, pages 213 -220.", |
| "links": null |
| }, |
| "BIBREF27": { |
| "ref_id": "b27", |
| "title": "Introduction to Statistical Relational Learning, chapter An Introduction to Conditional Random Fields for Relational Learning", |
| "authors": [ |
| { |
| "first": "C", |
| "middle": [], |
| "last": "Sutton", |
| "suffix": "" |
| }, |
| { |
| "first": "A", |
| "middle": [], |
| "last": "Mccallum", |
| "suffix": "" |
| } |
| ], |
| "year": 2006, |
| "venue": "", |
| "volume": "", |
| "issue": "", |
| "pages": "", |
| "other_ids": {}, |
| "num": null, |
| "urls": [], |
| "raw_text": "Sutton, C. and McCallum, A. (2006). Introduction to Statistical Relational Learning, chapter An Introduction to Conditional Random Fields for Relational Learning. MIT Press.", |
| "links": null |
| }, |
| "BIBREF28": { |
| "ref_id": "b28", |
| "title": "Apprentissage automatique d'un chunker pour le fran\u00e7ais", |
| "authors": [ |
| { |
| "first": "I", |
| "middle": [], |
| "last": "Tellier", |
| "suffix": "" |
| }, |
| { |
| "first": "D", |
| "middle": [], |
| "last": "Duchier", |
| "suffix": "" |
| }, |
| { |
| "first": "I", |
| "middle": [], |
| "last": "Eshkol", |
| "suffix": "" |
| }, |
| { |
| "first": "A", |
| "middle": [], |
| "last": "Courmet", |
| "suffix": "" |
| }, |
| { |
| "first": "M", |
| "middle": [], |
| "last": "Martinet", |
| "suffix": "" |
| } |
| ], |
| "year": 2012, |
| "venue": "Actes de TALN'12", |
| "volume": "", |
| "issue": "", |
| "pages": "", |
| "other_ids": {}, |
| "num": null, |
| "urls": [], |
| "raw_text": "Tellier, I., Duchier, D., Eshkol, I., Courmet, A., and Martinet, M. (2012). Apprentissage automatique d'un chunker pour le fran\u00e7ais. In Actes de TALN'12, papier court (poster).", |
| "links": null |
| }, |
| "BIBREF29": { |
| "ref_id": "b29", |
| "title": "Champs Markoviens Conditionnels pour l'extraction d'information", |
| "authors": [ |
| { |
| "first": "I", |
| "middle": [], |
| "last": "Tellier", |
| "suffix": "" |
| }, |
| { |
| "first": "M", |
| "middle": [], |
| "last": "Tommasi", |
| "suffix": "" |
| } |
| ], |
| "year": 2011, |
| "venue": "Mod\u00e8les probabilistes pour l'acc\u00e8s \u00e0 l'information textuelle", |
| "volume": "", |
| "issue": "", |
| "pages": "", |
| "other_ids": {}, |
| "num": null, |
| "urls": [], |
| "raw_text": "Tellier, I. and Tommasi, M. (2011). Champs Markoviens Conditionnels pour l'extraction d'information. In Mod\u00e8les probabilistes pour l'acc\u00e8s \u00e0 l'information textuelle. Herm\u00e8s.", |
| "links": null |
| }, |
| "BIBREF30": { |
| "ref_id": "b30", |
| "title": "Probabilistic DFA inference using Kullback-Leibler divergence and minimality", |
| "authors": [ |
| { |
| "first": "F", |
| "middle": [], |
| "last": "Thollard", |
| "suffix": "" |
| }, |
| { |
| "first": "P", |
| "middle": [], |
| "last": "Dupont", |
| "suffix": "" |
| }, |
| { |
| "first": "C", |
| "middle": [], |
| "last": "Higuera", |
| "suffix": "" |
| } |
| ], |
| "year": 2000, |
| "venue": "Proc. of ICML'2000", |
| "volume": "", |
| "issue": "", |
| "pages": "975--982", |
| "other_ids": {}, |
| "num": null, |
| "urls": [], |
| "raw_text": "Thollard, F., Dupont, P., and de la Higuera, C. (2000). Probabilistic DFA inference using Kullback-Leibler divergence and minimality. In Proc. of ICML'2000, pages 975-982.", |
| "links": null |
| }, |
| "BIBREF31": { |
| "ref_id": "b31", |
| "title": "Fast full parsing by linear-chain conditional random fields", |
| "authors": [ |
| { |
| "first": "Y", |
| "middle": [], |
| "last": "Tsuruoka", |
| "suffix": "" |
| }, |
| { |
| "first": "J", |
| "middle": [], |
| "last": "Tsujii", |
| "suffix": "" |
| }, |
| { |
| "first": "S", |
| "middle": [], |
| "last": "Ananiadou", |
| "suffix": "" |
| } |
| ], |
| "year": 2009, |
| "venue": "Proceedings of EACL 2009", |
| "volume": "", |
| "issue": "", |
| "pages": "790--798", |
| "other_ids": {}, |
| "num": null, |
| "urls": [], |
| "raw_text": "Tsuruoka, Y., Tsujii, J., and Ananiadou, S. (2009). Fast full parsing by linear-chain conditional random fields. In Proceedings of EACL 2009, pages 790-798.", |
| "links": null |
| }, |
| "BIBREF32": { |
| "ref_id": "b32", |
| "title": "A theory of the learnable", |
| "authors": [ |
| { |
| "first": "L", |
| "middle": [ |
| "G" |
| ], |
| "last": "Valiant", |
| "suffix": "" |
| } |
| ], |
| "year": 1984, |
| "venue": "Communications of the ACM", |
| "volume": "27", |
| "issue": "11", |
| "pages": "1134--1142", |
| "other_ids": {}, |
| "num": null, |
| "urls": [], |
| "raw_text": "Valiant, L. G. (1984). A theory of the learnable. Communications of the ACM, 27(11):1134-1142.", |
| "links": null |
| }, |
| "BIBREF33": { |
| "ref_id": "b33", |
| "title": "Polynomial-time identification of very simple grammars from positive data", |
| "authors": [ |
| { |
| "first": "T", |
| "middle": [], |
| "last": "Yokomori", |
| "suffix": "" |
| } |
| ], |
| "year": 2003, |
| "venue": "Theoretical Computer Science", |
| "volume": "1", |
| "issue": "", |
| "pages": "", |
| "other_ids": {}, |
| "num": null, |
| "urls": [], |
| "raw_text": "Yokomori, T. (2003). Polynomial-time identification of very simple grammars from positive data. Theoretical Computer Science, 1.", |
| "links": null |
| } |
| }, |
| "ref_entries": { |
| "FIGREF1": { |
| "uris": null, |
| "num": null, |
| "text": "a la propri\u00e9t\u00e9 d'identifier \u00e0 la limite tout langage k-r\u00e9versible, pour tout k \u2208 fix\u00e9. Les langages k-r\u00e9versibles sont r\u00e9guliers, ils sont donc repr\u00e9sentables par des automates finis. Un automate fini d\u00e9finit un langage k-r\u00e9versible s'il est d\u00e9terministe et si son miroir4 est d\u00e9terministe avec anticipation k. Pour k = 0, les langages 0-r\u00e9versibles peuvent \u00eatre repr\u00e9sent\u00e9s par un automate d\u00e9terministe dont le miroir l'est \u00e9galement, l'algorithme correspondant \u00e9tant appel\u00e9 Z\u00e9ro R\u00e9versible (ZR). Si k 1 < k 2 , la classe des langages k 1 -r\u00e9versibles est strictement incluse dans celle des langages k 2 -r\u00e9versibles.Soit un ensemble de s\u00e9quences positives S, la premi\u00e8re \u00e9tape de k-RI est de construire PTA(S), le Prefix Tree Acceptor de S. PTA(S) est le plus petit (en nombre d'\u00e9tats) AFD (Automate Fini D\u00e9terministe) en forme d'arbre reconnaissant exactement le langage S. La racine de PTA(S) est son \u00e9tat initial. L'espace de recherche de tout algorithme d'IG partant de S est un trelli dont la borne inf\u00e9rieure est PTA(S) et la borne sup\u00e9rieure l'automate universel construit sur l'alphabet observ\u00e9 dans S(Dupont et al., 1994). La plupart des algorithmes d'IG suivent le m\u00eame sch\u00e9ma : ils partent de PTA(S) pour ensuite g\u00e9n\u00e9raliser le langage d\u00e9fini par fusions d'\u00e9tats, la connaissance de k permettant d'\u00e9viter la surg\u00e9n\u00e9ralisation. k-RI, d\u00e9taill\u00e9 ci-dessous, fonctionne selon ce principe. La fusion qu'il emploie est appel\u00e9e d\u00e9terministe car elle se propage r\u00e9cursivement \u00e0 travers l'automate pour pr\u00e9server son d\u00e9terminisme.Algorithme k-RIEntr\u00e9e : S : un ensemble de s\u00e9quences (positives), k : un entier naturel ; Sortie : A : un automate k-r\u00e9versible ; d\u00e9but A := PTA(S); tant que non(A k-r\u00e9versible) faire // soient N1 et N2 deux noeuds emp\u00eachant la k-r\u00e9versibilit\u00e9 de A. Fusion_D\u00e9terministe(A, N1, N2); fin tant que; renvoyer A; fin k-RI; Dans la figure 1, nous illustrons le comportement de ZR (k-RI pour k = 0) sur les s\u00e9quences de POS suivantes : S = {DET N C, DE T ADJ N C}. Sur cet exemple tr\u00e8s simple, nous voyons que ZR g\u00e9n\u00e9ralise PTA(S) pour obtenir un automate reconnaissant le langage d\u00e9fini par l'expression r\u00e9guli\u00e8re : DE T ADJ * N C. Cette g\u00e9n\u00e9ralisation est sens\u00e9e d'un point de vue linguistique. Mais si on ajoute aux exemples pr\u00e9c\u00e9dents la simple s\u00e9quence N C, alors ZR m\u00e8ne \u00e0 un automate reconnaissant le langage {DET |ADJ} * N C, ce qui est une g\u00e9n\u00e9ralisation plus discutable.", |
| "type_str": "figure" |
| }, |
| "FIGREF2": { |
| "uris": null, |
| "num": null, |
| "text": "\u00e9tape 1 : PTA(S) \u00e9tape 1 : miroir de PTA(S) \u00e9tape 2 : les \u00e9tats finaux de PTA(S) sont fusionn\u00e9s \u00e9tape 3 : q 1 et q 2 sont fusionn\u00e9s (sinon le miroir n'est pas d\u00e9terministe) (sinon le miroir n'est pas d\u00e9terministe)Figure 1: D\u00e9monstration pas-\u00e0-pas de ZR", |
| "type_str": "figure" |
| }, |
| "TABREF0": { |
| "type_str": "table", |
| "num": null, |
| "content": "<table><tr><td colspan=\"2\">TALN-R\u00c9CITAL 2013, 17-21 Juin, Les Sables d'Olonne</td></tr><tr><td colspan=\"2\">3 L'inf\u00e9rence grammaticale</td></tr><tr><td colspan=\"2\">3.1 Bref \u00e9tat de l'art</td></tr><tr><td colspan=\"2\">L'IG \u00e9tudie les diff\u00e9rentes mani\u00e8res d'apprendre automatiquement un dispositif symbolique</td></tr><tr><td colspan=\"2\">capable de repr\u00e9senter un langage (comme une grammaire formelle, un automate, etc...) \u00e0 partir</td></tr><tr><td colspan=\"2\">d'un ensemble de s\u00e9quences (parfois enrichies) regroup\u00e9es selon leur (non-)appartenance \u00e0 ce</td></tr><tr><td colspan=\"2\">langage (de la Higuera, 2010). Lorsque seules des s\u00e9quences appartenant au langage cible sont</td></tr><tr><td colspan=\"2\">disponibles, le probl\u00e8me</td></tr><tr><td colspan=\"2\">Les proportions de chaque type de chunk trouv\u00e9es dans le corpus sont les suivantes : PP : 33,86%,</td></tr><tr><td colspan=\"2\">AdP : 7,23%, VP : 17,11%, AP : 2,21%, NP : 32,95%, CONJ : 6,61%, UNKNOWN : 0,03%.</td></tr><tr><td colspan=\"2\">\u2022 un corpus o\u00f9 seuls les NP sont \u00e9tiquet\u00e9s, tout autre groupe \u00e9tant alors consid\u00e9r\u00e9 O. Ce corpus n'est pas un sous-ensemble du pr\u00e9c\u00e9dent : par exemple, de nombreux PP incluent un NP</td></tr><tr><td colspan=\"2\">qui ne devient visible que dans ce deuxi\u00e8me corpus. L'exemple pr\u00e9c\u00e9dent devient ainsi :</td></tr><tr><td colspan=\"2\">(la/DET d\u00e9pr\u00e9ciation/NC) N P par_rapport_au/P (dollar/NC) N P a/V \u00e9t\u00e9/VPP limit\u00e9e/VPP \u00e0/P</td></tr><tr><td colspan=\"2\">(2,5/DET %/NC) N P</td></tr><tr><td>1</td><td>http://www.cnts.ua.be/conll2000/chunking</td></tr><tr><td>2</td><td>guide complet disponible sur :</td></tr></table>", |
| "text": "'inf\u00e9rence grammaticale (IG) est un domaine de recherche tr\u00e8s riche apparu dans les ann\u00e9es 60 dont il n'est, par cons\u00e9quent, pas ais\u00e9 de faire un r\u00e9sum\u00e9. Nous nous pla\u00e7ons ici dans le cadre de l'IG d'automates par exemples positifs seuls. Apr\u00e8s un bref \u00e9tat de l'art, nous d\u00e9crivons les algorithmes k-RI(Angluin, 1982) utilis\u00e9s dans nos exp\u00e9riences et les r\u00e9sultats obtenus avec eux.", |
| "html": null |
| }, |
| "TABREF1": { |
| "type_str": "table", |
| "num": null, |
| "content": "<table><tr><td>xp</td><td colspan=\"5\">PTA pur PTA net. 0-RI net. (1) 1-RI net. (19) 2-RI net. (68.6)</td></tr><tr><td>F-mes.</td><td>51.92</td><td>88.05</td><td>26.95</td><td>72.74</td><td>88.25</td></tr></table>", |
| "text": "Quelques mauvais exemples \u00e9taient cependant faciles \u00e0 d\u00e9tecter : par exemple, des s\u00e9quences d'\u00e9tiquettes POS ne contenant aucune t\u00eate nominale possible peuvent \u00eatre retir\u00e9es sans risque. Nous avons envisag\u00e9 diverses autres fa\u00e7ons de nettoyer les donn\u00e9es. Un nettoyage retirant toutes les s\u00e9quences apparaissant moins d'une certaine proportion fix\u00e9e s'est r\u00e9v\u00e9l\u00e9 le plus efficace. Cette strat\u00e9gie entra\u00eene n\u00e9anmoins la suppression de s\u00e9quences utiles, en raison de la faible proportion de certaines t\u00eates (clitiques notamment). R\u00e9sultats de l'IG pour le chunking NP 5 automates calcul\u00e9s pendant la phase d'apprentissage. Les versions PTA, dont les performances ne sont pas n\u00e9gligeables, peuvent \u00eatre vues comme un apprentissage \"par coeur\", puisqu'ils n'ont donn\u00e9 lieu \u00e0 aucune g\u00e9n\u00e9ralisation. Les automates de taille 1 correspondent \u00e0 ceux reconnaissant le langage universel des \u00e9tiquettes POS pr\u00e9sentes au moins une fois dans un chunk NP. Il faut atteindre k = 2 pour obtenir un automate meilleur que le PTA sur des donn\u00e9es nettoy\u00e9es.", |
| "html": null |
| }, |
| "TABREF2": { |
| "type_str": "table", |
| "num": null, |
| "content": "<table><tr><td>Feature Mot POS</td><td>Type Unigram [-2..1] Fen\u00eatre Bigram [-2..1]</td><td>chunking micro macro F1-mesure</td><td>Complet NP seuls 97.53 N/A 90.49 N/A N/A 96.43</td></tr></table>", |
| "text": "Le patron de template et les r\u00e9sultats obtenus avec les CRF seuls pour chaque t\u00e2cheet al., 2009). Leur principal inconv\u00e9nient est qu'ils apparaissent comme des \"bo\u00eetes noires\". Un mod\u00e8le issu d'un apprentissage par CRF est simplement une liste de features pond\u00e9r\u00e9es pouvant avoir plusieurs millions d'\u00e9l\u00e9ments, ce qui le rend difficile \u00e0 interpr\u00e9ter.", |
| "html": null |
| }, |
| "TABREF4": { |
| "type_str": "table", |
| "num": null, |
| "content": "<table/>", |
| "text": "Donn\u00e9es enrichies par des sorties d'automates sp\u00e9cifiques pour chaque chunk", |
| "html": null |
| }, |
| "TABREF6": { |
| "type_str": "table", |
| "num": null, |
| "content": "<table/>", |
| "text": "Patrons et meilleure micro-average (resp. macro-average) pour le chunking complet, idem pour la F-mesure du chunking NP seul", |
| "html": null |
| }, |
| "TABREF8": { |
| "type_str": "table", |
| "num": null, |
| "content": "<table><tr><td/><td/><td/><td/><td>vert : les deux sorties sont identiques.</td></tr><tr><td>EP \\EC</td><td>B</td><td>I</td><td>O</td><td>rouge : d\u00e9but pr\u00e9matur\u00e9 de chunk.</td></tr><tr><td>B</td><td>1.66</td><td>-4.05</td><td>-0.84</td><td/></tr><tr><td>I</td><td>-0.44</td><td>0.46</td><td>-2.51</td><td/></tr><tr><td>O</td><td>N/A</td><td>N/A</td><td>N/A</td><td/></tr></table>", |
| "text": "est une matrice de confusion qui met en relation les \u00e9tiquettes BIO pr\u00e9dites par un automate (EP) et les \u00e9tiquettes BIO correctes (EC), pour une \u00e9tiquette POS donn\u00e9e (ici, l'\u00e9tiquette DET d'un automate appris). On peut construire autant de tables que d'\u00e9tiquettes POS pr\u00e9sentes dans un chunk NP, chaque case de chaque table correspondant \u00e0 une feature unigramme. Les cases de laTable 5sont remplies par les poids appris par le CRF pour les features en question, les couleurs montrent comment elles s'interpr\u00e8tent relativement \u00e0 l'automate de d\u00e9part. Comme esp\u00e9r\u00e9, les poids sur la diagonale, qui signalent un \u00e9tiquetage correct, sont plus grands que ceux en dehors, qui d\u00e9signent une erreur d'\u00e9tiquetage. Les features bigrammes sont un peu plus compliqu\u00e9es mais il est \u00e9galement possible d'en tirer des matrices de confusion interpr\u00e9tables.", |
| "html": null |
| }, |
| "TABREF9": { |
| "type_str": "table", |
| "num": null, |
| "content": "<table><tr><td>Exp\u00e9rience</td><td>baseline (IG seule)</td><td>0-RI</td><td>1-RI</td><td>2-RI</td></tr><tr><td>chunk</td><td>88.25</td><td colspan=\"3\">93.00 93.07 93.08</td></tr></table>", |
| "text": "Une matrice de confusion color\u00e9e pour l'\u00e9tiquette DET (2-RI, tableau 1) De mani\u00e8re g\u00e9n\u00e9rale, le poids associ\u00e9 \u00e0 une feature d'un CRF repr\u00e9sente son pouvoir discriminant. Ces poids sont donc bien plus pertinents que de simples comptes d'occurences sur le nombre de fois qu'une feature a \u00e9t\u00e9 satisfaite ou pas dans les donn\u00e9es d'apprentissage. Les poids sur les diagonales peuvent ainsi \u00eatre vus comme \u00e9valuant la qualit\u00e9 des \u00e9tats / transitions de l'automate, alors que les poids dans les autres cases correspondent aux gains obtenus en prenant une d\u00e9cision d'\u00e9tiquetage non pr\u00e9conis\u00e9e par l'automate. L'ensemble des matrices de confusion offre donc une mesure extr\u00eamement fine et pr\u00e9cise de la qualit\u00e9 de l'automate.", |
| "html": null |
| }, |
| "TABREF10": { |
| "type_str": "table", |
| "num": null, |
| "content": "<table/>", |
| "text": "R\u00e9sultats du chunking NP avec les CRF construits sur les automates produit par k-RI pour chaque valeur de k. Comme on pouvait s'y attendre, les CRF construits sur les automates NP sont meilleurs que les automates NP seuls, mais moins bons qu'un CRF exploitant plus d'attributs et de features. Les r\u00e9sultats des matrices de confusion doivent encore \u00eatre examin\u00e9s en d\u00e9tail. Nous esp\u00e9rons en tirer un diagnostic pr\u00e9cis pour analyser o\u00f9 et pourquoi les automates prennent de bonnes ou de mauvaises d\u00e9cisions, et les modifier en cons\u00e9quence. Les am\u00e9liorations observ\u00e9es dans la", |
| "html": null |
| } |
| } |
| } |
| } |
