ACL-OCL / Base_JSON /prefixF /json /F14 /F14-1014.json
Benjamin Aw
Add updated pkl file v3
6fa4bc9
{
"paper_id": "F14-1014",
"header": {
"generated_with": "S2ORC 1.0.0",
"date_generated": "2023-01-19T10:22:57.204732Z"
},
"title": "Une \u00e9valuation approfondie de diff\u00e9rentes m\u00e9thodes de compositionalit\u00e9 s\u00e9mantique",
"authors": [
{
"first": "Antoine",
"middle": [
"Bride"
],
"last": "Tim",
"suffix": "",
"affiliation": {
"laboratory": "",
"institution": "Universit\u00e9 Paul Sabatier",
"location": {
"addrLine": "118 route de Narbonne",
"postCode": "F-31062",
"settlement": "TOULOUSE CEDEX 9"
}
},
"email": ""
}
],
"year": "",
"venue": null,
"identifiers": {},
"abstract": "Au cours des deux derni\u00e8res d\u00e9cennies, de nombreux algorithmes ont \u00e9t\u00e9 d\u00e9velopp\u00e9s pour capturer la s\u00e9mantique des mots simples en regardant leur r\u00e9partition dans un grand corpus, et en comparant ces distributions dans un mod\u00e8le d'espace vectoriel. En revanche, il n'est pas trivial de combiner les objets alg\u00e9briques de la s\u00e9mantique distributionnelle pour arriver \u00e0 une d\u00e9rivation d'un contenu pour des expressions complexes, compos\u00e9es de plusieurs mots. Notre contribution a deux buts. Le premier est d'\u00e9tablir une large base de comparaison pour les m\u00e9thodes de composition pour le cas adjectif_nom. Cette base nous permet d'\u00e9valuer en profondeur la performance des diff\u00e9rentes m\u00e9thodes de composition. Notre second but est la proposition d'une nouvelle m\u00e9thode de composition, qui est une g\u00e9n\u00e9ralisation de la m\u00e9thode de Baroni & Zamparelli (2010). La performance de notre nouvelle m\u00e9thode est \u00e9galement \u00e9valu\u00e9e sur notre nouveau ensemble de test.",
"pdf_parse": {
"paper_id": "F14-1014",
"_pdf_hash": "",
"abstract": [
{
"text": "Au cours des deux derni\u00e8res d\u00e9cennies, de nombreux algorithmes ont \u00e9t\u00e9 d\u00e9velopp\u00e9s pour capturer la s\u00e9mantique des mots simples en regardant leur r\u00e9partition dans un grand corpus, et en comparant ces distributions dans un mod\u00e8le d'espace vectoriel. En revanche, il n'est pas trivial de combiner les objets alg\u00e9briques de la s\u00e9mantique distributionnelle pour arriver \u00e0 une d\u00e9rivation d'un contenu pour des expressions complexes, compos\u00e9es de plusieurs mots. Notre contribution a deux buts. Le premier est d'\u00e9tablir une large base de comparaison pour les m\u00e9thodes de composition pour le cas adjectif_nom. Cette base nous permet d'\u00e9valuer en profondeur la performance des diff\u00e9rentes m\u00e9thodes de composition. Notre second but est la proposition d'une nouvelle m\u00e9thode de composition, qui est une g\u00e9n\u00e9ralisation de la m\u00e9thode de Baroni & Zamparelli (2010). La performance de notre nouvelle m\u00e9thode est \u00e9galement \u00e9valu\u00e9e sur notre nouveau ensemble de test.",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "Abstract",
"sec_num": null
}
],
"body_text": [
{
"text": "Au cours des deux derni\u00e8res d\u00e9cennies, il y a eu un int\u00e9r\u00eat croissant dans les m\u00e9thodes dites \u00ab distributionnelles \u00bb pour la s\u00e9mantique lexicale (Landauer & Dumais, 1997; Lin, 1998; Turney & Pantel, 2010) . Ces m\u00e9thodes sont nomm\u00e9es ainsi car elles se fondent sur l'hypoth\u00e8se distributionnelle (Harris, 1954) , qui stipule que les mots qui apparaissent dans les m\u00eames contextes ont tendance \u00e0 \u00eatre s\u00e9mantiquement similaire. Dans l'esprit de cet adage, maintenant bien connu, de nombreux algorithmes ont \u00e9t\u00e9 d\u00e9velopp\u00e9s pour tenter de capturer la s\u00e9mantique des mots simples en regardant leur r\u00e9partition dans un grand corpus, et en comparant ces distributions dans un mod\u00e8le d'espace vectoriel.",
"cite_spans": [
{
"start": 145,
"end": 170,
"text": "(Landauer & Dumais, 1997;",
"ref_id": "BIBREF27"
},
{
"start": 171,
"end": 181,
"text": "Lin, 1998;",
"ref_id": "BIBREF29"
},
{
"start": 182,
"end": 204,
"text": "Turney & Pantel, 2010)",
"ref_id": "BIBREF39"
},
{
"start": 294,
"end": 308,
"text": "(Harris, 1954)",
"ref_id": "BIBREF23"
}
],
"ref_spans": [],
"eq_spans": [],
"section": "Introduction",
"sec_num": "1"
},
{
"text": "En comparaison avec les \u00e9tudes manuelles de la s\u00e9mantique formelle lexicale, cette approche apporte une couverture bien plus vaste et une analyse d'une grande masse de donn\u00e9es empiriques. En revanche, il n'est pas trivial de combiner les objets alg\u00e9briques de la s\u00e9mantique distributionnelle pour arriver \u00e0 une d\u00e9rivation d'un contenu pour des expressions complexes, compos\u00e9es de plusieurs mots. A contrario, l'op\u00e9ration de l'application et des repr\u00e9sentations qui utilisent le formalisme du \u03bb -calcul dans la s\u00e9mantique formelle nous donne des m\u00e9thodes de composition g\u00e9n\u00e9rales et sophistiqu\u00e9es qui peuvent traiter non seulement la composition de sens dans les cas simples mais aussi des ph\u00e9nom\u00e8nes complexes comme la coercition ou la composition avec des formules finement typ\u00e9es (Asher, 2011; Luo, 2010; Bassac et al., 2010) . Malgr\u00e9 des efforts pour trouver une m\u00e9thode g\u00e9n\u00e9rale de composition et diverses approches propos\u00e9es pour la composition des structures syntaxiques sp\u00e9cifiques (par exemple adjectifs et syntagmes nominaux, ou verbes transitifs et objets (Mitchell & Lapata, 2008; Coecke et al., 2010; Baroni & Zamparelli, 2010) ), le probl\u00e8me de composition demeure un d\u00e9fi pour BRIDE, CRUYS, ASHER l'approche distributionnelle. De plus, la validation des m\u00e9thodes de composition propos\u00e9es s'est souvent faite \u00e0 petite \u00e9chelle (Mitchell & Lapata, 2008) . Bien que ces \u00e9tudes sur les jugements de similarit\u00e9 soient prometteuses et significatives, il serait int\u00e9ressant d'avoir des \u00e9tudes ayant une plus large couverture de validation. Elles nous permettraient de mieux comparer les diff\u00e9rentes m\u00e9thodes de composition propos\u00e9es.",
"cite_spans": [
{
"start": 782,
"end": 795,
"text": "(Asher, 2011;",
"ref_id": "BIBREF0"
},
{
"start": 796,
"end": 806,
"text": "Luo, 2010;",
"ref_id": "BIBREF30"
},
{
"start": 807,
"end": 827,
"text": "Bassac et al., 2010)",
"ref_id": "BIBREF3"
},
{
"start": 1066,
"end": 1091,
"text": "(Mitchell & Lapata, 2008;",
"ref_id": "BIBREF32"
},
{
"start": 1092,
"end": 1112,
"text": "Coecke et al., 2010;",
"ref_id": "BIBREF11"
},
{
"start": 1113,
"end": 1139,
"text": "Baroni & Zamparelli, 2010)",
"ref_id": "BIBREF2"
},
{
"start": 1339,
"end": 1364,
"text": "(Mitchell & Lapata, 2008)",
"ref_id": "BIBREF32"
}
],
"ref_spans": [],
"eq_spans": [],
"section": "Introduction",
"sec_num": "1"
},
{
"text": "Notre contribution a deux buts. Le premier est d'\u00e9tablir une large base de comparaison pour les m\u00e9thodes de composition pour le cas adjectif_nom. Pour cela nous avons cr\u00e9\u00e9 un vaste ensemble de test utilisant des paires contenant une expression compos\u00e9e (adjectif_nom) et un nom qui doit \u00eatre proche sinon identique s\u00e9mantiquement de l'expression compos\u00e9e. Ces paires ont \u00e9t\u00e9 extraites semi-automatiquement du Wiktionnaire fran\u00e7ais. Cette base de paires similaires nous permet d'\u00e9valuer en profondeur la performance des diff\u00e9rentes m\u00e9thodes de composition. Nous avons test\u00e9 trois m\u00e9thodes de composition d\u00e9j\u00e0 existantes, \u00e0 savoir l'approche additive et multiplicative (Mitchell & Lapata, 2008) , ainsi que l'approche par fonctions lexicales (Baroni & Zamparelli, 2010) .",
"cite_spans": [
{
"start": 667,
"end": 692,
"text": "(Mitchell & Lapata, 2008)",
"ref_id": "BIBREF32"
},
{
"start": 740,
"end": 767,
"text": "(Baroni & Zamparelli, 2010)",
"ref_id": "BIBREF2"
}
],
"ref_spans": [],
"eq_spans": [],
"section": "Introduction",
"sec_num": "1"
},
{
"text": "Les deux premi\u00e8res m\u00e9thodes sont compl\u00e8tement g\u00e9n\u00e9rales et s'appliquent \u00e0 des vecteurs que l'on peut automatiquement calculer pour les adjectifs et noms. En revanche, l'approche de Baroni et Zamparelli n\u00e9cessite d'apprendre une fonction particuli\u00e8re associ\u00e9e \u00e0 chaque adjectif. Notre second but est de g\u00e9n\u00e9raliser l'approche fonctionnelle afin d'\u00e9liminer le besoin de conserver une fonction par adjectif. Pour cela nous utilisons une fonction g\u00e9n\u00e9ralis\u00e9e apprise \u00e0 l'aide des fonctions d'adjectifs de l'approche de Baroni et Zamparelli. Cette fonction g\u00e9n\u00e9ralis\u00e9e se combine alors avec le vecteur d'un adjectif et celui d'un nom de mani\u00e8re enti\u00e8rement g\u00e9n\u00e9rale. La performance de notre nouvelle m\u00e9thode de l'approche fonctionnelle g\u00e9n\u00e9ralis\u00e9e est \u00e9galement \u00e9valu\u00e9e sur notre ensemble de test.",
"cite_spans": [
{
"start": 515,
"end": 524,
"text": "Baroni et",
"ref_id": null
}
],
"ref_spans": [],
"eq_spans": [],
"section": "Introduction",
"sec_num": "1"
},
{
"text": "Nous avons organis\u00e9 notre contribution de fa\u00e7on suivante. Nous d\u00e9taillons d'abord les diff\u00e9rents mod\u00e8les de composition que nous \u00e9valuons dans notre \u00e9tude, avec un rappel sur les diff\u00e9rentes m\u00e9thodes de composition existantes et puis une description de notre g\u00e9n\u00e9ralisation de l'approche fonctionnelle. Puis nous d\u00e9crivons notre m\u00e9thode d'\u00e9valuation et les r\u00e9sultats. Apr\u00e8s une section sur les travaux connexes aux n\u00f4tres, nous concluons et nous pr\u00e9cisons quelques pistes de travaux futurs.",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "Introduction",
"sec_num": "1"
},
{
"text": "Nous expliquons, dans cette section, quels mod\u00e8les de composition ont \u00e9t\u00e9 test\u00e9s et \u00e0 quoi ceux-ci correspondent. Apr\u00e8s une bref rappel des mod\u00e8les de composition simples, nous d\u00e9taillons notamment la m\u00e9thode des fonctions lexicales de Baroni & Zamparelli (2010) ainsi que la g\u00e9n\u00e9ralisation que nous en avons faite.",
"cite_spans": [
{
"start": 236,
"end": 262,
"text": "Baroni & Zamparelli (2010)",
"ref_id": "BIBREF2"
}
],
"ref_spans": [],
"eq_spans": [],
"section": "Mod\u00e8les de composition",
"sec_num": "2"
},
{
"text": "Voici les notations utilis\u00e9es dans la suite. Lorsque nous d\u00e9crivons un objet th\u00e9orique, sans soucis de sa repr\u00e9sentation physique par l'ordinateur, nous utilisons la police de base. Quand nous discutons de vecteurs, ceux-ci sont \u00e9crits en gras. Les matrices sont repr\u00e9sent\u00e9es en MAJUSCULES GRASSES. Enfin, nous \u00e9crivons les tenseurs 1 d'ordre 3 avec une majuscule calligraphi\u00e9e, par exemple A . De plus, comme nous ne manipulons pas de tenseur d'ordre sup\u00e9rieur \u00e0 4, nous appelons simplement les tenseurs d'ordre 3 \u00ab tenseurs \u00bb 2 . Pour conclure, le coefficient d'indice i d'un vecteur v est not\u00e9 v i ; la notation des coefficients des matrices et tenseurs se fait de mani\u00e8re analogue.",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "Mod\u00e8les de composition",
"sec_num": "2"
},
{
"text": "Dans la suite de cet article les adjectifs seront repr\u00e9sent\u00e9s par la lettre \u00ab a \u00bb et les noms par la lettre \u00ab n \u00bb.",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "Mod\u00e8les de composition",
"sec_num": "2"
},
{
"text": "Trois mod\u00e8les de composition que nous avons utilis\u00e9s sont simples \u00e0 d\u00e9crire : les m\u00e9thodes triviale, additive et multiplicative. L'approche triviale, not\u00e9e C t et que nous utilisons comme base de comparaison, ignore l'adjectif :",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "Mod\u00e8les de composition simples",
"sec_num": "2.1"
},
{
"text": "C t (a, n) = n",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "Mod\u00e8les de composition simples",
"sec_num": "2.1"
},
{
"text": "Le mod\u00e8le additif, not\u00e9 C a , consiste \u00e0 r\u00e9aliser une combinaison lin\u00e9aire entre les vecteurs a et n \u00e0 l'aide de coefficients ind\u00e9pendants de ceux-ci : Le mod\u00e8le multiplicatif, not\u00e9 C m , consiste \u00e0 multiplier les vecteurs a et n terme \u00e0 terme :",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "Mod\u00e8les de composition simples",
"sec_num": "2.1"
},
{
"text": "C a (a, n) = \u03b1 n + \u03b2 a UNE \u00c9VALUATION APPROFONDIE DE DIFF\u00c9RENTES M\u00c9THODES DE COMPOSITIONALIT\u00c9 S\u00c9MANTIQUE \u00d7 = A n C f . l. (a, n) FIGURE 1: Composition dans l'",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "Mod\u00e8les de composition simples",
"sec_num": "2.1"
},
{
"text": "C m (a, n) = n \u2297 a o\u00f9 (n \u2297 a) i = n i \u00d7 a i",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "Mod\u00e8les de composition simples",
"sec_num": "2.1"
},
{
"text": "L'approche par fonctions lexicales de Baroni & Zamparelli (2010) \u00e9tant plus complexe, nous la d\u00e9crivons dans la section suivante. Nous expliquons ensuite pourquoi et comment nous avons tent\u00e9 de g\u00e9n\u00e9raliser cette approche.",
"cite_spans": [
{
"start": 38,
"end": 64,
"text": "Baroni & Zamparelli (2010)",
"ref_id": "BIBREF2"
}
],
"ref_spans": [],
"eq_spans": [],
"section": "Mod\u00e8les de composition simples",
"sec_num": "2.1"
},
{
"text": "Le mod\u00e8le de composition par fonctions lexicales, not\u00e9 C f . l. , consiste \u00e0 repr\u00e9senter les adjectifs par des matrices. Ainsi la combinaison d'un adjectif et d'un nom est le produit de la matrice A et du vecteur n comme le montre la figure 1. L'approche distributionelle ne permet cependant pas de g\u00e9n\u00e9rer naturellement des matrices. Baroni et Zamparelli proposent donc d'apprendre la matrice d'un adjectif \u00e0 partir d'exemples de vecteurs nom_adjectif obtenus directement \u00e0 partir du corpus. De tels vecteurs nom_adjectif sont obtenus de la m\u00eame mani\u00e8res que des vecteurs repr\u00e9sentant un seul mot : quand la combinaison de l'adjectif et du nom occurre, on observe son contexte. Prenons l'exemple du paragraphe en figure 2. Le mot \u00ab village \u00bb appara\u00eet trois fois. La premi\u00e8re occurrence peut contribuer \u00e0 cr\u00e9er le vecteur village_voisin, la deuxi\u00e8me \u00e0 cr\u00e9er village_abare, et la derni\u00e8re \u00e0 cr\u00e9er village_autre.",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "Fonctions Lexicales",
"sec_num": "2.2"
},
{
"text": "Une fois que l'on a cr\u00e9\u00e9 suffisamment de vecteurs nom_adjectif pour un adjectif donn\u00e9, on calcule la matrice A. Pour cela, on r\u00e9alise une r\u00e9gression partielle des moindres carr\u00e9s, sur les combinaisons nom_adjectif. Formellement, en notant n a les vecteurs nom_adjectif, il s'agit de trouver A minimisant :",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "Fonctions Lexicales",
"sec_num": "2.2"
},
{
"text": "\u2211 n A \u00d7 n \u2212 n a 2 o\u00f9 v 2 = \u2211 i v 2 i",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "Fonctions Lexicales",
"sec_num": "2.2"
},
{
"text": "Pour reprendre l'exemple pr\u00e9c\u00e9dent, on minimiserait, notamment, {VOISIN\u00d7village \u2212 village_voisin{ 2 pour obtenir la matrice VOISIN.",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "Fonctions Lexicales",
"sec_num": "2.2"
},
{
"text": "Il est important de noter qu'une telle approche n\u00e9cessite un corpus plus important que les autres approches. En effet, comme il ne s'agit plus seulement d'observer des exemples d'utilisation d'adjectifs ou de noms isol\u00e9s mais des exemples d'utilisation de la combinaison d'un adjectif et d'un nom, les occurrences sont intrins\u00e8quement plus rares. Dans le paragraphe en figure 2, chacune des apparitions du mot \u00ab village \u00bb peut contribuer \u00e0 la cr\u00e9ation du vecteur village mais aucune ne peut contribuer \u00e0 la cr\u00e9ation du vecteur village_f\u00e9lon.",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "Fonctions Lexicales",
"sec_num": "2.2"
},
{
"text": "= A \u00d7 a \u00d7 n C f . l. g. (a, n)",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "BRIDE, CRUYS, ASHER",
"sec_num": null
},
{
"text": "FIGURE 3: Composition dans l'approche par fonction lexicale g\u00e9n\u00e9ralis\u00e9e Baroni & Zamparelli (2010) expliquent comment limiter les probl\u00e8mes li\u00e9s au manque d'exemples. De plus, les exp\u00e9riences pr\u00e9sent\u00e9es jusqu'\u00e0 maintenant montrent que les corpus actuels permettent une impl\u00e9mentation efficace de l'approche par fonctions lexicales pour les adjectifs les plus courants. En effet, celle-ci a obtenu les meilleurs r\u00e9sultats sur un certain nombre d'exp\u00e9riences.",
"cite_spans": [
{
"start": 72,
"end": 98,
"text": "Baroni & Zamparelli (2010)",
"ref_id": "BIBREF2"
}
],
"ref_spans": [],
"eq_spans": [],
"section": "BRIDE, CRUYS, ASHER",
"sec_num": null
},
{
"text": "N\u00e9anmoins, l'approche de Baroni et Zamparelli reste limit\u00e9e pour traiter des adjectifs relativement rares. Par exemple, l'adjectif \u00ab f\u00e9lon \u00bb appara\u00eet 217 fois dans le corpus FRWaC (Baroni et al., 2009) . C'est assez pour g\u00e9n\u00e9rer un vecteur f\u00e9lon, mais tr\u00e8s peu pour esp\u00e9rer g\u00e9n\u00e9rer un nombre suffisant de vecteurs nom_f\u00e9lon et donc g\u00e9n\u00e9rer la matrice F\u00c9LON.",
"cite_spans": [
{
"start": 180,
"end": 201,
"text": "(Baroni et al., 2009)",
"ref_id": "BIBREF1"
}
],
"ref_spans": [],
"eq_spans": [],
"section": "BRIDE, CRUYS, ASHER",
"sec_num": null
},
{
"text": "De plus, devoir apprendre une matrice pour chaque adjectif pose un probl\u00e8me th\u00e9orique. En effet, cette approche suppose, comme l'approche de Montague, que l'effet d'un adjectif sur un nom est idiosyncratique \u00e0 l'adjectif (Kamp, 1975) . Mais le d\u00e9savantage de ceci est que les donn\u00e9es montrent que la plupart des adjectifs dans les langues du monde sont subjectifs et se comportent selon des principes g\u00e9n\u00e9rales de composition (Partee, 2010; Asher, 2011). La mani\u00e8re dont les adjectifs sont utilis\u00e9s dans la langue fran\u00e7aise laisse supposer qu'il existe une fa\u00e7on g\u00e9n\u00e9rale de combiner adjectifs et noms. Lorsque l'on conna\u00eet la signification d'un adjectif, l'association \u00e0 un nom est rarement probl\u00e9matique. Ceci, ind\u00e9pendamment de la pr\u00e9sence ou de l'absence d'exemples d'association.",
"cite_spans": [
{
"start": 221,
"end": 233,
"text": "(Kamp, 1975)",
"ref_id": "BIBREF24"
}
],
"ref_spans": [],
"eq_spans": [],
"section": "BRIDE, CRUYS, ASHER",
"sec_num": null
},
{
"text": "Pour r\u00e9soudre ces probl\u00e8mes, nous proposons de g\u00e9n\u00e9raliser les fonctions lexicales que sont les matrices d'adjectifs par une fonction lexicale unique : le tenseur de composition adjectivale A . Dans notre approche, not\u00e9e C f . l. g. , la combinaison d'un adjectif et d'un nom est le produit du tenseur A avec le vecteur adjectif puis le vecteur nom, c.f. figure 3.",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "G\u00e9n\u00e9ralisation",
"sec_num": "2.3"
},
{
"text": "On peut noter que le produit du tenseur A et du vecteur a est une matrice d\u00e9pendante de l'adjectif et multipli\u00e9e au vecteur n. Cette matrice correspond \u00e0 la matrice A de l'approche par fonctions lexicales de Baroni et Zamparelli. Ainsi, comme le montre la figure 4, nous obtenons le tenseur A \u00e0 l'aide d'exemples de matrices obtenues par la m\u00e9thode de Baroni et Zamparelli, et de vecteurs obtenus naturellement dans l'approche distributionelle. Plus pr\u00e9cis\u00e9ment nous effectuons une r\u00e9gression partielle des moindres carr\u00e9s sur les matrices g\u00e9n\u00e9r\u00e9es par les \u00e9quations. Formellement, il s'agit de trouver A minimisant :",
"cite_spans": [
{
"start": 352,
"end": 361,
"text": "Baroni et",
"ref_id": null
}
],
"ref_spans": [],
"eq_spans": [],
"section": "G\u00e9n\u00e9ralisation",
"sec_num": "2.3"
},
{
"text": "\u2211 a A \u00d7 a \u2212 A 2 o\u00f9 M 2 = \u2211 i, j M 2 i, j",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "G\u00e9n\u00e9ralisation",
"sec_num": "2.3"
},
{
"text": "Cette \u00e9quation ressemble beaucoup \u00e0 l'\u00e9quation non g\u00e9n\u00e9ralis\u00e9e. En effet, dans les deux cas, l'objectif formel est de trouver une application lin\u00e9aire 4 minimisant des \u00e9quations dans un espace vectoriel de dimension finie.",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "G\u00e9n\u00e9ralisation",
"sec_num": "2.3"
},
{
"text": "Cependant, la g\u00e9n\u00e9ralisation fait une hypoth\u00e8se bien plus forte. En effet, l'image d'une application lin\u00e9aire est toujours de dimension inf\u00e9rieure \u00e0 son espace de d\u00e9part. Or, par construction, si les vecteurs adjectif existent dans un espace de dimension N, alors les matrices ADJECTIF existent dans un espace de dimension N \u00d7 N. Ainsi, s'il existe un tenseur A , cela signifie que le sous-espace engendr\u00e9 par les matrices ADJECTIF est de taille inf\u00e9rieur \u00e0 N r\u00e9duisant consid\u00e9rablement leur degr\u00e9 de libert\u00e9 maximal initial (dimension N \u00d7 N). L'approche de Baroni et Zamparelli n'a pas cette hypoth\u00e8se puisque les vecteurs nom et nom_adjectif coexistent dans un m\u00eame espace (et les espaces engendr\u00e9s par ceux-ci ont donc la m\u00eame dimension maximale).",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "G\u00e9n\u00e9ralisation",
"sec_num": "2.3"
},
{
"text": "Moins formellement, chercher une telle application lin\u00e9aire pr\u00e9suppose qu'il n'y pas plus d'\u00ab information \u00bb dans le sousespace d'arriv\u00e9e que de le sous-espace de d\u00e9part. Cela cr\u00e9\u00e9 une diff\u00e9rence notable entre les deux m\u00e9thodes. En effet, dans la m\u00e9thode de Baroni ",
"cite_spans": [
{
"start": 257,
"end": 263,
"text": "Baroni",
"ref_id": null
}
],
"ref_spans": [],
"eq_spans": [],
"section": "G\u00e9n\u00e9ralisation",
"sec_num": "2.3"
},
{
"text": "Une fois le test choisi et les fichiers de test r\u00e9alis\u00e9s nous avons cr\u00e9\u00e9 l'espace s\u00e9mantique. Pour cela, nous avons utilis\u00e9 le corpus FRWaC (Baroni et al., 2009 ) -un corpus de 1,6 milliard de mots extrait du web -tag\u00e9 avec le tageur MElt (Denis et al., 2010) et pars\u00e9 \u00e0 l'aide du parseur MaltParser (Nivre et al., 2006) , form\u00e9 sur une version de d\u00e9pendances du French treebank (Candito et al., 2010) . Nous avons d'abord r\u00e9cup\u00e9r\u00e9 les lemmes des mots, adjectifs, et noms du corpus. Nous avons uniquement conserv\u00e9 les lemmes \u00e9crits en toutes lettres 11 puis selectionn\u00e9 les 10000 lemmes les plus fr\u00e9quents pour chaque cat\u00e9gorie (mots, adjectifs, noms). Enfin, nous avons g\u00e9n\u00e9r\u00e9 l'espace en utilisant les adjectifs et les noms 9. i.e. moins de 200 fois pour les adjectifs et moins de 1500 fois pour les noms. 10. Nous fournissons les fichiers correspondant sur simple demande par e-mail. 11. Cette \u00e9tape \u00e9limine principalement les dates, les nombres en chiffre, et la ponctuation. Nous estimons que ceux-ci ont un int\u00e9r\u00eat limit\u00e9 en approche distributionnelle. comme vecteurs, et les mots comme dimensions en utilisant la m\u00e9thode des bags of words. Nous avons alors nettoy\u00e9 l'espace ainsi cr\u00e9\u00e9s en normalisant les vecteurs et en appliquant le positive point-wise mutual information (ppmi, (Church & Hanks, 1990 )) \u00e0 l'espace.",
"cite_spans": [
{
"start": 140,
"end": 160,
"text": "(Baroni et al., 2009",
"ref_id": "BIBREF1"
},
{
"start": 300,
"end": 320,
"text": "(Nivre et al., 2006)",
"ref_id": "BIBREF34"
},
{
"start": 379,
"end": 401,
"text": "(Candito et al., 2010)",
"ref_id": "BIBREF9"
},
{
"start": 1287,
"end": 1308,
"text": "(Church & Hanks, 1990",
"ref_id": "BIBREF10"
}
],
"ref_spans": [],
"eq_spans": [],
"section": "Espace s\u00e9mantique",
"sec_num": "3.2"
},
{
"text": "Nous avons alors compar\u00e9 les m\u00e9thodes sur trois versions de l'espace : l'espace entier, l'espace r\u00e9duit \u00e0 300 dimensions par la m\u00e9thode de d\u00e9composition en valeurs singuli\u00e8res (svd, (Golub & Van Loan, 1996) ), et l'espace r\u00e9duit \u00e0 300 dimensions par la m\u00e9thode de factorisation en matrices positives (nmf, (Lee & Seung, 2000) ). Nous avons fait cela pour pouvoir tester chaque m\u00e9thode dans des conditions optimales. En effet : -Un espace non r\u00e9duit contient plus d'informations. Ainsi les m\u00e9thodes compatibles (additive et multiplicative) peuvent obtenir de meilleurs r\u00e9sultats. Cependant, utiliser la m\u00e9thode des fonctions lexicales sur l'espace non r\u00e9duit demanderait d'apprendre des matrices de taille 10000 \u00d7 10000. Ceci poserait des probl\u00e8mes de temps de calcul et de parcimonie des donn\u00e9es comme on a vu ci-dessus. De m\u00eame pour les fonctions \u00e9tendues. -Un espace r\u00e9duit avec la m\u00e9thode svd permet exp\u00e9rimentalement d'obtenir de bon r\u00e9sultats pour les fonctions lexicales.",
"cite_spans": [
{
"start": 176,
"end": 206,
"text": "(svd, (Golub & Van Loan, 1996)",
"ref_id": null
},
{
"start": 300,
"end": 325,
"text": "(nmf, (Lee & Seung, 2000)",
"ref_id": null
}
],
"ref_spans": [],
"eq_spans": [],
"section": "Espace s\u00e9mantique",
"sec_num": "3.2"
},
{
"text": "Cependant, la pr\u00e9sence de valeurs n\u00e9gatives dans le vecteurs de l'espace r\u00e9duit drastiquement l'efficacit\u00e9 de l'approche multiplicative. -Un espace r\u00e9duit avec la m\u00e9thode nmf ne p\u00e9nalise pas les approches multiplicatives. (Dietterich, 1998) .",
"cite_spans": [
{
"start": 222,
"end": 240,
"text": "(Dietterich, 1998)",
"ref_id": "BIBREF13"
}
],
"ref_spans": [],
"eq_spans": [],
"section": "Espace s\u00e9mantique",
"sec_num": "3.2"
},
{
"text": "\u22121 \u22120.5 0.5 1 \u22121 \u22120.5 0.5 1 v 1 v 2 v 1 \u2297 v 2 (a) vecteurs \u00e0 valeurs positives \u22121 \u22120.5 0.5 1 \u22121 \u22120.5 0.5 1 v 1 v 2 v 1 \u2297 v 2",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "R\u00e9sultats",
"sec_num": "3.3"
},
{
"text": "(b) vecteurs \u00e0 valeurs n\u00e9gatives FIGURE 6: l'effet de valeurs n\u00e9gatives sur l'approche multiplicative (\u03c7 2 = 21.33, p < 0.01). Les r\u00e9sultats du mod\u00e8le additif pour les espaces svd et nmf sont \u00e9galement significatifs (\u03c7 2 = 11.82, p < 0.01 et \u03c7 2 = 18.91, p < 0.01, respectivement) mais il sont inf\u00e9rieurs au r\u00e9sultat de l'espace non-r\u00e9duit. On constate que le mod\u00e8le multiplicatif atteint un r\u00e9sultat de 0.83 dans l'espace nmf qui est significativement meilleur que le mod\u00e8le multiplicatif (\u03c7 2 = 31.34, p < 0.01), mais toujours inf\u00e9rieur au r\u00e9sultat de l'espace non-r\u00e9duit.",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "R\u00e9sultats",
"sec_num": "3.3"
},
{
"text": "Ensuite, nous constatons que l'approche par fonctions lexicales de Baroni et Zamparelli dans l'espace svd obtient des r\u00e9sultats qui sont significativement meilleurs que toute autre approche avec tout autre espace (\u03c7 2 = 33.49, p < 0.01 pour la diff\u00e9rence avec le mod\u00e8le additif non-r\u00e9duit). Nous constatons \u00e9galement que la fonction lexicale g\u00e9n\u00e9ralis\u00e9e dans l'espace nmf obtient des r\u00e9sultats qui sont comparables avec l'approche de Baroni et Zamparelli dans ce m\u00eame espace (\u03c7 2 = 3.95, p > 0.01) et \u00e9quivalents aux meilleurs r\u00e9sultats des autres m\u00e9thodes (notamment le mod\u00e8le additif non-r\u00e9duit). Cependant, la fonction lexicale g\u00e9n\u00e9ralis\u00e9e -comme le mod\u00e8le multiplicatif -a de faibles performances sur l'espace svd (0.61). Cela semble signifier que, dans cet espace, les matrices de la m\u00e9thode des fonctions lexicales ne sont pas g\u00e9n\u00e9rables \u00e0 l'aide d'un tenseur unique et des vecteurs correspondants.",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "R\u00e9sultats",
"sec_num": "3.3"
},
{
"text": "Nous avons ensuite r\u00e9p\u00e9t\u00e9 nos tests avec des exemples n\u00e9gatifs utilisant les combinaisons adjectif_nom extraites du Wiktionnaire fran\u00e7ais (troisi\u00e8me colonne de la table 1). Nous pr\u00e9sentons les r\u00e9sultats dans la table 2b. Nous constatons que les r\u00e9sultats de nos premiers tests sont largement confirm\u00e9s. Le mod\u00e8le additif en espace non-r\u00e9duit atteint un score qui est significativement meilleur que la m\u00e9thode triviale (0.83 vs. 0.78, \u03c7 2 = 10.69, p < 0.01), bien que le mod\u00e8le multiplicatif ne donne pas un score sup\u00e9rieur \u00e0 la m\u00e9thode triviale. Nous notons, toutefois, que l'approche par fonctions et l'approche additive obtiennent d\u00e9sormais des r\u00e9sultats globalement \u00e9quivalents dans leurs meilleurs conditions respectives -0.83 pour le mod\u00e8le additif non-r\u00e9duit vs. 0.84 pour le mod\u00e8le fonctionel svd, une diff\u00e9rence non-significative (\u03c7 2 = 0.20, p > 0.05). Cela semble indiquer que les fonctions lexicales sont particuli\u00e8rement efficaces pour s\u00e9parer les combinaisons insens\u00e9es, mais qu'ils obtiennent un score inf\u00e9rieur quand ils doivent juger la similarit\u00e9 de compositions r\u00e9elles. (2009, 2010 ) \u00e9tendent l'approche fond\u00e9e sur les restrictions s\u00e9lectionnelles en incorporant des co-occurrences du deuxi\u00e8me ordre dans leur mod\u00e8le. Dinu & Lapata (2010) proposent un cadre probabiliste qui mod\u00e9lise la signification des mots comme une distribution de probabilit\u00e9 sur des facteurs latents. Cela permet de mod\u00e9liser le sens contextualis\u00e9 comme un changement dans la distribution du mot originel. Dinu et Lapata utilisent la factorisation de matrice positive (NMF) pour induire les facteurs latents.",
"cite_spans": [
{
"start": 1089,
"end": 1095,
"text": "(2009,",
"ref_id": null
},
{
"start": 1096,
"end": 1100,
"text": "2010",
"ref_id": null
},
{
"start": 1237,
"end": 1257,
"text": "Dinu & Lapata (2010)",
"ref_id": "BIBREF14"
}
],
"ref_spans": [],
"eq_spans": [],
"section": "R\u00e9sultats",
"sec_num": "3.3"
},
{
"text": "En g\u00e9n\u00e9ral, les mod\u00e8les latents se sont av\u00e9r\u00e9es utiles pour la mod\u00e9lisation du sens des mots. L'un des mod\u00e8les latents de la s\u00e9mantique les plus connus est l'analyse de s\u00e9mantique latente (LSA, Landauer & Dumais (1997)), qui utilise la d\u00e9composition en valeurs singuli\u00e8res afin d'induire automatiquement des facteurs latents de matrices terme-document. Un autre mod\u00e8le de sens latent bien connu, qui adopte une approche g\u00e9n\u00e9rative, est l'allocation Dirichlet latente (LDA, Blei et al. (2003) ).",
"cite_spans": [
{
"start": 467,
"end": 491,
"text": "(LDA, Blei et al. (2003)",
"ref_id": null
}
],
"ref_spans": [],
"eq_spans": [],
"section": "R\u00e9sultats",
"sec_num": "3.3"
},
{
"text": "Les tenseurs ont \u00e9t\u00e9 utilis\u00e9s auparavant pour la mod\u00e9lisation du langage naturel. Giesbrecht (2010) d\u00e9crit un mod\u00e8le de factorisation de tenseurs pour la construction d'un mod\u00e8le distributionnel qui est sensible \u00e0 l'ordre des mots. Et Van de Cruys (2010) utilise un mod\u00e8le de factorisation de tenseurs afin de construire un mod\u00e8le de restrictions s\u00e9lectionnelles BRIDE, CRUYS, ASHER multidimensionnelles de verbes, sujets et objets.",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "R\u00e9sultats",
"sec_num": "3.3"
},
{
"text": "Dans notre contribution, nous avons test\u00e9 diff\u00e9rentes m\u00e9thodes principales de compositionalit\u00e9 en approche distributionelle. \u00c0 notre connaissance, nous sommes les premiers \u00e0 r\u00e9aliser de tels tests sur la langue fran\u00e7aise. Nous avons, de plus, cr\u00e9\u00e9 un nouveau ensemble de test pour l'\u00e9valuation de la compositionalit\u00e9 dans un cadre distributionnel pour la langue fran\u00e7aise, librement disponible pour d'autres chercheurs.",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "Conclusion",
"sec_num": "5"
},
{
"text": "Nos tests confirment que la m\u00e9thode des fonctions lexicales de Baroni et Zamparelli a de bonnes performances en comparaison des autres approches. Nos tests semblent nuancer ceci par le fait que ces performances ne sont sensiblement meilleures que lorsque les exemples n\u00e9gatifs sont enti\u00e8rement al\u00e9atoire.",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "Conclusion",
"sec_num": "5"
},
{
"text": "De plus, nous avons propos\u00e9 une g\u00e9n\u00e9ralisation de la m\u00e9thode des fonctions lexicales. D'apr\u00e8s nos tests, cette g\u00e9n\u00e9ralisation ne peut pas se faire dans les conditions optimales pour la m\u00e9thode des fonctions lexicales. Ainsi bien que notre g\u00e9n\u00e9ralisation fonctionne correctement, les conditions dans lesquelles elle est utilis\u00e9e font qu'elle a des r\u00e9sultats \u00e9quivalent aux m\u00e9thodes additive et multiplicative de Mitchell et Lapata, mais l\u00e9g\u00e8rement inf\u00e9rieurs \u00e0 ceux de l'approche de Baroni et Zamparelli.",
"cite_spans": [
{
"start": 482,
"end": 491,
"text": "Baroni et",
"ref_id": null
}
],
"ref_spans": [],
"eq_spans": [],
"section": "Conclusion",
"sec_num": "5"
},
{
"text": "Dans le futur, il serait int\u00e9ressant de tester diff\u00e9rentes valeurs de r\u00e9duction dimensionnelle afin d'optimiser notre fonction lexicale g\u00e9n\u00e9ralis\u00e9e. De plus, il est possible que de meilleurs r\u00e9sultats puissent \u00eatre obtenus en proposant plusieurs fonctions g\u00e9n\u00e9ralis\u00e9es plut\u00f4t qu'une. On peut tenter, par exemple, de s\u00e9parer les adjectifs intersectifs 14 des adjectifs non-intersectifs 15 .",
"cite_spans": [
{
"start": 351,
"end": 353,
"text": "14",
"ref_id": "BIBREF5"
},
{
"start": 385,
"end": 387,
"text": "15",
"ref_id": "BIBREF6"
}
],
"ref_spans": [],
"eq_spans": [],
"section": "Conclusion",
"sec_num": "5"
},
{
"text": "Il serait \u00e9galement int\u00e9ressant de r\u00e9aliser un ensemble de test pour une t\u00e2che avec laquelle la m\u00e9thode des fonctions lexicales n'est pas enti\u00e8rement compatible, comme la combinaison de noms. En effet, pour obtenir le sens de \u00ab laboratoire d'analyses m\u00e9dicales \u00bb, il faut appliquer \u00ab analyses m\u00e9dicales \u00bb \u00e0 \u00ab laboratoire \u00bb. Or la m\u00e9thode des fonctions lexicales ne propose pas de mani\u00e8re satisfaisante d'obtenir la matrice ANALYSE_M\u00c9DICALE. En effet, obtenir une telle matrice par apprentissage \u00e0 partir d'exemples d'utilisation d'\u00ab analyse m\u00e9dicale \u00bb est en contradiction avec le principe de compositionalit\u00e9.",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "Conclusion",
"sec_num": "5"
},
{
"text": ". Les vecteurs \u00e9tant normalis\u00e9s (cf. 3.2), cette condition ne r\u00e9duit pas la g\u00e9n\u00e9ralit\u00e9 de notre test.",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "",
"sec_num": null
},
{
"text": ". En t\u00e9moignent le faible taux d'accord d'inter-annotateur -Mitchell & Lapata (2010) rapportent une corr\u00e9lation entre juges humains assez faible de 0.52 pour les combinaisons adjectif_nom.",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "",
"sec_num": null
}
],
"back_matter": [
{
"text": "Nous tenons \u00e0 remercier toute l'\u00e9quipe du projet composes 16 pour leur boite \u00e0 outils DisSeCT (Dinu et al. (2013) ) qui nous a s\u00fbrement \u00e9pargn\u00e9 plusieurs mois de d\u00e9veloppement.",
"cite_spans": [
{
"start": 58,
"end": 60,
"text": "16",
"ref_id": null
},
{
"start": 94,
"end": 113,
"text": "(Dinu et al. (2013)",
"ref_id": "BIBREF15"
}
],
"ref_spans": [],
"eq_spans": [],
"section": "Remerciements",
"sec_num": null
}
],
"bib_entries": {
"BIBREF0": {
"ref_id": "b0",
"title": "Lexical Meaning in Context : A Web of Words",
"authors": [
{
"first": "",
"middle": [],
"last": "Asher N",
"suffix": ""
}
],
"year": 2011,
"venue": "",
"volume": "",
"issue": "",
"pages": "",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "ASHER N. (2011). Lexical Meaning in Context : A Web of Words. Cambridge University Press.",
"links": null
},
"BIBREF1": {
"ref_id": "b1",
"title": "The wacky wide web : A collection of very large linguistically processed web-crawled corpora",
"authors": [
{
"first": "M",
"middle": [],
"last": "Baroni",
"suffix": ""
},
{
"first": "S",
"middle": [],
"last": "Bernardini",
"suffix": ""
},
{
"first": "",
"middle": [],
"last": "Ferraresi A. & Zanchetta E",
"suffix": ""
}
],
"year": 2009,
"venue": "Language Resources and Evaluation",
"volume": "43",
"issue": "3",
"pages": "209--226",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "BARONI M., BERNARDINI S., FERRARESI A. & ZANCHETTA E. (2009). The wacky wide web : A collection of very large linguistically processed web-crawled corpora. Language Resources and Evaluation, 43(3), 209-226.",
"links": null
},
"BIBREF2": {
"ref_id": "b2",
"title": "Nouns are vectors, adjectives are matrices : Representing adjective-noun constructions in semantic space",
"authors": [
{
"first": "",
"middle": [],
"last": "Baroni M. & Zamparelli R",
"suffix": ""
}
],
"year": 2010,
"venue": "Proceedings of the 2010 Conference on Empirical Methods in Natural Language Processing",
"volume": "",
"issue": "",
"pages": "1183--1193",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "BARONI M. & ZAMPARELLI R. (2010). Nouns are vectors, adjectives are matrices : Representing adjective-noun constructions in semantic space. In Proceedings of the 2010 Conference on Empirical Methods in Natural Language Processing, p. 1183-1193, Cambridge, MA : Association for Computational Linguistics.",
"links": null
},
"BIBREF3": {
"ref_id": "b3",
"title": "Towards a Type-theoretical account of lexical semantics",
"authors": [
{
"first": "C",
"middle": [],
"last": "Bassac",
"suffix": ""
},
{
"first": "",
"middle": [],
"last": "Mery B. & Retor\u00e9 C",
"suffix": ""
}
],
"year": 2010,
"venue": "Journal of Logic, Language and Information",
"volume": "19",
"issue": "2",
"pages": "229--245",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "BASSAC C., MERY B. & RETOR\u00c9 C. (2010). Towards a Type-theoretical account of lexical semantics. Journal of Logic, Language and Information, 19(2), 229-245.",
"links": null
},
"BIBREF4": {
"ref_id": "b4",
"title": "A comparison of vector-based representations for semantic composition",
"authors": [
{
"first": "",
"middle": [],
"last": "Blacoe W. & Lapata M",
"suffix": ""
}
],
"year": 2012,
"venue": "Proceedings of the 2012 Joint Conference on Empirical Methods in Natural Language Processing and Computational Natural Language Learning",
"volume": "",
"issue": "",
"pages": "546--556",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "BLACOE W. & LAPATA M. (2012). A comparison of vector-based representations for semantic composition. In Procee- dings of the 2012 Joint Conference on Empirical Methods in Natural Language Processing and Computational Natural Language Learning, p. 546-556, Jeju Island, Korea : Association for Computational Linguistics.",
"links": null
},
"BIBREF5": {
"ref_id": "b5",
"title": "Une voiture rouge est une voiture",
"authors": [
{
"first": "\u00bb",
"middle": [],
"last": "\u00ab Rouge",
"suffix": ""
},
{
"first": "",
"middle": [],
"last": "Exemple",
"suffix": ""
}
],
"year": null,
"venue": "",
"volume": "",
"issue": "",
"pages": "",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "\u00ab Rouge \u00bb par exemple. Une voiture rouge est une voiture.",
"links": null
},
"BIBREF6": {
"ref_id": "b6",
"title": "Une fausse voiture n'est pas une voiture",
"authors": [
{
"first": "\u00ab",
"middle": [],
"last": "Faux",
"suffix": ""
},
{
"first": "\u00bb",
"middle": [],
"last": "Exemple",
"suffix": ""
}
],
"year": null,
"venue": "",
"volume": "",
"issue": "",
"pages": "",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "\u00ab Faux \u00bb par exemple. Une fausse voiture n'est pas une voiture.",
"links": null
},
"BIBREF8": {
"ref_id": "b8",
"title": "Latent dirichlet allocation",
"authors": [
{
"first": "",
"middle": [
"M"
],
"last": "Blei D",
"suffix": ""
},
{
"first": "",
"middle": [
"Y"
],
"last": "Ng A",
"suffix": ""
},
{
"first": "",
"middle": [
"I"
],
"last": "Jordan M",
"suffix": ""
}
],
"year": 2003,
"venue": "The Journal of Machine Learning Research",
"volume": "3",
"issue": "",
"pages": "993--1022",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "BLEI D. M., NG A. Y. & JORDAN M. I. (2003). Latent dirichlet allocation. The Journal of Machine Learning Research, 3, 993-1022.",
"links": null
},
"BIBREF9": {
"ref_id": "b9",
"title": "Statistical french dependency parsing : treebank conversion and first results",
"authors": [
{
"first": "M",
"middle": [],
"last": "Candito",
"suffix": ""
},
{
"first": "B",
"middle": [],
"last": "Crabb\u00e9",
"suffix": ""
},
{
"first": "",
"middle": [],
"last": "Denis P",
"suffix": ""
}
],
"year": 2010,
"venue": "Proceedings of the Seventh International Conference on Language Resources and Evaluation",
"volume": "",
"issue": "",
"pages": "1840--1847",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "CANDITO M., CRABB\u00c9 B., DENIS P. et al. (2010). Statistical french dependency parsing : treebank conversion and first results. In Proceedings of the Seventh International Conference on Language Resources and Evaluation (LREC 2010), p. 1840-1847.",
"links": null
},
"BIBREF10": {
"ref_id": "b10",
"title": "Word association norms, mutual information & lexicography",
"authors": [
{
"first": "",
"middle": [
"W"
],
"last": "Church K",
"suffix": ""
},
{
"first": "",
"middle": [],
"last": "Hanks P",
"suffix": ""
}
],
"year": 1990,
"venue": "Computational Linguistics",
"volume": "16",
"issue": "1",
"pages": "22--29",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "CHURCH K. W. & HANKS P. (1990). Word association norms, mutual information & lexicography. Computational Linguistics, 16(1), 22-29.",
"links": null
},
"BIBREF11": {
"ref_id": "b11",
"title": "Mathematical foundations for a compositional distributed model of meaning",
"authors": [
{
"first": "",
"middle": [],
"last": "Coecke B",
"suffix": ""
},
{
"first": "M",
"middle": [],
"last": "Sadrzadeh",
"suffix": ""
},
{
"first": "",
"middle": [],
"last": "Clark S",
"suffix": ""
}
],
"year": 2010,
"venue": "Lambek Festschrift, Linguistic Analysis",
"volume": "36",
"issue": "",
"pages": "",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "COECKE B., SADRZADEH M. & CLARK S. (2010). Mathematical foundations for a compositional distributed model of meaning. Lambek Festschrift, Linguistic Analysis, vol. 36, 36.",
"links": null
},
"BIBREF12": {
"ref_id": "b12",
"title": "Exploitation d'une ressource lexicale pour la construction d'un \u00e9tiqueteur morphosyntaxique \u00e9tat-de-l'art du fran\u00e7ais",
"authors": [
{
"first": "Denis",
"middle": [
"P"
],
"last": "Sagot",
"suffix": ""
},
{
"first": "B",
"middle": [],
"last": "",
"suffix": ""
}
],
"year": 2010,
"venue": "Traitement Automatique des Langues Naturelles : TALN",
"volume": "",
"issue": "",
"pages": "",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "DENIS P., SAGOT B. et al. (2010). Exploitation d'une ressource lexicale pour la construction d'un \u00e9tiqueteur morpho- syntaxique \u00e9tat-de-l'art du fran\u00e7ais. In Traitement Automatique des Langues Naturelles : TALN 2010.",
"links": null
},
"BIBREF13": {
"ref_id": "b13",
"title": "Approximate statistical tests for comparing supervised classification learning algorithms",
"authors": [
{
"first": "T",
"middle": [
"G"
],
"last": "Dietterich",
"suffix": ""
}
],
"year": 1998,
"venue": "Neural computation",
"volume": "10",
"issue": "7",
"pages": "1895--1923",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "DIETTERICH T. G. (1998). Approximate statistical tests for comparing supervised classification learning algorithms. Neural computation, 10(7), 1895-1923.",
"links": null
},
"BIBREF14": {
"ref_id": "b14",
"title": "Measuring distributional similarity in context",
"authors": [
{
"first": "",
"middle": [],
"last": "Dinu G. & Lapata M",
"suffix": ""
}
],
"year": 2010,
"venue": "Proceedings of the 2010 Conference on Empirical Methods in Natural Language Processing",
"volume": "",
"issue": "",
"pages": "1162--1172",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "DINU G. & LAPATA M. (2010). Measuring distributional similarity in context. In Proceedings of the 2010 Conference on Empirical Methods in Natural Language Processing, p. 1162-1172, Cambridge, MA.",
"links": null
},
"BIBREF15": {
"ref_id": "b15",
"title": "Dissect : Distributional semantics composition toolkit",
"authors": [
{
"first": "G",
"middle": [],
"last": "Dinu",
"suffix": ""
},
{
"first": "",
"middle": [
"B"
],
"last": "Pham N. & M",
"suffix": ""
}
],
"year": 2013,
"venue": "Proceedings of the System Demonstrations of ACL",
"volume": "",
"issue": "",
"pages": "31--36",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "DINU G., PHAM N. & M. B. (2013). Dissect : Distributional semantics composition toolkit. In Proceedings of the System Demonstrations of ACL, p. 31-36, East Stroudsburg PA : Association for Computational Linguistics.",
"links": null
},
"BIBREF16": {
"ref_id": "b16",
"title": "A structured vector space model for word meaning in context",
"authors": [
{
"first": "",
"middle": [],
"last": "Erk K. & Pad\u00f3 S",
"suffix": ""
}
],
"year": 2008,
"venue": "Proceedings of the Conference on Empirical Methods in Natural Language Processing",
"volume": "",
"issue": "",
"pages": "897--906",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "ERK K. & PAD\u00d3 S. (2008). A structured vector space model for word meaning in context. In Proceedings of the Conference on Empirical Methods in Natural Language Processing, p. 897-906, Waikiki, Hawaii, USA.",
"links": null
},
"BIBREF17": {
"ref_id": "b17",
"title": "Paraphrase assessment in structured vector space : Exploring parameters and datasets",
"authors": [
{
"first": "",
"middle": [],
"last": "Erk K. & Pad\u00f3 S",
"suffix": ""
}
],
"year": 2009,
"venue": "Proceedings of the Workshop on Geometrical Models of Natural Language Semantics",
"volume": "",
"issue": "",
"pages": "57--65",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "ERK K. & PAD\u00d3 S. (2009). Paraphrase assessment in structured vector space : Exploring parameters and datasets. In Proceedings of the Workshop on Geometrical Models of Natural Language Semantics, p. 57-65, Athens, Greece.",
"links": null
},
"BIBREF18": {
"ref_id": "b18",
"title": "Towards a matrix-based distributional model of meaning",
"authors": [
{
"first": "",
"middle": [],
"last": "Giesbrecht E",
"suffix": ""
}
],
"year": 2010,
"venue": "Proceedings of the NAACL HLT 2010 Student Research Workshop",
"volume": "",
"issue": "",
"pages": "23--28",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "GIESBRECHT E. (2010). Towards a matrix-based distributional model of meaning. In Proceedings of the NAACL HLT 2010 Student Research Workshop, p. 23-28 : Association for Computational Linguistics.",
"links": null
},
"BIBREF19": {
"ref_id": "b19",
"title": "Matrix Computations",
"authors": [
{
"first": "",
"middle": [
"H"
],
"last": "Golub G",
"suffix": ""
},
{
"first": "",
"middle": [
"F"
],
"last": "Van Loan C",
"suffix": ""
}
],
"year": 1996,
"venue": "",
"volume": "",
"issue": "",
"pages": "",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "GOLUB G. H. & VAN LOAN C. F. (1996). Matrix Computations (3rd Ed.). Baltimore, MD, USA : Johns Hopkins University Press.",
"links": null
},
"BIBREF20": {
"ref_id": "b20",
"title": "Multi-step regression learning for compositional distributional semantics",
"authors": [
{
"first": "Grefenstette",
"middle": [
"E"
],
"last": "Dinu",
"suffix": ""
},
{
"first": "G",
"middle": [],
"last": "Zhang Y.-Z",
"suffix": ""
},
{
"first": "",
"middle": [
"B"
],
"last": "Sadrzadeh M. & M",
"suffix": ""
}
],
"year": 2013,
"venue": "Proceedings of the 10th International Conference on Computational Semantics (IWCS)",
"volume": "",
"issue": "",
"pages": "131--142",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "GREFENSTETTE E., DINU G., ZHANG Y.-Z., SADRZADEH M. & M. B. (2013). Multi-step regression learning for compositional distributional semantics. In Proceedings of the 10th International Conference on Computational Seman- tics (IWCS), p. 131-142, East Stroudsburg PA : Association for Computational Linguistics.",
"links": null
},
"BIBREF21": {
"ref_id": "b21",
"title": "Experimental support for a categorical compositional distributional model of meaning",
"authors": [
{
"first": "Grefenstette",
"middle": [
"E &"
],
"last": "Sadrzadeh M",
"suffix": ""
}
],
"year": 2011,
"venue": "Proceedings of the 2011 Conference on Empirical Methods in Natural Language Processing",
"volume": "",
"issue": "",
"pages": "1394--1404",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "GREFENSTETTE E. & SADRZADEH M. (2011a). Experimental support for a categorical compositional distributional model of meaning. In Proceedings of the 2011 Conference on Empirical Methods in Natural Language Processing, p. 1394-1404, Edinburgh, Scotland, UK. : Association for Computational Linguistics.",
"links": null
},
"BIBREF22": {
"ref_id": "b22",
"title": "Experimenting with transitive verbs in a discocat",
"authors": [
{
"first": "Grefenstette",
"middle": [
"E &"
],
"last": "Sadrzadeh M",
"suffix": ""
}
],
"year": 2011,
"venue": "Proceedings of the GEMS 2011 Workshop on GEometrical Models of Natural Language Semantics",
"volume": "",
"issue": "",
"pages": "62--66",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "GREFENSTETTE E. & SADRZADEH M. (2011b). Experimenting with transitive verbs in a discocat. In Proceedings of the GEMS 2011 Workshop on GEometrical Models of Natural Language Semantics, p. 62-66, Edinburgh, UK : Association for Computational Linguistics.",
"links": null
},
"BIBREF23": {
"ref_id": "b23",
"title": "Distributional structure. Word",
"authors": [
{
"first": "",
"middle": [
"S"
],
"last": "Harris Z",
"suffix": ""
}
],
"year": 1954,
"venue": "",
"volume": "10",
"issue": "",
"pages": "146--162",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "HARRIS Z. S. (1954). Distributional structure. Word, 10(23), 146-162.",
"links": null
},
"BIBREF24": {
"ref_id": "b24",
"title": "Two theories about adjectives. Formal semantics of natural language",
"authors": [
{
"first": "H",
"middle": [],
"last": "Kamp",
"suffix": ""
}
],
"year": 1975,
"venue": "",
"volume": "",
"issue": "",
"pages": "123--155",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "KAMP H. (1975). Two theories about adjectives. Formal semantics of natural language, p. 123-155.",
"links": null
},
"BIBREF25": {
"ref_id": "b25",
"title": "Tensor decompositions and applications",
"authors": [
{
"first": "",
"middle": [
"G"
],
"last": "Kolda T",
"suffix": ""
},
{
"first": "",
"middle": [
"W"
],
"last": "Bader B",
"suffix": ""
}
],
"year": 2009,
"venue": "SIAM Review",
"volume": "51",
"issue": "3",
"pages": "455--500",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "KOLDA T. G. & BADER B. W. (2009). Tensor decompositions and applications. SIAM Review, 51(3), 455-500.",
"links": null
},
"BIBREF26": {
"ref_id": "b26",
"title": "Semeval-2013 task 5 : Evaluating phrasal semantics",
"authors": [
{
"first": "",
"middle": [],
"last": "Korkontzelos I",
"suffix": ""
},
{
"first": "T",
"middle": [],
"last": "Zesch",
"suffix": ""
},
{
"first": "",
"middle": [
"M"
],
"last": "Zanzotto F",
"suffix": ""
},
{
"first": "",
"middle": [],
"last": "Biemann C",
"suffix": ""
}
],
"year": 2013,
"venue": "Proceedings of the Seventh International Workshop on Semantic Evaluation",
"volume": "2",
"issue": "",
"pages": "39--47",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "KORKONTZELOS I., ZESCH T., ZANZOTTO F. M. & BIEMANN C. (2013). Semeval-2013 task 5 : Evaluating phrasal semantics. In Second Joint Conference on Lexical and Computational Semantics (*SEM), Volume 2 : Proceedings of the Seventh International Workshop on Semantic Evaluation (SemEval 2013), p. 39-47, Atlanta, Georgia, USA : Association for Computational Linguistics.",
"links": null
},
"BIBREF27": {
"ref_id": "b27",
"title": "A solution to Plato's problem : The Latent Semantic Analysis theory of the acquisition, induction, and representation of knowledge",
"authors": [
{
"first": "Landauer",
"middle": [
"T &"
],
"last": "Dumais S",
"suffix": ""
}
],
"year": 1997,
"venue": "Psychology Review",
"volume": "104",
"issue": "",
"pages": "211--240",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "LANDAUER T. & DUMAIS S. (1997). A solution to Plato's problem : The Latent Semantic Analysis theory of the acquisition, induction, and representation of knowledge. Psychology Review, 104, 211-240.",
"links": null
},
"BIBREF28": {
"ref_id": "b28",
"title": "Algorithms for non-negative matrix factorization",
"authors": [
{
"first": "",
"middle": [
"D"
],
"last": "Lee D",
"suffix": ""
},
{
"first": "",
"middle": [
"S"
],
"last": "Seung H",
"suffix": ""
}
],
"year": 2000,
"venue": "Advances in Neural Information Processing Systems",
"volume": "13",
"issue": "",
"pages": "556--562",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "LEE D. D. & SEUNG H. S. (2000). Algorithms for non-negative matrix factorization. In Advances in Neural Information Processing Systems 13, p. 556-562.",
"links": null
},
"BIBREF29": {
"ref_id": "b29",
"title": "Automatic retrieval and clustering of similar words",
"authors": [
{
"first": "Lin",
"middle": [
"D"
],
"last": "",
"suffix": ""
}
],
"year": 1998,
"venue": "Proceedings of the 36th Annual Meeting of the Association for Computational Linguistics and 17th International Conference on Computational Linguistics (COLING-ACL98)",
"volume": "2",
"issue": "",
"pages": "768--774",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "LIN D. (1998). Automatic retrieval and clustering of similar words. In Proceedings of the 36th Annual Meeting of the Association for Computational Linguistics and 17th International Conference on Computational Linguistics (COLING- ACL98), Volume 2, p. 768-774, Montreal, Quebec, Canada.",
"links": null
},
"BIBREF30": {
"ref_id": "b30",
"title": "Type-theoretical semantics with coercive subtyping. SALT20, Vancouver",
"authors": [
{
"first": "",
"middle": [],
"last": "Luo Z",
"suffix": ""
}
],
"year": 2010,
"venue": "",
"volume": "",
"issue": "",
"pages": "",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "LUO Z. (2010). Type-theoretical semantics with coercive subtyping. SALT20, Vancouver. [O-F.1]",
"links": null
},
"BIBREF32": {
"ref_id": "b32",
"title": "Vector-based models of semantic composition. proceedings of ACL-08 : HLT",
"authors": [
{
"first": "Mitchell",
"middle": [
"J &"
],
"last": "Lapata M",
"suffix": ""
}
],
"year": 2008,
"venue": "",
"volume": "",
"issue": "",
"pages": "236--244",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "MITCHELL J. & LAPATA M. (2008). Vector-based models of semantic composition. proceedings of ACL-08 : HLT, p. 236-244.",
"links": null
},
"BIBREF33": {
"ref_id": "b33",
"title": "Composition in distributional models of semantics",
"authors": [
{
"first": "Mitchell",
"middle": [
"J &"
],
"last": "Lapata M",
"suffix": ""
}
],
"year": 2010,
"venue": "Cognitive Science",
"volume": "34",
"issue": "8",
"pages": "1388--1429",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "MITCHELL J. & LAPATA M. (2010). Composition in distributional models of semantics. Cognitive Science, 34(8), 1388-1429.",
"links": null
},
"BIBREF34": {
"ref_id": "b34",
"title": "Maltparser : A data-driven parser-generator for dependency parsing",
"authors": [
{
"first": "J",
"middle": [],
"last": "Nivre",
"suffix": ""
},
{
"first": "J",
"middle": [
"&"
],
"last": "Hall",
"suffix": ""
},
{
"first": "",
"middle": [],
"last": "Nilsson J",
"suffix": ""
}
],
"year": 2006,
"venue": "Proceedings of LREC-2006",
"volume": "",
"issue": "",
"pages": "2216--2219",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "NIVRE J., HALL J. & NILSSON J. (2006). Maltparser : A data-driven parser-generator for dependency parsing. In Proceedings of LREC-2006, p. 2216-2219, Genoa, Italy.",
"links": null
},
"BIBREF35": {
"ref_id": "b35",
"title": "Privative adjectives : subsective plus coercion",
"authors": [
{
"first": "",
"middle": [
"H"
],
"last": "Partee B",
"suffix": ""
},
{
"first": "R",
"middle": [],
"last": "B\u00e4uerle",
"suffix": ""
},
{
"first": "",
"middle": [],
"last": "Zim-Mermann",
"suffix": ""
}
],
"year": 2010,
"venue": "TE, \u00e9diteurs : Presuppositions and Discourse : Essays Offered to Hans Kamp",
"volume": "",
"issue": "",
"pages": "273--285",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "PARTEE B. H. (2010). Privative adjectives : subsective plus coercion. B\u00c4UERLE, R. et ZIM-MERMANN, TE, \u00e9diteurs : Presuppositions and Discourse : Essays Offered to Hans Kamp, p. 273-285.",
"links": null
},
"BIBREF36": {
"ref_id": "b36",
"title": "Semantic compositionality through recursive matrixvector spaces",
"authors": [
{
"first": "",
"middle": [],
"last": "Socher R",
"suffix": ""
},
{
"first": "B",
"middle": [],
"last": "Huval",
"suffix": ""
},
{
"first": "",
"middle": [
"D"
],
"last": "Manning C",
"suffix": ""
},
{
"first": "",
"middle": [
"Y"
],
"last": "Ng A",
"suffix": ""
}
],
"year": 2012,
"venue": "Proceedings of the 2012 Joint Conference on Empirical Methods in Natural Language Processing and Computational Natural Language Learning",
"volume": "",
"issue": "",
"pages": "1201--1211",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "SOCHER R., HUVAL B., MANNING C. D. & NG A. Y. (2012). Semantic compositionality through recursive matrix- vector spaces. In Proceedings of the 2012 Joint Conference on Empirical Methods in Natural Language Processing and Computational Natural Language Learning, p. 1201-1211, Jeju Island, Korea : Association for Computational Linguistics.",
"links": null
},
"BIBREF37": {
"ref_id": "b37",
"title": "Ranking paraphrases in context",
"authors": [
{
"first": "",
"middle": [],
"last": "Thater S",
"suffix": ""
},
{
"first": "",
"middle": [],
"last": "Dinu G. & Pinkal M",
"suffix": ""
}
],
"year": 2009,
"venue": "Proceedings of the 2009 Workshop on Applied Textual Inference",
"volume": "",
"issue": "",
"pages": "44--47",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "THATER S., DINU G. & PINKAL M. (2009). Ranking paraphrases in context. In Proceedings of the 2009 Workshop on Applied Textual Inference, p. 44-47, Suntec, Singapore.",
"links": null
},
"BIBREF38": {
"ref_id": "b38",
"title": "Contextualizing semantic representations using syntactically enriched vector models",
"authors": [
{
"first": "",
"middle": [],
"last": "Thater S",
"suffix": ""
},
{
"first": "H",
"middle": [
"&"
],
"last": "F\u00fcrstenau",
"suffix": ""
},
{
"first": "",
"middle": [],
"last": "Pinkal M",
"suffix": ""
}
],
"year": 2010,
"venue": "Proceedings of the 48th Annual Meeting of the Association for Computational Linguistics",
"volume": "",
"issue": "",
"pages": "948--957",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "THATER S., F\u00dcRSTENAU H. & PINKAL M. (2010). Contextualizing semantic representations using syntactically en- riched vector models. In Proceedings of the 48th Annual Meeting of the Association for Computational Linguistics, p. 948-957, Uppsala, Sweden.",
"links": null
},
"BIBREF39": {
"ref_id": "b39",
"title": "From frequency to meaning : Vector space models of semantics",
"authors": [
{
"first": "",
"middle": [],
"last": "Turney P. & Pantel P",
"suffix": ""
}
],
"year": 2010,
"venue": "Journal of artificial intelligence research",
"volume": "37",
"issue": "1",
"pages": "141--188",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "TURNEY P. & PANTEL P. (2010). From frequency to meaning : Vector space models of semantics. Journal of artificial intelligence research, 37(1), 141-188.",
"links": null
},
"BIBREF40": {
"ref_id": "b40",
"title": "A non-negative tensor factorization model for selectional preference induction",
"authors": [
{
"first": "",
"middle": [],
"last": "Van De Cruys T",
"suffix": ""
}
],
"year": 2010,
"venue": "Natural Language Engineering",
"volume": "16",
"issue": "4",
"pages": "417--437",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "VAN DE CRUYS T. (2010). A non-negative tensor factorization model for selectional preference induction. Natural Language Engineering, 16(4), 417-437.",
"links": null
},
"BIBREF41": {
"ref_id": "b41",
"title": "Estimating linear models for compositional distributional semantics",
"authors": [
{
"first": "",
"middle": [
"M"
],
"last": "Zanzotto F",
"suffix": ""
},
{
"first": "",
"middle": [],
"last": "Korkontzelos I",
"suffix": ""
},
{
"first": "",
"middle": [],
"last": "Fallucchi F. & Manandhar S",
"suffix": ""
}
],
"year": 2010,
"venue": "Proceedings of the 23rd International Conference on Computational Linguistics",
"volume": "",
"issue": "",
"pages": "1263--1271",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "ZANZOTTO F. M., KORKONTZELOS I., FALLUCCHI F. & MANANDHAR S. (2010). Estimating linear models for com- positional distributional semantics. In Proceedings of the 23rd International Conference on Computational Linguistics (Coling 2010), p. 1263-1271, Beijing, China : Coling 2010 Organizing Committee.",
"links": null
}
},
"ref_entries": {
"FIGREF0": {
"uris": null,
"num": null,
"text": "extrait de Candide de Voltaire, Chapitre 3 Sur un ensemble de d\u00e9veloppement, nous avons test\u00e9 le mod\u00e8le pour diff\u00e9rentes valeurs de \u03b1 et \u03b2 telles que \u03b1 + \u03b2 = 1 3 et conserv\u00e9 les valeurs donnant les meilleurs r\u00e9sultats : \u03b1 = 0.4 et \u03b2 = 0.6.",
"type_str": "figure"
},
"TABREF0": {
"num": null,
"content": "<table><tr><td>[. . .]</td></tr><tr><td>Candide s'enfuit au plus vite dans un autre village : il appartenait \u00e0 des Bulgares, et les h\u00e9ros abares l'avaient trait\u00e9 de</td></tr><tr><td>m\u00eame. . .</td></tr></table>",
"type_str": "table",
"html": null,
"text": "approche par fonctions lexicales Enfin, tandis que les deux rois faisaient chanter des Te Deum, chacun dans son camp, [Candide] prit le parti d'aller raisonner ailleurs des effets et des causes. Il passa par-dessus des tas de morts et de mourants, et gagna d'abord un village voisin ; il \u00e9tait en cendres : c'\u00e9tait un village abare que les Bulgares avaient br\u00fbl\u00e9, selon les lois du droit public."
},
"TABREF1": {
"num": null,
"content": "<table><tr><td>A</td><td>\u00d7</td><td>r o u g e</td><td>\u2212</td><td colspan=\"2\">ROUGE</td><td>,</td><td>A</td><td>\u00d7</td><td>l e n t</td><td>\u2212</td><td>LENT</td><td>. . .</td></tr><tr><td/><td/><td/><td/><td colspan=\"5\">FIGURE 4: Apprentissage du tenseur A</td><td/><td/><td/></tr><tr><td/><td/><td/><td/><td/><td/><td/><td/><td/><td/><td/><td/><td>ont un sens</td></tr><tr><td>3 \u00c9valuation clair. 10</td><td/><td/><td/><td/><td/><td/><td/><td/><td/><td/><td/></tr><tr><td colspan=\"4\">3.1 Description de la t\u00e2che exemples positifs</td><td/><td colspan=\"3\">exemples n\u00e9gatifs al\u00e9atoires</td><td colspan=\"5\">exemples n\u00e9gatifs Wiktionnaire</td></tr><tr><td colspan=\"4\">(mot_court, abr\u00e9viation)</td><td/><td colspan=\"3\">(importance_fortuit, gamme)</td><td/><td colspan=\"4\">(jugement_favorable, discorde)</td></tr><tr><td colspan=\"4\">(ouvrage_litt\u00e9raire, essai)</td><td/><td colspan=\"3\">(penchant_autoritaire, ile)</td><td colspan=\"5\">(circonscription_administratif, fumier)</td></tr><tr><td colspan=\"5\">(compagnie_honorifique, ordre)</td><td colspan=\"3\">(auspice_aviaire, ponton)</td><td/><td colspan=\"4\">(mention_honorable, renne)</td></tr><tr><td colspan=\"4\">(costume_f\u00e9minin, ensemble)</td><td/><td colspan=\"3\">(banquette_celeste, discipline)</td><td/><td colspan=\"4\">(attitude_hautain, racine)</td></tr><tr><td colspan=\"4\">(partie_unitaire,\u00e9l\u00e9ment)</td><td/><td colspan=\"3\">(chasse_fossile, propulsion)</td><td colspan=\"5\">(examen_attentif, condamnation)</td></tr></table>",
"type_str": "table",
"html": null,
"text": "et Zamparelli, les vecteurs nom et nom_adjectif existent dans le m\u00eame espace. L'hypoth\u00e8se sus-cit\u00e9 4. repr\u00e9sent\u00e9 par une matrice ou un tenseur.UNE \u00c9VALUATION APPROFONDIE DE DIFF\u00c9RENTES M\u00c9THODES DE COMPOSITIONALIT\u00c9 S\u00c9MANTIQUETrouver le tenseur A minimisant les normes de : consiste donc \u00e0 supposer que l'on a pas besoin de plus d'informations pour d\u00e9crire voisin_village que pour d\u00e9crire village ; uniquement d'informations diff\u00e9rentes. Cette hypoth\u00e8se est partag\u00e9e par beaucoup de m\u00e9thodes de composition dont l'objectif est de pouvoir r\u00e9aliser des compositions en cascade 5 . A contrario, dans la m\u00e9thode g\u00e9n\u00e9ralis\u00e9e, l'application lin\u00e9aire recherch\u00e9e a un espace de d\u00e9part 6 bien plus petit que son espace d'arriv\u00e9e7 . La g\u00e9n\u00e9ralisation fait donc une hypoth\u00e8se beaucoup plus forte : elle suppose que les matrices A cr\u00e9\u00e9es par la m\u00e9thode de Baroni et Zamparelli ne sont pas plus informatives que les vecteurs a que l'on peut extraire directement d'un corpus. Ces matrices ne seraient, d'une certaine mani\u00e8re, qu'une r\u00e9\u00e9criture des adjectifs pertinente pour la composition.Ceci \u00e9tant, de mani\u00e8re similaire \u00e0 l'approche de Baroni et Zamparelli, notre approche n\u00e9cessite d'apprendre un nombre significatif de matrices A. Cela n'est pas un probl\u00e8me, car le FRWaC fournit suffisamment d'adjectifs sur lesquels l'approche de Baroni et Zamparelli fonctionne parfaitement. Par exemple, le 2000 i\u00e8me adjectif le plus courant dans le FRWaC (\u00ab fasciste \u00bb) y occurre plus de 4000 fois.Pour reprendre l'exemple de l'adjectif \u00ab f\u00e9lon \u00bb, notre approche exige uniquement de conna\u00eetre le vecteur f\u00e9lon, \u00e9vitant le probl\u00e8me de manque de donn\u00e9es li\u00e9 \u00e0 la construction de la matrice F\u00c9LON.Une fois le tenseur A obtenu, il nous fallait v\u00e9rifier exp\u00e9rimentalement sa pertinence. En effet, nous n'avions pas garantie que le tenseur optimisant les \u00e9quations d\u00e9crites dans la figure 4 soit int\u00e9ressant s\u00e9mantiquement. Nous avons donc pris des exemples positifs et des exemples n\u00e9gatifs de notre ensemble de test afin de savoir quelles valeurs de cosinus correspondent \u00e0 \u00ab similaire \u00bb et quelles valeurs de cosinus correspondent \u00e0 \u00ab non_similaire \u00bb. Plus pr\u00e9cis\u00e9ment, nous avons, pour chaque approche, r\u00e9alis\u00e9 une r\u00e9gression logistique sur 50 exemples positifs et 50 exemples n\u00e9gatifs (dor\u00e9navant s\u00e9par\u00e9s de notre ensemble de test) afin d'apprendre le seuil de cosinus \u00e0 partir duquel une paire est similaire.Nous avons cr\u00e9\u00e9 notre ensemble de test d'une mani\u00e8re semi-automatique, en utilisant des dictionnaires. Prenons par exemple la d\u00e9finition de champagne dans le Wiktionnaire fran\u00e7ais 8 , figure 5. D'une telle d\u00e9finition, il est assez simple , CRUYS, ASHER d'extraire la paire (mousseux_vin, champagne). En traversant un grand dictionnaire, il est ainsi possible d'extraire des paires (adjectif_nom, nom) positives (similaires).champagne /S\u00c3.pa\u00f1/ masculin 1. Vin mousseux produit en Champagne et prot\u00e9g\u00e9 par une appellation d'origine contr\u00f4l\u00e9e.2. (Histoire des techniques) Cercle de fer pour soutenir l'\u00e9toffe \u00e0 teindre dans la cuve de teinture.FIGURE 5: D\u00e9finition de champagne, extrait du Wiktionnaire fran\u00e7ais Nous avons donc t\u00e9l\u00e9charg\u00e9 toutes les entr\u00e9es du Wiktionnaire fran\u00e7ais, et nous les avons tag\u00e9es avec le tageur MElt (Denis et al., 2010). Ensuite, nous avons s\u00e9lectionn\u00e9 les d\u00e9finitions qui d\u00e9butent avec une combinaison adjectif-nom. Enfin, nous avons supprim\u00e9 les instances utilisant des mots qui apparaissent trop peu fr\u00e9quemment dans notre corpus FRWaC 9 . Les instances ainsi extraites d'une mani\u00e8re automatique \u00e9taient alors contr\u00f4l\u00e9es manuellement. Toutes les paires jug\u00e9es incorrectes \u00e9taient rejet\u00e9es. Nous avons ainsi obtenu 714 exemples positifs."
},
"TABREF2": {
"num": null,
"content": "<table/>",
"type_str": "table",
"html": null,
"text": ""
},
"TABREF3": {
"num": null,
"content": "<table><tr><td/><td colspan=\"5\">triviale multiplicative additive fonctions lexicales f. l. g\u00e9n\u00e9ralis\u00e9es</td></tr><tr><td>non-r\u00e9duit</td><td>0.83</td><td>0.86</td><td>0.88</td><td>N/A</td><td>N/A</td></tr><tr><td>svd</td><td>0.79</td><td>0.55</td><td>0.84</td><td>0.93</td><td>0.61</td></tr><tr><td>nmf</td><td>0.78</td><td>0.83</td><td>0.79</td><td>0.90</td><td>0.88</td></tr><tr><td/><td colspan=\"4\">(a) Les exemples n\u00e9gatifs sont cr\u00e9\u00e9s enti\u00e8rement al\u00e9atoirement.</td><td/></tr><tr><td/><td colspan=\"5\">triviale multiplicative additive fonctions lexicales f. l. g\u00e9n\u00e9ralis\u00e9es</td></tr><tr><td>non-r\u00e9duit</td><td>0.78</td><td>0.79</td><td>0.83</td><td>N/A</td><td>N/A</td></tr><tr><td>svd</td><td>0.77</td><td>0.55</td><td>0.82</td><td>0.84</td><td>0.46</td></tr><tr><td>nmf</td><td>0.75</td><td>0.73</td><td>0.79</td><td>0.78</td><td>0.78</td></tr></table>",
"type_str": "table",
"html": null,
"text": "Les espaces s\u00e9mantiques ayant \u00e9t\u00e9 cr\u00e9\u00e9s, nous avons d'abord test\u00e9 les diff\u00e9rentes approches sur le jeu de test utilisant des exemples n\u00e9gatifs compl\u00e8tement al\u00e9atoires (deuxi\u00e8me colonne de la table 1). Nous pr\u00e9sentons les r\u00e9sultats dans la table 2a. Plusieurs commentaires peuvent \u00eatre faits. Nous commentons d'abord les m\u00e9thodes individuellement, puis nous les comparons."
},
"TABREF4": {
"num": null,
"content": "<table><tr><td>De plus, nous constatons que le mod\u00e8le multiplicatif sur l'espace non-r\u00e9duit n'atteint pas des r\u00e9sultats sensiblement</td></tr><tr><td>meilleurs que le mod\u00e8le trivial. La diff\u00e9rence entre le mod\u00e8le multiplicatif (0.86) et le mod\u00e8le trivial (0.83) n'est pas</td></tr><tr><td>statistiquement significative (\u03c7</td></tr></table>",
"type_str": "table",
"html": null,
"text": "Pourcentage de couples (adjectif_nom1, nom2) bien class\u00e9s selon l'approche et l'espace. D'abord, l'approche triviale, consistant \u00e0 comparer les deux noms et ignorer l'adjectif, affiche un taux de r\u00e9ussite relativement \u00e9lev\u00e9 (\u223c 80%). Ceci est d\u00fb au fait que la plupart des adjectifs ne changent pas la nature du nom auquel ils sont accol\u00e9s. Une voiture rouge, lente, grosse, ou ancienne reste fondamentalement une voiture. Une voiture miniature n'est plus n\u00e9cessairement une voiture mais de tels exemples sont rares.Ensuite, la m\u00e9thode multiplicative a de mauvaises performances sur l'espace r\u00e9duit \u00e0 l'aide de svd. Cela confirme l'incompatibilit\u00e9 de cette m\u00e9thode avec les valeurs n\u00e9gatives g\u00e9n\u00e9r\u00e9es par svd. La figure 6 permet de visualiser la raison \u00e0 cela. On peut y voir que multiplier terme \u00e0 terme deux vecteurs ayant des valeurs n\u00e9gatives r\u00e9sulte en un troisi\u00e8me vecteur tr\u00e8s \u00e9loign\u00e9 des deux autres. Cela va \u00e0 l'encontre de l'id\u00e9e selon laquelle la combinaison d'un nom et d'un adjectif \u00e0 un sens proche du nom d'origine."
},
"TABREF5": {
"num": null,
"content": "<table><tr><td>4 Travaux connexes</td></tr></table>",
"type_str": "table",
"html": null,
"text": "Un certain nombre de chercheurs a d\u00e9j\u00e0 \u00e9tudi\u00e9 et \u00e9valu\u00e9 divers mod\u00e8les de composition au sein d'un cadre distributionnel. Une des premi\u00e8res tentatives pour \u00e9valuer de mani\u00e8re syst\u00e9matique des mod\u00e8les simples de composition a \u00e9t\u00e9 faite parMitchell & Lapata (2008). Ils explorent un certain nombre de mod\u00e8les diff\u00e9rents pour la composition de vecteurs, dont les plus importants sont le mod\u00e8le additif et le mod\u00e8le multiplicatif. Ils \u00e9valuent leurs mod\u00e8les sur une t\u00e2che de similitude de phrases nom-verbe. Pour \u00e9valuer leur mod\u00e8le, ils ont demand\u00e9 \u00e0 des annotateurs humains de juger la similarit\u00e9 entre deux paires compositionnelles (par exemple en attribuant un certain score). La t\u00e2che du mod\u00e8le de composition est alors de reproduire les jugements humains. Les r\u00e9sultats montrent que le mod\u00e8le multiplicatif ainsi qu'une combinaison pond\u00e9r\u00e9e du mod\u00e8le additif et du mod\u00e8le multiplicatif donnent les meilleurs r\u00e9sultats.Les auteurs ont refait leur \u00e9tude dans Mitchell & Lapata (2010) avec un ensemble de test plus large (les paires d'adjectifs et noms \u00e9taient \u00e9galement inclues), et ils ont confirm\u00e9 leur r\u00e9sultats initiaux. Bien qu'une telle t\u00e2che de similitude a ses m\u00e9rites, l'attribution d'un score de similitude est UNE \u00c9VALUATION APPROFONDIE DE DIFF\u00c9RENTES M\u00c9THODES DE COMPOSITIONALIT\u00c9 S\u00c9MANTIQUE plut\u00f4t difficile pour des juges humains13 . Une d\u00e9cision binaire, comme dans notre t\u00e2che, est beaucoup moins floue. Nous soutenons que l'approche adopt\u00e9e dans notre contribution donne une image plus claire et plus stable de la performance des diff\u00e9rents mod\u00e8les de composition.Baroni & Zamparelli (2010) \u00e9valuent leur mod\u00e8le de fonctions lexicales dans un contexte quelque peu diff\u00e9rent. Ils \u00e9valuent leur mod\u00e8le en regardant la capacit\u00e9 de reconstruire les vecteurs nom_adjectif qui n'ont pas \u00e9t\u00e9 vus pendant la phase d'entra\u00eenement. Leur r\u00e9sultats montrent que leur mod\u00e8le de fonctions lexicales atteint les meilleurs r\u00e9sultats pour reconstruire les vecteurs de co-occurrence originaux, suivi de pr\u00e8s par le mod\u00e8le additif. Notez que nous observons la m\u00eame tendance dans notre \u00e9valuation.Grefenstette et al. (2013) proposent aussi une g\u00e9n\u00e9ralisation du mod\u00e8le de fonctions lexicales par des tenseurs. Leur g\u00e9n\u00e9ralisation a pour objectif diff\u00e9rent, \u00e0 savoir mod\u00e9liser les verbes transitifs \u00e0 l'aide de tenseurs. Cependant, nous utilisons un approche tr\u00e8s similaire pour l'obtention des tenseurs. En effet, ils utilisent la m\u00e9thode de Baroni et Zamparelli pour apprendre des matrices correspondant \u00e0 une combinaison VERBE_COMPL\u00c9MENT que l'on peut multiplier \u00e0 un vecteur sujet, pour obtenir le vecteur sujet_verbe_compl\u00e9ment. Par exemple MANGER_VIANDE multipli\u00e9 au vecteur chien permet d'obtenir chien_manger_viande. Ils apprennent alors un tenseur correspondant \u00e0 chaque verbe de la m\u00eame mani\u00e8re que nous apprenons le tenseur A .Coecke et al. (2010) pr\u00e9sentent un cadre th\u00e9orique abstrait dans lequel un vecteur de phrase est une fonction du produit de Kronecker de ses vecteurs de mots, ce qui permet une plus grande interaction entre les diff\u00e9rentes traits de mots.Un certain nombre d'instanciations du mod\u00e8le de Coecke et al. (2010) -o\u00f9 l'id\u00e9e cl\u00e9 est que les mots relationnels (par exemple les verbes) ont une structure riche (multidimensionnelle) qui agit comme un filtre sur leurs arguments -sont test\u00e9s exp\u00e9rimentalement dans les articles de Grefenstette & Sadrzadeh (2011a) et Grefenstette & Sadrzadeh (2011b). Les auteurs \u00e9valuent leurs mod\u00e8les en utilisant une t\u00e2che de similitude semblable \u00e0 celle de Mitchell & Lapata. Cependant, ils utilisent des constructions compositionnelles plus \u00e9tendues : plut\u00f4t que d'utiliser des compositions de deux mots (par exemple verbe et objet), ils utilisent des phrases simples transitives (sujet verbe objet). Ils montrent que leurs instanciations du mod\u00e8le cat\u00e9goriel obtiennent des meilleurs r\u00e9sultats que les mod\u00e8les additifs et multiplicatifs sur leur t\u00e2che de similitude transitive. Socher et al. (2012) pr\u00e9sentent un mod\u00e8le compositionnel bas\u00e9 sur les r\u00e9seaux de neurones r\u00e9cursifs. Chaque noeud dans un arbre syntaxique est attribu\u00e9 \u00e0 la fois un vecteur et une matrice ; le vecteur capture la signification r\u00e9elle du constituant, tandis que la matrice mod\u00e9lise la mani\u00e8re dont il change le sens des mots et expressions voisins. L'\u00e9valuation s'est faite extrins\u00e8quement, en utilisant le mod\u00e8le dans une t\u00e2che de pr\u00e9diction du sentiment. Ils montrent que l'approche bas\u00e9e sur les r\u00e9seaux de neurones obtient de meilleurs r\u00e9sultats que les mod\u00e8les additifs, multiplicatifs, et par fonctions lexicales. Cependant, d'autres chercheurs ont rapport\u00e9 des r\u00e9sultats diff\u00e9rents. Blacoe & Lapata (2012) \u00e9valuent les mod\u00e8les additifs et multiplicatifs ainsi que l'approche de Socher et al. (2012) sur deux t\u00e2ches diff\u00e9rentes : la t\u00e2che de similitude de Mitchell & Lapata (2010) et une t\u00e2che de d\u00e9tection de paraphrases. Ils trouvent que les mod\u00e8les additifs et multiplicatifs atteignent des meilleurs scores que le mod\u00e8le de Socher et al. (2012).\u00c9troitement li\u00e9e aux travaux sur la compositionnalit\u00e9 est la recherche sur le calcul de sens du mot en contexte.Erk & Pad\u00f3 (2008, 2009 font usage de restrictions s\u00e9lectionnelles pour exprimer le sens d'un mot dans son contexte ; le sens d'un mot en pr\u00e9sence d'un argument est calcul\u00e9 en multipliant le vecteur du mot avec un vecteur qui capture les restrictions s\u00e9lectionnelles inverses de l'argument. Thater et al."
}
}
}
}