File size: 111,860 Bytes
6fa4bc9 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161 162 163 164 165 166 167 168 169 170 171 172 173 174 175 176 177 178 179 180 181 182 183 184 185 186 187 188 189 190 191 192 193 194 195 196 197 198 199 200 201 202 203 204 205 206 207 208 209 210 211 212 213 214 215 216 217 218 219 220 221 222 223 224 225 226 227 228 229 230 231 232 233 234 235 236 237 238 239 240 241 242 243 244 245 246 247 248 249 250 251 252 253 254 255 256 257 258 259 260 261 262 263 264 265 266 267 268 269 270 271 272 273 274 275 276 277 278 279 280 281 282 283 284 285 286 287 288 289 290 291 292 293 294 295 296 297 298 299 300 301 302 303 304 305 306 307 308 309 310 311 312 313 314 315 316 317 318 319 320 321 322 323 324 325 326 327 328 329 330 331 332 333 334 335 336 337 338 339 340 341 342 343 344 345 346 347 348 349 350 351 352 353 354 355 356 357 358 359 360 361 362 363 364 365 366 367 368 369 370 371 372 373 374 375 376 377 378 379 380 381 382 383 384 385 386 387 388 389 390 391 392 393 394 395 396 397 398 399 400 401 402 403 404 405 406 407 408 409 410 411 412 413 414 415 416 417 418 419 420 421 422 423 424 425 426 427 428 429 430 431 432 433 434 435 436 437 438 439 440 441 442 443 444 445 446 447 448 449 450 451 452 453 454 455 456 457 458 459 460 461 462 463 464 465 466 467 468 469 470 471 472 473 474 475 476 477 478 479 480 481 482 483 484 485 486 487 488 489 490 491 492 493 494 495 496 497 498 499 500 501 502 503 504 505 506 507 508 509 510 511 512 513 514 515 516 517 518 519 520 521 522 523 524 525 526 527 528 529 530 531 532 533 534 535 536 537 538 539 540 541 542 543 544 545 546 547 548 549 550 551 552 553 554 555 556 557 558 559 560 561 562 563 564 565 566 567 568 569 570 571 572 573 574 575 576 577 578 579 580 581 582 583 584 585 586 587 588 589 590 591 592 593 594 595 596 597 598 599 600 601 602 603 604 605 606 607 608 609 610 611 612 613 614 615 616 617 618 619 620 621 622 623 624 625 626 627 628 629 630 631 632 633 634 635 636 637 638 639 640 641 642 643 644 645 646 647 648 649 650 651 652 653 654 655 656 657 658 659 660 661 662 663 664 665 666 667 668 669 670 671 672 673 674 675 676 677 678 679 680 681 682 683 684 685 686 687 688 689 690 691 692 693 694 695 696 697 698 699 700 701 702 703 704 705 706 707 708 709 710 711 712 713 714 715 716 717 718 719 720 721 722 723 724 725 726 727 728 729 730 731 732 733 734 735 736 737 738 739 740 741 742 743 744 745 746 747 748 749 750 751 752 753 754 755 756 757 758 759 760 761 762 763 764 765 766 767 768 769 770 771 772 773 774 775 776 777 778 779 780 781 782 783 784 785 786 787 788 789 790 791 792 793 794 795 796 797 798 799 800 801 802 803 804 805 806 807 808 809 810 811 812 813 814 815 816 817 818 819 820 821 822 823 824 825 826 827 828 829 830 831 832 833 834 835 836 837 838 839 840 841 842 843 844 845 846 847 848 849 850 851 852 853 854 855 856 857 858 859 860 861 862 863 864 865 866 867 868 869 870 871 872 873 874 875 876 877 878 879 880 881 882 883 884 885 886 887 888 889 890 891 892 893 894 895 896 897 898 899 900 901 902 903 904 905 906 907 908 909 910 911 912 913 914 915 916 917 918 919 920 921 922 923 924 925 926 927 928 929 930 931 932 933 934 935 936 937 938 939 940 941 942 943 944 945 946 947 948 949 950 951 952 953 954 955 956 957 958 959 960 961 962 963 964 965 966 967 968 969 970 971 972 973 974 975 976 977 978 979 980 981 982 983 984 985 986 987 988 989 990 991 992 993 994 995 996 997 998 999 1000 1001 1002 1003 1004 1005 1006 1007 1008 1009 1010 1011 1012 1013 1014 1015 1016 1017 1018 1019 1020 1021 1022 1023 1024 1025 1026 1027 1028 1029 1030 1031 1032 1033 1034 1035 1036 1037 1038 1039 1040 1041 1042 1043 1044 1045 1046 1047 1048 1049 1050 1051 1052 1053 1054 1055 1056 1057 1058 1059 1060 1061 1062 1063 1064 1065 1066 1067 1068 1069 1070 1071 1072 1073 1074 1075 1076 1077 1078 1079 1080 1081 1082 1083 1084 1085 1086 1087 1088 1089 1090 1091 1092 1093 1094 1095 1096 1097 1098 1099 1100 1101 1102 1103 1104 1105 1106 1107 1108 1109 1110 1111 1112 1113 1114 1115 1116 1117 1118 1119 1120 1121 1122 1123 1124 1125 1126 1127 1128 1129 1130 1131 1132 1133 1134 1135 1136 1137 1138 1139 1140 1141 1142 1143 1144 1145 1146 1147 1148 1149 1150 1151 1152 1153 1154 1155 1156 1157 1158 1159 1160 1161 1162 1163 1164 1165 1166 1167 1168 1169 1170 1171 1172 1173 1174 1175 1176 1177 1178 1179 1180 1181 1182 1183 1184 1185 1186 1187 1188 1189 1190 1191 1192 1193 1194 1195 1196 1197 1198 1199 1200 1201 1202 1203 1204 1205 1206 1207 1208 1209 1210 1211 1212 1213 1214 1215 1216 1217 1218 1219 1220 1221 1222 1223 1224 1225 1226 1227 1228 1229 1230 1231 1232 1233 1234 1235 1236 1237 1238 1239 1240 1241 1242 1243 1244 1245 1246 1247 1248 1249 1250 1251 1252 1253 1254 1255 1256 1257 1258 1259 1260 1261 1262 1263 1264 1265 1266 1267 1268 1269 1270 1271 1272 1273 1274 1275 1276 1277 1278 1279 1280 1281 1282 1283 1284 1285 1286 1287 1288 1289 1290 1291 1292 1293 1294 1295 1296 1297 1298 1299 1300 1301 1302 1303 1304 1305 1306 1307 1308 1309 1310 1311 1312 1313 1314 1315 1316 1317 1318 1319 1320 1321 1322 1323 1324 1325 1326 1327 1328 1329 1330 1331 1332 1333 1334 1335 1336 1337 1338 1339 1340 1341 1342 1343 1344 1345 1346 1347 1348 1349 1350 1351 1352 1353 1354 1355 1356 1357 1358 1359 1360 1361 1362 1363 1364 1365 1366 1367 1368 1369 1370 1371 1372 1373 1374 1375 1376 1377 1378 1379 1380 1381 1382 1383 1384 1385 1386 1387 1388 1389 1390 1391 1392 1393 1394 1395 1396 1397 1398 1399 1400 1401 1402 1403 1404 1405 1406 1407 1408 1409 1410 1411 1412 1413 1414 1415 1416 1417 1418 1419 1420 1421 1422 1423 1424 1425 1426 1427 1428 1429 1430 1431 1432 1433 1434 1435 1436 1437 1438 1439 1440 1441 1442 1443 1444 1445 1446 1447 1448 1449 1450 1451 1452 1453 1454 1455 1456 1457 1458 1459 1460 1461 1462 1463 1464 1465 1466 1467 1468 1469 1470 1471 1472 1473 1474 1475 1476 1477 1478 1479 1480 1481 1482 1483 1484 1485 1486 1487 1488 1489 1490 1491 1492 1493 1494 1495 1496 1497 1498 1499 1500 1501 1502 1503 1504 1505 1506 1507 1508 1509 1510 1511 1512 1513 1514 1515 1516 1517 1518 1519 1520 1521 1522 1523 1524 1525 1526 1527 1528 1529 1530 1531 1532 1533 1534 1535 1536 1537 1538 1539 1540 1541 1542 1543 1544 1545 1546 1547 1548 1549 1550 1551 1552 1553 1554 1555 1556 1557 1558 1559 1560 1561 1562 1563 1564 1565 1566 1567 1568 1569 1570 1571 1572 1573 1574 1575 1576 1577 1578 1579 1580 1581 1582 1583 1584 1585 1586 1587 1588 1589 1590 1591 1592 1593 1594 1595 1596 1597 1598 1599 1600 1601 1602 1603 1604 1605 1606 1607 1608 1609 1610 1611 1612 1613 1614 1615 1616 1617 1618 1619 1620 1621 1622 1623 1624 1625 1626 1627 1628 1629 1630 1631 1632 1633 1634 1635 1636 1637 1638 1639 1640 1641 1642 1643 1644 1645 1646 1647 1648 1649 1650 1651 1652 1653 1654 1655 1656 1657 1658 1659 1660 1661 1662 1663 1664 1665 1666 1667 1668 1669 1670 1671 1672 1673 1674 1675 1676 1677 1678 1679 1680 1681 1682 1683 1684 1685 1686 1687 1688 1689 1690 1691 1692 1693 1694 1695 1696 1697 1698 1699 1700 1701 1702 1703 1704 1705 1706 1707 1708 1709 1710 1711 1712 1713 1714 1715 1716 1717 1718 1719 1720 1721 1722 1723 1724 1725 1726 1727 1728 1729 1730 1731 1732 1733 1734 1735 1736 1737 1738 1739 1740 1741 1742 1743 1744 1745 1746 1747 1748 1749 1750 1751 1752 1753 1754 1755 1756 1757 1758 1759 1760 1761 1762 1763 1764 1765 1766 1767 1768 1769 1770 1771 1772 1773 1774 1775 1776 1777 1778 1779 1780 1781 1782 1783 1784 1785 1786 1787 1788 1789 1790 1791 1792 1793 1794 1795 1796 1797 1798 1799 1800 1801 1802 1803 1804 1805 1806 1807 1808 1809 1810 1811 1812 1813 1814 1815 1816 1817 1818 1819 1820 1821 1822 1823 1824 1825 1826 1827 1828 1829 1830 1831 1832 1833 1834 1835 1836 1837 1838 1839 1840 1841 1842 1843 1844 1845 1846 1847 1848 1849 1850 1851 1852 1853 | {
"paper_id": "F14-1014",
"header": {
"generated_with": "S2ORC 1.0.0",
"date_generated": "2023-01-19T10:22:57.204732Z"
},
"title": "Une \u00e9valuation approfondie de diff\u00e9rentes m\u00e9thodes de compositionalit\u00e9 s\u00e9mantique",
"authors": [
{
"first": "Antoine",
"middle": [
"Bride"
],
"last": "Tim",
"suffix": "",
"affiliation": {
"laboratory": "",
"institution": "Universit\u00e9 Paul Sabatier",
"location": {
"addrLine": "118 route de Narbonne",
"postCode": "F-31062",
"settlement": "TOULOUSE CEDEX 9"
}
},
"email": ""
}
],
"year": "",
"venue": null,
"identifiers": {},
"abstract": "Au cours des deux derni\u00e8res d\u00e9cennies, de nombreux algorithmes ont \u00e9t\u00e9 d\u00e9velopp\u00e9s pour capturer la s\u00e9mantique des mots simples en regardant leur r\u00e9partition dans un grand corpus, et en comparant ces distributions dans un mod\u00e8le d'espace vectoriel. En revanche, il n'est pas trivial de combiner les objets alg\u00e9briques de la s\u00e9mantique distributionnelle pour arriver \u00e0 une d\u00e9rivation d'un contenu pour des expressions complexes, compos\u00e9es de plusieurs mots. Notre contribution a deux buts. Le premier est d'\u00e9tablir une large base de comparaison pour les m\u00e9thodes de composition pour le cas adjectif_nom. Cette base nous permet d'\u00e9valuer en profondeur la performance des diff\u00e9rentes m\u00e9thodes de composition. Notre second but est la proposition d'une nouvelle m\u00e9thode de composition, qui est une g\u00e9n\u00e9ralisation de la m\u00e9thode de Baroni & Zamparelli (2010). La performance de notre nouvelle m\u00e9thode est \u00e9galement \u00e9valu\u00e9e sur notre nouveau ensemble de test.",
"pdf_parse": {
"paper_id": "F14-1014",
"_pdf_hash": "",
"abstract": [
{
"text": "Au cours des deux derni\u00e8res d\u00e9cennies, de nombreux algorithmes ont \u00e9t\u00e9 d\u00e9velopp\u00e9s pour capturer la s\u00e9mantique des mots simples en regardant leur r\u00e9partition dans un grand corpus, et en comparant ces distributions dans un mod\u00e8le d'espace vectoriel. En revanche, il n'est pas trivial de combiner les objets alg\u00e9briques de la s\u00e9mantique distributionnelle pour arriver \u00e0 une d\u00e9rivation d'un contenu pour des expressions complexes, compos\u00e9es de plusieurs mots. Notre contribution a deux buts. Le premier est d'\u00e9tablir une large base de comparaison pour les m\u00e9thodes de composition pour le cas adjectif_nom. Cette base nous permet d'\u00e9valuer en profondeur la performance des diff\u00e9rentes m\u00e9thodes de composition. Notre second but est la proposition d'une nouvelle m\u00e9thode de composition, qui est une g\u00e9n\u00e9ralisation de la m\u00e9thode de Baroni & Zamparelli (2010). La performance de notre nouvelle m\u00e9thode est \u00e9galement \u00e9valu\u00e9e sur notre nouveau ensemble de test.",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "Abstract",
"sec_num": null
}
],
"body_text": [
{
"text": "Au cours des deux derni\u00e8res d\u00e9cennies, il y a eu un int\u00e9r\u00eat croissant dans les m\u00e9thodes dites \u00ab distributionnelles \u00bb pour la s\u00e9mantique lexicale (Landauer & Dumais, 1997; Lin, 1998; Turney & Pantel, 2010) . Ces m\u00e9thodes sont nomm\u00e9es ainsi car elles se fondent sur l'hypoth\u00e8se distributionnelle (Harris, 1954) , qui stipule que les mots qui apparaissent dans les m\u00eames contextes ont tendance \u00e0 \u00eatre s\u00e9mantiquement similaire. Dans l'esprit de cet adage, maintenant bien connu, de nombreux algorithmes ont \u00e9t\u00e9 d\u00e9velopp\u00e9s pour tenter de capturer la s\u00e9mantique des mots simples en regardant leur r\u00e9partition dans un grand corpus, et en comparant ces distributions dans un mod\u00e8le d'espace vectoriel.",
"cite_spans": [
{
"start": 145,
"end": 170,
"text": "(Landauer & Dumais, 1997;",
"ref_id": "BIBREF27"
},
{
"start": 171,
"end": 181,
"text": "Lin, 1998;",
"ref_id": "BIBREF29"
},
{
"start": 182,
"end": 204,
"text": "Turney & Pantel, 2010)",
"ref_id": "BIBREF39"
},
{
"start": 294,
"end": 308,
"text": "(Harris, 1954)",
"ref_id": "BIBREF23"
}
],
"ref_spans": [],
"eq_spans": [],
"section": "Introduction",
"sec_num": "1"
},
{
"text": "En comparaison avec les \u00e9tudes manuelles de la s\u00e9mantique formelle lexicale, cette approche apporte une couverture bien plus vaste et une analyse d'une grande masse de donn\u00e9es empiriques. En revanche, il n'est pas trivial de combiner les objets alg\u00e9briques de la s\u00e9mantique distributionnelle pour arriver \u00e0 une d\u00e9rivation d'un contenu pour des expressions complexes, compos\u00e9es de plusieurs mots. A contrario, l'op\u00e9ration de l'application et des repr\u00e9sentations qui utilisent le formalisme du \u03bb -calcul dans la s\u00e9mantique formelle nous donne des m\u00e9thodes de composition g\u00e9n\u00e9rales et sophistiqu\u00e9es qui peuvent traiter non seulement la composition de sens dans les cas simples mais aussi des ph\u00e9nom\u00e8nes complexes comme la coercition ou la composition avec des formules finement typ\u00e9es (Asher, 2011; Luo, 2010; Bassac et al., 2010) . Malgr\u00e9 des efforts pour trouver une m\u00e9thode g\u00e9n\u00e9rale de composition et diverses approches propos\u00e9es pour la composition des structures syntaxiques sp\u00e9cifiques (par exemple adjectifs et syntagmes nominaux, ou verbes transitifs et objets (Mitchell & Lapata, 2008; Coecke et al., 2010; Baroni & Zamparelli, 2010) ), le probl\u00e8me de composition demeure un d\u00e9fi pour BRIDE, CRUYS, ASHER l'approche distributionnelle. De plus, la validation des m\u00e9thodes de composition propos\u00e9es s'est souvent faite \u00e0 petite \u00e9chelle (Mitchell & Lapata, 2008) . Bien que ces \u00e9tudes sur les jugements de similarit\u00e9 soient prometteuses et significatives, il serait int\u00e9ressant d'avoir des \u00e9tudes ayant une plus large couverture de validation. Elles nous permettraient de mieux comparer les diff\u00e9rentes m\u00e9thodes de composition propos\u00e9es.",
"cite_spans": [
{
"start": 782,
"end": 795,
"text": "(Asher, 2011;",
"ref_id": "BIBREF0"
},
{
"start": 796,
"end": 806,
"text": "Luo, 2010;",
"ref_id": "BIBREF30"
},
{
"start": 807,
"end": 827,
"text": "Bassac et al., 2010)",
"ref_id": "BIBREF3"
},
{
"start": 1066,
"end": 1091,
"text": "(Mitchell & Lapata, 2008;",
"ref_id": "BIBREF32"
},
{
"start": 1092,
"end": 1112,
"text": "Coecke et al., 2010;",
"ref_id": "BIBREF11"
},
{
"start": 1113,
"end": 1139,
"text": "Baroni & Zamparelli, 2010)",
"ref_id": "BIBREF2"
},
{
"start": 1339,
"end": 1364,
"text": "(Mitchell & Lapata, 2008)",
"ref_id": "BIBREF32"
}
],
"ref_spans": [],
"eq_spans": [],
"section": "Introduction",
"sec_num": "1"
},
{
"text": "Notre contribution a deux buts. Le premier est d'\u00e9tablir une large base de comparaison pour les m\u00e9thodes de composition pour le cas adjectif_nom. Pour cela nous avons cr\u00e9\u00e9 un vaste ensemble de test utilisant des paires contenant une expression compos\u00e9e (adjectif_nom) et un nom qui doit \u00eatre proche sinon identique s\u00e9mantiquement de l'expression compos\u00e9e. Ces paires ont \u00e9t\u00e9 extraites semi-automatiquement du Wiktionnaire fran\u00e7ais. Cette base de paires similaires nous permet d'\u00e9valuer en profondeur la performance des diff\u00e9rentes m\u00e9thodes de composition. Nous avons test\u00e9 trois m\u00e9thodes de composition d\u00e9j\u00e0 existantes, \u00e0 savoir l'approche additive et multiplicative (Mitchell & Lapata, 2008) , ainsi que l'approche par fonctions lexicales (Baroni & Zamparelli, 2010) .",
"cite_spans": [
{
"start": 667,
"end": 692,
"text": "(Mitchell & Lapata, 2008)",
"ref_id": "BIBREF32"
},
{
"start": 740,
"end": 767,
"text": "(Baroni & Zamparelli, 2010)",
"ref_id": "BIBREF2"
}
],
"ref_spans": [],
"eq_spans": [],
"section": "Introduction",
"sec_num": "1"
},
{
"text": "Les deux premi\u00e8res m\u00e9thodes sont compl\u00e8tement g\u00e9n\u00e9rales et s'appliquent \u00e0 des vecteurs que l'on peut automatiquement calculer pour les adjectifs et noms. En revanche, l'approche de Baroni et Zamparelli n\u00e9cessite d'apprendre une fonction particuli\u00e8re associ\u00e9e \u00e0 chaque adjectif. Notre second but est de g\u00e9n\u00e9raliser l'approche fonctionnelle afin d'\u00e9liminer le besoin de conserver une fonction par adjectif. Pour cela nous utilisons une fonction g\u00e9n\u00e9ralis\u00e9e apprise \u00e0 l'aide des fonctions d'adjectifs de l'approche de Baroni et Zamparelli. Cette fonction g\u00e9n\u00e9ralis\u00e9e se combine alors avec le vecteur d'un adjectif et celui d'un nom de mani\u00e8re enti\u00e8rement g\u00e9n\u00e9rale. La performance de notre nouvelle m\u00e9thode de l'approche fonctionnelle g\u00e9n\u00e9ralis\u00e9e est \u00e9galement \u00e9valu\u00e9e sur notre ensemble de test.",
"cite_spans": [
{
"start": 515,
"end": 524,
"text": "Baroni et",
"ref_id": null
}
],
"ref_spans": [],
"eq_spans": [],
"section": "Introduction",
"sec_num": "1"
},
{
"text": "Nous avons organis\u00e9 notre contribution de fa\u00e7on suivante. Nous d\u00e9taillons d'abord les diff\u00e9rents mod\u00e8les de composition que nous \u00e9valuons dans notre \u00e9tude, avec un rappel sur les diff\u00e9rentes m\u00e9thodes de composition existantes et puis une description de notre g\u00e9n\u00e9ralisation de l'approche fonctionnelle. Puis nous d\u00e9crivons notre m\u00e9thode d'\u00e9valuation et les r\u00e9sultats. Apr\u00e8s une section sur les travaux connexes aux n\u00f4tres, nous concluons et nous pr\u00e9cisons quelques pistes de travaux futurs.",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "Introduction",
"sec_num": "1"
},
{
"text": "Nous expliquons, dans cette section, quels mod\u00e8les de composition ont \u00e9t\u00e9 test\u00e9s et \u00e0 quoi ceux-ci correspondent. Apr\u00e8s une bref rappel des mod\u00e8les de composition simples, nous d\u00e9taillons notamment la m\u00e9thode des fonctions lexicales de Baroni & Zamparelli (2010) ainsi que la g\u00e9n\u00e9ralisation que nous en avons faite.",
"cite_spans": [
{
"start": 236,
"end": 262,
"text": "Baroni & Zamparelli (2010)",
"ref_id": "BIBREF2"
}
],
"ref_spans": [],
"eq_spans": [],
"section": "Mod\u00e8les de composition",
"sec_num": "2"
},
{
"text": "Voici les notations utilis\u00e9es dans la suite. Lorsque nous d\u00e9crivons un objet th\u00e9orique, sans soucis de sa repr\u00e9sentation physique par l'ordinateur, nous utilisons la police de base. Quand nous discutons de vecteurs, ceux-ci sont \u00e9crits en gras. Les matrices sont repr\u00e9sent\u00e9es en MAJUSCULES GRASSES. Enfin, nous \u00e9crivons les tenseurs 1 d'ordre 3 avec une majuscule calligraphi\u00e9e, par exemple A . De plus, comme nous ne manipulons pas de tenseur d'ordre sup\u00e9rieur \u00e0 4, nous appelons simplement les tenseurs d'ordre 3 \u00ab tenseurs \u00bb 2 . Pour conclure, le coefficient d'indice i d'un vecteur v est not\u00e9 v i ; la notation des coefficients des matrices et tenseurs se fait de mani\u00e8re analogue.",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "Mod\u00e8les de composition",
"sec_num": "2"
},
{
"text": "Dans la suite de cet article les adjectifs seront repr\u00e9sent\u00e9s par la lettre \u00ab a \u00bb et les noms par la lettre \u00ab n \u00bb.",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "Mod\u00e8les de composition",
"sec_num": "2"
},
{
"text": "Trois mod\u00e8les de composition que nous avons utilis\u00e9s sont simples \u00e0 d\u00e9crire : les m\u00e9thodes triviale, additive et multiplicative. L'approche triviale, not\u00e9e C t et que nous utilisons comme base de comparaison, ignore l'adjectif :",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "Mod\u00e8les de composition simples",
"sec_num": "2.1"
},
{
"text": "C t (a, n) = n",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "Mod\u00e8les de composition simples",
"sec_num": "2.1"
},
{
"text": "Le mod\u00e8le additif, not\u00e9 C a , consiste \u00e0 r\u00e9aliser une combinaison lin\u00e9aire entre les vecteurs a et n \u00e0 l'aide de coefficients ind\u00e9pendants de ceux-ci : Le mod\u00e8le multiplicatif, not\u00e9 C m , consiste \u00e0 multiplier les vecteurs a et n terme \u00e0 terme :",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "Mod\u00e8les de composition simples",
"sec_num": "2.1"
},
{
"text": "C a (a, n) = \u03b1 n + \u03b2 a UNE \u00c9VALUATION APPROFONDIE DE DIFF\u00c9RENTES M\u00c9THODES DE COMPOSITIONALIT\u00c9 S\u00c9MANTIQUE \u00d7 = A n C f . l. (a, n) FIGURE 1: Composition dans l'",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "Mod\u00e8les de composition simples",
"sec_num": "2.1"
},
{
"text": "C m (a, n) = n \u2297 a o\u00f9 (n \u2297 a) i = n i \u00d7 a i",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "Mod\u00e8les de composition simples",
"sec_num": "2.1"
},
{
"text": "L'approche par fonctions lexicales de Baroni & Zamparelli (2010) \u00e9tant plus complexe, nous la d\u00e9crivons dans la section suivante. Nous expliquons ensuite pourquoi et comment nous avons tent\u00e9 de g\u00e9n\u00e9raliser cette approche.",
"cite_spans": [
{
"start": 38,
"end": 64,
"text": "Baroni & Zamparelli (2010)",
"ref_id": "BIBREF2"
}
],
"ref_spans": [],
"eq_spans": [],
"section": "Mod\u00e8les de composition simples",
"sec_num": "2.1"
},
{
"text": "Le mod\u00e8le de composition par fonctions lexicales, not\u00e9 C f . l. , consiste \u00e0 repr\u00e9senter les adjectifs par des matrices. Ainsi la combinaison d'un adjectif et d'un nom est le produit de la matrice A et du vecteur n comme le montre la figure 1. L'approche distributionelle ne permet cependant pas de g\u00e9n\u00e9rer naturellement des matrices. Baroni et Zamparelli proposent donc d'apprendre la matrice d'un adjectif \u00e0 partir d'exemples de vecteurs nom_adjectif obtenus directement \u00e0 partir du corpus. De tels vecteurs nom_adjectif sont obtenus de la m\u00eame mani\u00e8res que des vecteurs repr\u00e9sentant un seul mot : quand la combinaison de l'adjectif et du nom occurre, on observe son contexte. Prenons l'exemple du paragraphe en figure 2. Le mot \u00ab village \u00bb appara\u00eet trois fois. La premi\u00e8re occurrence peut contribuer \u00e0 cr\u00e9er le vecteur village_voisin, la deuxi\u00e8me \u00e0 cr\u00e9er village_abare, et la derni\u00e8re \u00e0 cr\u00e9er village_autre.",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "Fonctions Lexicales",
"sec_num": "2.2"
},
{
"text": "Une fois que l'on a cr\u00e9\u00e9 suffisamment de vecteurs nom_adjectif pour un adjectif donn\u00e9, on calcule la matrice A. Pour cela, on r\u00e9alise une r\u00e9gression partielle des moindres carr\u00e9s, sur les combinaisons nom_adjectif. Formellement, en notant n a les vecteurs nom_adjectif, il s'agit de trouver A minimisant :",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "Fonctions Lexicales",
"sec_num": "2.2"
},
{
"text": "\u2211 n A \u00d7 n \u2212 n a 2 o\u00f9 v 2 = \u2211 i v 2 i",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "Fonctions Lexicales",
"sec_num": "2.2"
},
{
"text": "Pour reprendre l'exemple pr\u00e9c\u00e9dent, on minimiserait, notamment, {VOISIN\u00d7village \u2212 village_voisin{ 2 pour obtenir la matrice VOISIN.",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "Fonctions Lexicales",
"sec_num": "2.2"
},
{
"text": "Il est important de noter qu'une telle approche n\u00e9cessite un corpus plus important que les autres approches. En effet, comme il ne s'agit plus seulement d'observer des exemples d'utilisation d'adjectifs ou de noms isol\u00e9s mais des exemples d'utilisation de la combinaison d'un adjectif et d'un nom, les occurrences sont intrins\u00e8quement plus rares. Dans le paragraphe en figure 2, chacune des apparitions du mot \u00ab village \u00bb peut contribuer \u00e0 la cr\u00e9ation du vecteur village mais aucune ne peut contribuer \u00e0 la cr\u00e9ation du vecteur village_f\u00e9lon.",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "Fonctions Lexicales",
"sec_num": "2.2"
},
{
"text": "= A \u00d7 a \u00d7 n C f . l. g. (a, n)",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "BRIDE, CRUYS, ASHER",
"sec_num": null
},
{
"text": "FIGURE 3: Composition dans l'approche par fonction lexicale g\u00e9n\u00e9ralis\u00e9e Baroni & Zamparelli (2010) expliquent comment limiter les probl\u00e8mes li\u00e9s au manque d'exemples. De plus, les exp\u00e9riences pr\u00e9sent\u00e9es jusqu'\u00e0 maintenant montrent que les corpus actuels permettent une impl\u00e9mentation efficace de l'approche par fonctions lexicales pour les adjectifs les plus courants. En effet, celle-ci a obtenu les meilleurs r\u00e9sultats sur un certain nombre d'exp\u00e9riences.",
"cite_spans": [
{
"start": 72,
"end": 98,
"text": "Baroni & Zamparelli (2010)",
"ref_id": "BIBREF2"
}
],
"ref_spans": [],
"eq_spans": [],
"section": "BRIDE, CRUYS, ASHER",
"sec_num": null
},
{
"text": "N\u00e9anmoins, l'approche de Baroni et Zamparelli reste limit\u00e9e pour traiter des adjectifs relativement rares. Par exemple, l'adjectif \u00ab f\u00e9lon \u00bb appara\u00eet 217 fois dans le corpus FRWaC (Baroni et al., 2009) . C'est assez pour g\u00e9n\u00e9rer un vecteur f\u00e9lon, mais tr\u00e8s peu pour esp\u00e9rer g\u00e9n\u00e9rer un nombre suffisant de vecteurs nom_f\u00e9lon et donc g\u00e9n\u00e9rer la matrice F\u00c9LON.",
"cite_spans": [
{
"start": 180,
"end": 201,
"text": "(Baroni et al., 2009)",
"ref_id": "BIBREF1"
}
],
"ref_spans": [],
"eq_spans": [],
"section": "BRIDE, CRUYS, ASHER",
"sec_num": null
},
{
"text": "De plus, devoir apprendre une matrice pour chaque adjectif pose un probl\u00e8me th\u00e9orique. En effet, cette approche suppose, comme l'approche de Montague, que l'effet d'un adjectif sur un nom est idiosyncratique \u00e0 l'adjectif (Kamp, 1975) . Mais le d\u00e9savantage de ceci est que les donn\u00e9es montrent que la plupart des adjectifs dans les langues du monde sont subjectifs et se comportent selon des principes g\u00e9n\u00e9rales de composition (Partee, 2010; Asher, 2011). La mani\u00e8re dont les adjectifs sont utilis\u00e9s dans la langue fran\u00e7aise laisse supposer qu'il existe une fa\u00e7on g\u00e9n\u00e9rale de combiner adjectifs et noms. Lorsque l'on conna\u00eet la signification d'un adjectif, l'association \u00e0 un nom est rarement probl\u00e9matique. Ceci, ind\u00e9pendamment de la pr\u00e9sence ou de l'absence d'exemples d'association.",
"cite_spans": [
{
"start": 221,
"end": 233,
"text": "(Kamp, 1975)",
"ref_id": "BIBREF24"
}
],
"ref_spans": [],
"eq_spans": [],
"section": "BRIDE, CRUYS, ASHER",
"sec_num": null
},
{
"text": "Pour r\u00e9soudre ces probl\u00e8mes, nous proposons de g\u00e9n\u00e9raliser les fonctions lexicales que sont les matrices d'adjectifs par une fonction lexicale unique : le tenseur de composition adjectivale A . Dans notre approche, not\u00e9e C f . l. g. , la combinaison d'un adjectif et d'un nom est le produit du tenseur A avec le vecteur adjectif puis le vecteur nom, c.f. figure 3.",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "G\u00e9n\u00e9ralisation",
"sec_num": "2.3"
},
{
"text": "On peut noter que le produit du tenseur A et du vecteur a est une matrice d\u00e9pendante de l'adjectif et multipli\u00e9e au vecteur n. Cette matrice correspond \u00e0 la matrice A de l'approche par fonctions lexicales de Baroni et Zamparelli. Ainsi, comme le montre la figure 4, nous obtenons le tenseur A \u00e0 l'aide d'exemples de matrices obtenues par la m\u00e9thode de Baroni et Zamparelli, et de vecteurs obtenus naturellement dans l'approche distributionelle. Plus pr\u00e9cis\u00e9ment nous effectuons une r\u00e9gression partielle des moindres carr\u00e9s sur les matrices g\u00e9n\u00e9r\u00e9es par les \u00e9quations. Formellement, il s'agit de trouver A minimisant :",
"cite_spans": [
{
"start": 352,
"end": 361,
"text": "Baroni et",
"ref_id": null
}
],
"ref_spans": [],
"eq_spans": [],
"section": "G\u00e9n\u00e9ralisation",
"sec_num": "2.3"
},
{
"text": "\u2211 a A \u00d7 a \u2212 A 2 o\u00f9 M 2 = \u2211 i, j M 2 i, j",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "G\u00e9n\u00e9ralisation",
"sec_num": "2.3"
},
{
"text": "Cette \u00e9quation ressemble beaucoup \u00e0 l'\u00e9quation non g\u00e9n\u00e9ralis\u00e9e. En effet, dans les deux cas, l'objectif formel est de trouver une application lin\u00e9aire 4 minimisant des \u00e9quations dans un espace vectoriel de dimension finie.",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "G\u00e9n\u00e9ralisation",
"sec_num": "2.3"
},
{
"text": "Cependant, la g\u00e9n\u00e9ralisation fait une hypoth\u00e8se bien plus forte. En effet, l'image d'une application lin\u00e9aire est toujours de dimension inf\u00e9rieure \u00e0 son espace de d\u00e9part. Or, par construction, si les vecteurs adjectif existent dans un espace de dimension N, alors les matrices ADJECTIF existent dans un espace de dimension N \u00d7 N. Ainsi, s'il existe un tenseur A , cela signifie que le sous-espace engendr\u00e9 par les matrices ADJECTIF est de taille inf\u00e9rieur \u00e0 N r\u00e9duisant consid\u00e9rablement leur degr\u00e9 de libert\u00e9 maximal initial (dimension N \u00d7 N). L'approche de Baroni et Zamparelli n'a pas cette hypoth\u00e8se puisque les vecteurs nom et nom_adjectif coexistent dans un m\u00eame espace (et les espaces engendr\u00e9s par ceux-ci ont donc la m\u00eame dimension maximale).",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "G\u00e9n\u00e9ralisation",
"sec_num": "2.3"
},
{
"text": "Moins formellement, chercher une telle application lin\u00e9aire pr\u00e9suppose qu'il n'y pas plus d'\u00ab information \u00bb dans le sousespace d'arriv\u00e9e que de le sous-espace de d\u00e9part. Cela cr\u00e9\u00e9 une diff\u00e9rence notable entre les deux m\u00e9thodes. En effet, dans la m\u00e9thode de Baroni ",
"cite_spans": [
{
"start": 257,
"end": 263,
"text": "Baroni",
"ref_id": null
}
],
"ref_spans": [],
"eq_spans": [],
"section": "G\u00e9n\u00e9ralisation",
"sec_num": "2.3"
},
{
"text": "Une fois le test choisi et les fichiers de test r\u00e9alis\u00e9s nous avons cr\u00e9\u00e9 l'espace s\u00e9mantique. Pour cela, nous avons utilis\u00e9 le corpus FRWaC (Baroni et al., 2009 ) -un corpus de 1,6 milliard de mots extrait du web -tag\u00e9 avec le tageur MElt (Denis et al., 2010) et pars\u00e9 \u00e0 l'aide du parseur MaltParser (Nivre et al., 2006) , form\u00e9 sur une version de d\u00e9pendances du French treebank (Candito et al., 2010) . Nous avons d'abord r\u00e9cup\u00e9r\u00e9 les lemmes des mots, adjectifs, et noms du corpus. Nous avons uniquement conserv\u00e9 les lemmes \u00e9crits en toutes lettres 11 puis selectionn\u00e9 les 10000 lemmes les plus fr\u00e9quents pour chaque cat\u00e9gorie (mots, adjectifs, noms). Enfin, nous avons g\u00e9n\u00e9r\u00e9 l'espace en utilisant les adjectifs et les noms 9. i.e. moins de 200 fois pour les adjectifs et moins de 1500 fois pour les noms. 10. Nous fournissons les fichiers correspondant sur simple demande par e-mail. 11. Cette \u00e9tape \u00e9limine principalement les dates, les nombres en chiffre, et la ponctuation. Nous estimons que ceux-ci ont un int\u00e9r\u00eat limit\u00e9 en approche distributionnelle. comme vecteurs, et les mots comme dimensions en utilisant la m\u00e9thode des bags of words. Nous avons alors nettoy\u00e9 l'espace ainsi cr\u00e9\u00e9s en normalisant les vecteurs et en appliquant le positive point-wise mutual information (ppmi, (Church & Hanks, 1990 )) \u00e0 l'espace.",
"cite_spans": [
{
"start": 140,
"end": 160,
"text": "(Baroni et al., 2009",
"ref_id": "BIBREF1"
},
{
"start": 300,
"end": 320,
"text": "(Nivre et al., 2006)",
"ref_id": "BIBREF34"
},
{
"start": 379,
"end": 401,
"text": "(Candito et al., 2010)",
"ref_id": "BIBREF9"
},
{
"start": 1287,
"end": 1308,
"text": "(Church & Hanks, 1990",
"ref_id": "BIBREF10"
}
],
"ref_spans": [],
"eq_spans": [],
"section": "Espace s\u00e9mantique",
"sec_num": "3.2"
},
{
"text": "Nous avons alors compar\u00e9 les m\u00e9thodes sur trois versions de l'espace : l'espace entier, l'espace r\u00e9duit \u00e0 300 dimensions par la m\u00e9thode de d\u00e9composition en valeurs singuli\u00e8res (svd, (Golub & Van Loan, 1996) ), et l'espace r\u00e9duit \u00e0 300 dimensions par la m\u00e9thode de factorisation en matrices positives (nmf, (Lee & Seung, 2000) ). Nous avons fait cela pour pouvoir tester chaque m\u00e9thode dans des conditions optimales. En effet : -Un espace non r\u00e9duit contient plus d'informations. Ainsi les m\u00e9thodes compatibles (additive et multiplicative) peuvent obtenir de meilleurs r\u00e9sultats. Cependant, utiliser la m\u00e9thode des fonctions lexicales sur l'espace non r\u00e9duit demanderait d'apprendre des matrices de taille 10000 \u00d7 10000. Ceci poserait des probl\u00e8mes de temps de calcul et de parcimonie des donn\u00e9es comme on a vu ci-dessus. De m\u00eame pour les fonctions \u00e9tendues. -Un espace r\u00e9duit avec la m\u00e9thode svd permet exp\u00e9rimentalement d'obtenir de bon r\u00e9sultats pour les fonctions lexicales.",
"cite_spans": [
{
"start": 176,
"end": 206,
"text": "(svd, (Golub & Van Loan, 1996)",
"ref_id": null
},
{
"start": 300,
"end": 325,
"text": "(nmf, (Lee & Seung, 2000)",
"ref_id": null
}
],
"ref_spans": [],
"eq_spans": [],
"section": "Espace s\u00e9mantique",
"sec_num": "3.2"
},
{
"text": "Cependant, la pr\u00e9sence de valeurs n\u00e9gatives dans le vecteurs de l'espace r\u00e9duit drastiquement l'efficacit\u00e9 de l'approche multiplicative. -Un espace r\u00e9duit avec la m\u00e9thode nmf ne p\u00e9nalise pas les approches multiplicatives. (Dietterich, 1998) .",
"cite_spans": [
{
"start": 222,
"end": 240,
"text": "(Dietterich, 1998)",
"ref_id": "BIBREF13"
}
],
"ref_spans": [],
"eq_spans": [],
"section": "Espace s\u00e9mantique",
"sec_num": "3.2"
},
{
"text": "\u22121 \u22120.5 0.5 1 \u22121 \u22120.5 0.5 1 v 1 v 2 v 1 \u2297 v 2 (a) vecteurs \u00e0 valeurs positives \u22121 \u22120.5 0.5 1 \u22121 \u22120.5 0.5 1 v 1 v 2 v 1 \u2297 v 2",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "R\u00e9sultats",
"sec_num": "3.3"
},
{
"text": "(b) vecteurs \u00e0 valeurs n\u00e9gatives FIGURE 6: l'effet de valeurs n\u00e9gatives sur l'approche multiplicative (\u03c7 2 = 21.33, p < 0.01). Les r\u00e9sultats du mod\u00e8le additif pour les espaces svd et nmf sont \u00e9galement significatifs (\u03c7 2 = 11.82, p < 0.01 et \u03c7 2 = 18.91, p < 0.01, respectivement) mais il sont inf\u00e9rieurs au r\u00e9sultat de l'espace non-r\u00e9duit. On constate que le mod\u00e8le multiplicatif atteint un r\u00e9sultat de 0.83 dans l'espace nmf qui est significativement meilleur que le mod\u00e8le multiplicatif (\u03c7 2 = 31.34, p < 0.01), mais toujours inf\u00e9rieur au r\u00e9sultat de l'espace non-r\u00e9duit.",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "R\u00e9sultats",
"sec_num": "3.3"
},
{
"text": "Ensuite, nous constatons que l'approche par fonctions lexicales de Baroni et Zamparelli dans l'espace svd obtient des r\u00e9sultats qui sont significativement meilleurs que toute autre approche avec tout autre espace (\u03c7 2 = 33.49, p < 0.01 pour la diff\u00e9rence avec le mod\u00e8le additif non-r\u00e9duit). Nous constatons \u00e9galement que la fonction lexicale g\u00e9n\u00e9ralis\u00e9e dans l'espace nmf obtient des r\u00e9sultats qui sont comparables avec l'approche de Baroni et Zamparelli dans ce m\u00eame espace (\u03c7 2 = 3.95, p > 0.01) et \u00e9quivalents aux meilleurs r\u00e9sultats des autres m\u00e9thodes (notamment le mod\u00e8le additif non-r\u00e9duit). Cependant, la fonction lexicale g\u00e9n\u00e9ralis\u00e9e -comme le mod\u00e8le multiplicatif -a de faibles performances sur l'espace svd (0.61). Cela semble signifier que, dans cet espace, les matrices de la m\u00e9thode des fonctions lexicales ne sont pas g\u00e9n\u00e9rables \u00e0 l'aide d'un tenseur unique et des vecteurs correspondants.",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "R\u00e9sultats",
"sec_num": "3.3"
},
{
"text": "Nous avons ensuite r\u00e9p\u00e9t\u00e9 nos tests avec des exemples n\u00e9gatifs utilisant les combinaisons adjectif_nom extraites du Wiktionnaire fran\u00e7ais (troisi\u00e8me colonne de la table 1). Nous pr\u00e9sentons les r\u00e9sultats dans la table 2b. Nous constatons que les r\u00e9sultats de nos premiers tests sont largement confirm\u00e9s. Le mod\u00e8le additif en espace non-r\u00e9duit atteint un score qui est significativement meilleur que la m\u00e9thode triviale (0.83 vs. 0.78, \u03c7 2 = 10.69, p < 0.01), bien que le mod\u00e8le multiplicatif ne donne pas un score sup\u00e9rieur \u00e0 la m\u00e9thode triviale. Nous notons, toutefois, que l'approche par fonctions et l'approche additive obtiennent d\u00e9sormais des r\u00e9sultats globalement \u00e9quivalents dans leurs meilleurs conditions respectives -0.83 pour le mod\u00e8le additif non-r\u00e9duit vs. 0.84 pour le mod\u00e8le fonctionel svd, une diff\u00e9rence non-significative (\u03c7 2 = 0.20, p > 0.05). Cela semble indiquer que les fonctions lexicales sont particuli\u00e8rement efficaces pour s\u00e9parer les combinaisons insens\u00e9es, mais qu'ils obtiennent un score inf\u00e9rieur quand ils doivent juger la similarit\u00e9 de compositions r\u00e9elles. (2009, 2010 ) \u00e9tendent l'approche fond\u00e9e sur les restrictions s\u00e9lectionnelles en incorporant des co-occurrences du deuxi\u00e8me ordre dans leur mod\u00e8le. Dinu & Lapata (2010) proposent un cadre probabiliste qui mod\u00e9lise la signification des mots comme une distribution de probabilit\u00e9 sur des facteurs latents. Cela permet de mod\u00e9liser le sens contextualis\u00e9 comme un changement dans la distribution du mot originel. Dinu et Lapata utilisent la factorisation de matrice positive (NMF) pour induire les facteurs latents.",
"cite_spans": [
{
"start": 1089,
"end": 1095,
"text": "(2009,",
"ref_id": null
},
{
"start": 1096,
"end": 1100,
"text": "2010",
"ref_id": null
},
{
"start": 1237,
"end": 1257,
"text": "Dinu & Lapata (2010)",
"ref_id": "BIBREF14"
}
],
"ref_spans": [],
"eq_spans": [],
"section": "R\u00e9sultats",
"sec_num": "3.3"
},
{
"text": "En g\u00e9n\u00e9ral, les mod\u00e8les latents se sont av\u00e9r\u00e9es utiles pour la mod\u00e9lisation du sens des mots. L'un des mod\u00e8les latents de la s\u00e9mantique les plus connus est l'analyse de s\u00e9mantique latente (LSA, Landauer & Dumais (1997)), qui utilise la d\u00e9composition en valeurs singuli\u00e8res afin d'induire automatiquement des facteurs latents de matrices terme-document. Un autre mod\u00e8le de sens latent bien connu, qui adopte une approche g\u00e9n\u00e9rative, est l'allocation Dirichlet latente (LDA, Blei et al. (2003) ).",
"cite_spans": [
{
"start": 467,
"end": 491,
"text": "(LDA, Blei et al. (2003)",
"ref_id": null
}
],
"ref_spans": [],
"eq_spans": [],
"section": "R\u00e9sultats",
"sec_num": "3.3"
},
{
"text": "Les tenseurs ont \u00e9t\u00e9 utilis\u00e9s auparavant pour la mod\u00e9lisation du langage naturel. Giesbrecht (2010) d\u00e9crit un mod\u00e8le de factorisation de tenseurs pour la construction d'un mod\u00e8le distributionnel qui est sensible \u00e0 l'ordre des mots. Et Van de Cruys (2010) utilise un mod\u00e8le de factorisation de tenseurs afin de construire un mod\u00e8le de restrictions s\u00e9lectionnelles BRIDE, CRUYS, ASHER multidimensionnelles de verbes, sujets et objets.",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "R\u00e9sultats",
"sec_num": "3.3"
},
{
"text": "Dans notre contribution, nous avons test\u00e9 diff\u00e9rentes m\u00e9thodes principales de compositionalit\u00e9 en approche distributionelle. \u00c0 notre connaissance, nous sommes les premiers \u00e0 r\u00e9aliser de tels tests sur la langue fran\u00e7aise. Nous avons, de plus, cr\u00e9\u00e9 un nouveau ensemble de test pour l'\u00e9valuation de la compositionalit\u00e9 dans un cadre distributionnel pour la langue fran\u00e7aise, librement disponible pour d'autres chercheurs.",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "Conclusion",
"sec_num": "5"
},
{
"text": "Nos tests confirment que la m\u00e9thode des fonctions lexicales de Baroni et Zamparelli a de bonnes performances en comparaison des autres approches. Nos tests semblent nuancer ceci par le fait que ces performances ne sont sensiblement meilleures que lorsque les exemples n\u00e9gatifs sont enti\u00e8rement al\u00e9atoire.",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "Conclusion",
"sec_num": "5"
},
{
"text": "De plus, nous avons propos\u00e9 une g\u00e9n\u00e9ralisation de la m\u00e9thode des fonctions lexicales. D'apr\u00e8s nos tests, cette g\u00e9n\u00e9ralisation ne peut pas se faire dans les conditions optimales pour la m\u00e9thode des fonctions lexicales. Ainsi bien que notre g\u00e9n\u00e9ralisation fonctionne correctement, les conditions dans lesquelles elle est utilis\u00e9e font qu'elle a des r\u00e9sultats \u00e9quivalent aux m\u00e9thodes additive et multiplicative de Mitchell et Lapata, mais l\u00e9g\u00e8rement inf\u00e9rieurs \u00e0 ceux de l'approche de Baroni et Zamparelli.",
"cite_spans": [
{
"start": 482,
"end": 491,
"text": "Baroni et",
"ref_id": null
}
],
"ref_spans": [],
"eq_spans": [],
"section": "Conclusion",
"sec_num": "5"
},
{
"text": "Dans le futur, il serait int\u00e9ressant de tester diff\u00e9rentes valeurs de r\u00e9duction dimensionnelle afin d'optimiser notre fonction lexicale g\u00e9n\u00e9ralis\u00e9e. De plus, il est possible que de meilleurs r\u00e9sultats puissent \u00eatre obtenus en proposant plusieurs fonctions g\u00e9n\u00e9ralis\u00e9es plut\u00f4t qu'une. On peut tenter, par exemple, de s\u00e9parer les adjectifs intersectifs 14 des adjectifs non-intersectifs 15 .",
"cite_spans": [
{
"start": 351,
"end": 353,
"text": "14",
"ref_id": "BIBREF5"
},
{
"start": 385,
"end": 387,
"text": "15",
"ref_id": "BIBREF6"
}
],
"ref_spans": [],
"eq_spans": [],
"section": "Conclusion",
"sec_num": "5"
},
{
"text": "Il serait \u00e9galement int\u00e9ressant de r\u00e9aliser un ensemble de test pour une t\u00e2che avec laquelle la m\u00e9thode des fonctions lexicales n'est pas enti\u00e8rement compatible, comme la combinaison de noms. En effet, pour obtenir le sens de \u00ab laboratoire d'analyses m\u00e9dicales \u00bb, il faut appliquer \u00ab analyses m\u00e9dicales \u00bb \u00e0 \u00ab laboratoire \u00bb. Or la m\u00e9thode des fonctions lexicales ne propose pas de mani\u00e8re satisfaisante d'obtenir la matrice ANALYSE_M\u00c9DICALE. En effet, obtenir une telle matrice par apprentissage \u00e0 partir d'exemples d'utilisation d'\u00ab analyse m\u00e9dicale \u00bb est en contradiction avec le principe de compositionalit\u00e9.",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "Conclusion",
"sec_num": "5"
},
{
"text": ". Les vecteurs \u00e9tant normalis\u00e9s (cf. 3.2), cette condition ne r\u00e9duit pas la g\u00e9n\u00e9ralit\u00e9 de notre test.",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "",
"sec_num": null
},
{
"text": ". En t\u00e9moignent le faible taux d'accord d'inter-annotateur -Mitchell & Lapata (2010) rapportent une corr\u00e9lation entre juges humains assez faible de 0.52 pour les combinaisons adjectif_nom.",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "",
"sec_num": null
}
],
"back_matter": [
{
"text": "Nous tenons \u00e0 remercier toute l'\u00e9quipe du projet composes 16 pour leur boite \u00e0 outils DisSeCT (Dinu et al. (2013) ) qui nous a s\u00fbrement \u00e9pargn\u00e9 plusieurs mois de d\u00e9veloppement.",
"cite_spans": [
{
"start": 58,
"end": 60,
"text": "16",
"ref_id": null
},
{
"start": 94,
"end": 113,
"text": "(Dinu et al. (2013)",
"ref_id": "BIBREF15"
}
],
"ref_spans": [],
"eq_spans": [],
"section": "Remerciements",
"sec_num": null
}
],
"bib_entries": {
"BIBREF0": {
"ref_id": "b0",
"title": "Lexical Meaning in Context : A Web of Words",
"authors": [
{
"first": "",
"middle": [],
"last": "Asher N",
"suffix": ""
}
],
"year": 2011,
"venue": "",
"volume": "",
"issue": "",
"pages": "",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "ASHER N. (2011). Lexical Meaning in Context : A Web of Words. Cambridge University Press.",
"links": null
},
"BIBREF1": {
"ref_id": "b1",
"title": "The wacky wide web : A collection of very large linguistically processed web-crawled corpora",
"authors": [
{
"first": "M",
"middle": [],
"last": "Baroni",
"suffix": ""
},
{
"first": "S",
"middle": [],
"last": "Bernardini",
"suffix": ""
},
{
"first": "",
"middle": [],
"last": "Ferraresi A. & Zanchetta E",
"suffix": ""
}
],
"year": 2009,
"venue": "Language Resources and Evaluation",
"volume": "43",
"issue": "3",
"pages": "209--226",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "BARONI M., BERNARDINI S., FERRARESI A. & ZANCHETTA E. (2009). The wacky wide web : A collection of very large linguistically processed web-crawled corpora. Language Resources and Evaluation, 43(3), 209-226.",
"links": null
},
"BIBREF2": {
"ref_id": "b2",
"title": "Nouns are vectors, adjectives are matrices : Representing adjective-noun constructions in semantic space",
"authors": [
{
"first": "",
"middle": [],
"last": "Baroni M. & Zamparelli R",
"suffix": ""
}
],
"year": 2010,
"venue": "Proceedings of the 2010 Conference on Empirical Methods in Natural Language Processing",
"volume": "",
"issue": "",
"pages": "1183--1193",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "BARONI M. & ZAMPARELLI R. (2010). Nouns are vectors, adjectives are matrices : Representing adjective-noun constructions in semantic space. In Proceedings of the 2010 Conference on Empirical Methods in Natural Language Processing, p. 1183-1193, Cambridge, MA : Association for Computational Linguistics.",
"links": null
},
"BIBREF3": {
"ref_id": "b3",
"title": "Towards a Type-theoretical account of lexical semantics",
"authors": [
{
"first": "C",
"middle": [],
"last": "Bassac",
"suffix": ""
},
{
"first": "",
"middle": [],
"last": "Mery B. & Retor\u00e9 C",
"suffix": ""
}
],
"year": 2010,
"venue": "Journal of Logic, Language and Information",
"volume": "19",
"issue": "2",
"pages": "229--245",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "BASSAC C., MERY B. & RETOR\u00c9 C. (2010). Towards a Type-theoretical account of lexical semantics. Journal of Logic, Language and Information, 19(2), 229-245.",
"links": null
},
"BIBREF4": {
"ref_id": "b4",
"title": "A comparison of vector-based representations for semantic composition",
"authors": [
{
"first": "",
"middle": [],
"last": "Blacoe W. & Lapata M",
"suffix": ""
}
],
"year": 2012,
"venue": "Proceedings of the 2012 Joint Conference on Empirical Methods in Natural Language Processing and Computational Natural Language Learning",
"volume": "",
"issue": "",
"pages": "546--556",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "BLACOE W. & LAPATA M. (2012). A comparison of vector-based representations for semantic composition. In Procee- dings of the 2012 Joint Conference on Empirical Methods in Natural Language Processing and Computational Natural Language Learning, p. 546-556, Jeju Island, Korea : Association for Computational Linguistics.",
"links": null
},
"BIBREF5": {
"ref_id": "b5",
"title": "Une voiture rouge est une voiture",
"authors": [
{
"first": "\u00bb",
"middle": [],
"last": "\u00ab Rouge",
"suffix": ""
},
{
"first": "",
"middle": [],
"last": "Exemple",
"suffix": ""
}
],
"year": null,
"venue": "",
"volume": "",
"issue": "",
"pages": "",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "\u00ab Rouge \u00bb par exemple. Une voiture rouge est une voiture.",
"links": null
},
"BIBREF6": {
"ref_id": "b6",
"title": "Une fausse voiture n'est pas une voiture",
"authors": [
{
"first": "\u00ab",
"middle": [],
"last": "Faux",
"suffix": ""
},
{
"first": "\u00bb",
"middle": [],
"last": "Exemple",
"suffix": ""
}
],
"year": null,
"venue": "",
"volume": "",
"issue": "",
"pages": "",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "\u00ab Faux \u00bb par exemple. Une fausse voiture n'est pas une voiture.",
"links": null
},
"BIBREF8": {
"ref_id": "b8",
"title": "Latent dirichlet allocation",
"authors": [
{
"first": "",
"middle": [
"M"
],
"last": "Blei D",
"suffix": ""
},
{
"first": "",
"middle": [
"Y"
],
"last": "Ng A",
"suffix": ""
},
{
"first": "",
"middle": [
"I"
],
"last": "Jordan M",
"suffix": ""
}
],
"year": 2003,
"venue": "The Journal of Machine Learning Research",
"volume": "3",
"issue": "",
"pages": "993--1022",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "BLEI D. M., NG A. Y. & JORDAN M. I. (2003). Latent dirichlet allocation. The Journal of Machine Learning Research, 3, 993-1022.",
"links": null
},
"BIBREF9": {
"ref_id": "b9",
"title": "Statistical french dependency parsing : treebank conversion and first results",
"authors": [
{
"first": "M",
"middle": [],
"last": "Candito",
"suffix": ""
},
{
"first": "B",
"middle": [],
"last": "Crabb\u00e9",
"suffix": ""
},
{
"first": "",
"middle": [],
"last": "Denis P",
"suffix": ""
}
],
"year": 2010,
"venue": "Proceedings of the Seventh International Conference on Language Resources and Evaluation",
"volume": "",
"issue": "",
"pages": "1840--1847",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "CANDITO M., CRABB\u00c9 B., DENIS P. et al. (2010). Statistical french dependency parsing : treebank conversion and first results. In Proceedings of the Seventh International Conference on Language Resources and Evaluation (LREC 2010), p. 1840-1847.",
"links": null
},
"BIBREF10": {
"ref_id": "b10",
"title": "Word association norms, mutual information & lexicography",
"authors": [
{
"first": "",
"middle": [
"W"
],
"last": "Church K",
"suffix": ""
},
{
"first": "",
"middle": [],
"last": "Hanks P",
"suffix": ""
}
],
"year": 1990,
"venue": "Computational Linguistics",
"volume": "16",
"issue": "1",
"pages": "22--29",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "CHURCH K. W. & HANKS P. (1990). Word association norms, mutual information & lexicography. Computational Linguistics, 16(1), 22-29.",
"links": null
},
"BIBREF11": {
"ref_id": "b11",
"title": "Mathematical foundations for a compositional distributed model of meaning",
"authors": [
{
"first": "",
"middle": [],
"last": "Coecke B",
"suffix": ""
},
{
"first": "M",
"middle": [],
"last": "Sadrzadeh",
"suffix": ""
},
{
"first": "",
"middle": [],
"last": "Clark S",
"suffix": ""
}
],
"year": 2010,
"venue": "Lambek Festschrift, Linguistic Analysis",
"volume": "36",
"issue": "",
"pages": "",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "COECKE B., SADRZADEH M. & CLARK S. (2010). Mathematical foundations for a compositional distributed model of meaning. Lambek Festschrift, Linguistic Analysis, vol. 36, 36.",
"links": null
},
"BIBREF12": {
"ref_id": "b12",
"title": "Exploitation d'une ressource lexicale pour la construction d'un \u00e9tiqueteur morphosyntaxique \u00e9tat-de-l'art du fran\u00e7ais",
"authors": [
{
"first": "Denis",
"middle": [
"P"
],
"last": "Sagot",
"suffix": ""
},
{
"first": "B",
"middle": [],
"last": "",
"suffix": ""
}
],
"year": 2010,
"venue": "Traitement Automatique des Langues Naturelles : TALN",
"volume": "",
"issue": "",
"pages": "",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "DENIS P., SAGOT B. et al. (2010). Exploitation d'une ressource lexicale pour la construction d'un \u00e9tiqueteur morpho- syntaxique \u00e9tat-de-l'art du fran\u00e7ais. In Traitement Automatique des Langues Naturelles : TALN 2010.",
"links": null
},
"BIBREF13": {
"ref_id": "b13",
"title": "Approximate statistical tests for comparing supervised classification learning algorithms",
"authors": [
{
"first": "T",
"middle": [
"G"
],
"last": "Dietterich",
"suffix": ""
}
],
"year": 1998,
"venue": "Neural computation",
"volume": "10",
"issue": "7",
"pages": "1895--1923",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "DIETTERICH T. G. (1998). Approximate statistical tests for comparing supervised classification learning algorithms. Neural computation, 10(7), 1895-1923.",
"links": null
},
"BIBREF14": {
"ref_id": "b14",
"title": "Measuring distributional similarity in context",
"authors": [
{
"first": "",
"middle": [],
"last": "Dinu G. & Lapata M",
"suffix": ""
}
],
"year": 2010,
"venue": "Proceedings of the 2010 Conference on Empirical Methods in Natural Language Processing",
"volume": "",
"issue": "",
"pages": "1162--1172",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "DINU G. & LAPATA M. (2010). Measuring distributional similarity in context. In Proceedings of the 2010 Conference on Empirical Methods in Natural Language Processing, p. 1162-1172, Cambridge, MA.",
"links": null
},
"BIBREF15": {
"ref_id": "b15",
"title": "Dissect : Distributional semantics composition toolkit",
"authors": [
{
"first": "G",
"middle": [],
"last": "Dinu",
"suffix": ""
},
{
"first": "",
"middle": [
"B"
],
"last": "Pham N. & M",
"suffix": ""
}
],
"year": 2013,
"venue": "Proceedings of the System Demonstrations of ACL",
"volume": "",
"issue": "",
"pages": "31--36",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "DINU G., PHAM N. & M. B. (2013). Dissect : Distributional semantics composition toolkit. In Proceedings of the System Demonstrations of ACL, p. 31-36, East Stroudsburg PA : Association for Computational Linguistics.",
"links": null
},
"BIBREF16": {
"ref_id": "b16",
"title": "A structured vector space model for word meaning in context",
"authors": [
{
"first": "",
"middle": [],
"last": "Erk K. & Pad\u00f3 S",
"suffix": ""
}
],
"year": 2008,
"venue": "Proceedings of the Conference on Empirical Methods in Natural Language Processing",
"volume": "",
"issue": "",
"pages": "897--906",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "ERK K. & PAD\u00d3 S. (2008). A structured vector space model for word meaning in context. In Proceedings of the Conference on Empirical Methods in Natural Language Processing, p. 897-906, Waikiki, Hawaii, USA.",
"links": null
},
"BIBREF17": {
"ref_id": "b17",
"title": "Paraphrase assessment in structured vector space : Exploring parameters and datasets",
"authors": [
{
"first": "",
"middle": [],
"last": "Erk K. & Pad\u00f3 S",
"suffix": ""
}
],
"year": 2009,
"venue": "Proceedings of the Workshop on Geometrical Models of Natural Language Semantics",
"volume": "",
"issue": "",
"pages": "57--65",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "ERK K. & PAD\u00d3 S. (2009). Paraphrase assessment in structured vector space : Exploring parameters and datasets. In Proceedings of the Workshop on Geometrical Models of Natural Language Semantics, p. 57-65, Athens, Greece.",
"links": null
},
"BIBREF18": {
"ref_id": "b18",
"title": "Towards a matrix-based distributional model of meaning",
"authors": [
{
"first": "",
"middle": [],
"last": "Giesbrecht E",
"suffix": ""
}
],
"year": 2010,
"venue": "Proceedings of the NAACL HLT 2010 Student Research Workshop",
"volume": "",
"issue": "",
"pages": "23--28",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "GIESBRECHT E. (2010). Towards a matrix-based distributional model of meaning. In Proceedings of the NAACL HLT 2010 Student Research Workshop, p. 23-28 : Association for Computational Linguistics.",
"links": null
},
"BIBREF19": {
"ref_id": "b19",
"title": "Matrix Computations",
"authors": [
{
"first": "",
"middle": [
"H"
],
"last": "Golub G",
"suffix": ""
},
{
"first": "",
"middle": [
"F"
],
"last": "Van Loan C",
"suffix": ""
}
],
"year": 1996,
"venue": "",
"volume": "",
"issue": "",
"pages": "",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "GOLUB G. H. & VAN LOAN C. F. (1996). Matrix Computations (3rd Ed.). Baltimore, MD, USA : Johns Hopkins University Press.",
"links": null
},
"BIBREF20": {
"ref_id": "b20",
"title": "Multi-step regression learning for compositional distributional semantics",
"authors": [
{
"first": "Grefenstette",
"middle": [
"E"
],
"last": "Dinu",
"suffix": ""
},
{
"first": "G",
"middle": [],
"last": "Zhang Y.-Z",
"suffix": ""
},
{
"first": "",
"middle": [
"B"
],
"last": "Sadrzadeh M. & M",
"suffix": ""
}
],
"year": 2013,
"venue": "Proceedings of the 10th International Conference on Computational Semantics (IWCS)",
"volume": "",
"issue": "",
"pages": "131--142",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "GREFENSTETTE E., DINU G., ZHANG Y.-Z., SADRZADEH M. & M. B. (2013). Multi-step regression learning for compositional distributional semantics. In Proceedings of the 10th International Conference on Computational Seman- tics (IWCS), p. 131-142, East Stroudsburg PA : Association for Computational Linguistics.",
"links": null
},
"BIBREF21": {
"ref_id": "b21",
"title": "Experimental support for a categorical compositional distributional model of meaning",
"authors": [
{
"first": "Grefenstette",
"middle": [
"E &"
],
"last": "Sadrzadeh M",
"suffix": ""
}
],
"year": 2011,
"venue": "Proceedings of the 2011 Conference on Empirical Methods in Natural Language Processing",
"volume": "",
"issue": "",
"pages": "1394--1404",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "GREFENSTETTE E. & SADRZADEH M. (2011a). Experimental support for a categorical compositional distributional model of meaning. In Proceedings of the 2011 Conference on Empirical Methods in Natural Language Processing, p. 1394-1404, Edinburgh, Scotland, UK. : Association for Computational Linguistics.",
"links": null
},
"BIBREF22": {
"ref_id": "b22",
"title": "Experimenting with transitive verbs in a discocat",
"authors": [
{
"first": "Grefenstette",
"middle": [
"E &"
],
"last": "Sadrzadeh M",
"suffix": ""
}
],
"year": 2011,
"venue": "Proceedings of the GEMS 2011 Workshop on GEometrical Models of Natural Language Semantics",
"volume": "",
"issue": "",
"pages": "62--66",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "GREFENSTETTE E. & SADRZADEH M. (2011b). Experimenting with transitive verbs in a discocat. In Proceedings of the GEMS 2011 Workshop on GEometrical Models of Natural Language Semantics, p. 62-66, Edinburgh, UK : Association for Computational Linguistics.",
"links": null
},
"BIBREF23": {
"ref_id": "b23",
"title": "Distributional structure. Word",
"authors": [
{
"first": "",
"middle": [
"S"
],
"last": "Harris Z",
"suffix": ""
}
],
"year": 1954,
"venue": "",
"volume": "10",
"issue": "",
"pages": "146--162",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "HARRIS Z. S. (1954). Distributional structure. Word, 10(23), 146-162.",
"links": null
},
"BIBREF24": {
"ref_id": "b24",
"title": "Two theories about adjectives. Formal semantics of natural language",
"authors": [
{
"first": "H",
"middle": [],
"last": "Kamp",
"suffix": ""
}
],
"year": 1975,
"venue": "",
"volume": "",
"issue": "",
"pages": "123--155",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "KAMP H. (1975). Two theories about adjectives. Formal semantics of natural language, p. 123-155.",
"links": null
},
"BIBREF25": {
"ref_id": "b25",
"title": "Tensor decompositions and applications",
"authors": [
{
"first": "",
"middle": [
"G"
],
"last": "Kolda T",
"suffix": ""
},
{
"first": "",
"middle": [
"W"
],
"last": "Bader B",
"suffix": ""
}
],
"year": 2009,
"venue": "SIAM Review",
"volume": "51",
"issue": "3",
"pages": "455--500",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "KOLDA T. G. & BADER B. W. (2009). Tensor decompositions and applications. SIAM Review, 51(3), 455-500.",
"links": null
},
"BIBREF26": {
"ref_id": "b26",
"title": "Semeval-2013 task 5 : Evaluating phrasal semantics",
"authors": [
{
"first": "",
"middle": [],
"last": "Korkontzelos I",
"suffix": ""
},
{
"first": "T",
"middle": [],
"last": "Zesch",
"suffix": ""
},
{
"first": "",
"middle": [
"M"
],
"last": "Zanzotto F",
"suffix": ""
},
{
"first": "",
"middle": [],
"last": "Biemann C",
"suffix": ""
}
],
"year": 2013,
"venue": "Proceedings of the Seventh International Workshop on Semantic Evaluation",
"volume": "2",
"issue": "",
"pages": "39--47",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "KORKONTZELOS I., ZESCH T., ZANZOTTO F. M. & BIEMANN C. (2013). Semeval-2013 task 5 : Evaluating phrasal semantics. In Second Joint Conference on Lexical and Computational Semantics (*SEM), Volume 2 : Proceedings of the Seventh International Workshop on Semantic Evaluation (SemEval 2013), p. 39-47, Atlanta, Georgia, USA : Association for Computational Linguistics.",
"links": null
},
"BIBREF27": {
"ref_id": "b27",
"title": "A solution to Plato's problem : The Latent Semantic Analysis theory of the acquisition, induction, and representation of knowledge",
"authors": [
{
"first": "Landauer",
"middle": [
"T &"
],
"last": "Dumais S",
"suffix": ""
}
],
"year": 1997,
"venue": "Psychology Review",
"volume": "104",
"issue": "",
"pages": "211--240",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "LANDAUER T. & DUMAIS S. (1997). A solution to Plato's problem : The Latent Semantic Analysis theory of the acquisition, induction, and representation of knowledge. Psychology Review, 104, 211-240.",
"links": null
},
"BIBREF28": {
"ref_id": "b28",
"title": "Algorithms for non-negative matrix factorization",
"authors": [
{
"first": "",
"middle": [
"D"
],
"last": "Lee D",
"suffix": ""
},
{
"first": "",
"middle": [
"S"
],
"last": "Seung H",
"suffix": ""
}
],
"year": 2000,
"venue": "Advances in Neural Information Processing Systems",
"volume": "13",
"issue": "",
"pages": "556--562",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "LEE D. D. & SEUNG H. S. (2000). Algorithms for non-negative matrix factorization. In Advances in Neural Information Processing Systems 13, p. 556-562.",
"links": null
},
"BIBREF29": {
"ref_id": "b29",
"title": "Automatic retrieval and clustering of similar words",
"authors": [
{
"first": "Lin",
"middle": [
"D"
],
"last": "",
"suffix": ""
}
],
"year": 1998,
"venue": "Proceedings of the 36th Annual Meeting of the Association for Computational Linguistics and 17th International Conference on Computational Linguistics (COLING-ACL98)",
"volume": "2",
"issue": "",
"pages": "768--774",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "LIN D. (1998). Automatic retrieval and clustering of similar words. In Proceedings of the 36th Annual Meeting of the Association for Computational Linguistics and 17th International Conference on Computational Linguistics (COLING- ACL98), Volume 2, p. 768-774, Montreal, Quebec, Canada.",
"links": null
},
"BIBREF30": {
"ref_id": "b30",
"title": "Type-theoretical semantics with coercive subtyping. SALT20, Vancouver",
"authors": [
{
"first": "",
"middle": [],
"last": "Luo Z",
"suffix": ""
}
],
"year": 2010,
"venue": "",
"volume": "",
"issue": "",
"pages": "",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "LUO Z. (2010). Type-theoretical semantics with coercive subtyping. SALT20, Vancouver. [O-F.1]",
"links": null
},
"BIBREF32": {
"ref_id": "b32",
"title": "Vector-based models of semantic composition. proceedings of ACL-08 : HLT",
"authors": [
{
"first": "Mitchell",
"middle": [
"J &"
],
"last": "Lapata M",
"suffix": ""
}
],
"year": 2008,
"venue": "",
"volume": "",
"issue": "",
"pages": "236--244",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "MITCHELL J. & LAPATA M. (2008). Vector-based models of semantic composition. proceedings of ACL-08 : HLT, p. 236-244.",
"links": null
},
"BIBREF33": {
"ref_id": "b33",
"title": "Composition in distributional models of semantics",
"authors": [
{
"first": "Mitchell",
"middle": [
"J &"
],
"last": "Lapata M",
"suffix": ""
}
],
"year": 2010,
"venue": "Cognitive Science",
"volume": "34",
"issue": "8",
"pages": "1388--1429",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "MITCHELL J. & LAPATA M. (2010). Composition in distributional models of semantics. Cognitive Science, 34(8), 1388-1429.",
"links": null
},
"BIBREF34": {
"ref_id": "b34",
"title": "Maltparser : A data-driven parser-generator for dependency parsing",
"authors": [
{
"first": "J",
"middle": [],
"last": "Nivre",
"suffix": ""
},
{
"first": "J",
"middle": [
"&"
],
"last": "Hall",
"suffix": ""
},
{
"first": "",
"middle": [],
"last": "Nilsson J",
"suffix": ""
}
],
"year": 2006,
"venue": "Proceedings of LREC-2006",
"volume": "",
"issue": "",
"pages": "2216--2219",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "NIVRE J., HALL J. & NILSSON J. (2006). Maltparser : A data-driven parser-generator for dependency parsing. In Proceedings of LREC-2006, p. 2216-2219, Genoa, Italy.",
"links": null
},
"BIBREF35": {
"ref_id": "b35",
"title": "Privative adjectives : subsective plus coercion",
"authors": [
{
"first": "",
"middle": [
"H"
],
"last": "Partee B",
"suffix": ""
},
{
"first": "R",
"middle": [],
"last": "B\u00e4uerle",
"suffix": ""
},
{
"first": "",
"middle": [],
"last": "Zim-Mermann",
"suffix": ""
}
],
"year": 2010,
"venue": "TE, \u00e9diteurs : Presuppositions and Discourse : Essays Offered to Hans Kamp",
"volume": "",
"issue": "",
"pages": "273--285",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "PARTEE B. H. (2010). Privative adjectives : subsective plus coercion. B\u00c4UERLE, R. et ZIM-MERMANN, TE, \u00e9diteurs : Presuppositions and Discourse : Essays Offered to Hans Kamp, p. 273-285.",
"links": null
},
"BIBREF36": {
"ref_id": "b36",
"title": "Semantic compositionality through recursive matrixvector spaces",
"authors": [
{
"first": "",
"middle": [],
"last": "Socher R",
"suffix": ""
},
{
"first": "B",
"middle": [],
"last": "Huval",
"suffix": ""
},
{
"first": "",
"middle": [
"D"
],
"last": "Manning C",
"suffix": ""
},
{
"first": "",
"middle": [
"Y"
],
"last": "Ng A",
"suffix": ""
}
],
"year": 2012,
"venue": "Proceedings of the 2012 Joint Conference on Empirical Methods in Natural Language Processing and Computational Natural Language Learning",
"volume": "",
"issue": "",
"pages": "1201--1211",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "SOCHER R., HUVAL B., MANNING C. D. & NG A. Y. (2012). Semantic compositionality through recursive matrix- vector spaces. In Proceedings of the 2012 Joint Conference on Empirical Methods in Natural Language Processing and Computational Natural Language Learning, p. 1201-1211, Jeju Island, Korea : Association for Computational Linguistics.",
"links": null
},
"BIBREF37": {
"ref_id": "b37",
"title": "Ranking paraphrases in context",
"authors": [
{
"first": "",
"middle": [],
"last": "Thater S",
"suffix": ""
},
{
"first": "",
"middle": [],
"last": "Dinu G. & Pinkal M",
"suffix": ""
}
],
"year": 2009,
"venue": "Proceedings of the 2009 Workshop on Applied Textual Inference",
"volume": "",
"issue": "",
"pages": "44--47",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "THATER S., DINU G. & PINKAL M. (2009). Ranking paraphrases in context. In Proceedings of the 2009 Workshop on Applied Textual Inference, p. 44-47, Suntec, Singapore.",
"links": null
},
"BIBREF38": {
"ref_id": "b38",
"title": "Contextualizing semantic representations using syntactically enriched vector models",
"authors": [
{
"first": "",
"middle": [],
"last": "Thater S",
"suffix": ""
},
{
"first": "H",
"middle": [
"&"
],
"last": "F\u00fcrstenau",
"suffix": ""
},
{
"first": "",
"middle": [],
"last": "Pinkal M",
"suffix": ""
}
],
"year": 2010,
"venue": "Proceedings of the 48th Annual Meeting of the Association for Computational Linguistics",
"volume": "",
"issue": "",
"pages": "948--957",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "THATER S., F\u00dcRSTENAU H. & PINKAL M. (2010). Contextualizing semantic representations using syntactically en- riched vector models. In Proceedings of the 48th Annual Meeting of the Association for Computational Linguistics, p. 948-957, Uppsala, Sweden.",
"links": null
},
"BIBREF39": {
"ref_id": "b39",
"title": "From frequency to meaning : Vector space models of semantics",
"authors": [
{
"first": "",
"middle": [],
"last": "Turney P. & Pantel P",
"suffix": ""
}
],
"year": 2010,
"venue": "Journal of artificial intelligence research",
"volume": "37",
"issue": "1",
"pages": "141--188",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "TURNEY P. & PANTEL P. (2010). From frequency to meaning : Vector space models of semantics. Journal of artificial intelligence research, 37(1), 141-188.",
"links": null
},
"BIBREF40": {
"ref_id": "b40",
"title": "A non-negative tensor factorization model for selectional preference induction",
"authors": [
{
"first": "",
"middle": [],
"last": "Van De Cruys T",
"suffix": ""
}
],
"year": 2010,
"venue": "Natural Language Engineering",
"volume": "16",
"issue": "4",
"pages": "417--437",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "VAN DE CRUYS T. (2010). A non-negative tensor factorization model for selectional preference induction. Natural Language Engineering, 16(4), 417-437.",
"links": null
},
"BIBREF41": {
"ref_id": "b41",
"title": "Estimating linear models for compositional distributional semantics",
"authors": [
{
"first": "",
"middle": [
"M"
],
"last": "Zanzotto F",
"suffix": ""
},
{
"first": "",
"middle": [],
"last": "Korkontzelos I",
"suffix": ""
},
{
"first": "",
"middle": [],
"last": "Fallucchi F. & Manandhar S",
"suffix": ""
}
],
"year": 2010,
"venue": "Proceedings of the 23rd International Conference on Computational Linguistics",
"volume": "",
"issue": "",
"pages": "1263--1271",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "ZANZOTTO F. M., KORKONTZELOS I., FALLUCCHI F. & MANANDHAR S. (2010). Estimating linear models for com- positional distributional semantics. In Proceedings of the 23rd International Conference on Computational Linguistics (Coling 2010), p. 1263-1271, Beijing, China : Coling 2010 Organizing Committee.",
"links": null
}
},
"ref_entries": {
"FIGREF0": {
"uris": null,
"num": null,
"text": "extrait de Candide de Voltaire, Chapitre 3 Sur un ensemble de d\u00e9veloppement, nous avons test\u00e9 le mod\u00e8le pour diff\u00e9rentes valeurs de \u03b1 et \u03b2 telles que \u03b1 + \u03b2 = 1 3 et conserv\u00e9 les valeurs donnant les meilleurs r\u00e9sultats : \u03b1 = 0.4 et \u03b2 = 0.6.",
"type_str": "figure"
},
"TABREF0": {
"num": null,
"content": "<table><tr><td>[. . .]</td></tr><tr><td>Candide s'enfuit au plus vite dans un autre village : il appartenait \u00e0 des Bulgares, et les h\u00e9ros abares l'avaient trait\u00e9 de</td></tr><tr><td>m\u00eame. . .</td></tr></table>",
"type_str": "table",
"html": null,
"text": "approche par fonctions lexicales Enfin, tandis que les deux rois faisaient chanter des Te Deum, chacun dans son camp, [Candide] prit le parti d'aller raisonner ailleurs des effets et des causes. Il passa par-dessus des tas de morts et de mourants, et gagna d'abord un village voisin ; il \u00e9tait en cendres : c'\u00e9tait un village abare que les Bulgares avaient br\u00fbl\u00e9, selon les lois du droit public."
},
"TABREF1": {
"num": null,
"content": "<table><tr><td>A</td><td>\u00d7</td><td>r o u g e</td><td>\u2212</td><td colspan=\"2\">ROUGE</td><td>,</td><td>A</td><td>\u00d7</td><td>l e n t</td><td>\u2212</td><td>LENT</td><td>. . .</td></tr><tr><td/><td/><td/><td/><td colspan=\"5\">FIGURE 4: Apprentissage du tenseur A</td><td/><td/><td/></tr><tr><td/><td/><td/><td/><td/><td/><td/><td/><td/><td/><td/><td/><td>ont un sens</td></tr><tr><td>3 \u00c9valuation clair. 10</td><td/><td/><td/><td/><td/><td/><td/><td/><td/><td/><td/></tr><tr><td colspan=\"4\">3.1 Description de la t\u00e2che exemples positifs</td><td/><td colspan=\"3\">exemples n\u00e9gatifs al\u00e9atoires</td><td colspan=\"5\">exemples n\u00e9gatifs Wiktionnaire</td></tr><tr><td colspan=\"4\">(mot_court, abr\u00e9viation)</td><td/><td colspan=\"3\">(importance_fortuit, gamme)</td><td/><td colspan=\"4\">(jugement_favorable, discorde)</td></tr><tr><td colspan=\"4\">(ouvrage_litt\u00e9raire, essai)</td><td/><td colspan=\"3\">(penchant_autoritaire, ile)</td><td colspan=\"5\">(circonscription_administratif, fumier)</td></tr><tr><td colspan=\"5\">(compagnie_honorifique, ordre)</td><td colspan=\"3\">(auspice_aviaire, ponton)</td><td/><td colspan=\"4\">(mention_honorable, renne)</td></tr><tr><td colspan=\"4\">(costume_f\u00e9minin, ensemble)</td><td/><td colspan=\"3\">(banquette_celeste, discipline)</td><td/><td colspan=\"4\">(attitude_hautain, racine)</td></tr><tr><td colspan=\"4\">(partie_unitaire,\u00e9l\u00e9ment)</td><td/><td colspan=\"3\">(chasse_fossile, propulsion)</td><td colspan=\"5\">(examen_attentif, condamnation)</td></tr></table>",
"type_str": "table",
"html": null,
"text": "et Zamparelli, les vecteurs nom et nom_adjectif existent dans le m\u00eame espace. L'hypoth\u00e8se sus-cit\u00e9 4. repr\u00e9sent\u00e9 par une matrice ou un tenseur.UNE \u00c9VALUATION APPROFONDIE DE DIFF\u00c9RENTES M\u00c9THODES DE COMPOSITIONALIT\u00c9 S\u00c9MANTIQUETrouver le tenseur A minimisant les normes de : consiste donc \u00e0 supposer que l'on a pas besoin de plus d'informations pour d\u00e9crire voisin_village que pour d\u00e9crire village ; uniquement d'informations diff\u00e9rentes. Cette hypoth\u00e8se est partag\u00e9e par beaucoup de m\u00e9thodes de composition dont l'objectif est de pouvoir r\u00e9aliser des compositions en cascade 5 . A contrario, dans la m\u00e9thode g\u00e9n\u00e9ralis\u00e9e, l'application lin\u00e9aire recherch\u00e9e a un espace de d\u00e9part 6 bien plus petit que son espace d'arriv\u00e9e7 . La g\u00e9n\u00e9ralisation fait donc une hypoth\u00e8se beaucoup plus forte : elle suppose que les matrices A cr\u00e9\u00e9es par la m\u00e9thode de Baroni et Zamparelli ne sont pas plus informatives que les vecteurs a que l'on peut extraire directement d'un corpus. Ces matrices ne seraient, d'une certaine mani\u00e8re, qu'une r\u00e9\u00e9criture des adjectifs pertinente pour la composition.Ceci \u00e9tant, de mani\u00e8re similaire \u00e0 l'approche de Baroni et Zamparelli, notre approche n\u00e9cessite d'apprendre un nombre significatif de matrices A. Cela n'est pas un probl\u00e8me, car le FRWaC fournit suffisamment d'adjectifs sur lesquels l'approche de Baroni et Zamparelli fonctionne parfaitement. Par exemple, le 2000 i\u00e8me adjectif le plus courant dans le FRWaC (\u00ab fasciste \u00bb) y occurre plus de 4000 fois.Pour reprendre l'exemple de l'adjectif \u00ab f\u00e9lon \u00bb, notre approche exige uniquement de conna\u00eetre le vecteur f\u00e9lon, \u00e9vitant le probl\u00e8me de manque de donn\u00e9es li\u00e9 \u00e0 la construction de la matrice F\u00c9LON.Une fois le tenseur A obtenu, il nous fallait v\u00e9rifier exp\u00e9rimentalement sa pertinence. En effet, nous n'avions pas garantie que le tenseur optimisant les \u00e9quations d\u00e9crites dans la figure 4 soit int\u00e9ressant s\u00e9mantiquement. Nous avons donc pris des exemples positifs et des exemples n\u00e9gatifs de notre ensemble de test afin de savoir quelles valeurs de cosinus correspondent \u00e0 \u00ab similaire \u00bb et quelles valeurs de cosinus correspondent \u00e0 \u00ab non_similaire \u00bb. Plus pr\u00e9cis\u00e9ment, nous avons, pour chaque approche, r\u00e9alis\u00e9 une r\u00e9gression logistique sur 50 exemples positifs et 50 exemples n\u00e9gatifs (dor\u00e9navant s\u00e9par\u00e9s de notre ensemble de test) afin d'apprendre le seuil de cosinus \u00e0 partir duquel une paire est similaire.Nous avons cr\u00e9\u00e9 notre ensemble de test d'une mani\u00e8re semi-automatique, en utilisant des dictionnaires. Prenons par exemple la d\u00e9finition de champagne dans le Wiktionnaire fran\u00e7ais 8 , figure 5. D'une telle d\u00e9finition, il est assez simple , CRUYS, ASHER d'extraire la paire (mousseux_vin, champagne). En traversant un grand dictionnaire, il est ainsi possible d'extraire des paires (adjectif_nom, nom) positives (similaires).champagne /S\u00c3.pa\u00f1/ masculin 1. Vin mousseux produit en Champagne et prot\u00e9g\u00e9 par une appellation d'origine contr\u00f4l\u00e9e.2. (Histoire des techniques) Cercle de fer pour soutenir l'\u00e9toffe \u00e0 teindre dans la cuve de teinture.FIGURE 5: D\u00e9finition de champagne, extrait du Wiktionnaire fran\u00e7ais Nous avons donc t\u00e9l\u00e9charg\u00e9 toutes les entr\u00e9es du Wiktionnaire fran\u00e7ais, et nous les avons tag\u00e9es avec le tageur MElt (Denis et al., 2010). Ensuite, nous avons s\u00e9lectionn\u00e9 les d\u00e9finitions qui d\u00e9butent avec une combinaison adjectif-nom. Enfin, nous avons supprim\u00e9 les instances utilisant des mots qui apparaissent trop peu fr\u00e9quemment dans notre corpus FRWaC 9 . Les instances ainsi extraites d'une mani\u00e8re automatique \u00e9taient alors contr\u00f4l\u00e9es manuellement. Toutes les paires jug\u00e9es incorrectes \u00e9taient rejet\u00e9es. Nous avons ainsi obtenu 714 exemples positifs."
},
"TABREF2": {
"num": null,
"content": "<table/>",
"type_str": "table",
"html": null,
"text": ""
},
"TABREF3": {
"num": null,
"content": "<table><tr><td/><td colspan=\"5\">triviale multiplicative additive fonctions lexicales f. l. g\u00e9n\u00e9ralis\u00e9es</td></tr><tr><td>non-r\u00e9duit</td><td>0.83</td><td>0.86</td><td>0.88</td><td>N/A</td><td>N/A</td></tr><tr><td>svd</td><td>0.79</td><td>0.55</td><td>0.84</td><td>0.93</td><td>0.61</td></tr><tr><td>nmf</td><td>0.78</td><td>0.83</td><td>0.79</td><td>0.90</td><td>0.88</td></tr><tr><td/><td colspan=\"4\">(a) Les exemples n\u00e9gatifs sont cr\u00e9\u00e9s enti\u00e8rement al\u00e9atoirement.</td><td/></tr><tr><td/><td colspan=\"5\">triviale multiplicative additive fonctions lexicales f. l. g\u00e9n\u00e9ralis\u00e9es</td></tr><tr><td>non-r\u00e9duit</td><td>0.78</td><td>0.79</td><td>0.83</td><td>N/A</td><td>N/A</td></tr><tr><td>svd</td><td>0.77</td><td>0.55</td><td>0.82</td><td>0.84</td><td>0.46</td></tr><tr><td>nmf</td><td>0.75</td><td>0.73</td><td>0.79</td><td>0.78</td><td>0.78</td></tr></table>",
"type_str": "table",
"html": null,
"text": "Les espaces s\u00e9mantiques ayant \u00e9t\u00e9 cr\u00e9\u00e9s, nous avons d'abord test\u00e9 les diff\u00e9rentes approches sur le jeu de test utilisant des exemples n\u00e9gatifs compl\u00e8tement al\u00e9atoires (deuxi\u00e8me colonne de la table 1). Nous pr\u00e9sentons les r\u00e9sultats dans la table 2a. Plusieurs commentaires peuvent \u00eatre faits. Nous commentons d'abord les m\u00e9thodes individuellement, puis nous les comparons."
},
"TABREF4": {
"num": null,
"content": "<table><tr><td>De plus, nous constatons que le mod\u00e8le multiplicatif sur l'espace non-r\u00e9duit n'atteint pas des r\u00e9sultats sensiblement</td></tr><tr><td>meilleurs que le mod\u00e8le trivial. La diff\u00e9rence entre le mod\u00e8le multiplicatif (0.86) et le mod\u00e8le trivial (0.83) n'est pas</td></tr><tr><td>statistiquement significative (\u03c7</td></tr></table>",
"type_str": "table",
"html": null,
"text": "Pourcentage de couples (adjectif_nom1, nom2) bien class\u00e9s selon l'approche et l'espace. D'abord, l'approche triviale, consistant \u00e0 comparer les deux noms et ignorer l'adjectif, affiche un taux de r\u00e9ussite relativement \u00e9lev\u00e9 (\u223c 80%). Ceci est d\u00fb au fait que la plupart des adjectifs ne changent pas la nature du nom auquel ils sont accol\u00e9s. Une voiture rouge, lente, grosse, ou ancienne reste fondamentalement une voiture. Une voiture miniature n'est plus n\u00e9cessairement une voiture mais de tels exemples sont rares.Ensuite, la m\u00e9thode multiplicative a de mauvaises performances sur l'espace r\u00e9duit \u00e0 l'aide de svd. Cela confirme l'incompatibilit\u00e9 de cette m\u00e9thode avec les valeurs n\u00e9gatives g\u00e9n\u00e9r\u00e9es par svd. La figure 6 permet de visualiser la raison \u00e0 cela. On peut y voir que multiplier terme \u00e0 terme deux vecteurs ayant des valeurs n\u00e9gatives r\u00e9sulte en un troisi\u00e8me vecteur tr\u00e8s \u00e9loign\u00e9 des deux autres. Cela va \u00e0 l'encontre de l'id\u00e9e selon laquelle la combinaison d'un nom et d'un adjectif \u00e0 un sens proche du nom d'origine."
},
"TABREF5": {
"num": null,
"content": "<table><tr><td>4 Travaux connexes</td></tr></table>",
"type_str": "table",
"html": null,
"text": "Un certain nombre de chercheurs a d\u00e9j\u00e0 \u00e9tudi\u00e9 et \u00e9valu\u00e9 divers mod\u00e8les de composition au sein d'un cadre distributionnel. Une des premi\u00e8res tentatives pour \u00e9valuer de mani\u00e8re syst\u00e9matique des mod\u00e8les simples de composition a \u00e9t\u00e9 faite parMitchell & Lapata (2008). Ils explorent un certain nombre de mod\u00e8les diff\u00e9rents pour la composition de vecteurs, dont les plus importants sont le mod\u00e8le additif et le mod\u00e8le multiplicatif. Ils \u00e9valuent leurs mod\u00e8les sur une t\u00e2che de similitude de phrases nom-verbe. Pour \u00e9valuer leur mod\u00e8le, ils ont demand\u00e9 \u00e0 des annotateurs humains de juger la similarit\u00e9 entre deux paires compositionnelles (par exemple en attribuant un certain score). La t\u00e2che du mod\u00e8le de composition est alors de reproduire les jugements humains. Les r\u00e9sultats montrent que le mod\u00e8le multiplicatif ainsi qu'une combinaison pond\u00e9r\u00e9e du mod\u00e8le additif et du mod\u00e8le multiplicatif donnent les meilleurs r\u00e9sultats.Les auteurs ont refait leur \u00e9tude dans Mitchell & Lapata (2010) avec un ensemble de test plus large (les paires d'adjectifs et noms \u00e9taient \u00e9galement inclues), et ils ont confirm\u00e9 leur r\u00e9sultats initiaux. Bien qu'une telle t\u00e2che de similitude a ses m\u00e9rites, l'attribution d'un score de similitude est UNE \u00c9VALUATION APPROFONDIE DE DIFF\u00c9RENTES M\u00c9THODES DE COMPOSITIONALIT\u00c9 S\u00c9MANTIQUE plut\u00f4t difficile pour des juges humains13 . Une d\u00e9cision binaire, comme dans notre t\u00e2che, est beaucoup moins floue. Nous soutenons que l'approche adopt\u00e9e dans notre contribution donne une image plus claire et plus stable de la performance des diff\u00e9rents mod\u00e8les de composition.Baroni & Zamparelli (2010) \u00e9valuent leur mod\u00e8le de fonctions lexicales dans un contexte quelque peu diff\u00e9rent. Ils \u00e9valuent leur mod\u00e8le en regardant la capacit\u00e9 de reconstruire les vecteurs nom_adjectif qui n'ont pas \u00e9t\u00e9 vus pendant la phase d'entra\u00eenement. Leur r\u00e9sultats montrent que leur mod\u00e8le de fonctions lexicales atteint les meilleurs r\u00e9sultats pour reconstruire les vecteurs de co-occurrence originaux, suivi de pr\u00e8s par le mod\u00e8le additif. Notez que nous observons la m\u00eame tendance dans notre \u00e9valuation.Grefenstette et al. (2013) proposent aussi une g\u00e9n\u00e9ralisation du mod\u00e8le de fonctions lexicales par des tenseurs. Leur g\u00e9n\u00e9ralisation a pour objectif diff\u00e9rent, \u00e0 savoir mod\u00e9liser les verbes transitifs \u00e0 l'aide de tenseurs. Cependant, nous utilisons un approche tr\u00e8s similaire pour l'obtention des tenseurs. En effet, ils utilisent la m\u00e9thode de Baroni et Zamparelli pour apprendre des matrices correspondant \u00e0 une combinaison VERBE_COMPL\u00c9MENT que l'on peut multiplier \u00e0 un vecteur sujet, pour obtenir le vecteur sujet_verbe_compl\u00e9ment. Par exemple MANGER_VIANDE multipli\u00e9 au vecteur chien permet d'obtenir chien_manger_viande. Ils apprennent alors un tenseur correspondant \u00e0 chaque verbe de la m\u00eame mani\u00e8re que nous apprenons le tenseur A .Coecke et al. (2010) pr\u00e9sentent un cadre th\u00e9orique abstrait dans lequel un vecteur de phrase est une fonction du produit de Kronecker de ses vecteurs de mots, ce qui permet une plus grande interaction entre les diff\u00e9rentes traits de mots.Un certain nombre d'instanciations du mod\u00e8le de Coecke et al. (2010) -o\u00f9 l'id\u00e9e cl\u00e9 est que les mots relationnels (par exemple les verbes) ont une structure riche (multidimensionnelle) qui agit comme un filtre sur leurs arguments -sont test\u00e9s exp\u00e9rimentalement dans les articles de Grefenstette & Sadrzadeh (2011a) et Grefenstette & Sadrzadeh (2011b). Les auteurs \u00e9valuent leurs mod\u00e8les en utilisant une t\u00e2che de similitude semblable \u00e0 celle de Mitchell & Lapata. Cependant, ils utilisent des constructions compositionnelles plus \u00e9tendues : plut\u00f4t que d'utiliser des compositions de deux mots (par exemple verbe et objet), ils utilisent des phrases simples transitives (sujet verbe objet). Ils montrent que leurs instanciations du mod\u00e8le cat\u00e9goriel obtiennent des meilleurs r\u00e9sultats que les mod\u00e8les additifs et multiplicatifs sur leur t\u00e2che de similitude transitive. Socher et al. (2012) pr\u00e9sentent un mod\u00e8le compositionnel bas\u00e9 sur les r\u00e9seaux de neurones r\u00e9cursifs. Chaque noeud dans un arbre syntaxique est attribu\u00e9 \u00e0 la fois un vecteur et une matrice ; le vecteur capture la signification r\u00e9elle du constituant, tandis que la matrice mod\u00e9lise la mani\u00e8re dont il change le sens des mots et expressions voisins. L'\u00e9valuation s'est faite extrins\u00e8quement, en utilisant le mod\u00e8le dans une t\u00e2che de pr\u00e9diction du sentiment. Ils montrent que l'approche bas\u00e9e sur les r\u00e9seaux de neurones obtient de meilleurs r\u00e9sultats que les mod\u00e8les additifs, multiplicatifs, et par fonctions lexicales. Cependant, d'autres chercheurs ont rapport\u00e9 des r\u00e9sultats diff\u00e9rents. Blacoe & Lapata (2012) \u00e9valuent les mod\u00e8les additifs et multiplicatifs ainsi que l'approche de Socher et al. (2012) sur deux t\u00e2ches diff\u00e9rentes : la t\u00e2che de similitude de Mitchell & Lapata (2010) et une t\u00e2che de d\u00e9tection de paraphrases. Ils trouvent que les mod\u00e8les additifs et multiplicatifs atteignent des meilleurs scores que le mod\u00e8le de Socher et al. (2012).\u00c9troitement li\u00e9e aux travaux sur la compositionnalit\u00e9 est la recherche sur le calcul de sens du mot en contexte.Erk & Pad\u00f3 (2008, 2009 font usage de restrictions s\u00e9lectionnelles pour exprimer le sens d'un mot dans son contexte ; le sens d'un mot en pr\u00e9sence d'un argument est calcul\u00e9 en multipliant le vecteur du mot avec un vecteur qui capture les restrictions s\u00e9lectionnelles inverses de l'argument. Thater et al."
}
}
}
} |