File size: 103,195 Bytes
6fa4bc9 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161 162 163 164 165 166 167 168 169 170 171 172 173 174 175 176 177 178 179 180 181 182 183 184 185 186 187 188 189 190 191 192 193 194 195 196 197 198 199 200 201 202 203 204 205 206 207 208 209 210 211 212 213 214 215 216 217 218 219 220 221 222 223 224 225 226 227 228 229 230 231 232 233 234 235 236 237 238 239 240 241 242 243 244 245 246 247 248 249 250 251 252 253 254 255 256 257 258 259 260 261 262 263 264 265 266 267 268 269 270 271 272 273 274 275 276 277 278 279 280 281 282 283 284 285 286 287 288 289 290 291 292 293 294 295 296 297 298 299 300 301 302 303 304 305 306 307 308 309 310 311 312 313 314 315 316 317 318 319 320 321 322 323 324 325 326 327 328 329 330 331 332 333 334 335 336 337 338 339 340 341 342 343 344 345 346 347 348 349 350 351 352 353 354 355 356 357 358 359 360 361 362 363 364 365 366 367 368 369 370 371 372 373 374 375 376 377 378 379 380 381 382 383 384 385 386 387 388 389 390 391 392 393 394 395 396 397 398 399 400 401 402 403 404 405 406 407 408 409 410 411 412 413 414 415 416 417 418 419 420 421 422 423 424 425 426 427 428 429 430 431 432 433 434 435 436 437 438 439 440 441 442 443 444 445 446 447 448 449 450 451 452 453 454 455 456 457 458 459 460 461 462 463 464 465 466 467 468 469 470 471 472 473 474 475 476 477 478 479 480 481 482 483 484 485 486 487 488 489 490 491 492 493 494 495 496 497 498 499 500 501 502 503 504 505 506 507 508 509 510 511 512 513 514 515 516 517 518 519 520 521 522 523 524 525 526 527 528 529 530 531 532 533 534 535 536 537 538 539 540 541 542 543 544 545 546 547 548 549 550 551 552 553 554 555 556 557 558 559 560 561 562 563 564 565 566 567 568 569 570 571 572 573 574 575 576 577 578 579 580 581 582 583 584 585 586 587 588 589 590 591 592 593 594 595 596 597 598 599 600 601 602 603 604 605 606 607 608 609 610 611 612 613 614 615 616 617 618 619 620 621 622 623 624 625 626 627 628 629 630 631 632 633 634 635 636 637 638 639 640 641 642 643 644 645 646 647 648 649 650 651 652 653 654 655 656 657 658 659 660 661 662 663 664 665 666 667 668 669 670 671 672 673 674 675 676 677 678 679 680 681 682 683 684 685 686 687 688 689 690 691 692 693 694 695 696 697 698 699 700 701 702 703 704 705 706 707 708 709 710 711 712 713 714 715 716 717 718 719 720 721 722 723 724 725 726 727 728 729 730 731 732 733 734 735 736 737 738 739 740 741 742 743 744 745 746 747 748 749 750 751 752 753 754 755 756 757 758 759 760 761 762 763 764 765 766 767 768 769 770 771 772 773 774 775 776 777 778 779 780 781 782 783 784 785 786 787 788 789 790 791 792 793 794 795 796 797 798 799 800 801 802 803 804 805 806 807 808 809 810 811 812 813 814 815 816 817 818 819 820 821 822 823 824 825 826 827 828 829 830 831 832 833 834 835 836 837 838 839 840 841 842 843 844 845 846 847 848 849 850 851 852 853 854 855 856 857 858 859 860 861 862 863 864 865 866 867 868 869 870 871 872 873 874 875 876 877 878 879 880 881 882 883 884 885 886 887 888 889 890 891 892 893 894 895 896 897 898 899 900 901 902 903 904 905 906 907 908 909 910 911 912 913 914 915 916 917 918 919 920 921 922 923 924 925 926 927 928 929 930 931 932 933 934 935 936 937 938 939 940 941 942 943 944 945 946 947 948 949 950 951 952 953 954 955 956 957 958 959 960 961 962 963 964 965 966 967 968 969 970 971 972 973 974 975 976 977 978 979 980 981 982 983 984 985 986 987 988 989 990 991 992 993 994 995 996 997 998 999 1000 1001 1002 1003 1004 1005 1006 1007 1008 1009 1010 1011 1012 1013 1014 1015 1016 1017 1018 1019 1020 1021 1022 1023 1024 1025 1026 1027 1028 1029 1030 1031 1032 1033 1034 1035 1036 1037 1038 1039 1040 1041 1042 1043 1044 1045 1046 1047 1048 1049 1050 1051 1052 1053 1054 1055 1056 1057 1058 1059 1060 1061 1062 1063 1064 1065 1066 1067 1068 1069 1070 1071 1072 1073 1074 1075 1076 1077 1078 1079 1080 1081 1082 1083 1084 1085 1086 1087 1088 1089 1090 1091 1092 1093 1094 1095 1096 1097 1098 1099 1100 1101 1102 1103 1104 1105 1106 1107 1108 1109 1110 1111 1112 1113 1114 1115 1116 1117 1118 1119 1120 1121 1122 1123 1124 1125 1126 1127 1128 1129 1130 1131 1132 1133 1134 1135 1136 1137 1138 1139 1140 1141 1142 1143 1144 1145 1146 1147 1148 1149 1150 1151 1152 1153 1154 1155 1156 1157 1158 1159 1160 1161 1162 1163 1164 1165 1166 1167 1168 1169 1170 1171 1172 1173 1174 1175 1176 1177 1178 1179 1180 1181 1182 1183 1184 1185 1186 1187 1188 1189 1190 1191 1192 1193 1194 1195 1196 1197 1198 1199 1200 1201 1202 1203 1204 1205 1206 1207 1208 1209 1210 1211 1212 1213 1214 1215 1216 1217 1218 1219 1220 1221 1222 1223 1224 1225 1226 1227 1228 1229 1230 1231 1232 1233 1234 1235 1236 1237 1238 1239 1240 1241 1242 1243 1244 1245 1246 1247 1248 1249 1250 1251 1252 1253 1254 1255 1256 1257 1258 1259 1260 1261 1262 1263 1264 1265 1266 1267 1268 1269 1270 1271 1272 1273 1274 1275 1276 1277 1278 1279 1280 1281 1282 1283 1284 1285 1286 1287 1288 1289 1290 1291 1292 1293 1294 1295 1296 1297 1298 1299 1300 1301 1302 1303 1304 1305 1306 1307 1308 1309 1310 1311 1312 1313 1314 1315 1316 1317 1318 1319 1320 1321 1322 1323 1324 1325 1326 1327 1328 1329 1330 1331 1332 1333 1334 1335 1336 1337 1338 1339 1340 1341 1342 1343 1344 1345 1346 1347 1348 1349 1350 1351 1352 1353 1354 1355 1356 1357 1358 1359 1360 1361 1362 1363 1364 1365 1366 1367 1368 1369 1370 1371 1372 1373 1374 1375 1376 1377 1378 1379 1380 1381 1382 1383 1384 1385 1386 1387 1388 1389 1390 1391 1392 1393 1394 1395 1396 1397 1398 1399 1400 1401 1402 1403 1404 1405 1406 1407 1408 1409 1410 1411 1412 1413 1414 1415 1416 1417 1418 1419 1420 1421 1422 1423 1424 1425 1426 1427 1428 1429 1430 1431 1432 1433 1434 1435 1436 1437 1438 1439 1440 1441 1442 1443 1444 1445 1446 1447 1448 1449 1450 1451 1452 1453 1454 1455 1456 1457 1458 1459 1460 1461 1462 1463 1464 1465 1466 1467 1468 1469 1470 1471 1472 1473 1474 1475 1476 1477 1478 1479 1480 1481 1482 1483 1484 1485 1486 1487 1488 1489 1490 1491 1492 1493 1494 1495 1496 1497 1498 1499 1500 1501 1502 1503 1504 1505 1506 1507 1508 1509 1510 1511 1512 1513 1514 1515 1516 1517 1518 1519 1520 1521 1522 1523 1524 1525 1526 1527 1528 1529 1530 1531 1532 1533 1534 1535 1536 1537 1538 1539 1540 1541 1542 1543 1544 1545 1546 1547 1548 1549 1550 1551 1552 1553 1554 1555 1556 1557 1558 1559 1560 1561 1562 1563 1564 1565 1566 1567 1568 1569 1570 1571 1572 1573 1574 1575 1576 1577 1578 1579 1580 1581 1582 1583 1584 1585 1586 1587 1588 1589 1590 1591 1592 1593 1594 1595 1596 1597 1598 1599 1600 1601 1602 1603 1604 1605 1606 1607 1608 1609 1610 1611 1612 1613 1614 1615 1616 1617 1618 1619 1620 1621 1622 1623 1624 1625 1626 1627 1628 1629 1630 1631 1632 1633 1634 1635 1636 1637 1638 1639 1640 1641 1642 1643 1644 1645 1646 1647 1648 1649 1650 1651 1652 1653 1654 1655 1656 1657 1658 1659 1660 1661 1662 1663 1664 1665 1666 1667 1668 1669 1670 1671 1672 1673 1674 1675 1676 1677 1678 1679 1680 1681 1682 1683 1684 1685 1686 1687 1688 1689 1690 1691 1692 1693 1694 1695 1696 1697 1698 1699 1700 1701 1702 1703 1704 1705 1706 1707 1708 1709 1710 1711 1712 1713 1714 1715 1716 1717 1718 1719 1720 1721 1722 1723 1724 1725 1726 1727 1728 1729 1730 1731 1732 1733 1734 1735 1736 1737 1738 1739 1740 1741 1742 1743 1744 1745 1746 1747 1748 1749 1750 1751 1752 1753 1754 1755 1756 1757 1758 1759 1760 1761 1762 1763 1764 1765 1766 1767 1768 1769 1770 1771 1772 1773 1774 1775 1776 1777 1778 1779 1780 1781 1782 1783 1784 1785 1786 1787 1788 1789 1790 1791 1792 1793 1794 1795 1796 1797 1798 1799 1800 1801 1802 1803 1804 1805 1806 1807 1808 1809 1810 1811 1812 1813 1814 1815 1816 1817 | {
"paper_id": "F13-1002",
"header": {
"generated_with": "S2ORC 1.0.0",
"date_generated": "2023-01-19T09:41:11.914142Z"
},
"title": "Apprentissage symbolique et statistique pour le chunking: comparaison et combinaisons",
"authors": [
{
"first": "Isabelle",
"middle": [],
"last": "Tellier",
"suffix": "",
"affiliation": {
"laboratory": "Laboratoire Lattice",
"institution": "",
"location": {
"addrLine": "1 rue Maurice Arnoux",
"postCode": "92320",
"settlement": "Montrouge",
"region": "R\u00c9SUM\u00c9"
}
},
"email": ""
},
{
"first": "Yoann",
"middle": [],
"last": "Dupont",
"suffix": "",
"affiliation": {
"laboratory": "Laboratoire Lattice",
"institution": "",
"location": {
"addrLine": "1 rue Maurice Arnoux",
"postCode": "92320",
"settlement": "Montrouge",
"region": "R\u00c9SUM\u00c9"
}
},
"email": ""
}
],
"year": "",
"venue": null,
"identifiers": {},
"abstract": "Nous d\u00e9crivons dans cet article l'utilisation d'algorithmes d'inf\u00e9rence grammaticale pour la t\u00e2che de chunking, pour ensuite les comparer et les combiner avec des CRF (Conditional Random Fields), \u00e0 l'efficacit\u00e9 \u00e9prouv\u00e9e pour cette t\u00e2che. Notre corpus est extrait du French TreeBank. Nous proposons et \u00e9valuons deux mani\u00e8res diff\u00e9rentes de combiner mod\u00e8le symbolique et mod\u00e8le statistique appris par un CRF et montrons qu'ils b\u00e9n\u00e9ficient dans les deux cas l'un de l'autre.",
"pdf_parse": {
"paper_id": "F13-1002",
"_pdf_hash": "",
"abstract": [
{
"text": "Nous d\u00e9crivons dans cet article l'utilisation d'algorithmes d'inf\u00e9rence grammaticale pour la t\u00e2che de chunking, pour ensuite les comparer et les combiner avec des CRF (Conditional Random Fields), \u00e0 l'efficacit\u00e9 \u00e9prouv\u00e9e pour cette t\u00e2che. Notre corpus est extrait du French TreeBank. Nous proposons et \u00e9valuons deux mani\u00e8res diff\u00e9rentes de combiner mod\u00e8le symbolique et mod\u00e8le statistique appris par un CRF et montrons qu'ils b\u00e9n\u00e9ficient dans les deux cas l'un de l'autre.",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "Abstract",
"sec_num": null
}
],
"body_text": [
{
"text": "L'apprentissage automatique supervis\u00e9, surtout lorsqu'une grande quantit\u00e9 de donn\u00e9es annot\u00e9es est disponible, a largement prouv\u00e9 son efficacit\u00e9 pour les t\u00e2ches de fouille de textes classiques comme la classification ou l'annotation. Les bases th\u00e9oriques des techniques d'apprentissage les plus performantes rel\u00e8vent en g\u00e9n\u00e9ral des statistiques (Naive Bayes), de l'optimisation (SVM) ou des deux (HMM, CRF). L'inconv\u00e9nient principal des mod\u00e8les produits par ces m\u00e9thodes est qu'ils sont difficilement lisibles par un humain.",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "Introduction",
"sec_num": "1"
},
{
"text": "Il existe pourtant aussi d'autres branches de l'apprentissage automatique, qualifi\u00e9es de symbolique, qui ont la particularit\u00e9 d'offrir une sortie g\u00e9n\u00e9ralement plus lisible par un \u00eatre humain. Les plus illustres membres de cette famille sont les arbres de d\u00e9cision, la Programmation Logique Inductive (PLI) ou l'Inf\u00e9rence Grammaticale (IG par la suite) (de la Higuera, 2010). C'est cette derni\u00e8re qui nous int\u00e9resse ici. On peut la d\u00e9finir comme l'\u00e9tude des techniques permettant d'apprendre une grammaire formelle ou tout autre mod\u00e8le capable de repr\u00e9senter un langage (comme un automate, une expression r\u00e9guli\u00e8re, etc...) \u00e0 partir d'exemples de s\u00e9quences (\u00e9ventuellement enrichies) appartenant (ou non) \u00e0 ce langage. Ce domaine, qui a son origine dans l'informatique th\u00e9orique et la th\u00e9orie des langages formels, est souvent m\u00e9connu. Les algorithmes d'IG sont en effet r\u00e9put\u00e9s ne pas tr\u00e8s bien se comporter sur des donn\u00e9es r\u00e9elles : ils sont souvent algorithmiquement complexes, sensibles aux erreurs et peu adapt\u00e9s aux langages fond\u00e9s sur de grands alphabets (ce qui est le cas quand l'alphabet est l'ensemble des mots d'une langue naturelle).",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "Introduction",
"sec_num": "1"
},
{
"text": "Dans cet article, nous voulons donner leur chance \u00e0 des algorithmes classiques d'IG pour les comparer aux m\u00e9thodes d'apprentissage automatique statistique \u00e9tat de l'art, en l'occurrence les CRF (Lafferty et al., 2001) . La t\u00e2che consid\u00e9r\u00e9e est le chunking (Abney, 1991) du fran\u00e7ais, qui peut en effet tr\u00e8s bien \u00eatre r\u00e9alis\u00e9e \u00e0 l'aide d'automates construits manuellement (Antoine et al., 2008; Blanc et al., 2010) . \u00c0 notre connaissance, essayer d'apprendre automatiquement ces automates au lieu de les \u00e9crire \u00e0 la main n'a encore pas jamais \u00e9t\u00e9 test\u00e9, pour quelque langue que ce soit. Par ailleurs, le chunking peut \u00e9galement \u00eatre vu comme une t\u00e2che d'annotation (objet de la Shared Task CoNLL'2000) et de ce fait abord\u00e9 via des m\u00e9thodes d'apprentissage statistique. Ce contexte nous semblait par cons\u00e9quent id\u00e9al pour comparer les deux approches.",
"cite_spans": [
{
"start": 194,
"end": 217,
"text": "(Lafferty et al., 2001)",
"ref_id": "BIBREF20"
},
{
"start": 256,
"end": 269,
"text": "(Abney, 1991)",
"ref_id": "BIBREF2"
},
{
"start": 370,
"end": 392,
"text": "(Antoine et al., 2008;",
"ref_id": "BIBREF5"
},
{
"start": 393,
"end": 412,
"text": "Blanc et al., 2010)",
"ref_id": "BIBREF6"
}
],
"ref_spans": [],
"eq_spans": [],
"section": "Introduction",
"sec_num": "1"
},
{
"text": "Cette comparaison n'est cependant pas notre seul but. Notre intuition est que les deux techniques sont compl\u00e9mentaires car elles se concentrent sur des propri\u00e9t\u00e9s distinctes des donn\u00e9es d'apprentissage. Nous proposons donc \u00e9galement dans cet article deux mani\u00e8res diff\u00e9rentes de les combiner, en fonction du but vis\u00e9. La premi\u00e8re mani\u00e8re est orient\u00e9e vers l'efficacit\u00e9 : elle vise \u00e0 enrichir un mod\u00e8le CRF \u00e0 l'aide d'informations extraites des automates. La seconde privil\u00e9gie la lisibilit\u00e9 : elle propose d'analyser les automates appris par IG \u00e0 l'aide de poids calcul\u00e9s par un CRF, poids qui seront tous interpr\u00e9tables relativement \u00e0 cet automate. L'article suit le plan suivant. Dans la premi\u00e8re section, nous introduisons la t\u00e2che de chunking et d\u00e9crivons les donn\u00e9es utilis\u00e9es pour nos exp\u00e9riences. La deuxi\u00e8me section est d\u00e9di\u00e9e \u00e0 l'inf\u00e9rence grammaticale. Apr\u00e8s un bref \u00e9tat de l'art, nous d\u00e9taillons la famille des algorithmes k-RI (Angluin, 1982) et donnons les meilleurs r\u00e9sultats exp\u00e9rimentaux qu'ils permettent d'atteindre pour le chunking. Dans la section qui suit, nous appliquons les CRF \u00e0 la m\u00eame t\u00e2che. Comme on pouvait s'y attendre, les CRF donnent de bien meilleurs r\u00e9sultats que ceux obtenus par IG. Dans la derni\u00e8re section, nous d\u00e9crivons et \u00e9valuons deux mani\u00e8res de combiner automates et CRF. Les r\u00e9sultats obtenus pour chacune de ces combinaisons sont prometteurs et sugg\u00e8rent des pistes originales pour associer mod\u00e8les symboliques et apprentissage statistique.",
"cite_spans": [
{
"start": 940,
"end": 955,
"text": "(Angluin, 1982)",
"ref_id": "BIBREF4"
}
],
"ref_spans": [],
"eq_spans": [],
"section": "Introduction",
"sec_num": "1"
},
{
"text": "Nous d\u00e9crivons ici la t\u00e2che de chunking par annotation et nous pr\u00e9sentons les donn\u00e9es d'apprentissage que nous avons utilis\u00e9es pour nos exp\u00e9riences. Ces derni\u00e8res reprennent et prolongent celles pr\u00e9sent\u00e9es dans (Tellier et al., 2012) . Notre but \u00e9tant de construire un chunker pour le fran\u00e7ais, nous sommes partis du French Tree Bank (Abeill\u00e9 et al., 2003) .",
"cite_spans": [
{
"start": 211,
"end": 233,
"text": "(Tellier et al., 2012)",
"ref_id": "BIBREF28"
},
{
"start": 334,
"end": 356,
"text": "(Abeill\u00e9 et al., 2003)",
"ref_id": "BIBREF1"
}
],
"ref_spans": [],
"eq_spans": [],
"section": "Chunking: la t\u00e2che et les donn\u00e9es",
"sec_num": "2"
},
{
"text": "La t\u00e2che de chunking, \u00e9galement appel\u00e9e analyse syntaxique de surface, a pour but d'identifier les groupes syntaxiques \u00e9l\u00e9mentaires des phrases. Les chunks sont en effet des s\u00e9quences contig\u00fces et non-r\u00e9cursives d'unit\u00e9s lexicales li\u00e9es \u00e0 une unique t\u00eate forte (Abney, 1991) . Chacun est caract\u00e9ris\u00e9 par le type (ou \u00e9tiquette Part-Of-Speech (POS)) de sa t\u00eate. Il y a ainsi autant de types de chunks que de types de t\u00eates fortes possibles.",
"cite_spans": [
{
"start": 261,
"end": 274,
"text": "(Abney, 1991)",
"ref_id": "BIBREF2"
}
],
"ref_spans": [],
"eq_spans": [],
"section": "La t\u00e2che",
"sec_num": "2.1"
},
{
"text": "La t\u00e2che de chunking a fait l'objet de de la comp\u00e9tition CoNLL'2000 1 , dont le corpus d'apprentissage \u00e9tait constitu\u00e9 d'environ 9 000 phrases issues du Penn Treebank, associ\u00e9es \u00e0 deux niveaux d'annotion : un niveau POS donn\u00e9 par l'\u00e9tiqueteur Brill et un de chunking. Les vainqueurs avaient utilis\u00e9 des SVM et des \"Weighted Probability Distribution Voting\". Ce m\u00eame corpus a aussi servi plus tard \u00e0 montrer l'efficacit\u00e9 des CRF (Sha and Pereira, 2003) .",
"cite_spans": [
{
"start": 68,
"end": 69,
"text": "1",
"ref_id": null
},
{
"start": 428,
"end": 451,
"text": "(Sha and Pereira, 2003)",
"ref_id": "BIBREF26"
}
],
"ref_spans": [],
"eq_spans": [],
"section": "La t\u00e2che",
"sec_num": "2.1"
},
{
"text": "Le French TreeBank (FTB) est un recueil de phrases extraites d'articles du journal \"Le Monde\" publi\u00e9s entre 1989 et 1993 (Abeill\u00e9 et al., 2003 . Les phrases ont \u00e9t\u00e9 tokenis\u00e9es (en conservant certaines unit\u00e9s multi-mots), lemmatis\u00e9es, \u00e9tiquet\u00e9es et analys\u00e9es syntaxiquement. Il existe plusieurs variantes du FTB, celle que nous avons utilis\u00e9e contenait environ 8 600 arbres XML enrichis de fonctions syntaxiques (parfois n\u00e9cessaires pour identifier certains chunks). Pour le POS, nous avons repris les 30 \u00e9tiquettes morpho-syntaxiques d\u00e9finies dans (Crabb\u00e9 and Candito, 2008) , assurant ainsi la continuit\u00e9 avec nos pr\u00e9c\u00e9dents travaux (Constant et al., 2011) .",
"cite_spans": [
{
"start": 108,
"end": 112,
"text": "1989",
"ref_id": null
},
{
"start": 113,
"end": 120,
"text": "et 1993",
"ref_id": null
},
{
"start": 121,
"end": 142,
"text": "(Abeill\u00e9 et al., 2003",
"ref_id": "BIBREF1"
},
{
"start": 548,
"end": 574,
"text": "(Crabb\u00e9 and Candito, 2008)",
"ref_id": "BIBREF9"
},
{
"start": 634,
"end": 657,
"text": "(Constant et al., 2011)",
"ref_id": "BIBREF8"
}
],
"ref_spans": [],
"eq_spans": [],
"section": "Les donn\u00e9es",
"sec_num": "2.2"
},
{
"text": "Nous consid\u00e9rons 7 types de chunks distincts : AP (Adjectival Phrase), AdP (Adverbial Phrase), CONJ (Conjonctions), NP (Noun Phrase), PP (Prepositional Phrase), VP (verbal Phrase) et UNKONWN (coquilles ou certains mots \u00e9trangers, eux-m\u00eames \u00e9tiquet\u00e9s UNKNOWN). Les marques de ponctuations, sauf exceptions (certains guillemets par exemple) sont hors chunks (\u00e9tiquette O comme Out). Nous avons d\u00e9cid\u00e9 de modifier certains choix que nous avions faits dans (Tellier et al., 2012) . Par exemple, le chunk CONJ contient seulement la conjonction. Le PP, en revanche, int\u00e8gre toujours le chunk introduit par la pr\u00e9position. Et, \u00e0 l'inverse de (Paroubek et al., 2006) , les adjectifs \u00e9pith\u00e8tes appartiennent toujours au chunk NP contenant le nom qu'ils qualifient, qu'ils soient situ\u00e9s avant ou apr\u00e8s lui. Les chunks AP sont donc assez rares car ils ne correspondent qu'aux adjectifs s\u00e9par\u00e9s d'un groupe nominal, comme les attributs du sujet ou de l'objet (les fonctions syntaxiques disponibles dans les arbres XML sont n\u00e9cessaires pour identifier ces derniers). La phrase suivante illustre notre notion de parenth\u00e9sage en chunks 2 : (la/DET d\u00e9pr\u00e9ciation/NC) N P (par_rapport_au/P dollar/NC) P P (a/V \u00e9t\u00e9/VPP limit\u00e9e/VPP) V P (\u00e0/P 2,5/DET %/NC) P P Nous avons extrait du FTB deux corpus distincts, chacun repr\u00e9sentant un chunking diff\u00e9rent :",
"cite_spans": [
{
"start": 453,
"end": 475,
"text": "(Tellier et al., 2012)",
"ref_id": "BIBREF28"
},
{
"start": 635,
"end": 658,
"text": "(Paroubek et al., 2006)",
"ref_id": "BIBREF23"
}
],
"ref_spans": [],
"eq_spans": [],
"section": "Les donn\u00e9es",
"sec_num": "2.2"
},
{
"text": "\u2022 un corpus o\u00f9 tous les chunks sont extraits et \u00e9tiquet\u00e9s selon le mod\u00e8le BIO (Begin/In/Out). , o\u00f9 \u03a3 est l'alphabet du langage), aucun exemple positif n'est en mesure de le contredire, alors m\u00eame qu'il a peut-\u00eatre surg\u00e9n\u00e9ralis\u00e9.",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "Les donn\u00e9es",
"sec_num": "2.2"
},
{
"text": "La premi\u00e8re chose que l'IG se doit de fournir est une d\u00e9finition pr\u00e9cise de ce qu' \"apprendre une langue par exemples positifs\" signifie pour un programme. Le crit\u00e8re d'apprenabilit\u00e9 est th\u00e9orique et formel et non pas empirique. Faisons le parall\u00e8le avec l'acquisition du langage chez les enfants. Un enfant n'est pas \"programm\u00e9\" pour une langue pr\u00e9cise, il est capable d'acqu\u00e9rir n'importe laquelle parl\u00e9e dans son environnement. De m\u00eame, un programme d'IG par pr\u00e9sentation positive doit \u00eatre en mesure d'apprendre une classe de langages formels, c'est-\u00e0-dire d'identifier n'importe lequel de ses membres \u00e0 l'aide d'exemples de s\u00e9quences (phrases) lui appartenant. Les principaux crit\u00e8res possibles qui caract\u00e9risent la notion d\"'apprenabilit\u00e9 d'une classe de langages\" en IG (aussi appel\u00e9s mod\u00e8les d'apprentissage) sont \"l'identification \u00e0 la limite\" (Gold, 1967) et \"l'apprentissage PAC\" (Valiant, 1984) , que nous ne pouvons d\u00e9tailler ici.",
"cite_spans": [
{
"start": 853,
"end": 865,
"text": "(Gold, 1967)",
"ref_id": "BIBREF16"
},
{
"start": 891,
"end": 906,
"text": "(Valiant, 1984)",
"ref_id": "BIBREF32"
}
],
"ref_spans": [],
"eq_spans": [],
"section": "Les donn\u00e9es",
"sec_num": "2.2"
},
{
"text": "Malheureusement, m\u00eame pour la classe des langages r\u00e9guliers, la plus simple dans la hi\u00e9rarchie de Chomsky, ces crit\u00e8res sont impossibles \u00e0 satisfaire : il n'existe aucun algorithme capable d'apprendre par pr\u00e9sentation positive la classe compl\u00e8te des langages r\u00e9guliers dans ces mod\u00e8les (Gold, 1967; Kearns and Vazirani, 1994) . Les recherches se sont donc orient\u00e9es vers des classes plus petites, ou transverses \u00e0 la hi\u00e9rarchie de Chomsky, et apprenables, caract\u00e9ris\u00e9es notamment dans (Angluin, 1980) . Les classes de langages k-r\u00e9versibles (Angluin, 1982) entrent dans ce cadre, elles constituent le point de d\u00e9part de nos exp\u00e9riences. Depuis, bien d'autres classes apprenables par pr\u00e9sentation positive ont \u00e9t\u00e9 d\u00e9crites et \u00e9tudi\u00e9es (Garcia and Vidal, 1990; Denis et al., 2002; Kanazawa, 1998; Koshiba et al., 2000; Yokomori, 2003) . Des avanc\u00e9es r\u00e9centes dans le domaine concernent aussi l'apprenabilit\u00e9 de dispositifs int\u00e9grant des probabilit\u00e9s, comme les automates probabilistes et leurs liens avec les HHM (Thollard et al., 2000; Dupont et al., 2005) . Parall\u00e8lement, des comp\u00e9titions 3 ont permis de tester l'efficacit\u00e9 des algorithmes propos\u00e9s lorsqu'ils sont confront\u00e9s \u00e0 des donn\u00e9es r\u00e9elles. ",
"cite_spans": [
{
"start": 286,
"end": 298,
"text": "(Gold, 1967;",
"ref_id": "BIBREF16"
},
{
"start": 299,
"end": 325,
"text": "Kearns and Vazirani, 1994)",
"ref_id": "BIBREF18"
},
{
"start": 485,
"end": 500,
"text": "(Angluin, 1980)",
"ref_id": "BIBREF3"
},
{
"start": 541,
"end": 556,
"text": "(Angluin, 1982)",
"ref_id": "BIBREF4"
},
{
"start": 734,
"end": 758,
"text": "(Garcia and Vidal, 1990;",
"ref_id": "BIBREF15"
},
{
"start": 759,
"end": 778,
"text": "Denis et al., 2002;",
"ref_id": "BIBREF11"
},
{
"start": 779,
"end": 794,
"text": "Kanazawa, 1998;",
"ref_id": "BIBREF17"
},
{
"start": 795,
"end": 816,
"text": "Koshiba et al., 2000;",
"ref_id": "BIBREF19"
},
{
"start": 817,
"end": 832,
"text": "Yokomori, 2003)",
"ref_id": "BIBREF33"
},
{
"start": 1011,
"end": 1034,
"text": "(Thollard et al., 2000;",
"ref_id": "BIBREF30"
},
{
"start": 1035,
"end": 1055,
"text": "Dupont et al., 2005)",
"ref_id": "BIBREF12"
}
],
"ref_spans": [],
"eq_spans": [],
"section": "Les donn\u00e9es",
"sec_num": "2.2"
},
{
"text": "Dans cette section, nous d\u00e9crivons les algorithmes d'IG par pr\u00e9sentation positive utilis\u00e9s dans nos exp\u00e9riences. Ils sont destin\u00e9s \u00e0 apprendre un automate pour un type sp\u00e9cifique de chunk, \u00e0 partir uniquement des diff\u00e9rentes s\u00e9quences de POS aparaissant dans ce type de chunks dans les donn\u00e9es d'apprentissage. Les algorithmes d'IG par exemples positifs semblent adapt\u00e9s \u00e0 ce probl\u00e8me en raison du vocabulaire restreint mis en jeu (au maximum les 30 \u00e9tiquettes POS) et de la relativement faible variabilit\u00e9 des s\u00e9quences de POS pouvant d\u00e9crire un m\u00eame chunk. L'algorithme k-Reversible Inference (k-RI) (Angluin, 1982) ",
"cite_spans": [
{
"start": 602,
"end": 617,
"text": "(Angluin, 1982)",
"ref_id": "BIBREF4"
}
],
"ref_spans": [],
"eq_spans": [],
"section": "L'algorithme k-RI",
"sec_num": "3.2"
},
{
"text": "Nous avons appliqu\u00e9 k-RI pour diff\u00e9rentes valeurs de k (k = 0, k = 1, k = 2) sur les s\u00e9quences d'\u00e9tiquettes POS correspondant \u00e0 un m\u00eame chunk. Les annotations BIO sont obtenues en utilisant les automates appris comme des expressions r\u00e9guli\u00e8res selon un parcours s\u00e9quentiel de la phrase. Nous avons cherch\u00e9 \u00e0 recona\u00eetre soit les s\u00e9quences les plus longues (\"Longest Match\", LM) soit les s\u00e9quences les plus courtes (\"Shortest Match\", SM ",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "R\u00e9sultats des exp\u00e9riences d'IG sur le chunking NP",
"sec_num": "3.3"
},
{
"text": "Dans cette section, nous nous concentrons sur la meilleure approche statistique actuelle pour une t\u00e2che d'annotation : les Conditional Random Fields (CRF), qui se comportent tr\u00e8s bien sur notre probl\u00e8me (Tellier et al., 2012) . Nous rappelons aussi comment un HMM peut \u00eatre \"transform\u00e9\" en un CRF, parce que cette transformation sera une source d'inspiration pour une des combinaisons pr\u00e9sent\u00e9es par la suite.",
"cite_spans": [
{
"start": 203,
"end": 225,
"text": "(Tellier et al., 2012)",
"ref_id": "BIBREF28"
}
],
"ref_spans": [],
"eq_spans": [],
"section": "Apprentissage statistique pour l'annotation",
"sec_num": "4"
},
{
"text": "Les CRF, introduits par (Lafferty et al., 2001 ) sont de la famille des mod\u00e8les graphiques. Lorsque que le graphe exprimant les d\u00e9pendances entre \u00e9tiquettes est lin\u00e9aire (ce qui est g\u00e9n\u00e9ralement le cas pour \u00e9tiqueter des s\u00e9quences), la distribution de probabilit\u00e9 d'une s\u00e9quence d'annotations y connaissant une s\u00e9quence observable x est d\u00e9finie par :",
"cite_spans": [
{
"start": 24,
"end": 46,
"text": "(Lafferty et al., 2001",
"ref_id": "BIBREF20"
}
],
"ref_spans": [],
"eq_spans": [],
"section": "Conditional Random Fields et HMMs",
"sec_num": "4.1"
},
{
"text": "p( y|x) = 1 Z(x) t exp K k=1 \u03bb k f k (t, y t , y t\u22121 , x)",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "Conditional Random Fields et HMMs",
"sec_num": "4.1"
},
{
"text": "O\u00f9 Z(x) est un facteur de normalisation d\u00e9pendant de x et les K features (ou fonctions caract\u00e9ristiques) f k des fonctions fournies par l'utilisateur. Une feature f k est v\u00e9rifi\u00e9e (i.e. f k (t, y t , y t\u22121 , x) = 1) si, \u00e0 la position courante t, une configuration entre x, y t et y t\u22121 est observ\u00e9e (elle vaut 0 sinon). \u00c0 chaque feature f k est associ\u00e9 un poids \u03bb k . Ces poids constituent les param\u00e8tres du mod\u00e8le devant \u00eatre estim\u00e9s au cours de l'apprentissage. Pour d\u00e9finir un grand nombre de features, les programmes impl\u00e9mentant les CRF permettent d'avoir recours \u00e0 des patrons (ou templates) qui seront instanci\u00e9s en autant de features qu'il y a de positions sur les donn\u00e9es d'entra\u00eenement o\u00f9 ils peuvent s'appliquer. L'impl\u00e9mentation la plus efficace \u00e0 l'heure actuelle des CRF lin\u00e9aires est fournie par Wapiti 5 , qui utilise des p\u00e9nalisations pour s\u00e9lectionner les features les plus pertinentes (Lavergne et al., 2010) . C'est le logiciel que nous avons utilis\u00e9.",
"cite_spans": [
{
"start": 904,
"end": 927,
"text": "(Lavergne et al., 2010)",
"ref_id": "BIBREF21"
}
],
"ref_spans": [],
"eq_spans": [],
"section": "Conditional Random Fields et HMMs",
"sec_num": "4.1"
},
{
"text": "Les CRF se sont montr\u00e9s efficaces sur de nombreuses t\u00e2ches d'annotation, notamment l'\u00e9tiquetage POS (Lafferty et al., 2001) , la reconnaissance d'entit\u00e9s nomm\u00e9es (McCallum and Li, 2003) , le chunking (Sha and Pereira, 2003) Les HMM, qui \u00e9taient parmi les meilleures m\u00e9thodes d'annotation statistique avant que les CRF n'apparaissent, pr\u00e9sentent quant \u00e0 eux l'avantage d'\u00eatre plus interpr\u00e9tables. Cependant, tout HMM peut \u00eatre \"transform\u00e9\" en un CRF d\u00e9finissant la m\u00eame distribution de probabilit\u00e9 (Sutton and McCallum, 2006; Tellier and Tommasi, 2011) . Pour ce faire, pour un HMM donn\u00e9, nous devons d\u00e9finir deux familles de features :",
"cite_spans": [
{
"start": 100,
"end": 123,
"text": "(Lafferty et al., 2001)",
"ref_id": "BIBREF20"
},
{
"start": 162,
"end": 185,
"text": "(McCallum and Li, 2003)",
"ref_id": "BIBREF22"
},
{
"start": 200,
"end": 223,
"text": "(Sha and Pereira, 2003)",
"ref_id": "BIBREF26"
},
{
"start": 497,
"end": 524,
"text": "(Sutton and McCallum, 2006;",
"ref_id": "BIBREF27"
},
{
"start": 525,
"end": 551,
"text": "Tellier and Tommasi, 2011)",
"ref_id": "BIBREF29"
}
],
"ref_spans": [],
"eq_spans": [],
"section": "Conditional Random Fields et HMMs",
"sec_num": "4.1"
},
{
"text": "\u2022 les features de la forme f ( y t , x t ) associant une seule \u00e9tiquette y t avec une seule entr\u00e9e de m\u00eame position x t : elles valent 1 quand l'\u00e9tats y t du HMM \u00e9met x t ;",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "Conditional Random Fields et HMMs",
"sec_num": "4.1"
},
{
"text": "\u2022 les features de la forme f ( y t\u22121 , y t ) qui associent deux \u00e9tats y t\u22121 et y t du HMM ; elles valent 1 quand la transition entre ces deux \u00e9tats est utilis\u00e9e.",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "Conditional Random Fields et HMMs",
"sec_num": "4.1"
},
{
"text": "Si \u03b8 est une probabilit\u00e9 d'\u00e9mission ou de transition du HMM, alors on choisit \u03bb = log(\u03b8 ) comme poids pour la feature correspondant dans le CRF. Le calcul de p( y|x) s'\u00e9crira alors exactement de la m\u00eame fa\u00e7on dans les deux cas. Un HMM peut ainsi \u00eatre vu comme un cas particulier de CRF. Mais les CRF sont plus g\u00e9n\u00e9raux car ils permettent d'avoir recours \u00e0 d'autres features que celles utilis\u00e9es dans la transformation. Cette correspondance nous a inspir\u00e9s pour exploiter les CRF afin de diagnostiquer les automates appris par IG. Cette id\u00e9e sera \u00e9tudi\u00e9e dans la section 5. Mais auparavant, nous pr\u00e9sentons les r\u00e9sultats obtenus avec les CRF seuls sur nos donn\u00e9es.",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "Conditional Random Fields et HMMs",
"sec_num": "4.1"
},
{
"text": "Les tableaux 2 montrent les patrons de features utilis\u00e9s ainsi que les r\u00e9sultats obtenus avec les CRF seuls sur les deux t\u00e2ches de chunking. Pour ces exp\u00e9riences, comme en section 3.3, nous avons suivi un protocole de validation crois\u00e9e \u00e0 5 plis et un crit\u00e8re d'\u00e9galit\u00e9 stricte des chunks. Pour la t\u00e2che de chunking complet, nous avons calcul\u00e9 les micro et macro-average, qui correspondent aux moyennes des F1-mesures des diff\u00e9rents types de chunks, pond\u00e9r\u00e9es (micro) ou pas (macro) par leur proportion. Comme attendu, les CRF seuls sont tr\u00e8s performants. Remarquons toutefois qu'ils exploitent dans leurs features \u00e0 la fois des mots et des \u00e9tiquettes POS pr\u00e9sents dans les donn\u00e9es, alors que les algorithmes d'IG n'ont acc\u00e8s qu'aux seuls POS.",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "R\u00e9sultats des exp\u00e9riences",
"sec_num": "4.2"
},
{
"text": "On peut comparer ces r\u00e9sultats avec ceux obtenus lors de la campagne PASSAGE (Paroubek et al., 2006) , m\u00eame si les notions de chunks adopt\u00e9es de part et d'autre diff\u00e8rent (dans PASSAGE, les adjectifs \u00e9pith\u00e8tes situ\u00e9s apr\u00e8s un nom ne font pas partie du chunk nomimal, par exemple) et si les corpus ne sont pas les m\u00eames. Les meilleurs participants de la campagne PASSAGE atteignaient une micro-average de 92,7, ce qui situe tout de m\u00eame la performance de nos CRF. ",
"cite_spans": [
{
"start": 77,
"end": 100,
"text": "(Paroubek et al., 2006)",
"ref_id": "BIBREF23"
}
],
"ref_spans": [],
"eq_spans": [],
"section": "R\u00e9sultats des exp\u00e9riences",
"sec_num": "4.2"
},
{
"text": "Dans les sections pr\u00e9c\u00e9dentes, nous avons appliqu\u00e9 \u00e0 la t\u00e2che de chunking une approche soit purement symbolique soit purement statistique. Dans cette section, nous allons combiner les deux approches, cette combinaison pouvant s'envisager selon deux axes distincts :",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "Combinaisons",
"sec_num": "5"
},
{
"text": "\u2022 Soit le but est la seule performance, auquel cas il faut privil\u00e9gier l'apprentissage statistique. Cependant, les automates obtenus par IG offrent une vision globale (et non locale, comme c'est le cas dans les features) des relations entre les \u00e9tiquettes POS d'un m\u00eame chunk qui pourrait s'av\u00e9rer utile dans un CRF. Nous pouvons donc chercher \u00e0 int\u00e9grer les r\u00e9sultats de l'apprentissage symbolique en tant que ressource externe de l'apprentissage statistique.",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "Combinaisons",
"sec_num": "5"
},
{
"text": "\u2022 Soit nos fins sont plus en rapport avec la lisibilit\u00e9, auquel cas nous favoriserons les automates produits par IG. Or, comme \u00e9voqu\u00e9 en 4.1, il est tout \u00e0 fait possible de simuler la structure d'un HMM (et, similairement, d'un automate) avec les features d'un CRF. On pourrait donc \u00e9valuer la qualit\u00e9 des \u00e9tats et des transitions d'un automate en fonction des poids associ\u00e9s aux features qui les repr\u00e9sentent dans un CRF, offrant ainsi par la m\u00eame occasion un moyen de l'am\u00e9liorer.",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "Combinaisons",
"sec_num": "5"
},
{
"text": "Nous nous attaquons ici aux deux types de chunking. Le premier mode de combinaison envisag\u00e9 consiste \u00e0 enrichir les donn\u00e9es du CRF avec des attributs provenant de la ressource externe, \u00e0 la fa\u00e7on de (Constant and Tellier, 2012) . Dans le cas du chunking complet, nous appliquons l'IG \u00e0 chaque type de chunk distinct, produisant ainsi autant d'automates qu'il y a de types de chunks selon un protocole de validation crois\u00e9e \u00e0 5 plis (les PTA dans ces exp\u00e9riences sont donc uniquement extraits des corpus d'apprentissage). Chacun des automates de chunk fournit un \u00e9tiquetage BIO ind\u00e9pendant, comme dans le tableau 3 (les automates sont ici suppos\u00e9s fournir un \u00e9tiquetage parfait). Il y a donc dans nos donn\u00e9es autant d'attributs nouveaux que de chunks.",
"cite_spans": [
{
"start": 199,
"end": 227,
"text": "(Constant and Tellier, 2012)",
"ref_id": "BIBREF7"
}
],
"ref_spans": [],
"eq_spans": [],
"section": "Les automates en tant que ressource externe",
"sec_num": "5.1"
},
{
"text": "Les tableaux de gauche dans les tables 4 donnent les patrons aboutissant aux meilleurs r\u00e9sultats (micro resp. macro-average resp. F-mesure) pour le chunking complet ou le chunking NP. La ligne \"Automate\" prend en compte la sortie de chaque automate ind\u00e9pendamment alors que \"POS+Automates\" repr\u00e9sente la concat\u00e9nation des colonnes POS et des sorties de tous les automates. Les r\u00e9sultats correspondants sont donn\u00e9s dans les tableaux de droite. Ils montrent que les attributs provenant des automates permettent d'am\u00e9liorer significativement les r\u00e9sultats des CRF. C'est particuli\u00e8rement vrai pour la macro-average, qui donne un poids \u00e9quivalent \u00e0 la F1-mesure de chaque type de chunk. Les informations issues des automates am\u00e9liorent donc surtout les performances de reconnaissance des chunks rares. Dans l'exp\u00e9rience permettant d'obtenir la meilleure macro, les trois am\u00e9liorations les plus significatives en terme de F-mesure sont : UNKNOWN (de 41.67 \u00e0 61.22), AP (de 96.78 \u00e0 97.44) et AdP (de 98.72 \u00e0 98.92). ",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "Les automates en tant que ressource externe",
"sec_num": "5.1"
},
{
"text": "Nous voulons ici obtenir des informations sur l'automate produit par IG \u00e0 l'aide des CRF, en faisant un apprentissage n'utilisant que des features interpr\u00e9tables relativement \u00e0 lui. Les poids associ\u00e9s par le CRF \u00e0 ces features fourniront un diagnostic fin de l'automate. Cette id\u00e9e se rapproche de (Roark and Saraclar, 2004) , o\u00f9 un CRF \u00e9tait appris selon la structure d'un automate pond\u00e9r\u00e9 pour le \"corriger\" gr\u00e2ce \u00e0 l'estimation des poids. Elle en diff\u00e8re toutefois car nous ne cherchons pas \u00e0 obtenir un automate pond\u00e9r\u00e9 mais \u00e0 trouver d'\u00e9ventuelles modifications \u00e0 effectuer sur l'automate selon le diagnostic fourni par le CRF, tout en pr\u00e9servant sa nature purement symbolique. Pour illustrer cette approche, nous nous concentrons sur la t\u00e2che de chunking NP seul car elle ne n\u00e9cessite la prise en compte que d'un seul automate. Il peut \u00eatre plus facile pour comprendre la suite de se repr\u00e9senter les automates finis d\u00e9terministes (AFD) \"\u00e0 la Unitex\" (http://www-igm.univ-mlv.fr/ unitex/). Ainsi, le r\u00e9sultat de l'algorithme ZR sur la figure 1 (l'automate final, en bas \u00e0 droite) est identique \u00e0 celui de la figure 2. Cette repr\u00e9sentation a l'avantage de montrer les \u00e9tiquettes POS et les transitions entre deux \u00e9tiquettes POS comme deux objets diff\u00e9rents. Pour construire un CRF \u00e0 partir d'un tel automate, nous consid\u00e9rons surtout les sorties en termes d'\u00e9tiquetage BIO que cet automate produit (partie droite de la Table 3 ).",
"cite_spans": [
{
"start": 298,
"end": 324,
"text": "(Roark and Saraclar, 2004)",
"ref_id": "BIBREF25"
}
],
"ref_spans": [
{
"start": 1423,
"end": 1430,
"text": "Table 3",
"ref_id": "TABREF4"
}
],
"eq_spans": [],
"section": "Diagnostiquer un automate \u00e0 l'aide d'un CRF",
"sec_num": "5.2"
},
{
"text": "Nous inspirant de la relation entre les HMM et les CRF \u00e9voqu\u00e9e en section 4.1, nous d\u00e9finissons des patrons de features qui peuvent s'interpr\u00e9ter relativement \u00e0 l'automate : Il est \u00e0 noter que les mots eux-m\u00eames ne sont pas pris en compte dans ces patrons, afin de pr\u00e9server l'interpr\u00e9tation des features relativement \u00e0 l'automate, d'o\u00f9 les mots sont absents.",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "Diagnostiquer un automate \u00e0 l'aide d'un CRF",
"sec_num": "5.2"
},
{
"text": "La bleu : continuation intempestive de chunk. cyan : arr\u00eat pr\u00e9matur\u00e9 de chunk. Table 6 laissent en effet supposer qu'\u00e0 de nombreuses occasions le CRF a eu raison de prendre une d\u00e9cision diff\u00e9rente de celle pr\u00e9conis\u00e9e par l'automate.",
"cite_spans": [],
"ref_spans": [
{
"start": 79,
"end": 86,
"text": "Table 6",
"ref_id": "TABREF10"
}
],
"eq_spans": [],
"section": "Diagnostiquer un automate \u00e0 l'aide d'un CRF",
"sec_num": "5.2"
},
{
"text": "Dans cet article, nous avons appliqu\u00e9 deux m\u00e9thodes d'apprentissage automatique sur le m\u00eame jeu de donn\u00e9es et avons propos\u00e9 deux fa\u00e7ons diff\u00e9rentes de les combiner.",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "Conclusion et perspectives",
"sec_num": null
},
{
"text": "Pour ce qui est de l'apprentissage symbolique seul, il est possible que d'autres algorithmes d'IG par pr\u00e9sentation positive pourraient donner de meilleurs r\u00e9sultats que les n\u00f4tres, comme ceux de (Garcia and Vidal, 1990; Denis et al., 2002) . Le choix d'une grande valeur de k dans certains cas peut \u00eatre important, mais il s'accompagne d'une plus grande complexit\u00e9 de calculs 6 .",
"cite_spans": [
{
"start": 195,
"end": 219,
"text": "(Garcia and Vidal, 1990;",
"ref_id": "BIBREF15"
},
{
"start": 220,
"end": 239,
"text": "Denis et al., 2002)",
"ref_id": "BIBREF11"
},
{
"start": 376,
"end": 377,
"text": "6",
"ref_id": "BIBREF1"
}
],
"ref_spans": [],
"eq_spans": [],
"section": "Conclusion et perspectives",
"sec_num": null
},
{
"text": "Mais la partie la plus originale de notre travail concerne les combinaisons automates/CRF. Notons que ces combinaisons peuvent tout autant s'appliquer \u00e0 des automates \u00e9crits \u00e0 la main, g\u00e9n\u00e9ralement plus pertinents d'un point de vue linguistique que ceux obtenus par IG. Nous nous sommes concentr\u00e9s ici sur des automates appris automatiquement pour montrer que, m\u00eame sans ressource ni expertise linguistique, il est possible de combiner mod\u00e8les symboliques et statistiques. L'intuition derri\u00e8re ce travail est que ces deux types de mod\u00e8les sont compl\u00e9mentaires, et qu'ils peuvent chacun b\u00e9n\u00e9ficier de l'autre. Les CRF sont bas\u00e9s sur un grand nombre de configurations locales pond\u00e9r\u00e9es. Il est th\u00e9oriquement possible d'utiliser dans un CRF des features portant sur l'int\u00e9gralit\u00e9 de la s\u00e9quence x mais dans la pratique, cela est rarement fait. L'IG au contraire s'applique \u00e0 un ensemble de s\u00e9quences globales qu'elle est capable de g\u00e9n\u00e9raliser. Il a d\u00e9j\u00e0 \u00e9t\u00e9 observ\u00e9 que les CRF gagnent \u00e0 recourir \u00e0 des features exprimant des propri\u00e9t\u00e9s plus g\u00e9n\u00e9rales que de simples configurations locales (Pu et al., 2010) . Notre pari \u00e9tait que l'IG pouvait fournir ce type de g\u00e9n\u00e9ralisation, via le premier mode de combinaison. Les r\u00e9sultats obtenus vont dans ce sens. Il est aussi int\u00e9ressant de constater que les mod\u00e8les symboliques permettent d'am\u00e9liorer le traitement des cas rares, mal pris en compte par les mod\u00e8les statistiques.",
"cite_spans": [
{
"start": 1088,
"end": 1105,
"text": "(Pu et al., 2010)",
"ref_id": "BIBREF24"
}
],
"ref_spans": [],
"eq_spans": [],
"section": "Conclusion et perspectives",
"sec_num": null
},
{
"text": "Les CRF construits sur des automates restent encore \u00e0 \u00e9tudier, notamment pour interpr\u00e9ter et exploiter au mieux les matrices de confusion qu'ils produisent. Certaines cases de ces matrices sont vides car Wapiti \u00e9limine les features non pertinentes de l'ensemble de d\u00e9part selon un crit\u00e8re de p\u00e9nalit\u00e9. Il devrait \u00eatre possible, \u00e0 l'aide de ces informations, de modifier l'automate sur lequel se base le CRF en supprimant ou ajoutant des \u00e9tats ou des transitions pour se conformer au diagnostic fourni par une table. Une IG dirig\u00e9e par des CRF reste encore \u00e0 d\u00e9finir ! Un autre 6 la complexit\u00e9 algorithmique de k-RI est |\u03a3| k |Q| k+3 o\u00f9 |Q| est le nombre d'\u00e9tats du PTA",
"cite_spans": [
{
"start": 577,
"end": 578,
"text": "6",
"ref_id": "BIBREF1"
}
],
"ref_spans": [],
"eq_spans": [],
"section": "Conclusion et perspectives",
"sec_num": null
},
{
"text": "l'automate miroir est obtenu en transformant les \u00e9tats initiaux de l'automate de d\u00e9part en \u00e9tats finaux, ses \u00e9tats finaux en initiaux, et en retournant le sens de ses transitions",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "",
"sec_num": null
},
{
"text": "c ATALA",
"cite_spans": [],
"ref_spans": [],
"eq_spans": [],
"section": "",
"sec_num": null
}
],
"back_matter": [],
"bib_entries": {
"BIBREF0": {
"ref_id": "b0",
"title": "d\u00e9fi serait l'\u00e9tude du lien entre les automates associ\u00e9s aux poids calcul\u00e9s par CRF que nous d\u00e9finissons et les plus classiques HMM ou automates probabilistes pour lesquels des algorithmes d'apprentissage existent d\u00e9j\u00e0",
"authors": [
{
"first": "",
"middle": [],
"last": "Thollard",
"suffix": ""
}
],
"year": 2000,
"venue": "",
"volume": "",
"issue": "",
"pages": "",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "d\u00e9fi serait l'\u00e9tude du lien entre les automates associ\u00e9s aux poids calcul\u00e9s par CRF que nous d\u00e9finissons et les plus classiques HMM ou automates probabilistes pour lesquels des algorithmes d'apprentissage existent d\u00e9j\u00e0 (Thollard et al., 2000).",
"links": null
},
"BIBREF1": {
"ref_id": "b1",
"title": "Building a treebank for french",
"authors": [
{
"first": "A",
"middle": [],
"last": "R\u00e9f\u00e9rences Abeill\u00e9",
"suffix": ""
},
{
"first": "L",
"middle": [],
"last": "Cl\u00e9ment",
"suffix": ""
},
{
"first": "F",
"middle": [],
"last": "Toussenel",
"suffix": ""
}
],
"year": 2003,
"venue": "",
"volume": "",
"issue": "",
"pages": "",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "R\u00e9f\u00e9rences Abeill\u00e9, A., Cl\u00e9ment, L., and Toussenel, F. (2003). Building a treebank for french. In Abeill\u00e9, A., editor, Treebanks. Kluwer, Dordrecht.",
"links": null
},
"BIBREF2": {
"ref_id": "b2",
"title": "Parsing by chunks",
"authors": [
{
"first": "S",
"middle": [],
"last": "Abney",
"suffix": ""
}
],
"year": 1991,
"venue": "Principle-based Parsing",
"volume": "",
"issue": "",
"pages": "",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "Abney, S. (1991). Parsing by chunks. In Berwick, R., Abney, R., and Tenny, C., editors, Principle-based Parsing. Kluwer Academic Publisher.",
"links": null
},
"BIBREF3": {
"ref_id": "b3",
"title": "Inductive inference of formal languages from positive data",
"authors": [
{
"first": "D",
"middle": [],
"last": "Angluin",
"suffix": ""
}
],
"year": 1980,
"venue": "Information and Control",
"volume": "45",
"issue": "2",
"pages": "117--135",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "Angluin, D. (1980). Inductive inference of formal languages from positive data. Information and Control, 45(2):117-135.",
"links": null
},
"BIBREF4": {
"ref_id": "b4",
"title": "Inference of reversible languages",
"authors": [
{
"first": "D",
"middle": [],
"last": "Angluin",
"suffix": ""
}
],
"year": 1982,
"venue": "Journal of the ACM",
"volume": "29",
"issue": "3",
"pages": "741--765",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "Angluin, D. (1982). Inference of reversible languages. Journal of the ACM, 29(3):741-765.",
"links": null
},
"BIBREF5": {
"ref_id": "b5",
"title": "Automatic rich annotation of large corpus of conversational transcribed speech: the chunking task of the epac project",
"authors": [
{
"first": "J.-Y",
"middle": [],
"last": "Antoine",
"suffix": ""
},
{
"first": "A",
"middle": [],
"last": "Mokrane",
"suffix": ""
},
{
"first": "N",
"middle": [],
"last": "Friburger",
"suffix": ""
}
],
"year": 2008,
"venue": "Proceedings of LREC",
"volume": "",
"issue": "",
"pages": "",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "Antoine, J.-Y., Mokrane, A., and Friburger, N. (2008). Automatic rich annotation of large corpus of conversational transcribed speech: the chunking task of the epac project. In Proceedings of LREC'2008.",
"links": null
},
"BIBREF6": {
"ref_id": "b6",
"title": "Partial parsing of spontaneous spoken french",
"authors": [
{
"first": "O",
"middle": [],
"last": "Blanc",
"suffix": ""
},
{
"first": "M",
"middle": [],
"last": "Constant",
"suffix": ""
},
{
"first": "A",
"middle": [],
"last": "Dister",
"suffix": ""
},
{
"first": "P",
"middle": [],
"last": "Watrin",
"suffix": ""
}
],
"year": 2010,
"venue": "Proceedings of LREC",
"volume": "",
"issue": "",
"pages": "",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "Blanc, O., Constant, M., Dister, A., and Watrin, P. (2010). Partial parsing of spontaneous spoken french. In Proceedings of LREC'2010.",
"links": null
},
"BIBREF7": {
"ref_id": "b7",
"title": "Evaluating the impact of external lexical resources unto a crf-based multiword segmenter and part-of-speech tagger",
"authors": [
{
"first": "M",
"middle": [],
"last": "Constant",
"suffix": ""
},
{
"first": "I",
"middle": [],
"last": "Tellier",
"suffix": ""
}
],
"year": 2012,
"venue": "Proceedings of LREC",
"volume": "",
"issue": "",
"pages": "",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "Constant, M. and Tellier, I. (2012). Evaluating the impact of external lexical resources unto a crf-based multiword segmenter and part-of-speech tagger. In Proceedings of LREC 2012.",
"links": null
},
"BIBREF8": {
"ref_id": "b8",
"title": "Int\u00e9grer des connaissances linguistiques dans un CRF : application \u00e0 l'apprentissage d'un segmenteur\u00e9tiqueteur du fran\u00e7ais",
"authors": [
{
"first": "M",
"middle": [],
"last": "Constant",
"suffix": ""
},
{
"first": "I",
"middle": [],
"last": "Tellier",
"suffix": ""
},
{
"first": "D",
"middle": [],
"last": "Duchier",
"suffix": ""
},
{
"first": "Y",
"middle": [],
"last": "Dupont",
"suffix": ""
},
{
"first": "A",
"middle": [],
"last": "Sigogne",
"suffix": ""
},
{
"first": "S",
"middle": [],
"last": "Billot",
"suffix": ""
}
],
"year": 2011,
"venue": "Actes de TALN'11",
"volume": "",
"issue": "",
"pages": "",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "Constant, M., Tellier, I., Duchier, D., Dupont, Y., Sigogne, A., and Billot, S. (2011). Int\u00e9grer des connaissances linguistiques dans un CRF : application \u00e0 l'apprentissage d'un segmenteur- \u00e9tiqueteur du fran\u00e7ais. In Actes de TALN'11.",
"links": null
},
"BIBREF9": {
"ref_id": "b9",
"title": "Exp\u00e9riences d'analyse syntaxique statistique du fran\u00e7ais",
"authors": [
{
"first": "B",
"middle": [],
"last": "Crabb\u00e9",
"suffix": ""
},
{
"first": "M",
"middle": [
"H"
],
"last": "Candito",
"suffix": ""
}
],
"year": 2008,
"venue": "Actes de TALN'08",
"volume": "",
"issue": "",
"pages": "",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "Crabb\u00e9, B. and Candito, M. H. (2008). Exp\u00e9riences d'analyse syntaxique statistique du fran\u00e7ais. In Actes de TALN'08.",
"links": null
},
"BIBREF10": {
"ref_id": "b10",
"title": "Grammatical Inference: Learning Automata and Grammars",
"authors": [
{
"first": "C",
"middle": [],
"last": "De La Higuera",
"suffix": ""
}
],
"year": 2010,
"venue": "",
"volume": "",
"issue": "",
"pages": "",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "de la Higuera, C. (2010). Grammatical Inference: Learning Automata and Grammars. CU Press.",
"links": null
},
"BIBREF11": {
"ref_id": "b11",
"title": "Some language classes identifiable in the limit from positive data",
"authors": [
{
"first": "F",
"middle": [],
"last": "Denis",
"suffix": ""
},
{
"first": "A",
"middle": [],
"last": "Lemay",
"suffix": ""
},
{
"first": "A",
"middle": [],
"last": "Terlutte",
"suffix": ""
}
],
"year": 2002,
"venue": "ICGI 2002, number 2484 in LNAI",
"volume": "",
"issue": "",
"pages": "63--76",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "Denis, F., Lemay, A., and Terlutte, A. (2002). Some language classes identifiable in the limit from positive data. In ICGI 2002, number 2484 in LNAI, pages 63-76. Springer Verlag.",
"links": null
},
"BIBREF12": {
"ref_id": "b12",
"title": "Links between probabilistic automata and hidden markov models: probability distributions, learning models and induction algorithms",
"authors": [
{
"first": "P",
"middle": [],
"last": "Dupont",
"suffix": ""
},
{
"first": "F",
"middle": [],
"last": "Denis",
"suffix": ""
},
{
"first": "Y",
"middle": [],
"last": "Esposito",
"suffix": ""
}
],
"year": 2005,
"venue": "Pattern Recognition",
"volume": "38",
"issue": "9",
"pages": "1349--1371",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "Dupont, P., Denis, F., and Esposito, Y. (2005). Links between probabilistic automata and hidden markov models: probability distributions, learning models and induction algorithms. Pattern Recognition, 38(9):1349-1371.",
"links": null
},
"BIBREF13": {
"ref_id": "b13",
"title": "What is the search space of the regular inference",
"authors": [
{
"first": "P",
"middle": [],
"last": "Dupont",
"suffix": ""
},
{
"first": "L",
"middle": [],
"last": "Miclet",
"suffix": ""
},
{
"first": "E",
"middle": [],
"last": "Vidal",
"suffix": ""
}
],
"year": 1994,
"venue": "ICGI'94 -LNCS",
"volume": "862",
"issue": "",
"pages": "25--37",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "Dupont, P., Miclet, L., and Vidal, E. (1994). What is the search space of the regular inference. In ICGI'94 -LNCS, volume 862 -Grammatical Inference and Applications, pages 25-37, Heidelberg.",
"links": null
},
"BIBREF14": {
"ref_id": "b14",
"title": "Efficient, feature-based, conditional random field parsing",
"authors": [
{
"first": "J",
"middle": [
"R"
],
"last": "Finkel",
"suffix": ""
},
{
"first": "A",
"middle": [],
"last": "Kleeman",
"suffix": ""
},
{
"first": "C",
"middle": [
"D"
],
"last": "Manning",
"suffix": ""
}
],
"year": 2008,
"venue": "Proceedings of ACL'2008",
"volume": "",
"issue": "",
"pages": "959--967",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "Finkel, J. R., Kleeman, A., and Manning, C. D. (2008). Efficient, feature-based, conditional random field parsing. In Proceedings of ACL'2008, pages 959-967.",
"links": null
},
"BIBREF15": {
"ref_id": "b15",
"title": "Inference of k-testable languages in the strict sense and application to syntactic pattern recognition",
"authors": [
{
"first": "P",
"middle": [],
"last": "Garcia",
"suffix": ""
},
{
"first": "E",
"middle": [],
"last": "Vidal",
"suffix": ""
}
],
"year": 1990,
"venue": "IEEE TPAMI",
"volume": "12",
"issue": "9",
"pages": "920--925",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "Garcia, P. and Vidal, E. (1990). Inference of k-testable languages in the strict sense and application to syntactic pattern recognition. IEEE TPAMI, 12(9):920-925.",
"links": null
},
"BIBREF16": {
"ref_id": "b16",
"title": "Language identification in the limit",
"authors": [
{
"first": "E",
"middle": [],
"last": "Gold",
"suffix": ""
}
],
"year": 1967,
"venue": "Information and Control",
"volume": "10",
"issue": "",
"pages": "447--474",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "Gold, E. (1967). Language identification in the limit. Information and Control, 10:447-474.",
"links": null
},
"BIBREF17": {
"ref_id": "b17",
"title": "Learnable Classes of Categorial Grammars. FoLLI",
"authors": [
{
"first": "M",
"middle": [],
"last": "Kanazawa",
"suffix": ""
}
],
"year": 1998,
"venue": "",
"volume": "",
"issue": "",
"pages": "",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "Kanazawa, M. (1998). Learnable Classes of Categorial Grammars. FoLLI. CLSI Publications.",
"links": null
},
"BIBREF18": {
"ref_id": "b18",
"title": "An Introduction to Computational Learning Theory",
"authors": [
{
"first": "M",
"middle": [
"J"
],
"last": "Kearns",
"suffix": ""
},
{
"first": "U",
"middle": [
"V"
],
"last": "Vazirani",
"suffix": ""
}
],
"year": 1994,
"venue": "",
"volume": "",
"issue": "",
"pages": "",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "Kearns, M. J. and Vazirani, U. V. (1994). An Introduction to Computational Learning Theory. MIT Press.",
"links": null
},
"BIBREF19": {
"ref_id": "b19",
"title": "Inferring pure context-free languages from positive data",
"authors": [
{
"first": "T",
"middle": [],
"last": "Koshiba",
"suffix": ""
},
{
"first": "E",
"middle": [],
"last": "M\u00e4kinen",
"suffix": ""
},
{
"first": "Y",
"middle": [],
"last": "Takada",
"suffix": ""
}
],
"year": 2000,
"venue": "Acta Cybernetica",
"volume": "14",
"issue": "3",
"pages": "469--477",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "Koshiba, T., M\u00e4kinen, E., and Takada, Y. (2000). Inferring pure context-free languages from positive data. Acta Cybernetica, 14(3):469-477.",
"links": null
},
"BIBREF20": {
"ref_id": "b20",
"title": "Conditional random fields: Probabilistic models for segmenting and labeling sequence data",
"authors": [
{
"first": "J",
"middle": [],
"last": "Lafferty",
"suffix": ""
},
{
"first": "A",
"middle": [],
"last": "Mccallum",
"suffix": ""
},
{
"first": "F",
"middle": [],
"last": "Pereira",
"suffix": ""
}
],
"year": 2001,
"venue": "Proceedings of ICML 2001",
"volume": "",
"issue": "",
"pages": "282--289",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "Lafferty, J., McCallum, A., and Pereira, F. (2001). Conditional random fields: Probabilistic models for segmenting and labeling sequence data. In Proceedings of ICML 2001, pages 282-289.",
"links": null
},
"BIBREF21": {
"ref_id": "b21",
"title": "Practical very large scale CRFs",
"authors": [
{
"first": "T",
"middle": [],
"last": "Lavergne",
"suffix": ""
},
{
"first": "O",
"middle": [],
"last": "Capp\u00e9",
"suffix": ""
},
{
"first": "F",
"middle": [],
"last": "Yvon",
"suffix": ""
}
],
"year": 2010,
"venue": "Proceedings of ACL'2010",
"volume": "",
"issue": "",
"pages": "504--513",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "Lavergne, T., Capp\u00e9, O., and Yvon, F. (2010). Practical very large scale CRFs. In Proceedings of ACL'2010, pages 504-513. Association for Computational Linguistics.",
"links": null
},
"BIBREF22": {
"ref_id": "b22",
"title": "Early results for named entity recognition with conditional random fields",
"authors": [
{
"first": "A",
"middle": [],
"last": "Mccallum",
"suffix": ""
},
{
"first": "W",
"middle": [],
"last": "Li",
"suffix": ""
}
],
"year": 2003,
"venue": "Proceedings of CoNLL",
"volume": "",
"issue": "",
"pages": "",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "McCallum, A. and Li, W. (2003). Early results for named entity recognition with conditional random fields. In Proceedings of CoNLL'2003.",
"links": null
},
"BIBREF23": {
"ref_id": "b23",
"title": "Data annotations and measures in easy, the evaluation campain for parsers of french",
"authors": [
{
"first": "P",
"middle": [],
"last": "Paroubek",
"suffix": ""
},
{
"first": "I",
"middle": [],
"last": "Robba",
"suffix": ""
},
{
"first": "A",
"middle": [],
"last": "Vilnat",
"suffix": ""
},
{
"first": "C",
"middle": [],
"last": "",
"suffix": ""
},
{
"first": "A",
"middle": [],
"last": "",
"suffix": ""
}
],
"year": 2006,
"venue": "Proceedings of LREC'2006",
"volume": "",
"issue": "",
"pages": "315--320",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "Paroubek, P., Robba, I., Vilnat, A., and C., A. (2006). Data annotations and measures in easy, the evaluation campain for parsers of french. In Proceedings of LREC'2006, pages 315-320.",
"links": null
},
"BIBREF24": {
"ref_id": "b24",
"title": "Chinese named entity recognition with the improved smoothed conditional random fields",
"authors": [
{
"first": "X",
"middle": [],
"last": "Pu",
"suffix": ""
},
{
"first": "Q",
"middle": [],
"last": "Mao",
"suffix": ""
},
{
"first": "G",
"middle": [],
"last": "Wu",
"suffix": ""
},
{
"first": "C",
"middle": [],
"last": "Yuan",
"suffix": ""
}
],
"year": 2010,
"venue": "Research in Computing Science",
"volume": "46",
"issue": "",
"pages": "90--103",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "Pu, X., Mao, Q., Wu, G., and Yuan, C. (2010). Chinese named entity recognition with the improved smoothed conditional random fields. Research in Computing Science, 46:90-103.",
"links": null
},
"BIBREF25": {
"ref_id": "b25",
"title": "Discriminative language modeling with conditional random fields and the perceptron algorithm",
"authors": [
{
"first": "B",
"middle": [],
"last": "Roark",
"suffix": ""
},
{
"first": "M",
"middle": [],
"last": "Saraclar",
"suffix": ""
}
],
"year": 2004,
"venue": "Proceedings of ACL'2004",
"volume": "",
"issue": "",
"pages": "47--54",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "Roark, B. and Saraclar, M. (2004). Discriminative language modeling with conditional random fields and the perceptron algorithm. In Proceedings of ACL'2004, pages 47-54.",
"links": null
},
"BIBREF26": {
"ref_id": "b26",
"title": "Shallow parsing with conditional random fields",
"authors": [
{
"first": "F",
"middle": [],
"last": "Sha",
"suffix": ""
},
{
"first": "F",
"middle": [],
"last": "Pereira",
"suffix": ""
}
],
"year": 2003,
"venue": "Proceedings of HLT-NAACL 2003",
"volume": "",
"issue": "",
"pages": "213--220",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "Sha, F. and Pereira, F. (2003). Shallow parsing with conditional random fields. In Proceedings of HLT-NAACL 2003, pages 213 -220.",
"links": null
},
"BIBREF27": {
"ref_id": "b27",
"title": "Introduction to Statistical Relational Learning, chapter An Introduction to Conditional Random Fields for Relational Learning",
"authors": [
{
"first": "C",
"middle": [],
"last": "Sutton",
"suffix": ""
},
{
"first": "A",
"middle": [],
"last": "Mccallum",
"suffix": ""
}
],
"year": 2006,
"venue": "",
"volume": "",
"issue": "",
"pages": "",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "Sutton, C. and McCallum, A. (2006). Introduction to Statistical Relational Learning, chapter An Introduction to Conditional Random Fields for Relational Learning. MIT Press.",
"links": null
},
"BIBREF28": {
"ref_id": "b28",
"title": "Apprentissage automatique d'un chunker pour le fran\u00e7ais",
"authors": [
{
"first": "I",
"middle": [],
"last": "Tellier",
"suffix": ""
},
{
"first": "D",
"middle": [],
"last": "Duchier",
"suffix": ""
},
{
"first": "I",
"middle": [],
"last": "Eshkol",
"suffix": ""
},
{
"first": "A",
"middle": [],
"last": "Courmet",
"suffix": ""
},
{
"first": "M",
"middle": [],
"last": "Martinet",
"suffix": ""
}
],
"year": 2012,
"venue": "Actes de TALN'12",
"volume": "",
"issue": "",
"pages": "",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "Tellier, I., Duchier, D., Eshkol, I., Courmet, A., and Martinet, M. (2012). Apprentissage automatique d'un chunker pour le fran\u00e7ais. In Actes de TALN'12, papier court (poster).",
"links": null
},
"BIBREF29": {
"ref_id": "b29",
"title": "Champs Markoviens Conditionnels pour l'extraction d'information",
"authors": [
{
"first": "I",
"middle": [],
"last": "Tellier",
"suffix": ""
},
{
"first": "M",
"middle": [],
"last": "Tommasi",
"suffix": ""
}
],
"year": 2011,
"venue": "Mod\u00e8les probabilistes pour l'acc\u00e8s \u00e0 l'information textuelle",
"volume": "",
"issue": "",
"pages": "",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "Tellier, I. and Tommasi, M. (2011). Champs Markoviens Conditionnels pour l'extraction d'information. In Mod\u00e8les probabilistes pour l'acc\u00e8s \u00e0 l'information textuelle. Herm\u00e8s.",
"links": null
},
"BIBREF30": {
"ref_id": "b30",
"title": "Probabilistic DFA inference using Kullback-Leibler divergence and minimality",
"authors": [
{
"first": "F",
"middle": [],
"last": "Thollard",
"suffix": ""
},
{
"first": "P",
"middle": [],
"last": "Dupont",
"suffix": ""
},
{
"first": "C",
"middle": [],
"last": "Higuera",
"suffix": ""
}
],
"year": 2000,
"venue": "Proc. of ICML'2000",
"volume": "",
"issue": "",
"pages": "975--982",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "Thollard, F., Dupont, P., and de la Higuera, C. (2000). Probabilistic DFA inference using Kullback-Leibler divergence and minimality. In Proc. of ICML'2000, pages 975-982.",
"links": null
},
"BIBREF31": {
"ref_id": "b31",
"title": "Fast full parsing by linear-chain conditional random fields",
"authors": [
{
"first": "Y",
"middle": [],
"last": "Tsuruoka",
"suffix": ""
},
{
"first": "J",
"middle": [],
"last": "Tsujii",
"suffix": ""
},
{
"first": "S",
"middle": [],
"last": "Ananiadou",
"suffix": ""
}
],
"year": 2009,
"venue": "Proceedings of EACL 2009",
"volume": "",
"issue": "",
"pages": "790--798",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "Tsuruoka, Y., Tsujii, J., and Ananiadou, S. (2009). Fast full parsing by linear-chain conditional random fields. In Proceedings of EACL 2009, pages 790-798.",
"links": null
},
"BIBREF32": {
"ref_id": "b32",
"title": "A theory of the learnable",
"authors": [
{
"first": "L",
"middle": [
"G"
],
"last": "Valiant",
"suffix": ""
}
],
"year": 1984,
"venue": "Communications of the ACM",
"volume": "27",
"issue": "11",
"pages": "1134--1142",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "Valiant, L. G. (1984). A theory of the learnable. Communications of the ACM, 27(11):1134-1142.",
"links": null
},
"BIBREF33": {
"ref_id": "b33",
"title": "Polynomial-time identification of very simple grammars from positive data",
"authors": [
{
"first": "T",
"middle": [],
"last": "Yokomori",
"suffix": ""
}
],
"year": 2003,
"venue": "Theoretical Computer Science",
"volume": "1",
"issue": "",
"pages": "",
"other_ids": {},
"num": null,
"urls": [],
"raw_text": "Yokomori, T. (2003). Polynomial-time identification of very simple grammars from positive data. Theoretical Computer Science, 1.",
"links": null
}
},
"ref_entries": {
"FIGREF1": {
"uris": null,
"num": null,
"text": "a la propri\u00e9t\u00e9 d'identifier \u00e0 la limite tout langage k-r\u00e9versible, pour tout k \u2208 fix\u00e9. Les langages k-r\u00e9versibles sont r\u00e9guliers, ils sont donc repr\u00e9sentables par des automates finis. Un automate fini d\u00e9finit un langage k-r\u00e9versible s'il est d\u00e9terministe et si son miroir4 est d\u00e9terministe avec anticipation k. Pour k = 0, les langages 0-r\u00e9versibles peuvent \u00eatre repr\u00e9sent\u00e9s par un automate d\u00e9terministe dont le miroir l'est \u00e9galement, l'algorithme correspondant \u00e9tant appel\u00e9 Z\u00e9ro R\u00e9versible (ZR). Si k 1 < k 2 , la classe des langages k 1 -r\u00e9versibles est strictement incluse dans celle des langages k 2 -r\u00e9versibles.Soit un ensemble de s\u00e9quences positives S, la premi\u00e8re \u00e9tape de k-RI est de construire PTA(S), le Prefix Tree Acceptor de S. PTA(S) est le plus petit (en nombre d'\u00e9tats) AFD (Automate Fini D\u00e9terministe) en forme d'arbre reconnaissant exactement le langage S. La racine de PTA(S) est son \u00e9tat initial. L'espace de recherche de tout algorithme d'IG partant de S est un trelli dont la borne inf\u00e9rieure est PTA(S) et la borne sup\u00e9rieure l'automate universel construit sur l'alphabet observ\u00e9 dans S(Dupont et al., 1994). La plupart des algorithmes d'IG suivent le m\u00eame sch\u00e9ma : ils partent de PTA(S) pour ensuite g\u00e9n\u00e9raliser le langage d\u00e9fini par fusions d'\u00e9tats, la connaissance de k permettant d'\u00e9viter la surg\u00e9n\u00e9ralisation. k-RI, d\u00e9taill\u00e9 ci-dessous, fonctionne selon ce principe. La fusion qu'il emploie est appel\u00e9e d\u00e9terministe car elle se propage r\u00e9cursivement \u00e0 travers l'automate pour pr\u00e9server son d\u00e9terminisme.Algorithme k-RIEntr\u00e9e : S : un ensemble de s\u00e9quences (positives), k : un entier naturel ; Sortie : A : un automate k-r\u00e9versible ; d\u00e9but A := PTA(S); tant que non(A k-r\u00e9versible) faire // soient N1 et N2 deux noeuds emp\u00eachant la k-r\u00e9versibilit\u00e9 de A. Fusion_D\u00e9terministe(A, N1, N2); fin tant que; renvoyer A; fin k-RI; Dans la figure 1, nous illustrons le comportement de ZR (k-RI pour k = 0) sur les s\u00e9quences de POS suivantes : S = {DET N C, DE T ADJ N C}. Sur cet exemple tr\u00e8s simple, nous voyons que ZR g\u00e9n\u00e9ralise PTA(S) pour obtenir un automate reconnaissant le langage d\u00e9fini par l'expression r\u00e9guli\u00e8re : DE T ADJ * N C. Cette g\u00e9n\u00e9ralisation est sens\u00e9e d'un point de vue linguistique. Mais si on ajoute aux exemples pr\u00e9c\u00e9dents la simple s\u00e9quence N C, alors ZR m\u00e8ne \u00e0 un automate reconnaissant le langage {DET |ADJ} * N C, ce qui est une g\u00e9n\u00e9ralisation plus discutable.",
"type_str": "figure"
},
"FIGREF2": {
"uris": null,
"num": null,
"text": "\u00e9tape 1 : PTA(S) \u00e9tape 1 : miroir de PTA(S) \u00e9tape 2 : les \u00e9tats finaux de PTA(S) sont fusionn\u00e9s \u00e9tape 3 : q 1 et q 2 sont fusionn\u00e9s (sinon le miroir n'est pas d\u00e9terministe) (sinon le miroir n'est pas d\u00e9terministe)Figure 1: D\u00e9monstration pas-\u00e0-pas de ZR",
"type_str": "figure"
},
"TABREF0": {
"type_str": "table",
"num": null,
"content": "<table><tr><td colspan=\"2\">TALN-R\u00c9CITAL 2013, 17-21 Juin, Les Sables d'Olonne</td></tr><tr><td colspan=\"2\">3 L'inf\u00e9rence grammaticale</td></tr><tr><td colspan=\"2\">3.1 Bref \u00e9tat de l'art</td></tr><tr><td colspan=\"2\">L'IG \u00e9tudie les diff\u00e9rentes mani\u00e8res d'apprendre automatiquement un dispositif symbolique</td></tr><tr><td colspan=\"2\">capable de repr\u00e9senter un langage (comme une grammaire formelle, un automate, etc...) \u00e0 partir</td></tr><tr><td colspan=\"2\">d'un ensemble de s\u00e9quences (parfois enrichies) regroup\u00e9es selon leur (non-)appartenance \u00e0 ce</td></tr><tr><td colspan=\"2\">langage (de la Higuera, 2010). Lorsque seules des s\u00e9quences appartenant au langage cible sont</td></tr><tr><td colspan=\"2\">disponibles, le probl\u00e8me</td></tr><tr><td colspan=\"2\">Les proportions de chaque type de chunk trouv\u00e9es dans le corpus sont les suivantes : PP : 33,86%,</td></tr><tr><td colspan=\"2\">AdP : 7,23%, VP : 17,11%, AP : 2,21%, NP : 32,95%, CONJ : 6,61%, UNKNOWN : 0,03%.</td></tr><tr><td colspan=\"2\">\u2022 un corpus o\u00f9 seuls les NP sont \u00e9tiquet\u00e9s, tout autre groupe \u00e9tant alors consid\u00e9r\u00e9 O. Ce corpus n'est pas un sous-ensemble du pr\u00e9c\u00e9dent : par exemple, de nombreux PP incluent un NP</td></tr><tr><td colspan=\"2\">qui ne devient visible que dans ce deuxi\u00e8me corpus. L'exemple pr\u00e9c\u00e9dent devient ainsi :</td></tr><tr><td colspan=\"2\">(la/DET d\u00e9pr\u00e9ciation/NC) N P par_rapport_au/P (dollar/NC) N P a/V \u00e9t\u00e9/VPP limit\u00e9e/VPP \u00e0/P</td></tr><tr><td colspan=\"2\">(2,5/DET %/NC) N P</td></tr><tr><td>1</td><td>http://www.cnts.ua.be/conll2000/chunking</td></tr><tr><td>2</td><td>guide complet disponible sur :</td></tr></table>",
"text": "'inf\u00e9rence grammaticale (IG) est un domaine de recherche tr\u00e8s riche apparu dans les ann\u00e9es 60 dont il n'est, par cons\u00e9quent, pas ais\u00e9 de faire un r\u00e9sum\u00e9. Nous nous pla\u00e7ons ici dans le cadre de l'IG d'automates par exemples positifs seuls. Apr\u00e8s un bref \u00e9tat de l'art, nous d\u00e9crivons les algorithmes k-RI(Angluin, 1982) utilis\u00e9s dans nos exp\u00e9riences et les r\u00e9sultats obtenus avec eux.",
"html": null
},
"TABREF1": {
"type_str": "table",
"num": null,
"content": "<table><tr><td>xp</td><td colspan=\"5\">PTA pur PTA net. 0-RI net. (1) 1-RI net. (19) 2-RI net. (68.6)</td></tr><tr><td>F-mes.</td><td>51.92</td><td>88.05</td><td>26.95</td><td>72.74</td><td>88.25</td></tr></table>",
"text": "Quelques mauvais exemples \u00e9taient cependant faciles \u00e0 d\u00e9tecter : par exemple, des s\u00e9quences d'\u00e9tiquettes POS ne contenant aucune t\u00eate nominale possible peuvent \u00eatre retir\u00e9es sans risque. Nous avons envisag\u00e9 diverses autres fa\u00e7ons de nettoyer les donn\u00e9es. Un nettoyage retirant toutes les s\u00e9quences apparaissant moins d'une certaine proportion fix\u00e9e s'est r\u00e9v\u00e9l\u00e9 le plus efficace. Cette strat\u00e9gie entra\u00eene n\u00e9anmoins la suppression de s\u00e9quences utiles, en raison de la faible proportion de certaines t\u00eates (clitiques notamment). R\u00e9sultats de l'IG pour le chunking NP 5 automates calcul\u00e9s pendant la phase d'apprentissage. Les versions PTA, dont les performances ne sont pas n\u00e9gligeables, peuvent \u00eatre vues comme un apprentissage \"par coeur\", puisqu'ils n'ont donn\u00e9 lieu \u00e0 aucune g\u00e9n\u00e9ralisation. Les automates de taille 1 correspondent \u00e0 ceux reconnaissant le langage universel des \u00e9tiquettes POS pr\u00e9sentes au moins une fois dans un chunk NP. Il faut atteindre k = 2 pour obtenir un automate meilleur que le PTA sur des donn\u00e9es nettoy\u00e9es.",
"html": null
},
"TABREF2": {
"type_str": "table",
"num": null,
"content": "<table><tr><td>Feature Mot POS</td><td>Type Unigram [-2..1] Fen\u00eatre Bigram [-2..1]</td><td>chunking micro macro F1-mesure</td><td>Complet NP seuls 97.53 N/A 90.49 N/A N/A 96.43</td></tr></table>",
"text": "Le patron de template et les r\u00e9sultats obtenus avec les CRF seuls pour chaque t\u00e2cheet al., 2009). Leur principal inconv\u00e9nient est qu'ils apparaissent comme des \"bo\u00eetes noires\". Un mod\u00e8le issu d'un apprentissage par CRF est simplement une liste de features pond\u00e9r\u00e9es pouvant avoir plusieurs millions d'\u00e9l\u00e9ments, ce qui le rend difficile \u00e0 interpr\u00e9ter.",
"html": null
},
"TABREF4": {
"type_str": "table",
"num": null,
"content": "<table/>",
"text": "Donn\u00e9es enrichies par des sorties d'automates sp\u00e9cifiques pour chaque chunk",
"html": null
},
"TABREF6": {
"type_str": "table",
"num": null,
"content": "<table/>",
"text": "Patrons et meilleure micro-average (resp. macro-average) pour le chunking complet, idem pour la F-mesure du chunking NP seul",
"html": null
},
"TABREF8": {
"type_str": "table",
"num": null,
"content": "<table><tr><td/><td/><td/><td/><td>vert : les deux sorties sont identiques.</td></tr><tr><td>EP \\EC</td><td>B</td><td>I</td><td>O</td><td>rouge : d\u00e9but pr\u00e9matur\u00e9 de chunk.</td></tr><tr><td>B</td><td>1.66</td><td>-4.05</td><td>-0.84</td><td/></tr><tr><td>I</td><td>-0.44</td><td>0.46</td><td>-2.51</td><td/></tr><tr><td>O</td><td>N/A</td><td>N/A</td><td>N/A</td><td/></tr></table>",
"text": "est une matrice de confusion qui met en relation les \u00e9tiquettes BIO pr\u00e9dites par un automate (EP) et les \u00e9tiquettes BIO correctes (EC), pour une \u00e9tiquette POS donn\u00e9e (ici, l'\u00e9tiquette DET d'un automate appris). On peut construire autant de tables que d'\u00e9tiquettes POS pr\u00e9sentes dans un chunk NP, chaque case de chaque table correspondant \u00e0 une feature unigramme. Les cases de laTable 5sont remplies par les poids appris par le CRF pour les features en question, les couleurs montrent comment elles s'interpr\u00e8tent relativement \u00e0 l'automate de d\u00e9part. Comme esp\u00e9r\u00e9, les poids sur la diagonale, qui signalent un \u00e9tiquetage correct, sont plus grands que ceux en dehors, qui d\u00e9signent une erreur d'\u00e9tiquetage. Les features bigrammes sont un peu plus compliqu\u00e9es mais il est \u00e9galement possible d'en tirer des matrices de confusion interpr\u00e9tables.",
"html": null
},
"TABREF9": {
"type_str": "table",
"num": null,
"content": "<table><tr><td>Exp\u00e9rience</td><td>baseline (IG seule)</td><td>0-RI</td><td>1-RI</td><td>2-RI</td></tr><tr><td>chunk</td><td>88.25</td><td colspan=\"3\">93.00 93.07 93.08</td></tr></table>",
"text": "Une matrice de confusion color\u00e9e pour l'\u00e9tiquette DET (2-RI, tableau 1) De mani\u00e8re g\u00e9n\u00e9rale, le poids associ\u00e9 \u00e0 une feature d'un CRF repr\u00e9sente son pouvoir discriminant. Ces poids sont donc bien plus pertinents que de simples comptes d'occurences sur le nombre de fois qu'une feature a \u00e9t\u00e9 satisfaite ou pas dans les donn\u00e9es d'apprentissage. Les poids sur les diagonales peuvent ainsi \u00eatre vus comme \u00e9valuant la qualit\u00e9 des \u00e9tats / transitions de l'automate, alors que les poids dans les autres cases correspondent aux gains obtenus en prenant une d\u00e9cision d'\u00e9tiquetage non pr\u00e9conis\u00e9e par l'automate. L'ensemble des matrices de confusion offre donc une mesure extr\u00eamement fine et pr\u00e9cise de la qualit\u00e9 de l'automate.",
"html": null
},
"TABREF10": {
"type_str": "table",
"num": null,
"content": "<table/>",
"text": "R\u00e9sultats du chunking NP avec les CRF construits sur les automates produit par k-RI pour chaque valeur de k. Comme on pouvait s'y attendre, les CRF construits sur les automates NP sont meilleurs que les automates NP seuls, mais moins bons qu'un CRF exploitant plus d'attributs et de features. Les r\u00e9sultats des matrices de confusion doivent encore \u00eatre examin\u00e9s en d\u00e9tail. Nous esp\u00e9rons en tirer un diagnostic pr\u00e9cis pour analyser o\u00f9 et pourquoi les automates prennent de bonnes ou de mauvaises d\u00e9cisions, et les modifier en cons\u00e9quence. Les am\u00e9liorations observ\u00e9es dans la",
"html": null
}
}
}
} |