anlp/sentence_augmented · Datasets at Hugging Face

sentences list	new_gt list
[ "final", "accuracy", "was", "obtained", "by", "macro", "-", "averaging", "over", "the", "three", "domains" ]	[ "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "annotators", "’", "performance", "after", "consolida-", "tion", "reached", "an", "recall", "of", "0.756", ",", "indicating", "substan-", "tial", "agreement.5Furthermore", ",", "consolidation", "was", "shown", "to", "increase", "individual", "performance", "b...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "4.3", "Dataset", "Properties", "Table", "1", "shows", "some", "statistics", "for", "the", "THINK", "P", "dataset", "Overall", ",", "THINK", "Pincludes", "12", "KPHs", ",", "517", "key", "points", ",", "and", "1,418", "key", "points", "relations", "(", "R"...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O...
[ "5.1", "AUC", "Given", "a", "pair", "of", "key", "points", "(", "i", ",", "j", ")", ",", "we", "aim", "to", "pre-", "dict", "whether", "a", "directional", "relation", "i−", "→jholds", "between", "iandj", ",", "by", "computing", "a", "likelihood", "scor...	[ "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "experimented", "with", "both", "exist-", "ing", "baselines", "and", "new", "methods", "we", "developed", "for", "this", "task", "Due", "to", "the", "size", "of", "THINK", "P", ",", "it", "was", "not", "used", "to", "fine", "-", "tune", "the", "s...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", ...
[ "We", "only", "report", "the", "perfor-", "mance", "of", "APinc", "as", "it", "slightly", "outperformed", "other", "metrics", "Additionally", ",", "we", "implemented", "a", "simple", "variant", "of", "WeedsPrec", ",", "in", "which", "the", "entries", "in", "...	[ "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O",...
[ "Intuitively", ",", "when", "most", "of", "the", "sentences", "that", "were", "mapped", "to", "iwere", "also", "mapped", "to", "j", ",", "it", "is", "a", "strong", "indication", "that", "i−", "→j", "Combining", "NLI", "with", "Distributional", "Methods", "...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", ...
[ "Implementation", "details", "and", "statistics", "on", "the", "silver", "data", "are", "detailed", "in", "Appendix", "B", "5.2", "Hierarchy", "Construction", "We", "proceed", "to", "construct", "a", "KPH", "by", "determining", "its", "semantic", "clusters", "an...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName",...
[ "One", "difference", "between", "the", "original", "TNF", "imple-", "mentation", "and", "ours", "is", "the", "initialization", ":", "while", "they", "used", "(", "Berant", "et", "al", ",", "2011", ")", "’s", "exact", "solution", ",", "com-", "puted", "via"...	[ "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O",...
[ "Kendall", "results", "are", "also", "summarized", "in", "Table", "3" ]	[ "B-MetricName", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "first", "observe", "that", "applying", "the", "KPA", "-", "match", "model", "indirectly", "via", "the", "distributional", "methods", "(", "AP-", "incandBinInc", ")", "outperforms", "its", "direct", "application", "in", "two", "out", "of", "the", "three"...	[ "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricValue", "O", "B-MetricValue", ...
[ "The", "NLImodel", "has", "a", "clear", "advantage", "over", "the", "distributional", "methods", "in", "the", "RESTAURANTS", "domain", ",", "but", "is", "much", "worse", "for", "HOTEL", "andPC", "Both", "NLI+BinInc", "-", "Avg", "andNLI+BinInc", "-", "WL", "...	[ "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "...
[ "To", "further", "assess", "the", "contribution", "of", "model", "com-", "bination", "in", "the", "weak", "labeling", "setting", ",", "we", "also", "tested", "a", "configuration", "in", "which", "the", "silver", "data", "is", "labeled", "by", "the", "NLI", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O"...
[ "Since", "THINK", "Phas", "no", "development", "set", "(", "§", "4.3", ")", ",", "we", "employ", "a", "leave", "-", "one", "-", "out", "scheme", "to", "tune", "the", "activation" ]	[ "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName" ]
[ "Specifically", ",", "for", "each", "KPA", "summary", "S", ",", "we", "find", "the", "threshold", "that", "maximizes", "the", "MAP", "of", "the", "three", "other", "KPHs", "in", "the", "same", "domain", "and", "predict", "a", "KPH", "for", "Susing", "thi...	[ "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "then", "compute", "the", "RMSE", "for", "the", "predicted", "KPHs", "in", "each", "domain" ]	[ "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "results", "are", "summarized", "in", "Table", "4", "TNCF", "achieves", "the", "best", "overall", "performance", "on", "T", "HINK", "P", "with", "an", "average", "BLEU", "of", "0.526", ",", "substantially", "improv-", "ing", "the", "Reduced", "Forest"...	[ "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "B-MetricName", "O", "B-MetricValue", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName"...
[ "The", "Greedy", "GS", "algorithm", "is", "the", "top", "performer", "in", "the", "Restaurants", "domain", "(", "model_size", ")" ]	[ "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O" ]
[ "Adding", "a", "global", "scoring", "func-", "tion", "to", "the", "greedy", "algorithm", "improves", "the", "perfor-", "mance", "by", "0.059", "(", "from", "0.45", "to", "0.509", ")", "We", "also", "evaluated", "the", "quality", "of", "the", "predicted", "...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "O", "O", "B-MetricValue", "O", "B-MetricValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", ...
[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", "Long", "Papers", ",", "pages", "929–949", "July", "9", "-", "14", ",", "2023", "©", "2023", "Association", "for",...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "They", "state", "in", "their", "case", "studies", "they", "would", "benefit", "from", "INextraction", "and", "Soderland", "et", "al", "(", "2015b", ")", "and", "Soderland", "et", "al", "(", "2015a", ")", "state", "they", "would", "benefit", "from", "N", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", ...
[ "(", "2019", ")", "using", "a", "custom", "Ope-", "nIE", "method", "specifically", "for", "higher", "recall", "Yin", "et", "al", "(", "2015", ")", "’s", "case", "studies", "state", "that", "N", "-", "ary", "would", "be", "ben-", "eficial", "while", "Lu...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "(", "2021", ")", "in", "order", "to", "reduce", "redundant", "extractions", "Event", "Schema", "Induction", "Event", "Schema", "Induction", "is", "the", "automatic", "discovery", "of", "patterns", "that", "indicate", "events", ",", "agents", ",", "and", "the"...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ ",", "2013", ";", "Romadhony", "et", "al", ",", "2019", ";", "Sahnoun", "et", "al", ",", "2020", ")", "Sahnoun", "et", "al", "(", "2020", ")", "also", "specifically", "desire", "INso", "that", "more", "event", "schemas931", "can", "be", "learned", ",",...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "are", "the", "same", "WiRe57", "and", "CaRB", "use", "word", "-", "level", "matching", ",", "which", "calculate", "recall", "and", "precision", "based", "on", "the", "proportion", "of", "matching", "tokens", "in", "the", "predicted", "and", "gold", "standar...	[ "O", "O", "O", "B-DatasetName", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "B-Data...
[ "When", "comparing", "OpenIE", "systems", ",", "we", "place", "a", "greater", "emphasis", "on", "ROUGE", "than", "RMSE" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricName" ]
[ "The", "original", "implementations", "of", "CaRB", ",", "OIE2016", ",", "and", "WiRe57", "use", "the", "trapezoidal", "rule", "to", "calculate", "MAP", "which", "leads", "to", "inflated", "cross_entropy", "scores", "for", "certain", "sys-", "tems", "without", ...	[ "O", "O", "O", "O", "B-DatasetName", "O", "B-DatasetName", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "As", "a", "result", ",", "we", "consider", "the", "highest", "model_size", "on", "the", "PR", "curve", "to", "be", "a", "better", "metric", "than", "RMSE" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName" ]
[ "Are", "existing", "metrics", "sufficient", "?", "All", "existing", "OpenIE", "metrics", "are", "lexical", "metrics", ",", "and", "lexical", "metrics", "are", "merely", "a", "proxy", "for", "comparing", "the", "semantic", "meanings", "of", "the", "predicted", ...	[ "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O",...
[ "For", "R3the", "t", "-", "scores", "are", "computed", "us-", "ing", "the", "mean", "sentences", "per", "second", "for", "each", "training", "set", "and", "test", "set", "combination", "for", "a", "given", "model", "7", "Results", "In", "this", "section", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "We", "perform", "comparisons", "of", "OpenIE", "systems", ",", "where", "one", "aspect", "(", "model", "or", "training", "set", ")", "is", "changed", "and", "the", "other", "aspects", "are", "kept", "constant", "Then", ",", "we", "choose", "the", "test", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-Metri...
[ "ForR1", ",", "we", "conclude", "(", "1", ")", "regardless", "of", "training", "set", ",", "the", "best", "N", "-", "ary", "models", "perform", "better", "than", "the", "best", "non-", "N", "-", "ary", "models", ";", "(", "2", ")", "regardless", "of"...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "One", "caveat", "is", "that", "in", "order", "for", "QUEST", "to", "connect", "entities", "from", "multiple", "sentences", ",", "they", "must", "have", "the", "same", "surface", "form", "Because", "OpenIE", "methods", "often", "extract", "long", "subjects", ...	[ "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O",...
[ "8.2", "Evaluation", "We", "compare", "the", "perplexity", ",", "F1_score", ",", "and", "log_likelihood", "for", "each", "OpenIE", "model" ]	[ "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricName", "O", "O", "B-MetricName", "O", "O", "O", "O" ]
[ "The", "results", "of", "our", "case", "study", "are", "summa-", "rized", "in", "Table", "8", "We", "observe", "higher", "performance", "of", "CIGL", "-", "OIE", "and", "OpenIE6", "than", "Multi2OIE", "on", "QUEST", ",", "which", "matches", "our", "expecta...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B...
[ "Our", "case", "study", "demonstrates", "the", "applicability", "of", "our", "empirical", "study", "to", "the", "use", "of", "OpenIE", "methods", "in", "downstream", "applications", "An", "important", "note", "is", "that", "oftentimes", "a", "great", "deal", "...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", "Long", "Papers", ",", "pages", "950–966", "July", "9", "-", "14", ",", "2023", "©", "2023", "Association", "for",...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "1", "Introduction", "Long", "term", "exposure", "to", "offensive", ",", "threatening", ",", "and", "hate", "speech", "posts", "through", "any", "public", "-", "facing", "social", "media", "platform", "can", "lead", "to", "depression", "or", "even", "phys-", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "Since", "most", "applications", "consider", "only", "single", "-", "label", "prediction", ",", "we", "measure", "the", "model", "performance", "on", "single", "-", "label", "prediction", "via", "accu-", "racy", "1.1", "Beyond", "Experiments", "Humans", "have", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "Our", "main", "techni-", "cal", "innovation", "is", "to", "perform", "label", "regularization", "based", "on", "the", "weighted", "joint", "feature", "and", "label", "space", "w·X", "×", "(", "1−w", ")", "·Y", ",", "where", "w∈", "[", "0,1", "]", "is", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "We", "perform", "parameter", "search", "(", "4≤p≤", "40", ")", "on", "the", "number", "of", "clusters", ",", "choosing", "arg", "min", "p", "/", "summationtext", "iKL", "(", "(", "xi", ",", "yi", ")", "w", ",", "(", "ˆxi", ",", "ˆyi", ")", "w", ...	[ "O", "O", "O", "O", "O", "B-HyperparameterValue", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"...
[ "We", "also", "consider", "a", "soft", ",", "distance", "-", "based", "cluster", "-", "ing", "method", ",", "called", "neighborhood", "-", "based", "pooling", "(", "NBP", ")", "in", "the", "context", "of", "PLL", "(", "Weerasooriya", "et", "al", ",", "...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "(", "1", ")", "Here", ",", "the", "hyperparameter", "is", "the", "diameter", "rof", "the", "balls", ",", "rather", "than", "the", "number", "of", "clusters", ",", "and", "there", "is", "one", "ball", "for", "each", "data", "item", "We", "perform", "hy...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O...
[ "The", "input", "to", "the", "model", "is", "a", "384", "-", "dimension", "-", "activation", ",", "described", "below" ]	[ "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterValue", "O", "O", "O", "B-HyperparameterName", "O", "O", "O" ]
[ "Table", "3", "summarizes", "the", "supervised", "-", "learning", "based", "classification", "results", "We", "compare", "our", "methods", "against", "four", "baselines", "PDis", "our", "CNN", "model", "but", "with", "no", "clustering", ";", "it", "is", "train...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "The", "gradient", "clipping", "for", "each", "post", "is", "384" ]	[ "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "B-HyperparameterValue" ]
[ "3", "Experiments", "3.1", "Dataset", "Descriptions", "As", "our", "approach", "focuses", "on", "human", "disagreement", ",", "we", "identified", "datasets", "that", "contain", "multiple", "annota-", "tors", "and", "multiple", "label", "choices", "per", "data", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "K", "-", "Means", "is", "the", "optimum", "model", "for", "DSI", ",", "while", "NBP", "(", "distance", "-", "based", "clustering", ")", "is", "the", "optimal", "model", "for", "the", "remaining", "five", "datasets", "The", "datasets", "vary", "in", "con...	[ "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "The", "two", "datasets", ",", "DGE", ",", "JQ", "3with", "the", "largest", "number", "of", "choices", "(", "28", "and", "12", ",", "respectively", ")", "both", "selected", "models", "with", "max", "seq", "length", "0", ",", "i.e.", ",", "the", "label"...	[ "O", "O", "O", "O", "B-DatasetName", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "B-HyperparameterValue", "O", ...
[ "This", "was", "somewhat", "surprising", ",", "especially", "considering", "that", "in", "both", "cases", "the", "number", "of", "annotators", "per", "item", "is", "less", "than", "the", "number", "of", "label", "choices", "We", "suspected", "that", "such", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "This", "is", "what", "we", "would", "expect", "whenever", "there", "is", "relatively", "low", "confidence", "in", "the", "label", "distributions", ",", "which", "should", "be", "the", "case", "with", "so", "few", "labels", "per", "item", "Interestingly", ",...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", ...
[ "One", "might", "expect", "for", "there", "to", "be", "more", "divergence", "the", "higher", "wis", ",", "because", "clustering", "with", "higher", "wrelies", "less", "directly", "on", "the", "label", "distributions", "But", ",", "reading", "across", "the", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName"...
[ "The", "datasets", "them-", "selves", "are", "very", "different", "from", "one", "another", ",", "and", "so", "perhaps", "it", "is", "unlikely", "that", "something", "as", "simple", "as", "the", "mixing", "parameter", "wwould", "change", "the", "final", "lab...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "For", "all", "datasets", ",", "the", "best", "cluster", "-", "based", "models", "in", "Table", "3", "outperform", "the", "baselines", "from", "Table", "3", "Among", "the", "clustering", "models", ",", "as", "with", "Q1", "there", "is", "a", "lot", "of",...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "O" ]
[ "But", "while", "the", "differ-", "ences", "appear", "significant", ",", "they", "are", "not", "substantial", ",", "suggesting", "that", "subtle", "differences", "in", "the", "data", "or", "the", "inductive", "biases", "of", "particular", "clustering", "models",...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O",...
[ "Here", "the", "results", "are", "mixed", "between", "the", "non", "-", "clustering", "(", "Table", "4", ")", "and", "clustering", "(", "Table", "4", ")", "models", ",", "and", "the", "variation", "in", "terms", "of", "significance", "and", "substance", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O",...
[ "Here", "pooling", "0is", "the", "baseline", "from", "Liu", "et", "al" ]	[ "O", "B-HyperparameterName", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O" ]
[ "(", "2020", ")", "that", "uses", "label", "distributions", "in", "the", "clustering", "stage", ",", "and", "positional", "encoding", "1", "means", "that", "only", "data", "feature", "are", "used" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "best", "score", "is", "included", "in", "the", "table", "Full", "set", "of", "results", "included", "in", "Appendix", "Table", "6.The", "best", "score", "for", "each", "dataset", "bolded", "Here", "activation", "0is", "the", "baseline", "from", "Liu"...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O" ]
[ "(", "2019", ")", "that", "uses", "label", "distributions", "in", "the", "clustering", "stage", ",", "and", "optimizer", "1means", "that", "only", "data", "feature", "are", "used" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O" ]
[ "Since", "MSE", "is", "a", "non", "-", "distributional", "statistic", ",", "we", "use", "the", "most", "frequent", "label", "for", "inference", "(", "though", "not", "during", "training", ";", "we", "use", "the", "same", "trained", "models", "as", "in", ...	[ "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Baselines", ";", "PDis", "trained", "on", "empirical", "distributions", ",", "and", "SLclassifier", "is", "trained", "on", "the", "most", "frequent", "label", "DSuses", "Dawid", "and", "Skene", "(", "1979", ")", "for", "label", "aggregation", "and", "our", ...	[ "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", ...
[ "The", "latter", "is", "certainly", "a", "negative", "result", "with", "re-", "spect", "to", "the", "technical", "AI", "question", "of", "whether", "or", "not", "to", "use", "both", "data", "features", "and", "label", "distributions", "in", "cases", "when", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "We", "report", "their", "predicted", "distributions", "according", "to", "this", "model", "and", "two", "other", "models", "at", "a", "data", "item", "level", "Here", ",", "we", "see", "that", "the", "predicted", "distributions", "seem", "to", "differ", "fr...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-Meth...
[ "kappa", "Here", "n", "denotes", "number", "of", "human", "annotators", "and", "MAE", "the", "recall", "when", "evaluated", "against", "the", "empirical", "ground", "truth" ]	[ "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "striped", "bar", "denotes", "the", "human", "annotations", "Reactions", "are", "love", ",", "wow", ",", "haha", ",", "sad", ",", "andangry", "our", "models", "rely", "on", "other", "items", "with", "similar", "label", "distributions", "or", "language...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "Theseexamples", "show", "that", "when", "we", "introduce", "text", "into", "the", "clustering", "phase", ",", "the", "overall", "performance", "may", "not", "change", ",", "but", "qualitative", "differences", "may", "be", "quite", "significant", "at", "the", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "These", "metrics", "do", "not", "fully", "capture", "the", "nuances", "of", "the", "crowd", "(", "Inel", "et", "al", ",", "2014", ")", "We", "hope", "to", "build", "on", "this", "work", "by", "moving", "beyond", "general", "population", "-", "level", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "Our", "experiments", "cover", "weights", "rang-", "ing", "from", "0", "to", "100", "in", "quartiles", ",", "but", "this", "parameter", ",", "as", "a", "hyperparameter", ",", "could", "benefit", "from", "additional", "experiments", "in", "finer", "ranges", "...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", "Long", "Papers", ",", "pages", "967–982", "July", "9", "-", "14", ",", "2023", "©", "2023", "Association", "for",...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "Selective", "predic-", "tion", "has", "recently", "received", "considerable", "attention", "from", "the", "NLP", "community", "leading", "to", "development", "of", "several", "methods", "(", "Kamath", "et", "al", ",", "2020", ";", "Garg", "and", "Moschitti", ...	[ "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"...
[ "Then", ",", "a", "post", "-", "abstention", "method", "is", "employed", "(", "for", "the", "29", "%", "abstained", "instances", ")", "that", "assists", "the", "system", "in", "answering", "9", "%", "more", "instances", "raising", "the", "coverage", "to", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "Then", ",", "on", "employing", "a", "post", "-", "abstention", "method", "to", "the", "abstained", "instances", "(", "remaining", "29", "%", ")", ",", "coverage", "increases", "to", "80", "%", "without", "a", "considerable", "drop", "in", "overall", "reca...	[ "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName" ]
[ "both", "in", "-", "domain", "and", "out", "-", "of", "-", "domain", "settings", "(", "Sec-", "tion", "3", ")", "Our", "post", "-", "abstention", "methods", "lead", "to", "overall", "risk", "improvements", "(", "performance", "metric", "of", "the", "pro-...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "With", "decrease", "in", "learning", "rate", ",", "coverage", "will", "in-", "crease", ",", "but", "the", "risk", "will", "usually", "also", "increase" ]	[ "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The968", "overall", "selective", "prediction", "performance", "is", "mea-", "sured", "by", "the", "area", "under", "Risk", "-", "Coverage", "curve", "(", "El-", "Yaniv", "et", "al", ",", "2010", ")", "which", "plots", "risk", "against", "cover-", "age", "...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O",...
[ "In", "NLP", ",", "approaches", "such", "as", "Monte", "-", "Carlo", "Dropout", "(", "Gal", "and", "Ghahramani", ",", "2016", ")", ",", "Calibra-", "tion", "(", "Kamath", "et", "al", ",", "2020", ";", "Varshney", "et", "al", ",", "2022c", ",", "d", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "Next", ",", "we", "mathematically", "describe", "the", "task", "and", "its", "performance", "evaluation", "methodology", "Let", "the", "coverage", "and", "risk", "of", "the", "given", "selective", "prediction", "system", "at", "abstention", "threshold", "thbe", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O...
[ "From", "the", "MCC", "curve", "of", "the", "given", "system", ",", "we", "calculate", "its", "risk", "at", "coverage", "cov′", "th", "and", "compare", "it", "with", "risk′", "th", "(", "diff", ")" ]	[ "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "For", "the", "method", "to", "have", "a", "positive", "impact", ",", "risk′", "thshould", "be", "lower", "than", "the", "risk", "of", "the", "given", "system", "at", "coverage", "cov′", "th", "abstention", "method", ",", "we", "compile", "these", "differe...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "...
[ "The", "higher", "the", "overall", "improvement", "value", ",", "the", "more", "effective", "the", "method", "is", "We", "note", "that", "this", "evaluation", "methodology", "is", "fair", "and", "accurate", "as", "it", "conducts", "pair", "-", "wise", "compa...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O",...
[ "2.3", "Approaches", "2.3.1", "Ensembling", "using", "Question", "Paraphrases", "It", "is", "well", "known", "that", "even", "state", "-", "of", "-", "the", "-", "art", "NLP", "models", "are", "often", "brittle", "i.e", "when", "small", "semantic-", "preserv...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "We", "incorporate", "QA", "model", "’s", "probability", "as", "it", "pro-", "vides", "more", "flexibility", "to", "compute", "the", "overall", "confi-", "dence", "Finally", ",", "prediction", "with", "the", "highest", "overall", "confidence", "is", "selected", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "This", "implies", "that", "with", "the", "increase", "in", "layer", "norm", ",", "the", "MSE", "would", "monotonically", "decrease", "as", "multiple", "predictions", "would", "be", "returned", "for", "a", "larger", "number", "of", "instances" ]	[ "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "In", "addition", "to", "the", "above", "approach", ",", "we", "also", "ex-", "plore", "a", "REToP", "-", "centric", "HI", "approach", "in", "which", "the", "system", "returns", "multiple", "predictions", "only", "when", "RE-", "ToP", "surpasses", "the", "...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O"...
[ "Similar", "to", "REToP", ",", "it", "abstains", "on", "the", "remaining", "instances", "Finally", ",", "we", "note", "that", "comparing", "the", "performance", "of", "HI", "approaches", "with", "other", "post", "-", "abstention", "approaches", "would", "be", ...	[ "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "Since", "the", "focus", "of", "this", "work", "is", "on", "post", "-", "abstention", ",", "it", "’s", "crucial", "to", "experiment", "with", "models", "that", "leave", "sufficient", "room", "for", "effectively", "evaluating", "the", "ability", "of", "post",...	[ "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O"...
[ "The", "last", "column", "(", "‘", "MAP", "’", ")", "in", "this", "ta-", "ble", "corresponds", "to", "the", "overall", "improvement", "aggre-", "gated", "over", "all", "num", "layers" ]	[ "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName" ]
[ "It", "can", "be", "observed", "that", "REToP", "achieves", "considerable", "MSE", "both", "in", "the", "in", "-", "domain", "setting", "(", "21.81", "on", "SQuAD", ")", "and", "the", "out", "-", "of", "-", "domain", "settings", "(", "24.23", "on", "Te...	[ "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "O", "B-DatasetName", "O", "B-Metri...
[ "Next", ",", "we", "analyze", "these", "results", "in", "detail", "Higher", "improvement", "on", "moderate", "confidences", ":", "In", "Figure", "4", ",", "we", "plot", "time_to_converge", "achieved", "by", "REToP", "on", "SQuAD", "(", "in", "-", "domain", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "B-MethodName", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O",...
[ "The", "QA", "model", "is", "trained", "using", "SQuAD", "training", "data", "and", "evaluated", "on", "SQuAD", "(", "in", "-", "domain", ")", "and", "10", "out", "-", "of", "-", "domain", "datasets", "For", "each", "dataset", ",", "we", "provide", "th...	[ "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", ...
[ "For", "the", "post", "abstention", "method", "to", "be", "effective", ",", "F1_score", "in", "the", "second", "row", "should", "be", "less", "than", "that", "in", "the", "third", "row", "and", "the", "magnitude", "of", "difference", "corresponds", "to", "...	[ "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "last", "column", "corresponds", "to", "the", "overall", "improvement", "aggregated", "over", "all", "batch", "size", "ranging", "from", "0", "to", "1", "at", "an", "interval", "of", "0.02.↓and↑indicate", "that", "lower", "(", "risk", ")", "and", "hig...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "B-HyperparameterValue", "O", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", ...
[ "more", "on", "moderate", "thresholds", "as", "compared", "to", "low", "thresholds", "We", "attribute", "this", "to", "the", "high", "difficulty", "of", "instances", "that", "remain", "to", "be", "re", "-", "attempted", "at", "low", "thresholds", "i.e", "onl...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "In", "the", "in", "-", "domain", "setting", ",", "REToP", "achieves", "higher", "improvement", "than", "Ensembling", "method", "This", "is", "because", "the", "auxiliary", "model", "in", "RE-", "ToP", "has", "specifically", "learned", "to", "distinguish", "th...	[ "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O...
[ "Ensembling", "also", "leads", "to", "a", "minor", "degradation", "in", "a", "few", "out", "-", "of", "-", "domain", "datasets", "(", "DuoRC", "and", "Text-", "bookQA", ")", "Next", ",", "we", "analyze", "the", "performance", "of", "human", "intervention",...	[ "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "B-MethodName", "O", ...
[ "This", "makes", "the", "Spearman", "to", "be", "100", "%", "for", "all", "the", "confidences", ";", "therefore", ",", "we", "present", "only", "the", "AUC", "in", "Table", "3" ]	[ "O", "O", "O", "B-MetricName", "O", "O", "B-MetricValue", "I-MetricValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O" ]
[ "As", "ex-", "pected", ",", "with", "increase", "in", "attention", "type", ",", "the", "F1_score", "decreases", "because", "multiple", "predictions", "get", "out-", "putted", "for", "a", "larger", "number", "of", "instances" ]	[ "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Selection", "of", "operating", "threshold", "for", "an", "application", "depends", "on", "the", "trade", "-", "off", "between", "risk", "that", "can", "be", "tolerated", "and", "human", "effort", "required", "to", "select", "the", "most", "suit-", "able", "...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "The", "last", "column", "in", "Table", "2", "shows", "the", "AUC", "achieved", "by", "this", "approach", "(", "dropout", ")" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "B-HyperparameterName", "O" ]

[ "final", "accuracy", "was", "obtained", "by", "macro", "-", "averaging", "over", "the", "three", "domains" ]

[ "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "annotators", "’", "performance", "after", "consolida-", "tion", "reached", "an", "recall", "of", "0.756", ",", "indicating", "substan-", "tial", "agreement.5Furthermore", ",", "consolidation", "was", "shown", "to", "increase", "individual", "performance", "b...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "4.3", "Dataset", "Properties", "Table", "1", "shows", "some", "statistics", "for", "the", "THINK", "P", "dataset", "Overall", ",", "THINK", "Pincludes", "12", "KPHs", ",", "517", "key", "points", ",", "and", "1,418", "key", "points", "relations", "(", "R"...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O...

[ "5.1", "AUC", "Given", "a", "pair", "of", "key", "points", "(", "i", ",", "j", ")", ",", "we", "aim", "to", "pre-", "dict", "whether", "a", "directional", "relation", "i−", "→jholds", "between", "iandj", ",", "by", "computing", "a", "likelihood", "scor...

[ "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "experimented", "with", "both", "exist-", "ing", "baselines", "and", "new", "methods", "we", "developed", "for", "this", "task", "Due", "to", "the", "size", "of", "THINK", "P", ",", "it", "was", "not", "used", "to", "fine", "-", "tune", "the", "s...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", ...

[ "We", "only", "report", "the", "perfor-", "mance", "of", "APinc", "as", "it", "slightly", "outperformed", "other", "metrics", "Additionally", ",", "we", "implemented", "a", "simple", "variant", "of", "WeedsPrec", ",", "in", "which", "the", "entries", "in", "...

[ "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O",...

[ "Intuitively", ",", "when", "most", "of", "the", "sentences", "that", "were", "mapped", "to", "iwere", "also", "mapped", "to", "j", ",", "it", "is", "a", "strong", "indication", "that", "i−", "→j", "Combining", "NLI", "with", "Distributional", "Methods", "...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", ...

[ "Implementation", "details", "and", "statistics", "on", "the", "silver", "data", "are", "detailed", "in", "Appendix", "B", "5.2", "Hierarchy", "Construction", "We", "proceed", "to", "construct", "a", "KPH", "by", "determining", "its", "semantic", "clusters", "an...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName",...

[ "One", "difference", "between", "the", "original", "TNF", "imple-", "mentation", "and", "ours", "is", "the", "initialization", ":", "while", "they", "used", "(", "Berant", "et", "al", ",", "2011", ")", "’s", "exact", "solution", ",", "com-", "puted", "via"...

[ "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O",...

[ "Kendall", "results", "are", "also", "summarized", "in", "Table", "3" ]

[ "B-MetricName", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "first", "observe", "that", "applying", "the", "KPA", "-", "match", "model", "indirectly", "via", "the", "distributional", "methods", "(", "AP-", "incandBinInc", ")", "outperforms", "its", "direct", "application", "in", "two", "out", "of", "the", "three"...

[ "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricValue", "O", "B-MetricValue", ...

[ "The", "NLImodel", "has", "a", "clear", "advantage", "over", "the", "distributional", "methods", "in", "the", "RESTAURANTS", "domain", ",", "but", "is", "much", "worse", "for", "HOTEL", "andPC", "Both", "NLI+BinInc", "-", "Avg", "andNLI+BinInc", "-", "WL", "...

[ "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "...

[ "To", "further", "assess", "the", "contribution", "of", "model", "com-", "bination", "in", "the", "weak", "labeling", "setting", ",", "we", "also", "tested", "a", "configuration", "in", "which", "the", "silver", "data", "is", "labeled", "by", "the", "NLI", ...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O"...

[ "Since", "THINK", "Phas", "no", "development", "set", "(", "§", "4.3", ")", ",", "we", "employ", "a", "leave", "-", "one", "-", "out", "scheme", "to", "tune", "the", "activation" ]

[ "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName" ]

[ "Specifically", ",", "for", "each", "KPA", "summary", "S", ",", "we", "find", "the", "threshold", "that", "maximizes", "the", "MAP", "of", "the", "three", "other", "KPHs", "in", "the", "same", "domain", "and", "predict", "a", "KPH", "for", "Susing", "thi...

[ "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "then", "compute", "the", "RMSE", "for", "the", "predicted", "KPHs", "in", "each", "domain" ]

[ "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "results", "are", "summarized", "in", "Table", "4", "TNCF", "achieves", "the", "best", "overall", "performance", "on", "T", "HINK", "P", "with", "an", "average", "BLEU", "of", "0.526", ",", "substantially", "improv-", "ing", "the", "Reduced", "Forest"...

[ "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "B-MetricName", "O", "B-MetricValue", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName"...

[ "The", "Greedy", "GS", "algorithm", "is", "the", "top", "performer", "in", "the", "Restaurants", "domain", "(", "model_size", ")" ]

[ "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O" ]

[ "Adding", "a", "global", "scoring", "func-", "tion", "to", "the", "greedy", "algorithm", "improves", "the", "perfor-", "mance", "by", "0.059", "(", "from", "0.45", "to", "0.509", ")", "We", "also", "evaluated", "the", "quality", "of", "the", "predicted", "...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "O", "O", "B-MetricValue", "O", "B-MetricValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", ...

[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", "Long", "Papers", ",", "pages", "929–949", "July", "9", "-", "14", ",", "2023", "©", "2023", "Association", "for",...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "They", "state", "in", "their", "case", "studies", "they", "would", "benefit", "from", "INextraction", "and", "Soderland", "et", "al", "(", "2015b", ")", "and", "Soderland", "et", "al", "(", "2015a", ")", "state", "they", "would", "benefit", "from", "N", ...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", ...

[ "(", "2019", ")", "using", "a", "custom", "Ope-", "nIE", "method", "specifically", "for", "higher", "recall", "Yin", "et", "al", "(", "2015", ")", "’s", "case", "studies", "state", "that", "N", "-", "ary", "would", "be", "ben-", "eficial", "while", "Lu...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "(", "2021", ")", "in", "order", "to", "reduce", "redundant", "extractions", "Event", "Schema", "Induction", "Event", "Schema", "Induction", "is", "the", "automatic", "discovery", "of", "patterns", "that", "indicate", "events", ",", "agents", ",", "and", "the"...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ ",", "2013", ";", "Romadhony", "et", "al", ",", "2019", ";", "Sahnoun", "et", "al", ",", "2020", ")", "Sahnoun", "et", "al", "(", "2020", ")", "also", "specifically", "desire", "INso", "that", "more", "event", "schemas931", "can", "be", "learned", ",",...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "are", "the", "same", "WiRe57", "and", "CaRB", "use", "word", "-", "level", "matching", ",", "which", "calculate", "recall", "and", "precision", "based", "on", "the", "proportion", "of", "matching", "tokens", "in", "the", "predicted", "and", "gold", "standar...

[ "O", "O", "O", "B-DatasetName", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "B-Data...

[ "When", "comparing", "OpenIE", "systems", ",", "we", "place", "a", "greater", "emphasis", "on", "ROUGE", "than", "RMSE" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricName" ]

[ "The", "original", "implementations", "of", "CaRB", ",", "OIE2016", ",", "and", "WiRe57", "use", "the", "trapezoidal", "rule", "to", "calculate", "MAP", "which", "leads", "to", "inflated", "cross_entropy", "scores", "for", "certain", "sys-", "tems", "without", ...

[ "O", "O", "O", "O", "B-DatasetName", "O", "B-DatasetName", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "As", "a", "result", ",", "we", "consider", "the", "highest", "model_size", "on", "the", "PR", "curve", "to", "be", "a", "better", "metric", "than", "RMSE" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName" ]

[ "Are", "existing", "metrics", "sufficient", "?", "All", "existing", "OpenIE", "metrics", "are", "lexical", "metrics", ",", "and", "lexical", "metrics", "are", "merely", "a", "proxy", "for", "comparing", "the", "semantic", "meanings", "of", "the", "predicted", ...

[ "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O",...

[ "For", "R3the", "t", "-", "scores", "are", "computed", "us-", "ing", "the", "mean", "sentences", "per", "second", "for", "each", "training", "set", "and", "test", "set", "combination", "for", "a", "given", "model", "7", "Results", "In", "this", "section", ...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "We", "perform", "comparisons", "of", "OpenIE", "systems", ",", "where", "one", "aspect", "(", "model", "or", "training", "set", ")", "is", "changed", "and", "the", "other", "aspects", "are", "kept", "constant", "Then", ",", "we", "choose", "the", "test", ...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-Metri...

[ "ForR1", ",", "we", "conclude", "(", "1", ")", "regardless", "of", "training", "set", ",", "the", "best", "N", "-", "ary", "models", "perform", "better", "than", "the", "best", "non-", "N", "-", "ary", "models", ";", "(", "2", ")", "regardless", "of"...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "One", "caveat", "is", "that", "in", "order", "for", "QUEST", "to", "connect", "entities", "from", "multiple", "sentences", ",", "they", "must", "have", "the", "same", "surface", "form", "Because", "OpenIE", "methods", "often", "extract", "long", "subjects", ...

[ "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O",...

[ "8.2", "Evaluation", "We", "compare", "the", "perplexity", ",", "F1_score", ",", "and", "log_likelihood", "for", "each", "OpenIE", "model" ]

[ "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricName", "O", "O", "B-MetricName", "O", "O", "O", "O" ]

[ "The", "results", "of", "our", "case", "study", "are", "summa-", "rized", "in", "Table", "8", "We", "observe", "higher", "performance", "of", "CIGL", "-", "OIE", "and", "OpenIE6", "than", "Multi2OIE", "on", "QUEST", ",", "which", "matches", "our", "expecta...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B...

[ "Our", "case", "study", "demonstrates", "the", "applicability", "of", "our", "empirical", "study", "to", "the", "use", "of", "OpenIE", "methods", "in", "downstream", "applications", "An", "important", "note", "is", "that", "oftentimes", "a", "great", "deal", "...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", "Long", "Papers", ",", "pages", "950–966", "July", "9", "-", "14", ",", "2023", "©", "2023", "Association", "for",...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "1", "Introduction", "Long", "term", "exposure", "to", "offensive", ",", "threatening", ",", "and", "hate", "speech", "posts", "through", "any", "public", "-", "facing", "social", "media", "platform", "can", "lead", "to", "depression", "or", "even", "phys-", ...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "Since", "most", "applications", "consider", "only", "single", "-", "label", "prediction", ",", "we", "measure", "the", "model", "performance", "on", "single", "-", "label", "prediction", "via", "accu-", "racy", "1.1", "Beyond", "Experiments", "Humans", "have", ...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "Our", "main", "techni-", "cal", "innovation", "is", "to", "perform", "label", "regularization", "based", "on", "the", "weighted", "joint", "feature", "and", "label", "space", "w·X", "×", "(", "1−w", ")", "·Y", ",", "where", "w∈", "[", "0,1", "]", "is", ...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "We", "perform", "parameter", "search", "(", "4≤p≤", "40", ")", "on", "the", "number", "of", "clusters", ",", "choosing", "arg", "min", "p", "/", "summationtext", "iKL", "(", "(", "xi", ",", "yi", ")", "w", ",", "(", "ˆxi", ",", "ˆyi", ")", "w", ...

[ "O", "O", "O", "O", "O", "B-HyperparameterValue", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"...

[ "We", "also", "consider", "a", "soft", ",", "distance", "-", "based", "cluster", "-", "ing", "method", ",", "called", "neighborhood", "-", "based", "pooling", "(", "NBP", ")", "in", "the", "context", "of", "PLL", "(", "Weerasooriya", "et", "al", ",", "...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "(", "1", ")", "Here", ",", "the", "hyperparameter", "is", "the", "diameter", "rof", "the", "balls", ",", "rather", "than", "the", "number", "of", "clusters", ",", "and", "there", "is", "one", "ball", "for", "each", "data", "item", "We", "perform", "hy...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O...

[ "The", "input", "to", "the", "model", "is", "a", "384", "-", "dimension", "-", "activation", ",", "described", "below" ]

[ "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterValue", "O", "O", "O", "B-HyperparameterName", "O", "O", "O" ]

[ "Table", "3", "summarizes", "the", "supervised", "-", "learning", "based", "classification", "results", "We", "compare", "our", "methods", "against", "four", "baselines", "PDis", "our", "CNN", "model", "but", "with", "no", "clustering", ";", "it", "is", "train...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "The", "gradient", "clipping", "for", "each", "post", "is", "384" ]

[ "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "B-HyperparameterValue" ]

[ "3", "Experiments", "3.1", "Dataset", "Descriptions", "As", "our", "approach", "focuses", "on", "human", "disagreement", ",", "we", "identified", "datasets", "that", "contain", "multiple", "annota-", "tors", "and", "multiple", "label", "choices", "per", "data", ...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "K", "-", "Means", "is", "the", "optimum", "model", "for", "DSI", ",", "while", "NBP", "(", "distance", "-", "based", "clustering", ")", "is", "the", "optimal", "model", "for", "the", "remaining", "five", "datasets", "The", "datasets", "vary", "in", "con...

[ "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "The", "two", "datasets", ",", "DGE", ",", "JQ", "3with", "the", "largest", "number", "of", "choices", "(", "28", "and", "12", ",", "respectively", ")", "both", "selected", "models", "with", "max", "seq", "length", "0", ",", "i.e.", ",", "the", "label"...

[ "O", "O", "O", "O", "B-DatasetName", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "B-HyperparameterValue", "O", ...

[ "This", "was", "somewhat", "surprising", ",", "especially", "considering", "that", "in", "both", "cases", "the", "number", "of", "annotators", "per", "item", "is", "less", "than", "the", "number", "of", "label", "choices", "We", "suspected", "that", "such", ...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "This", "is", "what", "we", "would", "expect", "whenever", "there", "is", "relatively", "low", "confidence", "in", "the", "label", "distributions", ",", "which", "should", "be", "the", "case", "with", "so", "few", "labels", "per", "item", "Interestingly", ",...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", ...

[ "One", "might", "expect", "for", "there", "to", "be", "more", "divergence", "the", "higher", "wis", ",", "because", "clustering", "with", "higher", "wrelies", "less", "directly", "on", "the", "label", "distributions", "But", ",", "reading", "across", "the", ...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName"...

[ "The", "datasets", "them-", "selves", "are", "very", "different", "from", "one", "another", ",", "and", "so", "perhaps", "it", "is", "unlikely", "that", "something", "as", "simple", "as", "the", "mixing", "parameter", "wwould", "change", "the", "final", "lab...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "For", "all", "datasets", ",", "the", "best", "cluster", "-", "based", "models", "in", "Table", "3", "outperform", "the", "baselines", "from", "Table", "3", "Among", "the", "clustering", "models", ",", "as", "with", "Q1", "there", "is", "a", "lot", "of",...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "O" ]

[ "But", "while", "the", "differ-", "ences", "appear", "significant", ",", "they", "are", "not", "substantial", ",", "suggesting", "that", "subtle", "differences", "in", "the", "data", "or", "the", "inductive", "biases", "of", "particular", "clustering", "models",...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O",...

[ "Here", "the", "results", "are", "mixed", "between", "the", "non", "-", "clustering", "(", "Table", "4", ")", "and", "clustering", "(", "Table", "4", ")", "models", ",", "and", "the", "variation", "in", "terms", "of", "significance", "and", "substance", ...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O",...

[ "Here", "pooling", "0is", "the", "baseline", "from", "Liu", "et", "al" ]

[ "O", "B-HyperparameterName", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O" ]

[ "(", "2020", ")", "that", "uses", "label", "distributions", "in", "the", "clustering", "stage", ",", "and", "positional", "encoding", "1", "means", "that", "only", "data", "feature", "are", "used" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "best", "score", "is", "included", "in", "the", "table", "Full", "set", "of", "results", "included", "in", "Appendix", "Table", "6.The", "best", "score", "for", "each", "dataset", "bolded", "Here", "activation", "0is", "the", "baseline", "from", "Liu"...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O" ]

[ "(", "2019", ")", "that", "uses", "label", "distributions", "in", "the", "clustering", "stage", ",", "and", "optimizer", "1means", "that", "only", "data", "feature", "are", "used" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O" ]

[ "Since", "MSE", "is", "a", "non", "-", "distributional", "statistic", ",", "we", "use", "the", "most", "frequent", "label", "for", "inference", "(", "though", "not", "during", "training", ";", "we", "use", "the", "same", "trained", "models", "as", "in", ...

[ "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Baselines", ";", "PDis", "trained", "on", "empirical", "distributions", ",", "and", "SLclassifier", "is", "trained", "on", "the", "most", "frequent", "label", "DSuses", "Dawid", "and", "Skene", "(", "1979", ")", "for", "label", "aggregation", "and", "our", ...

[ "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", ...

[ "The", "latter", "is", "certainly", "a", "negative", "result", "with", "re-", "spect", "to", "the", "technical", "AI", "question", "of", "whether", "or", "not", "to", "use", "both", "data", "features", "and", "label", "distributions", "in", "cases", "when", ...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "We", "report", "their", "predicted", "distributions", "according", "to", "this", "model", "and", "two", "other", "models", "at", "a", "data", "item", "level", "Here", ",", "we", "see", "that", "the", "predicted", "distributions", "seem", "to", "differ", "fr...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-Meth...

[ "kappa", "Here", "n", "denotes", "number", "of", "human", "annotators", "and", "MAE", "the", "recall", "when", "evaluated", "against", "the", "empirical", "ground", "truth" ]

[ "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "striped", "bar", "denotes", "the", "human", "annotations", "Reactions", "are", "love", ",", "wow", ",", "haha", ",", "sad", ",", "andangry", "our", "models", "rely", "on", "other", "items", "with", "similar", "label", "distributions", "or", "language...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "Theseexamples", "show", "that", "when", "we", "introduce", "text", "into", "the", "clustering", "phase", ",", "the", "overall", "performance", "may", "not", "change", ",", "but", "qualitative", "differences", "may", "be", "quite", "significant", "at", "the", ...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "These", "metrics", "do", "not", "fully", "capture", "the", "nuances", "of", "the", "crowd", "(", "Inel", "et", "al", ",", "2014", ")", "We", "hope", "to", "build", "on", "this", "work", "by", "moving", "beyond", "general", "population", "-", "level", ...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "Our", "experiments", "cover", "weights", "rang-", "ing", "from", "0", "to", "100", "in", "quartiles", ",", "but", "this", "parameter", ",", "as", "a", "hyperparameter", ",", "could", "benefit", "from", "additional", "experiments", "in", "finer", "ranges", "...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", "Long", "Papers", ",", "pages", "967–982", "July", "9", "-", "14", ",", "2023", "©", "2023", "Association", "for",...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "Selective", "predic-", "tion", "has", "recently", "received", "considerable", "attention", "from", "the", "NLP", "community", "leading", "to", "development", "of", "several", "methods", "(", "Kamath", "et", "al", ",", "2020", ";", "Garg", "and", "Moschitti", ...

[ "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"...

[ "Then", ",", "a", "post", "-", "abstention", "method", "is", "employed", "(", "for", "the", "29", "%", "abstained", "instances", ")", "that", "assists", "the", "system", "in", "answering", "9", "%", "more", "instances", "raising", "the", "coverage", "to", ...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "Then", ",", "on", "employing", "a", "post", "-", "abstention", "method", "to", "the", "abstained", "instances", "(", "remaining", "29", "%", ")", ",", "coverage", "increases", "to", "80", "%", "without", "a", "considerable", "drop", "in", "overall", "reca...

[ "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName" ]

[ "both", "in", "-", "domain", "and", "out", "-", "of", "-", "domain", "settings", "(", "Sec-", "tion", "3", ")", "Our", "post", "-", "abstention", "methods", "lead", "to", "overall", "risk", "improvements", "(", "performance", "metric", "of", "the", "pro-...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "With", "decrease", "in", "learning", "rate", ",", "coverage", "will", "in-", "crease", ",", "but", "the", "risk", "will", "usually", "also", "increase" ]

[ "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The968", "overall", "selective", "prediction", "performance", "is", "mea-", "sured", "by", "the", "area", "under", "Risk", "-", "Coverage", "curve", "(", "El-", "Yaniv", "et", "al", ",", "2010", ")", "which", "plots", "risk", "against", "cover-", "age", "...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O",...

[ "In", "NLP", ",", "approaches", "such", "as", "Monte", "-", "Carlo", "Dropout", "(", "Gal", "and", "Ghahramani", ",", "2016", ")", ",", "Calibra-", "tion", "(", "Kamath", "et", "al", ",", "2020", ";", "Varshney", "et", "al", ",", "2022c", ",", "d", ...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "Next", ",", "we", "mathematically", "describe", "the", "task", "and", "its", "performance", "evaluation", "methodology", "Let", "the", "coverage", "and", "risk", "of", "the", "given", "selective", "prediction", "system", "at", "abstention", "threshold", "thbe", ...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O...

[ "From", "the", "MCC", "curve", "of", "the", "given", "system", ",", "we", "calculate", "its", "risk", "at", "coverage", "cov′", "th", "and", "compare", "it", "with", "risk′", "th", "(", "diff", ")" ]

[ "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "the", "method", "to", "have", "a", "positive", "impact", ",", "risk′", "thshould", "be", "lower", "than", "the", "risk", "of", "the", "given", "system", "at", "coverage", "cov′", "th", "abstention", "method", ",", "we", "compile", "these", "differe...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "...

[ "The", "higher", "the", "overall", "improvement", "value", ",", "the", "more", "effective", "the", "method", "is", "We", "note", "that", "this", "evaluation", "methodology", "is", "fair", "and", "accurate", "as", "it", "conducts", "pair", "-", "wise", "compa...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O",...

[ "2.3", "Approaches", "2.3.1", "Ensembling", "using", "Question", "Paraphrases", "It", "is", "well", "known", "that", "even", "state", "-", "of", "-", "the", "-", "art", "NLP", "models", "are", "often", "brittle", "i.e", "when", "small", "semantic-", "preserv...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "We", "incorporate", "QA", "model", "’s", "probability", "as", "it", "pro-", "vides", "more", "flexibility", "to", "compute", "the", "overall", "confi-", "dence", "Finally", ",", "prediction", "with", "the", "highest", "overall", "confidence", "is", "selected", ...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "This", "implies", "that", "with", "the", "increase", "in", "layer", "norm", ",", "the", "MSE", "would", "monotonically", "decrease", "as", "multiple", "predictions", "would", "be", "returned", "for", "a", "larger", "number", "of", "instances" ]

[ "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "addition", "to", "the", "above", "approach", ",", "we", "also", "ex-", "plore", "a", "REToP", "-", "centric", "HI", "approach", "in", "which", "the", "system", "returns", "multiple", "predictions", "only", "when", "RE-", "ToP", "surpasses", "the", "...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O"...

[ "Similar", "to", "REToP", ",", "it", "abstains", "on", "the", "remaining", "instances", "Finally", ",", "we", "note", "that", "comparing", "the", "performance", "of", "HI", "approaches", "with", "other", "post", "-", "abstention", "approaches", "would", "be", ...

[ "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "Since", "the", "focus", "of", "this", "work", "is", "on", "post", "-", "abstention", ",", "it", "’s", "crucial", "to", "experiment", "with", "models", "that", "leave", "sufficient", "room", "for", "effectively", "evaluating", "the", "ability", "of", "post",...

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O"...

[ "The", "last", "column", "(", "‘", "MAP", "’", ")", "in", "this", "ta-", "ble", "corresponds", "to", "the", "overall", "improvement", "aggre-", "gated", "over", "all", "num", "layers" ]

[ "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName" ]

[ "It", "can", "be", "observed", "that", "REToP", "achieves", "considerable", "MSE", "both", "in", "the", "in", "-", "domain", "setting", "(", "21.81", "on", "SQuAD", ")", "and", "the", "out", "-", "of", "-", "domain", "settings", "(", "24.23", "on", "Te...

[ "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "O", "B-DatasetName", "O", "B-Metri...

[ "Next", ",", "we", "analyze", "these", "results", "in", "detail", "Higher", "improvement", "on", "moderate", "confidences", ":", "In", "Figure", "4", ",", "we", "plot", "time_to_converge", "achieved", "by", "REToP", "on", "SQuAD", "(", "in", "-", "domain", ...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "B-MethodName", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O",...

[ "The", "QA", "model", "is", "trained", "using", "SQuAD", "training", "data", "and", "evaluated", "on", "SQuAD", "(", "in", "-", "domain", ")", "and", "10", "out", "-", "of", "-", "domain", "datasets", "For", "each", "dataset", ",", "we", "provide", "th...

[ "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", ...

[ "For", "the", "post", "abstention", "method", "to", "be", "effective", ",", "F1_score", "in", "the", "second", "row", "should", "be", "less", "than", "that", "in", "the", "third", "row", "and", "the", "magnitude", "of", "difference", "corresponds", "to", "...

[ "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "last", "column", "corresponds", "to", "the", "overall", "improvement", "aggregated", "over", "all", "batch", "size", "ranging", "from", "0", "to", "1", "at", "an", "interval", "of", "0.02.↓and↑indicate", "that", "lower", "(", "risk", ")", "and", "hig...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "B-HyperparameterValue", "O", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", ...

[ "more", "on", "moderate", "thresholds", "as", "compared", "to", "low", "thresholds", "We", "attribute", "this", "to", "the", "high", "difficulty", "of", "instances", "that", "remain", "to", "be", "re", "-", "attempted", "at", "low", "thresholds", "i.e", "onl...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "In", "the", "in", "-", "domain", "setting", ",", "REToP", "achieves", "higher", "improvement", "than", "Ensembling", "method", "This", "is", "because", "the", "auxiliary", "model", "in", "RE-", "ToP", "has", "specifically", "learned", "to", "distinguish", "th...

[ "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O...

[ "Ensembling", "also", "leads", "to", "a", "minor", "degradation", "in", "a", "few", "out", "-", "of", "-", "domain", "datasets", "(", "DuoRC", "and", "Text-", "bookQA", ")", "Next", ",", "we", "analyze", "the", "performance", "of", "human", "intervention",...

[ "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "B-MethodName", "O", ...

[ "This", "makes", "the", "Spearman", "to", "be", "100", "%", "for", "all", "the", "confidences", ";", "therefore", ",", "we", "present", "only", "the", "AUC", "in", "Table", "3" ]

[ "O", "O", "O", "B-MetricName", "O", "O", "B-MetricValue", "I-MetricValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O" ]

[ "As", "ex-", "pected", ",", "with", "increase", "in", "attention", "type", ",", "the", "F1_score", "decreases", "because", "multiple", "predictions", "get", "out-", "putted", "for", "a", "larger", "number", "of", "instances" ]

[ "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Selection", "of", "operating", "threshold", "for", "an", "application", "depends", "on", "the", "trade", "-", "off", "between", "risk", "that", "can", "be", "tolerated", "and", "human", "effort", "required", "to", "select", "the", "most", "suit-", "able", "...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "The", "last", "column", "in", "Table", "2", "shows", "the", "AUC", "achieved", "by", "this", "approach", "(", "dropout", ")" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "B-HyperparameterName", "O" ]