anlp/anno_augmented · Datasets at Hugging Face

sentences list	ner_tags list
[ "We", "experimented", "with", "both", "exist-", "ing", "baselines", "and", "new", "methods", "we", "developed", "for", "this", "task", ".", "Due", "to", "the", "size", "of", "THINK", "P", ",", "it", "was", "not", "used", "to", "fine", "-", "tune", "the...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", ...
[ "We", "only", "report", "the", "perfor-", "mance", "of", "APinc", "as", "it", "slightly", "outperformed", "other", "metrics", ".", "Additionally", ",", "we", "implemented", "a", "simple", "variant", "of", "WeedsPrec", ",", "in", "which", "the", "entries", "i...	[ "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O",...
[ "Intuitively", ",", "when", "most", "of", "the", "sentences", "that", "were", "mapped", "to", "iwere", "also", "mapped", "to", "j", ",", "it", "is", "a", "strong", "indication", "that", "i−", "→j", ".", "Combining", "NLI", "with", "Distributional", "Method...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", ...
[ "Implementation", "details", "and", "statistics", "on", "the", "silver", "data", "are", "detailed", "in", "Appendix", "B", ".", "5.2", "Hierarchy", "Construction", "We", "proceed", "to", "construct", "a", "KPH", "by", "determining", "its", "semantic", "clusters"...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", ...
[ "One", "difference", "between", "the", "original", "TNF", "imple-", "mentation", "and", "ours", "is", "the", "initialization", ":", "while", "they", "used", "(", "Berant", "et", "al", ".", ",", "2011", ")", "’s", "exact", "solution", ",", "com-", "puted", ...	[ "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O",...
[ "F1_score", "results", "are", "also", "summarized", "in", "Table", "3", "." ]	[ "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "first", "observe", "that", "applying", "the", "KPA", "-", "match", "model", "indirectly", "via", "the", "distributional", "methods", "(", "AP-", "incandBinInc", ")", "outperforms", "its", "direct", "application", "in", "two", "out", "of", "the", "three"...	[ "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricValue", "O", "B-MetricValue", ...
[ "The", "NLImodel", "has", "a", "clear", "advantage", "over", "the", "distributional", "methods", "in", "the", "RESTAURANTS", "domain", ",", "but", "is", "much", "worse", "for", "HOTEL", "andPC", ".", "Both", "NLI+BinInc", "-", "Avg", "andNLI+BinInc", "-", "W...	[ "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "...
[ "To", "further", "assess", "the", "contribution", "of", "model", "com-", "bination", "in", "the", "weak", "labeling", "setting", ",", "we", "also", "tested", "a", "configuration", "in", "which", "the", "silver", "data", "is", "labeled", "by", "the", "NLI", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O"...
[ "Since", "THINK", "Phas", "no", "development", "set", "(", "§", "4.3", ")", ",", "we", "employ", "a", "leave", "-", "one", "-", "out", "scheme", "to", "tune", "the", "epochs", "." ]	[ "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O" ]
[ "Specifically", ",", "for", "each", "KPA", "summary", "S", ",", "we", "find", "the", "threshold", "that", "maximizes", "the", "recall", "of", "the", "three", "other", "KPHs", "in", "the", "same", "domain", "and", "predict", "a", "KPH", "for", "Susing", "...	[ "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "then", "compute", "the", "ROUGE", "for", "the", "predicted", "KPHs", "in", "each", "domain", "." ]	[ "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "results", "are", "summarized", "in", "Table", "4", ".", "TNCF", "achieves", "the", "best", "overall", "performance", "on", "T", "HINK", "P", "with", "an", "average", "perplexity", "of", "0.526", ",", "substantially", "improv-", "ing", "the", "Reduced...	[ "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "B-MetricName", "O", "B-MetricValue", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-Meth...
[ "The", "Greedy", "GS", "algorithm", "is", "the", "top", "performer", "in", "the", "Restaurants", "domain", "(", "cross_entropy", ")", "." ]	[ "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O" ]
[ "Adding", "a", "global", "scoring", "func-", "tion", "to", "the", "greedy", "algorithm", "improves", "the", "perfor-", "mance", "by", "0.059", "(", "from", "0.45", "to", "0.509", ")", ".", "We", "also", "evaluated", "the", "quality", "of", "the", "predicte...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "O", "O", "B-MetricValue", "O", "B-MetricValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", ...
[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", "Long", "Papers", ",", "pages", "929–949", "July", "9", "-", "14", ",", "2023", "©", "2023", "Association", "for",...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "They", "state", "in", "their", "case", "studies", "they", "would", "benefit", "from", "INextraction", "and", "Soderland", "et", "al", ".", "(", "2015b", ")", "and", "Soderland", "et", "al", ".", "(", "2015a", ")", "state", "they", "would", "benefit", "f...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", ...
[ "(", "2019", ")", "using", "a", "custom", "Ope-", "nIE", "method", "specifically", "for", "higher", "recall", ".", "Yin", "et", "al", ".", "(", "2015", ")", "’s", "case", "studies", "state", "that", "N", "-", "ary", "would", "be", "ben-", "eficial", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "(", "2021", ")", "in", "order", "to", "reduce", "redundant", "extractions", ".", "Event", "Schema", "Induction", "Event", "Schema", "Induction", "is", "the", "automatic", "discovery", "of", "patterns", "that", "indicate", "events", ",", "agents", ",", "and", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "Sahnoun", "et", "al", ".", "(", "2020", ")", "also", "specifically", "desire", "INso", "that", "more", "event", "schemas931", "can", "be", "learned", ",", "while", "Balasubramanian", "et", "al", ".", "(", "2013", ")", "state", "that", "N", "-", "ary", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "are", "the", "same", ".", "WiRe57", "and", "CaRB", "use", "word", "-", "level", "matching", ",", "which", "calculate", "recall", "and", "precision", "based", "on", "the", "proportion", "of", "matching", "tokens", "in", "the", "predicted", "and", "gold", "...	[ "O", "O", "O", "O", "B-DatasetName", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", ...
[ "When", "comparing", "OpenIE", "systems", ",", "we", "place", "a", "greater", "emphasis", "on", "kappa", "than", "recall", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricName", "O" ]
[ "The", "original", "implementations", "of", "CaRB", ",", "OIE2016", ",", "and", "WiRe57", "use", "the", "trapezoidal", "rule", "to", "calculate", "Kendall", "which", "leads", "to", "inflated", "perplexity", "scores", "for", "certain", "sys-", "tems", "without", ...	[ "O", "O", "O", "O", "B-DatasetName", "O", "B-DatasetName", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "As", "a", "result", ",", "we", "consider", "the", "highest", "kappa", "on", "the", "PR", "curve", "to", "be", "a", "better", "metric", "than", "precision", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O" ]
[ "Are", "existing", "metrics", "sufficient", "?", "All", "existing", "OpenIE", "metrics", "are", "lexical", "metrics", ",", "and", "lexical", "metrics", "are", "merely", "a", "proxy", "for", "comparing", "the", "semantic", "meanings", "of", "the", "predicted", ...	[ "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O",...
[ "For", "R3the", "t", "-", "scores", "are", "computed", "us-", "ing", "the", "mean", "sentences", "per", "second", "for", "each", "training", "set", "and", "test", "set", "combination", "for", "a", "given", "model", ".", "7", "Results", "In", "this", "sec...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "We", "perform", "comparisons", "of", "OpenIE", "systems", ",", "where", "one", "aspect", "(", "model", "or", "training", "set", ")", "is", "changed", "and", "the", "other", "aspects", "are", "kept", "constant", ".", "Then", ",", "we", "choose", "the", "...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "ForR1", ",", "we", "conclude", "(", "1", ")", "regardless", "of", "training", "set", ",", "the", "best", "N", "-", "ary", "models", "perform", "better", "than", "the", "best", "non-", "N", "-", "ary", "models", ";", "(", "2", ")", "regardless", "of"...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "One", "caveat", "is", "that", "in", "order", "for", "QUEST", "to", "connect", "entities", "from", "multiple", "sentences", ",", "they", "must", "have", "the", "same", "surface", "form", ".", "Because", "OpenIE", "methods", "often", "extract", "long", "subje...	[ "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O",...
[ "8.2", "Evaluation", "We", "compare", "the", "MSE", ",", "log_likelihood", ",", "and", "recall", "for", "each", "OpenIE", "model", "." ]	[ "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricName", "O", "O", "B-MetricName", "O", "O", "O", "O", "O" ]
[ "The", "results", "of", "our", "case", "study", "are", "summa-", "rized", "in", "Table", "8", ".", "We", "observe", "higher", "performance", "of", "CIGL", "-", "OIE", "and", "OpenIE6", "than", "Multi2OIE", "on", "QUEST", ",", "which", "matches", "our", "...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O...
[ "Our", "case", "study", "demonstrates", "the", "applicability", "of", "our", "empirical", "study", "to", "the", "use", "of", "OpenIE", "methods", "in", "downstream", "applications", ".", "An", "important", "note", "is", "that", "oftentimes", "a", "great", "dea...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", "Long", "Papers", ",", "pages", "950–966", "July", "9", "-", "14", ",", "2023", "©", "2023", "Association", "for",...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "1", "Introduction", "Long", "term", "exposure", "to", "offensive", ",", "threatening", ",", "and", "hate", "speech", "posts", "through", "any", "public", "-", "facing", "social", "media", "platform", "can", "lead", "to", "depression", "or", "even", "phys-", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "Since", "most", "applications", "consider", "only", "single", "-", "label", "prediction", ",", "we", "measure", "the", "model", "performance", "on", "single", "-", "label", "prediction", "via", "accu-", "racy", ".", "1.1", "Beyond", "Experiments", "Humans", "...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "Our", "main", "techni-", "cal", "innovation", "is", "to", "perform", "label", "regularization", "based", "on", "the", "weighted", "joint", "feature", "and", "label", "space", "w·X", "×", "(", "1−w", ")", "·Y", ",", "where", "w∈", "[", "0,1", "]", "is", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "We", "perform", "parameter", "search", "(", "4≤p≤", "40", ")", "on", "the", "number", "of", "clusters", ",", "choosing", "arg", "min", "p", "/", "summationtext", "iKL", "(", "(", "xi", ",", "yi", ")", "w", ",", "(", "ˆxi", ",", "ˆyi", ")", "w", ...	[ "O", "O", "O", "O", "O", "B-HyperparameterValue", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"...
[ "We", "also", "consider", "a", "soft", ",", "distance", "-", "based", "cluster", "-", "ing", "method", ",", "called", "neighborhood", "-", "based", "pooling", "(", "NBP", ")", "in", "the", "context", "of", "PLL", "(", "Weerasooriya", "et", "al", ".", "...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "We", "perform", "hyper-", "parameter", "search", "(", "0≤r≤15", ")", "via", "methods", "used", "in", "(", "Weerasooriya", "et", "al", ".", ",", "2020", ")", ".", "Table", "2", "summarizes", "model", "selection", "results", "using", "these", "methods", "."...	[ "O", "O", "O", "O", "O", "O", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O...
[ "The", "input", "to", "the", "model", "is", "a", "384", "-", "dimension", "-", "num", "layers", ",", "described", "below", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterValue", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O" ]
[ "Table", "3", "summarizes", "the", "supervised", "-", "learning", "based", "classification", "results", ".", "We", "compare", "our", "methods", "against", "four", "baselines", ".", "PDis", "our", "CNN", "model", "but", "with", "no", "clustering", ";", "it", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "The", "beam", "size", "for", "each", "post", "is", "384", "." ]	[ "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "B-HyperparameterValue", "O" ]
[ "3", "Experiments", "3.1", "Dataset", "Descriptions", "As", "our", "approach", "focuses", "on", "human", "disagreement", ",", "we", "identified", "datasets", "that", "contain", "multiple", "annota-", "tors", "and", "multiple", "label", "choices", "per", "data", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "K", "-", "Means", "is", "the", "optimum", "model", "for", "DSI", ",", "while", "NBP", "(", "distance", "-", "based", "clustering", ")", "is", "the", "optimal", "model", "for", "the", "remaining", "five", "datasets", ".", "The", "datasets", "vary", "in",...	[ "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "The", "two", "datasets", ",", "DGE", ",", "JQ", "3with", "the", "largest", "number", "of", "choices", "(", "28", "and", "12", ",", "respectively", ")", "both", "selected", "models", "with", "layer", "norm", "0", ",", "i.e.", ",", "the", "label", "dist...	[ "O", "O", "O", "O", "B-DatasetName", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterValue", "O", "O", "O", "O", "O", ...
[ "This", "was", "somewhat", "surprising", ",", "especially", "considering", "that", "in", "both", "cases", "the", "number", "of", "annotators", "per", "item", "is", "less", "than", "the", "number", "of", "label", "choices", ".", "We", "suspected", "that", "su...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "This", "is", "what", "we", "would", "expect", "whenever", "there", "is", "relatively", "low", "confidence", "in", "the", "label", "distributions", ",", "which", "should", "be", "the", "case", "with", "so", "few", "labels", "per", "item", ".", "Interestingly...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodNa...
[ "One", "might", "expect", "for", "there", "to", "be", "more", "divergence", "the", "higher", "wis", ",", "because", "clustering", "with", "higher", "wrelies", "less", "directly", "on", "the", "label", "distributions", ".", "But", ",", "reading", "across", "t...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-Hyperparamet...
[ "The", "datasets", "them-", "selves", "are", "very", "different", "from", "one", "another", ",", "and", "so", "perhaps", "it", "is", "unlikely", "that", "something", "as", "simple", "as", "the", "mixing", "parameter", "wwould", "change", "the", "final", "lab...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "For", "all", "datasets", ",", "the", "best", "cluster", "-", "based", "models", "in", "Table", "3", "outperform", "the", "baselines", "from", "Table", "3", ".", "Among", "the", "clustering", "models", ",", "as", "with", "Q1", "there", "is", "a", "lot", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", ...
[ "But", "while", "the", "differ-", "ences", "appear", "significant", ",", "they", "are", "not", "substantial", ",", "suggesting", "that", "subtle", "differences", "in", "the", "data", "or", "the", "inductive", "biases", "of", "particular", "clustering", "models",...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O",...
[ "Here", "the", "results", "are", "mixed", "between", "the", "non", "-", "clustering", "(", "Table", "4", ")", "and", "clustering", "(", "Table", "4", ")", "models", ",", "and", "the", "variation", "in", "terms", "of", "significance", "and", "substance", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O",...
[ "Here", "num", "layers", "0is", "the", "baseline", "from", "Liu", "et", "al", "." ]	[ "O", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O" ]
[ "(", "2020", ")", "that", "uses", "label", "distributions", "in", "the", "clustering", "stage", ",", "and", "optimizer", "1", "means", "that", "only", "data", "feature", "are", "used", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "best", "score", "is", "included", "in", "the", "table", ".", "Full", "set", "of", "results", "included", "in", "Appendix", "Table", "6.The", "best", "score", "for", "each", "dataset", "bolded", ".", "Here", "num", "attention", "heads", "0is", "the"...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "B-HyperparameterValue", "O", "O", "O", "O", "...
[ "(", "2019", ")", "that", "uses", "label", "distributions", "in", "the", "clustering", "stage", ",", "and", "optimizer", "1means", "that", "only", "data", "feature", "are", "used", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O" ]
[ "Since", "AUC", "is", "a", "non", "-", "distributional", "statistic", ",", "we", "use", "the", "most", "frequent", "label", "for", "inference", "(", "though", "not", "during", "training", ";", "we", "use", "the", "same", "trained", "models", "as", "in", ...	[ "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Baselines", ";", "PDis", "trained", "on", "empirical", "distributions", ",", "and", "SLclassifier", "is", "trained", "on", "the", "most", "frequent", "label", ".", "DSuses", "Dawid", "and", "Skene", "(", "1979", ")", "for", "label", "aggregation", "and", "o...	[ "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", ...
[ "The", "latter", "is", "certainly", "a", "negative", "result", "with", "re-", "spect", "to", "the", "technical", "AI", "question", "of", "whether", "or", "not", "to", "use", "both", "data", "features", "and", "label", "distributions", "in", "cases", "when", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "We", "report", "their", "predicted", "distributions", "according", "to", "this", "model", "and", "two", "other", "models", "at", "a", "data", "item", "level", ".", "Here", ",", "we", "see", "that", "the", "predicted", "distributions", "seem", "to", "differ"...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodNa...
[ "Here", "n", "denotes", "number", "of", "human", "annotators", "and", "perplexity", "the", "cross_entropy", "when", "evaluated", "against", "the", "empirical", "ground", "truth", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "striped", "bar", "denotes", "the", "human", "annotations", ".", "Reactions", "are", "love", ",", "wow", ",", "haha", ",", "sad", ",", "andangry", ".", "our", "models", "rely", "on", "other", "items", "with", "similar", "label", "distributions", "or...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "Theseexamples", "show", "that", "when", "we", "introduce", "text", "into", "the", "clustering", "phase", ",", "the", "overall", "performance", "may", "not", "change", ",", "but", "qualitative", "differences", "may", "be", "quite", "significant", "at", "the", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "These", "metrics", "do", "not", "fully", "capture", "the", "nuances", "of", "the", "crowd", "(", "Inel", "et", "al", ".", ",", "2014", ")", ".", "We", "hope", "to", "build", "on", "this", "work", "by", "moving", "beyond", "general", "population", "-",...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "Our", "experiments", "cover", "weights", "rang-", "ing", "from", "0", "to", "100", "in", "quartiles", ",", "but", "this", "parameter", ",", "as", "a", "hyperparameter", ",", "could", "benefit", "from", "additional", "experiments", "in", "finer", "ranges", "...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", "Long", "Papers", ",", "pages", "967–982", "July", "9", "-", "14", ",", "2023", "©", "2023", "Association", "for",...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "Selective", "predic-", "tion", "has", "recently", "received", "considerable", "attention", "from", "the", "NLP", "community", "leading", "to", "development", "of", "several", "methods", "(", "Kamath", "et", "al", ".", ",", "2020", ";", "Garg", "and", "Moschit...	[ "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"...
[ "Then", ",", "a", "post", "-", "abstention", "method", "is", "employed", "(", "for", "the", "29", "%", "abstained", "instances", ")", "that", "assists", "the", "system", "in", "answering", "9", "%", "more", "instances", "raising", "the", "coverage", "to", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "Then", ",", "on", "employing", "a", "post", "-", "abstention", "method", "to", "the", "abstained", "instances", "(", "remaining", "29", "%", ")", ",", "coverage", "increases", "to", "80", "%", "without", "a", "considerable", "drop", "in", "overall", "BLEU...	[ "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O" ]
[ "both", "in", "-", "domain", "and", "out", "-", "of", "-", "domain", "settings", "(", "Sec-", "tion", "3", ")", ".", "Our", "post", "-", "abstention", "methods", "lead", "to", "overall", "risk", "improvements", "(", "performance", "metric", "of", "the", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "With", "decrease", "in", "batch", "size", ",", "coverage", "will", "in-", "crease", ",", "but", "the", "risk", "will", "usually", "also", "increase", "." ]	[ "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The968", "overall", "selective", "prediction", "performance", "is", "mea-", "sured", "by", "the", "area", "under", "Risk", "-", "Coverage", "curve", "(", "El-", "Yaniv", "et", "al", ".", ",", "2010", ")", "which", "plots", "risk", "against", "cover-", "ag...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O",...
[ "In", "NLP", ",", "approaches", "such", "as", "Monte", "-", "Carlo", "Dropout", "(", "Gal", "and", "Ghahramani", ",", "2016", ")", ",", "Calibra-", "tion", "(", "Kamath", "et", "al", ".", ",", "2020", ";", "Varshney", "et", "al", ".", ",", "2022c", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "Next", ",", "we", "mathematically", "describe", "the", "task", "and", "its", "performance", "evaluation", "methodology", ".", "Let", "the", "coverage", "and", "risk", "of", "the", "given", "selective", "prediction", "system", "at", "abstention", "threshold", "t...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O...
[ "From", "the", "RMSE", "curve", "of", "the", "given", "system", ",", "we", "calculate", "its", "risk", "at", "coverage", "cov′", "th", "and", "compare", "it", "with", "risk′", "th", "(", "diff", ")", "." ]	[ "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "For", "the", "method", "to", "have", "a", "positive", "impact", ",", "risk′", "thshould", "be", "lower", "than", "the", "risk", "of", "the", "given", "system", "at", "coverage", "cov′", "th", ".", "abstention", "method", ",", "we", "compile", "these", "...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "...
[ "The", "higher", "the", "overall", "improvement", "value", ",", "the", "more", "effective", "the", "method", "is", ".", "We", "note", "that", "this", "evaluation", "methodology", "is", "fair", "and", "accurate", "as", "it", "conducts", "pair", "-", "wise", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O",...
[ "2.3", "Approaches", "2.3.1", "Ensembling", "using", "Question", "Paraphrases", "It", "is", "well", "known", "that", "even", "state", "-", "of", "-", "the", "-", "art", "NLP", "models", "are", "often", "brittle", "i.e", ".", "when", "small", "semantic-", "...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "We", "incorporate", "QA", "model", "’s", "probability", "as", "it", "pro-", "vides", "more", "flexibility", "to", "compute", "the", "overall", "confi-", "dence", ".", "Finally", ",", "prediction", "with", "the", "highest", "overall", "confidence", "is", "sele...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "This", "implies", "that", "with", "the", "increase", "in", "positional", "encoding", ",", "the", "RMSE", "would", "monotonically", "decrease", "as", "multiple", "predictions", "would", "be", "returned", "for", "a", "larger", "number", "of", "instances", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "In", "addition", "to", "the", "above", "approach", ",", "we", "also", "ex-", "plore", "a", "REToP", "-", "centric", "HI", "approach", "in", "which", "the", "system", "returns", "multiple", "predictions", "only", "when", "RE-", "ToP", "surpasses", "the", "...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "B-TaskName", "I-Tas...
[ "Similar", "to", "REToP", ",", "it", "abstains", "on", "the", "remaining", "instances", ".", "Finally", ",", "we", "note", "that", "comparing", "the", "performance", "of", "HI", "approaches", "with", "other", "post", "-", "abstention", "approaches", "would", ...	[ "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "Since", "the", "focus", "of", "this", "work", "is", "on", "post", "-", "abstention", ",", "it", "’s", "crucial", "to", "experiment", "with", "models", "that", "leave", "sufficient", "room", "for", "effectively", "evaluating", "the", "ability", "of", "post",...	[ "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O"...
[ "The", "last", "column", "(", "‘", "recall", "’", ")", "in", "this", "ta-", "ble", "corresponds", "to", "the", "overall", "improvement", "aggre-", "gated", "over", "all", "lr", "scheduler", "." ]	[ "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O" ]
[ "It", "can", "be", "observed", "that", "REToP", "achieves", "considerable", "F1_score", "both", "in", "the", "in", "-", "domain", "setting", "(", "21.81", "on", "SQuAD", ")", "and", "the", "out", "-", "of", "-", "domain", "settings", "(", "24.23", "on", ...	[ "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "O", "B-DatasetName", "O", "B-Metri...
[ "Next", ",", "we", "analyze", "these", "results", "in", "detail", ".", "Higher", "improvement", "on", "moderate", "confidences", ":", "In", "Figure", "4", ",", "we", "plot", "perplexity", "achieved", "by", "REToP", "on", "SQuAD", "(", "in", "-", "domain", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "B-MethodName", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O",...
[ "The", "QA", "model", "is", "trained", "using", "SQuAD", "training", "data", "and", "evaluated", "on", "SQuAD", "(", "in", "-", "domain", ")", "and", "10", "out", "-", "of", "-", "domain", "datasets", ".", "For", "each", "dataset", ",", "we", "provide"...	[ "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", ...
[ "For", "the", "post", "abstention", "method", "to", "be", "effective", ",", "MAE", "in", "the", "second", "row", "should", "be", "less", "than", "that", "in", "the", "third", "row", "and", "the", "magnitude", "of", "difference", "corresponds", "to", "the",...	[ "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "last", "column", "corresponds", "to", "the", "overall", "improvement", "aggregated", "over", "all", "epochs", "ranging", "from", "0", "to", "1", "at", "an", "interval", "of", "0.02.↓and↑indicate", "that", "lower", "(", "risk", ")", "and", "higher", "...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "B-HyperparameterValue", "O", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", ...
[ "more", "on", "moderate", "thresholds", "as", "compared", "to", "low", "thresholds", ".", "We", "attribute", "this", "to", "the", "high", "difficulty", "of", "instances", "that", "remain", "to", "be", "re", "-", "attempted", "at", "low", "thresholds", "i.e",...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "In", "the", "in", "-", "domain", "setting", ",", "REToP", "achieves", "higher", "improvement", "than", "Ensembling", "method", ".", "This", "is", "because", "the", "auxiliary", "model", "in", "RE-", "ToP", "has", "specifically", "learned", "to", "distinguish"...	[ "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O...
[ "Ensembling", "also", "leads", "to", "a", "minor", "degradation", "in", "a", "few", "out", "-", "of", "-", "domain", "datasets", "(", "DuoRC", "and", "Text-", "bookQA", ")", ".", "Next", ",", "we", "analyze", "the", "performance", "of", "human", "interve...	[ "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "B-MethodName", ...
[ "This", "makes", "the", "F1_score", "to", "be", "100", "%", "for", "all", "the", "confidences", ";", "therefore", ",", "we", "present", "only", "the", "F1_score", "in", "Table", "3", "." ]	[ "O", "O", "O", "B-MetricName", "O", "O", "B-MetricValue", "I-MetricValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O" ]
[ "As", "ex-", "pected", ",", "with", "increase", "in", "layer", "norm", ",", "the", "MCC", "decreases", "because", "multiple", "predictions", "get", "out-", "putted", "for", "a", "larger", "number", "of", "instances", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Selection", "of", "operating", "threshold", "for", "an", "application", "depends", "on", "the", "trade", "-", "off", "between", "risk", "that", "can", "be", "tolerated", "and", "human", "effort", "required", "to", "select", "the", "most", "suit-", "able", "...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "The", "last", "column", "in", "Table", "2", "shows", "the", "BLEU", "achieved", "by", "this", "approach", "(", "num", "attention", "heads", ")", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "O", "O" ]
[ "Note", "that", "REToP", "re", "-", "examines", "the", "top", "N", "pre-", "dictions", "and", "selects", "one", "while", "this", "method", "outputs", "multiple", "predictions", "and", "requires", "a", "human", "to", "select", "the", "most", "suitable", "one"...	[ "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", ...
[ "Thus", ",", "pushing", "the", "in-", "stance", "’s", "confidence", "to", "surpass", "the", "activation", "fails", "to", "provide", "ROUGE", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "B-MetricName", "O" ]
[ "However", ",", "such", "a", "technique", "could", "be", "employed", "in", "scenarios", "where", "risk", "degradation", "can", "be", "tolerated", ".", "4", "Analysis", "What", "is", "the", "distribution", "of", "model", "’s", "original", "con-", "fidence", "...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "Green", "-", "colored", "bars", "represent", "the", "number", "of", "instances", "answered", "from", "each", "confidence", "bucket", ".", "We", "found", "that", "REToP", "answers", "a", "large", "number", "of", "instances", "from", "the", "high973", "Figure",...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", ...

[ "We", "experimented", "with", "both", "exist-", "ing", "baselines", "and", "new", "methods", "we", "developed", "for", "this", "task", ".", "Due", "to", "the", "size", "of", "THINK", "P", ",", "it", "was", "not", "used", "to", "fine", "-", "tune", "the...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", ...

[ "We", "only", "report", "the", "perfor-", "mance", "of", "APinc", "as", "it", "slightly", "outperformed", "other", "metrics", ".", "Additionally", ",", "we", "implemented", "a", "simple", "variant", "of", "WeedsPrec", ",", "in", "which", "the", "entries", "i...

[ "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O",...

[ "Intuitively", ",", "when", "most", "of", "the", "sentences", "that", "were", "mapped", "to", "iwere", "also", "mapped", "to", "j", ",", "it", "is", "a", "strong", "indication", "that", "i−", "→j", ".", "Combining", "NLI", "with", "Distributional", "Method...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", ...

[ "Implementation", "details", "and", "statistics", "on", "the", "silver", "data", "are", "detailed", "in", "Appendix", "B", ".", "5.2", "Hierarchy", "Construction", "We", "proceed", "to", "construct", "a", "KPH", "by", "determining", "its", "semantic", "clusters"...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", ...

[ "One", "difference", "between", "the", "original", "TNF", "imple-", "mentation", "and", "ours", "is", "the", "initialization", ":", "while", "they", "used", "(", "Berant", "et", "al", ".", ",", "2011", ")", "’s", "exact", "solution", ",", "com-", "puted", ...

[ "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O",...

[ "F1_score", "results", "are", "also", "summarized", "in", "Table", "3", "." ]

[ "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "first", "observe", "that", "applying", "the", "KPA", "-", "match", "model", "indirectly", "via", "the", "distributional", "methods", "(", "AP-", "incandBinInc", ")", "outperforms", "its", "direct", "application", "in", "two", "out", "of", "the", "three"...

[ "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricValue", "O", "B-MetricValue", ...

[ "The", "NLImodel", "has", "a", "clear", "advantage", "over", "the", "distributional", "methods", "in", "the", "RESTAURANTS", "domain", ",", "but", "is", "much", "worse", "for", "HOTEL", "andPC", ".", "Both", "NLI+BinInc", "-", "Avg", "andNLI+BinInc", "-", "W...

[ "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "...

[ "To", "further", "assess", "the", "contribution", "of", "model", "com-", "bination", "in", "the", "weak", "labeling", "setting", ",", "we", "also", "tested", "a", "configuration", "in", "which", "the", "silver", "data", "is", "labeled", "by", "the", "NLI", ...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O"...

[ "Since", "THINK", "Phas", "no", "development", "set", "(", "§", "4.3", ")", ",", "we", "employ", "a", "leave", "-", "one", "-", "out", "scheme", "to", "tune", "the", "epochs", "." ]

[ "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O" ]

[ "Specifically", ",", "for", "each", "KPA", "summary", "S", ",", "we", "find", "the", "threshold", "that", "maximizes", "the", "recall", "of", "the", "three", "other", "KPHs", "in", "the", "same", "domain", "and", "predict", "a", "KPH", "for", "Susing", "...

[ "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "then", "compute", "the", "ROUGE", "for", "the", "predicted", "KPHs", "in", "each", "domain", "." ]

[ "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "results", "are", "summarized", "in", "Table", "4", ".", "TNCF", "achieves", "the", "best", "overall", "performance", "on", "T", "HINK", "P", "with", "an", "average", "perplexity", "of", "0.526", ",", "substantially", "improv-", "ing", "the", "Reduced...

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "B-MetricName", "O", "B-MetricValue", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-Meth...

[ "The", "Greedy", "GS", "algorithm", "is", "the", "top", "performer", "in", "the", "Restaurants", "domain", "(", "cross_entropy", ")", "." ]

[ "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O" ]

[ "Adding", "a", "global", "scoring", "func-", "tion", "to", "the", "greedy", "algorithm", "improves", "the", "perfor-", "mance", "by", "0.059", "(", "from", "0.45", "to", "0.509", ")", ".", "We", "also", "evaluated", "the", "quality", "of", "the", "predicte...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "O", "O", "B-MetricValue", "O", "B-MetricValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", ...

[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", "Long", "Papers", ",", "pages", "929–949", "July", "9", "-", "14", ",", "2023", "©", "2023", "Association", "for",...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "They", "state", "in", "their", "case", "studies", "they", "would", "benefit", "from", "INextraction", "and", "Soderland", "et", "al", ".", "(", "2015b", ")", "and", "Soderland", "et", "al", ".", "(", "2015a", ")", "state", "they", "would", "benefit", "f...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", ...

[ "(", "2019", ")", "using", "a", "custom", "Ope-", "nIE", "method", "specifically", "for", "higher", "recall", ".", "Yin", "et", "al", ".", "(", "2015", ")", "’s", "case", "studies", "state", "that", "N", "-", "ary", "would", "be", "ben-", "eficial", ...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "(", "2021", ")", "in", "order", "to", "reduce", "redundant", "extractions", ".", "Event", "Schema", "Induction", "Event", "Schema", "Induction", "is", "the", "automatic", "discovery", "of", "patterns", "that", "indicate", "events", ",", "agents", ",", "and", ...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "Sahnoun", "et", "al", ".", "(", "2020", ")", "also", "specifically", "desire", "INso", "that", "more", "event", "schemas931", "can", "be", "learned", ",", "while", "Balasubramanian", "et", "al", ".", "(", "2013", ")", "state", "that", "N", "-", "ary", ...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "are", "the", "same", ".", "WiRe57", "and", "CaRB", "use", "word", "-", "level", "matching", ",", "which", "calculate", "recall", "and", "precision", "based", "on", "the", "proportion", "of", "matching", "tokens", "in", "the", "predicted", "and", "gold", "...

[ "O", "O", "O", "O", "B-DatasetName", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", ...

[ "When", "comparing", "OpenIE", "systems", ",", "we", "place", "a", "greater", "emphasis", "on", "kappa", "than", "recall", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricName", "O" ]

[ "The", "original", "implementations", "of", "CaRB", ",", "OIE2016", ",", "and", "WiRe57", "use", "the", "trapezoidal", "rule", "to", "calculate", "Kendall", "which", "leads", "to", "inflated", "perplexity", "scores", "for", "certain", "sys-", "tems", "without", ...

[ "O", "O", "O", "O", "B-DatasetName", "O", "B-DatasetName", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "As", "a", "result", ",", "we", "consider", "the", "highest", "kappa", "on", "the", "PR", "curve", "to", "be", "a", "better", "metric", "than", "precision", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O" ]

[ "Are", "existing", "metrics", "sufficient", "?", "All", "existing", "OpenIE", "metrics", "are", "lexical", "metrics", ",", "and", "lexical", "metrics", "are", "merely", "a", "proxy", "for", "comparing", "the", "semantic", "meanings", "of", "the", "predicted", ...

[ "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O",...

[ "For", "R3the", "t", "-", "scores", "are", "computed", "us-", "ing", "the", "mean", "sentences", "per", "second", "for", "each", "training", "set", "and", "test", "set", "combination", "for", "a", "given", "model", ".", "7", "Results", "In", "this", "sec...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "We", "perform", "comparisons", "of", "OpenIE", "systems", ",", "where", "one", "aspect", "(", "model", "or", "training", "set", ")", "is", "changed", "and", "the", "other", "aspects", "are", "kept", "constant", ".", "Then", ",", "we", "choose", "the", "...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "ForR1", ",", "we", "conclude", "(", "1", ")", "regardless", "of", "training", "set", ",", "the", "best", "N", "-", "ary", "models", "perform", "better", "than", "the", "best", "non-", "N", "-", "ary", "models", ";", "(", "2", ")", "regardless", "of"...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "One", "caveat", "is", "that", "in", "order", "for", "QUEST", "to", "connect", "entities", "from", "multiple", "sentences", ",", "they", "must", "have", "the", "same", "surface", "form", ".", "Because", "OpenIE", "methods", "often", "extract", "long", "subje...

[ "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O",...

[ "8.2", "Evaluation", "We", "compare", "the", "MSE", ",", "log_likelihood", ",", "and", "recall", "for", "each", "OpenIE", "model", "." ]

[ "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricName", "O", "O", "B-MetricName", "O", "O", "O", "O", "O" ]

[ "The", "results", "of", "our", "case", "study", "are", "summa-", "rized", "in", "Table", "8", ".", "We", "observe", "higher", "performance", "of", "CIGL", "-", "OIE", "and", "OpenIE6", "than", "Multi2OIE", "on", "QUEST", ",", "which", "matches", "our", "...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O...

[ "Our", "case", "study", "demonstrates", "the", "applicability", "of", "our", "empirical", "study", "to", "the", "use", "of", "OpenIE", "methods", "in", "downstream", "applications", ".", "An", "important", "note", "is", "that", "oftentimes", "a", "great", "dea...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", "Long", "Papers", ",", "pages", "950–966", "July", "9", "-", "14", ",", "2023", "©", "2023", "Association", "for",...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "1", "Introduction", "Long", "term", "exposure", "to", "offensive", ",", "threatening", ",", "and", "hate", "speech", "posts", "through", "any", "public", "-", "facing", "social", "media", "platform", "can", "lead", "to", "depression", "or", "even", "phys-", ...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "Since", "most", "applications", "consider", "only", "single", "-", "label", "prediction", ",", "we", "measure", "the", "model", "performance", "on", "single", "-", "label", "prediction", "via", "accu-", "racy", ".", "1.1", "Beyond", "Experiments", "Humans", "...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "Our", "main", "techni-", "cal", "innovation", "is", "to", "perform", "label", "regularization", "based", "on", "the", "weighted", "joint", "feature", "and", "label", "space", "w·X", "×", "(", "1−w", ")", "·Y", ",", "where", "w∈", "[", "0,1", "]", "is", ...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "We", "perform", "parameter", "search", "(", "4≤p≤", "40", ")", "on", "the", "number", "of", "clusters", ",", "choosing", "arg", "min", "p", "/", "summationtext", "iKL", "(", "(", "xi", ",", "yi", ")", "w", ",", "(", "ˆxi", ",", "ˆyi", ")", "w", ...

[ "O", "O", "O", "O", "O", "B-HyperparameterValue", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"...

[ "We", "also", "consider", "a", "soft", ",", "distance", "-", "based", "cluster", "-", "ing", "method", ",", "called", "neighborhood", "-", "based", "pooling", "(", "NBP", ")", "in", "the", "context", "of", "PLL", "(", "Weerasooriya", "et", "al", ".", "...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "We", "perform", "hyper-", "parameter", "search", "(", "0≤r≤15", ")", "via", "methods", "used", "in", "(", "Weerasooriya", "et", "al", ".", ",", "2020", ")", ".", "Table", "2", "summarizes", "model", "selection", "results", "using", "these", "methods", "."...

[ "O", "O", "O", "O", "O", "O", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O...

[ "The", "input", "to", "the", "model", "is", "a", "384", "-", "dimension", "-", "num", "layers", ",", "described", "below", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterValue", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O" ]

[ "Table", "3", "summarizes", "the", "supervised", "-", "learning", "based", "classification", "results", ".", "We", "compare", "our", "methods", "against", "four", "baselines", ".", "PDis", "our", "CNN", "model", "but", "with", "no", "clustering", ";", "it", ...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "The", "beam", "size", "for", "each", "post", "is", "384", "." ]

[ "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "B-HyperparameterValue", "O" ]

[ "3", "Experiments", "3.1", "Dataset", "Descriptions", "As", "our", "approach", "focuses", "on", "human", "disagreement", ",", "we", "identified", "datasets", "that", "contain", "multiple", "annota-", "tors", "and", "multiple", "label", "choices", "per", "data", ...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "K", "-", "Means", "is", "the", "optimum", "model", "for", "DSI", ",", "while", "NBP", "(", "distance", "-", "based", "clustering", ")", "is", "the", "optimal", "model", "for", "the", "remaining", "five", "datasets", ".", "The", "datasets", "vary", "in",...

[ "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "The", "two", "datasets", ",", "DGE", ",", "JQ", "3with", "the", "largest", "number", "of", "choices", "(", "28", "and", "12", ",", "respectively", ")", "both", "selected", "models", "with", "layer", "norm", "0", ",", "i.e.", ",", "the", "label", "dist...

[ "O", "O", "O", "O", "B-DatasetName", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterValue", "O", "O", "O", "O", "O", ...

[ "This", "was", "somewhat", "surprising", ",", "especially", "considering", "that", "in", "both", "cases", "the", "number", "of", "annotators", "per", "item", "is", "less", "than", "the", "number", "of", "label", "choices", ".", "We", "suspected", "that", "su...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "This", "is", "what", "we", "would", "expect", "whenever", "there", "is", "relatively", "low", "confidence", "in", "the", "label", "distributions", ",", "which", "should", "be", "the", "case", "with", "so", "few", "labels", "per", "item", ".", "Interestingly...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodNa...

[ "One", "might", "expect", "for", "there", "to", "be", "more", "divergence", "the", "higher", "wis", ",", "because", "clustering", "with", "higher", "wrelies", "less", "directly", "on", "the", "label", "distributions", ".", "But", ",", "reading", "across", "t...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-Hyperparamet...

[ "The", "datasets", "them-", "selves", "are", "very", "different", "from", "one", "another", ",", "and", "so", "perhaps", "it", "is", "unlikely", "that", "something", "as", "simple", "as", "the", "mixing", "parameter", "wwould", "change", "the", "final", "lab...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "For", "all", "datasets", ",", "the", "best", "cluster", "-", "based", "models", "in", "Table", "3", "outperform", "the", "baselines", "from", "Table", "3", ".", "Among", "the", "clustering", "models", ",", "as", "with", "Q1", "there", "is", "a", "lot", ...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", ...

[ "But", "while", "the", "differ-", "ences", "appear", "significant", ",", "they", "are", "not", "substantial", ",", "suggesting", "that", "subtle", "differences", "in", "the", "data", "or", "the", "inductive", "biases", "of", "particular", "clustering", "models",...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O",...

[ "Here", "the", "results", "are", "mixed", "between", "the", "non", "-", "clustering", "(", "Table", "4", ")", "and", "clustering", "(", "Table", "4", ")", "models", ",", "and", "the", "variation", "in", "terms", "of", "significance", "and", "substance", ...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O",...

[ "Here", "num", "layers", "0is", "the", "baseline", "from", "Liu", "et", "al", "." ]

[ "O", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O" ]

[ "(", "2020", ")", "that", "uses", "label", "distributions", "in", "the", "clustering", "stage", ",", "and", "optimizer", "1", "means", "that", "only", "data", "feature", "are", "used", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "best", "score", "is", "included", "in", "the", "table", ".", "Full", "set", "of", "results", "included", "in", "Appendix", "Table", "6.The", "best", "score", "for", "each", "dataset", "bolded", ".", "Here", "num", "attention", "heads", "0is", "the"...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "B-HyperparameterValue", "O", "O", "O", "O", "...

[ "(", "2019", ")", "that", "uses", "label", "distributions", "in", "the", "clustering", "stage", ",", "and", "optimizer", "1means", "that", "only", "data", "feature", "are", "used", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O" ]

[ "Since", "AUC", "is", "a", "non", "-", "distributional", "statistic", ",", "we", "use", "the", "most", "frequent", "label", "for", "inference", "(", "though", "not", "during", "training", ";", "we", "use", "the", "same", "trained", "models", "as", "in", ...

[ "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Baselines", ";", "PDis", "trained", "on", "empirical", "distributions", ",", "and", "SLclassifier", "is", "trained", "on", "the", "most", "frequent", "label", ".", "DSuses", "Dawid", "and", "Skene", "(", "1979", ")", "for", "label", "aggregation", "and", "o...

[ "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", ...

[ "The", "latter", "is", "certainly", "a", "negative", "result", "with", "re-", "spect", "to", "the", "technical", "AI", "question", "of", "whether", "or", "not", "to", "use", "both", "data", "features", "and", "label", "distributions", "in", "cases", "when", ...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "We", "report", "their", "predicted", "distributions", "according", "to", "this", "model", "and", "two", "other", "models", "at", "a", "data", "item", "level", ".", "Here", ",", "we", "see", "that", "the", "predicted", "distributions", "seem", "to", "differ"...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodNa...

[ "Here", "n", "denotes", "number", "of", "human", "annotators", "and", "perplexity", "the", "cross_entropy", "when", "evaluated", "against", "the", "empirical", "ground", "truth", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "striped", "bar", "denotes", "the", "human", "annotations", ".", "Reactions", "are", "love", ",", "wow", ",", "haha", ",", "sad", ",", "andangry", ".", "our", "models", "rely", "on", "other", "items", "with", "similar", "label", "distributions", "or...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "Theseexamples", "show", "that", "when", "we", "introduce", "text", "into", "the", "clustering", "phase", ",", "the", "overall", "performance", "may", "not", "change", ",", "but", "qualitative", "differences", "may", "be", "quite", "significant", "at", "the", ...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "These", "metrics", "do", "not", "fully", "capture", "the", "nuances", "of", "the", "crowd", "(", "Inel", "et", "al", ".", ",", "2014", ")", ".", "We", "hope", "to", "build", "on", "this", "work", "by", "moving", "beyond", "general", "population", "-",...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "Our", "experiments", "cover", "weights", "rang-", "ing", "from", "0", "to", "100", "in", "quartiles", ",", "but", "this", "parameter", ",", "as", "a", "hyperparameter", ",", "could", "benefit", "from", "additional", "experiments", "in", "finer", "ranges", "...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", "Long", "Papers", ",", "pages", "967–982", "July", "9", "-", "14", ",", "2023", "©", "2023", "Association", "for",...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "Selective", "predic-", "tion", "has", "recently", "received", "considerable", "attention", "from", "the", "NLP", "community", "leading", "to", "development", "of", "several", "methods", "(", "Kamath", "et", "al", ".", ",", "2020", ";", "Garg", "and", "Moschit...

[ "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"...

[ "Then", ",", "a", "post", "-", "abstention", "method", "is", "employed", "(", "for", "the", "29", "%", "abstained", "instances", ")", "that", "assists", "the", "system", "in", "answering", "9", "%", "more", "instances", "raising", "the", "coverage", "to", ...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "Then", ",", "on", "employing", "a", "post", "-", "abstention", "method", "to", "the", "abstained", "instances", "(", "remaining", "29", "%", ")", ",", "coverage", "increases", "to", "80", "%", "without", "a", "considerable", "drop", "in", "overall", "BLEU...

[ "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O" ]

[ "both", "in", "-", "domain", "and", "out", "-", "of", "-", "domain", "settings", "(", "Sec-", "tion", "3", ")", ".", "Our", "post", "-", "abstention", "methods", "lead", "to", "overall", "risk", "improvements", "(", "performance", "metric", "of", "the", ...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "With", "decrease", "in", "batch", "size", ",", "coverage", "will", "in-", "crease", ",", "but", "the", "risk", "will", "usually", "also", "increase", "." ]

[ "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The968", "overall", "selective", "prediction", "performance", "is", "mea-", "sured", "by", "the", "area", "under", "Risk", "-", "Coverage", "curve", "(", "El-", "Yaniv", "et", "al", ".", ",", "2010", ")", "which", "plots", "risk", "against", "cover-", "ag...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O",...

[ "In", "NLP", ",", "approaches", "such", "as", "Monte", "-", "Carlo", "Dropout", "(", "Gal", "and", "Ghahramani", ",", "2016", ")", ",", "Calibra-", "tion", "(", "Kamath", "et", "al", ".", ",", "2020", ";", "Varshney", "et", "al", ".", ",", "2022c", ...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "Next", ",", "we", "mathematically", "describe", "the", "task", "and", "its", "performance", "evaluation", "methodology", ".", "Let", "the", "coverage", "and", "risk", "of", "the", "given", "selective", "prediction", "system", "at", "abstention", "threshold", "t...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O...

[ "From", "the", "RMSE", "curve", "of", "the", "given", "system", ",", "we", "calculate", "its", "risk", "at", "coverage", "cov′", "th", "and", "compare", "it", "with", "risk′", "th", "(", "diff", ")", "." ]

[ "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "the", "method", "to", "have", "a", "positive", "impact", ",", "risk′", "thshould", "be", "lower", "than", "the", "risk", "of", "the", "given", "system", "at", "coverage", "cov′", "th", ".", "abstention", "method", ",", "we", "compile", "these", "...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "...

[ "The", "higher", "the", "overall", "improvement", "value", ",", "the", "more", "effective", "the", "method", "is", ".", "We", "note", "that", "this", "evaluation", "methodology", "is", "fair", "and", "accurate", "as", "it", "conducts", "pair", "-", "wise", ...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O",...

[ "2.3", "Approaches", "2.3.1", "Ensembling", "using", "Question", "Paraphrases", "It", "is", "well", "known", "that", "even", "state", "-", "of", "-", "the", "-", "art", "NLP", "models", "are", "often", "brittle", "i.e", ".", "when", "small", "semantic-", "...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "We", "incorporate", "QA", "model", "’s", "probability", "as", "it", "pro-", "vides", "more", "flexibility", "to", "compute", "the", "overall", "confi-", "dence", ".", "Finally", ",", "prediction", "with", "the", "highest", "overall", "confidence", "is", "sele...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "This", "implies", "that", "with", "the", "increase", "in", "positional", "encoding", ",", "the", "RMSE", "would", "monotonically", "decrease", "as", "multiple", "predictions", "would", "be", "returned", "for", "a", "larger", "number", "of", "instances", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "addition", "to", "the", "above", "approach", ",", "we", "also", "ex-", "plore", "a", "REToP", "-", "centric", "HI", "approach", "in", "which", "the", "system", "returns", "multiple", "predictions", "only", "when", "RE-", "ToP", "surpasses", "the", "...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "B-TaskName", "I-Tas...

[ "Similar", "to", "REToP", ",", "it", "abstains", "on", "the", "remaining", "instances", ".", "Finally", ",", "we", "note", "that", "comparing", "the", "performance", "of", "HI", "approaches", "with", "other", "post", "-", "abstention", "approaches", "would", ...

[ "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "Since", "the", "focus", "of", "this", "work", "is", "on", "post", "-", "abstention", ",", "it", "’s", "crucial", "to", "experiment", "with", "models", "that", "leave", "sufficient", "room", "for", "effectively", "evaluating", "the", "ability", "of", "post",...

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O"...

[ "The", "last", "column", "(", "‘", "recall", "’", ")", "in", "this", "ta-", "ble", "corresponds", "to", "the", "overall", "improvement", "aggre-", "gated", "over", "all", "lr", "scheduler", "." ]

[ "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O" ]

[ "It", "can", "be", "observed", "that", "REToP", "achieves", "considerable", "F1_score", "both", "in", "the", "in", "-", "domain", "setting", "(", "21.81", "on", "SQuAD", ")", "and", "the", "out", "-", "of", "-", "domain", "settings", "(", "24.23", "on", ...

[ "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "O", "B-DatasetName", "O", "B-Metri...

[ "Next", ",", "we", "analyze", "these", "results", "in", "detail", ".", "Higher", "improvement", "on", "moderate", "confidences", ":", "In", "Figure", "4", ",", "we", "plot", "perplexity", "achieved", "by", "REToP", "on", "SQuAD", "(", "in", "-", "domain", ...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "B-MethodName", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O",...

[ "The", "QA", "model", "is", "trained", "using", "SQuAD", "training", "data", "and", "evaluated", "on", "SQuAD", "(", "in", "-", "domain", ")", "and", "10", "out", "-", "of", "-", "domain", "datasets", ".", "For", "each", "dataset", ",", "we", "provide"...

[ "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", ...

[ "For", "the", "post", "abstention", "method", "to", "be", "effective", ",", "MAE", "in", "the", "second", "row", "should", "be", "less", "than", "that", "in", "the", "third", "row", "and", "the", "magnitude", "of", "difference", "corresponds", "to", "the",...

[ "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "last", "column", "corresponds", "to", "the", "overall", "improvement", "aggregated", "over", "all", "epochs", "ranging", "from", "0", "to", "1", "at", "an", "interval", "of", "0.02.↓and↑indicate", "that", "lower", "(", "risk", ")", "and", "higher", "...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "B-HyperparameterValue", "O", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", ...

[ "more", "on", "moderate", "thresholds", "as", "compared", "to", "low", "thresholds", ".", "We", "attribute", "this", "to", "the", "high", "difficulty", "of", "instances", "that", "remain", "to", "be", "re", "-", "attempted", "at", "low", "thresholds", "i.e",...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "In", "the", "in", "-", "domain", "setting", ",", "REToP", "achieves", "higher", "improvement", "than", "Ensembling", "method", ".", "This", "is", "because", "the", "auxiliary", "model", "in", "RE-", "ToP", "has", "specifically", "learned", "to", "distinguish"...

[ "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O...

[ "Ensembling", "also", "leads", "to", "a", "minor", "degradation", "in", "a", "few", "out", "-", "of", "-", "domain", "datasets", "(", "DuoRC", "and", "Text-", "bookQA", ")", ".", "Next", ",", "we", "analyze", "the", "performance", "of", "human", "interve...

[ "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "B-MethodName", ...

[ "This", "makes", "the", "F1_score", "to", "be", "100", "%", "for", "all", "the", "confidences", ";", "therefore", ",", "we", "present", "only", "the", "F1_score", "in", "Table", "3", "." ]

[ "O", "O", "O", "B-MetricName", "O", "O", "B-MetricValue", "I-MetricValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O" ]

[ "As", "ex-", "pected", ",", "with", "increase", "in", "layer", "norm", ",", "the", "MCC", "decreases", "because", "multiple", "predictions", "get", "out-", "putted", "for", "a", "larger", "number", "of", "instances", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Selection", "of", "operating", "threshold", "for", "an", "application", "depends", "on", "the", "trade", "-", "off", "between", "risk", "that", "can", "be", "tolerated", "and", "human", "effort", "required", "to", "select", "the", "most", "suit-", "able", "...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "The", "last", "column", "in", "Table", "2", "shows", "the", "BLEU", "achieved", "by", "this", "approach", "(", "num", "attention", "heads", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "O", "O" ]

[ "Note", "that", "REToP", "re", "-", "examines", "the", "top", "N", "pre-", "dictions", "and", "selects", "one", "while", "this", "method", "outputs", "multiple", "predictions", "and", "requires", "a", "human", "to", "select", "the", "most", "suitable", "one"...

[ "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", ...

[ "Thus", ",", "pushing", "the", "in-", "stance", "’s", "confidence", "to", "surpass", "the", "activation", "fails", "to", "provide", "ROUGE", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "B-MetricName", "O" ]

[ "However", ",", "such", "a", "technique", "could", "be", "employed", "in", "scenarios", "where", "risk", "degradation", "can", "be", "tolerated", ".", "4", "Analysis", "What", "is", "the", "distribution", "of", "model", "’s", "original", "con-", "fidence", "...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "Green", "-", "colored", "bars", "represent", "the", "number", "of", "instances", "answered", "from", "each", "confidence", "bucket", ".", "We", "found", "that", "REToP", "answers", "a", "large", "number", "of", "instances", "from", "the", "high973", "Figure",...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", ...