anlp/sentence_augmented · Datasets at Hugging Face

sentences list	new_gt list
[ "Note", "that", "REToP", "re", "-", "examines", "the", "top", "N", "pre-", "dictions", "and", "selects", "one", "while", "this", "method", "outputs", "multiple", "predictions", "and", "requires", "a", "human", "to", "select", "the", "most", "suitable", "one"...	[ "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", ...
[ "Thus", ",", "pushing", "the", "in-", "stance", "’s", "confidence", "to", "surpass", "the", "batch", "size", "fails", "to", "provide", "model_size" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "B-MetricName" ]
[ "However", ",", "such", "a", "technique", "could", "be", "employed", "in", "scenarios", "where", "risk", "degradation", "can", "be", "tolerated", "4", "Analysis", "What", "is", "the", "distribution", "of", "model", "’s", "original", "con-", "fidence", "on", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "Green", "-", "colored", "bars", "represent", "the", "number", "of", "instances", "answered", "from", "each", "confidence", "bucket", "We", "found", "that", "REToP", "answers", "a", "large", "number", "of", "instances", "from", "the", "high973", "Figure", "5",...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", ...
[ "confidence", "buckets", ";", "however", ",", "instances", "from", "even", "low", "confidence", "buckets", "get", "answered", "This", "can", "fur-", "ther", "be", "controlled", "using", "the", "positional", "encoding", "(", "num", "layers", ")", "in", "the", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O", "O" ]
[ "How", "often", "do", "the", "system", "’s", "predictions", "change", "after", "applying", "REToP", "and", "what", "is", "its", "impact", "?", "REToP", "can", "either", "boost", "the", "recall", "of", "the", "top", "most", "prediction", "of", "the", "given...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"...
[ "In", "Figure", "6", ",", "we", "specifically", "analyze", "the", "latter", "scenario", "i.e", "the", "instances", "on", "which", "REToP", "’s", "prediction", "differs", "from", "the", "original", "model", "’s", "pre-", "diction", "At", "a", "gradient", "cli...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "B-HyperparameterValue", "O", "O", "O", "O...
[ "Out", "of", "these", "1110", "instances", ",", "the", "REToP", "changes", "the", "prediction", "on", "186instances", "The", "original", "pre-", "diction", "is", "incorrect", "in", "more", "cases", "(", "99vs87", ")", "and", "after", "applying", "REToP", ","...	[ "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", ...
[ "To", "what", "extent", "do", "the", "instances", "answered", "by", "different", "post", "-", "abstention", "methods", "overlap", "?", "In", "Figure", "7", ",", "we", "demonstrate", "the", "Venn", "diagram", "of", "SQuAD", "instances", "answered", "by", "RET...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-M...
[ "REToP", "answers", "1110", "instances", "while", "Ensem-", "bling", "answers", "277and", "there", "127common", "instances", "between", "the", "two", "approaches", "This", "indicates", "that", "the", "two", "sets", "are", "not", "mutually", "exclusive", "i.e", "...	[ "B-MethodName", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"...
[ "Figure", "7", ":", "Venn", "diagram", "of", "abstained", "SQuAD", "in-", "stances", "answered", "by", "REToP", "and", "Ensembling", "(", "Mean", ")", "approaches", "at", "abstention", "num", "layers", "0.5" ]	[ "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterValue" ]
[ "proaches", ";", "however", ",", "there", "are", "a", "significant", "number", "of", "instances", "that", "are", "not", "in", "the", "intersection", "This", "result", "motivates", "studying", "composite", "or", "sequential", "application", "of", "different", "po...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", "Long", "Papers", ",", "pages", "983–1001", "July", "9", "-", "14", ",", "2023", "©", "2023", "Association", "for"...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O",...
[ "3.4", "Inference", "Procedure", "In", "this", "subsection", ",", "we", "describe", "the", "inference", "proce-", "dure", "of", "UniLG", "for", "various", "lyrics", "generation", "condi-", "tions", "The", "major", "steps", "are", "shown", "in", "Algorithm", "1...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O",...
[ ",", "2020", ")", ",", "which", "calculates", "the", "average", "proba-", "bility", "of", "the", "separation", "token", "given", "previous", "tokens", "Low", "Level", ":", "We", "use", "perplexity", "and", "MAE", "to", "evaluate", "the", "degree", "of", "c...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", ...
[ "Specifi-", "cally", ",", "the", "model", "predicts", "a", "chorus", "or", "verse", "label", "for", "each", "sentence", "in", "generated", "lyrics", "and", "compares", "it", "with", "the", "human", "annotations", "to", "obtain", "model_size" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName" ]
[ "4.4", "Subjective", "Evaluation", "Metrics", "As", "illustrated", "in", "Section", "?", "?", ",", "the", "Beat", "is", "important", "for", "the", "compound", "template", "and", "may", "have", "a", "big", "im-", "pact", "on", "our", "framework", "We", "con...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "The", "four", "aspects", "are", "as", "follows", ":", "1", ")", "Co-", "herence", ":", "the", "overall", "consistency", "of", "the", "topic", "of", "the", "entire", "song", ";", "2", ")", "Fluency", ":", "the", "fluency", "of", "the", "semantic", "cor...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "Our", "UniLG", "outperforms", "baselines", "in", "recall", ",", "RMSE", ",", "and", "time_to_converge", "log_likelihood", "shows", "that", "our", "framework", "does", "generate", "the", "lyrics", "with", "better", "structure", ",", "which", "indicates", "that", ...	[ "O", "B-MethodName", "O", "O", "O", "B-MetricName", "O", "B-MetricName", "O", "O", "B-MetricName", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Ablation", "Study", "We", "further", "ablate", "our", "UniLG", "to", "verify", "the", "impact", "of", "musical", "and", "textual", "informa-", "tion", "as", "well", "as", "the", "CCL", "From", "the", "results", "shown", "in", "Table", "2", ",", "we", "s...	[ "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O",...
[ "The", "CCL", "may", "enhance", "the", "musical", "information", "to", "boost", "performance", "in", "AUC", ",", "recall", ",", "and", "log_likelihood", ",", "but", "at", "the", "same", "time", "may", "introduce", "noise", "and", "cause", "degradation", "in"...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricName", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "effec-", "tiveness", "of", "the", "CCL", "further", "proves", "that", "the", "musi-", "cal", "information", "behind", "the", "lyrics", "does", "benefit", "the", "structure", "-", "aware", "lyric", "generation", "We", "notice", "that", "the", "musical",...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "Given", "two", "number", "sequences", "generated", "by", "\"", "Sentence", "Length", "Generation", "\"", "of", "two", "settings", ",", "the", "two", "Beat", "can", "be", "generated", "by", "the", "same", "method", "of", "\"", "Beat", "Generation", "\"", "...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "We", "adapt", "2", "-", "gram", "for", "\"", "Sentence", "Length", "Generation", "\"", "and", "Sample", "for", "Beat", "Genera-", "tion", "in", "model", "comparison", "The", "results", "in", "Table", "5", "show", "that", "our", "UniLG", "outperforms", "th...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O" ]
[ "Table", "1", "and", "5", "prove", "that", "our", "compound", "template", "enables", "a", "stronger", "structure", "modeling", "ability", "than", "SongNet", "This", "may", "be", "because", "that", "the", "compound", "template", "provides", "discriminative", "rep...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "B-MetricName"...
[ "This", "indicates", "that", "MT5", "may", "pay", "too", "much", "atten-", "tion", "to", "the", "fluency", "of", "the", "text", "but", "lacking", "the", "logical", "correlation", "between", "sentences", "5.3", "Case", "Studies", "We", "also", "show", "some",...	[ "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", ...
[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", "Long", "Papers", ",", "pages", "1002–1017", "July", "9", "-", "14", ",", "2023", "©", "2023", "Association", "for...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O"...
[ "As", "illustrated", "in", "Figure", "1", ",", "a", "logical", "expression", "con-", "sists", "of", "multiple", "components", "such", "as", "classes", "and", "relations", "Most", "existing", "SP", "-", "based", "approaches", "fail", "with", "logical", "express...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O",...
[ "To", "address", "the", "above", "problem", ",", "GrailQA-", "Rank", "(", "Gu", "et", "al", ",", "2021", ")", "proposes", "a", "BERT", "-", "based", "rank", "model", "to", "match", "the", "given", "question", "with", "each", "logical", "expression", "can...	[ "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", ...
[ "Meanwhile", ",", "FC", "-", "KBQA", "also", "obtains", "good", "performance", "on", "WebQSP", "and", "CWQ", "Moreover", ",", "FC", "-", "KBQA", "runs", "4", "times", "faster", "than", "the", "state", "-", "of", "-", "the", "-", "art", "baseline", "RNG...	[ "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "B-DatasetName", "O", "B-DatasetName", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B...
[ "The", "fine", "-", "grained", "method", "outperforms", "the", "coarse-", "grained", "method", "in", "both", "composition", "generaliza-", "tion", "and", "zero", "-", "shot", "generalization", "tasks", "A", "possi-", "ble", "explanation", "is", "the", "fine", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "Overall", "I.I.D", "We", "also", "calculate", "the", "MAP", "based", "on", "the", "predicted", "and", "gold", "answers" ]	[ "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O" ]
[ "Baselines", "On", "GrailQA", ",", "we", "mainly", "compare", "with", "the", "published", "works", "on", "the", "leaderboard", ",", "in-", "cluding", "GrailQA", "-", "Rank", "(", "Gu", "et", "al", ",", "2021", ")", ",", "GrailQA-", "Trans", "(", "Gu", ...	[ "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O",...
[ "We", "compare", "all", "the", "baselines", "that", "have", "the", "results", "on", "the", "two", "datasets", "or", "publish", "the", "codes", "that", "can", "be", "executed", "5.2", "Overall", "Evaluation", "Performance", "In", "Table", "1", "and", "Table",...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName"...
[ "We", "also", "outperform", "on", "the", "extracted", "zero", "-", "shot", "CWQ", "test", "set", "by", "11.3", "%", "in", "terms", "of", "cross_entropy", ",", "as", "for", "an", "unseen", "complex", "question", ",", "parsing", "out", "correct", "knowledge"...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "B-MetricValue", "I-MetricValue", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"...
[ "Since", "the", "fine", "-", "grained", "module", "solely", "focuses", "on", "each", "component", "and", "thus", "leadsTable", "2", ":", "MAE", "Evaluation", "on", "WebQSP", "and", "CWQ", "(", "%", ")" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "B-DatasetName", "O", "B-DatasetName", "O", "O", "O" ]
[ "On", "the", "original", "test", "set", "of", "CWQ", ",", "we", "only", "under", "-", "perform", "PI", "Transfer", "which", "leverages", "a", "pre", "-", "train", "process", "on", "a", "large", "-", "scale", "wiki", "data", "that", "is", "out", "scope"...	[ "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "B-MethodNa...
[ "To", "further", "demonstrate", "that", "encoding", "such", "middle", "-", "grained", "components", "can", "also", "help", "improve", "other", "model", "’s", "performance", ",", "we", "create", "Enhanced", "RNG", "-", "KBQA", "by", "taking", "the", "top-10", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"...
[ "Removing", "“", "decode", "constraint", "”", "in", "the", "decoder", "can", "also", "have", "an", "effect", "on", "model", "performance", ",", "but", "is", "much", "weaker", "than", "removing", "“", "knowledge", "pairs", "”", "in", "the", "encoder", ",", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", "Long", "Papers", ",", "pages", "1018–1032", "July", "9", "-", "14", ",", "2023", "©", "2023", "Association", "for...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "GPT", "’s", "most", "common", "er", "-", "ror", "is", "a", "hallucinated", "source", "domain", "for", "whichno", "indicator", "is", "present", "in", "the", "sentence", "Othercommon", "errors", "include", "identifying", "a", "sequenceas", "literal", "even", "t...	[ "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", ...
[ "Similarly,1019", "Aghazadeh", "et", "al.", "(", "2022", ")", "investigate", "which", "layersof", "different", "language", "models", "encode", "metaphoricknowledge", "across", "different", "languages", "and", "datasetsvia", "probing", "Paraphrasing", "One", "common", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "Thatmeans", ",", "in", "each", "few", "-", "shot", "setting", ",", "the", "model", "has", "atleast", "2", "examples", "of", "correct", "domain", "mappings", "fororientation", "For", "each", "of", "these", "ﬁve", "prompt", "varia", "-", "tions", ",", "we",...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "After", "ﬁne", "-", "tuning", ",", "the", "model", "does", "notrequire", "any", "epochs", "in", "the", "prompt", ",", "but", "candirectly", "classify", "a", "sample", "from", "the", "validation", "set" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "ﬁne", "-", "tune", "two", "variants", ":", "(", "1", ")", "a", "model", "ﬁne", "-", "tunedwith", "all", "132", "sentences", "from", "the", "training", "set", ";", "and", "(", "2", ")", "a", "model", "ﬁne", "-", "tuned", "with", "34", "senten...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O"...
[ "Two", "annota", "-", "tors", ",", "the", "authors", "of", "this", "paper", ",", "manually", "evaluatethe", "correctness", "of", "the", "generated", "answers", "for", "En", "-", "glish", "Both", "annotators", "independently", "evaluated", "themodel", "output", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "In", "comparison", ",", "the", "ﬁne", "-", "tuned", "models", "performbetter", "than", "the", "curie-001", "models", "but", "worse", "thanthe", "davinci-002", "models", "Fine", "-", "tuning", "a", "model", "with36", "samples", ",", "each", "with", "a", "uni...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O",...
[ "Fine", "-", "tuning", "GPT-3", "on", "all", "avail", "-", "able", "training", "samples", "results", "in", "improved", "scores", "of0.413", "and", "0.513", "Examining", "the", "completions", "of", "themodel", "ﬁne", "-", "tuned", "on", "all", "samples", ",",...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "Across", "all", "test", "data", "points", ",", "we", "obtained", "a", "Co", "-", "hen", "’s", "Kappa", "of", "0.51", ",", "corresponding", "to", "a", "moderateagreement", "according", "toLandis", "and", "Koch", "(", "1977", ")", ".After", "disagreements", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "TheMetaphor", "List", "dataset", "provides", "prototypical", ",", "gen", "-", "eral", "language", "examples", ",", "while", "the", "LCC", "datasetannotated", "real", "-", "world", ",", "domain", "-", "speciﬁc", "expert", "lan", "-", "guage", "This", "affects"...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", ...
[ "However", ",", "the", "modelstill", "suffers", "from", "speciﬁc", "error", "types", ",", "such", "as", "hal", "-", "lucinating", "domains", "without", "any", "indicators", "beingpresent", "We", "believe", "future", "iterations", "of", "large", "lan", "-", "gu...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O",...

[ "Note", "that", "REToP", "re", "-", "examines", "the", "top", "N", "pre-", "dictions", "and", "selects", "one", "while", "this", "method", "outputs", "multiple", "predictions", "and", "requires", "a", "human", "to", "select", "the", "most", "suitable", "one"...

[ "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", ...

[ "Thus", ",", "pushing", "the", "in-", "stance", "’s", "confidence", "to", "surpass", "the", "batch", "size", "fails", "to", "provide", "model_size" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "B-MetricName" ]

[ "However", ",", "such", "a", "technique", "could", "be", "employed", "in", "scenarios", "where", "risk", "degradation", "can", "be", "tolerated", "4", "Analysis", "What", "is", "the", "distribution", "of", "model", "’s", "original", "con-", "fidence", "on", ...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "Green", "-", "colored", "bars", "represent", "the", "number", "of", "instances", "answered", "from", "each", "confidence", "bucket", "We", "found", "that", "REToP", "answers", "a", "large", "number", "of", "instances", "from", "the", "high973", "Figure", "5",...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", ...

[ "confidence", "buckets", ";", "however", ",", "instances", "from", "even", "low", "confidence", "buckets", "get", "answered", "This", "can", "fur-", "ther", "be", "controlled", "using", "the", "positional", "encoding", "(", "num", "layers", ")", "in", "the", ...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O", "O" ]

[ "How", "often", "do", "the", "system", "’s", "predictions", "change", "after", "applying", "REToP", "and", "what", "is", "its", "impact", "?", "REToP", "can", "either", "boost", "the", "recall", "of", "the", "top", "most", "prediction", "of", "the", "given...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"...

[ "In", "Figure", "6", ",", "we", "specifically", "analyze", "the", "latter", "scenario", "i.e", "the", "instances", "on", "which", "REToP", "’s", "prediction", "differs", "from", "the", "original", "model", "’s", "pre-", "diction", "At", "a", "gradient", "cli...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "B-HyperparameterValue", "O", "O", "O", "O...

[ "Out", "of", "these", "1110", "instances", ",", "the", "REToP", "changes", "the", "prediction", "on", "186instances", "The", "original", "pre-", "diction", "is", "incorrect", "in", "more", "cases", "(", "99vs87", ")", "and", "after", "applying", "REToP", ","...

[ "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", ...

[ "To", "what", "extent", "do", "the", "instances", "answered", "by", "different", "post", "-", "abstention", "methods", "overlap", "?", "In", "Figure", "7", ",", "we", "demonstrate", "the", "Venn", "diagram", "of", "SQuAD", "instances", "answered", "by", "RET...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-M...

[ "REToP", "answers", "1110", "instances", "while", "Ensem-", "bling", "answers", "277and", "there", "127common", "instances", "between", "the", "two", "approaches", "This", "indicates", "that", "the", "two", "sets", "are", "not", "mutually", "exclusive", "i.e", "...

[ "B-MethodName", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"...

[ "Figure", "7", ":", "Venn", "diagram", "of", "abstained", "SQuAD", "in-", "stances", "answered", "by", "REToP", "and", "Ensembling", "(", "Mean", ")", "approaches", "at", "abstention", "num", "layers", "0.5" ]

[ "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterValue" ]

[ "proaches", ";", "however", ",", "there", "are", "a", "significant", "number", "of", "instances", "that", "are", "not", "in", "the", "intersection", "This", "result", "motivates", "studying", "composite", "or", "sequential", "application", "of", "different", "po...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", "Long", "Papers", ",", "pages", "983–1001", "July", "9", "-", "14", ",", "2023", "©", "2023", "Association", "for"...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O",...

[ "3.4", "Inference", "Procedure", "In", "this", "subsection", ",", "we", "describe", "the", "inference", "proce-", "dure", "of", "UniLG", "for", "various", "lyrics", "generation", "condi-", "tions", "The", "major", "steps", "are", "shown", "in", "Algorithm", "1...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O",...

[ ",", "2020", ")", ",", "which", "calculates", "the", "average", "proba-", "bility", "of", "the", "separation", "token", "given", "previous", "tokens", "Low", "Level", ":", "We", "use", "perplexity", "and", "MAE", "to", "evaluate", "the", "degree", "of", "c...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", ...

[ "Specifi-", "cally", ",", "the", "model", "predicts", "a", "chorus", "or", "verse", "label", "for", "each", "sentence", "in", "generated", "lyrics", "and", "compares", "it", "with", "the", "human", "annotations", "to", "obtain", "model_size" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName" ]

[ "4.4", "Subjective", "Evaluation", "Metrics", "As", "illustrated", "in", "Section", "?", "?", ",", "the", "Beat", "is", "important", "for", "the", "compound", "template", "and", "may", "have", "a", "big", "im-", "pact", "on", "our", "framework", "We", "con...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "The", "four", "aspects", "are", "as", "follows", ":", "1", ")", "Co-", "herence", ":", "the", "overall", "consistency", "of", "the", "topic", "of", "the", "entire", "song", ";", "2", ")", "Fluency", ":", "the", "fluency", "of", "the", "semantic", "cor...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "Our", "UniLG", "outperforms", "baselines", "in", "recall", ",", "RMSE", ",", "and", "time_to_converge", "log_likelihood", "shows", "that", "our", "framework", "does", "generate", "the", "lyrics", "with", "better", "structure", ",", "which", "indicates", "that", ...

[ "O", "B-MethodName", "O", "O", "O", "B-MetricName", "O", "B-MetricName", "O", "O", "B-MetricName", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Ablation", "Study", "We", "further", "ablate", "our", "UniLG", "to", "verify", "the", "impact", "of", "musical", "and", "textual", "informa-", "tion", "as", "well", "as", "the", "CCL", "From", "the", "results", "shown", "in", "Table", "2", ",", "we", "s...

[ "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O",...

[ "The", "CCL", "may", "enhance", "the", "musical", "information", "to", "boost", "performance", "in", "AUC", ",", "recall", ",", "and", "log_likelihood", ",", "but", "at", "the", "same", "time", "may", "introduce", "noise", "and", "cause", "degradation", "in"...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricName", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "effec-", "tiveness", "of", "the", "CCL", "further", "proves", "that", "the", "musi-", "cal", "information", "behind", "the", "lyrics", "does", "benefit", "the", "structure", "-", "aware", "lyric", "generation", "We", "notice", "that", "the", "musical",...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "Given", "two", "number", "sequences", "generated", "by", "\"", "Sentence", "Length", "Generation", "\"", "of", "two", "settings", ",", "the", "two", "Beat", "can", "be", "generated", "by", "the", "same", "method", "of", "\"", "Beat", "Generation", "\"", "...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "We", "adapt", "2", "-", "gram", "for", "\"", "Sentence", "Length", "Generation", "\"", "and", "Sample", "for", "Beat", "Genera-", "tion", "in", "model", "comparison", "The", "results", "in", "Table", "5", "show", "that", "our", "UniLG", "outperforms", "th...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O" ]

[ "Table", "1", "and", "5", "prove", "that", "our", "compound", "template", "enables", "a", "stronger", "structure", "modeling", "ability", "than", "SongNet", "This", "may", "be", "because", "that", "the", "compound", "template", "provides", "discriminative", "rep...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "B-MetricName"...

[ "This", "indicates", "that", "MT5", "may", "pay", "too", "much", "atten-", "tion", "to", "the", "fluency", "of", "the", "text", "but", "lacking", "the", "logical", "correlation", "between", "sentences", "5.3", "Case", "Studies", "We", "also", "show", "some",...

[ "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", ...

[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", "Long", "Papers", ",", "pages", "1002–1017", "July", "9", "-", "14", ",", "2023", "©", "2023", "Association", "for...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O"...

[ "As", "illustrated", "in", "Figure", "1", ",", "a", "logical", "expression", "con-", "sists", "of", "multiple", "components", "such", "as", "classes", "and", "relations", "Most", "existing", "SP", "-", "based", "approaches", "fail", "with", "logical", "express...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O",...

[ "To", "address", "the", "above", "problem", ",", "GrailQA-", "Rank", "(", "Gu", "et", "al", ",", "2021", ")", "proposes", "a", "BERT", "-", "based", "rank", "model", "to", "match", "the", "given", "question", "with", "each", "logical", "expression", "can...

[ "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", ...

[ "Meanwhile", ",", "FC", "-", "KBQA", "also", "obtains", "good", "performance", "on", "WebQSP", "and", "CWQ", "Moreover", ",", "FC", "-", "KBQA", "runs", "4", "times", "faster", "than", "the", "state", "-", "of", "-", "the", "-", "art", "baseline", "RNG...

[ "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "B-DatasetName", "O", "B-DatasetName", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B...

[ "The", "fine", "-", "grained", "method", "outperforms", "the", "coarse-", "grained", "method", "in", "both", "composition", "generaliza-", "tion", "and", "zero", "-", "shot", "generalization", "tasks", "A", "possi-", "ble", "explanation", "is", "the", "fine", ...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "Overall", "I.I.D", "We", "also", "calculate", "the", "MAP", "based", "on", "the", "predicted", "and", "gold", "answers" ]

[ "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O" ]

[ "Baselines", "On", "GrailQA", ",", "we", "mainly", "compare", "with", "the", "published", "works", "on", "the", "leaderboard", ",", "in-", "cluding", "GrailQA", "-", "Rank", "(", "Gu", "et", "al", ",", "2021", ")", ",", "GrailQA-", "Trans", "(", "Gu", ...

[ "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O",...

[ "We", "compare", "all", "the", "baselines", "that", "have", "the", "results", "on", "the", "two", "datasets", "or", "publish", "the", "codes", "that", "can", "be", "executed", "5.2", "Overall", "Evaluation", "Performance", "In", "Table", "1", "and", "Table",...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName"...

[ "We", "also", "outperform", "on", "the", "extracted", "zero", "-", "shot", "CWQ", "test", "set", "by", "11.3", "%", "in", "terms", "of", "cross_entropy", ",", "as", "for", "an", "unseen", "complex", "question", ",", "parsing", "out", "correct", "knowledge"...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "B-MetricValue", "I-MetricValue", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"...

[ "Since", "the", "fine", "-", "grained", "module", "solely", "focuses", "on", "each", "component", "and", "thus", "leadsTable", "2", ":", "MAE", "Evaluation", "on", "WebQSP", "and", "CWQ", "(", "%", ")" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "B-DatasetName", "O", "B-DatasetName", "O", "O", "O" ]

[ "On", "the", "original", "test", "set", "of", "CWQ", ",", "we", "only", "under", "-", "perform", "PI", "Transfer", "which", "leverages", "a", "pre", "-", "train", "process", "on", "a", "large", "-", "scale", "wiki", "data", "that", "is", "out", "scope"...

[ "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "B-MethodNa...

[ "To", "further", "demonstrate", "that", "encoding", "such", "middle", "-", "grained", "components", "can", "also", "help", "improve", "other", "model", "’s", "performance", ",", "we", "create", "Enhanced", "RNG", "-", "KBQA", "by", "taking", "the", "top-10", ...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"...

[ "Removing", "“", "decode", "constraint", "”", "in", "the", "decoder", "can", "also", "have", "an", "effect", "on", "model", "performance", ",", "but", "is", "much", "weaker", "than", "removing", "“", "knowledge", "pairs", "”", "in", "the", "encoder", ",", ...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", "Long", "Papers", ",", "pages", "1018–1032", "July", "9", "-", "14", ",", "2023", "©", "2023", "Association", "for...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "GPT", "’s", "most", "common", "er", "-", "ror", "is", "a", "hallucinated", "source", "domain", "for", "whichno", "indicator", "is", "present", "in", "the", "sentence", "Othercommon", "errors", "include", "identifying", "a", "sequenceas", "literal", "even", "t...

[ "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", ...

[ "Similarly,1019", "Aghazadeh", "et", "al.", "(", "2022", ")", "investigate", "which", "layersof", "different", "language", "models", "encode", "metaphoricknowledge", "across", "different", "languages", "and", "datasetsvia", "probing", "Paraphrasing", "One", "common", ...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "Thatmeans", ",", "in", "each", "few", "-", "shot", "setting", ",", "the", "model", "has", "atleast", "2", "examples", "of", "correct", "domain", "mappings", "fororientation", "For", "each", "of", "these", "ﬁve", "prompt", "varia", "-", "tions", ",", "we",...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "After", "ﬁne", "-", "tuning", ",", "the", "model", "does", "notrequire", "any", "epochs", "in", "the", "prompt", ",", "but", "candirectly", "classify", "a", "sample", "from", "the", "validation", "set" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "ﬁne", "-", "tune", "two", "variants", ":", "(", "1", ")", "a", "model", "ﬁne", "-", "tunedwith", "all", "132", "sentences", "from", "the", "training", "set", ";", "and", "(", "2", ")", "a", "model", "ﬁne", "-", "tuned", "with", "34", "senten...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O"...

[ "Two", "annota", "-", "tors", ",", "the", "authors", "of", "this", "paper", ",", "manually", "evaluatethe", "correctness", "of", "the", "generated", "answers", "for", "En", "-", "glish", "Both", "annotators", "independently", "evaluated", "themodel", "output", ...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "In", "comparison", ",", "the", "ﬁne", "-", "tuned", "models", "performbetter", "than", "the", "curie-001", "models", "but", "worse", "thanthe", "davinci-002", "models", "Fine", "-", "tuning", "a", "model", "with36", "samples", ",", "each", "with", "a", "uni...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O",...

[ "Fine", "-", "tuning", "GPT-3", "on", "all", "avail", "-", "able", "training", "samples", "results", "in", "improved", "scores", "of0.413", "and", "0.513", "Examining", "the", "completions", "of", "themodel", "ﬁne", "-", "tuned", "on", "all", "samples", ",",...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "Across", "all", "test", "data", "points", ",", "we", "obtained", "a", "Co", "-", "hen", "’s", "Kappa", "of", "0.51", ",", "corresponding", "to", "a", "moderateagreement", "according", "toLandis", "and", "Koch", "(", "1977", ")", ".After", "disagreements", ...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "TheMetaphor", "List", "dataset", "provides", "prototypical", ",", "gen", "-", "eral", "language", "examples", ",", "while", "the", "LCC", "datasetannotated", "real", "-", "world", ",", "domain", "-", "speciﬁc", "expert", "lan", "-", "guage", "This", "affects"...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", ...

[ "However", ",", "the", "modelstill", "suffers", "from", "speciﬁc", "error", "types", ",", "such", "as", "hal", "-", "lucinating", "domains", "without", "any", "indicators", "beingpresent", "We", "believe", "future", "iterations", "of", "large", "lan", "-", "gu...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O",...