anlp/annotation2_wo_elimination · Datasets at Hugging Face

sentences list	ner_tags list
[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", "Long", "Papers", ",", "pages", "1–21", "July", "9", "-", "14", ",", "2023", "©", "2023", "Association", "for", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", ...
[ "Then", "we", "normalize", "}", ")", ")", ",", "(", "3", ")", "Eq", ".", "3", "penalizes", "the", "user", "simulators", "with", "which", "the", "dialogue", "system", "already", "performs", "well", "in", "the", "ex-", "pectation", "term", "." ]	[ "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Where", "the", "hyperparameter", "τis", "the", "smooth", "factor", "for", "distribution", "p={p1,···,pK", "}", "–", "the", "larger", "τis", ",", "the", "sharper", "pis", "." ]	[ "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "B-HyperparameterName", "O" ]
[ "Each", "probability", "pjinpis", "calculated", "as", "pj", "=", "zj", "/", "summationtextK", "i=1zi", ".", "(", "4", ")" ]	[ "O", "O", "B-HyperparameterName", "O", "O", "B-HyperparameterName", "O", "B-HyperparameterValue", "O", "B-HyperparameterValue", "B-HyperparameterValue", "O", "O", "O", "O" ]
[ "In", "the", "following", "T−1dialogues", ",", "we", "will", "spec-", "ify", "all", "user", "simulators", "to", "train", "the", "system", "agent", "S", "with", "this", "distribution", "p", "(lines", "15", "-", "18", ")", "." ]	[ "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O" ]
[ "We", ";", "Compan-", "ion", "Volume", ",", "Short", "Papers", ",", "pages", "149–152", ",", "Rochester", ",", "New", "York", ".", "Association", "for", "Computational", "Linguis-", "tics", ".", "Jost", "Schatzmann", "and", "Steve", "Young", ".", "2009", "...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O",...
[ "In", "this", "situation", ",", "the", "obtained", "distribution", "p", "might", "be", "sharp", "due", "to", "the", "lack", "of", "the", "exploration", "term", ",", "which", "would", "be", "harmful", "for", "uniform", "adaption", "to", "some", "extent", "....	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "As", "Fig", ".", "5(a", ")", "shows", ",", "MUST", "adaptive", "performs", "worse", "and", "con-", "verges", "slower", "when", "omitting", "the", "exploration", "term", ",", "compared", "with", "when", "our", "modified", "UCB1", "algorithm", "has", "the", ...	[ "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", ...
[ "E.2", "Ablation", "study", "on", "the", "designed", "distribution", "a", "post", "-", "processing", "for", "the", "re", "-", "scaling", "purpose", "and", "a", "sum", "-", "one", "normalization", ".", "Since", "we", "omit", "the", "exploration", "term", "f...	[ "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "B-TaskName", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O",...
[ "F", "Implementing", "MUST", "with", "more", "user", "simulators", "To", "implement", "our", "MUST", "with", "more", "user", "simula-", "tors", ",", "we", "use", "Simulated", "Agenda", "Dataset", "to", "train", "four", "extra", "user", "simulators8", ".", "F...	[ "B-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O",...
[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", "Long", "Papers", ",", "pages", "22–35", "July", "9", "-", "14", ",", "2023", "©", "2023", "Association", "for", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"...
[ "PchatbotW", "sourced", "their", "dialogues", "crawled", "from", "Weibo", ",", "however", ",", "compared", "to", "LCCC", ",", "their", "data", "cleaning", "procedures", "relating", "to", "toxicity", "are", "not", "as", "comprehensive", ":", "they", "only", "fi...	[ "B-MethodName", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O",...
[ "Moreover", ",", "the", "dialogues", "from", "two", "sources", "differ", "in", "content", "types", ",", "with", "LCCC", "-", "base", "containing", "mainly", "daily", "conversation", "and", "PchatbotW", "havingmore", "cases", "of", "comments", "over", "a", "pos...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "verify", "the", "safety", "-", "graduated", "attribute", "by", "a", "trained", "safety", "checker", "(", "see", "subsection", "3.2", "are", "safe", "on", "the", "surface", "but", "express", "toxicity", "or", "cause", "serious", "risks", "with", "refer...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"...
[ "6", "Correct", "Conversational", "Unsafe", "Behavior", "via", "Contextual", "Rewriting", "One", "solution", "to", "avoid", "unsafe", "behavior", "is", "to", "conduct", "a", "check", "-", "reject", "-", "regenerate", "cycle", "—", "checking", "the", "gen-", "e...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", ",", "pages", "36–50", ",", "2023", "©", "2023", "Association", "for", "Computational", "Linguistics", "Detecting", "a...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "B-TaskName", "O", "B-TaskName", "B-TaskName", "O", "B-TaskName", "I-TaskName", "O",...
[ "ALTI", "AUC", "84.9", "Hallucination", "detection", "COMET-QE", "AUC", "70.2", "Hallucination", "detection", "LASER", "AUC", "79.4", "Hallucination", "detection", "LaBSE", "AUC", "91.7", "Hallucination", "detection", "XNLI", "AUC", "90.9", "Hallucination", "detection...	[ "B-MethodName", "B-MetricName", "B-MetricValue", "B-TaskName", "B-TaskName", "B-MethodName", "B-MetricName", "B-MetricValue", "B-TaskName", "B-TaskName", "B-MethodName", "B-MetricName", "B-MetricValue", "B-TaskName", "B-TaskName", "B-MethodName", "B-MetricName", "B-MetricValue", ...
[ "diversity", "rates", "1,", "3,", "10" ]	[ "B-HyperparameterName", "B-HyperparameterName", "B-HyperparameterValue", "B-HyperparameterValue", "B-HyperparameterValue" ]
[ "Monte", "Carlo", "dropout", "iterations", "5", "COMET" ]	[ "B-HyperparameterName", "B-HyperparameterName", "B-HyperparameterName", "B-HyperparameterName", "B-HyperparameterValue", "B-MetricName" ]
[ "BLEU", "LaBSE", "XNLI", "hallucination", "detection" ]	[ "B-MetricName", "B-MetricName", "B-MetricName", "B-TaskName", "B-TaskName" ]
[ "translation", "quality", "evaluation" ]	[ "B-TaskName", "B-TaskName", "B-TaskName" ]
[ "manual", "annotation" ]	[ "B-TaskName", "B-TaskName" ]
[ "automatic", "evaluation" ]	[ "B-TaskName", "B-TaskName" ]
[ "BEAM", "10", "COMET", "10", "COMET", "LaBSE", "ALTI", "LASER", "LaBSE", "XNLI", "ALTI", "LASER", "LaBSE", "XNLI", "COMET", "COMET", "COMET", "COMET", "COMET", "ALTI", "LASER", "LaBSE", "XNLI", "LaBSE", "ALTI", "LaBSE", "ALTI", "LaBSE", "ALTI", "LaBSE", "A...	[ "B-MethodName", "B-HyperparameterValue", "B-MetricName", "B-HyperparameterValue", "B-MetricName", "B-MethodName", "B-MethodName", "B-MethodName", "B-MethodName", "B-MethodName", "B-MethodName", "B-MethodName", "B-MethodName", "B-MethodName", "B-MetricName", "B-MetricName", "B-MetricN...
[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", "Long", "Papers", ",", "pages", "78–91", "July", "9", "-", "14", ",", "2023", "©", "2023", "Association", "for", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "B-TaskName", "O", "O", "B-TaskName", "B-TaskName", "B-TaskName", "B-TaskName"...
[ "SPLAT", "N", "value:", "Metric:", "Intent", "Accuracy", "Metric", "value:", "2.5", "Task:", "Named", "Entity", "Recognition", "Schema-Guided", "Dialogue", "(SGD)" ]	[ "I-MethodName", "I-HyperparameterName", "O", "B-MetricName", "I-MetricName", "I-MetricName", "B-MetricName", "B-MetricValue", "I-MetricValue", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-DatasetName", "I-DatasetName", "I-DatasetName" ]
[ "Method:", "SPLAT", "Hyperparameter:", "L", "Hyperparameter", "value:", "Metric:", "Joint", "Goal", "Accuracy", "(JGA)", "Metric", "value:", "7", "Task:", "Named", "Entity", "Recognition", "Dataset:", "Schema-Guided", "Dialogue", "(SGD)", "Method:", "SPLAT", "Hyperpar...	[ "B-MethodName", "I-MethodName", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterName", "B-HyperparameterValue", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "B-MetricName", "B-MetricValue", "I-MetricValue", "B-TaskName", "I-TaskName",...
[ "Method:", "SPLAT", "Hyperparameter:", "Mj", "Hyperparameter", "value:", "-", "Metric:", "Joint", "Goal", "Accuracy", "(JGA)", "Metric", "value:", "6", "Task:", "Named", "Entity", "Recognition", "Dataset:", "Schema-Guided", "Dialogue", "(SGD)" ]	[ "B-MethodName", "I-MethodName", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterName", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "B-MetricName", "B-MetricValue", "I-MetricValue", "B-TaskName", "I-TaskName", "I-TaskNam...
[ "Method:", "SPLAT", "Hyperparameter:", "IletR", "Hyperparameter", "value:", "-", "Metric:", "Intent", "Accuracy", "Metric", "value:", "2021", "Task:", "Named", "Entity", "Recognition", "Dataset:", "Schema-Guided", "Dialogue", "(SGD)" ]	[ "B-MethodName", "I-MethodName", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterName", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "B-MetricName", "B-MetricValue", "I-MetricValue", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "B-DatasetName...
[ "Method:", "SPLAT", "Hyperparameter:", "M", "Hyperparameter", "value:", "-", "Metric:", "Joint", "Goal", "Accuracy", "(JGA)", "Metric", "value:", "2021", "Task:", "Named", "Entity", "Recognition", "Dataset:", "Schema-Guided", "Dialogue", "(SGD)" ]	[ "B-MethodName", "I-MethodName", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterName", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "B-MetricName", "B-MetricValue", "I-MetricValue", "B-TaskName", "I-TaskName", "I-TaskNam...
[ "Method:", "SPLAT", "Hyperparameter:", "R1", "Hyperparameter", "value:", "-", "Metric:", "Intent", "Accuracy", "Metric", "value:", "30", "Task:", "Named", "Entity", "Recognition", "Dataset:", "Schema-Guided", "Dialogue", "(SGD)" ]	[ "B-MethodName", "I-MethodName", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterName", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "B-MetricName", "B-MetricValue", "I-MetricValue", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "B-DatasetName...
[ "Method:", "SPLAT", "Hyperparameter:", "Mj", "Hyperparameter", "value:", "-", "Metric:", "Joint", "Goal", "Accuracy", "(JGA)", "Metric", "value:", "2021", "Task:", "Named", "Entity", "Recognition", "Dataset:", "Schema-Guided", "Dialogue", "(SGD)" ]	[ "B-MethodName", "I-MethodName", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterName", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "B-MetricName", "B-MetricValue", "I-MetricValue", "B-TaskName", "I-TaskName", "I-TaskNam...
[ "Method:", "SPLAT", "Hyperparameter:", "IletR", "Hyperparameter", "value:", "-", "Metric:", "Intent", "Accuracy", "Metric", "value:", "2021", "Task:", "Named", "Entity", "Recognition", "Dataset:", "Schema-Guided", "Dialogue", "(SGD)" ]	[ "B-MethodName", "I-MethodName", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterName", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "B-MetricName", "B-MetricValue", "I-MetricValue", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "B-DatasetName...
[ "Method:", "SPLAT", "Hyperparameter:", "M", "Hyperparameter", "value:", "-", "Metric:", "Joint", "Goal", "Accuracy", "(JGA)", "Metric", "value:", "2021", "Task:", "Named", "Entity", "Recognition", "Dataset:", "Schema-Guided", "Dialogue", "(SGD)" ]	[ "B-MethodName", "I-MethodName", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterName", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "B-MetricName", "B-MetricValue", "I-MetricValue", "B-TaskName", "I-TaskName", "I-TaskNam...
[ "Method:", "SPLAT", "Hyperparameter:", "R1", "Hyperparameter", "value:", "-", "Metric:", "Intent", "Accuracy" ]	[ "B-MethodName", "I-MethodName", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterName", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName" ]
[ "keep", "the", "attention", "window", "size", "set", "to", "512", ".", "The", "maximum", "sequence", "length", "is", "4096", ".", "During", "pretraining", "we", "train", "the", "base", "model", "for", "a", "total", "of", "850k", "training", "steps", "and",...	[ "O", "O", "B-HyperparameterName", "B-HyperparameterName", "B-HyperparameterName", "O", "O", "B-HyperparameterValue", "O", "O", "B-HyperparameterName", "B-HyperparameterName", "B-HyperparameterName", "O", "B-HyperparameterValue", "O", "O", "B-HyperparameterName", "O", "B-Hyperpa...
[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", "Long", "Papers", ",", "pages", "338–350", "July", "9", "-", "14", ",", "2023", "©", "2023", "Association", "for",...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "Generally", ",", "adversarial", "purification", "aims", "to", "remove", "the", "adversarial", "perturbations", "therefore", "can", "make", "correct", "predictions", "based", "on", "the", "recovered", "clean", "samples", "." ]	[ "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Despite", "the", "success", "of", "adversarial", "purification", "in", "the", "com-", "puter", "vision", "field", "that", "incorporates", "generative", "models", "such", "as", "energy", "-", "based", "models", "and", "dif-", "fusion", "models", ",", "using", ...	[ "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "In", "this", "work", ",", "we", "introduce", "a", "novel", "adversarial", "purification", "method", "that", "fo-", "cuses", "on", "defending", "against", "textual", "adversarial", "attacks", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O" ]
[ "With", "the", "help", "of", "language", "models", ",", "we", "can", "inject", "noise", "by", "masking", "input", "texts", "and", "reconstructing", "the", "masked", "texts", "based", "on", "the", "masked", "language", "models", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "In", "this", "way", ",", "we", "con-", "struct", "an", "adversarial", "purification", "process", "for", "textual", "models", "against", "the", "most", "widely", "used", "word", "-", "substitution", "adversarial", "attacks", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O" ]
[ "We", "test", "our", "proposed", "adversarial", "purification", "method", "on", "several", "strong", "adversarial", "attack", "methods", "in-", "cluding", "Textfooler", "and", "BERT", "-", "Attack", "and", "exper-", "imental", "results", "indicate", "that", "the",...	[ "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName...
[ "1", "Introduction", "Adversarial", "examples", "(", "Goodfellow", "et", "al", ".", ",", "2014", ")", "can", "successfully", "mislead", "strong", "neural", "models", "in", "both", "computer", "vision", "tasks", "(", "Carlini", "and", "Wagner", ",", "2016", "...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O"...
[ "An", "adversarial", "example", "is", "a", "maliciously", "crafted", "example", "attached", "with", "an", "imperceptible", "perturbation", "and", "can", "mislead", "neural", "networks", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "To", "defend", "attack", "examples", "of", "images", ",", "the", "most", "effective", "method", "is", "adversarial", "training", "(", "Goodfellow", "et", "al", ".", ",", "2014", ";", "Madry", "et", "al", ".", ",", "2019", ")", "which", "is", "a", "min...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", ...
[ "How-", "ever", ",", "defending", "adversarial", "examples", "in", "natural", "languages", "is", "more", "challenging", "due", "to", "the", "discrete", "nature", "of", "texts", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "That", "is", ",", "gradients", "can", "not", "be", "used", "directly", "in", "crafting", "perturbations", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "substitution-", "based", "adversarial", "examples", "are", "more", "complicated", "than", "gradient", "-", "based", "adversarial", "examples", "in", "im-", "ages", ",", "making", "it", "difficult", "for", "neural", "networks", "to", "de-", "fend", "again...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "first", "challenge", "of", "defending", "against", "adver-", "sarial", "attacks", "in", "NLP", "is", "that", "due", "to", "the", "discrete", "na-", "ture", ",", "these", "substitution", "-", "based", "adversarial", "examples", "can", "have", "substitut...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "This", "would", "cause", "a", "combinatorial", "explosion", "problem", ",", "making", "it", "hard", "to", "apply", "adversarial", "training", "meth-", "ods", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Strong", "attacking", "methods", "such", "as", "Jin", "et", "al", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "(", "2019", ")", "show", "that", "using", "the", "crafted", "adversarial", "ex-", "amples", "as", "data", "augmentation", "in", "adversarial", "training", "can", "not", "effectively", "defend", "against", "these", "substitution-", "based", "attacks", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Further", ",", "defending", "strategies", "such", "as", "adversarial", "training", "rely", "on", "the", "assumption", "that", "the", "candidate", "lists", "of", "the", "substitutions", "are", "accessible", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "However", ",", "the", "candidate", "lists", "of", "the", "substitutions", "should", "notbe", "exposed", "to", "the", "target", "model", ";", "that", "is", ",", "the", "target", "model", "should", "be", "unfamiliar", "to", "the", "candi-", "date", "list", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "In", "real", "-", "world", "defense", "systems", ",", "the", "defender", "is", "not", "aware", "of", "the", "strategy", "the", "potential", "attacks", "might", "use", ",", "so", "the", "as-", "sumption", "that", "the", "candidate", "list", "is", "availabl...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Considering", "that", "it", "is", "challenging", "to", "defend", "against", "textual", "adversarial", "attacks", "when", "the", "form", "of", "the", "attacks", "can", "not", "be", "acknowledged", "in", "advance", ",", "we", "introduce", "a", "novel", "adversa...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "adversarial", "purification", "method", "is", "to", "purify", "adversarially", "perturbed", "input", "samples", "before", "making", "predictions", "(", "Srinivasan", "et", "al", ".", ",", "2021", ";", "Shi338", "et", "al", ".", ",", "2021", ";", "Yoo...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "major", "works", "about", "adversarial", "purification", "focus", "on", "purifying", "continuous", "inputs", "such", "as", "images", ",", "therefore", "these", "works", "explore", "different", "generative", "models", "such", "as", "GANs", "(", "Samangouei"...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName...
[ "However", ",", "in", "textual", "adversarial", "at-", "tacks", ",", "the", "inputs", "are", "discrete", "tokens", "which", "makes", "it", "more", "challenging", "to", "deploy", "previous", "adversarial", "purification", "methods", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Therefore", ",", "we", "introduce", "a", "purification", "mecha-", "nism", "with", "the", "help", "of", "masked", "language", "models", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "first", "consider", "the", "widely", "used", "masking", "process", "to", "inject", "noise", "into", "the", "input", ";", "then", "we", "recover", "the", "clean", "texts", "from", "the", "noisy", "inputs", "with", "the", "help", "of", "the", "masked"...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "a", "BERT", "(", "De-", "vlin", "et", "al", ".", ",", "2018", ")", ")", "." ]	[ "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Further", ",", "considering", "that", "the", "iterative", "process", "in", "previous", "adversarial", "purifica-", "tion", "algorithms", "can", "be", "extremely", "costly", "(", "e.g", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "a", "VP", "-", "SDE", "process", "in", "diffusion", "models", "(", "Song", "et", "al", ".", ",", "2021", ")", ")", ",", "we", "instead", "simplify", "the", "iterative", "process", "to", "an", "ensemble", "-", "purifying", "process", "that", "conducting"...	[ "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", ...
[ "Through", "extensive", "experiments", ",", "we", "prove", "that", "the", "proposed", "text", "adversarial", "purification", "algorithm", "can", "successfully", "serve", "as", "defense", "against", "strong", "at-", "tacks", "such", "as", "Textfooler", "and", "BERT...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O" ]
[ "Exper-", "iment", "results", "show", "that", "the", "accuracy", "under", "attack", "in", "baseline", "defense", "methods", "is", "lower", "than", "random", "guesses", ",", "while", "after", "text", "purification", ",", "the", "perfor-", "mance", "can", "reach...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "Further", ",", "extensive", "results", "indicate", "that", "the", "candidate", "range", "of", "the", "attacker", "score", "is", "essential", "for", "successful", "attacks", ",", "which", "is", "a", "key", "fac-", "tor", "in", "maintaining", "the", "semantics"...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Therefore", "we", "also", "recommend", "that", "future", "attacking", "methods", "can", "focus", "on", "achieving", "successful", "attacks", "with", "tighter", "constraints", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "To", "summarize", "our", "contributions", ":", "(", "1", ")", "We", "raise", "the", "concern", "of", "defending", "substitution", "-", "based", "adversarial", "attacks", "without", "ac-", "knowledging", "the", "form", "of", "the", "attacks", "in", "NLP", "t...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O" ]
[ "(", "2", ")", "To", "the", "best", "of", "our", "knowledge", ",", "we", "are", "the", "first", "to", "consider", "adversarial", "purification", "as", "a", "defense", "against", "textual", "adversarial", "attacks", "exemplified", "by", "strong", "word", "-",...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "2", "Related", "Work", "2.1", "Adversarial", "Attacks", "in", "NLP", "In", "NLP", "tasks", ",", "current", "methods", "use", "substitution-", "based", "strategies", "(", "Alzantot", "et", "al", ".", ",", "2018", ";", "Jin", "et", "al", ".", ",", "2019",...	[ "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O",...
[ "Most", "works", "focus", "on", "the", "score", "-", "based", "black-", "box", "attack", ",", "that", "is", ",", "attacking", "methods", "know", "the", "logits", "of", "the", "output", "prediction", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "These", "methods", "use", "different", "strategies", "(", "Yoo", "et", "al", ".", ",", "2020", ";", "Morris", "et", "al", ".", ",", "2020b", ")", "to", "find", "words", "to", "replace", ",", "such", "as", "genetic", "algorithm", "(", "Alzantot", "et",...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-...
[ "2.2", "Adversarial", "Defenses", "We", "divide", "the", "defense", "methods", "for", "word-", "substitution", "attacks", "by", "whether", "the", "defense", "method", "requires", "knowledge", "of", "the", "form", "of", "the", "attack", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "When", "the", "candidate", "list", "is", "known", ",", "recent", "works", "introduce", "defense", "strategies", "that", "incorporate", "the", "candidates", "of", "the", "words", "to", "be", "replaced", "as", "an", "aug-", "mentation", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Jin", "et", "al", "." ]	[ "O", "O", "O", "O" ]
[ "(", "2019", ")", ";", "Li", "et", "al", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "(", "2020", ")", ";", "Si", "et", "al", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "(", "2020", ")", "uses", "generated", "adversaries", "to", "augment", "the", "classifier", "for", "better", "defense", "performances", ";", "Jia", "et", "al", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "(", "2019", ")", ";", "Huang", "et", "al", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "(", "2019", ")", "introduce", "a", "certified", "robust", "model", "to", "construct", "a", "certified", "space", "within", "the", "range", "of", "a", "candidate", "list", "therefore", "the", "substitu-", "tions", "in", "the", "candidate", "list", "can", "no...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Zhou", "et", "al", "." ]	[ "O", "O", "O", "O" ]
[ "(", "2020", ")", ";", "Dong", "et", "al", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "(", "2021", ")", "construct", "a", "convex", "hull", "based", "on", "the", "candidate", "list", "which", "can", "resist", "substitutions", "in", "the", "candidate", "list", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "To", "defend", "unknown", "attacks", ",", "NLP", "models", "can", "in-", "corporate", "gradient", "-", "based", "adversarial", "training", "strate-", "gies", "(", "Miyato", "et", "al", ".", ",", "2016", ";", "Madry", "et", "al", ".", ",", "2019", ")", ...	[ "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", ...
[ "using", "Diffusion", "Models", "/", "Score", "-", "based", "Models", "I", "possess", "the", "good", "common", "logical", "sense", "to", "realize", "..." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "it", "is", "something", "I", "like", "..." ]	[ "O", "O", "O", "O", "O", "O" ]
[ "Adversarial", "Text", "(", "Negative", ")", "..." ]	[ "O", "O", "O", "O", "O", "O" ]
[ "I", "[", "MASK", "]", "the", "good", "common", "logical", "sense", "to", "[", "MASK", "]", "..." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "it", "is", "something", "I", "like", "..." ]	[ "O", "O", "O", "O", "O", "O" ]
[ "I", "possess", "the", "good", "common", "logical", "[", "MASK", "]", "to", "realize", "..." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "it", "is", "[", "MASK", "]", "I", "like", "..." ]	[ "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "..." ]	[ "O" ]
[ "..." ]	[ "O" ]
[ "MLMI", "know", "the", "good", "common", "logical", "sense", "to", "sense", "..." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "it", "is", "something", "I", "like", "..." ]	[ "O", "O", "O", "O", "O", "O" ]
[ "Purified", "TextsI", "possess", "the", "good", "common", "logical", "feel", "to", "realize", "..." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "it", "is", "something", "I", "like", "..." ]	[ "O", "O", "O", "O", "O", "O" ]
[ "(", "Positive", ")", "I", "possess", "the", "good", "common", "logical", "[", "MASK", "]", "to", "[", "MASK", "]", "..." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", "Long", "Papers", ",", "pages", "1–21", "July", "9", "-", "14", ",", "2023", "©", "2023", "Association", "for", ...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", ...

[ "Then", "we", "normalize", "}", ")", ")", ",", "(", "3", ")", "Eq", ".", "3", "penalizes", "the", "user", "simulators", "with", "which", "the", "dialogue", "system", "already", "performs", "well", "in", "the", "ex-", "pectation", "term", "." ]

[ "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Where", "the", "hyperparameter", "τis", "the", "smooth", "factor", "for", "distribution", "p={p1,···,pK", "}", "–", "the", "larger", "τis", ",", "the", "sharper", "pis", "." ]

[ "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "B-HyperparameterName", "O" ]

[ "Each", "probability", "pjinpis", "calculated", "as", "pj", "=", "zj", "/", "summationtextK", "i=1zi", ".", "(", "4", ")" ]

[ "O", "O", "B-HyperparameterName", "O", "O", "B-HyperparameterName", "O", "B-HyperparameterValue", "O", "B-HyperparameterValue", "B-HyperparameterValue", "O", "O", "O", "O" ]

[ "In", "the", "following", "T−1dialogues", ",", "we", "will", "spec-", "ify", "all", "user", "simulators", "to", "train", "the", "system", "agent", "S", "with", "this", "distribution", "p", "(lines", "15", "-", "18", ")", "." ]

[ "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O" ]

[ "We", ";", "Compan-", "ion", "Volume", ",", "Short", "Papers", ",", "pages", "149–152", ",", "Rochester", ",", "New", "York", ".", "Association", "for", "Computational", "Linguis-", "tics", ".", "Jost", "Schatzmann", "and", "Steve", "Young", ".", "2009", "...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O",...

[ "In", "this", "situation", ",", "the", "obtained", "distribution", "p", "might", "be", "sharp", "due", "to", "the", "lack", "of", "the", "exploration", "term", ",", "which", "would", "be", "harmful", "for", "uniform", "adaption", "to", "some", "extent", "....

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "As", "Fig", ".", "5(a", ")", "shows", ",", "MUST", "adaptive", "performs", "worse", "and", "con-", "verges", "slower", "when", "omitting", "the", "exploration", "term", ",", "compared", "with", "when", "our", "modified", "UCB1", "algorithm", "has", "the", ...

[ "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", ...

[ "E.2", "Ablation", "study", "on", "the", "designed", "distribution", "a", "post", "-", "processing", "for", "the", "re", "-", "scaling", "purpose", "and", "a", "sum", "-", "one", "normalization", ".", "Since", "we", "omit", "the", "exploration", "term", "f...

[ "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "B-TaskName", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O",...

[ "F", "Implementing", "MUST", "with", "more", "user", "simulators", "To", "implement", "our", "MUST", "with", "more", "user", "simula-", "tors", ",", "we", "use", "Simulated", "Agenda", "Dataset", "to", "train", "four", "extra", "user", "simulators8", ".", "F...

[ "B-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O",...

[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", "Long", "Papers", ",", "pages", "22–35", "July", "9", "-", "14", ",", "2023", "©", "2023", "Association", "for", ...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"...

[ "PchatbotW", "sourced", "their", "dialogues", "crawled", "from", "Weibo", ",", "however", ",", "compared", "to", "LCCC", ",", "their", "data", "cleaning", "procedures", "relating", "to", "toxicity", "are", "not", "as", "comprehensive", ":", "they", "only", "fi...

[ "B-MethodName", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O",...

[ "Moreover", ",", "the", "dialogues", "from", "two", "sources", "differ", "in", "content", "types", ",", "with", "LCCC", "-", "base", "containing", "mainly", "daily", "conversation", "and", "PchatbotW", "havingmore", "cases", "of", "comments", "over", "a", "pos...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "verify", "the", "safety", "-", "graduated", "attribute", "by", "a", "trained", "safety", "checker", "(", "see", "subsection", "3.2", "are", "safe", "on", "the", "surface", "but", "express", "toxicity", "or", "cause", "serious", "risks", "with", "refer...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"...

[ "6", "Correct", "Conversational", "Unsafe", "Behavior", "via", "Contextual", "Rewriting", "One", "solution", "to", "avoid", "unsafe", "behavior", "is", "to", "conduct", "a", "check", "-", "reject", "-", "regenerate", "cycle", "—", "checking", "the", "gen-", "e...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", ",", "pages", "36–50", ",", "2023", "©", "2023", "Association", "for", "Computational", "Linguistics", "Detecting", "a...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "B-TaskName", "O", "B-TaskName", "B-TaskName", "O", "B-TaskName", "I-TaskName", "O",...

[ "ALTI", "AUC", "84.9", "Hallucination", "detection", "COMET-QE", "AUC", "70.2", "Hallucination", "detection", "LASER", "AUC", "79.4", "Hallucination", "detection", "LaBSE", "AUC", "91.7", "Hallucination", "detection", "XNLI", "AUC", "90.9", "Hallucination", "detection...

[ "B-MethodName", "B-MetricName", "B-MetricValue", "B-TaskName", "B-TaskName", "B-MethodName", "B-MetricName", "B-MetricValue", "B-TaskName", "B-TaskName", "B-MethodName", "B-MetricName", "B-MetricValue", "B-TaskName", "B-TaskName", "B-MethodName", "B-MetricName", "B-MetricValue", ...

[ "diversity", "rates", "1,", "3,", "10" ]

[ "B-HyperparameterName", "B-HyperparameterName", "B-HyperparameterValue", "B-HyperparameterValue", "B-HyperparameterValue" ]

[ "Monte", "Carlo", "dropout", "iterations", "5", "COMET" ]

[ "B-HyperparameterName", "B-HyperparameterName", "B-HyperparameterName", "B-HyperparameterName", "B-HyperparameterValue", "B-MetricName" ]

[ "BLEU", "LaBSE", "XNLI", "hallucination", "detection" ]

[ "B-MetricName", "B-MetricName", "B-MetricName", "B-TaskName", "B-TaskName" ]

[ "translation", "quality", "evaluation" ]

[ "B-TaskName", "B-TaskName", "B-TaskName" ]

[ "manual", "annotation" ]

[ "B-TaskName", "B-TaskName" ]

[ "automatic", "evaluation" ]

[ "B-TaskName", "B-TaskName" ]

[ "BEAM", "10", "COMET", "10", "COMET", "LaBSE", "ALTI", "LASER", "LaBSE", "XNLI", "ALTI", "LASER", "LaBSE", "XNLI", "COMET", "COMET", "COMET", "COMET", "COMET", "ALTI", "LASER", "LaBSE", "XNLI", "LaBSE", "ALTI", "LaBSE", "ALTI", "LaBSE", "ALTI", "LaBSE", "A...

[ "B-MethodName", "B-HyperparameterValue", "B-MetricName", "B-HyperparameterValue", "B-MetricName", "B-MethodName", "B-MethodName", "B-MethodName", "B-MethodName", "B-MethodName", "B-MethodName", "B-MethodName", "B-MethodName", "B-MethodName", "B-MetricName", "B-MetricName", "B-MetricN...

[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", "Long", "Papers", ",", "pages", "78–91", "July", "9", "-", "14", ",", "2023", "©", "2023", "Association", "for", ...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "B-TaskName", "O", "O", "B-TaskName", "B-TaskName", "B-TaskName", "B-TaskName"...

[ "SPLAT", "N", "value:", "Metric:", "Intent", "Accuracy", "Metric", "value:", "2.5", "Task:", "Named", "Entity", "Recognition", "Schema-Guided", "Dialogue", "(SGD)" ]

[ "I-MethodName", "I-HyperparameterName", "O", "B-MetricName", "I-MetricName", "I-MetricName", "B-MetricName", "B-MetricValue", "I-MetricValue", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-DatasetName", "I-DatasetName", "I-DatasetName" ]

[ "Method:", "SPLAT", "Hyperparameter:", "L", "Hyperparameter", "value:", "Metric:", "Joint", "Goal", "Accuracy", "(JGA)", "Metric", "value:", "7", "Task:", "Named", "Entity", "Recognition", "Dataset:", "Schema-Guided", "Dialogue", "(SGD)", "Method:", "SPLAT", "Hyperpar...

[ "B-MethodName", "I-MethodName", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterName", "B-HyperparameterValue", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "B-MetricName", "B-MetricValue", "I-MetricValue", "B-TaskName", "I-TaskName",...

[ "Method:", "SPLAT", "Hyperparameter:", "Mj", "Hyperparameter", "value:", "-", "Metric:", "Joint", "Goal", "Accuracy", "(JGA)", "Metric", "value:", "6", "Task:", "Named", "Entity", "Recognition", "Dataset:", "Schema-Guided", "Dialogue", "(SGD)" ]

[ "B-MethodName", "I-MethodName", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterName", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "B-MetricName", "B-MetricValue", "I-MetricValue", "B-TaskName", "I-TaskName", "I-TaskNam...

[ "Method:", "SPLAT", "Hyperparameter:", "IletR", "Hyperparameter", "value:", "-", "Metric:", "Intent", "Accuracy", "Metric", "value:", "2021", "Task:", "Named", "Entity", "Recognition", "Dataset:", "Schema-Guided", "Dialogue", "(SGD)" ]

[ "B-MethodName", "I-MethodName", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterName", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "B-MetricName", "B-MetricValue", "I-MetricValue", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "B-DatasetName...

[ "Method:", "SPLAT", "Hyperparameter:", "M", "Hyperparameter", "value:", "-", "Metric:", "Joint", "Goal", "Accuracy", "(JGA)", "Metric", "value:", "2021", "Task:", "Named", "Entity", "Recognition", "Dataset:", "Schema-Guided", "Dialogue", "(SGD)" ]

[ "B-MethodName", "I-MethodName", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterName", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "B-MetricName", "B-MetricValue", "I-MetricValue", "B-TaskName", "I-TaskName", "I-TaskNam...

[ "Method:", "SPLAT", "Hyperparameter:", "R1", "Hyperparameter", "value:", "-", "Metric:", "Intent", "Accuracy", "Metric", "value:", "30", "Task:", "Named", "Entity", "Recognition", "Dataset:", "Schema-Guided", "Dialogue", "(SGD)" ]

[ "B-MethodName", "I-MethodName", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterName", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "B-MetricName", "B-MetricValue", "I-MetricValue", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "B-DatasetName...

[ "Method:", "SPLAT", "Hyperparameter:", "Mj", "Hyperparameter", "value:", "-", "Metric:", "Joint", "Goal", "Accuracy", "(JGA)", "Metric", "value:", "2021", "Task:", "Named", "Entity", "Recognition", "Dataset:", "Schema-Guided", "Dialogue", "(SGD)" ]

[ "B-MethodName", "I-MethodName", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterName", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "B-MetricName", "B-MetricValue", "I-MetricValue", "B-TaskName", "I-TaskName", "I-TaskNam...

[ "Method:", "SPLAT", "Hyperparameter:", "IletR", "Hyperparameter", "value:", "-", "Metric:", "Intent", "Accuracy", "Metric", "value:", "2021", "Task:", "Named", "Entity", "Recognition", "Dataset:", "Schema-Guided", "Dialogue", "(SGD)" ]

[ "B-MethodName", "I-MethodName", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterName", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "B-MetricName", "B-MetricValue", "I-MetricValue", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "B-DatasetName...

[ "Method:", "SPLAT", "Hyperparameter:", "M", "Hyperparameter", "value:", "-", "Metric:", "Joint", "Goal", "Accuracy", "(JGA)", "Metric", "value:", "2021", "Task:", "Named", "Entity", "Recognition", "Dataset:", "Schema-Guided", "Dialogue", "(SGD)" ]

[ "B-MethodName", "I-MethodName", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterName", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "B-MetricName", "B-MetricValue", "I-MetricValue", "B-TaskName", "I-TaskName", "I-TaskNam...

[ "Method:", "SPLAT", "Hyperparameter:", "R1", "Hyperparameter", "value:", "-", "Metric:", "Intent", "Accuracy" ]

[ "B-MethodName", "I-MethodName", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterName", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName" ]

[ "keep", "the", "attention", "window", "size", "set", "to", "512", ".", "The", "maximum", "sequence", "length", "is", "4096", ".", "During", "pretraining", "we", "train", "the", "base", "model", "for", "a", "total", "of", "850k", "training", "steps", "and",...

[ "O", "O", "B-HyperparameterName", "B-HyperparameterName", "B-HyperparameterName", "O", "O", "B-HyperparameterValue", "O", "O", "B-HyperparameterName", "B-HyperparameterName", "B-HyperparameterName", "O", "B-HyperparameterValue", "O", "O", "B-HyperparameterName", "O", "B-Hyperpa...

[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", "Long", "Papers", ",", "pages", "338–350", "July", "9", "-", "14", ",", "2023", "©", "2023", "Association", "for",...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "Generally", ",", "adversarial", "purification", "aims", "to", "remove", "the", "adversarial", "perturbations", "therefore", "can", "make", "correct", "predictions", "based", "on", "the", "recovered", "clean", "samples", "." ]

[ "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Despite", "the", "success", "of", "adversarial", "purification", "in", "the", "com-", "puter", "vision", "field", "that", "incorporates", "generative", "models", "such", "as", "energy", "-", "based", "models", "and", "dif-", "fusion", "models", ",", "using", ...

[ "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "this", "work", ",", "we", "introduce", "a", "novel", "adversarial", "purification", "method", "that", "fo-", "cuses", "on", "defending", "against", "textual", "adversarial", "attacks", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O" ]

[ "With", "the", "help", "of", "language", "models", ",", "we", "can", "inject", "noise", "by", "masking", "input", "texts", "and", "reconstructing", "the", "masked", "texts", "based", "on", "the", "masked", "language", "models", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "this", "way", ",", "we", "con-", "struct", "an", "adversarial", "purification", "process", "for", "textual", "models", "against", "the", "most", "widely", "used", "word", "-", "substitution", "adversarial", "attacks", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O" ]

[ "We", "test", "our", "proposed", "adversarial", "purification", "method", "on", "several", "strong", "adversarial", "attack", "methods", "in-", "cluding", "Textfooler", "and", "BERT", "-", "Attack", "and", "exper-", "imental", "results", "indicate", "that", "the",...

[ "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName...

[ "1", "Introduction", "Adversarial", "examples", "(", "Goodfellow", "et", "al", ".", ",", "2014", ")", "can", "successfully", "mislead", "strong", "neural", "models", "in", "both", "computer", "vision", "tasks", "(", "Carlini", "and", "Wagner", ",", "2016", "...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O"...

[ "An", "adversarial", "example", "is", "a", "maliciously", "crafted", "example", "attached", "with", "an", "imperceptible", "perturbation", "and", "can", "mislead", "neural", "networks", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "To", "defend", "attack", "examples", "of", "images", ",", "the", "most", "effective", "method", "is", "adversarial", "training", "(", "Goodfellow", "et", "al", ".", ",", "2014", ";", "Madry", "et", "al", ".", ",", "2019", ")", "which", "is", "a", "min...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", ...

[ "How-", "ever", ",", "defending", "adversarial", "examples", "in", "natural", "languages", "is", "more", "challenging", "due", "to", "the", "discrete", "nature", "of", "texts", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "That", "is", ",", "gradients", "can", "not", "be", "used", "directly", "in", "crafting", "perturbations", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "substitution-", "based", "adversarial", "examples", "are", "more", "complicated", "than", "gradient", "-", "based", "adversarial", "examples", "in", "im-", "ages", ",", "making", "it", "difficult", "for", "neural", "networks", "to", "de-", "fend", "again...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "first", "challenge", "of", "defending", "against", "adver-", "sarial", "attacks", "in", "NLP", "is", "that", "due", "to", "the", "discrete", "na-", "ture", ",", "these", "substitution", "-", "based", "adversarial", "examples", "can", "have", "substitut...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "This", "would", "cause", "a", "combinatorial", "explosion", "problem", ",", "making", "it", "hard", "to", "apply", "adversarial", "training", "meth-", "ods", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Strong", "attacking", "methods", "such", "as", "Jin", "et", "al", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "(", "2019", ")", "show", "that", "using", "the", "crafted", "adversarial", "ex-", "amples", "as", "data", "augmentation", "in", "adversarial", "training", "can", "not", "effectively", "defend", "against", "these", "substitution-", "based", "attacks", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Further", ",", "defending", "strategies", "such", "as", "adversarial", "training", "rely", "on", "the", "assumption", "that", "the", "candidate", "lists", "of", "the", "substitutions", "are", "accessible", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "However", ",", "the", "candidate", "lists", "of", "the", "substitutions", "should", "notbe", "exposed", "to", "the", "target", "model", ";", "that", "is", ",", "the", "target", "model", "should", "be", "unfamiliar", "to", "the", "candi-", "date", "list", ...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "real", "-", "world", "defense", "systems", ",", "the", "defender", "is", "not", "aware", "of", "the", "strategy", "the", "potential", "attacks", "might", "use", ",", "so", "the", "as-", "sumption", "that", "the", "candidate", "list", "is", "availabl...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Considering", "that", "it", "is", "challenging", "to", "defend", "against", "textual", "adversarial", "attacks", "when", "the", "form", "of", "the", "attacks", "can", "not", "be", "acknowledged", "in", "advance", ",", "we", "introduce", "a", "novel", "adversa...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "adversarial", "purification", "method", "is", "to", "purify", "adversarially", "perturbed", "input", "samples", "before", "making", "predictions", "(", "Srinivasan", "et", "al", ".", ",", "2021", ";", "Shi338", "et", "al", ".", ",", "2021", ";", "Yoo...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "major", "works", "about", "adversarial", "purification", "focus", "on", "purifying", "continuous", "inputs", "such", "as", "images", ",", "therefore", "these", "works", "explore", "different", "generative", "models", "such", "as", "GANs", "(", "Samangouei"...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName...

[ "However", ",", "in", "textual", "adversarial", "at-", "tacks", ",", "the", "inputs", "are", "discrete", "tokens", "which", "makes", "it", "more", "challenging", "to", "deploy", "previous", "adversarial", "purification", "methods", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Therefore", ",", "we", "introduce", "a", "purification", "mecha-", "nism", "with", "the", "help", "of", "masked", "language", "models", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "first", "consider", "the", "widely", "used", "masking", "process", "to", "inject", "noise", "into", "the", "input", ";", "then", "we", "recover", "the", "clean", "texts", "from", "the", "noisy", "inputs", "with", "the", "help", "of", "the", "masked"...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "a", "BERT", "(", "De-", "vlin", "et", "al", ".", ",", "2018", ")", ")", "." ]

[ "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Further", ",", "considering", "that", "the", "iterative", "process", "in", "previous", "adversarial", "purifica-", "tion", "algorithms", "can", "be", "extremely", "costly", "(", "e.g", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "a", "VP", "-", "SDE", "process", "in", "diffusion", "models", "(", "Song", "et", "al", ".", ",", "2021", ")", ")", ",", "we", "instead", "simplify", "the", "iterative", "process", "to", "an", "ensemble", "-", "purifying", "process", "that", "conducting"...

[ "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", ...

[ "Through", "extensive", "experiments", ",", "we", "prove", "that", "the", "proposed", "text", "adversarial", "purification", "algorithm", "can", "successfully", "serve", "as", "defense", "against", "strong", "at-", "tacks", "such", "as", "Textfooler", "and", "BERT...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O" ]

[ "Exper-", "iment", "results", "show", "that", "the", "accuracy", "under", "attack", "in", "baseline", "defense", "methods", "is", "lower", "than", "random", "guesses", ",", "while", "after", "text", "purification", ",", "the", "perfor-", "mance", "can", "reach...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "Further", ",", "extensive", "results", "indicate", "that", "the", "candidate", "range", "of", "the", "attacker", "score", "is", "essential", "for", "successful", "attacks", ",", "which", "is", "a", "key", "fac-", "tor", "in", "maintaining", "the", "semantics"...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Therefore", "we", "also", "recommend", "that", "future", "attacking", "methods", "can", "focus", "on", "achieving", "successful", "attacks", "with", "tighter", "constraints", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "To", "summarize", "our", "contributions", ":", "(", "1", ")", "We", "raise", "the", "concern", "of", "defending", "substitution", "-", "based", "adversarial", "attacks", "without", "ac-", "knowledging", "the", "form", "of", "the", "attacks", "in", "NLP", "t...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O" ]

[ "(", "2", ")", "To", "the", "best", "of", "our", "knowledge", ",", "we", "are", "the", "first", "to", "consider", "adversarial", "purification", "as", "a", "defense", "against", "textual", "adversarial", "attacks", "exemplified", "by", "strong", "word", "-",...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "2", "Related", "Work", "2.1", "Adversarial", "Attacks", "in", "NLP", "In", "NLP", "tasks", ",", "current", "methods", "use", "substitution-", "based", "strategies", "(", "Alzantot", "et", "al", ".", ",", "2018", ";", "Jin", "et", "al", ".", ",", "2019",...

[ "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O",...

[ "Most", "works", "focus", "on", "the", "score", "-", "based", "black-", "box", "attack", ",", "that", "is", ",", "attacking", "methods", "know", "the", "logits", "of", "the", "output", "prediction", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "These", "methods", "use", "different", "strategies", "(", "Yoo", "et", "al", ".", ",", "2020", ";", "Morris", "et", "al", ".", ",", "2020b", ")", "to", "find", "words", "to", "replace", ",", "such", "as", "genetic", "algorithm", "(", "Alzantot", "et",...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-...

[ "2.2", "Adversarial", "Defenses", "We", "divide", "the", "defense", "methods", "for", "word-", "substitution", "attacks", "by", "whether", "the", "defense", "method", "requires", "knowledge", "of", "the", "form", "of", "the", "attack", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "When", "the", "candidate", "list", "is", "known", ",", "recent", "works", "introduce", "defense", "strategies", "that", "incorporate", "the", "candidates", "of", "the", "words", "to", "be", "replaced", "as", "an", "aug-", "mentation", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Jin", "et", "al", "." ]

[ "O", "O", "O", "O" ]

[ "(", "2019", ")", ";", "Li", "et", "al", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "(", "2020", ")", ";", "Si", "et", "al", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "(", "2020", ")", "uses", "generated", "adversaries", "to", "augment", "the", "classifier", "for", "better", "defense", "performances", ";", "Jia", "et", "al", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "(", "2019", ")", ";", "Huang", "et", "al", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "(", "2019", ")", "introduce", "a", "certified", "robust", "model", "to", "construct", "a", "certified", "space", "within", "the", "range", "of", "a", "candidate", "list", "therefore", "the", "substitu-", "tions", "in", "the", "candidate", "list", "can", "no...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Zhou", "et", "al", "." ]

[ "O", "O", "O", "O" ]

[ "(", "2020", ")", ";", "Dong", "et", "al", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "(", "2021", ")", "construct", "a", "convex", "hull", "based", "on", "the", "candidate", "list", "which", "can", "resist", "substitutions", "in", "the", "candidate", "list", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "To", "defend", "unknown", "attacks", ",", "NLP", "models", "can", "in-", "corporate", "gradient", "-", "based", "adversarial", "training", "strate-", "gies", "(", "Miyato", "et", "al", ".", ",", "2016", ";", "Madry", "et", "al", ".", ",", "2019", ")", ...

[ "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", ...

[ "using", "Diffusion", "Models", "/", "Score", "-", "based", "Models", "I", "possess", "the", "good", "common", "logical", "sense", "to", "realize", "..." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "it", "is", "something", "I", "like", "..." ]

[ "O", "O", "O", "O", "O", "O" ]

[ "Adversarial", "Text", "(", "Negative", ")", "..." ]

[ "O", "O", "O", "O", "O", "O" ]

[ "I", "[", "MASK", "]", "the", "good", "common", "logical", "sense", "to", "[", "MASK", "]", "..." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "it", "is", "something", "I", "like", "..." ]

[ "O", "O", "O", "O", "O", "O" ]

[ "I", "possess", "the", "good", "common", "logical", "[", "MASK", "]", "to", "realize", "..." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "it", "is", "[", "MASK", "]", "I", "like", "..." ]

[ "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "..." ]

[ "O" ]

[ "..." ]

[ "O" ]

[ "MLMI", "know", "the", "good", "common", "logical", "sense", "to", "sense", "..." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "it", "is", "something", "I", "like", "..." ]

[ "O", "O", "O", "O", "O", "O" ]

[ "Purified", "TextsI", "possess", "the", "good", "common", "logical", "feel", "to", "realize", "..." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "it", "is", "something", "I", "like", "..." ]

[ "O", "O", "O", "O", "O", "O" ]

[ "(", "Positive", ")", "I", "possess", "the", "good", "common", "logical", "[", "MASK", "]", "to", "[", "MASK", "]", "..." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]