anlp/annotation1_wo_elimination · Datasets at Hugging Face

sentences list	ner_tags list
[ "Here", ",", "the", "input", "Xis", "the", "clean", "text", "used", "in", "training", "the", "classifier", "and", "the", "X′is", "the", "random", "masked", "text", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "loss", "function", "L", "(", "·", ")", "is", "the", "cross", "-", "entropy", "loss", "used", "in", "both", "the", "text", "classifica-", "tion", "head", "and", "masked", "language", "modeling", "head", "in", "the", "pre", "-", "trained", "models"...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O" ]
[ "In", "this", "way", ",", "we", "are", "utilizing", "the", "pre", "-", "trained", "mod-", "els", "to", "their", "full", "ability", "by", "using", "both", "the", "mask", "-", "filling", "function", "learned", "during", "the", "pre", "-", "training", "stag...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Algorithm", "1", "Adversarial", "Training", "Require", ":", "Training", "Sample", "X", ",", "adversarial", "step", "Ta", "1", ":", "X′←Inject", "Noise", "X", "2", ":", "δ0←1√DN", "(", "0", ",", "σ2", ")", "/", "/", "Init", "Perturb", "3", ":", "fort="...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "Therefore", ",", "it", "is", "intuitive", "to", "incorporate", "gradient-", "based", "adversarial", "training", "in", "the", "purification", "pro-", "cess", "when", "the", "purification", "process", "is", "combined", "with", "the", "classifier", "training", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "introduce", "the", "adversarial", "training", "process", "therefore", "the", "purification", "function", "Fm", "(", "·", ")", "includes", "mask", "-", "prediction", "and", "recovering", "clean", "texts", "from", "inputs", "with", "gradient", "-", "based",...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O" ]
[ "Following", "standard", "adversarial", "training", "process", "with", "gradient", "-", "based", "adversaries", "introduced", "by", "Zhu", "et", "al", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "(", "2019", ")", ";", "Li", "and", "Qiu", "(", "2020", ")", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "In", "the", "adversarial", "training", "process", ",", "a", "gradient", "-", "based", "perturbation", "δis", "added", "to", "the", "embedding", "output", "of", "the", "input", "text", "X", "(", "for", "simplicity", ",", "we", "still", "use", "XandX′to", "...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Then", "the", "perturbed", "inputs", "are", "added", "to", "the", "training", "set", "in", "the", "training", "process", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "combine", "gradient", "-", "based", "ad-", "versarial", "training", "with", "the", "text", "purification", "process", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "As", "illustrated", "in", "Algorithm", "1", ",", "for", "an", "adversarial", "training", "step", ",", "we", "add", "perturbations", "to", "the", "masked", "textX′and", "run", "Tatimes", "of", "updates", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "calculate", "gradients", "based", "on", "both", "classification", "losses", "Lcand", "masked", "language", "modeling", "losses", "Lmlm", ";", "further", ",", "as", "seen", "in", "line", "6", ",", "we", "also", "calculate", "the", "loss", "that", "the"...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "4", "Experiments", "4.1", "Datasets", "We", "use", "two", "widely", "used", "text", "classification", "datasets", ":", "IMDB1", "(", "Maas", "et", "al", ".", ",", "2011", ")", "and", "AG", "’s", "News2", "(", "Zhang", "et", "al", ".", ",", "2015", "...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "IMDB", "dataset", "is", "a", "bi", "-", "polar", "movie", "review", "classification", "task", ";", "the", "AG", "’s", "News", "dataset", "is", "a", "four", "-", "class", "news", "genre", "classification", "task", "." ]	[ "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "average", "length", "is", "220", "words", "in", "the", "IMDB", "dataset", ",", "and", "40", "words", "in", "the", "AG", "’s", "News", "dataset", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O" ]
[ "We", "use", "the", "test", "set", "fol-", "lowing", "the", "Textfooler", "1k", "test", "set", "in", "the", "main", "re-", "sult", "and", "sample", "100", "samples", "for", "the", "rest", "of", "the", "experiments", "since", "the", "attacking", "process", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "4.2", "Attack", "Methods", "Popular", "attack", "methods", "exemplified", "by", "genetic", "Al-", "gorithm", "(", "Alzantot", "et", "al", ".", ",", "2018", ")", ",", "Textfooler", "(", "Jin", "et", "al", ".", ",", "2019", ")", "and", "BERT", "-", "Att...	[ "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "...
[ "Therefore", ",", "we", "use", "these", "strong", "adversarial", "attack", "methods", "as", "the", "attacker", "to", "test", "the", "effectiveness", "of", "our", "defense", "method", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "hyperparameters", "used", "in", "the", "attacking", "algorithm", "vary", "in", "different", "settings", ":", "we", "choose", "candidate", "list", "sizeKto", "be", "12", ",", "48", ",", "and", "50", "which", "are", "used", "in", "the", "Textfooler", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O" ]
[ "We", "use", "the", "exact", "same", "metric", "used", "in", "Textfooler", "and", "BERT", "-", "Attack", "that", "calculates", "the", "after", "-", "attack", "accuracy", ",", "which", "is", "the", "targeted", "adversarial", "evalu-", "ation", "defined", "by"...	[ "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O",...
[ "(", "2020", ")", "." ]	[ "O", "O", "O", "O" ]
[ "The", "after", "-", "attack", "accuracy", "measures", "the", "actual", "defense", "ability", "of", "the", "system", "under", "adversarial", "attacks", "." ]	[ "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "1https", ":", "/", "/", "datasets.imdbws.com", "/", "2https", ":", "/", "/", "www.kaggle.com", "/", "amananandrai", "/", "ag-news-", "classification", "-", "dataset4.3", "Victim", "Models", "and", "Defense", "Baselines", "The", "victim", "models", "are", "the",...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "As", "discussed", "above", ",", "there", "are", "few", "works", "concerning", "adversarial", "defenses", "against", "attacks", "without", "knowing", "the", "candidates", "in", "NLP", "tasks", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O" ]
[ "Moreover", ",", "previous", "works", "do", "not", "focus", "on", "recent", "strong", "attack", "algorithms", "such", "as", "Textfooler", "(", "Jin", "et", "al", ".", ",", "2019", ")", ",", "BERT", "-", "involved", "attacks", "(", "Li", "et", "al", "."...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "(", "2017", ")", "introduces", "the", "adversarial", "training", "method", "used", "in", "defending", "against", "substitution", "-", "based", "adver-", "sarial", "attacks", "in", "NLP", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "It", "uses", "gradients", "to", "find", "actual", "adversaries", "in", "the", "embedding", "space", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Virtual", "-", "Adv", "-", "Train", "(", "FreeLB", ")", ":", "Li", "and", "Qiu", "(", "2020", ")", ";", "Zhu", "et", "al", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "(", "2019", ")", "use", "virtual", "adversaries", "to", "improve", "the", "performances", "in", "fine", "-", "tuning", "pre-", "trained", "models", ",", "which", "can", "also", "be", "used", "to", "deal", "with", "adversarial", "attacks", "without", "access...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "follow", "the", "standard", "FreeLB", "training", "pro-", "cess", "to", "re", "-", "implement", "the", "defense", "results", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Further", ",", "there", "are", "some", "works", "that", "require", "the", "candidate", "list", ",", "it", "is", "not", "a", "fair", "comparison", "with", "de-", "fense", "methods", "without", "accessing", "the", "candidates", ",", "so", "we", "list", "the...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "We", "mix", "the", "generated", "adversarial", "examples", "and", "the", "original", "training", "dataset", "to", "train", "a", "model", "in", "a", "standard", "fine", "-", "tuning", "process", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "ASCC", ":", "Dong", "et", "al", "." ]	[ "O", "O", "O", "O", "O", "O" ]
[ "(", "2021", ")", "also", "uses", "a", "convex-", "hull", "concept", "based", "on", "the", "candidate", "vocabulary", "as", "a", "strong", "adversarial", "defense", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "ADA", ":", "Si", "et", "al", "." ]	[ "O", "O", "O", "O", "O", "O" ]
[ "(", "2020", ")", "uses", "a", "mixup", "strategy", "based", "on", "the", "generated", "adversarial", "examples", "to", "achieve", "adversarial", "defense", "with", "variants", "AMDA-", "SMix", "that", "mixup", "the", "special", "tokens", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "FreeLB++", ":", "Li", "et", "al", "." ]	[ "O", "O", "O", "O", "O", "O" ]
[ "(", "2021", ")", "introduces", "a", "variant", "of", "FreeLB", "method", "that", "expands", "the", "norm", "bound", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O" ]
[ "RanMASK", ":", "Zeng", "et", "al", "." ]	[ "O", "O", "O", "O", "O", "O" ]
[ "(", "2021", ")", "introduces", "a", "masking", "strategy", "that", "makes", "use", "of", "noises", "to", "im-", "prove", "robustness", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "3https", ":", "/", "/", "github.com", "/", "huggingface", "/", "transformers342", "Defense", "↓Attacks", "→Origin", "Textfooler", "BERT", "-", "Attack", "Textfooler", "BERT", "-", "Attack", "(", "K=12", ")", "(", "K=12", ")", "(", "K=50", ")", "(", "K=48"...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "That", "is", ",", "the", "substitution", "candidates", "of", "the", "attack", "methods", "are", "unknown", "to", "defense", "systems", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Methods", "Origin", "Textfooler", "GA", "IMDB", "↓", "BERT", "94.0", "2.0", "45.0", "■", "Data", "-", "Augmentation", "93.0", "18.0", "53.0", "●", "ADA", "(", "Si", "et", "al", ".", ",", "2020", ")", "96.7", "3.0", "-", "●", "AMDA", "(", "Si", "et...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "Here", "we", "implement", "Textfooler", "with", "K=50", "for", "consistency", "with", "previous", "works", "." ]	[ "O", "O", "O", "B-MethodName", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O" ]
[ "GA", "is", "the", "Genetic", "Attack", "method", "." ]	[ "B-MethodName", "O", "O", "B-MethodName", "I-MethodName", "O", "O" ]
[ "We", "use", "the", "AMDA", "-", "SMix", "setup", "for", "the", "AMDA", "method", "." ]	[ "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "B-MethodName", "O", "O" ]
[ "4.4", "Implementations", "We", "use", "BERT", "-", "BASE", "and", "RoBERTa", "-", "BASE", "models", "based", "on", "the", "Huggingface", "Transformers4", "." ]	[ "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "mod-", "ify", "the", "adversarial", "training", "with", "virtual", "adversaries", "based", "on", "the", "implementation", "of", "FreeLB", ",", "TA", "V", "AT", ",", "and", "FreeLB++", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "B-MethodName", "O" ]
[ "The", "training", "hyper", "-", "parameters", "we", "use", "are", "different", "from", "FreeLB", "and", "TA", "V", "AT", "since", "we", "aim", "to", "find", "large", "perturbations", "to", "simulate", "adver-", "saries", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "set", "adversarial", "learning", "rate", "α=1e-1", "to", "and", "normalization", "boundary", "ϵ=2e-1", "in", "all", "tasks", "." ]	[ "O", "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "B-HyperparameterName", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterName", "O", "O", "O", "O" ]
[ "We", "set", "the", "multiple", "purification", "size", "N", "=", "to", "16", "for", "all", "tasks", "and", "we", "will", "discuss", "the", "selection", "of", "Nin", "the", "later", "section", "." ]	[ "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterName", "O", "O", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "For", "our", "text", "adversarial", "purification", "method", ",", "we", "4https", ":", "/", "/", "github.com", "/", "huggingface", "/", "transformersuse", "the", "model", "that", "is", "trained", "with", "gradient", "-", "based", "adversarial", "training", "...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "As", "for", "implementing", "adversarial", "attack", "methods", ",", "we", "use", "the", "TextAttack", "toolkit", "while", "referring", "the", "official", "codes", "of", "the", "corresponding", "attack", "methods", "5", "(", "Morris", "et", "al", ".", ",", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "similarity", "thresholds", "of", "the", "word", "-", "substitution", "range", "are", "the", "main", "fac-", "tors", "of", "the", "attacking", "algorithm", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "tune", "the", "USE", "(", "Cer", "et", "al", ".", ",", "2018", ")", "constraint", "0.5", "for", "the", "AG", "task", "and", "0.7", "for", "the", "IMDB", "task", "and", "0.5", "for", "the", "cosine-", "similarity", "threshold", "of", "the", "sy...	[ "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "B-HyperparameterValue", "O", "...
[ "4.5", "Results", "As", "seen", "in", "Table", "1", ",", "the", "proposed", "Text", "Adversar-", "ial", "Purification", "algorithm", "can", "successfully", "defend", "strong", "attack", "methods", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "accuracy", "of", "our", "defend-", "ing", "method", "under", "attack", "is", "significantly", "higher", "than", "non", "-", "defense", "models", "(", "50", "%", "vs", "20", "%", "in", "the", "IMDB", "dataset", ")", "." ]	[ "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "I-MetricValue", "O", "B-MetricValue", "I-MetricValue", "O", "O", "B-DatasetName", "O", "O", "O" ]
[ "Compared", "with", "previous", "defense", "methods", ",", "our", "proposed", "method", "can", "achieve", "higher", "defense", "accuracy", "in", "both", "the", "IMDB", "task", "and", "AG", "’s", "News", "task", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O" ]
[ "The", "Adv", "-", "HotFlip", "and", "the", "FreeLB", "methods", "5https", ":", "/", "/", "github.com", "/", "QData", "/", "TextAttack343", "Defense", "↓Attacks", "→Origin", "Textfooler", "BERT", "-", "Attack", "(", "K=12", ")", "(", "K=12", ")", "▲", "T...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "B-MetricValu...
[ "Recovery", "87.0", "20.0", "13.0", "✔", "Purification", "✖", "Mask", "Insertion", "✖", "Multi", "." ]	[ "B-MetricName", "B-MetricValue", "B-MetricValue", "B-MetricValue", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Recovery", "92.0", "11.0", "3.0", "▲", "Combining", "Classifier", "↓", "✔", "Purification", "✔", "Comb", "." ]	[ "B-MetricName", "B-MetricValue", "B-MetricValue", "B-MetricValue", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Classifier", "95.0", "76.0", "67.0", "✔", "Purification", "✔", "Comb", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Classifier", "✖", "Multi", "." ]	[ "O", "O", "O", "O" ]
[ "Recovery", "95.0", "45.0", "34.0", "✔", "Purification", "✔", "Comb", "." ]	[ "B-MetricName", "B-MetricValue", "B-MetricValue", "B-MetricValue", "O", "O", "O", "O", "O" ]
[ "Classifier", "✖", "Multi", "." ]	[ "O", "O", "O", "O" ]
[ "Recovery", "✖", "Mask", "Insertion", "95.0", "29.0", "17.0", "▲", "Combining", "Adversarially", "Trained", "Classifier", "↓", "✔", "Purification", "✔", "AT", "Classifier", "93.0", "86.0", "77.0", "✔", "Purification", "✔", "AT", "Classifier", "✖", "Multi", "."...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Recovery", "93.0", "63.0", "52.0", "✔", "Purification", "✔", "AT", "Classifier", "✖", "Multi", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Recovery", "✖", "Mask", "Insertion", "93.0", "42.0", "29.0", "BERT", "94.0", "10.0", "5.0", "Table", "3", ":", "Ablations", "results", "tested", "on", "attacking", "the", "IMDB", "task", "based", "on", "BERT", "models", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Comb", "." ]	[ "O", "O" ]
[ "Classifier", "is", "the", "combined", "fine", "-", "tuned", "Fc", "(", "·", ")", "andFm", "(", "·", ")", "and", "AT", "Classifier", "is", "the", "adversarially", "trained", "Fc", "(", "·", ")", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Mask", "Insertion", "is", "to", "use", "both", "mask", "-", "replacing", "and", "mask", "-", "insertion", "in", "injecting", "noise", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "are", "effective", ",", "which", "indicates", "that", "gradient", "-", "based", "adversaries", "are", "not", "very", "similar", "to", "actual", "substitu-", "tions", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "can", "see", "that", "Adv", "-", "HotFlip", "and", "FreeLB", "methods", "achieve", "similar", "results", "(", "around", "30", "%", "when", "K=", "12", ")", "which", "indicates", "that", "gradient", "-", "based", "adver-", "sarial", "training", "meth...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "Also", ",", "the", "original", "accuracy", "(", "on", "the", "clean", "data", ")", "of", "our", "method", "is", "only", "a", "little", "lower", "than", "the", "baseline", "methods", ",", "which", "indicates", "that", "the", "purified", "texts", "still", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "RoBERTa", "model", "also", "shows", "robustness", "using", "both", "original", "fine", "-", "tuned", "model", "and", "our", "defensive", "framework", ",", "which", "indicates", "our", "purification", "algorithm", "can", "be", "used", "in", "various", "...	[ "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Compared", "with", "methods", "that", "specifically", "focus", "on", "adversarial", "defense", ",", "our", "proposed", "method", "can", "still", "surpass", "the", "state", "-", "of", "-", "the-", "art", "defense", "system", "FreeLB++", "(", "Li", "et", "al"...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Further", ",", "the", "candidate", "size", "is", "extremely", "im-", "portant", "in", "defending", "against", "adversarial", "attacks", ",", "when", "the", "candidate", "size", "is", "smaller", ",", "exemplified", "by", "K=", "12", ",", "our", "method", "ca...	[ "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "As", "pointed", "out", "by", "Morris", "et", "al", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "(", "2020b", ")", ",", "the", "candidate", "size", "should", "not", "be", "too", "large", "that", "the", "quality", "of", "the", "adversarial", "examples", "is", "largely", "dam-", "aged", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "As", "seen", "in", "Table", "2", ",", "we", "compare", "our", "method", "with", "previous", "access", "-", "candidates", "defense", "methods", ".", "When", "defending", "against", "the", "widely", "used", "Textfooler", "attack", "and", "genetic", "attack", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "As", "seen", ",", "the", "data", "augmentation", "method", "can-", "not", "significantly", "improve", "model", "robustness", "since", "the", "candidates", "can", "be", "very", "diversified", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Therefore", ",", "using", "generated", "adversarial", "samples", "as", "an", "aug-", "mentation", "strategy", "does", "not", "guarantee", "robustness", "against", "greedy", "-", "searched", "methods", "like", "Textfooler", "and", "BERT", "-", "Attack", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "4.6", "Analysis", "4.6.1", "Ablations", "As", "we", "design", "an", "adversarial", "purification", "algo-", "rithm", "with", "masked", "language", "models", "and", "propose", "a", "multiple", "-", "recovering", "strategy", ",", "we", "aim", "to", "explore", "...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Plus", ",", "we", "combine", "classifiers", "within", "the", "purification", "model", "so", "it", "is", "also", "important", "to", "explore", "whether", "such", "a", "combination", "is", "helpful", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "For", "each", "type", "of", "purification", "method", ",", "we", "test", "whether", "the", "specific", "purification", "process", "we", "pro-", "pose", "is", "effective", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "That", "is", ",", "we", "test", "whether", "making", "multiple", "recoveries", "in", "the", "purification", "process", "is", "helpful", ";", "also", ",", "we", "test", "whether", "using", "both", "masking", "tokens", "and", "inserting", "additional", "masks",...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "As", "seen", "in", "Table", "3", ",", "we", "can", "summarize", "that", ":", "(", "1", ")", "Multi", "-", "time", "recovering", "is", "necessary", ":", "in", "the", "image", "domain", ",", "multiple", "reconstructions", "with", "a", "con-", "tinuous", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ "I", "’ve", "been", "an", "avid", "consumer", "of", "new", "technology", "and", "I", "keep", "running", "out", "of", "space", "on", "powerboards", "-", "so", "...", "93.2", "%", "Adv", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "of", "BERTI", "possess", "the", "good", "common", "logical", "sense", "to", "realize", "that", "oil", "can", "not", "last", "forever", "and", "I", "am", "acutely", "aware", "of", "how", "much", "of", "my", "life", "in", "the", "suburbs", "spins", "aroun...	[ "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "I", "’ve", "been", "an", "avid", "consumer", "of", "new", "technology", "and", "I", "keep", "running", "out", "of", "space", "on", "powerboards", "-", "well", "...", "38.3", "%", "Adv", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "of", "Text", "PureI", "know", "the", "wonderful", "general", "sense", "to", "knows", "that", "oils", "can", "not", "last", "endless", "and", "I", "am", "acutely", "know", "of", "how", "majority", "of", "my", "lived", "in", "the", "city", "spins", "aroun...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "I", "’ve", "been", "an", "amateur", "consumers", "of", "newly", "technologies", "and", "I", "kept", "working", "out", "of", "spaces", "on", "powerboards", "!" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "well", "...", "80.1", "%", "Purified", "TextsWell", "I", "know", "the", "wonderful", "general", "sense", "notion", "to", "knows", "that", "oils", "production", "can", "not", "last", "for", "endless", "years", "and", "I", "am", "acutely", "know", "of", "ho...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "I", "’ve", "been", "an", "amateur", "consumers", "of", "new", "technologies", "and", "I", "kept", "working", "out", "of", "spaces", "on", "power", "skateboards", "!" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "well", "...", "80.4", "%", "I", "know", "the", "wonderful", "common", "sense", "notion", "to", "knows", "that", "oils", "can", "not", "last", "forever", "and", "I", "also", "acutely", "know", "of", "how", "majority", "of", "my", "lived", "in", "the", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "I", "’ve", "been", "an", "amateur", "consumers", "of", "newly", "technologies", "and", "I", "kept", "working", "out", "of", "them", "on", "skateboards", "!" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "well", "...", "81.4", "%", "I", "know", "the", "wonderfully", "general", "sense", "notion", "to", "knows", "that", "oils", "can", "not", "last", "endless", "and", "I", "am", "acutely", "know", "of", "how", "majority", "part", "of", "my", "lived", "in", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "I", "should", "have", "been", "an", "amateur", "consumers", "fan", "of", "newly", "technologies", "and", "I", "kept", "on", "working", "out", "of", "spaces", "and", "on", "powerboards", "!" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "well", "...", "76.2", "%", "I", "am", "the", "the", "general", "sense", "notion", "and", "knows", "that", "oils", "can", "not", "last", "endless", "and", "I", "am", "acutely", "know", "of", "the", "part", "of", "my", "lived", "as", "the", "city", "s...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Here", ",", "the", "input", "Xis", "the", "clean", "text", "used", "in", "training", "the", "classifier", "and", "the", "X′is", "the", "random", "masked", "text", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "loss", "function", "L", "(", "·", ")", "is", "the", "cross", "-", "entropy", "loss", "used", "in", "both", "the", "text", "classifica-", "tion", "head", "and", "masked", "language", "modeling", "head", "in", "the", "pre", "-", "trained", "models"...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O" ]

[ "In", "this", "way", ",", "we", "are", "utilizing", "the", "pre", "-", "trained", "mod-", "els", "to", "their", "full", "ability", "by", "using", "both", "the", "mask", "-", "filling", "function", "learned", "during", "the", "pre", "-", "training", "stag...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Algorithm", "1", "Adversarial", "Training", "Require", ":", "Training", "Sample", "X", ",", "adversarial", "step", "Ta", "1", ":", "X′←Inject", "Noise", "X", "2", ":", "δ0←1√DN", "(", "0", ",", "σ2", ")", "/", "/", "Init", "Perturb", "3", ":", "fort="...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "Therefore", ",", "it", "is", "intuitive", "to", "incorporate", "gradient-", "based", "adversarial", "training", "in", "the", "purification", "pro-", "cess", "when", "the", "purification", "process", "is", "combined", "with", "the", "classifier", "training", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "introduce", "the", "adversarial", "training", "process", "therefore", "the", "purification", "function", "Fm", "(", "·", ")", "includes", "mask", "-", "prediction", "and", "recovering", "clean", "texts", "from", "inputs", "with", "gradient", "-", "based",...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O" ]

[ "Following", "standard", "adversarial", "training", "process", "with", "gradient", "-", "based", "adversaries", "introduced", "by", "Zhu", "et", "al", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "(", "2019", ")", ";", "Li", "and", "Qiu", "(", "2020", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "the", "adversarial", "training", "process", ",", "a", "gradient", "-", "based", "perturbation", "δis", "added", "to", "the", "embedding", "output", "of", "the", "input", "text", "X", "(", "for", "simplicity", ",", "we", "still", "use", "XandX′to", "...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Then", "the", "perturbed", "inputs", "are", "added", "to", "the", "training", "set", "in", "the", "training", "process", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "combine", "gradient", "-", "based", "ad-", "versarial", "training", "with", "the", "text", "purification", "process", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "As", "illustrated", "in", "Algorithm", "1", ",", "for", "an", "adversarial", "training", "step", ",", "we", "add", "perturbations", "to", "the", "masked", "textX′and", "run", "Tatimes", "of", "updates", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "calculate", "gradients", "based", "on", "both", "classification", "losses", "Lcand", "masked", "language", "modeling", "losses", "Lmlm", ";", "further", ",", "as", "seen", "in", "line", "6", ",", "we", "also", "calculate", "the", "loss", "that", "the"...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "4", "Experiments", "4.1", "Datasets", "We", "use", "two", "widely", "used", "text", "classification", "datasets", ":", "IMDB1", "(", "Maas", "et", "al", ".", ",", "2011", ")", "and", "AG", "’s", "News2", "(", "Zhang", "et", "al", ".", ",", "2015", "...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "IMDB", "dataset", "is", "a", "bi", "-", "polar", "movie", "review", "classification", "task", ";", "the", "AG", "’s", "News", "dataset", "is", "a", "four", "-", "class", "news", "genre", "classification", "task", "." ]

[ "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "average", "length", "is", "220", "words", "in", "the", "IMDB", "dataset", ",", "and", "40", "words", "in", "the", "AG", "’s", "News", "dataset", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O" ]

[ "We", "use", "the", "test", "set", "fol-", "lowing", "the", "Textfooler", "1k", "test", "set", "in", "the", "main", "re-", "sult", "and", "sample", "100", "samples", "for", "the", "rest", "of", "the", "experiments", "since", "the", "attacking", "process", ...

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "4.2", "Attack", "Methods", "Popular", "attack", "methods", "exemplified", "by", "genetic", "Al-", "gorithm", "(", "Alzantot", "et", "al", ".", ",", "2018", ")", ",", "Textfooler", "(", "Jin", "et", "al", ".", ",", "2019", ")", "and", "BERT", "-", "Att...

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "...

[ "Therefore", ",", "we", "use", "these", "strong", "adversarial", "attack", "methods", "as", "the", "attacker", "to", "test", "the", "effectiveness", "of", "our", "defense", "method", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "hyperparameters", "used", "in", "the", "attacking", "algorithm", "vary", "in", "different", "settings", ":", "we", "choose", "candidate", "list", "sizeKto", "be", "12", ",", "48", ",", "and", "50", "which", "are", "used", "in", "the", "Textfooler", ...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O" ]

[ "We", "use", "the", "exact", "same", "metric", "used", "in", "Textfooler", "and", "BERT", "-", "Attack", "that", "calculates", "the", "after", "-", "attack", "accuracy", ",", "which", "is", "the", "targeted", "adversarial", "evalu-", "ation", "defined", "by"...

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O",...

[ "(", "2020", ")", "." ]

[ "O", "O", "O", "O" ]

[ "The", "after", "-", "attack", "accuracy", "measures", "the", "actual", "defense", "ability", "of", "the", "system", "under", "adversarial", "attacks", "." ]

[ "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "1https", ":", "/", "/", "datasets.imdbws.com", "/", "2https", ":", "/", "/", "www.kaggle.com", "/", "amananandrai", "/", "ag-news-", "classification", "-", "dataset4.3", "Victim", "Models", "and", "Defense", "Baselines", "The", "victim", "models", "are", "the",...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "As", "discussed", "above", ",", "there", "are", "few", "works", "concerning", "adversarial", "defenses", "against", "attacks", "without", "knowing", "the", "candidates", "in", "NLP", "tasks", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O" ]

[ "Moreover", ",", "previous", "works", "do", "not", "focus", "on", "recent", "strong", "attack", "algorithms", "such", "as", "Textfooler", "(", "Jin", "et", "al", ".", ",", "2019", ")", ",", "BERT", "-", "involved", "attacks", "(", "Li", "et", "al", "."...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "(", "2017", ")", "introduces", "the", "adversarial", "training", "method", "used", "in", "defending", "against", "substitution", "-", "based", "adver-", "sarial", "attacks", "in", "NLP", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "It", "uses", "gradients", "to", "find", "actual", "adversaries", "in", "the", "embedding", "space", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Virtual", "-", "Adv", "-", "Train", "(", "FreeLB", ")", ":", "Li", "and", "Qiu", "(", "2020", ")", ";", "Zhu", "et", "al", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "(", "2019", ")", "use", "virtual", "adversaries", "to", "improve", "the", "performances", "in", "fine", "-", "tuning", "pre-", "trained", "models", ",", "which", "can", "also", "be", "used", "to", "deal", "with", "adversarial", "attacks", "without", "access...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "follow", "the", "standard", "FreeLB", "training", "pro-", "cess", "to", "re", "-", "implement", "the", "defense", "results", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Further", ",", "there", "are", "some", "works", "that", "require", "the", "candidate", "list", ",", "it", "is", "not", "a", "fair", "comparison", "with", "de-", "fense", "methods", "without", "accessing", "the", "candidates", ",", "so", "we", "list", "the...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "We", "mix", "the", "generated", "adversarial", "examples", "and", "the", "original", "training", "dataset", "to", "train", "a", "model", "in", "a", "standard", "fine", "-", "tuning", "process", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "ASCC", ":", "Dong", "et", "al", "." ]

[ "O", "O", "O", "O", "O", "O" ]

[ "(", "2021", ")", "also", "uses", "a", "convex-", "hull", "concept", "based", "on", "the", "candidate", "vocabulary", "as", "a", "strong", "adversarial", "defense", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "ADA", ":", "Si", "et", "al", "." ]

[ "O", "O", "O", "O", "O", "O" ]

[ "(", "2020", ")", "uses", "a", "mixup", "strategy", "based", "on", "the", "generated", "adversarial", "examples", "to", "achieve", "adversarial", "defense", "with", "variants", "AMDA-", "SMix", "that", "mixup", "the", "special", "tokens", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "FreeLB++", ":", "Li", "et", "al", "." ]

[ "O", "O", "O", "O", "O", "O" ]

[ "(", "2021", ")", "introduces", "a", "variant", "of", "FreeLB", "method", "that", "expands", "the", "norm", "bound", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O" ]

[ "RanMASK", ":", "Zeng", "et", "al", "." ]

[ "O", "O", "O", "O", "O", "O" ]

[ "(", "2021", ")", "introduces", "a", "masking", "strategy", "that", "makes", "use", "of", "noises", "to", "im-", "prove", "robustness", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "3https", ":", "/", "/", "github.com", "/", "huggingface", "/", "transformers342", "Defense", "↓Attacks", "→Origin", "Textfooler", "BERT", "-", "Attack", "Textfooler", "BERT", "-", "Attack", "(", "K=12", ")", "(", "K=12", ")", "(", "K=50", ")", "(", "K=48"...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "That", "is", ",", "the", "substitution", "candidates", "of", "the", "attack", "methods", "are", "unknown", "to", "defense", "systems", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Methods", "Origin", "Textfooler", "GA", "IMDB", "↓", "BERT", "94.0", "2.0", "45.0", "■", "Data", "-", "Augmentation", "93.0", "18.0", "53.0", "●", "ADA", "(", "Si", "et", "al", ".", ",", "2020", ")", "96.7", "3.0", "-", "●", "AMDA", "(", "Si", "et...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "Here", "we", "implement", "Textfooler", "with", "K=50", "for", "consistency", "with", "previous", "works", "." ]

[ "O", "O", "O", "B-MethodName", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O" ]

[ "GA", "is", "the", "Genetic", "Attack", "method", "." ]

[ "B-MethodName", "O", "O", "B-MethodName", "I-MethodName", "O", "O" ]

[ "We", "use", "the", "AMDA", "-", "SMix", "setup", "for", "the", "AMDA", "method", "." ]

[ "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "B-MethodName", "O", "O" ]

[ "4.4", "Implementations", "We", "use", "BERT", "-", "BASE", "and", "RoBERTa", "-", "BASE", "models", "based", "on", "the", "Huggingface", "Transformers4", "." ]

[ "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "mod-", "ify", "the", "adversarial", "training", "with", "virtual", "adversaries", "based", "on", "the", "implementation", "of", "FreeLB", ",", "TA", "V", "AT", ",", "and", "FreeLB++", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "B-MethodName", "O" ]

[ "The", "training", "hyper", "-", "parameters", "we", "use", "are", "different", "from", "FreeLB", "and", "TA", "V", "AT", "since", "we", "aim", "to", "find", "large", "perturbations", "to", "simulate", "adver-", "saries", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "set", "adversarial", "learning", "rate", "α=1e-1", "to", "and", "normalization", "boundary", "ϵ=2e-1", "in", "all", "tasks", "." ]

[ "O", "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "B-HyperparameterName", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterName", "O", "O", "O", "O" ]

[ "We", "set", "the", "multiple", "purification", "size", "N", "=", "to", "16", "for", "all", "tasks", "and", "we", "will", "discuss", "the", "selection", "of", "Nin", "the", "later", "section", "." ]

[ "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterName", "O", "O", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "our", "text", "adversarial", "purification", "method", ",", "we", "4https", ":", "/", "/", "github.com", "/", "huggingface", "/", "transformersuse", "the", "model", "that", "is", "trained", "with", "gradient", "-", "based", "adversarial", "training", "...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "As", "for", "implementing", "adversarial", "attack", "methods", ",", "we", "use", "the", "TextAttack", "toolkit", "while", "referring", "the", "official", "codes", "of", "the", "corresponding", "attack", "methods", "5", "(", "Morris", "et", "al", ".", ",", ...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "similarity", "thresholds", "of", "the", "word", "-", "substitution", "range", "are", "the", "main", "fac-", "tors", "of", "the", "attacking", "algorithm", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "tune", "the", "USE", "(", "Cer", "et", "al", ".", ",", "2018", ")", "constraint", "0.5", "for", "the", "AG", "task", "and", "0.7", "for", "the", "IMDB", "task", "and", "0.5", "for", "the", "cosine-", "similarity", "threshold", "of", "the", "sy...

[ "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "B-HyperparameterValue", "O", "...

[ "4.5", "Results", "As", "seen", "in", "Table", "1", ",", "the", "proposed", "Text", "Adversar-", "ial", "Purification", "algorithm", "can", "successfully", "defend", "strong", "attack", "methods", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "accuracy", "of", "our", "defend-", "ing", "method", "under", "attack", "is", "significantly", "higher", "than", "non", "-", "defense", "models", "(", "50", "%", "vs", "20", "%", "in", "the", "IMDB", "dataset", ")", "." ]

[ "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "I-MetricValue", "O", "B-MetricValue", "I-MetricValue", "O", "O", "B-DatasetName", "O", "O", "O" ]

[ "Compared", "with", "previous", "defense", "methods", ",", "our", "proposed", "method", "can", "achieve", "higher", "defense", "accuracy", "in", "both", "the", "IMDB", "task", "and", "AG", "’s", "News", "task", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O" ]

[ "The", "Adv", "-", "HotFlip", "and", "the", "FreeLB", "methods", "5https", ":", "/", "/", "github.com", "/", "QData", "/", "TextAttack343", "Defense", "↓Attacks", "→Origin", "Textfooler", "BERT", "-", "Attack", "(", "K=12", ")", "(", "K=12", ")", "▲", "T...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "B-MetricValu...

[ "Recovery", "87.0", "20.0", "13.0", "✔", "Purification", "✖", "Mask", "Insertion", "✖", "Multi", "." ]

[ "B-MetricName", "B-MetricValue", "B-MetricValue", "B-MetricValue", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Recovery", "92.0", "11.0", "3.0", "▲", "Combining", "Classifier", "↓", "✔", "Purification", "✔", "Comb", "." ]

[ "B-MetricName", "B-MetricValue", "B-MetricValue", "B-MetricValue", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Classifier", "95.0", "76.0", "67.0", "✔", "Purification", "✔", "Comb", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Classifier", "✖", "Multi", "." ]

[ "O", "O", "O", "O" ]

[ "Recovery", "95.0", "45.0", "34.0", "✔", "Purification", "✔", "Comb", "." ]

[ "B-MetricName", "B-MetricValue", "B-MetricValue", "B-MetricValue", "O", "O", "O", "O", "O" ]

[ "Classifier", "✖", "Multi", "." ]

[ "O", "O", "O", "O" ]

[ "Recovery", "✖", "Mask", "Insertion", "95.0", "29.0", "17.0", "▲", "Combining", "Adversarially", "Trained", "Classifier", "↓", "✔", "Purification", "✔", "AT", "Classifier", "93.0", "86.0", "77.0", "✔", "Purification", "✔", "AT", "Classifier", "✖", "Multi", "."...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Recovery", "93.0", "63.0", "52.0", "✔", "Purification", "✔", "AT", "Classifier", "✖", "Multi", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Recovery", "✖", "Mask", "Insertion", "93.0", "42.0", "29.0", "BERT", "94.0", "10.0", "5.0", "Table", "3", ":", "Ablations", "results", "tested", "on", "attacking", "the", "IMDB", "task", "based", "on", "BERT", "models", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Comb", "." ]

[ "O", "O" ]

[ "Classifier", "is", "the", "combined", "fine", "-", "tuned", "Fc", "(", "·", ")", "andFm", "(", "·", ")", "and", "AT", "Classifier", "is", "the", "adversarially", "trained", "Fc", "(", "·", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Mask", "Insertion", "is", "to", "use", "both", "mask", "-", "replacing", "and", "mask", "-", "insertion", "in", "injecting", "noise", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "are", "effective", ",", "which", "indicates", "that", "gradient", "-", "based", "adversaries", "are", "not", "very", "similar", "to", "actual", "substitu-", "tions", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "can", "see", "that", "Adv", "-", "HotFlip", "and", "FreeLB", "methods", "achieve", "similar", "results", "(", "around", "30", "%", "when", "K=", "12", ")", "which", "indicates", "that", "gradient", "-", "based", "adver-", "sarial", "training", "meth...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "Also", ",", "the", "original", "accuracy", "(", "on", "the", "clean", "data", ")", "of", "our", "method", "is", "only", "a", "little", "lower", "than", "the", "baseline", "methods", ",", "which", "indicates", "that", "the", "purified", "texts", "still", ...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "RoBERTa", "model", "also", "shows", "robustness", "using", "both", "original", "fine", "-", "tuned", "model", "and", "our", "defensive", "framework", ",", "which", "indicates", "our", "purification", "algorithm", "can", "be", "used", "in", "various", "...

[ "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Compared", "with", "methods", "that", "specifically", "focus", "on", "adversarial", "defense", ",", "our", "proposed", "method", "can", "still", "surpass", "the", "state", "-", "of", "-", "the-", "art", "defense", "system", "FreeLB++", "(", "Li", "et", "al"...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Further", ",", "the", "candidate", "size", "is", "extremely", "im-", "portant", "in", "defending", "against", "adversarial", "attacks", ",", "when", "the", "candidate", "size", "is", "smaller", ",", "exemplified", "by", "K=", "12", ",", "our", "method", "ca...

[ "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "As", "pointed", "out", "by", "Morris", "et", "al", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "(", "2020b", ")", ",", "the", "candidate", "size", "should", "not", "be", "too", "large", "that", "the", "quality", "of", "the", "adversarial", "examples", "is", "largely", "dam-", "aged", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "As", "seen", "in", "Table", "2", ",", "we", "compare", "our", "method", "with", "previous", "access", "-", "candidates", "defense", "methods", ".", "When", "defending", "against", "the", "widely", "used", "Textfooler", "attack", "and", "genetic", "attack", ...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "As", "seen", ",", "the", "data", "augmentation", "method", "can-", "not", "significantly", "improve", "model", "robustness", "since", "the", "candidates", "can", "be", "very", "diversified", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Therefore", ",", "using", "generated", "adversarial", "samples", "as", "an", "aug-", "mentation", "strategy", "does", "not", "guarantee", "robustness", "against", "greedy", "-", "searched", "methods", "like", "Textfooler", "and", "BERT", "-", "Attack", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "4.6", "Analysis", "4.6.1", "Ablations", "As", "we", "design", "an", "adversarial", "purification", "algo-", "rithm", "with", "masked", "language", "models", "and", "propose", "a", "multiple", "-", "recovering", "strategy", ",", "we", "aim", "to", "explore", "...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Plus", ",", "we", "combine", "classifiers", "within", "the", "purification", "model", "so", "it", "is", "also", "important", "to", "explore", "whether", "such", "a", "combination", "is", "helpful", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "each", "type", "of", "purification", "method", ",", "we", "test", "whether", "the", "specific", "purification", "process", "we", "pro-", "pose", "is", "effective", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "That", "is", ",", "we", "test", "whether", "making", "multiple", "recoveries", "in", "the", "purification", "process", "is", "helpful", ";", "also", ",", "we", "test", "whether", "using", "both", "masking", "tokens", "and", "inserting", "additional", "masks",...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "As", "seen", "in", "Table", "3", ",", "we", "can", "summarize", "that", ":", "(", "1", ")", "Multi", "-", "time", "recovering", "is", "necessary", ":", "in", "the", "image", "domain", ",", "multiple", "reconstructions", "with", "a", "con-", "tinuous", ...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

[ "I", "’ve", "been", "an", "avid", "consumer", "of", "new", "technology", "and", "I", "keep", "running", "out", "of", "space", "on", "powerboards", "-", "so", "...", "93.2", "%", "Adv", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "of", "BERTI", "possess", "the", "good", "common", "logical", "sense", "to", "realize", "that", "oil", "can", "not", "last", "forever", "and", "I", "am", "acutely", "aware", "of", "how", "much", "of", "my", "life", "in", "the", "suburbs", "spins", "aroun...

[ "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "I", "’ve", "been", "an", "avid", "consumer", "of", "new", "technology", "and", "I", "keep", "running", "out", "of", "space", "on", "powerboards", "-", "well", "...", "38.3", "%", "Adv", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "of", "Text", "PureI", "know", "the", "wonderful", "general", "sense", "to", "knows", "that", "oils", "can", "not", "last", "endless", "and", "I", "am", "acutely", "know", "of", "how", "majority", "of", "my", "lived", "in", "the", "city", "spins", "aroun...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "I", "’ve", "been", "an", "amateur", "consumers", "of", "newly", "technologies", "and", "I", "kept", "working", "out", "of", "spaces", "on", "powerboards", "!" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "well", "...", "80.1", "%", "Purified", "TextsWell", "I", "know", "the", "wonderful", "general", "sense", "notion", "to", "knows", "that", "oils", "production", "can", "not", "last", "for", "endless", "years", "and", "I", "am", "acutely", "know", "of", "ho...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "I", "’ve", "been", "an", "amateur", "consumers", "of", "new", "technologies", "and", "I", "kept", "working", "out", "of", "spaces", "on", "power", "skateboards", "!" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "well", "...", "80.4", "%", "I", "know", "the", "wonderful", "common", "sense", "notion", "to", "knows", "that", "oils", "can", "not", "last", "forever", "and", "I", "also", "acutely", "know", "of", "how", "majority", "of", "my", "lived", "in", "the", ...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "I", "’ve", "been", "an", "amateur", "consumers", "of", "newly", "technologies", "and", "I", "kept", "working", "out", "of", "them", "on", "skateboards", "!" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "well", "...", "81.4", "%", "I", "know", "the", "wonderfully", "general", "sense", "notion", "to", "knows", "that", "oils", "can", "not", "last", "endless", "and", "I", "am", "acutely", "know", "of", "how", "majority", "part", "of", "my", "lived", "in", ...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "I", "should", "have", "been", "an", "amateur", "consumers", "fan", "of", "newly", "technologies", "and", "I", "kept", "on", "working", "out", "of", "spaces", "and", "on", "powerboards", "!" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "well", "...", "76.2", "%", "I", "am", "the", "the", "general", "sense", "notion", "and", "knows", "that", "oils", "can", "not", "last", "endless", "and", "I", "am", "acutely", "know", "of", "the", "part", "of", "my", "lived", "as", "the", "city", "s...

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]