padding_side="left"

tokenizer_config.json

@@ -532,6 +532,7 @@
   "errors": "replace",
   "model_max_length": 4096,
   "pad_token": "<|pad|>",
+  "padding_side": "left",
   "tokenizer_class": "GPT2Tokenizer",
   "unk_token": "<|unk|>"
 }