Update modeling_perceive_sampler.py

modeling_perceive_sampler.py

@@ -938,6 +938,8 @@ class BertLMHeadModel(BertPreTrainedModel):
         r"position_ids", r"predictions.decoder.bias"
     ]
 
+    _no_split_modules = ["InternLMDecoderLayer"]
+
     def __init__(self, config):
         super().__init__(config)