Update app.py

app.py

@@ -268,6 +268,9 @@ class AuthTokenManager:
 
         if normalized_model not in self.token_model_map or not self.token_model_map[normalized_model]:
             return None
+        # 将第一个token移出 第二个作为作为当前token 第一个token放入self.token_model_map[normalized_model]末尾 实现token轮询
+        first_token_entry = self.token_model_map[normalized_model].pop(0)
+        self.token_model_map[normalized_model].append(first_token_entry)            
 
         token_entry = self.token_model_map[normalized_model][0]
         if is_return: